[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.66 - (view) (download)

1 : edgomez 1.40 /*****************************************************************************
2 : edgomez 1.29 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 1.40 ****************************************************************************/
30 : edgomez 1.29
31 : edgomez 1.40 /*****************************************************************************
32 : edgomez 1.29 *
33 :     * History
34 :     *
35 : chenm001 1.54 * 10.07.2002 added BFRAMES_DEC_DEBUG support
36 :     * MinChen <chenm001@163.com>
37 :     * 20.06.2002 bframe patch
38 : chenm001 1.36 * 08.05.2002 fix some problem in DEBUG mode;
39 :     * MinChen <chenm001@163.com>
40 : edgomez 1.29 * 14.04.2002 added FrameCodeB()
41 :     *
42 : chl 1.66 * $Id: encoder.c,v 1.65 2002/07/28 13:06:45 chl Exp $
43 : edgomez 1.29 *
44 : edgomez 1.40 ****************************************************************************/
45 : suxen_drol 1.24
46 : chl 1.64
47 : Isibaar 1.1 #include <stdlib.h>
48 :     #include <stdio.h>
49 :     #include <math.h>
50 : edgomez 1.42 #include <string.h>
51 : Isibaar 1.1
52 :     #include "encoder.h"
53 :     #include "prediction/mbprediction.h"
54 :     #include "global.h"
55 :     #include "utils/timer.h"
56 :     #include "image/image.h"
57 : suxen_drol 1.48 #ifdef BFRAMES
58 :     #include "image/font.h"
59 : chl 1.65 #include "motion/sad.h"
60 : suxen_drol 1.48 #endif
61 : suxen_drol 1.32 #include "motion/motion.h"
62 : Isibaar 1.1 #include "bitstream/cbp.h"
63 :     #include "utils/mbfunctions.h"
64 :     #include "bitstream/bitstream.h"
65 :     #include "bitstream/mbcoding.h"
66 :     #include "utils/ratecontrol.h"
67 :     #include "utils/emms.h"
68 :     #include "bitstream/mbcoding.h"
69 :     #include "quant/adapt_quant.h"
70 : Isibaar 1.2 #include "quant/quant_matrix.h"
71 : Isibaar 1.7 #include "utils/mem_align.h"
72 : Isibaar 1.1
73 : chl 1.52 #ifdef _SMP
74 :     #include "motion/smp_motion_est.h"
75 :     #endif
76 : edgomez 1.40 /*****************************************************************************
77 :     * Local macros
78 :     ****************************************************************************/
79 :    
80 : Isibaar 1.1 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
81 : suxen_drol 1.27 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
82 : Isibaar 1.1
83 : edgomez 1.40 /*****************************************************************************
84 :     * Local function prototypes
85 :     ****************************************************************************/
86 :    
87 : edgomez 1.39 static int FrameCodeI(Encoder * pEnc,
88 : edgomez 1.41 Bitstream * bs,
89 :     uint32_t * pBits);
90 : edgomez 1.39
91 :     static int FrameCodeP(Encoder * pEnc,
92 : edgomez 1.41 Bitstream * bs,
93 :     uint32_t * pBits,
94 :     bool force_inter,
95 :     bool vol_header);
96 : Isibaar 1.1
97 : edgomez 1.39 #ifdef BFRAMES
98 :     static void FrameCodeB(Encoder * pEnc,
99 : edgomez 1.41 FRAMEINFO * frame,
100 :     Bitstream * bs,
101 :     uint32_t * pBits);
102 : edgomez 1.39 #endif
103 : Isibaar 1.1
104 : edgomez 1.40 /*****************************************************************************
105 :     * Local data
106 :     ****************************************************************************/
107 :    
108 : edgomez 1.41 static int DQtab[4] = {
109 : Isibaar 1.1 -1, -2, 1, 2
110 :     };
111 :    
112 : edgomez 1.41 static int iDQtab[5] = {
113 : Isibaar 1.1 1, 0, NO_CHANGE, 2, 3
114 :     };
115 :    
116 :    
117 : edgomez 1.41 static void __inline
118 :     image_null(IMAGE * image)
119 : suxen_drol 1.27 {
120 :     image->y = image->u = image->v = NULL;
121 :     }
122 :    
123 :    
124 : edgomez 1.40 /*****************************************************************************
125 :     * Encoder creation
126 :     *
127 :     * This function creates an Encoder instance, it allocates all necessary
128 :     * image buffers (reference, current and bframes) and initialize the internal
129 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
130 :     *
131 :     * The code seems to be very long but is very basic, mainly memory allocation
132 :     * and cleaning code.
133 :     *
134 :     * Returned values :
135 :     * - XVID_ERR_OK - no errors
136 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
137 :     * cleans the structure before exiting.
138 :     * pParam->handle is also set to NULL.
139 :     *
140 :     ****************************************************************************/
141 :    
142 :     int
143 :     encoder_create(XVID_ENC_PARAM * pParam)
144 : Isibaar 1.1 {
145 : edgomez 1.3 Encoder *pEnc;
146 : suxen_drol 1.44 int i;
147 : Isibaar 1.1
148 : edgomez 1.3 pParam->handle = NULL;
149 : Isibaar 1.1
150 : edgomez 1.3 ENC_CHECK(pParam);
151 : Isibaar 1.1
152 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
153 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
154 :     ENC_CHECK(!(pParam->width % 2));
155 :     ENC_CHECK(!(pParam->height % 2));
156 : Isibaar 1.1
157 : edgomez 1.39 /* Fps */
158 :    
159 : edgomez 1.41 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
160 : Isibaar 1.1 pParam->fincr = 1;
161 :     pParam->fbase = 25;
162 :     }
163 :    
164 : edgomez 1.39 /*
165 :     * Simplify the "fincr/fbase" fraction
166 :     * (neccessary, since windows supplies us with huge numbers)
167 :     */
168 : Isibaar 1.1
169 :     i = pParam->fincr;
170 : edgomez 1.41 while (i > 1) {
171 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
172 : Isibaar 1.1 pParam->fincr /= i;
173 :     pParam->fbase /= i;
174 :     i = pParam->fincr;
175 :     continue;
176 :     }
177 :     i--;
178 :     }
179 :    
180 : edgomez 1.41 if (pParam->fbase > 65535) {
181 :     float div = (float) pParam->fbase / 65535;
182 :    
183 :     pParam->fbase = (int) (pParam->fbase / div);
184 :     pParam->fincr = (int) (pParam->fincr / div);
185 : Isibaar 1.1 }
186 :    
187 : edgomez 1.39 /* Bitrate allocator defaults */
188 :    
189 : h 1.25 if (pParam->rc_bitrate <= 0)
190 :     pParam->rc_bitrate = 900000;
191 : Isibaar 1.1
192 : h 1.25 if (pParam->rc_reaction_delay_factor <= 0)
193 :     pParam->rc_reaction_delay_factor = 16;
194 :    
195 :     if (pParam->rc_averaging_period <= 0)
196 :     pParam->rc_averaging_period = 100;
197 :    
198 :     if (pParam->rc_buffer <= 0)
199 :     pParam->rc_buffer = 100;
200 : Isibaar 1.1
201 : edgomez 1.39 /* Max and min quantizers */
202 :    
203 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
204 : Isibaar 1.1 pParam->min_quantizer = 1;
205 :    
206 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
207 : Isibaar 1.1 pParam->max_quantizer = 31;
208 :    
209 : edgomez 1.39 if (pParam->max_quantizer < pParam->min_quantizer)
210 :     pParam->max_quantizer = pParam->min_quantizer;
211 :    
212 : edgomez 1.41 /* 1 keyframe each 10 seconds */
213 : edgomez 1.39
214 : edgomez 1.61 if (pParam->max_key_interval <= 0)
215 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
216 : edgomez 1.41
217 : edgomez 1.39 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
218 :     if (pEnc == NULL)
219 : Isibaar 1.1 return XVID_ERR_MEMORY;
220 :    
221 : edgomez 1.42 /* Zero the Encoder Structure */
222 :    
223 :     memset(pEnc, 0, sizeof(Encoder));
224 :    
225 : Isibaar 1.1 /* Fill members of Encoder structure */
226 :    
227 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
228 :     pEnc->mbParam.height = pParam->height;
229 : Isibaar 1.1
230 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
231 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
232 :    
233 : edgomez 1.41 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
234 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
235 : Isibaar 1.1
236 : suxen_drol 1.32 pEnc->mbParam.fbase = pParam->fbase;
237 :     pEnc->mbParam.fincr = pParam->fincr;
238 : Isibaar 1.43
239 :     pEnc->mbParam.m_quant_type = H263_QUANT;
240 : suxen_drol 1.32
241 : suxen_drol 1.55 #ifdef _SMP
242 :     pEnc->mbParam.num_threads = MIN(pParam->num_threads, MAXNUMTHREADS);
243 :     #endif
244 :    
245 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = -1;
246 : Isibaar 1.1
247 :     /* Fill rate control parameters */
248 :    
249 : h 1.25 pEnc->bitrate = pParam->rc_bitrate;
250 : Isibaar 1.1
251 : edgomez 1.3 pEnc->iFrameNum = 0;
252 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
253 : Isibaar 1.1
254 : suxen_drol 1.27 /* try to allocate frame memory */
255 : h 1.16
256 : edgomez 1.39 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
257 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
258 :    
259 : edgomez 1.41 if (pEnc->current == NULL || pEnc->reference == NULL)
260 : edgomez 1.39 goto xvid_err_memory1;
261 : suxen_drol 1.27
262 :     /* try to allocate mb memory */
263 : h 1.16
264 : edgomez 1.41 pEnc->current->mbs =
265 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
266 :     pEnc->mbParam.mb_height, CACHE_LINE);
267 :     pEnc->reference->mbs =
268 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
269 :     pEnc->mbParam.mb_height, CACHE_LINE);
270 : Isibaar 1.1
271 : edgomez 1.39 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
272 :     goto xvid_err_memory2;
273 : suxen_drol 1.27
274 :     /* try to allocate image memory */
275 :    
276 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
277 : suxen_drol 1.27 image_null(&pEnc->sOriginal);
278 :     #endif
279 : suxen_drol 1.32 #ifdef BFRAMES
280 :     image_null(&pEnc->f_refh);
281 :     image_null(&pEnc->f_refv);
282 :     image_null(&pEnc->f_refhv);
283 :     #endif
284 : suxen_drol 1.27 image_null(&pEnc->current->image);
285 :     image_null(&pEnc->reference->image);
286 :     image_null(&pEnc->vInterH);
287 :     image_null(&pEnc->vInterV);
288 :     image_null(&pEnc->vInterVf);
289 :     image_null(&pEnc->vInterHV);
290 :     image_null(&pEnc->vInterHVf);
291 : edgomez 1.39
292 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
293 : edgomez 1.41 if (image_create
294 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
295 :     pEnc->mbParam.edged_height) < 0)
296 : edgomez 1.39 goto xvid_err_memory3;
297 : suxen_drol 1.27 #endif
298 : suxen_drol 1.32 #ifdef BFRAMES
299 : edgomez 1.41 if (image_create
300 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
301 :     pEnc->mbParam.edged_height) < 0)
302 : edgomez 1.39 goto xvid_err_memory3;
303 : edgomez 1.41 if (image_create
304 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
305 :     pEnc->mbParam.edged_height) < 0)
306 : edgomez 1.39 goto xvid_err_memory3;
307 : edgomez 1.41 if (image_create
308 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
309 :     pEnc->mbParam.edged_height) < 0)
310 : edgomez 1.39 goto xvid_err_memory3;
311 :     #endif
312 : edgomez 1.41 if (image_create
313 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
314 :     pEnc->mbParam.edged_height) < 0)
315 : edgomez 1.39 goto xvid_err_memory3;
316 : edgomez 1.41 if (image_create
317 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
318 :     pEnc->mbParam.edged_height) < 0)
319 : edgomez 1.39 goto xvid_err_memory3;
320 : edgomez 1.41 if (image_create
321 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
322 :     pEnc->mbParam.edged_height) < 0)
323 : edgomez 1.39 goto xvid_err_memory3;
324 : edgomez 1.41 if (image_create
325 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
326 :     pEnc->mbParam.edged_height) < 0)
327 : edgomez 1.39 goto xvid_err_memory3;
328 : edgomez 1.41 if (image_create
329 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
330 :     pEnc->mbParam.edged_height) < 0)
331 : edgomez 1.39 goto xvid_err_memory3;
332 : edgomez 1.41 if (image_create
333 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
334 :     pEnc->mbParam.edged_height) < 0)
335 : edgomez 1.39 goto xvid_err_memory3;
336 : edgomez 1.41 if (image_create
337 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
338 :     pEnc->mbParam.edged_height) < 0)
339 : edgomez 1.39 goto xvid_err_memory3;
340 :    
341 :    
342 : Isibaar 1.1
343 : edgomez 1.39 /* B Frames specific init */
344 : suxen_drol 1.32 #ifdef BFRAMES
345 : edgomez 1.41
346 : suxen_drol 1.46 pEnc->global = pParam->global;
347 : suxen_drol 1.35 pEnc->mbParam.max_bframes = pParam->max_bframes;
348 : suxen_drol 1.32 pEnc->bquant_ratio = pParam->bquant_ratio;
349 : suxen_drol 1.60 pEnc->frame_drop_ratio = pParam->frame_drop_ratio;
350 : edgomez 1.39 pEnc->bframes = NULL;
351 :    
352 : edgomez 1.41 if (pEnc->mbParam.max_bframes > 0) {
353 : suxen_drol 1.32 int n;
354 :    
355 : edgomez 1.41 pEnc->bframes =
356 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
357 :     CACHE_LINE);
358 : edgomez 1.39
359 :     if (pEnc->bframes == NULL)
360 :     goto xvid_err_memory3;
361 :    
362 : edgomez 1.41 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
363 : edgomez 1.39 pEnc->bframes[n] = NULL;
364 : suxen_drol 1.32
365 : edgomez 1.41
366 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
367 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
368 : edgomez 1.39
369 :     if (pEnc->bframes[n] == NULL)
370 :     goto xvid_err_memory4;
371 :    
372 : edgomez 1.41 pEnc->bframes[n]->mbs =
373 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
374 :     pEnc->mbParam.mb_height, CACHE_LINE);
375 : edgomez 1.39
376 :     if (pEnc->bframes[n]->mbs == NULL)
377 :     goto xvid_err_memory4;
378 :    
379 :     image_null(&pEnc->bframes[n]->image);
380 :    
381 : edgomez 1.41 if (image_create
382 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
383 :     pEnc->mbParam.edged_height) < 0)
384 : edgomez 1.39 goto xvid_err_memory4;
385 : suxen_drol 1.32
386 :     }
387 :     }
388 : edgomez 1.39
389 : suxen_drol 1.32 pEnc->bframenum_head = 0;
390 :     pEnc->bframenum_tail = 0;
391 :     pEnc->flush_bframes = 0;
392 : suxen_drol 1.48 pEnc->bframenum_dx50bvop = -1;
393 : suxen_drol 1.32
394 : suxen_drol 1.44 pEnc->queue = NULL;
395 :    
396 :    
397 :     if (pEnc->mbParam.max_bframes > 0) {
398 :     int n;
399 :    
400 :     pEnc->queue =
401 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
402 :     CACHE_LINE);
403 :    
404 :     if (pEnc->queue == NULL)
405 :     goto xvid_err_memory4;
406 :    
407 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++)
408 :     image_null(&pEnc->queue[n]);
409 :    
410 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
411 :     if (image_create
412 :     (&pEnc->queue[n], pEnc->mbParam.edged_width,
413 :     pEnc->mbParam.edged_height) < 0)
414 :     goto xvid_err_memory5;
415 :    
416 :     }
417 :     }
418 :    
419 :     pEnc->queue_head = 0;
420 :     pEnc->queue_tail = 0;
421 :     pEnc->queue_size = 0;
422 :    
423 :    
424 : suxen_drol 1.32 pEnc->mbParam.m_seconds = 0;
425 :     pEnc->mbParam.m_ticks = 0;
426 : suxen_drol 1.46 pEnc->m_framenum = 0;
427 : chl 1.66 pEnc->last_pframe = 0;
428 : suxen_drol 1.32 #endif
429 :    
430 : edgomez 1.41 pParam->handle = (void *) pEnc;
431 : Isibaar 1.1
432 : edgomez 1.41 if (pParam->rc_bitrate) {
433 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
434 :     pParam->rc_reaction_delay_factor,
435 :     pParam->rc_averaging_period, pParam->rc_buffer,
436 :     pParam->fbase * 1000 / pParam->fincr,
437 :     pParam->max_quantizer, pParam->min_quantizer);
438 : Isibaar 1.1 }
439 :    
440 : Isibaar 1.6 init_timer();
441 : Isibaar 1.1
442 :     return XVID_ERR_OK;
443 : edgomez 1.39
444 :     /*
445 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
446 :     */
447 :     #ifdef BFRAMES
448 : suxen_drol 1.44 xvid_err_memory5:
449 :    
450 :    
451 :     if (pEnc->mbParam.max_bframes > 0) {
452 :    
453 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
454 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
455 :     pEnc->mbParam.edged_height);
456 :     }
457 :     xvid_free(pEnc->queue);
458 :     }
459 :    
460 : edgomez 1.41 xvid_err_memory4:
461 : edgomez 1.39
462 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
463 :    
464 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
465 : edgomez 1.39
466 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
467 :     continue;
468 : edgomez 1.39
469 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
470 :     pEnc->mbParam.edged_height);
471 :    
472 :     xvid_free(pEnc->bframes[i]->mbs);
473 :    
474 :     xvid_free(pEnc->bframes[i]);
475 : edgomez 1.39
476 : suxen_drol 1.44 }
477 : edgomez 1.39
478 : suxen_drol 1.44 xvid_free(pEnc->bframes);
479 : edgomez 1.39 }
480 :    
481 :     #endif
482 :    
483 : edgomez 1.41 xvid_err_memory3:
484 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
485 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
486 :     pEnc->mbParam.edged_height);
487 : edgomez 1.39 #endif
488 :    
489 :     #ifdef BFRAMES
490 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
491 :     pEnc->mbParam.edged_height);
492 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
493 :     pEnc->mbParam.edged_height);
494 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
495 :     pEnc->mbParam.edged_height);
496 : edgomez 1.39 #endif
497 :    
498 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
499 :     pEnc->mbParam.edged_height);
500 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
501 :     pEnc->mbParam.edged_height);
502 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
503 :     pEnc->mbParam.edged_height);
504 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
505 :     pEnc->mbParam.edged_height);
506 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
507 :     pEnc->mbParam.edged_height);
508 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
509 :     pEnc->mbParam.edged_height);
510 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
511 :     pEnc->mbParam.edged_height);
512 : edgomez 1.39
513 : edgomez 1.41 xvid_err_memory2:
514 : edgomez 1.39 xvid_free(pEnc->current->mbs);
515 :     xvid_free(pEnc->reference->mbs);
516 :    
517 : edgomez 1.41 xvid_err_memory1:
518 : edgomez 1.39 xvid_free(pEnc->current);
519 :     xvid_free(pEnc->reference);
520 :     xvid_free(pEnc);
521 :    
522 : edgomez 1.40 pParam->handle = NULL;
523 :    
524 : edgomez 1.39 return XVID_ERR_MEMORY;
525 : Isibaar 1.1 }
526 :    
527 : edgomez 1.40 /*****************************************************************************
528 :     * Encoder destruction
529 :     *
530 :     * This function destroy the entire encoder structure created by a previous
531 :     * successful encoder_create call.
532 :     *
533 :     * Returned values (for now only one returned value) :
534 :     * - XVID_ERR_OK - no errors
535 :     *
536 :     ****************************************************************************/
537 :    
538 :     int
539 :     encoder_destroy(Encoder * pEnc)
540 : Isibaar 1.1 {
541 : suxen_drol 1.44 #ifdef BFRAMES
542 :     int i;
543 :     #endif
544 :    
545 : edgomez 1.3 ENC_CHECK(pEnc);
546 : Isibaar 1.1
547 : edgomez 1.39 /* B Frames specific */
548 : suxen_drol 1.32 #ifdef BFRAMES
549 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
550 :    
551 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
552 :    
553 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
554 :     pEnc->mbParam.edged_height);
555 :     }
556 :     xvid_free(pEnc->queue);
557 :     }
558 :    
559 :    
560 :     if (pEnc->mbParam.max_bframes > 0) {
561 : edgomez 1.39
562 : suxen_drol 1.44 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
563 : edgomez 1.39
564 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
565 :     continue;
566 : edgomez 1.39
567 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
568 : edgomez 1.41 pEnc->mbParam.edged_height);
569 : edgomez 1.39
570 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]->mbs);
571 : edgomez 1.39
572 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]);
573 :     }
574 : edgomez 1.39
575 : suxen_drol 1.44 xvid_free(pEnc->bframes);
576 :    
577 : suxen_drol 1.32 }
578 : edgomez 1.34 #endif
579 : suxen_drol 1.32
580 : edgomez 1.39 /* All images, reference, current etc ... */
581 :    
582 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
583 :     pEnc->mbParam.edged_height);
584 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
585 :     pEnc->mbParam.edged_height);
586 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
587 :     pEnc->mbParam.edged_height);
588 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
589 :     pEnc->mbParam.edged_height);
590 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
591 :     pEnc->mbParam.edged_height);
592 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
593 :     pEnc->mbParam.edged_height);
594 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
595 :     pEnc->mbParam.edged_height);
596 : suxen_drol 1.32 #ifdef BFRAMES
597 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
598 :     pEnc->mbParam.edged_height);
599 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
600 :     pEnc->mbParam.edged_height);
601 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
602 :     pEnc->mbParam.edged_height);
603 : suxen_drol 1.32 #endif
604 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
605 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
606 :     pEnc->mbParam.edged_height);
607 : Isibaar 1.23 #endif
608 : edgomez 1.39
609 :     /* Encoder structure */
610 : edgomez 1.41
611 : suxen_drol 1.27 xvid_free(pEnc->current->mbs);
612 :     xvid_free(pEnc->current);
613 :    
614 :     xvid_free(pEnc->reference->mbs);
615 :     xvid_free(pEnc->reference);
616 :    
617 : Isibaar 1.7 xvid_free(pEnc);
618 : edgomez 1.39
619 : edgomez 1.3 return XVID_ERR_OK;
620 : Isibaar 1.1 }
621 :    
622 : suxen_drol 1.44
623 :     #ifdef BFRAMES
624 :     void inc_frame_num(Encoder * pEnc)
625 :     {
626 :     pEnc->iFrameNum++;
627 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
628 : suxen_drol 1.46
629 :     pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
630 :     pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
631 : suxen_drol 1.44 }
632 :     #endif
633 :    
634 :    
635 :     #ifdef BFRAMES
636 :     void queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
637 :     {
638 :     if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
639 :     {
640 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"FATAL: QUEUE FULL");
641 : suxen_drol 1.44 return;
642 :     }
643 :    
644 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** QUEUE bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
645 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
646 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
647 :    
648 :    
649 :     start_timer();
650 :     if (image_input
651 :     (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
652 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
653 :     return;
654 :     stop_conv_timer();
655 :    
656 :     pEnc->queue_size++;
657 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
658 :     }
659 :     #endif
660 :    
661 :    
662 :     #ifdef BFRAMES
663 : edgomez 1.40 /*****************************************************************************
664 : suxen_drol 1.44 * IPB frame encoder entry point
665 : edgomez 1.40 *
666 :     * Returned values :
667 :     * - XVID_ERR_OK - no errors
668 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
669 :     * format
670 :     ****************************************************************************/
671 : suxen_drol 1.32
672 : edgomez 1.40 int
673 : suxen_drol 1.44 encoder_encode_bframes(Encoder * pEnc,
674 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
675 :     XVID_ENC_STATS * pResult)
676 : suxen_drol 1.32 {
677 :     uint16_t x, y;
678 :     Bitstream bs;
679 :     uint32_t bits;
680 :    
681 : suxen_drol 1.44 int input_valid = 1;
682 :    
683 :     #ifdef _DEBUG_PSNR
684 : chenm001 1.36 float psnr;
685 :     char temp[128];
686 :     #endif
687 :    
688 : suxen_drol 1.32 ENC_CHECK(pEnc);
689 :     ENC_CHECK(pFrame);
690 : suxen_drol 1.44 ENC_CHECK(pFrame->image);
691 : suxen_drol 1.32
692 :     start_global_timer();
693 : edgomez 1.41
694 : suxen_drol 1.32 BitstreamInit(&bs, pFrame->bitstream, 0);
695 :    
696 : suxen_drol 1.44 ipvop_loop:
697 :    
698 : edgomez 1.40 /*
699 :     * bframe "flush" code
700 :     */
701 : suxen_drol 1.32
702 : edgomez 1.41 if ((pFrame->image == NULL || pEnc->flush_bframes)
703 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
704 :    
705 :     if (pEnc->flush_bframes == 0) {
706 : edgomez 1.40 /*
707 :     * we have reached the end of stream without getting
708 :     * a future reference frame... so encode last final
709 :     * frame as a pframe
710 :     */
711 :    
712 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (final frame) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
713 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
714 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
715 :    
716 : suxen_drol 1.32 pEnc->bframenum_tail--;
717 :     SWAP(pEnc->current, pEnc->reference);
718 :    
719 : edgomez 1.41 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
720 : suxen_drol 1.32
721 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
722 :    
723 :     BitstreamPad(&bs);
724 :     pFrame->length = BitstreamLength(&bs);
725 :     pFrame->intra = 0;
726 : edgomez 1.40
727 : suxen_drol 1.32 return XVID_ERR_OK;
728 :     }
729 :    
730 : suxen_drol 1.44
731 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
732 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
733 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
734 :    
735 : edgomez 1.41 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
736 : suxen_drol 1.32 pEnc->bframenum_head++;
737 :    
738 :     BitstreamPad(&bs);
739 :     pFrame->length = BitstreamLength(&bs);
740 :     pFrame->intra = 0;
741 : edgomez 1.40
742 : suxen_drol 1.44 if (input_valid)
743 :     queue_image(pEnc, pFrame);
744 :    
745 : suxen_drol 1.32 return XVID_ERR_OK;
746 :     }
747 :    
748 : suxen_drol 1.44 if (pEnc->bframenum_head > 0) {
749 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
750 :    
751 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
752 : suxen_drol 1.44
753 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
754 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
755 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
756 :    
757 :     BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
758 :     BitstreamPad(&bs);
759 :     BitstreamPutBits(&bs, 0x7f, 8);
760 :    
761 :     pFrame->length = BitstreamLength(&bs);
762 :     pFrame->intra = 0;
763 :    
764 :     if (input_valid)
765 :     queue_image(pEnc, pFrame);
766 :    
767 :     return XVID_ERR_OK;
768 :     }
769 :     }
770 :    
771 :    
772 :     bvop_loop:
773 :    
774 : suxen_drol 1.48 if (pEnc->bframenum_dx50bvop != -1)
775 :     {
776 :    
777 :     SWAP(pEnc->current, pEnc->reference);
778 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
779 :    
780 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
781 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");
782 :     }
783 :    
784 :     if (input_valid)
785 :     {
786 :     queue_image(pEnc, pFrame);
787 :     input_valid = 0;
788 :     }
789 :    
790 :     } else if (input_valid) {
791 : suxen_drol 1.44
792 :     SWAP(pEnc->current, pEnc->reference);
793 :    
794 :     start_timer();
795 :     if (image_input
796 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
797 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
798 :     return XVID_ERR_FORMAT;
799 :     stop_conv_timer();
800 :    
801 :     // queue input frame, and dequue next image
802 :     if (pEnc->queue_size > 0)
803 :     {
804 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
805 :     if (pEnc->queue_head != pEnc->queue_tail)
806 :     {
807 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
808 :     }
809 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
810 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
811 :     }
812 :    
813 :     } else if (pEnc->queue_size > 0) {
814 :    
815 :     SWAP(pEnc->current, pEnc->reference);
816 :    
817 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
818 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
819 :     pEnc->queue_size--;
820 :    
821 :     } else if (BitstreamPos(&bs) == 0) {
822 :    
823 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** SKIP bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
824 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
825 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
826 :    
827 : suxen_drol 1.32 pFrame->intra = 0;
828 : edgomez 1.40
829 : suxen_drol 1.44 BitstreamPutBits(&bs, 0x7f, 8);
830 :     BitstreamPad(&bs);
831 :     pFrame->length = BitstreamLength(&bs);
832 :    
833 : suxen_drol 1.32 return XVID_ERR_OK;
834 :    
835 : suxen_drol 1.44 } else {
836 :    
837 :     pFrame->length = BitstreamLength(&bs);
838 :     return XVID_ERR_OK;
839 : suxen_drol 1.32 }
840 :    
841 :     pEnc->flush_bframes = 0;
842 :    
843 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
844 :     * Well there was a separation here so i put it in ANSI C
845 :     * comment style :-)
846 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
847 : suxen_drol 1.32
848 : suxen_drol 1.48 emms();
849 :    
850 :     // only inc frame num, adapt quant, etc. if we havent seen it before
851 :     if (pEnc->bframenum_dx50bvop < 0 )
852 :     {
853 :     if (pFrame->quant == 0)
854 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
855 :     else
856 :     pEnc->current->quant = pFrame->quant;
857 :    
858 : chl 1.62 /* if (pEnc->current->quant < 1)
859 : suxen_drol 1.48 pEnc->current->quant = 1;
860 :    
861 :     if (pEnc->current->quant > 31)
862 :     pEnc->current->quant = 31;
863 : chl 1.62 */
864 : suxen_drol 1.48 pEnc->current->global_flags = pFrame->general;
865 :     pEnc->current->motion_flags = pFrame->motion;
866 :    
867 :     /* ToDo : dynamic fcode (in both directions) */
868 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
869 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
870 : suxen_drol 1.32
871 : suxen_drol 1.48 pEnc->current->seconds = pEnc->mbParam.m_seconds;
872 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
873 : edgomez 1.40
874 : suxen_drol 1.48 inc_frame_num(pEnc);
875 : suxen_drol 1.32
876 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
877 : suxen_drol 1.48 image_copy(&pEnc->sOriginal, &pEnc->current->image,
878 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.height);
879 : suxen_drol 1.32 #endif
880 :    
881 : suxen_drol 1.48 emms();
882 : suxen_drol 1.46
883 : suxen_drol 1.48 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
884 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
885 :     "%i if:%i st:%i:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->seconds, pEnc->current->ticks);
886 :     }
887 : suxen_drol 1.46
888 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
889 :     * Luminance masking
890 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
891 : suxen_drol 1.32
892 : suxen_drol 1.48 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
893 :     int *temp_dquants =
894 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
895 : edgomez 1.41 pEnc->mbParam.mb_height * sizeof(int),
896 :     CACHE_LINE);
897 :    
898 : suxen_drol 1.48 pEnc->current->quant =
899 :     adaptive_quantization(pEnc->current->image.y,
900 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
901 :     pEnc->current->quant, pEnc->current->quant,
902 :     2 * pEnc->current->quant,
903 :     pEnc->mbParam.mb_width,
904 :     pEnc->mbParam.mb_height);
905 :    
906 : suxen_drol 1.48 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
907 : edgomez 1.40
908 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
909 : edgomez 1.40
910 : suxen_drol 1.48 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
911 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
912 : edgomez 1.41
913 : suxen_drol 1.48 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
914 :     }
915 : edgomez 1.40
916 : edgomez 1.41 #undef OFFSET
917 : suxen_drol 1.48 }
918 : edgomez 1.40
919 : suxen_drol 1.48 xvid_free(temp_dquants);
920 : edgomez 1.40 }
921 :    
922 : suxen_drol 1.32 }
923 :    
924 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
925 :     * ivop/pvop/bvop selection
926 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
927 : suxen_drol 1.32
928 :    
929 : suxen_drol 1.49 if (pEnc->iFrameNum == 0 || pFrame->intra == 1 || pEnc->bframenum_dx50bvop >= 0 ||
930 : edgomez 1.41 (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
931 :     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
932 :     || image_mad(&pEnc->reference->image, &pEnc->current->image,
933 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
934 :     pEnc->mbParam.height) > 30) {
935 : edgomez 1.40 /*
936 :     * This will be coded as an Intra Frame
937 :     */
938 :    
939 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
940 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
941 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
942 : suxen_drol 1.46
943 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
944 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
945 :     }
946 : suxen_drol 1.32
947 : suxen_drol 1.48 // when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe
948 :    
949 :     if ((pEnc->global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {
950 :    
951 :     pEnc->bframenum_tail--;
952 :     pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;
953 :    
954 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
955 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
956 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
957 :     }
958 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
959 :    
960 :     pFrame->intra = 0;
961 :    
962 :     } else {
963 : suxen_drol 1.49
964 : suxen_drol 1.48 FrameCodeI(pEnc, &bs, &bits);
965 :     pFrame->intra = 1;
966 : suxen_drol 1.49
967 :     pEnc->bframenum_dx50bvop = -1;
968 : suxen_drol 1.48 }
969 : suxen_drol 1.32
970 :     pEnc->flush_bframes = 1;
971 :    
972 : suxen_drol 1.49 if ((pEnc->global & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {
973 : suxen_drol 1.44 BitstreamPad(&bs);
974 :     input_valid = 0;
975 :     goto ipvop_loop;
976 :     }
977 :    
978 : edgomez 1.40 /*
979 :     * NB : sequences like "IIBB" decode fine with msfdam but,
980 :     * go screwy with divx 5.00
981 :     */
982 : edgomez 1.41 } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
983 : edgomez 1.40 /*
984 :     * This will be coded as a Predicted Frame
985 :     */
986 :    
987 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
988 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
989 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
990 : suxen_drol 1.46
991 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
992 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
993 :     }
994 : suxen_drol 1.32
995 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
996 :     pFrame->intra = 0;
997 :     pEnc->flush_bframes = 1;
998 : suxen_drol 1.44
999 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
1000 : suxen_drol 1.44 BitstreamPad(&bs);
1001 :     input_valid = 0;
1002 :     goto ipvop_loop;
1003 :     }
1004 :    
1005 : edgomez 1.41 } else {
1006 : edgomez 1.40 /*
1007 :     * This will be coded as a Bidirectional Frame
1008 :     */
1009 :    
1010 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
1011 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1012 :     }
1013 :    
1014 : edgomez 1.41 if (pFrame->bquant < 1) {
1015 : edgomez 1.40 pEnc->current->quant =
1016 : edgomez 1.41 ((pEnc->reference->quant +
1017 :     pEnc->current->quant) * pEnc->bquant_ratio) / 200;
1018 :     } else {
1019 : suxen_drol 1.32 pEnc->current->quant = pFrame->bquant;
1020 :     }
1021 : chl 1.63 if (pEnc->current->quant < 1)
1022 : chl 1.62 pEnc->current->quant = 1;
1023 :    
1024 :     if (pEnc->current->quant > 31)
1025 :     pEnc->current->quant = 31;
1026 :    
1027 : chl 1.63
1028 : chl 1.62 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i queue: head=%i tail=%i size=%i quant=%i\n",
1029 :     pEnc->bframenum_head, pEnc->bframenum_tail,
1030 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);
1031 :    
1032 :    
1033 : edgomez 1.41
1034 : edgomez 1.40 /* store frame into bframe buffer & swap ref back to current */
1035 : suxen_drol 1.32 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1036 :     SWAP(pEnc->current, pEnc->reference);
1037 :    
1038 :     pEnc->bframenum_tail++;
1039 :    
1040 :     pFrame->intra = 0;
1041 :     pFrame->length = 0;
1042 : edgomez 1.40
1043 : suxen_drol 1.44 input_valid = 0;
1044 :     goto bvop_loop;
1045 : suxen_drol 1.32 }
1046 :    
1047 :     BitstreamPad(&bs);
1048 :     pFrame->length = BitstreamLength(&bs);
1049 :    
1050 : edgomez 1.41 if (pResult) {
1051 : suxen_drol 1.32 pResult->quant = pEnc->current->quant;
1052 : edgomez 1.41 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1053 : suxen_drol 1.32 pResult->kblks = pEnc->sStat.kblks;
1054 :     pResult->mblks = pEnc->sStat.mblks;
1055 :     pResult->ublks = pEnc->sStat.ublks;
1056 :     }
1057 :    
1058 : edgomez 1.42 emms();
1059 : edgomez 1.40
1060 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1061 : edgomez 1.41 psnr =
1062 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1063 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1064 :     pEnc->mbParam.height);
1065 : suxen_drol 1.32
1066 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
1067 : suxen_drol 1.32 DEBUG(temp);
1068 :     #endif
1069 :    
1070 : edgomez 1.41 if (pFrame->quant == 0) {
1071 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1072 :     pFrame->length, pFrame->intra);
1073 : suxen_drol 1.32 }
1074 :    
1075 : edgomez 1.41
1076 : suxen_drol 1.32 stop_global_timer();
1077 :     write_timer();
1078 :    
1079 :     return XVID_ERR_OK;
1080 :     }
1081 : suxen_drol 1.44
1082 :     #endif
1083 :    
1084 :    
1085 :    
1086 : edgomez 1.40 /*****************************************************************************
1087 : suxen_drol 1.44 * "original" IP frame encoder entry point
1088 :     *
1089 :     * Returned values :
1090 :     * - XVID_ERR_OK - no errors
1091 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1092 :     * format
1093 : edgomez 1.40 ****************************************************************************/
1094 : suxen_drol 1.44
1095 : edgomez 1.40 int
1096 :     encoder_encode(Encoder * pEnc,
1097 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
1098 :     XVID_ENC_STATS * pResult)
1099 : Isibaar 1.1 {
1100 : edgomez 1.3 uint16_t x, y;
1101 :     Bitstream bs;
1102 :     uint32_t bits;
1103 : Isibaar 1.2 uint16_t write_vol_header = 0;
1104 : edgomez 1.41
1105 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1106 : Isibaar 1.23 float psnr;
1107 : edgomez 1.40 uint8_t temp[128];
1108 : Isibaar 1.23 #endif
1109 : Isibaar 1.1
1110 :     start_global_timer();
1111 :    
1112 : edgomez 1.3 ENC_CHECK(pEnc);
1113 :     ENC_CHECK(pFrame);
1114 :     ENC_CHECK(pFrame->bitstream);
1115 :     ENC_CHECK(pFrame->image);
1116 : Isibaar 1.1
1117 : suxen_drol 1.27 SWAP(pEnc->current, pEnc->reference);
1118 :    
1119 :     pEnc->current->global_flags = pFrame->general;
1120 :     pEnc->current->motion_flags = pFrame->motion;
1121 : suxen_drol 1.44 #ifdef BFRAMES
1122 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
1123 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
1124 :     #endif
1125 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
1126 : Isibaar 1.1
1127 :     start_timer();
1128 : edgomez 1.41 if (image_input
1129 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1130 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
1131 : Isibaar 1.1 return XVID_ERR_FORMAT;
1132 :     stop_conv_timer();
1133 :    
1134 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1135 : edgomez 1.41 image_copy(&pEnc->sOriginal, &pEnc->current->image,
1136 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1137 : Isibaar 1.23 #endif
1138 :    
1139 : edgomez 1.42 emms();
1140 : suxen_drol 1.27
1141 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
1142 : Isibaar 1.1
1143 : edgomez 1.41 if (pFrame->quant == 0) {
1144 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1145 :     } else {
1146 : suxen_drol 1.27 pEnc->current->quant = pFrame->quant;
1147 : Isibaar 1.1 }
1148 :    
1149 : edgomez 1.41 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1150 :     int *temp_dquants =
1151 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
1152 :     pEnc->mbParam.mb_height * sizeof(int),
1153 :     CACHE_LINE);
1154 :    
1155 : edgomez 1.40 pEnc->current->quant =
1156 :     adaptive_quantization(pEnc->current->image.y,
1157 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
1158 :     pEnc->current->quant, pEnc->current->quant,
1159 :     2 * pEnc->current->quant,
1160 :     pEnc->mbParam.mb_width,
1161 :     pEnc->mbParam.mb_height);
1162 :    
1163 :     for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1164 : edgomez 1.40
1165 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1166 :    
1167 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1168 : edgomez 1.40
1169 :    
1170 : edgomez 1.41 MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1171 : edgomez 1.40
1172 : edgomez 1.41 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1173 : Isibaar 1.1 }
1174 : edgomez 1.40
1175 : edgomez 1.41 #undef OFFSET
1176 : edgomez 1.40 }
1177 :    
1178 : Isibaar 1.7 xvid_free(temp_dquants);
1179 : Isibaar 1.1 }
1180 :    
1181 : edgomez 1.41 if (pEnc->current->global_flags & XVID_H263QUANT) {
1182 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
1183 : Isibaar 1.4 write_vol_header = 1;
1184 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = H263_QUANT;
1185 : edgomez 1.41 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1186 : edgomez 1.40 int matrix1_changed, matrix2_changed;
1187 : Isibaar 1.1
1188 : edgomez 1.40 matrix1_changed = matrix2_changed = 0;
1189 : edgomez 1.13
1190 : edgomez 1.41 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1191 : Isibaar 1.4 write_vol_header = 1;
1192 : edgomez 1.41
1193 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1194 : edgomez 1.41
1195 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1196 : edgomez 1.41 if (pFrame->quant_intra_matrix != NULL)
1197 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1198 :     if (pFrame->quant_inter_matrix != NULL)
1199 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1200 :     } else {
1201 : edgomez 1.40 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1202 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1203 : Isibaar 1.4 }
1204 : edgomez 1.41 if (write_vol_header == 0)
1205 : edgomez 1.40 write_vol_header = matrix1_changed | matrix2_changed;
1206 : Isibaar 1.2 }
1207 : Isibaar 1.1
1208 : edgomez 1.41 if (pFrame->intra < 0) {
1209 :     if ((pEnc->iFrameNum == 0)
1210 :     || ((pEnc->iMaxKeyInterval > 0)
1211 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
1212 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1213 :     } else {
1214 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1215 : edgomez 1.40 }
1216 : edgomez 1.41 } else {
1217 :     if (pFrame->intra == 1) {
1218 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1219 :     } else {
1220 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1221 : edgomez 1.40 }
1222 :    
1223 : edgomez 1.3 }
1224 : Isibaar 1.1
1225 :     BitstreamPutBits(&bs, 0xFFFF, 16);
1226 : edgomez 1.3 BitstreamPutBits(&bs, 0xFFFF, 16);
1227 :     BitstreamPad(&bs);
1228 :     pFrame->length = BitstreamLength(&bs);
1229 : h 1.5
1230 : edgomez 1.41 if (pResult) {
1231 : suxen_drol 1.27 pResult->quant = pEnc->current->quant;
1232 : Isibaar 1.1 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1233 :     pResult->kblks = pEnc->sStat.kblks;
1234 :     pResult->mblks = pEnc->sStat.mblks;
1235 :     pResult->ublks = pEnc->sStat.ublks;
1236 : edgomez 1.3 }
1237 : edgomez 1.41
1238 : edgomez 1.42 emms();
1239 : Isibaar 1.7
1240 : edgomez 1.41 if (pFrame->quant == 0) {
1241 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1242 :     pFrame->length, pFrame->intra);
1243 : Isibaar 1.1 }
1244 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1245 : edgomez 1.41 psnr =
1246 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1247 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1248 :     pEnc->mbParam.height);
1249 : Isibaar 1.23
1250 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
1251 : Isibaar 1.23 DEBUG(temp);
1252 :     #endif
1253 : Isibaar 1.1
1254 : suxen_drol 1.44 #ifdef BFRAMES
1255 :     inc_frame_num(pEnc);
1256 :     #else
1257 : Isibaar 1.1 pEnc->iFrameNum++;
1258 : suxen_drol 1.44 #endif
1259 :    
1260 : edgomez 1.41
1261 : Isibaar 1.1 stop_global_timer();
1262 :     write_timer();
1263 :    
1264 :     return XVID_ERR_OK;
1265 :     }
1266 :    
1267 :    
1268 : edgomez 1.41 static __inline void
1269 :     CodeIntraMB(Encoder * pEnc,
1270 :     MACROBLOCK * pMB)
1271 :     {
1272 : Isibaar 1.1
1273 :     pMB->mode = MODE_INTRA;
1274 :    
1275 : suxen_drol 1.27 /* zero mv statistics */
1276 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1277 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1278 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1279 :     pMB->sad16 = 0;
1280 :    
1281 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1282 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
1283 : Isibaar 1.1 pMB->mode = MODE_INTRA_Q;
1284 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
1285 : edgomez 1.41
1286 :     if (pEnc->current->quant > 31)
1287 :     pEnc->current->quant = 31;
1288 :     if (pEnc->current->quant < 1)
1289 :     pEnc->current->quant = 1;
1290 : Isibaar 1.1 }
1291 :     }
1292 :    
1293 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
1294 : Isibaar 1.1 }
1295 :    
1296 :    
1297 : h 1.20 #define FCODEBITS 3
1298 :     #define MODEBITS 5
1299 :    
1300 : edgomez 1.41 void
1301 :     HintedMESet(Encoder * pEnc,
1302 :     int *intra)
1303 : h 1.20 {
1304 : edgomez 1.41 HINTINFO *hint;
1305 : h 1.20 Bitstream bs;
1306 :     int length, high;
1307 :     uint32_t x, y;
1308 :    
1309 :     hint = pEnc->mbParam.hint;
1310 :    
1311 : edgomez 1.41 if (hint->rawhints) {
1312 : h 1.20 *intra = hint->mvhint.intra;
1313 : edgomez 1.41 } else {
1314 : h 1.20 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1315 :     *intra = BitstreamGetBit(&bs);
1316 :     }
1317 :    
1318 : edgomez 1.41 if (*intra) {
1319 : h 1.20 return;
1320 :     }
1321 :    
1322 : edgomez 1.41 pEnc->current->fcode =
1323 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1324 :     FCODEBITS);
1325 :    
1326 :     length = pEnc->current->fcode + 5;
1327 :     high = 1 << (length - 1);
1328 :    
1329 :     for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1330 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1331 :     MACROBLOCK *pMB =
1332 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1333 :     MVBLOCKHINT *bhint =
1334 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1335 : chl 1.53 VECTOR pred;
1336 : h 1.20 VECTOR tmp;
1337 :     int vec;
1338 :    
1339 : edgomez 1.41 pMB->mode =
1340 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1341 :     MODEBITS);
1342 : h 1.20
1343 : h 1.26 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1344 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1345 :    
1346 : edgomez 1.41 if (pMB->mode == MODE_INTER) {
1347 :     tmp.x =
1348 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1349 :     length);
1350 :     tmp.y =
1351 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1352 :     length);
1353 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1354 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1355 :    
1356 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
1357 : edgomez 1.41
1358 :     for (vec = 0; vec < 4; ++vec) {
1359 :     pMB->mvs[vec].x = tmp.x;
1360 :     pMB->mvs[vec].y = tmp.y;
1361 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
1362 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
1363 : h 1.20 }
1364 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1365 :     for (vec = 0; vec < 4; ++vec) {
1366 :     tmp.x =
1367 :     (hint->rawhints) ? bhint->mvs[vec].
1368 :     x : BitstreamGetBits(&bs, length);
1369 :     tmp.y =
1370 :     (hint->rawhints) ? bhint->mvs[vec].
1371 :     y : BitstreamGetBits(&bs, length);
1372 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1373 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1374 : h 1.20
1375 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
1376 : h 1.20
1377 : edgomez 1.41 pMB->mvs[vec].x = tmp.x;
1378 :     pMB->mvs[vec].y = tmp.y;
1379 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
1380 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
1381 : h 1.20 }
1382 : edgomez 1.41 } else // intra / stuffing / not_coded
1383 : h 1.20 {
1384 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1385 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1386 : h 1.26 }
1387 :     }
1388 :    
1389 : suxen_drol 1.27 if (pMB->mode == MODE_INTER4V &&
1390 : edgomez 1.41 (pEnc->current->global_flags & XVID_LUMIMASKING)
1391 :     && pMB->dquant != NO_CHANGE) {
1392 : h 1.26 pMB->mode = MODE_INTRA;
1393 :    
1394 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1395 : h 1.26 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1396 : h 1.20 }
1397 :     }
1398 :     }
1399 :     }
1400 :     }
1401 :    
1402 :    
1403 : edgomez 1.41 void
1404 :     HintedMEGet(Encoder * pEnc,
1405 :     int intra)
1406 : h 1.20 {
1407 : edgomez 1.41 HINTINFO *hint;
1408 : h 1.20 Bitstream bs;
1409 :     uint32_t x, y;
1410 :     int length, high;
1411 :    
1412 :     hint = pEnc->mbParam.hint;
1413 :    
1414 : edgomez 1.41 if (hint->rawhints) {
1415 : h 1.20 hint->mvhint.intra = intra;
1416 : edgomez 1.41 } else {
1417 : h 1.20 BitstreamInit(&bs, hint->hintstream, 0);
1418 :     BitstreamPutBit(&bs, intra);
1419 :     }
1420 :    
1421 : edgomez 1.41 if (intra) {
1422 :     if (!hint->rawhints) {
1423 : h 1.20 BitstreamPad(&bs);
1424 :     hint->hintlength = BitstreamLength(&bs);
1425 :     }
1426 :     return;
1427 :     }
1428 :    
1429 : edgomez 1.41 length = pEnc->current->fcode + 5;
1430 :     high = 1 << (length - 1);
1431 : h 1.20
1432 : edgomez 1.41 if (hint->rawhints) {
1433 : suxen_drol 1.27 hint->mvhint.fcode = pEnc->current->fcode;
1434 : edgomez 1.41 } else {
1435 : suxen_drol 1.27 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1436 : h 1.20 }
1437 :    
1438 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1439 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1440 :     MACROBLOCK *pMB =
1441 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1442 :     MVBLOCKHINT *bhint =
1443 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1444 : h 1.20 VECTOR tmp;
1445 :    
1446 : edgomez 1.41 if (hint->rawhints) {
1447 : h 1.20 bhint->mode = pMB->mode;
1448 : edgomez 1.41 } else {
1449 : h 1.20 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1450 :     }
1451 :    
1452 : edgomez 1.41 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1453 :     tmp.x = pMB->mvs[0].x;
1454 :     tmp.y = pMB->mvs[0].y;
1455 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1456 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1457 : h 1.20
1458 : edgomez 1.41 if (hint->rawhints) {
1459 : h 1.20 bhint->mvs[0].x = tmp.x;
1460 :     bhint->mvs[0].y = tmp.y;
1461 : edgomez 1.41 } else {
1462 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1463 :     BitstreamPutBits(&bs, tmp.y, length);
1464 :     }
1465 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1466 : h 1.20 int vec;
1467 :    
1468 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1469 :     tmp.x = pMB->mvs[vec].x;
1470 :     tmp.y = pMB->mvs[vec].y;
1471 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1472 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1473 : h 1.20
1474 : edgomez 1.41 if (hint->rawhints) {
1475 : h 1.20 bhint->mvs[vec].x = tmp.x;
1476 :     bhint->mvs[vec].y = tmp.y;
1477 : edgomez 1.41 } else {
1478 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1479 :     BitstreamPutBits(&bs, tmp.y, length);
1480 :     }
1481 :     }
1482 :     }
1483 :     }
1484 :     }
1485 :    
1486 : edgomez 1.41 if (!hint->rawhints) {
1487 : h 1.20 BitstreamPad(&bs);
1488 :     hint->hintlength = BitstreamLength(&bs);
1489 :     }
1490 :     }
1491 :    
1492 :    
1493 : edgomez 1.41 static int
1494 :     FrameCodeI(Encoder * pEnc,
1495 :     Bitstream * bs,
1496 :     uint32_t * pBits)
1497 : h 1.21 {
1498 :    
1499 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1500 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1501 : h 1.21
1502 :     uint16_t x, y;
1503 :    
1504 :     pEnc->iFrameNum = 0;
1505 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1;
1506 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1507 :     pEnc->current->coding_type = I_VOP;
1508 : h 1.21
1509 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1510 : suxen_drol 1.44 #ifdef BFRAMES
1511 :     #define DIVX501B481P "DivX501b481p"
1512 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
1513 : suxen_drol 1.44 BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1514 :     }
1515 :     #endif
1516 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1517 : h 1.21
1518 :     *pBits = BitstreamPos(bs);
1519 :    
1520 :     pEnc->sStat.iTextBits = 0;
1521 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1522 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1523 :    
1524 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1525 : edgomez 1.41 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1526 :     MACROBLOCK *pMB =
1527 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1528 : h 1.21
1529 :     CodeIntraMB(pEnc, pMB);
1530 :    
1531 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1532 :     dct_codes, qcoeff);
1533 : h 1.21
1534 :     start_timer();
1535 : suxen_drol 1.27 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1536 : h 1.21 stop_prediction_timer();
1537 :    
1538 :     start_timer();
1539 : suxen_drol 1.27 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1540 : h 1.21 stop_coding_timer();
1541 :     }
1542 :    
1543 :     emms();
1544 :    
1545 :     *pBits = BitstreamPos(bs) - *pBits;
1546 :     pEnc->sStat.fMvPrevSigma = -1;
1547 :     pEnc->sStat.iMvSum = 0;
1548 :     pEnc->sStat.iMvCount = 0;
1549 : suxen_drol 1.27 pEnc->mbParam.m_fcode = 2;
1550 : h 1.21
1551 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1552 : h 1.21 HintedMEGet(pEnc, 1);
1553 :     }
1554 :    
1555 : edgomez 1.41 return 1; // intra
1556 : h 1.21 }
1557 :    
1558 :    
1559 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
1560 : chl 1.65 #define BFRAME_SKIP_THRESHHOLD 16
1561 : Isibaar 1.1
1562 : edgomez 1.41 static int
1563 :     FrameCodeP(Encoder * pEnc,
1564 :     Bitstream * bs,
1565 :     uint32_t * pBits,
1566 :     bool force_inter,
1567 :     bool vol_header)
1568 : Isibaar 1.1 {
1569 : edgomez 1.3 float fSigma;
1570 : edgomez 1.13
1571 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1572 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1573 : Isibaar 1.8
1574 : Isibaar 1.1 int iLimit;
1575 : chl 1.65 int k;
1576 :     int x, y;
1577 : edgomez 1.3 int iSearchRange;
1578 : edgomez 1.29 int bIntra;
1579 : suxen_drol 1.49
1580 : edgomez 1.29 /* IMAGE *pCurrent = &pEnc->current->image; */
1581 : suxen_drol 1.27 IMAGE *pRef = &pEnc->reference->image;
1582 : Isibaar 1.1
1583 : h 1.11 start_timer();
1584 : edgomez 1.41 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1585 :     pEnc->mbParam.width, pEnc->mbParam.height,
1586 :     pEnc->current->global_flags & XVID_INTERLACING);
1587 : h 1.11 stop_edges_timer();
1588 : Isibaar 1.1
1589 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1590 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1591 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1592 : Isibaar 1.1
1593 :     if (!force_inter)
1594 : edgomez 1.41 iLimit =
1595 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1596 :     INTRA_THRESHOLD);
1597 : edgomez 1.3 else
1598 : Isibaar 1.1 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1599 :    
1600 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1601 : Isibaar 1.1 start_timer();
1602 : edgomez 1.41 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1603 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1604 :     pEnc->mbParam.edged_height,
1605 :     pEnc->current->rounding_type);
1606 : Isibaar 1.1 stop_inter_timer();
1607 :     }
1608 :    
1609 :     start_timer();
1610 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1611 : h 1.20 HintedMESet(pEnc, &bIntra);
1612 : edgomez 1.41 } else {
1613 : chl 1.52
1614 :     #ifdef _SMP
1615 : suxen_drol 1.55 if (pEnc->mbParam.num_threads > 1)
1616 :     bIntra =
1617 :     SMP_MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1618 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1619 :     iLimit);
1620 :     else
1621 : chl 1.52 #endif
1622 : suxen_drol 1.55 bIntra =
1623 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1624 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1625 :     iLimit);
1626 :    
1627 : h 1.20 }
1628 : Isibaar 1.1 stop_motion_timer();
1629 :    
1630 : edgomez 1.41 if (bIntra == 1) {
1631 : Isibaar 1.1 return FrameCodeI(pEnc, bs, pBits);
1632 : h 1.20 }
1633 : Isibaar 1.1
1634 : suxen_drol 1.27 pEnc->current->coding_type = P_VOP;
1635 : Isibaar 1.1
1636 : edgomez 1.41 if (vol_header)
1637 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1638 : Isibaar 1.1
1639 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1640 : edgomez 1.3
1641 :     *pBits = BitstreamPos(bs);
1642 :    
1643 :     pEnc->sStat.iTextBits = 0;
1644 :     pEnc->sStat.iMvSum = 0;
1645 :     pEnc->sStat.iMvCount = 0;
1646 : Isibaar 1.1 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1647 :    
1648 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1649 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1650 :     MACROBLOCK *pMB =
1651 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1652 : Isibaar 1.1
1653 : edgomez 1.3 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1654 : Isibaar 1.1
1655 : edgomez 1.41 if (!bIntra) {
1656 : Isibaar 1.1 start_timer();
1657 : edgomez 1.41 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1658 :     &pEnc->vInterH, &pEnc->vInterV,
1659 :     &pEnc->vInterHV, &pEnc->current->image,
1660 :     dct_codes, pEnc->mbParam.width,
1661 :     pEnc->mbParam.height,
1662 :     pEnc->mbParam.edged_width,
1663 :     pEnc->current->rounding_type);
1664 : Isibaar 1.1 stop_comp_timer();
1665 :    
1666 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1667 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
1668 : Isibaar 1.1 pMB->mode = MODE_INTER_Q;
1669 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
1670 : edgomez 1.41 if (pEnc->current->quant > 31)
1671 :     pEnc->current->quant = 31;
1672 :     else if (pEnc->current->quant < 1)
1673 :     pEnc->current->quant = 1;
1674 : Isibaar 1.1 }
1675 :     }
1676 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
1677 : Isibaar 1.1
1678 : h 1.11 pMB->field_pred = 0;
1679 :    
1680 : edgomez 1.41 pMB->cbp =
1681 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1682 :     dct_codes, qcoeff);
1683 :     } else {
1684 : Isibaar 1.1 CodeIntraMB(pEnc, pMB);
1685 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1686 :     dct_codes, qcoeff);
1687 : Isibaar 1.1 }
1688 :    
1689 : edgomez 1.3 start_timer();
1690 : edgomez 1.41 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1691 : Isibaar 1.1 stop_prediction_timer();
1692 :    
1693 : edgomez 1.41 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
1694 : Isibaar 1.1 pEnc->sStat.kblks++;
1695 : edgomez 1.41 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1696 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1697 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1698 : Isibaar 1.1 pEnc->sStat.mblks++;
1699 : chl 1.64 } else {
1700 : Isibaar 1.1 pEnc->sStat.ublks++;
1701 : chl 1.64 }
1702 : Isibaar 1.1
1703 :     start_timer();
1704 : chl 1.65
1705 :     /* Finished processing the MB, now check if to CODE or SKIP */
1706 :    
1707 :     if (pMB->cbp == 0 && pMB->mode == MODE_INTER && pMB->mvs[0].x == 0 &&
1708 :     pMB->mvs[0].y == 0) {
1709 :    
1710 :     /* This is a candidate for SKIPping, but check intermediate B-frames first */
1711 :    
1712 :     #ifdef BFRAMES
1713 :     int iSAD=BFRAME_SKIP_THRESHHOLD;
1714 :     int bSkip=1;
1715 :    
1716 :     for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)
1717 :     {
1718 :     iSAD = sad16(pEnc->reference->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1719 :     pEnc->bframes[k]->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1720 :     pEnc->mbParam.edged_width,BFRAME_SKIP_THRESHHOLD);
1721 :     if (iSAD >= BFRAME_SKIP_THRESHHOLD)
1722 :     { bSkip = 0;
1723 :     break;
1724 :     }
1725 :     }
1726 :     if (!bSkip)
1727 :     {
1728 :     MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1729 :     pMB->cbp = 0x80; /* trick! so cbp!=0, but still nothing is written to bs */
1730 :     }
1731 :     else
1732 :     MBSkip(bs);
1733 :    
1734 :    
1735 :     #else
1736 :     MBSkip(bs); /* without B-frames, no precautions are needed */
1737 :    
1738 :     #endif
1739 :    
1740 :     } else {
1741 :     MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1742 :     }
1743 :    
1744 : Isibaar 1.1 stop_coding_timer();
1745 :     }
1746 :     }
1747 :    
1748 :     emms();
1749 : h 1.20
1750 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1751 : h 1.20 HintedMEGet(pEnc, 0);
1752 :     }
1753 : Isibaar 1.1
1754 :     if (pEnc->sStat.iMvCount == 0)
1755 :     pEnc->sStat.iMvCount = 1;
1756 :    
1757 : edgomez 1.41 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1758 : Isibaar 1.1
1759 : suxen_drol 1.27 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1760 : Isibaar 1.1
1761 : edgomez 1.41 if ((fSigma > iSearchRange / 3)
1762 :     && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1763 : edgomez 1.3 {
1764 : suxen_drol 1.27 pEnc->mbParam.m_fcode++;
1765 : Isibaar 1.1 iSearchRange *= 2;
1766 : edgomez 1.41 } else if ((fSigma < iSearchRange / 6)
1767 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1768 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1769 :     && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1770 : edgomez 1.3 {
1771 : suxen_drol 1.27 pEnc->mbParam.m_fcode--;
1772 : Isibaar 1.1 iSearchRange /= 2;
1773 : edgomez 1.3 }
1774 : Isibaar 1.1
1775 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = fSigma;
1776 : suxen_drol 1.60
1777 :     #ifdef BFRAMES
1778 :     /* frame drop code */
1779 :     // DPRINTF(DPRINTF_DEBUG, "kmu %i %i %i", pEnc->sStat.kblks, pEnc->sStat.mblks, pEnc->sStat.ublks);
1780 :     if (pEnc->sStat.kblks + pEnc->sStat.mblks <=
1781 :     (pEnc->frame_drop_ratio * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height) / 100)
1782 :     {
1783 :     pEnc->sStat.kblks = pEnc->sStat.mblks = 0;
1784 :     pEnc->sStat.ublks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1785 :    
1786 :     BitstreamReset(bs);
1787 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 0);
1788 :    
1789 :     // copy reference frame details into the current frame
1790 :     pEnc->current->quant = pEnc->reference->quant;
1791 :     pEnc->current->motion_flags = pEnc->reference->motion_flags;
1792 :     pEnc->current->rounding_type = pEnc->reference->rounding_type;
1793 :     pEnc->current->fcode = pEnc->reference->fcode;
1794 :     pEnc->current->bcode = pEnc->reference->bcode;
1795 :     image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
1796 :     memcpy(pEnc->current->mbs, pEnc->reference->mbs, sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);
1797 :    
1798 :     }
1799 :     #endif
1800 : edgomez 1.41
1801 : Isibaar 1.1 *pBits = BitstreamPos(bs) - *pBits;
1802 :    
1803 : albeu 1.59 #ifdef BFRAMES
1804 : chl 1.66 pEnc->time_pp = ((int32_t)pEnc->mbParam.fbase - (int32_t)pEnc->last_pframe + (int32_t)pEnc->current->ticks) %
1805 :     (int32_t)pEnc->mbParam.fbase;
1806 :     pEnc->last_pframe = pEnc->current->ticks;
1807 : albeu 1.59 #endif
1808 : chl 1.62
1809 : edgomez 1.41 return 0; // inter
1810 : Isibaar 1.1 }
1811 : suxen_drol 1.24
1812 :    
1813 : suxen_drol 1.32 #ifdef BFRAMES
1814 : edgomez 1.41 static void
1815 :     FrameCodeB(Encoder * pEnc,
1816 :     FRAMEINFO * frame,
1817 :     Bitstream * bs,
1818 :     uint32_t * pBits)
1819 : suxen_drol 1.24 {
1820 : edgomez 1.41 int16_t dct_codes[6 * 64];
1821 :     int16_t qcoeff[6 * 64];
1822 :     uint32_t x, y;
1823 : suxen_drol 1.24 VECTOR forward;
1824 :     VECTOR backward;
1825 :    
1826 : edgomez 1.41 IMAGE *f_ref = &pEnc->reference->image;
1827 : suxen_drol 1.24 IMAGE *b_ref = &pEnc->current->image;
1828 :    
1829 : chenm001 1.54 #ifdef BFRAMES_DEC_DEBUG
1830 :     FILE *fp;
1831 :     static char first=0;
1832 :     #define BFRAME_DEBUG if (!first && fp){ \
1833 :     fprintf(fp,"Y=%3d X=%3d MB=%2d CBP=%02X\n",y,x,mb->mode,mb->cbp); \
1834 :     }
1835 :    
1836 :     if (!first){
1837 :     fp=fopen("C:\\XVIDDBGE.TXT","w");
1838 :     }
1839 :     #endif
1840 :    
1841 : suxen_drol 1.32 // forward
1842 : edgomez 1.41 image_setedges(f_ref, pEnc->mbParam.edged_width,
1843 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1844 :     pEnc->mbParam.height,
1845 :     frame->global_flags & XVID_INTERLACING);
1846 : suxen_drol 1.24 start_timer();
1847 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1848 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1849 :     0);
1850 : suxen_drol 1.24 stop_inter_timer();
1851 :    
1852 : suxen_drol 1.32 // backward
1853 : edgomez 1.41 image_setedges(b_ref, pEnc->mbParam.edged_width,
1854 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1855 :     pEnc->mbParam.height,
1856 :     frame->global_flags & XVID_INTERLACING);
1857 :     start_timer();
1858 : suxen_drol 1.24 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1859 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1860 :     0);
1861 : suxen_drol 1.24 stop_inter_timer();
1862 :    
1863 :     start_timer();
1864 : chl 1.57 MotionEstimationBVOP(&pEnc->mbParam, frame,
1865 : chl 1.66 ((int32_t)pEnc->mbParam.fbase + pEnc->last_pframe - frame->ticks) % pEnc->mbParam.fbase,
1866 : chl 1.57 pEnc->time_pp,
1867 :     pEnc->reference->mbs, f_ref,
1868 : edgomez 1.41 &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1869 :     pEnc->current->mbs, b_ref, &pEnc->vInterH,
1870 :     &pEnc->vInterV, &pEnc->vInterHV);
1871 :    
1872 : suxen_drol 1.24
1873 :     stop_motion_timer();
1874 : edgomez 1.41
1875 : suxen_drol 1.32 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1876 : edgomez 1.41 {
1877 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1878 :     } */
1879 : suxen_drol 1.24
1880 : edgomez 1.41 frame->coding_type = B_VOP;
1881 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
1882 : edgomez 1.29
1883 : edgomez 1.41 *pBits = BitstreamPos(bs);
1884 : edgomez 1.29
1885 : edgomez 1.41 pEnc->sStat.iTextBits = 0;
1886 :     pEnc->sStat.iMvSum = 0;
1887 :     pEnc->sStat.iMvCount = 0;
1888 : suxen_drol 1.24 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1889 :    
1890 :    
1891 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1892 : suxen_drol 1.24 // reset prediction
1893 :    
1894 :     forward.x = 0;
1895 :     forward.y = 0;
1896 :     backward.x = 0;
1897 :     backward.y = 0;
1898 :    
1899 : edgomez 1.41 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1900 :     MACROBLOCK *f_mb =
1901 :     &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1902 :     MACROBLOCK *b_mb =
1903 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1904 :     MACROBLOCK *mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1905 : suxen_drol 1.24
1906 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1907 : edgomez 1.41 if (mb->mode == MODE_NOT_CODED) {
1908 : suxen_drol 1.24 mb->mvs[0].x = 0;
1909 :     mb->mvs[0].y = 0;
1910 : chenm001 1.54
1911 :     mb->cbp = 0;
1912 :     #ifdef BFRAMES_DEC_DEBUG
1913 :     BFRAME_DEBUG
1914 :     #endif
1915 : suxen_drol 1.24 continue;
1916 :     }
1917 :    
1918 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1919 : edgomez 1.41 f_ref, &pEnc->f_refh, &pEnc->f_refv,
1920 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1921 :     &pEnc->vInterV, &pEnc->vInterHV,
1922 :     dct_codes);
1923 :    
1924 : suxen_drol 1.24 mb->quant = frame->quant;
1925 : edgomez 1.41 mb->cbp =
1926 :     MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1927 :     qcoeff);
1928 : suxen_drol 1.24 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1929 :    
1930 : chl 1.64 if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)
1931 :     && (mb->deltamv.x == 0) && (mb->deltamv.y == 0) ) {
1932 : chl 1.56 mb->mode = MODE_DIRECT_NONE_MV; // skipped
1933 : suxen_drol 1.24 }
1934 :    
1935 : chl 1.64 /* update predictors for forward and backward vectors */
1936 : edgomez 1.41 if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
1937 : suxen_drol 1.24 mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1938 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1939 :     forward.x = mb->mvs[0].x;
1940 :     forward.y = mb->mvs[0].y;
1941 :     }
1942 : edgomez 1.41
1943 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
1944 : suxen_drol 1.24 mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1945 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1946 :     backward.x = mb->b_mvs[0].x;
1947 :     backward.y = mb->b_mvs[0].y;
1948 :     }
1949 : chl 1.64
1950 : suxen_drol 1.46 // DPRINTF("%05i : [%i %i] M=%i CBP=%i MVS=%i,%i forward=%i,%i", pEnc->m_framenum, x, y, mb->mode, mb->cbp, mb->mvs[0].x, mb->mvs[0].y, forward.x, forward.y);
1951 : suxen_drol 1.24
1952 : chenm001 1.54 #ifdef BFRAMES_DEC_DEBUG
1953 :     BFRAME_DEBUG
1954 :     #endif
1955 : edgomez 1.41 start_timer();
1956 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1957 :     &pEnc->sStat);
1958 : suxen_drol 1.24 stop_coding_timer();
1959 :     }
1960 :     }
1961 :    
1962 :     emms();
1963 :    
1964 :     // TODO: dynamic fcode/bcode ???
1965 :    
1966 :     *pBits = BitstreamPos(bs) - *pBits;
1967 : chenm001 1.54
1968 :     #ifdef BFRAMES_DEC_DEBUG
1969 :     if (!first){
1970 :     first=1;
1971 :     if (fp)
1972 :     fclose(fp);
1973 :     }
1974 :     #endif
1975 : suxen_drol 1.24 }
1976 : edgomez 1.37 #endif
1977 : chl 1.64
1978 :    
1979 :     /* in case internal output is needed somewhere... */
1980 :     /* {
1981 :     FILE *filehandle;
1982 :     filehandle=fopen("last-b.pgm","wb");
1983 :     if (filehandle)
1984 :     {
1985 :     fprintf(filehandle,"P5\n\n"); //
1986 :     fprintf(filehandle,"%d %d 255\n",pEnc->mbParam.edged_width,pEnc->mbParam.edged_height);
1987 :     fwrite(frame->image.y,pEnc->mbParam.edged_width,pEnc->mbParam.edged_height,filehandle);
1988 :     fclose(filehandle);
1989 :     }
1990 :     }
1991 :     */

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4