[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.76.2.37 - (view) (download)

1 : edgomez 1.40 /*****************************************************************************
2 : edgomez 1.29 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 1.40 ****************************************************************************/
30 : edgomez 1.29
31 : edgomez 1.40 /*****************************************************************************
32 : edgomez 1.29 *
33 :     * History
34 :     *
35 : chenm001 1.54 * 10.07.2002 added BFRAMES_DEC_DEBUG support
36 :     * MinChen <chenm001@163.com>
37 :     * 20.06.2002 bframe patch
38 : chenm001 1.36 * 08.05.2002 fix some problem in DEBUG mode;
39 :     * MinChen <chenm001@163.com>
40 : edgomez 1.29 * 14.04.2002 added FrameCodeB()
41 :     *
42 : chl 1.76.2.37 * $Id: encoder.c,v 1.76.2.36 2003/01/11 20:37:46 chl Exp $
43 : edgomez 1.29 *
44 : edgomez 1.40 ****************************************************************************/
45 : suxen_drol 1.24
46 : Isibaar 1.1 #include <stdlib.h>
47 :     #include <stdio.h>
48 :     #include <math.h>
49 : edgomez 1.42 #include <string.h>
50 : Isibaar 1.1
51 :     #include "encoder.h"
52 :     #include "prediction/mbprediction.h"
53 :     #include "global.h"
54 :     #include "utils/timer.h"
55 :     #include "image/image.h"
56 : suxen_drol 1.48 #include "image/font.h"
57 : chl 1.65 #include "motion/sad.h"
58 : suxen_drol 1.32 #include "motion/motion.h"
59 : Isibaar 1.1 #include "bitstream/cbp.h"
60 :     #include "utils/mbfunctions.h"
61 :     #include "bitstream/bitstream.h"
62 :     #include "bitstream/mbcoding.h"
63 :     #include "utils/ratecontrol.h"
64 :     #include "utils/emms.h"
65 :     #include "bitstream/mbcoding.h"
66 :     #include "quant/adapt_quant.h"
67 : Isibaar 1.2 #include "quant/quant_matrix.h"
68 : Isibaar 1.7 #include "utils/mem_align.h"
69 : Isibaar 1.1
70 : edgomez 1.40 /*****************************************************************************
71 :     * Local macros
72 :     ****************************************************************************/
73 :    
74 : Isibaar 1.1 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
75 : suxen_drol 1.76.2.32 #define SWAP(_T_,A,B) { _T_ tmp = A; A = B; B = tmp; }
76 : Isibaar 1.1
77 : edgomez 1.40 /*****************************************************************************
78 :     * Local function prototypes
79 :     ****************************************************************************/
80 :    
81 : edgomez 1.39 static int FrameCodeI(Encoder * pEnc,
82 : edgomez 1.41 Bitstream * bs,
83 :     uint32_t * pBits);
84 : edgomez 1.39
85 :     static int FrameCodeP(Encoder * pEnc,
86 : edgomez 1.41 Bitstream * bs,
87 :     uint32_t * pBits,
88 :     bool force_inter,
89 :     bool vol_header);
90 : Isibaar 1.1
91 : edgomez 1.39 static void FrameCodeB(Encoder * pEnc,
92 : edgomez 1.41 FRAMEINFO * frame,
93 :     Bitstream * bs,
94 :     uint32_t * pBits);
95 : Isibaar 1.1
96 : edgomez 1.40 /*****************************************************************************
97 :     * Local data
98 :     ****************************************************************************/
99 :    
100 : edgomez 1.41 static int DQtab[4] = {
101 : Isibaar 1.1 -1, -2, 1, 2
102 :     };
103 :    
104 : edgomez 1.41 static int iDQtab[5] = {
105 : Isibaar 1.1 1, 0, NO_CHANGE, 2, 3
106 :     };
107 :    
108 :    
109 : edgomez 1.40 /*****************************************************************************
110 :     * Encoder creation
111 :     *
112 :     * This function creates an Encoder instance, it allocates all necessary
113 :     * image buffers (reference, current and bframes) and initialize the internal
114 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
115 :     *
116 :     * The code seems to be very long but is very basic, mainly memory allocation
117 :     * and cleaning code.
118 :     *
119 :     * Returned values :
120 :     * - XVID_ERR_OK - no errors
121 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
122 :     * cleans the structure before exiting.
123 :     * pParam->handle is also set to NULL.
124 :     *
125 :     ****************************************************************************/
126 :    
127 :     int
128 :     encoder_create(XVID_ENC_PARAM * pParam)
129 : Isibaar 1.1 {
130 : edgomez 1.3 Encoder *pEnc;
131 : suxen_drol 1.44 int i;
132 : Isibaar 1.1
133 : edgomez 1.3 pParam->handle = NULL;
134 : Isibaar 1.1
135 : edgomez 1.3 ENC_CHECK(pParam);
136 : Isibaar 1.1
137 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
138 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
139 :     ENC_CHECK(!(pParam->width % 2));
140 :     ENC_CHECK(!(pParam->height % 2));
141 : Isibaar 1.1
142 : edgomez 1.39 /* Fps */
143 :    
144 : edgomez 1.41 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
145 : Isibaar 1.1 pParam->fincr = 1;
146 :     pParam->fbase = 25;
147 :     }
148 :    
149 : edgomez 1.39 /*
150 :     * Simplify the "fincr/fbase" fraction
151 :     * (neccessary, since windows supplies us with huge numbers)
152 :     */
153 : Isibaar 1.1
154 :     i = pParam->fincr;
155 : edgomez 1.41 while (i > 1) {
156 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
157 : Isibaar 1.1 pParam->fincr /= i;
158 :     pParam->fbase /= i;
159 :     i = pParam->fincr;
160 :     continue;
161 :     }
162 :     i--;
163 :     }
164 :    
165 : edgomez 1.41 if (pParam->fbase > 65535) {
166 :     float div = (float) pParam->fbase / 65535;
167 :    
168 :     pParam->fbase = (int) (pParam->fbase / div);
169 :     pParam->fincr = (int) (pParam->fincr / div);
170 : Isibaar 1.1 }
171 :    
172 : edgomez 1.39 /* Bitrate allocator defaults */
173 :    
174 : h 1.25 if (pParam->rc_bitrate <= 0)
175 :     pParam->rc_bitrate = 900000;
176 : Isibaar 1.1
177 : h 1.25 if (pParam->rc_reaction_delay_factor <= 0)
178 :     pParam->rc_reaction_delay_factor = 16;
179 :    
180 :     if (pParam->rc_averaging_period <= 0)
181 :     pParam->rc_averaging_period = 100;
182 :    
183 :     if (pParam->rc_buffer <= 0)
184 :     pParam->rc_buffer = 100;
185 : Isibaar 1.1
186 : edgomez 1.39 /* Max and min quantizers */
187 :    
188 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
189 : Isibaar 1.1 pParam->min_quantizer = 1;
190 :    
191 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
192 : Isibaar 1.1 pParam->max_quantizer = 31;
193 :    
194 : edgomez 1.39 if (pParam->max_quantizer < pParam->min_quantizer)
195 :     pParam->max_quantizer = pParam->min_quantizer;
196 :    
197 : edgomez 1.41 /* 1 keyframe each 10 seconds */
198 : edgomez 1.39
199 : edgomez 1.61 if (pParam->max_key_interval <= 0)
200 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
201 : edgomez 1.41
202 : edgomez 1.39 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
203 :     if (pEnc == NULL)
204 : Isibaar 1.1 return XVID_ERR_MEMORY;
205 :    
206 : edgomez 1.42 /* Zero the Encoder Structure */
207 :    
208 :     memset(pEnc, 0, sizeof(Encoder));
209 :    
210 : Isibaar 1.1 /* Fill members of Encoder structure */
211 :    
212 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
213 :     pEnc->mbParam.height = pParam->height;
214 : Isibaar 1.1
215 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
216 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
217 :    
218 : edgomez 1.41 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
219 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
220 : Isibaar 1.1
221 : suxen_drol 1.32 pEnc->mbParam.fbase = pParam->fbase;
222 :     pEnc->mbParam.fincr = pParam->fincr;
223 : Isibaar 1.43
224 :     pEnc->mbParam.m_quant_type = H263_QUANT;
225 : suxen_drol 1.32
226 : suxen_drol 1.76.2.24 pEnc->fMvPrevSigma = -1;
227 : Isibaar 1.1
228 :     /* Fill rate control parameters */
229 :    
230 : h 1.25 pEnc->bitrate = pParam->rc_bitrate;
231 : Isibaar 1.1
232 : edgomez 1.3 pEnc->iFrameNum = 0;
233 : suxen_drol 1.76.2.26 pEnc->mbParam.iMaxKeyInterval = pParam->max_key_interval;
234 : Isibaar 1.1
235 : suxen_drol 1.27 /* try to allocate frame memory */
236 : h 1.16
237 : edgomez 1.39 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
238 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
239 :    
240 : edgomez 1.41 if (pEnc->current == NULL || pEnc->reference == NULL)
241 : edgomez 1.39 goto xvid_err_memory1;
242 : suxen_drol 1.27
243 :     /* try to allocate mb memory */
244 : h 1.16
245 : edgomez 1.41 pEnc->current->mbs =
246 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
247 :     pEnc->mbParam.mb_height, CACHE_LINE);
248 :     pEnc->reference->mbs =
249 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
250 :     pEnc->mbParam.mb_height, CACHE_LINE);
251 : Isibaar 1.1
252 : edgomez 1.39 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
253 :     goto xvid_err_memory2;
254 : suxen_drol 1.27
255 :     /* try to allocate image memory */
256 :    
257 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
258 : suxen_drol 1.27 image_null(&pEnc->sOriginal);
259 :     #endif
260 : chl 1.76.2.1
261 : suxen_drol 1.32 image_null(&pEnc->f_refh);
262 :     image_null(&pEnc->f_refv);
263 :     image_null(&pEnc->f_refhv);
264 : chl 1.76.2.1
265 : suxen_drol 1.27 image_null(&pEnc->current->image);
266 :     image_null(&pEnc->reference->image);
267 :     image_null(&pEnc->vInterH);
268 :     image_null(&pEnc->vInterV);
269 :     image_null(&pEnc->vInterVf);
270 :     image_null(&pEnc->vInterHV);
271 :     image_null(&pEnc->vInterHVf);
272 : edgomez 1.39
273 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
274 : edgomez 1.41 if (image_create
275 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
276 :     pEnc->mbParam.edged_height) < 0)
277 : edgomez 1.39 goto xvid_err_memory3;
278 : suxen_drol 1.27 #endif
279 : chl 1.76.2.1
280 : edgomez 1.41 if (image_create
281 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
282 :     pEnc->mbParam.edged_height) < 0)
283 : edgomez 1.39 goto xvid_err_memory3;
284 : edgomez 1.41 if (image_create
285 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
286 :     pEnc->mbParam.edged_height) < 0)
287 : edgomez 1.39 goto xvid_err_memory3;
288 : edgomez 1.41 if (image_create
289 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
290 :     pEnc->mbParam.edged_height) < 0)
291 : edgomez 1.39 goto xvid_err_memory3;
292 : chl 1.76.2.1
293 : edgomez 1.41 if (image_create
294 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
295 :     pEnc->mbParam.edged_height) < 0)
296 : edgomez 1.39 goto xvid_err_memory3;
297 : edgomez 1.41 if (image_create
298 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
299 :     pEnc->mbParam.edged_height) < 0)
300 : edgomez 1.39 goto xvid_err_memory3;
301 : edgomez 1.41 if (image_create
302 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
303 :     pEnc->mbParam.edged_height) < 0)
304 : edgomez 1.39 goto xvid_err_memory3;
305 : edgomez 1.41 if (image_create
306 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
307 :     pEnc->mbParam.edged_height) < 0)
308 : edgomez 1.39 goto xvid_err_memory3;
309 : edgomez 1.41 if (image_create
310 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
311 :     pEnc->mbParam.edged_height) < 0)
312 : edgomez 1.39 goto xvid_err_memory3;
313 : edgomez 1.41 if (image_create
314 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
315 :     pEnc->mbParam.edged_height) < 0)
316 : edgomez 1.39 goto xvid_err_memory3;
317 : edgomez 1.41 if (image_create
318 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
319 :     pEnc->mbParam.edged_height) < 0)
320 : edgomez 1.39 goto xvid_err_memory3;
321 :    
322 : chl 1.76.2.35 /* Create full bitplane for GMC, this might be wasteful */
323 :     if (image_create
324 :     (&pEnc->vGMC, pEnc->mbParam.edged_width,
325 :     pEnc->mbParam.edged_height) < 0)
326 :     goto xvid_err_memory3;
327 : edgomez 1.39
328 : Isibaar 1.1
329 : edgomez 1.39 /* B Frames specific init */
330 : edgomez 1.41
331 : suxen_drol 1.76.2.26 pEnc->mbParam.global = pParam->global;
332 : suxen_drol 1.35 pEnc->mbParam.max_bframes = pParam->max_bframes;
333 : suxen_drol 1.76.2.26 pEnc->mbParam.bquant_ratio = pParam->bquant_ratio;
334 :     pEnc->mbParam.bquant_offset = pParam->bquant_offset;
335 :     pEnc->mbParam.frame_drop_ratio = pParam->frame_drop_ratio;
336 : edgomez 1.39 pEnc->bframes = NULL;
337 :    
338 : edgomez 1.41 if (pEnc->mbParam.max_bframes > 0) {
339 : suxen_drol 1.32 int n;
340 :    
341 : edgomez 1.41 pEnc->bframes =
342 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
343 :     CACHE_LINE);
344 : edgomez 1.39
345 :     if (pEnc->bframes == NULL)
346 :     goto xvid_err_memory3;
347 :    
348 : edgomez 1.41 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
349 : edgomez 1.39 pEnc->bframes[n] = NULL;
350 : suxen_drol 1.32
351 : edgomez 1.41
352 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
353 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
354 : edgomez 1.39
355 :     if (pEnc->bframes[n] == NULL)
356 :     goto xvid_err_memory4;
357 :    
358 : edgomez 1.41 pEnc->bframes[n]->mbs =
359 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
360 :     pEnc->mbParam.mb_height, CACHE_LINE);
361 : edgomez 1.39
362 :     if (pEnc->bframes[n]->mbs == NULL)
363 :     goto xvid_err_memory4;
364 :    
365 :     image_null(&pEnc->bframes[n]->image);
366 :    
367 : edgomez 1.41 if (image_create
368 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
369 :     pEnc->mbParam.edged_height) < 0)
370 : edgomez 1.39 goto xvid_err_memory4;
371 : suxen_drol 1.32
372 :     }
373 :     }
374 : edgomez 1.39
375 : suxen_drol 1.32 pEnc->bframenum_head = 0;
376 :     pEnc->bframenum_tail = 0;
377 :     pEnc->flush_bframes = 0;
378 : suxen_drol 1.48 pEnc->bframenum_dx50bvop = -1;
379 : suxen_drol 1.32
380 : suxen_drol 1.44 pEnc->queue = NULL;
381 :    
382 :    
383 :     if (pEnc->mbParam.max_bframes > 0) {
384 :     int n;
385 :    
386 :     pEnc->queue =
387 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
388 :     CACHE_LINE);
389 :    
390 :     if (pEnc->queue == NULL)
391 :     goto xvid_err_memory4;
392 :    
393 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++)
394 :     image_null(&pEnc->queue[n]);
395 :    
396 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
397 :     if (image_create
398 :     (&pEnc->queue[n], pEnc->mbParam.edged_width,
399 :     pEnc->mbParam.edged_height) < 0)
400 :     goto xvid_err_memory5;
401 :    
402 :     }
403 :     }
404 :    
405 :     pEnc->queue_head = 0;
406 :     pEnc->queue_tail = 0;
407 :     pEnc->queue_size = 0;
408 :    
409 : chl 1.76.2.4 pEnc->mbParam.m_stamp = 0;
410 : chl 1.76.2.7
411 : suxen_drol 1.46 pEnc->m_framenum = 0;
412 : chl 1.76.2.7 pEnc->current->stamp = 0;
413 :     pEnc->reference->stamp = 0;
414 : suxen_drol 1.32
415 : edgomez 1.41 pParam->handle = (void *) pEnc;
416 : Isibaar 1.1
417 : edgomez 1.41 if (pParam->rc_bitrate) {
418 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
419 :     pParam->rc_reaction_delay_factor,
420 :     pParam->rc_averaging_period, pParam->rc_buffer,
421 :     pParam->fbase * 1000 / pParam->fincr,
422 :     pParam->max_quantizer, pParam->min_quantizer);
423 : Isibaar 1.1 }
424 :    
425 : Isibaar 1.6 init_timer();
426 : Isibaar 1.1
427 :     return XVID_ERR_OK;
428 : edgomez 1.39
429 :     /*
430 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
431 :     */
432 : chl 1.76.2.1
433 : suxen_drol 1.44 xvid_err_memory5:
434 :    
435 :    
436 :     if (pEnc->mbParam.max_bframes > 0) {
437 :    
438 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
439 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
440 :     pEnc->mbParam.edged_height);
441 :     }
442 :     xvid_free(pEnc->queue);
443 :     }
444 :    
445 : edgomez 1.41 xvid_err_memory4:
446 : edgomez 1.39
447 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
448 :    
449 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
450 : edgomez 1.39
451 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
452 :     continue;
453 : edgomez 1.39
454 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
455 :     pEnc->mbParam.edged_height);
456 :    
457 :     xvid_free(pEnc->bframes[i]->mbs);
458 :    
459 :     xvid_free(pEnc->bframes[i]);
460 : edgomez 1.39
461 : suxen_drol 1.44 }
462 : edgomez 1.39
463 : suxen_drol 1.44 xvid_free(pEnc->bframes);
464 : edgomez 1.39 }
465 :    
466 : edgomez 1.41 xvid_err_memory3:
467 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
468 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
469 :     pEnc->mbParam.edged_height);
470 : edgomez 1.39 #endif
471 :    
472 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
473 :     pEnc->mbParam.edged_height);
474 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
475 :     pEnc->mbParam.edged_height);
476 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
477 :     pEnc->mbParam.edged_height);
478 : edgomez 1.39
479 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
480 :     pEnc->mbParam.edged_height);
481 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
482 :     pEnc->mbParam.edged_height);
483 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
484 :     pEnc->mbParam.edged_height);
485 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
486 :     pEnc->mbParam.edged_height);
487 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
488 :     pEnc->mbParam.edged_height);
489 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
490 :     pEnc->mbParam.edged_height);
491 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
492 :     pEnc->mbParam.edged_height);
493 : edgomez 1.39
494 : chl 1.76.2.35 /* destroy GMC image */
495 :     image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
496 :     pEnc->mbParam.edged_height);
497 :    
498 :    
499 : edgomez 1.41 xvid_err_memory2:
500 : edgomez 1.39 xvid_free(pEnc->current->mbs);
501 :     xvid_free(pEnc->reference->mbs);
502 :    
503 : edgomez 1.41 xvid_err_memory1:
504 : edgomez 1.39 xvid_free(pEnc->current);
505 :     xvid_free(pEnc->reference);
506 :     xvid_free(pEnc);
507 :    
508 : edgomez 1.40 pParam->handle = NULL;
509 :    
510 : edgomez 1.39 return XVID_ERR_MEMORY;
511 : Isibaar 1.1 }
512 :    
513 : edgomez 1.40 /*****************************************************************************
514 :     * Encoder destruction
515 :     *
516 :     * This function destroy the entire encoder structure created by a previous
517 :     * successful encoder_create call.
518 :     *
519 :     * Returned values (for now only one returned value) :
520 :     * - XVID_ERR_OK - no errors
521 :     *
522 :     ****************************************************************************/
523 :    
524 :     int
525 :     encoder_destroy(Encoder * pEnc)
526 : Isibaar 1.1 {
527 : suxen_drol 1.44 int i;
528 :    
529 : edgomez 1.3 ENC_CHECK(pEnc);
530 : Isibaar 1.1
531 : edgomez 1.39 /* B Frames specific */
532 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
533 :    
534 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
535 :    
536 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
537 :     pEnc->mbParam.edged_height);
538 :     }
539 :     xvid_free(pEnc->queue);
540 :     }
541 :    
542 :    
543 :     if (pEnc->mbParam.max_bframes > 0) {
544 : edgomez 1.39
545 : suxen_drol 1.44 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
546 : edgomez 1.39
547 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
548 :     continue;
549 : edgomez 1.39
550 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
551 : edgomez 1.41 pEnc->mbParam.edged_height);
552 : edgomez 1.39
553 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]->mbs);
554 : edgomez 1.39
555 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]);
556 :     }
557 : edgomez 1.39
558 : suxen_drol 1.44 xvid_free(pEnc->bframes);
559 :    
560 : suxen_drol 1.32 }
561 :    
562 : edgomez 1.39 /* All images, reference, current etc ... */
563 :    
564 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
565 :     pEnc->mbParam.edged_height);
566 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
567 :     pEnc->mbParam.edged_height);
568 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
569 :     pEnc->mbParam.edged_height);
570 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
571 :     pEnc->mbParam.edged_height);
572 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
573 :     pEnc->mbParam.edged_height);
574 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
575 :     pEnc->mbParam.edged_height);
576 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
577 :     pEnc->mbParam.edged_height);
578 : chl 1.76.2.1
579 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
580 :     pEnc->mbParam.edged_height);
581 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
582 :     pEnc->mbParam.edged_height);
583 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
584 :     pEnc->mbParam.edged_height);
585 : chl 1.76.2.1
586 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
587 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
588 :     pEnc->mbParam.edged_height);
589 : Isibaar 1.23 #endif
590 : edgomez 1.39
591 :     /* Encoder structure */
592 : edgomez 1.41
593 : suxen_drol 1.27 xvid_free(pEnc->current->mbs);
594 :     xvid_free(pEnc->current);
595 :    
596 :     xvid_free(pEnc->reference->mbs);
597 :     xvid_free(pEnc->reference);
598 :    
599 : Isibaar 1.7 xvid_free(pEnc);
600 : edgomez 1.39
601 : edgomez 1.3 return XVID_ERR_OK;
602 : Isibaar 1.1 }
603 :    
604 : suxen_drol 1.44
605 : chl 1.76.2.1 static __inline void inc_frame_num(Encoder * pEnc)
606 : suxen_drol 1.44 {
607 : chl 1.76.2.5 pEnc->current->stamp = pEnc->mbParam.m_stamp; // first frame is zero
608 : chl 1.76.2.4 pEnc->mbParam.m_stamp += pEnc->mbParam.fincr;
609 : suxen_drol 1.44 }
610 :    
611 :    
612 : chl 1.76.2.1 static __inline void
613 :     queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
614 : suxen_drol 1.44 {
615 :     if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
616 :     {
617 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"FATAL: QUEUE FULL");
618 : suxen_drol 1.44 return;
619 :     }
620 :    
621 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** QUEUE bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
622 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
623 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
624 :    
625 :    
626 :     start_timer();
627 :     if (image_input
628 :     (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
629 : suxen_drol 1.76.2.16 pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))
630 : suxen_drol 1.44 return;
631 :     stop_conv_timer();
632 :    
633 :     pEnc->queue_size++;
634 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
635 :     }
636 :    
637 : chl 1.76.2.4 static __inline void
638 :     set_timecodes(FRAMEINFO* pCur,FRAMEINFO *pRef, int32_t time_base)
639 :     {
640 :    
641 :     pCur->ticks = (int32_t)pCur->stamp % time_base;
642 :     pCur->seconds = ((int32_t)pCur->stamp / time_base) - ((int32_t)pRef->stamp / time_base) ;
643 :    
644 : chl 1.76.2.5 //HEAVY DEBUG OUTPUT remove when timecodes prove to be stable
645 : chl 1.76.2.4
646 : chl 1.76.2.6 /* fprintf(stderr,"WriteVop: %d - %d \n",
647 : chl 1.76.2.4 ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));
648 :     fprintf(stderr,"set_timecodes: VOP %1d stamp=%lld ref_stamp=%lld base=%d\n",
649 :     pCur->coding_type, pCur->stamp, pRef->stamp, time_base);
650 :     fprintf(stderr,"set_timecodes: VOP %1d seconds=%d ticks=%d (ref-sec=%d ref-tick=%d)\n",
651 :     pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);
652 :    
653 : chl 1.76.2.6 */
654 : chl 1.76.2.4 }
655 :    
656 :    
657 :    
658 : suxen_drol 1.76.2.29 /* convert pFrame->intra to coding_type */
659 :     static int intra2coding_type(int intra)
660 :     {
661 :     if (intra < 0) return -1;
662 :     if (intra == 1) return I_VOP;
663 :     if (intra == 2) return B_VOP;
664 :    
665 :     return P_VOP;
666 :     }
667 :    
668 : suxen_drol 1.44
669 : chl 1.76.2.1
670 : edgomez 1.40 /*****************************************************************************
671 : suxen_drol 1.44 * IPB frame encoder entry point
672 : edgomez 1.40 *
673 :     * Returned values :
674 :     * - XVID_ERR_OK - no errors
675 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
676 :     * format
677 :     ****************************************************************************/
678 : suxen_drol 1.32
679 : edgomez 1.40 int
680 : suxen_drol 1.44 encoder_encode_bframes(Encoder * pEnc,
681 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
682 :     XVID_ENC_STATS * pResult)
683 : suxen_drol 1.32 {
684 :     uint16_t x, y;
685 :     Bitstream bs;
686 : syskin 1.76.2.34 uint32_t bits;
687 :     int mode;
688 : suxen_drol 1.32
689 : suxen_drol 1.44 int input_valid = 1;
690 : syskin 1.76.2.18 int bframes_count = 0;
691 : suxen_drol 1.44
692 :     #ifdef _DEBUG_PSNR
693 : chenm001 1.36 float psnr;
694 :     char temp[128];
695 :     #endif
696 :    
697 : suxen_drol 1.32 ENC_CHECK(pEnc);
698 :     ENC_CHECK(pFrame);
699 : suxen_drol 1.44 ENC_CHECK(pFrame->image);
700 : suxen_drol 1.32
701 :     start_global_timer();
702 : edgomez 1.41
703 : suxen_drol 1.32 BitstreamInit(&bs, pFrame->bitstream, 0);
704 :    
705 : suxen_drol 1.44 ipvop_loop:
706 :    
707 : edgomez 1.40 /*
708 :     * bframe "flush" code
709 :     */
710 : suxen_drol 1.32
711 : edgomez 1.41 if ((pFrame->image == NULL || pEnc->flush_bframes)
712 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
713 :    
714 :     if (pEnc->flush_bframes == 0) {
715 : edgomez 1.40 /*
716 :     * we have reached the end of stream without getting
717 :     * a future reference frame... so encode last final
718 :     * frame as a pframe
719 :     */
720 :    
721 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (final frame) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
722 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
723 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
724 :    
725 : suxen_drol 1.32 pEnc->bframenum_tail--;
726 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
727 : suxen_drol 1.32
728 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
729 : suxen_drol 1.32
730 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
731 : syskin 1.76.2.18 bframes_count = 0;
732 : suxen_drol 1.32
733 : chl 1.76.2.37 BitstreamPadAlways(&bs);
734 : suxen_drol 1.32 pFrame->length = BitstreamLength(&bs);
735 :     pFrame->intra = 0;
736 : edgomez 1.40
737 : suxen_drol 1.76.2.16 emms();
738 :    
739 : suxen_drol 1.32 return XVID_ERR_OK;
740 :     }
741 :    
742 : suxen_drol 1.44
743 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
744 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
745 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
746 :    
747 : edgomez 1.41 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
748 : suxen_drol 1.32 pEnc->bframenum_head++;
749 :    
750 : chl 1.76.2.37 BitstreamPadAlways(&bs);
751 : suxen_drol 1.32 pFrame->length = BitstreamLength(&bs);
752 : suxen_drol 1.76.2.20 pFrame->intra = 2;
753 : edgomez 1.40
754 : suxen_drol 1.44 if (input_valid)
755 :     queue_image(pEnc, pFrame);
756 :    
757 : suxen_drol 1.76.2.16 emms();
758 :    
759 : suxen_drol 1.32 return XVID_ERR_OK;
760 :     }
761 :    
762 : suxen_drol 1.44 if (pEnc->bframenum_head > 0) {
763 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
764 :    
765 : suxen_drol 1.76.2.9 /* write an empty marker to the bitstream.
766 :    
767 :     for divx5 decoder compatibility, this marker must consist
768 :     of a not-coded p-vop, with a time_base of zero, and time_increment
769 :     indentical to the future-referece frame.
770 :     */
771 :    
772 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED)) {
773 : suxen_drol 1.76.2.9 int tmp;
774 : suxen_drol 1.44
775 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
776 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
777 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
778 :    
779 : suxen_drol 1.76.2.9
780 :     tmp = pEnc->current->seconds;
781 :     pEnc->current->seconds = 0; /* force time_base = 0 */
782 : chl 1.76.2.37
783 : suxen_drol 1.76.2.9 BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
784 :     pEnc->current->seconds = tmp;
785 : suxen_drol 1.44
786 : chl 1.76.2.37 BitstreamPadAlways(&bs);
787 : suxen_drol 1.44 pFrame->length = BitstreamLength(&bs);
788 : suxen_drol 1.76.2.20 pFrame->intra = 4;
789 : suxen_drol 1.44
790 :     if (input_valid)
791 :     queue_image(pEnc, pFrame);
792 :    
793 : suxen_drol 1.76.2.16 emms();
794 :    
795 : suxen_drol 1.44 return XVID_ERR_OK;
796 :     }
797 :     }
798 :    
799 :    
800 :     bvop_loop:
801 :    
802 : suxen_drol 1.48 if (pEnc->bframenum_dx50bvop != -1)
803 :     {
804 :    
805 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
806 :     SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
807 : suxen_drol 1.48
808 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
809 : suxen_drol 1.48 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");
810 :     }
811 :    
812 :     if (input_valid)
813 :     {
814 :     queue_image(pEnc, pFrame);
815 :     input_valid = 0;
816 :     }
817 :    
818 :     } else if (input_valid) {
819 : suxen_drol 1.44
820 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
821 : suxen_drol 1.44
822 :     start_timer();
823 :     if (image_input
824 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
825 : suxen_drol 1.76.2.16 pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))
826 :     {
827 :     emms();
828 : suxen_drol 1.44 return XVID_ERR_FORMAT;
829 : suxen_drol 1.76.2.16 }
830 : suxen_drol 1.44 stop_conv_timer();
831 :    
832 :     // queue input frame, and dequue next image
833 :     if (pEnc->queue_size > 0)
834 :     {
835 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
836 :     if (pEnc->queue_head != pEnc->queue_tail)
837 :     {
838 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
839 :     }
840 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
841 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
842 :     }
843 :    
844 :     } else if (pEnc->queue_size > 0) {
845 :    
846 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
847 : suxen_drol 1.44
848 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
849 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
850 :     pEnc->queue_size--;
851 :    
852 : suxen_drol 1.76.2.9 } else {
853 : suxen_drol 1.44
854 : suxen_drol 1.76.2.9 /* if nothing was encoded, write an 'ignore this frame' flag
855 :     to the bitstream */
856 : suxen_drol 1.44
857 : suxen_drol 1.76.2.9 if (BitstreamPos(&bs) == 0) {
858 : edgomez 1.40
859 : suxen_drol 1.76.2.9 DPRINTF(DPRINTF_DEBUG,"*** SKIP bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
860 :     pEnc->bframenum_head, pEnc->bframenum_tail,
861 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
862 : suxen_drol 1.32
863 : chl 1.76.2.37 // BitstreamPutBits(&bs, 0x7f, 8);
864 : suxen_drol 1.76.2.20 pFrame->intra = 5;
865 : suxen_drol 1.76.2.9 }
866 : suxen_drol 1.44
867 :     pFrame->length = BitstreamLength(&bs);
868 : suxen_drol 1.76.2.16 emms();
869 : suxen_drol 1.44 return XVID_ERR_OK;
870 : suxen_drol 1.32 }
871 :    
872 :     pEnc->flush_bframes = 0;
873 :    
874 : suxen_drol 1.48 emms();
875 :    
876 :     // only inc frame num, adapt quant, etc. if we havent seen it before
877 :     if (pEnc->bframenum_dx50bvop < 0 )
878 :     {
879 : suxen_drol 1.76.2.29 mode = intra2coding_type(pFrame->intra);
880 : suxen_drol 1.48 if (pFrame->quant == 0)
881 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
882 :     else
883 :     pEnc->current->quant = pFrame->quant;
884 :    
885 : chl 1.62 /* if (pEnc->current->quant < 1)
886 : suxen_drol 1.48 pEnc->current->quant = 1;
887 :    
888 :     if (pEnc->current->quant > 31)
889 :     pEnc->current->quant = 31;
890 : chl 1.62 */
891 : suxen_drol 1.48 pEnc->current->global_flags = pFrame->general;
892 :     pEnc->current->motion_flags = pFrame->motion;
893 :    
894 :     /* ToDo : dynamic fcode (in both directions) */
895 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
896 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
897 : suxen_drol 1.32
898 : suxen_drol 1.48 inc_frame_num(pEnc);
899 : suxen_drol 1.32
900 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
901 : suxen_drol 1.48 image_copy(&pEnc->sOriginal, &pEnc->current->image,
902 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.height);
903 : suxen_drol 1.32 #endif
904 :    
905 : suxen_drol 1.48 emms();
906 : suxen_drol 1.46
907 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
908 : suxen_drol 1.48 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
909 : suxen_drol 1.76.2.11 "%i if:%i st:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->stamp);
910 : suxen_drol 1.48 }
911 : suxen_drol 1.46
912 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
913 :     * Luminance masking
914 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
915 : suxen_drol 1.32
916 : suxen_drol 1.48 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
917 :     int *temp_dquants =
918 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
919 : edgomez 1.41 pEnc->mbParam.mb_height * sizeof(int),
920 :     CACHE_LINE);
921 :    
922 : suxen_drol 1.48 pEnc->current->quant =
923 :     adaptive_quantization(pEnc->current->image.y,
924 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
925 :     pEnc->current->quant, pEnc->current->quant,
926 :     2 * pEnc->current->quant,
927 :     pEnc->mbParam.mb_width,
928 :     pEnc->mbParam.mb_height);
929 :    
930 : suxen_drol 1.48 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
931 : edgomez 1.40
932 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
933 : edgomez 1.40
934 : suxen_drol 1.48 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
935 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
936 : edgomez 1.41
937 : suxen_drol 1.48 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
938 :     }
939 : edgomez 1.40
940 : edgomez 1.41 #undef OFFSET
941 : suxen_drol 1.48 }
942 : edgomez 1.40
943 : suxen_drol 1.48 xvid_free(temp_dquants);
944 : edgomez 1.40 }
945 :    
946 : suxen_drol 1.32 }
947 :    
948 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
949 :     * ivop/pvop/bvop selection
950 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
951 : syskin 1.76.2.23 pEnc->iFrameNum++;
952 : suxen_drol 1.32
953 : suxen_drol 1.76.2.29 if (pEnc->iFrameNum == 0 || pEnc->bframenum_dx50bvop >= 0 ||
954 :     (mode < 0 && pEnc->mbParam.iMaxKeyInterval > 0 &&
955 :     pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval))
956 :     {
957 :     mode = I_VOP;
958 :     }else{
959 :     mode = MEanalysis(&pEnc->reference->image, pEnc->current,
960 :     &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,
961 :     (mode < 0) ? pEnc->iFrameNum : 0,
962 :     bframes_count++);
963 :     }
964 : h 1.76.2.3
965 : suxen_drol 1.76.2.29 if (mode == I_VOP) {
966 : edgomez 1.40 /*
967 :     * This will be coded as an Intra Frame
968 :     */
969 : syskin 1.76.2.19 if ((pEnc->current->global_flags & XVID_QUARTERPEL))
970 :     pEnc->mbParam.m_quarterpel = 1;
971 :     else
972 :     pEnc->mbParam.m_quarterpel = 0;
973 : edgomez 1.40
974 : syskin 1.76.2.21 if (pEnc->current->global_flags & XVID_MPEGQUANT) pEnc->mbParam.m_quant_type = MPEG4_QUANT;
975 : suxen_drol 1.76.2.22
976 :     if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
977 :     if (pFrame->quant_intra_matrix != NULL)
978 :     set_intra_matrix(pFrame->quant_intra_matrix);
979 :     if (pFrame->quant_inter_matrix != NULL)
980 :     set_inter_matrix(pFrame->quant_inter_matrix);
981 :     }
982 :    
983 : syskin 1.76.2.21
984 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
985 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
986 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
987 : suxen_drol 1.46
988 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
989 : suxen_drol 1.46 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
990 :     }
991 : suxen_drol 1.32
992 : suxen_drol 1.48 // when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe
993 :    
994 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {
995 : suxen_drol 1.48
996 :     pEnc->bframenum_tail--;
997 :     pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;
998 :    
999 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
1000 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1001 : suxen_drol 1.48 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
1002 :     }
1003 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
1004 : syskin 1.76.2.18 bframes_count = 0;
1005 : suxen_drol 1.48
1006 :     pFrame->intra = 0;
1007 :    
1008 :     } else {
1009 : suxen_drol 1.49
1010 : suxen_drol 1.48 FrameCodeI(pEnc, &bs, &bits);
1011 : syskin 1.76.2.18 bframes_count = 0;
1012 : suxen_drol 1.48 pFrame->intra = 1;
1013 : suxen_drol 1.49
1014 :     pEnc->bframenum_dx50bvop = -1;
1015 : suxen_drol 1.48 }
1016 : suxen_drol 1.32
1017 :     pEnc->flush_bframes = 1;
1018 :    
1019 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {
1020 : suxen_drol 1.76.2.11 BitstreamPadAlways(&bs);
1021 : suxen_drol 1.44 input_valid = 0;
1022 :     goto ipvop_loop;
1023 :     }
1024 :    
1025 : edgomez 1.40 /*
1026 :     * NB : sequences like "IIBB" decode fine with msfdam but,
1027 :     * go screwy with divx 5.00
1028 :     */
1029 : suxen_drol 1.76.2.29 } else if (mode == P_VOP || pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
1030 : edgomez 1.40 /*
1031 :     * This will be coded as a Predicted Frame
1032 :     */
1033 :    
1034 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
1035 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
1036 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1037 : suxen_drol 1.46
1038 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1039 : suxen_drol 1.46 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
1040 :     }
1041 : suxen_drol 1.32
1042 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
1043 : syskin 1.76.2.18 bframes_count = 0;
1044 : suxen_drol 1.32 pFrame->intra = 0;
1045 :     pEnc->flush_bframes = 1;
1046 : suxen_drol 1.44
1047 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && (pEnc->bframenum_tail > 0)) {
1048 : suxen_drol 1.76.2.11 BitstreamPadAlways(&bs);
1049 : suxen_drol 1.44 input_valid = 0;
1050 :     goto ipvop_loop;
1051 :     }
1052 :    
1053 : suxen_drol 1.76.2.29 } else { /* mode == B_VOP */
1054 : edgomez 1.40 /*
1055 :     * This will be coded as a Bidirectional Frame
1056 :     */
1057 :    
1058 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1059 : suxen_drol 1.46 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1060 :     }
1061 :    
1062 : edgomez 1.41 if (pFrame->bquant < 1) {
1063 : suxen_drol 1.76.2.20 pEnc->current->quant = ((((pEnc->reference->quant + pEnc->current->quant) *
1064 : suxen_drol 1.76.2.26 pEnc->mbParam.bquant_ratio) / 2) + pEnc->mbParam.bquant_offset)/100;
1065 : suxen_drol 1.76.2.20
1066 : edgomez 1.41 } else {
1067 : suxen_drol 1.32 pEnc->current->quant = pFrame->bquant;
1068 :     }
1069 : chl 1.62
1070 : suxen_drol 1.76.2.20 if (pEnc->current->quant < 1)
1071 :     pEnc->current->quant = 1;
1072 :     else if (pEnc->current->quant > 31)
1073 :     pEnc->current->quant = 31;
1074 : chl 1.62
1075 : suxen_drol 1.76.2.20 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i queue: head=%i tail=%i size=%i quant=%i\n",
1076 :     pEnc->bframenum_head, pEnc->bframenum_tail,
1077 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);
1078 : edgomez 1.41
1079 : edgomez 1.40 /* store frame into bframe buffer & swap ref back to current */
1080 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1081 :     SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
1082 : suxen_drol 1.32
1083 :     pEnc->bframenum_tail++;
1084 :    
1085 : suxen_drol 1.76.2.20 // bframe report by koepi
1086 :     pFrame->intra = 2;
1087 : suxen_drol 1.32 pFrame->length = 0;
1088 : edgomez 1.40
1089 : suxen_drol 1.44 input_valid = 0;
1090 :     goto bvop_loop;
1091 : suxen_drol 1.32 }
1092 : Isibaar 1.70
1093 : chl 1.76.2.37 BitstreamPadAlways(&bs);
1094 : suxen_drol 1.32 pFrame->length = BitstreamLength(&bs);
1095 :    
1096 : edgomez 1.41 if (pResult) {
1097 : suxen_drol 1.32 pResult->quant = pEnc->current->quant;
1098 : suxen_drol 1.76.2.24 pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
1099 :     pResult->kblks = pEnc->current->sStat.kblks;
1100 :     pResult->mblks = pEnc->current->sStat.mblks;
1101 :     pResult->ublks = pEnc->current->sStat.ublks;
1102 : suxen_drol 1.32 }
1103 :    
1104 : edgomez 1.42 emms();
1105 : edgomez 1.40
1106 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1107 : edgomez 1.41 psnr =
1108 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1109 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1110 :     pEnc->mbParam.height);
1111 : suxen_drol 1.32
1112 : chl 1.76.2.35 printf("PSNR: %f\n", psnr);
1113 :     // DEBUG(temp);
1114 : suxen_drol 1.32 #endif
1115 :    
1116 : edgomez 1.41 if (pFrame->quant == 0) {
1117 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1118 :     pFrame->length, pFrame->intra);
1119 : suxen_drol 1.32 }
1120 :    
1121 :     stop_global_timer();
1122 :     write_timer();
1123 :    
1124 : suxen_drol 1.76.2.16 emms();
1125 : suxen_drol 1.32 return XVID_ERR_OK;
1126 :     }
1127 : suxen_drol 1.44
1128 :    
1129 :    
1130 : edgomez 1.40 /*****************************************************************************
1131 : suxen_drol 1.44 * "original" IP frame encoder entry point
1132 :     *
1133 :     * Returned values :
1134 :     * - XVID_ERR_OK - no errors
1135 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1136 :     * format
1137 : edgomez 1.40 ****************************************************************************/
1138 : suxen_drol 1.44
1139 : edgomez 1.40 int
1140 :     encoder_encode(Encoder * pEnc,
1141 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
1142 :     XVID_ENC_STATS * pResult)
1143 : Isibaar 1.1 {
1144 : edgomez 1.3 uint16_t x, y;
1145 :     Bitstream bs;
1146 :     uint32_t bits;
1147 : Isibaar 1.2 uint16_t write_vol_header = 0;
1148 : edgomez 1.41
1149 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1150 : Isibaar 1.23 float psnr;
1151 : edgomez 1.40 uint8_t temp[128];
1152 : Isibaar 1.23 #endif
1153 : Isibaar 1.1
1154 :     start_global_timer();
1155 :    
1156 : edgomez 1.3 ENC_CHECK(pEnc);
1157 :     ENC_CHECK(pFrame);
1158 :     ENC_CHECK(pFrame->bitstream);
1159 :     ENC_CHECK(pFrame->image);
1160 : Isibaar 1.1
1161 : suxen_drol 1.76.2.32 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
1162 : suxen_drol 1.27
1163 :     pEnc->current->global_flags = pFrame->general;
1164 :     pEnc->current->motion_flags = pFrame->motion;
1165 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
1166 : Isibaar 1.1
1167 : chl 1.76.2.8 inc_frame_num(pEnc);
1168 :    
1169 : h 1.76.2.2 /* disable alternate scan flag if interlacing is not enabled */
1170 :     if ((pEnc->current->global_flags & XVID_ALTERNATESCAN) &&
1171 :     !(pEnc->current->global_flags & XVID_INTERLACING))
1172 :     {
1173 :     pEnc->current->global_flags -= XVID_ALTERNATESCAN;
1174 :     }
1175 :    
1176 : Isibaar 1.1 start_timer();
1177 : edgomez 1.41 if (image_input
1178 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1179 : suxen_drol 1.76.2.16 pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING) < 0)
1180 : Isibaar 1.1 return XVID_ERR_FORMAT;
1181 :     stop_conv_timer();
1182 :    
1183 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1184 : edgomez 1.41 image_copy(&pEnc->sOriginal, &pEnc->current->image,
1185 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1186 : Isibaar 1.23 #endif
1187 :    
1188 : edgomez 1.42 emms();
1189 : suxen_drol 1.27
1190 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
1191 : Isibaar 1.1
1192 : edgomez 1.41 if (pFrame->quant == 0) {
1193 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1194 :     } else {
1195 : suxen_drol 1.27 pEnc->current->quant = pFrame->quant;
1196 : Isibaar 1.1 }
1197 :    
1198 : Isibaar 1.76.2.12 if ((pEnc->current->global_flags & XVID_QUARTERPEL))
1199 :     pEnc->mbParam.m_quarterpel = 1;
1200 :     else
1201 :     pEnc->mbParam.m_quarterpel = 0;
1202 :    
1203 : edgomez 1.41 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1204 :     int *temp_dquants =
1205 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
1206 :     pEnc->mbParam.mb_height * sizeof(int),
1207 :     CACHE_LINE);
1208 :    
1209 : edgomez 1.40 pEnc->current->quant =
1210 :     adaptive_quantization(pEnc->current->image.y,
1211 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
1212 :     pEnc->current->quant, pEnc->current->quant,
1213 :     2 * pEnc->current->quant,
1214 :     pEnc->mbParam.mb_width,
1215 :     pEnc->mbParam.mb_height);
1216 :    
1217 :     for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1218 : edgomez 1.40
1219 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1220 :    
1221 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1222 : edgomez 1.40
1223 :    
1224 : edgomez 1.41 MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1225 : edgomez 1.40
1226 : edgomez 1.41 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1227 : Isibaar 1.1 }
1228 : edgomez 1.40
1229 : edgomez 1.41 #undef OFFSET
1230 : edgomez 1.40 }
1231 :    
1232 : Isibaar 1.7 xvid_free(temp_dquants);
1233 : Isibaar 1.1 }
1234 :    
1235 : edgomez 1.41 if (pEnc->current->global_flags & XVID_H263QUANT) {
1236 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
1237 : Isibaar 1.4 write_vol_header = 1;
1238 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = H263_QUANT;
1239 : edgomez 1.41 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1240 : edgomez 1.40 int matrix1_changed, matrix2_changed;
1241 : Isibaar 1.1
1242 : edgomez 1.40 matrix1_changed = matrix2_changed = 0;
1243 : edgomez 1.13
1244 : edgomez 1.41 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1245 : Isibaar 1.4 write_vol_header = 1;
1246 : edgomez 1.41
1247 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1248 : edgomez 1.41
1249 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1250 : edgomez 1.41 if (pFrame->quant_intra_matrix != NULL)
1251 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1252 :     if (pFrame->quant_inter_matrix != NULL)
1253 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1254 :     } else {
1255 : edgomez 1.40 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1256 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1257 : Isibaar 1.4 }
1258 : edgomez 1.41 if (write_vol_header == 0)
1259 : edgomez 1.40 write_vol_header = matrix1_changed | matrix2_changed;
1260 : Isibaar 1.2 }
1261 : Isibaar 1.1
1262 : edgomez 1.41 if (pFrame->intra < 0) {
1263 :     if ((pEnc->iFrameNum == 0)
1264 : suxen_drol 1.76.2.26 || ((pEnc->mbParam.iMaxKeyInterval > 0)
1265 :     && (pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval))) {
1266 : edgomez 1.41 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1267 :     } else {
1268 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1269 : edgomez 1.40 }
1270 : edgomez 1.41 } else {
1271 :     if (pFrame->intra == 1) {
1272 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1273 :     } else {
1274 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1275 : edgomez 1.40 }
1276 :    
1277 : edgomez 1.3 }
1278 : Isibaar 1.1
1279 : chl 1.76.2.37 // BitstreamPutBits(&bs, 0xFFFF, 16);
1280 :     // BitstreamPutBits(&bs, 0xFFFF, 16);
1281 :     BitstreamPadAlways(&bs);
1282 : edgomez 1.3 pFrame->length = BitstreamLength(&bs);
1283 : h 1.5
1284 : edgomez 1.41 if (pResult) {
1285 : suxen_drol 1.27 pResult->quant = pEnc->current->quant;
1286 : suxen_drol 1.76.2.24 pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
1287 :     pResult->kblks = pEnc->current->sStat.kblks;
1288 :     pResult->mblks = pEnc->current->sStat.mblks;
1289 :     pResult->ublks = pEnc->current->sStat.ublks;
1290 : edgomez 1.3 }
1291 : edgomez 1.41
1292 : edgomez 1.42 emms();
1293 : Isibaar 1.7
1294 : edgomez 1.41 if (pFrame->quant == 0) {
1295 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1296 :     pFrame->length, pFrame->intra);
1297 : Isibaar 1.1 }
1298 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1299 : edgomez 1.41 psnr =
1300 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1301 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1302 :     pEnc->mbParam.height);
1303 : Isibaar 1.23
1304 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
1305 : chl 1.76.2.35 // DEBUG(temp);
1306 : Isibaar 1.23 #endif
1307 : Isibaar 1.1
1308 :     pEnc->iFrameNum++;
1309 : edgomez 1.41
1310 : Isibaar 1.1 stop_global_timer();
1311 :     write_timer();
1312 :    
1313 :     return XVID_ERR_OK;
1314 :     }
1315 :    
1316 :    
1317 : edgomez 1.41 static __inline void
1318 :     CodeIntraMB(Encoder * pEnc,
1319 :     MACROBLOCK * pMB)
1320 :     {
1321 : Isibaar 1.1
1322 :     pMB->mode = MODE_INTRA;
1323 :    
1324 : suxen_drol 1.27 /* zero mv statistics */
1325 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1326 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1327 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1328 :     pMB->sad16 = 0;
1329 :    
1330 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1331 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
1332 : Isibaar 1.1 pMB->mode = MODE_INTRA_Q;
1333 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
1334 : edgomez 1.41
1335 :     if (pEnc->current->quant > 31)
1336 :     pEnc->current->quant = 31;
1337 :     if (pEnc->current->quant < 1)
1338 :     pEnc->current->quant = 1;
1339 : Isibaar 1.1 }
1340 :     }
1341 :    
1342 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
1343 : Isibaar 1.1 }
1344 :    
1345 :    
1346 : h 1.20 #define FCODEBITS 3
1347 :     #define MODEBITS 5
1348 :    
1349 : edgomez 1.41 void
1350 :     HintedMESet(Encoder * pEnc,
1351 :     int *intra)
1352 : h 1.20 {
1353 : edgomez 1.41 HINTINFO *hint;
1354 : h 1.20 Bitstream bs;
1355 :     int length, high;
1356 :     uint32_t x, y;
1357 :    
1358 :     hint = pEnc->mbParam.hint;
1359 :    
1360 : edgomez 1.41 if (hint->rawhints) {
1361 : h 1.20 *intra = hint->mvhint.intra;
1362 : edgomez 1.41 } else {
1363 : h 1.20 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1364 :     *intra = BitstreamGetBit(&bs);
1365 :     }
1366 :    
1367 : edgomez 1.41 if (*intra) {
1368 : h 1.20 return;
1369 :     }
1370 :    
1371 : edgomez 1.41 pEnc->current->fcode =
1372 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1373 :     FCODEBITS);
1374 :    
1375 :     length = pEnc->current->fcode + 5;
1376 :     high = 1 << (length - 1);
1377 :    
1378 :     for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1379 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1380 :     MACROBLOCK *pMB =
1381 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1382 :     MVBLOCKHINT *bhint =
1383 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1384 : chl 1.53 VECTOR pred;
1385 : h 1.20 VECTOR tmp;
1386 :     int vec;
1387 :    
1388 : edgomez 1.41 pMB->mode =
1389 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1390 :     MODEBITS);
1391 : h 1.20
1392 : h 1.26 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1393 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1394 :    
1395 : edgomez 1.41 if (pMB->mode == MODE_INTER) {
1396 :     tmp.x =
1397 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1398 :     length);
1399 :     tmp.y =
1400 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1401 :     length);
1402 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1403 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1404 :    
1405 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
1406 : edgomez 1.41
1407 :     for (vec = 0; vec < 4; ++vec) {
1408 :     pMB->mvs[vec].x = tmp.x;
1409 :     pMB->mvs[vec].y = tmp.y;
1410 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
1411 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
1412 : h 1.20 }
1413 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1414 :     for (vec = 0; vec < 4; ++vec) {
1415 :     tmp.x =
1416 :     (hint->rawhints) ? bhint->mvs[vec].
1417 :     x : BitstreamGetBits(&bs, length);
1418 :     tmp.y =
1419 :     (hint->rawhints) ? bhint->mvs[vec].
1420 :     y : BitstreamGetBits(&bs, length);
1421 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1422 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1423 : h 1.20
1424 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
1425 : h 1.20
1426 : edgomez 1.41 pMB->mvs[vec].x = tmp.x;
1427 :     pMB->mvs[vec].y = tmp.y;
1428 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
1429 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
1430 : h 1.20 }
1431 : edgomez 1.41 } else // intra / stuffing / not_coded
1432 : h 1.20 {
1433 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1434 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1435 : h 1.26 }
1436 :     }
1437 :    
1438 : suxen_drol 1.27 if (pMB->mode == MODE_INTER4V &&
1439 : edgomez 1.41 (pEnc->current->global_flags & XVID_LUMIMASKING)
1440 :     && pMB->dquant != NO_CHANGE) {
1441 : h 1.26 pMB->mode = MODE_INTRA;
1442 :    
1443 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1444 : h 1.26 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1445 : h 1.20 }
1446 :     }
1447 :     }
1448 :     }
1449 :     }
1450 :    
1451 :    
1452 : edgomez 1.41 void
1453 :     HintedMEGet(Encoder * pEnc,
1454 :     int intra)
1455 : h 1.20 {
1456 : edgomez 1.41 HINTINFO *hint;
1457 : h 1.20 Bitstream bs;
1458 :     uint32_t x, y;
1459 :     int length, high;
1460 :    
1461 :     hint = pEnc->mbParam.hint;
1462 :    
1463 : edgomez 1.41 if (hint->rawhints) {
1464 : h 1.20 hint->mvhint.intra = intra;
1465 : edgomez 1.41 } else {
1466 : h 1.20 BitstreamInit(&bs, hint->hintstream, 0);
1467 :     BitstreamPutBit(&bs, intra);
1468 :     }
1469 :    
1470 : edgomez 1.41 if (intra) {
1471 :     if (!hint->rawhints) {
1472 : chl 1.76.2.37 BitstreamPadAlways(&bs);
1473 : h 1.20 hint->hintlength = BitstreamLength(&bs);
1474 :     }
1475 :     return;
1476 :     }
1477 :    
1478 : edgomez 1.41 length = pEnc->current->fcode + 5;
1479 :     high = 1 << (length - 1);
1480 : h 1.20
1481 : edgomez 1.41 if (hint->rawhints) {
1482 : suxen_drol 1.27 hint->mvhint.fcode = pEnc->current->fcode;
1483 : edgomez 1.41 } else {
1484 : suxen_drol 1.27 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1485 : h 1.20 }
1486 :    
1487 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1488 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1489 :     MACROBLOCK *pMB =
1490 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1491 :     MVBLOCKHINT *bhint =
1492 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1493 : h 1.20 VECTOR tmp;
1494 :    
1495 : edgomez 1.41 if (hint->rawhints) {
1496 : h 1.20 bhint->mode = pMB->mode;
1497 : edgomez 1.41 } else {
1498 : h 1.20 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1499 :     }
1500 :    
1501 : edgomez 1.41 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1502 :     tmp.x = pMB->mvs[0].x;
1503 :     tmp.y = pMB->mvs[0].y;
1504 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1505 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1506 : h 1.20
1507 : edgomez 1.41 if (hint->rawhints) {
1508 : h 1.20 bhint->mvs[0].x = tmp.x;
1509 :     bhint->mvs[0].y = tmp.y;
1510 : edgomez 1.41 } else {
1511 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1512 :     BitstreamPutBits(&bs, tmp.y, length);
1513 :     }
1514 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1515 : h 1.20 int vec;
1516 :    
1517 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1518 :     tmp.x = pMB->mvs[vec].x;
1519 :     tmp.y = pMB->mvs[vec].y;
1520 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1521 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1522 : h 1.20
1523 : edgomez 1.41 if (hint->rawhints) {
1524 : h 1.20 bhint->mvs[vec].x = tmp.x;
1525 :     bhint->mvs[vec].y = tmp.y;
1526 : edgomez 1.41 } else {
1527 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1528 :     BitstreamPutBits(&bs, tmp.y, length);
1529 :     }
1530 :     }
1531 :     }
1532 :     }
1533 :     }
1534 :    
1535 : edgomez 1.41 if (!hint->rawhints) {
1536 : h 1.20 BitstreamPad(&bs);
1537 :     hint->hintlength = BitstreamLength(&bs);
1538 :     }
1539 :     }
1540 :    
1541 :    
1542 : edgomez 1.41 static int
1543 :     FrameCodeI(Encoder * pEnc,
1544 :     Bitstream * bs,
1545 :     uint32_t * pBits)
1546 : h 1.21 {
1547 : suxen_drol 1.76.2.26 int mb_width = pEnc->mbParam.mb_width;
1548 :     int mb_height = pEnc->mbParam.mb_height;
1549 : h 1.21
1550 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1551 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1552 : h 1.21
1553 :     uint16_t x, y;
1554 :    
1555 : suxen_drol 1.76.2.26 if ((pEnc->current->global_flags & XVID_REDUCED))
1556 :     {
1557 :     mb_width = (pEnc->mbParam.width + 31) / 32;
1558 :     mb_height = (pEnc->mbParam.height + 31) / 32;
1559 :    
1560 :     /* 16x16->8x8 downsample requires 1 additional edge pixel*/
1561 :     /* XXX: setedges is overkill */
1562 :     start_timer();
1563 :     image_setedges(&pEnc->current->image,
1564 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1565 :     pEnc->mbParam.width, pEnc->mbParam.height);
1566 :     stop_edges_timer();
1567 :     }
1568 :    
1569 : h 1.21 pEnc->iFrameNum = 0;
1570 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1;
1571 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1572 : chl 1.76.2.14 pEnc->current->quarterpel = pEnc->mbParam.m_quarterpel;
1573 : suxen_drol 1.27 pEnc->current->coding_type = I_VOP;
1574 : h 1.21
1575 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1576 : Isibaar 1.76.2.13
1577 : chl 1.76.2.4 set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1578 : chl 1.76.2.37
1579 :     BitstreamPadAlways(bs);
1580 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1581 : h 1.21
1582 :     *pBits = BitstreamPos(bs);
1583 :    
1584 : suxen_drol 1.76.2.24 pEnc->current->sStat.iTextBits = 0;
1585 : suxen_drol 1.76.2.26 pEnc->current->sStat.kblks = mb_width * mb_height;
1586 : suxen_drol 1.76.2.24 pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;
1587 : h 1.21
1588 : suxen_drol 1.76.2.26 for (y = 0; y < mb_height; y++)
1589 :     for (x = 0; x < mb_width; x++) {
1590 : edgomez 1.41 MACROBLOCK *pMB =
1591 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1592 : h 1.21
1593 :     CodeIntraMB(pEnc, pMB);
1594 :    
1595 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1596 :     dct_codes, qcoeff);
1597 : h 1.21
1598 :     start_timer();
1599 : suxen_drol 1.27 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1600 : h 1.21 stop_prediction_timer();
1601 :    
1602 :     start_timer();
1603 : chl 1.68 if (pEnc->current->global_flags & XVID_GREYSCALE)
1604 :     { pMB->cbp &= 0x3C; /* keep only bits 5-2 */
1605 :     qcoeff[4*64+0]=0; /* zero, because for INTRA MBs DC value is saved */
1606 :     qcoeff[5*64+0]=0;
1607 :     }
1608 : suxen_drol 1.76.2.24 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1609 : h 1.21 stop_coding_timer();
1610 :     }
1611 :    
1612 : suxen_drol 1.76.2.27 if ((pEnc->current->global_flags & XVID_REDUCED))
1613 :     {
1614 :     image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1615 : suxen_drol 1.76.2.31 pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,
1616 :     16, XVID_DEC_DEBLOCKY|XVID_DEC_DEBLOCKUV);
1617 : suxen_drol 1.76.2.27 }
1618 : h 1.21 emms();
1619 :    
1620 :     *pBits = BitstreamPos(bs) - *pBits;
1621 : suxen_drol 1.76.2.24 pEnc->fMvPrevSigma = -1;
1622 : suxen_drol 1.27 pEnc->mbParam.m_fcode = 2;
1623 : h 1.21
1624 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1625 : h 1.21 HintedMEGet(pEnc, 1);
1626 :     }
1627 :    
1628 : edgomez 1.41 return 1; // intra
1629 : h 1.21 }
1630 :    
1631 :    
1632 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
1633 : chl 1.76.2.1 #define BFRAME_SKIP_THRESHHOLD 30
1634 : Isibaar 1.1
1635 : chl 1.76.2.35
1636 :     /* FrameCodeP also handles S(GMC)-VOPs */
1637 : edgomez 1.41 static int
1638 :     FrameCodeP(Encoder * pEnc,
1639 :     Bitstream * bs,
1640 :     uint32_t * pBits,
1641 :     bool force_inter,
1642 :     bool vol_header)
1643 : Isibaar 1.1 {
1644 : edgomez 1.3 float fSigma;
1645 : edgomez 1.13
1646 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1647 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1648 : Isibaar 1.8
1649 : suxen_drol 1.76.2.26 int mb_width = pEnc->mbParam.mb_width;
1650 :     int mb_height = pEnc->mbParam.mb_height;
1651 :    
1652 : Isibaar 1.1 int iLimit;
1653 : chl 1.69 int x, y, k;
1654 : edgomez 1.3 int iSearchRange;
1655 : Isibaar 1.76.2.12 int bIntra, skip_possible;
1656 : suxen_drol 1.49
1657 : edgomez 1.29 /* IMAGE *pCurrent = &pEnc->current->image; */
1658 : suxen_drol 1.27 IMAGE *pRef = &pEnc->reference->image;
1659 : Isibaar 1.1
1660 : suxen_drol 1.76.2.26 if ((pEnc->current->global_flags & XVID_REDUCED))
1661 :     {
1662 : suxen_drol 1.76.2.27 mb_width = (pEnc->mbParam.width + 31) / 32;
1663 :     mb_height = (pEnc->mbParam.height + 31) / 32;
1664 : suxen_drol 1.76.2.26 }
1665 : suxen_drol 1.76.2.27
1666 : suxen_drol 1.76.2.26
1667 : h 1.11 start_timer();
1668 : edgomez 1.41 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1669 : h 1.76.2.2 pEnc->mbParam.width, pEnc->mbParam.height);
1670 : h 1.11 stop_edges_timer();
1671 : Isibaar 1.1
1672 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1673 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1674 : chl 1.76.2.14 pEnc->current->quarterpel = pEnc->mbParam.m_quarterpel;
1675 : suxen_drol 1.27 pEnc->current->fcode = pEnc->mbParam.m_fcode;
1676 : Isibaar 1.1
1677 :     if (!force_inter)
1678 : suxen_drol 1.76.2.26 iLimit = (int)(mb_width * mb_height * INTRA_THRESHOLD);
1679 : edgomez 1.3 else
1680 : suxen_drol 1.76.2.26 iLimit = mb_width * mb_height + 1;
1681 : Isibaar 1.1
1682 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1683 : Isibaar 1.1 start_timer();
1684 : edgomez 1.41 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1685 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1686 :     pEnc->mbParam.edged_height,
1687 : Isibaar 1.76.2.12 pEnc->mbParam.m_quarterpel,
1688 : edgomez 1.41 pEnc->current->rounding_type);
1689 : Isibaar 1.1 stop_inter_timer();
1690 :     }
1691 :    
1692 : chl 1.76.2.35 pEnc->current->coding_type = P_VOP;
1693 : chl 1.76.2.14
1694 : Isibaar 1.1 start_timer();
1695 : syskin 1.76.2.30 if (pEnc->current->global_flags & XVID_HINTEDME_SET)
1696 : h 1.20 HintedMESet(pEnc, &bIntra);
1697 : syskin 1.76.2.30 else
1698 : chl 1.76.2.14 bIntra =
1699 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1700 : suxen_drol 1.55 &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1701 :     iLimit);
1702 : syskin 1.76.2.30
1703 : Isibaar 1.1 stop_motion_timer();
1704 :    
1705 : chl 1.76.2.1 if (bIntra == 1) return FrameCodeI(pEnc, bs, pBits);
1706 : Isibaar 1.1
1707 : chl 1.76.2.35 if ( ( pEnc->current->global_flags & XVID_GMC )
1708 :     && ( (pEnc->current->warp.duv[1].x != 0) || (pEnc->current->warp.duv[1].y != 0) ) )
1709 :     {
1710 :     pEnc->current->coding_type = S_VOP;
1711 :    
1712 :     generate_GMCparameters( 2, 16, &pEnc->current->warp,
1713 :     pEnc->mbParam.width, pEnc->mbParam.height,
1714 :     &pEnc->current->gmc_data);
1715 :    
1716 :     generate_GMCimage(&pEnc->current->gmc_data, &pEnc->reference->image,
1717 :     pEnc->mbParam.mb_width, pEnc->mbParam.mb_height,
1718 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_width/2,
1719 : chl 1.76.2.36 pEnc->mbParam.m_fcode, pEnc->mbParam.m_quarterpel, 0,
1720 : chl 1.76.2.35 pEnc->current->rounding_type, pEnc->current->mbs, &pEnc->vGMC);
1721 : chl 1.76.2.14
1722 : chl 1.76.2.35 }
1723 : Isibaar 1.1
1724 : chl 1.76.2.4 set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1725 : chl 1.76.2.37 if (vol_header)
1726 :     { BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1727 :     BitstreamPadAlways(bs);
1728 :     }
1729 :    
1730 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1731 : edgomez 1.3
1732 :     *pBits = BitstreamPos(bs);
1733 :    
1734 : suxen_drol 1.76.2.24 pEnc->current->sStat.iTextBits = pEnc->current->sStat.iMvSum = pEnc->current->sStat.iMvCount =
1735 :     pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;
1736 : Isibaar 1.1
1737 : chl 1.76.2.35
1738 : suxen_drol 1.76.2.26 for (y = 0; y < mb_height; y++) {
1739 :     for (x = 0; x < mb_width; x++) {
1740 : edgomez 1.41 MACROBLOCK *pMB =
1741 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1742 : Isibaar 1.1
1743 : chl 1.76.2.35 /* Mode decision: Check, if the block should be INTRA / INTER or GMC-coded */
1744 :     /* For a start, leave INTRA decision as is, only choose only between INTER/GMC - gruel, 9.1.2002 */
1745 : Isibaar 1.1
1746 : chl 1.76.2.35 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1747 : h 1.11
1748 : chl 1.76.2.35 if (bIntra) {
1749 : Isibaar 1.1 CodeIntraMB(pEnc, pMB);
1750 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1751 :     dct_codes, qcoeff);
1752 : chl 1.76.2.35
1753 :     start_timer();
1754 :     MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1755 :     stop_prediction_timer();
1756 :    
1757 :     pEnc->current->sStat.kblks++;
1758 :    
1759 :     MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1760 : chl 1.76.2.36 stop_coding_timer();
1761 : chl 1.76.2.35 continue;
1762 :     }
1763 :    
1764 :     if (pEnc->current->coding_type == S_VOP) {
1765 :    
1766 :     int32_t iSAD = sad16(pEnc->current->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1767 :     pEnc->vGMC.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1768 : chl 1.76.2.36 pEnc->mbParam.edged_width, 65536);
1769 :    
1770 : chl 1.76.2.35 if (iSAD <= pMB->sad16) { /* mode decision GMC */
1771 : chl 1.76.2.36
1772 : chl 1.76.2.35 if (pEnc->mbParam.m_quarterpel)
1773 : chl 1.76.2.36 pMB->qmvs[0] = pMB->qmvs[1] = pMB->qmvs[2] = pMB->qmvs[3] = pMB->amv;
1774 : chl 1.76.2.35 else
1775 : chl 1.76.2.36 pMB->mvs[0] = pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->amv;
1776 : chl 1.76.2.35
1777 :     pMB->mode = MODE_INTER;
1778 :     pMB->mcsel = 1;
1779 :     pMB->sad16 = iSAD;
1780 :     } else {
1781 :     pMB->mcsel = 0;
1782 :     }
1783 : chl 1.76.2.36 } else {
1784 : chl 1.76.2.35 pMB->mcsel = 0; /* just a precaution */
1785 : Isibaar 1.1 }
1786 :    
1787 : edgomez 1.3 start_timer();
1788 : chl 1.76.2.35 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1789 :     &pEnc->vInterH, &pEnc->vInterV,
1790 :     &pEnc->vInterHV, &pEnc->vGMC,
1791 :     &pEnc->current->image,
1792 :     dct_codes, pEnc->mbParam.width,
1793 :     pEnc->mbParam.height,
1794 :     pEnc->mbParam.edged_width,
1795 :     pEnc->mbParam.m_quarterpel,
1796 :     (pEnc->current->global_flags & XVID_REDUCED),
1797 :     pEnc->current->rounding_type);
1798 :    
1799 :     stop_comp_timer();
1800 :    
1801 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1802 :     if (pMB->dquant != NO_CHANGE) {
1803 :     pMB->mode = MODE_INTER_Q;
1804 :     pEnc->current->quant += DQtab[pMB->dquant];
1805 :     if (pEnc->current->quant > 31)
1806 :     pEnc->current->quant = 31;
1807 :     else if (pEnc->current->quant < 1)
1808 :     pEnc->current->quant = 1;
1809 :     }
1810 :     }
1811 :     pMB->quant = pEnc->current->quant;
1812 : Isibaar 1.1
1813 : chl 1.76.2.35 pMB->field_pred = 0;
1814 :    
1815 :     if (pMB->mode != MODE_NOT_CODED)
1816 :     { pMB->cbp =
1817 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1818 :     dct_codes, qcoeff);
1819 :     }
1820 :    
1821 :     if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1822 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1823 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1824 : suxen_drol 1.76.2.24 pEnc->current->sStat.mblks++;
1825 : chl 1.64 } else {
1826 : suxen_drol 1.76.2.24 pEnc->current->sStat.ublks++;
1827 : chl 1.76.2.35 }
1828 :    
1829 : Isibaar 1.1 start_timer();
1830 : chl 1.65
1831 :     /* Finished processing the MB, now check if to CODE or SKIP */
1832 :    
1833 : chl 1.76.2.36 skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&
1834 : Isibaar 1.76.2.12 (pMB->dquant == NO_CHANGE);
1835 : chl 1.76.2.14
1836 : chl 1.76.2.35 if (pEnc->current->coding_type == S_VOP)
1837 :     skip_possible &= (pMB->mcsel == 1);
1838 :     else if (pEnc->current->coding_type == P_VOP) {
1839 :     if (pEnc->mbParam.m_quarterpel)
1840 : chl 1.76.2.36 skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );
1841 : chl 1.76.2.35 else
1842 : chl 1.76.2.36 skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );
1843 : chl 1.76.2.35 }
1844 :    
1845 : chl 1.76.2.14 if ( (pMB->mode == MODE_NOT_CODED) || (skip_possible)) {
1846 : chl 1.65
1847 : chl 1.76.2.14 /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */
1848 : chl 1.65
1849 : chl 1.76.2.14 if (pEnc->current->coding_type == P_VOP) /* special rule for P-VOP's SKIP */
1850 : chl 1.76.2.35 {
1851 :     int bSkip = 1;
1852 :    
1853 : chl 1.76.2.14 for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)
1854 :     {
1855 :     int iSAD;
1856 :     iSAD = sad16(pEnc->reference->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1857 :     pEnc->bframes[k]->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1858 : chl 1.65 pEnc->mbParam.edged_width,BFRAME_SKIP_THRESHHOLD);
1859 : chl 1.76.2.14 if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)
1860 :     { bSkip = 0;
1861 :     break;
1862 :     }
1863 : chl 1.65 }
1864 : chl 1.76.2.14
1865 : chl 1.76.2.35 if (!bSkip) { /* no SKIP, but trivial block */
1866 :     if(pEnc->mbParam.m_quarterpel) {
1867 :     VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1868 :     pMB->pmvs[0].x = - predMV.x;
1869 :     pMB->pmvs[0].y = - predMV.y;
1870 :     }
1871 :     else {
1872 :     VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1873 :     pMB->pmvs[0].x = - predMV.x;
1874 :     pMB->pmvs[0].y = - predMV.y;
1875 :     }
1876 :     pMB->mode = MODE_INTER;
1877 :     pMB->cbp = 0;
1878 :     MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1879 :     stop_coding_timer();
1880 : chl 1.76.2.36
1881 : chl 1.76.2.35 continue; /* next MB */
1882 : chl 1.76.2.14 }
1883 : chl 1.65 }
1884 : chl 1.76.2.35 /* do SKIP */
1885 :    
1886 :     pMB->mode = MODE_NOT_CODED;
1887 :     MBSkip(bs);
1888 :     stop_coding_timer();
1889 :     continue; /* next MB */
1890 :     }
1891 :     /* ordinary case: normal coded INTER/INTER4V block */
1892 :    
1893 :     if (pEnc->current->global_flags & XVID_GREYSCALE)
1894 :     { pMB->cbp &= 0x3C; /* keep only bits 5-2 */
1895 :     qcoeff[4*64+0]=0; /* zero, because DC for INTRA MBs DC value is saved */
1896 :     qcoeff[5*64+0]=0;
1897 :     }
1898 :    
1899 :     if(pEnc->mbParam.m_quarterpel) {
1900 :     VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1901 :     pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;
1902 :     pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;
1903 :     DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1904 : chl 1.65 } else {
1905 : chl 1.76.2.35 VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1906 :     pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;
1907 :     pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;
1908 :     DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1909 : chl 1.65 }
1910 :    
1911 : chl 1.76.2.35
1912 :     if (pMB->mode == MODE_INTER4V)
1913 :     { int k;
1914 :     for (k=1;k<4;k++)
1915 :     {
1916 :     if(pEnc->mbParam.m_quarterpel) {
1917 :     VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);
1918 :     pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;
1919 :     pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;
1920 :     DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1921 :     } else {
1922 :     VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);
1923 :     pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;
1924 :     pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;
1925 :     DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1926 :     }
1927 :    
1928 :     }
1929 :     }
1930 : chl 1.76.2.36
1931 : chl 1.76.2.35 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1932 : Isibaar 1.1 stop_coding_timer();
1933 : chl 1.76.2.36
1934 : Isibaar 1.1 }
1935 :     }
1936 :    
1937 : suxen_drol 1.76.2.27 if ((pEnc->current->global_flags & XVID_REDUCED))
1938 :     {
1939 :     image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1940 : suxen_drol 1.76.2.31 pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,
1941 :     16, XVID_DEC_DEBLOCKY|XVID_DEC_DEBLOCKUV);
1942 : suxen_drol 1.76.2.27 }
1943 :    
1944 : Isibaar 1.1 emms();
1945 : h 1.20
1946 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1947 : h 1.20 HintedMEGet(pEnc, 0);
1948 :     }
1949 : Isibaar 1.1
1950 : suxen_drol 1.76.2.24 if (pEnc->current->sStat.iMvCount == 0)
1951 :     pEnc->current->sStat.iMvCount = 1;
1952 : Isibaar 1.1
1953 : suxen_drol 1.76.2.24 fSigma = (float) sqrt((float) pEnc->current->sStat.iMvSum / pEnc->current->sStat.iMvCount);
1954 : Isibaar 1.1
1955 : suxen_drol 1.27 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1956 : Isibaar 1.1
1957 : edgomez 1.41 if ((fSigma > iSearchRange / 3)
1958 : Isibaar 1.76.2.12 && (pEnc->mbParam.m_fcode <= (3 + pEnc->mbParam.m_quarterpel))) // maximum search range 128
1959 : edgomez 1.3 {
1960 : suxen_drol 1.27 pEnc->mbParam.m_fcode++;
1961 : Isibaar 1.1 iSearchRange *= 2;
1962 : edgomez 1.41 } else if ((fSigma < iSearchRange / 6)
1963 : suxen_drol 1.76.2.24 && (pEnc->fMvPrevSigma >= 0)
1964 :     && (pEnc->fMvPrevSigma < iSearchRange / 6)
1965 : Isibaar 1.76.2.12 && (pEnc->mbParam.m_fcode >= (2 + pEnc->mbParam.m_quarterpel))) // minimum search range 16
1966 : edgomez 1.3 {
1967 : suxen_drol 1.27 pEnc->mbParam.m_fcode--;
1968 : Isibaar 1.1 iSearchRange /= 2;
1969 : edgomez 1.3 }
1970 : Isibaar 1.1
1971 : suxen_drol 1.76.2.24 pEnc->fMvPrevSigma = fSigma;
1972 : suxen_drol 1.60
1973 :     /* frame drop code */
1974 : chl 1.76.2.35 DPRINTF(DPRINTF_DEBUG, "kmu %i %i %i", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);
1975 : suxen_drol 1.76.2.24 if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <
1976 : suxen_drol 1.76.2.26 (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)
1977 : suxen_drol 1.60 {
1978 : suxen_drol 1.76.2.24 pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = 0;
1979 : suxen_drol 1.76.2.26 pEnc->current->sStat.ublks = mb_width * mb_height;
1980 : suxen_drol 1.60
1981 :     BitstreamReset(bs);
1982 : chl 1.76.2.4
1983 :     set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1984 : suxen_drol 1.60 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 0);
1985 :    
1986 :     // copy reference frame details into the current frame
1987 :     pEnc->current->quant = pEnc->reference->quant;
1988 :     pEnc->current->motion_flags = pEnc->reference->motion_flags;
1989 :     pEnc->current->rounding_type = pEnc->reference->rounding_type;
1990 : chl 1.76.2.14 pEnc->current->quarterpel = pEnc->reference->quarterpel;
1991 : suxen_drol 1.60 pEnc->current->fcode = pEnc->reference->fcode;
1992 :     pEnc->current->bcode = pEnc->reference->bcode;
1993 :     image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
1994 : suxen_drol 1.76.2.26 memcpy(pEnc->current->mbs, pEnc->reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
1995 :     }
1996 : suxen_drol 1.60
1997 : suxen_drol 1.76.2.26 /* XXX: debug
1998 :     {
1999 :     char s[100];
2000 :     sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);
2001 :     image_dump_yuvpgm(&pEnc->current->image,
2002 :     pEnc->mbParam.edged_width,
2003 :     pEnc->mbParam.width, pEnc->mbParam.height, s);
2004 :    
2005 :     sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);
2006 :     image_dump_yuvpgm(&pEnc->reference->image,
2007 :     pEnc->mbParam.edged_width,
2008 :     pEnc->mbParam.width, pEnc->mbParam.height, s);
2009 : suxen_drol 1.76.2.27 }
2010 : suxen_drol 1.76.2.26 */
2011 : suxen_drol 1.76.2.27
2012 : edgomez 1.41
2013 : Isibaar 1.1 *pBits = BitstreamPos(bs) - *pBits;
2014 :    
2015 : edgomez 1.41 return 0; // inter
2016 : Isibaar 1.1 }
2017 : suxen_drol 1.24
2018 :    
2019 : suxen_drol 1.76.2.25 static void
2020 : edgomez 1.41 FrameCodeB(Encoder * pEnc,
2021 :     FRAMEINFO * frame,
2022 :     Bitstream * bs,
2023 :     uint32_t * pBits)
2024 : suxen_drol 1.24 {
2025 : suxen_drol 1.76.2.33 DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
2026 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
2027 : edgomez 1.41 uint32_t x, y;
2028 : suxen_drol 1.24
2029 : edgomez 1.41 IMAGE *f_ref = &pEnc->reference->image;
2030 : suxen_drol 1.24 IMAGE *b_ref = &pEnc->current->image;
2031 :    
2032 : chenm001 1.54 #ifdef BFRAMES_DEC_DEBUG
2033 :     FILE *fp;
2034 :     static char first=0;
2035 :     #define BFRAME_DEBUG if (!first && fp){ \
2036 :     fprintf(fp,"Y=%3d X=%3d MB=%2d CBP=%02X\n",y,x,mb->mode,mb->cbp); \
2037 :     }
2038 :    
2039 : suxen_drol 1.76.2.26 pEnc->current->global_flags &= ~XVID_REDUCED; /* reduced resoltion not yet supported */
2040 :    
2041 : chenm001 1.54 if (!first){
2042 :     fp=fopen("C:\\XVIDDBGE.TXT","w");
2043 :     }
2044 :     #endif
2045 : chl 1.76.2.14
2046 :     frame->quarterpel = pEnc->mbParam.m_quarterpel;
2047 : syskin 1.76.2.21
2048 : suxen_drol 1.32 // forward
2049 : edgomez 1.41 image_setedges(f_ref, pEnc->mbParam.edged_width,
2050 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
2051 : h 1.76.2.2 pEnc->mbParam.height);
2052 : suxen_drol 1.24 start_timer();
2053 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
2054 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
2055 : Isibaar 1.76.2.12 pEnc->mbParam.m_quarterpel, 0);
2056 : suxen_drol 1.24 stop_inter_timer();
2057 :    
2058 : suxen_drol 1.32 // backward
2059 : edgomez 1.41 image_setedges(b_ref, pEnc->mbParam.edged_width,
2060 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
2061 : h 1.76.2.2 pEnc->mbParam.height);
2062 : edgomez 1.41 start_timer();
2063 : suxen_drol 1.24 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
2064 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
2065 : Isibaar 1.76.2.12 pEnc->mbParam.m_quarterpel, 0);
2066 : suxen_drol 1.24 stop_inter_timer();
2067 :    
2068 :     start_timer();
2069 : chl 1.76.2.4
2070 : chl 1.57 MotionEstimationBVOP(&pEnc->mbParam, frame,
2071 : chl 1.76.2.5 ((int32_t)(pEnc->current->stamp - frame->stamp)), // time_bp
2072 : chl 1.76.2.4 ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)), // time_pp
2073 :     pEnc->reference->mbs, f_ref,
2074 : edgomez 1.41 &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
2075 : syskin 1.76.2.18 pEnc->current, b_ref, &pEnc->vInterH,
2076 : edgomez 1.41 &pEnc->vInterV, &pEnc->vInterHV);
2077 :    
2078 : suxen_drol 1.24
2079 :     stop_motion_timer();
2080 : edgomez 1.41
2081 : suxen_drol 1.32 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
2082 : edgomez 1.41 {
2083 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
2084 :     } */
2085 : suxen_drol 1.24
2086 : edgomez 1.41 frame->coding_type = B_VOP;
2087 : chl 1.76.2.4
2088 :     set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
2089 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
2090 : edgomez 1.29
2091 : edgomez 1.41 *pBits = BitstreamPos(bs);
2092 : edgomez 1.29
2093 : suxen_drol 1.76.2.24 frame->sStat.iTextBits = 0;
2094 :     frame->sStat.iMvSum = 0;
2095 :     frame->sStat.iMvCount = 0;
2096 :     frame->sStat.kblks = frame->sStat.mblks = frame->sStat.ublks = 0;
2097 : suxen_drol 1.24
2098 :    
2099 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
2100 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
2101 : chl 1.76.2.1 MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
2102 : suxen_drol 1.76.2.26 int direction = pEnc->mbParam.global & XVID_ALTERNATESCAN ? 2 : 0;
2103 : suxen_drol 1.24
2104 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
2105 : edgomez 1.41 if (mb->mode == MODE_NOT_CODED) {
2106 : chl 1.76.2.1 //mb->mvs[0].x = mb->mvs[0].y = mb->cbp = 0;
2107 : suxen_drol 1.24 continue;
2108 :     }
2109 :    
2110 : chl 1.76.2.1 if (mb->mode != MODE_DIRECT_NONE_MV) {
2111 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
2112 : edgomez 1.41 f_ref, &pEnc->f_refh, &pEnc->f_refv,
2113 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
2114 :     &pEnc->vInterV, &pEnc->vInterHV,
2115 :     dct_codes);
2116 :    
2117 : chl 1.76.2.1 if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;
2118 :     mb->quant = frame->quant;
2119 :    
2120 :     mb->cbp =
2121 :     MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, dct_codes, qcoeff);
2122 : edgomez 1.41
2123 : chl 1.76.2.1 if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)
2124 :     && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {
2125 :     mb->mode = MODE_DIRECT_NONE_MV; // skipped
2126 :     }
2127 : suxen_drol 1.24 }
2128 :    
2129 : chenm001 1.54 #ifdef BFRAMES_DEC_DEBUG
2130 :     BFRAME_DEBUG
2131 :     #endif
2132 : edgomez 1.41 start_timer();
2133 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
2134 : suxen_drol 1.76.2.24 &frame->sStat, direction);
2135 : suxen_drol 1.24 stop_coding_timer();
2136 :     }
2137 :     }
2138 :    
2139 :     emms();
2140 :    
2141 :     // TODO: dynamic fcode/bcode ???
2142 :    
2143 :     *pBits = BitstreamPos(bs) - *pBits;
2144 : chenm001 1.54
2145 :     #ifdef BFRAMES_DEC_DEBUG
2146 :     if (!first){
2147 :     first=1;
2148 :     if (fp)
2149 :     fclose(fp);
2150 :     }
2151 :     #endif
2152 : suxen_drol 1.24 }

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4