[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.76.2.29 - (view) (download)

1 : edgomez 1.40 /*****************************************************************************
2 : edgomez 1.29 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 1.40 ****************************************************************************/
30 : edgomez 1.29
31 : edgomez 1.40 /*****************************************************************************
32 : edgomez 1.29 *
33 :     * History
34 :     *
35 : chenm001 1.54 * 10.07.2002 added BFRAMES_DEC_DEBUG support
36 :     * MinChen <chenm001@163.com>
37 :     * 20.06.2002 bframe patch
38 : chenm001 1.36 * 08.05.2002 fix some problem in DEBUG mode;
39 :     * MinChen <chenm001@163.com>
40 : edgomez 1.29 * 14.04.2002 added FrameCodeB()
41 :     *
42 : suxen_drol 1.76.2.29 * $Id: encoder.c,v 1.76.2.28 2002/12/11 10:47:43 syskin Exp $
43 : edgomez 1.29 *
44 : edgomez 1.40 ****************************************************************************/
45 : suxen_drol 1.24
46 : chl 1.64
47 : Isibaar 1.1 #include <stdlib.h>
48 :     #include <stdio.h>
49 :     #include <math.h>
50 : edgomez 1.42 #include <string.h>
51 : Isibaar 1.1
52 :     #include "encoder.h"
53 :     #include "prediction/mbprediction.h"
54 :     #include "global.h"
55 :     #include "utils/timer.h"
56 :     #include "image/image.h"
57 : suxen_drol 1.48 #include "image/font.h"
58 : chl 1.65 #include "motion/sad.h"
59 : suxen_drol 1.32 #include "motion/motion.h"
60 : Isibaar 1.1 #include "bitstream/cbp.h"
61 :     #include "utils/mbfunctions.h"
62 :     #include "bitstream/bitstream.h"
63 :     #include "bitstream/mbcoding.h"
64 :     #include "utils/ratecontrol.h"
65 :     #include "utils/emms.h"
66 :     #include "bitstream/mbcoding.h"
67 :     #include "quant/adapt_quant.h"
68 : Isibaar 1.2 #include "quant/quant_matrix.h"
69 : Isibaar 1.7 #include "utils/mem_align.h"
70 : Isibaar 1.1
71 : edgomez 1.40 /*****************************************************************************
72 :     * Local macros
73 :     ****************************************************************************/
74 :    
75 : Isibaar 1.1 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
76 : suxen_drol 1.27 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
77 : Isibaar 1.1
78 : edgomez 1.40 /*****************************************************************************
79 :     * Local function prototypes
80 :     ****************************************************************************/
81 :    
82 : edgomez 1.39 static int FrameCodeI(Encoder * pEnc,
83 : edgomez 1.41 Bitstream * bs,
84 :     uint32_t * pBits);
85 : edgomez 1.39
86 :     static int FrameCodeP(Encoder * pEnc,
87 : edgomez 1.41 Bitstream * bs,
88 :     uint32_t * pBits,
89 :     bool force_inter,
90 :     bool vol_header);
91 : Isibaar 1.1
92 : edgomez 1.39 static void FrameCodeB(Encoder * pEnc,
93 : edgomez 1.41 FRAMEINFO * frame,
94 :     Bitstream * bs,
95 :     uint32_t * pBits);
96 : Isibaar 1.1
97 : edgomez 1.40 /*****************************************************************************
98 :     * Local data
99 :     ****************************************************************************/
100 :    
101 : edgomez 1.41 static int DQtab[4] = {
102 : Isibaar 1.1 -1, -2, 1, 2
103 :     };
104 :    
105 : edgomez 1.41 static int iDQtab[5] = {
106 : Isibaar 1.1 1, 0, NO_CHANGE, 2, 3
107 :     };
108 :    
109 :    
110 : edgomez 1.40 /*****************************************************************************
111 :     * Encoder creation
112 :     *
113 :     * This function creates an Encoder instance, it allocates all necessary
114 :     * image buffers (reference, current and bframes) and initialize the internal
115 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
116 :     *
117 :     * The code seems to be very long but is very basic, mainly memory allocation
118 :     * and cleaning code.
119 :     *
120 :     * Returned values :
121 :     * - XVID_ERR_OK - no errors
122 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
123 :     * cleans the structure before exiting.
124 :     * pParam->handle is also set to NULL.
125 :     *
126 :     ****************************************************************************/
127 :    
128 :     int
129 :     encoder_create(XVID_ENC_PARAM * pParam)
130 : Isibaar 1.1 {
131 : edgomez 1.3 Encoder *pEnc;
132 : suxen_drol 1.44 int i;
133 : Isibaar 1.1
134 : edgomez 1.3 pParam->handle = NULL;
135 : Isibaar 1.1
136 : edgomez 1.3 ENC_CHECK(pParam);
137 : Isibaar 1.1
138 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
139 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
140 :     ENC_CHECK(!(pParam->width % 2));
141 :     ENC_CHECK(!(pParam->height % 2));
142 : Isibaar 1.1
143 : edgomez 1.39 /* Fps */
144 :    
145 : edgomez 1.41 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
146 : Isibaar 1.1 pParam->fincr = 1;
147 :     pParam->fbase = 25;
148 :     }
149 :    
150 : edgomez 1.39 /*
151 :     * Simplify the "fincr/fbase" fraction
152 :     * (neccessary, since windows supplies us with huge numbers)
153 :     */
154 : Isibaar 1.1
155 :     i = pParam->fincr;
156 : edgomez 1.41 while (i > 1) {
157 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
158 : Isibaar 1.1 pParam->fincr /= i;
159 :     pParam->fbase /= i;
160 :     i = pParam->fincr;
161 :     continue;
162 :     }
163 :     i--;
164 :     }
165 :    
166 : edgomez 1.41 if (pParam->fbase > 65535) {
167 :     float div = (float) pParam->fbase / 65535;
168 :    
169 :     pParam->fbase = (int) (pParam->fbase / div);
170 :     pParam->fincr = (int) (pParam->fincr / div);
171 : Isibaar 1.1 }
172 :    
173 : edgomez 1.39 /* Bitrate allocator defaults */
174 :    
175 : h 1.25 if (pParam->rc_bitrate <= 0)
176 :     pParam->rc_bitrate = 900000;
177 : Isibaar 1.1
178 : h 1.25 if (pParam->rc_reaction_delay_factor <= 0)
179 :     pParam->rc_reaction_delay_factor = 16;
180 :    
181 :     if (pParam->rc_averaging_period <= 0)
182 :     pParam->rc_averaging_period = 100;
183 :    
184 :     if (pParam->rc_buffer <= 0)
185 :     pParam->rc_buffer = 100;
186 : Isibaar 1.1
187 : edgomez 1.39 /* Max and min quantizers */
188 :    
189 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
190 : Isibaar 1.1 pParam->min_quantizer = 1;
191 :    
192 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
193 : Isibaar 1.1 pParam->max_quantizer = 31;
194 :    
195 : edgomez 1.39 if (pParam->max_quantizer < pParam->min_quantizer)
196 :     pParam->max_quantizer = pParam->min_quantizer;
197 :    
198 : edgomez 1.41 /* 1 keyframe each 10 seconds */
199 : edgomez 1.39
200 : edgomez 1.61 if (pParam->max_key_interval <= 0)
201 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
202 : edgomez 1.41
203 : edgomez 1.39 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
204 :     if (pEnc == NULL)
205 : Isibaar 1.1 return XVID_ERR_MEMORY;
206 :    
207 : edgomez 1.42 /* Zero the Encoder Structure */
208 :    
209 :     memset(pEnc, 0, sizeof(Encoder));
210 :    
211 : Isibaar 1.1 /* Fill members of Encoder structure */
212 :    
213 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
214 :     pEnc->mbParam.height = pParam->height;
215 : Isibaar 1.1
216 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
217 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
218 :    
219 : edgomez 1.41 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
220 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
221 : Isibaar 1.1
222 : suxen_drol 1.32 pEnc->mbParam.fbase = pParam->fbase;
223 :     pEnc->mbParam.fincr = pParam->fincr;
224 : Isibaar 1.43
225 :     pEnc->mbParam.m_quant_type = H263_QUANT;
226 : suxen_drol 1.32
227 : suxen_drol 1.76.2.24 pEnc->fMvPrevSigma = -1;
228 : Isibaar 1.1
229 :     /* Fill rate control parameters */
230 :    
231 : h 1.25 pEnc->bitrate = pParam->rc_bitrate;
232 : Isibaar 1.1
233 : edgomez 1.3 pEnc->iFrameNum = 0;
234 : suxen_drol 1.76.2.26 pEnc->mbParam.iMaxKeyInterval = pParam->max_key_interval;
235 : Isibaar 1.1
236 : suxen_drol 1.27 /* try to allocate frame memory */
237 : h 1.16
238 : edgomez 1.39 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
239 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
240 :    
241 : edgomez 1.41 if (pEnc->current == NULL || pEnc->reference == NULL)
242 : edgomez 1.39 goto xvid_err_memory1;
243 : suxen_drol 1.27
244 :     /* try to allocate mb memory */
245 : h 1.16
246 : edgomez 1.41 pEnc->current->mbs =
247 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
248 :     pEnc->mbParam.mb_height, CACHE_LINE);
249 :     pEnc->reference->mbs =
250 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
251 :     pEnc->mbParam.mb_height, CACHE_LINE);
252 : Isibaar 1.1
253 : edgomez 1.39 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
254 :     goto xvid_err_memory2;
255 : suxen_drol 1.27
256 :     /* try to allocate image memory */
257 :    
258 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
259 : suxen_drol 1.27 image_null(&pEnc->sOriginal);
260 :     #endif
261 : chl 1.76.2.1
262 : suxen_drol 1.32 image_null(&pEnc->f_refh);
263 :     image_null(&pEnc->f_refv);
264 :     image_null(&pEnc->f_refhv);
265 : chl 1.76.2.1
266 : suxen_drol 1.27 image_null(&pEnc->current->image);
267 :     image_null(&pEnc->reference->image);
268 :     image_null(&pEnc->vInterH);
269 :     image_null(&pEnc->vInterV);
270 :     image_null(&pEnc->vInterVf);
271 :     image_null(&pEnc->vInterHV);
272 :     image_null(&pEnc->vInterHVf);
273 : edgomez 1.39
274 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
275 : edgomez 1.41 if (image_create
276 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
277 :     pEnc->mbParam.edged_height) < 0)
278 : edgomez 1.39 goto xvid_err_memory3;
279 : suxen_drol 1.27 #endif
280 : chl 1.76.2.1
281 : edgomez 1.41 if (image_create
282 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
283 :     pEnc->mbParam.edged_height) < 0)
284 : edgomez 1.39 goto xvid_err_memory3;
285 : edgomez 1.41 if (image_create
286 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
287 :     pEnc->mbParam.edged_height) < 0)
288 : edgomez 1.39 goto xvid_err_memory3;
289 : edgomez 1.41 if (image_create
290 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
291 :     pEnc->mbParam.edged_height) < 0)
292 : edgomez 1.39 goto xvid_err_memory3;
293 : chl 1.76.2.1
294 : edgomez 1.41 if (image_create
295 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
296 :     pEnc->mbParam.edged_height) < 0)
297 : edgomez 1.39 goto xvid_err_memory3;
298 : edgomez 1.41 if (image_create
299 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
300 :     pEnc->mbParam.edged_height) < 0)
301 : edgomez 1.39 goto xvid_err_memory3;
302 : edgomez 1.41 if (image_create
303 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
304 :     pEnc->mbParam.edged_height) < 0)
305 : edgomez 1.39 goto xvid_err_memory3;
306 : edgomez 1.41 if (image_create
307 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
308 :     pEnc->mbParam.edged_height) < 0)
309 : edgomez 1.39 goto xvid_err_memory3;
310 : edgomez 1.41 if (image_create
311 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
312 :     pEnc->mbParam.edged_height) < 0)
313 : edgomez 1.39 goto xvid_err_memory3;
314 : edgomez 1.41 if (image_create
315 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
316 :     pEnc->mbParam.edged_height) < 0)
317 : edgomez 1.39 goto xvid_err_memory3;
318 : edgomez 1.41 if (image_create
319 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
320 :     pEnc->mbParam.edged_height) < 0)
321 : edgomez 1.39 goto xvid_err_memory3;
322 :    
323 :    
324 : Isibaar 1.1
325 : edgomez 1.39 /* B Frames specific init */
326 : edgomez 1.41
327 : suxen_drol 1.76.2.26 pEnc->mbParam.global = pParam->global;
328 : suxen_drol 1.35 pEnc->mbParam.max_bframes = pParam->max_bframes;
329 : suxen_drol 1.76.2.26 pEnc->mbParam.bquant_ratio = pParam->bquant_ratio;
330 :     pEnc->mbParam.bquant_offset = pParam->bquant_offset;
331 :     pEnc->mbParam.frame_drop_ratio = pParam->frame_drop_ratio;
332 : edgomez 1.39 pEnc->bframes = NULL;
333 :    
334 : edgomez 1.41 if (pEnc->mbParam.max_bframes > 0) {
335 : suxen_drol 1.32 int n;
336 :    
337 : edgomez 1.41 pEnc->bframes =
338 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
339 :     CACHE_LINE);
340 : edgomez 1.39
341 :     if (pEnc->bframes == NULL)
342 :     goto xvid_err_memory3;
343 :    
344 : edgomez 1.41 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
345 : edgomez 1.39 pEnc->bframes[n] = NULL;
346 : suxen_drol 1.32
347 : edgomez 1.41
348 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
349 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
350 : edgomez 1.39
351 :     if (pEnc->bframes[n] == NULL)
352 :     goto xvid_err_memory4;
353 :    
354 : edgomez 1.41 pEnc->bframes[n]->mbs =
355 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
356 :     pEnc->mbParam.mb_height, CACHE_LINE);
357 : edgomez 1.39
358 :     if (pEnc->bframes[n]->mbs == NULL)
359 :     goto xvid_err_memory4;
360 :    
361 :     image_null(&pEnc->bframes[n]->image);
362 :    
363 : edgomez 1.41 if (image_create
364 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
365 :     pEnc->mbParam.edged_height) < 0)
366 : edgomez 1.39 goto xvid_err_memory4;
367 : suxen_drol 1.32
368 :     }
369 :     }
370 : edgomez 1.39
371 : suxen_drol 1.32 pEnc->bframenum_head = 0;
372 :     pEnc->bframenum_tail = 0;
373 :     pEnc->flush_bframes = 0;
374 : suxen_drol 1.48 pEnc->bframenum_dx50bvop = -1;
375 : suxen_drol 1.32
376 : suxen_drol 1.44 pEnc->queue = NULL;
377 :    
378 :    
379 :     if (pEnc->mbParam.max_bframes > 0) {
380 :     int n;
381 :    
382 :     pEnc->queue =
383 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
384 :     CACHE_LINE);
385 :    
386 :     if (pEnc->queue == NULL)
387 :     goto xvid_err_memory4;
388 :    
389 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++)
390 :     image_null(&pEnc->queue[n]);
391 :    
392 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
393 :     if (image_create
394 :     (&pEnc->queue[n], pEnc->mbParam.edged_width,
395 :     pEnc->mbParam.edged_height) < 0)
396 :     goto xvid_err_memory5;
397 :    
398 :     }
399 :     }
400 :    
401 :     pEnc->queue_head = 0;
402 :     pEnc->queue_tail = 0;
403 :     pEnc->queue_size = 0;
404 :    
405 : chl 1.76.2.4 pEnc->mbParam.m_stamp = 0;
406 : chl 1.76.2.7
407 : suxen_drol 1.46 pEnc->m_framenum = 0;
408 : chl 1.76.2.7 pEnc->current->stamp = 0;
409 :     pEnc->reference->stamp = 0;
410 : suxen_drol 1.32
411 : edgomez 1.41 pParam->handle = (void *) pEnc;
412 : Isibaar 1.1
413 : edgomez 1.41 if (pParam->rc_bitrate) {
414 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
415 :     pParam->rc_reaction_delay_factor,
416 :     pParam->rc_averaging_period, pParam->rc_buffer,
417 :     pParam->fbase * 1000 / pParam->fincr,
418 :     pParam->max_quantizer, pParam->min_quantizer);
419 : Isibaar 1.1 }
420 :    
421 : Isibaar 1.6 init_timer();
422 : Isibaar 1.1
423 :     return XVID_ERR_OK;
424 : edgomez 1.39
425 :     /*
426 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
427 :     */
428 : chl 1.76.2.1
429 : suxen_drol 1.44 xvid_err_memory5:
430 :    
431 :    
432 :     if (pEnc->mbParam.max_bframes > 0) {
433 :    
434 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
435 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
436 :     pEnc->mbParam.edged_height);
437 :     }
438 :     xvid_free(pEnc->queue);
439 :     }
440 :    
441 : edgomez 1.41 xvid_err_memory4:
442 : edgomez 1.39
443 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
444 :    
445 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
446 : edgomez 1.39
447 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
448 :     continue;
449 : edgomez 1.39
450 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
451 :     pEnc->mbParam.edged_height);
452 :    
453 :     xvid_free(pEnc->bframes[i]->mbs);
454 :    
455 :     xvid_free(pEnc->bframes[i]);
456 : edgomez 1.39
457 : suxen_drol 1.44 }
458 : edgomez 1.39
459 : suxen_drol 1.44 xvid_free(pEnc->bframes);
460 : edgomez 1.39 }
461 :    
462 : edgomez 1.41 xvid_err_memory3:
463 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
464 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
465 :     pEnc->mbParam.edged_height);
466 : edgomez 1.39 #endif
467 :    
468 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
469 :     pEnc->mbParam.edged_height);
470 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
471 :     pEnc->mbParam.edged_height);
472 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
473 :     pEnc->mbParam.edged_height);
474 : edgomez 1.39
475 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
476 :     pEnc->mbParam.edged_height);
477 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
478 :     pEnc->mbParam.edged_height);
479 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
480 :     pEnc->mbParam.edged_height);
481 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
482 :     pEnc->mbParam.edged_height);
483 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
484 :     pEnc->mbParam.edged_height);
485 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
486 :     pEnc->mbParam.edged_height);
487 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
488 :     pEnc->mbParam.edged_height);
489 : edgomez 1.39
490 : edgomez 1.41 xvid_err_memory2:
491 : edgomez 1.39 xvid_free(pEnc->current->mbs);
492 :     xvid_free(pEnc->reference->mbs);
493 :    
494 : edgomez 1.41 xvid_err_memory1:
495 : edgomez 1.39 xvid_free(pEnc->current);
496 :     xvid_free(pEnc->reference);
497 :     xvid_free(pEnc);
498 :    
499 : edgomez 1.40 pParam->handle = NULL;
500 :    
501 : edgomez 1.39 return XVID_ERR_MEMORY;
502 : Isibaar 1.1 }
503 :    
504 : edgomez 1.40 /*****************************************************************************
505 :     * Encoder destruction
506 :     *
507 :     * This function destroy the entire encoder structure created by a previous
508 :     * successful encoder_create call.
509 :     *
510 :     * Returned values (for now only one returned value) :
511 :     * - XVID_ERR_OK - no errors
512 :     *
513 :     ****************************************************************************/
514 :    
515 :     int
516 :     encoder_destroy(Encoder * pEnc)
517 : Isibaar 1.1 {
518 : suxen_drol 1.44 int i;
519 :    
520 : edgomez 1.3 ENC_CHECK(pEnc);
521 : Isibaar 1.1
522 : edgomez 1.39 /* B Frames specific */
523 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
524 :    
525 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
526 :    
527 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
528 :     pEnc->mbParam.edged_height);
529 :     }
530 :     xvid_free(pEnc->queue);
531 :     }
532 :    
533 :    
534 :     if (pEnc->mbParam.max_bframes > 0) {
535 : edgomez 1.39
536 : suxen_drol 1.44 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
537 : edgomez 1.39
538 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
539 :     continue;
540 : edgomez 1.39
541 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
542 : edgomez 1.41 pEnc->mbParam.edged_height);
543 : edgomez 1.39
544 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]->mbs);
545 : edgomez 1.39
546 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]);
547 :     }
548 : edgomez 1.39
549 : suxen_drol 1.44 xvid_free(pEnc->bframes);
550 :    
551 : suxen_drol 1.32 }
552 :    
553 : edgomez 1.39 /* All images, reference, current etc ... */
554 :    
555 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
556 :     pEnc->mbParam.edged_height);
557 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
558 :     pEnc->mbParam.edged_height);
559 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
560 :     pEnc->mbParam.edged_height);
561 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
562 :     pEnc->mbParam.edged_height);
563 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
564 :     pEnc->mbParam.edged_height);
565 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
566 :     pEnc->mbParam.edged_height);
567 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
568 :     pEnc->mbParam.edged_height);
569 : chl 1.76.2.1
570 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
571 :     pEnc->mbParam.edged_height);
572 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
573 :     pEnc->mbParam.edged_height);
574 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
575 :     pEnc->mbParam.edged_height);
576 : chl 1.76.2.1
577 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
578 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
579 :     pEnc->mbParam.edged_height);
580 : Isibaar 1.23 #endif
581 : edgomez 1.39
582 :     /* Encoder structure */
583 : edgomez 1.41
584 : suxen_drol 1.27 xvid_free(pEnc->current->mbs);
585 :     xvid_free(pEnc->current);
586 :    
587 :     xvid_free(pEnc->reference->mbs);
588 :     xvid_free(pEnc->reference);
589 :    
590 : Isibaar 1.7 xvid_free(pEnc);
591 : edgomez 1.39
592 : edgomez 1.3 return XVID_ERR_OK;
593 : Isibaar 1.1 }
594 :    
595 : suxen_drol 1.44
596 : chl 1.76.2.1 static __inline void inc_frame_num(Encoder * pEnc)
597 : suxen_drol 1.44 {
598 : chl 1.76.2.5 pEnc->current->stamp = pEnc->mbParam.m_stamp; // first frame is zero
599 : chl 1.76.2.4 pEnc->mbParam.m_stamp += pEnc->mbParam.fincr;
600 : suxen_drol 1.44 }
601 :    
602 :    
603 : chl 1.76.2.1 static __inline void
604 :     queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
605 : suxen_drol 1.44 {
606 :     if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
607 :     {
608 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"FATAL: QUEUE FULL");
609 : suxen_drol 1.44 return;
610 :     }
611 :    
612 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** QUEUE bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
613 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
614 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
615 :    
616 :    
617 :     start_timer();
618 :     if (image_input
619 :     (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
620 : suxen_drol 1.76.2.16 pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))
621 : suxen_drol 1.44 return;
622 :     stop_conv_timer();
623 :    
624 :     pEnc->queue_size++;
625 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
626 :     }
627 :    
628 : chl 1.76.2.4 static __inline void
629 :     set_timecodes(FRAMEINFO* pCur,FRAMEINFO *pRef, int32_t time_base)
630 :     {
631 :    
632 :     pCur->ticks = (int32_t)pCur->stamp % time_base;
633 :     pCur->seconds = ((int32_t)pCur->stamp / time_base) - ((int32_t)pRef->stamp / time_base) ;
634 :    
635 : chl 1.76.2.5 //HEAVY DEBUG OUTPUT remove when timecodes prove to be stable
636 : chl 1.76.2.4
637 : chl 1.76.2.6 /* fprintf(stderr,"WriteVop: %d - %d \n",
638 : chl 1.76.2.4 ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));
639 :     fprintf(stderr,"set_timecodes: VOP %1d stamp=%lld ref_stamp=%lld base=%d\n",
640 :     pCur->coding_type, pCur->stamp, pRef->stamp, time_base);
641 :     fprintf(stderr,"set_timecodes: VOP %1d seconds=%d ticks=%d (ref-sec=%d ref-tick=%d)\n",
642 :     pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);
643 :    
644 : chl 1.76.2.6 */
645 : chl 1.76.2.4 }
646 :    
647 :    
648 :    
649 : suxen_drol 1.76.2.29 /* convert pFrame->intra to coding_type */
650 :     static int intra2coding_type(int intra)
651 :     {
652 :     if (intra < 0) return -1;
653 :     if (intra == 1) return I_VOP;
654 :     if (intra == 2) return B_VOP;
655 :    
656 :     return P_VOP;
657 :     }
658 :    
659 : suxen_drol 1.44
660 : chl 1.76.2.1
661 : edgomez 1.40 /*****************************************************************************
662 : suxen_drol 1.44 * IPB frame encoder entry point
663 : edgomez 1.40 *
664 :     * Returned values :
665 :     * - XVID_ERR_OK - no errors
666 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
667 :     * format
668 :     ****************************************************************************/
669 : suxen_drol 1.32
670 : edgomez 1.40 int
671 : suxen_drol 1.44 encoder_encode_bframes(Encoder * pEnc,
672 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
673 :     XVID_ENC_STATS * pResult)
674 : suxen_drol 1.32 {
675 :     uint16_t x, y;
676 :     Bitstream bs;
677 : h 1.76.2.3 uint32_t bits, mode;
678 : suxen_drol 1.32
679 : suxen_drol 1.44 int input_valid = 1;
680 : syskin 1.76.2.18 int bframes_count = 0;
681 : suxen_drol 1.44
682 :     #ifdef _DEBUG_PSNR
683 : chenm001 1.36 float psnr;
684 :     char temp[128];
685 :     #endif
686 :    
687 : suxen_drol 1.32 ENC_CHECK(pEnc);
688 :     ENC_CHECK(pFrame);
689 : suxen_drol 1.44 ENC_CHECK(pFrame->image);
690 : suxen_drol 1.32
691 :     start_global_timer();
692 : edgomez 1.41
693 : suxen_drol 1.32 BitstreamInit(&bs, pFrame->bitstream, 0);
694 :    
695 : suxen_drol 1.44 ipvop_loop:
696 :    
697 : edgomez 1.40 /*
698 :     * bframe "flush" code
699 :     */
700 : suxen_drol 1.32
701 : edgomez 1.41 if ((pFrame->image == NULL || pEnc->flush_bframes)
702 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
703 :    
704 :     if (pEnc->flush_bframes == 0) {
705 : edgomez 1.40 /*
706 :     * we have reached the end of stream without getting
707 :     * a future reference frame... so encode last final
708 :     * frame as a pframe
709 :     */
710 :    
711 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (final frame) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
712 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
713 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
714 :    
715 : suxen_drol 1.32 pEnc->bframenum_tail--;
716 :     SWAP(pEnc->current, pEnc->reference);
717 :    
718 : edgomez 1.41 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
719 : suxen_drol 1.32
720 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
721 : syskin 1.76.2.18 bframes_count = 0;
722 : suxen_drol 1.32
723 :     BitstreamPad(&bs);
724 :     pFrame->length = BitstreamLength(&bs);
725 :     pFrame->intra = 0;
726 : edgomez 1.40
727 : suxen_drol 1.76.2.16 emms();
728 :    
729 : suxen_drol 1.32 return XVID_ERR_OK;
730 :     }
731 :    
732 : suxen_drol 1.44
733 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
734 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
735 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
736 :    
737 : edgomez 1.41 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
738 : suxen_drol 1.32 pEnc->bframenum_head++;
739 :    
740 :     BitstreamPad(&bs);
741 :     pFrame->length = BitstreamLength(&bs);
742 : suxen_drol 1.76.2.20 pFrame->intra = 2;
743 : edgomez 1.40
744 : suxen_drol 1.44 if (input_valid)
745 :     queue_image(pEnc, pFrame);
746 :    
747 : suxen_drol 1.76.2.16 emms();
748 :    
749 : suxen_drol 1.32 return XVID_ERR_OK;
750 :     }
751 :    
752 : suxen_drol 1.44 if (pEnc->bframenum_head > 0) {
753 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
754 :    
755 : suxen_drol 1.76.2.9 /* write an empty marker to the bitstream.
756 :    
757 :     for divx5 decoder compatibility, this marker must consist
758 :     of a not-coded p-vop, with a time_base of zero, and time_increment
759 :     indentical to the future-referece frame.
760 :     */
761 :    
762 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED)) {
763 : suxen_drol 1.76.2.9 int tmp;
764 : suxen_drol 1.44
765 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
766 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
767 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
768 :    
769 :     BitstreamPad(&bs);
770 : suxen_drol 1.76.2.9
771 :     tmp = pEnc->current->seconds;
772 :     pEnc->current->seconds = 0; /* force time_base = 0 */
773 :     BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
774 :     pEnc->current->seconds = tmp;
775 : suxen_drol 1.44
776 :     pFrame->length = BitstreamLength(&bs);
777 : suxen_drol 1.76.2.20 pFrame->intra = 4;
778 : suxen_drol 1.44
779 :     if (input_valid)
780 :     queue_image(pEnc, pFrame);
781 :    
782 : suxen_drol 1.76.2.16 emms();
783 :    
784 : suxen_drol 1.44 return XVID_ERR_OK;
785 :     }
786 :     }
787 :    
788 :    
789 :     bvop_loop:
790 :    
791 : suxen_drol 1.48 if (pEnc->bframenum_dx50bvop != -1)
792 :     {
793 :    
794 :     SWAP(pEnc->current, pEnc->reference);
795 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
796 :    
797 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
798 : suxen_drol 1.48 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");
799 :     }
800 :    
801 :     if (input_valid)
802 :     {
803 :     queue_image(pEnc, pFrame);
804 :     input_valid = 0;
805 :     }
806 :    
807 :     } else if (input_valid) {
808 : suxen_drol 1.44
809 :     SWAP(pEnc->current, pEnc->reference);
810 :    
811 :     start_timer();
812 :     if (image_input
813 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
814 : suxen_drol 1.76.2.16 pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))
815 :     {
816 :     emms();
817 : suxen_drol 1.44 return XVID_ERR_FORMAT;
818 : suxen_drol 1.76.2.16 }
819 : suxen_drol 1.44 stop_conv_timer();
820 :    
821 :     // queue input frame, and dequue next image
822 :     if (pEnc->queue_size > 0)
823 :     {
824 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
825 :     if (pEnc->queue_head != pEnc->queue_tail)
826 :     {
827 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
828 :     }
829 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
830 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
831 :     }
832 :    
833 :     } else if (pEnc->queue_size > 0) {
834 :    
835 :     SWAP(pEnc->current, pEnc->reference);
836 :    
837 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
838 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
839 :     pEnc->queue_size--;
840 :    
841 : suxen_drol 1.76.2.9 } else {
842 : suxen_drol 1.44
843 : suxen_drol 1.76.2.9 /* if nothing was encoded, write an 'ignore this frame' flag
844 :     to the bitstream */
845 : suxen_drol 1.44
846 : suxen_drol 1.76.2.9 if (BitstreamPos(&bs) == 0) {
847 : edgomez 1.40
848 : suxen_drol 1.76.2.9 DPRINTF(DPRINTF_DEBUG,"*** SKIP bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
849 :     pEnc->bframenum_head, pEnc->bframenum_tail,
850 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
851 : suxen_drol 1.32
852 : suxen_drol 1.76.2.9 BitstreamPutBits(&bs, 0x7f, 8);
853 : suxen_drol 1.76.2.20 pFrame->intra = 5;
854 : suxen_drol 1.76.2.9 }
855 : suxen_drol 1.44
856 :     pFrame->length = BitstreamLength(&bs);
857 : suxen_drol 1.76.2.16 emms();
858 : suxen_drol 1.44 return XVID_ERR_OK;
859 : suxen_drol 1.32 }
860 :    
861 :     pEnc->flush_bframes = 0;
862 :    
863 : suxen_drol 1.48 emms();
864 :    
865 :     // only inc frame num, adapt quant, etc. if we havent seen it before
866 :     if (pEnc->bframenum_dx50bvop < 0 )
867 :     {
868 : suxen_drol 1.76.2.29 mode = intra2coding_type(pFrame->intra);
869 : suxen_drol 1.48 if (pFrame->quant == 0)
870 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
871 :     else
872 :     pEnc->current->quant = pFrame->quant;
873 :    
874 : chl 1.62 /* if (pEnc->current->quant < 1)
875 : suxen_drol 1.48 pEnc->current->quant = 1;
876 :    
877 :     if (pEnc->current->quant > 31)
878 :     pEnc->current->quant = 31;
879 : chl 1.62 */
880 : suxen_drol 1.48 pEnc->current->global_flags = pFrame->general;
881 :     pEnc->current->motion_flags = pFrame->motion;
882 :    
883 :     /* ToDo : dynamic fcode (in both directions) */
884 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
885 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
886 : suxen_drol 1.32
887 : suxen_drol 1.48 inc_frame_num(pEnc);
888 : suxen_drol 1.32
889 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
890 : suxen_drol 1.48 image_copy(&pEnc->sOriginal, &pEnc->current->image,
891 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.height);
892 : suxen_drol 1.32 #endif
893 :    
894 : suxen_drol 1.48 emms();
895 : suxen_drol 1.46
896 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
897 : suxen_drol 1.48 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
898 : suxen_drol 1.76.2.11 "%i if:%i st:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->stamp);
899 : suxen_drol 1.48 }
900 : suxen_drol 1.46
901 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
902 :     * Luminance masking
903 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
904 : suxen_drol 1.32
905 : suxen_drol 1.48 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
906 :     int *temp_dquants =
907 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
908 : edgomez 1.41 pEnc->mbParam.mb_height * sizeof(int),
909 :     CACHE_LINE);
910 :    
911 : suxen_drol 1.48 pEnc->current->quant =
912 :     adaptive_quantization(pEnc->current->image.y,
913 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
914 :     pEnc->current->quant, pEnc->current->quant,
915 :     2 * pEnc->current->quant,
916 :     pEnc->mbParam.mb_width,
917 :     pEnc->mbParam.mb_height);
918 :    
919 : suxen_drol 1.48 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
920 : edgomez 1.40
921 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
922 : edgomez 1.40
923 : suxen_drol 1.48 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
924 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
925 : edgomez 1.41
926 : suxen_drol 1.48 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
927 :     }
928 : edgomez 1.40
929 : edgomez 1.41 #undef OFFSET
930 : suxen_drol 1.48 }
931 : edgomez 1.40
932 : suxen_drol 1.48 xvid_free(temp_dquants);
933 : edgomez 1.40 }
934 :    
935 : suxen_drol 1.32 }
936 :    
937 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
938 :     * ivop/pvop/bvop selection
939 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
940 : syskin 1.76.2.23 pEnc->iFrameNum++;
941 : suxen_drol 1.32
942 : suxen_drol 1.76.2.29 if (pEnc->iFrameNum == 0 || pEnc->bframenum_dx50bvop >= 0 ||
943 :     (mode < 0 && pEnc->mbParam.iMaxKeyInterval > 0 &&
944 :     pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval))
945 :     {
946 :     mode = I_VOP;
947 :     }else{
948 :     mode = MEanalysis(&pEnc->reference->image, pEnc->current,
949 :     &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,
950 :     (mode < 0) ? pEnc->iFrameNum : 0,
951 :     bframes_count++);
952 :     }
953 : h 1.76.2.3
954 : suxen_drol 1.76.2.29 if (mode == I_VOP) {
955 : edgomez 1.40 /*
956 :     * This will be coded as an Intra Frame
957 :     */
958 : syskin 1.76.2.19 if ((pEnc->current->global_flags & XVID_QUARTERPEL))
959 :     pEnc->mbParam.m_quarterpel = 1;
960 :     else
961 :     pEnc->mbParam.m_quarterpel = 0;
962 : edgomez 1.40
963 : syskin 1.76.2.21 if (pEnc->current->global_flags & XVID_MPEGQUANT) pEnc->mbParam.m_quant_type = MPEG4_QUANT;
964 : suxen_drol 1.76.2.22
965 :     if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
966 :     if (pFrame->quant_intra_matrix != NULL)
967 :     set_intra_matrix(pFrame->quant_intra_matrix);
968 :     if (pFrame->quant_inter_matrix != NULL)
969 :     set_inter_matrix(pFrame->quant_inter_matrix);
970 :     }
971 :    
972 : syskin 1.76.2.21
973 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
974 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
975 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
976 : suxen_drol 1.46
977 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
978 : suxen_drol 1.46 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
979 :     }
980 : suxen_drol 1.32
981 : suxen_drol 1.48 // when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe
982 :    
983 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {
984 : suxen_drol 1.48
985 :     pEnc->bframenum_tail--;
986 :     pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;
987 :    
988 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
989 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
990 : suxen_drol 1.48 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
991 :     }
992 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
993 : syskin 1.76.2.18 bframes_count = 0;
994 : suxen_drol 1.48
995 :     pFrame->intra = 0;
996 :    
997 :     } else {
998 : suxen_drol 1.49
999 : suxen_drol 1.48 FrameCodeI(pEnc, &bs, &bits);
1000 : syskin 1.76.2.18 bframes_count = 0;
1001 : suxen_drol 1.48 pFrame->intra = 1;
1002 : suxen_drol 1.49
1003 :     pEnc->bframenum_dx50bvop = -1;
1004 : suxen_drol 1.48 }
1005 : suxen_drol 1.32
1006 :     pEnc->flush_bframes = 1;
1007 :    
1008 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {
1009 : suxen_drol 1.76.2.11 BitstreamPadAlways(&bs);
1010 : suxen_drol 1.44 input_valid = 0;
1011 :     goto ipvop_loop;
1012 :     }
1013 :    
1014 : edgomez 1.40 /*
1015 :     * NB : sequences like "IIBB" decode fine with msfdam but,
1016 :     * go screwy with divx 5.00
1017 :     */
1018 : suxen_drol 1.76.2.29 } else if (mode == P_VOP || pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
1019 : edgomez 1.40 /*
1020 :     * This will be coded as a Predicted Frame
1021 :     */
1022 :    
1023 : suxen_drol 1.51 DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
1024 : suxen_drol 1.44 pEnc->bframenum_head, pEnc->bframenum_tail,
1025 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1026 : suxen_drol 1.46
1027 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1028 : suxen_drol 1.46 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
1029 :     }
1030 : suxen_drol 1.32
1031 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
1032 : syskin 1.76.2.18 bframes_count = 0;
1033 : suxen_drol 1.32 pFrame->intra = 0;
1034 :     pEnc->flush_bframes = 1;
1035 : suxen_drol 1.44
1036 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && (pEnc->bframenum_tail > 0)) {
1037 : suxen_drol 1.76.2.11 BitstreamPadAlways(&bs);
1038 : suxen_drol 1.44 input_valid = 0;
1039 :     goto ipvop_loop;
1040 :     }
1041 :    
1042 : suxen_drol 1.76.2.29 } else { /* mode == B_VOP */
1043 : edgomez 1.40 /*
1044 :     * This will be coded as a Bidirectional Frame
1045 :     */
1046 :    
1047 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1048 : suxen_drol 1.46 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1049 :     }
1050 :    
1051 : edgomez 1.41 if (pFrame->bquant < 1) {
1052 : suxen_drol 1.76.2.20 pEnc->current->quant = ((((pEnc->reference->quant + pEnc->current->quant) *
1053 : suxen_drol 1.76.2.26 pEnc->mbParam.bquant_ratio) / 2) + pEnc->mbParam.bquant_offset)/100;
1054 : suxen_drol 1.76.2.20
1055 : edgomez 1.41 } else {
1056 : suxen_drol 1.32 pEnc->current->quant = pFrame->bquant;
1057 :     }
1058 : chl 1.62
1059 : suxen_drol 1.76.2.20 if (pEnc->current->quant < 1)
1060 :     pEnc->current->quant = 1;
1061 :     else if (pEnc->current->quant > 31)
1062 :     pEnc->current->quant = 31;
1063 : chl 1.62
1064 : suxen_drol 1.76.2.20 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i queue: head=%i tail=%i size=%i quant=%i\n",
1065 :     pEnc->bframenum_head, pEnc->bframenum_tail,
1066 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);
1067 : edgomez 1.41
1068 : edgomez 1.40 /* store frame into bframe buffer & swap ref back to current */
1069 : suxen_drol 1.32 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1070 :     SWAP(pEnc->current, pEnc->reference);
1071 :    
1072 :     pEnc->bframenum_tail++;
1073 :    
1074 : suxen_drol 1.76.2.20 // bframe report by koepi
1075 :     pFrame->intra = 2;
1076 : suxen_drol 1.32 pFrame->length = 0;
1077 : edgomez 1.40
1078 : suxen_drol 1.44 input_valid = 0;
1079 :     goto bvop_loop;
1080 : suxen_drol 1.32 }
1081 : Isibaar 1.70
1082 : suxen_drol 1.32 BitstreamPad(&bs);
1083 :     pFrame->length = BitstreamLength(&bs);
1084 :    
1085 : edgomez 1.41 if (pResult) {
1086 : suxen_drol 1.32 pResult->quant = pEnc->current->quant;
1087 : suxen_drol 1.76.2.24 pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
1088 :     pResult->kblks = pEnc->current->sStat.kblks;
1089 :     pResult->mblks = pEnc->current->sStat.mblks;
1090 :     pResult->ublks = pEnc->current->sStat.ublks;
1091 : suxen_drol 1.32 }
1092 :    
1093 : edgomez 1.42 emms();
1094 : edgomez 1.40
1095 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1096 : edgomez 1.41 psnr =
1097 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1098 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1099 :     pEnc->mbParam.height);
1100 : suxen_drol 1.32
1101 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
1102 : suxen_drol 1.32 DEBUG(temp);
1103 :     #endif
1104 :    
1105 : edgomez 1.41 if (pFrame->quant == 0) {
1106 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1107 :     pFrame->length, pFrame->intra);
1108 : suxen_drol 1.32 }
1109 :    
1110 :     stop_global_timer();
1111 :     write_timer();
1112 :    
1113 : suxen_drol 1.76.2.16 emms();
1114 : suxen_drol 1.32 return XVID_ERR_OK;
1115 :     }
1116 : suxen_drol 1.44
1117 :    
1118 :    
1119 : edgomez 1.40 /*****************************************************************************
1120 : suxen_drol 1.44 * "original" IP frame encoder entry point
1121 :     *
1122 :     * Returned values :
1123 :     * - XVID_ERR_OK - no errors
1124 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1125 :     * format
1126 : edgomez 1.40 ****************************************************************************/
1127 : suxen_drol 1.44
1128 : edgomez 1.40 int
1129 :     encoder_encode(Encoder * pEnc,
1130 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
1131 :     XVID_ENC_STATS * pResult)
1132 : Isibaar 1.1 {
1133 : edgomez 1.3 uint16_t x, y;
1134 :     Bitstream bs;
1135 :     uint32_t bits;
1136 : Isibaar 1.2 uint16_t write_vol_header = 0;
1137 : edgomez 1.41
1138 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1139 : Isibaar 1.23 float psnr;
1140 : edgomez 1.40 uint8_t temp[128];
1141 : Isibaar 1.23 #endif
1142 : Isibaar 1.1
1143 :     start_global_timer();
1144 :    
1145 : edgomez 1.3 ENC_CHECK(pEnc);
1146 :     ENC_CHECK(pFrame);
1147 :     ENC_CHECK(pFrame->bitstream);
1148 :     ENC_CHECK(pFrame->image);
1149 : Isibaar 1.1
1150 : suxen_drol 1.27 SWAP(pEnc->current, pEnc->reference);
1151 :    
1152 :     pEnc->current->global_flags = pFrame->general;
1153 :     pEnc->current->motion_flags = pFrame->motion;
1154 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
1155 : Isibaar 1.1
1156 : chl 1.76.2.8 inc_frame_num(pEnc);
1157 :    
1158 : h 1.76.2.2 /* disable alternate scan flag if interlacing is not enabled */
1159 :     if ((pEnc->current->global_flags & XVID_ALTERNATESCAN) &&
1160 :     !(pEnc->current->global_flags & XVID_INTERLACING))
1161 :     {
1162 :     pEnc->current->global_flags -= XVID_ALTERNATESCAN;
1163 :     }
1164 :    
1165 : Isibaar 1.1 start_timer();
1166 : edgomez 1.41 if (image_input
1167 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1168 : suxen_drol 1.76.2.16 pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING) < 0)
1169 : Isibaar 1.1 return XVID_ERR_FORMAT;
1170 :     stop_conv_timer();
1171 :    
1172 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1173 : edgomez 1.41 image_copy(&pEnc->sOriginal, &pEnc->current->image,
1174 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1175 : Isibaar 1.23 #endif
1176 :    
1177 : edgomez 1.42 emms();
1178 : suxen_drol 1.27
1179 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
1180 : Isibaar 1.1
1181 : edgomez 1.41 if (pFrame->quant == 0) {
1182 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1183 :     } else {
1184 : suxen_drol 1.27 pEnc->current->quant = pFrame->quant;
1185 : Isibaar 1.1 }
1186 :    
1187 : Isibaar 1.76.2.12 if ((pEnc->current->global_flags & XVID_QUARTERPEL))
1188 :     pEnc->mbParam.m_quarterpel = 1;
1189 :     else
1190 :     pEnc->mbParam.m_quarterpel = 0;
1191 :    
1192 : edgomez 1.41 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1193 :     int *temp_dquants =
1194 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
1195 :     pEnc->mbParam.mb_height * sizeof(int),
1196 :     CACHE_LINE);
1197 :    
1198 : edgomez 1.40 pEnc->current->quant =
1199 :     adaptive_quantization(pEnc->current->image.y,
1200 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
1201 :     pEnc->current->quant, pEnc->current->quant,
1202 :     2 * pEnc->current->quant,
1203 :     pEnc->mbParam.mb_width,
1204 :     pEnc->mbParam.mb_height);
1205 :    
1206 :     for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1207 : edgomez 1.40
1208 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1209 :    
1210 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1211 : edgomez 1.40
1212 :    
1213 : edgomez 1.41 MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1214 : edgomez 1.40
1215 : edgomez 1.41 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1216 : Isibaar 1.1 }
1217 : edgomez 1.40
1218 : edgomez 1.41 #undef OFFSET
1219 : edgomez 1.40 }
1220 :    
1221 : Isibaar 1.7 xvid_free(temp_dquants);
1222 : Isibaar 1.1 }
1223 :    
1224 : edgomez 1.41 if (pEnc->current->global_flags & XVID_H263QUANT) {
1225 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
1226 : Isibaar 1.4 write_vol_header = 1;
1227 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = H263_QUANT;
1228 : edgomez 1.41 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1229 : edgomez 1.40 int matrix1_changed, matrix2_changed;
1230 : Isibaar 1.1
1231 : edgomez 1.40 matrix1_changed = matrix2_changed = 0;
1232 : edgomez 1.13
1233 : edgomez 1.41 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1234 : Isibaar 1.4 write_vol_header = 1;
1235 : edgomez 1.41
1236 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1237 : edgomez 1.41
1238 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1239 : edgomez 1.41 if (pFrame->quant_intra_matrix != NULL)
1240 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1241 :     if (pFrame->quant_inter_matrix != NULL)
1242 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1243 :     } else {
1244 : edgomez 1.40 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1245 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1246 : Isibaar 1.4 }
1247 : edgomez 1.41 if (write_vol_header == 0)
1248 : edgomez 1.40 write_vol_header = matrix1_changed | matrix2_changed;
1249 : Isibaar 1.2 }
1250 : Isibaar 1.1
1251 : edgomez 1.41 if (pFrame->intra < 0) {
1252 :     if ((pEnc->iFrameNum == 0)
1253 : suxen_drol 1.76.2.26 || ((pEnc->mbParam.iMaxKeyInterval > 0)
1254 :     && (pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval))) {
1255 : edgomez 1.41 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1256 :     } else {
1257 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1258 : edgomez 1.40 }
1259 : edgomez 1.41 } else {
1260 :     if (pFrame->intra == 1) {
1261 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1262 :     } else {
1263 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1264 : edgomez 1.40 }
1265 :    
1266 : edgomez 1.3 }
1267 : Isibaar 1.1
1268 :     BitstreamPutBits(&bs, 0xFFFF, 16);
1269 : edgomez 1.3 BitstreamPutBits(&bs, 0xFFFF, 16);
1270 :     BitstreamPad(&bs);
1271 :     pFrame->length = BitstreamLength(&bs);
1272 : h 1.5
1273 : edgomez 1.41 if (pResult) {
1274 : suxen_drol 1.27 pResult->quant = pEnc->current->quant;
1275 : suxen_drol 1.76.2.24 pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
1276 :     pResult->kblks = pEnc->current->sStat.kblks;
1277 :     pResult->mblks = pEnc->current->sStat.mblks;
1278 :     pResult->ublks = pEnc->current->sStat.ublks;
1279 : edgomez 1.3 }
1280 : edgomez 1.41
1281 : edgomez 1.42 emms();
1282 : Isibaar 1.7
1283 : edgomez 1.41 if (pFrame->quant == 0) {
1284 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1285 :     pFrame->length, pFrame->intra);
1286 : Isibaar 1.1 }
1287 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1288 : edgomez 1.41 psnr =
1289 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1290 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1291 :     pEnc->mbParam.height);
1292 : Isibaar 1.23
1293 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
1294 : Isibaar 1.23 DEBUG(temp);
1295 :     #endif
1296 : Isibaar 1.1
1297 :     pEnc->iFrameNum++;
1298 : edgomez 1.41
1299 : Isibaar 1.1 stop_global_timer();
1300 :     write_timer();
1301 :    
1302 :     return XVID_ERR_OK;
1303 :     }
1304 :    
1305 :    
1306 : edgomez 1.41 static __inline void
1307 :     CodeIntraMB(Encoder * pEnc,
1308 :     MACROBLOCK * pMB)
1309 :     {
1310 : Isibaar 1.1
1311 :     pMB->mode = MODE_INTRA;
1312 :    
1313 : suxen_drol 1.27 /* zero mv statistics */
1314 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1315 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1316 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1317 :     pMB->sad16 = 0;
1318 :    
1319 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1320 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
1321 : Isibaar 1.1 pMB->mode = MODE_INTRA_Q;
1322 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
1323 : edgomez 1.41
1324 :     if (pEnc->current->quant > 31)
1325 :     pEnc->current->quant = 31;
1326 :     if (pEnc->current->quant < 1)
1327 :     pEnc->current->quant = 1;
1328 : Isibaar 1.1 }
1329 :     }
1330 :    
1331 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
1332 : Isibaar 1.1 }
1333 :    
1334 :    
1335 : h 1.20 #define FCODEBITS 3
1336 :     #define MODEBITS 5
1337 :    
1338 : edgomez 1.41 void
1339 :     HintedMESet(Encoder * pEnc,
1340 :     int *intra)
1341 : h 1.20 {
1342 : edgomez 1.41 HINTINFO *hint;
1343 : h 1.20 Bitstream bs;
1344 :     int length, high;
1345 :     uint32_t x, y;
1346 :    
1347 :     hint = pEnc->mbParam.hint;
1348 :    
1349 : edgomez 1.41 if (hint->rawhints) {
1350 : h 1.20 *intra = hint->mvhint.intra;
1351 : edgomez 1.41 } else {
1352 : h 1.20 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1353 :     *intra = BitstreamGetBit(&bs);
1354 :     }
1355 :    
1356 : edgomez 1.41 if (*intra) {
1357 : h 1.20 return;
1358 :     }
1359 :    
1360 : edgomez 1.41 pEnc->current->fcode =
1361 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1362 :     FCODEBITS);
1363 :    
1364 :     length = pEnc->current->fcode + 5;
1365 :     high = 1 << (length - 1);
1366 :    
1367 :     for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1368 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1369 :     MACROBLOCK *pMB =
1370 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1371 :     MVBLOCKHINT *bhint =
1372 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1373 : chl 1.53 VECTOR pred;
1374 : h 1.20 VECTOR tmp;
1375 :     int vec;
1376 :    
1377 : edgomez 1.41 pMB->mode =
1378 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1379 :     MODEBITS);
1380 : h 1.20
1381 : h 1.26 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1382 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1383 :    
1384 : edgomez 1.41 if (pMB->mode == MODE_INTER) {
1385 :     tmp.x =
1386 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1387 :     length);
1388 :     tmp.y =
1389 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1390 :     length);
1391 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1392 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1393 :    
1394 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
1395 : edgomez 1.41
1396 :     for (vec = 0; vec < 4; ++vec) {
1397 :     pMB->mvs[vec].x = tmp.x;
1398 :     pMB->mvs[vec].y = tmp.y;
1399 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
1400 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
1401 : h 1.20 }
1402 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1403 :     for (vec = 0; vec < 4; ++vec) {
1404 :     tmp.x =
1405 :     (hint->rawhints) ? bhint->mvs[vec].
1406 :     x : BitstreamGetBits(&bs, length);
1407 :     tmp.y =
1408 :     (hint->rawhints) ? bhint->mvs[vec].
1409 :     y : BitstreamGetBits(&bs, length);
1410 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1411 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1412 : h 1.20
1413 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
1414 : h 1.20
1415 : edgomez 1.41 pMB->mvs[vec].x = tmp.x;
1416 :     pMB->mvs[vec].y = tmp.y;
1417 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
1418 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
1419 : h 1.20 }
1420 : edgomez 1.41 } else // intra / stuffing / not_coded
1421 : h 1.20 {
1422 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1423 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1424 : h 1.26 }
1425 :     }
1426 :    
1427 : suxen_drol 1.27 if (pMB->mode == MODE_INTER4V &&
1428 : edgomez 1.41 (pEnc->current->global_flags & XVID_LUMIMASKING)
1429 :     && pMB->dquant != NO_CHANGE) {
1430 : h 1.26 pMB->mode = MODE_INTRA;
1431 :    
1432 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1433 : h 1.26 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1434 : h 1.20 }
1435 :     }
1436 :     }
1437 :     }
1438 :     }
1439 :    
1440 :    
1441 : edgomez 1.41 void
1442 :     HintedMEGet(Encoder * pEnc,
1443 :     int intra)
1444 : h 1.20 {
1445 : edgomez 1.41 HINTINFO *hint;
1446 : h 1.20 Bitstream bs;
1447 :     uint32_t x, y;
1448 :     int length, high;
1449 :    
1450 :     hint = pEnc->mbParam.hint;
1451 :    
1452 : edgomez 1.41 if (hint->rawhints) {
1453 : h 1.20 hint->mvhint.intra = intra;
1454 : edgomez 1.41 } else {
1455 : h 1.20 BitstreamInit(&bs, hint->hintstream, 0);
1456 :     BitstreamPutBit(&bs, intra);
1457 :     }
1458 :    
1459 : edgomez 1.41 if (intra) {
1460 :     if (!hint->rawhints) {
1461 : h 1.20 BitstreamPad(&bs);
1462 :     hint->hintlength = BitstreamLength(&bs);
1463 :     }
1464 :     return;
1465 :     }
1466 :    
1467 : edgomez 1.41 length = pEnc->current->fcode + 5;
1468 :     high = 1 << (length - 1);
1469 : h 1.20
1470 : edgomez 1.41 if (hint->rawhints) {
1471 : suxen_drol 1.27 hint->mvhint.fcode = pEnc->current->fcode;
1472 : edgomez 1.41 } else {
1473 : suxen_drol 1.27 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1474 : h 1.20 }
1475 :    
1476 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1477 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1478 :     MACROBLOCK *pMB =
1479 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1480 :     MVBLOCKHINT *bhint =
1481 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1482 : h 1.20 VECTOR tmp;
1483 :    
1484 : edgomez 1.41 if (hint->rawhints) {
1485 : h 1.20 bhint->mode = pMB->mode;
1486 : edgomez 1.41 } else {
1487 : h 1.20 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1488 :     }
1489 :    
1490 : edgomez 1.41 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1491 :     tmp.x = pMB->mvs[0].x;
1492 :     tmp.y = pMB->mvs[0].y;
1493 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1494 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1495 : h 1.20
1496 : edgomez 1.41 if (hint->rawhints) {
1497 : h 1.20 bhint->mvs[0].x = tmp.x;
1498 :     bhint->mvs[0].y = tmp.y;
1499 : edgomez 1.41 } else {
1500 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1501 :     BitstreamPutBits(&bs, tmp.y, length);
1502 :     }
1503 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1504 : h 1.20 int vec;
1505 :    
1506 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1507 :     tmp.x = pMB->mvs[vec].x;
1508 :     tmp.y = pMB->mvs[vec].y;
1509 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1510 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1511 : h 1.20
1512 : edgomez 1.41 if (hint->rawhints) {
1513 : h 1.20 bhint->mvs[vec].x = tmp.x;
1514 :     bhint->mvs[vec].y = tmp.y;
1515 : edgomez 1.41 } else {
1516 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1517 :     BitstreamPutBits(&bs, tmp.y, length);
1518 :     }
1519 :     }
1520 :     }
1521 :     }
1522 :     }
1523 :    
1524 : edgomez 1.41 if (!hint->rawhints) {
1525 : h 1.20 BitstreamPad(&bs);
1526 :     hint->hintlength = BitstreamLength(&bs);
1527 :     }
1528 :     }
1529 :    
1530 :    
1531 : edgomez 1.41 static int
1532 :     FrameCodeI(Encoder * pEnc,
1533 :     Bitstream * bs,
1534 :     uint32_t * pBits)
1535 : h 1.21 {
1536 : suxen_drol 1.76.2.26 int mb_width = pEnc->mbParam.mb_width;
1537 :     int mb_height = pEnc->mbParam.mb_height;
1538 : h 1.21
1539 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1540 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1541 : h 1.21
1542 :     uint16_t x, y;
1543 :    
1544 : suxen_drol 1.76.2.26 if ((pEnc->current->global_flags & XVID_REDUCED))
1545 :     {
1546 :     mb_width = (pEnc->mbParam.width + 31) / 32;
1547 :     mb_height = (pEnc->mbParam.height + 31) / 32;
1548 :    
1549 :     /* 16x16->8x8 downsample requires 1 additional edge pixel*/
1550 :     /* XXX: setedges is overkill */
1551 :     start_timer();
1552 :     image_setedges(&pEnc->current->image,
1553 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1554 :     pEnc->mbParam.width, pEnc->mbParam.height);
1555 :     stop_edges_timer();
1556 :     }
1557 :    
1558 : h 1.21 pEnc->iFrameNum = 0;
1559 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1;
1560 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1561 : chl 1.76.2.14 pEnc->current->quarterpel = pEnc->mbParam.m_quarterpel;
1562 : suxen_drol 1.27 pEnc->current->coding_type = I_VOP;
1563 : h 1.21
1564 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1565 : chl 1.76.2.1
1566 : suxen_drol 1.76.2.26 /* XXX: move this stuff to BitstreamWriteVolHeader */
1567 : suxen_drol 1.44 #define DIVX501B481P "DivX501b481p"
1568 : suxen_drol 1.76.2.26 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED)) {
1569 : suxen_drol 1.44 BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1570 :     }
1571 : Isibaar 1.76.2.13
1572 :     #define XVID_ID "XviD" XVID_BS_VERSION
1573 :     BitstreamWriteUserData(bs, XVID_ID, strlen(XVID_ID));
1574 :    
1575 : chl 1.76.2.4 set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1576 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1577 : h 1.21
1578 :     *pBits = BitstreamPos(bs);
1579 :    
1580 : suxen_drol 1.76.2.24 pEnc->current->sStat.iTextBits = 0;
1581 : suxen_drol 1.76.2.26 pEnc->current->sStat.kblks = mb_width * mb_height;
1582 : suxen_drol 1.76.2.24 pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;
1583 : h 1.21
1584 : suxen_drol 1.76.2.26 for (y = 0; y < mb_height; y++)
1585 :     for (x = 0; x < mb_width; x++) {
1586 : edgomez 1.41 MACROBLOCK *pMB =
1587 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1588 : h 1.21
1589 :     CodeIntraMB(pEnc, pMB);
1590 :    
1591 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1592 :     dct_codes, qcoeff);
1593 : h 1.21
1594 :     start_timer();
1595 : suxen_drol 1.27 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1596 : h 1.21 stop_prediction_timer();
1597 :    
1598 :     start_timer();
1599 : chl 1.68 if (pEnc->current->global_flags & XVID_GREYSCALE)
1600 :     { pMB->cbp &= 0x3C; /* keep only bits 5-2 */
1601 :     qcoeff[4*64+0]=0; /* zero, because for INTRA MBs DC value is saved */
1602 :     qcoeff[5*64+0]=0;
1603 :     }
1604 : suxen_drol 1.76.2.24 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1605 : h 1.21 stop_coding_timer();
1606 :     }
1607 :    
1608 : suxen_drol 1.76.2.27 if ((pEnc->current->global_flags & XVID_REDUCED))
1609 :     {
1610 :     image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1611 :     pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width);
1612 :     }
1613 : h 1.21 emms();
1614 :    
1615 :     *pBits = BitstreamPos(bs) - *pBits;
1616 : suxen_drol 1.76.2.24 pEnc->fMvPrevSigma = -1;
1617 : suxen_drol 1.27 pEnc->mbParam.m_fcode = 2;
1618 : h 1.21
1619 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1620 : h 1.21 HintedMEGet(pEnc, 1);
1621 :     }
1622 :    
1623 : edgomez 1.41 return 1; // intra
1624 : h 1.21 }
1625 :    
1626 :    
1627 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
1628 : chl 1.76.2.1 #define BFRAME_SKIP_THRESHHOLD 30
1629 : Isibaar 1.1
1630 : edgomez 1.41 static int
1631 :     FrameCodeP(Encoder * pEnc,
1632 :     Bitstream * bs,
1633 :     uint32_t * pBits,
1634 :     bool force_inter,
1635 :     bool vol_header)
1636 : Isibaar 1.1 {
1637 : edgomez 1.3 float fSigma;
1638 : edgomez 1.13
1639 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1640 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1641 : Isibaar 1.8
1642 : suxen_drol 1.76.2.26 int mb_width = pEnc->mbParam.mb_width;
1643 :     int mb_height = pEnc->mbParam.mb_height;
1644 :    
1645 : Isibaar 1.1 int iLimit;
1646 : chl 1.69 int x, y, k;
1647 : edgomez 1.3 int iSearchRange;
1648 : Isibaar 1.76.2.12 int bIntra, skip_possible;
1649 : suxen_drol 1.49
1650 : edgomez 1.29 /* IMAGE *pCurrent = &pEnc->current->image; */
1651 : suxen_drol 1.27 IMAGE *pRef = &pEnc->reference->image;
1652 : Isibaar 1.1
1653 : suxen_drol 1.76.2.26 if ((pEnc->current->global_flags & XVID_REDUCED))
1654 :     {
1655 : suxen_drol 1.76.2.27 mb_width = (pEnc->mbParam.width + 31) / 32;
1656 :     mb_height = (pEnc->mbParam.height + 31) / 32;
1657 : suxen_drol 1.76.2.26 }
1658 : suxen_drol 1.76.2.27
1659 : suxen_drol 1.76.2.26
1660 : h 1.11 start_timer();
1661 : edgomez 1.41 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1662 : h 1.76.2.2 pEnc->mbParam.width, pEnc->mbParam.height);
1663 : h 1.11 stop_edges_timer();
1664 : Isibaar 1.1
1665 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1666 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1667 : chl 1.76.2.14 pEnc->current->quarterpel = pEnc->mbParam.m_quarterpel;
1668 : suxen_drol 1.27 pEnc->current->fcode = pEnc->mbParam.m_fcode;
1669 : Isibaar 1.1
1670 :     if (!force_inter)
1671 : suxen_drol 1.76.2.26 iLimit = (int)(mb_width * mb_height * INTRA_THRESHOLD);
1672 : edgomez 1.3 else
1673 : suxen_drol 1.76.2.26 iLimit = mb_width * mb_height + 1;
1674 : Isibaar 1.1
1675 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1676 : Isibaar 1.1 start_timer();
1677 : edgomez 1.41 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1678 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1679 :     pEnc->mbParam.edged_height,
1680 : Isibaar 1.76.2.12 pEnc->mbParam.m_quarterpel,
1681 : edgomez 1.41 pEnc->current->rounding_type);
1682 : Isibaar 1.1 stop_inter_timer();
1683 :     }
1684 :    
1685 : chl 1.76.2.14 if (pEnc->current->global_flags & XVID_GMC) {
1686 : chl 1.76.2.15 // printf("Global Motion = %d %d quarterpel=%d\n", pEnc->current->GMC_MV.x, pEnc->current->GMC_MV.y,pEnc->current->quarterpel);
1687 : suxen_drol 1.76.2.16 DPRINTF(DPRINTF_HEADER, "Global Motion = %d %d quarterpel=%d\n", pEnc->current->GMC_MV.x, pEnc->current->GMC_MV.y,pEnc->current->quarterpel);
1688 : chl 1.76.2.14 pEnc->current->coding_type = S_VOP;
1689 :     } else
1690 :     pEnc->current->coding_type = P_VOP;
1691 :    
1692 : Isibaar 1.1 start_timer();
1693 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1694 : h 1.20 HintedMESet(pEnc, &bIntra);
1695 : syskin 1.76.2.10 if (bIntra == 0) {
1696 :     MotionEstimationHinted(&pEnc->mbParam, pEnc->current, pEnc->reference,
1697 : chl 1.76.2.1 &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
1698 : syskin 1.76.2.10 }
1699 : chl 1.76.2.1
1700 : edgomez 1.41 } else {
1701 : chl 1.52
1702 : chl 1.76.2.14 bIntra =
1703 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1704 : suxen_drol 1.55 &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1705 :     iLimit);
1706 : h 1.20 }
1707 : Isibaar 1.1 stop_motion_timer();
1708 :    
1709 : chl 1.76.2.1 if (bIntra == 1) return FrameCodeI(pEnc, bs, pBits);
1710 : Isibaar 1.1
1711 : chl 1.76.2.14 if ( (pEnc->current->GMC_MV.x == 0) && (pEnc->current->GMC_MV.y == 0) )
1712 :     pEnc->current->coding_type = P_VOP; /* no global motion -> no GMC */
1713 :    
1714 : Isibaar 1.1
1715 : edgomez 1.41 if (vol_header)
1716 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1717 : chl 1.76.2.4
1718 : Isibaar 1.1
1719 : chl 1.76.2.4 set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1720 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1721 : edgomez 1.3
1722 :     *pBits = BitstreamPos(bs);
1723 :    
1724 : suxen_drol 1.76.2.24 pEnc->current->sStat.iTextBits = pEnc->current->sStat.iMvSum = pEnc->current->sStat.iMvCount =
1725 :     pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;
1726 : Isibaar 1.1
1727 : suxen_drol 1.76.2.26 for (y = 0; y < mb_height; y++) {
1728 :     for (x = 0; x < mb_width; x++) {
1729 : edgomez 1.41 MACROBLOCK *pMB =
1730 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1731 : Isibaar 1.1
1732 : edgomez 1.3 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1733 : Isibaar 1.1
1734 : edgomez 1.41 if (!bIntra) {
1735 : Isibaar 1.1 start_timer();
1736 : edgomez 1.41 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1737 :     &pEnc->vInterH, &pEnc->vInterV,
1738 :     &pEnc->vInterHV, &pEnc->current->image,
1739 :     dct_codes, pEnc->mbParam.width,
1740 :     pEnc->mbParam.height,
1741 :     pEnc->mbParam.edged_width,
1742 : Isibaar 1.76.2.12 pEnc->mbParam.m_quarterpel,
1743 : suxen_drol 1.76.2.26 (pEnc->current->global_flags & XVID_REDUCED),
1744 : edgomez 1.41 pEnc->current->rounding_type);
1745 : Isibaar 1.1 stop_comp_timer();
1746 :    
1747 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1748 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
1749 : Isibaar 1.1 pMB->mode = MODE_INTER_Q;
1750 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
1751 : edgomez 1.41 if (pEnc->current->quant > 31)
1752 :     pEnc->current->quant = 31;
1753 :     else if (pEnc->current->quant < 1)
1754 :     pEnc->current->quant = 1;
1755 : Isibaar 1.1 }
1756 :     }
1757 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
1758 : Isibaar 1.1
1759 : h 1.11 pMB->field_pred = 0;
1760 :    
1761 : chl 1.76.2.1 if (pMB->mode != MODE_NOT_CODED)
1762 :     pMB->cbp =
1763 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1764 :     dct_codes, qcoeff);
1765 : edgomez 1.41 } else {
1766 : Isibaar 1.1 CodeIntraMB(pEnc, pMB);
1767 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1768 :     dct_codes, qcoeff);
1769 : Isibaar 1.1 }
1770 :    
1771 : edgomez 1.3 start_timer();
1772 : edgomez 1.41 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1773 : Isibaar 1.1 stop_prediction_timer();
1774 :    
1775 : edgomez 1.41 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
1776 : suxen_drol 1.76.2.24 pEnc->current->sStat.kblks++;
1777 : edgomez 1.41 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1778 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1779 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1780 : suxen_drol 1.76.2.24 pEnc->current->sStat.mblks++;
1781 : chl 1.64 } else {
1782 : suxen_drol 1.76.2.24 pEnc->current->sStat.ublks++;
1783 : chl 1.64 }
1784 : Isibaar 1.1
1785 :     start_timer();
1786 : chl 1.65
1787 :     /* Finished processing the MB, now check if to CODE or SKIP */
1788 :    
1789 : Isibaar 1.76.2.12 skip_possible = (pMB->cbp == 0) & (pMB->mode == MODE_INTER) &
1790 :     (pMB->dquant == NO_CHANGE);
1791 :    
1792 :     if(pEnc->mbParam.m_quarterpel)
1793 : chl 1.76.2.14 { skip_possible &= (pMB->qmvs[0].x == pEnc->current->GMC_MV.x) & (pMB->qmvs[0].y == pEnc->current->GMC_MV.y);
1794 :     }
1795 : Isibaar 1.76.2.12 else
1796 : chl 1.76.2.14 { skip_possible &= (pMB->mvs[0].x == pEnc->current->GMC_MV.x) & (pMB->mvs[0].y == pEnc->current->GMC_MV.y);
1797 :     }
1798 :    
1799 :     if ( (pMB->mode == MODE_NOT_CODED) || (skip_possible)) {
1800 : chl 1.65
1801 : chl 1.76.2.14 /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */
1802 :     int bSkip = 1;
1803 : chl 1.65
1804 : chl 1.76.2.14 if (pEnc->current->coding_type == P_VOP) /* special rule for P-VOP's SKIP */
1805 :     for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)
1806 :     {
1807 :     int iSAD;
1808 :     iSAD = sad16(pEnc->reference->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1809 :     pEnc->bframes[k]->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1810 : chl 1.65 pEnc->mbParam.edged_width,BFRAME_SKIP_THRESHHOLD);
1811 : chl 1.76.2.14 if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)
1812 :     { bSkip = 0;
1813 :     break;
1814 :     }
1815 : chl 1.65 }
1816 : chl 1.76.2.14
1817 :     if (!bSkip)
1818 :     {
1819 : chl 1.76.2.1 VECTOR predMV;
1820 : chl 1.76.2.14 if(pEnc->mbParam.m_quarterpel) {
1821 : Isibaar 1.76.2.12 predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1822 : chl 1.76.2.14 pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x; /* with GMC, qmvs doesn't have to be (0,0)! */
1823 :     pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;
1824 :     }
1825 :     else {
1826 : Isibaar 1.76.2.12 predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1827 : chl 1.76.2.14 pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x; /* with GMC, mvs doesn't have to be (0,0)! */
1828 :     pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;
1829 :     }
1830 : chl 1.76.2.1 pMB->mode = MODE_INTER;
1831 :     pMB->cbp = 0;
1832 : suxen_drol 1.76.2.24 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1833 : chl 1.65 }
1834 : chl 1.76.2.14 else
1835 :     {
1836 :     pMB->mode = MODE_NOT_CODED;
1837 :     MBSkip(bs);
1838 :     }
1839 : chl 1.76.2.1
1840 : chl 1.65 } else {
1841 : chl 1.68 if (pEnc->current->global_flags & XVID_GREYSCALE)
1842 :     { pMB->cbp &= 0x3C; /* keep only bits 5-2 */
1843 :     qcoeff[4*64+0]=0; /* zero, because DC for INTRA MBs DC value is saved */
1844 :     qcoeff[5*64+0]=0;
1845 :     }
1846 : suxen_drol 1.76.2.24 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1847 : chl 1.65 }
1848 :    
1849 : Isibaar 1.1 stop_coding_timer();
1850 :     }
1851 :     }
1852 :    
1853 : suxen_drol 1.76.2.27 if ((pEnc->current->global_flags & XVID_REDUCED))
1854 :     {
1855 :     image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1856 :     pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width);
1857 :     }
1858 :    
1859 : Isibaar 1.1 emms();
1860 : h 1.20
1861 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1862 : h 1.20 HintedMEGet(pEnc, 0);
1863 :     }
1864 : Isibaar 1.1
1865 : suxen_drol 1.76.2.24 if (pEnc->current->sStat.iMvCount == 0)
1866 :     pEnc->current->sStat.iMvCount = 1;
1867 : Isibaar 1.1
1868 : suxen_drol 1.76.2.24 fSigma = (float) sqrt((float) pEnc->current->sStat.iMvSum / pEnc->current->sStat.iMvCount);
1869 : Isibaar 1.1
1870 : suxen_drol 1.27 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1871 : Isibaar 1.1
1872 : edgomez 1.41 if ((fSigma > iSearchRange / 3)
1873 : Isibaar 1.76.2.12 && (pEnc->mbParam.m_fcode <= (3 + pEnc->mbParam.m_quarterpel))) // maximum search range 128
1874 : edgomez 1.3 {
1875 : suxen_drol 1.27 pEnc->mbParam.m_fcode++;
1876 : Isibaar 1.1 iSearchRange *= 2;
1877 : edgomez 1.41 } else if ((fSigma < iSearchRange / 6)
1878 : suxen_drol 1.76.2.24 && (pEnc->fMvPrevSigma >= 0)
1879 :     && (pEnc->fMvPrevSigma < iSearchRange / 6)
1880 : Isibaar 1.76.2.12 && (pEnc->mbParam.m_fcode >= (2 + pEnc->mbParam.m_quarterpel))) // minimum search range 16
1881 : edgomez 1.3 {
1882 : suxen_drol 1.27 pEnc->mbParam.m_fcode--;
1883 : Isibaar 1.1 iSearchRange /= 2;
1884 : edgomez 1.3 }
1885 : Isibaar 1.1
1886 : suxen_drol 1.76.2.24 pEnc->fMvPrevSigma = fSigma;
1887 : suxen_drol 1.60
1888 :     /* frame drop code */
1889 : suxen_drol 1.76.2.24 // DPRINTF(DPRINTF_DEBUG, "kmu %i %i %i", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);
1890 :     if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <
1891 : suxen_drol 1.76.2.26 (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)
1892 : suxen_drol 1.60 {
1893 : suxen_drol 1.76.2.24 pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = 0;
1894 : suxen_drol 1.76.2.26 pEnc->current->sStat.ublks = mb_width * mb_height;
1895 : suxen_drol 1.60
1896 :     BitstreamReset(bs);
1897 : chl 1.76.2.4
1898 :     set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1899 : suxen_drol 1.60 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 0);
1900 :    
1901 :     // copy reference frame details into the current frame
1902 :     pEnc->current->quant = pEnc->reference->quant;
1903 :     pEnc->current->motion_flags = pEnc->reference->motion_flags;
1904 :     pEnc->current->rounding_type = pEnc->reference->rounding_type;
1905 : chl 1.76.2.14 pEnc->current->quarterpel = pEnc->reference->quarterpel;
1906 : suxen_drol 1.60 pEnc->current->fcode = pEnc->reference->fcode;
1907 :     pEnc->current->bcode = pEnc->reference->bcode;
1908 :     image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
1909 : suxen_drol 1.76.2.26 memcpy(pEnc->current->mbs, pEnc->reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
1910 :     }
1911 : suxen_drol 1.60
1912 : suxen_drol 1.76.2.26 /* XXX: debug
1913 :     {
1914 :     char s[100];
1915 :     sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);
1916 :     image_dump_yuvpgm(&pEnc->current->image,
1917 :     pEnc->mbParam.edged_width,
1918 :     pEnc->mbParam.width, pEnc->mbParam.height, s);
1919 :    
1920 :     sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);
1921 :     image_dump_yuvpgm(&pEnc->reference->image,
1922 :     pEnc->mbParam.edged_width,
1923 :     pEnc->mbParam.width, pEnc->mbParam.height, s);
1924 : suxen_drol 1.76.2.27 }
1925 : suxen_drol 1.76.2.26 */
1926 : suxen_drol 1.76.2.27
1927 : edgomez 1.41
1928 : Isibaar 1.1 *pBits = BitstreamPos(bs) - *pBits;
1929 :    
1930 : edgomez 1.41 return 0; // inter
1931 : Isibaar 1.1 }
1932 : suxen_drol 1.24
1933 :    
1934 : suxen_drol 1.76.2.25 static void
1935 : edgomez 1.41 FrameCodeB(Encoder * pEnc,
1936 :     FRAMEINFO * frame,
1937 :     Bitstream * bs,
1938 :     uint32_t * pBits)
1939 : suxen_drol 1.24 {
1940 : edgomez 1.41 int16_t dct_codes[6 * 64];
1941 :     int16_t qcoeff[6 * 64];
1942 :     uint32_t x, y;
1943 : suxen_drol 1.24
1944 : edgomez 1.41 IMAGE *f_ref = &pEnc->reference->image;
1945 : suxen_drol 1.24 IMAGE *b_ref = &pEnc->current->image;
1946 :    
1947 : chenm001 1.54 #ifdef BFRAMES_DEC_DEBUG
1948 :     FILE *fp;
1949 :     static char first=0;
1950 :     #define BFRAME_DEBUG if (!first && fp){ \
1951 :     fprintf(fp,"Y=%3d X=%3d MB=%2d CBP=%02X\n",y,x,mb->mode,mb->cbp); \
1952 :     }
1953 :    
1954 : suxen_drol 1.76.2.26 pEnc->current->global_flags &= ~XVID_REDUCED; /* reduced resoltion not yet supported */
1955 :    
1956 : chenm001 1.54 if (!first){
1957 :     fp=fopen("C:\\XVIDDBGE.TXT","w");
1958 :     }
1959 :     #endif
1960 : chl 1.76.2.14
1961 :     frame->quarterpel = pEnc->mbParam.m_quarterpel;
1962 : syskin 1.76.2.21
1963 : suxen_drol 1.32 // forward
1964 : edgomez 1.41 image_setedges(f_ref, pEnc->mbParam.edged_width,
1965 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1966 : h 1.76.2.2 pEnc->mbParam.height);
1967 : suxen_drol 1.24 start_timer();
1968 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1969 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1970 : Isibaar 1.76.2.12 pEnc->mbParam.m_quarterpel, 0);
1971 : suxen_drol 1.24 stop_inter_timer();
1972 :    
1973 : suxen_drol 1.32 // backward
1974 : edgomez 1.41 image_setedges(b_ref, pEnc->mbParam.edged_width,
1975 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1976 : h 1.76.2.2 pEnc->mbParam.height);
1977 : edgomez 1.41 start_timer();
1978 : suxen_drol 1.24 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1979 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1980 : Isibaar 1.76.2.12 pEnc->mbParam.m_quarterpel, 0);
1981 : suxen_drol 1.24 stop_inter_timer();
1982 :    
1983 :     start_timer();
1984 : chl 1.76.2.4
1985 : chl 1.57 MotionEstimationBVOP(&pEnc->mbParam, frame,
1986 : chl 1.76.2.5 ((int32_t)(pEnc->current->stamp - frame->stamp)), // time_bp
1987 : chl 1.76.2.4 ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)), // time_pp
1988 :     pEnc->reference->mbs, f_ref,
1989 : edgomez 1.41 &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1990 : syskin 1.76.2.18 pEnc->current, b_ref, &pEnc->vInterH,
1991 : edgomez 1.41 &pEnc->vInterV, &pEnc->vInterHV);
1992 :    
1993 : suxen_drol 1.24
1994 :     stop_motion_timer();
1995 : edgomez 1.41
1996 : suxen_drol 1.32 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1997 : edgomez 1.41 {
1998 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1999 :     } */
2000 : suxen_drol 1.24
2001 : edgomez 1.41 frame->coding_type = B_VOP;
2002 : chl 1.76.2.4
2003 :     set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
2004 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
2005 : edgomez 1.29
2006 : edgomez 1.41 *pBits = BitstreamPos(bs);
2007 : edgomez 1.29
2008 : suxen_drol 1.76.2.24 frame->sStat.iTextBits = 0;
2009 :     frame->sStat.iMvSum = 0;
2010 :     frame->sStat.iMvCount = 0;
2011 :     frame->sStat.kblks = frame->sStat.mblks = frame->sStat.ublks = 0;
2012 : suxen_drol 1.24
2013 :    
2014 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
2015 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
2016 : chl 1.76.2.1 MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
2017 : suxen_drol 1.76.2.26 int direction = pEnc->mbParam.global & XVID_ALTERNATESCAN ? 2 : 0;
2018 : suxen_drol 1.24
2019 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
2020 : edgomez 1.41 if (mb->mode == MODE_NOT_CODED) {
2021 : chl 1.76.2.1 //mb->mvs[0].x = mb->mvs[0].y = mb->cbp = 0;
2022 : suxen_drol 1.24 continue;
2023 :     }
2024 :    
2025 : chl 1.76.2.1 if (mb->mode != MODE_DIRECT_NONE_MV) {
2026 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
2027 : edgomez 1.41 f_ref, &pEnc->f_refh, &pEnc->f_refv,
2028 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
2029 :     &pEnc->vInterV, &pEnc->vInterHV,
2030 :     dct_codes);
2031 :    
2032 : chl 1.76.2.1 if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;
2033 :     mb->quant = frame->quant;
2034 :    
2035 :     mb->cbp =
2036 :     MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, dct_codes, qcoeff);
2037 : edgomez 1.41
2038 : chl 1.76.2.1 if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)
2039 :     && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {
2040 :     mb->mode = MODE_DIRECT_NONE_MV; // skipped
2041 :     }
2042 : suxen_drol 1.24 }
2043 :    
2044 : chenm001 1.54 #ifdef BFRAMES_DEC_DEBUG
2045 :     BFRAME_DEBUG
2046 :     #endif
2047 : edgomez 1.41 start_timer();
2048 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
2049 : suxen_drol 1.76.2.24 &frame->sStat, direction);
2050 : suxen_drol 1.24 stop_coding_timer();
2051 :     }
2052 :     }
2053 :    
2054 :     emms();
2055 :    
2056 :     // TODO: dynamic fcode/bcode ???
2057 :    
2058 :     *pBits = BitstreamPos(bs) - *pBits;
2059 : chenm001 1.54
2060 :     #ifdef BFRAMES_DEC_DEBUG
2061 :     if (!first){
2062 :     first=1;
2063 :     if (fp)
2064 :     fclose(fp);
2065 :     }
2066 :     #endif
2067 : suxen_drol 1.24 }
2068 : chl 1.64
2069 :    
2070 :     /* in case internal output is needed somewhere... */
2071 :     /* {
2072 :     FILE *filehandle;
2073 :     filehandle=fopen("last-b.pgm","wb");
2074 :     if (filehandle)
2075 :     {
2076 :     fprintf(filehandle,"P5\n\n"); //
2077 :     fprintf(filehandle,"%d %d 255\n",pEnc->mbParam.edged_width,pEnc->mbParam.edged_height);
2078 :     fwrite(frame->image.y,pEnc->mbParam.edged_width,pEnc->mbParam.edged_height,filehandle);
2079 :     fclose(filehandle);
2080 :     }
2081 :     }
2082 :     */

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4