[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.48 - (view) (download)

1 : edgomez 1.40 /*****************************************************************************
2 : edgomez 1.29 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 :     * - Encoder main module -
5 :     *
6 :     * This program is an implementation of a part of one or more MPEG-4
7 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
8 :     * to use this software module in hardware or software products are
9 :     * advised that its use may infringe existing patents or copyrights, and
10 :     * any such use would be at such party's own risk. The original
11 :     * developer of this software module and his/her company, and subsequent
12 :     * editors and their companies, will have no liability for use of this
13 :     * software or modifications or derivatives thereof.
14 :     *
15 :     * This program is free software; you can redistribute it and/or modify
16 :     * it under the terms of the GNU General Public License as published by
17 :     * the Free Software Foundation; either version 2 of the License, or
18 :     * (at your option) any later version.
19 :     *
20 :     * This program is distributed in the hope that it will be useful,
21 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
22 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
23 :     * GNU General Public License for more details.
24 :     *
25 :     * You should have received a copy of the GNU General Public License
26 :     * along with this program; if not, write to the Free Software
27 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
28 :     *
29 : edgomez 1.40 ****************************************************************************/
30 : edgomez 1.29
31 : edgomez 1.40 /*****************************************************************************
32 : edgomez 1.29 *
33 :     * History
34 :     *
35 : suxen_drol 1.44 * 20.06.2002 bframe patch
36 : chenm001 1.36 * 08.05.2002 fix some problem in DEBUG mode;
37 :     * MinChen <chenm001@163.com>
38 : edgomez 1.29 * 14.04.2002 added FrameCodeB()
39 :     *
40 : suxen_drol 1.48 * $Id: encoder.c,v 1.47 2002/06/23 19:48:06 edgomez Exp $
41 : edgomez 1.29 *
42 : edgomez 1.40 ****************************************************************************/
43 : suxen_drol 1.24
44 : Isibaar 1.1 #include <stdlib.h>
45 :     #include <stdio.h>
46 :     #include <math.h>
47 : edgomez 1.42 #include <string.h>
48 : Isibaar 1.1
49 :     #include "encoder.h"
50 :     #include "prediction/mbprediction.h"
51 :     #include "global.h"
52 :     #include "utils/timer.h"
53 :     #include "image/image.h"
54 : suxen_drol 1.48 #ifdef BFRAMES
55 :     #include "image/font.h"
56 :     #endif
57 : suxen_drol 1.32 #include "motion/motion.h"
58 : Isibaar 1.1 #include "bitstream/cbp.h"
59 :     #include "utils/mbfunctions.h"
60 :     #include "bitstream/bitstream.h"
61 :     #include "bitstream/mbcoding.h"
62 :     #include "utils/ratecontrol.h"
63 :     #include "utils/emms.h"
64 :     #include "bitstream/mbcoding.h"
65 :     #include "quant/adapt_quant.h"
66 : Isibaar 1.2 #include "quant/quant_matrix.h"
67 : Isibaar 1.7 #include "utils/mem_align.h"
68 : Isibaar 1.1
69 : edgomez 1.40 /*****************************************************************************
70 :     * Local macros
71 :     ****************************************************************************/
72 :    
73 : Isibaar 1.1 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
74 : suxen_drol 1.27 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
75 : Isibaar 1.1
76 : edgomez 1.40 /*****************************************************************************
77 :     * Local function prototypes
78 :     ****************************************************************************/
79 :    
80 : edgomez 1.39 static int FrameCodeI(Encoder * pEnc,
81 : edgomez 1.41 Bitstream * bs,
82 :     uint32_t * pBits);
83 : edgomez 1.39
84 :     static int FrameCodeP(Encoder * pEnc,
85 : edgomez 1.41 Bitstream * bs,
86 :     uint32_t * pBits,
87 :     bool force_inter,
88 :     bool vol_header);
89 : Isibaar 1.1
90 : edgomez 1.39 #ifdef BFRAMES
91 :     static void FrameCodeB(Encoder * pEnc,
92 : edgomez 1.41 FRAMEINFO * frame,
93 :     Bitstream * bs,
94 :     uint32_t * pBits);
95 : edgomez 1.39 #endif
96 : Isibaar 1.1
97 : edgomez 1.40 /*****************************************************************************
98 :     * Local data
99 :     ****************************************************************************/
100 :    
101 : edgomez 1.41 static int DQtab[4] = {
102 : Isibaar 1.1 -1, -2, 1, 2
103 :     };
104 :    
105 : edgomez 1.41 static int iDQtab[5] = {
106 : Isibaar 1.1 1, 0, NO_CHANGE, 2, 3
107 :     };
108 :    
109 :    
110 : edgomez 1.41 static void __inline
111 :     image_null(IMAGE * image)
112 : suxen_drol 1.27 {
113 :     image->y = image->u = image->v = NULL;
114 :     }
115 :    
116 :    
117 : edgomez 1.40 /*****************************************************************************
118 :     * Encoder creation
119 :     *
120 :     * This function creates an Encoder instance, it allocates all necessary
121 :     * image buffers (reference, current and bframes) and initialize the internal
122 :     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
123 :     *
124 :     * The code seems to be very long but is very basic, mainly memory allocation
125 :     * and cleaning code.
126 :     *
127 :     * Returned values :
128 :     * - XVID_ERR_OK - no errors
129 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
130 :     * cleans the structure before exiting.
131 :     * pParam->handle is also set to NULL.
132 :     *
133 :     ****************************************************************************/
134 :    
135 :     int
136 :     encoder_create(XVID_ENC_PARAM * pParam)
137 : Isibaar 1.1 {
138 : edgomez 1.3 Encoder *pEnc;
139 : suxen_drol 1.44 int i;
140 : Isibaar 1.1
141 : edgomez 1.3 pParam->handle = NULL;
142 : Isibaar 1.1
143 : edgomez 1.3 ENC_CHECK(pParam);
144 : Isibaar 1.1
145 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
146 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
147 :     ENC_CHECK(!(pParam->width % 2));
148 :     ENC_CHECK(!(pParam->height % 2));
149 : Isibaar 1.1
150 : edgomez 1.39 /* Fps */
151 :    
152 : edgomez 1.41 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
153 : Isibaar 1.1 pParam->fincr = 1;
154 :     pParam->fbase = 25;
155 :     }
156 :    
157 : edgomez 1.39 /*
158 :     * Simplify the "fincr/fbase" fraction
159 :     * (neccessary, since windows supplies us with huge numbers)
160 :     */
161 : Isibaar 1.1
162 :     i = pParam->fincr;
163 : edgomez 1.41 while (i > 1) {
164 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
165 : Isibaar 1.1 pParam->fincr /= i;
166 :     pParam->fbase /= i;
167 :     i = pParam->fincr;
168 :     continue;
169 :     }
170 :     i--;
171 :     }
172 :    
173 : edgomez 1.41 if (pParam->fbase > 65535) {
174 :     float div = (float) pParam->fbase / 65535;
175 :    
176 :     pParam->fbase = (int) (pParam->fbase / div);
177 :     pParam->fincr = (int) (pParam->fincr / div);
178 : Isibaar 1.1 }
179 :    
180 : edgomez 1.39 /* Bitrate allocator defaults */
181 :    
182 : h 1.25 if (pParam->rc_bitrate <= 0)
183 :     pParam->rc_bitrate = 900000;
184 : Isibaar 1.1
185 : h 1.25 if (pParam->rc_reaction_delay_factor <= 0)
186 :     pParam->rc_reaction_delay_factor = 16;
187 :    
188 :     if (pParam->rc_averaging_period <= 0)
189 :     pParam->rc_averaging_period = 100;
190 :    
191 :     if (pParam->rc_buffer <= 0)
192 :     pParam->rc_buffer = 100;
193 : Isibaar 1.1
194 : edgomez 1.39 /* Max and min quantizers */
195 :    
196 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
197 : Isibaar 1.1 pParam->min_quantizer = 1;
198 :    
199 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
200 : Isibaar 1.1 pParam->max_quantizer = 31;
201 :    
202 : edgomez 1.39 if (pParam->max_quantizer < pParam->min_quantizer)
203 :     pParam->max_quantizer = pParam->min_quantizer;
204 :    
205 : edgomez 1.41 /* 1 keyframe each 10 seconds */
206 : edgomez 1.39
207 :     if (pParam->max_key_interval == 0)
208 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
209 : edgomez 1.41
210 : Isibaar 1.1
211 : edgomez 1.39 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
212 :     if (pEnc == NULL)
213 : Isibaar 1.1 return XVID_ERR_MEMORY;
214 :    
215 : edgomez 1.42 /* Zero the Encoder Structure */
216 :    
217 :     memset(pEnc, 0, sizeof(Encoder));
218 :    
219 : Isibaar 1.1 /* Fill members of Encoder structure */
220 :    
221 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
222 :     pEnc->mbParam.height = pParam->height;
223 : Isibaar 1.1
224 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
225 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
226 :    
227 : edgomez 1.41 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
228 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
229 : Isibaar 1.1
230 : suxen_drol 1.32 pEnc->mbParam.fbase = pParam->fbase;
231 :     pEnc->mbParam.fincr = pParam->fincr;
232 : Isibaar 1.43
233 :     pEnc->mbParam.m_quant_type = H263_QUANT;
234 : suxen_drol 1.32
235 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = -1;
236 : Isibaar 1.1
237 :     /* Fill rate control parameters */
238 :    
239 : h 1.25 pEnc->bitrate = pParam->rc_bitrate;
240 : Isibaar 1.1
241 : edgomez 1.3 pEnc->iFrameNum = 0;
242 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
243 : Isibaar 1.1
244 : suxen_drol 1.27 /* try to allocate frame memory */
245 : h 1.16
246 : edgomez 1.39 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
247 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
248 :    
249 : edgomez 1.41 if (pEnc->current == NULL || pEnc->reference == NULL)
250 : edgomez 1.39 goto xvid_err_memory1;
251 : suxen_drol 1.27
252 :     /* try to allocate mb memory */
253 : h 1.16
254 : edgomez 1.41 pEnc->current->mbs =
255 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
256 :     pEnc->mbParam.mb_height, CACHE_LINE);
257 :     pEnc->reference->mbs =
258 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
259 :     pEnc->mbParam.mb_height, CACHE_LINE);
260 : Isibaar 1.1
261 : edgomez 1.39 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
262 :     goto xvid_err_memory2;
263 : suxen_drol 1.27
264 :     /* try to allocate image memory */
265 :    
266 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
267 : suxen_drol 1.27 image_null(&pEnc->sOriginal);
268 :     #endif
269 : suxen_drol 1.32 #ifdef BFRAMES
270 :     image_null(&pEnc->f_refh);
271 :     image_null(&pEnc->f_refv);
272 :     image_null(&pEnc->f_refhv);
273 :     #endif
274 : suxen_drol 1.27 image_null(&pEnc->current->image);
275 :     image_null(&pEnc->reference->image);
276 :     image_null(&pEnc->vInterH);
277 :     image_null(&pEnc->vInterV);
278 :     image_null(&pEnc->vInterVf);
279 :     image_null(&pEnc->vInterHV);
280 :     image_null(&pEnc->vInterHVf);
281 : edgomez 1.39
282 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
283 : edgomez 1.41 if (image_create
284 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
285 :     pEnc->mbParam.edged_height) < 0)
286 : edgomez 1.39 goto xvid_err_memory3;
287 : suxen_drol 1.27 #endif
288 : suxen_drol 1.32 #ifdef BFRAMES
289 : edgomez 1.41 if (image_create
290 :     (&pEnc->f_refh, pEnc->mbParam.edged_width,
291 :     pEnc->mbParam.edged_height) < 0)
292 : edgomez 1.39 goto xvid_err_memory3;
293 : edgomez 1.41 if (image_create
294 :     (&pEnc->f_refv, pEnc->mbParam.edged_width,
295 :     pEnc->mbParam.edged_height) < 0)
296 : edgomez 1.39 goto xvid_err_memory3;
297 : edgomez 1.41 if (image_create
298 :     (&pEnc->f_refhv, pEnc->mbParam.edged_width,
299 :     pEnc->mbParam.edged_height) < 0)
300 : edgomez 1.39 goto xvid_err_memory3;
301 :     #endif
302 : edgomez 1.41 if (image_create
303 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
304 :     pEnc->mbParam.edged_height) < 0)
305 : edgomez 1.39 goto xvid_err_memory3;
306 : edgomez 1.41 if (image_create
307 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
308 :     pEnc->mbParam.edged_height) < 0)
309 : edgomez 1.39 goto xvid_err_memory3;
310 : edgomez 1.41 if (image_create
311 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
312 :     pEnc->mbParam.edged_height) < 0)
313 : edgomez 1.39 goto xvid_err_memory3;
314 : edgomez 1.41 if (image_create
315 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
316 :     pEnc->mbParam.edged_height) < 0)
317 : edgomez 1.39 goto xvid_err_memory3;
318 : edgomez 1.41 if (image_create
319 :     (&pEnc->vInterVf, pEnc->mbParam.edged_width,
320 :     pEnc->mbParam.edged_height) < 0)
321 : edgomez 1.39 goto xvid_err_memory3;
322 : edgomez 1.41 if (image_create
323 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
324 :     pEnc->mbParam.edged_height) < 0)
325 : edgomez 1.39 goto xvid_err_memory3;
326 : edgomez 1.41 if (image_create
327 :     (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
328 :     pEnc->mbParam.edged_height) < 0)
329 : edgomez 1.39 goto xvid_err_memory3;
330 :    
331 :    
332 : Isibaar 1.1
333 : edgomez 1.39 /* B Frames specific init */
334 : suxen_drol 1.32 #ifdef BFRAMES
335 : edgomez 1.41
336 : suxen_drol 1.46 pEnc->global = pParam->global;
337 : suxen_drol 1.35 pEnc->mbParam.max_bframes = pParam->max_bframes;
338 : suxen_drol 1.32 pEnc->bquant_ratio = pParam->bquant_ratio;
339 : edgomez 1.39 pEnc->bframes = NULL;
340 :    
341 : edgomez 1.41 if (pEnc->mbParam.max_bframes > 0) {
342 : suxen_drol 1.32 int n;
343 :    
344 : edgomez 1.41 pEnc->bframes =
345 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
346 :     CACHE_LINE);
347 : edgomez 1.39
348 :     if (pEnc->bframes == NULL)
349 :     goto xvid_err_memory3;
350 :    
351 : edgomez 1.41 for (n = 0; n < pEnc->mbParam.max_bframes; n++)
352 : edgomez 1.39 pEnc->bframes[n] = NULL;
353 : suxen_drol 1.32
354 : edgomez 1.41
355 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
356 :     pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
357 : edgomez 1.39
358 :     if (pEnc->bframes[n] == NULL)
359 :     goto xvid_err_memory4;
360 :    
361 : edgomez 1.41 pEnc->bframes[n]->mbs =
362 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
363 :     pEnc->mbParam.mb_height, CACHE_LINE);
364 : edgomez 1.39
365 :     if (pEnc->bframes[n]->mbs == NULL)
366 :     goto xvid_err_memory4;
367 :    
368 :     image_null(&pEnc->bframes[n]->image);
369 :    
370 : edgomez 1.41 if (image_create
371 :     (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
372 :     pEnc->mbParam.edged_height) < 0)
373 : edgomez 1.39 goto xvid_err_memory4;
374 : suxen_drol 1.32
375 :     }
376 :     }
377 : edgomez 1.39
378 : suxen_drol 1.32 pEnc->bframenum_head = 0;
379 :     pEnc->bframenum_tail = 0;
380 :     pEnc->flush_bframes = 0;
381 : suxen_drol 1.48 pEnc->bframenum_dx50bvop = -1;
382 : suxen_drol 1.32
383 : suxen_drol 1.44 pEnc->queue = NULL;
384 :    
385 :    
386 :     if (pEnc->mbParam.max_bframes > 0) {
387 :     int n;
388 :    
389 :     pEnc->queue =
390 :     xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
391 :     CACHE_LINE);
392 :    
393 :     if (pEnc->queue == NULL)
394 :     goto xvid_err_memory4;
395 :    
396 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++)
397 :     image_null(&pEnc->queue[n]);
398 :    
399 :     for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
400 :     if (image_create
401 :     (&pEnc->queue[n], pEnc->mbParam.edged_width,
402 :     pEnc->mbParam.edged_height) < 0)
403 :     goto xvid_err_memory5;
404 :    
405 :     }
406 :     }
407 :    
408 :     pEnc->queue_head = 0;
409 :     pEnc->queue_tail = 0;
410 :     pEnc->queue_size = 0;
411 :    
412 :    
413 : suxen_drol 1.32 pEnc->mbParam.m_seconds = 0;
414 :     pEnc->mbParam.m_ticks = 0;
415 : suxen_drol 1.46 pEnc->m_framenum = 0;
416 : suxen_drol 1.32 #endif
417 :    
418 : edgomez 1.41 pParam->handle = (void *) pEnc;
419 : Isibaar 1.1
420 : edgomez 1.41 if (pParam->rc_bitrate) {
421 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
422 :     pParam->rc_reaction_delay_factor,
423 :     pParam->rc_averaging_period, pParam->rc_buffer,
424 :     pParam->fbase * 1000 / pParam->fincr,
425 :     pParam->max_quantizer, pParam->min_quantizer);
426 : Isibaar 1.1 }
427 :    
428 : Isibaar 1.6 init_timer();
429 : Isibaar 1.1
430 :     return XVID_ERR_OK;
431 : edgomez 1.39
432 :     /*
433 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
434 :     */
435 :     #ifdef BFRAMES
436 : suxen_drol 1.44 xvid_err_memory5:
437 :    
438 :    
439 :     if (pEnc->mbParam.max_bframes > 0) {
440 :    
441 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
442 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
443 :     pEnc->mbParam.edged_height);
444 :     }
445 :     xvid_free(pEnc->queue);
446 :     }
447 :    
448 : edgomez 1.41 xvid_err_memory4:
449 : edgomez 1.39
450 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
451 :    
452 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
453 : edgomez 1.39
454 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
455 :     continue;
456 : edgomez 1.39
457 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
458 :     pEnc->mbParam.edged_height);
459 :    
460 :     xvid_free(pEnc->bframes[i]->mbs);
461 :    
462 :     xvid_free(pEnc->bframes[i]);
463 : edgomez 1.39
464 : suxen_drol 1.44 }
465 : edgomez 1.39
466 : suxen_drol 1.44 xvid_free(pEnc->bframes);
467 : edgomez 1.39 }
468 :    
469 :     #endif
470 :    
471 : edgomez 1.41 xvid_err_memory3:
472 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
473 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
474 :     pEnc->mbParam.edged_height);
475 : edgomez 1.39 #endif
476 :    
477 :     #ifdef BFRAMES
478 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
479 :     pEnc->mbParam.edged_height);
480 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
481 :     pEnc->mbParam.edged_height);
482 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
483 :     pEnc->mbParam.edged_height);
484 : edgomez 1.39 #endif
485 :    
486 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
487 :     pEnc->mbParam.edged_height);
488 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
489 :     pEnc->mbParam.edged_height);
490 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
491 :     pEnc->mbParam.edged_height);
492 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
493 :     pEnc->mbParam.edged_height);
494 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
495 :     pEnc->mbParam.edged_height);
496 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
497 :     pEnc->mbParam.edged_height);
498 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
499 :     pEnc->mbParam.edged_height);
500 : edgomez 1.39
501 : edgomez 1.41 xvid_err_memory2:
502 : edgomez 1.39 xvid_free(pEnc->current->mbs);
503 :     xvid_free(pEnc->reference->mbs);
504 :    
505 : edgomez 1.41 xvid_err_memory1:
506 : edgomez 1.39 xvid_free(pEnc->current);
507 :     xvid_free(pEnc->reference);
508 :     xvid_free(pEnc);
509 :    
510 : edgomez 1.40 pParam->handle = NULL;
511 :    
512 : edgomez 1.39 return XVID_ERR_MEMORY;
513 : Isibaar 1.1 }
514 :    
515 : edgomez 1.40 /*****************************************************************************
516 :     * Encoder destruction
517 :     *
518 :     * This function destroy the entire encoder structure created by a previous
519 :     * successful encoder_create call.
520 :     *
521 :     * Returned values (for now only one returned value) :
522 :     * - XVID_ERR_OK - no errors
523 :     *
524 :     ****************************************************************************/
525 :    
526 :     int
527 :     encoder_destroy(Encoder * pEnc)
528 : Isibaar 1.1 {
529 : suxen_drol 1.44 #ifdef BFRAMES
530 :     int i;
531 :     #endif
532 :    
533 : edgomez 1.3 ENC_CHECK(pEnc);
534 : Isibaar 1.1
535 : edgomez 1.39 /* B Frames specific */
536 : suxen_drol 1.32 #ifdef BFRAMES
537 : suxen_drol 1.44 if (pEnc->mbParam.max_bframes > 0) {
538 :    
539 :     for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
540 :    
541 :     image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
542 :     pEnc->mbParam.edged_height);
543 :     }
544 :     xvid_free(pEnc->queue);
545 :     }
546 :    
547 :    
548 :     if (pEnc->mbParam.max_bframes > 0) {
549 : edgomez 1.39
550 : suxen_drol 1.44 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
551 : edgomez 1.39
552 : suxen_drol 1.44 if (pEnc->bframes[i] == NULL)
553 :     continue;
554 : edgomez 1.39
555 : suxen_drol 1.44 image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
556 : edgomez 1.41 pEnc->mbParam.edged_height);
557 : edgomez 1.39
558 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]->mbs);
559 : edgomez 1.39
560 : suxen_drol 1.44 xvid_free(pEnc->bframes[i]);
561 :     }
562 : edgomez 1.39
563 : suxen_drol 1.44 xvid_free(pEnc->bframes);
564 :    
565 : suxen_drol 1.32 }
566 : edgomez 1.34 #endif
567 : suxen_drol 1.32
568 : edgomez 1.39 /* All images, reference, current etc ... */
569 :    
570 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
571 :     pEnc->mbParam.edged_height);
572 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
573 :     pEnc->mbParam.edged_height);
574 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
575 :     pEnc->mbParam.edged_height);
576 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
577 :     pEnc->mbParam.edged_height);
578 :     image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
579 :     pEnc->mbParam.edged_height);
580 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
581 :     pEnc->mbParam.edged_height);
582 :     image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
583 :     pEnc->mbParam.edged_height);
584 : suxen_drol 1.32 #ifdef BFRAMES
585 : edgomez 1.41 image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
586 :     pEnc->mbParam.edged_height);
587 :     image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
588 :     pEnc->mbParam.edged_height);
589 :     image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
590 :     pEnc->mbParam.edged_height);
591 : suxen_drol 1.32 #endif
592 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
593 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
594 :     pEnc->mbParam.edged_height);
595 : Isibaar 1.23 #endif
596 : edgomez 1.39
597 :     /* Encoder structure */
598 : edgomez 1.41
599 : suxen_drol 1.27 xvid_free(pEnc->current->mbs);
600 :     xvid_free(pEnc->current);
601 :    
602 :     xvid_free(pEnc->reference->mbs);
603 :     xvid_free(pEnc->reference);
604 :    
605 : Isibaar 1.7 xvid_free(pEnc);
606 : edgomez 1.39
607 : edgomez 1.3 return XVID_ERR_OK;
608 : Isibaar 1.1 }
609 :    
610 : suxen_drol 1.44
611 :     #ifdef BFRAMES
612 :     void inc_frame_num(Encoder * pEnc)
613 :     {
614 :     pEnc->iFrameNum++;
615 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
616 : suxen_drol 1.46
617 :     pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
618 :     pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
619 : suxen_drol 1.44 }
620 :     #endif
621 :    
622 :    
623 :     #ifdef BFRAMES
624 :     void queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
625 :     {
626 :     if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
627 :     {
628 :     DPRINTF("FATAL: QUEUE FULL");
629 :     return;
630 :     }
631 :    
632 :     DPRINTF("*** QUEUE bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
633 :     pEnc->bframenum_head, pEnc->bframenum_tail,
634 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
635 :    
636 :    
637 :     start_timer();
638 :     if (image_input
639 :     (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
640 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
641 :     return;
642 :     stop_conv_timer();
643 :    
644 :     pEnc->queue_size++;
645 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
646 :     }
647 :     #endif
648 :    
649 :    
650 :     #ifdef BFRAMES
651 : edgomez 1.40 /*****************************************************************************
652 : suxen_drol 1.44 * IPB frame encoder entry point
653 : edgomez 1.40 *
654 :     * Returned values :
655 :     * - XVID_ERR_OK - no errors
656 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
657 :     * format
658 :     ****************************************************************************/
659 : suxen_drol 1.32
660 : edgomez 1.40 int
661 : suxen_drol 1.44 encoder_encode_bframes(Encoder * pEnc,
662 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
663 :     XVID_ENC_STATS * pResult)
664 : suxen_drol 1.32 {
665 :     uint16_t x, y;
666 :     Bitstream bs;
667 :     uint32_t bits;
668 :    
669 : suxen_drol 1.44 int input_valid = 1;
670 :    
671 :     #ifdef _DEBUG_PSNR
672 : chenm001 1.36 float psnr;
673 :     char temp[128];
674 :     #endif
675 :    
676 : suxen_drol 1.32 ENC_CHECK(pEnc);
677 :     ENC_CHECK(pFrame);
678 : suxen_drol 1.44 ENC_CHECK(pFrame->image);
679 : suxen_drol 1.32
680 :     start_global_timer();
681 : edgomez 1.41
682 : suxen_drol 1.32 BitstreamInit(&bs, pFrame->bitstream, 0);
683 :    
684 : suxen_drol 1.44 ipvop_loop:
685 :    
686 : edgomez 1.40 /*
687 :     * bframe "flush" code
688 :     */
689 : suxen_drol 1.32
690 : edgomez 1.41 if ((pFrame->image == NULL || pEnc->flush_bframes)
691 :     && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
692 :    
693 :     if (pEnc->flush_bframes == 0) {
694 : edgomez 1.40 /*
695 :     * we have reached the end of stream without getting
696 :     * a future reference frame... so encode last final
697 :     * frame as a pframe
698 :     */
699 :    
700 : suxen_drol 1.44 DPRINTF("*** BFRAME (final frame) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
701 :     pEnc->bframenum_head, pEnc->bframenum_tail,
702 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
703 :    
704 : suxen_drol 1.32 pEnc->bframenum_tail--;
705 :     SWAP(pEnc->current, pEnc->reference);
706 :    
707 : edgomez 1.41 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
708 : suxen_drol 1.32
709 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
710 :    
711 :     BitstreamPad(&bs);
712 :     pFrame->length = BitstreamLength(&bs);
713 :     pFrame->intra = 0;
714 : edgomez 1.40
715 : suxen_drol 1.32 return XVID_ERR_OK;
716 :     }
717 :    
718 : suxen_drol 1.44
719 :     DPRINTF("*** BFRAME (flush) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
720 :     pEnc->bframenum_head, pEnc->bframenum_tail,
721 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
722 :    
723 : edgomez 1.41 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
724 : suxen_drol 1.32 pEnc->bframenum_head++;
725 :    
726 :     BitstreamPad(&bs);
727 :     pFrame->length = BitstreamLength(&bs);
728 :     pFrame->intra = 0;
729 : edgomez 1.40
730 : suxen_drol 1.44 if (input_valid)
731 :     queue_image(pEnc, pFrame);
732 :    
733 : suxen_drol 1.32 return XVID_ERR_OK;
734 :     }
735 :    
736 : suxen_drol 1.44 if (pEnc->bframenum_head > 0) {
737 :     pEnc->bframenum_head = pEnc->bframenum_tail = 0;
738 :    
739 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
740 : suxen_drol 1.44
741 :     DPRINTF("*** EMPTY bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
742 :     pEnc->bframenum_head, pEnc->bframenum_tail,
743 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
744 :    
745 :    
746 :     BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
747 :     BitstreamPad(&bs);
748 :     BitstreamPutBits(&bs, 0x7f, 8);
749 :    
750 :     pFrame->length = BitstreamLength(&bs);
751 :     pFrame->intra = 0;
752 :    
753 :     if (input_valid)
754 :     queue_image(pEnc, pFrame);
755 :    
756 :     return XVID_ERR_OK;
757 :     }
758 :     }
759 :    
760 :    
761 :     bvop_loop:
762 :    
763 : suxen_drol 1.48 if (pEnc->bframenum_dx50bvop != -1)
764 :     {
765 :    
766 :     SWAP(pEnc->current, pEnc->reference);
767 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
768 :    
769 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
770 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");
771 :     }
772 :    
773 :     if (input_valid)
774 :     {
775 :     queue_image(pEnc, pFrame);
776 :     input_valid = 0;
777 :     }
778 :    
779 :     } else if (input_valid) {
780 : suxen_drol 1.44
781 :     SWAP(pEnc->current, pEnc->reference);
782 :    
783 :     start_timer();
784 :     if (image_input
785 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
786 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
787 :     return XVID_ERR_FORMAT;
788 :     stop_conv_timer();
789 :    
790 :     // queue input frame, and dequue next image
791 :     if (pEnc->queue_size > 0)
792 :     {
793 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
794 :     if (pEnc->queue_head != pEnc->queue_tail)
795 :     {
796 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
797 :     }
798 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
799 :     pEnc->queue_tail = (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
800 :     }
801 :    
802 :     } else if (pEnc->queue_size > 0) {
803 :    
804 :     SWAP(pEnc->current, pEnc->reference);
805 :    
806 :     image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
807 :     pEnc->queue_head = (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
808 :     pEnc->queue_size--;
809 :    
810 :     } else if (BitstreamPos(&bs) == 0) {
811 :    
812 :     DPRINTF("*** SKIP bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
813 :     pEnc->bframenum_head, pEnc->bframenum_tail,
814 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
815 :    
816 :    
817 : suxen_drol 1.32 pFrame->intra = 0;
818 : edgomez 1.40
819 : suxen_drol 1.44 BitstreamPutBits(&bs, 0x7f, 8);
820 :     BitstreamPad(&bs);
821 :     pFrame->length = BitstreamLength(&bs);
822 :    
823 : suxen_drol 1.32 return XVID_ERR_OK;
824 :    
825 : suxen_drol 1.44 } else {
826 :    
827 :     pFrame->length = BitstreamLength(&bs);
828 :     return XVID_ERR_OK;
829 : suxen_drol 1.32 }
830 :    
831 :     pEnc->flush_bframes = 0;
832 :    
833 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
834 :     * Well there was a separation here so i put it in ANSI C
835 :     * comment style :-)
836 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
837 : suxen_drol 1.32
838 : suxen_drol 1.48 emms();
839 :    
840 :     // only inc frame num, adapt quant, etc. if we havent seen it before
841 :     if (pEnc->bframenum_dx50bvop < 0 )
842 :     {
843 :     if (pFrame->quant == 0)
844 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
845 :     else
846 :     pEnc->current->quant = pFrame->quant;
847 :    
848 :     if (pEnc->current->quant < 1)
849 :     pEnc->current->quant = 1;
850 :    
851 :     if (pEnc->current->quant > 31)
852 :     pEnc->current->quant = 31;
853 :    
854 :     pEnc->current->global_flags = pFrame->general;
855 :     pEnc->current->motion_flags = pFrame->motion;
856 :    
857 :     /* ToDo : dynamic fcode (in both directions) */
858 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
859 :     pEnc->current->bcode = pEnc->mbParam.m_fcode;
860 : suxen_drol 1.32
861 : suxen_drol 1.48 pEnc->current->seconds = pEnc->mbParam.m_seconds;
862 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
863 : edgomez 1.40
864 : suxen_drol 1.48 inc_frame_num(pEnc);
865 : suxen_drol 1.32
866 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
867 : suxen_drol 1.48 image_copy(&pEnc->sOriginal, &pEnc->current->image,
868 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.height);
869 : suxen_drol 1.32 #endif
870 :    
871 : suxen_drol 1.48 emms();
872 : suxen_drol 1.46
873 : suxen_drol 1.48 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
874 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
875 :     "%i if:%i st:%i:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->seconds, pEnc->current->ticks);
876 :     }
877 : suxen_drol 1.46
878 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
879 :     * Luminance masking
880 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
881 : suxen_drol 1.32
882 : suxen_drol 1.48 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
883 :     int *temp_dquants =
884 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
885 : edgomez 1.41 pEnc->mbParam.mb_height * sizeof(int),
886 :     CACHE_LINE);
887 :    
888 : suxen_drol 1.48 pEnc->current->quant =
889 :     adaptive_quantization(pEnc->current->image.y,
890 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
891 :     pEnc->current->quant, pEnc->current->quant,
892 :     2 * pEnc->current->quant,
893 :     pEnc->mbParam.mb_width,
894 :     pEnc->mbParam.mb_height);
895 :    
896 : suxen_drol 1.48 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
897 : edgomez 1.40
898 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
899 : edgomez 1.40
900 : suxen_drol 1.48 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
901 :     MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
902 : edgomez 1.41
903 : suxen_drol 1.48 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
904 :     }
905 : edgomez 1.40
906 : edgomez 1.41 #undef OFFSET
907 : suxen_drol 1.48 }
908 : edgomez 1.40
909 : suxen_drol 1.48 xvid_free(temp_dquants);
910 : edgomez 1.40 }
911 :    
912 : suxen_drol 1.32 }
913 :    
914 : edgomez 1.40 /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
915 :     * ivop/pvop/bvop selection
916 :     * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
917 : suxen_drol 1.32
918 :    
919 : suxen_drol 1.48 if (pEnc->iFrameNum == 0 || pFrame->intra == 1 || pEnc->bframenum_dx50bvop != -1 ||
920 : edgomez 1.41 (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
921 :     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
922 :     || image_mad(&pEnc->reference->image, &pEnc->current->image,
923 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
924 :     pEnc->mbParam.height) > 30) {
925 : edgomez 1.40 /*
926 :     * This will be coded as an Intra Frame
927 :     */
928 :    
929 : suxen_drol 1.44 DPRINTF("*** IFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
930 :     pEnc->bframenum_head, pEnc->bframenum_tail,
931 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
932 : suxen_drol 1.46
933 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
934 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
935 :     }
936 : suxen_drol 1.32
937 : suxen_drol 1.48 // when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe
938 :    
939 :     if ((pEnc->global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {
940 :    
941 :     pEnc->bframenum_tail--;
942 :     pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;
943 :    
944 :     SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
945 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
946 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
947 :     }
948 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
949 :    
950 :     pFrame->intra = 0;
951 :    
952 :     } else {
953 :     pEnc->bframenum_dx50bvop = -1;
954 :     FrameCodeI(pEnc, &bs, &bits);
955 :     pFrame->intra = 1;
956 :     }
957 : suxen_drol 1.32
958 :     pEnc->flush_bframes = 1;
959 :    
960 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
961 : suxen_drol 1.44 BitstreamPad(&bs);
962 :     input_valid = 0;
963 :     goto ipvop_loop;
964 :     }
965 :    
966 : edgomez 1.40 /*
967 :     * NB : sequences like "IIBB" decode fine with msfdam but,
968 :     * go screwy with divx 5.00
969 :     */
970 : edgomez 1.41 } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
971 : edgomez 1.40 /*
972 :     * This will be coded as a Predicted Frame
973 :     */
974 :    
975 : suxen_drol 1.44 DPRINTF("*** PFRAME bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
976 :     pEnc->bframenum_head, pEnc->bframenum_tail,
977 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
978 : suxen_drol 1.46
979 :     if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
980 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
981 :     }
982 : suxen_drol 1.32
983 :     FrameCodeP(pEnc, &bs, &bits, 1, 0);
984 :     pFrame->intra = 0;
985 :     pEnc->flush_bframes = 1;
986 : suxen_drol 1.44
987 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
988 : suxen_drol 1.44 BitstreamPad(&bs);
989 :     input_valid = 0;
990 :     goto ipvop_loop;
991 :     }
992 :    
993 : edgomez 1.41 } else {
994 : edgomez 1.40 /*
995 :     * This will be coded as a Bidirectional Frame
996 :     */
997 :    
998 : suxen_drol 1.44 DPRINTF("*** BFRAME (store) bf: head=%i tail=%i queue: head=%i tail=%i size=%i",
999 :     pEnc->bframenum_head, pEnc->bframenum_tail,
1000 :     pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1001 : suxen_drol 1.32
1002 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_DEBUG)) {
1003 :     image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1004 :     }
1005 :    
1006 : edgomez 1.41 if (pFrame->bquant < 1) {
1007 : edgomez 1.40 pEnc->current->quant =
1008 : edgomez 1.41 ((pEnc->reference->quant +
1009 :     pEnc->current->quant) * pEnc->bquant_ratio) / 200;
1010 :     } else {
1011 : suxen_drol 1.32 pEnc->current->quant = pFrame->bquant;
1012 :     }
1013 : edgomez 1.41
1014 : edgomez 1.40 /* store frame into bframe buffer & swap ref back to current */
1015 : suxen_drol 1.32 SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1016 :     SWAP(pEnc->current, pEnc->reference);
1017 :    
1018 :     pEnc->bframenum_tail++;
1019 :    
1020 :     pFrame->intra = 0;
1021 :     pFrame->length = 0;
1022 : edgomez 1.40
1023 : suxen_drol 1.44 input_valid = 0;
1024 :     goto bvop_loop;
1025 : suxen_drol 1.32 }
1026 :    
1027 :     BitstreamPad(&bs);
1028 :     pFrame->length = BitstreamLength(&bs);
1029 :    
1030 : edgomez 1.41 if (pResult) {
1031 : suxen_drol 1.32 pResult->quant = pEnc->current->quant;
1032 : edgomez 1.41 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1033 : suxen_drol 1.32 pResult->kblks = pEnc->sStat.kblks;
1034 :     pResult->mblks = pEnc->sStat.mblks;
1035 :     pResult->ublks = pEnc->sStat.ublks;
1036 :     }
1037 :    
1038 : edgomez 1.42 emms();
1039 : edgomez 1.40
1040 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1041 : edgomez 1.41 psnr =
1042 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1043 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1044 :     pEnc->mbParam.height);
1045 : suxen_drol 1.32
1046 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
1047 : suxen_drol 1.32 DEBUG(temp);
1048 :     #endif
1049 :    
1050 : edgomez 1.41 if (pFrame->quant == 0) {
1051 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1052 :     pFrame->length, pFrame->intra);
1053 : suxen_drol 1.32 }
1054 :    
1055 : edgomez 1.41
1056 : suxen_drol 1.32 stop_global_timer();
1057 :     write_timer();
1058 :    
1059 :     return XVID_ERR_OK;
1060 :     }
1061 : suxen_drol 1.44
1062 :     #endif
1063 :    
1064 :    
1065 :    
1066 : edgomez 1.40 /*****************************************************************************
1067 : suxen_drol 1.44 * "original" IP frame encoder entry point
1068 :     *
1069 :     * Returned values :
1070 :     * - XVID_ERR_OK - no errors
1071 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1072 :     * format
1073 : edgomez 1.40 ****************************************************************************/
1074 : suxen_drol 1.44
1075 : edgomez 1.40 int
1076 :     encoder_encode(Encoder * pEnc,
1077 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
1078 :     XVID_ENC_STATS * pResult)
1079 : Isibaar 1.1 {
1080 : edgomez 1.3 uint16_t x, y;
1081 :     Bitstream bs;
1082 :     uint32_t bits;
1083 : Isibaar 1.2 uint16_t write_vol_header = 0;
1084 : edgomez 1.41
1085 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1086 : Isibaar 1.23 float psnr;
1087 : edgomez 1.40 uint8_t temp[128];
1088 : Isibaar 1.23 #endif
1089 : Isibaar 1.1
1090 :     start_global_timer();
1091 :    
1092 : edgomez 1.3 ENC_CHECK(pEnc);
1093 :     ENC_CHECK(pFrame);
1094 :     ENC_CHECK(pFrame->bitstream);
1095 :     ENC_CHECK(pFrame->image);
1096 : Isibaar 1.1
1097 : suxen_drol 1.27 SWAP(pEnc->current, pEnc->reference);
1098 :    
1099 :     pEnc->current->global_flags = pFrame->general;
1100 :     pEnc->current->motion_flags = pFrame->motion;
1101 : suxen_drol 1.44 #ifdef BFRAMES
1102 :     pEnc->current->seconds = pEnc->mbParam.m_seconds;
1103 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
1104 :     #endif
1105 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
1106 : Isibaar 1.1
1107 :     start_timer();
1108 : edgomez 1.41 if (image_input
1109 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1110 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
1111 : Isibaar 1.1 return XVID_ERR_FORMAT;
1112 :     stop_conv_timer();
1113 :    
1114 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1115 : edgomez 1.41 image_copy(&pEnc->sOriginal, &pEnc->current->image,
1116 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1117 : Isibaar 1.23 #endif
1118 :    
1119 : edgomez 1.42 emms();
1120 : suxen_drol 1.27
1121 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
1122 : Isibaar 1.1
1123 : edgomez 1.41 if (pFrame->quant == 0) {
1124 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1125 :     } else {
1126 : suxen_drol 1.27 pEnc->current->quant = pFrame->quant;
1127 : Isibaar 1.1 }
1128 :    
1129 : edgomez 1.41 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1130 :     int *temp_dquants =
1131 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
1132 :     pEnc->mbParam.mb_height * sizeof(int),
1133 :     CACHE_LINE);
1134 :    
1135 : edgomez 1.40 pEnc->current->quant =
1136 :     adaptive_quantization(pEnc->current->image.y,
1137 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
1138 :     pEnc->current->quant, pEnc->current->quant,
1139 :     2 * pEnc->current->quant,
1140 :     pEnc->mbParam.mb_width,
1141 :     pEnc->mbParam.mb_height);
1142 :    
1143 :     for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1144 : edgomez 1.40
1145 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1146 :    
1147 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1148 : edgomez 1.40
1149 :    
1150 : edgomez 1.41 MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1151 : edgomez 1.40
1152 : edgomez 1.41 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1153 : Isibaar 1.1 }
1154 : edgomez 1.40
1155 : edgomez 1.41 #undef OFFSET
1156 : edgomez 1.40 }
1157 :    
1158 : Isibaar 1.7 xvid_free(temp_dquants);
1159 : Isibaar 1.1 }
1160 :    
1161 : edgomez 1.41 if (pEnc->current->global_flags & XVID_H263QUANT) {
1162 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
1163 : Isibaar 1.4 write_vol_header = 1;
1164 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = H263_QUANT;
1165 : edgomez 1.41 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1166 : edgomez 1.40 int matrix1_changed, matrix2_changed;
1167 : Isibaar 1.1
1168 : edgomez 1.40 matrix1_changed = matrix2_changed = 0;
1169 : edgomez 1.13
1170 : edgomez 1.41 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1171 : Isibaar 1.4 write_vol_header = 1;
1172 : edgomez 1.41
1173 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1174 : edgomez 1.41
1175 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1176 : edgomez 1.41 if (pFrame->quant_intra_matrix != NULL)
1177 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1178 :     if (pFrame->quant_inter_matrix != NULL)
1179 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1180 :     } else {
1181 : edgomez 1.40 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1182 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1183 : Isibaar 1.4 }
1184 : edgomez 1.41 if (write_vol_header == 0)
1185 : edgomez 1.40 write_vol_header = matrix1_changed | matrix2_changed;
1186 : Isibaar 1.2 }
1187 : Isibaar 1.1
1188 : edgomez 1.41 if (pFrame->intra < 0) {
1189 :     if ((pEnc->iFrameNum == 0)
1190 :     || ((pEnc->iMaxKeyInterval > 0)
1191 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
1192 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1193 :     } else {
1194 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1195 : edgomez 1.40 }
1196 : edgomez 1.41 } else {
1197 :     if (pFrame->intra == 1) {
1198 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1199 :     } else {
1200 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1201 : edgomez 1.40 }
1202 :    
1203 : edgomez 1.3 }
1204 : Isibaar 1.1
1205 :     BitstreamPutBits(&bs, 0xFFFF, 16);
1206 : edgomez 1.3 BitstreamPutBits(&bs, 0xFFFF, 16);
1207 :     BitstreamPad(&bs);
1208 :     pFrame->length = BitstreamLength(&bs);
1209 : h 1.5
1210 : edgomez 1.41 if (pResult) {
1211 : suxen_drol 1.27 pResult->quant = pEnc->current->quant;
1212 : Isibaar 1.1 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1213 :     pResult->kblks = pEnc->sStat.kblks;
1214 :     pResult->mblks = pEnc->sStat.mblks;
1215 :     pResult->ublks = pEnc->sStat.ublks;
1216 : edgomez 1.3 }
1217 : edgomez 1.41
1218 : edgomez 1.42 emms();
1219 : Isibaar 1.7
1220 : edgomez 1.41 if (pFrame->quant == 0) {
1221 :     RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1222 :     pFrame->length, pFrame->intra);
1223 : Isibaar 1.1 }
1224 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
1225 : edgomez 1.41 psnr =
1226 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1227 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
1228 :     pEnc->mbParam.height);
1229 : Isibaar 1.23
1230 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
1231 : Isibaar 1.23 DEBUG(temp);
1232 :     #endif
1233 : Isibaar 1.1
1234 : suxen_drol 1.44 #ifdef BFRAMES
1235 :     inc_frame_num(pEnc);
1236 :     #else
1237 : Isibaar 1.1 pEnc->iFrameNum++;
1238 : suxen_drol 1.44 #endif
1239 :    
1240 : edgomez 1.41
1241 : Isibaar 1.1 stop_global_timer();
1242 :     write_timer();
1243 :    
1244 :     return XVID_ERR_OK;
1245 :     }
1246 :    
1247 :    
1248 : edgomez 1.41 static __inline void
1249 :     CodeIntraMB(Encoder * pEnc,
1250 :     MACROBLOCK * pMB)
1251 :     {
1252 : Isibaar 1.1
1253 :     pMB->mode = MODE_INTRA;
1254 :    
1255 : suxen_drol 1.27 /* zero mv statistics */
1256 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1257 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1258 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1259 :     pMB->sad16 = 0;
1260 :    
1261 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1262 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
1263 : Isibaar 1.1 pMB->mode = MODE_INTRA_Q;
1264 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
1265 : edgomez 1.41
1266 :     if (pEnc->current->quant > 31)
1267 :     pEnc->current->quant = 31;
1268 :     if (pEnc->current->quant < 1)
1269 :     pEnc->current->quant = 1;
1270 : Isibaar 1.1 }
1271 :     }
1272 :    
1273 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
1274 : Isibaar 1.1 }
1275 :    
1276 :    
1277 : h 1.20 #define FCODEBITS 3
1278 :     #define MODEBITS 5
1279 :    
1280 : edgomez 1.41 void
1281 :     HintedMESet(Encoder * pEnc,
1282 :     int *intra)
1283 : h 1.20 {
1284 : edgomez 1.41 HINTINFO *hint;
1285 : h 1.20 Bitstream bs;
1286 :     int length, high;
1287 :     uint32_t x, y;
1288 :    
1289 :     hint = pEnc->mbParam.hint;
1290 :    
1291 : edgomez 1.41 if (hint->rawhints) {
1292 : h 1.20 *intra = hint->mvhint.intra;
1293 : edgomez 1.41 } else {
1294 : h 1.20 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1295 :     *intra = BitstreamGetBit(&bs);
1296 :     }
1297 :    
1298 : edgomez 1.41 if (*intra) {
1299 : h 1.20 return;
1300 :     }
1301 :    
1302 : edgomez 1.41 pEnc->current->fcode =
1303 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1304 :     FCODEBITS);
1305 :    
1306 :     length = pEnc->current->fcode + 5;
1307 :     high = 1 << (length - 1);
1308 :    
1309 :     for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1310 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1311 :     MACROBLOCK *pMB =
1312 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1313 :     MVBLOCKHINT *bhint =
1314 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1315 : h 1.20 VECTOR pred[4];
1316 :     VECTOR tmp;
1317 : edgomez 1.30 int32_t dummy[4];
1318 : h 1.20 int vec;
1319 :    
1320 : edgomez 1.41 pMB->mode =
1321 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1322 :     MODEBITS);
1323 : h 1.20
1324 : h 1.26 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1325 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1326 :    
1327 : edgomez 1.41 if (pMB->mode == MODE_INTER) {
1328 :     tmp.x =
1329 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1330 :     length);
1331 :     tmp.y =
1332 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1333 :     length);
1334 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1335 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1336 :    
1337 :     get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width,
1338 :     0, pred, dummy);
1339 :    
1340 :     for (vec = 0; vec < 4; ++vec) {
1341 :     pMB->mvs[vec].x = tmp.x;
1342 :     pMB->mvs[vec].y = tmp.y;
1343 : h 1.20 pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
1344 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
1345 :     }
1346 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1347 :     for (vec = 0; vec < 4; ++vec) {
1348 :     tmp.x =
1349 :     (hint->rawhints) ? bhint->mvs[vec].
1350 :     x : BitstreamGetBits(&bs, length);
1351 :     tmp.y =
1352 :     (hint->rawhints) ? bhint->mvs[vec].
1353 :     y : BitstreamGetBits(&bs, length);
1354 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1355 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1356 : h 1.20
1357 : edgomez 1.41 get_pmvdata(pEnc->current->mbs, x, y,
1358 :     pEnc->mbParam.mb_width, vec, pred, dummy);
1359 : h 1.20
1360 : edgomez 1.41 pMB->mvs[vec].x = tmp.x;
1361 :     pMB->mvs[vec].y = tmp.y;
1362 : h 1.20 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
1363 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
1364 :     }
1365 : edgomez 1.41 } else // intra / stuffing / not_coded
1366 : h 1.20 {
1367 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1368 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1369 : h 1.26 }
1370 :     }
1371 :    
1372 : suxen_drol 1.27 if (pMB->mode == MODE_INTER4V &&
1373 : edgomez 1.41 (pEnc->current->global_flags & XVID_LUMIMASKING)
1374 :     && pMB->dquant != NO_CHANGE) {
1375 : h 1.26 pMB->mode = MODE_INTRA;
1376 :    
1377 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1378 : h 1.26 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1379 : h 1.20 }
1380 :     }
1381 :     }
1382 :     }
1383 :     }
1384 :    
1385 :    
1386 : edgomez 1.41 void
1387 :     HintedMEGet(Encoder * pEnc,
1388 :     int intra)
1389 : h 1.20 {
1390 : edgomez 1.41 HINTINFO *hint;
1391 : h 1.20 Bitstream bs;
1392 :     uint32_t x, y;
1393 :     int length, high;
1394 :    
1395 :     hint = pEnc->mbParam.hint;
1396 :    
1397 : edgomez 1.41 if (hint->rawhints) {
1398 : h 1.20 hint->mvhint.intra = intra;
1399 : edgomez 1.41 } else {
1400 : h 1.20 BitstreamInit(&bs, hint->hintstream, 0);
1401 :     BitstreamPutBit(&bs, intra);
1402 :     }
1403 :    
1404 : edgomez 1.41 if (intra) {
1405 :     if (!hint->rawhints) {
1406 : h 1.20 BitstreamPad(&bs);
1407 :     hint->hintlength = BitstreamLength(&bs);
1408 :     }
1409 :     return;
1410 :     }
1411 :    
1412 : edgomez 1.41 length = pEnc->current->fcode + 5;
1413 :     high = 1 << (length - 1);
1414 : h 1.20
1415 : edgomez 1.41 if (hint->rawhints) {
1416 : suxen_drol 1.27 hint->mvhint.fcode = pEnc->current->fcode;
1417 : edgomez 1.41 } else {
1418 : suxen_drol 1.27 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1419 : h 1.20 }
1420 :    
1421 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1422 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1423 :     MACROBLOCK *pMB =
1424 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1425 :     MVBLOCKHINT *bhint =
1426 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1427 : h 1.20 VECTOR tmp;
1428 :    
1429 : edgomez 1.41 if (hint->rawhints) {
1430 : h 1.20 bhint->mode = pMB->mode;
1431 : edgomez 1.41 } else {
1432 : h 1.20 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1433 :     }
1434 :    
1435 : edgomez 1.41 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1436 :     tmp.x = pMB->mvs[0].x;
1437 :     tmp.y = pMB->mvs[0].y;
1438 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1439 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1440 : h 1.20
1441 : edgomez 1.41 if (hint->rawhints) {
1442 : h 1.20 bhint->mvs[0].x = tmp.x;
1443 :     bhint->mvs[0].y = tmp.y;
1444 : edgomez 1.41 } else {
1445 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1446 :     BitstreamPutBits(&bs, tmp.y, length);
1447 :     }
1448 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
1449 : h 1.20 int vec;
1450 :    
1451 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
1452 :     tmp.x = pMB->mvs[vec].x;
1453 :     tmp.y = pMB->mvs[vec].y;
1454 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
1455 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
1456 : h 1.20
1457 : edgomez 1.41 if (hint->rawhints) {
1458 : h 1.20 bhint->mvs[vec].x = tmp.x;
1459 :     bhint->mvs[vec].y = tmp.y;
1460 : edgomez 1.41 } else {
1461 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
1462 :     BitstreamPutBits(&bs, tmp.y, length);
1463 :     }
1464 :     }
1465 :     }
1466 :     }
1467 :     }
1468 :    
1469 : edgomez 1.41 if (!hint->rawhints) {
1470 : h 1.20 BitstreamPad(&bs);
1471 :     hint->hintlength = BitstreamLength(&bs);
1472 :     }
1473 :     }
1474 :    
1475 :    
1476 : edgomez 1.41 static int
1477 :     FrameCodeI(Encoder * pEnc,
1478 :     Bitstream * bs,
1479 :     uint32_t * pBits)
1480 : h 1.21 {
1481 :    
1482 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1483 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1484 : h 1.21
1485 :     uint16_t x, y;
1486 :    
1487 :     pEnc->iFrameNum = 0;
1488 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1;
1489 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1490 :     pEnc->current->coding_type = I_VOP;
1491 : h 1.21
1492 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1493 : suxen_drol 1.44 #ifdef BFRAMES
1494 :     #define DIVX501B481P "DivX501b481p"
1495 : suxen_drol 1.46 if ((pEnc->global & XVID_GLOBAL_PACKED)) {
1496 : suxen_drol 1.44 BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1497 :     }
1498 :     #endif
1499 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1500 : h 1.21
1501 :     *pBits = BitstreamPos(bs);
1502 :    
1503 :     pEnc->sStat.iTextBits = 0;
1504 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
1505 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1506 :    
1507 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
1508 : edgomez 1.41 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1509 :     MACROBLOCK *pMB =
1510 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1511 : h 1.21
1512 :     CodeIntraMB(pEnc, pMB);
1513 :    
1514 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1515 :     dct_codes, qcoeff);
1516 : h 1.21
1517 :     start_timer();
1518 : suxen_drol 1.27 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1519 : h 1.21 stop_prediction_timer();
1520 :    
1521 :     start_timer();
1522 : suxen_drol 1.27 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1523 : h 1.21 stop_coding_timer();
1524 :     }
1525 :    
1526 :     emms();
1527 :    
1528 :     *pBits = BitstreamPos(bs) - *pBits;
1529 :     pEnc->sStat.fMvPrevSigma = -1;
1530 :     pEnc->sStat.iMvSum = 0;
1531 :     pEnc->sStat.iMvCount = 0;
1532 : suxen_drol 1.27 pEnc->mbParam.m_fcode = 2;
1533 : h 1.21
1534 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1535 : h 1.21 HintedMEGet(pEnc, 1);
1536 :     }
1537 :    
1538 : edgomez 1.41 return 1; // intra
1539 : h 1.21 }
1540 :    
1541 :    
1542 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
1543 :    
1544 : edgomez 1.41 static int
1545 :     FrameCodeP(Encoder * pEnc,
1546 :     Bitstream * bs,
1547 :     uint32_t * pBits,
1548 :     bool force_inter,
1549 :     bool vol_header)
1550 : Isibaar 1.1 {
1551 : edgomez 1.3 float fSigma;
1552 : edgomez 1.13
1553 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1554 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1555 : Isibaar 1.8
1556 : Isibaar 1.1 int iLimit;
1557 : edgomez 1.3 uint32_t x, y;
1558 :     int iSearchRange;
1559 : edgomez 1.29 int bIntra;
1560 : Isibaar 1.1
1561 : edgomez 1.29 /* IMAGE *pCurrent = &pEnc->current->image; */
1562 : suxen_drol 1.27 IMAGE *pRef = &pEnc->reference->image;
1563 : Isibaar 1.1
1564 : h 1.11 start_timer();
1565 : edgomez 1.41 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1566 :     pEnc->mbParam.width, pEnc->mbParam.height,
1567 :     pEnc->current->global_flags & XVID_INTERLACING);
1568 : h 1.11 stop_edges_timer();
1569 : Isibaar 1.1
1570 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1571 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1572 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
1573 : Isibaar 1.1
1574 :     if (!force_inter)
1575 : edgomez 1.41 iLimit =
1576 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1577 :     INTRA_THRESHOLD);
1578 : edgomez 1.3 else
1579 : Isibaar 1.1 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1580 :    
1581 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1582 : Isibaar 1.1 start_timer();
1583 : edgomez 1.41 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1584 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
1585 :     pEnc->mbParam.edged_height,
1586 :     pEnc->current->rounding_type);
1587 : Isibaar 1.1 stop_inter_timer();
1588 :     }
1589 :    
1590 :     start_timer();
1591 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1592 : h 1.20 HintedMESet(pEnc, &bIntra);
1593 : edgomez 1.41 } else {
1594 :     bIntra =
1595 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1596 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1597 :     iLimit);
1598 : h 1.20 }
1599 : Isibaar 1.1 stop_motion_timer();
1600 :    
1601 : edgomez 1.41 if (bIntra == 1) {
1602 : Isibaar 1.1 return FrameCodeI(pEnc, bs, pBits);
1603 : h 1.20 }
1604 : Isibaar 1.1
1605 : suxen_drol 1.27 pEnc->current->coding_type = P_VOP;
1606 : Isibaar 1.1
1607 : edgomez 1.41 if (vol_header)
1608 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1609 : Isibaar 1.1
1610 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1611 : edgomez 1.3
1612 :     *pBits = BitstreamPos(bs);
1613 :    
1614 :     pEnc->sStat.iTextBits = 0;
1615 :     pEnc->sStat.iMvSum = 0;
1616 :     pEnc->sStat.iMvCount = 0;
1617 : Isibaar 1.1 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1618 :    
1619 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1620 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1621 :     MACROBLOCK *pMB =
1622 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1623 : Isibaar 1.1
1624 : edgomez 1.3 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1625 : Isibaar 1.1
1626 : edgomez 1.41 if (!bIntra) {
1627 : Isibaar 1.1 start_timer();
1628 : edgomez 1.41 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1629 :     &pEnc->vInterH, &pEnc->vInterV,
1630 :     &pEnc->vInterHV, &pEnc->current->image,
1631 :     dct_codes, pEnc->mbParam.width,
1632 :     pEnc->mbParam.height,
1633 :     pEnc->mbParam.edged_width,
1634 :     pEnc->current->rounding_type);
1635 : Isibaar 1.1 stop_comp_timer();
1636 :    
1637 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1638 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
1639 : Isibaar 1.1 pMB->mode = MODE_INTER_Q;
1640 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
1641 : edgomez 1.41 if (pEnc->current->quant > 31)
1642 :     pEnc->current->quant = 31;
1643 :     else if (pEnc->current->quant < 1)
1644 :     pEnc->current->quant = 1;
1645 : Isibaar 1.1 }
1646 :     }
1647 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
1648 : Isibaar 1.1
1649 : h 1.11 pMB->field_pred = 0;
1650 :    
1651 : edgomez 1.41 pMB->cbp =
1652 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1653 :     dct_codes, qcoeff);
1654 :     } else {
1655 : Isibaar 1.1 CodeIntraMB(pEnc, pMB);
1656 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1657 :     dct_codes, qcoeff);
1658 : Isibaar 1.1 }
1659 :    
1660 : edgomez 1.3 start_timer();
1661 : edgomez 1.41 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1662 : Isibaar 1.1 stop_prediction_timer();
1663 :    
1664 : edgomez 1.41 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
1665 : Isibaar 1.1 pEnc->sStat.kblks++;
1666 : edgomez 1.41 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1667 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1668 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1669 : Isibaar 1.1 pEnc->sStat.mblks++;
1670 : edgomez 1.41 } else {
1671 : Isibaar 1.1 pEnc->sStat.ublks++;
1672 :     }
1673 :    
1674 :     start_timer();
1675 : suxen_drol 1.27 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1676 : Isibaar 1.1 stop_coding_timer();
1677 :     }
1678 :     }
1679 :    
1680 :     emms();
1681 : h 1.20
1682 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1683 : h 1.20 HintedMEGet(pEnc, 0);
1684 :     }
1685 : Isibaar 1.1
1686 :     if (pEnc->sStat.iMvCount == 0)
1687 :     pEnc->sStat.iMvCount = 1;
1688 :    
1689 : edgomez 1.41 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1690 : Isibaar 1.1
1691 : suxen_drol 1.27 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1692 : Isibaar 1.1
1693 : edgomez 1.41 if ((fSigma > iSearchRange / 3)
1694 :     && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1695 : edgomez 1.3 {
1696 : suxen_drol 1.27 pEnc->mbParam.m_fcode++;
1697 : Isibaar 1.1 iSearchRange *= 2;
1698 : edgomez 1.41 } else if ((fSigma < iSearchRange / 6)
1699 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1700 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1701 :     && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1702 : edgomez 1.3 {
1703 : suxen_drol 1.27 pEnc->mbParam.m_fcode--;
1704 : Isibaar 1.1 iSearchRange /= 2;
1705 : edgomez 1.3 }
1706 : Isibaar 1.1
1707 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = fSigma;
1708 : edgomez 1.41
1709 : Isibaar 1.1 *pBits = BitstreamPos(bs) - *pBits;
1710 :    
1711 : edgomez 1.41 return 0; // inter
1712 : Isibaar 1.1 }
1713 : suxen_drol 1.24
1714 :    
1715 : suxen_drol 1.32 #ifdef BFRAMES
1716 : edgomez 1.41 static void
1717 :     FrameCodeB(Encoder * pEnc,
1718 :     FRAMEINFO * frame,
1719 :     Bitstream * bs,
1720 :     uint32_t * pBits)
1721 : suxen_drol 1.24 {
1722 : edgomez 1.41 int16_t dct_codes[6 * 64];
1723 :     int16_t qcoeff[6 * 64];
1724 :     uint32_t x, y;
1725 : suxen_drol 1.24 VECTOR forward;
1726 :     VECTOR backward;
1727 :    
1728 : edgomez 1.41 IMAGE *f_ref = &pEnc->reference->image;
1729 : suxen_drol 1.24 IMAGE *b_ref = &pEnc->current->image;
1730 :    
1731 : suxen_drol 1.32 // forward
1732 : edgomez 1.41 image_setedges(f_ref, pEnc->mbParam.edged_width,
1733 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1734 :     pEnc->mbParam.height,
1735 :     frame->global_flags & XVID_INTERLACING);
1736 : suxen_drol 1.24 start_timer();
1737 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1738 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1739 :     0);
1740 : suxen_drol 1.24 stop_inter_timer();
1741 :    
1742 : suxen_drol 1.32 // backward
1743 : edgomez 1.41 image_setedges(b_ref, pEnc->mbParam.edged_width,
1744 :     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1745 :     pEnc->mbParam.height,
1746 :     frame->global_flags & XVID_INTERLACING);
1747 :     start_timer();
1748 : suxen_drol 1.24 image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1749 : edgomez 1.41 pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1750 :     0);
1751 : suxen_drol 1.24 stop_inter_timer();
1752 :    
1753 :     start_timer();
1754 : edgomez 1.41 MotionEstimationBVOP(&pEnc->mbParam, frame, pEnc->reference->mbs, f_ref,
1755 :     &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1756 :     pEnc->current->mbs, b_ref, &pEnc->vInterH,
1757 :     &pEnc->vInterV, &pEnc->vInterHV);
1758 :    
1759 : suxen_drol 1.24
1760 :     stop_motion_timer();
1761 : edgomez 1.41
1762 : suxen_drol 1.32 /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1763 : edgomez 1.41 {
1764 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1765 :     } */
1766 : suxen_drol 1.24
1767 : edgomez 1.41 frame->coding_type = B_VOP;
1768 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
1769 : edgomez 1.29
1770 : edgomez 1.41 *pBits = BitstreamPos(bs);
1771 : edgomez 1.29
1772 : edgomez 1.41 pEnc->sStat.iTextBits = 0;
1773 :     pEnc->sStat.iMvSum = 0;
1774 :     pEnc->sStat.iMvCount = 0;
1775 : suxen_drol 1.24 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1776 :    
1777 :    
1778 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1779 : suxen_drol 1.24 // reset prediction
1780 :    
1781 :     forward.x = 0;
1782 :     forward.y = 0;
1783 :     backward.x = 0;
1784 :     backward.y = 0;
1785 :    
1786 : edgomez 1.41 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1787 :     MACROBLOCK *f_mb =
1788 :     &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1789 :     MACROBLOCK *b_mb =
1790 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1791 :     MACROBLOCK *mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1792 : suxen_drol 1.24
1793 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
1794 : edgomez 1.41 if (mb->mode == MODE_NOT_CODED) {
1795 : suxen_drol 1.24 mb->mvs[0].x = 0;
1796 :     mb->mvs[0].y = 0;
1797 :     continue;
1798 :     }
1799 :    
1800 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1801 : edgomez 1.41 f_ref, &pEnc->f_refh, &pEnc->f_refv,
1802 :     &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1803 :     &pEnc->vInterV, &pEnc->vInterHV,
1804 :     dct_codes);
1805 :    
1806 : suxen_drol 1.24 mb->quant = frame->quant;
1807 : edgomez 1.41 mb->cbp =
1808 :     MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1809 :     qcoeff);
1810 : suxen_drol 1.24 //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1811 :    
1812 :    
1813 : edgomez 1.41 if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT)
1814 :     && mb->cbp == 0 && mb->mvs[0].x == 0 && mb->mvs[0].y == 0) {
1815 :     mb->mode = 5; // skipped
1816 : suxen_drol 1.24 }
1817 :    
1818 : edgomez 1.41 if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
1819 : suxen_drol 1.24 mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1820 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1821 :     forward.x = mb->mvs[0].x;
1822 :     forward.y = mb->mvs[0].y;
1823 :     }
1824 : edgomez 1.41
1825 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
1826 : suxen_drol 1.24 mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1827 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1828 :     backward.x = mb->b_mvs[0].x;
1829 :     backward.y = mb->b_mvs[0].y;
1830 :     }
1831 : suxen_drol 1.46 // DPRINTF("%05i : [%i %i] M=%i CBP=%i MVS=%i,%i forward=%i,%i", pEnc->m_framenum, x, y, mb->mode, mb->cbp, mb->mvs[0].x, mb->mvs[0].y, forward.x, forward.y);
1832 : suxen_drol 1.24
1833 : edgomez 1.41 start_timer();
1834 :     MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1835 :     &pEnc->sStat);
1836 : suxen_drol 1.24 stop_coding_timer();
1837 :     }
1838 :     }
1839 :    
1840 :     emms();
1841 :    
1842 :     // TODO: dynamic fcode/bcode ???
1843 :    
1844 :     *pBits = BitstreamPos(bs) - *pBits;
1845 :     }
1846 : edgomez 1.37 #endif

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4