[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.84 - (view) (download)

1 : edgomez 1.40 /*****************************************************************************
2 : edgomez 1.29 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 : edgomez 1.79 * - Encoder main module -
5 : edgomez 1.29 *
6 : edgomez 1.77 * Copyright(C) 2002 Michael Militzer
7 :     *
8 : edgomez 1.29 * This program is an implementation of a part of one or more MPEG-4
9 :     * Video tools as specified in ISO/IEC 14496-2 standard. Those intending
10 :     * to use this software module in hardware or software products are
11 :     * advised that its use may infringe existing patents or copyrights, and
12 :     * any such use would be at such party's own risk. The original
13 :     * developer of this software module and his/her company, and subsequent
14 :     * editors and their companies, will have no liability for use of this
15 :     * software or modifications or derivatives thereof.
16 :     *
17 :     * This program is free software; you can redistribute it and/or modify
18 :     * it under the terms of the GNU General Public License as published by
19 :     * the Free Software Foundation; either version 2 of the License, or
20 :     * (at your option) any later version.
21 :     *
22 :     * This program is distributed in the hope that it will be useful,
23 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
24 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
25 :     * GNU General Public License for more details.
26 :     *
27 :     * You should have received a copy of the GNU General Public License
28 :     * along with this program; if not, write to the Free Software
29 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
30 : edgomez 1.79 *
31 : h 1.84 * $Id: encoder.c,v 1.83 2002/09/12 18:53:35 edgomez Exp $
32 : edgomez 1.29 *
33 : edgomez 1.40 ****************************************************************************/
34 : chl 1.64
35 : Isibaar 1.1 #include <stdlib.h>
36 :     #include <stdio.h>
37 :     #include <math.h>
38 : edgomez 1.42 #include <string.h>
39 : Isibaar 1.1
40 :     #include "encoder.h"
41 :     #include "prediction/mbprediction.h"
42 :     #include "global.h"
43 :     #include "utils/timer.h"
44 :     #include "image/image.h"
45 : suxen_drol 1.32 #include "motion/motion.h"
46 : Isibaar 1.1 #include "bitstream/cbp.h"
47 :     #include "utils/mbfunctions.h"
48 :     #include "bitstream/bitstream.h"
49 :     #include "bitstream/mbcoding.h"
50 :     #include "utils/ratecontrol.h"
51 :     #include "utils/emms.h"
52 :     #include "bitstream/mbcoding.h"
53 :     #include "quant/adapt_quant.h"
54 : Isibaar 1.2 #include "quant/quant_matrix.h"
55 : Isibaar 1.7 #include "utils/mem_align.h"
56 : Isibaar 1.1
57 : chl 1.52 #ifdef _SMP
58 :     #include "motion/smp_motion_est.h"
59 :     #endif
60 : edgomez 1.40 /*****************************************************************************
61 :     * Local macros
62 :     ****************************************************************************/
63 :    
64 : Isibaar 1.1 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
65 : suxen_drol 1.27 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
66 : Isibaar 1.1
67 : edgomez 1.40 /*****************************************************************************
68 :     * Local function prototypes
69 :     ****************************************************************************/
70 :    
71 : edgomez 1.39 static int FrameCodeI(Encoder * pEnc,
72 : edgomez 1.41 Bitstream * bs,
73 :     uint32_t * pBits);
74 : edgomez 1.39
75 :     static int FrameCodeP(Encoder * pEnc,
76 : edgomez 1.41 Bitstream * bs,
77 :     uint32_t * pBits,
78 :     bool force_inter,
79 :     bool vol_header);
80 : Isibaar 1.1
81 : edgomez 1.40 /*****************************************************************************
82 :     * Local data
83 :     ****************************************************************************/
84 :    
85 : edgomez 1.41 static int DQtab[4] = {
86 : Isibaar 1.1 -1, -2, 1, 2
87 :     };
88 :    
89 : edgomez 1.41 static int iDQtab[5] = {
90 : Isibaar 1.1 1, 0, NO_CHANGE, 2, 3
91 :     };
92 :    
93 :    
94 : edgomez 1.41 static void __inline
95 :     image_null(IMAGE * image)
96 : suxen_drol 1.27 {
97 :     image->y = image->u = image->v = NULL;
98 :     }
99 :    
100 :    
101 : edgomez 1.40 /*****************************************************************************
102 :     * Encoder creation
103 :     *
104 :     * This function creates an Encoder instance, it allocates all necessary
105 : edgomez 1.80 * image buffers (reference, current) and initialize the internal xvid
106 :     * encoder paremeters according to the XVID_ENC_PARAM input parameter.
107 : edgomez 1.40 *
108 :     * The code seems to be very long but is very basic, mainly memory allocation
109 :     * and cleaning code.
110 :     *
111 :     * Returned values :
112 :     * - XVID_ERR_OK - no errors
113 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
114 :     * cleans the structure before exiting.
115 :     * pParam->handle is also set to NULL.
116 :     *
117 :     ****************************************************************************/
118 :    
119 :     int
120 :     encoder_create(XVID_ENC_PARAM * pParam)
121 : Isibaar 1.1 {
122 : edgomez 1.3 Encoder *pEnc;
123 : suxen_drol 1.44 int i;
124 : Isibaar 1.1
125 : edgomez 1.3 pParam->handle = NULL;
126 : Isibaar 1.1
127 : edgomez 1.3 ENC_CHECK(pParam);
128 : Isibaar 1.1
129 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
130 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
131 :     ENC_CHECK(!(pParam->width % 2));
132 :     ENC_CHECK(!(pParam->height % 2));
133 : Isibaar 1.1
134 : edgomez 1.39 /* Fps */
135 :    
136 : edgomez 1.41 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
137 : Isibaar 1.1 pParam->fincr = 1;
138 :     pParam->fbase = 25;
139 :     }
140 :    
141 : edgomez 1.39 /*
142 :     * Simplify the "fincr/fbase" fraction
143 :     * (neccessary, since windows supplies us with huge numbers)
144 :     */
145 : Isibaar 1.1
146 :     i = pParam->fincr;
147 : edgomez 1.41 while (i > 1) {
148 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
149 : Isibaar 1.1 pParam->fincr /= i;
150 :     pParam->fbase /= i;
151 :     i = pParam->fincr;
152 :     continue;
153 :     }
154 :     i--;
155 :     }
156 :    
157 : edgomez 1.41 if (pParam->fbase > 65535) {
158 :     float div = (float) pParam->fbase / 65535;
159 :    
160 :     pParam->fbase = (int) (pParam->fbase / div);
161 :     pParam->fincr = (int) (pParam->fincr / div);
162 : Isibaar 1.1 }
163 :    
164 : edgomez 1.39 /* Bitrate allocator defaults */
165 :    
166 : h 1.25 if (pParam->rc_bitrate <= 0)
167 :     pParam->rc_bitrate = 900000;
168 : Isibaar 1.1
169 : h 1.25 if (pParam->rc_reaction_delay_factor <= 0)
170 :     pParam->rc_reaction_delay_factor = 16;
171 :    
172 :     if (pParam->rc_averaging_period <= 0)
173 :     pParam->rc_averaging_period = 100;
174 :    
175 :     if (pParam->rc_buffer <= 0)
176 :     pParam->rc_buffer = 100;
177 : Isibaar 1.1
178 : edgomez 1.39 /* Max and min quantizers */
179 :    
180 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
181 : Isibaar 1.1 pParam->min_quantizer = 1;
182 :    
183 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
184 : Isibaar 1.1 pParam->max_quantizer = 31;
185 :    
186 : edgomez 1.39 if (pParam->max_quantizer < pParam->min_quantizer)
187 :     pParam->max_quantizer = pParam->min_quantizer;
188 :    
189 : edgomez 1.41 /* 1 keyframe each 10 seconds */
190 : edgomez 1.39
191 : edgomez 1.61 if (pParam->max_key_interval <= 0)
192 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
193 : edgomez 1.41
194 : edgomez 1.39 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
195 :     if (pEnc == NULL)
196 : Isibaar 1.1 return XVID_ERR_MEMORY;
197 :    
198 : edgomez 1.42 /* Zero the Encoder Structure */
199 :    
200 :     memset(pEnc, 0, sizeof(Encoder));
201 :    
202 : Isibaar 1.1 /* Fill members of Encoder structure */
203 :    
204 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
205 :     pEnc->mbParam.height = pParam->height;
206 : Isibaar 1.1
207 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
208 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
209 :    
210 : edgomez 1.41 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
211 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
212 : Isibaar 1.1
213 : suxen_drol 1.32 pEnc->mbParam.fbase = pParam->fbase;
214 :     pEnc->mbParam.fincr = pParam->fincr;
215 : Isibaar 1.43
216 :     pEnc->mbParam.m_quant_type = H263_QUANT;
217 : suxen_drol 1.32
218 : suxen_drol 1.55 #ifdef _SMP
219 :     pEnc->mbParam.num_threads = MIN(pParam->num_threads, MAXNUMTHREADS);
220 :     #endif
221 :    
222 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = -1;
223 : Isibaar 1.1
224 :     /* Fill rate control parameters */
225 :    
226 : h 1.25 pEnc->bitrate = pParam->rc_bitrate;
227 : Isibaar 1.1
228 : edgomez 1.3 pEnc->iFrameNum = 0;
229 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
230 : Isibaar 1.1
231 : suxen_drol 1.27 /* try to allocate frame memory */
232 : h 1.16
233 : edgomez 1.39 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
234 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
235 :    
236 : edgomez 1.41 if (pEnc->current == NULL || pEnc->reference == NULL)
237 : edgomez 1.39 goto xvid_err_memory1;
238 : suxen_drol 1.27
239 :     /* try to allocate mb memory */
240 : h 1.16
241 : edgomez 1.41 pEnc->current->mbs =
242 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
243 :     pEnc->mbParam.mb_height, CACHE_LINE);
244 :     pEnc->reference->mbs =
245 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
246 :     pEnc->mbParam.mb_height, CACHE_LINE);
247 : Isibaar 1.1
248 : edgomez 1.39 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
249 :     goto xvid_err_memory2;
250 : suxen_drol 1.27
251 :     /* try to allocate image memory */
252 :    
253 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
254 : suxen_drol 1.27 image_null(&pEnc->sOriginal);
255 :     #endif
256 :     image_null(&pEnc->current->image);
257 :     image_null(&pEnc->reference->image);
258 :     image_null(&pEnc->vInterH);
259 :     image_null(&pEnc->vInterV);
260 :     image_null(&pEnc->vInterHV);
261 : edgomez 1.39
262 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
263 : edgomez 1.41 if (image_create
264 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
265 :     pEnc->mbParam.edged_height) < 0)
266 : edgomez 1.39 goto xvid_err_memory3;
267 : suxen_drol 1.27 #endif
268 : edgomez 1.41 if (image_create
269 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
270 :     pEnc->mbParam.edged_height) < 0)
271 : edgomez 1.39 goto xvid_err_memory3;
272 : edgomez 1.41 if (image_create
273 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
274 :     pEnc->mbParam.edged_height) < 0)
275 : edgomez 1.39 goto xvid_err_memory3;
276 : edgomez 1.41 if (image_create
277 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
278 :     pEnc->mbParam.edged_height) < 0)
279 : edgomez 1.39 goto xvid_err_memory3;
280 : edgomez 1.41 if (image_create
281 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
282 :     pEnc->mbParam.edged_height) < 0)
283 : edgomez 1.39 goto xvid_err_memory3;
284 : edgomez 1.41 if (image_create
285 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
286 :     pEnc->mbParam.edged_height) < 0)
287 : edgomez 1.39 goto xvid_err_memory3;
288 :    
289 : edgomez 1.41 pParam->handle = (void *) pEnc;
290 : Isibaar 1.1
291 : edgomez 1.41 if (pParam->rc_bitrate) {
292 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
293 :     pParam->rc_reaction_delay_factor,
294 :     pParam->rc_averaging_period, pParam->rc_buffer,
295 :     pParam->fbase * 1000 / pParam->fincr,
296 :     pParam->max_quantizer, pParam->min_quantizer);
297 : Isibaar 1.1 }
298 :    
299 : Isibaar 1.6 init_timer();
300 : Isibaar 1.1
301 :     return XVID_ERR_OK;
302 : edgomez 1.39
303 :     /*
304 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
305 :     */
306 :    
307 : edgomez 1.41 xvid_err_memory3:
308 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
309 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
310 :     pEnc->mbParam.edged_height);
311 : edgomez 1.39 #endif
312 :    
313 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
314 :     pEnc->mbParam.edged_height);
315 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
316 :     pEnc->mbParam.edged_height);
317 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
318 :     pEnc->mbParam.edged_height);
319 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
320 :     pEnc->mbParam.edged_height);
321 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
322 :     pEnc->mbParam.edged_height);
323 : edgomez 1.39
324 : edgomez 1.41 xvid_err_memory2:
325 : edgomez 1.39 xvid_free(pEnc->current->mbs);
326 :     xvid_free(pEnc->reference->mbs);
327 :    
328 : edgomez 1.41 xvid_err_memory1:
329 : edgomez 1.39 xvid_free(pEnc->current);
330 :     xvid_free(pEnc->reference);
331 :     xvid_free(pEnc);
332 :    
333 : edgomez 1.40 pParam->handle = NULL;
334 :    
335 : edgomez 1.39 return XVID_ERR_MEMORY;
336 : Isibaar 1.1 }
337 :    
338 : edgomez 1.40 /*****************************************************************************
339 :     * Encoder destruction
340 :     *
341 :     * This function destroy the entire encoder structure created by a previous
342 :     * successful encoder_create call.
343 :     *
344 :     * Returned values (for now only one returned value) :
345 :     * - XVID_ERR_OK - no errors
346 :     *
347 :     ****************************************************************************/
348 :    
349 :     int
350 :     encoder_destroy(Encoder * pEnc)
351 : Isibaar 1.1 {
352 : suxen_drol 1.44
353 : edgomez 1.3 ENC_CHECK(pEnc);
354 : Isibaar 1.1
355 : edgomez 1.39 /* All images, reference, current etc ... */
356 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
357 :     pEnc->mbParam.edged_height);
358 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
359 :     pEnc->mbParam.edged_height);
360 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
361 :     pEnc->mbParam.edged_height);
362 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
363 :     pEnc->mbParam.edged_height);
364 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
365 :     pEnc->mbParam.edged_height);
366 : edgomez 1.78
367 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
368 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
369 :     pEnc->mbParam.edged_height);
370 : Isibaar 1.23 #endif
371 : edgomez 1.39
372 :     /* Encoder structure */
373 : suxen_drol 1.27 xvid_free(pEnc->current->mbs);
374 :     xvid_free(pEnc->current);
375 :    
376 :     xvid_free(pEnc->reference->mbs);
377 :     xvid_free(pEnc->reference);
378 :    
379 : Isibaar 1.7 xvid_free(pEnc);
380 : edgomez 1.39
381 : edgomez 1.3 return XVID_ERR_OK;
382 : Isibaar 1.1 }
383 :    
384 : suxen_drol 1.44
385 :     void inc_frame_num(Encoder * pEnc)
386 :     {
387 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
388 : chl 1.76 pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
389 :     pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
390 : suxen_drol 1.32 }
391 : suxen_drol 1.44
392 : edgomez 1.40 /*****************************************************************************
393 : suxen_drol 1.44 * "original" IP frame encoder entry point
394 :     *
395 :     * Returned values :
396 :     * - XVID_ERR_OK - no errors
397 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
398 :     * format
399 : edgomez 1.40 ****************************************************************************/
400 : suxen_drol 1.44
401 : edgomez 1.40 int
402 :     encoder_encode(Encoder * pEnc,
403 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
404 :     XVID_ENC_STATS * pResult)
405 : Isibaar 1.1 {
406 : edgomez 1.3 uint16_t x, y;
407 :     Bitstream bs;
408 :     uint32_t bits;
409 : Isibaar 1.2 uint16_t write_vol_header = 0;
410 : edgomez 1.41
411 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
412 : Isibaar 1.23 float psnr;
413 : edgomez 1.40 uint8_t temp[128];
414 : Isibaar 1.23 #endif
415 : Isibaar 1.1
416 :     start_global_timer();
417 :    
418 : edgomez 1.3 ENC_CHECK(pEnc);
419 :     ENC_CHECK(pFrame);
420 :     ENC_CHECK(pFrame->bitstream);
421 :     ENC_CHECK(pFrame->image);
422 : Isibaar 1.1
423 : suxen_drol 1.27 SWAP(pEnc->current, pEnc->reference);
424 :    
425 :     pEnc->current->global_flags = pFrame->general;
426 :     pEnc->current->motion_flags = pFrame->motion;
427 : suxen_drol 1.44 pEnc->current->seconds = pEnc->mbParam.m_seconds;
428 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
429 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
430 : Isibaar 1.1
431 :     start_timer();
432 : edgomez 1.41 if (image_input
433 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
434 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
435 : Isibaar 1.1 return XVID_ERR_FORMAT;
436 :     stop_conv_timer();
437 :    
438 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
439 : edgomez 1.41 image_copy(&pEnc->sOriginal, &pEnc->current->image,
440 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
441 : Isibaar 1.23 #endif
442 :    
443 : edgomez 1.42 emms();
444 : suxen_drol 1.27
445 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
446 : Isibaar 1.1
447 : edgomez 1.41 if (pFrame->quant == 0) {
448 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
449 :     } else {
450 : suxen_drol 1.27 pEnc->current->quant = pFrame->quant;
451 : Isibaar 1.1 }
452 :    
453 : edgomez 1.41 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
454 :     int *temp_dquants =
455 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
456 :     pEnc->mbParam.mb_height * sizeof(int),
457 :     CACHE_LINE);
458 :    
459 : edgomez 1.40 pEnc->current->quant =
460 :     adaptive_quantization(pEnc->current->image.y,
461 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
462 :     pEnc->current->quant, pEnc->current->quant,
463 :     2 * pEnc->current->quant,
464 :     pEnc->mbParam.mb_width,
465 :     pEnc->mbParam.mb_height);
466 :    
467 :     for (y = 0; y < pEnc->mbParam.mb_height; y++) {
468 : edgomez 1.40
469 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
470 :    
471 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
472 : edgomez 1.40
473 :    
474 : edgomez 1.41 MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
475 : edgomez 1.40
476 : edgomez 1.41 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
477 : Isibaar 1.1 }
478 : edgomez 1.40
479 : edgomez 1.41 #undef OFFSET
480 : edgomez 1.40 }
481 :    
482 : Isibaar 1.7 xvid_free(temp_dquants);
483 : Isibaar 1.1 }
484 :    
485 : edgomez 1.41 if (pEnc->current->global_flags & XVID_H263QUANT) {
486 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
487 : Isibaar 1.4 write_vol_header = 1;
488 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = H263_QUANT;
489 : edgomez 1.41 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
490 : edgomez 1.40 int matrix1_changed, matrix2_changed;
491 : Isibaar 1.1
492 : edgomez 1.40 matrix1_changed = matrix2_changed = 0;
493 : edgomez 1.13
494 : edgomez 1.41 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
495 : Isibaar 1.4 write_vol_header = 1;
496 : edgomez 1.41
497 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
498 : edgomez 1.41
499 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
500 : edgomez 1.41 if (pFrame->quant_intra_matrix != NULL)
501 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
502 :     if (pFrame->quant_inter_matrix != NULL)
503 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
504 :     } else {
505 : edgomez 1.40 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
506 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
507 : Isibaar 1.4 }
508 : edgomez 1.41 if (write_vol_header == 0)
509 : edgomez 1.40 write_vol_header = matrix1_changed | matrix2_changed;
510 : Isibaar 1.2 }
511 : Isibaar 1.1
512 : edgomez 1.41 if (pFrame->intra < 0) {
513 :     if ((pEnc->iFrameNum == 0)
514 :     || ((pEnc->iMaxKeyInterval > 0)
515 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
516 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
517 :     } else {
518 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
519 : edgomez 1.40 }
520 : edgomez 1.41 } else {
521 :     if (pFrame->intra == 1) {
522 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
523 :     } else {
524 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
525 : edgomez 1.40 }
526 :    
527 : edgomez 1.3 }
528 : Isibaar 1.1
529 :     BitstreamPutBits(&bs, 0xFFFF, 16);
530 : edgomez 1.3 BitstreamPutBits(&bs, 0xFFFF, 16);
531 :     BitstreamPad(&bs);
532 :     pFrame->length = BitstreamLength(&bs);
533 : h 1.5
534 : edgomez 1.41 if (pResult) {
535 : suxen_drol 1.27 pResult->quant = pEnc->current->quant;
536 : Isibaar 1.1 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
537 :     pResult->kblks = pEnc->sStat.kblks;
538 :     pResult->mblks = pEnc->sStat.mblks;
539 :     pResult->ublks = pEnc->sStat.ublks;
540 : edgomez 1.3 }
541 : edgomez 1.41
542 : edgomez 1.42 emms();
543 : Isibaar 1.7
544 : edgomez 1.41 if (pFrame->quant == 0) {
545 : edgomez 1.83 RateControlUpdate(&pEnc->rate_control, (int16_t)pEnc->current->quant,
546 : edgomez 1.41 pFrame->length, pFrame->intra);
547 : Isibaar 1.1 }
548 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
549 : edgomez 1.41 psnr =
550 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
551 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
552 :     pEnc->mbParam.height);
553 : Isibaar 1.23
554 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
555 : Isibaar 1.23 DEBUG(temp);
556 :     #endif
557 : Isibaar 1.1
558 : suxen_drol 1.44 inc_frame_num(pEnc);
559 : Isibaar 1.1 pEnc->iFrameNum++;
560 : edgomez 1.41
561 : Isibaar 1.1 stop_global_timer();
562 :     write_timer();
563 :    
564 :     return XVID_ERR_OK;
565 :     }
566 :    
567 :    
568 : edgomez 1.41 static __inline void
569 :     CodeIntraMB(Encoder * pEnc,
570 :     MACROBLOCK * pMB)
571 :     {
572 : Isibaar 1.1
573 :     pMB->mode = MODE_INTRA;
574 :    
575 : suxen_drol 1.27 /* zero mv statistics */
576 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
577 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
578 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
579 :     pMB->sad16 = 0;
580 :    
581 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
582 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
583 : Isibaar 1.1 pMB->mode = MODE_INTRA_Q;
584 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
585 : edgomez 1.41
586 :     if (pEnc->current->quant > 31)
587 :     pEnc->current->quant = 31;
588 :     if (pEnc->current->quant < 1)
589 :     pEnc->current->quant = 1;
590 : Isibaar 1.1 }
591 :     }
592 :    
593 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
594 : Isibaar 1.1 }
595 :    
596 :    
597 : h 1.20 #define FCODEBITS 3
598 :     #define MODEBITS 5
599 :    
600 : edgomez 1.41 void
601 :     HintedMESet(Encoder * pEnc,
602 :     int *intra)
603 : h 1.20 {
604 : edgomez 1.41 HINTINFO *hint;
605 : h 1.20 Bitstream bs;
606 :     int length, high;
607 :     uint32_t x, y;
608 :    
609 :     hint = pEnc->mbParam.hint;
610 :    
611 : edgomez 1.41 if (hint->rawhints) {
612 : h 1.20 *intra = hint->mvhint.intra;
613 : edgomez 1.41 } else {
614 : h 1.20 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
615 :     *intra = BitstreamGetBit(&bs);
616 :     }
617 :    
618 : edgomez 1.41 if (*intra) {
619 : h 1.20 return;
620 :     }
621 :    
622 : edgomez 1.41 pEnc->current->fcode =
623 :     (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
624 :     FCODEBITS);
625 :    
626 :     length = pEnc->current->fcode + 5;
627 :     high = 1 << (length - 1);
628 :    
629 :     for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
630 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
631 :     MACROBLOCK *pMB =
632 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
633 :     MVBLOCKHINT *bhint =
634 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
635 : chl 1.53 VECTOR pred;
636 : h 1.20 VECTOR tmp;
637 :     int vec;
638 :    
639 : edgomez 1.41 pMB->mode =
640 :     (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
641 :     MODEBITS);
642 : h 1.20
643 : h 1.26 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
644 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
645 :    
646 : edgomez 1.41 if (pMB->mode == MODE_INTER) {
647 :     tmp.x =
648 :     (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
649 :     length);
650 :     tmp.y =
651 :     (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
652 :     length);
653 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
654 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
655 :    
656 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
657 : edgomez 1.41
658 :     for (vec = 0; vec < 4; ++vec) {
659 :     pMB->mvs[vec].x = tmp.x;
660 :     pMB->mvs[vec].y = tmp.y;
661 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
662 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
663 : h 1.20 }
664 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
665 :     for (vec = 0; vec < 4; ++vec) {
666 :     tmp.x =
667 :     (hint->rawhints) ? bhint->mvs[vec].
668 :     x : BitstreamGetBits(&bs, length);
669 :     tmp.y =
670 :     (hint->rawhints) ? bhint->mvs[vec].
671 :     y : BitstreamGetBits(&bs, length);
672 :     tmp.x -= (tmp.x >= high) ? high * 2 : 0;
673 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
674 : h 1.20
675 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
676 : h 1.20
677 : edgomez 1.41 pMB->mvs[vec].x = tmp.x;
678 :     pMB->mvs[vec].y = tmp.y;
679 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
680 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
681 : h 1.20 }
682 : edgomez 1.41 } else // intra / stuffing / not_coded
683 : h 1.20 {
684 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
685 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
686 : h 1.26 }
687 :     }
688 :    
689 : suxen_drol 1.27 if (pMB->mode == MODE_INTER4V &&
690 : edgomez 1.41 (pEnc->current->global_flags & XVID_LUMIMASKING)
691 :     && pMB->dquant != NO_CHANGE) {
692 : h 1.26 pMB->mode = MODE_INTRA;
693 :    
694 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
695 : h 1.26 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
696 : h 1.20 }
697 :     }
698 :     }
699 :     }
700 :     }
701 :    
702 :    
703 : edgomez 1.41 void
704 :     HintedMEGet(Encoder * pEnc,
705 :     int intra)
706 : h 1.20 {
707 : edgomez 1.41 HINTINFO *hint;
708 : h 1.20 Bitstream bs;
709 :     uint32_t x, y;
710 :     int length, high;
711 :    
712 :     hint = pEnc->mbParam.hint;
713 :    
714 : edgomez 1.41 if (hint->rawhints) {
715 : h 1.20 hint->mvhint.intra = intra;
716 : edgomez 1.41 } else {
717 : h 1.20 BitstreamInit(&bs, hint->hintstream, 0);
718 :     BitstreamPutBit(&bs, intra);
719 :     }
720 :    
721 : edgomez 1.41 if (intra) {
722 :     if (!hint->rawhints) {
723 : h 1.20 BitstreamPad(&bs);
724 :     hint->hintlength = BitstreamLength(&bs);
725 :     }
726 :     return;
727 :     }
728 :    
729 : edgomez 1.41 length = pEnc->current->fcode + 5;
730 :     high = 1 << (length - 1);
731 : h 1.20
732 : edgomez 1.41 if (hint->rawhints) {
733 : suxen_drol 1.27 hint->mvhint.fcode = pEnc->current->fcode;
734 : edgomez 1.41 } else {
735 : suxen_drol 1.27 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
736 : h 1.20 }
737 :    
738 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
739 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
740 :     MACROBLOCK *pMB =
741 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
742 :     MVBLOCKHINT *bhint =
743 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
744 : h 1.20 VECTOR tmp;
745 :    
746 : edgomez 1.41 if (hint->rawhints) {
747 : h 1.20 bhint->mode = pMB->mode;
748 : edgomez 1.41 } else {
749 : h 1.20 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
750 :     }
751 :    
752 : edgomez 1.41 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
753 :     tmp.x = pMB->mvs[0].x;
754 :     tmp.y = pMB->mvs[0].y;
755 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
756 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
757 : h 1.20
758 : edgomez 1.41 if (hint->rawhints) {
759 : h 1.20 bhint->mvs[0].x = tmp.x;
760 :     bhint->mvs[0].y = tmp.y;
761 : edgomez 1.41 } else {
762 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
763 :     BitstreamPutBits(&bs, tmp.y, length);
764 :     }
765 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
766 : h 1.20 int vec;
767 :    
768 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
769 :     tmp.x = pMB->mvs[vec].x;
770 :     tmp.y = pMB->mvs[vec].y;
771 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
772 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
773 : h 1.20
774 : edgomez 1.41 if (hint->rawhints) {
775 : h 1.20 bhint->mvs[vec].x = tmp.x;
776 :     bhint->mvs[vec].y = tmp.y;
777 : edgomez 1.41 } else {
778 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
779 :     BitstreamPutBits(&bs, tmp.y, length);
780 :     }
781 :     }
782 :     }
783 :     }
784 :     }
785 :    
786 : edgomez 1.41 if (!hint->rawhints) {
787 : h 1.20 BitstreamPad(&bs);
788 :     hint->hintlength = BitstreamLength(&bs);
789 :     }
790 :     }
791 :    
792 :    
793 : edgomez 1.41 static int
794 :     FrameCodeI(Encoder * pEnc,
795 :     Bitstream * bs,
796 :     uint32_t * pBits)
797 : h 1.21 {
798 :    
799 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
800 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
801 : h 1.21
802 :     uint16_t x, y;
803 :    
804 :     pEnc->iFrameNum = 0;
805 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1;
806 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
807 :     pEnc->current->coding_type = I_VOP;
808 : h 1.21
809 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
810 : edgomez 1.78
811 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
812 : h 1.21
813 :     *pBits = BitstreamPos(bs);
814 :    
815 :     pEnc->sStat.iTextBits = 0;
816 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
817 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
818 :    
819 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
820 : edgomez 1.41 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
821 :     MACROBLOCK *pMB =
822 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
823 : h 1.21
824 :     CodeIntraMB(pEnc, pMB);
825 :    
826 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
827 :     dct_codes, qcoeff);
828 : h 1.21
829 :     start_timer();
830 : suxen_drol 1.27 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
831 : h 1.21 stop_prediction_timer();
832 :    
833 :     start_timer();
834 : chl 1.68 if (pEnc->current->global_flags & XVID_GREYSCALE)
835 :     { pMB->cbp &= 0x3C; /* keep only bits 5-2 */
836 :     qcoeff[4*64+0]=0; /* zero, because for INTRA MBs DC value is saved */
837 :     qcoeff[5*64+0]=0;
838 :     }
839 : suxen_drol 1.27 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
840 : h 1.21 stop_coding_timer();
841 :     }
842 :    
843 :     emms();
844 :    
845 :     *pBits = BitstreamPos(bs) - *pBits;
846 :     pEnc->sStat.fMvPrevSigma = -1;
847 :     pEnc->sStat.iMvSum = 0;
848 :     pEnc->sStat.iMvCount = 0;
849 : suxen_drol 1.27 pEnc->mbParam.m_fcode = 2;
850 : h 1.21
851 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
852 : h 1.21 HintedMEGet(pEnc, 1);
853 :     }
854 :    
855 : edgomez 1.41 return 1; // intra
856 : h 1.21 }
857 :    
858 :    
859 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
860 :    
861 : edgomez 1.41 static int
862 :     FrameCodeP(Encoder * pEnc,
863 :     Bitstream * bs,
864 :     uint32_t * pBits,
865 :     bool force_inter,
866 :     bool vol_header)
867 : Isibaar 1.1 {
868 : edgomez 1.3 float fSigma;
869 : edgomez 1.13
870 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
871 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
872 : Isibaar 1.8
873 : Isibaar 1.1 int iLimit;
874 : edgomez 1.83 unsigned int x, y;
875 : edgomez 1.3 int iSearchRange;
876 : edgomez 1.29 int bIntra;
877 : suxen_drol 1.49
878 : edgomez 1.29 /* IMAGE *pCurrent = &pEnc->current->image; */
879 : suxen_drol 1.27 IMAGE *pRef = &pEnc->reference->image;
880 : Isibaar 1.1
881 : h 1.11 start_timer();
882 : edgomez 1.41 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
883 : h 1.84 pEnc->mbParam.width, pEnc->mbParam.height);
884 : h 1.11 stop_edges_timer();
885 : Isibaar 1.1
886 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
887 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
888 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
889 : Isibaar 1.1
890 :     if (!force_inter)
891 : edgomez 1.41 iLimit =
892 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
893 :     INTRA_THRESHOLD);
894 : edgomez 1.3 else
895 : Isibaar 1.1 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
896 :    
897 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
898 : Isibaar 1.1 start_timer();
899 : edgomez 1.41 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
900 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
901 :     pEnc->mbParam.edged_height,
902 :     pEnc->current->rounding_type);
903 : Isibaar 1.1 stop_inter_timer();
904 :     }
905 :    
906 :     start_timer();
907 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
908 : h 1.20 HintedMESet(pEnc, &bIntra);
909 : edgomez 1.41 } else {
910 : chl 1.52
911 :     #ifdef _SMP
912 : suxen_drol 1.55 if (pEnc->mbParam.num_threads > 1)
913 :     bIntra =
914 :     SMP_MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
915 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
916 :     iLimit);
917 :     else
918 : chl 1.52 #endif
919 : suxen_drol 1.55 bIntra =
920 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
921 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
922 :     iLimit);
923 :    
924 : h 1.20 }
925 : Isibaar 1.1 stop_motion_timer();
926 :    
927 : edgomez 1.41 if (bIntra == 1) {
928 : Isibaar 1.1 return FrameCodeI(pEnc, bs, pBits);
929 : h 1.20 }
930 : Isibaar 1.1
931 : suxen_drol 1.27 pEnc->current->coding_type = P_VOP;
932 : Isibaar 1.1
933 : edgomez 1.41 if (vol_header)
934 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
935 : Isibaar 1.1
936 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
937 : edgomez 1.3
938 :     *pBits = BitstreamPos(bs);
939 :    
940 :     pEnc->sStat.iTextBits = 0;
941 :     pEnc->sStat.iMvSum = 0;
942 :     pEnc->sStat.iMvCount = 0;
943 : Isibaar 1.1 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
944 :    
945 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
946 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
947 :     MACROBLOCK *pMB =
948 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
949 : Isibaar 1.1
950 : edgomez 1.3 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
951 : Isibaar 1.1
952 : edgomez 1.41 if (!bIntra) {
953 : Isibaar 1.1 start_timer();
954 : edgomez 1.41 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
955 :     &pEnc->vInterH, &pEnc->vInterV,
956 :     &pEnc->vInterHV, &pEnc->current->image,
957 :     dct_codes, pEnc->mbParam.width,
958 :     pEnc->mbParam.height,
959 :     pEnc->mbParam.edged_width,
960 :     pEnc->current->rounding_type);
961 : Isibaar 1.1 stop_comp_timer();
962 :    
963 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
964 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
965 : Isibaar 1.1 pMB->mode = MODE_INTER_Q;
966 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
967 : edgomez 1.41 if (pEnc->current->quant > 31)
968 :     pEnc->current->quant = 31;
969 :     else if (pEnc->current->quant < 1)
970 :     pEnc->current->quant = 1;
971 : Isibaar 1.1 }
972 :     }
973 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
974 : Isibaar 1.1
975 : h 1.11 pMB->field_pred = 0;
976 :    
977 : edgomez 1.41 pMB->cbp =
978 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
979 :     dct_codes, qcoeff);
980 :     } else {
981 : Isibaar 1.1 CodeIntraMB(pEnc, pMB);
982 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
983 :     dct_codes, qcoeff);
984 : chl 1.81
985 :     start_timer();
986 :     MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
987 :     stop_prediction_timer();
988 : Isibaar 1.1 }
989 :    
990 : edgomez 1.41 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
991 : Isibaar 1.1 pEnc->sStat.kblks++;
992 : edgomez 1.41 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
993 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
994 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
995 : Isibaar 1.1 pEnc->sStat.mblks++;
996 : chl 1.64 } else {
997 : Isibaar 1.1 pEnc->sStat.ublks++;
998 : chl 1.64 }
999 : Isibaar 1.1
1000 :     start_timer();
1001 : chl 1.65
1002 :     /* Finished processing the MB, now check if to CODE or SKIP */
1003 :    
1004 :     if (pMB->cbp == 0 && pMB->mode == MODE_INTER && pMB->mvs[0].x == 0 &&
1005 :     pMB->mvs[0].y == 0) {
1006 :    
1007 :     MBSkip(bs); /* without B-frames, no precautions are needed */
1008 :    
1009 : edgomez 1.78 }
1010 :     else {
1011 :     if (pEnc->current->global_flags & XVID_GREYSCALE) {
1012 :     pMB->cbp &= 0x3C; /* keep only bits 5-2 */
1013 : chl 1.68 qcoeff[4*64+0]=0; /* zero, because DC for INTRA MBs DC value is saved */
1014 :     qcoeff[5*64+0]=0;
1015 :     }
1016 : chl 1.65 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1017 :     }
1018 :    
1019 : Isibaar 1.1 stop_coding_timer();
1020 :     }
1021 :     }
1022 :    
1023 :     emms();
1024 : h 1.20
1025 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1026 : h 1.20 HintedMEGet(pEnc, 0);
1027 :     }
1028 : Isibaar 1.1
1029 :     if (pEnc->sStat.iMvCount == 0)
1030 :     pEnc->sStat.iMvCount = 1;
1031 :    
1032 : edgomez 1.41 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1033 : Isibaar 1.1
1034 : suxen_drol 1.27 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1035 : Isibaar 1.1
1036 : edgomez 1.41 if ((fSigma > iSearchRange / 3)
1037 :     && (pEnc->mbParam.m_fcode <= 3)) // maximum search range 128
1038 : edgomez 1.3 {
1039 : suxen_drol 1.27 pEnc->mbParam.m_fcode++;
1040 : Isibaar 1.1 iSearchRange *= 2;
1041 : edgomez 1.41 } else if ((fSigma < iSearchRange / 6)
1042 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1043 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1044 :     && (pEnc->mbParam.m_fcode >= 2)) // minimum search range 16
1045 : edgomez 1.3 {
1046 : suxen_drol 1.27 pEnc->mbParam.m_fcode--;
1047 : Isibaar 1.1 iSearchRange /= 2;
1048 : edgomez 1.3 }
1049 : Isibaar 1.1
1050 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = fSigma;
1051 : suxen_drol 1.60
1052 : Isibaar 1.1 *pBits = BitstreamPos(bs) - *pBits;
1053 :    
1054 : edgomez 1.41 return 0; // inter
1055 : suxen_drol 1.24
1056 :     }

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4