[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.90 - (view) (download)

1 : edgomez 1.40 /*****************************************************************************
2 : edgomez 1.29 *
3 :     * XVID MPEG-4 VIDEO CODEC
4 : edgomez 1.79 * - Encoder main module -
5 : edgomez 1.29 *
6 : edgomez 1.85 * Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7 : edgomez 1.86 * 2002 Peter Ross <pross@xvid.org>
8 :     * 2002 Daniel Smith <danielsmith@astroboymail.com>
9 : edgomez 1.77 *
10 : edgomez 1.87 * This file is part of XviD, a free MPEG-4 video encoder/decoder
11 : edgomez 1.29 *
12 : edgomez 1.87 * XviD is free software; you can redistribute it and/or modify it
13 :     * under the terms of the GNU General Public License as published by
14 : edgomez 1.29 * the Free Software Foundation; either version 2 of the License, or
15 :     * (at your option) any later version.
16 :     *
17 :     * This program is distributed in the hope that it will be useful,
18 :     * but WITHOUT ANY WARRANTY; without even the implied warranty of
19 :     * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
20 :     * GNU General Public License for more details.
21 :     *
22 :     * You should have received a copy of the GNU General Public License
23 :     * along with this program; if not, write to the Free Software
24 :     * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
25 : edgomez 1.79 *
26 : edgomez 1.87 * Under section 8 of the GNU General Public License, the copyright
27 :     * holders of XVID explicitly forbid distribution in the following
28 :     * countries:
29 :     *
30 :     * - Japan
31 :     * - United States of America
32 :     *
33 :     * Linking XviD statically or dynamically with other modules is making a
34 :     * combined work based on XviD. Thus, the terms and conditions of the
35 :     * GNU General Public License cover the whole combination.
36 :     *
37 :     * As a special exception, the copyright holders of XviD give you
38 :     * permission to link XviD with independent modules that communicate with
39 :     * XviD solely through the VFW1.1 and DShow interfaces, regardless of the
40 :     * license terms of these independent modules, and to copy and distribute
41 :     * the resulting combined work under terms of your choice, provided that
42 :     * every copy of the combined work is accompanied by a complete copy of
43 :     * the source code of XviD (the version of XviD used to produce the
44 :     * combined work), being distributed under the terms of the GNU General
45 :     * Public License plus this exception. An independent module is a module
46 :     * which is not derived from or based on XviD.
47 :     *
48 :     * Note that people who make modified versions of XviD are not obligated
49 :     * to grant this special exception for their modified versions; it is
50 :     * their choice whether to do so. The GNU General Public License gives
51 :     * permission to release a modified version without this exception; this
52 :     * exception also makes it possible to release a modified version which
53 :     * carries forward this exception.
54 :     *
55 : edgomez 1.90 * $Id: encoder.c,v 1.89 2002/11/28 07:27:37 suxen_drol Exp $
56 : edgomez 1.29 *
57 : edgomez 1.40 ****************************************************************************/
58 : chl 1.64
59 : Isibaar 1.1 #include <stdlib.h>
60 :     #include <stdio.h>
61 :     #include <math.h>
62 : edgomez 1.42 #include <string.h>
63 : Isibaar 1.1
64 :     #include "encoder.h"
65 :     #include "prediction/mbprediction.h"
66 :     #include "global.h"
67 :     #include "utils/timer.h"
68 :     #include "image/image.h"
69 : suxen_drol 1.32 #include "motion/motion.h"
70 : Isibaar 1.1 #include "bitstream/cbp.h"
71 :     #include "utils/mbfunctions.h"
72 :     #include "bitstream/bitstream.h"
73 :     #include "bitstream/mbcoding.h"
74 :     #include "utils/ratecontrol.h"
75 :     #include "utils/emms.h"
76 :     #include "bitstream/mbcoding.h"
77 :     #include "quant/adapt_quant.h"
78 : Isibaar 1.2 #include "quant/quant_matrix.h"
79 : Isibaar 1.7 #include "utils/mem_align.h"
80 : Isibaar 1.1
81 : edgomez 1.40 /*****************************************************************************
82 :     * Local macros
83 :     ****************************************************************************/
84 :    
85 : Isibaar 1.1 #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
86 : suxen_drol 1.27 #define SWAP(A,B) { void * tmp = A; A = B; B = tmp; }
87 : Isibaar 1.1
88 : edgomez 1.40 /*****************************************************************************
89 :     * Local function prototypes
90 :     ****************************************************************************/
91 :    
92 : edgomez 1.39 static int FrameCodeI(Encoder * pEnc,
93 : edgomez 1.41 Bitstream * bs,
94 :     uint32_t * pBits);
95 : edgomez 1.39
96 :     static int FrameCodeP(Encoder * pEnc,
97 : edgomez 1.41 Bitstream * bs,
98 :     uint32_t * pBits,
99 :     bool force_inter,
100 :     bool vol_header);
101 : Isibaar 1.1
102 : edgomez 1.40 /*****************************************************************************
103 :     * Local data
104 :     ****************************************************************************/
105 :    
106 : edgomez 1.41 static int DQtab[4] = {
107 : Isibaar 1.1 -1, -2, 1, 2
108 :     };
109 :    
110 : edgomez 1.41 static int iDQtab[5] = {
111 : Isibaar 1.1 1, 0, NO_CHANGE, 2, 3
112 :     };
113 :    
114 :    
115 : edgomez 1.41 static void __inline
116 :     image_null(IMAGE * image)
117 : suxen_drol 1.27 {
118 :     image->y = image->u = image->v = NULL;
119 :     }
120 :    
121 :    
122 : edgomez 1.40 /*****************************************************************************
123 :     * Encoder creation
124 :     *
125 :     * This function creates an Encoder instance, it allocates all necessary
126 : edgomez 1.80 * image buffers (reference, current) and initialize the internal xvid
127 :     * encoder paremeters according to the XVID_ENC_PARAM input parameter.
128 : edgomez 1.40 *
129 :     * The code seems to be very long but is very basic, mainly memory allocation
130 :     * and cleaning code.
131 :     *
132 :     * Returned values :
133 :     * - XVID_ERR_OK - no errors
134 :     * - XVID_ERR_MEMORY - the libc could not allocate memory, the function
135 :     * cleans the structure before exiting.
136 :     * pParam->handle is also set to NULL.
137 :     *
138 :     ****************************************************************************/
139 :    
140 :     int
141 :     encoder_create(XVID_ENC_PARAM * pParam)
142 : Isibaar 1.1 {
143 : edgomez 1.3 Encoder *pEnc;
144 : suxen_drol 1.44 int i;
145 : Isibaar 1.1
146 : edgomez 1.3 pParam->handle = NULL;
147 : Isibaar 1.1
148 : edgomez 1.3 ENC_CHECK(pParam);
149 : Isibaar 1.1
150 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
151 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
152 :     ENC_CHECK(!(pParam->width % 2));
153 :     ENC_CHECK(!(pParam->height % 2));
154 : Isibaar 1.1
155 : edgomez 1.39 /* Fps */
156 :    
157 : edgomez 1.41 if (pParam->fincr <= 0 || pParam->fbase <= 0) {
158 : Isibaar 1.1 pParam->fincr = 1;
159 :     pParam->fbase = 25;
160 :     }
161 :    
162 : edgomez 1.39 /*
163 :     * Simplify the "fincr/fbase" fraction
164 :     * (neccessary, since windows supplies us with huge numbers)
165 :     */
166 : Isibaar 1.1
167 :     i = pParam->fincr;
168 : edgomez 1.41 while (i > 1) {
169 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
170 : Isibaar 1.1 pParam->fincr /= i;
171 :     pParam->fbase /= i;
172 :     i = pParam->fincr;
173 :     continue;
174 :     }
175 :     i--;
176 :     }
177 :    
178 : edgomez 1.41 if (pParam->fbase > 65535) {
179 :     float div = (float) pParam->fbase / 65535;
180 :    
181 :     pParam->fbase = (int) (pParam->fbase / div);
182 :     pParam->fincr = (int) (pParam->fincr / div);
183 : Isibaar 1.1 }
184 :    
185 : edgomez 1.39 /* Bitrate allocator defaults */
186 :    
187 : h 1.25 if (pParam->rc_bitrate <= 0)
188 :     pParam->rc_bitrate = 900000;
189 : Isibaar 1.1
190 : h 1.25 if (pParam->rc_reaction_delay_factor <= 0)
191 :     pParam->rc_reaction_delay_factor = 16;
192 :    
193 :     if (pParam->rc_averaging_period <= 0)
194 :     pParam->rc_averaging_period = 100;
195 :    
196 :     if (pParam->rc_buffer <= 0)
197 :     pParam->rc_buffer = 100;
198 : Isibaar 1.1
199 : edgomez 1.39 /* Max and min quantizers */
200 :    
201 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
202 : Isibaar 1.1 pParam->min_quantizer = 1;
203 :    
204 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
205 : Isibaar 1.1 pParam->max_quantizer = 31;
206 :    
207 : edgomez 1.39 if (pParam->max_quantizer < pParam->min_quantizer)
208 :     pParam->max_quantizer = pParam->min_quantizer;
209 :    
210 : edgomez 1.41 /* 1 keyframe each 10 seconds */
211 : edgomez 1.39
212 : edgomez 1.61 if (pParam->max_key_interval <= 0)
213 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
214 : edgomez 1.41
215 : edgomez 1.39 pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
216 :     if (pEnc == NULL)
217 : Isibaar 1.1 return XVID_ERR_MEMORY;
218 :    
219 : edgomez 1.42 /* Zero the Encoder Structure */
220 :    
221 :     memset(pEnc, 0, sizeof(Encoder));
222 :    
223 : Isibaar 1.1 /* Fill members of Encoder structure */
224 :    
225 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
226 :     pEnc->mbParam.height = pParam->height;
227 : Isibaar 1.1
228 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
229 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
230 :    
231 : edgomez 1.41 pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
232 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
233 : Isibaar 1.1
234 : suxen_drol 1.32 pEnc->mbParam.fbase = pParam->fbase;
235 :     pEnc->mbParam.fincr = pParam->fincr;
236 : Isibaar 1.43
237 :     pEnc->mbParam.m_quant_type = H263_QUANT;
238 : suxen_drol 1.32
239 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = -1;
240 : Isibaar 1.1
241 :     /* Fill rate control parameters */
242 :    
243 : h 1.25 pEnc->bitrate = pParam->rc_bitrate;
244 : Isibaar 1.1
245 : edgomez 1.3 pEnc->iFrameNum = 0;
246 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
247 : Isibaar 1.1
248 : suxen_drol 1.27 /* try to allocate frame memory */
249 : h 1.16
250 : edgomez 1.39 pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
251 :     pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
252 :    
253 : edgomez 1.41 if (pEnc->current == NULL || pEnc->reference == NULL)
254 : edgomez 1.39 goto xvid_err_memory1;
255 : suxen_drol 1.27
256 :     /* try to allocate mb memory */
257 : h 1.16
258 : edgomez 1.41 pEnc->current->mbs =
259 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
260 :     pEnc->mbParam.mb_height, CACHE_LINE);
261 :     pEnc->reference->mbs =
262 :     xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
263 :     pEnc->mbParam.mb_height, CACHE_LINE);
264 : Isibaar 1.1
265 : edgomez 1.39 if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
266 :     goto xvid_err_memory2;
267 : suxen_drol 1.27
268 :     /* try to allocate image memory */
269 :    
270 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
271 : suxen_drol 1.27 image_null(&pEnc->sOriginal);
272 :     #endif
273 :     image_null(&pEnc->current->image);
274 :     image_null(&pEnc->reference->image);
275 :     image_null(&pEnc->vInterH);
276 :     image_null(&pEnc->vInterV);
277 :     image_null(&pEnc->vInterHV);
278 : edgomez 1.39
279 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
280 : edgomez 1.41 if (image_create
281 :     (&pEnc->sOriginal, pEnc->mbParam.edged_width,
282 :     pEnc->mbParam.edged_height) < 0)
283 : edgomez 1.39 goto xvid_err_memory3;
284 : suxen_drol 1.27 #endif
285 : edgomez 1.41 if (image_create
286 :     (&pEnc->current->image, pEnc->mbParam.edged_width,
287 :     pEnc->mbParam.edged_height) < 0)
288 : edgomez 1.39 goto xvid_err_memory3;
289 : edgomez 1.41 if (image_create
290 :     (&pEnc->reference->image, pEnc->mbParam.edged_width,
291 :     pEnc->mbParam.edged_height) < 0)
292 : edgomez 1.39 goto xvid_err_memory3;
293 : edgomez 1.41 if (image_create
294 :     (&pEnc->vInterH, pEnc->mbParam.edged_width,
295 :     pEnc->mbParam.edged_height) < 0)
296 : edgomez 1.39 goto xvid_err_memory3;
297 : edgomez 1.41 if (image_create
298 :     (&pEnc->vInterV, pEnc->mbParam.edged_width,
299 :     pEnc->mbParam.edged_height) < 0)
300 : edgomez 1.39 goto xvid_err_memory3;
301 : edgomez 1.41 if (image_create
302 :     (&pEnc->vInterHV, pEnc->mbParam.edged_width,
303 :     pEnc->mbParam.edged_height) < 0)
304 : edgomez 1.39 goto xvid_err_memory3;
305 :    
306 : edgomez 1.41 pParam->handle = (void *) pEnc;
307 : Isibaar 1.1
308 : edgomez 1.41 if (pParam->rc_bitrate) {
309 :     RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
310 :     pParam->rc_reaction_delay_factor,
311 :     pParam->rc_averaging_period, pParam->rc_buffer,
312 :     pParam->fbase * 1000 / pParam->fincr,
313 :     pParam->max_quantizer, pParam->min_quantizer);
314 : Isibaar 1.1 }
315 :    
316 : Isibaar 1.6 init_timer();
317 : Isibaar 1.1
318 :     return XVID_ERR_OK;
319 : edgomez 1.39
320 :     /*
321 :     * We handle all XVID_ERR_MEMORY here, this makes the code lighter
322 :     */
323 :    
324 : edgomez 1.41 xvid_err_memory3:
325 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
326 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
327 :     pEnc->mbParam.edged_height);
328 : edgomez 1.39 #endif
329 :    
330 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
331 :     pEnc->mbParam.edged_height);
332 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
333 :     pEnc->mbParam.edged_height);
334 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
335 :     pEnc->mbParam.edged_height);
336 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
337 :     pEnc->mbParam.edged_height);
338 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
339 :     pEnc->mbParam.edged_height);
340 : edgomez 1.39
341 : edgomez 1.41 xvid_err_memory2:
342 : edgomez 1.39 xvid_free(pEnc->current->mbs);
343 :     xvid_free(pEnc->reference->mbs);
344 :    
345 : edgomez 1.41 xvid_err_memory1:
346 : edgomez 1.39 xvid_free(pEnc->current);
347 :     xvid_free(pEnc->reference);
348 :     xvid_free(pEnc);
349 :    
350 : edgomez 1.40 pParam->handle = NULL;
351 :    
352 : edgomez 1.39 return XVID_ERR_MEMORY;
353 : Isibaar 1.1 }
354 :    
355 : edgomez 1.40 /*****************************************************************************
356 :     * Encoder destruction
357 :     *
358 :     * This function destroy the entire encoder structure created by a previous
359 :     * successful encoder_create call.
360 :     *
361 :     * Returned values (for now only one returned value) :
362 :     * - XVID_ERR_OK - no errors
363 :     *
364 :     ****************************************************************************/
365 :    
366 :     int
367 :     encoder_destroy(Encoder * pEnc)
368 : Isibaar 1.1 {
369 : suxen_drol 1.44
370 : edgomez 1.3 ENC_CHECK(pEnc);
371 : Isibaar 1.1
372 : edgomez 1.39 /* All images, reference, current etc ... */
373 : edgomez 1.41 image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
374 :     pEnc->mbParam.edged_height);
375 :     image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
376 :     pEnc->mbParam.edged_height);
377 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
378 :     pEnc->mbParam.edged_height);
379 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
380 :     pEnc->mbParam.edged_height);
381 :     image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
382 :     pEnc->mbParam.edged_height);
383 : edgomez 1.78
384 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
385 : edgomez 1.41 image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
386 :     pEnc->mbParam.edged_height);
387 : Isibaar 1.23 #endif
388 : edgomez 1.39
389 :     /* Encoder structure */
390 : suxen_drol 1.27 xvid_free(pEnc->current->mbs);
391 :     xvid_free(pEnc->current);
392 :    
393 :     xvid_free(pEnc->reference->mbs);
394 :     xvid_free(pEnc->reference);
395 :    
396 : Isibaar 1.7 xvid_free(pEnc);
397 : edgomez 1.39
398 : edgomez 1.3 return XVID_ERR_OK;
399 : Isibaar 1.1 }
400 :    
401 : suxen_drol 1.44
402 :     void inc_frame_num(Encoder * pEnc)
403 :     {
404 :     pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
405 : chl 1.76 pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
406 :     pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
407 : suxen_drol 1.32 }
408 : suxen_drol 1.44
409 : edgomez 1.40 /*****************************************************************************
410 : suxen_drol 1.44 * "original" IP frame encoder entry point
411 :     *
412 :     * Returned values :
413 :     * - XVID_ERR_OK - no errors
414 :     * - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
415 :     * format
416 : edgomez 1.40 ****************************************************************************/
417 : suxen_drol 1.44
418 : edgomez 1.40 int
419 :     encoder_encode(Encoder * pEnc,
420 : edgomez 1.41 XVID_ENC_FRAME * pFrame,
421 :     XVID_ENC_STATS * pResult)
422 : Isibaar 1.1 {
423 : edgomez 1.3 uint16_t x, y;
424 :     Bitstream bs;
425 :     uint32_t bits;
426 : Isibaar 1.2 uint16_t write_vol_header = 0;
427 : edgomez 1.41
428 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
429 : Isibaar 1.23 float psnr;
430 : edgomez 1.40 uint8_t temp[128];
431 : Isibaar 1.23 #endif
432 : Isibaar 1.1
433 :     start_global_timer();
434 :    
435 : edgomez 1.3 ENC_CHECK(pEnc);
436 :     ENC_CHECK(pFrame);
437 :     ENC_CHECK(pFrame->bitstream);
438 :     ENC_CHECK(pFrame->image);
439 : Isibaar 1.1
440 : suxen_drol 1.27 SWAP(pEnc->current, pEnc->reference);
441 :    
442 :     pEnc->current->global_flags = pFrame->general;
443 :     pEnc->current->motion_flags = pFrame->motion;
444 : suxen_drol 1.44 pEnc->current->seconds = pEnc->mbParam.m_seconds;
445 :     pEnc->current->ticks = pEnc->mbParam.m_ticks;
446 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
447 : Isibaar 1.1
448 :     start_timer();
449 : edgomez 1.41 if (image_input
450 :     (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
451 :     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
452 : Isibaar 1.1 return XVID_ERR_FORMAT;
453 :     stop_conv_timer();
454 :    
455 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
456 : edgomez 1.41 image_copy(&pEnc->sOriginal, &pEnc->current->image,
457 :     pEnc->mbParam.edged_width, pEnc->mbParam.height);
458 : Isibaar 1.23 #endif
459 :    
460 : edgomez 1.42 emms();
461 : suxen_drol 1.27
462 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
463 : Isibaar 1.1
464 : edgomez 1.41 if (pFrame->quant == 0) {
465 :     pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
466 :     } else {
467 : suxen_drol 1.27 pEnc->current->quant = pFrame->quant;
468 : Isibaar 1.1 }
469 :    
470 : edgomez 1.41 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
471 :     int *temp_dquants =
472 :     (int *) xvid_malloc(pEnc->mbParam.mb_width *
473 :     pEnc->mbParam.mb_height * sizeof(int),
474 :     CACHE_LINE);
475 :    
476 : edgomez 1.40 pEnc->current->quant =
477 :     adaptive_quantization(pEnc->current->image.y,
478 : edgomez 1.41 pEnc->mbParam.edged_width, temp_dquants,
479 :     pEnc->current->quant, pEnc->current->quant,
480 :     2 * pEnc->current->quant,
481 :     pEnc->mbParam.mb_width,
482 :     pEnc->mbParam.mb_height);
483 :    
484 :     for (y = 0; y < pEnc->mbParam.mb_height; y++) {
485 : edgomez 1.40
486 : edgomez 1.41 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
487 :    
488 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
489 : edgomez 1.40
490 :    
491 : edgomez 1.41 MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
492 : edgomez 1.40
493 : edgomez 1.41 pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
494 : Isibaar 1.1 }
495 : edgomez 1.40
496 : edgomez 1.41 #undef OFFSET
497 : edgomez 1.40 }
498 :    
499 : Isibaar 1.7 xvid_free(temp_dquants);
500 : Isibaar 1.1 }
501 :    
502 : edgomez 1.41 if (pEnc->current->global_flags & XVID_H263QUANT) {
503 :     if (pEnc->mbParam.m_quant_type != H263_QUANT)
504 : Isibaar 1.4 write_vol_header = 1;
505 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = H263_QUANT;
506 : edgomez 1.41 } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
507 : edgomez 1.40 int matrix1_changed, matrix2_changed;
508 : Isibaar 1.1
509 : edgomez 1.40 matrix1_changed = matrix2_changed = 0;
510 : edgomez 1.13
511 : edgomez 1.41 if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
512 : Isibaar 1.4 write_vol_header = 1;
513 : edgomez 1.41
514 : suxen_drol 1.27 pEnc->mbParam.m_quant_type = MPEG4_QUANT;
515 : edgomez 1.41
516 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
517 : edgomez 1.41 if (pFrame->quant_intra_matrix != NULL)
518 :     matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
519 :     if (pFrame->quant_inter_matrix != NULL)
520 :     matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
521 :     } else {
522 : edgomez 1.40 matrix1_changed = set_intra_matrix(get_default_intra_matrix());
523 :     matrix2_changed = set_inter_matrix(get_default_inter_matrix());
524 : Isibaar 1.4 }
525 : edgomez 1.41 if (write_vol_header == 0)
526 : edgomez 1.40 write_vol_header = matrix1_changed | matrix2_changed;
527 : Isibaar 1.2 }
528 : Isibaar 1.1
529 : edgomez 1.41 if (pFrame->intra < 0) {
530 :     if ((pEnc->iFrameNum == 0)
531 :     || ((pEnc->iMaxKeyInterval > 0)
532 :     && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
533 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
534 :     } else {
535 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
536 : edgomez 1.40 }
537 : edgomez 1.41 } else {
538 :     if (pFrame->intra == 1) {
539 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
540 :     } else {
541 :     pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
542 : edgomez 1.40 }
543 :    
544 : edgomez 1.3 }
545 : Isibaar 1.1
546 :     BitstreamPutBits(&bs, 0xFFFF, 16);
547 : edgomez 1.3 BitstreamPutBits(&bs, 0xFFFF, 16);
548 :     BitstreamPad(&bs);
549 :     pFrame->length = BitstreamLength(&bs);
550 : h 1.5
551 : edgomez 1.41 if (pResult) {
552 : suxen_drol 1.27 pResult->quant = pEnc->current->quant;
553 : Isibaar 1.1 pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
554 :     pResult->kblks = pEnc->sStat.kblks;
555 :     pResult->mblks = pEnc->sStat.mblks;
556 :     pResult->ublks = pEnc->sStat.ublks;
557 : edgomez 1.3 }
558 : edgomez 1.41
559 : edgomez 1.42 emms();
560 : Isibaar 1.7
561 : edgomez 1.41 if (pFrame->quant == 0) {
562 : edgomez 1.83 RateControlUpdate(&pEnc->rate_control, (int16_t)pEnc->current->quant,
563 : edgomez 1.41 pFrame->length, pFrame->intra);
564 : Isibaar 1.1 }
565 : suxen_drol 1.44 #ifdef _DEBUG_PSNR
566 : edgomez 1.41 psnr =
567 :     image_psnr(&pEnc->sOriginal, &pEnc->current->image,
568 :     pEnc->mbParam.edged_width, pEnc->mbParam.width,
569 :     pEnc->mbParam.height);
570 : Isibaar 1.23
571 : edgomez 1.40 snprintf(temp, 127, "PSNR: %f\n", psnr);
572 : Isibaar 1.23 DEBUG(temp);
573 :     #endif
574 : Isibaar 1.1
575 : suxen_drol 1.44 inc_frame_num(pEnc);
576 : Isibaar 1.1 pEnc->iFrameNum++;
577 : edgomez 1.41
578 : Isibaar 1.1 stop_global_timer();
579 :     write_timer();
580 :    
581 :     return XVID_ERR_OK;
582 :     }
583 :    
584 :    
585 : edgomez 1.41 static __inline void
586 :     CodeIntraMB(Encoder * pEnc,
587 :     MACROBLOCK * pMB)
588 :     {
589 : Isibaar 1.1
590 :     pMB->mode = MODE_INTRA;
591 :    
592 : suxen_drol 1.27 /* zero mv statistics */
593 :     pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
594 :     pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
595 :     pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
596 :     pMB->sad16 = 0;
597 :    
598 :     if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
599 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
600 : Isibaar 1.1 pMB->mode = MODE_INTRA_Q;
601 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
602 : edgomez 1.41
603 :     if (pEnc->current->quant > 31)
604 :     pEnc->current->quant = 31;
605 :     if (pEnc->current->quant < 1)
606 :     pEnc->current->quant = 1;
607 : Isibaar 1.1 }
608 :     }
609 :    
610 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
611 : Isibaar 1.1 }
612 :    
613 :    
614 : h 1.20 #define FCODEBITS 3
615 :     #define MODEBITS 5
616 :    
617 : edgomez 1.41 void
618 :     HintedMESet(Encoder * pEnc,
619 :     int *intra)
620 : h 1.20 {
621 : edgomez 1.41 HINTINFO *hint;
622 : h 1.20 Bitstream bs;
623 :     int length, high;
624 :     uint32_t x, y;
625 :    
626 :     hint = pEnc->mbParam.hint;
627 :    
628 : edgomez 1.41 if (hint->rawhints) {
629 : h 1.20 *intra = hint->mvhint.intra;
630 : edgomez 1.41 } else {
631 : h 1.20 BitstreamInit(&bs, hint->hintstream, hint->hintlength);
632 :     *intra = BitstreamGetBit(&bs);
633 :     }
634 :    
635 : edgomez 1.41 if (*intra) {
636 : h 1.20 return;
637 :     }
638 :    
639 : edgomez 1.90 pEnc->current->fcode = (hint->rawhints != 0) ?
640 :     (uint32_t)hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
641 : edgomez 1.41
642 :     length = pEnc->current->fcode + 5;
643 :     high = 1 << (length - 1);
644 :    
645 :     for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
646 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
647 :     MACROBLOCK *pMB =
648 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
649 :     MVBLOCKHINT *bhint =
650 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
651 : chl 1.53 VECTOR pred;
652 : h 1.20 VECTOR tmp;
653 :     int vec;
654 :    
655 : edgomez 1.90 pMB->mode = (hint->rawhints != 0) ?
656 :     (uint32_t)bhint->mode : BitstreamGetBits(&bs, MODEBITS);
657 : h 1.20
658 : h 1.26 pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
659 :     pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
660 :    
661 : edgomez 1.41 if (pMB->mode == MODE_INTER) {
662 : edgomez 1.90 tmp.x = (hint->rawhints) ?
663 :     bhint->mvs[0].x : (int)BitstreamGetBits(&bs, length);
664 :     tmp.y = (hint->rawhints) ?
665 :     bhint->mvs[0].y : (int)BitstreamGetBits(&bs, length);
666 : edgomez 1.41 tmp.x -= (tmp.x >= high) ? high * 2 : 0;
667 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
668 :    
669 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
670 : edgomez 1.41
671 :     for (vec = 0; vec < 4; ++vec) {
672 :     pMB->mvs[vec].x = tmp.x;
673 :     pMB->mvs[vec].y = tmp.y;
674 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
675 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
676 : h 1.20 }
677 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
678 :     for (vec = 0; vec < 4; ++vec) {
679 : edgomez 1.90 tmp.x = (hint->rawhints) ?
680 :     bhint->mvs[vec].x : (int)BitstreamGetBits(&bs, length);
681 :     tmp.y = (hint->rawhints) ?
682 :     bhint->mvs[vec].y : (int)BitstreamGetBits(&bs, length);
683 : edgomez 1.41 tmp.x -= (tmp.x >= high) ? high * 2 : 0;
684 :     tmp.y -= (tmp.y >= high) ? high * 2 : 0;
685 : h 1.20
686 : chl 1.53 pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
687 : h 1.20
688 : edgomez 1.41 pMB->mvs[vec].x = tmp.x;
689 :     pMB->mvs[vec].y = tmp.y;
690 : chl 1.53 pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
691 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
692 : h 1.20 }
693 : edgomez 1.88 } else /* intra / stuffing / not_coded */
694 : h 1.20 {
695 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
696 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
697 : h 1.26 }
698 :     }
699 :    
700 : suxen_drol 1.27 if (pMB->mode == MODE_INTER4V &&
701 : edgomez 1.41 (pEnc->current->global_flags & XVID_LUMIMASKING)
702 :     && pMB->dquant != NO_CHANGE) {
703 : h 1.26 pMB->mode = MODE_INTRA;
704 :    
705 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
706 : h 1.26 pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
707 : h 1.20 }
708 :     }
709 :     }
710 :     }
711 :     }
712 :    
713 :    
714 : edgomez 1.41 void
715 :     HintedMEGet(Encoder * pEnc,
716 :     int intra)
717 : h 1.20 {
718 : edgomez 1.41 HINTINFO *hint;
719 : h 1.20 Bitstream bs;
720 :     uint32_t x, y;
721 :     int length, high;
722 :    
723 :     hint = pEnc->mbParam.hint;
724 :    
725 : edgomez 1.41 if (hint->rawhints) {
726 : h 1.20 hint->mvhint.intra = intra;
727 : edgomez 1.41 } else {
728 : h 1.20 BitstreamInit(&bs, hint->hintstream, 0);
729 :     BitstreamPutBit(&bs, intra);
730 :     }
731 :    
732 : edgomez 1.41 if (intra) {
733 :     if (!hint->rawhints) {
734 : h 1.20 BitstreamPad(&bs);
735 :     hint->hintlength = BitstreamLength(&bs);
736 :     }
737 :     return;
738 :     }
739 :    
740 : edgomez 1.41 length = pEnc->current->fcode + 5;
741 :     high = 1 << (length - 1);
742 : h 1.20
743 : edgomez 1.41 if (hint->rawhints) {
744 : suxen_drol 1.27 hint->mvhint.fcode = pEnc->current->fcode;
745 : edgomez 1.41 } else {
746 : suxen_drol 1.27 BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
747 : h 1.20 }
748 :    
749 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
750 :     for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
751 :     MACROBLOCK *pMB =
752 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
753 :     MVBLOCKHINT *bhint =
754 :     &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
755 : h 1.20 VECTOR tmp;
756 :    
757 : edgomez 1.41 if (hint->rawhints) {
758 : h 1.20 bhint->mode = pMB->mode;
759 : edgomez 1.41 } else {
760 : h 1.20 BitstreamPutBits(&bs, pMB->mode, MODEBITS);
761 :     }
762 :    
763 : edgomez 1.41 if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
764 :     tmp.x = pMB->mvs[0].x;
765 :     tmp.y = pMB->mvs[0].y;
766 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
767 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
768 : h 1.20
769 : edgomez 1.41 if (hint->rawhints) {
770 : h 1.20 bhint->mvs[0].x = tmp.x;
771 :     bhint->mvs[0].y = tmp.y;
772 : edgomez 1.41 } else {
773 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
774 :     BitstreamPutBits(&bs, tmp.y, length);
775 :     }
776 : edgomez 1.41 } else if (pMB->mode == MODE_INTER4V) {
777 : h 1.20 int vec;
778 :    
779 : edgomez 1.41 for (vec = 0; vec < 4; ++vec) {
780 :     tmp.x = pMB->mvs[vec].x;
781 :     tmp.y = pMB->mvs[vec].y;
782 :     tmp.x += (tmp.x < 0) ? high * 2 : 0;
783 :     tmp.y += (tmp.y < 0) ? high * 2 : 0;
784 : h 1.20
785 : edgomez 1.41 if (hint->rawhints) {
786 : h 1.20 bhint->mvs[vec].x = tmp.x;
787 :     bhint->mvs[vec].y = tmp.y;
788 : edgomez 1.41 } else {
789 : h 1.20 BitstreamPutBits(&bs, tmp.x, length);
790 :     BitstreamPutBits(&bs, tmp.y, length);
791 :     }
792 :     }
793 :     }
794 :     }
795 :     }
796 :    
797 : edgomez 1.41 if (!hint->rawhints) {
798 : h 1.20 BitstreamPad(&bs);
799 :     hint->hintlength = BitstreamLength(&bs);
800 :     }
801 :     }
802 :    
803 :    
804 : edgomez 1.41 static int
805 :     FrameCodeI(Encoder * pEnc,
806 :     Bitstream * bs,
807 :     uint32_t * pBits)
808 : h 1.21 {
809 :    
810 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
811 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
812 : h 1.21
813 :     uint16_t x, y;
814 :    
815 :     pEnc->iFrameNum = 0;
816 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1;
817 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
818 :     pEnc->current->coding_type = I_VOP;
819 : h 1.21
820 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
821 : edgomez 1.78
822 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
823 : h 1.21
824 :     *pBits = BitstreamPos(bs);
825 :    
826 :     pEnc->sStat.iTextBits = 0;
827 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
828 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
829 :    
830 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
831 : edgomez 1.41 for (x = 0; x < pEnc->mbParam.mb_width; x++) {
832 :     MACROBLOCK *pMB =
833 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
834 : h 1.21
835 :     CodeIntraMB(pEnc, pMB);
836 :    
837 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
838 :     dct_codes, qcoeff);
839 : h 1.21
840 :     start_timer();
841 : suxen_drol 1.27 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
842 : h 1.21 stop_prediction_timer();
843 :    
844 :     start_timer();
845 : chl 1.68 if (pEnc->current->global_flags & XVID_GREYSCALE)
846 :     { pMB->cbp &= 0x3C; /* keep only bits 5-2 */
847 :     qcoeff[4*64+0]=0; /* zero, because for INTRA MBs DC value is saved */
848 :     qcoeff[5*64+0]=0;
849 :     }
850 : suxen_drol 1.27 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
851 : h 1.21 stop_coding_timer();
852 :     }
853 :    
854 :     emms();
855 :    
856 :     *pBits = BitstreamPos(bs) - *pBits;
857 :     pEnc->sStat.fMvPrevSigma = -1;
858 :     pEnc->sStat.iMvSum = 0;
859 :     pEnc->sStat.iMvCount = 0;
860 : suxen_drol 1.27 pEnc->mbParam.m_fcode = 2;
861 : h 1.21
862 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
863 : h 1.21 HintedMEGet(pEnc, 1);
864 :     }
865 :    
866 : edgomez 1.88 return 1; /* intra */
867 : h 1.21 }
868 :    
869 :    
870 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
871 :    
872 : edgomez 1.41 static int
873 :     FrameCodeP(Encoder * pEnc,
874 :     Bitstream * bs,
875 :     uint32_t * pBits,
876 :     bool force_inter,
877 :     bool vol_header)
878 : Isibaar 1.1 {
879 : edgomez 1.3 float fSigma;
880 : edgomez 1.13
881 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
882 : edgomez 1.41 DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
883 : Isibaar 1.8
884 : Isibaar 1.1 int iLimit;
885 : edgomez 1.83 unsigned int x, y;
886 : edgomez 1.3 int iSearchRange;
887 : edgomez 1.29 int bIntra;
888 : suxen_drol 1.49
889 : edgomez 1.29 /* IMAGE *pCurrent = &pEnc->current->image; */
890 : suxen_drol 1.27 IMAGE *pRef = &pEnc->reference->image;
891 : Isibaar 1.1
892 : h 1.11 start_timer();
893 : edgomez 1.41 image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
894 : h 1.84 pEnc->mbParam.width, pEnc->mbParam.height);
895 : h 1.11 stop_edges_timer();
896 : Isibaar 1.1
897 : suxen_drol 1.27 pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
898 :     pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
899 :     pEnc->current->fcode = pEnc->mbParam.m_fcode;
900 : Isibaar 1.1
901 :     if (!force_inter)
902 : edgomez 1.41 iLimit =
903 :     (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
904 :     INTRA_THRESHOLD);
905 : edgomez 1.3 else
906 : Isibaar 1.1 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
907 :    
908 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_HALFPEL)) {
909 : Isibaar 1.1 start_timer();
910 : edgomez 1.41 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
911 :     &pEnc->vInterHV, pEnc->mbParam.edged_width,
912 :     pEnc->mbParam.edged_height,
913 :     pEnc->current->rounding_type);
914 : Isibaar 1.1 stop_inter_timer();
915 :     }
916 :    
917 :     start_timer();
918 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
919 : h 1.20 HintedMESet(pEnc, &bIntra);
920 : edgomez 1.41 } else {
921 : chl 1.52
922 : suxen_drol 1.55 bIntra =
923 :     MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
924 :     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
925 :     iLimit);
926 :    
927 : h 1.20 }
928 : Isibaar 1.1 stop_motion_timer();
929 :    
930 : edgomez 1.41 if (bIntra == 1) {
931 : Isibaar 1.1 return FrameCodeI(pEnc, bs, pBits);
932 : h 1.20 }
933 : Isibaar 1.1
934 : suxen_drol 1.27 pEnc->current->coding_type = P_VOP;
935 : Isibaar 1.1
936 : edgomez 1.41 if (vol_header)
937 : suxen_drol 1.27 BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
938 : Isibaar 1.1
939 : suxen_drol 1.44 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
940 : edgomez 1.3
941 :     *pBits = BitstreamPos(bs);
942 :    
943 :     pEnc->sStat.iTextBits = 0;
944 :     pEnc->sStat.iMvSum = 0;
945 :     pEnc->sStat.iMvCount = 0;
946 : Isibaar 1.1 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
947 :    
948 : edgomez 1.41 for (y = 0; y < pEnc->mbParam.mb_height; y++) {
949 :     for (x = 0; x < pEnc->mbParam.mb_width; x++) {
950 :     MACROBLOCK *pMB =
951 :     &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
952 : Isibaar 1.1
953 : edgomez 1.3 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
954 : Isibaar 1.1
955 : edgomez 1.41 if (!bIntra) {
956 : Isibaar 1.1 start_timer();
957 : edgomez 1.41 MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
958 :     &pEnc->vInterH, &pEnc->vInterV,
959 :     &pEnc->vInterHV, &pEnc->current->image,
960 :     dct_codes, pEnc->mbParam.width,
961 :     pEnc->mbParam.height,
962 :     pEnc->mbParam.edged_width,
963 :     pEnc->current->rounding_type);
964 : Isibaar 1.1 stop_comp_timer();
965 :    
966 : suxen_drol 1.27 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
967 : edgomez 1.41 if (pMB->dquant != NO_CHANGE) {
968 : Isibaar 1.1 pMB->mode = MODE_INTER_Q;
969 : suxen_drol 1.27 pEnc->current->quant += DQtab[pMB->dquant];
970 : edgomez 1.41 if (pEnc->current->quant > 31)
971 :     pEnc->current->quant = 31;
972 :     else if (pEnc->current->quant < 1)
973 :     pEnc->current->quant = 1;
974 : Isibaar 1.1 }
975 :     }
976 : suxen_drol 1.27 pMB->quant = pEnc->current->quant;
977 : Isibaar 1.1
978 : h 1.11 pMB->field_pred = 0;
979 :    
980 : edgomez 1.41 pMB->cbp =
981 :     MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
982 :     dct_codes, qcoeff);
983 :     } else {
984 : Isibaar 1.1 CodeIntraMB(pEnc, pMB);
985 : edgomez 1.41 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
986 :     dct_codes, qcoeff);
987 : chl 1.81
988 :     start_timer();
989 :     MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
990 :     stop_prediction_timer();
991 : Isibaar 1.1 }
992 :    
993 : edgomez 1.41 if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
994 : Isibaar 1.1 pEnc->sStat.kblks++;
995 : edgomez 1.41 } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
996 :     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
997 :     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
998 : Isibaar 1.1 pEnc->sStat.mblks++;
999 : chl 1.64 } else {
1000 : Isibaar 1.1 pEnc->sStat.ublks++;
1001 : chl 1.64 }
1002 : Isibaar 1.1
1003 :     start_timer();
1004 : chl 1.65
1005 :     /* Finished processing the MB, now check if to CODE or SKIP */
1006 :    
1007 :     if (pMB->cbp == 0 && pMB->mode == MODE_INTER && pMB->mvs[0].x == 0 &&
1008 :     pMB->mvs[0].y == 0) {
1009 :    
1010 :     MBSkip(bs); /* without B-frames, no precautions are needed */
1011 :    
1012 : edgomez 1.78 }
1013 :     else {
1014 :     if (pEnc->current->global_flags & XVID_GREYSCALE) {
1015 :     pMB->cbp &= 0x3C; /* keep only bits 5-2 */
1016 : chl 1.68 qcoeff[4*64+0]=0; /* zero, because DC for INTRA MBs DC value is saved */
1017 :     qcoeff[5*64+0]=0;
1018 :     }
1019 : chl 1.65 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1020 :     }
1021 :    
1022 : Isibaar 1.1 stop_coding_timer();
1023 :     }
1024 :     }
1025 :    
1026 :     emms();
1027 : h 1.20
1028 : edgomez 1.41 if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1029 : h 1.20 HintedMEGet(pEnc, 0);
1030 :     }
1031 : Isibaar 1.1
1032 :     if (pEnc->sStat.iMvCount == 0)
1033 :     pEnc->sStat.iMvCount = 1;
1034 :    
1035 : edgomez 1.41 fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1036 : Isibaar 1.1
1037 : suxen_drol 1.27 iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1038 : Isibaar 1.1
1039 : edgomez 1.41 if ((fSigma > iSearchRange / 3)
1040 : edgomez 1.88 && (pEnc->mbParam.m_fcode <= 3)) /* maximum search range 128 */
1041 : edgomez 1.3 {
1042 : suxen_drol 1.27 pEnc->mbParam.m_fcode++;
1043 : Isibaar 1.1 iSearchRange *= 2;
1044 : edgomez 1.41 } else if ((fSigma < iSearchRange / 6)
1045 :     && (pEnc->sStat.fMvPrevSigma >= 0)
1046 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1047 : edgomez 1.88 && (pEnc->mbParam.m_fcode >= 2)) /* minimum search range 16 */
1048 : edgomez 1.3 {
1049 : suxen_drol 1.27 pEnc->mbParam.m_fcode--;
1050 : Isibaar 1.1 iSearchRange /= 2;
1051 : edgomez 1.3 }
1052 : Isibaar 1.1
1053 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = fSigma;
1054 : suxen_drol 1.60
1055 : Isibaar 1.1 *pBits = BitstreamPos(bs) - *pBits;
1056 :    
1057 : edgomez 1.88 return 0; /* inter */
1058 : suxen_drol 1.24
1059 :     }

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4