[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.23 - (view) (download)

1 : Isibaar 1.1 #include <stdlib.h>
2 :     #include <stdio.h>
3 :     #include <math.h>
4 :    
5 :     #include "encoder.h"
6 :     #include "prediction/mbprediction.h"
7 :     #include "global.h"
8 :     #include "utils/timer.h"
9 :     #include "image/image.h"
10 :     #include "bitstream/cbp.h"
11 :     #include "utils/mbfunctions.h"
12 :     #include "bitstream/bitstream.h"
13 :     #include "bitstream/mbcoding.h"
14 :     #include "utils/ratecontrol.h"
15 :     #include "utils/emms.h"
16 :     #include "bitstream/mbcoding.h"
17 :     #include "quant/adapt_quant.h"
18 : Isibaar 1.2 #include "quant/quant_matrix.h"
19 : Isibaar 1.7 #include "utils/mem_align.h"
20 : Isibaar 1.1
21 :     #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
22 :    
23 :    
24 :     static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);
25 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);
26 :    
27 :     static int DQtab[4] =
28 :     {
29 :     -1, -2, 1, 2
30 :     };
31 :    
32 :     static int iDQtab[5] =
33 :     {
34 :     1, 0, NO_CHANGE, 2, 3
35 :     };
36 :    
37 :    
38 :     int encoder_create(XVID_ENC_PARAM * pParam)
39 :     {
40 : edgomez 1.3 Encoder *pEnc;
41 : Isibaar 1.1 uint32_t i;
42 :    
43 : edgomez 1.3 pParam->handle = NULL;
44 : Isibaar 1.1
45 : edgomez 1.3 ENC_CHECK(pParam);
46 : Isibaar 1.1
47 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
48 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
49 :     ENC_CHECK(!(pParam->width % 2));
50 :     ENC_CHECK(!(pParam->height % 2));
51 : Isibaar 1.1
52 :     if (pParam->fincr <= 0 || pParam->fbase <= 0)
53 :     {
54 :     pParam->fincr = 1;
55 :     pParam->fbase = 25;
56 :     }
57 :    
58 :     // simplify the "fincr/fbase" fraction
59 :     // (neccessary, since windows supplies us with huge numbers)
60 :    
61 :     i = pParam->fincr;
62 :     while (i > 1)
63 :     {
64 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0)
65 :     {
66 :     pParam->fincr /= i;
67 :     pParam->fbase /= i;
68 :     i = pParam->fincr;
69 :     continue;
70 :     }
71 :     i--;
72 :     }
73 :    
74 :     if (pParam->fbase > 65535)
75 :     {
76 :     float div = (float)pParam->fbase / 65535;
77 :     pParam->fbase = (int)(pParam->fbase / div);
78 :     pParam->fincr = (int)(pParam->fincr / div);
79 :     }
80 :    
81 :     if (pParam->bitrate <= 0)
82 :     pParam->bitrate = 900000;
83 :    
84 : edgomez 1.3 if (pParam->rc_buffersize <= 0)
85 : h 1.9 pParam->rc_buffersize = 16;
86 : Isibaar 1.1
87 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
88 : Isibaar 1.1 pParam->min_quantizer = 1;
89 :    
90 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
91 : Isibaar 1.1 pParam->max_quantizer = 31;
92 :    
93 : edgomez 1.3 if (pParam->max_key_interval == 0) /* 1 keyframe each 10 seconds */
94 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
95 :    
96 : edgomez 1.3 if (pParam->max_quantizer < pParam->min_quantizer)
97 : Isibaar 1.1 pParam->max_quantizer = pParam->min_quantizer;
98 :    
99 : canard 1.10 if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
100 : Isibaar 1.1 return XVID_ERR_MEMORY;
101 :    
102 :     /* Fill members of Encoder structure */
103 :    
104 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
105 :     pEnc->mbParam.height = pParam->height;
106 : Isibaar 1.1
107 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
108 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
109 :    
110 :     pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
111 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
112 :    
113 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = -1;
114 : Isibaar 1.1
115 :     /* Fill rate control parameters */
116 :    
117 : edgomez 1.3 pEnc->mbParam.quant = 4;
118 : Isibaar 1.1
119 :     pEnc->bitrate = pParam->bitrate;
120 :    
121 : edgomez 1.3 pEnc->iFrameNum = 0;
122 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
123 : Isibaar 1.1
124 : h 1.17 /* try to allocate memory */
125 : h 1.16
126 : h 1.17 pEnc->sCurrent.y = pEnc->sCurrent.u = pEnc->sCurrent.v = NULL;
127 :     pEnc->sReference.y = pEnc->sReference.u = pEnc->sReference.v = NULL;
128 :     pEnc->vInterH.y = pEnc->vInterH.u = pEnc->vInterH.v = NULL;
129 :     pEnc->vInterV.y = pEnc->vInterV.u = pEnc->vInterV.v = NULL;
130 :     pEnc->vInterVf.y = pEnc->vInterVf.u = pEnc->vInterVf.v = NULL;
131 :     pEnc->vInterHV.y = pEnc->vInterHV.u = pEnc->vInterHV.v = NULL;
132 :     pEnc->vInterHVf.y = pEnc->vInterHVf.u = pEnc->vInterHVf.v = NULL;
133 : h 1.16
134 : h 1.17 pEnc->pMBs = NULL;
135 : Isibaar 1.1
136 : h 1.17 if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
137 :     image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
138 :     image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
139 :     image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
140 :     image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
141 :     image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
142 :     image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
143 : Isibaar 1.23 #ifdef _DEBUG
144 :     image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
145 :     #endif
146 : h 1.17 (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
147 : Isibaar 1.1 {
148 :     image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
151 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
152 : h 1.17 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
153 : Isibaar 1.1 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
154 : h 1.17 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
155 : Isibaar 1.23 #ifdef _DEBUG
156 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
157 :     #endif
158 : h 1.17 if (pEnc)
159 :     {
160 :     xvid_free(pEnc);
161 :     }
162 : Isibaar 1.1 return XVID_ERR_MEMORY;
163 :     }
164 :    
165 :     // init macroblock array
166 :     for (i = 0; i < pEnc->mbParam.mb_width * pEnc->mbParam.mb_height; i++)
167 :     {
168 :     pEnc->pMBs[i].dquant = NO_CHANGE;
169 :     }
170 :    
171 : edgomez 1.3 pParam->handle = (void *)pEnc;
172 : Isibaar 1.1
173 :     if (pParam->bitrate)
174 :     {
175 : h 1.22 RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 1000 / pParam->fincr,
176 : h 1.9 pParam->max_quantizer, pParam->min_quantizer);
177 : Isibaar 1.1 }
178 :    
179 : Isibaar 1.6 init_timer();
180 : Isibaar 1.1
181 :     return XVID_ERR_OK;
182 :     }
183 :    
184 :    
185 :     int encoder_destroy(Encoder * pEnc)
186 :     {
187 : edgomez 1.3 ENC_CHECK(pEnc);
188 :     ENC_CHECK(pEnc->sCurrent.y);
189 :     ENC_CHECK(pEnc->sReference.y);
190 : Isibaar 1.1
191 : Isibaar 1.7 xvid_free(pEnc->pMBs);
192 : edgomez 1.3 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
193 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
194 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
195 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
196 : h 1.18 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
197 : edgomez 1.3 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
198 : h 1.18 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
199 : Isibaar 1.23 #ifdef _DEBUG
200 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
201 :     #endif
202 : Isibaar 1.7 xvid_free(pEnc);
203 : Isibaar 1.1
204 : edgomez 1.3 return XVID_ERR_OK;
205 : Isibaar 1.1 }
206 :    
207 :     int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
208 :     {
209 : edgomez 1.3 uint16_t x, y;
210 :     Bitstream bs;
211 :     uint32_t bits;
212 : Isibaar 1.2 uint16_t write_vol_header = 0;
213 : Isibaar 1.23 #ifdef _DEBUG
214 :     float psnr;
215 :     uint8_t temp[100];
216 :     #endif
217 : Isibaar 1.1
218 :     start_global_timer();
219 :    
220 : edgomez 1.3 ENC_CHECK(pEnc);
221 :     ENC_CHECK(pFrame);
222 :     ENC_CHECK(pFrame->bitstream);
223 :     ENC_CHECK(pFrame->image);
224 : Isibaar 1.1
225 :     pEnc->mbParam.global_flags = pFrame->general;
226 :     pEnc->mbParam.motion_flags = pFrame->motion;
227 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
228 : Isibaar 1.1
229 :     start_timer();
230 :     if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
231 : edgomez 1.3 pFrame->image, pFrame->colorspace))
232 : Isibaar 1.1 {
233 :     return XVID_ERR_FORMAT;
234 :     }
235 :     stop_conv_timer();
236 :    
237 : Isibaar 1.7 EMMS();
238 :    
239 : Isibaar 1.23 #ifdef _DEBUG
240 :     image_copy(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.height);
241 :     #endif
242 :    
243 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
244 : Isibaar 1.1
245 :     if (pFrame->quant == 0)
246 :     {
247 :     pEnc->mbParam.quant = RateControlGetQ(0);
248 :     }
249 :     else
250 :     {
251 :     pEnc->mbParam.quant = pFrame->quant;
252 :     }
253 :    
254 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
255 :     {
256 : canard 1.10 int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
257 : Isibaar 1.1
258 : edgomez 1.13 pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
259 :     pEnc->mbParam.width,
260 :     temp_dquants,
261 : h 1.15 pEnc->mbParam.quant,
262 :     pEnc->mbParam.quant,
263 :     2*pEnc->mbParam.quant,
264 : edgomez 1.13 pEnc->mbParam.mb_width,
265 :     pEnc->mbParam.mb_height);
266 : Isibaar 1.1
267 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
268 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
269 :     {
270 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
271 :     pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
272 :     }
273 : Isibaar 1.7 xvid_free(temp_dquants);
274 : Isibaar 1.1 }
275 :    
276 : Isibaar 1.4 if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
277 :     if(pEnc->mbParam.quant_type != H263_QUANT)
278 :     write_vol_header = 1;
279 :     pEnc->mbParam.quant_type = H263_QUANT;
280 : Isibaar 1.1 }
281 : Isibaar 1.4 else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
282 :     int ret1, ret2;
283 : Isibaar 1.1
284 : edgomez 1.13 ret1 = ret2 = 0;
285 :    
286 : Isibaar 1.4 if(pEnc->mbParam.quant_type != MPEG4_QUANT)
287 :     write_vol_header = 1;
288 :    
289 :     pEnc->mbParam.quant_type = MPEG4_QUANT;
290 :    
291 :     if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
292 :     if(pFrame->quant_intra_matrix != NULL)
293 :     ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
294 :     if(pFrame->quant_inter_matrix != NULL)
295 :     ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
296 :     }
297 :     else {
298 :     ret1 = set_intra_matrix(get_default_intra_matrix());
299 :     ret2 = set_inter_matrix(get_default_inter_matrix());
300 :     }
301 : Isibaar 1.2 if(write_vol_header == 0)
302 :     write_vol_header = ret1 | ret2;
303 :     }
304 : Isibaar 1.1
305 :     if (pFrame->intra < 0)
306 : edgomez 1.3 {
307 : Isibaar 1.1 if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)
308 : edgomez 1.3 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))
309 : Isibaar 1.1
310 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
311 :     else
312 : Isibaar 1.2 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
313 : edgomez 1.3 }
314 :     else
315 :     {
316 : Isibaar 1.1 if (pFrame->intra == 1)
317 : edgomez 1.3 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
318 : Isibaar 1.1 else
319 : Isibaar 1.2 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
320 : edgomez 1.3 }
321 : Isibaar 1.1
322 :     BitstreamPutBits(&bs, 0xFFFF, 16);
323 : edgomez 1.3 BitstreamPutBits(&bs, 0xFFFF, 16);
324 :     BitstreamPad(&bs);
325 :     pFrame->length = BitstreamLength(&bs);
326 : h 1.5
327 : Isibaar 1.1 if (pResult)
328 : edgomez 1.3 {
329 : Isibaar 1.1 pResult->quant = pEnc->mbParam.quant;
330 :     pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
331 :     pResult->kblks = pEnc->sStat.kblks;
332 :     pResult->mblks = pEnc->sStat.mblks;
333 :     pResult->ublks = pEnc->sStat.ublks;
334 : edgomez 1.3 }
335 : Isibaar 1.1
336 : Isibaar 1.7 EMMS();
337 :    
338 : h 1.5 if (pFrame->quant == 0)
339 : Isibaar 1.1 {
340 :     RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
341 :     }
342 : Isibaar 1.23
343 :     #ifdef _DEBUG
344 :     psnr = image_psnr(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width,
345 :     pEnc->mbParam.width, pEnc->mbParam.height);
346 :    
347 :     sprintf(temp, "PSNR: %f\n", psnr);
348 :     DEBUG(temp);
349 :     #endif
350 : Isibaar 1.1
351 :     pEnc->iFrameNum++;
352 : edgomez 1.3 image_swap(&pEnc->sCurrent, &pEnc->sReference);
353 : Isibaar 1.1
354 :     stop_global_timer();
355 :     write_timer();
356 :    
357 :     return XVID_ERR_OK;
358 :     }
359 :    
360 :    
361 :     static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {
362 :    
363 :     pMB->mode = MODE_INTRA;
364 :    
365 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
366 :     if(pMB->dquant != NO_CHANGE)
367 :     {
368 :     pMB->mode = MODE_INTRA_Q;
369 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
370 :    
371 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
372 :     if (pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
373 :     }
374 :     }
375 :    
376 :     pMB->quant = pEnc->mbParam.quant;
377 :     }
378 :    
379 :    
380 : h 1.20 #define FCODEBITS 3
381 :     #define MODEBITS 5
382 :    
383 :     void HintedMESet(Encoder * pEnc, int * intra)
384 :     {
385 :     HINTINFO * hint;
386 :     Bitstream bs;
387 :     int length, high;
388 :     uint32_t x, y;
389 :    
390 :     hint = pEnc->mbParam.hint;
391 :    
392 :     if (hint->rawhints)
393 :     {
394 :     *intra = hint->mvhint.intra;
395 :     }
396 :     else
397 :     {
398 :     BitstreamInit(&bs, hint->hintstream, hint->hintlength);
399 :     *intra = BitstreamGetBit(&bs);
400 :     }
401 :    
402 :     if (*intra)
403 :     {
404 :     return;
405 :     }
406 :    
407 :     pEnc->mbParam.fixed_code = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
408 :    
409 :     length = pEnc->mbParam.fixed_code + 5;
410 :     high = 1 << (length - 1);
411 :    
412 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
413 :     {
414 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
415 :     {
416 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
417 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
418 :     VECTOR pred[4];
419 :     VECTOR tmp;
420 :     int dummy[4];
421 :     int vec;
422 :    
423 :     pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
424 :    
425 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
426 :     {
427 :     tmp.x = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
428 :     tmp.y = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
429 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
430 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
431 :    
432 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
433 :    
434 :     for (vec=0 ; vec<4 ; ++vec)
435 :     {
436 :     pMB->mvs[vec].x = tmp.x;
437 :     pMB->mvs[vec].y = tmp.y;
438 :     pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
439 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
440 :     }
441 :     }
442 :     else if (pMB->mode == MODE_INTER4V)
443 :     {
444 :     for (vec=0 ; vec<4 ; ++vec)
445 :     {
446 :     tmp.x = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
447 :     tmp.y = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
448 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
449 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
450 :    
451 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
452 :    
453 :     pMB->mvs[vec].x = tmp.x;
454 :     pMB->mvs[vec].y = tmp.y;
455 :     pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
456 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
457 :     }
458 :     }
459 :     else // intra / intra_q / stuffing / not_coded
460 :     {
461 :     for (vec=0 ; vec<4 ; ++vec)
462 :     {
463 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
464 :     }
465 :     }
466 :     }
467 :     }
468 :     }
469 :    
470 :    
471 :     void HintedMEGet(Encoder * pEnc, int intra)
472 :     {
473 :     HINTINFO * hint;
474 :     Bitstream bs;
475 :     uint32_t x, y;
476 :     int length, high;
477 :    
478 :     hint = pEnc->mbParam.hint;
479 :    
480 :     if (hint->rawhints)
481 :     {
482 :     hint->mvhint.intra = intra;
483 :     }
484 :     else
485 :     {
486 :     BitstreamInit(&bs, hint->hintstream, 0);
487 :     BitstreamPutBit(&bs, intra);
488 :     }
489 :    
490 :     if (intra)
491 :     {
492 :     if (!hint->rawhints)
493 :     {
494 :     BitstreamPad(&bs);
495 :     hint->hintlength = BitstreamLength(&bs);
496 :     }
497 :     return;
498 :     }
499 :    
500 :     length = pEnc->mbParam.fixed_code + 5;
501 :     high = 1 << (length - 1);
502 :    
503 :     if (hint->rawhints)
504 :     {
505 :     hint->mvhint.fcode = pEnc->mbParam.fixed_code;
506 :     }
507 :     else
508 :     {
509 :     BitstreamPutBits(&bs, pEnc->mbParam.fixed_code, FCODEBITS);
510 :     }
511 :    
512 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
513 :     {
514 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
515 :     {
516 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
517 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
518 :     VECTOR tmp;
519 :    
520 :     if (hint->rawhints)
521 :     {
522 :     bhint->mode = pMB->mode;
523 :     }
524 :     else
525 :     {
526 :     BitstreamPutBits(&bs, pMB->mode, MODEBITS);
527 :     }
528 :    
529 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
530 :     {
531 :     tmp.x = pMB->mvs[0].x;
532 :     tmp.y = pMB->mvs[0].y;
533 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
534 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
535 :    
536 :     if (hint->rawhints)
537 :     {
538 :     bhint->mvs[0].x = tmp.x;
539 :     bhint->mvs[0].y = tmp.y;
540 :     }
541 :     else
542 :     {
543 :     BitstreamPutBits(&bs, tmp.x, length);
544 :     BitstreamPutBits(&bs, tmp.y, length);
545 :     }
546 :     }
547 :     else if (pMB->mode == MODE_INTER4V)
548 :     {
549 :     int vec;
550 :    
551 :     for (vec=0 ; vec<4 ; ++vec)
552 :     {
553 :     tmp.x = pMB->mvs[vec].x;
554 :     tmp.y = pMB->mvs[vec].y;
555 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
556 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
557 :    
558 :     if (hint->rawhints)
559 :     {
560 :     bhint->mvs[vec].x = tmp.x;
561 :     bhint->mvs[vec].y = tmp.y;
562 :     }
563 :     else
564 :     {
565 :     BitstreamPutBits(&bs, tmp.x, length);
566 :     BitstreamPutBits(&bs, tmp.y, length);
567 :     }
568 :     }
569 :     }
570 :     }
571 :     }
572 :    
573 :     if (!hint->rawhints)
574 :     {
575 :     BitstreamPad(&bs);
576 :     hint->hintlength = BitstreamLength(&bs);
577 :     }
578 :     }
579 :    
580 :    
581 : h 1.21 static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
582 :     {
583 :    
584 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
585 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
586 :    
587 :     uint16_t x, y;
588 :    
589 :     pEnc->iFrameNum = 0;
590 :     pEnc->mbParam.rounding_type = 1;
591 :     pEnc->mbParam.coding_type = I_VOP;
592 :    
593 :     BitstreamWriteVolHeader(bs, &pEnc->mbParam);
594 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam);
595 :    
596 :     *pBits = BitstreamPos(bs);
597 :    
598 :     pEnc->sStat.iTextBits = 0;
599 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
600 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
601 :    
602 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
603 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
604 :     {
605 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
606 :    
607 :     CodeIntraMB(pEnc, pMB);
608 :    
609 :     MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
610 :    
611 :     start_timer();
612 :     MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
613 :     stop_prediction_timer();
614 :    
615 :     start_timer();
616 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
617 :     stop_coding_timer();
618 :     }
619 :    
620 :     emms();
621 :    
622 :     *pBits = BitstreamPos(bs) - *pBits;
623 :     pEnc->sStat.fMvPrevSigma = -1;
624 :     pEnc->sStat.iMvSum = 0;
625 :     pEnc->sStat.iMvCount = 0;
626 :     pEnc->mbParam.fixed_code = 2;
627 :    
628 :     if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
629 :     {
630 :     HintedMEGet(pEnc, 1);
631 :     }
632 :    
633 :     return 1; // intra
634 :     }
635 :    
636 :    
637 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
638 :    
639 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
640 :     {
641 : edgomez 1.3 float fSigma;
642 : edgomez 1.13
643 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
644 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
645 : Isibaar 1.8
646 : Isibaar 1.1 int iLimit;
647 : edgomez 1.3 uint32_t x, y;
648 :     int iSearchRange;
649 : Isibaar 1.1 bool bIntra;
650 :    
651 : edgomez 1.3 IMAGE *pCurrent = &pEnc->sCurrent;
652 :     IMAGE *pRef = &pEnc->sReference;
653 : Isibaar 1.1
654 : h 1.11 start_timer();
655 : edgomez 1.13 image_setedges(pRef,
656 : h 1.16 pEnc->mbParam.edged_width,
657 :     pEnc->mbParam.edged_height,
658 :     pEnc->mbParam.width,
659 :     pEnc->mbParam.height,
660 :     pEnc->mbParam.global_flags & XVID_INTERLACING);
661 : h 1.11 stop_edges_timer();
662 : Isibaar 1.1
663 : edgomez 1.3 pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
664 : Isibaar 1.1
665 :     if (!force_inter)
666 :     iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);
667 : edgomez 1.3 else
668 : Isibaar 1.1 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
669 :    
670 : h 1.16 if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0) {
671 : Isibaar 1.1 start_timer();
672 : h 1.16 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
673 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
674 :     pEnc->mbParam.rounding_type);
675 : Isibaar 1.1 stop_inter_timer();
676 :     }
677 :    
678 :     start_timer();
679 : h 1.20 if (pEnc->mbParam.global_flags & XVID_HINTEDME_SET)
680 :     {
681 :     HintedMESet(pEnc, &bIntra);
682 :     }
683 :     else
684 :     {
685 :     bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,
686 :     &pEnc->vInterH, &pEnc->vInterV,
687 :     &pEnc->vInterHV, &pEnc->sCurrent, iLimit);
688 :     }
689 : Isibaar 1.1 stop_motion_timer();
690 :    
691 :     if (bIntra == 1)
692 : h 1.20 {
693 : Isibaar 1.1 return FrameCodeI(pEnc, bs, pBits);
694 : h 1.20 }
695 : Isibaar 1.1
696 : edgomez 1.3 pEnc->mbParam.coding_type = P_VOP;
697 : Isibaar 1.1
698 :     if(vol_header)
699 : h 1.11 BitstreamWriteVolHeader(bs, &pEnc->mbParam);
700 : Isibaar 1.1
701 : h 1.11 BitstreamWriteVopHeader(bs, &pEnc->mbParam);
702 : edgomez 1.3
703 :     *pBits = BitstreamPos(bs);
704 :    
705 :     pEnc->sStat.iTextBits = 0;
706 :     pEnc->sStat.iMvSum = 0;
707 :     pEnc->sStat.iMvCount = 0;
708 : Isibaar 1.1 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
709 :    
710 : edgomez 1.3 for(y = 0; y < pEnc->mbParam.mb_height; y++)
711 : Isibaar 1.1 {
712 :     for(x = 0; x < pEnc->mbParam.mb_width; x++)
713 :     {
714 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
715 :    
716 : edgomez 1.3 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
717 : Isibaar 1.1
718 :     if (!bIntra)
719 : edgomez 1.3 {
720 : Isibaar 1.1 start_timer();
721 : edgomez 1.13 MBMotionCompensation(pMB,
722 :     x, y,
723 :     &pEnc->sReference,
724 :     &pEnc->vInterH,
725 : h 1.16 &pEnc->vInterV,
726 :     &pEnc->vInterHV,
727 : edgomez 1.13 &pEnc->sCurrent,
728 :     dct_codes,
729 : edgomez 1.3 pEnc->mbParam.width,
730 :     pEnc->mbParam.height,
731 :     pEnc->mbParam.edged_width,
732 :     pEnc->mbParam.rounding_type);
733 : Isibaar 1.1 stop_comp_timer();
734 :    
735 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
736 :     if(pMB->dquant != NO_CHANGE) {
737 :     pMB->mode = MODE_INTER_Q;
738 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
739 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
740 :     else if(pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
741 :     }
742 :     }
743 :     pMB->quant = pEnc->mbParam.quant;
744 :    
745 : h 1.11 pMB->field_pred = 0;
746 :    
747 :     pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
748 : edgomez 1.3 }
749 : Isibaar 1.1 else
750 :     {
751 :     CodeIntraMB(pEnc, pMB);
752 : h 1.11 MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
753 : Isibaar 1.1 }
754 :    
755 : edgomez 1.3 start_timer();
756 : Isibaar 1.1 MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
757 :     stop_prediction_timer();
758 :    
759 :     if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
760 :     {
761 :     pEnc->sStat.kblks++;
762 :     }
763 :     else if (pMB->cbp ||
764 : edgomez 1.3 pMB->mvs[0].x || pMB->mvs[0].y ||
765 :     pMB->mvs[1].x || pMB->mvs[1].y ||
766 :     pMB->mvs[2].x || pMB->mvs[2].y ||
767 :     pMB->mvs[3].x || pMB->mvs[3].y)
768 : Isibaar 1.1 {
769 :     pEnc->sStat.mblks++;
770 :     }
771 :     else
772 :     {
773 :     pEnc->sStat.ublks++;
774 :     }
775 :    
776 :     start_timer();
777 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
778 :     stop_coding_timer();
779 :     }
780 :     }
781 :    
782 :     emms();
783 : h 1.20
784 :     if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
785 :     {
786 :     HintedMEGet(pEnc, 0);
787 :     }
788 : Isibaar 1.1
789 :     if (pEnc->sStat.iMvCount == 0)
790 :     pEnc->sStat.iMvCount = 1;
791 :    
792 : edgomez 1.3 fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
793 : Isibaar 1.1
794 : edgomez 1.3 iSearchRange = 1 << (3 + pEnc->mbParam.fixed_code);
795 : Isibaar 1.1
796 : edgomez 1.3 if ((fSigma > iSearchRange / 3)
797 :     && (pEnc->mbParam.fixed_code <= 3)) // maximum search range 128
798 :     {
799 : Isibaar 1.1 pEnc->mbParam.fixed_code++;
800 :     iSearchRange *= 2;
801 : edgomez 1.3 }
802 :     else if ((fSigma < iSearchRange / 6)
803 :     && (pEnc->sStat.fMvPrevSigma >= 0)
804 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
805 :     && (pEnc->mbParam.fixed_code >= 2)) // minimum search range 16
806 :     {
807 : Isibaar 1.1 pEnc->mbParam.fixed_code--;
808 :     iSearchRange /= 2;
809 : edgomez 1.3 }
810 : Isibaar 1.1
811 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = fSigma;
812 : Isibaar 1.1
813 :     *pBits = BitstreamPos(bs) - *pBits;
814 :    
815 : edgomez 1.3 return 0; // inter
816 : Isibaar 1.1 }

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4