[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Annotation of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log


Revision 1.25 - (view) (download)

1 : suxen_drol 1.24 // 14.04.2002 added FrameCodeB()
2 :    
3 : Isibaar 1.1 #include <stdlib.h>
4 :     #include <stdio.h>
5 :     #include <math.h>
6 :    
7 :     #include "encoder.h"
8 :     #include "prediction/mbprediction.h"
9 :     #include "global.h"
10 :     #include "utils/timer.h"
11 :     #include "image/image.h"
12 :     #include "bitstream/cbp.h"
13 :     #include "utils/mbfunctions.h"
14 :     #include "bitstream/bitstream.h"
15 :     #include "bitstream/mbcoding.h"
16 :     #include "utils/ratecontrol.h"
17 :     #include "utils/emms.h"
18 :     #include "bitstream/mbcoding.h"
19 :     #include "quant/adapt_quant.h"
20 : Isibaar 1.2 #include "quant/quant_matrix.h"
21 : Isibaar 1.7 #include "utils/mem_align.h"
22 : Isibaar 1.1
23 :     #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
24 :    
25 :    
26 :     static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);
27 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);
28 :    
29 :     static int DQtab[4] =
30 :     {
31 :     -1, -2, 1, 2
32 :     };
33 :    
34 :     static int iDQtab[5] =
35 :     {
36 :     1, 0, NO_CHANGE, 2, 3
37 :     };
38 :    
39 :    
40 :     int encoder_create(XVID_ENC_PARAM * pParam)
41 :     {
42 : edgomez 1.3 Encoder *pEnc;
43 : Isibaar 1.1 uint32_t i;
44 :    
45 : edgomez 1.3 pParam->handle = NULL;
46 : Isibaar 1.1
47 : edgomez 1.3 ENC_CHECK(pParam);
48 : Isibaar 1.1
49 : edgomez 1.3 ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
50 :     ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
51 :     ENC_CHECK(!(pParam->width % 2));
52 :     ENC_CHECK(!(pParam->height % 2));
53 : Isibaar 1.1
54 :     if (pParam->fincr <= 0 || pParam->fbase <= 0)
55 :     {
56 :     pParam->fincr = 1;
57 :     pParam->fbase = 25;
58 :     }
59 :    
60 :     // simplify the "fincr/fbase" fraction
61 :     // (neccessary, since windows supplies us with huge numbers)
62 :    
63 :     i = pParam->fincr;
64 :     while (i > 1)
65 :     {
66 :     if (pParam->fincr % i == 0 && pParam->fbase % i == 0)
67 :     {
68 :     pParam->fincr /= i;
69 :     pParam->fbase /= i;
70 :     i = pParam->fincr;
71 :     continue;
72 :     }
73 :     i--;
74 :     }
75 :    
76 :     if (pParam->fbase > 65535)
77 :     {
78 :     float div = (float)pParam->fbase / 65535;
79 :     pParam->fbase = (int)(pParam->fbase / div);
80 :     pParam->fincr = (int)(pParam->fincr / div);
81 :     }
82 :    
83 : h 1.25 if (pParam->rc_bitrate <= 0)
84 :     pParam->rc_bitrate = 900000;
85 : Isibaar 1.1
86 : h 1.25 if (pParam->rc_reaction_delay_factor <= 0)
87 :     pParam->rc_reaction_delay_factor = 16;
88 :    
89 :     if (pParam->rc_averaging_period <= 0)
90 :     pParam->rc_averaging_period = 100;
91 :    
92 :     if (pParam->rc_buffer <= 0)
93 :     pParam->rc_buffer = 100;
94 : Isibaar 1.1
95 : edgomez 1.3 if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
96 : Isibaar 1.1 pParam->min_quantizer = 1;
97 :    
98 : edgomez 1.3 if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
99 : Isibaar 1.1 pParam->max_quantizer = 31;
100 :    
101 : edgomez 1.3 if (pParam->max_key_interval == 0) /* 1 keyframe each 10 seconds */
102 : Isibaar 1.1 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
103 :    
104 : edgomez 1.3 if (pParam->max_quantizer < pParam->min_quantizer)
105 : Isibaar 1.1 pParam->max_quantizer = pParam->min_quantizer;
106 :    
107 : canard 1.10 if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
108 : Isibaar 1.1 return XVID_ERR_MEMORY;
109 :    
110 :     /* Fill members of Encoder structure */
111 :    
112 : edgomez 1.3 pEnc->mbParam.width = pParam->width;
113 :     pEnc->mbParam.height = pParam->height;
114 : Isibaar 1.1
115 :     pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
116 :     pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
117 :    
118 :     pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
119 :     pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
120 :    
121 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = -1;
122 : Isibaar 1.1
123 :     /* Fill rate control parameters */
124 :    
125 : edgomez 1.3 pEnc->mbParam.quant = 4;
126 : Isibaar 1.1
127 : h 1.25 pEnc->bitrate = pParam->rc_bitrate;
128 : Isibaar 1.1
129 : edgomez 1.3 pEnc->iFrameNum = 0;
130 :     pEnc->iMaxKeyInterval = pParam->max_key_interval;
131 : Isibaar 1.1
132 : h 1.17 /* try to allocate memory */
133 : h 1.16
134 : h 1.17 pEnc->sCurrent.y = pEnc->sCurrent.u = pEnc->sCurrent.v = NULL;
135 :     pEnc->sReference.y = pEnc->sReference.u = pEnc->sReference.v = NULL;
136 :     pEnc->vInterH.y = pEnc->vInterH.u = pEnc->vInterH.v = NULL;
137 :     pEnc->vInterV.y = pEnc->vInterV.u = pEnc->vInterV.v = NULL;
138 :     pEnc->vInterVf.y = pEnc->vInterVf.u = pEnc->vInterVf.v = NULL;
139 :     pEnc->vInterHV.y = pEnc->vInterHV.u = pEnc->vInterHV.v = NULL;
140 :     pEnc->vInterHVf.y = pEnc->vInterHVf.u = pEnc->vInterHVf.v = NULL;
141 : h 1.16
142 : h 1.17 pEnc->pMBs = NULL;
143 : Isibaar 1.1
144 : h 1.17 if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
145 :     image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
146 :     image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
147 :     image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
148 :     image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
149 :     image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
150 :     image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
151 : Isibaar 1.23 #ifdef _DEBUG
152 :     image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
153 :     #endif
154 : h 1.17 (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
155 : Isibaar 1.1 {
156 :     image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
157 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
158 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
159 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
160 : h 1.17 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
161 : Isibaar 1.1 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
162 : h 1.17 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
163 : Isibaar 1.23 #ifdef _DEBUG
164 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
165 :     #endif
166 : h 1.17 if (pEnc)
167 :     {
168 :     xvid_free(pEnc);
169 :     }
170 : Isibaar 1.1 return XVID_ERR_MEMORY;
171 :     }
172 :    
173 :     // init macroblock array
174 :     for (i = 0; i < pEnc->mbParam.mb_width * pEnc->mbParam.mb_height; i++)
175 :     {
176 :     pEnc->pMBs[i].dquant = NO_CHANGE;
177 :     }
178 :    
179 : edgomez 1.3 pParam->handle = (void *)pEnc;
180 : Isibaar 1.1
181 : h 1.25 if (pParam->rc_bitrate)
182 : Isibaar 1.1 {
183 : h 1.25 RateControlInit(pParam->rc_bitrate, pParam->rc_reaction_delay_factor,
184 :     pParam->rc_averaging_period, pParam->rc_buffer, pParam->fbase * 1000 / pParam->fincr,
185 :     pParam->max_quantizer, pParam->min_quantizer);
186 : Isibaar 1.1 }
187 :    
188 : Isibaar 1.6 init_timer();
189 : Isibaar 1.1
190 :     return XVID_ERR_OK;
191 :     }
192 :    
193 :    
194 :     int encoder_destroy(Encoder * pEnc)
195 :     {
196 : edgomez 1.3 ENC_CHECK(pEnc);
197 :     ENC_CHECK(pEnc->sCurrent.y);
198 :     ENC_CHECK(pEnc->sReference.y);
199 : Isibaar 1.1
200 : Isibaar 1.7 xvid_free(pEnc->pMBs);
201 : edgomez 1.3 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
202 :     image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
203 :     image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
204 :     image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
205 : h 1.18 image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
206 : edgomez 1.3 image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
207 : h 1.18 image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
208 : Isibaar 1.23 #ifdef _DEBUG
209 :     image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
210 :     #endif
211 : Isibaar 1.7 xvid_free(pEnc);
212 : Isibaar 1.1
213 : edgomez 1.3 return XVID_ERR_OK;
214 : Isibaar 1.1 }
215 :    
216 :     int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)
217 :     {
218 : edgomez 1.3 uint16_t x, y;
219 :     Bitstream bs;
220 :     uint32_t bits;
221 : Isibaar 1.2 uint16_t write_vol_header = 0;
222 : Isibaar 1.23 #ifdef _DEBUG
223 :     float psnr;
224 :     uint8_t temp[100];
225 :     #endif
226 : Isibaar 1.1
227 :     start_global_timer();
228 :    
229 : edgomez 1.3 ENC_CHECK(pEnc);
230 :     ENC_CHECK(pFrame);
231 :     ENC_CHECK(pFrame->bitstream);
232 :     ENC_CHECK(pFrame->image);
233 : Isibaar 1.1
234 :     pEnc->mbParam.global_flags = pFrame->general;
235 :     pEnc->mbParam.motion_flags = pFrame->motion;
236 : h 1.20 pEnc->mbParam.hint = &pFrame->hint;
237 : Isibaar 1.1
238 :     start_timer();
239 :     if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
240 : edgomez 1.3 pFrame->image, pFrame->colorspace))
241 : Isibaar 1.1 {
242 :     return XVID_ERR_FORMAT;
243 :     }
244 :     stop_conv_timer();
245 :    
246 : Isibaar 1.7 EMMS();
247 :    
248 : Isibaar 1.23 #ifdef _DEBUG
249 :     image_copy(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.height);
250 :     #endif
251 :    
252 : edgomez 1.3 BitstreamInit(&bs, pFrame->bitstream, 0);
253 : Isibaar 1.1
254 :     if (pFrame->quant == 0)
255 :     {
256 :     pEnc->mbParam.quant = RateControlGetQ(0);
257 :     }
258 :     else
259 :     {
260 :     pEnc->mbParam.quant = pFrame->quant;
261 :     }
262 :    
263 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
264 :     {
265 : canard 1.10 int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
266 : Isibaar 1.1
267 : edgomez 1.13 pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
268 :     pEnc->mbParam.width,
269 :     temp_dquants,
270 : h 1.15 pEnc->mbParam.quant,
271 :     pEnc->mbParam.quant,
272 :     2*pEnc->mbParam.quant,
273 : edgomez 1.13 pEnc->mbParam.mb_width,
274 :     pEnc->mbParam.mb_height);
275 : Isibaar 1.1
276 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
277 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
278 :     {
279 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
280 :     pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
281 :     }
282 : Isibaar 1.7 xvid_free(temp_dquants);
283 : Isibaar 1.1 }
284 :    
285 : Isibaar 1.4 if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
286 :     if(pEnc->mbParam.quant_type != H263_QUANT)
287 :     write_vol_header = 1;
288 :     pEnc->mbParam.quant_type = H263_QUANT;
289 : Isibaar 1.1 }
290 : Isibaar 1.4 else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
291 :     int ret1, ret2;
292 : Isibaar 1.1
293 : edgomez 1.13 ret1 = ret2 = 0;
294 :    
295 : Isibaar 1.4 if(pEnc->mbParam.quant_type != MPEG4_QUANT)
296 :     write_vol_header = 1;
297 :    
298 :     pEnc->mbParam.quant_type = MPEG4_QUANT;
299 :    
300 :     if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
301 :     if(pFrame->quant_intra_matrix != NULL)
302 :     ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
303 :     if(pFrame->quant_inter_matrix != NULL)
304 :     ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
305 :     }
306 :     else {
307 :     ret1 = set_intra_matrix(get_default_intra_matrix());
308 :     ret2 = set_inter_matrix(get_default_inter_matrix());
309 :     }
310 : Isibaar 1.2 if(write_vol_header == 0)
311 :     write_vol_header = ret1 | ret2;
312 :     }
313 : Isibaar 1.1
314 :     if (pFrame->intra < 0)
315 : edgomez 1.3 {
316 : Isibaar 1.1 if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)
317 : edgomez 1.3 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))
318 : Isibaar 1.1
319 :     pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
320 :     else
321 : Isibaar 1.2 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
322 : edgomez 1.3 }
323 :     else
324 :     {
325 : Isibaar 1.1 if (pFrame->intra == 1)
326 : edgomez 1.3 pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
327 : Isibaar 1.1 else
328 : Isibaar 1.2 pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
329 : edgomez 1.3 }
330 : Isibaar 1.1
331 :     BitstreamPutBits(&bs, 0xFFFF, 16);
332 : edgomez 1.3 BitstreamPutBits(&bs, 0xFFFF, 16);
333 :     BitstreamPad(&bs);
334 :     pFrame->length = BitstreamLength(&bs);
335 : h 1.5
336 : Isibaar 1.1 if (pResult)
337 : edgomez 1.3 {
338 : Isibaar 1.1 pResult->quant = pEnc->mbParam.quant;
339 :     pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
340 :     pResult->kblks = pEnc->sStat.kblks;
341 :     pResult->mblks = pEnc->sStat.mblks;
342 :     pResult->ublks = pEnc->sStat.ublks;
343 : edgomez 1.3 }
344 : Isibaar 1.1
345 : Isibaar 1.7 EMMS();
346 :    
347 : h 1.5 if (pFrame->quant == 0)
348 : Isibaar 1.1 {
349 :     RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
350 :     }
351 : Isibaar 1.23
352 :     #ifdef _DEBUG
353 :     psnr = image_psnr(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width,
354 :     pEnc->mbParam.width, pEnc->mbParam.height);
355 :    
356 :     sprintf(temp, "PSNR: %f\n", psnr);
357 :     DEBUG(temp);
358 :     #endif
359 : Isibaar 1.1
360 :     pEnc->iFrameNum++;
361 : edgomez 1.3 image_swap(&pEnc->sCurrent, &pEnc->sReference);
362 : Isibaar 1.1
363 :     stop_global_timer();
364 :     write_timer();
365 :    
366 :     return XVID_ERR_OK;
367 :     }
368 :    
369 :    
370 :     static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {
371 :    
372 :     pMB->mode = MODE_INTRA;
373 :    
374 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
375 :     if(pMB->dquant != NO_CHANGE)
376 :     {
377 :     pMB->mode = MODE_INTRA_Q;
378 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
379 :    
380 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
381 :     if (pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
382 :     }
383 :     }
384 :    
385 :     pMB->quant = pEnc->mbParam.quant;
386 :     }
387 :    
388 :    
389 : h 1.20 #define FCODEBITS 3
390 :     #define MODEBITS 5
391 :    
392 :     void HintedMESet(Encoder * pEnc, int * intra)
393 :     {
394 :     HINTINFO * hint;
395 :     Bitstream bs;
396 :     int length, high;
397 :     uint32_t x, y;
398 :    
399 :     hint = pEnc->mbParam.hint;
400 :    
401 :     if (hint->rawhints)
402 :     {
403 :     *intra = hint->mvhint.intra;
404 :     }
405 :     else
406 :     {
407 :     BitstreamInit(&bs, hint->hintstream, hint->hintlength);
408 :     *intra = BitstreamGetBit(&bs);
409 :     }
410 :    
411 :     if (*intra)
412 :     {
413 :     return;
414 :     }
415 :    
416 :     pEnc->mbParam.fixed_code = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
417 :    
418 :     length = pEnc->mbParam.fixed_code + 5;
419 :     high = 1 << (length - 1);
420 :    
421 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
422 :     {
423 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
424 :     {
425 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
426 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
427 :     VECTOR pred[4];
428 :     VECTOR tmp;
429 :     int dummy[4];
430 :     int vec;
431 :    
432 :     pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
433 :    
434 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
435 :     {
436 :     tmp.x = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
437 :     tmp.y = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
438 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
439 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
440 :    
441 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
442 :    
443 :     for (vec=0 ; vec<4 ; ++vec)
444 :     {
445 :     pMB->mvs[vec].x = tmp.x;
446 :     pMB->mvs[vec].y = tmp.y;
447 :     pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
448 :     pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
449 :     }
450 :     }
451 :     else if (pMB->mode == MODE_INTER4V)
452 :     {
453 :     for (vec=0 ; vec<4 ; ++vec)
454 :     {
455 :     tmp.x = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
456 :     tmp.y = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
457 :     tmp.x -= (tmp.x >= high) ? high*2 : 0;
458 :     tmp.y -= (tmp.y >= high) ? high*2 : 0;
459 :    
460 :     get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
461 :    
462 :     pMB->mvs[vec].x = tmp.x;
463 :     pMB->mvs[vec].y = tmp.y;
464 :     pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
465 :     pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
466 :     }
467 :     }
468 :     else // intra / intra_q / stuffing / not_coded
469 :     {
470 :     for (vec=0 ; vec<4 ; ++vec)
471 :     {
472 :     pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
473 :     }
474 :     }
475 :     }
476 :     }
477 :     }
478 :    
479 :    
480 :     void HintedMEGet(Encoder * pEnc, int intra)
481 :     {
482 :     HINTINFO * hint;
483 :     Bitstream bs;
484 :     uint32_t x, y;
485 :     int length, high;
486 :    
487 :     hint = pEnc->mbParam.hint;
488 :    
489 :     if (hint->rawhints)
490 :     {
491 :     hint->mvhint.intra = intra;
492 :     }
493 :     else
494 :     {
495 :     BitstreamInit(&bs, hint->hintstream, 0);
496 :     BitstreamPutBit(&bs, intra);
497 :     }
498 :    
499 :     if (intra)
500 :     {
501 :     if (!hint->rawhints)
502 :     {
503 :     BitstreamPad(&bs);
504 :     hint->hintlength = BitstreamLength(&bs);
505 :     }
506 :     return;
507 :     }
508 :    
509 :     length = pEnc->mbParam.fixed_code + 5;
510 :     high = 1 << (length - 1);
511 :    
512 :     if (hint->rawhints)
513 :     {
514 :     hint->mvhint.fcode = pEnc->mbParam.fixed_code;
515 :     }
516 :     else
517 :     {
518 :     BitstreamPutBits(&bs, pEnc->mbParam.fixed_code, FCODEBITS);
519 :     }
520 :    
521 :     for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
522 :     {
523 :     for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
524 :     {
525 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
526 :     MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
527 :     VECTOR tmp;
528 :    
529 :     if (hint->rawhints)
530 :     {
531 :     bhint->mode = pMB->mode;
532 :     }
533 :     else
534 :     {
535 :     BitstreamPutBits(&bs, pMB->mode, MODEBITS);
536 :     }
537 :    
538 :     if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
539 :     {
540 :     tmp.x = pMB->mvs[0].x;
541 :     tmp.y = pMB->mvs[0].y;
542 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
543 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
544 :    
545 :     if (hint->rawhints)
546 :     {
547 :     bhint->mvs[0].x = tmp.x;
548 :     bhint->mvs[0].y = tmp.y;
549 :     }
550 :     else
551 :     {
552 :     BitstreamPutBits(&bs, tmp.x, length);
553 :     BitstreamPutBits(&bs, tmp.y, length);
554 :     }
555 :     }
556 :     else if (pMB->mode == MODE_INTER4V)
557 :     {
558 :     int vec;
559 :    
560 :     for (vec=0 ; vec<4 ; ++vec)
561 :     {
562 :     tmp.x = pMB->mvs[vec].x;
563 :     tmp.y = pMB->mvs[vec].y;
564 :     tmp.x += (tmp.x < 0) ? high*2 : 0;
565 :     tmp.y += (tmp.y < 0) ? high*2 : 0;
566 :    
567 :     if (hint->rawhints)
568 :     {
569 :     bhint->mvs[vec].x = tmp.x;
570 :     bhint->mvs[vec].y = tmp.y;
571 :     }
572 :     else
573 :     {
574 :     BitstreamPutBits(&bs, tmp.x, length);
575 :     BitstreamPutBits(&bs, tmp.y, length);
576 :     }
577 :     }
578 :     }
579 :     }
580 :     }
581 :    
582 :     if (!hint->rawhints)
583 :     {
584 :     BitstreamPad(&bs);
585 :     hint->hintlength = BitstreamLength(&bs);
586 :     }
587 :     }
588 :    
589 :    
590 : h 1.21 static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
591 :     {
592 :    
593 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
594 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
595 :    
596 :     uint16_t x, y;
597 :    
598 :     pEnc->iFrameNum = 0;
599 :     pEnc->mbParam.rounding_type = 1;
600 :     pEnc->mbParam.coding_type = I_VOP;
601 :    
602 :     BitstreamWriteVolHeader(bs, &pEnc->mbParam);
603 :     BitstreamWriteVopHeader(bs, &pEnc->mbParam);
604 :    
605 :     *pBits = BitstreamPos(bs);
606 :    
607 :     pEnc->sStat.iTextBits = 0;
608 :     pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
609 :     pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
610 :    
611 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
612 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
613 :     {
614 :     MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
615 :    
616 :     CodeIntraMB(pEnc, pMB);
617 :    
618 :     MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
619 :    
620 :     start_timer();
621 :     MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
622 :     stop_prediction_timer();
623 :    
624 :     start_timer();
625 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
626 :     stop_coding_timer();
627 :     }
628 :    
629 :     emms();
630 :    
631 :     *pBits = BitstreamPos(bs) - *pBits;
632 :     pEnc->sStat.fMvPrevSigma = -1;
633 :     pEnc->sStat.iMvSum = 0;
634 :     pEnc->sStat.iMvCount = 0;
635 :     pEnc->mbParam.fixed_code = 2;
636 :    
637 :     if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
638 :     {
639 :     HintedMEGet(pEnc, 1);
640 :     }
641 :    
642 :     return 1; // intra
643 :     }
644 :    
645 :    
646 : Isibaar 1.1 #define INTRA_THRESHOLD 0.5
647 :    
648 :     static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
649 :     {
650 : edgomez 1.3 float fSigma;
651 : edgomez 1.13
652 :     DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
653 :     DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
654 : Isibaar 1.8
655 : Isibaar 1.1 int iLimit;
656 : edgomez 1.3 uint32_t x, y;
657 :     int iSearchRange;
658 : Isibaar 1.1 bool bIntra;
659 :    
660 : edgomez 1.3 IMAGE *pCurrent = &pEnc->sCurrent;
661 :     IMAGE *pRef = &pEnc->sReference;
662 : Isibaar 1.1
663 : h 1.11 start_timer();
664 : edgomez 1.13 image_setedges(pRef,
665 : h 1.16 pEnc->mbParam.edged_width,
666 :     pEnc->mbParam.edged_height,
667 :     pEnc->mbParam.width,
668 :     pEnc->mbParam.height,
669 :     pEnc->mbParam.global_flags & XVID_INTERLACING);
670 : h 1.11 stop_edges_timer();
671 : Isibaar 1.1
672 : edgomez 1.3 pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
673 : Isibaar 1.1
674 :     if (!force_inter)
675 :     iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);
676 : edgomez 1.3 else
677 : Isibaar 1.1 iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
678 :    
679 : h 1.16 if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0) {
680 : Isibaar 1.1 start_timer();
681 : h 1.16 image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
682 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
683 :     pEnc->mbParam.rounding_type);
684 : Isibaar 1.1 stop_inter_timer();
685 :     }
686 :    
687 :     start_timer();
688 : h 1.20 if (pEnc->mbParam.global_flags & XVID_HINTEDME_SET)
689 :     {
690 :     HintedMESet(pEnc, &bIntra);
691 :     }
692 :     else
693 :     {
694 :     bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,
695 :     &pEnc->vInterH, &pEnc->vInterV,
696 :     &pEnc->vInterHV, &pEnc->sCurrent, iLimit);
697 :     }
698 : Isibaar 1.1 stop_motion_timer();
699 :    
700 :     if (bIntra == 1)
701 : h 1.20 {
702 : Isibaar 1.1 return FrameCodeI(pEnc, bs, pBits);
703 : h 1.20 }
704 : Isibaar 1.1
705 : edgomez 1.3 pEnc->mbParam.coding_type = P_VOP;
706 : Isibaar 1.1
707 :     if(vol_header)
708 : h 1.11 BitstreamWriteVolHeader(bs, &pEnc->mbParam);
709 : Isibaar 1.1
710 : h 1.11 BitstreamWriteVopHeader(bs, &pEnc->mbParam);
711 : edgomez 1.3
712 :     *pBits = BitstreamPos(bs);
713 :    
714 :     pEnc->sStat.iTextBits = 0;
715 :     pEnc->sStat.iMvSum = 0;
716 :     pEnc->sStat.iMvCount = 0;
717 : Isibaar 1.1 pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
718 :    
719 : edgomez 1.3 for(y = 0; y < pEnc->mbParam.mb_height; y++)
720 : Isibaar 1.1 {
721 :     for(x = 0; x < pEnc->mbParam.mb_width; x++)
722 :     {
723 :     MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
724 :    
725 : edgomez 1.3 bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
726 : Isibaar 1.1
727 :     if (!bIntra)
728 : edgomez 1.3 {
729 : Isibaar 1.1 start_timer();
730 : edgomez 1.13 MBMotionCompensation(pMB,
731 :     x, y,
732 :     &pEnc->sReference,
733 :     &pEnc->vInterH,
734 : h 1.16 &pEnc->vInterV,
735 :     &pEnc->vInterHV,
736 : edgomez 1.13 &pEnc->sCurrent,
737 :     dct_codes,
738 : edgomez 1.3 pEnc->mbParam.width,
739 :     pEnc->mbParam.height,
740 :     pEnc->mbParam.edged_width,
741 :     pEnc->mbParam.rounding_type);
742 : Isibaar 1.1 stop_comp_timer();
743 :    
744 :     if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {
745 :     if(pMB->dquant != NO_CHANGE) {
746 :     pMB->mode = MODE_INTER_Q;
747 :     pEnc->mbParam.quant += DQtab[pMB->dquant];
748 :     if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;
749 :     else if(pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;
750 :     }
751 :     }
752 :     pMB->quant = pEnc->mbParam.quant;
753 :    
754 : h 1.11 pMB->field_pred = 0;
755 :    
756 :     pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
757 : edgomez 1.3 }
758 : Isibaar 1.1 else
759 :     {
760 :     CodeIntraMB(pEnc, pMB);
761 : h 1.11 MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
762 : Isibaar 1.1 }
763 :    
764 : edgomez 1.3 start_timer();
765 : Isibaar 1.1 MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
766 :     stop_prediction_timer();
767 :    
768 :     if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
769 :     {
770 :     pEnc->sStat.kblks++;
771 :     }
772 :     else if (pMB->cbp ||
773 : edgomez 1.3 pMB->mvs[0].x || pMB->mvs[0].y ||
774 :     pMB->mvs[1].x || pMB->mvs[1].y ||
775 :     pMB->mvs[2].x || pMB->mvs[2].y ||
776 :     pMB->mvs[3].x || pMB->mvs[3].y)
777 : Isibaar 1.1 {
778 :     pEnc->sStat.mblks++;
779 :     }
780 :     else
781 :     {
782 :     pEnc->sStat.ublks++;
783 :     }
784 :    
785 :     start_timer();
786 :     MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);
787 :     stop_coding_timer();
788 :     }
789 :     }
790 :    
791 :     emms();
792 : h 1.20
793 :     if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
794 :     {
795 :     HintedMEGet(pEnc, 0);
796 :     }
797 : Isibaar 1.1
798 :     if (pEnc->sStat.iMvCount == 0)
799 :     pEnc->sStat.iMvCount = 1;
800 :    
801 : edgomez 1.3 fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
802 : Isibaar 1.1
803 : edgomez 1.3 iSearchRange = 1 << (3 + pEnc->mbParam.fixed_code);
804 : Isibaar 1.1
805 : edgomez 1.3 if ((fSigma > iSearchRange / 3)
806 :     && (pEnc->mbParam.fixed_code <= 3)) // maximum search range 128
807 :     {
808 : Isibaar 1.1 pEnc->mbParam.fixed_code++;
809 :     iSearchRange *= 2;
810 : edgomez 1.3 }
811 :     else if ((fSigma < iSearchRange / 6)
812 :     && (pEnc->sStat.fMvPrevSigma >= 0)
813 :     && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
814 :     && (pEnc->mbParam.fixed_code >= 2)) // minimum search range 16
815 :     {
816 : Isibaar 1.1 pEnc->mbParam.fixed_code--;
817 :     iSearchRange /= 2;
818 : edgomez 1.3 }
819 : Isibaar 1.1
820 : edgomez 1.3 pEnc->sStat.fMvPrevSigma = fSigma;
821 : Isibaar 1.1
822 :     *pBits = BitstreamPos(bs) - *pBits;
823 :    
824 : edgomez 1.3 return 0; // inter
825 : Isibaar 1.1 }
826 : suxen_drol 1.24
827 :    
828 :    
829 :     /*
830 :     static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)
831 :     {
832 :     int16_t dct_codes[6][64];
833 :     int16_t qcoeff[6][64];
834 :     uint32_t x, y;
835 :     VECTOR forward;
836 :     VECTOR backward;
837 :    
838 :     IMAGE *f_ref = &pEnc->reference->image;
839 :     IMAGE *b_ref = &pEnc->current->image;
840 :    
841 :     // forward
842 :     image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
843 :     start_timer();
844 :     image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
845 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
846 :     stop_inter_timer();
847 :    
848 :     // backward
849 :     image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
850 :     start_timer();
851 :     image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
852 :     pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
853 :     stop_inter_timer();
854 :    
855 :     start_timer();
856 :     MotionEstimationBVOP(&pEnc->mbParam, frame,
857 :     pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
858 :     pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
859 :    
860 :     stop_motion_timer();
861 :    
862 :     if (test_quant_type(&pEnc->mbParam, pEnc->current))
863 :     {
864 :     BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
865 :     }
866 :    
867 :     frame->coding_type = B_VOP;
868 :     BitstreamWriteVopHeader(bs, B_VOP, frame->tick, 0,
869 :     frame->quant, frame->fcode, frame->bcode);
870 :    
871 :     *pBits = BitstreamPos(bs);
872 :    
873 :     pEnc->sStat.iTextBits = 0;
874 :     pEnc->sStat.iMvSum = 0;
875 :     pEnc->sStat.iMvCount = 0;
876 :     pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
877 :    
878 :    
879 :     for (y = 0; y < pEnc->mbParam.mb_height; y++)
880 :     {
881 :     // reset prediction
882 :    
883 :     forward.x = 0;
884 :     forward.y = 0;
885 :     backward.x = 0;
886 :     backward.y = 0;
887 :    
888 :     for (x = 0; x < pEnc->mbParam.mb_width; x++)
889 :     {
890 :     MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
891 :     MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
892 :     MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
893 :    
894 :     // decoder ignores mb when refence block is INTER(0,0), CBP=0
895 :     if (mb->mode == MODE_NOT_CODED)
896 :     {
897 :     mb->mvs[0].x = 0;
898 :     mb->mvs[0].y = 0;
899 :     continue;
900 :     }
901 :    
902 :     MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
903 :     f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
904 :     b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
905 :     dct_codes);
906 :    
907 :     mb->quant = frame->quant;
908 :     mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, x, y, dct_codes, qcoeff);
909 :     //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
910 :    
911 :    
912 :     if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&
913 :     mb->cbp == 0 &&
914 :     mb->mvs[0].x == 0 &&
915 :     mb->mvs[0].y == 0)
916 :     {
917 :     mb->mode = 5; // skipped
918 :     }
919 :    
920 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)
921 :     {
922 :     mb->pmvs[0].x = mb->mvs[0].x - forward.x;
923 :     mb->pmvs[0].y = mb->mvs[0].y - forward.y;
924 :     forward.x = mb->mvs[0].x;
925 :     forward.y = mb->mvs[0].y;
926 :     }
927 :    
928 :     if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)
929 :     {
930 :     mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
931 :     mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
932 :     backward.x = mb->b_mvs[0].x;
933 :     backward.y = mb->b_mvs[0].y;
934 :     }
935 :    
936 :     // printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
937 :    
938 :     start_timer();
939 :     MBCodingBVOP(frame, mb, qcoeff, bs, &pEnc->sStat);
940 :     stop_coding_timer();
941 :     }
942 :     }
943 :    
944 :     emms();
945 :    
946 :     // TODO: dynamic fcode/bcode ???
947 :    
948 :     *pBits = BitstreamPos(bs) - *pBits;
949 :    
950 :     }
951 :    
952 :     */

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4