[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.1, Fri Mar 8 02:44:30 2002 UTC revision 1.23, Wed Apr 10 07:40:51 2002 UTC
# Line 15  Line 15 
15  #include "utils/emms.h"  #include "utils/emms.h"
16  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
17  #include "quant/adapt_quant.h"  #include "quant/adapt_quant.h"
18    #include "quant/quant_matrix.h"
19    #include "utils/mem_align.h"
20    
21  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
22    
# Line 80  Line 82 
82                  pParam->bitrate = 900000;                  pParam->bitrate = 900000;
83    
84      if (pParam->rc_buffersize <= 0)      if (pParam->rc_buffersize <= 0)
85                  pParam->rc_buffersize = pParam->bitrate * pParam->fbase;                  pParam->rc_buffersize = 16;
86    
87      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
88                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
# Line 94  Line 96 
96      if (pParam->max_quantizer < pParam->min_quantizer)      if (pParam->max_quantizer < pParam->min_quantizer)
97                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
98    
99      if ((pEnc = (Encoder *) malloc(sizeof(Encoder))) == NULL)          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
100                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
101    
102          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
# Line 119  Line 121 
121      pEnc->iFrameNum = 0;      pEnc->iFrameNum = 0;
122      pEnc->iMaxKeyInterval = pParam->max_key_interval;      pEnc->iMaxKeyInterval = pParam->max_key_interval;
123    
124      if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          /* try to allocate memory */
     {  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
         if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
     {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
125    
126      if (image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          pEnc->sCurrent.y        =       pEnc->sCurrent.u        =       pEnc->sCurrent.v        = NULL;
127      {          pEnc->sReference.y      =       pEnc->sReference.u      =       pEnc->sReference.v      = NULL;
128                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->vInterH.y         =       pEnc->vInterH.u         =       pEnc->vInterH.v         = NULL;
129                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->vInterV.y         =       pEnc->vInterV.u         =       pEnc->vInterV.v         = NULL;
130                  free(pEnc);          pEnc->vInterVf.y        =       pEnc->vInterVf.u        =       pEnc->vInterVf.v        = NULL;
131                  return XVID_ERR_MEMORY;          pEnc->vInterHV.y        =       pEnc->vInterHV.u        =       pEnc->vInterHV.v        = NULL;
132      }          pEnc->vInterHVf.y       =       pEnc->vInterHVf.u       =       pEnc->vInterHVf.v       = NULL;
133    
134      if (image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          pEnc->pMBs = NULL;
135      {  
136                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
137                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
138                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
139                  free(pEnc);                  image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
140                  return XVID_ERR_MEMORY;                  image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
141      }                  image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
142                    image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
143      if (image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  #ifdef _DEBUG
144      {                  image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
145                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  #endif
146                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
                 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
         pEnc->pMBs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);  
         if (pEnc->pMBs == NULL)  
147          {          {
148                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
151                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
152                    image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
153                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
154                  free(pEnc);                  image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
155    #ifdef _DEBUG
156                    image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
157    #endif
158                    if (pEnc)
159                    {
160                            xvid_free(pEnc);
161                    }
162                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
163          }          }
164    
# Line 181  Line 172 
172    
173          if (pParam->bitrate)          if (pParam->bitrate)
174          {          {
175                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase, pParam->width,                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 1000 / pParam->fincr,
176                                                  pParam->height, pParam->max_quantizer, pParam->min_quantizer);                                  pParam->max_quantizer, pParam->min_quantizer);
177          }          }
178    
179          create_vlc_tables();          init_timer();
180    
181          return XVID_ERR_OK;          return XVID_ERR_OK;
182  }  }
# Line 197  Line 188 
188      ENC_CHECK(pEnc->sCurrent.y);      ENC_CHECK(pEnc->sCurrent.y);
189      ENC_CHECK(pEnc->sReference.y);      ENC_CHECK(pEnc->sReference.y);
190    
191          free(pEnc->pMBs);          xvid_free(pEnc->pMBs);
192      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
193      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
194      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
195      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
196            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
197      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
198      free(pEnc);          image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
199    #ifdef _DEBUG
200          destroy_vlc_tables();                  image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
201    #endif
202            xvid_free(pEnc);
203    
204      return XVID_ERR_OK;      return XVID_ERR_OK;
205  }  }
# Line 215  Line 209 
209      uint16_t x, y;      uint16_t x, y;
210      Bitstream bs;      Bitstream bs;
211      uint32_t bits;      uint32_t bits;
212          uint16_t quant_type = 0;          uint16_t write_vol_header = 0;
213          uint16_t quant_change = 0;  #ifdef _DEBUG
214            float psnr;
215      IMAGE *pCurrent = &(pEnc->sCurrent);          uint8_t temp[100];
216    #endif
217    
218          start_global_timer();          start_global_timer();
219    
# Line 229  Line 224 
224    
225          pEnc->mbParam.global_flags = pFrame->general;          pEnc->mbParam.global_flags = pFrame->general;
226          pEnc->mbParam.motion_flags = pFrame->motion;          pEnc->mbParam.motion_flags = pFrame->motion;
227            pEnc->mbParam.hint = &pFrame->hint;
228    
229          start_timer();          start_timer();
230          if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,          if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
# Line 238  Line 234 
234          }          }
235          stop_conv_timer();          stop_conv_timer();
236    
237            EMMS();
238    
239    #ifdef _DEBUG
240            image_copy(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.height);
241    #endif
242    
243      BitstreamInit(&bs, pFrame->bitstream, 0);      BitstreamInit(&bs, pFrame->bitstream, 0);
244    
245          if (pFrame->quant == 0)          if (pFrame->quant == 0)
# Line 251  Line 253 
253    
254          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
255          {          {
256                  int * temp_dquants = (int *) malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int));                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
257    
258                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
259                          temp_dquants, pFrame->quant, pFrame->quant,                                                              pEnc->mbParam.width,
260                          2*pFrame->quant, pEnc->mbParam.mb_width, pEnc->mbParam.mb_height);                                                              temp_dquants,
261                                                                pEnc->mbParam.quant,
262                                                                pEnc->mbParam.quant,
263                                                                2*pEnc->mbParam.quant,
264                                                                pEnc->mbParam.mb_width,
265                                                                pEnc->mbParam.mb_height);
266    
267                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++)
268                          for (x = 0; x < pEnc->mbParam.mb_width; x++)                          for (x = 0; x < pEnc->mbParam.mb_width; x++)
# Line 263  Line 270 
270                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
271                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
272                          }                          }
273                  free(temp_dquants);                  xvid_free(temp_dquants);
274          }          }
275    
276          if(pEnc->mbParam.global_flags & XVID_H263QUANT)          if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
277                  quant_type = H263_QUANT;                  if(pEnc->mbParam.quant_type != H263_QUANT)
278          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT)                          write_vol_header = 1;
279                  quant_type = MPEG4_QUANT;                  pEnc->mbParam.quant_type = H263_QUANT;
   
         if(pEnc->mbParam.quant_type != quant_type) {  
                 pEnc->mbParam.quant_type = quant_type;  
                 quant_change = 1;  
280          }          }
281          else          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
282                  quant_change = 0;                  int ret1, ret2;
283    
284                    ret1 = ret2 = 0;
285    
286                    if(pEnc->mbParam.quant_type != MPEG4_QUANT)
287                            write_vol_header = 1;
288    
289                    pEnc->mbParam.quant_type = MPEG4_QUANT;
290    
291                    if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
292                            if(pFrame->quant_intra_matrix != NULL)
293                                    ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
294                            if(pFrame->quant_inter_matrix != NULL)
295                                    ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
296                    }
297                    else {
298                            ret1 = set_intra_matrix(get_default_intra_matrix());
299                            ret2 = set_inter_matrix(get_default_inter_matrix());
300                    }
301                    if(write_vol_header == 0)
302                            write_vol_header = ret1 | ret2;
303            }
304    
305          if (pFrame->intra < 0)          if (pFrame->intra < 0)
306      {      {
# Line 286  Line 309 
309    
310                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
311                  else                  else
312                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, quant_change);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
313      }      }
314      else      else
315      {      {
316                  if (pFrame->intra == 1)                  if (pFrame->intra == 1)
317                      pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                      pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
318                  else                  else
319                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, quant_change);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
320      }      }
321    
322          BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
# Line 310  Line 333 
333                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
334      }      }
335    
336      if (pEnc->bitrate)          EMMS();
337    
338            if (pFrame->quant == 0)
339          {          {
340                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
341          }          }
342    
343    #ifdef _DEBUG
344            psnr = image_psnr(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width,
345                                    pEnc->mbParam.width, pEnc->mbParam.height);
346    
347            sprintf(temp, "PSNR: %f\n", psnr);
348            DEBUG(temp);
349    #endif
350    
351          pEnc->iFrameNum++;          pEnc->iFrameNum++;
352      image_swap(&pEnc->sCurrent, &pEnc->sReference);      image_swap(&pEnc->sCurrent, &pEnc->sReference);
353    
# Line 344  Line 377 
377  }  }
378    
379    
380    #define FCODEBITS       3
381    #define MODEBITS        5
382    
383    void HintedMESet(Encoder * pEnc, int * intra)
384    {
385            HINTINFO * hint;
386            Bitstream bs;
387            int length, high;
388            uint32_t x, y;
389    
390            hint = pEnc->mbParam.hint;
391    
392            if (hint->rawhints)
393            {
394                    *intra = hint->mvhint.intra;
395            }
396            else
397            {
398                    BitstreamInit(&bs, hint->hintstream, hint->hintlength);
399                    *intra = BitstreamGetBit(&bs);
400            }
401    
402            if (*intra)
403            {
404                    return;
405            }
406    
407            pEnc->mbParam.fixed_code = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
408    
409            length  = pEnc->mbParam.fixed_code + 5;
410            high    = 1 << (length - 1);
411    
412            for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
413            {
414                    for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
415                    {
416                            MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
417                            MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
418                            VECTOR pred[4];
419                            VECTOR tmp;
420                            int dummy[4];
421                            int vec;
422    
423                            pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
424    
425                            if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
426                            {
427                                    tmp.x  = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
428                                    tmp.y  = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
429                                    tmp.x -= (tmp.x >= high) ? high*2 : 0;
430                                    tmp.y -= (tmp.y >= high) ? high*2 : 0;
431    
432                                    get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
433    
434                                    for (vec=0 ; vec<4 ; ++vec)
435                                    {
436                                            pMB->mvs[vec].x  = tmp.x;
437                                            pMB->mvs[vec].y  = tmp.y;
438                                            pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
439                                            pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
440                                    }
441                            }
442                            else if (pMB->mode == MODE_INTER4V)
443                            {
444                                    for (vec=0 ; vec<4 ; ++vec)
445                                    {
446                                            tmp.x  = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
447                                            tmp.y  = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
448                                            tmp.x -= (tmp.x >= high) ? high*2 : 0;
449                                            tmp.y -= (tmp.y >= high) ? high*2 : 0;
450    
451                                            get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
452    
453                                            pMB->mvs[vec].x  = tmp.x;
454                                            pMB->mvs[vec].y  = tmp.y;
455                                            pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
456                                            pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
457                                    }
458                            }
459                            else    // intra / intra_q / stuffing / not_coded
460                            {
461                                    for (vec=0 ; vec<4 ; ++vec)
462                                    {
463                                            pMB->mvs[vec].x  = pMB->mvs[vec].y  = 0;
464                                    }
465                            }
466                    }
467            }
468    }
469    
470    
471    void HintedMEGet(Encoder * pEnc, int intra)
472    {
473            HINTINFO * hint;
474            Bitstream bs;
475            uint32_t x, y;
476            int length, high;
477    
478            hint = pEnc->mbParam.hint;
479    
480            if (hint->rawhints)
481            {
482                    hint->mvhint.intra = intra;
483            }
484            else
485            {
486                    BitstreamInit(&bs, hint->hintstream, 0);
487                    BitstreamPutBit(&bs, intra);
488            }
489    
490            if (intra)
491            {
492                    if (!hint->rawhints)
493                    {
494                            BitstreamPad(&bs);
495                            hint->hintlength = BitstreamLength(&bs);
496                    }
497                    return;
498            }
499    
500            length  = pEnc->mbParam.fixed_code + 5;
501            high    = 1 << (length - 1);
502    
503            if (hint->rawhints)
504            {
505                    hint->mvhint.fcode = pEnc->mbParam.fixed_code;
506            }
507            else
508            {
509                    BitstreamPutBits(&bs, pEnc->mbParam.fixed_code, FCODEBITS);
510            }
511    
512            for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
513            {
514                    for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
515                    {
516                            MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
517                            MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
518                            VECTOR tmp;
519    
520                            if (hint->rawhints)
521                            {
522                                    bhint->mode = pMB->mode;
523                            }
524                            else
525                            {
526                                    BitstreamPutBits(&bs, pMB->mode, MODEBITS);
527                            }
528    
529                            if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
530                            {
531                                    tmp.x  = pMB->mvs[0].x;
532                                    tmp.y  = pMB->mvs[0].y;
533                                    tmp.x += (tmp.x < 0) ? high*2 : 0;
534                                    tmp.y += (tmp.y < 0) ? high*2 : 0;
535    
536                                    if (hint->rawhints)
537                                    {
538                                            bhint->mvs[0].x = tmp.x;
539                                            bhint->mvs[0].y = tmp.y;
540                                    }
541                                    else
542                                    {
543                                            BitstreamPutBits(&bs, tmp.x, length);
544                                            BitstreamPutBits(&bs, tmp.y, length);
545                                    }
546                            }
547                            else if (pMB->mode == MODE_INTER4V)
548                            {
549                                    int vec;
550    
551                                    for (vec=0 ; vec<4 ; ++vec)
552                                    {
553                                            tmp.x  = pMB->mvs[vec].x;
554                                            tmp.y  = pMB->mvs[vec].y;
555                                            tmp.x += (tmp.x < 0) ? high*2 : 0;
556                                            tmp.y += (tmp.y < 0) ? high*2 : 0;
557    
558                                            if (hint->rawhints)
559                                            {
560                                                    bhint->mvs[vec].x = tmp.x;
561                                                    bhint->mvs[vec].y = tmp.y;
562                                            }
563                                            else
564                                            {
565                                                    BitstreamPutBits(&bs, tmp.x, length);
566                                                    BitstreamPutBits(&bs, tmp.y, length);
567                                            }
568                                    }
569                            }
570                    }
571            }
572    
573            if (!hint->rawhints)
574            {
575                    BitstreamPad(&bs);
576                    hint->hintlength = BitstreamLength(&bs);
577            }
578    }
579    
580    
581  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
582  {  {
583      int16_t dct_codes[6][64];  
584      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
585            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
586    
587      uint16_t x, y;      uint16_t x, y;
     IMAGE *pCurrent = &pEnc->sCurrent;  
588    
589      pEnc->iFrameNum = 0;      pEnc->iFrameNum = 0;
590      pEnc->mbParam.rounding_type = 1;      pEnc->mbParam.rounding_type = 1;
591      pEnc->mbParam.coding_type = I_VOP;      pEnc->mbParam.coding_type = I_VOP;
592    
593          BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
594          BitstreamWriteVopHeader(bs, I_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                         pEnc->mbParam.quant,  
                         pEnc->mbParam.fixed_code);  
595    
596      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
597    
# Line 373  Line 606 
606    
607                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
608    
609                          MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                          MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
610    
611                          start_timer();                          start_timer();
612                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
# Line 392  Line 625 
625      pEnc->sStat.iMvCount = 0;      pEnc->sStat.iMvCount = 0;
626      pEnc->mbParam.fixed_code = 2;      pEnc->mbParam.fixed_code = 2;
627    
628            if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
629            {
630                    HintedMEGet(pEnc, 1);
631            }
632    
633      return 1;                                    // intra      return 1;                                    // intra
634  }  }
635    
# Line 401  Line 639 
639  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
640  {  {
641      float fSigma;      float fSigma;
642      int16_t dct_codes[6][64];  
643      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
644            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
645    
646          int iLimit;          int iLimit;
647      uint32_t x, y;      uint32_t x, y;
648      int iSearchRange;      int iSearchRange;
# Line 411  Line 651 
651      IMAGE *pCurrent = &pEnc->sCurrent;      IMAGE *pCurrent = &pEnc->sCurrent;
652      IMAGE *pRef = &pEnc->sReference;      IMAGE *pRef = &pEnc->sReference;
653    
654          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);          start_timer();
655            image_setedges(pRef,
656                           pEnc->mbParam.edged_width,
657                           pEnc->mbParam.edged_height,
658                           pEnc->mbParam.width,
659                           pEnc->mbParam.height,
660                           pEnc->mbParam.global_flags & XVID_INTERLACING);
661            stop_edges_timer();
662    
663      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
664    
# Line 429  Line 676 
676          }          }
677    
678          start_timer();          start_timer();
679            if (pEnc->mbParam.global_flags & XVID_HINTEDME_SET)
680            {
681                    HintedMESet(pEnc, &bIntra);
682            }
683            else
684            {
685          bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,          bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,
686                                  &pEnc->vInterH, &pEnc->vInterV,                                  &pEnc->vInterH, &pEnc->vInterV,
687                                  &pEnc->vInterHV, &pEnc->sCurrent, iLimit);                                  &pEnc->vInterHV, &pEnc->sCurrent, iLimit);
688            }
689          stop_motion_timer();          stop_motion_timer();
690    
691          if (bIntra == 1)          if (bIntra == 1)
692            {
693                  return FrameCodeI(pEnc, bs, pBits);                  return FrameCodeI(pEnc, bs, pBits);
694            }
695    
696      pEnc->mbParam.coding_type = P_VOP;      pEnc->mbParam.coding_type = P_VOP;
697    
698          if(vol_header)          if(vol_header)
699                  BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam);
700    
701      BitstreamWriteVopHeader(bs, P_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                          pEnc->mbParam.quant,  
                          pEnc->mbParam.fixed_code);  
702    
703      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
704    
# Line 464  Line 718 
718                          if (!bIntra)                          if (!bIntra)
719                      {                      {
720                                  start_timer();                                  start_timer();
721                                  MBMotionCompensation(pMB, x, y, &pEnc->sReference,                                  MBMotionCompensation(pMB,
722                                          &pEnc->vInterH, &pEnc->vInterV,                                                       x, y,
723                                          &pEnc->vInterHV, &pEnc->sCurrent, dct_codes,                                                       &pEnc->sReference,
724                                                         &pEnc->vInterH,
725                                                         &pEnc->vInterV,
726                                                         &pEnc->vInterHV,
727                                                         &pEnc->sCurrent,
728                                                         dct_codes,
729                                          pEnc->mbParam.width,                                          pEnc->mbParam.width,
730                                          pEnc->mbParam.height,                                          pEnc->mbParam.height,
731                                          pEnc->mbParam.edged_width,                                          pEnc->mbParam.edged_width,
# Line 483  Line 742 
742                                  }                                  }
743                                  pMB->quant = pEnc->mbParam.quant;                                  pMB->quant = pEnc->mbParam.quant;
744    
745                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  pMB->field_pred = 0;
746    
747                                    pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
748                      }                      }
749                          else                          else
750                          {                          {
751                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
752                                  MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
753                          }                          }
754    
755                      start_timer();                      start_timer();
# Line 520  Line 781 
781    
782          emms();          emms();
783    
784            if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
785            {
786                    HintedMEGet(pEnc, 0);
787            }
788    
789          if (pEnc->sStat.iMvCount == 0)          if (pEnc->sStat.iMvCount == 0)
790                  pEnc->sStat.iMvCount = 1;                  pEnc->sStat.iMvCount = 1;
791    

Legend:
Removed from v.1.1  
changed lines
  Added in v.1.23

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4