[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.7, Wed Mar 20 00:27:36 2002 UTC revision 1.15, Fri Mar 29 07:03:24 2002 UTC
# Line 82  Line 82 
82                  pParam->bitrate = 900000;                  pParam->bitrate = 900000;
83    
84          if (pParam->rc_buffersize <= 0)          if (pParam->rc_buffersize <= 0)
85                  pParam->rc_buffersize = pParam->bitrate * pParam->fbase;                  pParam->rc_buffersize = 16;
86    
87          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
88                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
# Line 96  Line 96 
96          if (pParam->max_quantizer < pParam->min_quantizer)          if (pParam->max_quantizer < pParam->min_quantizer)
97                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
98    
99          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), 16)) == NULL)          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
100                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
101    
102          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
# Line 121  Line 121 
121          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
122          pEnc->iMaxKeyInterval = pParam->max_key_interval;          pEnc->iMaxKeyInterval = pParam->max_key_interval;
123    
124          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          /* try to allocate memory */
         {  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
   
         if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
         {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
   
         if (image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
         {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
   
         if (image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
         {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
   
         if (image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
         {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 xvid_free(pEnc);  
                 return XVID_ERR_MEMORY;  
         }  
125    
126          pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, 16);          pEnc->sCurrent.y        =       pEnc->sCurrent.u        =       pEnc->sCurrent.v        = NULL;
127          if (pEnc->pMBs == NULL)          pEnc->sReference.y      =       pEnc->sReference.u      =       pEnc->sReference.v      = NULL;
128            pEnc->vInterH.y         =       pEnc->vInterH.u         =       pEnc->vInterH.v         = NULL;
129            pEnc->vInterV.y         =       pEnc->vInterV.u         =       pEnc->vInterV.v         = NULL;
130            pEnc->vInterVf.y        =       pEnc->vInterVf.u        =       pEnc->vInterVf.v        = NULL;
131            pEnc->vInterHV.y        =       pEnc->vInterHV.u        =       pEnc->vInterHV.v        = NULL;
132            pEnc->vInterHVf.y       =       pEnc->vInterHVf.u       =       pEnc->vInterHVf.v       = NULL;
133    
134            pEnc->pMBs = NULL;
135    
136            if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
137                    image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
138                    image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
139                    image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
140                    image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
141                    image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
142                    image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
143                    (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
144          {          {
145                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
146                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
147                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
148                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149                    image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
151                    image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
152                    if (pEnc)
153                    {
154                  xvid_free(pEnc);                  xvid_free(pEnc);
155                    }
156                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
157          }          }
158    
# Line 183  Line 166 
166    
167          if (pParam->bitrate)          if (pParam->bitrate)
168          {          {
169                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase, pParam->width,                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 100 / pParam->fincr,
170                                  pParam->height, pParam->max_quantizer, pParam->min_quantizer);                                  pParam->max_quantizer, pParam->min_quantizer);
171          }          }
172    
173          create_vlc_tables();          create_vlc_tables();
# Line 253  Line 236 
236    
237          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
238          {          {
239                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), 16);                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
240    
241                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
242                                                              temp_dquants, pFrame->quant, pFrame->quant,                                                              pEnc->mbParam.width,
243                                                              2*pFrame->quant, pEnc->mbParam.mb_width, pEnc->mbParam.mb_height);                                                              temp_dquants,
244                                                                pEnc->mbParam.quant,
245                                                                pEnc->mbParam.quant,
246                                                                2*pEnc->mbParam.quant,
247                                                                pEnc->mbParam.mb_width,
248                                                                pEnc->mbParam.mb_height);
249    
250                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++)
251                          for (x = 0; x < pEnc->mbParam.mb_width; x++)                          for (x = 0; x < pEnc->mbParam.mb_width; x++)
# Line 276  Line 264 
264          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
265                  int ret1, ret2;                  int ret1, ret2;
266    
267                    ret1 = ret2 = 0;
268    
269                  if(pEnc->mbParam.quant_type != MPEG4_QUANT)                  if(pEnc->mbParam.quant_type != MPEG4_QUANT)
270                          write_vol_header = 1;                          write_vol_header = 1;
271    
# Line 364  Line 354 
354    
355  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
356  {  {
357          int16_t dct_codes[6][64];  
358          int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
359            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
360    
361          uint16_t x, y;          uint16_t x, y;
362    
363          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
364          pEnc->mbParam.rounding_type = 1;          pEnc->mbParam.rounding_type = 1;
365          pEnc->mbParam.coding_type = I_VOP;          pEnc->mbParam.coding_type = I_VOP;
366    
367          BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
368          BitstreamWriteVopHeader(bs, I_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                                 pEnc->mbParam.quant,  
                                 pEnc->mbParam.fixed_code);  
369    
370          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
371    
# Line 390  Line 380 
380    
381                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
382    
383                          MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, &pEnc->sCurrent);                          MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
384    
385                          start_timer();                          start_timer();
386                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
# Line 418  Line 408 
408  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
409  {  {
410          float fSigma;          float fSigma;
411          int16_t dct_codes[6][64];  
412          int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
413            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
414    
415          int iLimit;          int iLimit;
416          uint32_t x, y;          uint32_t x, y;
417          int iSearchRange;          int iSearchRange;
# Line 428  Line 420 
420          IMAGE *pCurrent = &pEnc->sCurrent;          IMAGE *pCurrent = &pEnc->sCurrent;
421          IMAGE *pRef = &pEnc->sReference;          IMAGE *pRef = &pEnc->sReference;
422    
423          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);          start_timer();
424            image_setedges(pRef,
425                                    pEnc->mbParam.edged_width,
426                                    pEnc->mbParam.edged_height,
427                                    pEnc->mbParam.width,
428                                    pEnc->mbParam.height,
429                                    pEnc->mbParam.global_flags & XVID_INTERLACING);
430            stop_edges_timer();
431    
432          pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;          pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
433    
# Line 437  Line 436 
436          else          else
437                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
438    
439          if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0) {          if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0)
440            {
441                    IMAGE *vInterV = NULL;
442                    IMAGE *vInterVf = NULL;
443                    IMAGE *vInterHV = NULL;
444                    IMAGE *vInterHVf = NULL;
445    
446                    // interpolate fields together if field ME is used
447                    if (pEnc->mbParam.global_flags & XVID_INTERLACING &&
448                            pEnc->mbParam.global_flags & XVID_FIELDME)
449                    {
450                            vInterVf = &pEnc->vInterVf;
451                            vInterHVf = &pEnc->vInterHVf;
452                    }
453    
454                    // perform normal interpolation, unless only field-based ME is allowed
455                    if (!(pEnc->mbParam.global_flags & XVID_INTERLACING) ||
456                            !(pEnc->mbParam.global_flags & XVID_FIELDMEONLY))
457                    {
458                            vInterV = &pEnc->vInterV;
459                            vInterHV = &pEnc->vInterHV;
460                    }
461    
462                  start_timer();                  start_timer();
463                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                  image_interpolate(pRef,
464                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                  &pEnc->vInterH,
465                                    vInterV, vInterVf,
466                                    vInterHV, vInterHVf,
467                                    pEnc->mbParam.edged_width,
468                                    pEnc->mbParam.edged_height,
469                                    pEnc->mbParam.rounding_type);                                    pEnc->mbParam.rounding_type);
470                  stop_inter_timer();                  stop_inter_timer();
471          }          }
472    
473          start_timer();          start_timer();
474          bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,          bIntra = MotionEstimation(pEnc->pMBs,
475                                    &pEnc->vInterH, &pEnc->vInterV,                                  &pEnc->mbParam,
476                                    &pEnc->vInterHV, &pEnc->sCurrent, iLimit);                                  &pEnc->sReference,
477                                    &pEnc->vInterH,
478                                    &pEnc->vInterV, &pEnc->vInterVf,
479                                    &pEnc->vInterHV, &pEnc->vInterHVf,
480                                    &pEnc->sCurrent,
481                                    iLimit);
482          stop_motion_timer();          stop_motion_timer();
483    
484          if (bIntra == 1)          if (bIntra == 1)
# Line 457  Line 487 
487          pEnc->mbParam.coding_type = P_VOP;          pEnc->mbParam.coding_type = P_VOP;
488    
489          if(vol_header)          if(vol_header)
490                  BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam);
491    
492          BitstreamWriteVopHeader(bs, P_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                                 pEnc->mbParam.quant,  
                                 pEnc->mbParam.fixed_code);  
493    
494          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
495    
# Line 481  Line 509 
509                          if (!bIntra)                          if (!bIntra)
510                          {                          {
511                                  start_timer();                                  start_timer();
512                                  MBMotionCompensation(pMB, x, y, &pEnc->sReference,                                  MBMotionCompensation(pMB,
513                                                       &pEnc->vInterH, &pEnc->vInterV,                                                       x, y,
514                                                       &pEnc->vInterHV, &pEnc->sCurrent, dct_codes,                                                       &pEnc->sReference,
515                                                         &pEnc->vInterH,
516                                                         &pEnc->vInterV, &pEnc->vInterVf,
517                                                         &pEnc->vInterHV, &pEnc->vInterHVf,
518                                                         &pEnc->sCurrent,
519                                                         dct_codes,
520                                                       pEnc->mbParam.width,                                                       pEnc->mbParam.width,
521                                                       pEnc->mbParam.height,                                                       pEnc->mbParam.height,
522                                                       pEnc->mbParam.edged_width,                                                       pEnc->mbParam.edged_width,
# Line 500  Line 533 
533                                  }                                  }
534                                  pMB->quant = pEnc->mbParam.quant;                                  pMB->quant = pEnc->mbParam.quant;
535    
536                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  pMB->field_pred = 0;
537    
538                                    pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
539                          }                          }
540                          else                          else
541                          {                          {
542                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
543                                  MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
544                          }                          }
545    
546                          start_timer();                          start_timer();

Legend:
Removed from v.1.7  
changed lines
  Added in v.1.15

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4