[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.1, Fri Mar 8 02:44:30 2002 UTC revision 1.13, Thu Mar 28 20:57:24 2002 UTC
# Line 15  Line 15 
15  #include "utils/emms.h"  #include "utils/emms.h"
16  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
17  #include "quant/adapt_quant.h"  #include "quant/adapt_quant.h"
18    #include "quant/quant_matrix.h"
19    #include "utils/mem_align.h"
20    
21  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
22    
# Line 80  Line 82 
82                  pParam->bitrate = 900000;                  pParam->bitrate = 900000;
83    
84      if (pParam->rc_buffersize <= 0)      if (pParam->rc_buffersize <= 0)
85                  pParam->rc_buffersize = pParam->bitrate * pParam->fbase;                  pParam->rc_buffersize = 16;
86    
87      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
88                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
# Line 94  Line 96 
96      if (pParam->max_quantizer < pParam->min_quantizer)      if (pParam->max_quantizer < pParam->min_quantizer)
97                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
98    
99      if ((pEnc = (Encoder *) malloc(sizeof(Encoder))) == NULL)          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
100                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
101    
102          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
# Line 121  Line 123 
123    
124      if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)      if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
125      {      {
126                  free(pEnc);                  xvid_free(pEnc);
127                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
128      }      }
129    
130          if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)
131      {      {
132                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
133                  free(pEnc);                  xvid_free(pEnc);
134                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
135      }      }
136    
# Line 136  Line 138 
138      {      {
139                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
140                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
141                  free(pEnc);                  xvid_free(pEnc);
142                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
143      }      }
144    
# Line 145  Line 147 
147                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
148                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
149                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
150                  free(pEnc);                  xvid_free(pEnc);
151                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
152      }      }
153    
# Line 155  Line 157 
157                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
158                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
159                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
160                  free(pEnc);                  xvid_free(pEnc);
161                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
162      }      }
163    
164          pEnc->pMBs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);          pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE);
165          if (pEnc->pMBs == NULL)          if (pEnc->pMBs == NULL)
166          {          {
167                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
# Line 167  Line 169 
169                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
170                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
171                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
172                  free(pEnc);                  xvid_free(pEnc);
173                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
174          }          }
175    
# Line 181  Line 183 
183    
184          if (pParam->bitrate)          if (pParam->bitrate)
185          {          {
186                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase, pParam->width,                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase * 100 / pParam->fincr,
187                                                  pParam->height, pParam->max_quantizer, pParam->min_quantizer);                                  pParam->max_quantizer, pParam->min_quantizer);
188          }          }
189    
190          create_vlc_tables();          create_vlc_tables();
191            init_timer();
192    
193          return XVID_ERR_OK;          return XVID_ERR_OK;
194  }  }
# Line 197  Line 200 
200      ENC_CHECK(pEnc->sCurrent.y);      ENC_CHECK(pEnc->sCurrent.y);
201      ENC_CHECK(pEnc->sReference.y);      ENC_CHECK(pEnc->sReference.y);
202    
203          free(pEnc->pMBs);          xvid_free(pEnc->pMBs);
204      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
205      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
206      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
207      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
208      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
209      free(pEnc);          xvid_free(pEnc);
210    
211          destroy_vlc_tables();          destroy_vlc_tables();
212    
# Line 215  Line 218 
218      uint16_t x, y;      uint16_t x, y;
219      Bitstream bs;      Bitstream bs;
220      uint32_t bits;      uint32_t bits;
221          uint16_t quant_type = 0;          uint16_t write_vol_header = 0;
         uint16_t quant_change = 0;  
   
     IMAGE *pCurrent = &(pEnc->sCurrent);  
222    
223          start_global_timer();          start_global_timer();
224    
# Line 238  Line 238 
238          }          }
239          stop_conv_timer();          stop_conv_timer();
240    
241            EMMS();
242    
243      BitstreamInit(&bs, pFrame->bitstream, 0);      BitstreamInit(&bs, pFrame->bitstream, 0);
244    
245          if (pFrame->quant == 0)          if (pFrame->quant == 0)
# Line 251  Line 253 
253    
254          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
255          {          {
256                  int * temp_dquants = (int *) malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int));                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
257    
258                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
259                          temp_dquants, pFrame->quant, pFrame->quant,                                                              pEnc->mbParam.width,
260                          2*pFrame->quant, pEnc->mbParam.mb_width, pEnc->mbParam.mb_height);                                                              temp_dquants,
261                                                                pFrame->quant,
262                                                                pFrame->quant,
263                                                                2*pFrame->quant,
264                                                                pEnc->mbParam.mb_width,
265                                                                pEnc->mbParam.mb_height);
266    
267                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++)
268                          for (x = 0; x < pEnc->mbParam.mb_width; x++)                          for (x = 0; x < pEnc->mbParam.mb_width; x++)
# Line 263  Line 270 
270                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
271                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
272                          }                          }
273                  free(temp_dquants);                  xvid_free(temp_dquants);
274          }          }
275    
276          if(pEnc->mbParam.global_flags & XVID_H263QUANT)          if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
277                  quant_type = H263_QUANT;                  if(pEnc->mbParam.quant_type != H263_QUANT)
278          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT)                          write_vol_header = 1;
279                  quant_type = MPEG4_QUANT;                  pEnc->mbParam.quant_type = H263_QUANT;
   
         if(pEnc->mbParam.quant_type != quant_type) {  
                 pEnc->mbParam.quant_type = quant_type;  
                 quant_change = 1;  
280          }          }
281          else          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
282                  quant_change = 0;                  int ret1, ret2;
283    
284                    ret1 = ret2 = 0;
285    
286                    if(pEnc->mbParam.quant_type != MPEG4_QUANT)
287                            write_vol_header = 1;
288    
289                    pEnc->mbParam.quant_type = MPEG4_QUANT;
290    
291                    if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
292                            if(pFrame->quant_intra_matrix != NULL)
293                                    ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
294                            if(pFrame->quant_inter_matrix != NULL)
295                                    ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
296                    }
297                    else {
298                            ret1 = set_intra_matrix(get_default_intra_matrix());
299                            ret2 = set_inter_matrix(get_default_inter_matrix());
300                    }
301                    if(write_vol_header == 0)
302                            write_vol_header = ret1 | ret2;
303            }
304    
305          if (pFrame->intra < 0)          if (pFrame->intra < 0)
306      {      {
# Line 286  Line 309 
309    
310                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
311                  else                  else
312                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, quant_change);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
313      }      }
314      else      else
315      {      {
316                  if (pFrame->intra == 1)                  if (pFrame->intra == 1)
317                      pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                      pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
318                  else                  else
319                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, quant_change);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
320      }      }
321    
322          BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
# Line 310  Line 333 
333                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
334      }      }
335    
336      if (pEnc->bitrate)          EMMS();
337    
338            if (pFrame->quant == 0)
339          {          {
340                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
341          }          }
# Line 346  Line 371 
371    
372  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
373  {  {
374      int16_t dct_codes[6][64];  
375      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
376            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
377    
378      uint16_t x, y;      uint16_t x, y;
     IMAGE *pCurrent = &pEnc->sCurrent;  
379    
380      pEnc->iFrameNum = 0;      pEnc->iFrameNum = 0;
381      pEnc->mbParam.rounding_type = 1;      pEnc->mbParam.rounding_type = 1;
382      pEnc->mbParam.coding_type = I_VOP;      pEnc->mbParam.coding_type = I_VOP;
383    
384          BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
385          BitstreamWriteVopHeader(bs, I_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                         pEnc->mbParam.quant,  
                         pEnc->mbParam.fixed_code);  
386    
387      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
388    
# Line 373  Line 397 
397    
398                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
399    
400                          MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                          MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
401    
402                          start_timer();                          start_timer();
403                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
# Line 401  Line 425 
425  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
426  {  {
427      float fSigma;      float fSigma;
428      int16_t dct_codes[6][64];  
429      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
430            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
431    
432          int iLimit;          int iLimit;
433      uint32_t x, y;      uint32_t x, y;
434      int iSearchRange;      int iSearchRange;
# Line 411  Line 437 
437      IMAGE *pCurrent = &pEnc->sCurrent;      IMAGE *pCurrent = &pEnc->sCurrent;
438      IMAGE *pRef = &pEnc->sReference;      IMAGE *pRef = &pEnc->sReference;
439    
440          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);          start_timer();
441            image_setedges(pRef,
442                           pEnc->mbParam.edged_width,
443                           pEnc->mbParam.edged_height,
444                           pEnc->mbParam.width,
445                           pEnc->mbParam.height,
446                           pEnc->mbParam.global_flags & XVID_INTERLACING);
447            stop_edges_timer();
448    
449      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
450    
# Line 440  Line 473 
473      pEnc->mbParam.coding_type = P_VOP;      pEnc->mbParam.coding_type = P_VOP;
474    
475          if(vol_header)          if(vol_header)
476                  BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam);
477    
478      BitstreamWriteVopHeader(bs, P_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                          pEnc->mbParam.quant,  
                          pEnc->mbParam.fixed_code);  
479    
480      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
481    
# Line 464  Line 495 
495                          if (!bIntra)                          if (!bIntra)
496                      {                      {
497                                  start_timer();                                  start_timer();
498                                  MBMotionCompensation(pMB, x, y, &pEnc->sReference,                                  MBMotionCompensation(pMB,
499                                          &pEnc->vInterH, &pEnc->vInterV,                                                       x, y,
500                                          &pEnc->vInterHV, &pEnc->sCurrent, dct_codes,                                                       &pEnc->sReference,
501                                                         &pEnc->vInterH,
502                                                         &pEnc->vInterV,
503                                                         &pEnc->vInterHV,
504                                                         &pEnc->sCurrent,
505                                                         dct_codes,
506                                          pEnc->mbParam.width,                                          pEnc->mbParam.width,
507                                          pEnc->mbParam.height,                                          pEnc->mbParam.height,
508                                          pEnc->mbParam.edged_width,                                          pEnc->mbParam.edged_width,
# Line 483  Line 519 
519                                  }                                  }
520                                  pMB->quant = pEnc->mbParam.quant;                                  pMB->quant = pEnc->mbParam.quant;
521    
522                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  pMB->field_pred = 0;
523    
524                                    pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
525                      }                      }
526                          else                          else
527                          {                          {
528                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
529                                  MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
530                          }                          }
531    
532                      start_timer();                      start_timer();

Legend:
Removed from v.1.1  
changed lines
  Added in v.1.13

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4