[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.2, Fri Mar 8 19:16:06 2002 UTC revision 1.25, Mon Apr 15 08:03:50 2002 UTC
# Line 1  Line 1 
1    // 14.04.2002   added FrameCodeB()
2    
3  #include <stdlib.h>  #include <stdlib.h>
4  #include <stdio.h>  #include <stdio.h>
5  #include <math.h>  #include <math.h>
# Line 16  Line 18 
18  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
19  #include "quant/adapt_quant.h"  #include "quant/adapt_quant.h"
20  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
21    #include "utils/mem_align.h"
22    
23  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
24    
# Line 77  Line 80 
80                  pParam->fincr = (int)(pParam->fincr / div);                  pParam->fincr = (int)(pParam->fincr / div);
81          }          }
82    
83          if (pParam->bitrate <= 0)          if (pParam->rc_bitrate <= 0)
84                  pParam->bitrate = 900000;                  pParam->rc_bitrate = 900000;
85    
86            if (pParam->rc_reaction_delay_factor <= 0)
87                    pParam->rc_reaction_delay_factor = 16;
88    
89            if (pParam->rc_averaging_period <= 0)
90                    pParam->rc_averaging_period = 100;
91    
92      if (pParam->rc_buffersize <= 0)          if (pParam->rc_buffer <= 0)
93                  pParam->rc_buffersize = pParam->bitrate * pParam->fbase;                  pParam->rc_buffer = 100;
94    
95      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))      if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
96                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
# Line 95  Line 104 
104      if (pParam->max_quantizer < pParam->min_quantizer)      if (pParam->max_quantizer < pParam->min_quantizer)
105                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
106    
107      if ((pEnc = (Encoder *) malloc(sizeof(Encoder))) == NULL)          if ((pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE)) == NULL)
108                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
109    
110          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
# Line 115  Line 124 
124    
125      pEnc->mbParam.quant = 4;      pEnc->mbParam.quant = 4;
126    
127          pEnc->bitrate = pParam->bitrate;          pEnc->bitrate = pParam->rc_bitrate;
128    
129      pEnc->iFrameNum = 0;      pEnc->iFrameNum = 0;
130      pEnc->iMaxKeyInterval = pParam->max_key_interval;      pEnc->iMaxKeyInterval = pParam->max_key_interval;
131    
132      if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          /* try to allocate memory */
     {  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
         if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
     {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
   
     if (image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
     {  
                 image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
                 free(pEnc);  
                 return XVID_ERR_MEMORY;  
     }  
133    
134      if (image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          pEnc->sCurrent.y        =       pEnc->sCurrent.u        =       pEnc->sCurrent.v        = NULL;
135      {          pEnc->sReference.y      =       pEnc->sReference.u      =       pEnc->sReference.v      = NULL;
136                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->vInterH.y         =       pEnc->vInterH.u         =       pEnc->vInterH.v         = NULL;
137                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->vInterV.y         =       pEnc->vInterV.u         =       pEnc->vInterV.v         = NULL;
138                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->vInterVf.y        =       pEnc->vInterVf.u        =       pEnc->vInterVf.v        = NULL;
139                  free(pEnc);          pEnc->vInterHV.y        =       pEnc->vInterHV.u        =       pEnc->vInterHV.v        = NULL;
140                  return XVID_ERR_MEMORY;          pEnc->vInterHVf.y       =       pEnc->vInterHVf.u       =       pEnc->vInterHVf.v       = NULL;
141      }  
142            pEnc->pMBs = NULL;
143      if (image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  
144      {          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
145                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
146                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
147                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
148                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_create(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
149                  free(pEnc);                  image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
150                  return XVID_ERR_MEMORY;                  image_create(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
151      }  #ifdef _DEBUG
152                    image_create(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0 ||
153          pEnc->pMBs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);  #endif
154          if (pEnc->pMBs == NULL)                  (pEnc->pMBs = xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height, CACHE_LINE)) == NULL)
155          {          {
156                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
157                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
158                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
159                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
160                    image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
161                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
162                  free(pEnc);                  image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
163    #ifdef _DEBUG
164                    image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
165    #endif
166                    if (pEnc)
167                    {
168                            xvid_free(pEnc);
169                    }
170                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
171          }          }
172    
# Line 180  Line 178 
178    
179      pParam->handle = (void *)pEnc;      pParam->handle = (void *)pEnc;
180    
181          if (pParam->bitrate)          if (pParam->rc_bitrate)
182          {          {
183                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase, pParam->width,                  RateControlInit(pParam->rc_bitrate, pParam->rc_reaction_delay_factor,
184                                                  pParam->height, pParam->max_quantizer, pParam->min_quantizer);                          pParam->rc_averaging_period, pParam->rc_buffer, pParam->fbase * 1000 / pParam->fincr,
185                            pParam->max_quantizer, pParam->min_quantizer);
186          }          }
187    
188          create_vlc_tables();          init_timer();
189    
190          return XVID_ERR_OK;          return XVID_ERR_OK;
191  }  }
# Line 198  Line 197 
197      ENC_CHECK(pEnc->sCurrent.y);      ENC_CHECK(pEnc->sCurrent.y);
198      ENC_CHECK(pEnc->sReference.y);      ENC_CHECK(pEnc->sReference.y);
199    
200          free(pEnc->pMBs);          xvid_free(pEnc->pMBs);
201      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
202      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
203      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
204      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
205            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
206      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);      image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
207      free(pEnc);          image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
208    #ifdef _DEBUG
209          destroy_vlc_tables();                  image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);
210    #endif
211            xvid_free(pEnc);
212    
213      return XVID_ERR_OK;      return XVID_ERR_OK;
214  }  }
# Line 216  Line 218 
218      uint16_t x, y;      uint16_t x, y;
219      Bitstream bs;      Bitstream bs;
220      uint32_t bits;      uint32_t bits;
         uint16_t quant_type = 0;  
221          uint16_t write_vol_header = 0;          uint16_t write_vol_header = 0;
222    #ifdef _DEBUG
223      IMAGE *pCurrent = &(pEnc->sCurrent);          float psnr;
224            uint8_t temp[100];
225    #endif
226    
227          start_global_timer();          start_global_timer();
228    
# Line 230  Line 233 
233    
234          pEnc->mbParam.global_flags = pFrame->general;          pEnc->mbParam.global_flags = pFrame->general;
235          pEnc->mbParam.motion_flags = pFrame->motion;          pEnc->mbParam.motion_flags = pFrame->motion;
236            pEnc->mbParam.hint = &pFrame->hint;
237    
238          start_timer();          start_timer();
239          if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,          if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,
# Line 239  Line 243 
243          }          }
244          stop_conv_timer();          stop_conv_timer();
245    
246            EMMS();
247    
248    #ifdef _DEBUG
249            image_copy(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.height);
250    #endif
251    
252      BitstreamInit(&bs, pFrame->bitstream, 0);      BitstreamInit(&bs, pFrame->bitstream, 0);
253    
254          if (pFrame->quant == 0)          if (pFrame->quant == 0)
# Line 252  Line 262 
262    
263          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)
264          {          {
265                  int * temp_dquants = (int *) malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int));                  int * temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
266    
267                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y,
268                          temp_dquants, pFrame->quant, pFrame->quant,                                                              pEnc->mbParam.width,
269                          2*pFrame->quant, pEnc->mbParam.mb_width, pEnc->mbParam.mb_height);                                                              temp_dquants,
270                                                                pEnc->mbParam.quant,
271                                                                pEnc->mbParam.quant,
272                                                                2*pEnc->mbParam.quant,
273                                                                pEnc->mbParam.mb_width,
274                                                                pEnc->mbParam.mb_height);
275    
276                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++)
277                          for (x = 0; x < pEnc->mbParam.mb_width; x++)                          for (x = 0; x < pEnc->mbParam.mb_width; x++)
# Line 264  Line 279 
279                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
280                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];
281                          }                          }
282                  free(temp_dquants);                  xvid_free(temp_dquants);
283          }          }
284    
285          if(pEnc->mbParam.global_flags & XVID_H263QUANT)          if(pEnc->mbParam.global_flags & XVID_H263QUANT) {
286                  quant_type = H263_QUANT;                  if(pEnc->mbParam.quant_type != H263_QUANT)
         else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT)  
                 quant_type = MPEG4_QUANT;  
   
         if(pEnc->mbParam.quant_type != quant_type) {  
                 pEnc->mbParam.quant_type = quant_type;  
287                  write_vol_header = 1;                  write_vol_header = 1;
288                    pEnc->mbParam.quant_type = H263_QUANT;
289          }          }
290          else          else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {
                 write_vol_header = 0;  
   
         if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0)  
         {  
291                  int ret1, ret2;                  int ret1, ret2;
292    
293                    ret1 = ret2 = 0;
294    
295                    if(pEnc->mbParam.quant_type != MPEG4_QUANT)
296                            write_vol_header = 1;
297    
298                    pEnc->mbParam.quant_type = MPEG4_QUANT;
299    
300                    if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {
301                            if(pFrame->quant_intra_matrix != NULL)
302                  ret1 = set_intra_matrix(pFrame->quant_intra_matrix);                  ret1 = set_intra_matrix(pFrame->quant_intra_matrix);
303                            if(pFrame->quant_inter_matrix != NULL)
304                  ret2 = set_inter_matrix(pFrame->quant_inter_matrix);                  ret2 = set_inter_matrix(pFrame->quant_inter_matrix);
305                    }
306                    else {
307                            ret1 = set_intra_matrix(get_default_intra_matrix());
308                            ret2 = set_inter_matrix(get_default_inter_matrix());
309                    }
310                  if(write_vol_header == 0)                  if(write_vol_header == 0)
311                          write_vol_header = ret1 | ret2;                          write_vol_header = ret1 | ret2;
312          }          }
# Line 319  Line 342 
342                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
343      }      }
344    
345      if (pEnc->bitrate)          EMMS();
346    
347            if (pFrame->quant == 0)
348          {          {
349                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);                  RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);
350          }          }
351    
352    #ifdef _DEBUG
353            psnr = image_psnr(&pEnc->sOriginal, &pEnc->sCurrent, pEnc->mbParam.edged_width,
354                                    pEnc->mbParam.width, pEnc->mbParam.height);
355    
356            sprintf(temp, "PSNR: %f\n", psnr);
357            DEBUG(temp);
358    #endif
359    
360          pEnc->iFrameNum++;          pEnc->iFrameNum++;
361      image_swap(&pEnc->sCurrent, &pEnc->sReference);      image_swap(&pEnc->sCurrent, &pEnc->sReference);
362    
# Line 353  Line 386 
386  }  }
387    
388    
389    #define FCODEBITS       3
390    #define MODEBITS        5
391    
392    void HintedMESet(Encoder * pEnc, int * intra)
393    {
394            HINTINFO * hint;
395            Bitstream bs;
396            int length, high;
397            uint32_t x, y;
398    
399            hint = pEnc->mbParam.hint;
400    
401            if (hint->rawhints)
402            {
403                    *intra = hint->mvhint.intra;
404            }
405            else
406            {
407                    BitstreamInit(&bs, hint->hintstream, hint->hintlength);
408                    *intra = BitstreamGetBit(&bs);
409            }
410    
411            if (*intra)
412            {
413                    return;
414            }
415    
416            pEnc->mbParam.fixed_code = (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
417    
418            length  = pEnc->mbParam.fixed_code + 5;
419            high    = 1 << (length - 1);
420    
421            for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
422            {
423                    for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
424                    {
425                            MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
426                            MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
427                            VECTOR pred[4];
428                            VECTOR tmp;
429                            int dummy[4];
430                            int vec;
431    
432                            pMB->mode = (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs, MODEBITS);
433    
434                            if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
435                            {
436                                    tmp.x  = (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs, length);
437                                    tmp.y  = (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs, length);
438                                    tmp.x -= (tmp.x >= high) ? high*2 : 0;
439                                    tmp.y -= (tmp.y >= high) ? high*2 : 0;
440    
441                                    get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, 0, pred, dummy);
442    
443                                    for (vec=0 ; vec<4 ; ++vec)
444                                    {
445                                            pMB->mvs[vec].x  = tmp.x;
446                                            pMB->mvs[vec].y  = tmp.y;
447                                            pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
448                                            pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
449                                    }
450                            }
451                            else if (pMB->mode == MODE_INTER4V)
452                            {
453                                    for (vec=0 ; vec<4 ; ++vec)
454                                    {
455                                            tmp.x  = (hint->rawhints) ? bhint->mvs[vec].x : BitstreamGetBits(&bs, length);
456                                            tmp.y  = (hint->rawhints) ? bhint->mvs[vec].y : BitstreamGetBits(&bs, length);
457                                            tmp.x -= (tmp.x >= high) ? high*2 : 0;
458                                            tmp.y -= (tmp.y >= high) ? high*2 : 0;
459    
460                                            get_pmvdata(pEnc->pMBs, x, y, pEnc->mbParam.mb_width, vec, pred, dummy);
461    
462                                            pMB->mvs[vec].x  = tmp.x;
463                                            pMB->mvs[vec].y  = tmp.y;
464                                            pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
465                                            pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
466                                    }
467                            }
468                            else    // intra / intra_q / stuffing / not_coded
469                            {
470                                    for (vec=0 ; vec<4 ; ++vec)
471                                    {
472                                            pMB->mvs[vec].x  = pMB->mvs[vec].y  = 0;
473                                    }
474                            }
475                    }
476            }
477    }
478    
479    
480    void HintedMEGet(Encoder * pEnc, int intra)
481    {
482            HINTINFO * hint;
483            Bitstream bs;
484            uint32_t x, y;
485            int length, high;
486    
487            hint = pEnc->mbParam.hint;
488    
489            if (hint->rawhints)
490            {
491                    hint->mvhint.intra = intra;
492            }
493            else
494            {
495                    BitstreamInit(&bs, hint->hintstream, 0);
496                    BitstreamPutBit(&bs, intra);
497            }
498    
499            if (intra)
500            {
501                    if (!hint->rawhints)
502                    {
503                            BitstreamPad(&bs);
504                            hint->hintlength = BitstreamLength(&bs);
505                    }
506                    return;
507            }
508    
509            length  = pEnc->mbParam.fixed_code + 5;
510            high    = 1 << (length - 1);
511    
512            if (hint->rawhints)
513            {
514                    hint->mvhint.fcode = pEnc->mbParam.fixed_code;
515            }
516            else
517            {
518                    BitstreamPutBits(&bs, pEnc->mbParam.fixed_code, FCODEBITS);
519            }
520    
521            for (y=0 ; y<pEnc->mbParam.mb_height ; ++y)
522            {
523                    for (x=0 ; x<pEnc->mbParam.mb_width ; ++x)
524                    {
525                            MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];
526                            MVBLOCKHINT * bhint = &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
527                            VECTOR tmp;
528    
529                            if (hint->rawhints)
530                            {
531                                    bhint->mode = pMB->mode;
532                            }
533                            else
534                            {
535                                    BitstreamPutBits(&bs, pMB->mode, MODEBITS);
536                            }
537    
538                            if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q)
539                            {
540                                    tmp.x  = pMB->mvs[0].x;
541                                    tmp.y  = pMB->mvs[0].y;
542                                    tmp.x += (tmp.x < 0) ? high*2 : 0;
543                                    tmp.y += (tmp.y < 0) ? high*2 : 0;
544    
545                                    if (hint->rawhints)
546                                    {
547                                            bhint->mvs[0].x = tmp.x;
548                                            bhint->mvs[0].y = tmp.y;
549                                    }
550                                    else
551                                    {
552                                            BitstreamPutBits(&bs, tmp.x, length);
553                                            BitstreamPutBits(&bs, tmp.y, length);
554                                    }
555                            }
556                            else if (pMB->mode == MODE_INTER4V)
557                            {
558                                    int vec;
559    
560                                    for (vec=0 ; vec<4 ; ++vec)
561                                    {
562                                            tmp.x  = pMB->mvs[vec].x;
563                                            tmp.y  = pMB->mvs[vec].y;
564                                            tmp.x += (tmp.x < 0) ? high*2 : 0;
565                                            tmp.y += (tmp.y < 0) ? high*2 : 0;
566    
567                                            if (hint->rawhints)
568                                            {
569                                                    bhint->mvs[vec].x = tmp.x;
570                                                    bhint->mvs[vec].y = tmp.y;
571                                            }
572                                            else
573                                            {
574                                                    BitstreamPutBits(&bs, tmp.x, length);
575                                                    BitstreamPutBits(&bs, tmp.y, length);
576                                            }
577                                    }
578                            }
579                    }
580            }
581    
582            if (!hint->rawhints)
583            {
584                    BitstreamPad(&bs);
585                    hint->hintlength = BitstreamLength(&bs);
586            }
587    }
588    
589    
590  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)
591  {  {
592      int16_t dct_codes[6][64];  
593      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
594            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
595    
596      uint16_t x, y;      uint16_t x, y;
     IMAGE *pCurrent = &pEnc->sCurrent;  
597    
598      pEnc->iFrameNum = 0;      pEnc->iFrameNum = 0;
599      pEnc->mbParam.rounding_type = 1;      pEnc->mbParam.rounding_type = 1;
600      pEnc->mbParam.coding_type = I_VOP;      pEnc->mbParam.coding_type = I_VOP;
601    
602          BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
603          BitstreamWriteVopHeader(bs, I_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                         pEnc->mbParam.quant,  
                         pEnc->mbParam.fixed_code);  
604    
605      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
606    
# Line 382  Line 615 
615    
616                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
617    
618                          MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                          MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, &pEnc->sCurrent);
619    
620                          start_timer();                          start_timer();
621                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);
# Line 401  Line 634 
634      pEnc->sStat.iMvCount = 0;      pEnc->sStat.iMvCount = 0;
635      pEnc->mbParam.fixed_code = 2;      pEnc->mbParam.fixed_code = 2;
636    
637            if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
638            {
639                    HintedMEGet(pEnc, 1);
640            }
641    
642      return 1;                                    // intra      return 1;                                    // intra
643  }  }
644    
# Line 410  Line 648 
648  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)
649  {  {
650      float fSigma;      float fSigma;
651      int16_t dct_codes[6][64];  
652      int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
653            DECLARE_ALIGNED_MATRIX(qcoeff,    6, 64, int16_t, CACHE_LINE);
654    
655          int iLimit;          int iLimit;
656      uint32_t x, y;      uint32_t x, y;
657      int iSearchRange;      int iSearchRange;
# Line 420  Line 660 
660      IMAGE *pCurrent = &pEnc->sCurrent;      IMAGE *pCurrent = &pEnc->sCurrent;
661      IMAGE *pRef = &pEnc->sReference;      IMAGE *pRef = &pEnc->sReference;
662    
663          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);          start_timer();
664            image_setedges(pRef,
665                           pEnc->mbParam.edged_width,
666                           pEnc->mbParam.edged_height,
667                           pEnc->mbParam.width,
668                           pEnc->mbParam.height,
669                           pEnc->mbParam.global_flags & XVID_INTERLACING);
670            stop_edges_timer();
671    
672      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;      pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;
673    
# Line 438  Line 685 
685          }          }
686    
687          start_timer();          start_timer();
688            if (pEnc->mbParam.global_flags & XVID_HINTEDME_SET)
689            {
690                    HintedMESet(pEnc, &bIntra);
691            }
692            else
693            {
694          bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,          bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,
695                                  &pEnc->vInterH, &pEnc->vInterV,                                  &pEnc->vInterH, &pEnc->vInterV,
696                                  &pEnc->vInterHV, &pEnc->sCurrent, iLimit);                                  &pEnc->vInterHV, &pEnc->sCurrent, iLimit);
697            }
698          stop_motion_timer();          stop_motion_timer();
699    
700          if (bIntra == 1)          if (bIntra == 1)
701            {
702                  return FrameCodeI(pEnc, bs, pBits);                  return FrameCodeI(pEnc, bs, pBits);
703            }
704    
705      pEnc->mbParam.coding_type = P_VOP;      pEnc->mbParam.coding_type = P_VOP;
706    
707          if(vol_header)          if(vol_header)
708                  BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam);
709    
710      BitstreamWriteVopHeader(bs, P_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam);
                          pEnc->mbParam.quant,  
                          pEnc->mbParam.fixed_code);  
711    
712      *pBits = BitstreamPos(bs);      *pBits = BitstreamPos(bs);
713    
# Line 473  Line 727 
727                          if (!bIntra)                          if (!bIntra)
728                      {                      {
729                                  start_timer();                                  start_timer();
730                                  MBMotionCompensation(pMB, x, y, &pEnc->sReference,                                  MBMotionCompensation(pMB,
731                                          &pEnc->vInterH, &pEnc->vInterV,                                                       x, y,
732                                          &pEnc->vInterHV, &pEnc->sCurrent, dct_codes,                                                       &pEnc->sReference,
733                                                         &pEnc->vInterH,
734                                                         &pEnc->vInterV,
735                                                         &pEnc->vInterHV,
736                                                         &pEnc->sCurrent,
737                                                         dct_codes,
738                                          pEnc->mbParam.width,                                          pEnc->mbParam.width,
739                                          pEnc->mbParam.height,                                          pEnc->mbParam.height,
740                                          pEnc->mbParam.edged_width,                                          pEnc->mbParam.edged_width,
# Line 492  Line 751 
751                                  }                                  }
752                                  pMB->quant = pEnc->mbParam.quant;                                  pMB->quant = pEnc->mbParam.quant;
753    
754                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  pMB->field_pred = 0;
755    
756                                    pMB->cbp = MBTransQuantInter(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
757                      }                      }
758                          else                          else
759                          {                          {
760                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
761                                  MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  MBTransQuantIntra(&pEnc->mbParam, pMB, x, y, dct_codes, qcoeff, pCurrent);
762                          }                          }
763    
764                      start_timer();                      start_timer();
# Line 529  Line 790 
790    
791          emms();          emms();
792    
793            if (pEnc->mbParam.global_flags & XVID_HINTEDME_GET)
794            {
795                    HintedMEGet(pEnc, 0);
796            }
797    
798          if (pEnc->sStat.iMvCount == 0)          if (pEnc->sStat.iMvCount == 0)
799                  pEnc->sStat.iMvCount = 1;                  pEnc->sStat.iMvCount = 1;
800    
# Line 557  Line 823 
823    
824      return 0;                                    // inter      return 0;                                    // inter
825  }  }
826    
827    
828    
829    /*
830    static void FrameCodeB(Encoder * pEnc, FRAMEINFO * frame, Bitstream * bs, uint32_t *pBits)
831    {
832        int16_t dct_codes[6][64];
833        int16_t qcoeff[6][64];
834        uint32_t x, y;
835            VECTOR forward;
836            VECTOR backward;
837    
838        IMAGE *f_ref = &pEnc->reference->image;
839            IMAGE *b_ref = &pEnc->current->image;
840    
841            // forward
842            image_setedges(f_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
843            start_timer();
844            image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
845                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
846            stop_inter_timer();
847    
848            // backward
849            image_setedges(b_ref, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);
850        start_timer();
851            image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
852                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, 0);
853            stop_inter_timer();
854    
855            start_timer();
856            MotionEstimationBVOP(&pEnc->mbParam, frame,
857                    pEnc->reference->mbs, f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
858                    pEnc->current->mbs, b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
859    
860            stop_motion_timer();
861    
862            if (test_quant_type(&pEnc->mbParam, pEnc->current))
863            {
864                    BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
865            }
866    
867        frame->coding_type = B_VOP;
868        BitstreamWriteVopHeader(bs, B_VOP, frame->tick, 0,
869                            frame->quant, frame->fcode, frame->bcode);
870    
871        *pBits = BitstreamPos(bs);
872    
873        pEnc->sStat.iTextBits = 0;
874        pEnc->sStat.iMvSum = 0;
875        pEnc->sStat.iMvCount = 0;
876            pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
877    
878    
879        for (y = 0; y < pEnc->mbParam.mb_height; y++)
880            {
881                    // reset prediction
882    
883                    forward.x = 0;
884                    forward.y = 0;
885                    backward.x = 0;
886                    backward.y = 0;
887    
888                    for (x = 0; x < pEnc->mbParam.mb_width; x++)
889                    {
890                            MACROBLOCK * f_mb = &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
891                            MACROBLOCK * b_mb = &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
892                            MACROBLOCK * mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
893    
894                            // decoder ignores mb when refence block is INTER(0,0), CBP=0
895                            if (mb->mode == MODE_NOT_CODED)
896                            {
897                                    mb->mvs[0].x = 0;
898                                    mb->mvs[0].y = 0;
899                                    continue;
900                            }
901    
902                            MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
903                                            f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
904                                            b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
905                                            dct_codes);
906    
907                            mb->quant = frame->quant;
908                            mb->cbp = MBTransQuantInter(&pEnc->mbParam, frame, x, y, dct_codes, qcoeff);
909                            //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
910    
911    
912                            if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT) &&
913                                    mb->cbp == 0 &&
914                                    mb->mvs[0].x == 0 &&
915                                    mb->mvs[0].y == 0)
916                            {
917                                    mb->mode = 5;  // skipped
918                            }
919    
920                            if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD)
921                            {
922                                    mb->pmvs[0].x = mb->mvs[0].x - forward.x;
923                                    mb->pmvs[0].y = mb->mvs[0].y - forward.y;
924                                    forward.x = mb->mvs[0].x;
925                                    forward.y = mb->mvs[0].y;
926                            }
927    
928                            if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD)
929                            {
930                                    mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
931                                    mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
932                                    backward.x = mb->b_mvs[0].x;
933                                    backward.y = mb->b_mvs[0].y;
934                            }
935    
936    //                      printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i  %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
937    
938                            start_timer();
939                            MBCodingBVOP(frame, mb, qcoeff, bs, &pEnc->sStat);
940                            stop_coding_timer();
941                    }
942            }
943    
944            emms();
945    
946            // TODO: dynamic fcode/bcode ???
947    
948            *pBits = BitstreamPos(bs) - *pBits;
949    
950    }
951    
952    */

Legend:
Removed from v.1.2  
changed lines
  Added in v.1.25

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4