[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.36, Sat Aug 2 15:08:19 2003 UTC revision 1.95.2.57, Fri Dec 12 09:58:40 2003 UTC
# Line 188  Line 188 
188          pcreate.zones = pEnc->zones;          pcreate.zones = pEnc->zones;
189          pcreate.width = pEnc->mbParam.width;          pcreate.width = pEnc->mbParam.width;
190          pcreate.height = pEnc->mbParam.height;          pcreate.height = pEnc->mbParam.height;
191                    pcreate.mb_width = pEnc->mbParam.mb_width;
192                    pcreate.mb_height = pEnc->mbParam.mb_height;
193          pcreate.fincr = pEnc->mbParam.fincr;          pcreate.fincr = pEnc->mbParam.fincr;
194          pcreate.fbase = pEnc->mbParam.fbase;          pcreate.fbase = pEnc->mbParam.fbase;
195          pcreate.param = create->plugins[n].param;          pcreate.param = create->plugins[n].param;
# Line 226  Line 228 
228          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);
229    
230      /* max keyframe interval */      /* max keyframe interval */
231      pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ?          pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ? (10 * (int)pEnc->mbParam.fbase) / (int)pEnc->mbParam.fincr : create->max_key_interval;
                 (10 * pEnc->mbParam.fbase) / pEnc->mbParam.fincr : create->max_key_interval;  
232    
233      /* allocate working frame-image memory */      /* allocate working frame-image memory */
234    
# Line 249  Line 250 
250          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
251                  goto xvid_err_memory2;                  goto xvid_err_memory2;
252    
253            /* allocate quant matrix memory */
254    
255            pEnc->mbParam.mpeg_quant_matrices =
256                    xvid_malloc(sizeof(uint16_t) * 64 * 8, CACHE_LINE);
257    
258            if (pEnc->mbParam.mpeg_quant_matrices == NULL)
259                    goto xvid_err_memory2a;
260    
261          /* allocate interpolation image memory */          /* allocate interpolation image memory */
262    
263      if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {      if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
# Line 264  Line 273 
273          image_null(&pEnc->reference->image);          image_null(&pEnc->reference->image);
274          image_null(&pEnc->vInterH);          image_null(&pEnc->vInterH);
275          image_null(&pEnc->vInterV);          image_null(&pEnc->vInterV);
         image_null(&pEnc->vInterVf);  
276          image_null(&pEnc->vInterHV);          image_null(&pEnc->vInterHV);
         image_null(&pEnc->vInterHVf);  
277    
278          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
279          if (image_create          if (image_create
# Line 310  Line 317 
317                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
318                  goto xvid_err_memory3;                  goto xvid_err_memory3;
319          if (image_create          if (image_create
                 (&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create  
320                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,
321                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
322                  goto xvid_err_memory3;                  goto xvid_err_memory3;
         if (image_create  
                 (&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
323    
324  /* Create full bitplane for GMC, this might be wasteful */  /* Create full bitplane for GMC, this might be wasteful */
325          if (image_create          if (image_create
# Line 390  Line 389 
389                  image_null(&pEnc->queue[n].image);                  image_null(&pEnc->queue[n].image);
390    
391    
392          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++)          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {
         {  
393                  if (image_create                  if (image_create
394                          (&pEnc->queue[n].image, pEnc->mbParam.edged_width,                          (&pEnc->queue[n].image, pEnc->mbParam.edged_width,
395                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
396                          goto xvid_err_memory5;                          goto xvid_err_memory5;
   
397          }          }
398    
   
399          /* timestamp stuff */          /* timestamp stuff */
400    
401          pEnc->mbParam.m_stamp = 0;          pEnc->mbParam.m_stamp = 0;
# Line 415  Line 411 
411      create->handle = (void *) pEnc;      create->handle = (void *) pEnc;
412    
413          init_timer();          init_timer();
414            init_mpeg_matrix(pEnc->mbParam.mpeg_quant_matrices);
415    
416      return 0;   /* ok */      return 0;   /* ok */
417    
# Line 424  Line 421 
421    
422    xvid_err_memory5:    xvid_err_memory5:
423    
424          if (pEnc->mbParam.max_bframes > 0) {          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {
425          int i;                          image_destroy(&pEnc->queue[n].image, pEnc->mbParam.edged_width,
   
                 for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {  
                         image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,  
426                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
427                  }                  }
428    
429                  xvid_free(pEnc->queue);                  xvid_free(pEnc->queue);
         }  
430    
431    xvid_err_memory4:    xvid_err_memory4:
432    
# Line 446  Line 440 
440    
441                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
442                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
   
443                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
   
444                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
   
445                  }                  }
446    
447                  xvid_free(pEnc->bframes);                  xvid_free(pEnc->bframes);
# Line 480  Line 471 
471                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
472          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
473                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
474          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
475                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
476    
477  /* destroy GMC image */  /* destroy GMC image */
478          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
479                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
480    
481      xvid_err_memory2a:
482            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
483    
484    xvid_err_memory2:    xvid_err_memory2:
485          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
# Line 539  Line 528 
528          int i;          int i;
529    
530          /* B Frames specific */          /* B Frames specific */
         if (pEnc->mbParam.max_bframes > 0) {  
   
531                  for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {                  for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {
   
532                          image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,
533                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
534                  }                  }
                 xvid_free(pEnc->queue);  
         }  
535    
536            xvid_free(pEnc->queue);
537    
538          if (pEnc->mbParam.max_bframes > 0) {          if (pEnc->mbParam.max_bframes > 0) {
539    
# Line 559  Line 544 
544    
545                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
546                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
   
547                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
   
548                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
549                  }                  }
550    
# Line 579  Line 562 
562                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
563          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
564                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
565          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
566                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
   
567          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
568                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
569          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
# Line 630  Line 608 
608          xvid_free(pEnc->plugins);          xvid_free(pEnc->plugins);
609      }      }
610    
611            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
612    
613      if (pEnc->num_plugins>0)      if (pEnc->num_plugins>0)
614          xvid_free(pEnc->zones);          xvid_free(pEnc->zones);
615    
# Line 664  Line 644 
644      data.mb_height = pEnc->mbParam.mb_height;      data.mb_height = pEnc->mbParam.mb_height;
645      data.fincr = frame->fincr;      data.fincr = frame->fincr;
646      data.fbase = pEnc->mbParam.fbase;      data.fbase = pEnc->mbParam.fbase;
647            data.bquant_ratio = pEnc->mbParam.bquant_ratio;
648            data.bquant_offset = pEnc->mbParam.bquant_offset;
649    
650      for (i=0; i<3; i++) {      for (i=0; i<3; i++) {
651          data.min_quant[i] = pEnc->mbParam.min_quant[i];          data.min_quant[i] = pEnc->mbParam.min_quant[i];
# Line 692  Line 674 
674          data.type = *type;          data.type = *type;
675          data.quant = *quant;          data.quant = *quant;
676    
677                    data.vol_flags = frame->vol_flags;
678                    data.vop_flags = frame->vop_flags;
679                    data.motion_flags = frame->motion_flags;
680    
681            } else if (opt == XVID_PLG_FRAME) {
682                    data.type = coding2type(frame->coding_type);
683                    data.quant = frame->quant;
684    
685                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
686              data.dquant = pEnc->temp_dquants;              data.dquant = pEnc->temp_dquants;
687              data.dquant_stride = pEnc->mbParam.mb_width;              data.dquant_stride = pEnc->mbParam.mb_width;
688                          memset(data.dquant, 0, data.mb_width*data.mb_height);                          memset(data.dquant, 0, data.mb_width*data.mb_height);
689          }          }
690    
         data.vol_flags = frame->vol_flags;  
         data.vop_flags = frame->vop_flags;  
         data.motion_flags = frame->motion_flags;  
   
691      } else { /* XVID_PLG_AFTER */      } else { /* XVID_PLG_AFTER */
692          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
693              data.original.csp = XVID_CSP_USER;              data.original.csp = XVID_CSP_USER;
# Line 771  Line 757 
757      }      }
758    
759      /* call plugins */      /* call plugins */
760      for (i=0; i<pEnc->num_plugins;i++) {          for (i=0; i<(unsigned int)pEnc->num_plugins;i++) {
761          emms();          emms();
762          if (pEnc->plugins[i].func) {          if (pEnc->plugins[i].func) {
763              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {
# Line 786  Line 772 
772          *type = data.type;          *type = data.type;
773          *quant = data.quant > 0 ? data.quant : 2;   /* default */          *quant = data.quant > 0 ? data.quant : 2;   /* default */
774    
775                    frame->vol_flags = data.vol_flags;
776                    frame->vop_flags = data.vop_flags;
777                    frame->motion_flags = data.motion_flags;
778    
779            } else if (opt == XVID_PLG_FRAME) {
780    
781          if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
782              for (j=0; j<pEnc->mbParam.mb_height; j++)              for (j=0; j<pEnc->mbParam.mb_height; j++)
783              for (i=0; i<pEnc->mbParam.mb_width; i++) {              for (i=0; i<pEnc->mbParam.mb_width; i++) {
# Line 797  Line 789 
789                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
790              }              }
791          }          }
792                    frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */
         frame->vol_flags = data.vol_flags;  
         frame->vop_flags = data.vop_flags;  
         frame->motion_flags = data.motion_flags;  
     }  
793  }  }
794    
795    
796    }
797    
798    
799  static __inline void inc_frame_num(Encoder * pEnc)  static __inline void inc_frame_num(Encoder * pEnc)
# Line 822  Line 811 
811      pEnc->m_framenum--; /* debug ticker */      pEnc->m_framenum--; /* debug ticker */
812  }  }
813    
814    static __inline void
815    MBSetDquant(MACROBLOCK * pMB, int x, int y, MBParam * mbParam)
816    {
817            if (pMB->cbp == 0) {
818                    /* we want to code dquant but the quantizer value will not be used yet
819                            let's find out if we can postpone dquant to next MB
820                    */
821                    if (x == mbParam->mb_width-1 && y == mbParam->mb_height-1) {
822                            pMB->dquant = 0; /* it's the last MB of all, the easiest case */
823                            return;
824                    } else {
825                            MACROBLOCK * next = pMB + 1;
826                            const MACROBLOCK * prev = pMB - 1;
827                            if (next->mode != MODE_INTER4V && next->mode != MODE_NOT_CODED)
828                                    /* mode allows dquant change in the future */
829                                    if (abs(next->quant - prev->quant) <= 2) {
830                                            /* quant change is not out of range */
831                                            pMB->quant = prev->quant;
832                                            pMB->dquant = 0;
833                                            next->dquant = next->quant - prev->quant;
834                                            return;
835                                    }
836                    }
837            }
838            /* couldn't skip this dquant */
839            pMB->mode = MODE_INTER_Q;
840    }
841    
842    
843    
844  static __inline void  static __inline void
# Line 965  Line 982 
982                          tmp = pEnc->current->seconds;                          tmp = pEnc->current->seconds;
983                          pEnc->current->seconds = 0; /* force time_base = 0 */                          pEnc->current->seconds = 0; /* force time_base = 0 */
984    
985                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0, pEnc->current->quant);
986                          BitstreamPad(&bs);                          BitstreamPad(&bs);
987                          pEnc->current->seconds = tmp;                          pEnc->current->seconds = tmp;
988    
# Line 1010  Line 1027 
1027                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1028    
1029                                  /* convert B-VOP to P-VOP */                                  /* convert B-VOP to P-VOP */
1030                  pEnc->current->quant = ((pEnc->current->quant*100) - pEnc->mbParam.bquant_offset) / pEnc->mbParam.bquant_ratio;                                  pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;
1031                                    pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */
1032                                    pEnc->current->quant /= pEnc->mbParam.bquant_ratio;
1033    
1034                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
1035                              image_copy(&pEnc->sOriginal, &pEnc->current->image,                              image_copy(&pEnc->sOriginal, &pEnc->current->image,
# Line 1085  Line 1104 
1104                  }else{                  }else{
1105                          type = MEanalysis(&pEnc->reference->image, pEnc->current,                          type = MEanalysis(&pEnc->reference->image, pEnc->current,
1106                                          &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,                                          &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,
1107                                          pEnc->iFrameNum, pEnc->bframenum_tail, xFrame->bframe_threshold);                                                            pEnc->iFrameNum, pEnc->bframenum_tail, xFrame->bframe_threshold,
1108                                                              (pEnc->bframes) ? pEnc->bframes[pEnc->bframenum_head]->mbs: NULL);
1109                  }                  }
1110          }          }
1111    
# Line 1098  Line 1118 
1118    
1119          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1120                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
1121                          "%i  st:%i  if:%i", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);                          "%d  st:%lld  if:%d", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);
1122          }          }
1123    
1124          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
# Line 1177  Line 1197 
1197                  }                  }
1198    
1199                  /* convert B-VOP quant to P-VOP */                  /* convert B-VOP quant to P-VOP */
1200                  pEnc->current->quant = ((pEnc->current->quant*100) - pEnc->mbParam.bquant_offset) / pEnc->mbParam.bquant_ratio;                  pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;
1201                    pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */
1202                    pEnc->current->quant /= pEnc->mbParam.bquant_ratio;
1203          type = P_VOP;          type = P_VOP;
1204      }      }
1205    
# Line 1200  Line 1222 
1222    
1223                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1224                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;
1225                    switch(frame->par) {
1226                    case 0:
1227                            pEnc->mbParam.par = XVID_PAR_11_VGA;
1228                            break;
1229                    case XVID_PAR_11_VGA:
1230                    case XVID_PAR_43_PAL:
1231                    case XVID_PAR_43_NTSC:
1232                    case XVID_PAR_169_PAL:
1233                    case XVID_PAR_169_NTSC:
1234                    case XVID_PAR_EXT:
1235                            pEnc->mbParam.par = frame->par;
1236                            break;
1237                    default:
1238                            pEnc->mbParam.par = XVID_PAR_EXT;
1239                            break;
1240                    }
1241                    pEnc->mbParam.par_width = (frame->par_width)?frame->par_width:1;
1242                    pEnc->mbParam.par_height = (frame->par_height)?frame->par_height:1;
1243    
1244          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1245                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
1246                                  set_intra_matrix(frame->quant_intra_matrix);                                  set_intra_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_intra_matrix);
1247                          if (frame->quant_inter_matrix != NULL)                          if (frame->quant_inter_matrix != NULL)
1248                                  set_inter_matrix(frame->quant_inter_matrix);                                  set_inter_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_inter_matrix);
1249                  }                  }
1250    
1251          /* prevent vol/vop misuse */          /* prevent vol/vop misuse */
# Line 1253  Line 1293 
1293           * on next enc_encode call we must flush bframes           * on next enc_encode call we must flush bframes
1294           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1295    
1296  done_flush:  /*done_flush:*/
1297    
1298      pEnc->flush_bframes = 1;      pEnc->flush_bframes = 1;
1299    
# Line 1283  Line 1323 
1323    
1324  static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)  static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)
1325  {  {
1326      unsigned int i,j;          unsigned int i;
1327      int quant = frame->quant;          MACROBLOCK * pMB = frame->mbs;
1328            int quant = frame->mbs[0].quant; /* set by XVID_PLG_FRAME */
1329            if (quant > 31)
1330                    frame->quant = quant = 31;
1331            else if (quant < 1)
1332                    frame->quant = quant = 1;
1333    
1334      for (j=0; j<pParam->mb_height; j++)          for (i = 0; i < pParam->mb_height * pParam->mb_width; i++) {
     for (i=0; i<pParam->mb_width; i++) {  
         MACROBLOCK * pMB = &frame->mbs[j*pParam->mb_width + i];  
1335          quant += pMB->dquant;          quant += pMB->dquant;
1336          if (quant > 31)          if (quant > 31)
1337                          quant = 31;                          quant = 31;
1338                  if (quant < 1)                  else if (quant < 1)
1339                          quant = 1;                          quant = 1;
1340          pMB->quant = quant;          pMB->quant = quant;
1341                    pMB++;
1342      }      }
1343  }  }
1344    
# Line 1350  Line 1394 
1394          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1395          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
1396    
1397            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1398    
1399      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);
1400    
1401          BitstreamWriteVolHeader(bs, &pEnc->mbParam);          BitstreamWriteVolHeader(bs, &pEnc->mbParam);
# Line 1358  Line 1404 
1404    
1405          BitstreamPad(bs);          BitstreamPad(bs);
1406    
1407          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1, pEnc->current->mbs[0].quant);
1408    
1409          pEnc->current->sStat.iTextBits = 0;          pEnc->current->sStat.iTextBits = 0;
1410          pEnc->current->sStat.kblks = mb_width * mb_height;          pEnc->current->sStat.kblks = mb_width * mb_height;
# Line 1403  Line 1449 
1449          pEnc->fMvPrevSigma = -1;          pEnc->fMvPrevSigma = -1;
1450          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
1451    
1452            pEnc->current->is_edged = 0; /* not edged */
1453            pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */
1454    
1455          return 1;                                       /* intra */          return 1;                                       /* intra */
1456  }  }
1457    
# Line 1445  Line 1494 
1494          }          }
1495    
1496    
1497            if (!reference->is_edged) {
1498          start_timer();          start_timer();
1499          image_setedges(pRef, pParam->edged_width, pParam->edged_height,          image_setedges(pRef, pParam->edged_width, pParam->edged_height,
1500                                     pParam->width, pParam->height);                                     pParam->width, pParam->height);
1501          stop_edges_timer();          stop_edges_timer();
1502                    reference->is_edged = 1;
1503            }
1504    
1505          pParam->m_rounding_type = 1 - pParam->m_rounding_type;          pParam->m_rounding_type = 1 - pParam->m_rounding_type;
1506          current->rounding_type = pParam->m_rounding_type;          current->rounding_type = pParam->m_rounding_type;
# Line 1460  Line 1512 
1512                  iLimit = mb_width * mb_height + 1;                  iLimit = mb_width * mb_height + 1;
1513    
1514          if ((current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1515                    if (reference->is_interpolated != current->rounding_type) {
1516                  start_timer();                  start_timer();
1517                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1518                                                    &pEnc->vInterHV, pParam->edged_width,                                                    &pEnc->vInterHV, pParam->edged_width,
# Line 1467  Line 1520 
1520                                                    (pParam->vol_flags & XVID_VOL_QUARTERPEL),                                                    (pParam->vol_flags & XVID_VOL_QUARTERPEL),
1521                                                    current->rounding_type);                                                    current->rounding_type);
1522                  stop_inter_timer();                  stop_inter_timer();
1523                            reference->is_interpolated = current->rounding_type;
1524                    }
1525          }          }
1526    
1527          current->coding_type = P_VOP;          current->coding_type = P_VOP;
1528    
1529            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1530    
1531      SetMacroblockQuants(&pEnc->mbParam, current);      SetMacroblockQuants(&pEnc->mbParam, current);
1532    
# Line 1489  Line 1545 
1545                                                                  &pEnc->vInterH,                                                                  &pEnc->vInterH,
1546                                                                  &pEnc->vInterV,                                                                  &pEnc->vInterV,
1547                                                                  &pEnc->vInterHV);                                                                  &pEnc->vInterHV);
1548                          gmcval += /*current->quant */ 2 * (int)(pParam->mb_width*pParam->mb_height);                  } else {
                 }  
   
1549                  gmcval = globalSAD(&current->warp, pParam, current->mbs,                  gmcval = globalSAD(&current->warp, pParam, current->mbs,
1550                                                          current,                                                          current,
1551                                                          &reference->image,                                                          &reference->image,
1552                                                          &current->image,                                                          &current->image,
1553                                                          pEnc->vGMC.y);                                                          pEnc->vGMC.y);
1554                    }
1555    
1556                  gmcval += /*current->quant*/ 2 * (int)(pParam->mb_width*pParam->mb_height);                  gmcval += /*current->quant*/ 2 * (int)(pParam->mb_width*pParam->mb_height);
1557    
1558  /* 1st '3': 3 warpoints, 2nd '3': 16th pel res (2<<3) */  /* 1st '3': 3 warpoints, 2nd '3': 16th pel res (2<<3) */
# Line 1541  Line 1597 
1597                  BitstreamPad(bs);                  BitstreamPad(bs);
1598          }          }
1599    
1600          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);
1601    
1602          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =
1603                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;
# Line 1565  Line 1621 
1621    
1622                                  current->sStat.kblks++;                                  current->sStat.kblks++;
1623    
1624                                    if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE)
1625                                    {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1626                                            qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
1627                                            qcoeff[5*64+0]=0;
1628                                    }
1629                                  MBCoding(current, pMB, qcoeff, bs, &current->sStat);                                  MBCoding(current, pMB, qcoeff, bs, &current->sStat);
1630                                  stop_coding_timer();                                  stop_coding_timer();
1631                                  continue;                                  continue;
# Line 1584  Line 1645 
1645    
1646                          stop_comp_timer();                          stop_comp_timer();
1647    
                         if (pMB->dquant != 0) {  
                 pMB->mode = MODE_INTER_Q;  
                         }  
   
1648                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1649    
1650                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
# Line 1596  Line 1653 
1653                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1654                          }                          }
1655    
1656                            if (pMB->dquant != 0)
1657                                    MBSetDquant(pMB, x, y, &pEnc->mbParam);
1658    
1659    
1660                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1661                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1662                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
# Line 1757  Line 1818 
1818                  BitstreamReset(bs);                  BitstreamReset(bs);
1819    
1820                  set_timecodes(current,reference,pParam->fbase);                  set_timecodes(current,reference,pParam->fbase);
1821                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0);                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0, current->mbs[0].quant);
1822    
1823                  /* copy reference frame details into the current frame */                  /* copy reference frame details into the current frame */
1824                  current->quant = reference->quant;                  current->quant = reference->quant;
# Line 1769  Line 1830 
1830                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
1831          }          }
1832    
1833            pEnc->current->is_edged = 0; /* not edged */
1834            pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */
1835    
1836            /* what was this frame's interpolated reference will become
1837                    forward (past) reference in b-frame coding */
1838    
1839            image_swap(&pEnc->vInterH, &pEnc->f_refh);
1840            image_swap(&pEnc->vInterV, &pEnc->f_refv);
1841            image_swap(&pEnc->vInterHV, &pEnc->f_refhv);
1842    
1843    
1844          /* XXX: debug          /* XXX: debug
1845          {          {
1846                  char s[100];                  char s[100];
# Line 1820  Line 1892 
1892  #endif  #endif
1893    
1894          /* forward  */          /* forward  */
1895            if (!pEnc->reference->is_edged) {
1896          image_setedges(f_ref, pEnc->mbParam.edged_width,          image_setedges(f_ref, pEnc->mbParam.edged_width,
1897                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1898                                     pEnc->mbParam.height);                                     pEnc->mbParam.height);
1899                    pEnc->current->is_edged = 1;
1900            }
1901    
1902            if (pEnc->reference->is_interpolated != 0) {
1903          start_timer();          start_timer();
1904          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,          image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1905                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1906                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1907          stop_inter_timer();          stop_inter_timer();
1908                    pEnc->reference->is_interpolated = 0;
1909            }
1910    
1911          /* backward */          /* backward */
1912            if (!pEnc->current->is_edged) {
1913          image_setedges(b_ref, pEnc->mbParam.edged_width,          image_setedges(b_ref, pEnc->mbParam.edged_width,
1914                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,
1915                                     pEnc->mbParam.height);                                     pEnc->mbParam.height);
1916                    pEnc->current->is_edged = 1;
1917            }
1918    
1919            if (pEnc->current->is_interpolated != 0) {
1920          start_timer();          start_timer();
1921          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,          image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1922                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                            pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1923                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                            (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);
1924          stop_inter_timer();          stop_inter_timer();
1925                    pEnc->current->is_interpolated = 0;
1926            }
1927    
1928            frame->coding_type = B_VOP;
1929            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1930    
1931          start_timer();          start_timer();
1932          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,
# Line 1849  Line 1938 
1938                                                   &pEnc->vInterV, &pEnc->vInterHV);                                                   &pEnc->vInterV, &pEnc->vInterHV);
1939          stop_motion_timer();          stop_motion_timer();
1940    
         frame->coding_type = B_VOP;  
   
1941          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
1942          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1, frame->quant);
1943    
1944          frame->sStat.iTextBits = 0;          frame->sStat.iTextBits = 0;
1945          frame->sStat.iMvSum = 0;          frame->sStat.iMvSum = 0;
# Line 1864  Line 1951 
1951          for (y = 0; y < pEnc->mbParam.mb_height; y++) {          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1952                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1953                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
                         int direction = frame->vop_flags & XVID_VOP_ALTERNATESCAN ? 2 : 0;  
1954    
1955                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */
1956                          if (mb->mode == MODE_NOT_CODED) {                          if (mb->mode == MODE_NOT_CODED) {
1957                                  /* mb->mvs[0].x = mb->mvs[0].y = mb->cbp = 0; */                                  if (pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {
1958                                            MBMotionCompensation(mb, x, y, f_ref, NULL, f_ref, NULL, NULL, &frame->image,
1959                                                                                            NULL, 0, 0, pEnc->mbParam.edged_width, 0, 0, 0);
1960                                    }
1961    
1962                                  continue;                                  continue;
1963                          }                          }
1964    
# Line 1891  Line 1981 
1981                                  }                                  }
1982                          }                          }
1983    
1984  #ifdef BFRAMES_DEC_DEBUG                          /* keep only bits 5-2 -- Chroma blocks will just be skipped by the
1985          BFRAME_DEBUG                           * coding function for BFrames, that's why we don't zero teh DC
1986  #endif                           * coeffs */
1987                            if ((frame->vop_flags & XVID_VOP_GREYSCALE))
1988                                    mb->cbp &= 0x3C;
1989    
1990                          start_timer();                          start_timer();
1991                          MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,                          MBCodingBVOP(frame, mb, qcoeff, frame->fcode, frame->bcode, bs,
1992                                                   &frame->sStat, direction);                                                   &frame->sStat);
1993                          stop_coding_timer();                          stop_coding_timer();
1994                  }                  }
1995          }          }

Legend:
Removed from v.1.95.2.36  
changed lines
  Added in v.1.95.2.57

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4