[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.54, Wed Nov 19 15:42:38 2003 UTC revision 1.95.2.58, Fri Dec 12 14:16:40 2003 UTC
# Line 250  Line 250 
250          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
251                  goto xvid_err_memory2;                  goto xvid_err_memory2;
252    
253            /* allocate quant matrix memory */
254    
255            pEnc->mbParam.mpeg_quant_matrices =
256                    xvid_malloc(sizeof(uint16_t) * 64 * 8, CACHE_LINE);
257    
258            if (pEnc->mbParam.mpeg_quant_matrices == NULL)
259                    goto xvid_err_memory2a;
260    
261          /* allocate interpolation image memory */          /* allocate interpolation image memory */
262    
263          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
# Line 403  Line 411 
411          create->handle = (void *) pEnc;          create->handle = (void *) pEnc;
412    
413          init_timer();          init_timer();
414            init_mpeg_matrix(pEnc->mbParam.mpeg_quant_matrices);
415    
416          return 0;   /* ok */          return 0;   /* ok */
417    
# Line 469  Line 478 
478          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
479                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
480    
481      xvid_err_memory2a:
482            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
483    
484    xvid_err_memory2:    xvid_err_memory2:
485          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
# Line 597  Line 608 
608                  xvid_free(pEnc->plugins);                  xvid_free(pEnc->plugins);
609          }          }
610    
611            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
612    
613          if (pEnc->num_plugins>0)          if (pEnc->num_plugins>0)
614                  xvid_free(pEnc->zones);                  xvid_free(pEnc->zones);
615    
# Line 776  Line 789 
789                                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
790                          }                          }
791                  }                  }
792                  frame->mbs[0].quant = data.quant; /* BEFORE2 will not affect the quant in stats */                  frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */
793          }          }
794    
795    
796  }  }
797    
798    
   
   
799  static __inline void inc_frame_num(Encoder * pEnc)  static __inline void inc_frame_num(Encoder * pEnc)
800  {  {
801          pEnc->current->frame_num = pEnc->m_framenum;          pEnc->current->frame_num = pEnc->m_framenum;
# Line 800  Line 811 
811          pEnc->m_framenum--;     /* debug ticker */          pEnc->m_framenum--;     /* debug ticker */
812  }  }
813    
814    static __inline void
815    MBSetDquant(MACROBLOCK * pMB, int x, int y, MBParam * mbParam)
816    {
817            if (pMB->cbp == 0) {
818                    /* we want to code dquant but the quantizer value will not be used yet
819                            let's find out if we can postpone dquant to next MB
820                    */
821                    if (x == mbParam->mb_width-1 && y == mbParam->mb_height-1) {
822                            pMB->dquant = 0; /* it's the last MB of all, the easiest case */
823                            return;
824                    } else {
825                            MACROBLOCK * next = pMB + 1;
826                            const MACROBLOCK * prev = pMB - 1;
827                            if (next->mode != MODE_INTER4V && next->mode != MODE_NOT_CODED)
828                                    /* mode allows dquant change in the future */
829                                    if (abs(next->quant - prev->quant) <= 2) {
830                                            /* quant change is not out of range */
831                                            pMB->quant = prev->quant;
832                                            pMB->dquant = 0;
833                                            next->dquant = next->quant - prev->quant;
834                                            return;
835                                    }
836                    }
837            }
838            /* couldn't skip this dquant */
839            pMB->mode = MODE_INTER_Q;
840    }
841    
842    
843    
844  static __inline void  static __inline void
# Line 809  Line 848 
848          pCur->ticks = (int32_t)pCur->stamp % time_base;          pCur->ticks = (int32_t)pCur->stamp % time_base;
849                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;
850    
851                  /* HEAVY DEBUG OUTPUT remove when timecodes prove to be stable */  #if 0   /* HEAVY DEBUG OUTPUT */
852            fprintf(stderr,"WriteVop:   %d - %d \n",
 /*              fprintf(stderr,"WriteVop:   %d - %d \n",  
853                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));
854                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",
855                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);
856                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",
857                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);
858    #endif
859    }
860    
861  */  static int
862    gcd(int a, int b)
863    {
864            int r ;
865    
866            if (b > a) {
867                    r = a;
868                    a = b;
869                    b = r;
870  }  }
871    
872            while ((r = a % b)) {
873                    a = b;
874                    b = r;
875            }
876            return b;
877    }
878    
879    static void
880    simplify_par(int *par_width, int *par_height)
881    {
882    
883            int _par_width  = (!*par_width)  ? 1 : (*par_width<0)  ? -*par_width:  *par_width;
884            int _par_height = (!*par_height) ? 1 : (*par_height<0) ? -*par_height: *par_height;
885            int divisor = gcd(_par_width, _par_height);
886    
887            _par_width  /= divisor;
888            _par_height /= divisor;
889    
890            /* 2^8 precision maximum */
891            if (_par_width>255 || _par_height>255) {
892                    float div;
893                    emms();
894                    if (_par_width>_par_height)
895                            div = (float)_par_width/255;
896                    else
897                            div = (float)_par_height/255;
898    
899                    _par_width  = (int)((float)_par_width/div);
900                    _par_height = (int)((float)_par_height/div);
901            }
902    
903            *par_width = _par_width;
904            *par_height = _par_height;
905    
906            return;
907    }
908    
909    
910  /*****************************************************************************  /*****************************************************************************
# Line 1183  Line 1267 
1267    
1268                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1269                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;
1270    
1271                    /* Aspect ratio */
1272                  switch(frame->par) {                  switch(frame->par) {
1273                  case XVID_PAR_11_VGA:                  case XVID_PAR_11_VGA:
1274                  case XVID_PAR_43_PAL:                  case XVID_PAR_43_PAL:
# Line 1193  Line 1279 
1279                          pEnc->mbParam.par = frame->par;                          pEnc->mbParam.par = frame->par;
1280                          break;                          break;
1281                  default:                  default:
1282                          pEnc->mbParam.par = XVID_PAR_EXT;                          pEnc->mbParam.par = XVID_PAR_11_VGA;
1283                          break;                          break;
1284                  }                  }
1285                  pEnc->mbParam.par_width = (frame->par_width)?frame->par_width:1;  
1286                  pEnc->mbParam.par_height = (frame->par_height)?frame->par_height:1;                  /* For extended PAR only, we try to sanityse/simplify par values */
1287                    if (pEnc->mbParam.par == XVID_PAR_EXT) {
1288                            pEnc->mbParam.par_width  = frame->par_width;
1289                            pEnc->mbParam.par_height = frame->par_height;
1290                            simplify_par(&pEnc->mbParam.par_width, &pEnc->mbParam.par_height);
1291                    }
1292    
1293                  if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {                  if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1294                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
1295                                  set_intra_matrix(frame->quant_intra_matrix);                                  set_intra_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_intra_matrix);
1296                          if (frame->quant_inter_matrix != NULL)                          if (frame->quant_inter_matrix != NULL)
1297                                  set_inter_matrix(frame->quant_inter_matrix);                                  set_inter_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_inter_matrix);
1298                  }                  }
1299    
1300                  /* prevent vol/vop misuse */                  /* prevent vol/vop misuse */
# Line 1603  Line 1694 
1694    
1695                          stop_comp_timer();                          stop_comp_timer();
1696    
                         if (pMB->dquant != 0) {  
                                 pMB->mode = MODE_INTER_Q;  
                         }  
   
1697                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1698    
1699                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
# Line 1615  Line 1702 
1702                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1703                          }                          }
1704    
1705                            if (pMB->dquant != 0)
1706                                    MBSetDquant(pMB, x, y, &pEnc->mbParam);
1707    
1708    
1709                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1710                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1711                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
Legend:
Removed from v.1.95.2.54  
changed lines
  Added in v.1.95.2.58
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4