[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.54, Wed Nov 19 15:42:38 2003 UTC revision 1.95.2.59, Wed Dec 17 15:16:16 2003 UTC
# Line 250  Line 250 
250          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
251                  goto xvid_err_memory2;                  goto xvid_err_memory2;
252    
253            /* allocate quant matrix memory */
254    
255            pEnc->mbParam.mpeg_quant_matrices =
256                    xvid_malloc(sizeof(uint16_t) * 64 * 8, CACHE_LINE);
257    
258            if (pEnc->mbParam.mpeg_quant_matrices == NULL)
259                    goto xvid_err_memory2a;
260    
261          /* allocate interpolation image memory */          /* allocate interpolation image memory */
262    
263          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
# Line 403  Line 411 
411          create->handle = (void *) pEnc;          create->handle = (void *) pEnc;
412    
413          init_timer();          init_timer();
414            init_mpeg_matrix(pEnc->mbParam.mpeg_quant_matrices);
415    
416          return 0;   /* ok */          return 0;   /* ok */
417    
# Line 469  Line 478 
478          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
479                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
480    
481      xvid_err_memory2a:
482            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
483    
484    xvid_err_memory2:    xvid_err_memory2:
485          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
# Line 597  Line 608 
608                  xvid_free(pEnc->plugins);                  xvid_free(pEnc->plugins);
609          }          }
610    
611            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
612    
613          if (pEnc->num_plugins>0)          if (pEnc->num_plugins>0)
614                  xvid_free(pEnc->zones);                  xvid_free(pEnc->zones);
615    
# Line 727  Line 740 
740                  data.mblks = frame->sStat.mblks;                  data.mblks = frame->sStat.mblks;
741                  data.ublks = frame->sStat.ublks;                  data.ublks = frame->sStat.ublks;
742    
743                  if (stats) {                  /* New code */
744                          stats->type = coding2type(frame->coding_type);                  data.stats.type      = coding2type(frame->coding_type);
745                          stats->quant = frame->quant;                  data.stats.quant     = frame->quant;
746                          stats->vol_flags = frame->vol_flags;                  data.stats.vol_flags = frame->vol_flags;
747                          stats->vop_flags = frame->vop_flags;                  data.stats.vop_flags = frame->vop_flags;
748                          stats->length = frame->length;                  data.stats.length    = frame->length;
749                          stats->hlength = frame->length - (frame->sStat.iTextBits / 8);                  data.stats.hlength   = frame->length - (frame->sStat.iTextBits / 8);
750                          stats->kblks = frame->sStat.kblks;                  data.stats.kblks     = frame->sStat.kblks;
751                          stats->mblks = frame->sStat.mblks;                  data.stats.mblks     = frame->sStat.mblks;
752                          stats->ublks = frame->sStat.ublks;                  data.stats.ublks     = frame->sStat.ublks;
753                          stats->sse_y = data.sse_y;                  data.stats.sse_y     = data.sse_y;
754                          stats->sse_u = data.sse_u;                  data.stats.sse_u     = data.sse_u;
755                          stats->sse_v = data.sse_v;                  data.stats.sse_v     = data.sse_v;
756                  }  
757                    if (stats)
758                            *stats = data.stats;
759          }          }
760    
761          /* call plugins */          /* call plugins */
# Line 776  Line 791 
791                                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
792                          }                          }
793                  }                  }
794                  frame->mbs[0].quant = data.quant; /* BEFORE2 will not affect the quant in stats */                  frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */
795          }          }
796    
797    
798  }  }
799    
800    
   
   
801  static __inline void inc_frame_num(Encoder * pEnc)  static __inline void inc_frame_num(Encoder * pEnc)
802  {  {
803          pEnc->current->frame_num = pEnc->m_framenum;          pEnc->current->frame_num = pEnc->m_framenum;
# Line 800  Line 813 
813          pEnc->m_framenum--;     /* debug ticker */          pEnc->m_framenum--;     /* debug ticker */
814  }  }
815    
816    static __inline void
817    MBSetDquant(MACROBLOCK * pMB, int x, int y, MBParam * mbParam)
818    {
819            if (pMB->cbp == 0) {
820                    /* we want to code dquant but the quantizer value will not be used yet
821                            let's find out if we can postpone dquant to next MB
822                    */
823                    if (x == mbParam->mb_width-1 && y == mbParam->mb_height-1) {
824                            pMB->dquant = 0; /* it's the last MB of all, the easiest case */
825                            return;
826                    } else {
827                            MACROBLOCK * next = pMB + 1;
828                            const MACROBLOCK * prev = pMB - 1;
829                            if (next->mode != MODE_INTER4V && next->mode != MODE_NOT_CODED)
830                                    /* mode allows dquant change in the future */
831                                    if (abs(next->quant - prev->quant) <= 2) {
832                                            /* quant change is not out of range */
833                                            pMB->quant = prev->quant;
834                                            pMB->dquant = 0;
835                                            next->dquant = next->quant - prev->quant;
836                                            return;
837                                    }
838                    }
839            }
840            /* couldn't skip this dquant */
841            pMB->mode = MODE_INTER_Q;
842    }
843    
844    
845    
846  static __inline void  static __inline void
# Line 809  Line 850 
850          pCur->ticks = (int32_t)pCur->stamp % time_base;          pCur->ticks = (int32_t)pCur->stamp % time_base;
851                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;
852    
853                  /* HEAVY DEBUG OUTPUT remove when timecodes prove to be stable */  #if 0   /* HEAVY DEBUG OUTPUT */
854            fprintf(stderr,"WriteVop:   %d - %d \n",
 /*              fprintf(stderr,"WriteVop:   %d - %d \n",  
855                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));
856                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",
857                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);
858                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",
859                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);
860    #endif
861    }
862    
863  */  static int
864    gcd(int a, int b)
865    {
866            int r ;
867    
868            if (b > a) {
869                    r = a;
870                    a = b;
871                    b = r;
872  }  }
873    
874            while ((r = a % b)) {
875                    a = b;
876                    b = r;
877            }
878            return b;
879    }
880    
881    static void
882    simplify_par(int *par_width, int *par_height)
883    {
884    
885            int _par_width  = (!*par_width)  ? 1 : (*par_width<0)  ? -*par_width:  *par_width;
886            int _par_height = (!*par_height) ? 1 : (*par_height<0) ? -*par_height: *par_height;
887            int divisor = gcd(_par_width, _par_height);
888    
889            _par_width  /= divisor;
890            _par_height /= divisor;
891    
892            /* 2^8 precision maximum */
893            if (_par_width>255 || _par_height>255) {
894                    float div;
895                    emms();
896                    if (_par_width>_par_height)
897                            div = (float)_par_width/255;
898                    else
899                            div = (float)_par_height/255;
900    
901                    _par_width  = (int)((float)_par_width/div);
902                    _par_height = (int)((float)_par_height/div);
903            }
904    
905            *par_width = _par_width;
906            *par_height = _par_height;
907    
908            return;
909    }
910    
911    
912  /*****************************************************************************  /*****************************************************************************
# Line 1182  Line 1268 
1268                  pEnc->iFrameNum = 1;                  pEnc->iFrameNum = 1;
1269    
1270                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1271                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->mbParam.vol_flags = frame->vol_flags;
1272    
1273                    /* Aspect ratio */
1274                  switch(frame->par) {                  switch(frame->par) {
1275                  case XVID_PAR_11_VGA:                  case XVID_PAR_11_VGA:
1276                  case XVID_PAR_43_PAL:                  case XVID_PAR_43_PAL:
# Line 1193  Line 1281 
1281                          pEnc->mbParam.par = frame->par;                          pEnc->mbParam.par = frame->par;
1282                          break;                          break;
1283                  default:                  default:
1284                          pEnc->mbParam.par = XVID_PAR_EXT;                          pEnc->mbParam.par = XVID_PAR_11_VGA;
1285                          break;                          break;
1286                  }                  }
1287                  pEnc->mbParam.par_width = (frame->par_width)?frame->par_width:1;  
1288                  pEnc->mbParam.par_height = (frame->par_height)?frame->par_height:1;                  /* For extended PAR only, we try to sanityse/simplify par values */
1289                    if (pEnc->mbParam.par == XVID_PAR_EXT) {
1290                            pEnc->mbParam.par_width  = frame->par_width;
1291                            pEnc->mbParam.par_height = frame->par_height;
1292                            simplify_par(&pEnc->mbParam.par_width, &pEnc->mbParam.par_height);
1293                    }
1294    
1295                  if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {                  if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1296                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
1297                                  set_intra_matrix(frame->quant_intra_matrix);                                  set_intra_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_intra_matrix);
1298                          if (frame->quant_inter_matrix != NULL)                          if (frame->quant_inter_matrix != NULL)
1299                                  set_inter_matrix(frame->quant_inter_matrix);                                  set_inter_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_inter_matrix);
1300                  }                  }
1301    
1302                  /* prevent vol/vop misuse */                  /* prevent vol/vop misuse */
# Line 1603  Line 1696 
1696    
1697                          stop_comp_timer();                          stop_comp_timer();
1698    
                         if (pMB->dquant != 0) {  
                                 pMB->mode = MODE_INTER_Q;  
                         }  
   
1699                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1700    
1701                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
# Line 1615  Line 1704 
1704                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1705                          }                          }
1706    
1707                            if (pMB->dquant != 0)
1708                                    MBSetDquant(pMB, x, y, &pEnc->mbParam);
1709    
1710    
1711                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1712                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1713                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
Legend:
Removed from v.1.95.2.54  
changed lines
  Added in v.1.95.2.59
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4