[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.53, Sun Nov 16 17:41:03 2003 UTC revision 1.102.2.6, Sat Jul 17 11:41:41 2004 UTC
# Line 57  Line 57 
57                                            Bitstream * bs);                                            Bitstream * bs);
58    
59  static int FrameCodeP(Encoder * pEnc,  static int FrameCodeP(Encoder * pEnc,
60                                            Bitstream * bs,                                            Bitstream * bs);
                                           bool force_inter,  
                                           bool vol_header);  
61    
62  static void FrameCodeB(Encoder * pEnc,  static void FrameCodeB(Encoder * pEnc,
63                                             FRAMEINFO * frame,                                             FRAMEINFO * frame,
# Line 102  Line 100 
100                  i--;                  i--;
101          }          }
102    
103          /* if neccessary, round to 65535 accuracy */          if (*base > 65535 || *inc > 65535) {
104          if (*base > 65535) {                  int *biggest;
105                  float div = (float) *base / 65535;                  int *other;
106                  *base = (int) (*base / div);  
107                  *inc = (int) (*inc / div);                  if (*base > *inc) {
108                            biggest = base;
109                            other = inc;
110                    } else {
111                            biggest = inc;
112                            other = base;
113                    }
114    
115                    float div = ((float)*biggest)/((float)65535);
116                    *biggest = (int)(((float)*biggest)/div);
117                    *other = (int)(((float)*other)/div);
118          }          }
119  }  }
120    
# Line 123  Line 131 
131          if (create->width%2 || create->height%2)          if (create->width%2 || create->height%2)
132                  return XVID_ERR_FAIL;                  return XVID_ERR_FAIL;
133    
134            if (create->width<=0 || create->height<=0)
135                    return XVID_ERR_FAIL;
136    
137          /* allocate encoder struct */          /* allocate encoder struct */
138    
139          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
# Line 250  Line 261 
261          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
262                  goto xvid_err_memory2;                  goto xvid_err_memory2;
263    
264            /* allocate quant matrix memory */
265    
266            pEnc->mbParam.mpeg_quant_matrices =
267                    xvid_malloc(sizeof(uint16_t) * 64 * 8, CACHE_LINE);
268    
269            if (pEnc->mbParam.mpeg_quant_matrices == NULL)
270                    goto xvid_err_memory2a;
271    
272          /* allocate interpolation image memory */          /* allocate interpolation image memory */
273    
274      if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {      if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
# Line 265  Line 284 
284          image_null(&pEnc->reference->image);          image_null(&pEnc->reference->image);
285          image_null(&pEnc->vInterH);          image_null(&pEnc->vInterH);
286          image_null(&pEnc->vInterV);          image_null(&pEnc->vInterV);
         image_null(&pEnc->vInterVf);  
287          image_null(&pEnc->vInterHV);          image_null(&pEnc->vInterHV);
         image_null(&pEnc->vInterHVf);  
288    
289          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
290          if (image_create          if (image_create
# Line 311  Line 328 
328                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
329                  goto xvid_err_memory3;                  goto xvid_err_memory3;
330          if (image_create          if (image_create
                 (&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create  
331                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,
332                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
333                  goto xvid_err_memory3;                  goto xvid_err_memory3;
         if (image_create  
                 (&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
334    
335  /* Create full bitplane for GMC, this might be wasteful */  /* Create full bitplane for GMC, this might be wasteful */
336          if (image_create          if (image_create
# Line 413  Line 422 
422      create->handle = (void *) pEnc;      create->handle = (void *) pEnc;
423    
424          init_timer();          init_timer();
425            init_mpeg_matrix(pEnc->mbParam.mpeg_quant_matrices);
426    
427      return 0;   /* ok */      return 0;   /* ok */
428    
# Line 472  Line 482 
482                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
483          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
484                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
485          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
486                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
487    
488  /* destroy GMC image */  /* destroy GMC image */
489          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
490                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
491    
492      xvid_err_memory2a:
493            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
494    
495    xvid_err_memory2:    xvid_err_memory2:
496          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
# Line 565  Line 573 
573                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
574          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
575                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
576          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
577                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
   
578          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
579                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
580          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
# Line 616  Line 619 
619          xvid_free(pEnc->plugins);          xvid_free(pEnc->plugins);
620      }      }
621    
622            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
623    
624      if (pEnc->num_plugins>0)      if (pEnc->num_plugins>0)
625          xvid_free(pEnc->zones);          xvid_free(pEnc->zones);
626    
# Line 658  Line 663 
663          data.max_quant[i] = pEnc->mbParam.max_quant[i];          data.max_quant[i] = pEnc->mbParam.max_quant[i];
664      }      }
665    
666      data.reference.csp = XVID_CSP_USER;          data.reference.csp = XVID_CSP_PLANAR;
667      data.reference.plane[0] = pEnc->reference->image.y;      data.reference.plane[0] = pEnc->reference->image.y;
668      data.reference.plane[1] = pEnc->reference->image.u;      data.reference.plane[1] = pEnc->reference->image.u;
669      data.reference.plane[2] = pEnc->reference->image.v;      data.reference.plane[2] = pEnc->reference->image.v;
# Line 666  Line 671 
671      data.reference.stride[1] = pEnc->mbParam.edged_width/2;      data.reference.stride[1] = pEnc->mbParam.edged_width/2;
672      data.reference.stride[2] = pEnc->mbParam.edged_width/2;      data.reference.stride[2] = pEnc->mbParam.edged_width/2;
673    
674      data.current.csp = XVID_CSP_USER;          data.current.csp = XVID_CSP_PLANAR;
675      data.current.plane[0] = frame->image.y;      data.current.plane[0] = frame->image.y;
676      data.current.plane[1] = frame->image.u;      data.current.plane[1] = frame->image.u;
677      data.current.plane[2] = frame->image.v;      data.current.plane[2] = frame->image.v;
# Line 680  Line 685 
685          data.type = *type;          data.type = *type;
686          data.quant = *quant;          data.quant = *quant;
687    
688                    data.vol_flags = frame->vol_flags;
689                    data.vop_flags = frame->vop_flags;
690                    data.motion_flags = frame->motion_flags;
691    
692            } else if (opt == XVID_PLG_FRAME) {
693                    data.type = coding2type(frame->coding_type);
694                    data.quant = frame->quant;
695    
696                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
697              data.dquant = pEnc->temp_dquants;              data.dquant = pEnc->temp_dquants;
698              data.dquant_stride = pEnc->mbParam.mb_width;              data.dquant_stride = pEnc->mbParam.mb_width;
699                          memset(data.dquant, 0, data.mb_width*data.mb_height);                          memset(data.dquant, 0, data.mb_width*data.mb_height);
700          }          }
701    
         data.vol_flags = frame->vol_flags;  
         data.vop_flags = frame->vop_flags;  
         data.motion_flags = frame->motion_flags;  
   
702      } else { /* XVID_PLG_AFTER */      } else { /* XVID_PLG_AFTER */
703          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
704              data.original.csp = XVID_CSP_USER;                          data.original.csp = XVID_CSP_PLANAR;
705              data.original.plane[0] = original->y;              data.original.plane[0] = original->y;
706              data.original.plane[1] = original->u;              data.original.plane[1] = original->u;
707              data.original.plane[2] = original->v;              data.original.plane[2] = original->v;
# Line 742  Line 751 
751          data.mblks = frame->sStat.mblks;          data.mblks = frame->sStat.mblks;
752          data.ublks = frame->sStat.ublks;          data.ublks = frame->sStat.ublks;
753    
754          if (stats) {                  /* New code */
755                  stats->type = coding2type(frame->coding_type);                  data.stats.type      = coding2type(frame->coding_type);
756                  stats->quant = frame->quant;                  data.stats.quant     = frame->quant;
757                  stats->vol_flags = frame->vol_flags;                  data.stats.vol_flags = frame->vol_flags;
758                  stats->vop_flags = frame->vop_flags;                  data.stats.vop_flags = frame->vop_flags;
759                  stats->length = frame->length;                  data.stats.length    = frame->length;
760                  stats->hlength = frame->length - (frame->sStat.iTextBits / 8);                  data.stats.hlength   = frame->length - (frame->sStat.iTextBits / 8);
761                  stats->kblks = frame->sStat.kblks;                  data.stats.kblks     = frame->sStat.kblks;
762                  stats->mblks = frame->sStat.mblks;                  data.stats.mblks     = frame->sStat.mblks;
763                  stats->ublks = frame->sStat.ublks;                  data.stats.ublks     = frame->sStat.ublks;
764              stats->sse_y = data.sse_y;                  data.stats.sse_y     = data.sse_y;
765              stats->sse_u = data.sse_u;                  data.stats.sse_u     = data.sse_u;
766              stats->sse_v = data.sse_v;                  data.stats.sse_v     = data.sse_v;
767          }  
768                    if (stats)
769                            *stats = data.stats;
770      }      }
771    
772      /* call plugins */      /* call plugins */
# Line 774  Line 785 
785          *type = data.type;          *type = data.type;
786          *quant = data.quant > 0 ? data.quant : 2;   /* default */          *quant = data.quant > 0 ? data.quant : 2;   /* default */
787    
788                    frame->vol_flags = data.vol_flags;
789                    frame->vop_flags = data.vop_flags;
790                    frame->motion_flags = data.motion_flags;
791    
792            } else if (opt == XVID_PLG_FRAME) {
793    
794          if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
795              for (j=0; j<pEnc->mbParam.mb_height; j++)              for (j=0; j<pEnc->mbParam.mb_height; j++)
796              for (i=0; i<pEnc->mbParam.mb_width; i++) {              for (i=0; i<pEnc->mbParam.mb_width; i++) {
# Line 785  Line 802 
802                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
803              }              }
804          }          }
805                    frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */
         frame->vol_flags = data.vol_flags;  
         frame->vop_flags = data.vop_flags;  
         frame->motion_flags = data.motion_flags;  
     }  
806  }  }
807    
808    
809    }
810    
811    
812  static __inline void inc_frame_num(Encoder * pEnc)  static __inline void inc_frame_num(Encoder * pEnc)
# Line 810  Line 824 
824      pEnc->m_framenum--; /* debug ticker */      pEnc->m_framenum--; /* debug ticker */
825  }  }
826    
827    static __inline void
828    MBSetDquant(MACROBLOCK * pMB, int x, int y, MBParam * mbParam)
829    {
830            if (pMB->cbp == 0) {
831                    /* we want to code dquant but the quantizer value will not be used yet
832                            let's find out if we can postpone dquant to next MB
833                    */
834                    if (x == mbParam->mb_width-1 && y == mbParam->mb_height-1) {
835                            pMB->dquant = 0; /* it's the last MB of all, the easiest case */
836                            return;
837                    } else {
838                            MACROBLOCK * next = pMB + 1;
839                            const MACROBLOCK * prev = pMB - 1;
840                            if (next->mode != MODE_INTER4V && next->mode != MODE_NOT_CODED)
841                                    /* mode allows dquant change in the future */
842                                    if (abs(next->quant - prev->quant) <= 2) {
843                                            /* quant change is not out of range */
844                                            pMB->quant = prev->quant;
845                                            pMB->dquant = 0;
846                                            next->dquant = next->quant - prev->quant;
847                                            return;
848                                    }
849                    }
850            }
851            /* couldn't skip this dquant */
852            pMB->mode = MODE_INTER_Q;
853    }
854    
855    
856    
857  static __inline void  static __inline void
# Line 819  Line 861 
861      pCur->ticks = (int32_t)pCur->stamp % time_base;      pCur->ticks = (int32_t)pCur->stamp % time_base;
862                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;
863    
864                  /* HEAVY DEBUG OUTPUT remove when timecodes prove to be stable */  #if 0   /* HEAVY DEBUG OUTPUT */
865            fprintf(stderr,"WriteVop:   %d - %d \n",
 /*              fprintf(stderr,"WriteVop:   %d - %d \n",  
866                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));
867                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",
868                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);
869                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",
870                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);
871    #endif
872    }
873    
874  */  static int
875    gcd(int a, int b)
876    {
877            int r ;
878    
879            if (b > a) {
880                    r = a;
881                    a = b;
882                    b = r;
883  }  }
884    
885            while ((r = a % b)) {
886                    a = b;
887                    b = r;
888            }
889            return b;
890    }
891    
892    static void
893    simplify_par(int *par_width, int *par_height)
894    {
895    
896            int _par_width  = (!*par_width)  ? 1 : (*par_width<0)  ? -*par_width:  *par_width;
897            int _par_height = (!*par_height) ? 1 : (*par_height<0) ? -*par_height: *par_height;
898            int divisor = gcd(_par_width, _par_height);
899    
900            _par_width  /= divisor;
901            _par_height /= divisor;
902    
903            /* 2^8 precision maximum */
904            if (_par_width>255 || _par_height>255) {
905                    float div;
906                    emms();
907                    if (_par_width>_par_height)
908                            div = (float)_par_width/255;
909                    else
910                            div = (float)_par_height/255;
911    
912                    _par_width  = (int)((float)_par_width/div);
913                    _par_height = (int)((float)_par_height/div);
914            }
915    
916            *par_width = _par_width;
917            *par_height = _par_height;
918    
919            return;
920    }
921    
922    
923  /*****************************************************************************  /*****************************************************************************
# Line 953  Line 1040 
1040                          tmp = pEnc->current->seconds;                          tmp = pEnc->current->seconds;
1041                          pEnc->current->seconds = 0; /* force time_base = 0 */                          pEnc->current->seconds = 0; /* force time_base = 0 */
1042    
1043                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0, pEnc->current->quant);
1044                          BitstreamPad(&bs);                          BitstreamPad(&bs);
1045                          pEnc->current->seconds = tmp;                          pEnc->current->seconds = tmp;
1046    
# Line 1010  Line 1097 
1097                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1098                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1099                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1100                                    pEnc->mbParam.frame_drop_ratio = -1; /* it must be a coded vop */
1101    
1102                  FrameCodeP(pEnc, &bs, 1, 0);                                  FrameCodeP(pEnc, &bs);
1103    
1104    
1105                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {
# Line 1045  Line 1133 
1133    
1134      pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;      pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;
1135      inc_frame_num(pEnc);      inc_frame_num(pEnc);
1136      pEnc->current->vol_flags = pEnc->mbParam.vol_flags;          pEnc->current->vol_flags = frame->vol_flags;
1137      pEnc->current->vop_flags = frame->vop_flags;      pEnc->current->vop_flags = frame->vop_flags;
1138          pEnc->current->motion_flags = frame->motion;          pEnc->current->motion_flags = frame->motion;
1139          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
# Line 1080  Line 1168 
1168                  }                  }
1169          }          }
1170    
1171            if (type != I_VOP)
1172                    pEnc->current->vol_flags = pEnc->mbParam.vol_flags; /* don't allow VOL changes here */
1173    
1174      /* bframes buffer overflow check */      /* bframes buffer overflow check */
1175      if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {      if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
1176          type = P_VOP;          type = P_VOP;
# Line 1192  Line 1283 
1283                  pEnc->iFrameNum = 1;                  pEnc->iFrameNum = 1;
1284    
1285                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1286                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->mbParam.vol_flags = pEnc->current->vol_flags;
1287    
1288                    /* Aspect ratio */
1289                  switch(frame->par) {                  switch(frame->par) {
1290                  case XVID_PAR_11_VGA:                  case XVID_PAR_11_VGA:
1291                  case XVID_PAR_43_PAL:                  case XVID_PAR_43_PAL:
# Line 1203  Line 1296 
1296                          pEnc->mbParam.par = frame->par;                          pEnc->mbParam.par = frame->par;
1297                          break;                          break;
1298                  default:                  default:
1299                          pEnc->mbParam.par = XVID_PAR_EXT;                          pEnc->mbParam.par = XVID_PAR_11_VGA;
1300                          break;                          break;
1301                  }                  }
1302                  pEnc->mbParam.par_width = (frame->par_width)?frame->par_width:1;  
1303                  pEnc->mbParam.par_height = (frame->par_height)?frame->par_height:1;                  /* For extended PAR only, we try to sanityse/simplify par values */
1304                    if (pEnc->mbParam.par == XVID_PAR_EXT) {
1305                            pEnc->mbParam.par_width  = frame->par_width;
1306                            pEnc->mbParam.par_height = frame->par_height;
1307                            simplify_par(&pEnc->mbParam.par_width, &pEnc->mbParam.par_height);
1308                    }
1309    
1310          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1311                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
1312                                  set_intra_matrix(frame->quant_intra_matrix);                                  set_intra_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_intra_matrix);
1313                          if (frame->quant_inter_matrix != NULL)                          if (frame->quant_inter_matrix != NULL)
1314                                  set_inter_matrix(frame->quant_inter_matrix);                                  set_inter_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_inter_matrix);
1315                  }                  }
1316    
1317          /* prevent vol/vop misuse */          /* prevent vol/vop misuse */
# Line 1253  Line 1351 
1351                             pEnc->mbParam.edged_width, pEnc->mbParam.height);                             pEnc->mbParam.edged_width, pEnc->mbParam.height);
1352          }          }
1353    
1354                  FrameCodeP(pEnc, &bs, 1, 0);                  if ( FrameCodeP(pEnc, &bs) == 0 ) {
1355                            /* N-VOP, we mustn't code b-frames yet */
1356                            call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
1357                            goto done;
1358                    }
1359      }      }
1360    
1361    
# Line 1291  Line 1393 
1393    
1394  static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)  static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)
1395  {  {
1396      unsigned int i,j;          unsigned int i;
1397      int quant = frame->quant;          MACROBLOCK * pMB = frame->mbs;
1398            int quant = frame->mbs[0].quant; /* set by XVID_PLG_FRAME */
1399      if (quant > 31)      if (quant > 31)
1400                  frame->quant = quant = 31;                  frame->quant = quant = 31;
1401          else if (quant < 1)          else if (quant < 1)
1402                  frame->quant = quant = 1;                  frame->quant = quant = 1;
1403    
1404      for (j=0; j<pParam->mb_height; j++)          for (i = 0; i < pParam->mb_height * pParam->mb_width; i++) {
     for (i=0; i<pParam->mb_width; i++) {  
         MACROBLOCK * pMB = &frame->mbs[j*pParam->mb_width + i];  
1405          quant += pMB->dquant;          quant += pMB->dquant;
1406          if (quant > 31)          if (quant > 31)
1407                          quant = 31;                          quant = 31;
1408                  else if (quant < 1)                  else if (quant < 1)
1409                          quant = 1;                          quant = 1;
1410          pMB->quant = quant;          pMB->quant = quant;
1411                    pMB++;
1412      }      }
1413  }  }
1414    
# Line 1354  Line 1456 
1456                  start_timer();                  start_timer();
1457                  image_setedges(&pEnc->current->image,                  image_setedges(&pEnc->current->image,
1458                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1459                          pEnc->mbParam.width, pEnc->mbParam.height);                          pEnc->mbParam.width, pEnc->mbParam.height, 0);
1460                  stop_edges_timer();                  stop_edges_timer();
1461          }          }
1462    
# Line 1362  Line 1464 
1464          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1465          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
1466    
1467            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1468    
1469      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);
1470    
1471          BitstreamWriteVolHeader(bs, &pEnc->mbParam);          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1472    
1473          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1474    
1475          BitstreamPad(bs);          BitstreamPad(bs);
1476    
1477          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1, pEnc->current->mbs[0].quant);
1478    
1479          pEnc->current->sStat.iTextBits = 0;          pEnc->current->sStat.iTextBits = 0;
1480          pEnc->current->sStat.kblks = mb_width * mb_height;          pEnc->current->sStat.kblks = mb_width * mb_height;
# Line 1429  Line 1533 
1533  /* FrameCodeP also handles S(GMC)-VOPs */  /* FrameCodeP also handles S(GMC)-VOPs */
1534  static int  static int
1535  FrameCodeP(Encoder * pEnc,  FrameCodeP(Encoder * pEnc,
1536                     Bitstream * bs,                     Bitstream * bs)
                    bool force_inter,  
                    bool vol_header)  
1537  {  {
1538          float fSigma;          float fSigma;
1539      int bits = BitstreamPos(bs);      int bits = BitstreamPos(bs);
# Line 1439  Line 1541 
1541          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1542          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1543    
         int iLimit;  
1544          int x, y, k;          int x, y, k;
1545          int iSearchRange;          int iSearchRange;
1546          int bIntra=0, skip_possible;          int skip_possible;
1547          FRAMEINFO *const current = pEnc->current;          FRAMEINFO *const current = pEnc->current;
1548          FRAMEINFO *const reference = pEnc->reference;          FRAMEINFO *const reference = pEnc->reference;
1549          MBParam * const pParam = &pEnc->mbParam;          MBParam * const pParam = &pEnc->mbParam;
1550          int mb_width = pParam->mb_width;          int mb_width = pParam->mb_width;
1551          int mb_height = pParam->mb_height;          int mb_height = pParam->mb_height;
1552            int coded = 1;
1553    
1554    
1555          /* IMAGE *pCurrent = &current->image; */          /* IMAGE *pCurrent = &current->image; */
# Line 1463  Line 1565 
1565          if (!reference->is_edged) {          if (!reference->is_edged) {
1566                  start_timer();                  start_timer();
1567                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,
1568                                             pParam->width, pParam->height);                                             pParam->width, pParam->height, 0);
1569                  stop_edges_timer();                  stop_edges_timer();
1570                  reference->is_edged = 1;                  reference->is_edged = 1;
1571          }          }
# Line 1472  Line 1574 
1574          current->rounding_type = pParam->m_rounding_type;          current->rounding_type = pParam->m_rounding_type;
1575          current->fcode = pParam->m_fcode;          current->fcode = pParam->m_fcode;
1576    
         if (!force_inter)  
                 iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);  
         else  
                 iLimit = mb_width * mb_height + 1;  
   
1577          if ((current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1578                  if (reference->is_interpolated != current->rounding_type) {                  if (reference->is_interpolated != current->rounding_type) {
1579                          start_timer();                          start_timer();
# Line 1492  Line 1589 
1589    
1590          current->coding_type = P_VOP;          current->coding_type = P_VOP;
1591    
1592            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1593    
1594      SetMacroblockQuants(&pEnc->mbParam, current);      SetMacroblockQuants(&pEnc->mbParam, current);
1595    
# Line 1546  Line 1644 
1644                  }                  }
1645          }          }
1646    
         bIntra =  
1647                  MotionEstimation(&pEnc->mbParam, current, reference,                  MotionEstimation(&pEnc->mbParam, current, reference,
1648                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1649                                           &pEnc->vGMC, iLimit);                                           &pEnc->vGMC, 256*4096);
1650    
1651    
1652          stop_motion_timer();          stop_motion_timer();
1653    
         if (bIntra == 1) return FrameCodeI(pEnc, bs);  
   
1654          set_timecodes(current,reference,pParam->fbase);          set_timecodes(current,reference,pParam->fbase);
         if (vol_header)  
         {       BitstreamWriteVolHeader(bs, &pEnc->mbParam);  
                 BitstreamPad(bs);  
         }  
1655    
1656          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);
1657    
1658          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =
1659                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;
# Line 1573  Line 1664 
1664                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
1665                                  &current->mbs[x + y * pParam->mb_width];                                  &current->mbs[x + y * pParam->mb_width];
1666    
1667                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          int bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1668    
1669                          if (bIntra) {                          if (bIntra) {
1670                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
# Line 1610  Line 1701 
1701    
1702                          stop_comp_timer();                          stop_comp_timer();
1703    
                         if (pMB->dquant != 0) {  
                 pMB->mode = MODE_INTER_Q;  
                         }  
   
1704                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1705    
1706                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
# Line 1622  Line 1709 
1709                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1710                          }                          }
1711    
1712                            if (pMB->dquant != 0)
1713                                    MBSetDquant(pMB, x, y, &pEnc->mbParam);
1714    
1715    
1716                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1717                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1718                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
# Line 1774  Line 1865 
1865  #if 0  #if 0
1866          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);
1867  #endif  #endif
1868          if (current->sStat.kblks + current->sStat.mblks <          if (current->sStat.kblks + current->sStat.mblks <=
1869                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100)                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100 &&
1870                    pEnc->mbParam.max_bframes == 0)
1871          {          {
1872                  current->sStat.kblks = current->sStat.mblks = 0;                  current->sStat.kblks = current->sStat.mblks = 0;
1873                  current->sStat.ublks = mb_width * mb_height;                  current->sStat.ublks = mb_width * mb_height;
# Line 1783  Line 1875 
1875                  BitstreamReset(bs);                  BitstreamReset(bs);
1876    
1877                  set_timecodes(current,reference,pParam->fbase);                  set_timecodes(current,reference,pParam->fbase);
1878                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0);                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0, current->mbs[0].quant);
1879    
1880                  /* copy reference frame details into the current frame */                  /* copy reference frame details into the current frame */
1881                  current->quant = reference->quant;                  current->quant = reference->quant;
# Line 1791  Line 1883 
1883                  current->rounding_type = reference->rounding_type;                  current->rounding_type = reference->rounding_type;
1884                  current->fcode = reference->fcode;                  current->fcode = reference->fcode;
1885                  current->bcode = reference->bcode;                  current->bcode = reference->bcode;
1886                    current->stamp = reference->stamp;
1887                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);
1888                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
1889          }                  coded = 0;
1890    
1891            } else {
1892    
1893          pEnc->current->is_edged = 0; /* not edged */          pEnc->current->is_edged = 0; /* not edged */
1894          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */
# Line 1804  Line 1899 
1899          image_swap(&pEnc->vInterH, &pEnc->f_refh);          image_swap(&pEnc->vInterH, &pEnc->f_refh);
1900          image_swap(&pEnc->vInterV, &pEnc->f_refv);          image_swap(&pEnc->vInterV, &pEnc->f_refv);
1901          image_swap(&pEnc->vInterHV, &pEnc->f_refhv);          image_swap(&pEnc->vInterHV, &pEnc->f_refhv);
1902            }
1903    
1904          /* XXX: debug          /* XXX: debug
1905          {          {
# Line 1825  Line 1920 
1920    
1921      current->length = (BitstreamPos(bs) - bits) / 8;      current->length = (BitstreamPos(bs) - bits) / 8;
1922    
1923          return 0;                                       /* inter */          return coded;
1924  }  }
1925    
1926    
# Line 1860  Line 1955 
1955          if (!pEnc->reference->is_edged) {          if (!pEnc->reference->is_edged) {
1956                  image_setedges(f_ref, pEnc->mbParam.edged_width,                  image_setedges(f_ref, pEnc->mbParam.edged_width,
1957                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
1958                                             pEnc->mbParam.height);                                             pEnc->mbParam.height, 0);
1959                  pEnc->current->is_edged = 1;                  pEnc->current->is_edged = 1;
1960          }          }
1961    
# Line 1877  Line 1972 
1972          if (!pEnc->current->is_edged) {          if (!pEnc->current->is_edged) {
1973                  image_setedges(b_ref, pEnc->mbParam.edged_width,                  image_setedges(b_ref, pEnc->mbParam.edged_width,
1974                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
1975                                             pEnc->mbParam.height);                                             pEnc->mbParam.height, 0);
1976                  pEnc->current->is_edged = 1;                  pEnc->current->is_edged = 1;
1977          }          }
1978    
# Line 1890  Line 1985 
1985                  pEnc->current->is_interpolated = 0;                  pEnc->current->is_interpolated = 0;
1986          }          }
1987    
1988            frame->coding_type = B_VOP;
1989            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1990    
1991          start_timer();          start_timer();
1992          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,
1993                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */
# Line 1900  Line 1998 
1998                                                   &pEnc->vInterV, &pEnc->vInterHV);                                                   &pEnc->vInterV, &pEnc->vInterHV);
1999          stop_motion_timer();          stop_motion_timer();
2000    
         frame->coding_type = B_VOP;  
   
2001          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
2002          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1, frame->quant);
2003    
2004          frame->sStat.iTextBits = 0;          frame->sStat.iTextBits = 0;
2005          frame->sStat.iMvSum = 0;          frame->sStat.iMvSum = 0;
Legend:
Removed from v.1.95.2.53  
changed lines
  Added in v.1.102.2.6
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4