[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.51, Sat Nov 15 14:43:38 2003 UTC revision 1.102.2.4, Sun Apr 4 03:07:11 2004 UTC
# Line 57  Line 57 
57                                            Bitstream * bs);                                            Bitstream * bs);
58    
59  static int FrameCodeP(Encoder * pEnc,  static int FrameCodeP(Encoder * pEnc,
60                                            Bitstream * bs,                                            Bitstream * bs);
                                           bool force_inter,  
                                           bool vol_header);  
61    
62  static void FrameCodeB(Encoder * pEnc,  static void FrameCodeB(Encoder * pEnc,
63                                             FRAMEINFO * frame,                                             FRAMEINFO * frame,
# Line 123  Line 121 
121          if (create->width%2 || create->height%2)          if (create->width%2 || create->height%2)
122                  return XVID_ERR_FAIL;                  return XVID_ERR_FAIL;
123    
124            if (create->width<=0 || create->height<=0)
125                    return XVID_ERR_FAIL;
126    
127          /* allocate encoder struct */          /* allocate encoder struct */
128    
129          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
# Line 250  Line 251 
251          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
252                  goto xvid_err_memory2;                  goto xvid_err_memory2;
253    
254            /* allocate quant matrix memory */
255    
256            pEnc->mbParam.mpeg_quant_matrices =
257                    xvid_malloc(sizeof(uint16_t) * 64 * 8, CACHE_LINE);
258    
259            if (pEnc->mbParam.mpeg_quant_matrices == NULL)
260                    goto xvid_err_memory2a;
261    
262          /* allocate interpolation image memory */          /* allocate interpolation image memory */
263    
264      if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {      if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
# Line 265  Line 274 
274          image_null(&pEnc->reference->image);          image_null(&pEnc->reference->image);
275          image_null(&pEnc->vInterH);          image_null(&pEnc->vInterH);
276          image_null(&pEnc->vInterV);          image_null(&pEnc->vInterV);
         image_null(&pEnc->vInterVf);  
277          image_null(&pEnc->vInterHV);          image_null(&pEnc->vInterHV);
         image_null(&pEnc->vInterHVf);  
278    
279          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
280          if (image_create          if (image_create
# Line 311  Line 318 
318                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
319                  goto xvid_err_memory3;                  goto xvid_err_memory3;
320          if (image_create          if (image_create
                 (&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create  
321                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,
322                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
323                  goto xvid_err_memory3;                  goto xvid_err_memory3;
         if (image_create  
                 (&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
324    
325  /* Create full bitplane for GMC, this might be wasteful */  /* Create full bitplane for GMC, this might be wasteful */
326          if (image_create          if (image_create
# Line 413  Line 412 
412      create->handle = (void *) pEnc;      create->handle = (void *) pEnc;
413    
414          init_timer();          init_timer();
415            init_mpeg_matrix(pEnc->mbParam.mpeg_quant_matrices);
416    
417      return 0;   /* ok */      return 0;   /* ok */
418    
# Line 472  Line 472 
472                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
473          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
474                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
475          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
476                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
477    
478  /* destroy GMC image */  /* destroy GMC image */
479          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
480                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
481    
482      xvid_err_memory2a:
483            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
484    
485    xvid_err_memory2:    xvid_err_memory2:
486          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
# Line 565  Line 563 
563                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
564          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
565                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
566          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
567                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
   
568          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
569                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
570          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
# Line 616  Line 609 
609          xvid_free(pEnc->plugins);          xvid_free(pEnc->plugins);
610      }      }
611    
612            xvid_free(pEnc->mbParam.mpeg_quant_matrices);
613    
614      if (pEnc->num_plugins>0)      if (pEnc->num_plugins>0)
615          xvid_free(pEnc->zones);          xvid_free(pEnc->zones);
616    
# Line 658  Line 653 
653          data.max_quant[i] = pEnc->mbParam.max_quant[i];          data.max_quant[i] = pEnc->mbParam.max_quant[i];
654      }      }
655    
656      data.reference.csp = XVID_CSP_USER;          data.reference.csp = XVID_CSP_PLANAR;
657      data.reference.plane[0] = pEnc->reference->image.y;      data.reference.plane[0] = pEnc->reference->image.y;
658      data.reference.plane[1] = pEnc->reference->image.u;      data.reference.plane[1] = pEnc->reference->image.u;
659      data.reference.plane[2] = pEnc->reference->image.v;      data.reference.plane[2] = pEnc->reference->image.v;
# Line 666  Line 661 
661      data.reference.stride[1] = pEnc->mbParam.edged_width/2;      data.reference.stride[1] = pEnc->mbParam.edged_width/2;
662      data.reference.stride[2] = pEnc->mbParam.edged_width/2;      data.reference.stride[2] = pEnc->mbParam.edged_width/2;
663    
664      data.current.csp = XVID_CSP_USER;          data.current.csp = XVID_CSP_PLANAR;
665      data.current.plane[0] = frame->image.y;      data.current.plane[0] = frame->image.y;
666      data.current.plane[1] = frame->image.u;      data.current.plane[1] = frame->image.u;
667      data.current.plane[2] = frame->image.v;      data.current.plane[2] = frame->image.v;
# Line 680  Line 675 
675          data.type = *type;          data.type = *type;
676          data.quant = *quant;          data.quant = *quant;
677    
678                    data.vol_flags = frame->vol_flags;
679                    data.vop_flags = frame->vop_flags;
680                    data.motion_flags = frame->motion_flags;
681    
682            } else if (opt == XVID_PLG_FRAME) {
683                    data.type = coding2type(frame->coding_type);
684                    data.quant = frame->quant;
685    
686                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
687              data.dquant = pEnc->temp_dquants;              data.dquant = pEnc->temp_dquants;
688              data.dquant_stride = pEnc->mbParam.mb_width;              data.dquant_stride = pEnc->mbParam.mb_width;
689                          memset(data.dquant, 0, data.mb_width*data.mb_height);                          memset(data.dquant, 0, data.mb_width*data.mb_height);
690          }          }
691    
         data.vol_flags = frame->vol_flags;  
         data.vop_flags = frame->vop_flags;  
         data.motion_flags = frame->motion_flags;  
   
692      } else { /* XVID_PLG_AFTER */      } else { /* XVID_PLG_AFTER */
693          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
694              data.original.csp = XVID_CSP_USER;                          data.original.csp = XVID_CSP_PLANAR;
695              data.original.plane[0] = original->y;              data.original.plane[0] = original->y;
696              data.original.plane[1] = original->u;              data.original.plane[1] = original->u;
697              data.original.plane[2] = original->v;              data.original.plane[2] = original->v;
# Line 742  Line 741 
741          data.mblks = frame->sStat.mblks;          data.mblks = frame->sStat.mblks;
742          data.ublks = frame->sStat.ublks;          data.ublks = frame->sStat.ublks;
743    
744          if (stats) {                  /* New code */
745                  stats->type = coding2type(frame->coding_type);                  data.stats.type      = coding2type(frame->coding_type);
746                  stats->quant = frame->quant;                  data.stats.quant     = frame->quant;
747                  stats->vol_flags = frame->vol_flags;                  data.stats.vol_flags = frame->vol_flags;
748                  stats->vop_flags = frame->vop_flags;                  data.stats.vop_flags = frame->vop_flags;
749                  stats->length = frame->length;                  data.stats.length    = frame->length;
750                  stats->hlength = frame->length - (frame->sStat.iTextBits / 8);                  data.stats.hlength   = frame->length - (frame->sStat.iTextBits / 8);
751                  stats->kblks = frame->sStat.kblks;                  data.stats.kblks     = frame->sStat.kblks;
752                  stats->mblks = frame->sStat.mblks;                  data.stats.mblks     = frame->sStat.mblks;
753                  stats->ublks = frame->sStat.ublks;                  data.stats.ublks     = frame->sStat.ublks;
754              stats->sse_y = data.sse_y;                  data.stats.sse_y     = data.sse_y;
755              stats->sse_u = data.sse_u;                  data.stats.sse_u     = data.sse_u;
756              stats->sse_v = data.sse_v;                  data.stats.sse_v     = data.sse_v;
757          }  
758                    if (stats)
759                            *stats = data.stats;
760      }      }
761    
762      /* call plugins */      /* call plugins */
# Line 774  Line 775 
775          *type = data.type;          *type = data.type;
776          *quant = data.quant > 0 ? data.quant : 2;   /* default */          *quant = data.quant > 0 ? data.quant : 2;   /* default */
777    
778                    frame->vol_flags = data.vol_flags;
779                    frame->vop_flags = data.vop_flags;
780                    frame->motion_flags = data.motion_flags;
781    
782            } else if (opt == XVID_PLG_FRAME) {
783    
784          if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
785              for (j=0; j<pEnc->mbParam.mb_height; j++)              for (j=0; j<pEnc->mbParam.mb_height; j++)
786              for (i=0; i<pEnc->mbParam.mb_width; i++) {              for (i=0; i<pEnc->mbParam.mb_width; i++) {
# Line 785  Line 792 
792                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
793              }              }
794          }          }
795                    frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */
         frame->vol_flags = data.vol_flags;  
         frame->vop_flags = data.vop_flags;  
         frame->motion_flags = data.motion_flags;  
     }  
796  }  }
797    
798    
799    }
800    
801    
802  static __inline void inc_frame_num(Encoder * pEnc)  static __inline void inc_frame_num(Encoder * pEnc)
# Line 810  Line 814 
814      pEnc->m_framenum--; /* debug ticker */      pEnc->m_framenum--; /* debug ticker */
815  }  }
816    
817    static __inline void
818    MBSetDquant(MACROBLOCK * pMB, int x, int y, MBParam * mbParam)
819    {
820            if (pMB->cbp == 0) {
821                    /* we want to code dquant but the quantizer value will not be used yet
822                            let's find out if we can postpone dquant to next MB
823                    */
824                    if (x == mbParam->mb_width-1 && y == mbParam->mb_height-1) {
825                            pMB->dquant = 0; /* it's the last MB of all, the easiest case */
826                            return;
827                    } else {
828                            MACROBLOCK * next = pMB + 1;
829                            const MACROBLOCK * prev = pMB - 1;
830                            if (next->mode != MODE_INTER4V && next->mode != MODE_NOT_CODED)
831                                    /* mode allows dquant change in the future */
832                                    if (abs(next->quant - prev->quant) <= 2) {
833                                            /* quant change is not out of range */
834                                            pMB->quant = prev->quant;
835                                            pMB->dquant = 0;
836                                            next->dquant = next->quant - prev->quant;
837                                            return;
838                                    }
839                    }
840            }
841            /* couldn't skip this dquant */
842            pMB->mode = MODE_INTER_Q;
843    }
844    
845    
846    
847  static __inline void  static __inline void
# Line 819  Line 851 
851      pCur->ticks = (int32_t)pCur->stamp % time_base;      pCur->ticks = (int32_t)pCur->stamp % time_base;
852                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;
853    
854                  /* HEAVY DEBUG OUTPUT remove when timecodes prove to be stable */  #if 0   /* HEAVY DEBUG OUTPUT */
855            fprintf(stderr,"WriteVop:   %d - %d \n",
 /*              fprintf(stderr,"WriteVop:   %d - %d \n",  
856                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));
857                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",                  fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",
858                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);
859                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",                  fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",
860                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);
861    #endif
862    }
863    
864  */  static int
865    gcd(int a, int b)
866    {
867            int r ;
868    
869            if (b > a) {
870                    r = a;
871                    a = b;
872                    b = r;
873            }
874    
875            while ((r = a % b)) {
876                    a = b;
877                    b = r;
878            }
879            return b;
880  }  }
881    
882    static void
883    simplify_par(int *par_width, int *par_height)
884    {
885    
886            int _par_width  = (!*par_width)  ? 1 : (*par_width<0)  ? -*par_width:  *par_width;
887            int _par_height = (!*par_height) ? 1 : (*par_height<0) ? -*par_height: *par_height;
888            int divisor = gcd(_par_width, _par_height);
889    
890            _par_width  /= divisor;
891            _par_height /= divisor;
892    
893            /* 2^8 precision maximum */
894            if (_par_width>255 || _par_height>255) {
895                    float div;
896                    emms();
897                    if (_par_width>_par_height)
898                            div = (float)_par_width/255;
899                    else
900                            div = (float)_par_height/255;
901    
902                    _par_width  = (int)((float)_par_width/div);
903                    _par_height = (int)((float)_par_height/div);
904            }
905    
906            *par_width = _par_width;
907            *par_height = _par_height;
908    
909            return;
910    }
911    
912    
913  /*****************************************************************************  /*****************************************************************************
# Line 953  Line 1030 
1030                          tmp = pEnc->current->seconds;                          tmp = pEnc->current->seconds;
1031                          pEnc->current->seconds = 0; /* force time_base = 0 */                          pEnc->current->seconds = 0; /* force time_base = 0 */
1032    
1033                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0, pEnc->current->quant);
1034                          BitstreamPad(&bs);                          BitstreamPad(&bs);
1035                          pEnc->current->seconds = tmp;                          pEnc->current->seconds = tmp;
1036    
# Line 1010  Line 1087 
1087                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1088                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1089                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1090                                    pEnc->mbParam.frame_drop_ratio = -1; /* it must be a coded vop */
1091    
1092                  FrameCodeP(pEnc, &bs, 1, 0);                                  FrameCodeP(pEnc, &bs);
1093    
1094    
1095                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {
# Line 1045  Line 1123 
1123    
1124      pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;      pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;
1125      inc_frame_num(pEnc);      inc_frame_num(pEnc);
1126      pEnc->current->vol_flags = pEnc->mbParam.vol_flags;          pEnc->current->vol_flags = frame->vol_flags;
1127      pEnc->current->vop_flags = frame->vop_flags;      pEnc->current->vop_flags = frame->vop_flags;
1128          pEnc->current->motion_flags = frame->motion;          pEnc->current->motion_flags = frame->motion;
1129          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
# Line 1075  Line 1153 
1153                  }else{                  }else{
1154                          type = MEanalysis(&pEnc->reference->image, pEnc->current,                          type = MEanalysis(&pEnc->reference->image, pEnc->current,
1155                                          &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,                                          &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,
1156                                          pEnc->iFrameNum, pEnc->bframenum_tail, xFrame->bframe_threshold);                                                            pEnc->iFrameNum, pEnc->bframenum_tail, xFrame->bframe_threshold,
1157                                                              (pEnc->bframes) ? pEnc->bframes[pEnc->bframenum_head]->mbs: NULL);
1158                  }                  }
1159          }          }
1160    
1161            if (type != I_VOP)
1162                    pEnc->current->vol_flags = pEnc->mbParam.vol_flags; /* don't allow VOL changes here */
1163    
1164      /* bframes buffer overflow check */      /* bframes buffer overflow check */
1165      if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {      if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
1166          type = P_VOP;          type = P_VOP;
# Line 1191  Line 1273 
1273                  pEnc->iFrameNum = 1;                  pEnc->iFrameNum = 1;
1274    
1275                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1276                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->mbParam.vol_flags = pEnc->current->vol_flags;
1277    
1278                    /* Aspect ratio */
1279                  switch(frame->par) {                  switch(frame->par) {
1280                  case XVID_PAR_11_VGA:                  case XVID_PAR_11_VGA:
1281                  case XVID_PAR_43_PAL:                  case XVID_PAR_43_PAL:
# Line 1202  Line 1286 
1286                          pEnc->mbParam.par = frame->par;                          pEnc->mbParam.par = frame->par;
1287                          break;                          break;
1288                  default:                  default:
1289                          pEnc->mbParam.par = XVID_PAR_EXT;                          pEnc->mbParam.par = XVID_PAR_11_VGA;
1290                          break;                          break;
1291                  }                  }
1292                  pEnc->mbParam.par_width = (frame->par_width)?frame->par_width:1;  
1293                  pEnc->mbParam.par_height = (frame->par_height)?frame->par_height:1;                  /* For extended PAR only, we try to sanityse/simplify par values */
1294                    if (pEnc->mbParam.par == XVID_PAR_EXT) {
1295                            pEnc->mbParam.par_width  = frame->par_width;
1296                            pEnc->mbParam.par_height = frame->par_height;
1297                            simplify_par(&pEnc->mbParam.par_width, &pEnc->mbParam.par_height);
1298                    }
1299    
1300          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1301                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
1302                                  set_intra_matrix(frame->quant_intra_matrix);                                  set_intra_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_intra_matrix);
1303                          if (frame->quant_inter_matrix != NULL)                          if (frame->quant_inter_matrix != NULL)
1304                                  set_inter_matrix(frame->quant_inter_matrix);                                  set_inter_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_inter_matrix);
1305                  }                  }
1306    
1307          /* prevent vol/vop misuse */          /* prevent vol/vop misuse */
# Line 1252  Line 1341 
1341                             pEnc->mbParam.edged_width, pEnc->mbParam.height);                             pEnc->mbParam.edged_width, pEnc->mbParam.height);
1342          }          }
1343    
1344                  FrameCodeP(pEnc, &bs, 1, 0);                  if ( FrameCodeP(pEnc, &bs) == 0 ) {
1345                            /* N-VOP, we mustn't code b-frames yet */
1346                            call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
1347                            goto done;
1348                    }
1349      }      }
1350    
1351    
# Line 1290  Line 1383 
1383    
1384  static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)  static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)
1385  {  {
1386      unsigned int i,j;          unsigned int i;
1387      int quant = frame->quant;          MACROBLOCK * pMB = frame->mbs;
1388            int quant = frame->mbs[0].quant; /* set by XVID_PLG_FRAME */
1389      if (quant > 31)      if (quant > 31)
1390                  frame->quant = quant = 31;                  frame->quant = quant = 31;
1391          else if (quant < 1)          else if (quant < 1)
1392                  frame->quant = quant = 1;                  frame->quant = quant = 1;
1393    
1394      for (j=0; j<pParam->mb_height; j++)          for (i = 0; i < pParam->mb_height * pParam->mb_width; i++) {
     for (i=0; i<pParam->mb_width; i++) {  
         MACROBLOCK * pMB = &frame->mbs[j*pParam->mb_width + i];  
1395          quant += pMB->dquant;          quant += pMB->dquant;
1396          if (quant > 31)          if (quant > 31)
1397                          quant = 31;                          quant = 31;
1398                  else if (quant < 1)                  else if (quant < 1)
1399                          quant = 1;                          quant = 1;
1400          pMB->quant = quant;          pMB->quant = quant;
1401                    pMB++;
1402      }      }
1403  }  }
1404    
# Line 1353  Line 1446 
1446                  start_timer();                  start_timer();
1447                  image_setedges(&pEnc->current->image,                  image_setedges(&pEnc->current->image,
1448                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1449                          pEnc->mbParam.width, pEnc->mbParam.height);                          pEnc->mbParam.width, pEnc->mbParam.height, 0);
1450                  stop_edges_timer();                  stop_edges_timer();
1451          }          }
1452    
# Line 1361  Line 1454 
1454          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1455          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
1456    
1457            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1458    
1459      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);
1460    
1461          BitstreamWriteVolHeader(bs, &pEnc->mbParam);          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1462    
1463          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1464    
1465          BitstreamPad(bs);          BitstreamPad(bs);
1466    
1467          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1, pEnc->current->mbs[0].quant);
1468    
1469          pEnc->current->sStat.iTextBits = 0;          pEnc->current->sStat.iTextBits = 0;
1470          pEnc->current->sStat.kblks = mb_width * mb_height;          pEnc->current->sStat.kblks = mb_width * mb_height;
# Line 1428  Line 1523 
1523  /* FrameCodeP also handles S(GMC)-VOPs */  /* FrameCodeP also handles S(GMC)-VOPs */
1524  static int  static int
1525  FrameCodeP(Encoder * pEnc,  FrameCodeP(Encoder * pEnc,
1526                     Bitstream * bs,                     Bitstream * bs)
                    bool force_inter,  
                    bool vol_header)  
1527  {  {
1528          float fSigma;          float fSigma;
1529      int bits = BitstreamPos(bs);      int bits = BitstreamPos(bs);
# Line 1438  Line 1531 
1531          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1532          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1533    
         int iLimit;  
1534          int x, y, k;          int x, y, k;
1535          int iSearchRange;          int iSearchRange;
1536          int bIntra=0, skip_possible;          int skip_possible;
1537          FRAMEINFO *const current = pEnc->current;          FRAMEINFO *const current = pEnc->current;
1538          FRAMEINFO *const reference = pEnc->reference;          FRAMEINFO *const reference = pEnc->reference;
1539          MBParam * const pParam = &pEnc->mbParam;          MBParam * const pParam = &pEnc->mbParam;
1540          int mb_width = pParam->mb_width;          int mb_width = pParam->mb_width;
1541          int mb_height = pParam->mb_height;          int mb_height = pParam->mb_height;
1542            int coded = 1;
1543    
1544    
1545          /* IMAGE *pCurrent = &current->image; */          /* IMAGE *pCurrent = &current->image; */
# Line 1462  Line 1555 
1555          if (!reference->is_edged) {          if (!reference->is_edged) {
1556                  start_timer();                  start_timer();
1557                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,
1558                                             pParam->width, pParam->height);                                             pParam->width, pParam->height, 0);
1559                  stop_edges_timer();                  stop_edges_timer();
1560                  reference->is_edged = 1;                  reference->is_edged = 1;
1561          }          }
# Line 1471  Line 1564 
1564          current->rounding_type = pParam->m_rounding_type;          current->rounding_type = pParam->m_rounding_type;
1565          current->fcode = pParam->m_fcode;          current->fcode = pParam->m_fcode;
1566    
         if (!force_inter)  
                 iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);  
         else  
                 iLimit = mb_width * mb_height + 1;  
   
1567          if ((current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1568                  if (reference->is_interpolated != current->rounding_type) {                  if (reference->is_interpolated != current->rounding_type) {
1569                          start_timer();                          start_timer();
# Line 1491  Line 1579 
1579    
1580          current->coding_type = P_VOP;          current->coding_type = P_VOP;
1581    
1582            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1583    
1584      SetMacroblockQuants(&pEnc->mbParam, current);      SetMacroblockQuants(&pEnc->mbParam, current);
1585    
# Line 1545  Line 1634 
1634                  }                  }
1635          }          }
1636    
         bIntra =  
1637                  MotionEstimation(&pEnc->mbParam, current, reference,                  MotionEstimation(&pEnc->mbParam, current, reference,
1638                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1639                                           &pEnc->vGMC, iLimit);                                           &pEnc->vGMC, 256*4096);
1640    
1641    
1642          stop_motion_timer();          stop_motion_timer();
1643    
         if (bIntra == 1) return FrameCodeI(pEnc, bs);  
   
1644          set_timecodes(current,reference,pParam->fbase);          set_timecodes(current,reference,pParam->fbase);
         if (vol_header)  
         {       BitstreamWriteVolHeader(bs, &pEnc->mbParam);  
                 BitstreamPad(bs);  
         }  
1645    
1646          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);
1647    
1648          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =
1649                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;
# Line 1572  Line 1654 
1654                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
1655                                  &current->mbs[x + y * pParam->mb_width];                                  &current->mbs[x + y * pParam->mb_width];
1656    
1657                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          int bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1658    
1659                          if (bIntra) {                          if (bIntra) {
1660                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
# Line 1609  Line 1691 
1691    
1692                          stop_comp_timer();                          stop_comp_timer();
1693    
                         if (pMB->dquant != 0) {  
                 pMB->mode = MODE_INTER_Q;  
                         }  
   
1694                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1695    
1696                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
# Line 1621  Line 1699 
1699                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1700                          }                          }
1701    
1702                            if (pMB->dquant != 0)
1703                                    MBSetDquant(pMB, x, y, &pEnc->mbParam);
1704    
1705    
1706                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1707                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1708                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
# Line 1773  Line 1855 
1855  #if 0  #if 0
1856          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);
1857  #endif  #endif
1858          if (current->sStat.kblks + current->sStat.mblks <          if (current->sStat.kblks + current->sStat.mblks <=
1859                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100)                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100 &&
1860                    ( (pEnc->bframenum_head >= pEnc->bframenum_tail) || !(pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP)) )
1861          {          {
1862                  current->sStat.kblks = current->sStat.mblks = 0;                  current->sStat.kblks = current->sStat.mblks = 0;
1863                  current->sStat.ublks = mb_width * mb_height;                  current->sStat.ublks = mb_width * mb_height;
# Line 1782  Line 1865 
1865                  BitstreamReset(bs);                  BitstreamReset(bs);
1866    
1867                  set_timecodes(current,reference,pParam->fbase);                  set_timecodes(current,reference,pParam->fbase);
1868                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0);                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0, current->mbs[0].quant);
1869    
1870                  /* copy reference frame details into the current frame */                  /* copy reference frame details into the current frame */
1871                  current->quant = reference->quant;                  current->quant = reference->quant;
# Line 1790  Line 1873 
1873                  current->rounding_type = reference->rounding_type;                  current->rounding_type = reference->rounding_type;
1874                  current->fcode = reference->fcode;                  current->fcode = reference->fcode;
1875                  current->bcode = reference->bcode;                  current->bcode = reference->bcode;
1876                    current->stamp = reference->stamp;
1877                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);
1878                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
1879          }                  coded = 0;
1880    
1881            } else {
1882    
1883          pEnc->current->is_edged = 0; /* not edged */          pEnc->current->is_edged = 0; /* not edged */
1884          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */
# Line 1803  Line 1889 
1889          image_swap(&pEnc->vInterH, &pEnc->f_refh);          image_swap(&pEnc->vInterH, &pEnc->f_refh);
1890          image_swap(&pEnc->vInterV, &pEnc->f_refv);          image_swap(&pEnc->vInterV, &pEnc->f_refv);
1891          image_swap(&pEnc->vInterHV, &pEnc->f_refhv);          image_swap(&pEnc->vInterHV, &pEnc->f_refhv);
1892            }
1893    
1894          /* XXX: debug          /* XXX: debug
1895          {          {
# Line 1824  Line 1910 
1910    
1911      current->length = (BitstreamPos(bs) - bits) / 8;      current->length = (BitstreamPos(bs) - bits) / 8;
1912    
1913          return 0;                                       /* inter */          return coded;
1914  }  }
1915    
1916    
# Line 1859  Line 1945 
1945          if (!pEnc->reference->is_edged) {          if (!pEnc->reference->is_edged) {
1946                  image_setedges(f_ref, pEnc->mbParam.edged_width,                  image_setedges(f_ref, pEnc->mbParam.edged_width,
1947                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
1948                                             pEnc->mbParam.height);                                             pEnc->mbParam.height, 0);
1949                  pEnc->current->is_edged = 1;                  pEnc->current->is_edged = 1;
1950          }          }
1951    
# Line 1876  Line 1962 
1962          if (!pEnc->current->is_edged) {          if (!pEnc->current->is_edged) {
1963                  image_setedges(b_ref, pEnc->mbParam.edged_width,                  image_setedges(b_ref, pEnc->mbParam.edged_width,
1964                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
1965                                             pEnc->mbParam.height);                                             pEnc->mbParam.height, 0);
1966                  pEnc->current->is_edged = 1;                  pEnc->current->is_edged = 1;
1967          }          }
1968    
# Line 1889  Line 1975 
1975                  pEnc->current->is_interpolated = 0;                  pEnc->current->is_interpolated = 0;
1976          }          }
1977    
1978            frame->coding_type = B_VOP;
1979            call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);
1980    
1981          start_timer();          start_timer();
1982          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,
1983                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */
# Line 1899  Line 1988 
1988                                                   &pEnc->vInterV, &pEnc->vInterHV);                                                   &pEnc->vInterV, &pEnc->vInterHV);
1989          stop_motion_timer();          stop_motion_timer();
1990    
         frame->coding_type = B_VOP;  
   
1991          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
1992          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1, frame->quant);
1993    
1994          frame->sStat.iTextBits = 0;          frame->sStat.iTextBits = 0;
1995          frame->sStat.iMvSum = 0;          frame->sStat.iMvSum = 0;
Legend:
Removed from v.1.95.2.51  
changed lines
  Added in v.1.102.2.4
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4