[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.58, Fri Dec 12 14:16:40 2003 UTC revision 1.106, Sat Jul 17 11:42:46 2004 UTC
# Line 57  Line 57 
57                                            Bitstream * bs);                                            Bitstream * bs);
58    
59  static int FrameCodeP(Encoder * pEnc,  static int FrameCodeP(Encoder * pEnc,
60                                            Bitstream * bs,                                            Bitstream * bs);
                                           bool force_inter,  
                                           bool vol_header);  
61    
62  static void FrameCodeB(Encoder * pEnc,  static void FrameCodeB(Encoder * pEnc,
63                                             FRAMEINFO * frame,                                             FRAMEINFO * frame,
# Line 102  Line 100 
100                  i--;                  i--;
101          }          }
102    
103          /* if neccessary, round to 65535 accuracy */          if (*base > 65535 || *inc > 65535) {
104          if (*base > 65535) {                  int *biggest;
105                  float div = (float) *base / 65535;                  int *other;
106                  *base = (int) (*base / div);  
107                  *inc = (int) (*inc / div);                  if (*base > *inc) {
108                            biggest = base;
109                            other = inc;
110                    } else {
111                            biggest = inc;
112                            other = base;
113                    }
114    
115                    float div = ((float)*biggest)/((float)65535);
116                    *biggest = (int)(((float)*biggest)/div);
117                    *other = (int)(((float)*other)/div);
118          }          }
119  }  }
120    
# Line 123  Line 131 
131          if (create->width%2 || create->height%2)          if (create->width%2 || create->height%2)
132                  return XVID_ERR_FAIL;                  return XVID_ERR_FAIL;
133    
134            if (create->width<=0 || create->height<=0)
135                    return XVID_ERR_FAIL;
136    
137          /* allocate encoder struct */          /* allocate encoder struct */
138    
139          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
# Line 652  Line 663 
663                  data.max_quant[i] = pEnc->mbParam.max_quant[i];                  data.max_quant[i] = pEnc->mbParam.max_quant[i];
664          }          }
665    
666          data.reference.csp = XVID_CSP_USER;          data.reference.csp = XVID_CSP_PLANAR;
667          data.reference.plane[0] = pEnc->reference->image.y;          data.reference.plane[0] = pEnc->reference->image.y;
668          data.reference.plane[1] = pEnc->reference->image.u;          data.reference.plane[1] = pEnc->reference->image.u;
669          data.reference.plane[2] = pEnc->reference->image.v;          data.reference.plane[2] = pEnc->reference->image.v;
# Line 660  Line 671 
671          data.reference.stride[1] = pEnc->mbParam.edged_width/2;          data.reference.stride[1] = pEnc->mbParam.edged_width/2;
672          data.reference.stride[2] = pEnc->mbParam.edged_width/2;          data.reference.stride[2] = pEnc->mbParam.edged_width/2;
673    
674          data.current.csp = XVID_CSP_USER;          data.current.csp = XVID_CSP_PLANAR;
675          data.current.plane[0] = frame->image.y;          data.current.plane[0] = frame->image.y;
676          data.current.plane[1] = frame->image.u;          data.current.plane[1] = frame->image.u;
677          data.current.plane[2] = frame->image.v;          data.current.plane[2] = frame->image.v;
# Line 690  Line 701 
701    
702          } else { /* XVID_PLG_AFTER */          } else { /* XVID_PLG_AFTER */
703                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
704                          data.original.csp = XVID_CSP_USER;                          data.original.csp = XVID_CSP_PLANAR;
705                          data.original.plane[0] = original->y;                          data.original.plane[0] = original->y;
706                          data.original.plane[1] = original->u;                          data.original.plane[1] = original->u;
707                          data.original.plane[2] = original->v;                          data.original.plane[2] = original->v;
# Line 740  Line 751 
751                  data.mblks = frame->sStat.mblks;                  data.mblks = frame->sStat.mblks;
752                  data.ublks = frame->sStat.ublks;                  data.ublks = frame->sStat.ublks;
753    
754                  if (stats) {                  /* New code */
755                          stats->type = coding2type(frame->coding_type);                  data.stats.type      = coding2type(frame->coding_type);
756                          stats->quant = frame->quant;                  data.stats.quant     = frame->quant;
757                          stats->vol_flags = frame->vol_flags;                  data.stats.vol_flags = frame->vol_flags;
758                          stats->vop_flags = frame->vop_flags;                  data.stats.vop_flags = frame->vop_flags;
759                          stats->length = frame->length;                  data.stats.length    = frame->length;
760                          stats->hlength = frame->length - (frame->sStat.iTextBits / 8);                  data.stats.hlength   = frame->length - (frame->sStat.iTextBits / 8);
761                          stats->kblks = frame->sStat.kblks;                  data.stats.kblks     = frame->sStat.kblks;
762                          stats->mblks = frame->sStat.mblks;                  data.stats.mblks     = frame->sStat.mblks;
763                          stats->ublks = frame->sStat.ublks;                  data.stats.ublks     = frame->sStat.ublks;
764                          stats->sse_y = data.sse_y;                  data.stats.sse_y     = data.sse_y;
765                          stats->sse_u = data.sse_u;                  data.stats.sse_u     = data.sse_u;
766                          stats->sse_v = data.sse_v;                  data.stats.sse_v     = data.sse_v;
767                  }  
768                    if (stats)
769                            *stats = data.stats;
770          }          }
771    
772          /* call plugins */          /* call plugins */
# Line 1084  Line 1097 
1097                                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",                                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1098                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1099                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1100                                    pEnc->mbParam.frame_drop_ratio = -1; /* it must be a coded vop */
1101    
1102                                  FrameCodeP(pEnc, &bs, 1, 0);                                  FrameCodeP(pEnc, &bs);
1103    
1104    
1105                                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {                                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {
# Line 1119  Line 1133 
1133    
1134          pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;          pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;
1135          inc_frame_num(pEnc);          inc_frame_num(pEnc);
1136          pEnc->current->vol_flags = pEnc->mbParam.vol_flags;          pEnc->current->vol_flags = frame->vol_flags;
1137          pEnc->current->vop_flags = frame->vop_flags;          pEnc->current->vop_flags = frame->vop_flags;
1138          pEnc->current->motion_flags = frame->motion;          pEnc->current->motion_flags = frame->motion;
1139          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
# Line 1154  Line 1168 
1168                  }                  }
1169          }          }
1170    
1171            if (type != I_VOP)
1172                    pEnc->current->vol_flags = pEnc->mbParam.vol_flags; /* don't allow VOL changes here */
1173    
1174          /* bframes buffer overflow check */          /* bframes buffer overflow check */
1175          if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {          if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
1176                  type = P_VOP;                  type = P_VOP;
# Line 1266  Line 1283 
1283                  pEnc->iFrameNum = 1;                  pEnc->iFrameNum = 1;
1284    
1285                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1286                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->mbParam.vol_flags = pEnc->current->vol_flags;
1287    
1288                  /* Aspect ratio */                  /* Aspect ratio */
1289                  switch(frame->par) {                  switch(frame->par) {
# Line 1334  Line 1351 
1351                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);
1352                  }                  }
1353    
1354                  FrameCodeP(pEnc, &bs, 1, 0);                  if ( FrameCodeP(pEnc, &bs) == 0 ) {
1355                            /* N-VOP, we mustn't code b-frames yet */
1356                            call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);
1357                            goto done;
1358                    }
1359          }          }
1360    
1361    
# Line 1435  Line 1456 
1456                  start_timer();                  start_timer();
1457                  image_setedges(&pEnc->current->image,                  image_setedges(&pEnc->current->image,
1458                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1459                          pEnc->mbParam.width, pEnc->mbParam.height);                          pEnc->mbParam.width, pEnc->mbParam.height, 0);
1460                  stop_edges_timer();                  stop_edges_timer();
1461          }          }
1462    
# Line 1447  Line 1468 
1468    
1469          SetMacroblockQuants(&pEnc->mbParam, pEnc->current);          SetMacroblockQuants(&pEnc->mbParam, pEnc->current);
1470    
1471          BitstreamWriteVolHeader(bs, &pEnc->mbParam);          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1472    
1473          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1474    
# Line 1512  Line 1533 
1533  /* FrameCodeP also handles S(GMC)-VOPs */  /* FrameCodeP also handles S(GMC)-VOPs */
1534  static int  static int
1535  FrameCodeP(Encoder * pEnc,  FrameCodeP(Encoder * pEnc,
1536                     Bitstream * bs,                     Bitstream * bs)
                    bool force_inter,  
                    bool vol_header)  
1537  {  {
1538          float fSigma;          float fSigma;
1539          int bits = BitstreamPos(bs);          int bits = BitstreamPos(bs);
# Line 1522  Line 1541 
1541          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1542          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1543    
         int iLimit;  
1544          int x, y, k;          int x, y, k;
1545          int iSearchRange;          int iSearchRange;
1546          int bIntra=0, skip_possible;          int skip_possible;
1547          FRAMEINFO *const current = pEnc->current;          FRAMEINFO *const current = pEnc->current;
1548          FRAMEINFO *const reference = pEnc->reference;          FRAMEINFO *const reference = pEnc->reference;
1549          MBParam * const pParam = &pEnc->mbParam;          MBParam * const pParam = &pEnc->mbParam;
1550          int mb_width = pParam->mb_width;          int mb_width = pParam->mb_width;
1551          int mb_height = pParam->mb_height;          int mb_height = pParam->mb_height;
1552            int coded = 1;
1553    
1554    
1555          /* IMAGE *pCurrent = &current->image; */          /* IMAGE *pCurrent = &current->image; */
# Line 1546  Line 1565 
1565          if (!reference->is_edged) {          if (!reference->is_edged) {
1566                  start_timer();                  start_timer();
1567                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,
1568                                             pParam->width, pParam->height);                                             pParam->width, pParam->height, 0);
1569                  stop_edges_timer();                  stop_edges_timer();
1570                  reference->is_edged = 1;                  reference->is_edged = 1;
1571          }          }
# Line 1555  Line 1574 
1574          current->rounding_type = pParam->m_rounding_type;          current->rounding_type = pParam->m_rounding_type;
1575          current->fcode = pParam->m_fcode;          current->fcode = pParam->m_fcode;
1576    
         if (!force_inter)  
                 iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);  
         else  
                 iLimit = mb_width * mb_height + 1;  
   
1577          if ((current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1578                  if (reference->is_interpolated != current->rounding_type) {                  if (reference->is_interpolated != current->rounding_type) {
1579                          start_timer();                          start_timer();
# Line 1630  Line 1644 
1644                  }                  }
1645          }          }
1646    
         bIntra =  
1647                  MotionEstimation(&pEnc->mbParam, current, reference,                  MotionEstimation(&pEnc->mbParam, current, reference,
1648                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1649                                           &pEnc->vGMC, iLimit);                                           &pEnc->vGMC, 256*4096);
1650    
1651    
1652          stop_motion_timer();          stop_motion_timer();
1653    
         if (bIntra == 1) return FrameCodeI(pEnc, bs);  
   
1654          set_timecodes(current,reference,pParam->fbase);          set_timecodes(current,reference,pParam->fbase);
         if (vol_header)  
         {       BitstreamWriteVolHeader(bs, &pEnc->mbParam);  
                 BitstreamPad(bs);  
         }  
1655    
1656          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);
1657    
# Line 1657  Line 1664 
1664                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
1665                                  &current->mbs[x + y * pParam->mb_width];                                  &current->mbs[x + y * pParam->mb_width];
1666    
1667                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          int bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1668    
1669                          if (bIntra) {                          if (bIntra) {
1670                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
# Line 1858  Line 1865 
1865  #if 0  #if 0
1866          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);
1867  #endif  #endif
1868          if (current->sStat.kblks + current->sStat.mblks <          if (current->sStat.kblks + current->sStat.mblks <=
1869                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100)                  (pParam->frame_drop_ratio * mb_width * mb_height) / 100 &&
1870                    ( (pEnc->bframenum_head >= pEnc->bframenum_tail) || !(pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP)) )
1871          {          {
1872                  current->sStat.kblks = current->sStat.mblks = 0;                  current->sStat.kblks = current->sStat.mblks = 0;
1873                  current->sStat.ublks = mb_width * mb_height;                  current->sStat.ublks = mb_width * mb_height;
# Line 1875  Line 1883 
1883                  current->rounding_type = reference->rounding_type;                  current->rounding_type = reference->rounding_type;
1884                  current->fcode = reference->fcode;                  current->fcode = reference->fcode;
1885                  current->bcode = reference->bcode;                  current->bcode = reference->bcode;
1886                    current->stamp = reference->stamp;
1887                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);
1888                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
1889          }                  coded = 0;
1890    
1891            } else {
1892    
1893          pEnc->current->is_edged = 0; /* not edged */          pEnc->current->is_edged = 0; /* not edged */
1894          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */
# Line 1888  Line 1899 
1899          image_swap(&pEnc->vInterH, &pEnc->f_refh);          image_swap(&pEnc->vInterH, &pEnc->f_refh);
1900          image_swap(&pEnc->vInterV, &pEnc->f_refv);          image_swap(&pEnc->vInterV, &pEnc->f_refv);
1901          image_swap(&pEnc->vInterHV, &pEnc->f_refhv);          image_swap(&pEnc->vInterHV, &pEnc->f_refhv);
1902            }
1903    
1904          /* XXX: debug          /* XXX: debug
1905          {          {
# Line 1909  Line 1920 
1920    
1921          current->length = (BitstreamPos(bs) - bits) / 8;          current->length = (BitstreamPos(bs) - bits) / 8;
1922    
1923          return 0;                                       /* inter */          return coded;
1924  }  }
1925    
1926    
# Line 1944  Line 1955 
1955          if (!pEnc->reference->is_edged) {          if (!pEnc->reference->is_edged) {
1956                  image_setedges(f_ref, pEnc->mbParam.edged_width,                  image_setedges(f_ref, pEnc->mbParam.edged_width,
1957                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
1958                                             pEnc->mbParam.height);                                             pEnc->mbParam.height, 0);
1959                  pEnc->current->is_edged = 1;                  pEnc->current->is_edged = 1;
1960          }          }
1961    
# Line 1961  Line 1972 
1972          if (!pEnc->current->is_edged) {          if (!pEnc->current->is_edged) {
1973                  image_setedges(b_ref, pEnc->mbParam.edged_width,                  image_setedges(b_ref, pEnc->mbParam.edged_width,
1974                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
1975                                             pEnc->mbParam.height);                                             pEnc->mbParam.height, 0);
1976                  pEnc->current->is_edged = 1;                  pEnc->current->is_edged = 1;
1977          }          }
1978    
Legend:
Removed from v.1.95.2.58  
changed lines
  Added in v.1.106
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4