[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.25, Thu May 22 16:34:47 2003 UTC revision 1.95.2.46, Mon Oct 27 00:50:05 2003 UTC
# Line 3  Line 3 
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  -  Encoder main module  -   *  -  Encoder main module  -
5   *   *
6   *  This program is an implementation of a part of one or more MPEG-4   *  Copyright(C) 2002      Michael Militzer <isibaar@xvid.org>
7   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending   *               2002-2003 Peter Ross <pross@xvid.org>
8   *  to use this software module in hardware or software products are   *               2002      Daniel Smith <danielsmith@astroboymail.com>
  *  advised that its use may infringe existing patents or copyrights, and  
  *  any such use would be at such party's own risk.  The original  
  *  developer of this software module and his/her company, and subsequent  
  *  editors and their companies, will have no liability for use of this  
  *  software or modifications or derivatives thereof.  
9   *   *
10   *  This program is free software; you can redistribute it and/or modify   *  This program is free software; you can redistribute it and/or modify
11   *  it under the terms of the GNU General Public License as published by   *  it under the terms of the GNU General Public License as published by
# Line 43  Line 38 
38  #include "image/font.h"  #include "image/font.h"
39  #include "motion/sad.h"  #include "motion/sad.h"
40  #include "motion/motion.h"  #include "motion/motion.h"
41    #include "motion/gmc.h"
42    
43  #include "bitstream/cbp.h"  #include "bitstream/cbp.h"
44  #include "utils/mbfunctions.h"  #include "utils/mbfunctions.h"
45  #include "bitstream/bitstream.h"  #include "bitstream/bitstream.h"
46  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
47  #include "utils/emms.h"  #include "utils/emms.h"
48  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
 #include "quant/adapt_quant.h"  
49  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
50  #include "utils/mem_align.h"  #include "utils/mem_align.h"
51    
# Line 121  Line 117 
117          Encoder *pEnc;          Encoder *pEnc;
118      int n;      int n;
119    
120          if (XVID_MAJOR(create->version) != 1)   /* v1.x.x */          if (XVID_VERSION_MAJOR(create->version) != 1) /* v1.x.x */
121                  return XVID_ERR_VERSION;                  return XVID_ERR_VERSION;
122    
123          if (create->width%2 || create->height%2)          if (create->width%2 || create->height%2)
# Line 211  Line 207 
207      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
208              pEnc->temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width *              pEnc->temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width *
209                                              pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);                                              pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);
210            if (pEnc->temp_dquants==NULL)
211                goto xvid_err_memory1a;
212      }      }
     /* XXX: error checking */  
213    
214          /* bframes */          /* bframes */
215          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);          pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);
# Line 229  Line 226 
226          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);          pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);
227    
228      /* max keyframe interval */      /* max keyframe interval */
229      pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ?      pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ? (10 * (int)pEnc->mbParam.fbase) / (int)pEnc->mbParam.fincr : create->max_key_interval;
                 10 * pEnc->mbParam.fbase / pEnc->mbParam.fincr : create->max_key_interval;  
   
         /* Bitrate allocator defaults  
   
         if ((create->min_quantizer <= 0) || (create->min_quantizer > 31))  
                 create->min_quantizer = 1;  
   
         if ((create->max_quantizer <= 0) || (create->max_quantizer > 31))  
                 create->max_quantizer = 31;  
   
         if (create->max_quantizer < create->min_quantizer)  
                 create->max_quantizer = create->min_quantizer; */  
   
230    
231      /* allocate working frame-image memory */      /* allocate working frame-image memory */
232    
# Line 405  Line 389 
389                  image_null(&pEnc->queue[n].image);                  image_null(&pEnc->queue[n].image);
390    
391    
392          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++)          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {
         {  
393                  if (image_create                  if (image_create
394                          (&pEnc->queue[n].image, pEnc->mbParam.edged_width,                          (&pEnc->queue[n].image, pEnc->mbParam.edged_width,
395                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
396                          goto xvid_err_memory5;                          goto xvid_err_memory5;
   
397          }          }
398    
   
399          /* timestamp stuff */          /* timestamp stuff */
400    
401          pEnc->mbParam.m_stamp = 0;          pEnc->mbParam.m_stamp = 0;
# Line 439  Line 420 
420    
421    xvid_err_memory5:    xvid_err_memory5:
422    
423          if (pEnc->mbParam.max_bframes > 0) {          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {
424          int i;                          image_destroy(&pEnc->queue[n].image, pEnc->mbParam.edged_width,
   
                 for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {  
                         image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,  
425                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
426                  }                  }
427    
428                  xvid_free(pEnc->queue);                  xvid_free(pEnc->queue);
         }  
429    
430    xvid_err_memory4:    xvid_err_memory4:
431    
# Line 461  Line 439 
439    
440                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
441                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
   
442                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
   
443                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
   
444                  }                  }
445    
446                  xvid_free(pEnc->bframes);                  xvid_free(pEnc->bframes);
# Line 515  Line 490 
490          xvid_free(pEnc->current);          xvid_free(pEnc->current);
491          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
492    
493      xvid_err_memory1a:
494      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {      if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
495              xvid_free(pEnc->temp_dquants);              xvid_free(pEnc->temp_dquants);
496      }      }
# Line 553  Line 529 
529          int i;          int i;
530    
531          /* B Frames specific */          /* B Frames specific */
         if (pEnc->mbParam.max_bframes > 0) {  
   
532                  for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {                  for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {
   
533                          image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,
534                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
535                  }                  }
                 xvid_free(pEnc->queue);  
         }  
536    
537            xvid_free(pEnc->queue);
538    
539          if (pEnc->mbParam.max_bframes > 0) {          if (pEnc->mbParam.max_bframes > 0) {
540    
# Line 573  Line 545 
545    
546                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
547                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
   
548                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
   
549                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
550                  }                  }
551    
# Line 703  Line 673 
673      data.frame_num = frame->frame_num;      data.frame_num = frame->frame_num;
674    
675      if (opt == XVID_PLG_BEFORE) {      if (opt == XVID_PLG_BEFORE) {
676          data.type = XVID_TYPE_AUTO;          data.type = *type;
677          data.quant = 0;          data.quant = *quant;
678    
679                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {
680              data.dquant = pEnc->temp_dquants;              data.dquant = pEnc->temp_dquants;
# Line 712  Line 682 
682                          memset(data.dquant, 0, data.mb_width*data.mb_height);                          memset(data.dquant, 0, data.mb_width*data.mb_height);
683          }          }
684    
685          /* todo: [vol,vop,motion]_flags*/          data.vol_flags = frame->vol_flags;
686            data.vop_flags = frame->vop_flags;
687            data.motion_flags = frame->motion_flags;
688    
689      } else { // XVID_PLG_AFTER      } else { /* XVID_PLG_AFTER */
690          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
691              data.original.csp = XVID_CSP_USER;              data.original.csp = XVID_CSP_USER;
692              data.original.plane[0] = original->y;              data.original.plane[0] = original->y;
# Line 753  Line 725 
725    
726              for (j=0; j<pEnc->mbParam.mb_height; j++)              for (j=0; j<pEnc->mbParam.mb_height; j++)
727              for (i=0; i<pEnc->mbParam.mb_width; i++) {              for (i=0; i<pEnc->mbParam.mb_width; i++) {
728                  data.dquant[j*data.dquant_stride + i] = frame->mbs[j*pEnc->mbParam.mb_width + i].dquant;;                  data.dquant[j*data.dquant_stride + i] = frame->mbs[j*pEnc->mbParam.mb_width + i].dquant;
729              }              }
730          }          }
731    
# Line 783  Line 755 
755      }      }
756    
757      /* call plugins */      /* call plugins */
758      for (i=0; i<pEnc->num_plugins;i++) {      for (i=0; i<(unsigned int)pEnc->num_plugins;i++) {
759          emms();          emms();
760          if (pEnc->plugins[i].func) {          if (pEnc->plugins[i].func) {
761              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {              if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {
# Line 809  Line 781 
781                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;                  frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;
782              }              }
783          }          }
784          /* todo: [vol,vop,motion]_flags*/  
785            frame->vol_flags = data.vol_flags;
786            frame->vop_flags = data.vop_flags;
787            frame->motion_flags = data.motion_flags;
788      }      }
789  }  }
790    
# Line 876  Line 851 
851          int type;          int type;
852          Bitstream bs;          Bitstream bs;
853    
854          if (XVID_MAJOR(xFrame->version) != 1 || (stats && XVID_MAJOR(stats->version) != 1))     /* v1.x.x */          if (XVID_VERSION_MAJOR(xFrame->version) != 1 || (stats && XVID_VERSION_MAJOR(stats->version) != 1))     /* v1.x.x */
855                  return XVID_ERR_VERSION;                  return XVID_ERR_VERSION;
856    
857          xFrame->out_flags = 0;          xFrame->out_flags = 0;
# Line 913  Line 888 
888    
889                  if (xFrame->quant_intra_matrix)                  if (xFrame->quant_intra_matrix)
890                  {                  {
891                          memcpy(q->quant_intra_matrix, xFrame->quant_intra_matrix, sizeof(xFrame->quant_intra_matrix));                          memcpy(q->quant_intra_matrix, xFrame->quant_intra_matrix, 64*sizeof(unsigned char));
892                          q->frame.quant_intra_matrix = q->quant_intra_matrix;                          q->frame.quant_intra_matrix = q->quant_intra_matrix;
893                  }                  }
894    
895                  if (xFrame->quant_inter_matrix)                  if (xFrame->quant_inter_matrix)
896                  {                  {
897                          memcpy(q->quant_inter_matrix, xFrame->quant_inter_matrix, sizeof(xFrame->quant_inter_matrix));                          memcpy(q->quant_inter_matrix, xFrame->quant_inter_matrix, 64*sizeof(unsigned char));
898                          q->frame.quant_inter_matrix = q->quant_inter_matrix;                          q->frame.quant_inter_matrix = q->quant_inter_matrix;
899                  }                  }
900    
# Line 1019  Line 994 
994                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
995    
996                                  /* convert B-VOP to P-VOP */                                  /* convert B-VOP to P-VOP */
997                  pEnc->current->quant = ((pEnc->current->quant*100) - pEnc->mbParam.bquant_offset) / pEnc->mbParam.bquant_ratio;                  pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;
998                                    pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */
999                                    pEnc->current->quant /= pEnc->mbParam.bquant_ratio;
1000    
1001                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {
1002                              image_copy(&pEnc->sOriginal, &pEnc->current->image,                              image_copy(&pEnc->sOriginal, &pEnc->current->image,
# Line 1048  Line 1025 
1025                  goto done;      /* nothing to encode yet; encoder lag */                  goto done;      /* nothing to encode yet; encoder lag */
1026          }          }
1027    
1028          // the current FRAME becomes the reference          /* the current FRAME becomes the reference */
1029          SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);          SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);
1030    
1031          // remove frame from encoding-queue (head), and move it into the current          /* remove frame from encoding-queue (head), and move it into the current */
1032          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);
1033          frame = &pEnc->queue[pEnc->queue_head].frame;          frame = &pEnc->queue[pEnc->queue_head].frame;
1034          pEnc->queue_head = (pEnc->queue_head + 1) % (pEnc->mbParam.max_bframes+1);          pEnc->queue_head = (pEnc->queue_head + 1) % (pEnc->mbParam.max_bframes+1);
# Line 1107  Line 1084 
1084    
1085          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {
1086                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
1087                          "%i  st:%i  if:%i", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);                          "%d  st:%lld  if:%d", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);
1088          }          }
1089    
1090          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
# Line 1167  Line 1144 
1144    
1145      if (type == I_VOP && (pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP) && pEnc->bframenum_tail > 0) {      if (type == I_VOP && (pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP) && pEnc->bframenum_tail > 0) {
1146    
1147                  // place this frame back on the encoding-queue (head)                  /* place this frame back on the encoding-queue (head) */
1148                  // we will deal with it next time                  /* we will deal with it next time */
1149          dec_frame_num(pEnc);          dec_frame_num(pEnc);
1150          pEnc->iFrameNum--;          pEnc->iFrameNum--;
1151    
# Line 1176  Line 1153 
1153          pEnc->queue_size++;          pEnc->queue_size++;
1154                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);
1155    
1156                  // grab the last frame from the bframe-queue                  /* grab the last frame from the bframe-queue */
1157    
1158                  pEnc->bframenum_tail--;                  pEnc->bframenum_tail--;
1159                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
# Line 1186  Line 1163 
1163                  }                  }
1164    
1165                  /* convert B-VOP quant to P-VOP */                  /* convert B-VOP quant to P-VOP */
1166                  pEnc->current->quant = ((pEnc->current->quant*100) - pEnc->mbParam.bquant_offset) / pEnc->mbParam.bquant_ratio;                  pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;
1167                    pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */
1168                    pEnc->current->quant /= pEnc->mbParam.bquant_ratio;
1169          type = P_VOP;          type = P_VOP;
1170      }      }
1171    
# Line 1205  Line 1184 
1184                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
1185                  }                  }
1186    
1187                    pEnc->iFrameNum = 1;
1188    
1189                  /* ---- update vol flags at IVOP ----------- */                  /* ---- update vol flags at IVOP ----------- */
1190                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;                  pEnc->current->vol_flags = pEnc->mbParam.vol_flags = frame->vol_flags;
1191                    switch(frame->par) {
1192                    case XVID_PAR_11_VGA:
1193                    case XVID_PAR_43_PAL:
1194                    case XVID_PAR_43_NTSC:
1195                    case XVID_PAR_169_PAL:
1196                    case XVID_PAR_169_NTSC:
1197                    case XVID_PAR_EXT:
1198                            pEnc->mbParam.par = frame->par;
1199                            break;
1200                    default:
1201                            pEnc->mbParam.par = XVID_PAR_EXT;
1202                            break;
1203                    }
1204                    pEnc->mbParam.par_width = (frame->par_width)?frame->par_width:1;
1205                    pEnc->mbParam.par_height = (frame->par_height)?frame->par_height:1;
1206    
1207          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {          if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {
1208                          if (frame->quant_intra_matrix != NULL)                          if (frame->quant_intra_matrix != NULL)
# Line 1238  Line 1233 
1233           * encode this frame as an p-vop           * encode this frame as an p-vop
1234       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */       * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1235    
1236      } else { // (type == P_VOP || type == S_VOP)      } else { /* (type == P_VOP || type == S_VOP) */
1237    
1238                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",
1239                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
# Line 1261  Line 1256 
1256           * on next enc_encode call we must flush bframes           * on next enc_encode call we must flush bframes
1257           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
1258    
1259  done_flush:  /*done_flush:*/
1260    
1261      pEnc->flush_bframes = 1;      pEnc->flush_bframes = 1;
1262    
# Line 1293  Line 1288 
1288  {  {
1289      unsigned int i,j;      unsigned int i,j;
1290      int quant = frame->quant;      int quant = frame->quant;
1291        if (quant > 31)
1292                    frame->quant = quant = 31;
1293            else if (quant < 1)
1294                    frame->quant = quant = 1;
1295    
1296      for (j=0; j<pParam->mb_height; j++)      for (j=0; j<pParam->mb_height; j++)
1297      for (i=0; i<pParam->mb_width; i++) {      for (i=0; i<pParam->mb_width; i++) {
# Line 1300  Line 1299 
1299          quant += pMB->dquant;          quant += pMB->dquant;
1300          if (quant > 31)          if (quant > 31)
1301                          quant = 31;                          quant = 31;
1302                  if (quant < 1)                  else if (quant < 1)
1303                          quant = 1;                          quant = 1;
1304          pMB->quant = quant;          pMB->quant = quant;
1305      }      }
# Line 1364  Line 1363 
1363    
1364          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1365    
1366          BitstreamPadAlways(bs);          BitstreamPad(bs);
1367    
1368          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1369    
1370          pEnc->current->sStat.iTextBits = 0;          pEnc->current->sStat.iTextBits = 0;
# Line 1403  Line 1403 
1403          }          }
1404          emms();          emms();
1405    
1406  /* XXX: Remove the two #if 0 blocks when we are sure we must always pad the stream */          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */
1407  #if 0  
         /* for divx5 compatibility, we must always pad between the packed p and b frames */  
         if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0)  
 #endif  
                 BitstreamPadAlways(bs);  
 #if 0  
         else  
                 BitstreamPad(bs);  
 #endif  
1408      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;
1409    
1410          pEnc->fMvPrevSigma = -1;          pEnc->fMvPrevSigma = -1;
1411          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
1412    
     /* XXX: hinted me  
         if (pEnc->current->global_flags & XVID_HINTEDME_GET) {  
                 HintedMEGet(pEnc, 1);  
         }*/  
   
1413          return 1;                                       /* intra */          return 1;                                       /* intra */
1414  }  }
1415    
# Line 1444  Line 1431 
1431          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1432          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1433    
         int mb_width = pEnc->mbParam.mb_width;  
         int mb_height = pEnc->mbParam.mb_height;  
   
1434          int iLimit;          int iLimit;
1435          int x, y, k;          int x, y, k;
1436          int iSearchRange;          int iSearchRange;
1437          int bIntra, skip_possible;          int bIntra=0, skip_possible;
1438            FRAMEINFO *const current = pEnc->current;
1439            FRAMEINFO *const reference = pEnc->reference;
1440            MBParam * const pParam = &pEnc->mbParam;
1441            int mb_width = pParam->mb_width;
1442            int mb_height = pParam->mb_height;
1443    
         /* IMAGE *pCurrent = &pEnc->current->image; */  
         IMAGE *pRef = &pEnc->reference->image;  
1444    
1445          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))          /* IMAGE *pCurrent = &current->image; */
1446            IMAGE *pRef = &reference->image;
1447    
1448            if ((current->vop_flags & XVID_VOP_REDUCED))
1449          {          {
1450                  mb_width = (pEnc->mbParam.width + 31) / 32;                  mb_width = (pParam->width + 31) / 32;
1451                  mb_height = (pEnc->mbParam.height + 31) / 32;                  mb_height = (pParam->height + 31) / 32;
1452          }          }
1453    
1454    
1455          start_timer();          start_timer();
1456          image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,          image_setedges(pRef, pParam->edged_width, pParam->edged_height,
1457                                     pEnc->mbParam.width, pEnc->mbParam.height);                                     pParam->width, pParam->height);
1458          stop_edges_timer();          stop_edges_timer();
1459    
1460          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;          pParam->m_rounding_type = 1 - pParam->m_rounding_type;
1461          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          current->rounding_type = pParam->m_rounding_type;
1462          //pEnc->current->quarterpel =  pEnc->mbParam.m_quarterpel;          current->fcode = pParam->m_fcode;
         pEnc->current->fcode = pEnc->mbParam.m_fcode;  
1463    
1464          if (!force_inter)          if (!force_inter)
1465                  iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);                  iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);
1466          else          else
1467                  iLimit = mb_width * mb_height + 1;                  iLimit = mb_width * mb_height + 1;
1468    
1469          if ((pEnc->current->vop_flags & XVID_VOP_HALFPEL)) {          if ((current->vop_flags & XVID_VOP_HALFPEL)) {
1470                  start_timer();                  start_timer();
1471                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1472                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,                                                    &pEnc->vInterHV, pParam->edged_width,
1473                                                    pEnc->mbParam.edged_height,                                                    pParam->edged_height,
1474                                                    (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL),                                                    (pParam->vol_flags & XVID_VOL_QUARTERPEL),
1475                                                    pEnc->current->rounding_type);                                                    current->rounding_type);
1476                  stop_inter_timer();                  stop_inter_timer();
1477          }          }
1478    
1479          pEnc->current->coding_type = P_VOP;          current->coding_type = P_VOP;
1480    
1481    
1482      SetMacroblockQuants(&pEnc->mbParam, pEnc->current);      SetMacroblockQuants(&pEnc->mbParam, current);
1483    
1484          start_timer();          start_timer();
1485          /*if (pEnc->current->global_flags & XVID_HINTEDME_SET)          if (current->vol_flags & XVID_VOL_GMC ) /* GMC only for S(GMC)-VOPs */
1486                  HintedMESet(pEnc, &bIntra);          {       int gmcval;
1487          else*/                  current->warp = GlobalMotionEst( current->mbs, pParam, current, reference,
1488                                                                     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);
1489    
1490                    if (current->motion_flags & XVID_ME_GME_REFINE) {
1491                            gmcval = GlobalMotionEstRefine(&current->warp,
1492                                                                    current->mbs, pParam,
1493                                                                    current, reference,
1494                                                                    &current->image,
1495                                                                    &reference->image,
1496                                                                    &pEnc->vInterH,
1497                                                                    &pEnc->vInterV,
1498                                                                    &pEnc->vInterHV);
1499                            gmcval += /*current->quant */ 2 * (int)(pParam->mb_width*pParam->mb_height);
1500                    }
1501    
1502                    gmcval = globalSAD(&current->warp, pParam, current->mbs,
1503                                                            current,
1504                                                            &reference->image,
1505                                                            &current->image,
1506                                                            pEnc->vGMC.y);
1507                    gmcval += /*current->quant*/ 2 * (int)(pParam->mb_width*pParam->mb_height);
1508    
1509    /* 1st '3': 3 warpoints, 2nd '3': 16th pel res (2<<3) */
1510                    generate_GMCparameters( 3, 3, &current->warp,
1511                                    pParam->width, pParam->height,
1512                                    &current->new_gmc_data);
1513    
1514                    if ( (gmcval<0) && ( (current->warp.duv[1].x != 0) || (current->warp.duv[1].y != 0) ||
1515                             (current->warp.duv[2].x != 0) || (current->warp.duv[2].y != 0) ) )
1516                    {
1517                            current->coding_type = S_VOP;
1518    
1519                            generate_GMCimage(&current->new_gmc_data, &reference->image,
1520                                    pParam->mb_width, pParam->mb_height,
1521                                    pParam->edged_width, pParam->edged_width/2,
1522                                    pParam->m_fcode, ((pParam->vol_flags & XVID_VOL_QUARTERPEL)?1:0), 0,
1523                                    current->rounding_type, current->mbs, &pEnc->vGMC);
1524    
1525                    } else {
1526    
1527                            generate_GMCimage(&current->new_gmc_data, &reference->image,
1528                                    pParam->mb_width, pParam->mb_height,
1529                                    pParam->edged_width, pParam->edged_width/2,
1530                                    pParam->m_fcode, ((pParam->vol_flags & XVID_VOL_QUARTERPEL)?1:0), 0,
1531                                    current->rounding_type, current->mbs, NULL);    /* no warping, just AMV */
1532                    }
1533            }
1534    
1535                  bIntra =                  bIntra =
1536                          MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,                  MotionEstimation(&pEnc->mbParam, current, reference,
1537                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1538                           iLimit);                                           &pEnc->vGMC, iLimit);
1539    
1540    
1541          stop_motion_timer();          stop_motion_timer();
1542    
1543          if (bIntra == 1) return FrameCodeI(pEnc, bs);          if (bIntra == 1) return FrameCodeI(pEnc, bs);
1544    
1545          if ( ( pEnc->current->vol_flags & XVID_VOL_GMC )          set_timecodes(current,reference,pParam->fbase);
                 && ( (pEnc->current->warp.duv[1].x != 0) || (pEnc->current->warp.duv[1].y != 0) ) )  
         {  
                 pEnc->current->coding_type = S_VOP;  
   
                 generate_GMCparameters( 2, 16, &pEnc->current->warp,  
                                         pEnc->mbParam.width, pEnc->mbParam.height,  
                                         &pEnc->current->gmc_data);  
   
                 generate_GMCimage(&pEnc->current->gmc_data, &pEnc->reference->image,  
                                 pEnc->mbParam.mb_width, pEnc->mbParam.mb_height,  
                                 pEnc->mbParam.edged_width, pEnc->mbParam.edged_width/2,  
                                 pEnc->mbParam.m_fcode, (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0,  
                                 pEnc->current->rounding_type, pEnc->current->mbs, &pEnc->vGMC);  
   
         }  
   
         set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);  
1546          if (vol_header)          if (vol_header)
1547          {       BitstreamWriteVolHeader(bs, &pEnc->mbParam);          {       BitstreamWriteVolHeader(bs, &pEnc->mbParam);
1548                  BitstreamPadAlways(bs);                  BitstreamPad(bs);
1549          }          }
1550    
1551          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1);
1552    
1553          pEnc->current->sStat.iTextBits = pEnc->current->sStat.iMvSum = pEnc->current->sStat.iMvCount =          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =
1554                  pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;
1555    
1556    
1557          for (y = 0; y < mb_height; y++) {          for (y = 0; y < mb_height; y++) {
1558                  for (x = 0; x < mb_width; x++) {                  for (x = 0; x < mb_width; x++) {
1559                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
1560                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                                  &current->mbs[x + y * pParam->mb_width];
   
 /* Mode decision: Check, if the block should be INTRA / INTER or GMC-coded */  
 /* For a start, leave INTRA decision as is, only choose only between INTER/GMC  - gruel, 9.1.2002 */  
1561    
1562                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1563    
1564                          if (bIntra) {                          if (bIntra) {
1565                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
1566                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,                                  MBTransQuantIntra(&pEnc->mbParam, current, pMB, x, y,
1567                                                                    dct_codes, qcoeff);                                                                    dct_codes, qcoeff);
1568    
1569                                  start_timer();                                  start_timer();
1570                                  MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);                                  MBPrediction(current, x, y, pParam->mb_width, qcoeff);
1571                                  stop_prediction_timer();                                  stop_prediction_timer();
1572    
1573                                  pEnc->current->sStat.kblks++;                                  current->sStat.kblks++;
1574    
1575                                  MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);                                  if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE)
1576                                    {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1577                                            qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
1578                                            qcoeff[5*64+0]=0;
1579                                    }
1580                                    MBCoding(current, pMB, qcoeff, bs, &current->sStat);
1581                                  stop_coding_timer();                                  stop_coding_timer();
1582                                  continue;                                  continue;
1583                          }                          }
1584    
                         if (pEnc->current->coding_type == S_VOP) {  
   
                                 int32_t iSAD = sad16(pEnc->current->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                         pEnc->vGMC.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                         pEnc->mbParam.edged_width, 65536);  
   
                                 if (pEnc->current->motion_flags & XVID_ME_CHROMA16) {  
                                         iSAD += sad8(pEnc->current->image.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,  
                                         pEnc->vGMC.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);  
   
                                         iSAD += sad8(pEnc->current->image.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,  
                                         pEnc->vGMC.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);  
                                 }  
   
                                 if (iSAD <= pMB->sad16) {               /* mode decision GMC */  
   
                                         if ((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL))  
                                                 pMB->qmvs[0] = pMB->qmvs[1] = pMB->qmvs[2] = pMB->qmvs[3] = pMB->amv;  
                                         else  
                                                 pMB->mvs[0] = pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->amv;  
   
                                         pMB->mode = MODE_INTER;  
                                         pMB->mcsel = 1;  
                                         pMB->sad16 = iSAD;  
                                 } else {  
                                         pMB->mcsel = 0;  
                                 }  
                         } else {  
                                 pMB->mcsel = 0; /* just a precaution */  
                         }  
   
1585                          start_timer();                          start_timer();
1586                          MBMotionCompensation(pMB, x, y, &pEnc->reference->image,                          MBMotionCompensation(pMB, x, y, &reference->image,
1587                                                                   &pEnc->vInterH, &pEnc->vInterV,                                                                   &pEnc->vInterH, &pEnc->vInterV,
1588                                                                   &pEnc->vInterHV, &pEnc->vGMC,                                                                   &pEnc->vInterHV, &pEnc->vGMC,
1589                                                                   &pEnc->current->image,                                                                   &current->image,
1590                                                                   dct_codes, pEnc->mbParam.width,                                                                   dct_codes, pParam->width,
1591                                                                   pEnc->mbParam.height,                                                                   pParam->height,
1592                                                                   pEnc->mbParam.edged_width,                                                                   pParam->edged_width,
1593                                                                   (pEnc->current->vol_flags & XVID_VOL_QUARTERPEL),                                                                   (current->vol_flags & XVID_VOL_QUARTERPEL),
1594                                                                   (pEnc->current->vop_flags & XVID_VOP_REDUCED),                                                                   (current->vop_flags & XVID_VOP_REDUCED),
1595                                                                   pEnc->current->rounding_type);                                                                   current->rounding_type);
1596    
1597                          stop_comp_timer();                          stop_comp_timer();
1598    
# Line 1613  Line 1604 
1604    
1605                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
1606                          {       pMB->cbp =                          {       pMB->cbp =
1607                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,                                          MBTransQuantInter(&pEnc->mbParam, current, pMB, x, y,
1608                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1609                          }                          }
1610    
1611                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1612                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1613                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1614                                  pEnc->current->sStat.mblks++;                                  current->sStat.mblks++;
1615                          }  else {                          }  else {
1616                                  pEnc->current->sStat.ublks++;                                  current->sStat.ublks++;
1617                          }                          }
1618    
1619                          start_timer();                          start_timer();
# Line 1632  Line 1623 
1623                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&
1624                                                          (pMB->dquant == 0);                                                          (pMB->dquant == 0);
1625    
1626                          if (pEnc->current->coding_type == S_VOP)                          if (current->coding_type == S_VOP)
1627                                  skip_possible &= (pMB->mcsel == 1);                                  skip_possible &= (pMB->mcsel == 1);
1628                          else if (pEnc->current->coding_type == P_VOP) {                          else if (current->coding_type == P_VOP) {
1629                                  if ((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL))                                  if ((pParam->vol_flags & XVID_VOL_QUARTERPEL))
1630                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );
1631                                  else                                  else
1632                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );
# Line 1645  Line 1636 
1636    
1637  /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */  /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */
1638    
1639                                  if (pEnc->current->coding_type == P_VOP)        /* special rule for P-VOP's SKIP */                                  if (current->coding_type == P_VOP)      /* special rule for P-VOP's SKIP */
1640                                  {                                  {
1641                                          int bSkip = 1;                                          int bSkip = 1;
1642    
1643                                          for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)                                          for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)
1644                                          {                                          {
1645                                                  int iSAD;                                                  int iSAD;
1646                                                  iSAD = sad16(pEnc->reference->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,                                                  iSAD = sad16(reference->image.y + 16*y*pParam->edged_width + 16*x,
1647                                                                          pEnc->bframes[k]->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,                                                                          pEnc->bframes[k]->image.y + 16*y*pParam->edged_width + 16*x,
1648                                                                  pEnc->mbParam.edged_width,BFRAME_SKIP_THRESHHOLD);                                                                  pParam->edged_width,BFRAME_SKIP_THRESHHOLD);
1649                                                  if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)                                                  if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)
1650                                                  {       bSkip = 0;                                                  {       bSkip = 0;
1651                                                          break;                                                          break;
# Line 1662  Line 1653 
1653                                          }                                          }
1654    
1655                                          if (!bSkip) {   /* no SKIP, but trivial block */                                          if (!bSkip) {   /* no SKIP, but trivial block */
1656                                                  if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {                                                  if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {
1657                                                          VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                                          VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1658                                                          pMB->pmvs[0].x = - predMV.x;                                                          pMB->pmvs[0].x = - predMV.x;
1659                                                          pMB->pmvs[0].y = - predMV.y;                                                          pMB->pmvs[0].y = - predMV.y;
1660                                                  }                                                  }
1661                                                  else {                                                  else {
1662                                                          VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                                          VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1663                                                          pMB->pmvs[0].x = - predMV.x;                                                          pMB->pmvs[0].x = - predMV.x;
1664                                                          pMB->pmvs[0].y = - predMV.y;                                                          pMB->pmvs[0].y = - predMV.y;
1665                                                  }                                                  }
1666                                                  pMB->mode = MODE_INTER;                                                  pMB->mode = MODE_INTER;
1667                                                  pMB->cbp = 0;                                                  pMB->cbp = 0;
1668                                                  MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);                                                  MBCoding(current, pMB, qcoeff, bs, &current->sStat);
1669                                                  stop_coding_timer();                                                  stop_coding_timer();
1670    
1671                                                  continue;       /* next MB */                                                  continue;       /* next MB */
# Line 1689  Line 1680 
1680                          }                          }
1681                          /* ordinary case: normal coded INTER/INTER4V block */                          /* ordinary case: normal coded INTER/INTER4V block */
1682    
1683                          if ((pEnc->current->vop_flags & XVID_VOP_GREYSCALE))                          if ((current->vop_flags & XVID_VOP_GREYSCALE))
1684                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1685                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */
1686                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
1687                          }                          }
1688    
1689                          if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {                          if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {
1690                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                  VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1691                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;
1692                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;
1693                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1694                          } else {                          } else {
1695                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                  VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, 0);
1696                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;
1697                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;
1698                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
# Line 1712  Line 1703 
1703                          {       int k;                          {       int k;
1704                                  for (k=1;k<4;k++)                                  for (k=1;k<4;k++)
1705                                  {                                  {
1706                                          if((pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL)) {                                          if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {
1707                                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);                                                  VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, k);
1708                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;
1709                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;
1710                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1711                                          } else {                                          } else {
1712                                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);                                                  VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, k);
1713                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;
1714                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;
1715                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
# Line 1727  Line 1718 
1718                                  }                                  }
1719                          }                          }
1720    
1721                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);                          MBCoding(current, pMB, qcoeff, bs, &pEnc->current->sStat);
1722                          stop_coding_timer();                          stop_coding_timer();
1723    
1724                  }                  }
1725          }          }
1726    
1727          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))          if ((current->vop_flags & XVID_VOP_REDUCED))
1728          {          {
1729                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,                  image_deblock_rrv(&current->image, pParam->edged_width,
1730                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,                          current->mbs, mb_width, mb_height, pParam->mb_width,
1731                          16, 0);                          16, 0);
1732          }          }
1733    
1734          emms();          emms();
1735    
1736      /* XXX: hinted me          if (current->sStat.iMvCount == 0)
1737          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {                  current->sStat.iMvCount = 1;
                 HintedMEGet(pEnc, 0);  
         }*/  
   
         if (pEnc->current->sStat.iMvCount == 0)  
                 pEnc->current->sStat.iMvCount = 1;  
1738    
1739          fSigma = (float) sqrt((float) pEnc->current->sStat.iMvSum / pEnc->current->sStat.iMvCount);          fSigma = (float) sqrt((float) current->sStat.iMvSum / current->sStat.iMvCount);
1740    
1741          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);          iSearchRange = 1 << (3 + pParam->m_fcode);
1742    
1743          if ((fSigma > iSearchRange / 3)          if ((fSigma > iSearchRange / 3)
1744          && (pEnc->mbParam.m_fcode <= (3 +  (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL?1:0)  )))     /* maximum search range 128 */          && (pParam->m_fcode <= (3 +  (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0)  ))) /* maximum search range 128 */
1745          {          {
1746                  pEnc->mbParam.m_fcode++;                  pParam->m_fcode++;
1747                  iSearchRange *= 2;                  iSearchRange *= 2;
1748          } else if ((fSigma < iSearchRange / 6)          } else if ((fSigma < iSearchRange / 6)
1749                             && (pEnc->fMvPrevSigma >= 0)                             && (pEnc->fMvPrevSigma >= 0)
1750                             && (pEnc->fMvPrevSigma < iSearchRange / 6)                             && (pEnc->fMvPrevSigma < iSearchRange / 6)
1751                             && (pEnc->mbParam.m_fcode >= (2 + (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL?1:0) )))    /* minimum search range 16 */                             && (pParam->m_fcode >= (2 + (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0) )))        /* minimum search range 16 */
1752          {          {
1753                  pEnc->mbParam.m_fcode--;                  pParam->m_fcode--;
1754                  iSearchRange /= 2;                  iSearchRange /= 2;
1755          }          }
1756    
1757          pEnc->fMvPrevSigma = fSigma;          pEnc->fMvPrevSigma = fSigma;
1758    
1759          /* frame drop code */          /* frame drop code */
1760          //DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);  #if 0
1761          if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);
1762                  (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)  #endif
1763            if (current->sStat.kblks + current->sStat.mblks <
1764                    (pParam->frame_drop_ratio * mb_width * mb_height) / 100)
1765          {          {
1766                  pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = 0;                  current->sStat.kblks = current->sStat.mblks = 0;
1767                  pEnc->current->sStat.ublks = mb_width * mb_height;                  current->sStat.ublks = mb_width * mb_height;
1768    
1769                  BitstreamReset(bs);                  BitstreamReset(bs);
1770    
1771                  set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);                  set_timecodes(current,reference,pParam->fbase);
1772                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 0);                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0);
1773    
1774                  /* copy reference frame details into the current frame */                  /* copy reference frame details into the current frame */
1775                  pEnc->current->quant = pEnc->reference->quant;                  current->quant = reference->quant;
1776                  pEnc->current->motion_flags = pEnc->reference->motion_flags;                  current->motion_flags = reference->motion_flags;
1777                  pEnc->current->rounding_type = pEnc->reference->rounding_type;                  current->rounding_type = reference->rounding_type;
1778                  //pEnc->current->quarterpel =  pEnc->reference->quarterpel;                  current->fcode = reference->fcode;
1779                  pEnc->current->fcode = pEnc->reference->fcode;                  current->bcode = reference->bcode;
1780                  pEnc->current->bcode = pEnc->reference->bcode;                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);
1781                  image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
                 memcpy(pEnc->current->mbs, pEnc->reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);  
1782          }          }
1783    
1784          /* XXX: debug          /* XXX: debug
1785          {          {
1786                  char s[100];                  char s[100];
1787                  sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);                  sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);
1788                  image_dump_yuvpgm(&pEnc->current->image,                  image_dump_yuvpgm(&current->image,
1789                          pEnc->mbParam.edged_width,                          pParam->edged_width,
1790                          pEnc->mbParam.width, pEnc->mbParam.height, s);                          pParam->width, pParam->height, s);
1791    
1792                  sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);                  sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);
1793                  image_dump_yuvpgm(&pEnc->reference->image,                  image_dump_yuvpgm(&reference->image,
1794                          pEnc->mbParam.edged_width,                          pParam->edged_width,
1795                          pEnc->mbParam.width, pEnc->mbParam.height, s);                          pParam->width, pParam->height, s);
1796          }          }
1797          */          */
1798    
1799  /* XXX: Remove the two #if 0 blocks when we are sure we must always pad the stream */          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */
 #if 0  
         /* for divx5 compatibility, we must always pad between the packed p and b frames */  
         if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0)  
 #endif  
                 BitstreamPadAlways(bs);  
 #if 0  
         else  
                 BitstreamPad(bs);  
 #endif  
1800    
1801      pEnc->current->length = (BitstreamPos(bs) - bits) / 8;      current->length = (BitstreamPos(bs) - bits) / 8;
1802    
1803          return 0;                                       /* inter */          return 0;                                       /* inter */
1804  }  }
# Line 1853  Line 1831 
1831          }          }
1832  #endif  #endif
1833    
         //frame->quarterpel =  pEnc->mbParam.m_quarterpel;  
   
1834          /* forward  */          /* forward  */
1835          image_setedges(f_ref, pEnc->mbParam.edged_width,          image_setedges(f_ref, pEnc->mbParam.edged_width,
1836                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,                                     pEnc->mbParam.edged_height, pEnc->mbParam.width,
# Line 1876  Line 1852 
1852          stop_inter_timer();          stop_inter_timer();
1853    
1854          start_timer();          start_timer();
   
1855          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,
1856                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */
1857                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */
# Line 1884  Line 1859 
1859                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1860                                                   pEnc->current, b_ref, &pEnc->vInterH,                                                   pEnc->current, b_ref, &pEnc->vInterH,
1861                                                   &pEnc->vInterV, &pEnc->vInterHV);                                                   &pEnc->vInterV, &pEnc->vInterHV);
   
   
1862          stop_motion_timer();          stop_motion_timer();
1863    
         /*  
         if (test_quant_type(&pEnc->mbParam, pEnc->current)) {  
                 BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);  
         }  
         */  
   
1864          frame->coding_type = B_VOP;          frame->coding_type = B_VOP;
1865    
1866          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
# Line 1909  Line 1876 
1876          for (y = 0; y < pEnc->mbParam.mb_height; y++) {          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1877                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1878                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
                         int direction = frame->vop_flags & XVID_VOP_ALTERNATESCAN ? 2 : 0;  
1879    
1880                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */
1881                          if (mb->mode == MODE_NOT_CODED) {                          if (mb->mode == MODE_NOT_CODED) {
# Line 1936  Line 1902 
1902                                  }                                  }
1903                          }                          }
1904    
1905  #ifdef BFRAMES_DEC_DEBUG                          /* keep only bits 5-2 -- Chroma blocks will just be skipped by the
1906          BFRAME_DEBUG                           * coding function for BFrames, that's why we don't zero teh DC
1907  #endif                           * coeffs */
1908                            if ((frame->vop_flags & XVID_VOP_GREYSCALE))
1909                                    mb->cbp &= 0x3C;
1910    
1911                          start_timer();                          start_timer();
1912                          MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,                          MBCodingBVOP(frame, mb, qcoeff, frame->fcode, frame->bcode, bs,
1913                                                   &frame->sStat, direction);                                                   &frame->sStat);
1914                          stop_coding_timer();                          stop_coding_timer();
1915                  }                  }
1916          }          }
# Line 1950  Line 1919 
1919    
1920          /* TODO: dynamic fcode/bcode ??? */          /* TODO: dynamic fcode/bcode ??? */
1921    
1922      BitstreamPadAlways(bs);      BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */
1923          frame->length = (BitstreamPos(bs) - bits) / 8;          frame->length = (BitstreamPos(bs) - bits) / 8;
1924    
1925  #ifdef BFRAMES_DEC_DEBUG  #ifdef BFRAMES_DEC_DEBUG
Legend:
Removed from v.1.95.2.25  
changed lines
  Added in v.1.95.2.46
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4