[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.95.2.64, Mon Feb 16 03:40:47 2004 UTC revision 1.96, Tue Mar 4 10:55:21 2003 UTC
# Line 3  Line 3 
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  - Encoder main module -   *  - Encoder main module -
5   *   *
6   *  Copyright(C) 2002     Michael Militzer <isibaar@xvid.org>   *  This program is an implementation of a part of one or more MPEG-4
7   *                         2002-2003 Peter Ross <pross@xvid.org>   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
8   *                         2002   Daniel Smith <danielsmith@astroboymail.com>   *  to use this software module in hardware or software products are
9     *  advised that its use may infringe existing patents or copyrights, and
10     *  any such use would be at such party's own risk.  The original
11     *  developer of this software module and his/her company, and subsequent
12     *  editors and their companies, will have no liability for use of this
13     *  software or modifications or derivatives thereof.
14   *   *
15   *  This program is free software ; you can redistribute it and/or modify   *  This program is free software ; you can redistribute it and/or modify
16   *  it under the terms of the GNU General Public License as published by   *  it under the terms of the GNU General Public License as published by
# Line 38  Line 43 
43  #include "image/font.h"  #include "image/font.h"
44  #include "motion/sad.h"  #include "motion/sad.h"
45  #include "motion/motion.h"  #include "motion/motion.h"
 #include "motion/gmc.h"  
   
46  #include "bitstream/cbp.h"  #include "bitstream/cbp.h"
47  #include "utils/mbfunctions.h"  #include "utils/mbfunctions.h"
48  #include "bitstream/bitstream.h"  #include "bitstream/bitstream.h"
49  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
50    #include "utils/ratecontrol.h"
51  #include "utils/emms.h"  #include "utils/emms.h"
52  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
53    #include "quant/adapt_quant.h"
54  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
55  #include "utils/mem_align.h"  #include "utils/mem_align.h"
56    
57  /*****************************************************************************  /*****************************************************************************
58     * Local macros
59     ****************************************************************************/
60    
61    #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
62    #define SWAP(_T_,A,B)   { _T_ tmp = A; A = B; B = tmp; }
63    
64    /*****************************************************************************
65   * Local function prototypes   * Local function prototypes
66   ****************************************************************************/   ****************************************************************************/
67    
68  static int FrameCodeI(Encoder * pEnc,  static int FrameCodeI(Encoder * pEnc,
69                                            Bitstream * bs);                                            Bitstream * bs,
70                                              uint32_t * pBits);
71    
72  static int FrameCodeP(Encoder * pEnc,  static int FrameCodeP(Encoder * pEnc,
73                                            Bitstream * bs,                                            Bitstream * bs,
74                                              uint32_t * pBits,
75                                            bool force_inter,                                            bool force_inter,
76                                            bool vol_header);                                            bool vol_header);
77    
78  static void FrameCodeB(Encoder * pEnc,  static void FrameCodeB(Encoder * pEnc,
79                                             FRAMEINFO * frame,                                             FRAMEINFO * frame,
80                                             Bitstream * bs);                                             Bitstream * bs,
81                                               uint32_t * pBits);
82    
83    /*****************************************************************************
84     * Local data
85     ****************************************************************************/
86    
87    static int DQtab[4] = {
88            -1, -2, 1, 2
89    };
90    
91    static int iDQtab[5] = {
92            1, 0, NO_CHANGE, 2, 3
93    };
94    
95    
96  /*****************************************************************************  /*****************************************************************************
# Line 77  Line 104 
104   * and cleaning code.   * and cleaning code.
105   *   *
106   * Returned values :   * Returned values :
107   *      - 0                             - no errors   *      - XVID_ERR_OK    - no errors
108   *      - XVID_ERR_MEMORY - the libc could not allocate memory, the function   *      - XVID_ERR_MEMORY - the libc could not allocate memory, the function
109   *                                              cleans the structure before exiting.   *                                              cleans the structure before exiting.
110   *                                              pParam->handle is also set to NULL.   *                                              pParam->handle is also set to NULL.
111   *   *
112   ****************************************************************************/   ****************************************************************************/
113    
114    int
115    encoder_create(XVID_ENC_PARAM * pParam)
116    {
117            Encoder *pEnc;
118            int i;
119            pParam->handle = NULL;
120    
121            ENC_CHECK(pParam);
122    
123            ENC_CHECK(pParam->width > 0 && pParam->width <= 1920);
124            ENC_CHECK(pParam->height > 0 && pParam->height <= 1280);
125            ENC_CHECK(!(pParam->width % 2));
126            ENC_CHECK(!(pParam->height % 2));
127    
128            /* Fps */
129    
130            if (pParam->fincr <= 0 || pParam->fbase <= 0) {
131                    pParam->fincr = 1;
132                    pParam->fbase = 25;
133            }
134    
135  /*  /*
136   * Simplify the "fincr/fbase" fraction   * Simplify the "fincr/fbase" fraction
137             * (neccessary, since windows supplies us with huge numbers)
138  */  */
139  static void  
140  simplify_time(int *inc, int *base)          i = pParam->fincr;
 {  
         /* common factor */  
         int i = *inc;  
141          while (i > 1) {          while (i > 1) {
142                  if (*inc % i == 0 && *base % i == 0) {                  if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
143                          *inc /= i;                          pParam->fincr /= i;
144                          *base /= i;                          pParam->fbase /= i;
145                          i = *inc;                          i = pParam->fincr;
146                          continue;                          continue;
147                  }                  }
148                  i--;                  i--;
149          }          }
150    
151          /* if neccessary, round to 65535 accuracy */          if (pParam->fbase > 65535) {
152          if (*base > 65535) {                  float div = (float) pParam->fbase / 65535;
153                  float div = (float) *base / 65535;  
154                  *base = (int) (*base / div);                  pParam->fbase = (int) (pParam->fbase / div);
155                  *inc = (int) (*inc / div);                  pParam->fincr = (int) (pParam->fincr / div);
         }  
156  }  }
157    
158            /* Bitrate allocator defaults */
159    
160  int          if (pParam->rc_bitrate <= 0)
161  enc_create(xvid_enc_create_t * create)                  pParam->rc_bitrate = 900000;
 {  
         Encoder *pEnc;  
   int n;  
162    
163          if (XVID_VERSION_MAJOR(create->version) != 1) /* v1.x.x */          if (pParam->rc_reaction_delay_factor <= 0)
164                  return XVID_ERR_VERSION;                  pParam->rc_reaction_delay_factor = 16;
165    
166          if (create->width%2 || create->height%2)          if (pParam->rc_averaging_period <= 0)
167                  return XVID_ERR_FAIL;                  pParam->rc_averaging_period = 100;
168    
169          /* allocate encoder struct */          if (pParam->rc_buffer <= 0)
170                    pParam->rc_buffer = 100;
171    
172            /* Max and min quantizers */
173    
174            if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
175                    pParam->min_quantizer = 1;
176    
177            if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
178                    pParam->max_quantizer = 31;
179    
180            if (pParam->max_quantizer < pParam->min_quantizer)
181                    pParam->max_quantizer = pParam->min_quantizer;
182    
183            /* 1 keyframe each 10 seconds */
184    
185            if (pParam->max_key_interval <= 0)
186                    pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
187    
188          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);          pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
189          if (pEnc == NULL)          if (pEnc == NULL)
190                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
191    
192            /* Zero the Encoder Structure */
193    
194          memset(pEnc, 0, sizeof(Encoder));          memset(pEnc, 0, sizeof(Encoder));
195    
196          pEnc->mbParam.profile = create->profile;          /* Fill members of Encoder structure */
197    
198          /* global flags */          pEnc->mbParam.width = pParam->width;
199          pEnc->mbParam.global_flags = create->global;          pEnc->mbParam.height = pParam->height;
200    
         /* width, height */  
         pEnc->mbParam.width = create->width;  
         pEnc->mbParam.height = create->height;  
201          pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;          pEnc->mbParam.mb_width = (pEnc->mbParam.width + 15) / 16;
202          pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;          pEnc->mbParam.mb_height = (pEnc->mbParam.height + 15) / 16;
203    
204          pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;          pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
205          pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;          pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
206    
207          /* framerate */          pEnc->mbParam.fbase = pParam->fbase;
208          pEnc->mbParam.fincr = MAX(create->fincr, 0);          pEnc->mbParam.fincr = pParam->fincr;
         pEnc->mbParam.fbase = create->fincr <= 0 ? 25 : create->fbase;  
         if (pEnc->mbParam.fincr>0)  
                 simplify_time(&pEnc->mbParam.fincr, &pEnc->mbParam.fbase);  
   
         /* zones */  
         if(create->num_zones > 0) {  
                 pEnc->num_zones = create->num_zones;  
                 pEnc->zones = xvid_malloc(sizeof(xvid_enc_zone_t) * pEnc->num_zones, CACHE_LINE);  
                 if (pEnc->zones == NULL)  
                         goto xvid_err_memory0;  
                 memcpy(pEnc->zones, create->zones, sizeof(xvid_enc_zone_t) * pEnc->num_zones);  
         } else {  
                 pEnc->num_zones = 0;  
                 pEnc->zones = NULL;  
         }  
   
         /* plugins */  
         if(create->num_plugins > 0) {  
                 pEnc->num_plugins = create->num_plugins;  
                 pEnc->plugins = xvid_malloc(sizeof(xvid_enc_plugin_t) * pEnc->num_plugins, CACHE_LINE);  
                 if (pEnc->plugins == NULL)  
                         goto xvid_err_memory0;  
         } else {  
                 pEnc->num_plugins = 0;  
                 pEnc->plugins = NULL;  
         }  
   
         for (n=0; n<pEnc->num_plugins;n++) {  
                 xvid_plg_create_t pcreate;  
                 xvid_plg_info_t pinfo;  
   
                 memset(&pinfo, 0, sizeof(xvid_plg_info_t));  
                 pinfo.version = XVID_VERSION;  
                 if (create->plugins[n].func(0, XVID_PLG_INFO, &pinfo, 0) >= 0) {  
                         pEnc->mbParam.plugin_flags |= pinfo.flags;  
                 }  
   
                 memset(&pcreate, 0, sizeof(xvid_plg_create_t));  
                 pcreate.version = XVID_VERSION;  
                 pcreate.num_zones = pEnc->num_zones;  
                 pcreate.zones = pEnc->zones;  
                 pcreate.width = pEnc->mbParam.width;  
                 pcreate.height = pEnc->mbParam.height;  
                 pcreate.mb_width = pEnc->mbParam.mb_width;  
                 pcreate.mb_height = pEnc->mbParam.mb_height;  
                 pcreate.fincr = pEnc->mbParam.fincr;  
                 pcreate.fbase = pEnc->mbParam.fbase;  
                 pcreate.param = create->plugins[n].param;  
209    
210                  pEnc->plugins[n].func = NULL;   /* disable plugins that fail */          pEnc->mbParam.m_quant_type = H263_QUANT;
                 if (create->plugins[n].func(0, XVID_PLG_CREATE, &pcreate, &pEnc->plugins[n].param) >= 0) {  
                         pEnc->plugins[n].func = create->plugins[n].func;  
                 }  
         }  
   
         if ((pEnc->mbParam.global_flags & XVID_GLOBAL_EXTRASTATS_ENABLE) ||  
                 (pEnc->mbParam.plugin_flags & XVID_REQPSNR)) {  
                 pEnc->mbParam.plugin_flags |= XVID_REQORIGINAL; /* psnr calculation requires the original */  
         }  
211    
212          /* temp dquants */          pEnc->fMvPrevSigma = -1;
         if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {  
                 pEnc->temp_dquants = (int *) xvid_malloc(pEnc->mbParam.mb_width *  
                                                 pEnc->mbParam.mb_height * sizeof(int), CACHE_LINE);  
                 if (pEnc->temp_dquants==NULL)  
                         goto xvid_err_memory1a;  
         }  
   
         /* bframes */  
         pEnc->mbParam.max_bframes = MAX(create->max_bframes, 0);  
         pEnc->mbParam.bquant_ratio = MAX(create->bquant_ratio, 0);  
         pEnc->mbParam.bquant_offset = create->bquant_offset;  
213    
214          /* min/max quant */          /* Fill rate control parameters */
         for (n=0; n<3; n++) {  
                 pEnc->mbParam.min_quant[n] = create->min_quant[n] > 0 ? create->min_quant[n] : 2;  
                 pEnc->mbParam.max_quant[n] = create->max_quant[n] > 0 ? create->max_quant[n] : 31;  
         }  
215    
216          /* frame drop ratio */          pEnc->bitrate = pParam->rc_bitrate;
         pEnc->mbParam.frame_drop_ratio = MAX(create->frame_drop_ratio, 0);  
217    
218          /* max keyframe interval */          pEnc->iFrameNum = -1;
219          pEnc->mbParam.iMaxKeyInterval = create->max_key_interval <= 0 ? (10 * (int)pEnc->mbParam.fbase) / (int)pEnc->mbParam.fincr : create->max_key_interval;          pEnc->mbParam.iMaxKeyInterval = pParam->max_key_interval;
220    
221          /* allocate working frame-image memory */          /* try to allocate frame memory */
222    
223          pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);          pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
224          pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);          pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
# Line 238  Line 226 
226          if (pEnc->current == NULL || pEnc->reference == NULL)          if (pEnc->current == NULL || pEnc->reference == NULL)
227                  goto xvid_err_memory1;                  goto xvid_err_memory1;
228    
229          /* allocate macroblock memory */          /* try to allocate mb memory */
230    
231          pEnc->current->mbs =          pEnc->current->mbs =
232                  xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *                  xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
# Line 250  Line 238 
238          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)          if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
239                  goto xvid_err_memory2;                  goto xvid_err_memory2;
240    
241          /* allocate quant matrix memory */          /* try to allocate image memory */
   
         pEnc->mbParam.mpeg_quant_matrices =  
                 xvid_malloc(sizeof(uint16_t) * 64 * 8, CACHE_LINE);  
   
         if (pEnc->mbParam.mpeg_quant_matrices == NULL)  
                 goto xvid_err_memory2a;  
   
         /* allocate interpolation image memory */  
242    
243          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if (pParam->global & XVID_GLOBAL_EXTRASTATS)
244                  image_null(&pEnc->sOriginal);                  image_null(&pEnc->sOriginal);
                 image_null(&pEnc->sOriginal2);  
         }  
245    
246          image_null(&pEnc->f_refh);          image_null(&pEnc->f_refh);
247          image_null(&pEnc->f_refv);          image_null(&pEnc->f_refv);
# Line 273  Line 251 
251          image_null(&pEnc->reference->image);          image_null(&pEnc->reference->image);
252          image_null(&pEnc->vInterH);          image_null(&pEnc->vInterH);
253          image_null(&pEnc->vInterV);          image_null(&pEnc->vInterV);
254            image_null(&pEnc->vInterVf);
255          image_null(&pEnc->vInterHV);          image_null(&pEnc->vInterHV);
256            image_null(&pEnc->vInterHVf);
257    
258          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if (pParam->global & XVID_GLOBAL_EXTRASTATS)
259                  if (image_create          {       if (image_create
260                          (&pEnc->sOriginal, pEnc->mbParam.edged_width,                          (&pEnc->sOriginal, pEnc->mbParam.edged_width,
261                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
262                          goto xvid_err_memory3;                          goto xvid_err_memory3;
   
                 if (image_create  
                         (&pEnc->sOriginal2, pEnc->mbParam.edged_width,  
                          pEnc->mbParam.edged_height) < 0)  
                         goto xvid_err_memory3;  
263          }          }
264    
265          if (image_create          if (image_create
# Line 317  Line 292 
292                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
293                  goto xvid_err_memory3;                  goto xvid_err_memory3;
294          if (image_create          if (image_create
295                    (&pEnc->vInterVf, pEnc->mbParam.edged_width,
296                     pEnc->mbParam.edged_height) < 0)
297                    goto xvid_err_memory3;
298            if (image_create
299                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,
300                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
301                  goto xvid_err_memory3;                  goto xvid_err_memory3;
302            if (image_create
303                    (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
304                     pEnc->mbParam.edged_height) < 0)
305                    goto xvid_err_memory3;
306    
307  /* Create full bitplane for GMC, this might be wasteful */  /* Create full bitplane for GMC, this might be wasteful */
308          if (image_create          if (image_create
# Line 327  Line 310 
310                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
311                  goto xvid_err_memory3;                  goto xvid_err_memory3;
312    
         /* init bframe image buffers */  
313    
314          pEnc->bframenum_head = 0;  
315          pEnc->bframenum_tail = 0;          pEnc->mbParam.global = pParam->global;
         pEnc->flush_bframes = 0;  
         pEnc->closed_bframenum = -1;  
316    
317          /* B Frames specific init */          /* B Frames specific init */
318            pEnc->mbParam.max_bframes = pParam->max_bframes;
319            pEnc->mbParam.bquant_ratio = pParam->bquant_ratio;
320            pEnc->mbParam.bquant_offset = pParam->bquant_offset;
321            pEnc->mbParam.frame_drop_ratio = pParam->frame_drop_ratio;
322          pEnc->bframes = NULL;          pEnc->bframes = NULL;
323    
324          if (pEnc->mbParam.max_bframes > 0) {          if (pEnc->mbParam.max_bframes > 0) {
325                    int n;
326    
327                  pEnc->bframes =                  pEnc->bframes =
328                          xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),                          xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
# Line 373  Line 358 
358                  }                  }
359          }          }
360    
361          /* init incoming frame queue */          pEnc->bframenum_head = 0;
362          pEnc->queue_head = 0;          pEnc->bframenum_tail = 0;
363          pEnc->queue_tail = 0;          pEnc->flush_bframes = 0;
364          pEnc->queue_size = 0;          pEnc->bframenum_dx50bvop = -1;
365    
366            pEnc->queue = NULL;
367    
368            if (pEnc->mbParam.max_bframes > 0) {
369                    int n;
370    
371          pEnc->queue =          pEnc->queue =
372                  xvid_malloc((pEnc->mbParam.max_bframes+1) * sizeof(QUEUEINFO),                          xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
373                                          CACHE_LINE);                                          CACHE_LINE);
374    
375          if (pEnc->queue == NULL)          if (pEnc->queue == NULL)
376                  goto xvid_err_memory4;                  goto xvid_err_memory4;
377    
378          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++)                  for (n = 0; n < pEnc->mbParam.max_bframes; n++)
379                  image_null(&pEnc->queue[n].image);                          image_null(&pEnc->queue[n]);
   
380    
381          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {                  for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
382                  if (image_create                  if (image_create
383                          (&pEnc->queue[n].image, pEnc->mbParam.edged_width,                                  (&pEnc->queue[n], pEnc->mbParam.edged_width,
384                           pEnc->mbParam.edged_height) < 0)                           pEnc->mbParam.edged_height) < 0)
385                          goto xvid_err_memory5;                          goto xvid_err_memory5;
386    
387                    }
388          }          }
389    
390          /* timestamp stuff */          pEnc->queue_head = 0;
391            pEnc->queue_tail = 0;
392            pEnc->queue_size = 0;
393    
394          pEnc->mbParam.m_stamp = 0;          pEnc->mbParam.m_stamp = 0;
395    
396          pEnc->m_framenum = 0;          pEnc->m_framenum = 0;
397          pEnc->current->stamp = 0;          pEnc->current->stamp = 0;
398          pEnc->reference->stamp = 0;          pEnc->reference->stamp = 0;
399    
400          /* other stuff */          pParam->handle = (void *) pEnc;
401    
402          pEnc->iFrameNum = 0;          if (pParam->rc_bitrate) {
403          pEnc->fMvPrevSigma = -1;                  RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
404                                                    pParam->rc_reaction_delay_factor,
405          create->handle = (void *) pEnc;                                                  pParam->rc_averaging_period, pParam->rc_buffer,
406                                                    pParam->fbase * 1000 / pParam->fincr,
407                                                    pParam->max_quantizer, pParam->min_quantizer);
408            }
409    
410          init_timer();          init_timer();
         init_mpeg_matrix(pEnc->mbParam.mpeg_quant_matrices);  
411    
412          return 0;   /* ok */          return XVID_ERR_OK;
413    
414          /*          /*
415           * We handle all XVID_ERR_MEMORY here, this makes the code lighter           * We handle all XVID_ERR_MEMORY here, this makes the code lighter
# Line 421  Line 417 
417    
418    xvid_err_memory5:    xvid_err_memory5:
419    
420          for (n = 0; n < pEnc->mbParam.max_bframes+1; n++) {          if (pEnc->mbParam.max_bframes > 0) {
421                          image_destroy(&pEnc->queue[n].image, pEnc->mbParam.edged_width,  
422                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
423                            image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
424                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
425                  }                  }
   
426          xvid_free(pEnc->queue);          xvid_free(pEnc->queue);
427            }
428    
429    xvid_err_memory4:    xvid_err_memory4:
430    
431          if (pEnc->mbParam.max_bframes > 0) {          if (pEnc->mbParam.max_bframes > 0) {
                 int i;  
432    
433                  for (i = 0; i < pEnc->mbParam.max_bframes; i++) {                  for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
434    
# Line 440  Line 437 
437    
438                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
439                                                    pEnc->mbParam.edged_height);                                                    pEnc->mbParam.edged_height);
440    
441                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
442    
443                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
444    
445                  }                  }
446    
447                  xvid_free(pEnc->bframes);                  xvid_free(pEnc->bframes);
# Line 449  Line 449 
449    
450    xvid_err_memory3:    xvid_err_memory3:
451    
452          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if (pEnc->mbParam.global & XVID_GLOBAL_EXTRASTATS)
453                  image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,          {       image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
                                           pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sOriginal2, pEnc->mbParam.edged_width,  
454                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
455          }          }
456    
# Line 471  Line 469 
469                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
470          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
471                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
472            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
473                                      pEnc->mbParam.edged_height);
474          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
475                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
476            image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
477                                      pEnc->mbParam.edged_height);
478    
479  /* destroy GMC image */  /* destroy GMC image */
480          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,
481                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
482    
   xvid_err_memory2a:  
         xvid_free(pEnc->mbParam.mpeg_quant_matrices);  
483    
484    xvid_err_memory2:    xvid_err_memory2:
485          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
# Line 488  Line 488 
488    xvid_err_memory1:    xvid_err_memory1:
489          xvid_free(pEnc->current);          xvid_free(pEnc->current);
490          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
   
   xvid_err_memory1a:  
         if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {  
                 xvid_free(pEnc->temp_dquants);  
         }  
   
   xvid_err_memory0:  
         for (n=0; n<pEnc->num_plugins;n++) {  
                 if (pEnc->plugins[n].func) {  
                         pEnc->plugins[n].func(pEnc->plugins[n].param, XVID_PLG_DESTROY, 0, 0);  
                 }  
         }  
         xvid_free(pEnc->plugins);  
   
         xvid_free(pEnc->zones);  
   
491          xvid_free(pEnc);          xvid_free(pEnc);
492    
493          create->handle = NULL;          pParam->handle = NULL;
494    
495          return XVID_ERR_MEMORY;          return XVID_ERR_MEMORY;
496  }  }
# Line 515  Line 499 
499   * Encoder destruction   * Encoder destruction
500   *   *
501   * This function destroy the entire encoder structure created by a previous   * This function destroy the entire encoder structure created by a previous
502   * successful enc_create call.   * successful encoder_create call.
503   *   *
504   * Returned values (for now only one returned value) :   * Returned values (for now only one returned value) :
505   *      - 0      - no errors   *      - XVID_ERR_OK    - no errors
506   *   *
507   ****************************************************************************/   ****************************************************************************/
508    
509  int  int
510  enc_destroy(Encoder * pEnc)  encoder_destroy(Encoder * pEnc)
511  {  {
512          int i;          int i;
513    
514            ENC_CHECK(pEnc);
515    
516          /* B Frames specific */          /* B Frames specific */
517          for (i = 0; i < pEnc->mbParam.max_bframes+1; i++) {          if (pEnc->mbParam.max_bframes > 0) {
518                  image_destroy(&pEnc->queue[i].image, pEnc->mbParam.edged_width,  
519                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
520    
521                            image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
522                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
523          }          }
   
524          xvid_free(pEnc->queue);          xvid_free(pEnc->queue);
525            }
526    
527          if (pEnc->mbParam.max_bframes > 0) {          if (pEnc->mbParam.max_bframes > 0) {
528    
# Line 544  Line 533 
533    
534                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,                          image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
535                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
536    
537                          xvid_free(pEnc->bframes[i]->mbs);                          xvid_free(pEnc->bframes[i]->mbs);
538    
539                          xvid_free(pEnc->bframes[i]);                          xvid_free(pEnc->bframes[i]);
540                  }                  }
541    
# Line 562  Line 553 
553                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
554          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
555                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
556            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
557                                      pEnc->mbParam.edged_height);
558          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
559                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
560            image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
561                                      pEnc->mbParam.edged_height);
562    
563          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
564                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
565          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
566                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
567          image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,          image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
568                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
569    
570          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if (pEnc->mbParam.global & XVID_GLOBAL_EXTRASTATS)
571                  image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,          {       image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
                                           pEnc->mbParam.edged_height);  
                 image_destroy(&pEnc->sOriginal2, pEnc->mbParam.edged_width,  
572                                            pEnc->mbParam.edged_height);                                            pEnc->mbParam.edged_height);
573          }          }
574    
# Line 588  Line 580 
580          xvid_free(pEnc->reference->mbs);          xvid_free(pEnc->reference->mbs);
581          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
582    
583          if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {          xvid_free(pEnc);
584                  xvid_free(pEnc->temp_dquants);  
585            return XVID_ERR_OK;
586          }          }
587    
588    
589          if (pEnc->num_plugins>0) {  static __inline void inc_frame_num(Encoder * pEnc)
590                  xvid_plg_destroy_t pdestroy;  {
591                  memset(&pdestroy, 0, sizeof(xvid_plg_destroy_t));          pEnc->current->stamp = pEnc->mbParam.m_stamp;   /* first frame is zero */
592            pEnc->mbParam.m_stamp += pEnc->mbParam.fincr;
593    }
594    
                 pdestroy.version = XVID_VERSION;  
                 pdestroy.num_frames = pEnc->m_framenum;  
595    
596                  for (i=0; i<pEnc->num_plugins;i++) {  static __inline void
597                          if (pEnc->plugins[i].func) {  queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
598                                  pEnc->plugins[i].func(pEnc->plugins[i].param, XVID_PLG_DESTROY, &pdestroy, 0);  {
599            if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
600            {
601                    DPRINTF(DPRINTF_DEBUG,"FATAL: QUEUE FULL");
602                    return;
603                          }                          }
604    
605            DPRINTF(DPRINTF_DEBUG,"*** QUEUE bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
606                                    pEnc->bframenum_head, pEnc->bframenum_tail,
607                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
608    
609    
610            start_timer();
611            if (image_input
612                    (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
613                     pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))
614                    return;
615            stop_conv_timer();
616    
617            if ((pFrame->general & XVID_CHROMAOPT)) {
618                    image_chroma_optimize(&pEnc->queue[pEnc->queue_tail],
619                            pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);
620                  }                  }
621                  xvid_free(pEnc->plugins);  
622            pEnc->queue_size++;
623            pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
624          }          }
625    
626          xvid_free(pEnc->mbParam.mpeg_quant_matrices);  static __inline void
627    set_timecodes(FRAMEINFO* pCur,FRAMEINFO *pRef, int32_t time_base)
628    {
629    
630          if (pEnc->num_plugins>0)                  pCur->ticks = (int32_t)pCur->stamp % time_base;
631                  xvid_free(pEnc->zones);                  pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;
632    
633          xvid_free(pEnc);                  /* HEAVY DEBUG OUTPUT remove when timecodes prove to be stable */
634    
635    /*              fprintf(stderr,"WriteVop:   %d - %d \n",
636                            ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));
637                    fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",
638                            pCur->coding_type, pCur->stamp, pRef->stamp, time_base);
639                    fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",
640                            pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);
641    
642          return 0;  /* ok */  */
643  }  }
644    
645    
 /*  
   call the plugins  
   */  
646    
647  static void call_plugins(Encoder * pEnc, FRAMEINFO * frame, IMAGE * original,  /* convert pFrame->intra to coding_type */
648                                                   int opt, int * type, int * quant, xvid_enc_stats_t * stats)  static int intra2coding_type(int intra)
649  {  {
650          unsigned int i, j;          if (intra < 0)  return -1;
651          xvid_plg_data_t data;          if (intra == 1) return I_VOP;
652            if (intra == 2) return B_VOP;
         /* set data struct */  
653    
654          memset(&data, 0, sizeof(xvid_plg_data_t));          return P_VOP;
         data.version = XVID_VERSION;  
   
         /* find zone */  
         for(i=0; i<pEnc->num_zones && pEnc->zones[i].frame<=frame->frame_num; i++) ;  
         data.zone = i>0 ? &pEnc->zones[i-1] : NULL;  
   
         data.width = pEnc->mbParam.width;  
         data.height = pEnc->mbParam.height;  
         data.mb_width = pEnc->mbParam.mb_width;  
         data.mb_height = pEnc->mbParam.mb_height;  
         data.fincr = frame->fincr;  
         data.fbase = pEnc->mbParam.fbase;  
         data.bquant_ratio = pEnc->mbParam.bquant_ratio;  
         data.bquant_offset = pEnc->mbParam.bquant_offset;  
   
         for (i=0; i<3; i++) {  
                 data.min_quant[i] = pEnc->mbParam.min_quant[i];  
                 data.max_quant[i] = pEnc->mbParam.max_quant[i];  
         }  
   
         data.reference.csp = XVID_CSP_PLANAR;  
         data.reference.plane[0] = pEnc->reference->image.y;  
         data.reference.plane[1] = pEnc->reference->image.u;  
         data.reference.plane[2] = pEnc->reference->image.v;  
         data.reference.stride[0] = pEnc->mbParam.edged_width;  
         data.reference.stride[1] = pEnc->mbParam.edged_width/2;  
         data.reference.stride[2] = pEnc->mbParam.edged_width/2;  
   
         data.current.csp = XVID_CSP_PLANAR;  
         data.current.plane[0] = frame->image.y;  
         data.current.plane[1] = frame->image.u;  
         data.current.plane[2] = frame->image.v;  
         data.current.stride[0] = pEnc->mbParam.edged_width;  
         data.current.stride[1] = pEnc->mbParam.edged_width/2;  
         data.current.stride[2] = pEnc->mbParam.edged_width/2;  
   
         data.frame_num = frame->frame_num;  
   
         if (opt == XVID_PLG_BEFORE) {  
                 data.type = *type;  
                 data.quant = *quant;  
   
                 data.vol_flags = frame->vol_flags;  
                 data.vop_flags = frame->vop_flags;  
                 data.motion_flags = frame->motion_flags;  
   
         } else if (opt == XVID_PLG_FRAME) {  
                 data.type = coding2type(frame->coding_type);  
                 data.quant = frame->quant;  
   
                 if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {  
                         data.dquant = pEnc->temp_dquants;  
                         data.dquant_stride = pEnc->mbParam.mb_width;  
                         memset(data.dquant, 0, data.mb_width*data.mb_height);  
                 }  
   
         } else { /* XVID_PLG_AFTER */  
                 if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {  
                         data.original.csp = XVID_CSP_PLANAR;  
                         data.original.plane[0] = original->y;  
                         data.original.plane[1] = original->u;  
                         data.original.plane[2] = original->v;  
                         data.original.stride[0] = pEnc->mbParam.edged_width;  
                         data.original.stride[1] = pEnc->mbParam.edged_width/2;  
                         data.original.stride[2] = pEnc->mbParam.edged_width/2;  
655                  }                  }
656    
                 if ((frame->vol_flags & XVID_VOL_EXTRASTATS) ||  
                         (pEnc->mbParam.plugin_flags & XVID_REQPSNR)) {  
657    
                         data.sse_y =  
                                 plane_sse( original->y, frame->image.y,  
                                                    pEnc->mbParam.edged_width, pEnc->mbParam.width,  
                                                    pEnc->mbParam.height);  
658    
659                          data.sse_u =  /*****************************************************************************
660                                  plane_sse( original->u, frame->image.u,   * IPB frame encoder entry point
661                                                     pEnc->mbParam.edged_width/2, pEnc->mbParam.width/2,   *
662                                                     pEnc->mbParam.height/2);   * Returned values :
663     *      - XVID_ERR_OK    - no errors
664     *      - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
665     *                                              format
666     ****************************************************************************/
667    
668                          data.sse_v =  int
669                                  plane_sse( original->v, frame->image.v,  encoder_encode_bframes(Encoder * pEnc,
670                                                     pEnc->mbParam.edged_width/2, pEnc->mbParam.width/2,                                  XVID_ENC_FRAME * pFrame,
671                                                     pEnc->mbParam.height/2);                                  XVID_ENC_STATS * pResult)
672                  }  {
673            uint16_t x, y;
674            Bitstream bs;
675            uint32_t bits;
676            int mode = -1; /* Just to shut up compiler warning */
677    
678                  data.type = coding2type(frame->coding_type);          int input_valid = 1;
679                  data.quant = frame->quant;          int bframes_count = 0;
680    
681                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {          ENC_CHECK(pEnc);
682                          data.dquant = pEnc->temp_dquants;          ENC_CHECK(pFrame);
683                          data.dquant_stride = pEnc->mbParam.mb_width;          ENC_CHECK(pFrame->image);
   
                         for (j=0; j<pEnc->mbParam.mb_height; j++)  
                         for (i=0; i<pEnc->mbParam.mb_width; i++) {  
                                 data.dquant[j*data.dquant_stride + i] = frame->mbs[j*pEnc->mbParam.mb_width + i].dquant;  
                         }  
                 }  
684    
685                  data.vol_flags = frame->vol_flags;          start_global_timer();
                 data.vop_flags = frame->vop_flags;  
                 data.motion_flags = frame->motion_flags;  
   
                 data.length = frame->length;  
                 data.kblks = frame->sStat.kblks;  
                 data.mblks = frame->sStat.mblks;  
                 data.ublks = frame->sStat.ublks;  
   
                 /* New code */  
                 data.stats.type      = coding2type(frame->coding_type);  
                 data.stats.quant     = frame->quant;  
                 data.stats.vol_flags = frame->vol_flags;  
                 data.stats.vop_flags = frame->vop_flags;  
                 data.stats.length    = frame->length;  
                 data.stats.hlength   = frame->length - (frame->sStat.iTextBits / 8);  
                 data.stats.kblks     = frame->sStat.kblks;  
                 data.stats.mblks     = frame->sStat.mblks;  
                 data.stats.ublks     = frame->sStat.ublks;  
                 data.stats.sse_y     = data.sse_y;  
                 data.stats.sse_u     = data.sse_u;  
                 data.stats.sse_v     = data.sse_v;  
686    
687                  if (stats)          BitstreamInit(&bs, pFrame->bitstream, 0);
                         *stats = data.stats;  
         }  
688    
689          /* call plugins */  ipvop_loop:
         for (i=0; i<(unsigned int)pEnc->num_plugins;i++) {  
                 emms();  
                 if (pEnc->plugins[i].func) {  
                         if (pEnc->plugins[i].func(pEnc->plugins[i].param, opt, &data, 0) < 0) {  
                                 continue;  
                         }  
                 }  
         }  
         emms();  
690    
691          /* copy modified values back into frame*/          /*
692          if (opt == XVID_PLG_BEFORE) {           * bframe "flush" code
693                  *type = data.type;           */
                 *quant = data.quant > 0 ? data.quant : 2;   /* default */  
694    
695                  frame->vol_flags = data.vol_flags;          if ((pFrame->image == NULL || pEnc->flush_bframes)
696                  frame->vop_flags = data.vop_flags;                  && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
                 frame->motion_flags = data.motion_flags;  
697    
698          } else if (opt == XVID_PLG_FRAME) {                  if (pEnc->flush_bframes == 0) {
699                            /*
700                             * we have reached the end of stream without getting
701                             * a future reference frame... so encode last final
702                             * frame as a pframe
703                             */
704    
705                  if ((pEnc->mbParam.plugin_flags & XVID_REQDQUANTS)) {                          DPRINTF(DPRINTF_DEBUG,"*** BFRAME (final frame) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
706                          for (j=0; j<pEnc->mbParam.mb_height; j++)                                  pEnc->bframenum_head, pEnc->bframenum_tail,
707                          for (i=0; i<pEnc->mbParam.mb_width; i++) {                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
                                 frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = data.dquant[j*data.mb_width + i];  
                         }  
                 } else {  
                         for (j=0; j<pEnc->mbParam.mb_height; j++)  
                         for (i=0; i<pEnc->mbParam.mb_width; i++) {  
                                 frame->mbs[j*pEnc->mbParam.mb_width + i].dquant = 0;  
                         }  
                 }  
                 frame->mbs[0].quant = data.quant; /* FRAME will not affect the quant in stats */  
         }  
708    
709                            pEnc->bframenum_tail--;
710                            SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
711    
712  }                          SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
713    
714                            FrameCodeP(pEnc, &bs, &bits, 1, 0);
715                            bframes_count = 0;
716    
717  static __inline void inc_frame_num(Encoder * pEnc)                          BitstreamPadAlways(&bs);
718  {                          pFrame->length = BitstreamLength(&bs);
719          pEnc->current->frame_num = pEnc->m_framenum;                          pFrame->intra = 0;
         pEnc->current->stamp = pEnc->mbParam.m_stamp;   /* first frame is zero */  
720    
         pEnc->mbParam.m_stamp += pEnc->current->fincr;  
         pEnc->m_framenum++;     /* debug ticker */  
 }  
721    
722  static __inline void dec_frame_num(Encoder * pEnc)                          emms();
 {  
         pEnc->mbParam.m_stamp -= pEnc->mbParam.fincr;  
         pEnc->m_framenum--;     /* debug ticker */  
 }  
723    
724  static __inline void                          if (pResult) {
725  MBSetDquant(MACROBLOCK * pMB, int x, int y, MBParam * mbParam)                                  pResult->quant = pEnc->current->quant;
726  {                                  pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
727          if (pMB->cbp == 0) {                                  pResult->kblks = pEnc->current->sStat.kblks;
728                  /* we want to code dquant but the quantizer value will not be used yet                                  pResult->mblks = pEnc->current->sStat.mblks;
729                          let's find out if we can postpone dquant to next MB                                  pResult->ublks = pEnc->current->sStat.ublks;
                 */  
                 if (x == mbParam->mb_width-1 && y == mbParam->mb_height-1) {  
                         pMB->dquant = 0; /* it's the last MB of all, the easiest case */  
                         return;  
                 } else {  
                         MACROBLOCK * next = pMB + 1;  
                         const MACROBLOCK * prev = pMB - 1;  
                         if (next->mode != MODE_INTER4V && next->mode != MODE_NOT_CODED)  
                                 /* mode allows dquant change in the future */  
                                 if (abs(next->quant - prev->quant) <= 2) {  
                                         /* quant change is not out of range */  
                                         pMB->quant = prev->quant;  
                                         pMB->dquant = 0;  
                                         next->dquant = next->quant - prev->quant;  
                                         return;  
                                 }  
                 }  
         }  
         /* couldn't skip this dquant */  
         pMB->mode = MODE_INTER_Q;  
730  }  }
731    
732                            return XVID_ERR_OK;
733                    }
734    
735    
736  static __inline void                  DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
737  set_timecodes(FRAMEINFO* pCur,FRAMEINFO *pRef, int32_t time_base)                                  pEnc->bframenum_head, pEnc->bframenum_tail,
738  {                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
739    
740          pCur->ticks = (int32_t)pCur->stamp % time_base;                  FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
741          pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;                  pEnc->bframenum_head++;
742    
743  #if 0   /* HEAVY DEBUG OUTPUT */                  BitstreamPadAlways(&bs);
744          fprintf(stderr,"WriteVop:   %d - %d \n",                  pFrame->length = BitstreamLength(&bs);
745                          ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));                  pFrame->intra = 2;
746          fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",  
747                          pCur->coding_type, pCur->stamp, pRef->stamp, time_base);                  if (pResult) {
748          fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",                          pResult->quant = pEnc->current->quant;
749                          pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);                          pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
750  #endif                          pResult->kblks = pEnc->current->sStat.kblks;
751                            pResult->mblks = pEnc->current->sStat.mblks;
752                            pResult->ublks = pEnc->current->sStat.ublks;
753  }  }
754    
755  static int                  if (input_valid)
756  gcd(int a, int b)                          queue_image(pEnc, pFrame);
 {  
         int r ;  
757    
758          if (b > a) {                  emms();
                 r = a;  
                 a = b;  
                 b = r;  
         }  
759    
760          while ((r = a % b)) {                  return XVID_ERR_OK;
                 a = b;  
                 b = r;  
         }  
         return b;  
761  }  }
762    
763  static void          if (pEnc->bframenum_head > 0) {
764  simplify_par(int *par_width, int *par_height)                  pEnc->bframenum_head = pEnc->bframenum_tail = 0;
 {  
765    
766          int _par_width  = (!*par_width)  ? 1 : (*par_width<0)  ? -*par_width:  *par_width;                  /* write an empty marker to the bitstream.
767          int _par_height = (!*par_height) ? 1 : (*par_height<0) ? -*par_height: *par_height;                     for divx5 decoder compatibility, this marker must consist
768          int divisor = gcd(_par_width, _par_height);                     of a not-coded p-vop, with a time_base of zero, and time_increment
769                       indentical to the future-referece frame.
770                    */
771    
772          _par_width  /= divisor;                  if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED)) {
773          _par_height /= divisor;                          int tmp;
774    
775          /* 2^8 precision maximum */                          DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
776          if (_par_width>255 || _par_height>255) {                                  pEnc->bframenum_head, pEnc->bframenum_tail,
777                  float div;                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
                 emms();  
                 if (_par_width>_par_height)  
                         div = (float)_par_width/255;  
                 else  
                         div = (float)_par_height/255;  
778    
779                  _par_width  = (int)((float)_par_width/div);                          tmp = pEnc->current->seconds;
780                  _par_height = (int)((float)_par_height/div);                          pEnc->current->seconds = 0; /* force time_base = 0 */
         }  
781    
782          *par_width = _par_width;                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
783          *par_height = _par_height;                          pEnc->current->seconds = tmp;
784    
785          return;                          BitstreamPadAlways(&bs);
786                            pFrame->length = BitstreamLength(&bs);
787                            pFrame->intra = 4;
788    
789                            if (pResult) {
790                                    pResult->quant = pEnc->current->quant;
791                                    pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
792                                    pResult->kblks = pEnc->current->sStat.kblks;
793                                    pResult->mblks = pEnc->current->sStat.mblks;
794                                    pResult->ublks = pEnc->current->sStat.ublks;
795  }  }
796    
797                            if (input_valid)
798                                    queue_image(pEnc, pFrame);
799    
800  /*****************************************************************************                          emms();
  * IPB frame encoder entry point  
  *  
  * Returned values :  
  *      - >0                       - output bytes  
  *      - 0                             - no output  
  *      - XVID_ERR_VERSION - wrong version passed to core  
  *      - XVID_ERR_END   - End of stream reached before end of coding  
  *      - XVID_ERR_FORMAT  - the image subsystem reported the image had a wrong  
  *                                               format  
  ****************************************************************************/  
   
801    
802  int                          return XVID_ERR_OK;
803  enc_encode(Encoder * pEnc,                  }
804                             xvid_enc_frame_t * xFrame,          }
                            xvid_enc_stats_t * stats)  
 {  
         xvid_enc_frame_t * frame;  
         int type;  
         Bitstream bs;  
805    
         if (XVID_VERSION_MAJOR(xFrame->version) != 1 || (stats && XVID_VERSION_MAJOR(stats->version) != 1))     /* v1.x.x */  
                 return XVID_ERR_VERSION;  
806    
807          xFrame->out_flags = 0;  bvop_loop:
808    
809          start_global_timer();          if (pEnc->bframenum_dx50bvop != -1)
810          BitstreamInit(&bs, xFrame->bitstream, 0);          {
811    
812                    SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
813                    SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
814    
815          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%                  if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
816           * enqueue image to the encoding-queue                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");
817           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */                  }
818    
819          if (xFrame->input.csp != XVID_CSP_NULL)                  if (input_valid)
820          {          {
821                  QUEUEINFO * q = &pEnc->queue[pEnc->queue_tail];                          queue_image(pEnc, pFrame);
822                            input_valid = 0;
823                    }
824    
825            } else if (input_valid) {
826    
827                    SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
828    
829                  start_timer();                  start_timer();
830                  if (image_input                  if (image_input
831                          (&q->image, pEnc->mbParam.width, pEnc->mbParam.height,                          (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
832                          pEnc->mbParam.edged_width, (uint8_t**)xFrame->input.plane, xFrame->input.stride,                          pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))
                         xFrame->input.csp, xFrame->vol_flags & XVID_VOL_INTERLACING))  
833                  {                  {
834                          emms();                          emms();
835                          return XVID_ERR_FORMAT;                          return XVID_ERR_FORMAT;
836                  }                  }
837                  stop_conv_timer();                  stop_conv_timer();
838    
839                  if ((xFrame->vop_flags & XVID_VOP_CHROMAOPT)) {                  if ((pFrame->general & XVID_CHROMAOPT)) {
840                          image_chroma_optimize(&q->image,                          image_chroma_optimize(&pEnc->current->image,
841                                  pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);                                  pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);
842                  }                  }
843    
844                  q->frame = *xFrame;                  /* queue input frame, and dequue next image */
845                    if (pEnc->queue_size > 0)
                 if (xFrame->quant_intra_matrix)  
846                  {                  {
847                          memcpy(q->quant_intra_matrix, xFrame->quant_intra_matrix, 64*sizeof(unsigned char));                          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
848                          q->frame.quant_intra_matrix = q->quant_intra_matrix;                          if (pEnc->queue_head != pEnc->queue_tail)
                 }  
   
                 if (xFrame->quant_inter_matrix)  
849                  {                  {
850                          memcpy(q->quant_inter_matrix, xFrame->quant_inter_matrix, 64*sizeof(unsigned char));                                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
                         q->frame.quant_inter_matrix = q->quant_inter_matrix;  
851                  }                  }
852                            pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
853                  pEnc->queue_tail = (pEnc->queue_tail + 1) % (pEnc->mbParam.max_bframes+1);                          pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
                 pEnc->queue_size++;  
854          }          }
855    
856            } else if (pEnc->queue_size > 0) {
857    
858          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%                  SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
          * bframe flush code  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
859    
860  repeat:                  image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
861                    pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
862                    pEnc->queue_size--;
863    
864          if (pEnc->flush_bframes)          } else {
         {  
                 if (pEnc->bframenum_head < pEnc->bframenum_tail) {  
865    
866                          DPRINTF(XVID_DEBUG_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",                  /* if nothing was encoded, write an 'ignore this frame' flag
867                       to the bitstream */
868    
869                    if (BitstreamPos(&bs) == 0) {
870    
871                            DPRINTF(DPRINTF_DEBUG,"*** SKIP bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
872                                          pEnc->bframenum_head, pEnc->bframenum_tail,                                          pEnc->bframenum_head, pEnc->bframenum_tail,
873                                          pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                          pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
874    
875                          if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                          /* That disabled line of code was supposed to inform VirtualDub
876                                  image_copy(&pEnc->sOriginal2, &pEnc->bframes[pEnc->bframenum_head]->image,                           * that the frame was a dummy delay frame - now disabled (thx god :-)
877                                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);                           */
878                            //BitstreamPutBits(&bs, 0x7f, 8);
879                            pFrame->intra = 5;
880    
881                            if (pResult) {
882                                    /*
883                                     * We must decide what to put there because i know some apps
884                                     * are storing statistics about quantizers and just do
885                                     * stats[quant]++ or stats[quant-1]++
886                                     * transcode is one of these app with its 2pass module
887                                     */
888    
889                                    /*
890                                     * For now i prefer 31 than 0 that could lead to a segfault
891                                     * in transcode
892                                     */
893                                    pResult->quant = 31;
894    
895                                    pResult->hlength = 0;
896                                    pResult->kblks = 0;
897                                    pResult->mblks = 0;
898                                    pResult->ublks = 0;
899                          }                          }
900                    } else {
901    
902                          FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs);                          if (pResult) {
903                          call_plugins(pEnc, pEnc->bframes[pEnc->bframenum_head], &pEnc->sOriginal2, XVID_PLG_AFTER, 0, 0, stats);                                  pResult->quant = pEnc->current->quant;
904                          pEnc->bframenum_head++;                                  pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
905                                    pResult->kblks = pEnc->current->sStat.kblks;
906                                    pResult->mblks = pEnc->current->sStat.mblks;
907                                    pResult->ublks = pEnc->current->sStat.ublks;
908                            }
909    
                         goto done;  
910                  }                  }
911    
912                  /* write an empty marker to the bitstream.                  pFrame->length = BitstreamLength(&bs);
913    
914                     for divx5 decoder compatibility, this marker must consist                  emms();
                    of a not-coded p-vop, with a time_base of zero, and time_increment  
                    indentical to the future-referece frame.  
                 */  
915    
916                  if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED && pEnc->bframenum_tail > 0)) {                  return XVID_ERR_OK;
917                          int tmp;          }
                         int bits;  
918    
919                          DPRINTF(XVID_DEBUG_DEBUG,"*** EMPTY bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",          pEnc->flush_bframes = 0;
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
920    
921                          bits = BitstreamPos(&bs);          emms();
922    
923                          tmp = pEnc->current->seconds;          /* only inc frame num, adapt quant, etc. if we havent seen it before */
924                          pEnc->current->seconds = 0; /* force time_base = 0 */          if (pEnc->bframenum_dx50bvop < 0 )
925            {
926                    mode = intra2coding_type(pFrame->intra);
927                    if (pFrame->quant == 0)
928                            pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
929                    else
930                            pEnc->current->quant = pFrame->quant;
931    
932                          BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0, pEnc->current->quant);  /*              if (pEnc->current->quant < 1)
933                          BitstreamPad(&bs);                          pEnc->current->quant = 1;
                         pEnc->current->seconds = tmp;  
934    
935                          /* add the not-coded length to the reference frame size */                  if (pEnc->current->quant > 31)
936                          pEnc->current->length += (BitstreamPos(&bs) - bits) / 8;                          pEnc->current->quant = 31;
937                          call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);  */
938                    pEnc->current->global_flags = pFrame->general;
939                    pEnc->current->motion_flags = pFrame->motion;
940    
941                          /* flush complete: reset counters */                  /* ToDo : dynamic fcode (in both directions) */
942                          pEnc->flush_bframes = 0;                  pEnc->current->fcode = pEnc->mbParam.m_fcode;
943                          pEnc->bframenum_head = pEnc->bframenum_tail = 0;                  pEnc->current->bcode = pEnc->mbParam.m_fcode;
944                          goto done;  
945                    inc_frame_num(pEnc);
946    
947                    if (pFrame->general & XVID_EXTRASTATS)
948                    {       image_copy(&pEnc->sOriginal, &pEnc->current->image,
949                                       pEnc->mbParam.edged_width, pEnc->mbParam.height);
950                  }                  }
951    
952                  /* flush complete: reset counters */                  emms();
953                  pEnc->flush_bframes = 0;  
954                  pEnc->bframenum_head = pEnc->bframenum_tail = 0;                  if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
955                            image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,
956                                    "%i  if:%i  st:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->stamp);
957          }          }
958    
959          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
960           * dequeue frame from the encoding queue           * Luminance masking
961           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
962    
963          if (pEnc->queue_size == 0)              /* empty */                  if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
964          {                          int *temp_dquants =
965                  if (xFrame->input.csp == XVID_CSP_NULL) /* no futher input */                                  (int *) xvid_malloc(pEnc->mbParam.mb_width *
966                  {                                                                  pEnc->mbParam.mb_height * sizeof(int),
967                                                                    CACHE_LINE);
968    
969                          DPRINTF(XVID_DEBUG_DEBUG,"*** FINISH bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",                          pEnc->current->quant =
970                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  adaptive_quantization(pEnc->current->image.y,
971                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                                                    pEnc->mbParam.edged_width, temp_dquants,
972                                                                      pEnc->current->quant, pEnc->current->quant,
973                                                                      2 * pEnc->current->quant,
974                                                                      pEnc->mbParam.mb_width,
975                                                                      pEnc->mbParam.mb_height);
976    
977                            for (y = 0; y < pEnc->mbParam.mb_height; y++) {
978    
979    #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
980    
981                          if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0) {                                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
982                                  call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);                                          MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
983    
984                                            pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
985                                    }
986    #undef OFFSET
987                            }
988                            xvid_free(temp_dquants);
989                    }
990                          }                          }
991    
992                          /* if the very last frame is to be b-vop, we must change it to a p-vop */          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
993                          if (pEnc->bframenum_tail > 0) {           * ivop/pvop/bvop selection
994             * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
995            pEnc->iFrameNum++;
996    
997                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);          if (pEnc->iFrameNum == 0 || pEnc->bframenum_dx50bvop >= 0 ||
998                                  pEnc->bframenum_tail--;                  (mode < 0 && pEnc->mbParam.iMaxKeyInterval > 0 &&
999                                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                          pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval)) {
1000                    mode = I_VOP;
1001            } else {
1002                    mode = MEanalysis(&pEnc->reference->image, pEnc->current,
1003                                            &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,
1004                                            (/*mode < 0*/1/*hack*/) ? pEnc->iFrameNum : 0,
1005                                            bframes_count++, pFrame->bframe_threshold);
1006            }
1007    
1008            if (mode == I_VOP) {
1009                    /*
1010                     * This will be coded as an Intra Frame
1011                     */
1012                    if ((pEnc->current->global_flags & XVID_QUARTERPEL))
1013                            pEnc->mbParam.m_quarterpel = 1;
1014                    else
1015                            pEnc->mbParam.m_quarterpel = 0;
1016    
1017                                  /* convert B-VOP to P-VOP */                  if (pEnc->current->global_flags & XVID_MPEGQUANT) pEnc->mbParam.m_quant_type = MPEG4_QUANT;
                                 pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;  
                                 pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */  
                                 pEnc->current->quant /= pEnc->mbParam.bquant_ratio;  
1018    
1019                                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                  if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1020                                          image_copy(&pEnc->sOriginal, &pEnc->current->image,                          if (pFrame->quant_intra_matrix != NULL)
1021                                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);                                  set_intra_matrix(pFrame->quant_intra_matrix);
1022                            if (pFrame->quant_inter_matrix != NULL)
1023                                    set_inter_matrix(pFrame->quant_inter_matrix);
1024                                  }                                  }
1025    
1026                                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",  
1027                    DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
1028                                  pEnc->bframenum_head, pEnc->bframenum_tail,                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1029                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1030    
1031                                  FrameCodeP(pEnc, &bs, 1, 0);                  if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1032                            image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");
1033                    }
1034    
1035                    /* when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe */
1036    
1037                    if ((pEnc->mbParam.global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {
1038    
1039                            pEnc->bframenum_tail--;
1040                            pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;
1041    
1042                            SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);
1043                            if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1044                                    image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");
1045                            }
1046                            FrameCodeP(pEnc, &bs, &bits, 1, 0);
1047                            bframes_count = 0;
1048                            pFrame->intra = 0;
1049    
                                 if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail==0) {  
                                         call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);  
1050                                  }else{                                  }else{
1051    
1052                            FrameCodeI(pEnc, &bs, &bits);
1053                            bframes_count = 0;
1054                            pFrame->intra = 1;
1055    
1056                            pEnc->bframenum_dx50bvop = -1;
1057                    }
1058    
1059                                          pEnc->flush_bframes = 1;                                          pEnc->flush_bframes = 1;
1060                                          goto done;  
1061                    if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {
1062                            BitstreamPadAlways(&bs);
1063                            input_valid = 0;
1064                            goto ipvop_loop;
1065                                  }                                  }
1066    
1067                    /*
1068                     * NB : sequences like "IIBB" decode fine with msfdam but,
1069                     *        go screwy with divx 5.00
1070                     */
1071            } else if (mode == P_VOP || mode == S_VOP || pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
1072                    /*
1073                     * This will be coded as a Predicted Frame
1074                     */
1075    
1076                    DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
1077                                    pEnc->bframenum_head, pEnc->bframenum_tail,
1078                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
1079    
1080                    if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1081                            image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");
1082                          }                          }
                         DPRINTF(XVID_DEBUG_DEBUG, "*** END\n");  
1083    
1084                          emms();                  FrameCodeP(pEnc, &bs, &bits, 1, 0);
1085                          return XVID_ERR_END;    /* end of stream reached */                  bframes_count = 0;
1086                    pFrame->intra = 0;
1087                    pEnc->flush_bframes = 1;
1088    
1089                    if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && (pEnc->bframenum_tail > 0)) {
1090                            BitstreamPadAlways(&bs);
1091                            input_valid = 0;
1092                            goto ipvop_loop;
1093                  }                  }
1094                  goto done;      /* nothing to encode yet; encoder lag */  
1095            } else {        /* mode == B_VOP */
1096                    /*
1097                     * This will be coded as a Bidirectional Frame
1098                     */
1099    
1100                    if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {
1101                            image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");
1102          }          }
1103    
1104          /* the current FRAME becomes the reference */                  if (pFrame->bquant < 1) {
1105          SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);                          pEnc->current->quant = ((((pEnc->reference->quant + pEnc->current->quant) *
1106                                    pEnc->mbParam.bquant_ratio) / 2) + pEnc->mbParam.bquant_offset)/100;
1107    
1108          /* remove frame from encoding-queue (head), and move it into the current */                  } else {
1109          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);                          pEnc->current->quant = pFrame->bquant;
1110          frame = &pEnc->queue[pEnc->queue_head].frame;                  }
         pEnc->queue_head = (pEnc->queue_head + 1) % (pEnc->mbParam.max_bframes+1);  
         pEnc->queue_size--;  
1111    
1112                    if (pEnc->current->quant < 1)
1113                            pEnc->current->quant = 1;
1114                    else if (pEnc->current->quant > 31)
1115                            pEnc->current->quant = 31;
1116    
1117          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%                  DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i  quant=%i\n",
1118           * init pEnc->current fields                                  pEnc->bframenum_head, pEnc->bframenum_tail,
1119           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);
1120    
1121          pEnc->current->fincr = pEnc->mbParam.fincr>0 ? pEnc->mbParam.fincr : frame->fincr;                  /* store frame into bframe buffer & swap ref back to current */
1122          inc_frame_num(pEnc);                  SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
1123          pEnc->current->vol_flags = frame->vol_flags;                  SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
         pEnc->current->vop_flags = frame->vop_flags;  
         pEnc->current->motion_flags = frame->motion;  
         pEnc->current->fcode = pEnc->mbParam.m_fcode;  
         pEnc->current->bcode = pEnc->mbParam.m_fcode;  
1124    
1125                    pEnc->bframenum_tail++;
1126    
1127          if ((xFrame->vop_flags & XVID_VOP_CHROMAOPT)) {                  /* bframe report by koepi */
1128                  image_chroma_optimize(&pEnc->current->image,                  pFrame->intra = 2;
1129                          pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);                  pFrame->length = 0;
1130          }  
1131                    input_valid = 0;
1132                    goto bvop_loop;
1133            }
1134    
1135            BitstreamPadAlways(&bs);
1136            pFrame->length = BitstreamLength(&bs);
1137    
1138            if (pResult) {
1139                    pResult->quant = pEnc->current->quant;
1140                    pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
1141                    pResult->kblks = pEnc->current->sStat.kblks;
1142                    pResult->mblks = pEnc->current->sStat.mblks;
1143                    pResult->ublks = pEnc->current->sStat.ublks;
1144    
1145                    if (pFrame->general & XVID_EXTRASTATS)
1146                    {       pResult->sse_y =
1147                                    plane_sse( pEnc->sOriginal.y, pEnc->current->image.y,
1148                                                       pEnc->mbParam.edged_width, pEnc->mbParam.width,
1149                                                       pEnc->mbParam.height);
1150    
1151          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%                          pResult->sse_u =
1152           * frame type & quant selection                                  plane_sse( pEnc->sOriginal.u, pEnc->current->image.u,
1153           * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */                                                     pEnc->mbParam.edged_width/2, pEnc->mbParam.width/2,
1154                                                       pEnc->mbParam.height/2);
1155    
1156          type = frame->type;                          pResult->sse_v =
1157          pEnc->current->quant = frame->quant;                                  plane_sse( pEnc->sOriginal.v, pEnc->current->image.v,
1158                                                       pEnc->mbParam.edged_width/2, pEnc->mbParam.width/2,
1159                                                       pEnc->mbParam.height/2);
1160                    }
1161            }
1162    
1163          call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_BEFORE, &type, &pEnc->current->quant, stats);          emms();
1164    
1165          if (type > 0){  /* XVID_TYPE_?VOP */          if (pFrame->quant == 0) {
1166                  type = type2coding(type);       /* convert XVID_TYPE_?VOP to bitstream coding type */                  RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1167          } else{         /* XVID_TYPE_AUTO */                                                    pFrame->length, pFrame->intra);
                 if (pEnc->iFrameNum == 0 || (pEnc->mbParam.iMaxKeyInterval > 0 && pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval)){  
                         pEnc->iFrameNum = 0;  
                         type = I_VOP;  
                 }else{  
                         type = MEanalysis(&pEnc->reference->image, pEnc->current,  
                                                           &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,  
                                                           pEnc->iFrameNum, pEnc->bframenum_tail, xFrame->bframe_threshold,  
                                                           (pEnc->bframes) ? pEnc->bframes[pEnc->bframenum_head]->mbs: NULL);  
1168                  }                  }
1169    
1170            stop_global_timer();
1171            write_timer();
1172    
1173            emms();
1174            return XVID_ERR_OK;
1175          }          }
1176    
         if (type != I_VOP)  
                 pEnc->current->vol_flags = pEnc->mbParam.vol_flags; /* don't allow VOL changes here */  
1177    
1178          /* bframes buffer overflow check */  
1179          if (type == B_VOP && pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {  /*****************************************************************************
1180                  type = P_VOP;   * "original" IP frame encoder entry point
1181     *
1182     * Returned values :
1183     *      - XVID_ERR_OK    - no errors
1184     *      - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1185     *                                              format
1186     ****************************************************************************/
1187    
1188    int
1189    encoder_encode(Encoder * pEnc,
1190                               XVID_ENC_FRAME * pFrame,
1191                               XVID_ENC_STATS * pResult)
1192    {
1193            uint16_t x, y;
1194            Bitstream bs;
1195            uint32_t bits;
1196            uint16_t write_vol_header = 0;
1197    
1198            float psnr;
1199            char temp[128];
1200    
1201            start_global_timer();
1202    
1203            ENC_CHECK(pEnc);
1204            ENC_CHECK(pFrame);
1205            ENC_CHECK(pFrame->bitstream);
1206            ENC_CHECK(pFrame->image);
1207    
1208            SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);
1209    
1210            pEnc->current->global_flags = pFrame->general;
1211            pEnc->current->motion_flags = pFrame->motion;
1212            pEnc->mbParam.hint = &pFrame->hint;
1213    
1214            inc_frame_num(pEnc);
1215    
1216            /* disable alternate scan flag if interlacing is not enabled */
1217            if ((pEnc->current->global_flags & XVID_ALTERNATESCAN) &&
1218                    !(pEnc->current->global_flags & XVID_INTERLACING))
1219            {
1220                    pEnc->current->global_flags -= XVID_ALTERNATESCAN;
1221          }          }
1222    
1223          pEnc->iFrameNum++;          start_timer();
1224            if (image_input
1225                    (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1226                     pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING) < 0)
1227                    return XVID_ERR_FORMAT;
1228            stop_conv_timer();
1229    
1230          if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {          if ((pFrame->general & XVID_CHROMAOPT)) {
1231                  image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,                  image_chroma_optimize(&pEnc->current->image,
1232                          "%d  st:%lld  if:%d", pEnc->current->frame_num, pEnc->current->stamp, pEnc->iFrameNum);                          pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width);
1233          }          }
1234    
1235          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          if (pFrame->general & XVID_EXTRASTATS)
1236           * encode this frame as a b-vop          {       image_copy(&pEnc->sOriginal, &pEnc->current->image,
1237           * (we dont encode here, rather we store the frame in the bframes queue, to be encoded later)                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
         if (type == B_VOP) {  
                 if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {  
                         image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");  
1238                  }                  }
1239    
1240                  if (frame->quant < 1) {          emms();
1241                          pEnc->current->quant = ((((pEnc->reference->quant + pEnc->current->quant) *  
1242                                  pEnc->mbParam.bquant_ratio) / 2) + pEnc->mbParam.bquant_offset)/100;          BitstreamInit(&bs, pFrame->bitstream, 0);
1243    
1244            if (pFrame->quant == 0) {
1245                    pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1246                  } else {                  } else {
1247                          pEnc->current->quant = frame->quant;                  pEnc->current->quant = pFrame->quant;
1248                  }                  }
1249    
1250                  if (pEnc->current->quant < 1)          if ((pEnc->current->global_flags & XVID_QUARTERPEL))
1251                          pEnc->current->quant = 1;                  pEnc->mbParam.m_quarterpel = 1;
1252                  else if (pEnc->current->quant > 31)          else
1253                          pEnc->current->quant = 31;                  pEnc->mbParam.m_quarterpel = 0;
1254    
1255                  DPRINTF(XVID_DEBUG_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i  quant=%i\n",          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1256                                  pEnc->bframenum_head, pEnc->bframenum_tail,                  int *temp_dquants =
1257                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);                          (int *) xvid_malloc(pEnc->mbParam.mb_width *
1258                                                                    pEnc->mbParam.mb_height * sizeof(int),
1259                                                                    CACHE_LINE);
1260    
1261                  /* store frame into bframe buffer & swap ref back to current */                  pEnc->current->quant =
1262                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                          adaptive_quantization(pEnc->current->image.y,
1263                  SWAP(FRAMEINFO*, pEnc->current, pEnc->reference);                                                                    pEnc->mbParam.edged_width, temp_dquants,
1264                                                                      pEnc->current->quant, pEnc->current->quant,
1265                                                                      2 * pEnc->current->quant,
1266                                                                      pEnc->mbParam.mb_width,
1267                                                                      pEnc->mbParam.mb_height);
1268    
1269                  pEnc->bframenum_tail++;                  for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1270    
1271                  goto repeat;  #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
         }  
1272    
1273                            for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1274    
                 DPRINTF(XVID_DEBUG_DEBUG,"*** XXXXXX bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
1275    
1276          /* for unpacked bframes, output the stats for the last encoded frame */                                  MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1277          if (!(pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->mbParam.max_bframes > 0)  
1278          {                                  pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
                 if (pEnc->current->stamp > 0) {  
                         call_plugins(pEnc, pEnc->reference, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);  
1279                  }                  }
1280                  else  
1281                          stats->type = XVID_TYPE_NOTHING;  #undef OFFSET
1282          }          }
1283    
1284          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%                  xvid_free(temp_dquants);
1285           * closed-gop          }
          * if the frame prior to an iframe is scheduled as a bframe, we must change it to a pframe  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
1286    
1287          if (type == I_VOP && (pEnc->mbParam.global_flags & XVID_GLOBAL_CLOSED_GOP) && pEnc->bframenum_tail > 0) {          if (pEnc->current->global_flags & XVID_H263QUANT) {
1288                    if (pEnc->mbParam.m_quant_type != H263_QUANT)
1289                            write_vol_header = 1;
1290                    pEnc->mbParam.m_quant_type = H263_QUANT;
1291            } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1292                    int matrix1_changed, matrix2_changed;
1293    
1294                  /* place this frame back on the encoding-queue (head) */                  matrix1_changed = matrix2_changed = 0;
                 /* we will deal with it next time */  
                 dec_frame_num(pEnc);  
                 pEnc->iFrameNum--;  
1295    
1296                  pEnc->queue_head = (pEnc->queue_head + (pEnc->mbParam.max_bframes+1) - 1) % (pEnc->mbParam.max_bframes+1);                  if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1297                  pEnc->queue_size++;                          write_vol_header = 1;
                 image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head].image);  
1298    
1299                  /* grab the last frame from the bframe-queue */                  pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1300    
1301                  pEnc->bframenum_tail--;                  if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1302                  SWAP(FRAMEINFO*, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);                          if (pFrame->quant_intra_matrix != NULL)
1303                                    matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1304                            if (pFrame->quant_inter_matrix != NULL)
1305                                    matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1306                    } else {
1307                            matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1308                            matrix2_changed = set_inter_matrix(get_default_inter_matrix());
1309                    }
1310                    if (write_vol_header == 0)
1311                            write_vol_header = matrix1_changed | matrix2_changed;
1312            }
1313    
1314                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {          if (pFrame->intra < 0) {
1315                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");                  if ((pEnc->iFrameNum == -1)
1316                            || ((pEnc->mbParam.iMaxKeyInterval > 0)
1317                                    && (pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval))) {
1318                            pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1319                    } else {
1320                            pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1321                    }
1322            } else {
1323                    if (pFrame->intra == 1) {
1324                            pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1325                    } else {
1326                            pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1327                  }                  }
1328    
                 /* convert B-VOP quant to P-VOP */  
                 pEnc->current->quant  = 100*pEnc->current->quant - pEnc->mbParam.bquant_offset;  
                 pEnc->current->quant += pEnc->mbParam.bquant_ratio - 1; /* to avoid rouding issues */  
                 pEnc->current->quant /= pEnc->mbParam.bquant_ratio;  
                 type = P_VOP;  
1329          }          }
1330    
1331            /* Relic from OpenDivX - now disabled
1332            BitstreamPutBits(&bs, 0xFFFF, 16);
1333            BitstreamPutBits(&bs, 0xFFFF, 16);
1334            */
1335    
1336          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          BitstreamPadAlways(&bs);
1337           * encode this frame as an i-vop          pFrame->length = BitstreamLength(&bs);
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
1338    
1339          if (type == I_VOP) {          if (pResult) {
1340                    pResult->quant = pEnc->current->quant;
1341                    pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);
1342                    pResult->kblks = pEnc->current->sStat.kblks;
1343                    pResult->mblks = pEnc->current->sStat.mblks;
1344                    pResult->ublks = pEnc->current->sStat.ublks;
1345            }
1346    
1347                  DPRINTF(XVID_DEBUG_DEBUG,"*** IFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",          emms();
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
1348    
1349                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {          if (pFrame->quant == 0) {
1350                          image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");                  RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1351                                                      pFrame->length, pFrame->intra);
1352                  }                  }
1353            if (pFrame->general & XVID_EXTRASTATS)
1354            {
1355                    psnr =
1356                            image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1357                                               pEnc->mbParam.edged_width, pEnc->mbParam.width,
1358                                               pEnc->mbParam.height);
1359    
1360                  pEnc->iFrameNum = 1;                  snprintf(temp, 127, "PSNR: %f\n", psnr);
1361            }
1362    
1363                  /* ---- update vol flags at IVOP ----------- */          pEnc->iFrameNum++;
                 pEnc->mbParam.vol_flags = pEnc->current->vol_flags;  
1364    
1365                  /* Aspect ratio */          stop_global_timer();
1366                  switch(frame->par) {          write_timer();
                 case XVID_PAR_11_VGA:  
                 case XVID_PAR_43_PAL:  
                 case XVID_PAR_43_NTSC:  
                 case XVID_PAR_169_PAL:  
                 case XVID_PAR_169_NTSC:  
                 case XVID_PAR_EXT:  
                         pEnc->mbParam.par = frame->par;  
                         break;  
                 default:  
                         pEnc->mbParam.par = XVID_PAR_11_VGA;  
                         break;  
                 }  
1367    
1368                  /* For extended PAR only, we try to sanityse/simplify par values */          return XVID_ERR_OK;
                 if (pEnc->mbParam.par == XVID_PAR_EXT) {  
                         pEnc->mbParam.par_width  = frame->par_width;  
                         pEnc->mbParam.par_height = frame->par_height;  
                         simplify_par(&pEnc->mbParam.par_width, &pEnc->mbParam.par_height);  
1369                  }                  }
1370    
                 if ((pEnc->mbParam.vol_flags & XVID_VOL_MPEGQUANT)) {  
                         if (frame->quant_intra_matrix != NULL)  
                                 set_intra_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_intra_matrix);  
                         if (frame->quant_inter_matrix != NULL)  
                                 set_inter_matrix(pEnc->mbParam.mpeg_quant_matrices, frame->quant_inter_matrix);  
                 }  
1371    
1372                  /* prevent vol/vop misuse */  static __inline void
1373    CodeIntraMB(Encoder * pEnc,
1374                            MACROBLOCK * pMB)
1375    {
1376    
1377                  if (!(pEnc->current->vol_flags & XVID_VOL_REDUCED_ENABLE))          pMB->mode = MODE_INTRA;
                         pEnc->current->vop_flags &= ~XVID_VOP_REDUCED;  
1378    
1379                  if (!(pEnc->current->vol_flags & XVID_VOL_INTERLACING))          /* zero mv statistics */
1380                          pEnc->current->vop_flags &= ~(XVID_VOP_TOPFIELDFIRST|XVID_VOP_ALTERNATESCAN);          pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1381            pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1382            pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1383            pMB->sad16 = 0;
1384    
1385                  /* ^^^------------------------ */          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1386                    if (pMB->dquant != NO_CHANGE) {
1387                            pMB->mode = MODE_INTRA_Q;
1388                            pEnc->current->quant += DQtab[pMB->dquant];
1389    
1390                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {                          if (pEnc->current->quant > 31)
1391                          image_copy(&pEnc->sOriginal, &pEnc->current->image,                                  pEnc->current->quant = 31;
1392                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);                          if (pEnc->current->quant < 1)
1393                                    pEnc->current->quant = 1;
1394                    }
1395                  }                  }
1396    
1397                  FrameCodeI(pEnc, &bs);          pMB->quant = pEnc->current->quant;
1398                  xFrame->out_flags |= XVID_KEYFRAME;  }
1399    
         /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
          * encode this frame as an p-vop  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
1400    
1401          } else { /* (type == P_VOP || type == S_VOP) */  #define FCODEBITS       3
1402    #define MODEBITS        5
1403    
1404                  DPRINTF(XVID_DEBUG_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i\n",  void
1405                                  pEnc->bframenum_head, pEnc->bframenum_tail,  HintedMESet(Encoder * pEnc,
1406                                  pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);                          int *intra)
1407    {
1408            HINTINFO *hint;
1409            Bitstream bs;
1410            int length, high;
1411            uint32_t x, y;
1412    
1413                  if ((pEnc->current->vop_flags & XVID_VOP_DEBUG)) {          hint = pEnc->mbParam.hint;
                         image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");  
                 }  
1414    
1415                  if ((pEnc->mbParam.plugin_flags & XVID_REQORIGINAL)) {          if (hint->rawhints) {
1416                          image_copy(&pEnc->sOriginal, &pEnc->current->image,                  *intra = hint->mvhint.intra;
1417                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);          } else {
1418                    BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1419                    *intra = BitstreamGetBit(&bs);
1420                  }                  }
1421    
1422                  FrameCodeP(pEnc, &bs, 1, 0);          if (*intra) {
1423                    return;
1424          }          }
1425    
1426            pEnc->current->fcode = (hint->rawhints) ?
1427                    (uint32_t)hint->mvhint.fcode : BitstreamGetBits(&bs, FCODEBITS);
1428    
1429          /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%          length = pEnc->current->fcode + 5;
1430           * on next enc_encode call we must flush bframes          high = 1 << (length - 1);
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
1431    
1432  /*done_flush:*/          for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1433                    for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1434                            MACROBLOCK *pMB =
1435                                    &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1436                            MVBLOCKHINT *bhint =
1437                                    &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1438                            VECTOR pred;
1439                            VECTOR tmp;
1440                            int vec;
1441    
1442                            pMB->mode =     (hint->rawhints) ?
1443                                    (uint32_t)bhint->mode : BitstreamGetBits(&bs, MODEBITS);
1444    
1445                            pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1446                            pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1447    
1448                            if (pMB->mode == MODE_INTER) {
1449                                    tmp.x = (hint->rawhints) ?
1450                                            bhint->mvs[0].x : (int)BitstreamGetBits(&bs, length);
1451                                    tmp.y = (hint->rawhints) ?
1452                                            bhint->mvs[0].y : (int)BitstreamGetBits(&bs, length);
1453                                    tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1454                                    tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1455    
1456                                    pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,0);
1457    
1458                                    for (vec = 0; vec < 4; ++vec) {
1459                                            pMB->mvs[vec].x = tmp.x;
1460                                            pMB->mvs[vec].y = tmp.y;
1461                                            pMB->pmvs[vec].x = pMB->mvs[0].x - pred.x;
1462                                            pMB->pmvs[vec].y = pMB->mvs[0].y - pred.y;
1463                                    }
1464                            } else if (pMB->mode == MODE_INTER4V) {
1465                                    for (vec = 0; vec < 4; ++vec) {
1466                                            tmp.x = (hint->rawhints) ?
1467                                                    bhint->mvs[vec].x : (int)BitstreamGetBits(&bs, length);
1468                                            tmp.y = (hint->rawhints) ?
1469                                                    bhint->mvs[vec].y : (int)BitstreamGetBits(&bs, length);
1470                                            tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1471                                            tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1472    
1473                                            pred = get_pmv2(pEnc->current->mbs,pEnc->mbParam.mb_width,0,x,y,vec);
1474    
1475                                            pMB->mvs[vec].x = tmp.x;
1476                                            pMB->mvs[vec].y = tmp.y;
1477                                            pMB->pmvs[vec].x = pMB->mvs[vec].x - pred.x;
1478                                            pMB->pmvs[vec].y = pMB->mvs[vec].y - pred.y;
1479                                    }
1480                            } else                          /* intra / stuffing / not_coded */
1481                            {
1482                                    for (vec = 0; vec < 4; ++vec) {
1483                                            pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1484                                    }
1485                            }
1486    
1487          pEnc->flush_bframes = 1;                          if (pMB->mode == MODE_INTER4V &&
1488                                    (pEnc->current->global_flags & XVID_LUMIMASKING)
1489                                    && pMB->dquant != NO_CHANGE) {
1490                                    pMB->mode = MODE_INTRA;
1491    
1492          /* packed & queued_bframes: dont bother outputting stats here, we do so after the flush */                                  for (vec = 0; vec < 4; ++vec) {
1493          if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {                                          pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1494                  goto repeat;                                  }
1495                            }
1496                    }
1497          }          }
   
         /* packed or no-bframes or no-bframes-queued: output stats */  
         if ((pEnc->mbParam.global_flags & XVID_GLOBAL_PACKED) || pEnc->mbParam.max_bframes == 0 ) {  
                 call_plugins(pEnc, pEnc->current, &pEnc->sOriginal, XVID_PLG_AFTER, 0, 0, stats);  
1498          }          }
1499    
         /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
          * done; return number of bytes consumed  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
1500    
1501  done:  void
1502    HintedMEGet(Encoder * pEnc,
1503                            int intra)
1504    {
1505            HINTINFO *hint;
1506            Bitstream bs;
1507            uint32_t x, y;
1508            int length, high;
1509    
1510          stop_global_timer();          hint = pEnc->mbParam.hint;
         write_timer();  
1511    
1512          emms();          if (hint->rawhints) {
1513          return BitstreamLength(&bs);                  hint->mvhint.intra = intra;
1514            } else {
1515                    BitstreamInit(&bs, hint->hintstream, 0);
1516                    BitstreamPutBit(&bs, intra);
1517  }  }
1518    
1519            if (intra) {
1520  static void SetMacroblockQuants(MBParam * const pParam, FRAMEINFO * frame)                  if (!hint->rawhints) {
1521  {                          BitstreamPadAlways(&bs);
1522          unsigned int i;                          hint->hintlength = BitstreamLength(&bs);
         MACROBLOCK * pMB = frame->mbs;  
         int quant = frame->mbs[0].quant; /* set by XVID_PLG_FRAME */  
         if (quant > 31)  
                 frame->quant = quant = 31;  
         else if (quant < 1)  
                 frame->quant = quant = 1;  
   
         for (i = 0; i < pParam->mb_height * pParam->mb_width; i++) {  
                 quant += pMB->dquant;  
                 if (quant > 31)  
                         quant = 31;  
                 else if (quant < 1)  
                         quant = 1;  
                 pMB->quant = quant;  
                 pMB++;  
1523          }          }
1524                    return;
1525  }  }
1526    
1527            length = pEnc->current->fcode + 5;
1528            high = 1 << (length - 1);
1529    
1530  static __inline void          if (hint->rawhints) {
1531  CodeIntraMB(Encoder * pEnc,                  hint->mvhint.fcode = pEnc->current->fcode;
1532                          MACROBLOCK * pMB)          } else {
1533  {                  BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1534            }
1535    
1536          pMB->mode = MODE_INTRA;          for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1537                    for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1538                            MACROBLOCK *pMB =
1539                                    &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1540                            MVBLOCKHINT *bhint =
1541                                    &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1542                            VECTOR tmp;
1543    
1544          /* zero mv statistics */                          if (hint->rawhints) {
1545          pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;                                  bhint->mode = pMB->mode;
1546          pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;                          } else {
1547          pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;                                  BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1548          pMB->sad16 = 0;                          }
1549    
1550          if (pMB->dquant != 0) {                          if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1551                  pMB->mode = MODE_INTRA_Q;                                  tmp.x = pMB->mvs[0].x;
1552                                    tmp.y = pMB->mvs[0].y;
1553                                    tmp.x += (tmp.x < 0) ? high * 2 : 0;
1554                                    tmp.y += (tmp.y < 0) ? high * 2 : 0;
1555    
1556                                    if (hint->rawhints) {
1557                                            bhint->mvs[0].x = tmp.x;
1558                                            bhint->mvs[0].y = tmp.y;
1559                                    } else {
1560                                            BitstreamPutBits(&bs, tmp.x, length);
1561                                            BitstreamPutBits(&bs, tmp.y, length);
1562                                    }
1563                            } else if (pMB->mode == MODE_INTER4V) {
1564                                    int vec;
1565    
1566                                    for (vec = 0; vec < 4; ++vec) {
1567                                            tmp.x = pMB->mvs[vec].x;
1568                                            tmp.y = pMB->mvs[vec].y;
1569                                            tmp.x += (tmp.x < 0) ? high * 2 : 0;
1570                                            tmp.y += (tmp.y < 0) ? high * 2 : 0;
1571    
1572                                            if (hint->rawhints) {
1573                                                    bhint->mvs[vec].x = tmp.x;
1574                                                    bhint->mvs[vec].y = tmp.y;
1575                                            } else {
1576                                                    BitstreamPutBits(&bs, tmp.x, length);
1577                                                    BitstreamPutBits(&bs, tmp.y, length);
1578                                            }
1579                                    }
1580                            }
1581          }          }
1582  }  }
1583    
1584            if (!hint->rawhints) {
1585                    BitstreamPad(&bs);
1586                    hint->hintlength = BitstreamLength(&bs);
1587            }
1588    }
1589    
1590    
1591  static int  static int
1592  FrameCodeI(Encoder * pEnc,  FrameCodeI(Encoder * pEnc,
1593                     Bitstream * bs)                     Bitstream * bs,
1594                       uint32_t * pBits)
1595  {  {
         int bits = BitstreamPos(bs);  
1596          int mb_width = pEnc->mbParam.mb_width;          int mb_width = pEnc->mbParam.mb_width;
1597          int mb_height = pEnc->mbParam.mb_height;          int mb_height = pEnc->mbParam.mb_height;
1598    
# Line 1430  Line 1601 
1601    
1602          uint16_t x, y;          uint16_t x, y;
1603    
1604          if ((pEnc->current->vol_flags & XVID_VOL_REDUCED_ENABLE))          if ((pEnc->current->global_flags & XVID_REDUCED))
1605          {          {
1606                  mb_width = (pEnc->mbParam.width + 31) / 32;                  mb_width = (pEnc->mbParam.width + 31) / 32;
1607                  mb_height = (pEnc->mbParam.height + 31) / 32;                  mb_height = (pEnc->mbParam.height + 31) / 32;
# Line 1440  Line 1611 
1611                  start_timer();                  start_timer();
1612                  image_setedges(&pEnc->current->image,                  image_setedges(&pEnc->current->image,
1613                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                          pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1614                          pEnc->mbParam.width, pEnc->mbParam.height, 0);                          pEnc->mbParam.width, pEnc->mbParam.height);
1615                  stop_edges_timer();                  stop_edges_timer();
1616          }          }
1617            pEnc->iFrameNum = 0;
1618          pEnc->mbParam.m_rounding_type = 1;          pEnc->mbParam.m_rounding_type = 1;
1619          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1620            pEnc->current->quarterpel =  pEnc->mbParam.m_quarterpel;
1621          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
1622    
         call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);  
   
         SetMacroblockQuants(&pEnc->mbParam, pEnc->current);  
   
1623          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1624    
1625          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1626    
1627          BitstreamPad(bs);          BitstreamPadAlways(bs);
1628            BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1629    
1630          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1, pEnc->current->mbs[0].quant);          *pBits = BitstreamPos(bs);
1631    
1632          pEnc->current->sStat.iTextBits = 0;          pEnc->current->sStat.iTextBits = 0;
1633          pEnc->current->sStat.kblks = mb_width * mb_height;          pEnc->current->sStat.kblks = mb_width * mb_height;
# Line 1479  Line 1648 
1648                          stop_prediction_timer();                          stop_prediction_timer();
1649    
1650                          start_timer();                          start_timer();
1651                          if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE)                          if (pEnc->current->global_flags & XVID_GREYSCALE)
1652                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1653                                  qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
1654                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
# Line 1488  Line 1657 
1657                          stop_coding_timer();                          stop_coding_timer();
1658                  }                  }
1659    
1660          if ((pEnc->current->vop_flags & XVID_VOP_REDUCED))          if ((pEnc->current->global_flags & XVID_REDUCED))
1661          {          {
1662                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1663                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,
1664                          16, 0);                          16, XVID_DEC_DEBLOCKY|XVID_DEC_DEBLOCKUV);
1665          }          }
1666          emms();          emms();
1667    
1668          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */          *pBits = BitstreamPos(bs) - *pBits;
   
         pEnc->current->length = (BitstreamPos(bs) - bits) / 8;  
   
1669          pEnc->fMvPrevSigma = -1;          pEnc->fMvPrevSigma = -1;
1670          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
1671    
1672          pEnc->current->is_edged = 0; /* not edged */          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1673          pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */                  HintedMEGet(pEnc, 1);
1674            }
1675    
1676          return 1;                                       /* intra */          return 1;                                       /* intra */
1677  }  }
# Line 1518  Line 1685 
1685  static int  static int
1686  FrameCodeP(Encoder * pEnc,  FrameCodeP(Encoder * pEnc,
1687                     Bitstream * bs,                     Bitstream * bs,
1688                       uint32_t * pBits,
1689                     bool force_inter,                     bool force_inter,
1690                     bool vol_header)                     bool vol_header)
1691  {  {
1692          float fSigma;          float fSigma;
         int bits = BitstreamPos(bs);  
1693    
1694          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1695          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1696    
1697            int mb_width = pEnc->mbParam.mb_width;
1698            int mb_height = pEnc->mbParam.mb_height;
1699    
1700          int iLimit;          int iLimit;
1701          int x, y, k;          int x, y, k;
1702          int iSearchRange;          int iSearchRange;
1703          int bIntra=0, skip_possible;          int bIntra, skip_possible;
         FRAMEINFO *const current = pEnc->current;  
         FRAMEINFO *const reference = pEnc->reference;  
         MBParam * const pParam = &pEnc->mbParam;  
         int mb_width = pParam->mb_width;  
         int mb_height = pParam->mb_height;  
   
1704    
1705          /* IMAGE *pCurrent = &current->image; */          /* IMAGE *pCurrent = &pEnc->current->image; */
1706          IMAGE *pRef = &reference->image;          IMAGE *pRef = &pEnc->reference->image;
1707    
1708          if ((current->vop_flags & XVID_VOP_REDUCED))          if ((pEnc->current->global_flags & XVID_REDUCED))
1709          {          {
1710                  mb_width = (pParam->width + 31) / 32;                  mb_width = (pEnc->mbParam.width + 31) / 32;
1711                  mb_height = (pParam->height + 31) / 32;                  mb_height = (pEnc->mbParam.height + 31) / 32;
1712          }          }
1713    
   
         if (!reference->is_edged) {  
1714                  start_timer();                  start_timer();
1715                  image_setedges(pRef, pParam->edged_width, pParam->edged_height,          image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1716                                             pParam->width, pParam->height, 0);                                     pEnc->mbParam.width, pEnc->mbParam.height);
1717                  stop_edges_timer();                  stop_edges_timer();
                 reference->is_edged = 1;  
         }  
1718    
1719          pParam->m_rounding_type = 1 - pParam->m_rounding_type;          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1720          current->rounding_type = pParam->m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1721          current->fcode = pParam->m_fcode;          pEnc->current->quarterpel =  pEnc->mbParam.m_quarterpel;
1722            pEnc->current->fcode = pEnc->mbParam.m_fcode;
1723    
1724          if (!force_inter)          if (!force_inter)
1725                  iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);                  iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);
1726          else          else
1727                  iLimit = mb_width * mb_height + 1;                  iLimit = mb_width * mb_height + 1;
1728    
1729          if ((current->vop_flags & XVID_VOP_HALFPEL)) {          if ((pEnc->current->global_flags & XVID_HALFPEL)) {
                 if (reference->is_interpolated != current->rounding_type) {  
1730                          start_timer();                          start_timer();
1731                          image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,                          image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1732                                                            &pEnc->vInterHV, pParam->edged_width,                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,
1733                                                            pParam->edged_height,                                                    pEnc->mbParam.edged_height,
1734                                                            (pParam->vol_flags & XVID_VOL_QUARTERPEL),                                                    pEnc->mbParam.m_quarterpel,
1735                                                            current->rounding_type);                                                    pEnc->current->rounding_type);
1736                          stop_inter_timer();                          stop_inter_timer();
                         reference->is_interpolated = current->rounding_type;  
1737                  }                  }
         }  
   
         current->coding_type = P_VOP;  
1738    
1739          call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);          pEnc->current->coding_type = P_VOP;
   
         SetMacroblockQuants(&pEnc->mbParam, current);  
1740    
1741          start_timer();          start_timer();
1742          if (current->vol_flags & XVID_VOL_GMC ) /* GMC only for S(GMC)-VOPs */          if (pEnc->current->global_flags & XVID_HINTEDME_SET)
1743          {       int gmcval;                  HintedMESet(pEnc, &bIntra);
1744                  current->warp = GlobalMotionEst( current->mbs, pParam, current, reference,          else
                                                                  &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV);  
   
                 if (current->motion_flags & XVID_ME_GME_REFINE) {  
                         gmcval = GlobalMotionEstRefine(&current->warp,  
                                                                                    current->mbs, pParam,  
                                                                                    current, reference,  
                                                                                    &current->image,  
                                                                                    &reference->image,  
                                                                                    &pEnc->vInterH,  
                                                                                    &pEnc->vInterV,  
                                                                                    &pEnc->vInterHV);  
                 } else {  
                         gmcval = globalSAD(&current->warp, pParam, current->mbs,  
                                                            current,  
                                                            &reference->image,  
                                                            &current->image,  
                                                            pEnc->vGMC.y);  
                 }  
   
                 gmcval += /*current->quant*/ 2 * (int)(pParam->mb_width*pParam->mb_height);  
   
                 /* 1st '3': 3 warpoints, 2nd '3': 16th pel res (2<<3) */  
                 generate_GMCparameters( 3, 3, &current->warp,  
                                 pParam->width, pParam->height,  
                                 &current->new_gmc_data);  
   
                 if ( (gmcval<0) && ( (current->warp.duv[1].x != 0) || (current->warp.duv[1].y != 0) ||  
                          (current->warp.duv[2].x != 0) || (current->warp.duv[2].y != 0) ) )  
                 {  
                         current->coding_type = S_VOP;  
   
                         generate_GMCimage(&current->new_gmc_data, &reference->image,  
                                 pParam->mb_width, pParam->mb_height,  
                                 pParam->edged_width, pParam->edged_width/2,  
                                 pParam->m_fcode, ((pParam->vol_flags & XVID_VOL_QUARTERPEL)?1:0), 0,  
                                 current->rounding_type, current->mbs, &pEnc->vGMC);  
   
                 } else {  
   
                         generate_GMCimage(&current->new_gmc_data, &reference->image,  
                                 pParam->mb_width, pParam->mb_height,  
                                 pParam->edged_width, pParam->edged_width/2,  
                                 pParam->m_fcode, ((pParam->vol_flags & XVID_VOL_QUARTERPEL)?1:0), 0,  
                                 current->rounding_type, current->mbs, NULL);    /* no warping, just AMV */  
                 }  
         }  
   
1745          bIntra =          bIntra =
1746                  MotionEstimation(&pEnc->mbParam, current, reference,                          MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1747                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1748                                           &pEnc->vGMC, iLimit);                                                   iLimit);
   
1749    
1750          stop_motion_timer();          stop_motion_timer();
1751    
1752          if (bIntra == 1) return FrameCodeI(pEnc, bs);          if (bIntra == 1) return FrameCodeI(pEnc, bs, pBits);
1753    
1754            if ( ( pEnc->current->global_flags & XVID_GMC )
1755                    && ( (pEnc->current->warp.duv[1].x != 0) || (pEnc->current->warp.duv[1].y != 0) ) )
1756            {
1757                    pEnc->current->coding_type = S_VOP;
1758    
1759                    generate_GMCparameters( 2, 16, &pEnc->current->warp,
1760                                            pEnc->mbParam.width, pEnc->mbParam.height,
1761                                            &pEnc->current->gmc_data);
1762    
1763                    generate_GMCimage(&pEnc->current->gmc_data, &pEnc->reference->image,
1764                                    pEnc->mbParam.mb_width, pEnc->mbParam.mb_height,
1765                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_width/2,
1766                                    pEnc->mbParam.m_fcode, pEnc->mbParam.m_quarterpel, 0,
1767                                    pEnc->current->rounding_type, pEnc->current->mbs, &pEnc->vGMC);
1768    
1769          set_timecodes(current,reference,pParam->fbase);          }
1770    
1771            set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
1772          if (vol_header)          if (vol_header)
1773          {       BitstreamWriteVolHeader(bs, &pEnc->mbParam, current);          {       BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1774                  BitstreamPad(bs);                  BitstreamPadAlways(bs);
1775          }          }
1776    
1777          BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 1, current->mbs[0].quant);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1778    
1779            *pBits = BitstreamPos(bs);
1780    
1781          current->sStat.iTextBits = current->sStat.iMvSum = current->sStat.iMvCount =          pEnc->current->sStat.iTextBits = pEnc->current->sStat.iMvSum = pEnc->current->sStat.iMvCount =
1782                  current->sStat.kblks = current->sStat.mblks = current->sStat.ublks = 0;                  pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;
1783    
1784    
1785          for (y = 0; y < mb_height; y++) {          for (y = 0; y < mb_height; y++) {
1786                  for (x = 0; x < mb_width; x++) {                  for (x = 0; x < mb_width; x++) {
1787                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
1788                                  &current->mbs[x + y * pParam->mb_width];                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1789    
1790    /* Mode decision: Check, if the block should be INTRA / INTER or GMC-coded */
1791    /* For a start, leave INTRA decision as is, only choose only between INTER/GMC  - gruel, 9.1.2002 */
1792    
1793                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1794    
1795                          if (bIntra) {                          if (bIntra) {
1796                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
1797                                  MBTransQuantIntra(&pEnc->mbParam, current, pMB, x, y,                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1798                                                                    dct_codes, qcoeff);                                                                    dct_codes, qcoeff);
1799    
1800                                  start_timer();                                  start_timer();
1801                                  MBPrediction(current, x, y, pParam->mb_width, qcoeff);                                  MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1802                                  stop_prediction_timer();                                  stop_prediction_timer();
1803    
1804                                  current->sStat.kblks++;                                  pEnc->current->sStat.kblks++;
1805    
1806                                  if (pEnc->current->vop_flags & XVID_VOP_GREYSCALE)                                  MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
                                 {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */  
                                         qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */  
                                         qcoeff[5*64+0]=0;  
                                 }  
                                 MBCoding(current, pMB, qcoeff, bs, &current->sStat);  
1807                                  stop_coding_timer();                                  stop_coding_timer();
1808                                  continue;                                  continue;
1809                          }                          }
1810    
1811                            if (pEnc->current->coding_type == S_VOP) {
1812    
1813                                    int32_t iSAD = sad16(pEnc->current->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1814                                            pEnc->vGMC.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1815                                            pEnc->mbParam.edged_width, 65536);
1816    
1817                                    if (pEnc->current->motion_flags & PMV_CHROMA16) {
1818                                            iSAD += sad8(pEnc->current->image.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,
1819                                            pEnc->vGMC.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);
1820    
1821                                            iSAD += sad8(pEnc->current->image.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,
1822                                            pEnc->vGMC.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);
1823                                    }
1824    
1825                                    if (iSAD <= pMB->sad16) {               /* mode decision GMC */
1826    
1827                                            if (pEnc->mbParam.m_quarterpel)
1828                                                    pMB->qmvs[0] = pMB->qmvs[1] = pMB->qmvs[2] = pMB->qmvs[3] = pMB->amv;
1829                                            else
1830                                                    pMB->mvs[0] = pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->amv;
1831    
1832                                            pMB->mode = MODE_INTER;
1833                                            pMB->mcsel = 1;
1834                                            pMB->sad16 = iSAD;
1835                                    } else {
1836                                            pMB->mcsel = 0;
1837                                    }
1838                            } else {
1839                                    pMB->mcsel = 0; /* just a precaution */
1840                            }
1841    
1842                          start_timer();                          start_timer();
1843                          MBMotionCompensation(pMB, x, y, &reference->image,                          MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1844                                                                   &pEnc->vInterH, &pEnc->vInterV,                                                                   &pEnc->vInterH, &pEnc->vInterV,
1845                                                                   &pEnc->vInterHV, &pEnc->vGMC,                                                                   &pEnc->vInterHV, &pEnc->vGMC,
1846                                                                   &current->image,                                                                   &pEnc->current->image,
1847                                                                   dct_codes, pParam->width,                                                                   dct_codes, pEnc->mbParam.width,
1848                                                                   pParam->height,                                                                   pEnc->mbParam.height,
1849                                                                   pParam->edged_width,                                                                   pEnc->mbParam.edged_width,
1850                                                                   (current->vol_flags & XVID_VOL_QUARTERPEL),                                                                   pEnc->mbParam.m_quarterpel,
1851                                                                   (current->vop_flags & XVID_VOP_REDUCED),                                                                   (pEnc->current->global_flags & XVID_REDUCED),
1852                                                                   current->rounding_type);                                                                   pEnc->current->rounding_type);
1853    
1854                          stop_comp_timer();                          stop_comp_timer();
1855    
1856                            if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1857                                    if (pMB->dquant != NO_CHANGE) {
1858                                            pMB->mode = MODE_INTER_Q;
1859                                            pEnc->current->quant += DQtab[pMB->dquant];
1860                                            if (pEnc->current->quant > 31)
1861                                                    pEnc->current->quant = 31;
1862                                            else if (pEnc->current->quant < 1)
1863                                                    pEnc->current->quant = 1;
1864                                    }
1865                            }
1866                            pMB->quant = pEnc->current->quant;
1867    
1868                          pMB->field_pred = 0;                          pMB->field_pred = 0;
1869    
1870                          if (pMB->mode != MODE_NOT_CODED)                          if (pMB->mode != MODE_NOT_CODED)
1871                          {       pMB->cbp =                          {       pMB->cbp =
1872                                          MBTransQuantInter(&pEnc->mbParam, current, pMB, x, y,                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1873                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
1874                          }                          }
1875    
                         if (pMB->dquant != 0)  
                                 MBSetDquant(pMB, x, y, &pEnc->mbParam);  
   
   
1876                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1877                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1878                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
1879                                  current->sStat.mblks++;                                  pEnc->current->sStat.mblks++;
1880                          }  else {                          }  else {
1881                                  current->sStat.ublks++;                                  pEnc->current->sStat.ublks++;
1882                          }                          }
1883    
1884                          start_timer();                          start_timer();
# Line 1724  Line 1886 
1886                          /* Finished processing the MB, now check if to CODE or SKIP */                          /* Finished processing the MB, now check if to CODE or SKIP */
1887    
1888                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&
1889                                                          (pMB->dquant == 0);                                                          (pMB->dquant == NO_CHANGE);
1890    
1891                          if (current->coding_type == S_VOP)                          if (pEnc->current->coding_type == S_VOP)
1892                                  skip_possible &= (pMB->mcsel == 1);                                  skip_possible &= (pMB->mcsel == 1);
1893                          else if (current->coding_type == P_VOP) {                          else if (pEnc->current->coding_type == P_VOP) {
1894                                  if ((pParam->vol_flags & XVID_VOL_QUARTERPEL))                                  if (pEnc->mbParam.m_quarterpel)
1895                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );                                          skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );
1896                                  else                                  else
1897                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );                                          skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );
# Line 1739  Line 1901 
1901    
1902  /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */  /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */
1903    
1904                                  if (current->coding_type == P_VOP)      /* special rule for P-VOP's SKIP */                                  if (pEnc->current->coding_type == P_VOP)        /* special rule for P-VOP's SKIP */
1905                                  {                                  {
1906                                          int bSkip = 1;                                          int bSkip = 1;
1907    
1908                                          for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)                                          for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)
1909                                          {                                          {
1910                                                  int iSAD;                                                  int iSAD;
1911                                                  iSAD = sad16(reference->image.y + 16*y*pParam->edged_width + 16*x,                                                  iSAD = sad16(pEnc->reference->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1912                                                                          pEnc->bframes[k]->image.y + 16*y*pParam->edged_width + 16*x,                                                                          pEnc->bframes[k]->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,
1913                                                                  pParam->edged_width,BFRAME_SKIP_THRESHHOLD);                                                                  pEnc->mbParam.edged_width,BFRAME_SKIP_THRESHHOLD);
1914                                                  if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)                                                  if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)
1915                                                  {       bSkip = 0;                                                  {       bSkip = 0;
1916                                                          break;                                                          break;
# Line 1756  Line 1918 
1918                                          }                                          }
1919    
1920                                          if (!bSkip) {   /* no SKIP, but trivial block */                                          if (!bSkip) {   /* no SKIP, but trivial block */
1921                                                  if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {                                                  if(pEnc->mbParam.m_quarterpel) {
1922                                                          VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, 0);                                                          VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1923                                                          pMB->pmvs[0].x = - predMV.x;                                                          pMB->pmvs[0].x = - predMV.x;
1924                                                          pMB->pmvs[0].y = - predMV.y;                                                          pMB->pmvs[0].y = - predMV.y;
1925                                                  }                                                  }
1926                                                  else {                                                  else {
1927                                                          VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, 0);                                                          VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1928                                                          pMB->pmvs[0].x = - predMV.x;                                                          pMB->pmvs[0].x = - predMV.x;
1929                                                          pMB->pmvs[0].y = - predMV.y;                                                          pMB->pmvs[0].y = - predMV.y;
1930                                                  }                                                  }
1931                                                  pMB->mode = MODE_INTER;                                                  pMB->mode = MODE_INTER;
1932                                                  pMB->cbp = 0;                                                  pMB->cbp = 0;
1933                                                  MBCoding(current, pMB, qcoeff, bs, &current->sStat);                                                  MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1934                                                  stop_coding_timer();                                                  stop_coding_timer();
1935    
1936                                                  continue;       /* next MB */                                                  continue;       /* next MB */
# Line 1783  Line 1945 
1945                          }                          }
1946                          /* ordinary case: normal coded INTER/INTER4V block */                          /* ordinary case: normal coded INTER/INTER4V block */
1947    
1948                          if ((current->vop_flags & XVID_VOP_GREYSCALE))                          if (pEnc->current->global_flags & XVID_GREYSCALE)
1949                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */                          {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
1950                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */
1951                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
1952                          }                          }
1953    
1954                          if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {                          if(pEnc->mbParam.m_quarterpel) {
1955                                  VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, 0);                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1956                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;
1957                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;
1958                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1959                          } else {                          } else {
1960                                  VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, 0);                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);
1961                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;                                  pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;
1962                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;                                  pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;
1963                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);
1964                          }                          }
1965    
1966    
# Line 1806  Line 1968 
1968                          {       int k;                          {       int k;
1969                                  for (k=1;k<4;k++)                                  for (k=1;k<4;k++)
1970                                  {                                  {
1971                                          if((pParam->vol_flags & XVID_VOL_QUARTERPEL)) {                                          if(pEnc->mbParam.m_quarterpel) {
1972                                                  VECTOR predMV = get_qpmv2(current->mbs, pParam->mb_width, 0, x, y, k);                                                  VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);
1973                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;
1974                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;
1975                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1976                                          } else {                                          } else {
1977                                                  VECTOR predMV = get_pmv2(current->mbs, pParam->mb_width, 0, x, y, k);                                                  VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);
1978                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;                                                  pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;
1979                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;                                                  pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;
1980                                  DPRINTF(XVID_DEBUG_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)\n", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);                                  DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);
1981                                          }                                          }
1982    
1983                                  }                                  }
1984                          }                          }
1985    
1986                          MBCoding(current, pMB, qcoeff, bs, &pEnc->current->sStat);                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);
1987                          stop_coding_timer();                          stop_coding_timer();
1988    
1989                  }                  }
1990          }          }
1991    
1992          if ((current->vop_flags & XVID_VOP_REDUCED))          if ((pEnc->current->global_flags & XVID_REDUCED))
1993          {          {
1994                  image_deblock_rrv(&current->image, pParam->edged_width,                  image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,
1995                          current->mbs, mb_width, mb_height, pParam->mb_width,                          pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,
1996                          16, 0);                          16, XVID_DEC_DEBLOCKY|XVID_DEC_DEBLOCKUV);
1997          }          }
1998    
1999          emms();          emms();
2000    
2001          if (current->sStat.iMvCount == 0)          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
2002                  current->sStat.iMvCount = 1;                  HintedMEGet(pEnc, 0);
2003            }
2004    
2005            if (pEnc->current->sStat.iMvCount == 0)
2006                    pEnc->current->sStat.iMvCount = 1;
2007    
2008          fSigma = (float) sqrt((float) current->sStat.iMvSum / current->sStat.iMvCount);          fSigma = (float) sqrt((float) pEnc->current->sStat.iMvSum / pEnc->current->sStat.iMvCount);
2009    
2010          iSearchRange = 1 << (3 + pParam->m_fcode);          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
2011    
2012          if ((fSigma > iSearchRange / 3)          if ((fSigma > iSearchRange / 3)
2013                  && (pParam->m_fcode <= (3 +  (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0)  ))) /* maximum search range 128 */                  && (pEnc->mbParam.m_fcode <= (3 + pEnc->mbParam.m_quarterpel))) /* maximum search range 128 */
2014          {          {
2015                  pParam->m_fcode++;                  pEnc->mbParam.m_fcode++;
2016                  iSearchRange *= 2;                  iSearchRange *= 2;
2017          } else if ((fSigma < iSearchRange / 6)          } else if ((fSigma < iSearchRange / 6)
2018                             && (pEnc->fMvPrevSigma >= 0)                             && (pEnc->fMvPrevSigma >= 0)
2019                             && (pEnc->fMvPrevSigma < iSearchRange / 6)                             && (pEnc->fMvPrevSigma < iSearchRange / 6)
2020                             && (pParam->m_fcode >= (2 + (pParam->vol_flags & XVID_VOL_QUARTERPEL?1:0) )))        /* minimum search range 16 */                             && (pEnc->mbParam.m_fcode >= (2 + pEnc->mbParam.m_quarterpel)))      /* minimum search range 16 */
2021          {          {
2022                  pParam->m_fcode--;                  pEnc->mbParam.m_fcode--;
2023                  iSearchRange /= 2;                  iSearchRange /= 2;
2024          }          }
2025    
2026          pEnc->fMvPrevSigma = fSigma;          pEnc->fMvPrevSigma = fSigma;
2027    
2028          /* frame drop code */          /* frame drop code */
2029  #if 0          DPRINTF(DPRINTF_DEBUG, "kmu %i %i %i", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);
2030          DPRINTF(XVID_DEBUG_DEBUG, "kmu %i %i %i\n", current->sStat.kblks, current->sStat.mblks, current->sStat.ublks);          if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <
2031  #endif                  (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)
         if (current->sStat.kblks + current->sStat.mblks <  
                 (pParam->frame_drop_ratio * mb_width * mb_height) / 100)  
2032          {          {
2033                  current->sStat.kblks = current->sStat.mblks = 0;                  pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = 0;
2034                  current->sStat.ublks = mb_width * mb_height;                  pEnc->current->sStat.ublks = mb_width * mb_height;
2035    
2036                  BitstreamReset(bs);                  BitstreamReset(bs);
2037    
2038                  set_timecodes(current,reference,pParam->fbase);                  set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);
2039                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, current, 0, current->mbs[0].quant);                  BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 0);
2040    
2041                  /* copy reference frame details into the current frame */                  /* copy reference frame details into the current frame */
2042                  current->quant = reference->quant;                  pEnc->current->quant = pEnc->reference->quant;
2043                  current->motion_flags = reference->motion_flags;                  pEnc->current->motion_flags = pEnc->reference->motion_flags;
2044                  current->rounding_type = reference->rounding_type;                  pEnc->current->rounding_type = pEnc->reference->rounding_type;
2045                  current->fcode = reference->fcode;                  pEnc->current->quarterpel =  pEnc->reference->quarterpel;
2046                  current->bcode = reference->bcode;                  pEnc->current->fcode = pEnc->reference->fcode;
2047                  image_copy(&current->image, &reference->image, pParam->edged_width, pParam->height);                  pEnc->current->bcode = pEnc->reference->bcode;
2048                  memcpy(current->mbs, reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);                  image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);
2049          }                  memcpy(pEnc->current->mbs, pEnc->reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);
2050            }
         pEnc->current->is_edged = 0; /* not edged */  
         pEnc->current->is_interpolated = -1; /* not interpolated (fake rounding -1) */  
   
         /* what was this frame's interpolated reference will become  
                 forward (past) reference in b-frame coding */  
   
         image_swap(&pEnc->vInterH, &pEnc->f_refh);  
         image_swap(&pEnc->vInterV, &pEnc->f_refv);  
         image_swap(&pEnc->vInterHV, &pEnc->f_refhv);  
   
2051    
2052          /* XXX: debug          /* XXX: debug
2053          {          {
2054                  char s[100];                  char s[100];
2055                  sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);                  sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);
2056                  image_dump_yuvpgm(&current->image,                  image_dump_yuvpgm(&pEnc->current->image,
2057                          pParam->edged_width,                          pEnc->mbParam.edged_width,
2058                          pParam->width, pParam->height, s);                          pEnc->mbParam.width, pEnc->mbParam.height, s);
2059    
2060                  sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);                  sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);
2061                  image_dump_yuvpgm(&reference->image,                  image_dump_yuvpgm(&pEnc->reference->image,
2062                          pParam->edged_width,                          pEnc->mbParam.edged_width,
2063                          pParam->width, pParam->height, s);                          pEnc->mbParam.width, pEnc->mbParam.height, s);
2064          }          }
2065          */          */
2066    
         BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */  
2067    
2068          current->length = (BitstreamPos(bs) - bits) / 8;          *pBits = BitstreamPos(bs) - *pBits;
2069    
2070          return 0;                                       /* inter */          return 0;                                       /* inter */
2071  }  }
# Line 1921  Line 2074 
2074  static void  static void
2075  FrameCodeB(Encoder * pEnc,  FrameCodeB(Encoder * pEnc,
2076                     FRAMEINFO * frame,                     FRAMEINFO * frame,
2077                     Bitstream * bs)                     Bitstream * bs,
2078                       uint32_t * pBits)
2079  {  {
         int bits = BitstreamPos(bs);  
2080          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
2081          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
2082          uint32_t x, y;          uint32_t x, y;
# Line 1938  Line 2091 
2091                  fprintf(fp,"Y=%3d   X=%3d   MB=%2d   CBP=%02X\n",y,x,mb->mode,mb->cbp); \                  fprintf(fp,"Y=%3d   X=%3d   MB=%2d   CBP=%02X\n",y,x,mb->mode,mb->cbp); \
2092          }          }
2093    
2094          /* XXX: pEnc->current->global_flags &= ~XVID_VOP_REDUCED;  reduced resoltion not yet supported */          pEnc->current->global_flags &= ~XVID_REDUCED;   /* reduced resoltion not yet supported */
2095    
2096          if (!first){          if (!first){
2097                  fp=fopen("C:\\XVIDDBGE.TXT","w");                  fp=fopen("C:\\XVIDDBGE.TXT","w");
2098          }          }
2099  #endif  #endif
2100    
2101            frame->quarterpel =  pEnc->mbParam.m_quarterpel;
2102    
2103          /* forward  */          /* forward  */
         if (!pEnc->reference->is_edged) {  
2104                  image_setedges(f_ref, pEnc->mbParam.edged_width,                  image_setedges(f_ref, pEnc->mbParam.edged_width,
2105                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
2106                                             pEnc->mbParam.height, 0);                                     pEnc->mbParam.height);
                 pEnc->current->is_edged = 1;  
         }  
   
         if (pEnc->reference->is_interpolated != 0) {  
2107                  start_timer();                  start_timer();
2108                  image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                  image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
2109                                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
2110                                                    (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                            pEnc->mbParam.m_quarterpel, 0);
2111                  stop_inter_timer();                  stop_inter_timer();
                 pEnc->reference->is_interpolated = 0;  
         }  
2112    
2113          /* backward */          /* backward */
         if (!pEnc->current->is_edged) {  
2114                  image_setedges(b_ref, pEnc->mbParam.edged_width,                  image_setedges(b_ref, pEnc->mbParam.edged_width,
2115                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,                                             pEnc->mbParam.edged_height, pEnc->mbParam.width,
2116                                             pEnc->mbParam.height, 0);                                     pEnc->mbParam.height);
                 pEnc->current->is_edged = 1;  
         }  
   
         if (pEnc->current->is_interpolated != 0) {  
2117                  start_timer();                  start_timer();
2118                  image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                  image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
2119                                                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                                  pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
2120                                                  (pEnc->mbParam.vol_flags & XVID_VOL_QUARTERPEL), 0);                                            pEnc->mbParam.m_quarterpel, 0);
2121                  stop_inter_timer();                  stop_inter_timer();
                 pEnc->current->is_interpolated = 0;  
         }  
   
         frame->coding_type = B_VOP;  
         call_plugins(pEnc, pEnc->current, NULL, XVID_PLG_FRAME, NULL, NULL, NULL);  
2122    
2123          start_timer();          start_timer();
2124    
2125          MotionEstimationBVOP(&pEnc->mbParam, frame,          MotionEstimationBVOP(&pEnc->mbParam, frame,
2126                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */                                                   ((int32_t)(pEnc->current->stamp - frame->stamp)),                              /* time_bp */
2127                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */                                                   ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),    /* time_pp */
# Line 1990  Line 2129 
2129                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,                                                   &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
2130                                                   pEnc->current, b_ref, &pEnc->vInterH,                                                   pEnc->current, b_ref, &pEnc->vInterH,
2131                                                   &pEnc->vInterV, &pEnc->vInterHV);                                                   &pEnc->vInterV, &pEnc->vInterHV);
2132    
2133    
2134          stop_motion_timer();          stop_motion_timer();
2135            /*
2136            if (test_quant_type(&pEnc->mbParam, pEnc->current)) {
2137                    BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
2138            }
2139            */
2140    
2141            frame->coding_type = B_VOP;
2142    
2143          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);          set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);
2144          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1, frame->quant);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
2145    
2146            *pBits = BitstreamPos(bs);
2147    
2148          frame->sStat.iTextBits = 0;          frame->sStat.iTextBits = 0;
2149          frame->sStat.iMvSum = 0;          frame->sStat.iMvSum = 0;
2150          frame->sStat.iMvCount = 0;          frame->sStat.iMvCount = 0;
2151          frame->sStat.kblks = frame->sStat.mblks = frame->sStat.ublks = 0;          frame->sStat.kblks = frame->sStat.mblks = frame->sStat.ublks = 0;
2152          frame->sStat.mblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;  
         frame->sStat.kblks = frame->sStat.ublks = 0;  
2153    
2154          for (y = 0; y < pEnc->mbParam.mb_height; y++) {          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
2155                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
2156                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];                          MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
2157                            int direction = pEnc->mbParam.global & XVID_ALTERNATESCAN ? 2 : 0;
2158    
2159                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */                          /* decoder ignores mb when refence block is INTER(0,0), CBP=0 */
2160                          if (mb->mode == MODE_NOT_CODED) {                          if (mb->mode == MODE_NOT_CODED) {
2161                                  if (pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {                                  /* mb->mvs[0].x = mb->mvs[0].y = mb->cbp = 0; */
                                         MBMotionCompensation(mb, x, y, f_ref, NULL, f_ref, NULL, NULL, &frame->image,  
                                                                                         NULL, 0, 0, pEnc->mbParam.edged_width, 0, 0, 0);  
                                 }  
   
2162                                  continue;                                  continue;
2163                          }                          }
2164    
2165                          if (mb->mode != MODE_DIRECT_NONE_MV || pEnc->mbParam.plugin_flags & XVID_REQORIGINAL) {                          if (mb->mode != MODE_DIRECT_NONE_MV) {
2166                                  MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,                                  MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
2167                                                                           f_ref, &pEnc->f_refh, &pEnc->f_refv,                                                                           f_ref, &pEnc->f_refh, &pEnc->f_refv,
2168                                                                           &pEnc->f_refhv, b_ref, &pEnc->vInterH,                                                                           &pEnc->f_refhv, b_ref, &pEnc->vInterH,
# Line 2026  Line 2172 
2172                                  if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;                                  if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;
2173                                  mb->quant = frame->quant;                                  mb->quant = frame->quant;
2174    
2175                                  if (mb->mode != MODE_DIRECT_NONE_MV)                                  mb->cbp =
2176                                          mb->cbp = MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, x, y,  dct_codes, qcoeff);                                          MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, dct_codes, qcoeff);
2177    
2178                                  if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)                                  if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)
2179                                          && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {                                          && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {
# Line 2035  Line 2181 
2181                                  }                                  }
2182                          }                          }
2183    
2184                          /* keep only bits 5-2 -- Chroma blocks will just be skipped by the  #ifdef BFRAMES_DEC_DEBUG
2185                           * coding function for BFrames, that's why we don't zero teh DC          BFRAME_DEBUG
2186                           * coeffs */  #endif
                         if ((frame->vop_flags & XVID_VOP_GREYSCALE))  
                                 mb->cbp &= 0x3C;  
   
2187                          start_timer();                          start_timer();
2188                          MBCodingBVOP(frame, mb, qcoeff, frame->fcode, frame->bcode, bs,                          MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
2189                                                   &frame->sStat);                                                   &frame->sStat, direction);
2190                          stop_coding_timer();                          stop_coding_timer();
2191                  }                  }
2192          }          }
# Line 2052  Line 2195 
2195    
2196          /* TODO: dynamic fcode/bcode ??? */          /* TODO: dynamic fcode/bcode ??? */
2197    
2198          BitstreamPadAlways(bs); /* next_start_code() at the end of VideoObjectPlane() */          *pBits = BitstreamPos(bs) - *pBits;
         frame->length = (BitstreamPos(bs) - bits) / 8;  
2199    
2200  #ifdef BFRAMES_DEC_DEBUG  #ifdef BFRAMES_DEC_DEBUG
2201          if (!first){          if (!first){
Legend:
Removed from v.1.95.2.64  
changed lines
  Added in v.1.96
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4