[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.6, Sat Mar 16 15:55:12 2002 UTC revision 1.44, Thu Jun 20 14:05:57 2002 UTC
# Line 1  Line 1 
1    /*****************************************************************************
2     *
3     *  XVID MPEG-4 VIDEO CODEC
4     *  -  Encoder main module  -
5     *
6     *  This program is an implementation of a part of one or more MPEG-4
7     *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
8     *  to use this software module in hardware or software products are
9     *  advised that its use may infringe existing patents or copyrights, and
10     *  any such use would be at such party's own risk.  The original
11     *  developer of this software module and his/her company, and subsequent
12     *  editors and their companies, will have no liability for use of this
13     *  software or modifications or derivatives thereof.
14     *
15     *  This program is free software; you can redistribute it and/or modify
16     *  it under the terms of the GNU General Public License as published by
17     *  the Free Software Foundation; either version 2 of the License, or
18     *  (at your option) any later version.
19     *
20     *  This program is distributed in the hope that it will be useful,
21     *  but WITHOUT ANY WARRANTY; without even the implied warranty of
22     *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
23     *  GNU General Public License for more details.
24     *
25     *  You should have received a copy of the GNU General Public License
26     *  along with this program; if not, write to the Free Software
27     *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
28     *
29     ****************************************************************************/
30    
31    /*****************************************************************************
32     *
33     *  History
34     *
35     *      20.06.2002 bframe patch
36     *  08.05.2002 fix some problem in DEBUG mode;
37     *             MinChen <chenm001@163.com>
38     *  14.04.2002 added FrameCodeB()
39     *
40     *  $Id$
41     *
42     ****************************************************************************/
43    
44  #include <stdlib.h>  #include <stdlib.h>
45  #include <stdio.h>  #include <stdio.h>
46  #include <math.h>  #include <math.h>
47    #include <string.h>
48    
49  #include "encoder.h"  #include "encoder.h"
50  #include "prediction/mbprediction.h"  #include "prediction/mbprediction.h"
51  #include "global.h"  #include "global.h"
52  #include "utils/timer.h"  #include "utils/timer.h"
53  #include "image/image.h"  #include "image/image.h"
54    #include "motion/motion.h"
55  #include "bitstream/cbp.h"  #include "bitstream/cbp.h"
56  #include "utils/mbfunctions.h"  #include "utils/mbfunctions.h"
57  #include "bitstream/bitstream.h"  #include "bitstream/bitstream.h"
# Line 16  Line 61 
61  #include "bitstream/mbcoding.h"  #include "bitstream/mbcoding.h"
62  #include "quant/adapt_quant.h"  #include "quant/adapt_quant.h"
63  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
64    #include "utils/mem_align.h"
65    
66  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  /*****************************************************************************
67     * Local macros
68     ****************************************************************************/
69    
70    #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
71    #define SWAP(A,B)    { void * tmp = A; A = B; B = tmp; }
72    
73  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits);  /*****************************************************************************
74  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header);   * Local function prototypes
75     ****************************************************************************/
76    
77    static int FrameCodeI(Encoder * pEnc,
78                                              Bitstream * bs,
79                                              uint32_t * pBits);
80    
81    static int FrameCodeP(Encoder * pEnc,
82                                              Bitstream * bs,
83                                              uint32_t * pBits,
84                                              bool force_inter,
85                                              bool vol_header);
86    
87    #ifdef BFRAMES
88    static void FrameCodeB(Encoder * pEnc,
89                                               FRAMEINFO * frame,
90                                               Bitstream * bs,
91                                               uint32_t * pBits);
92    #endif
93    
94    /*****************************************************************************
95     * Local data
96     ****************************************************************************/
97    
98  static int DQtab[4] =  static int DQtab[4] = {
 {  
99          -1, -2, 1, 2          -1, -2, 1, 2
100  };  };
101    
102  static int iDQtab[5] =  static int iDQtab[5] = {
 {  
103          1, 0, NO_CHANGE, 2, 3          1, 0, NO_CHANGE, 2, 3
104  };  };
105    
106    
107  int encoder_create(XVID_ENC_PARAM * pParam)  static void __inline
108    image_null(IMAGE * image)
109    {
110            image->y = image->u = image->v = NULL;
111    }
112    
113    
114    /*****************************************************************************
115     * Encoder creation
116     *
117     * This function creates an Encoder instance, it allocates all necessary
118     * image buffers (reference, current and bframes) and initialize the internal
119     * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.
120     *
121     * The code seems to be very long but is very basic, mainly memory allocation
122     * and cleaning code.
123     *
124     * Returned values :
125     *    - XVID_ERR_OK     - no errors
126     *    - XVID_ERR_MEMORY - the libc could not allocate memory, the function
127     *                        cleans the structure before exiting.
128     *                        pParam->handle is also set to NULL.
129     *
130     ****************************************************************************/
131    
132    int
133    encoder_create(XVID_ENC_PARAM * pParam)
134  {  {
135          Encoder *pEnc;          Encoder *pEnc;
136          uint32_t i;          int i;
137    
138          pParam->handle = NULL;          pParam->handle = NULL;
139    
# Line 48  Line 144 
144          ENC_CHECK(!(pParam->width % 2));          ENC_CHECK(!(pParam->width % 2));
145          ENC_CHECK(!(pParam->height % 2));          ENC_CHECK(!(pParam->height % 2));
146    
147          if (pParam->fincr <= 0 || pParam->fbase <= 0)          /* Fps */
148          {  
149            if (pParam->fincr <= 0 || pParam->fbase <= 0) {
150                  pParam->fincr = 1;                  pParam->fincr = 1;
151                  pParam->fbase = 25;                  pParam->fbase = 25;
152          }          }
153    
154          // simplify the "fincr/fbase" fraction          /*
155          // (neccessary, since windows supplies us with huge numbers)           * Simplify the "fincr/fbase" fraction
156             * (neccessary, since windows supplies us with huge numbers)
157             */
158    
159          i = pParam->fincr;          i = pParam->fincr;
160          while (i > 1)          while (i > 1) {
161          {                  if (pParam->fincr % i == 0 && pParam->fbase % i == 0) {
                 if (pParam->fincr % i == 0 && pParam->fbase % i == 0)  
                 {  
162                          pParam->fincr /= i;                          pParam->fincr /= i;
163                          pParam->fbase /= i;                          pParam->fbase /= i;
164                          i = pParam->fincr;                          i = pParam->fincr;
# Line 70  Line 167 
167                  i--;                  i--;
168          }          }
169    
170          if (pParam->fbase > 65535)          if (pParam->fbase > 65535) {
         {  
171                  float div = (float)pParam->fbase / 65535;                  float div = (float)pParam->fbase / 65535;
172    
173                  pParam->fbase = (int)(pParam->fbase / div);                  pParam->fbase = (int)(pParam->fbase / div);
174                  pParam->fincr = (int)(pParam->fincr / div);                  pParam->fincr = (int)(pParam->fincr / div);
175          }          }
176    
177          if (pParam->bitrate <= 0)          /* Bitrate allocator defaults */
178                  pParam->bitrate = 900000;  
179            if (pParam->rc_bitrate <= 0)
180                    pParam->rc_bitrate = 900000;
181    
182            if (pParam->rc_reaction_delay_factor <= 0)
183                    pParam->rc_reaction_delay_factor = 16;
184    
185          if (pParam->rc_buffersize <= 0)          if (pParam->rc_averaging_period <= 0)
186                  pParam->rc_buffersize = pParam->bitrate * pParam->fbase;                  pParam->rc_averaging_period = 100;
187    
188            if (pParam->rc_buffer <= 0)
189                    pParam->rc_buffer = 100;
190    
191            /* Max and min quantizers */
192    
193          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))          if ((pParam->min_quantizer <= 0) || (pParam->min_quantizer > 31))
194                  pParam->min_quantizer = 1;                  pParam->min_quantizer = 1;
# Line 89  Line 196 
196          if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))          if ((pParam->max_quantizer <= 0) || (pParam->max_quantizer > 31))
197                  pParam->max_quantizer = 31;                  pParam->max_quantizer = 31;
198    
         if (pParam->max_key_interval == 0)              /* 1 keyframe each 10 seconds */  
                 pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;  
   
199          if (pParam->max_quantizer < pParam->min_quantizer)          if (pParam->max_quantizer < pParam->min_quantizer)
200                  pParam->max_quantizer = pParam->min_quantizer;                  pParam->max_quantizer = pParam->min_quantizer;
201    
202          if ((pEnc = (Encoder *) malloc(sizeof(Encoder))) == NULL)          /* 1 keyframe each 10 seconds */
203    
204            if (pParam->max_key_interval == 0)
205                    pParam->max_key_interval = 10 * pParam->fincr / pParam->fbase;
206    
207    
208            pEnc = (Encoder *) xvid_malloc(sizeof(Encoder), CACHE_LINE);
209            if (pEnc == NULL)
210                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
211    
212            /* Zero the Encoder Structure */
213    
214            memset(pEnc, 0, sizeof(Encoder));
215    
216          /* Fill members of Encoder structure */          /* Fill members of Encoder structure */
217    
218          pEnc->mbParam.width = pParam->width;          pEnc->mbParam.width = pParam->width;
# Line 109  Line 224 
224          pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;          pEnc->mbParam.edged_width = 16 * pEnc->mbParam.mb_width + 2 * EDGE_SIZE;
225          pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;          pEnc->mbParam.edged_height = 16 * pEnc->mbParam.mb_height + 2 * EDGE_SIZE;
226    
227            pEnc->mbParam.fbase = pParam->fbase;
228            pEnc->mbParam.fincr = pParam->fincr;
229    
230            pEnc->mbParam.m_quant_type = H263_QUANT;
231    
232          pEnc->sStat.fMvPrevSigma = -1;          pEnc->sStat.fMvPrevSigma = -1;
233    
234          /* Fill rate control parameters */          /* Fill rate control parameters */
235    
236          pEnc->mbParam.quant = 4;          pEnc->bitrate = pParam->rc_bitrate;
   
         pEnc->bitrate = pParam->bitrate;  
237    
238          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
239          pEnc->iMaxKeyInterval = pParam->max_key_interval;          pEnc->iMaxKeyInterval = pParam->max_key_interval;
240    
241          if (image_create(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          /* try to allocate frame memory */
242          {  
243                  free(pEnc);          pEnc->current = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
244                  return XVID_ERR_MEMORY;          pEnc->reference = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
245    
246            if (pEnc->current == NULL || pEnc->reference == NULL)
247                    goto xvid_err_memory1;
248    
249            /* try to allocate mb memory */
250    
251            pEnc->current->mbs =
252                    xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
253                                            pEnc->mbParam.mb_height, CACHE_LINE);
254            pEnc->reference->mbs =
255                    xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
256                                            pEnc->mbParam.mb_height, CACHE_LINE);
257    
258            if (pEnc->current->mbs == NULL || pEnc->reference->mbs == NULL)
259                    goto xvid_err_memory2;
260    
261            /* try to allocate image memory */
262    
263    #ifdef _DEBUG_PSNR
264            image_null(&pEnc->sOriginal);
265    #endif
266    #ifdef BFRAMES
267            image_null(&pEnc->f_refh);
268            image_null(&pEnc->f_refv);
269            image_null(&pEnc->f_refhv);
270    #endif
271            image_null(&pEnc->current->image);
272            image_null(&pEnc->reference->image);
273            image_null(&pEnc->vInterH);
274            image_null(&pEnc->vInterV);
275            image_null(&pEnc->vInterVf);
276            image_null(&pEnc->vInterHV);
277            image_null(&pEnc->vInterHVf);
278    
279    #ifdef _DEBUG_PSNR
280            if (image_create
281                    (&pEnc->sOriginal, pEnc->mbParam.edged_width,
282                     pEnc->mbParam.edged_height) < 0)
283                    goto xvid_err_memory3;
284    #endif
285    #ifdef BFRAMES
286            if (image_create
287                    (&pEnc->f_refh, pEnc->mbParam.edged_width,
288                     pEnc->mbParam.edged_height) < 0)
289                    goto xvid_err_memory3;
290            if (image_create
291                    (&pEnc->f_refv, pEnc->mbParam.edged_width,
292                     pEnc->mbParam.edged_height) < 0)
293                    goto xvid_err_memory3;
294            if (image_create
295                    (&pEnc->f_refhv, pEnc->mbParam.edged_width,
296                     pEnc->mbParam.edged_height) < 0)
297                    goto xvid_err_memory3;
298    #endif
299            if (image_create
300                    (&pEnc->current->image, pEnc->mbParam.edged_width,
301                     pEnc->mbParam.edged_height) < 0)
302                    goto xvid_err_memory3;
303            if (image_create
304                    (&pEnc->reference->image, pEnc->mbParam.edged_width,
305                     pEnc->mbParam.edged_height) < 0)
306                    goto xvid_err_memory3;
307            if (image_create
308                    (&pEnc->vInterH, pEnc->mbParam.edged_width,
309                     pEnc->mbParam.edged_height) < 0)
310                    goto xvid_err_memory3;
311            if (image_create
312                    (&pEnc->vInterV, pEnc->mbParam.edged_width,
313                     pEnc->mbParam.edged_height) < 0)
314                    goto xvid_err_memory3;
315            if (image_create
316                    (&pEnc->vInterVf, pEnc->mbParam.edged_width,
317                     pEnc->mbParam.edged_height) < 0)
318                    goto xvid_err_memory3;
319            if (image_create
320                    (&pEnc->vInterHV, pEnc->mbParam.edged_width,
321                     pEnc->mbParam.edged_height) < 0)
322                    goto xvid_err_memory3;
323            if (image_create
324                    (&pEnc->vInterHVf, pEnc->mbParam.edged_width,
325                     pEnc->mbParam.edged_height) < 0)
326                    goto xvid_err_memory3;
327    
328    
329    
330            /* B Frames specific init */
331    #ifdef BFRAMES
332    
333            pEnc->packed = pParam->packed;
334            pEnc->mbParam.max_bframes = pParam->max_bframes;
335            pEnc->bquant_ratio = pParam->bquant_ratio;
336            pEnc->bframes = NULL;
337    
338            if (pEnc->mbParam.max_bframes > 0) {
339                    int n;
340    
341                    pEnc->bframes =
342                            xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),
343                                                    CACHE_LINE);
344    
345                    if (pEnc->bframes == NULL)
346                            goto xvid_err_memory3;
347    
348                    for (n = 0; n < pEnc->mbParam.max_bframes; n++)
349                            pEnc->bframes[n] = NULL;
350    
351    
352                    for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
353                            pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);
354    
355                            if (pEnc->bframes[n] == NULL)
356                                    goto xvid_err_memory4;
357    
358                            pEnc->bframes[n]->mbs =
359                                    xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *
360                                                            pEnc->mbParam.mb_height, CACHE_LINE);
361    
362                            if (pEnc->bframes[n]->mbs == NULL)
363                                    goto xvid_err_memory4;
364    
365                            image_null(&pEnc->bframes[n]->image);
366    
367                            if (image_create
368                                    (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,
369                                     pEnc->mbParam.edged_height) < 0)
370                                    goto xvid_err_memory4;
371    
372                    }
373            }
374    
375            pEnc->bframenum_head = 0;
376            pEnc->bframenum_tail = 0;
377            pEnc->flush_bframes = 0;
378    
379            pEnc->queue = NULL;
380    
381    
382            if (pEnc->mbParam.max_bframes > 0) {
383                    int n;
384    
385                    pEnc->queue =
386                            xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),
387                                                    CACHE_LINE);
388    
389                    if (pEnc->queue == NULL)
390                            goto xvid_err_memory4;
391    
392                    for (n = 0; n < pEnc->mbParam.max_bframes; n++)
393                            image_null(&pEnc->queue[n]);
394    
395                    for (n = 0; n < pEnc->mbParam.max_bframes; n++) {
396                            if (image_create
397                                    (&pEnc->queue[n], pEnc->mbParam.edged_width,
398                                     pEnc->mbParam.edged_height) < 0)
399                                    goto xvid_err_memory5;
400    
401                    }
402            }
403    
404            pEnc->queue_head = 0;
405            pEnc->queue_tail = 0;
406            pEnc->queue_size = 0;
407    
408    
409            pEnc->mbParam.m_seconds = 0;
410            pEnc->mbParam.m_ticks = 0;
411    #endif
412    
413            pParam->handle = (void *) pEnc;
414    
415            if (pParam->rc_bitrate) {
416                    RateControlInit(&pEnc->rate_control, pParam->rc_bitrate,
417                                                    pParam->rc_reaction_delay_factor,
418                                                    pParam->rc_averaging_period, pParam->rc_buffer,
419                                                    pParam->fbase * 1000 / pParam->fincr,
420                                                    pParam->max_quantizer, pParam->min_quantizer);
421          }          }
422    
423          if (image_create(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)          init_timer();
424          {  
425                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          return XVID_ERR_OK;
426                  free(pEnc);  
427                  return XVID_ERR_MEMORY;          /*
428             * We handle all XVID_ERR_MEMORY here, this makes the code lighter
429             */
430    #ifdef BFRAMES
431      xvid_err_memory5:
432    
433    
434            if (pEnc->mbParam.max_bframes > 0) {
435    
436                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
437                            image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
438                                                      pEnc->mbParam.edged_height);
439                    }
440                    xvid_free(pEnc->queue);
441          }          }
442    
443          if (image_create(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)    xvid_err_memory4:
444          {  
445                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          if (pEnc->mbParam.max_bframes > 0) {
446                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
447                  free(pEnc);                  for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
448                  return XVID_ERR_MEMORY;  
449                            if (pEnc->bframes[i] == NULL)
450                                    continue;
451    
452                            image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
453                                                      pEnc->mbParam.edged_height);
454    
455                            xvid_free(pEnc->bframes[i]->mbs);
456    
457                            xvid_free(pEnc->bframes[i]);
458    
459          }          }
460    
461          if (image_create(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)                  xvid_free(pEnc->bframes);
462          {          }
463                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
464                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  #endif
465                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
466                  free(pEnc);    xvid_err_memory3:
467    #ifdef _DEBUG_PSNR
468            image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
469                                      pEnc->mbParam.edged_height);
470    #endif
471    
472    #ifdef BFRAMES
473            image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
474                                      pEnc->mbParam.edged_height);
475            image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
476                                      pEnc->mbParam.edged_height);
477            image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
478                                      pEnc->mbParam.edged_height);
479    #endif
480    
481            image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
482                                      pEnc->mbParam.edged_height);
483            image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
484                                      pEnc->mbParam.edged_height);
485            image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
486                                      pEnc->mbParam.edged_height);
487            image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
488                                      pEnc->mbParam.edged_height);
489            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
490                                      pEnc->mbParam.edged_height);
491            image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
492                                      pEnc->mbParam.edged_height);
493            image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
494                                      pEnc->mbParam.edged_height);
495    
496      xvid_err_memory2:
497            xvid_free(pEnc->current->mbs);
498            xvid_free(pEnc->reference->mbs);
499    
500      xvid_err_memory1:
501            xvid_free(pEnc->current);
502            xvid_free(pEnc->reference);
503            xvid_free(pEnc);
504    
505            pParam->handle = NULL;
506    
507                  return XVID_ERR_MEMORY;                  return XVID_ERR_MEMORY;
508          }          }
509    
510          if (image_create(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height) < 0)  /*****************************************************************************
511          {   * Encoder destruction
512                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);   *
513                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);   * This function destroy the entire encoder structure created by a previous
514                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);   * successful encoder_create call.
515                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);   *
516                  free(pEnc);   * Returned values (for now only one returned value) :
517                  return XVID_ERR_MEMORY;   *    - XVID_ERR_OK     - no errors
518     *
519     ****************************************************************************/
520    
521    int
522    encoder_destroy(Encoder * pEnc)
523    {
524    #ifdef BFRAMES
525            int i;
526    #endif
527    
528            ENC_CHECK(pEnc);
529    
530            /* B Frames specific */
531    #ifdef BFRAMES
532            if (pEnc->mbParam.max_bframes > 0) {
533    
534                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
535    
536                            image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,
537                                              pEnc->mbParam.edged_height);
538                    }
539                    xvid_free(pEnc->queue);
540            }
541    
542    
543            if (pEnc->mbParam.max_bframes > 0) {
544    
545                    for (i = 0; i < pEnc->mbParam.max_bframes; i++) {
546    
547                            if (pEnc->bframes[i] == NULL)
548                                    continue;
549    
550                            image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,
551                                              pEnc->mbParam.edged_height);
552    
553                            xvid_free(pEnc->bframes[i]->mbs);
554    
555                            xvid_free(pEnc->bframes[i]);
556          }          }
557    
558          pEnc->pMBs = malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width * pEnc->mbParam.mb_height);                  xvid_free(pEnc->bframes);
559          if (pEnc->pMBs == NULL)  
560            }
561    #endif
562    
563            /* All images, reference, current etc ... */
564    
565            image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
566                                      pEnc->mbParam.edged_height);
567            image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
568                                      pEnc->mbParam.edged_height);
569            image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
570                                      pEnc->mbParam.edged_height);
571            image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
572                                      pEnc->mbParam.edged_height);
573            image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,
574                                      pEnc->mbParam.edged_height);
575            image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
576                                      pEnc->mbParam.edged_height);
577            image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,
578                                      pEnc->mbParam.edged_height);
579    #ifdef BFRAMES
580            image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,
581                                      pEnc->mbParam.edged_height);
582            image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,
583                                      pEnc->mbParam.edged_height);
584            image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,
585                                      pEnc->mbParam.edged_height);
586    #endif
587    #ifdef _DEBUG_PSNR
588            image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
589                                      pEnc->mbParam.edged_height);
590    #endif
591    
592            /* Encoder structure */
593    
594            xvid_free(pEnc->current->mbs);
595            xvid_free(pEnc->current);
596    
597            xvid_free(pEnc->reference->mbs);
598            xvid_free(pEnc->reference);
599    
600            xvid_free(pEnc);
601    
602            return XVID_ERR_OK;
603    }
604    
605    
606    #ifdef BFRAMES
607    void inc_frame_num(Encoder * pEnc)
608          {          {
609                  image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->iFrameNum++;
610                  image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
611                  image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);          if (pEnc->mbParam.m_ticks > pEnc->mbParam.fbase) {
612                  image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  pEnc->mbParam.m_seconds++;
613                  image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);                  pEnc->mbParam.m_ticks = 0;
614                  free(pEnc);          }
615                  return XVID_ERR_MEMORY;  
616          }          }
617    #endif
618    
619          // init macroblock array  
620          for (i = 0; i < pEnc->mbParam.mb_width * pEnc->mbParam.mb_height; i++)  #ifdef BFRAMES
621    void queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)
622    {
623            if (pEnc->queue_size >= pEnc->mbParam.max_bframes)
624          {          {
625                  pEnc->pMBs[i].dquant = NO_CHANGE;                  DPRINTF("FATAL: QUEUE FULL");
626                    return;
627          }          }
628    
629          pParam->handle = (void *)pEnc;          DPRINTF("*** QUEUE bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
630                                    pEnc->bframenum_head, pEnc->bframenum_tail,
631                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
632    
633    
634            start_timer();
635            if (image_input
636                    (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,
637                     pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
638                    return;
639            stop_conv_timer();
640    
641          if (pParam->bitrate)          pEnc->queue_size++;
642            pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
643    }
644    #endif
645    
646    
647    #ifdef BFRAMES
648    /*****************************************************************************
649     * IPB frame encoder entry point
650     *
651     * Returned values :
652     *    - XVID_ERR_OK     - no errors
653     *    - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
654     *                        format
655     ****************************************************************************/
656    
657    int
658    encoder_encode_bframes(Encoder * pEnc,
659                               XVID_ENC_FRAME * pFrame,
660                               XVID_ENC_STATS * pResult)
661          {          {
662                  RateControlInit(pParam->bitrate, pParam->rc_buffersize, pParam->fbase, pParam->width,          uint16_t x, y;
663                                  pParam->height, pParam->max_quantizer, pParam->min_quantizer);          Bitstream bs;
664            uint32_t bits;
665    
666            int input_valid = 1;
667    
668    #ifdef _DEBUG_PSNR
669            float psnr;
670            char temp[128];
671    #endif
672    
673            ENC_CHECK(pEnc);
674            ENC_CHECK(pFrame);
675            ENC_CHECK(pFrame->image);
676    
677            start_global_timer();
678    
679            BitstreamInit(&bs, pFrame->bitstream, 0);
680    
681    ipvop_loop:
682    
683            /*
684             * bframe "flush" code
685             */
686    
687            if ((pFrame->image == NULL || pEnc->flush_bframes)
688                    && (pEnc->bframenum_head < pEnc->bframenum_tail)) {
689    
690                    if (pEnc->flush_bframes == 0) {
691                            /*
692                             * we have reached the end of stream without getting
693                             * a future reference frame... so encode last final
694                             * frame as a pframe
695                             */
696    
697                            DPRINTF("*** BFRAME (final frame) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
698                                    pEnc->bframenum_head, pEnc->bframenum_tail,
699                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
700    
701                            pEnc->bframenum_tail--;
702                            SWAP(pEnc->current, pEnc->reference);
703    
704                            SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
705    
706                            FrameCodeP(pEnc, &bs, &bits, 1, 0);
707    
708                            BitstreamPad(&bs);
709                            pFrame->length = BitstreamLength(&bs);
710                            pFrame->intra = 0;
711    
712                            return XVID_ERR_OK;
713          }          }
714    
715          create_vlc_tables();  
716          init_timer();                  DPRINTF("*** BFRAME (flush) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
717                                    pEnc->bframenum_head, pEnc->bframenum_tail,
718                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
719    
720                    FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);
721                    pEnc->bframenum_head++;
722    
723                    BitstreamPad(&bs);
724                    pFrame->length = BitstreamLength(&bs);
725                    pFrame->intra = 0;
726    
727                    if (input_valid)
728                            queue_image(pEnc, pFrame);
729    
730                    return XVID_ERR_OK;
731            }
732    
733            if (pEnc->bframenum_head > 0) {
734                    pEnc->bframenum_head = pEnc->bframenum_tail = 0;
735    
736                    if (pEnc->packed) {
737    
738                            DPRINTF("*** EMPTY bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
739                                    pEnc->bframenum_head, pEnc->bframenum_tail,
740                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
741    
742    
743                            BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);
744                            BitstreamPad(&bs);
745                            BitstreamPutBits(&bs, 0x7f, 8);
746    
747                            pFrame->length = BitstreamLength(&bs);
748                            pFrame->intra = 0;
749    
750                            if (input_valid)
751                                    queue_image(pEnc, pFrame);
752    
753          return XVID_ERR_OK;          return XVID_ERR_OK;
754  }  }
755            }
756    
757    
758    bvop_loop:
759    
760  int encoder_destroy(Encoder * pEnc)          if (input_valid) {
761    
762                    SWAP(pEnc->current, pEnc->reference);
763    
764                    start_timer();
765                    if (image_input
766                            (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
767                            pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
768                            return XVID_ERR_FORMAT;
769                    stop_conv_timer();
770    
771                    // queue input frame, and dequue next image
772                    if (pEnc->queue_size > 0)
773  {  {
774          ENC_CHECK(pEnc);                          image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);
775          ENC_CHECK(pEnc->sCurrent.y);                          if (pEnc->queue_head != pEnc->queue_tail)
776          ENC_CHECK(pEnc->sReference.y);                          {
777                                    image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
778                            }
779                            pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
780                            pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;
781                    }
782    
783            } else if (pEnc->queue_size > 0) {
784    
785                    SWAP(pEnc->current, pEnc->reference);
786    
787                    image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);
788                    pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;
789                    pEnc->queue_size--;
790    
791          free(pEnc->pMBs);          } else if (BitstreamPos(&bs) == 0) {
         image_destroy(&pEnc->sCurrent, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->sReference, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height);  
         free(pEnc);  
792    
793          destroy_vlc_tables();                  DPRINTF("*** SKIP bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
794                                    pEnc->bframenum_head, pEnc->bframenum_tail,
795                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
796    
797    
798                    pFrame->intra = 0;
799    
800                    BitstreamPutBits(&bs, 0x7f, 8);
801                    BitstreamPad(&bs);
802                    pFrame->length = BitstreamLength(&bs);
803    
804                    return XVID_ERR_OK;
805    
806            } else {
807    
808                    pFrame->length = BitstreamLength(&bs);
809          return XVID_ERR_OK;          return XVID_ERR_OK;
810  }  }
811    
812  int encoder_encode(Encoder * pEnc, XVID_ENC_FRAME * pFrame, XVID_ENC_STATS * pResult)          pEnc->flush_bframes = 0;
813    
814            /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
815             * Well there was a separation here so i put it in ANSI C
816             * comment style :-)
817             * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
818    
819    //$$    SWAP(pEnc->current, pEnc->reference);
820    
821            emms();
822    
823            if (pFrame->quant == 0)
824                    pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
825            else
826                    pEnc->current->quant = pFrame->quant;
827    
828            if (pEnc->current->quant < 1)
829                    pEnc->current->quant = 1;
830    
831            if (pEnc->current->quant > 31)
832                    pEnc->current->quant = 31;
833    
834            pEnc->current->global_flags = pFrame->general;
835            pEnc->current->motion_flags = pFrame->motion;
836            pEnc->current->seconds = pEnc->mbParam.m_seconds;
837            pEnc->current->ticks = pEnc->mbParam.m_ticks;
838            /* ToDo : dynamic fcode (in both directions) */
839            pEnc->current->fcode = pEnc->mbParam.m_fcode;
840            pEnc->current->bcode = pEnc->mbParam.m_fcode;
841    
842    //$$$   start_timer();
843    //$$$   if (image_input
844    //$$$           (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
845    //$$$            pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace))
846    //$$$           return XVID_ERR_FORMAT;
847    //$$$   stop_conv_timer();
848    
849    #ifdef _DEBUG_PSNR
850            image_copy(&pEnc->sOriginal, &pEnc->current->image,
851                               pEnc->mbParam.edged_width, pEnc->mbParam.height);
852    #endif
853    
854            emms();
855    
856            /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
857             * Luminance masking
858             * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
859    
860            if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
861                    int *temp_dquants =
862                            (int *) xvid_malloc(pEnc->mbParam.mb_width *
863                                                                    pEnc->mbParam.mb_height * sizeof(int),
864                                                                    CACHE_LINE);
865    
866                    pEnc->current->quant =
867                            adaptive_quantization(pEnc->current->image.y,
868                                                                      pEnc->mbParam.edged_width, temp_dquants,
869                                                                      pEnc->current->quant, pEnc->current->quant,
870                                                                      2 * pEnc->current->quant,
871                                                                      pEnc->mbParam.mb_width,
872                                                                      pEnc->mbParam.mb_height);
873    
874                    for (y = 0; y < pEnc->mbParam.mb_height; y++) {
875    
876    #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
877    
878                            for (x = 0; x < pEnc->mbParam.mb_width; x++) {
879                                    MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
880    
881                                    pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
882                            }
883    
884    #undef OFFSET
885    
886                    }
887    
888                    xvid_free(temp_dquants);
889            }
890    
891            /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
892             * ivop/pvop/bvop selection
893             * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */
894    
895    
896            if (pEnc->iFrameNum == 0 || pFrame->intra == 1 ||
897                    (pFrame->intra < 0 && pEnc->iMaxKeyInterval > 0 &&
898                     pEnc->iFrameNum >= pEnc->iMaxKeyInterval)
899                    || image_mad(&pEnc->reference->image, &pEnc->current->image,
900                                             pEnc->mbParam.edged_width, pEnc->mbParam.width,
901                                             pEnc->mbParam.height) > 30) {
902                    /*
903                     * This will be coded as an Intra Frame
904                     */
905    
906                    DPRINTF("*** IFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
907                                    pEnc->bframenum_head, pEnc->bframenum_tail,
908                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
909    
910                    FrameCodeI(pEnc, &bs, &bits);
911    
912                    pFrame->intra = 1;
913                    pEnc->flush_bframes = 1;
914    
915                    inc_frame_num(pEnc);
916    
917                    if (pEnc->packed) {
918                            BitstreamPad(&bs);
919                            input_valid = 0;
920                            goto ipvop_loop;
921                    }
922    
923                    /*
924                     * NB : sequences like "IIBB" decode fine with msfdam but,
925                     *      go screwy with divx 5.00
926                     */
927            } else if (pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {
928                    /*
929                     * This will be coded as a Predicted Frame
930                     */
931    
932                    DPRINTF("*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
933                                    pEnc->bframenum_head, pEnc->bframenum_tail,
934                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
935    
936                    FrameCodeP(pEnc, &bs, &bits, 1, 0);
937                    pFrame->intra = 0;
938                    pEnc->flush_bframes = 1;
939    
940                    inc_frame_num(pEnc);
941    
942                    if (pEnc->packed) {
943                            BitstreamPad(&bs);
944                            input_valid = 0;
945                            goto ipvop_loop;
946                    }
947    
948            } else {
949                    /*
950                     * This will be coded as a Bidirectional Frame
951                     */
952    
953                    DPRINTF("*** BFRAME (store) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",
954                                    pEnc->bframenum_head, pEnc->bframenum_tail,
955                                    pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);
956    
957                    if (pFrame->bquant < 1) {
958                            pEnc->current->quant =
959                                    ((pEnc->reference->quant +
960                                      pEnc->current->quant) * pEnc->bquant_ratio) / 200;
961                    } else {
962                            pEnc->current->quant = pFrame->bquant;
963                    }
964    
965                    /* store frame into bframe buffer & swap ref back to current */
966                    SWAP(pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);
967                    SWAP(pEnc->current, pEnc->reference);
968    
969                    pEnc->bframenum_tail++;
970    
971                    pFrame->intra = 0;
972                    pFrame->length = 0;
973    
974                    inc_frame_num(pEnc);
975    
976                    input_valid = 0;
977                    goto bvop_loop;
978            }
979    
980            BitstreamPad(&bs);
981            pFrame->length = BitstreamLength(&bs);
982    
983            if (pResult) {
984                    pResult->quant = pEnc->current->quant;
985                    pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
986                    pResult->kblks = pEnc->sStat.kblks;
987                    pResult->mblks = pEnc->sStat.mblks;
988                    pResult->ublks = pEnc->sStat.ublks;
989            }
990    
991            emms();
992    
993    #ifdef _DEBUG_PSNR
994            psnr =
995                    image_psnr(&pEnc->sOriginal, &pEnc->current->image,
996                                       pEnc->mbParam.edged_width, pEnc->mbParam.width,
997                                       pEnc->mbParam.height);
998    
999            snprintf(temp, 127, "PSNR: %f\n", psnr);
1000            DEBUG(temp);
1001    #endif
1002    
1003            if (pFrame->quant == 0) {
1004                    RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1005                                                      pFrame->length, pFrame->intra);
1006            }
1007    
1008    
1009            stop_global_timer();
1010            write_timer();
1011    
1012            return XVID_ERR_OK;
1013    }
1014    
1015    #endif
1016    
1017    
1018    
1019    /*****************************************************************************
1020     * "original" IP frame encoder entry point
1021     *
1022     * Returned values :
1023     *    - XVID_ERR_OK     - no errors
1024     *    - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong
1025     *                        format
1026     ****************************************************************************/
1027    
1028    int
1029    encoder_encode(Encoder * pEnc,
1030                               XVID_ENC_FRAME * pFrame,
1031                               XVID_ENC_STATS * pResult)
1032  {  {
1033          uint16_t x, y;          uint16_t x, y;
1034          Bitstream bs;          Bitstream bs;
1035          uint32_t bits;          uint32_t bits;
1036          uint16_t write_vol_header = 0;          uint16_t write_vol_header = 0;
1037    
1038    #ifdef _DEBUG_PSNR
1039            float psnr;
1040            uint8_t temp[128];
1041    #endif
1042    
1043          start_global_timer();          start_global_timer();
1044    
1045          ENC_CHECK(pEnc);          ENC_CHECK(pEnc);
# Line 226  Line 1047 
1047          ENC_CHECK(pFrame->bitstream);          ENC_CHECK(pFrame->bitstream);
1048          ENC_CHECK(pFrame->image);          ENC_CHECK(pFrame->image);
1049    
1050          pEnc->mbParam.global_flags = pFrame->general;          SWAP(pEnc->current, pEnc->reference);
1051          pEnc->mbParam.motion_flags = pFrame->motion;  
1052            pEnc->current->global_flags = pFrame->general;
1053            pEnc->current->motion_flags = pFrame->motion;
1054    #ifdef BFRAMES
1055            pEnc->current->seconds = pEnc->mbParam.m_seconds;
1056            pEnc->current->ticks = pEnc->mbParam.m_ticks;
1057    #endif
1058            pEnc->mbParam.hint = &pFrame->hint;
1059    
1060          start_timer();          start_timer();
1061          if (image_input(&pEnc->sCurrent, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.edged_width,          if (image_input
1062                          pFrame->image, pFrame->colorspace))                  (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
1063          {                   pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
1064                  return XVID_ERR_FORMAT;                  return XVID_ERR_FORMAT;
         }  
1065          stop_conv_timer();          stop_conv_timer();
1066    
1067    #ifdef _DEBUG_PSNR
1068            image_copy(&pEnc->sOriginal, &pEnc->current->image,
1069                               pEnc->mbParam.edged_width, pEnc->mbParam.height);
1070    #endif
1071    
1072            emms();
1073    
1074          BitstreamInit(&bs, pFrame->bitstream, 0);          BitstreamInit(&bs, pFrame->bitstream, 0);
1075    
1076          if (pFrame->quant == 0)          if (pFrame->quant == 0) {
1077          {                  pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);
1078                  pEnc->mbParam.quant = RateControlGetQ(0);          } else {
1079          }                  pEnc->current->quant = pFrame->quant;
         else  
         {  
                 pEnc->mbParam.quant = pFrame->quant;  
1080          }          }
1081    
1082          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0)          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1083          {                  int *temp_dquants =
1084                  int * temp_dquants = (int *) malloc(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * sizeof(int));                          (int *) xvid_malloc(pEnc->mbParam.mb_width *
1085                                                                    pEnc->mbParam.mb_height * sizeof(int),
1086                                                                    CACHE_LINE);
1087    
1088                  pEnc->mbParam.quant = adaptive_quantization(pEnc->sCurrent.y, pEnc->mbParam.width,                  pEnc->current->quant =
1089                                                              temp_dquants, pFrame->quant, pFrame->quant,                          adaptive_quantization(pEnc->current->image.y,
1090                                                              2*pFrame->quant, pEnc->mbParam.mb_width, pEnc->mbParam.mb_height);                                                                    pEnc->mbParam.edged_width, temp_dquants,
1091                                                                      pEnc->current->quant, pEnc->current->quant,
1092                                                                      2 * pEnc->current->quant,
1093                                                                      pEnc->mbParam.mb_width,
1094                                                                      pEnc->mbParam.mb_height);
1095    
1096                  for (y = 0; y < pEnc->mbParam.mb_height; y++)                  for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1097                          for (x = 0; x < pEnc->mbParam.mb_width; x++)  
1098                          {  #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)
1099                                  MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];  
1100                                  pMB->dquant = iDQtab[(temp_dquants[y * pEnc->mbParam.mb_width + x] + 2)];                          for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1101    
1102    
1103                                    MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];
1104    
1105                                    pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];
1106                          }                          }
1107                  free(temp_dquants);  
1108    #undef OFFSET
1109          }          }
1110    
1111          if(pEnc->mbParam.global_flags & XVID_H263QUANT) {                  xvid_free(temp_dquants);
                 if(pEnc->mbParam.quant_type != H263_QUANT)  
                         write_vol_header = 1;  
                 pEnc->mbParam.quant_type = H263_QUANT;  
1112          }          }
         else if(pEnc->mbParam.global_flags & XVID_MPEGQUANT) {  
                 int ret1, ret2;  
1113    
1114                  if(pEnc->mbParam.quant_type != MPEG4_QUANT)          if (pEnc->current->global_flags & XVID_H263QUANT) {
1115                    if (pEnc->mbParam.m_quant_type != H263_QUANT)
1116                            write_vol_header = 1;
1117                    pEnc->mbParam.m_quant_type = H263_QUANT;
1118            } else if (pEnc->current->global_flags & XVID_MPEGQUANT) {
1119                    int matrix1_changed, matrix2_changed;
1120    
1121                    matrix1_changed = matrix2_changed = 0;
1122    
1123                    if (pEnc->mbParam.m_quant_type != MPEG4_QUANT)
1124                          write_vol_header = 1;                          write_vol_header = 1;
1125    
1126                  pEnc->mbParam.quant_type = MPEG4_QUANT;                  pEnc->mbParam.m_quant_type = MPEG4_QUANT;
1127    
1128                  if ((pEnc->mbParam.global_flags & XVID_CUSTOM_QMATRIX) > 0) {                  if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {
1129                          if(pFrame->quant_intra_matrix != NULL)                          if(pFrame->quant_intra_matrix != NULL)
1130                                  ret1 = set_intra_matrix(pFrame->quant_intra_matrix);                                  matrix1_changed = set_intra_matrix(pFrame->quant_intra_matrix);
1131                          if(pFrame->quant_inter_matrix != NULL)                          if(pFrame->quant_inter_matrix != NULL)
1132                                  ret2 = set_inter_matrix(pFrame->quant_inter_matrix);                                  matrix2_changed = set_inter_matrix(pFrame->quant_inter_matrix);
1133                  }                  } else {
1134                  else {                          matrix1_changed = set_intra_matrix(get_default_intra_matrix());
1135                          ret1 = set_intra_matrix(get_default_intra_matrix());                          matrix2_changed = set_inter_matrix(get_default_inter_matrix());
                         ret2 = set_inter_matrix(get_default_inter_matrix());  
1136                  }                  }
1137                  if(write_vol_header == 0)                  if(write_vol_header == 0)
1138                          write_vol_header = ret1 | ret2;                          write_vol_header = matrix1_changed | matrix2_changed;
1139          }          }
1140    
1141          if (pFrame->intra < 0)          if (pFrame->intra < 0) {
1142          {                  if ((pEnc->iFrameNum == 0)
1143                  if ((pEnc->iFrameNum == 0) || ((pEnc->iMaxKeyInterval > 0)                          || ((pEnc->iMaxKeyInterval > 0)
1144                                                 && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval)))                                  && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
   
1145                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1146                  else                  } else {
1147                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
1148          }          }
1149          else          } else {
1150          {                  if (pFrame->intra == 1) {
                 if (pFrame->intra == 1)  
1151                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
1152                  else                  } else {
1153                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 1, write_vol_header);
1154          }          }
1155    
1156            }
1157    
1158          BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
1159          BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
1160          BitstreamPad(&bs);          BitstreamPad(&bs);
1161          pFrame->length = BitstreamLength(&bs);          pFrame->length = BitstreamLength(&bs);
1162    
1163          if (pResult)          if (pResult) {
1164          {                  pResult->quant = pEnc->current->quant;
                 pResult->quant = pEnc->mbParam.quant;  
1165                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
1166                  pResult->kblks = pEnc->sStat.kblks;                  pResult->kblks = pEnc->sStat.kblks;
1167                  pResult->mblks = pEnc->sStat.mblks;                  pResult->mblks = pEnc->sStat.mblks;
1168                  pResult->ublks = pEnc->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
1169          }          }
1170    
1171          if (pFrame->quant == 0)          emms();
         {  
                 RateControlUpdate(pEnc->mbParam.quant, pFrame->length, pFrame->intra);  
         }  
1172    
1173            if (pFrame->quant == 0) {
1174                    RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,
1175                                                      pFrame->length, pFrame->intra);
1176            }
1177    #ifdef _DEBUG_PSNR
1178            psnr =
1179                    image_psnr(&pEnc->sOriginal, &pEnc->current->image,
1180                                       pEnc->mbParam.edged_width, pEnc->mbParam.width,
1181                                       pEnc->mbParam.height);
1182    
1183            snprintf(temp, 127, "PSNR: %f\n", psnr);
1184            DEBUG(temp);
1185    #endif
1186    
1187    #ifdef BFRAMES
1188            inc_frame_num(pEnc);
1189    #else
1190          pEnc->iFrameNum++;          pEnc->iFrameNum++;
1191          image_swap(&pEnc->sCurrent, &pEnc->sReference);  #endif
1192    
1193    
1194          stop_global_timer();          stop_global_timer();
1195          write_timer();          write_timer();
# Line 338  Line 1198 
1198  }  }
1199    
1200    
1201  static __inline void CodeIntraMB(Encoder *pEnc, MACROBLOCK *pMB) {  static __inline void
1202    CodeIntraMB(Encoder * pEnc,
1203                            MACROBLOCK * pMB)
1204    {
1205    
1206          pMB->mode = MODE_INTRA;          pMB->mode = MODE_INTRA;
1207    
1208          if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {          /* zero mv statistics */
1209                  if(pMB->dquant != NO_CHANGE)          pMB->mvs[0].x = pMB->mvs[1].x = pMB->mvs[2].x = pMB->mvs[3].x = 0;
1210                  {          pMB->mvs[0].y = pMB->mvs[1].y = pMB->mvs[2].y = pMB->mvs[3].y = 0;
1211            pMB->sad8[0] = pMB->sad8[1] = pMB->sad8[2] = pMB->sad8[3] = 0;
1212            pMB->sad16 = 0;
1213    
1214            if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1215                    if (pMB->dquant != NO_CHANGE) {
1216                          pMB->mode = MODE_INTRA_Q;                          pMB->mode = MODE_INTRA_Q;
1217                          pEnc->mbParam.quant += DQtab[pMB->dquant];                          pEnc->current->quant += DQtab[pMB->dquant];
1218    
1219                          if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;                          if (pEnc->current->quant > 31)
1220                          if (pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;                                  pEnc->current->quant = 31;
1221                            if (pEnc->current->quant < 1)
1222                                    pEnc->current->quant = 1;
1223                  }                  }
1224          }          }
1225    
1226          pMB->quant = pEnc->mbParam.quant;          pMB->quant = pEnc->current->quant;
1227  }  }
1228    
1229    
1230  static int FrameCodeI(Encoder * pEnc, Bitstream * bs, uint32_t *pBits)  #define FCODEBITS       3
1231    #define MODEBITS        5
1232    
1233    void
1234    HintedMESet(Encoder * pEnc,
1235                            int *intra)
1236    {
1237            HINTINFO *hint;
1238            Bitstream bs;
1239            int length, high;
1240            uint32_t x, y;
1241    
1242            hint = pEnc->mbParam.hint;
1243    
1244            if (hint->rawhints) {
1245                    *intra = hint->mvhint.intra;
1246            } else {
1247                    BitstreamInit(&bs, hint->hintstream, hint->hintlength);
1248                    *intra = BitstreamGetBit(&bs);
1249            }
1250    
1251            if (*intra) {
1252                    return;
1253            }
1254    
1255            pEnc->current->fcode =
1256                    (hint->rawhints) ? hint->mvhint.fcode : BitstreamGetBits(&bs,
1257                                                                                                                                     FCODEBITS);
1258    
1259            length = pEnc->current->fcode + 5;
1260            high = 1 << (length - 1);
1261    
1262            for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1263                    for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1264                            MACROBLOCK *pMB =
1265                                    &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1266                            MVBLOCKHINT *bhint =
1267                                    &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1268                            VECTOR pred[4];
1269                            VECTOR tmp;
1270                            int32_t dummy[4];
1271                            int vec;
1272    
1273                            pMB->mode =
1274                                    (hint->rawhints) ? bhint->mode : BitstreamGetBits(&bs,
1275                                                                                                                                      MODEBITS);
1276    
1277                            pMB->mode = (pMB->mode == MODE_INTER_Q) ? MODE_INTER : pMB->mode;
1278                            pMB->mode = (pMB->mode == MODE_INTRA_Q) ? MODE_INTRA : pMB->mode;
1279    
1280                            if (pMB->mode == MODE_INTER) {
1281                                    tmp.x =
1282                                            (hint->rawhints) ? bhint->mvs[0].x : BitstreamGetBits(&bs,
1283                                                                                                                                                      length);
1284                                    tmp.y =
1285                                            (hint->rawhints) ? bhint->mvs[0].y : BitstreamGetBits(&bs,
1286                                                                                                                                                      length);
1287                                    tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1288                                    tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1289    
1290                                    get_pmvdata(pEnc->current->mbs, x, y, pEnc->mbParam.mb_width,
1291                                                            0, pred, dummy);
1292    
1293                                    for (vec = 0; vec < 4; ++vec) {
1294                                            pMB->mvs[vec].x = tmp.x;
1295                                            pMB->mvs[vec].y = tmp.y;
1296                                            pMB->pmvs[vec].x = pMB->mvs[0].x - pred[0].x;
1297                                            pMB->pmvs[vec].y = pMB->mvs[0].y - pred[0].y;
1298                                    }
1299                            } else if (pMB->mode == MODE_INTER4V) {
1300                                    for (vec = 0; vec < 4; ++vec) {
1301                                            tmp.x =
1302                                                    (hint->rawhints) ? bhint->mvs[vec].
1303                                                    x : BitstreamGetBits(&bs, length);
1304                                            tmp.y =
1305                                                    (hint->rawhints) ? bhint->mvs[vec].
1306                                                    y : BitstreamGetBits(&bs, length);
1307                                            tmp.x -= (tmp.x >= high) ? high * 2 : 0;
1308                                            tmp.y -= (tmp.y >= high) ? high * 2 : 0;
1309    
1310                                            get_pmvdata(pEnc->current->mbs, x, y,
1311                                                                    pEnc->mbParam.mb_width, vec, pred, dummy);
1312    
1313                                            pMB->mvs[vec].x = tmp.x;
1314                                            pMB->mvs[vec].y = tmp.y;
1315                                            pMB->pmvs[vec].x = pMB->mvs[vec].x - pred[0].x;
1316                                            pMB->pmvs[vec].y = pMB->mvs[vec].y - pred[0].y;
1317                                    }
1318                            } else                          // intra / stuffing / not_coded
1319                            {
1320                                    for (vec = 0; vec < 4; ++vec) {
1321                                            pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1322                                    }
1323                            }
1324    
1325                            if (pMB->mode == MODE_INTER4V &&
1326                                    (pEnc->current->global_flags & XVID_LUMIMASKING)
1327                                    && pMB->dquant != NO_CHANGE) {
1328                                    pMB->mode = MODE_INTRA;
1329    
1330                                    for (vec = 0; vec < 4; ++vec) {
1331                                            pMB->mvs[vec].x = pMB->mvs[vec].y = 0;
1332                                    }
1333                            }
1334                    }
1335            }
1336    }
1337    
1338    
1339    void
1340    HintedMEGet(Encoder * pEnc,
1341                            int intra)
1342  {  {
1343          int16_t dct_codes[6][64];          HINTINFO *hint;
1344          int16_t qcoeff[6][64];          Bitstream bs;
1345            uint32_t x, y;
1346            int length, high;
1347    
1348            hint = pEnc->mbParam.hint;
1349    
1350            if (hint->rawhints) {
1351                    hint->mvhint.intra = intra;
1352            } else {
1353                    BitstreamInit(&bs, hint->hintstream, 0);
1354                    BitstreamPutBit(&bs, intra);
1355            }
1356    
1357            if (intra) {
1358                    if (!hint->rawhints) {
1359                            BitstreamPad(&bs);
1360                            hint->hintlength = BitstreamLength(&bs);
1361                    }
1362                    return;
1363            }
1364    
1365            length = pEnc->current->fcode + 5;
1366            high = 1 << (length - 1);
1367    
1368            if (hint->rawhints) {
1369                    hint->mvhint.fcode = pEnc->current->fcode;
1370            } else {
1371                    BitstreamPutBits(&bs, pEnc->current->fcode, FCODEBITS);
1372            }
1373    
1374            for (y = 0; y < pEnc->mbParam.mb_height; ++y) {
1375                    for (x = 0; x < pEnc->mbParam.mb_width; ++x) {
1376                            MACROBLOCK *pMB =
1377                                    &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1378                            MVBLOCKHINT *bhint =
1379                                    &hint->mvhint.block[x + y * pEnc->mbParam.mb_width];
1380                            VECTOR tmp;
1381    
1382                            if (hint->rawhints) {
1383                                    bhint->mode = pMB->mode;
1384                            } else {
1385                                    BitstreamPutBits(&bs, pMB->mode, MODEBITS);
1386                            }
1387    
1388                            if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
1389                                    tmp.x = pMB->mvs[0].x;
1390                                    tmp.y = pMB->mvs[0].y;
1391                                    tmp.x += (tmp.x < 0) ? high * 2 : 0;
1392                                    tmp.y += (tmp.y < 0) ? high * 2 : 0;
1393    
1394                                    if (hint->rawhints) {
1395                                            bhint->mvs[0].x = tmp.x;
1396                                            bhint->mvs[0].y = tmp.y;
1397                                    } else {
1398                                            BitstreamPutBits(&bs, tmp.x, length);
1399                                            BitstreamPutBits(&bs, tmp.y, length);
1400                                    }
1401                            } else if (pMB->mode == MODE_INTER4V) {
1402                                    int vec;
1403    
1404                                    for (vec = 0; vec < 4; ++vec) {
1405                                            tmp.x = pMB->mvs[vec].x;
1406                                            tmp.y = pMB->mvs[vec].y;
1407                                            tmp.x += (tmp.x < 0) ? high * 2 : 0;
1408                                            tmp.y += (tmp.y < 0) ? high * 2 : 0;
1409    
1410                                            if (hint->rawhints) {
1411                                                    bhint->mvs[vec].x = tmp.x;
1412                                                    bhint->mvs[vec].y = tmp.y;
1413                                            } else {
1414                                                    BitstreamPutBits(&bs, tmp.x, length);
1415                                                    BitstreamPutBits(&bs, tmp.y, length);
1416                                            }
1417                                    }
1418                            }
1419                    }
1420            }
1421    
1422            if (!hint->rawhints) {
1423                    BitstreamPad(&bs);
1424                    hint->hintlength = BitstreamLength(&bs);
1425            }
1426    }
1427    
1428    
1429    static int
1430    FrameCodeI(Encoder * pEnc,
1431                       Bitstream * bs,
1432                       uint32_t * pBits)
1433    {
1434    
1435            DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1436            DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1437    
1438          uint16_t x, y;          uint16_t x, y;
1439    
1440          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
1441          pEnc->mbParam.rounding_type = 1;          pEnc->mbParam.m_rounding_type = 1;
1442          pEnc->mbParam.coding_type = I_VOP;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1443            pEnc->current->coding_type = I_VOP;
1444          BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);  
1445          BitstreamWriteVopHeader(bs, I_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1446                                  pEnc->mbParam.quant,  #ifdef BFRAMES
1447                                  pEnc->mbParam.fixed_code);  #define DIVX501B481P "DivX501b481p"
1448            if (pEnc->packed) {
1449                    BitstreamWriteUserData(bs, DIVX501B481P, strlen(DIVX501B481P));
1450            }
1451    #endif
1452            BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
1453    
1454          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
1455    
# Line 379  Line 1458 
1458          pEnc->sStat.mblks = pEnc->sStat.ublks = 0;          pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1459    
1460          for (y = 0; y < pEnc->mbParam.mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++)
1461                  for (x = 0; x < pEnc->mbParam.mb_width; x++)                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1462                  {                          MACROBLOCK *pMB =
1463                          MACROBLOCK *pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1464    
1465                          CodeIntraMB(pEnc, pMB);                          CodeIntraMB(pEnc, pMB);
1466    
1467                          MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, &pEnc->sCurrent);                          MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1468                                                              dct_codes, qcoeff);
1469    
1470                          start_timer();                          start_timer();
1471                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1472                          stop_prediction_timer();                          stop_prediction_timer();
1473    
1474                          start_timer();                          start_timer();
1475                          MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1476                          stop_coding_timer();                          stop_coding_timer();
1477                  }                  }
1478    
# Line 402  Line 1482 
1482          pEnc->sStat.fMvPrevSigma = -1;          pEnc->sStat.fMvPrevSigma = -1;
1483          pEnc->sStat.iMvSum = 0;          pEnc->sStat.iMvSum = 0;
1484          pEnc->sStat.iMvCount = 0;          pEnc->sStat.iMvCount = 0;
1485          pEnc->mbParam.fixed_code = 2;          pEnc->mbParam.m_fcode = 2;
1486    
1487            if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1488                    HintedMEGet(pEnc, 1);
1489            }
1490    
1491          return 1;                                        // intra          return 1;                                        // intra
1492  }  }
# Line 410  Line 1494 
1494    
1495  #define INTRA_THRESHOLD 0.5  #define INTRA_THRESHOLD 0.5
1496    
1497  static int FrameCodeP(Encoder * pEnc, Bitstream * bs, uint32_t *pBits, bool force_inter, bool vol_header)  static int
1498    FrameCodeP(Encoder * pEnc,
1499                       Bitstream * bs,
1500                       uint32_t * pBits,
1501                       bool force_inter,
1502                       bool vol_header)
1503  {  {
1504          float fSigma;          float fSigma;
1505          int16_t dct_codes[6][64];  
1506          int16_t qcoeff[6][64];          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
1507            DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
1508    
1509          int iLimit;          int iLimit;
1510          uint32_t x, y;          uint32_t x, y;
1511          int iSearchRange;          int iSearchRange;
1512          bool bIntra;          int bIntra;
   
         IMAGE *pCurrent = &pEnc->sCurrent;  
         IMAGE *pRef = &pEnc->sReference;  
1513    
1514          image_setedges(pRef,pEnc->mbParam.edged_width, pEnc->mbParam.edged_height, pEnc->mbParam.width, pEnc->mbParam.height);          /* IMAGE *pCurrent = &pEnc->current->image; */
1515            IMAGE *pRef = &pEnc->reference->image;
1516    
1517          pEnc->mbParam.rounding_type = 1 - pEnc->mbParam.rounding_type;          start_timer();
1518            image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1519                                       pEnc->mbParam.width, pEnc->mbParam.height,
1520                                       pEnc->current->global_flags & XVID_INTERLACING);
1521            stop_edges_timer();
1522    
1523            pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
1524            pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
1525            pEnc->current->fcode = pEnc->mbParam.m_fcode;
1526    
1527          if (!force_inter)          if (!force_inter)
1528                  iLimit = (int)(pEnc->mbParam.mb_width * pEnc->mbParam.mb_height * INTRA_THRESHOLD);                  iLimit =
1529                            (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
1530                                       INTRA_THRESHOLD);
1531          else          else
1532                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
1533    
1534          if ((pEnc->mbParam.global_flags & XVID_HALFPEL) > 0) {          if ((pEnc->current->global_flags & XVID_HALFPEL)) {
1535                  start_timer();                  start_timer();
1536                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
1537                                    pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,
1538                                    pEnc->mbParam.rounding_type);                                                    pEnc->mbParam.edged_height,
1539                                                      pEnc->current->rounding_type);
1540                  stop_inter_timer();                  stop_inter_timer();
1541          }          }
1542    
1543          start_timer();          start_timer();
1544          bIntra = MotionEstimation(pEnc->pMBs, &pEnc->mbParam, &pEnc->sReference,          if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
1545                                    &pEnc->vInterH, &pEnc->vInterV,                  HintedMESet(pEnc, &bIntra);
1546                                    &pEnc->vInterHV, &pEnc->sCurrent, iLimit);          } else {
1547                    bIntra =
1548                            MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
1549                                                             &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1550                                                             iLimit);
1551            }
1552          stop_motion_timer();          stop_motion_timer();
1553    
1554          if (bIntra == 1)          if (bIntra == 1) {
1555                  return FrameCodeI(pEnc, bs, pBits);                  return FrameCodeI(pEnc, bs, pBits);
1556            }
1557    
1558          pEnc->mbParam.coding_type = P_VOP;          pEnc->current->coding_type = P_VOP;
1559    
1560          if(vol_header)          if(vol_header)
1561                  BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
1562    
1563          BitstreamWriteVopHeader(bs, P_VOP, pEnc->mbParam.rounding_type,          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
                                 pEnc->mbParam.quant,  
                                 pEnc->mbParam.fixed_code);  
1564    
1565          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
1566    
# Line 465  Line 1569 
1569          pEnc->sStat.iMvCount = 0;          pEnc->sStat.iMvCount = 0;
1570          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;          pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1571    
1572          for(y = 0; y < pEnc->mbParam.mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1573          {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1574                  for(x = 0; x < pEnc->mbParam.mb_width; x++)                          MACROBLOCK *pMB =
1575                  {                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
                         MACROBLOCK * pMB = &pEnc->pMBs[x + y * pEnc->mbParam.mb_width];  
1576    
1577                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
1578    
1579                          if (!bIntra)                          if (!bIntra) {
                         {  
1580                                  start_timer();                                  start_timer();
1581                                  MBMotionCompensation(pMB, x, y, &pEnc->sReference,                                  MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
1582                                                       &pEnc->vInterH, &pEnc->vInterV,                                                       &pEnc->vInterH, &pEnc->vInterV,
1583                                                       &pEnc->vInterHV, &pEnc->sCurrent, dct_codes,                                                                           &pEnc->vInterHV, &pEnc->current->image,
1584                                                       pEnc->mbParam.width,                                                                           dct_codes, pEnc->mbParam.width,
1585                                                       pEnc->mbParam.height,                                                       pEnc->mbParam.height,
1586                                                       pEnc->mbParam.edged_width,                                                       pEnc->mbParam.edged_width,
1587                                                       pEnc->mbParam.rounding_type);                                                                           pEnc->current->rounding_type);
1588                                  stop_comp_timer();                                  stop_comp_timer();
1589    
1590                                  if ((pEnc->mbParam.global_flags & XVID_LUMIMASKING) > 0) {                                  if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
1591                                          if(pMB->dquant != NO_CHANGE) {                                          if(pMB->dquant != NO_CHANGE) {
1592                                                  pMB->mode = MODE_INTER_Q;                                                  pMB->mode = MODE_INTER_Q;
1593                                                  pEnc->mbParam.quant += DQtab[pMB->dquant];                                                  pEnc->current->quant += DQtab[pMB->dquant];
1594                                                  if (pEnc->mbParam.quant > 31) pEnc->mbParam.quant = 31;                                                  if (pEnc->current->quant > 31)
1595                                                  else if(pEnc->mbParam.quant < 1) pEnc->mbParam.quant = 1;                                                          pEnc->current->quant = 31;
1596                                                    else if (pEnc->current->quant < 1)
1597                                                            pEnc->current->quant = 1;
1598                                          }                                          }
1599                                  }                                  }
1600                                  pMB->quant = pEnc->mbParam.quant;                                  pMB->quant = pEnc->current->quant;
1601    
1602                                  pMB->cbp = MBTransQuantInter(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  pMB->field_pred = 0;
1603                          }  
1604                          else                                  pMB->cbp =
1605                          {                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
1606                                                                              dct_codes, qcoeff);
1607                            } else {
1608                                  CodeIntraMB(pEnc, pMB);                                  CodeIntraMB(pEnc, pMB);
1609                                  MBTransQuantIntra(&pEnc->mbParam, x, y, dct_codes, qcoeff, pCurrent);                                  MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
1610                                                                      dct_codes, qcoeff);
1611                          }                          }
1612    
1613                          start_timer();                          start_timer();
1614                          MBPrediction(&pEnc->mbParam, x, y, pEnc->mbParam.mb_width, qcoeff, pEnc->pMBs);                          MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
1615                          stop_prediction_timer();                          stop_prediction_timer();
1616    
1617                          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)                          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
                         {  
1618                                  pEnc->sStat.kblks++;                                  pEnc->sStat.kblks++;
1619                          }                          } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
1620                          else if (pMB->cbp ||                                             pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
1621                                   pMB->mvs[0].x || pMB->mvs[0].y ||                                             pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
                                  pMB->mvs[1].x || pMB->mvs[1].y ||  
                                  pMB->mvs[2].x || pMB->mvs[2].y ||  
                                  pMB->mvs[3].x || pMB->mvs[3].y)  
                         {  
1622                                  pEnc->sStat.mblks++;                                  pEnc->sStat.mblks++;
1623                          }                          } else {
                         else  
                         {  
1624                                  pEnc->sStat.ublks++;                                  pEnc->sStat.ublks++;
1625                          }                          }
1626    
1627                          start_timer();                          start_timer();
1628                          MBCoding(&pEnc->mbParam, pMB, qcoeff, bs, &pEnc->sStat);                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
1629                          stop_coding_timer();                          stop_coding_timer();
1630                  }                  }
1631          }          }
1632    
1633          emms();          emms();
1634    
1635            if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
1636                    HintedMEGet(pEnc, 0);
1637            }
1638    
1639          if (pEnc->sStat.iMvCount == 0)          if (pEnc->sStat.iMvCount == 0)
1640                  pEnc->sStat.iMvCount = 1;                  pEnc->sStat.iMvCount = 1;
1641    
1642          fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);          fSigma = (float)sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1643    
1644          iSearchRange = 1 << (3 + pEnc->mbParam.fixed_code);          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1645    
1646          if ((fSigma > iSearchRange / 3)          if ((fSigma > iSearchRange / 3)
1647              && (pEnc->mbParam.fixed_code <= 3)) // maximum search range 128                  && (pEnc->mbParam.m_fcode <= 3))        // maximum search range 128
1648          {          {
1649                  pEnc->mbParam.fixed_code++;                  pEnc->mbParam.m_fcode++;
1650                  iSearchRange *= 2;                  iSearchRange *= 2;
1651          }          } else if ((fSigma < iSearchRange / 6)
         else if ((fSigma < iSearchRange / 6)  
1652                   && (pEnc->sStat.fMvPrevSigma >= 0)                   && (pEnc->sStat.fMvPrevSigma >= 0)
1653                   && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)                   && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1654                   && (pEnc->mbParam.fixed_code >= 2))    // minimum search range 16                             && (pEnc->mbParam.m_fcode >= 2))     // minimum search range 16
1655          {          {
1656                  pEnc->mbParam.fixed_code--;                  pEnc->mbParam.m_fcode--;
1657                  iSearchRange /= 2;                  iSearchRange /= 2;
1658          }          }
1659    
# Line 560  Line 1663 
1663    
1664          return 0;                                        // inter          return 0;                                        // inter
1665  }  }
1666    
1667    
1668    #ifdef BFRAMES
1669    static void
1670    FrameCodeB(Encoder * pEnc,
1671                       FRAMEINFO * frame,
1672                       Bitstream * bs,
1673                       uint32_t * pBits)
1674    {
1675            int16_t dct_codes[6 * 64];
1676            int16_t qcoeff[6 * 64];
1677            uint32_t x, y;
1678            VECTOR forward;
1679            VECTOR backward;
1680    
1681            IMAGE *f_ref = &pEnc->reference->image;
1682            IMAGE *b_ref = &pEnc->current->image;
1683    
1684            // forward
1685            image_setedges(f_ref, pEnc->mbParam.edged_width,
1686                                       pEnc->mbParam.edged_height, pEnc->mbParam.width,
1687                                       pEnc->mbParam.height,
1688                                       frame->global_flags & XVID_INTERLACING);
1689            start_timer();
1690            image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1691                                              pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1692                                              0);
1693            stop_inter_timer();
1694    
1695            // backward
1696            image_setedges(b_ref, pEnc->mbParam.edged_width,
1697                                       pEnc->mbParam.edged_height, pEnc->mbParam.width,
1698                                       pEnc->mbParam.height,
1699                                       frame->global_flags & XVID_INTERLACING);
1700            start_timer();
1701            image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
1702                                              pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
1703                                              0);
1704            stop_inter_timer();
1705    
1706            start_timer();
1707            MotionEstimationBVOP(&pEnc->mbParam, frame, pEnc->reference->mbs, f_ref,
1708                                                     &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,
1709                                                     pEnc->current->mbs, b_ref, &pEnc->vInterH,
1710                                                     &pEnc->vInterV, &pEnc->vInterHV);
1711    
1712    
1713            stop_motion_timer();
1714    
1715            /*if (test_quant_type(&pEnc->mbParam, pEnc->current))
1716               {
1717               BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);
1718               } */
1719    
1720            frame->coding_type = B_VOP;
1721            BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);
1722    
1723            *pBits = BitstreamPos(bs);
1724    
1725            pEnc->sStat.iTextBits = 0;
1726            pEnc->sStat.iMvSum = 0;
1727            pEnc->sStat.iMvCount = 0;
1728            pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
1729    
1730    
1731            for (y = 0; y < pEnc->mbParam.mb_height; y++) {
1732                    // reset prediction
1733    
1734                    forward.x = 0;
1735                    forward.y = 0;
1736                    backward.x = 0;
1737                    backward.y = 0;
1738    
1739                    for (x = 0; x < pEnc->mbParam.mb_width; x++) {
1740                            MACROBLOCK *f_mb =
1741                                    &pEnc->reference->mbs[x + y * pEnc->mbParam.mb_width];
1742                            MACROBLOCK *b_mb =
1743                                    &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
1744                            MACROBLOCK *mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];
1745    
1746                            // decoder ignores mb when refence block is INTER(0,0), CBP=0
1747                            if (mb->mode == MODE_NOT_CODED) {
1748                                    mb->mvs[0].x = 0;
1749                                    mb->mvs[0].y = 0;
1750                                    continue;
1751                            }
1752    
1753                            MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,
1754                                                                             f_ref, &pEnc->f_refh, &pEnc->f_refv,
1755                                                                             &pEnc->f_refhv, b_ref, &pEnc->vInterH,
1756                                                                             &pEnc->vInterV, &pEnc->vInterHV,
1757                                                                             dct_codes);
1758    
1759                            mb->quant = frame->quant;
1760                            mb->cbp =
1761                                    MBTransQuantInter(&pEnc->mbParam, frame, mb, x, y, dct_codes,
1762                                                                      qcoeff);
1763                            //mb->cbp = MBTransQuantBVOP(&pEnc->mbParam, x, y, dct_codes, qcoeff, &frame->image, frame->quant);
1764    
1765    
1766                            if ((mb->mode == MODE_INTERPOLATE || mb->mode == MODE_DIRECT)
1767                                    && mb->cbp == 0 && mb->mvs[0].x == 0 && mb->mvs[0].y == 0) {
1768                                    mb->mode = 5;   // skipped
1769                            }
1770    
1771                            if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_FORWARD) {
1772                                    mb->pmvs[0].x = mb->mvs[0].x - forward.x;
1773                                    mb->pmvs[0].y = mb->mvs[0].y - forward.y;
1774                                    forward.x = mb->mvs[0].x;
1775                                    forward.y = mb->mvs[0].y;
1776                            }
1777    
1778                            if (mb->mode == MODE_INTERPOLATE || mb->mode == MODE_BACKWARD) {
1779                                    mb->b_pmvs[0].x = mb->b_mvs[0].x - backward.x;
1780                                    mb->b_pmvs[0].y = mb->b_mvs[0].y - backward.y;
1781                                    backward.x = mb->b_mvs[0].x;
1782                                    backward.y = mb->b_mvs[0].y;
1783                            }
1784    //          printf("[%i %i] M=%i CBP=%i MVX=%i MVY=%i %i,%i  %i,%i\n", x, y, pMB->mode, pMB->cbp, pMB->mvs[0].x, bmb->pmvs[0].x, bmb->pmvs[0].y, forward.x, forward.y);
1785    
1786                            start_timer();
1787                            MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,
1788                                                     &pEnc->sStat);
1789                            stop_coding_timer();
1790                    }
1791            }
1792    
1793            emms();
1794    
1795            // TODO: dynamic fcode/bcode ???
1796    
1797            *pBits = BitstreamPos(bs) - *pBits;
1798    }
1799    #endif

Legend:
Removed from v.1.6  
changed lines
  Added in v.1.44

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4