[cvs] / xvidcore / src / encoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/encoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.76.2.42, Sun Jan 26 05:09:00 2003 UTC revision 1.84, Wed Sep 25 23:37:08 2002 UTC
# Line 3  Line 3 
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  -  Encoder main module  -   *  -  Encoder main module  -
5   *   *
6     *  Copyright(C) 2002 Michael Militzer
7     *
8   *  This program is an implementation of a part of one or more MPEG-4   *  This program is an implementation of a part of one or more MPEG-4
9   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
10   *  to use this software module in hardware or software products are   *  to use this software module in hardware or software products are
# Line 26  Line 28 
28   *  along with this program; if not, write to the Free Software   *  along with this program; if not, write to the Free Software
29   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
30   *   *
  ****************************************************************************/  
   
 /*****************************************************************************  
  *  
  *  History  
  *  
  *  10.07.2002  added BFRAMES_DEC_DEBUG support  
  *              MinChen <chenm001@163.com>  
  *  20.06.2002 bframe patch  
  *  08.05.2002 fix some problem in DEBUG mode;  
  *             MinChen <chenm001@163.com>  
  *  14.04.2002 added FrameCodeB()  
  *  
31   *  $Id$   *  $Id$
32   *   *
33   ****************************************************************************/   ****************************************************************************/
# Line 53  Line 42 
42  #include "global.h"  #include "global.h"
43  #include "utils/timer.h"  #include "utils/timer.h"
44  #include "image/image.h"  #include "image/image.h"
 #include "image/font.h"  
 #include "motion/sad.h"  
45  #include "motion/motion.h"  #include "motion/motion.h"
46  #include "bitstream/cbp.h"  #include "bitstream/cbp.h"
47  #include "utils/mbfunctions.h"  #include "utils/mbfunctions.h"
# Line 67  Line 54 
54  #include "quant/quant_matrix.h"  #include "quant/quant_matrix.h"
55  #include "utils/mem_align.h"  #include "utils/mem_align.h"
56    
57    #ifdef _SMP
58    #include "motion/smp_motion_est.h"
59    #endif
60  /*****************************************************************************  /*****************************************************************************
61   * Local macros   * Local macros
62   ****************************************************************************/   ****************************************************************************/
63    
64  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT  #define ENC_CHECK(X) if(!(X)) return XVID_ERR_FORMAT
65  #define SWAP(_T_,A,B)    { _T_ tmp = A; A = B; B = tmp; }  #define SWAP(A,B)    { void * tmp = A; A = B; B = tmp; }
66    
67  /*****************************************************************************  /*****************************************************************************
68   * Local function prototypes   * Local function prototypes
# Line 88  Line 78 
78                                            bool force_inter,                                            bool force_inter,
79                                            bool vol_header);                                            bool vol_header);
80    
 static void FrameCodeB(Encoder * pEnc,  
                                            FRAMEINFO * frame,  
                                            Bitstream * bs,  
                                            uint32_t * pBits);  
   
81  /*****************************************************************************  /*****************************************************************************
82   * Local data   * Local data
83   ****************************************************************************/   ****************************************************************************/
# Line 106  Line 91 
91  };  };
92    
93    
94    static void __inline
95    image_null(IMAGE * image)
96    {
97            image->y = image->u = image->v = NULL;
98    }
99    
100    
101  /*****************************************************************************  /*****************************************************************************
102   * Encoder creation   * Encoder creation
103   *   *
104   * This function creates an Encoder instance, it allocates all necessary   * This function creates an Encoder instance, it allocates all necessary
105   * image buffers (reference, current and bframes) and initialize the internal   * image buffers (reference, current) and initialize the internal xvid
106   * xvid encoder paremeters according to the XVID_ENC_PARAM input parameter.   * encoder paremeters according to the XVID_ENC_PARAM input parameter.
107   *   *
108   * The code seems to be very long but is very basic, mainly memory allocation   * The code seems to be very long but is very basic, mainly memory allocation
109   * and cleaning code.   * and cleaning code.
# Line 223  Line 215 
215    
216          pEnc->mbParam.m_quant_type = H263_QUANT;          pEnc->mbParam.m_quant_type = H263_QUANT;
217    
218          pEnc->fMvPrevSigma = -1;  #ifdef _SMP
219            pEnc->mbParam.num_threads = MIN(pParam->num_threads, MAXNUMTHREADS);
220    #endif
221    
222            pEnc->sStat.fMvPrevSigma = -1;
223    
224          /* Fill rate control parameters */          /* Fill rate control parameters */
225    
226          pEnc->bitrate = pParam->rc_bitrate;          pEnc->bitrate = pParam->rc_bitrate;
227    
228          pEnc->iFrameNum = -1;          pEnc->iFrameNum = 0;
229          pEnc->mbParam.iMaxKeyInterval = pParam->max_key_interval;          pEnc->iMaxKeyInterval = pParam->max_key_interval;
230    
231          /* try to allocate frame memory */          /* try to allocate frame memory */
232    
# Line 254  Line 250 
250    
251          /* try to allocate image memory */          /* try to allocate image memory */
252    
253          if (pParam->global & XVID_GLOBAL_EXTRASTATS)  #ifdef _DEBUG_PSNR
254                  image_null(&pEnc->sOriginal);                  image_null(&pEnc->sOriginal);
255    #endif
         image_null(&pEnc->f_refh);  
         image_null(&pEnc->f_refv);  
         image_null(&pEnc->f_refhv);  
   
256          image_null(&pEnc->current->image);          image_null(&pEnc->current->image);
257          image_null(&pEnc->reference->image);          image_null(&pEnc->reference->image);
258          image_null(&pEnc->vInterH);          image_null(&pEnc->vInterH);
259          image_null(&pEnc->vInterV);          image_null(&pEnc->vInterV);
         image_null(&pEnc->vInterVf);  
260          image_null(&pEnc->vInterHV);          image_null(&pEnc->vInterHV);
         image_null(&pEnc->vInterHVf);  
261    
262          if (pParam->global & XVID_GLOBAL_EXTRASTATS)  #ifdef _DEBUG_PSNR
         {       if (image_create  
                         (&pEnc->sOriginal, pEnc->mbParam.edged_width,  
                          pEnc->mbParam.edged_height) < 0)  
                         goto xvid_err_memory3;  
         }  
   
         if (image_create  
                 (&pEnc->f_refh, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create  
                 (&pEnc->f_refv, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
263          if (image_create          if (image_create
264                  (&pEnc->f_refhv, pEnc->mbParam.edged_width,                  (&pEnc->sOriginal, pEnc->mbParam.edged_width,
265                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
266                  goto xvid_err_memory3;                  goto xvid_err_memory3;
267    #endif
268          if (image_create          if (image_create
269                  (&pEnc->current->image, pEnc->mbParam.edged_width,                  (&pEnc->current->image, pEnc->mbParam.edged_width,
270                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
# Line 306  Line 282 
282                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
283                  goto xvid_err_memory3;                  goto xvid_err_memory3;
284          if (image_create          if (image_create
                 (&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
         if (image_create  
285                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,                  (&pEnc->vInterHV, pEnc->mbParam.edged_width,
286                   pEnc->mbParam.edged_height) < 0)                   pEnc->mbParam.edged_height) < 0)
287                  goto xvid_err_memory3;                  goto xvid_err_memory3;
         if (image_create  
                 (&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
   
 /* Create full bitplane for GMC, this might be wasteful */  
         if (image_create  
                 (&pEnc->vGMC, pEnc->mbParam.edged_width,  
                  pEnc->mbParam.edged_height) < 0)  
                 goto xvid_err_memory3;  
   
   
   
         pEnc->mbParam.global = pParam->global;  
   
         /* B Frames specific init */  
         pEnc->mbParam.max_bframes = pParam->max_bframes;  
         pEnc->mbParam.bquant_ratio = pParam->bquant_ratio;  
         pEnc->mbParam.bquant_offset = pParam->bquant_offset;  
         pEnc->mbParam.frame_drop_ratio = pParam->frame_drop_ratio;  
         pEnc->bframes = NULL;  
   
         if (pEnc->mbParam.max_bframes > 0) {  
                 int n;  
   
                 pEnc->bframes =  
                         xvid_malloc(pEnc->mbParam.max_bframes * sizeof(FRAMEINFO *),  
                                                 CACHE_LINE);  
   
                 if (pEnc->bframes == NULL)  
                         goto xvid_err_memory3;  
   
                 for (n = 0; n < pEnc->mbParam.max_bframes; n++)  
                         pEnc->bframes[n] = NULL;  
   
   
                 for (n = 0; n < pEnc->mbParam.max_bframes; n++) {  
                         pEnc->bframes[n] = xvid_malloc(sizeof(FRAMEINFO), CACHE_LINE);  
   
                         if (pEnc->bframes[n] == NULL)  
                                 goto xvid_err_memory4;  
   
                         pEnc->bframes[n]->mbs =  
                                 xvid_malloc(sizeof(MACROBLOCK) * pEnc->mbParam.mb_width *  
                                                         pEnc->mbParam.mb_height, CACHE_LINE);  
   
                         if (pEnc->bframes[n]->mbs == NULL)  
                                 goto xvid_err_memory4;  
   
                         image_null(&pEnc->bframes[n]->image);  
   
                         if (image_create  
                                 (&pEnc->bframes[n]->image, pEnc->mbParam.edged_width,  
                                  pEnc->mbParam.edged_height) < 0)  
                                 goto xvid_err_memory4;  
   
                 }  
         }  
   
         pEnc->bframenum_head = 0;  
         pEnc->bframenum_tail = 0;  
         pEnc->flush_bframes = 0;  
         pEnc->bframenum_dx50bvop = -1;  
   
         pEnc->queue = NULL;  
   
   
         if (pEnc->mbParam.max_bframes > 0) {  
                 int n;  
   
                 pEnc->queue =  
                         xvid_malloc(pEnc->mbParam.max_bframes * sizeof(IMAGE),  
                                                 CACHE_LINE);  
   
                 if (pEnc->queue == NULL)  
                         goto xvid_err_memory4;  
   
                 for (n = 0; n < pEnc->mbParam.max_bframes; n++)  
                         image_null(&pEnc->queue[n]);  
   
                 for (n = 0; n < pEnc->mbParam.max_bframes; n++) {  
                         if (image_create  
                                 (&pEnc->queue[n], pEnc->mbParam.edged_width,  
                                  pEnc->mbParam.edged_height) < 0)  
                                 goto xvid_err_memory5;  
   
                 }  
         }  
   
         pEnc->queue_head = 0;  
         pEnc->queue_tail = 0;  
         pEnc->queue_size = 0;  
   
         pEnc->mbParam.m_stamp = 0;  
   
         pEnc->m_framenum = 0;  
         pEnc->current->stamp = 0;  
         pEnc->reference->stamp = 0;  
288    
289          pParam->handle = (void *) pEnc;          pParam->handle = (void *) pEnc;
290    
# Line 430  Line 304 
304           * We handle all XVID_ERR_MEMORY here, this makes the code lighter           * We handle all XVID_ERR_MEMORY here, this makes the code lighter
305           */           */
306    
   xvid_err_memory5:  
   
   
         if (pEnc->mbParam.max_bframes > 0) {  
   
                 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {  
                         image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,  
                                                   pEnc->mbParam.edged_height);  
                 }  
                 xvid_free(pEnc->queue);  
         }  
   
   xvid_err_memory4:  
   
         if (pEnc->mbParam.max_bframes > 0) {  
   
                 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {  
   
                         if (pEnc->bframes[i] == NULL)  
                                 continue;  
   
                         image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,  
                                                   pEnc->mbParam.edged_height);  
   
                         xvid_free(pEnc->bframes[i]->mbs);  
   
                         xvid_free(pEnc->bframes[i]);  
   
                 }  
   
                 xvid_free(pEnc->bframes);  
         }  
   
307    xvid_err_memory3:    xvid_err_memory3:
308    #ifdef _DEBUG_PSNR
309          if (pEnc->mbParam.global & XVID_GLOBAL_EXTRASTATS)          image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
         {       image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,  
                                           pEnc->mbParam.edged_height);  
         }  
   
         image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,  
310                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
311    #endif
312    
313          image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,          image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
314                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
# Line 485  Line 318 
318                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
319          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
320                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
321          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
322                                    pEnc->mbParam.edged_height);                                    pEnc->mbParam.edged_height);
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
   
 /* destroy GMC image */  
         image_destroy(&pEnc->vGMC, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
   
323    
324    xvid_err_memory2:    xvid_err_memory2:
325          xvid_free(pEnc->current->mbs);          xvid_free(pEnc->current->mbs);
# Line 504  Line 328 
328    xvid_err_memory1:    xvid_err_memory1:
329          xvid_free(pEnc->current);          xvid_free(pEnc->current);
330          xvid_free(pEnc->reference);          xvid_free(pEnc->reference);
331          xvid_free(pEnc);          xvid_free(pEnc);
   
         pParam->handle = NULL;  
   
         return XVID_ERR_MEMORY;  
 }  
   
 /*****************************************************************************  
  * Encoder destruction  
  *  
  * This function destroy the entire encoder structure created by a previous  
  * successful encoder_create call.  
  *  
  * Returned values (for now only one returned value) :  
  *    - XVID_ERR_OK     - no errors  
  *  
  ****************************************************************************/  
   
 int  
 encoder_destroy(Encoder * pEnc)  
 {  
         int i;  
   
         ENC_CHECK(pEnc);  
   
         /* B Frames specific */  
         if (pEnc->mbParam.max_bframes > 0) {  
   
                 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {  
   
                         image_destroy(&pEnc->queue[i], pEnc->mbParam.edged_width,  
                                           pEnc->mbParam.edged_height);  
                 }  
                 xvid_free(pEnc->queue);  
         }  
   
   
         if (pEnc->mbParam.max_bframes > 0) {  
   
                 for (i = 0; i < pEnc->mbParam.max_bframes; i++) {  
   
                         if (pEnc->bframes[i] == NULL)  
                                 continue;  
   
                         image_destroy(&pEnc->bframes[i]->image, pEnc->mbParam.edged_width,  
                                           pEnc->mbParam.edged_height);  
   
                         xvid_free(pEnc->bframes[i]->mbs);  
   
                         xvid_free(pEnc->bframes[i]);  
                 }  
   
                 xvid_free(pEnc->bframes);  
   
         }  
   
         /* All images, reference, current etc ... */  
   
         image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->vInterHVf, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
   
         image_destroy(&pEnc->f_refh, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refv, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
         image_destroy(&pEnc->f_refhv, pEnc->mbParam.edged_width,  
                                   pEnc->mbParam.edged_height);  
   
         if (pEnc->mbParam.global & XVID_GLOBAL_EXTRASTATS)  
         {       image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,  
                                           pEnc->mbParam.edged_height);  
         }  
   
         /* Encoder structure */  
   
         xvid_free(pEnc->current->mbs);  
         xvid_free(pEnc->current);  
   
         xvid_free(pEnc->reference->mbs);  
         xvid_free(pEnc->reference);  
   
         xvid_free(pEnc);  
   
         return XVID_ERR_OK;  
 }  
   
   
 static __inline void inc_frame_num(Encoder * pEnc)  
 {  
         pEnc->current->stamp = pEnc->mbParam.m_stamp;   // first frame is zero  
         pEnc->mbParam.m_stamp += pEnc->mbParam.fincr;  
 }  
   
   
 static __inline void  
 queue_image(Encoder * pEnc, XVID_ENC_FRAME * pFrame)  
 {  
         if (pEnc->queue_size >= pEnc->mbParam.max_bframes)  
         {  
                 DPRINTF(DPRINTF_DEBUG,"FATAL: QUEUE FULL");  
                 return;  
         }  
   
         DPRINTF(DPRINTF_DEBUG,"*** QUEUE bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
   
   
         start_timer();  
         if (image_input  
                 (&pEnc->queue[pEnc->queue_tail], pEnc->mbParam.width, pEnc->mbParam.height,  
                  pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))  
                 return;  
         stop_conv_timer();  
   
         pEnc->queue_size++;  
         pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;  
 }  
   
 static __inline void  
 set_timecodes(FRAMEINFO* pCur,FRAMEINFO *pRef, int32_t time_base)  
 {  
   
                 pCur->ticks = (int32_t)pCur->stamp % time_base;  
                 pCur->seconds =  ((int32_t)pCur->stamp / time_base)     - ((int32_t)pRef->stamp / time_base) ;  
   
                 //HEAVY DEBUG OUTPUT    remove when timecodes prove to be stable  
   
 /*              fprintf(stderr,"WriteVop:   %d - %d \n",  
                         ((int32_t)pCur->stamp / time_base), ((int32_t)pRef->stamp / time_base));  
                 fprintf(stderr,"set_timecodes: VOP %1d   stamp=%lld ref_stamp=%lld  base=%d\n",  
                         pCur->coding_type, pCur->stamp, pRef->stamp, time_base);  
                 fprintf(stderr,"set_timecodes: VOP %1d   seconds=%d   ticks=%d   (ref-sec=%d  ref-tick=%d)\n",  
                         pCur->coding_type, pCur->seconds, pCur->ticks, pRef->seconds, pRef->ticks);  
   
 */  
 }  
   
   
   
 /* convert pFrame->intra to coding_type */  
 static int intra2coding_type(int intra)  
 {  
         if (intra < 0)  return -1;  
         if (intra == 1) return I_VOP;  
         if (intra == 2) return B_VOP;  
   
         return P_VOP;  
 }  
   
   
   
 /*****************************************************************************  
  * IPB frame encoder entry point  
  *  
  * Returned values :  
  *    - XVID_ERR_OK     - no errors  
  *    - XVID_ERR_FORMAT - the image subsystem reported the image had a wrong  
  *                        format  
  ****************************************************************************/  
   
 int  
 encoder_encode_bframes(Encoder * pEnc,  
                            XVID_ENC_FRAME * pFrame,  
                            XVID_ENC_STATS * pResult)  
 {  
         uint16_t x, y;  
         Bitstream bs;  
         uint32_t bits;  
         int mode;  
   
         int input_valid = 1;  
         int bframes_count = 0;  
   
         ENC_CHECK(pEnc);  
         ENC_CHECK(pFrame);  
         ENC_CHECK(pFrame->image);  
   
         start_global_timer();  
   
         BitstreamInit(&bs, pFrame->bitstream, 0);  
   
 ipvop_loop:  
   
         /*  
          * bframe "flush" code  
          */  
   
         if ((pFrame->image == NULL || pEnc->flush_bframes)  
                 && (pEnc->bframenum_head < pEnc->bframenum_tail)) {  
   
                 if (pEnc->flush_bframes == 0) {  
                         /*  
                          * we have reached the end of stream without getting  
                          * a future reference frame... so encode last final  
                          * frame as a pframe  
                          */  
   
                         DPRINTF(DPRINTF_DEBUG,"*** BFRAME (final frame) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
   
                         pEnc->bframenum_tail--;  
                         SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);  
   
                         SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);  
   
                         FrameCodeP(pEnc, &bs, &bits, 1, 0);  
                         bframes_count = 0;  
   
                         BitstreamPadAlways(&bs);  
                         pFrame->length = BitstreamLength(&bs);  
                         pFrame->intra = 0;  
   
   
                         emms();  
   
                         if (pResult) {  
                                 pResult->quant = pEnc->current->quant;  
                                 pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);  
                                 pResult->kblks = pEnc->current->sStat.kblks;  
                                 pResult->mblks = pEnc->current->sStat.mblks;  
                                 pResult->ublks = pEnc->current->sStat.ublks;  
                         }  
   
                         return XVID_ERR_OK;  
                 }  
   
   
                 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (flush) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
   
                 FrameCodeB(pEnc, pEnc->bframes[pEnc->bframenum_head], &bs, &bits);  
                 pEnc->bframenum_head++;  
   
                 BitstreamPadAlways(&bs);  
                 pFrame->length = BitstreamLength(&bs);  
                 pFrame->intra = 2;  
   
                 if (pResult) {  
                         pResult->quant = pEnc->current->quant;  
                         pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);  
                         pResult->kblks = pEnc->current->sStat.kblks;  
                         pResult->mblks = pEnc->current->sStat.mblks;  
                         pResult->ublks = pEnc->current->sStat.ublks;  
                 }  
   
                 if (input_valid)  
                         queue_image(pEnc, pFrame);  
   
                 emms();  
   
                 return XVID_ERR_OK;  
         }  
   
         if (pEnc->bframenum_head > 0) {  
                 pEnc->bframenum_head = pEnc->bframenum_tail = 0;  
   
                 /* write an empty marker to the bitstream.  
   
                    for divx5 decoder compatibility, this marker must consist  
                    of a not-coded p-vop, with a time_base of zero, and time_increment  
                    indentical to the future-referece frame.  
                 */  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED)) {  
                         int tmp;  
   
                         DPRINTF(DPRINTF_DEBUG,"*** EMPTY bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
   
   
                         tmp = pEnc->current->seconds;  
                         pEnc->current->seconds = 0; /* force time_base = 0 */  
   
                         BitstreamWriteVopHeader(&bs, &pEnc->mbParam, pEnc->current, 0);  
                         pEnc->current->seconds = tmp;  
   
                         BitstreamPadAlways(&bs);  
                         pFrame->length = BitstreamLength(&bs);  
                         pFrame->intra = 4;  
   
                         if (pResult) {  
                                 pResult->quant = pEnc->current->quant;  
                                 pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);  
                                 pResult->kblks = pEnc->current->sStat.kblks;  
                                 pResult->mblks = pEnc->current->sStat.mblks;  
                                 pResult->ublks = pEnc->current->sStat.ublks;  
                         }  
   
                         if (input_valid)  
                                 queue_image(pEnc, pFrame);  
   
                         emms();  
   
                         return XVID_ERR_OK;  
                 }  
         }  
   
   
 bvop_loop:  
   
         if (pEnc->bframenum_dx50bvop != -1)  
         {  
   
                 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);  
                 SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {  
                         image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 IVOP");  
                 }  
   
                 if (input_valid)  
                 {  
                         queue_image(pEnc, pFrame);  
                         input_valid = 0;  
                 }  
   
         } else if (input_valid) {  
   
                 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);  
   
                 start_timer();  
                 if (image_input  
                         (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,  
                         pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING))  
                 {  
                         emms();  
                         return XVID_ERR_FORMAT;  
                 }  
                 stop_conv_timer();  
   
                 // queue input frame, and dequue next image  
                 if (pEnc->queue_size > 0)  
                 {  
                         image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_tail]);  
                         if (pEnc->queue_head != pEnc->queue_tail)  
                         {  
                                 image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);  
                         }  
                         pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;  
                         pEnc->queue_tail =  (pEnc->queue_tail + 1) % pEnc->mbParam.max_bframes;  
                 }  
   
         } else if (pEnc->queue_size > 0) {  
   
                 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);  
   
                 image_swap(&pEnc->current->image, &pEnc->queue[pEnc->queue_head]);  
                 pEnc->queue_head =  (pEnc->queue_head + 1) % pEnc->mbParam.max_bframes;  
                 pEnc->queue_size--;  
   
         } else {  
   
                 /* if nothing was encoded, write an 'ignore this frame' flag  
                    to the bitstream */  
   
                 if (BitstreamPos(&bs) == 0) {  
   
                         DPRINTF(DPRINTF_DEBUG,"*** SKIP bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
   
                 //      BitstreamPutBits(&bs, 0x7f, 8);  
                         pFrame->intra = 5;  
   
                         if (pResult) {  
                                 /*  
                                  * We must decide what to put there because i know some apps  
                                  * are storing statistics about quantizers and just do  
                                  * stats[quant]++ or stats[quant-1]++  
                                  * transcode is one of these app with its 2pass module  
                                  */  
   
                                 /*  
                                  * For now i prefer 31 than 0 that could lead to a segfault  
                                  * in transcode  
                                  */  
                                 pResult->quant = 31;  
   
                                 pResult->hlength = 0;  
                                 pResult->kblks = 0;  
                                 pResult->mblks = 0;  
                                 pResult->ublks = 0;  
                         }  
   
                 } else {  
   
                         if (pResult) {  
                                 pResult->quant = pEnc->current->quant;  
                                 pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);  
                                 pResult->kblks = pEnc->current->sStat.kblks;  
                                 pResult->mblks = pEnc->current->sStat.mblks;  
                                 pResult->ublks = pEnc->current->sStat.ublks;  
                         }  
   
                 }  
   
                 pFrame->length = BitstreamLength(&bs);  
   
                 emms();  
   
                 return XVID_ERR_OK;  
         }  
   
         pEnc->flush_bframes = 0;  
   
         emms();  
   
         // only inc frame num, adapt quant, etc. if we havent seen it before  
         if (pEnc->bframenum_dx50bvop < 0 )  
         {  
                 mode = intra2coding_type(pFrame->intra);  
                 if (pFrame->quant == 0)  
                         pEnc->current->quant = RateControlGetQ(&pEnc->rate_control, 0);  
                 else  
                         pEnc->current->quant = pFrame->quant;  
   
 /*              if (pEnc->current->quant < 1)  
                         pEnc->current->quant = 1;  
   
                 if (pEnc->current->quant > 31)  
                         pEnc->current->quant = 31;  
 */  
                 pEnc->current->global_flags = pFrame->general;  
                 pEnc->current->motion_flags = pFrame->motion;  
   
                 /* ToDo : dynamic fcode (in both directions) */  
                 pEnc->current->fcode = pEnc->mbParam.m_fcode;  
                 pEnc->current->bcode = pEnc->mbParam.m_fcode;  
   
                 inc_frame_num(pEnc);  
   
                 if (pFrame->general & XVID_EXTRASTATS)  
                 {       image_copy(&pEnc->sOriginal, &pEnc->current->image,  
                                    pEnc->mbParam.edged_width, pEnc->mbParam.height);  
                 }  
   
                 emms();  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {  
                         image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 5,  
                                 "%i  if:%i  st:%i", pEnc->m_framenum++, pEnc->iFrameNum, pEnc->current->stamp);  
                 }  
   
         /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
          * Luminance masking  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
   
                 if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {  
                         int *temp_dquants =  
                                 (int *) xvid_malloc(pEnc->mbParam.mb_width *  
                                                                 pEnc->mbParam.mb_height * sizeof(int),  
                                                                 CACHE_LINE);  
   
                         pEnc->current->quant =  
                                 adaptive_quantization(pEnc->current->image.y,  
                                                                   pEnc->mbParam.edged_width, temp_dquants,  
                                                                   pEnc->current->quant, pEnc->current->quant,  
                                                                   2 * pEnc->current->quant,  
                                                                   pEnc->mbParam.mb_width,  
                                                                   pEnc->mbParam.mb_height);  
   
                         for (y = 0; y < pEnc->mbParam.mb_height; y++) {  
   
 #define OFFSET(x,y) ((x) + (y)*pEnc->mbParam.mb_width)  
   
                                 for (x = 0; x < pEnc->mbParam.mb_width; x++) {  
                                         MACROBLOCK *pMB = &pEnc->current->mbs[OFFSET(x, y)];  
   
                                         pMB->dquant = iDQtab[temp_dquants[OFFSET(x, y)] + 2];  
                                 }  
   
 #undef OFFSET  
                         }  
   
                         xvid_free(temp_dquants);  
                 }  
   
         }  
   
         /* %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%  
          * ivop/pvop/bvop selection  
          * %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% */  
         pEnc->iFrameNum++;  
   
         if (pEnc->iFrameNum == 0 || pEnc->bframenum_dx50bvop >= 0 ||  
                 (mode < 0 && pEnc->mbParam.iMaxKeyInterval > 0 &&  
                         pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval))  
         {  
                 mode = I_VOP;  
         }else{  
                 mode = MEanalysis(&pEnc->reference->image, pEnc->current,  
                                         &pEnc->mbParam, pEnc->mbParam.iMaxKeyInterval,  
                                         (mode < 0) ? pEnc->iFrameNum : 0,  
                                         bframes_count++);  
         }  
   
         if (mode == I_VOP) {  
                 /*  
                  * This will be coded as an Intra Frame  
                  */  
                 if ((pEnc->current->global_flags & XVID_QUARTERPEL))  
                         pEnc->mbParam.m_quarterpel = 1;  
                 else  
                         pEnc->mbParam.m_quarterpel = 0;  
   
                 if (pEnc->current->global_flags & XVID_MPEGQUANT) pEnc->mbParam.m_quant_type = MPEG4_QUANT;  
   
                 if ((pEnc->current->global_flags & XVID_CUSTOM_QMATRIX) > 0) {  
                         if (pFrame->quant_intra_matrix != NULL)  
                                 set_intra_matrix(pFrame->quant_intra_matrix);  
                         if (pFrame->quant_inter_matrix != NULL)  
                                 set_inter_matrix(pFrame->quant_inter_matrix);  
                 }  
   
   
                 DPRINTF(DPRINTF_DEBUG,"*** IFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {  
                         image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "IVOP");  
                 }  
   
                 // when we reach an iframe in DX50BVOP mode, encode the last bframe as a pframe  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_DX50BVOP) && pEnc->bframenum_tail > 0) {  
   
                         pEnc->bframenum_tail--;  
                         pEnc->bframenum_dx50bvop = pEnc->bframenum_tail;  
   
                         SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_dx50bvop]);  
                         if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {  
                                 image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 100, "DX50 BVOP->PVOP");  
                         }  
                         FrameCodeP(pEnc, &bs, &bits, 1, 0);  
                         bframes_count = 0;  
                         pFrame->intra = 0;  
   
                 } else {  
   
                         FrameCodeI(pEnc, &bs, &bits);  
                         bframes_count = 0;  
                         pFrame->intra = 1;  
   
                         pEnc->bframenum_dx50bvop = -1;  
                 }  
   
                 pEnc->flush_bframes = 1;  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && pEnc->bframenum_tail > 0) {  
                         BitstreamPadAlways(&bs);  
                         input_valid = 0;  
                         goto ipvop_loop;  
                 }  
   
                 /*  
                  * NB : sequences like "IIBB" decode fine with msfdam but,  
                  *      go screwy with divx 5.00  
                  */  
         } else if (mode == P_VOP || mode == S_VOP || pEnc->bframenum_tail >= pEnc->mbParam.max_bframes) {  
                 /*  
                  * This will be coded as a Predicted Frame  
                  */  
   
                 DPRINTF(DPRINTF_DEBUG,"*** PFRAME bf: head=%i tail=%i   queue: head=%i tail=%i size=%i",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size);  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {  
                         image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "PVOP");  
                 }  
   
                 FrameCodeP(pEnc, &bs, &bits, 1, 0);  
                 bframes_count = 0;  
                 pFrame->intra = 0;  
                 pEnc->flush_bframes = 1;  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_PACKED) && (pEnc->bframenum_tail > 0)) {  
                         BitstreamPadAlways(&bs);  
                         input_valid = 0;  
                         goto ipvop_loop;  
                 }  
   
         } else {        /* mode == B_VOP */  
                 /*  
                  * This will be coded as a Bidirectional Frame  
                  */  
   
                 if ((pEnc->mbParam.global & XVID_GLOBAL_DEBUG)) {  
                         image_printf(&pEnc->current->image, pEnc->mbParam.edged_width, pEnc->mbParam.height, 5, 200, "BVOP");  
                 }  
   
                 if (pFrame->bquant < 1) {  
                         pEnc->current->quant = ((((pEnc->reference->quant + pEnc->current->quant) *  
                                 pEnc->mbParam.bquant_ratio) / 2) + pEnc->mbParam.bquant_offset)/100;  
   
                 } else {  
                         pEnc->current->quant = pFrame->bquant;  
                 }  
   
                 if (pEnc->current->quant < 1)  
                         pEnc->current->quant = 1;  
                 else if (pEnc->current->quant > 31)  
             pEnc->current->quant = 31;  
   
                 DPRINTF(DPRINTF_DEBUG,"*** BFRAME (store) bf: head=%i tail=%i   queue: head=%i tail=%i size=%i  quant=%i\n",  
                                 pEnc->bframenum_head, pEnc->bframenum_tail,  
                                 pEnc->queue_head, pEnc->queue_tail, pEnc->queue_size,pEnc->current->quant);  
332    
333                  /* store frame into bframe buffer & swap ref back to current */          pParam->handle = NULL;
                 SWAP(FRAMEINFO *, pEnc->current, pEnc->bframes[pEnc->bframenum_tail]);  
                 SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);  
334    
335                  pEnc->bframenum_tail++;          return XVID_ERR_MEMORY;
336    }
337    
338  // bframe report by koepi  /*****************************************************************************
339                  pFrame->intra = 2;   * Encoder destruction
340                  pFrame->length = 0;   *
341     * This function destroy the entire encoder structure created by a previous
342     * successful encoder_create call.
343     *
344     * Returned values (for now only one returned value) :
345     *    - XVID_ERR_OK     - no errors
346     *
347     ****************************************************************************/
348    
349                  input_valid = 0;  int
350                  goto bvop_loop;  encoder_destroy(Encoder * pEnc)
351          }  {
352    
353          BitstreamPadAlways(&bs);          ENC_CHECK(pEnc);
         pFrame->length = BitstreamLength(&bs);  
354    
355          if (pResult) {          /* All images, reference, current etc ... */
356                  pResult->quant = pEnc->current->quant;          image_destroy(&pEnc->current->image, pEnc->mbParam.edged_width,
357                  pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);                                    pEnc->mbParam.edged_height);
358                  pResult->kblks = pEnc->current->sStat.kblks;          image_destroy(&pEnc->reference->image, pEnc->mbParam.edged_width,
359                  pResult->mblks = pEnc->current->sStat.mblks;                                    pEnc->mbParam.edged_height);
360                  pResult->ublks = pEnc->current->sStat.ublks;          image_destroy(&pEnc->vInterH, pEnc->mbParam.edged_width,
361                                      pEnc->mbParam.edged_height);
362                  if (pFrame->general & XVID_EXTRASTATS)          image_destroy(&pEnc->vInterV, pEnc->mbParam.edged_width,
363                  {       pResult->sse_y =                                    pEnc->mbParam.edged_height);
364                                  plane_sse( pEnc->sOriginal.y, pEnc->current->image.y,          image_destroy(&pEnc->vInterHV, pEnc->mbParam.edged_width,
365                                                     pEnc->mbParam.edged_width, pEnc->mbParam.width,                                    pEnc->mbParam.edged_height);
                                                    pEnc->mbParam.height);  
366    
367                          pResult->sse_u =  #ifdef _DEBUG_PSNR
368                                  plane_sse( pEnc->sOriginal.u, pEnc->current->image.u,          image_destroy(&pEnc->sOriginal, pEnc->mbParam.edged_width,
369                                                     pEnc->mbParam.edged_width/2, pEnc->mbParam.width/2,                                    pEnc->mbParam.edged_height);
370                                                     pEnc->mbParam.height/2);  #endif
   
                         pResult->sse_v =  
                                 plane_sse( pEnc->sOriginal.v, pEnc->current->image.v,  
                                                    pEnc->mbParam.edged_width/2, pEnc->mbParam.width/2,  
                                                    pEnc->mbParam.height/2);  
                 }  
         }  
371    
372          emms();          /* Encoder structure */
373            xvid_free(pEnc->current->mbs);
374            xvid_free(pEnc->current);
375    
376          if (pFrame->quant == 0) {          xvid_free(pEnc->reference->mbs);
377                  RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,          xvid_free(pEnc->reference);
                                                   pFrame->length, pFrame->intra);  
         }  
378    
379          stop_global_timer();          xvid_free(pEnc);
         write_timer();  
380    
         emms();  
381          return XVID_ERR_OK;          return XVID_ERR_OK;
382  }  }
383    
384    
385    void inc_frame_num(Encoder * pEnc)
386    {
387            pEnc->mbParam.m_ticks += pEnc->mbParam.fincr;
388            pEnc->mbParam.m_seconds = pEnc->mbParam.m_ticks / pEnc->mbParam.fbase;
389            pEnc->mbParam.m_ticks = pEnc->mbParam.m_ticks % pEnc->mbParam.fbase;
390    }
391    
392  /*****************************************************************************  /*****************************************************************************
393   * "original" IP frame encoder entry point   * "original" IP frame encoder entry point
# Line 1206  Line 408 
408          uint32_t bits;          uint32_t bits;
409          uint16_t write_vol_header = 0;          uint16_t write_vol_header = 0;
410    
411    #ifdef _DEBUG_PSNR
412          float psnr;          float psnr;
413          uint8_t temp[128];          uint8_t temp[128];
414    #endif
415    
416          start_global_timer();          start_global_timer();
417    
# Line 1216  Line 420 
420          ENC_CHECK(pFrame->bitstream);          ENC_CHECK(pFrame->bitstream);
421          ENC_CHECK(pFrame->image);          ENC_CHECK(pFrame->image);
422    
423          SWAP(FRAMEINFO *, pEnc->current, pEnc->reference);          SWAP(pEnc->current, pEnc->reference);
424    
425          pEnc->current->global_flags = pFrame->general;          pEnc->current->global_flags = pFrame->general;
426          pEnc->current->motion_flags = pFrame->motion;          pEnc->current->motion_flags = pFrame->motion;
427            pEnc->current->seconds = pEnc->mbParam.m_seconds;
428            pEnc->current->ticks = pEnc->mbParam.m_ticks;
429          pEnc->mbParam.hint = &pFrame->hint;          pEnc->mbParam.hint = &pFrame->hint;
430    
         inc_frame_num(pEnc);  
   
         /* disable alternate scan flag if interlacing is not enabled */  
         if ((pEnc->current->global_flags & XVID_ALTERNATESCAN) &&  
                 !(pEnc->current->global_flags & XVID_INTERLACING))  
         {  
                 pEnc->current->global_flags -= XVID_ALTERNATESCAN;  
         }  
   
431          start_timer();          start_timer();
432          if (image_input          if (image_input
433                  (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,                  (&pEnc->current->image, pEnc->mbParam.width, pEnc->mbParam.height,
434                   pEnc->mbParam.edged_width, pFrame->image, pFrame->stride, pFrame->colorspace, pFrame->general & XVID_INTERLACING) < 0)                   pEnc->mbParam.edged_width, pFrame->image, pFrame->colorspace) < 0)
435                  return XVID_ERR_FORMAT;                  return XVID_ERR_FORMAT;
436          stop_conv_timer();          stop_conv_timer();
437    
438          if (pFrame->general & XVID_EXTRASTATS)  #ifdef _DEBUG_PSNR
439          {       image_copy(&pEnc->sOriginal, &pEnc->current->image,          image_copy(&pEnc->sOriginal, &pEnc->current->image,
440                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);                                     pEnc->mbParam.edged_width, pEnc->mbParam.height);
441          }  #endif
442    
443          emms();          emms();
444    
# Line 1253  Line 450 
450                  pEnc->current->quant = pFrame->quant;                  pEnc->current->quant = pFrame->quant;
451          }          }
452    
         if ((pEnc->current->global_flags & XVID_QUARTERPEL))  
                 pEnc->mbParam.m_quarterpel = 1;  
         else  
                 pEnc->mbParam.m_quarterpel = 0;  
   
453          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
454                  int *temp_dquants =                  int *temp_dquants =
455                          (int *) xvid_malloc(pEnc->mbParam.mb_width *                          (int *) xvid_malloc(pEnc->mbParam.mb_width *
# Line 1319  Line 511 
511    
512          if (pFrame->intra < 0) {          if (pFrame->intra < 0) {
513                  if ((pEnc->iFrameNum == 0)                  if ((pEnc->iFrameNum == 0)
514                          || ((pEnc->mbParam.iMaxKeyInterval > 0)                          || ((pEnc->iMaxKeyInterval > 0)
515                                  && (pEnc->iFrameNum >= pEnc->mbParam.iMaxKeyInterval))) {                                  && (pEnc->iFrameNum >= pEnc->iMaxKeyInterval))) {
516                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);                          pFrame->intra = FrameCodeI(pEnc, &bs, &bits);
517                  } else {                  } else {
518                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);                          pFrame->intra = FrameCodeP(pEnc, &bs, &bits, 0, write_vol_header);
# Line 1334  Line 526 
526    
527          }          }
528    
529  //      BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
530  //      BitstreamPutBits(&bs, 0xFFFF, 16);          BitstreamPutBits(&bs, 0xFFFF, 16);
531          BitstreamPadAlways(&bs);          BitstreamPad(&bs);
532          pFrame->length = BitstreamLength(&bs);          pFrame->length = BitstreamLength(&bs);
533    
534          if (pResult) {          if (pResult) {
535                  pResult->quant = pEnc->current->quant;                  pResult->quant = pEnc->current->quant;
536                  pResult->hlength = pFrame->length - (pEnc->current->sStat.iTextBits / 8);                  pResult->hlength = pFrame->length - (pEnc->sStat.iTextBits / 8);
537                  pResult->kblks = pEnc->current->sStat.kblks;                  pResult->kblks = pEnc->sStat.kblks;
538                  pResult->mblks = pEnc->current->sStat.mblks;                  pResult->mblks = pEnc->sStat.mblks;
539                  pResult->ublks = pEnc->current->sStat.ublks;                  pResult->ublks = pEnc->sStat.ublks;
540          }          }
541    
542          emms();          emms();
543    
544          if (pFrame->quant == 0) {          if (pFrame->quant == 0) {
545                  RateControlUpdate(&pEnc->rate_control, pEnc->current->quant,                  RateControlUpdate(&pEnc->rate_control, (int16_t)pEnc->current->quant,
546                                                    pFrame->length, pFrame->intra);                                                    pFrame->length, pFrame->intra);
547          }          }
548          if (pFrame->general & XVID_EXTRASTATS)  #ifdef _DEBUG_PSNR
         {  
549                  psnr =                  psnr =
550                          image_psnr(&pEnc->sOriginal, &pEnc->current->image,                          image_psnr(&pEnc->sOriginal, &pEnc->current->image,
551                                             pEnc->mbParam.edged_width, pEnc->mbParam.width,                                             pEnc->mbParam.edged_width, pEnc->mbParam.width,
552                                             pEnc->mbParam.height);                                             pEnc->mbParam.height);
553    
554                  snprintf(temp, 127, "PSNR: %f\n", psnr);                  snprintf(temp, 127, "PSNR: %f\n", psnr);
555          }          DEBUG(temp);
556    #endif
557    
558            inc_frame_num(pEnc);
559          pEnc->iFrameNum++;          pEnc->iFrameNum++;
560    
561          stop_global_timer();          stop_global_timer();
# Line 1527  Line 720 
720    
721          if (intra) {          if (intra) {
722                  if (!hint->rawhints) {                  if (!hint->rawhints) {
723                          BitstreamPadAlways(&bs);                          BitstreamPad(&bs);
724                          hint->hintlength = BitstreamLength(&bs);                          hint->hintlength = BitstreamLength(&bs);
725                  }                  }
726                  return;                  return;
# Line 1602  Line 795 
795                     Bitstream * bs,                     Bitstream * bs,
796                     uint32_t * pBits)                     uint32_t * pBits)
797  {  {
         int mb_width = pEnc->mbParam.mb_width;  
         int mb_height = pEnc->mbParam.mb_height;  
798    
799          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
800          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
801    
802          uint16_t x, y;          uint16_t x, y;
803    
         if ((pEnc->current->global_flags & XVID_REDUCED))  
         {  
                 mb_width = (pEnc->mbParam.width + 31) / 32;  
                 mb_height = (pEnc->mbParam.height + 31) / 32;  
   
                 /* 16x16->8x8 downsample requires 1 additional edge pixel*/  
                 /* XXX: setedges is overkill */  
                 start_timer();  
                 image_setedges(&pEnc->current->image,  
                         pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,  
                         pEnc->mbParam.width, pEnc->mbParam.height);  
                 stop_edges_timer();  
         }  
   
804          pEnc->iFrameNum = 0;          pEnc->iFrameNum = 0;
805          pEnc->mbParam.m_rounding_type = 1;          pEnc->mbParam.m_rounding_type = 1;
806          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
         pEnc->current->quarterpel =  pEnc->mbParam.m_quarterpel;  
807          pEnc->current->coding_type = I_VOP;          pEnc->current->coding_type = I_VOP;
808    
809          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);          BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
810    
         set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);  
   
         BitstreamPadAlways(bs);  
811          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
812    
813          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
814    
815          pEnc->current->sStat.iTextBits = 0;          pEnc->sStat.iTextBits = 0;
816          pEnc->current->sStat.kblks = mb_width * mb_height;          pEnc->sStat.kblks = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height;
817          pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;          pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
818    
819          for (y = 0; y < mb_height; y++)          for (y = 0; y < pEnc->mbParam.mb_height; y++)
820                  for (x = 0; x < mb_width; x++) {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
821                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
822                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
823    
# Line 1663  Line 836 
836                                  qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because for INTRA MBs DC value is saved */
837                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
838                          }                          }
839                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);                          MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
840                          stop_coding_timer();                          stop_coding_timer();
841                  }                  }
842    
         if ((pEnc->current->global_flags & XVID_REDUCED))  
         {  
                 image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,  
                         pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,  
                         16, XVID_DEC_DEBLOCKY|XVID_DEC_DEBLOCKUV);  
         }  
843          emms();          emms();
844    
845          *pBits = BitstreamPos(bs) - *pBits;          *pBits = BitstreamPos(bs) - *pBits;
846          pEnc->fMvPrevSigma = -1;          pEnc->sStat.fMvPrevSigma = -1;
847            pEnc->sStat.iMvSum = 0;
848            pEnc->sStat.iMvCount = 0;
849          pEnc->mbParam.m_fcode = 2;          pEnc->mbParam.m_fcode = 2;
850    
851          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {          if (pEnc->current->global_flags & XVID_HINTEDME_GET) {
# Line 1688  Line 857 
857    
858    
859  #define INTRA_THRESHOLD 0.5  #define INTRA_THRESHOLD 0.5
 #define BFRAME_SKIP_THRESHHOLD 30  
   
860    
 /* FrameCodeP also handles S(GMC)-VOPs */  
861  static int  static int
862  FrameCodeP(Encoder * pEnc,  FrameCodeP(Encoder * pEnc,
863                     Bitstream * bs,                     Bitstream * bs,
# Line 1704  Line 870 
870          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);
871          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);          DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);
872    
         int mb_width = pEnc->mbParam.mb_width;  
         int mb_height = pEnc->mbParam.mb_height;  
   
873          int iLimit;          int iLimit;
874          int x, y, k;          unsigned int x, y;
875          int iSearchRange;          int iSearchRange;
876          int bIntra, skip_possible;          int bIntra;
877    
878          /* IMAGE *pCurrent = &pEnc->current->image; */          /* IMAGE *pCurrent = &pEnc->current->image; */
879          IMAGE *pRef = &pEnc->reference->image;          IMAGE *pRef = &pEnc->reference->image;
880    
         if ((pEnc->current->global_flags & XVID_REDUCED))  
         {  
                 mb_width = (pEnc->mbParam.width + 31) / 32;  
                 mb_height = (pEnc->mbParam.height + 31) / 32;  
         }  
   
   
881          start_timer();          start_timer();
882          image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,          image_setedges(pRef, pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,
883                                     pEnc->mbParam.width, pEnc->mbParam.height);                                     pEnc->mbParam.width, pEnc->mbParam.height);
# Line 1729  Line 885 
885    
886          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;          pEnc->mbParam.m_rounding_type = 1 - pEnc->mbParam.m_rounding_type;
887          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;          pEnc->current->rounding_type = pEnc->mbParam.m_rounding_type;
         pEnc->current->quarterpel =  pEnc->mbParam.m_quarterpel;  
888          pEnc->current->fcode = pEnc->mbParam.m_fcode;          pEnc->current->fcode = pEnc->mbParam.m_fcode;
889    
890          if (!force_inter)          if (!force_inter)
891                  iLimit = (int)(mb_width * mb_height *  INTRA_THRESHOLD);                  iLimit =
892                            (int) (pEnc->mbParam.mb_width * pEnc->mbParam.mb_height *
893                                       INTRA_THRESHOLD);
894          else          else
895                  iLimit = mb_width * mb_height + 1;                  iLimit = pEnc->mbParam.mb_width * pEnc->mbParam.mb_height + 1;
896    
897          if ((pEnc->current->global_flags & XVID_HALFPEL)) {          if ((pEnc->current->global_flags & XVID_HALFPEL)) {
898                  start_timer();                  start_timer();
899                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,                  image_interpolate(pRef, &pEnc->vInterH, &pEnc->vInterV,
900                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,                                                    &pEnc->vInterHV, pEnc->mbParam.edged_width,
901                                                    pEnc->mbParam.edged_height,                                                    pEnc->mbParam.edged_height,
                                                   pEnc->mbParam.m_quarterpel,  
902                                                    pEnc->current->rounding_type);                                                    pEnc->current->rounding_type);
903                  stop_inter_timer();                  stop_inter_timer();
904          }          }
905    
         pEnc->current->coding_type = P_VOP;  
   
906          start_timer();          start_timer();
907          if (pEnc->current->global_flags & XVID_HINTEDME_SET)          if (pEnc->current->global_flags & XVID_HINTEDME_SET) {
908                  HintedMESet(pEnc, &bIntra);                  HintedMESet(pEnc, &bIntra);
909            } else {
910    
911    #ifdef _SMP
912            if (pEnc->mbParam.num_threads > 1)
913                    bIntra =
914                            SMP_MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
915                                                     &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
916                                                     iLimit);
917          else          else
918    #endif
919                  bIntra =                  bIntra =
920                          MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,                          MotionEstimation(&pEnc->mbParam, pEnc->current, pEnc->reference,
921                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,                           &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,
922                           iLimit);                           iLimit);
923    
924            }
925          stop_motion_timer();          stop_motion_timer();
926    
927          if (bIntra == 1) return FrameCodeI(pEnc, bs, pBits);          if (bIntra == 1) {
928                    return FrameCodeI(pEnc, bs, pBits);
         if ( ( pEnc->current->global_flags & XVID_GMC )  
                 && ( (pEnc->current->warp.duv[1].x != 0) || (pEnc->current->warp.duv[1].y != 0) ) )  
         {  
                 pEnc->current->coding_type = S_VOP;  
   
                 generate_GMCparameters( 2, 16, &pEnc->current->warp,  
                                         pEnc->mbParam.width, pEnc->mbParam.height,  
                                         &pEnc->current->gmc_data);  
   
                 generate_GMCimage(&pEnc->current->gmc_data, &pEnc->reference->image,  
                                 pEnc->mbParam.mb_width, pEnc->mbParam.mb_height,  
                                 pEnc->mbParam.edged_width, pEnc->mbParam.edged_width/2,  
                                 pEnc->mbParam.m_fcode, pEnc->mbParam.m_quarterpel, 0,  
                                 pEnc->current->rounding_type, pEnc->current->mbs, &pEnc->vGMC);  
   
929          }          }
930    
931          set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);          pEnc->current->coding_type = P_VOP;
932    
933          if (vol_header)          if (vol_header)
934          {       BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);                  BitstreamWriteVolHeader(bs, &pEnc->mbParam, pEnc->current);
                 BitstreamPadAlways(bs);  
         }  
935    
936          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);          BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 1);
937    
938          *pBits = BitstreamPos(bs);          *pBits = BitstreamPos(bs);
939    
940          pEnc->current->sStat.iTextBits = pEnc->current->sStat.iMvSum = pEnc->current->sStat.iMvCount =          pEnc->sStat.iTextBits = 0;
941                  pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = pEnc->current->sStat.ublks = 0;          pEnc->sStat.iMvSum = 0;
942            pEnc->sStat.iMvCount = 0;
943            pEnc->sStat.kblks = pEnc->sStat.mblks = pEnc->sStat.ublks = 0;
944    
945          for (y = 0; y < mb_height; y++) {          for (y = 0; y < pEnc->mbParam.mb_height; y++) {
946                  for (x = 0; x < mb_width; x++) {                  for (x = 0; x < pEnc->mbParam.mb_width; x++) {
947                          MACROBLOCK *pMB =                          MACROBLOCK *pMB =
948                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];                                  &pEnc->current->mbs[x + y * pEnc->mbParam.mb_width];
949    
 /* Mode decision: Check, if the block should be INTRA / INTER or GMC-coded */  
 /* For a start, leave INTRA decision as is, only choose only between INTER/GMC  - gruel, 9.1.2002 */  
   
950                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);                          bIntra = (pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q);
951    
952                          if (bIntra) {                          if (!bIntra) {
                                 CodeIntraMB(pEnc, pMB);  
                                 MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,  
                                                                   dct_codes, qcoeff);  
   
                                 start_timer();  
                                 MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);  
                                 stop_prediction_timer();  
   
                                 pEnc->current->sStat.kblks++;  
   
                                 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);  
                                 stop_coding_timer();  
                                 continue;  
                         }  
   
                         if (pEnc->current->coding_type == S_VOP) {  
   
                                 int32_t iSAD = sad16(pEnc->current->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                         pEnc->vGMC.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                         pEnc->mbParam.edged_width, 65536);  
   
                                 if (pEnc->current->motion_flags & PMV_CHROMA16) {  
                                         iSAD += sad8(pEnc->current->image.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,  
                                         pEnc->vGMC.u + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);  
   
                                         iSAD += sad8(pEnc->current->image.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x,  
                                         pEnc->vGMC.v + 8*y*(pEnc->mbParam.edged_width/2) + 8*x, pEnc->mbParam.edged_width/2);  
                                 }  
   
                                 if (iSAD <= pMB->sad16) {               /* mode decision GMC */  
   
                                         if (pEnc->mbParam.m_quarterpel)  
                                                 pMB->qmvs[0] = pMB->qmvs[1] = pMB->qmvs[2] = pMB->qmvs[3] = pMB->amv;  
                                         else  
                                                 pMB->mvs[0] = pMB->mvs[1] = pMB->mvs[2] = pMB->mvs[3] = pMB->amv;  
   
                                         pMB->mode = MODE_INTER;  
                                         pMB->mcsel = 1;  
                                         pMB->sad16 = iSAD;  
                                 } else {  
                                         pMB->mcsel = 0;  
                                 }  
                         } else {  
                                 pMB->mcsel = 0; /* just a precaution */  
                         }  
   
953                          start_timer();                          start_timer();
954                          MBMotionCompensation(pMB, x, y, &pEnc->reference->image,                          MBMotionCompensation(pMB, x, y, &pEnc->reference->image,
955                                                                   &pEnc->vInterH, &pEnc->vInterV,                                                                   &pEnc->vInterH, &pEnc->vInterV,
956                                                                   &pEnc->vInterHV, &pEnc->vGMC,                                                                           &pEnc->vInterHV, &pEnc->current->image,
                                                                  &pEnc->current->image,  
957                                                                   dct_codes, pEnc->mbParam.width,                                                                   dct_codes, pEnc->mbParam.width,
958                                                                   pEnc->mbParam.height,                                                                   pEnc->mbParam.height,
959                                                                   pEnc->mbParam.edged_width,                                                                   pEnc->mbParam.edged_width,
                                                                  pEnc->mbParam.m_quarterpel,  
                                                                  (pEnc->current->global_flags & XVID_REDUCED),  
960                                                                   pEnc->current->rounding_type);                                                                   pEnc->current->rounding_type);
   
961                          stop_comp_timer();                          stop_comp_timer();
962    
963                          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {                          if ((pEnc->current->global_flags & XVID_LUMIMASKING)) {
# Line 1878  Line 974 
974    
975                          pMB->field_pred = 0;                          pMB->field_pred = 0;
976    
977                          if (pMB->mode != MODE_NOT_CODED)                                  pMB->cbp =
                         {       pMB->cbp =  
978                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,                                          MBTransQuantInter(&pEnc->mbParam, pEnc->current, pMB, x, y,
979                                                                            dct_codes, qcoeff);                                                                            dct_codes, qcoeff);
980                            } else {
981                                    CodeIntraMB(pEnc, pMB);
982                                    MBTransQuantIntra(&pEnc->mbParam, pEnc->current, pMB, x, y,
983                                                                      dct_codes, qcoeff);
984    
985                                    start_timer();
986                                    MBPrediction(pEnc->current, x, y, pEnc->mbParam.mb_width, qcoeff);
987                                    stop_prediction_timer();
988                          }                          }
989    
990                          if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||                          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q) {
991                                    pEnc->sStat.kblks++;
992                            } else if (pMB->cbp || pMB->mvs[0].x || pMB->mvs[0].y ||
993                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||                                     pMB->mvs[1].x || pMB->mvs[1].y || pMB->mvs[2].x ||
994                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {                                     pMB->mvs[2].y || pMB->mvs[3].x || pMB->mvs[3].y) {
995                                  pEnc->current->sStat.mblks++;                                  pEnc->sStat.mblks++;
996                          }  else {                          }  else {
997                                  pEnc->current->sStat.ublks++;                                  pEnc->sStat.ublks++;
998                          }                          }
999    
1000                          start_timer();                          start_timer();
1001    
1002                          /* Finished processing the MB, now check if to CODE or SKIP */                          /* Finished processing the MB, now check if to CODE or SKIP */
1003    
1004                          skip_possible = (pMB->cbp == 0) && (pMB->mode == MODE_INTER) &&                          if (pMB->cbp == 0 && pMB->mode == MODE_INTER && pMB->mvs[0].x == 0 &&
1005                                                          (pMB->dquant == NO_CHANGE);                                  pMB->mvs[0].y == 0) {
1006    
1007                          if (pEnc->current->coding_type == S_VOP)                                          MBSkip(bs);     /* without B-frames, no precautions are needed */
                                 skip_possible &= (pMB->mcsel == 1);  
                         else if (pEnc->current->coding_type == P_VOP) {  
                                 if (pEnc->mbParam.m_quarterpel)  
                                         skip_possible &= ( (pMB->qmvs[0].x == 0) && (pMB->qmvs[0].y == 0) );  
                                 else  
                                         skip_possible &= ( (pMB->mvs[0].x == 0) && (pMB->mvs[0].y == 0) );  
                         }  
   
                         if ( (pMB->mode == MODE_NOT_CODED) || (skip_possible)) {  
   
 /* This is a candidate for SKIPping, but for P-VOPs check intermediate B-frames first */  
   
                                 if (pEnc->current->coding_type == P_VOP)        /* special rule for P-VOP's SKIP */  
                                 {  
                                         int bSkip = 1;  
   
                                         for (k=pEnc->bframenum_head; k< pEnc->bframenum_tail; k++)  
                                         {  
                                                 int iSAD;  
                                                 iSAD = sad16(pEnc->reference->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                                                         pEnc->bframes[k]->image.y + 16*y*pEnc->mbParam.edged_width + 16*x,  
                                                                 pEnc->mbParam.edged_width,BFRAME_SKIP_THRESHHOLD);  
                                                 if (iSAD >= BFRAME_SKIP_THRESHHOLD * pMB->quant)  
                                                 {       bSkip = 0;  
                                                         break;  
                                                 }  
                                         }  
1008    
                                         if (!bSkip) {   /* no SKIP, but trivial block */  
                                                 if(pEnc->mbParam.m_quarterpel) {  
                                                         VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);  
                                                         pMB->pmvs[0].x = - predMV.x;  
                                                         pMB->pmvs[0].y = - predMV.y;  
1009                                                  }                                                  }
1010                                                  else {                                                  else {
1011                                                          VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);                                  if (pEnc->current->global_flags & XVID_GREYSCALE) {
1012                                                          pMB->pmvs[0].x = - predMV.x;                                          pMB->cbp &= 0x3C;               /* keep only bits 5-2 */
                                                         pMB->pmvs[0].y = - predMV.y;  
                                                 }  
                                                 pMB->mode = MODE_INTER;  
                                                 pMB->cbp = 0;  
                                                 MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);  
                                                 stop_coding_timer();  
   
                                                 continue;       /* next MB */  
                                         }  
                                 }  
                                 /* do SKIP */  
   
                                 pMB->mode = MODE_NOT_CODED;  
                                 MBSkip(bs);  
                                 stop_coding_timer();  
                                 continue;       /* next MB */  
                         }  
                         /* ordinary case: normal coded INTER/INTER4V block */  
   
                         if (pEnc->current->global_flags & XVID_GREYSCALE)  
                         {       pMB->cbp &= 0x3C;               /* keep only bits 5-2 */  
1013                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */                                  qcoeff[4*64+0]=0;               /* zero, because DC for INTRA MBs DC value is saved */
1014                                  qcoeff[5*64+0]=0;                                  qcoeff[5*64+0]=0;
1015                          }                          }
1016                                    MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->sStat);
                         if(pEnc->mbParam.m_quarterpel) {  
                                 VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);  
                                 pMB->pmvs[0].x = pMB->qmvs[0].x - predMV.x;  
                                 pMB->pmvs[0].y = pMB->qmvs[0].y - predMV.y;  
                                 DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);  
                         } else {  
                                 VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, 0);  
                                 pMB->pmvs[0].x = pMB->mvs[0].x - predMV.x;  
                                 pMB->pmvs[0].y = pMB->mvs[0].y - predMV.y;  
                                 DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[0].x, pMB->pmvs[0].y, predMV.x, predMV.y, pMB->mvs[0].x, pMB->mvs[0].y);  
                         }  
   
   
                         if (pMB->mode == MODE_INTER4V)  
                         {       int k;  
                                 for (k=1;k<4;k++)  
                                 {  
                                         if(pEnc->mbParam.m_quarterpel) {  
                                                 VECTOR predMV = get_qpmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);  
                                                 pMB->pmvs[k].x = pMB->qmvs[k].x - predMV.x;  
                                                 pMB->pmvs[k].y = pMB->qmvs[k].y - predMV.y;  
                                 DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);  
                                         } else {  
                                                 VECTOR predMV = get_pmv2(pEnc->current->mbs, pEnc->mbParam.mb_width, 0, x, y, k);  
                                                 pMB->pmvs[k].x = pMB->mvs[k].x - predMV.x;  
                                                 pMB->pmvs[k].y = pMB->mvs[k].y - predMV.y;  
                                 DPRINTF(DPRINTF_MV,"mv_diff (%i,%i) pred (%i,%i) result (%i,%i)", pMB->pmvs[k].x, pMB->pmvs[k].y, predMV.x, predMV.y, pMB->mvs[k].x, pMB->mvs[k].y);  
                                         }  
   
                                 }  
1017                          }                          }
1018    
                         MBCoding(pEnc->current, pMB, qcoeff, bs, &pEnc->current->sStat);  
1019                          stop_coding_timer();                          stop_coding_timer();
   
                 }  
1020          }          }
   
         if ((pEnc->current->global_flags & XVID_REDUCED))  
         {  
                 image_deblock_rrv(&pEnc->current->image, pEnc->mbParam.edged_width,  
                         pEnc->current->mbs, mb_width, mb_height, pEnc->mbParam.mb_width,  
                         16, XVID_DEC_DEBLOCKY|XVID_DEC_DEBLOCKUV);  
1021          }          }
1022    
1023          emms();          emms();
# Line 2013  Line 1026 
1026                  HintedMEGet(pEnc, 0);                  HintedMEGet(pEnc, 0);
1027          }          }
1028    
1029          if (pEnc->current->sStat.iMvCount == 0)          if (pEnc->sStat.iMvCount == 0)
1030                  pEnc->current->sStat.iMvCount = 1;                  pEnc->sStat.iMvCount = 1;
1031    
1032          fSigma = (float) sqrt((float) pEnc->current->sStat.iMvSum / pEnc->current->sStat.iMvCount);          fSigma = (float) sqrt((float) pEnc->sStat.iMvSum / pEnc->sStat.iMvCount);
1033    
1034          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);          iSearchRange = 1 << (3 + pEnc->mbParam.m_fcode);
1035    
1036          if ((fSigma > iSearchRange / 3)          if ((fSigma > iSearchRange / 3)
1037                  && (pEnc->mbParam.m_fcode <= (3 + pEnc->mbParam.m_quarterpel))) // maximum search range 128                  && (pEnc->mbParam.m_fcode <= 3))        // maximum search range 128
1038          {          {
1039                  pEnc->mbParam.m_fcode++;                  pEnc->mbParam.m_fcode++;
1040                  iSearchRange *= 2;                  iSearchRange *= 2;
1041          } else if ((fSigma < iSearchRange / 6)          } else if ((fSigma < iSearchRange / 6)
1042                             && (pEnc->fMvPrevSigma >= 0)                             && (pEnc->sStat.fMvPrevSigma >= 0)
1043                             && (pEnc->fMvPrevSigma < iSearchRange / 6)                             && (pEnc->sStat.fMvPrevSigma < iSearchRange / 6)
1044                          && (pEnc->mbParam.m_fcode >= (2 + pEnc->mbParam.m_quarterpel))) // minimum search range 16                             && (pEnc->mbParam.m_fcode >= 2))     // minimum search range 16
1045          {          {
1046                  pEnc->mbParam.m_fcode--;                  pEnc->mbParam.m_fcode--;
1047                  iSearchRange /= 2;                  iSearchRange /= 2;
1048          }          }
1049    
1050          pEnc->fMvPrevSigma = fSigma;          pEnc->sStat.fMvPrevSigma = fSigma;
   
         /* frame drop code */  
         DPRINTF(DPRINTF_DEBUG, "kmu %i %i %i", pEnc->current->sStat.kblks, pEnc->current->sStat.mblks, pEnc->current->sStat.ublks);  
         if (pEnc->current->sStat.kblks + pEnc->current->sStat.mblks <  
                 (pEnc->mbParam.frame_drop_ratio * mb_width * mb_height) / 100)  
         {  
                 pEnc->current->sStat.kblks = pEnc->current->sStat.mblks = 0;  
                 pEnc->current->sStat.ublks = mb_width * mb_height;  
   
                 BitstreamReset(bs);  
   
                 set_timecodes(pEnc->current,pEnc->reference,pEnc->mbParam.fbase);  
                 BitstreamWriteVopHeader(bs, &pEnc->mbParam, pEnc->current, 0);  
   
                 // copy reference frame details into the current frame  
                 pEnc->current->quant = pEnc->reference->quant;  
                 pEnc->current->motion_flags = pEnc->reference->motion_flags;  
                 pEnc->current->rounding_type = pEnc->reference->rounding_type;  
                 pEnc->current->quarterpel =  pEnc->reference->quarterpel;  
                 pEnc->current->fcode = pEnc->reference->fcode;  
                 pEnc->current->bcode = pEnc->reference->bcode;  
                 image_copy(&pEnc->current->image, &pEnc->reference->image, pEnc->mbParam.edged_width, pEnc->mbParam.height);  
                 memcpy(pEnc->current->mbs, pEnc->reference->mbs, sizeof(MACROBLOCK) * mb_width * mb_height);  
         }  
   
         /* XXX: debug  
         {  
                 char s[100];  
                 sprintf(s, "\\%05i_cur.pgm", pEnc->m_framenum);  
                 image_dump_yuvpgm(&pEnc->current->image,  
                         pEnc->mbParam.edged_width,  
                         pEnc->mbParam.width, pEnc->mbParam.height, s);  
   
                 sprintf(s, "\\%05i_ref.pgm", pEnc->m_framenum);  
                 image_dump_yuvpgm(&pEnc->reference->image,  
                         pEnc->mbParam.edged_width,  
                         pEnc->mbParam.width, pEnc->mbParam.height, s);  
         }  
         */  
   
1051    
1052          *pBits = BitstreamPos(bs) - *pBits;          *pBits = BitstreamPos(bs) - *pBits;
1053    
1054          return 0;                                       // inter          return 0;                                       // inter
 }  
   
   
 static void  
 FrameCodeB(Encoder * pEnc,  
                    FRAMEINFO * frame,  
                    Bitstream * bs,  
                    uint32_t * pBits)  
 {  
         DECLARE_ALIGNED_MATRIX(dct_codes, 6, 64, int16_t, CACHE_LINE);  
         DECLARE_ALIGNED_MATRIX(qcoeff, 6, 64, int16_t, CACHE_LINE);  
         uint32_t x, y;  
   
         IMAGE *f_ref = &pEnc->reference->image;  
         IMAGE *b_ref = &pEnc->current->image;  
   
 #ifdef BFRAMES_DEC_DEBUG  
         FILE *fp;  
         static char first=0;  
 #define BFRAME_DEBUG    if (!first && fp){ \  
                 fprintf(fp,"Y=%3d   X=%3d   MB=%2d   CBP=%02X\n",y,x,mb->mode,mb->cbp); \  
         }  
   
         pEnc->current->global_flags &= ~XVID_REDUCED;   /* reduced resoltion not yet supported */  
   
         if (!first){  
                 fp=fopen("C:\\XVIDDBGE.TXT","w");  
         }  
 #endif  
   
         frame->quarterpel =  pEnc->mbParam.m_quarterpel;  
   
         // forward  
         image_setedges(f_ref, pEnc->mbParam.edged_width,  
                                    pEnc->mbParam.edged_height, pEnc->mbParam.width,  
                                    pEnc->mbParam.height);  
         start_timer();  
         image_interpolate(f_ref, &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,  
                                           pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,  
                                           pEnc->mbParam.m_quarterpel, 0);  
         stop_inter_timer();  
   
         // backward  
         image_setedges(b_ref, pEnc->mbParam.edged_width,  
                                    pEnc->mbParam.edged_height, pEnc->mbParam.width,  
                                    pEnc->mbParam.height);  
         start_timer();  
         image_interpolate(b_ref, &pEnc->vInterH, &pEnc->vInterV, &pEnc->vInterHV,  
                                           pEnc->mbParam.edged_width, pEnc->mbParam.edged_height,  
                                           pEnc->mbParam.m_quarterpel, 0);  
         stop_inter_timer();  
   
         start_timer();  
   
         MotionEstimationBVOP(&pEnc->mbParam, frame,  
                 ((int32_t)(pEnc->current->stamp - frame->stamp)),                               // time_bp  
                 ((int32_t)(pEnc->current->stamp - pEnc->reference->stamp)),     // time_pp  
                         pEnc->reference->mbs, f_ref,  
                                                  &pEnc->f_refh, &pEnc->f_refv, &pEnc->f_refhv,  
                                                  pEnc->current, b_ref, &pEnc->vInterH,  
                                                  &pEnc->vInterV, &pEnc->vInterHV);  
   
   
         stop_motion_timer();  
   
         /*if (test_quant_type(&pEnc->mbParam, pEnc->current))  
            {  
            BitstreamWriteVolHeader(bs, pEnc->mbParam.width, pEnc->mbParam.height, pEnc->mbParam.quant_type);  
            } */  
   
         frame->coding_type = B_VOP;  
   
         set_timecodes(frame, pEnc->reference,pEnc->mbParam.fbase);  
         BitstreamWriteVopHeader(bs, &pEnc->mbParam, frame, 1);  
   
         *pBits = BitstreamPos(bs);  
   
         frame->sStat.iTextBits = 0;  
         frame->sStat.iMvSum = 0;  
         frame->sStat.iMvCount = 0;  
         frame->sStat.kblks = frame->sStat.mblks = frame->sStat.ublks = 0;  
   
   
         for (y = 0; y < pEnc->mbParam.mb_height; y++) {  
                 for (x = 0; x < pEnc->mbParam.mb_width; x++) {  
                         MACROBLOCK * const mb = &frame->mbs[x + y * pEnc->mbParam.mb_width];  
                         int direction = pEnc->mbParam.global & XVID_ALTERNATESCAN ? 2 : 0;  
   
                         // decoder ignores mb when refence block is INTER(0,0), CBP=0  
                         if (mb->mode == MODE_NOT_CODED) {  
                                 //mb->mvs[0].x = mb->mvs[0].y = mb->cbp = 0;  
                                 continue;  
                         }  
   
                         if (mb->mode != MODE_DIRECT_NONE_MV) {  
                                 MBMotionCompensationBVOP(&pEnc->mbParam, mb, x, y, &frame->image,  
                                                                          f_ref, &pEnc->f_refh, &pEnc->f_refv,  
                                                                          &pEnc->f_refhv, b_ref, &pEnc->vInterH,  
                                                                          &pEnc->vInterV, &pEnc->vInterHV,  
                                                                          dct_codes);  
   
                                 if (mb->mode == MODE_DIRECT_NO4V) mb->mode = MODE_DIRECT;  
                                 mb->quant = frame->quant;  
   
                                 mb->cbp =  
                                         MBTransQuantInterBVOP(&pEnc->mbParam, frame, mb, dct_codes, qcoeff);  
1055    
                                 if ( (mb->mode == MODE_DIRECT) && (mb->cbp == 0)  
                                         && (mb->pmvs[3].x == 0) && (mb->pmvs[3].y == 0) ) {  
                                         mb->mode = MODE_DIRECT_NONE_MV; // skipped  
                                 }  
                         }  
   
 #ifdef BFRAMES_DEC_DEBUG  
         BFRAME_DEBUG  
 #endif  
                         start_timer();  
                         MBCodingBVOP(mb, qcoeff, frame->fcode, frame->bcode, bs,  
                                                  &frame->sStat, direction);  
                         stop_coding_timer();  
                 }  
         }  
   
         emms();  
   
         // TODO: dynamic fcode/bcode ???  
   
         *pBits = BitstreamPos(bs) - *pBits;  
   
 #ifdef BFRAMES_DEC_DEBUG  
         if (!first){  
                 first=1;  
                 if (fp)  
                         fclose(fp);  
         }  
 #endif  
1056  }  }

Legend:
Removed from v.1.76.2.42  
changed lines
  Added in v.1.84

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4