[cvs] / xvidcore / src / motion / motion_est.h Repository:
ViewVC logotype

Diff of /xvidcore/src/motion/motion_est.h

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.1.2.10, Wed Dec 11 10:32:29 2002 UTC revision 1.3.2.13, Sun Jul 13 09:57:28 2003 UTC
# Line 1  Line 1 
1  /**************************************************************************  /*****************************************************************************
2   *   *
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  -  Motion estimation header  -   *  - Motion Estimation related header -
5   *   *
6   *  This program is an implementation of a part of one or more MPEG-4   *  Copyright(C) 2002 Christoph Lampert <gruel@web.de>
7   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending   *               2002 Michael Militzer <michael@xvid.org>
8   *  to use this software module in hardware or software products are   *               2002-2003 Radoslaw Czyz <xvid@syskin.cjb.net>
  *  advised that its use may infringe existing patents or copyrights, and  
  *  any such use would be at such party's own risk.  The original  
  *  developer of this software module and his/her company, and subsequent  
  *  editors and their companies, will have no liability for use of this  
  *  software or modifications or derivatives thereof.  
9   *   *
10   *  This program is free software; you can redistribute it and/or modify   *  This program is free software; you can redistribute it and/or modify
11   *  it under the terms of the GNU General Public License as published by   *  it under the terms of the GNU General Public License as published by
# Line 28  Line 23 
23   *   *
24   *  $Id$   *  $Id$
25   *   *
26   ***************************************************************************/   ****************************************************************************/
27    
28  #ifndef _MOTION_EST_H_  #ifndef _MOTION_EST_H_
29  #define _MOTION_EST_H_  #define _MOTION_EST_H_
30    
31  #include "../portab.h"  #include "../portab.h"
32  #include "../global.h"  #include "../global.h"
33    #include "../image/reduced.h"
34    
35  /* hard coded motion search parameters for motion_est and smp_motion_est */  /* hard coded motion search parameters for motion_est and smp_motion_est */
36    
37  // very large value  /* very large value */
38  #define MV_MAX_ERROR    (4096 * 256)  #define MV_MAX_ERROR    (4096 * 256)
39    
40  /* INTER bias for INTER/INTRA decision; mpeg4 spec suggests 2*nb */  /* INTER bias for INTER/INTRA decision; mpeg4 spec suggests 2*nb */
# Line 46  Line 42 
42    
43  /* vector map (vlc delta size) smoother parameters ! float !*/  /* vector map (vlc delta size) smoother parameters ! float !*/
44  #define NEIGH_TEND_16X16        10.5  #define NEIGH_TEND_16X16        10.5
45  #define NEIGH_TEND_8X8          4.0  #define NEIGH_TEND_8X8          40.0
46  #define NEIGH_8X8_BIAS          30  #define NEIGH_8X8_BIAS          30
47    
48    #define BITS_MULT                       16
49    
50  /* Parameters which control inter/inter4v decision */  /* Parameters which control inter/inter4v decision */
51  #define IMV16X16                        2  #define IMV16X16                        2
52    
# Line 88  Line 86 
86          (int)(21.2656*NEIGH_TEND_8X8 + 0.5), (int)(24.8580*NEIGH_TEND_8X8 + 0.5),          (int)(21.2656*NEIGH_TEND_8X8 + 0.5), (int)(24.8580*NEIGH_TEND_8X8 + 0.5),
87          (int)(29.6436*NEIGH_TEND_8X8 + 0.5), (int)(36.4949*NEIGH_TEND_8X8 + 0.5)        };          (int)(29.6436*NEIGH_TEND_8X8 + 0.5), (int)(36.4949*NEIGH_TEND_8X8 + 0.5)        };
88    
89  // mv.length table  /* mv.length table */
90  static const uint32_t mvtab[33] = {  static const int mvtab[64] = {
91          1, 2, 3, 4, 6, 7, 7, 7,          1, 2, 3, 4, 6, 7, 7, 7,
92          9, 9, 9, 10, 10, 10, 10, 10,          9, 9, 9, 10, 10, 10, 10, 10,
93          10, 10, 10, 10, 10, 10, 10, 10,          10, 10, 10, 10, 10, 10, 10, 10,
94          10, 11, 11, 11, 11, 11, 11, 12, 12                  10, 11, 11, 11, 11, 11, 11, 12,
95  };                  12, 12, 12, 12, 12, 12, 12, 12,
96                    12, 12, 12, 12, 12, 12, 12, 12,
97                    12, 12, 12, 12, 12, 12, 12, 12, 12 };
98    
99  static const int DQtab[4] = {  static const int DQtab[4] = {
100          -1, -2, 1, 2          -1, -2, 1, 2
101  };  };
102    
103  #define RRV_MV_SCALEDOWN(a)     ( (a)>=0 ? (a+1)/2 : (a-1)/2 )  #define RRV_MV_SCALEDOWN(a)     ( (a)>=0 ? (a+1)/2 : (a-1)/2 )
 #define RRV_MV_SCALEUP(a)       ( (a)>0 ? 2*(a)-1 : (a)<0 ? 2*(a)+1 : (a) )  
104    
105  typedef struct  typedef struct
106          {          {
107  // general fields          /* general fields */
108                  int max_dx, min_dx, max_dy, min_dy;                  int max_dx, min_dx, max_dy, min_dy;
109                  uint32_t rounding;                  uint32_t rounding;
110                  VECTOR predMV;                  VECTOR predMV;
111                  VECTOR *currentMV;                  VECTOR *currentMV;
112                  VECTOR *currentQMV;                  VECTOR *currentQMV;
113                  int32_t *iMinSAD;                  int32_t *iMinSAD;
114                  const uint8_t * Ref;          const uint8_t * RefP[6]; /* N, V, H, HV, cU, cV */
                 const uint8_t * RefH;  
                 const uint8_t * RefV;  
                 const uint8_t * RefHV;  
                 const uint8_t * RefCU;  
                 const uint8_t * RefCV;  
115                  const uint8_t * CurU;                  const uint8_t * CurU;
116                  const uint8_t * CurV;                  const uint8_t * CurV;
117                  uint8_t * RefQ;                  uint8_t * RefQ;
# Line 130  Line 124 
124                  int qpel, qpel_precision;                  int qpel, qpel_precision;
125                  int chroma;                  int chroma;
126                  int rrv;                  int rrv;
127  //fields for interpolate and direct mode  
128                  const uint8_t *bRef;          /* fields for interpolate and direct modes */
129                  const uint8_t *bRefH;          const uint8_t * b_RefP[6]; /* N, V, H, HV, cU, cV */
                 const uint8_t *bRefV;  
                 const uint8_t *bRefHV;  
130                  VECTOR bpredMV;                  VECTOR bpredMV;
131                  uint32_t bFcode;                  uint32_t bFcode;
132  // fields for direct mode  
133            /* fields for direct mode */
134                  VECTOR directmvF[4];                  VECTOR directmvF[4];
135                  VECTOR directmvB[4];                  VECTOR directmvB[4];
136                  const VECTOR * referencemv;                  const VECTOR * referencemv;
137          }  
138          SearchData;          /* BITS/R-D stuff */
139            int16_t * dctSpace;
140            uint32_t iQuant;
141            uint32_t quant_type;
142            int * cbp;
143    
144    } SearchData;
145    
146    
147  typedef void(CheckFunc)(const int x, const int y,  typedef void(CheckFunc)(const int x, const int y,
148                                                  const int Direction, int * const dir,                                                  const int Direction, int * const dir,
149                                                  const SearchData * const Data);                                                  const SearchData * const Data);
   
 static CheckFunc CheckCandidate16, CheckCandidate16no4v, CheckCandidateInt,  
                         CheckCandidateDirect, CheckCandidateDirectno4v,  
                         CheckCandidate8;  
150  CheckFunc *CheckCandidate;  CheckFunc *CheckCandidate;
151    
152  /*  /*
153   * Calculate the min/max range (in halfpixels)   * Calculate the min/max range
154   * relative to the _MACROBLOCK_ position   * relative to the _MACROBLOCK_ position
155   */   */
156  static void __inline  static void __inline
# Line 165  Line 160 
160                    int32_t * const max_dy,                    int32_t * const max_dy,
161                    const uint32_t x,                    const uint32_t x,
162                    const uint32_t y,                    const uint32_t y,
163                    const uint32_t block_sz,      /* block dimension, 8 or 16 */                    uint32_t block_sz, /* block dimension, 8 or 16 */
                   const uint32_t width,  
                   const uint32_t height,  
                   const uint32_t fcode)  
 {  
         int k;  
         const int search_range = 32 << (fcode - 1);  
         const int high = search_range - 1;  
         const int low = -search_range;  
   
         k = 2 * (int)(width - x*block_sz);  
         *max_dx = MIN(high, k);  
         k = 2 * (int)(height -  y*block_sz);  
         *max_dy = MIN(high, k);  
   
         k = -2 * (int)((x+1) * block_sz);  
         *min_dx = MAX(low, k);  
         k = -2 * (int)((y+1) * block_sz);  
         *min_dy = MAX(low, k);  
 }  
   
 static void __inline  
 get_range_rrv(int32_t * const min_dx,  
                   int32_t * const max_dx,  
                   int32_t * const min_dy,  
                   int32_t * const max_dy,  
                   const uint32_t x,  
                   const uint32_t y,  
                   const uint32_t block_sz,      /* block dimension, 8 or 16 */  
164                    const uint32_t width,                    const uint32_t width,
165                    const uint32_t height,                    const uint32_t height,
166                    const uint32_t fcode)                    const uint32_t fcode,
167                      const int qpel, /* 1 if the resulting range should be in qpel precision; otherwise 0 */
168                      const int rrv)
169  {  {
170          int k;          int k, m = qpel ? 4 : 2;
171          const int search_range = 32 << (fcode - 1);          const int search_range = 32 << (fcode - 1);
172          const int high = RRV_MV_SCALEUP(search_range - 1); //halfzero -> halfpel, because we do our search in halfpel          int high = search_range - 1;
173          const int low = RRV_MV_SCALEUP(-search_range);          int low = -search_range;
   
         k = 2 * (int)(width - x*block_sz);  
         *max_dx = MIN(high, k);  
         k = 2 * (int)(height -  y*block_sz);  
         *max_dy = MIN(high, k);  
174    
175          k = -2 * (int)((x+1) * block_sz);          if (rrv) {
176          *min_dx = MAX(low, k);                  high = RRV_MV_SCALEUP(high);
177          k = -2 * (int)((y+1) * block_sz);                  low = RRV_MV_SCALEUP(low);
178          *min_dy = MAX(low, k);                  block_sz *= 2;
179  }  }
180    
181  static void __inline          k = m * (int)(width - x * block_sz);
 get_range_qpel(int32_t * const min_dx,  
                   int32_t * const max_dx,  
                   int32_t * const min_dy,  
                   int32_t * const max_dy,  
                   const uint32_t x,  
                   const uint32_t y,  
                   const uint32_t block_sz,      /* block dimension, 8 or 16 */  
                   const uint32_t width,  
                   const uint32_t height,  
                   const uint32_t fcode)  
 {  
         int k;  
         const int search_range = 32 << (fcode - 1);  
         const int high = search_range - 1;  
         const int low = -search_range;  
   
         k = 4 * (int)(width - x*block_sz);  
182          *max_dx = MIN(high, k);          *max_dx = MIN(high, k);
183          k = 4 * (int)(height -  y*block_sz);          k = m * (int)(height -  y * block_sz);
184          *max_dy = MIN(high, k);          *max_dy = MIN(high, k);
185    
186          k = -4 * (int)((x+1) * block_sz);          k = -m * (int)((x+1) * block_sz);
187          *min_dx = MAX(low, k);          *min_dx = MAX(low, k);
188          k = -4 * (int)((y+1) * block_sz);          k = -m * (int)((y+1) * block_sz);
189          *min_dy = MAX(low, k);          *min_dy = MAX(low, k);
190  }  }
191    
   
192  typedef void MainSearchFunc(int x, int y, const SearchData * const Data, int bDirection);  typedef void MainSearchFunc(int x, int y, const SearchData * const Data, int bDirection);
193    
194  static MainSearchFunc DiamondSearch, AdvDiamondSearch, SquareSearch;  static MainSearchFunc DiamondSearch, AdvDiamondSearch, SquareSearch;
# Line 263  Line 209 
209                                   const IMAGE * const pRefH,                                   const IMAGE * const pRefH,
210                                   const IMAGE * const pRefV,                                   const IMAGE * const pRefV,
211                                   const IMAGE * const pRefHV,                                   const IMAGE * const pRefHV,
212                                    const IMAGE * const pGMC,
213                                   const uint32_t iLimit);                                   const uint32_t iLimit);
214    
215  static void  static void
# Line 274  Line 221 
221                  const int x,                  const int x,
222                  const int y,                  const int y,
223                  const uint32_t MotionFlags,                  const uint32_t MotionFlags,
224                  const uint32_t iQuant,                  const uint32_t VopFlags,
225                    const uint32_t VolFlags,
226                  SearchData * const Data,                  SearchData * const Data,
227                  const MBParam * const pParam,                  const MBParam * const pParam,
228                  const MACROBLOCK * const pMBs,                  const MACROBLOCK * const pMBs,
229                  const MACROBLOCK * const prevMBs,                  const MACROBLOCK * const prevMBs,
                 int inter4v,  
230                  MACROBLOCK * const pMB);                  MACROBLOCK * const pMB);
231    
232    static __inline void
233    GMEanalyzeMB (const uint8_t * const pCur,
234                  const uint8_t * const pRef,
235                  const uint8_t * const pRefH,
236                  const uint8_t * const pRefV,
237                  const uint8_t * const pRefHV,
238                  const int x,
239                  const int y,
240                  const MBParam * const pParam,
241                  MACROBLOCK * const pMBs,
242                  SearchData * const Data);
243    
244    void
245    GMEanalysis(const MBParam * const pParam,
246                const FRAMEINFO * const current,
247                const FRAMEINFO * const reference,
248                const IMAGE * const pRefH,
249                const IMAGE * const pRefV,
250                const IMAGE * const pRefHV);
251    
252    
253    
254    WARPPOINTS
255    GlobalMotionEst(MACROBLOCK * const pMBs,
256                                    const MBParam * const pParam,
257                                    const FRAMEINFO * const current,
258                                    const FRAMEINFO * const reference,
259                                    const IMAGE * const pRefH,
260                                    const IMAGE * const pRefV,
261                                    const IMAGE * const pRefHV      );
262    
263    
264    int
265    GlobalMotionEstRefine(WARPPOINTS *const startwp,
266                          MACROBLOCK * const pMBs,
267                          const MBParam * const pParam,
268                          const FRAMEINFO * const current,
269                          const FRAMEINFO * const reference,
270                          const IMAGE * const pCurr,
271                          const IMAGE * const pRef,
272                          const IMAGE * const pRefH,
273                          const IMAGE * const pRefV,
274                          const IMAGE * const pRefHV);
275    
276    
277    
278    
279    int
280    globalSAD(const WARPPOINTS *const wp,
281                    const MBParam * const pParam,
282                    const MACROBLOCK * const pMBs,
283                    const FRAMEINFO * const current,
284                    const IMAGE * const pRef,
285                    const IMAGE * const pCurr,
286                    uint8_t *const GMCblock);
287    
288    #define iDiamondSize 2
289    
290    static __inline uint32_t
291    MakeGoodMotionFlags(const uint32_t MotionFlags, const uint32_t VopFlags, const uint32_t VolFlags)
292    {
293            uint32_t Flags = MotionFlags;
294    
295            if (!(VopFlags & XVID_VOP_MODEDECISION_BITS))
296                    Flags &= ~(XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS+XVID_ME_EXTSEARCH_BITS);
297    
298            if (Flags & XVID_ME_EXTSEARCH_BITS)
299                    Flags |= XVID_ME_HALFPELREFINE16_BITS;
300    
301            if (Flags & XVID_ME_EXTSEARCH_BITS && MotionFlags & XVID_ME_EXTSEARCH8)
302                    Flags |= XVID_ME_HALFPELREFINE8_BITS;
303    
304            if (Flags & XVID_ME_HALFPELREFINE16_BITS)
305                    Flags |= XVID_ME_QUARTERPELREFINE16_BITS;
306    
307            if (Flags & XVID_ME_HALFPELREFINE8_BITS) {
308                    Flags |= XVID_ME_QUARTERPELREFINE8_BITS;
309                    Flags &= ~XVID_ME_HALFPELREFINE8;
310            }
311    
312            if (Flags & XVID_ME_QUARTERPELREFINE8_BITS)
313                    Flags &= ~XVID_ME_QUARTERPELREFINE8;
314    
315            if (!(VolFlags & XVID_VOL_QUARTERPEL))
316                    Flags &= ~(XVID_ME_QUARTERPELREFINE16+XVID_ME_QUARTERPELREFINE8+XVID_ME_QUARTERPELREFINE16_BITS+XVID_ME_QUARTERPELREFINE8_BITS);
317    
318            if (!(VopFlags & XVID_VOP_HALFPEL))
319                    Flags &= ~(XVID_ME_EXTSEARCH16+XVID_ME_HALFPELREFINE16+XVID_ME_HALFPELREFINE8+XVID_ME_HALFPELREFINE16_BITS+XVID_ME_HALFPELREFINE8_BITS);
320    
321            if ((VopFlags & XVID_VOP_GREYSCALE) || (VopFlags & XVID_VOP_REDUCED))
322                    Flags &= ~(XVID_ME_CHROMA16 + XVID_ME_CHROMA8);
323    
324            return Flags;
325    }
326    
327    /* BITS mode decision and search */
328    
329    #include "../bitstream/zigzag.h"
330    #include "../quant/quant_mpeg4.h"
331    #include "../quant/quant_h263.h"
332    #include "../bitstream/vlc_codes.h"
333    #include "../dct/fdct.h"
334    
335    static int
336    CountMBBitsInter(SearchData * const Data,
337                                    const MACROBLOCK * const pMBs, const int x, const int y,
338                                    const MBParam * const pParam,
339                                    const uint32_t MotionFlags);
340    
341    static int
342    CountMBBitsInter4v(const SearchData * const Data,
343                                            MACROBLOCK * const pMB, const MACROBLOCK * const pMBs,
344                                            const int x, const int y,
345                                            const MBParam * const pParam, const uint32_t MotionFlags,
346                                            const VECTOR * const backup);
347    
348    static int
349    CountMBBitsIntra(const SearchData * const Data);
350    
351    static int
352    CountMBBitsGMC(const SearchData * const Data, const IMAGE * const vGMC, const int x, const int y);
353    
354    int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
355    int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
356    
357    /* one over lambda for R-D mode decision and motion search */
358    #define LAMBDA          ( (int)(BITS_MULT/1.0) )
359    
360    static __inline unsigned int
361    Block_CalcBits( int16_t * const coeff,
362                                    int16_t * const data,
363                                    int16_t * const dqcoeff,
364                                    const uint32_t quant, const int quant_type,
365                                    uint32_t * cbp,
366                                    const int block)
367    {
368            int sum;
369            int bits;
370            int distortion = 0;
371            int i;
372    
373            fdct(data);
374    
375            if (quant_type) sum = quant_inter(coeff, data, quant);
376            else sum = quant4_inter(coeff, data, quant);
377    
378            if (sum > 0) {
379                    *cbp |= 1 << (5 - block);
380                    bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);
381    
382                    if (quant_type) dequant_inter(dqcoeff, coeff, quant);
383                    else dequant4_inter(dqcoeff, coeff, quant);
384    
385                    for (i = 0; i < 64; i++)
386                            distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);
387    
388            } else {
389                    bits = 0;
390                    for (i = 0; i < 64; i++)
391                            distortion += data[i]*data[i];
392            }
393    
394    
395            bits += (LAMBDA*distortion)/(quant*quant);
396    
397            return bits;
398    }
399    
400    static __inline unsigned int
401    Block_CalcBitsIntra(int16_t * const coeff,
402                                            int16_t * const data,
403                                            int16_t * const dqcoeff,
404                                            const uint32_t quant, const int quant_type,
405                                            uint32_t * cbp,
406                                            const int block,
407                                            int * dcpred)
408    {
409            int bits, i;
410            int distortion = 0;
411            uint32_t iDcScaler = get_dc_scaler(quant, block < 4);
412            int b_dc;
413    
414            fdct(data);
415            data[0] -= 1024;
416    
417            if (quant_type) quant_intra(coeff, data, quant, iDcScaler);
418            else quant4_intra(coeff, data, quant, iDcScaler);
419    
420            b_dc = coeff[0];
421            if (block < 4) {
422                    coeff[0] -= *dcpred;
423                    *dcpred = b_dc;
424            }
425    
426            bits = BITS_MULT*CodeCoeffIntra_CalcBits(coeff, scan_tables[0]);
427            if (bits != 0) *cbp |= 1 << (5 - block);
428    
429            if (block < 4) bits += BITS_MULT*dcy_tab[coeff[0] + 255].len;
430            else bits += BITS_MULT*dcc_tab[coeff[0] + 255].len;
431    
432            coeff[0] = b_dc;
433            if (quant_type) dequant_intra(dqcoeff, coeff, quant, iDcScaler);
434            else dequant4_intra(dqcoeff, coeff, quant, iDcScaler);
435    
436            for (i = 0; i < 64; i++) {
437                    distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);
438            }
439    
440            bits += (LAMBDA*distortion)/(quant*quant);
441    
442            return bits;
443    }
444    
445  #endif                                                  /* _MOTION_EST_H_ */  #endif                                                  /* _MOTION_EST_H_ */
Legend:
Removed from v.1.1.2.10  
changed lines
  Added in v.1.3.2.13
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4