[cvs] / xvidcore / src / motion / motion_est.h Repository:
ViewVC logotype

Diff of /xvidcore/src/motion/motion_est.h

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.3.2.18, Thu Aug 28 11:06:16 2003 UTC revision 1.8, Wed May 14 13:21:47 2003 UTC
# Line 1  Line 1 
1  /*****************************************************************************  /**************************************************************************
2   *   *
3   *  XVID MPEG-4 VIDEO CODEC   *  XVID MPEG-4 VIDEO CODEC
4   *  - Motion Estimation related header -   *  -  Motion estimation header  -
5   *   *
6   *  Copyright(C) 2002 Christoph Lampert <gruel@web.de>   *  This program is an implementation of a part of one or more MPEG-4
7   *               2002 Michael Militzer <michael@xvid.org>   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
8   *               2002-2003 Radoslaw Czyz <xvid@syskin.cjb.net>   *  to use this software module in hardware or software products are
9     *  advised that its use may infringe existing patents or copyrights, and
10     *  any such use would be at such party's own risk.  The original
11     *  developer of this software module and his/her company, and subsequent
12     *  editors and their companies, will have no liability for use of this
13     *  software or modifications or derivatives thereof.
14   *   *
15   *  This program is free software ; you can redistribute it and/or modify   *  This program is free software ; you can redistribute it and/or modify
16   *  it under the terms of the GNU General Public License as published by   *  it under the terms of the GNU General Public License as published by
# Line 23  Line 28 
28   *   *
29   * $Id$   * $Id$
30   *   *
31   ****************************************************************************/   ***************************************************************************/
32    
33  #ifndef _MOTION_EST_H_  #ifndef _MOTION_EST_H_
34  #define _MOTION_EST_H_  #define _MOTION_EST_H_
# Line 34  Line 39 
39    
40  /* hard coded motion search parameters for motion_est and smp_motion_est */  /* hard coded motion search parameters for motion_est and smp_motion_est */
41    
42  /* very large value */  // very large value
43  #define MV_MAX_ERROR    (4096 * 256)  #define MV_MAX_ERROR    (4096 * 256)
44    
45  /* INTER bias for INTER/INTRA decision; mpeg4 spec suggests 2*nb */  /* INTER bias for INTER/INTRA decision; mpeg4 spec suggests 2*nb */
# Line 86  Line 91 
91          (int)(21.2656*NEIGH_TEND_8X8 + 0.5), (int)(24.8580*NEIGH_TEND_8X8 + 0.5),          (int)(21.2656*NEIGH_TEND_8X8 + 0.5), (int)(24.8580*NEIGH_TEND_8X8 + 0.5),
92          (int)(29.6436*NEIGH_TEND_8X8 + 0.5), (int)(36.4949*NEIGH_TEND_8X8 + 0.5)        };          (int)(29.6436*NEIGH_TEND_8X8 + 0.5), (int)(36.4949*NEIGH_TEND_8X8 + 0.5)        };
93    
94  /* mv.length table */  // mv.length table
95  static const int mvtab[64] = {  static const int mvtab[64] = {
96                  1, 2, 3, 4, 6, 7, 7, 7,                  1, 2, 3, 4, 6, 7, 7, 7,
97                  9, 9, 9, 10, 10, 10, 10, 10,                  9, 9, 9, 10, 10, 10, 10, 10,
# Line 104  Line 109 
109    
110  typedef struct  typedef struct
111  {  {
112          /* general fields */  // general fields
113          int max_dx, min_dx, max_dy, min_dy;          int max_dx, min_dx, max_dy, min_dy;
114          uint32_t rounding;          uint32_t rounding;
115          VECTOR predMV;          VECTOR predMV;
116          VECTOR * currentMV;          VECTOR * currentMV;
117          VECTOR * currentQMV;          VECTOR * currentQMV;
118          int32_t * iMinSAD;          int32_t * iMinSAD;
119          const uint8_t * RefP[6]; /* N, V, H, HV, cU, cV */          const uint8_t * RefP[6]; // N, V, H, HV, cU, cV
120          const uint8_t * CurU;          const uint8_t * CurU;
121          const uint8_t * CurV;          const uint8_t * CurV;
122          uint8_t * RefQ;          uint8_t * RefQ;
# Line 121  Line 126 
126          uint32_t iEdgedWidth;          uint32_t iEdgedWidth;
127          uint32_t iFcode;          uint32_t iFcode;
128          int * temp;          int * temp;
         int * dir;  
129          int qpel, qpel_precision;          int qpel, qpel_precision;
130          int chroma;          int chroma;
131          int rrv;          int rrv;
132    //fields for interpolate and direct modes
133          /* fields for interpolate and direct modes */          const uint8_t * b_RefP[6]; // N, V, H, HV, cU, cV
         const uint8_t * b_RefP[6]; /* N, V, H, HV, cU, cV */  
134          VECTOR bpredMV;          VECTOR bpredMV;
135          uint32_t bFcode;          uint32_t bFcode;
136    // fields for direct mode
         /* fields for direct mode */  
137          VECTOR directmvF[4];          VECTOR directmvF[4];
138          VECTOR directmvB[4];          VECTOR directmvB[4];
139          const VECTOR * referencemv;          const VECTOR * referencemv;
140    // BITS/R-D stuff
         /* BITS/R-D stuff */  
141          int16_t * dctSpace;          int16_t * dctSpace;
142          uint32_t iQuant;          uint32_t iQuant;
143          uint32_t quant_type;          uint32_t quant_type;
         int * cbp;  
144    
145  } SearchData;  } SearchData;
146    
147    
148  typedef void(CheckFunc)(const int x, const int y,  typedef void(CheckFunc)(const int x, const int y,
149                                                  const SearchData * const Data,                                                  const int Direction, int * const dir,
150                                                  const int Direction);                                                  const SearchData * const Data);
151    CheckFunc *CheckCandidate;
152    
153  /*  /*
154   * Calculate the min/max range   * Calculate the min/max range
# Line 160  Line 161 
161                    int32_t * const max_dy,                    int32_t * const max_dy,
162                    const uint32_t x,                    const uint32_t x,
163                    const uint32_t y,                    const uint32_t y,
164                    uint32_t block_sz, /* block dimension, 3(8) or 4(16) */                    uint32_t block_sz, /* block dimension, 8 or 16 */
165                    const uint32_t width,                    const uint32_t width,
166                    const uint32_t height,                    const uint32_t height,
167                    const uint32_t fcode,                    const uint32_t fcode,
168                    const int precision, /* 2 for qpel, 1 for halfpel */                    const int qpel, /* 1 if the resulting range should be in qpel precision; otherwise 0 */
169                    const int rrv)                    const int rrv)
170  {  {
171          int k;          int k, m = qpel ? 4 : 2;
172          const int search_range = 16 << fcode;          const int search_range = 32 << (fcode - 1);
173          int high = search_range - 1;          int high = search_range - 1;
174          int low = -search_range;          int low = -search_range;
175    
176          if (rrv) {          if (rrv) {
177                  high = RRV_MV_SCALEUP(high);                  high = RRV_MV_SCALEUP(high);
178                  low = RRV_MV_SCALEUP(low);                  low = RRV_MV_SCALEUP(low);
179                  block_sz++;                  block_sz *= 2;
180          }          }
181    
182          k = (int)(width - (x<<block_sz))<<precision;          k = m * (int)(width - x * block_sz);
183          *max_dx = MIN(high, k);          *max_dx = MIN(high, k);
184          k = (int)(height -  (y<<block_sz))<<precision;          k = m * (int)(height -  y * block_sz);
185          *max_dy = MIN(high, k);          *max_dy = MIN(high, k);
186    
187          k = (-(int)((x+1)<<block_sz))<<precision;          k = -m * (int)((x+1) * block_sz);
188          *min_dx = MAX(low, k);          *min_dx = MAX(low, k);
189          k = (-(int)((y+1)<<block_sz))<<precision;          k = -m * (int)((y+1) * block_sz);
190          *min_dy = MAX(low, k);          *min_dy = MAX(low, k);
191  }  }
192    
193  typedef void  typedef void MainSearchFunc(int x, int y, const SearchData * const Data, int bDirection);
 MainSearchFunc(int x, int y, const SearchData * const Data,  
                            int bDirection, CheckFunc * const CheckCandidate);  
194    
195  static MainSearchFunc DiamondSearch, AdvDiamondSearch, SquareSearch;  static MainSearchFunc DiamondSearch, AdvDiamondSearch, SquareSearch;
196    
# Line 211  Line 210 
210                                  const IMAGE * const pRefH,                                  const IMAGE * const pRefH,
211                                  const IMAGE * const pRefV,                                  const IMAGE * const pRefV,
212                                  const IMAGE * const pRefHV,                                  const IMAGE * const pRefHV,
                                 const IMAGE * const pGMC,  
213                                  const uint32_t iLimit);                                  const uint32_t iLimit);
214    
215  static void  static void
# Line 223  Line 221 
221                  const int x,                  const int x,
222                  const int y,                  const int y,
223                  const uint32_t MotionFlags,                  const uint32_t MotionFlags,
224                  const uint32_t VopFlags,                  const uint32_t GlobalFlags,
                 const uint32_t VolFlags,  
225                  SearchData * const Data,                  SearchData * const Data,
226                  const MBParam * const pParam,                  const MBParam * const pParam,
227                  const MACROBLOCK * const pMBs,                  const MACROBLOCK * const pMBs,
228                  const MACROBLOCK * const prevMBs,                  const MACROBLOCK * const prevMBs,
229                  MACROBLOCK * const pMB);                  MACROBLOCK * const pMB);
230    
 static __inline void  
 GMEanalyzeMB (const uint8_t * const pCur,  
               const uint8_t * const pRef,  
               const uint8_t * const pRefH,  
               const uint8_t * const pRefV,  
               const uint8_t * const pRefHV,  
               const int x,  
               const int y,  
               const MBParam * const pParam,  
               MACROBLOCK * const pMBs,  
               SearchData * const Data);  
   
 void  
 GMEanalysis(const MBParam * const pParam,  
             const FRAMEINFO * const current,  
             const FRAMEINFO * const reference,  
             const IMAGE * const pRefH,  
             const IMAGE * const pRefV,  
             const IMAGE * const pRefHV);  
   
   
   
 WARPPOINTS  
 GlobalMotionEst(MACROBLOCK * const pMBs,  
                                 const MBParam * const pParam,  
                                 const FRAMEINFO * const current,  
                                 const FRAMEINFO * const reference,  
                                 const IMAGE * const pRefH,  
                                 const IMAGE * const pRefV,  
                                 const IMAGE * const pRefHV      );  
   
231    
232  int  static WARPPOINTS
233  GlobalMotionEstRefine(WARPPOINTS *const startwp,  GlobalMotionEst(const MACROBLOCK * const pMBs,
                       MACROBLOCK * const pMBs,  
234                        const MBParam * const pParam,                        const MBParam * const pParam,
235                        const FRAMEINFO * const current,                        const FRAMEINFO * const current,
236                        const FRAMEINFO * const reference,                        const FRAMEINFO * const reference,
                       const IMAGE * const pCurr,  
                       const IMAGE * const pRef,  
237                        const IMAGE * const pRefH,                        const IMAGE * const pRefH,
238                        const IMAGE * const pRefV,                        const IMAGE * const pRefV,
239                        const IMAGE * const pRefHV);                        const IMAGE * const pRefHV);
240    
   
   
   
 int  
 globalSAD(const WARPPOINTS *const wp,  
                 const MBParam * const pParam,  
                 const MACROBLOCK * const pMBs,  
                 const FRAMEINFO * const current,  
                 const IMAGE * const pRef,  
                 const IMAGE * const pCurr,  
                 uint8_t *const GMCblock);  
   
241  #define iDiamondSize 2  #define iDiamondSize 2
242    
243  static __inline uint32_t  static __inline uint32_t
244  MakeGoodMotionFlags(const uint32_t MotionFlags, const uint32_t VopFlags, const uint32_t VolFlags)  MakeGoodMotionFlags(const uint32_t MotionFlags, const uint32_t GlobalFlags)
245  {  {
246          uint32_t Flags = MotionFlags;          uint32_t Flags = MotionFlags;
247    
248          if (!(VopFlags & XVID_VOP_MODEDECISION_RD))          if (!(GlobalFlags & XVID_MODEDECISION_BITS))
249                  Flags &= ~(XVID_ME_QUARTERPELREFINE16_RD+XVID_ME_QUARTERPELREFINE8_RD+XVID_ME_HALFPELREFINE16_RD+XVID_ME_HALFPELREFINE8_RD+XVID_ME_EXTSEARCH_RD);                  Flags &= ~(QUARTERPELREFINE16_BITS+QUARTERPELREFINE8_BITS+HALFPELREFINE16_BITS+HALFPELREFINE8_BITS+EXTSEARCH_BITS);
250    
251          if (Flags & XVID_ME_EXTSEARCH_RD)          if (Flags & EXTSEARCH_BITS)
252                  Flags |= XVID_ME_HALFPELREFINE16_RD;                  Flags |= HALFPELREFINE16_BITS;
253    
254          if (Flags & XVID_ME_EXTSEARCH_RD && MotionFlags & XVID_ME_EXTSEARCH8)          if (Flags & EXTSEARCH_BITS && MotionFlags & PMV_EXTSEARCH8)
255                  Flags |= XVID_ME_HALFPELREFINE8_RD;                  Flags |= HALFPELREFINE8_BITS;
256    
257          if (Flags & XVID_ME_HALFPELREFINE16_RD)          if (Flags & HALFPELREFINE16_BITS)
258                  Flags |= XVID_ME_QUARTERPELREFINE16_RD;                  Flags |= QUARTERPELREFINE16_BITS;
259    
260          if (Flags & XVID_ME_HALFPELREFINE8_RD) {          if (Flags & HALFPELREFINE8_BITS) {
261                  Flags |= XVID_ME_QUARTERPELREFINE8_RD;                  Flags |= QUARTERPELREFINE8_BITS;
262                  Flags &= ~XVID_ME_HALFPELREFINE8;                  Flags &= ~PMV_HALFPELREFINE8;
263          }          }
264    
265          if (Flags & XVID_ME_QUARTERPELREFINE8_RD)          if (Flags & QUARTERPELREFINE8_BITS)
266                  Flags &= ~XVID_ME_QUARTERPELREFINE8;                  Flags &= ~PMV_QUARTERPELREFINE8;
267    
268            if (Flags & QUARTERPELREFINE16_BITS)
269                    Flags &= ~PMV_QUARTERPELREFINE16;
270    
271          if (!(VolFlags & XVID_VOL_QUARTERPEL))          if (!(GlobalFlags & XVID_QUARTERPEL))
272                  Flags &= ~(XVID_ME_QUARTERPELREFINE16+XVID_ME_QUARTERPELREFINE8+XVID_ME_QUARTERPELREFINE16_RD+XVID_ME_QUARTERPELREFINE8_RD);                  Flags &= ~(PMV_QUARTERPELREFINE16+PMV_QUARTERPELREFINE8+QUARTERPELREFINE16_BITS+QUARTERPELREFINE8_BITS);
273    
274          if (!(VopFlags & XVID_VOP_HALFPEL))          if (!(GlobalFlags & XVID_HALFPEL))
275                  Flags &= ~(XVID_ME_EXTSEARCH16+XVID_ME_HALFPELREFINE16+XVID_ME_HALFPELREFINE8+XVID_ME_HALFPELREFINE16_RD+XVID_ME_HALFPELREFINE8_RD);                  Flags &= ~(PMV_EXTSEARCH16+PMV_HALFPELREFINE16+PMV_HALFPELREFINE8+HALFPELREFINE16_BITS+HALFPELREFINE8_BITS);
276    
277          if ((VopFlags & XVID_VOP_GREYSCALE) || (VopFlags & XVID_VOP_REDUCED))          if (GlobalFlags & (XVID_GREYSCALE + XVID_REDUCED))
278                  Flags &= ~(XVID_ME_CHROMA_PVOP + XVID_ME_CHROMA_BVOP);                  Flags &= ~(PMV_CHROMA16 + PMV_CHROMA8);
279    
280          return Flags;          return Flags;
281  }  }
282    
283  /* RD mode decision and search */  /* BITS mode decision and search */
284    
285  #include "../bitstream/zigzag.h"  #include "../bitstream/zigzag.h"
286  #include "../quant/quant_mpeg4.h"  #include "../quant/quant_mpeg4.h"
# Line 335  Line 289 
289  #include "../dct/fdct.h"  #include "../dct/fdct.h"
290    
291  static int  static int
292  findRDinter(SearchData * const Data,  CountMBBitsInter(SearchData * const Data,
293                          const MACROBLOCK * const pMBs, const int x, const int y,                          const MACROBLOCK * const pMBs, const int x, const int y,
294                          const MBParam * const pParam,                          const MBParam * const pParam,
295                          const uint32_t MotionFlags);                          const uint32_t MotionFlags);
296    
297  static int  static int
298  findRDinter4v(const SearchData * const Data,  CountMBBitsInter4v(const SearchData * const Data,
299                                  MACROBLOCK * const pMB, const MACROBLOCK * const pMBs,                                  MACROBLOCK * const pMB, const MACROBLOCK * const pMBs,
300                                  const int x, const int y,                                  const int x, const int y,
301                                  const MBParam * const pParam, const uint32_t MotionFlags,                                  const MBParam * const pParam, const uint32_t MotionFlags,
302                                  const VECTOR * const backup);                                  const VECTOR * const backup);
303    
304  static int  static int
305  findRDintra(const SearchData * const Data);  CountMBBitsIntra(const SearchData * const Data);
   
 static int  
 findRDgmc(const SearchData * const Data, const IMAGE * const vGMC, const int x, const int y);  
306    
307  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffIntra_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
308  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);  int CodeCoeffInter_CalcBits(const int16_t qcoeff[64], const uint16_t * zigzag);
309    
310  /* one over lambda for R-D mode decision and motion search */  #define LAMBDA          ( (int)(1.0*BITS_MULT) )
 #define LAMBDA          ( (int)(BITS_MULT/1.0) )  
311    
312  static __inline unsigned int  static __inline unsigned int
313  Block_CalcBits( int16_t * const coeff,  Block_CalcBits( int16_t * const coeff,
314                                  int16_t * const data,                                  int16_t * const data,
                                 int16_t * const dqcoeff,  
315                                  const uint32_t quant, const int quant_type,                                  const uint32_t quant, const int quant_type,
316                                  uint32_t * cbp,                                  uint32_t * cbp,
317                                  const int block)                                  const int block)
318  {  {
319          int sum;          int sum;
320          int bits;          int bits;
321            const int lambda = LAMBDA*quant*quant;
322          int distortion = 0;          int distortion = 0;
323          int i;          int i;
324    
325          fdct(data);          fdct(data);
326    
327          if (quant_type) sum = quant_inter(coeff, data, quant);          if (quant_type == 0) sum = quant_inter(coeff, data, quant);
328          else sum = quant4_inter(coeff, data, quant);          else sum = quant4_inter(coeff, data, quant);
329    
330          if (sum > 0) {          if (sum > 0) {
331                  *cbp |= 1 << (5 - block);                  *cbp |= 1 << (5 - block);
332                  bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);                  bits = BITS_MULT * CodeCoeffInter_CalcBits(coeff, scan_tables[0]);
333            } else bits = 0;
334    
335                  if (quant_type) dequant_inter(dqcoeff, coeff, quant);          if (quant_type == 0) dequant_inter(coeff, coeff, quant);
336                  else dequant4_inter(dqcoeff, coeff, quant);          else dequant4_inter(coeff, coeff, quant);
   
                 for (i = 0; i < 64; i++)  
                         distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);  
337    
338          } else {          for (i = 0; i < 64; i++) {
339                  bits = 0;                  distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);
                 for (i = 0; i < 64; i++)  
                         distortion += data[i]*data[i];  
340          }          }
341            bits += (BITS_MULT*BITS_MULT*distortion)/lambda;
342    
343          return bits + (LAMBDA*distortion)/(quant*quant);  
344            return bits;
345  }  }
346    
347  static __inline unsigned int  static __inline unsigned int
348  Block_CalcBitsIntra(int16_t * const coeff,  Block_CalcBitsIntra(int16_t * const coeff,
349                                          int16_t * const data,                                          int16_t * const data,
                                         int16_t * const dqcoeff,  
350                                          const uint32_t quant, const int quant_type,                                          const uint32_t quant, const int quant_type,
351                                          uint32_t * cbp,                                          uint32_t * cbp,
352                                          const int block,                                          const int block,
353                                          int * dcpred)                                          int * dcpred)
354  {  {
355          int bits, i;          int bits, i;
356            const int lambda = LAMBDA*quant*quant;
357          int distortion = 0;          int distortion = 0;
358          uint32_t iDcScaler = get_dc_scaler(quant, block < 4);          uint32_t iDcScaler = get_dc_scaler(quant, block > 3);
359          int b_dc;          int b_dc;
360    
361          fdct(data);          fdct(data);
362          data[0] -= 1024;          data[0] -= 1024;
363    
364          if (quant_type) quant_intra(coeff, data, quant, iDcScaler);          if (quant_type == 0) quant_intra(coeff, data, quant, iDcScaler);
365          else quant4_intra(coeff, data, quant, iDcScaler);          else quant4_intra(coeff, data, quant, iDcScaler);
366    
367          b_dc = coeff[0];          b_dc = coeff[0];
# Line 422  Line 370 
370                  *dcpred = b_dc;                  *dcpred = b_dc;
371          }          }
372    
373            *cbp |= 1 << (5 - block);
374          bits = BITS_MULT*CodeCoeffIntra_CalcBits(coeff, scan_tables[0]);          bits = BITS_MULT*CodeCoeffIntra_CalcBits(coeff, scan_tables[0]);
375            bits += BITS_MULT*dcy_tab[coeff[0] + 255].len;
376          if (bits != 0) *cbp |= 1 << (5 - block);          if (bits != 0) *cbp |= 1 << (5 - block);
377    
         if (block < 4) bits += BITS_MULT*dcy_tab[coeff[0] + 255].len;  
         else bits += BITS_MULT*dcc_tab[coeff[0] + 255].len;  
   
378          coeff[0] = b_dc;          coeff[0] = b_dc;
379          if (quant_type) dequant_intra(dqcoeff, coeff, quant, iDcScaler);          if (quant_type == 0) dequant_intra(coeff, coeff, quant, iDcScaler);
380          else dequant4_intra(dqcoeff, coeff, quant, iDcScaler);          else dequant4_intra(coeff, coeff, quant, iDcScaler);
381    
382            for (i = 0; i < 64; i++) {
383                    distortion += (data[i] - coeff[i])*(data[i] - coeff[i]);
384            }
385    
386          for (i = 0; i < 64; i++)          bits += (BITS_MULT*BITS_MULT*distortion)/lambda;
                 distortion += (data[i] - dqcoeff[i])*(data[i] - dqcoeff[i]);  
387    
388          return bits + (LAMBDA*distortion)/(quant*quant);          return bits;
389  }  }
390    
391  #endif                                                  /* _MOTION_EST_H_ */  #endif                                                  /* _MOTION_EST_H_ */
Legend:
Removed from v.1.3.2.18  
changed lines
  Added in v.1.8
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4