[cvs] / xvidcore / src / prediction / mbprediction.c Repository:
ViewVC logotype

Diff of /xvidcore/src/prediction/mbprediction.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.8, Sat Sep 7 13:43:00 2002 UTC revision 1.13.2.6, Thu May 22 16:36:07 2003 UTC
# Line 1  Line 1 
1  /*****************************************************************************   /******************************************************************************
2   *    *                                                                            *
3   *  XVID MPEG-4 VIDEO CODEC    *  This file is part of XviD, a free MPEG-4 video encoder/decoder            *
4   *  - Prediction functions -    *                                                                            *
5   *    *  XviD is an implementation of a part of one or more MPEG-4 Video tools     *
6   *  Copyright(C) 2001-2002 - Michael Militzer <isibaar@xvid.org>    *  as specified in ISO/IEC 14496-2 standard.  Those intending to use this    *
7   *  Copyright(C) 2001-2002 - Peter Ross <pross@cs.rmit.edu.au>    *  software module in hardware or software products are advised that its     *
8   *    *  use may infringe existing patents or copyrights, and any such use         *
9   *  This program is an implementation of a part of one or more MPEG-4    *  would be at such party's own risk.  The original developer of this        *
10   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending    *  software module and his/her company, and subsequent editors and their     *
11   *  to use this software module in hardware or software products are    *  companies, will have no liability for use of this software or             *
12   *  advised that its use may infringe existing patents or copyrights, and    *  modifications or derivatives thereof.                                     *
13   *  any such use would be at such party's own risk.  The original    *                                                                            *
14   *  developer of this software module and his/her company, and subsequent    *  XviD is free software; you can redistribute it and/or modify it           *
15   *  editors and their companies, will have no liability for use of this    *  under the terms of the GNU General Public License as published by         *
16   *  software or modifications or derivatives thereof.    *  the Free Software Foundation; either version 2 of the License, or         *
17   *    *  (at your option) any later version.                                       *
18   *  This program is free software; you can redistribute it and/or modify    *                                                                            *
19   *  it under the terms of the GNU General Public License as published by    *  XviD is distributed in the hope that it will be useful, but               *
20   *  the Free Software Foundation; either version 2 of the License, or    *  WITHOUT ANY WARRANTY; without even the implied warranty of                *
21   *  (at your option) any later version.    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the             *
22   *    *  GNU General Public License for more details.                              *
23   *  This program is distributed in the hope that it will be useful,    *                                                                            *
24   *  but WITHOUT ANY WARRANTY; without even the implied warranty of    *  You should have received a copy of the GNU General Public License         *
25   *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the    *  along with this program; if not, write to the Free Software               *
26   *  GNU General Public License for more details.    *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA  *
27   *    *                                                                            *
28   *  You should have received a copy of the GNU General Public License    ******************************************************************************/
29   *  along with this program; if not, write to the Free Software  
30   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA   /******************************************************************************
31   *    *                                                                            *
32   * $Id$    *  mbprediction.c                                                            *
33   *    *                                                                            *
34   ****************************************************************************/    *  Copyright (C) 2001 - Michael Militzer <isibaar@xvid.org>                  *
35      *  Copyright (C) 2001 - Peter Ross <pross@cs.rmit.edu.au>                    *
36      *                                                                            *
37      *  For more information visit the XviD homepage: http://www.xvid.org         *
38      *                                                                            *
39      ******************************************************************************/
40    
41     /******************************************************************************
42      *                                                                            *
43      *  Revision history:                                                         *
44      *                                                                            *
45      *  29.06.2002 predict_acdc() bounding                                        *
46      *  12.12.2001 improved calc_acdc_prediction; removed need for memcpy         *
47      *  15.12.2001 moved pmv displacement to motion estimation                    *
48      *  30.11.2001 mmx cbp support                                                *
49      *  17.11.2001 initial version                                                *
50      *                                                                            *
51      ******************************************************************************/
52    
53    #include <stdlib.h>
54    
55    #include "../global.h"
56  #include "../encoder.h"  #include "../encoder.h"
57  #include "mbprediction.h"  #include "mbprediction.h"
58  #include "../utils/mbfunctions.h"  #include "../utils/mbfunctions.h"
59  #include "../bitstream/cbp.h"  #include "../bitstream/cbp.h"
60    #include "../bitstream/mbcoding.h"
61    #include "../bitstream/zigzag.h"
62    
63    
 #define ABS(X) (((X)>0)?(X):-(X))  
 #define DIV_DIV(A,B)    ( (A) > 0 ? ((A)+((B)>>1))/(B) : ((A)-((B)>>1))/(B) )  
   
   
 /*****************************************************************************  
  * Local inlined function  
  ****************************************************************************/  
   
64  static int __inline  static int __inline
65  rescale(int predict_quant,  rescale(int predict_quant,
66                  int current_quant,                  int current_quant,
# Line 57  Line 71 
71  }  }
72    
73    
 /*****************************************************************************  
  * Local data  
  ****************************************************************************/  
   
74  static const int16_t default_acdc_values[15] = {  static const int16_t default_acdc_values[15] = {
75          1024,          1024,
76          0, 0, 0, 0, 0, 0, 0,          0, 0, 0, 0, 0, 0, 0,
# Line 68  Line 78 
78  };  };
79    
80    
 /*****************************************************************************  
  * Functions  
  ****************************************************************************/  
   
   
81  /*      get dc/ac prediction direction for a single block and place  /*      get dc/ac prediction direction for a single block and place
82          predictor values into MB->pred_values[j][..]          predictor values into MB->pred_values[j][..]
83  */  */
# Line 209  Line 214 
214          //  determine ac prediction direction & ac/dc predictor          //  determine ac prediction direction & ac/dc predictor
215          //  place rescaled ac/dc predictions into predictors[] for later use          //  place rescaled ac/dc predictions into predictors[] for later use
216    
217          if (ABS(pLeft[0] - pDiag[0]) < ABS(pDiag[0] - pTop[0])) {          if (abs(pLeft[0] - pDiag[0]) < abs(pDiag[0] - pTop[0])) {
218                  *acpred_direction = 1;  // vertical                  *acpred_direction = 1;  // vertical
219                  predictors[0] = DIV_DIV(pTop[0], iDcScaler);                  predictors[0] = DIV_DIV(pTop[0], iDcScaler);
220                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
# Line 241  Line 246 
246          int16_t *pCurrent = pMB->pred_values[block];          int16_t *pCurrent = pMB->pred_values[block];
247          uint32_t i;          uint32_t i;
248    
249          DPRINTF(DPRINTF_COEFF,"predictor[0] %i", predictors[0]);          DPRINTF(XVID_DEBUG_COEFF,"predictor[0] %i\n", predictors[0]);
250    
251          dct_codes[0] += predictors[0];  // dc prediction          dct_codes[0] += predictors[0];  // dc prediction
252          pCurrent[0] = dct_codes[0] * iDcScaler;          pCurrent[0] = dct_codes[0] * iDcScaler;
# Line 250  Line 255 
255                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
256                          int level = dct_codes[i] + predictors[i];                          int level = dct_codes[i] + predictors[i];
257    
258                          DPRINTF(DPRINTF_COEFF,"predictor[%i] %i",i, predictors[i]);                          DPRINTF(XVID_DEBUG_COEFF,"predictor[%i] %i\n",i, predictors[i]);
259    
260                          dct_codes[i] = level;                          dct_codes[i] = level;
261                          pCurrent[i] = level;                          pCurrent[i] = level;
# Line 259  Line 264 
264          } else if (acpred_direction == 2) {          } else if (acpred_direction == 2) {
265                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
266                          int level = dct_codes[i * 8] + predictors[i];                          int level = dct_codes[i * 8] + predictors[i];
267                          DPRINTF(DPRINTF_COEFF,"predictor[%i] %i",i*8, predictors[i]);                          DPRINTF(XVID_DEBUG_COEFF,"predictor[%i] %i\n",i*8, predictors[i]);
268    
269                          dct_codes[i * 8] = level;                          dct_codes[i * 8] = level;
270                          pCurrent[i + 7] = level;                          pCurrent[i + 7] = level;
# Line 280  Line 285 
285    
286  /* encoder: subtract predictors from qcoeff[] and calculate S1/S2  /* encoder: subtract predictors from qcoeff[] and calculate S1/S2
287    
288  todo: perform [-127,127] clamping after prediction  returns sum of coeefficients *saved* if prediction is enabled
 clamping must adjust the coeffs, so dequant is done correctly  
289    
 S1/S2 are used  to determine if its worth predicting for AC  
290  S1 = sum of all (qcoeff - prediction)  S1 = sum of all (qcoeff - prediction)
291  S2 = sum of all qcoeff  S2 = sum of all qcoeff
292  */  */
293    
294  uint32_t  int
295  calc_acdc(MACROBLOCK * pMB,  calc_acdc_coeff(MACROBLOCK * pMB,
296                    uint32_t block,                    uint32_t block,
297                    int16_t qcoeff[64],                    int16_t qcoeff[64],
298                    uint32_t iDcScaler,                    uint32_t iDcScaler,
# Line 297  Line 300 
300  {  {
301          int16_t *pCurrent = pMB->pred_values[block];          int16_t *pCurrent = pMB->pred_values[block];
302          uint32_t i;          uint32_t i;
303          uint32_t S1 = 0, S2 = 0;          int S1 = 0, S2 = 0;
304    
305    
306          /* store current coeffs to pred_values[] for future prediction */          /* store current coeffs to pred_values[] for future prediction */
# Line 317  Line 320 
320                          int16_t level;                          int16_t level;
321    
322                          level = qcoeff[i];                          level = qcoeff[i];
323                          S2 += ABS(level);                          S2 += abs(level);
324                          level -= predictors[i];                          level -= predictors[i];
325                          S1 += ABS(level);                          S1 += abs(level);
326                          predictors[i] = level;                          predictors[i] = level;
327                  }                  }
328          } else                                          // acpred_direction == 2          } else                                          // acpred_direction == 2
# Line 328  Line 331 
331                          int16_t level;                          int16_t level;
332    
333                          level = qcoeff[i * 8];                          level = qcoeff[i * 8];
334                          S2 += ABS(level);                          S2 += abs(level);
335                          level -= predictors[i];                          level -= predictors[i];
336                          S1 += ABS(level);                          S1 += abs(level);
337                          predictors[i] = level;                          predictors[i] = level;
338                  }                  }
339    
# Line 341  Line 344 
344  }  }
345    
346    
347    
348    /* returns the bits *saved* if prediction is enabled */
349    
350    int
351    calc_acdc_bits(MACROBLOCK * pMB,
352                      uint32_t block,
353                      int16_t qcoeff[64],
354                      uint32_t iDcScaler,
355                      int16_t predictors[8])
356    {
357            const int direction = pMB->acpred_directions[block];
358            int16_t *pCurrent = pMB->pred_values[block];
359            int16_t tmp[8];
360            unsigned int i;
361            int Z1, Z2;
362    
363            /* store current coeffs to pred_values[] for future prediction */
364            pCurrent[0] = qcoeff[0] * iDcScaler;
365            for (i = 1; i < 8; i++) {
366                    pCurrent[i] = qcoeff[i];
367                    pCurrent[i + 7] = qcoeff[i * 8];
368            }
369    
370    
371            /* dc prediction */
372            qcoeff[0] = qcoeff[0] - predictors[0];
373    
374            /* calc cost before ac prediction */
375    #ifdef BIGLUT
376            Z2 = CodeCoeff_CalcBits(qcoeff, intra_table, scan_tables[0], 1);
377    #else
378            Z2 = CodeCoeffIntra_CalcBits(qcoeff, scan_tables[0]);
379    #endif
380    
381            /* apply ac prediction & calc cost*/
382            if (direction == 1) {
383                    for (i = 1; i < 8; i++) {
384                            tmp[i] = qcoeff[i];
385                            qcoeff[i] -= predictors[i];
386                            predictors[i] = qcoeff[i];
387                    }
388            }else{                                          // acpred_direction == 2
389                    for (i = 1; i < 8; i++) {
390                            tmp[i] = qcoeff[i*8];
391                            qcoeff[i*8] -= predictors[i];
392                            predictors[i] = qcoeff[i*8];
393                    }
394            }
395    
396    #ifdef BIGLUT
397            Z1 = CodeCoeff_CalcBits(qcoeff, intra_table, scan_tables[direction], 1);
398    #else
399            Z1 = CodeCoeffIntra_CalcBits(qcoeff, scan_tables[direction]);
400    #endif
401    
402            /* undo prediction */
403            if (direction == 1) {
404                    for (i = 1; i < 8; i++)
405                            qcoeff[i] = tmp[i];
406            }else{                                          // acpred_direction == 2
407                    for (i = 1; i < 8; i++)
408                            qcoeff[i*8] = tmp[i];
409            }
410    
411            return Z2-Z1;
412    }
413    
414  /* apply predictors[] to qcoeff */  /* apply predictors[] to qcoeff */
415    
416  void  void
# Line 349  Line 419 
419                     int16_t qcoeff[64],                     int16_t qcoeff[64],
420                     int16_t predictors[8])                     int16_t predictors[8])
421  {  {
422          uint32_t i;          unsigned int i;
423    
424          if (pMB->acpred_directions[block] == 1) {          if (pMB->acpred_directions[block] == 1) {
425                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++)
426                          qcoeff[i] = predictors[i];                          qcoeff[i] = predictors[i];
                 }  
427          } else {          } else {
428                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++)
429                          qcoeff[i * 8] = predictors[i];                          qcoeff[i * 8] = predictors[i];
430                  }                  }
431          }          }
 }  
432    
433    
434  void  void
# Line 372  Line 440 
440  {  {
441    
442          int32_t j;          int32_t j;
443          int32_t iDcScaler, iQuant = frame->quant;          int32_t iDcScaler, iQuant;
444          int32_t S = 0;          int S = 0;
445          int16_t predictors[6][8];          int16_t predictors[6][8];
446    
447          MACROBLOCK *pMB = &frame->mbs[x + y * mb_width];          MACROBLOCK *pMB = &frame->mbs[x + y * mb_width];
448        iQuant = pMB->quant;
449    
450          if ((pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q)) {          if ((pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q)) {
451    
452                  for (j = 0; j < 6; j++) {                  for (j = 0; j < 6; j++) {
453                          iDcScaler = get_dc_scaler(iQuant, (j < 4) ? 1 : 0);                          iDcScaler = get_dc_scaler(iQuant, j<4);
454    
455                          predict_acdc(frame->mbs, x, y, mb_width, j, &qcoeff[j * 64],                          predict_acdc(frame->mbs, x, y, mb_width, j, &qcoeff[j * 64],
456                                                   iQuant, iDcScaler, predictors[j], 0);                                                   iQuant, iDcScaler, predictors[j], 0);
457    
458                          S += calc_acdc(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);                          if ((frame->vop_flags & XVID_VOP_HQACPRED))
459                                    S += calc_acdc_bits(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);
460                            else
461                                    S += calc_acdc_coeff(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);
462    
463                  }                  }
464    
465                  if (S < 0)                              // dont predict                  if (S<=0) {                             // dont predict
466                  {                          for (j = 0; j < 6; j++)
                         for (j = 0; j < 6; j++) {  
467                                  pMB->acpred_directions[j] = 0;                                  pMB->acpred_directions[j] = 0;
                         }  
468                  } else {                  } else {
469                          for (j = 0; j < 6; j++) {                          for (j = 0; j < 6; j++)
470                                  apply_acdc(pMB, j, &qcoeff[j * 64], predictors[j]);                                  apply_acdc(pMB, j, &qcoeff[j * 64], predictors[j]);
471                          }                          }
472                  }  
473                  pMB->cbp = calc_cbp(qcoeff);                  pMB->cbp = calc_cbp(qcoeff);
474          }          }
475    
Legend:
Removed from v.1.8  
changed lines
  Added in v.1.13.2.6
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4