[cvs] / xvidcore / src / prediction / mbprediction.c Repository:
ViewVC logotype

Diff of /xvidcore/src/prediction/mbprediction.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.13, Sat Feb 15 15:22:19 2003 UTC revision 1.13.2.7, Mon Jun 9 01:22:58 2003 UTC
# Line 50  Line 50 
50    *                                                                            *    *                                                                            *
51    ******************************************************************************/    ******************************************************************************/
52    
53    #include <stdlib.h>
54    
55  #include "../global.h"  #include "../global.h"
56  #include "../encoder.h"  #include "../encoder.h"
57  #include "mbprediction.h"  #include "mbprediction.h"
# Line 104  Line 106 
106          const int16_t *pTop = default_acdc_values;          const int16_t *pTop = default_acdc_values;
107          const int16_t *pDiag = default_acdc_values;          const int16_t *pDiag = default_acdc_values;
108    
109          uint32_t index = x + y * mb_width;      // current macroblock          uint32_t index = x + y * mb_width;      /* current macroblock */
110          int *acpred_direction = &pMBs[index].acpred_directions[block];          int *acpred_direction = &pMBs[index].acpred_directions[block];
111          uint32_t i;          uint32_t i;
112    
113          left = top = diag = current = 0;          left = top = diag = current = 0;
114    
115          // grab left,top and diag macroblocks          /* grab left,top and diag macroblocks */
116    
117          // left macroblock          /* left macroblock */
118    
119          if (x && mbpos >= bound + 1  &&          if (x && mbpos >= bound + 1  &&
120                  (pMBs[index - 1].mode == MODE_INTRA ||                  (pMBs[index - 1].mode == MODE_INTRA ||
# Line 120  Line 122 
122    
123                  left = pMBs[index - 1].pred_values[0];                  left = pMBs[index - 1].pred_values[0];
124                  left_quant = pMBs[index - 1].quant;                  left_quant = pMBs[index - 1].quant;
                 //DEBUGI("LEFT", *(left+MBPRED_SIZE));  
125          }          }
126          // top macroblock          /* top macroblock */
127    
128          if (mbpos >= bound + (int)mb_width &&          if (mbpos >= bound + (int)mb_width &&
129                  (pMBs[index - mb_width].mode == MODE_INTRA ||                  (pMBs[index - mb_width].mode == MODE_INTRA ||
# Line 131  Line 132 
132                  top = pMBs[index - mb_width].pred_values[0];                  top = pMBs[index - mb_width].pred_values[0];
133                  top_quant = pMBs[index - mb_width].quant;                  top_quant = pMBs[index - mb_width].quant;
134          }          }
135          // diag macroblock          /* diag macroblock */
136    
137          if (x && mbpos >= bound + (int)mb_width + 1 &&          if (x && mbpos >= bound + (int)mb_width + 1 &&
138                  (pMBs[index - 1 - mb_width].mode == MODE_INTRA ||                  (pMBs[index - 1 - mb_width].mode == MODE_INTRA ||
# Line 142  Line 143 
143    
144          current = pMBs[index].pred_values[0];          current = pMBs[index].pred_values[0];
145    
146          // now grab pLeft, pTop, pDiag _blocks_          /* now grab pLeft, pTop, pDiag _blocks_ */
147    
148          switch (block) {          switch (block) {
149    
# Line 209  Line 210 
210                  break;                  break;
211          }          }
212    
213          //  determine ac prediction direction & ac/dc predictor          /*
214          //  place rescaled ac/dc predictions into predictors[] for later use           * determine ac prediction direction & ac/dc predictor place rescaled ac/dc
215             * predictions into predictors[] for later use
216             */
217    
218          if (ABS(pLeft[0] - pDiag[0]) < ABS(pDiag[0] - pTop[0])) {          if (abs(pLeft[0] - pDiag[0]) < abs(pDiag[0] - pTop[0])) {
219                  *acpred_direction = 1;  // vertical                  *acpred_direction = 1;  /* vertical */
220                  predictors[0] = DIV_DIV(pTop[0], iDcScaler);                  predictors[0] = DIV_DIV(pTop[0], iDcScaler);
221                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
222                          predictors[i] = rescale(top_quant, current_quant, pTop[i]);                          predictors[i] = rescale(top_quant, current_quant, pTop[i]);
223                  }                  }
224          } else {          } else {
225                  *acpred_direction = 2;  // horizontal                  *acpred_direction = 2;  /* horizontal */
226                  predictors[0] = DIV_DIV(pLeft[0], iDcScaler);                  predictors[0] = DIV_DIV(pLeft[0], iDcScaler);
227                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
228                          predictors[i] = rescale(left_quant, current_quant, pLeft[i + 7]);                          predictors[i] = rescale(left_quant, current_quant, pLeft[i + 7]);
# Line 244  Line 247 
247          int16_t *pCurrent = pMB->pred_values[block];          int16_t *pCurrent = pMB->pred_values[block];
248          uint32_t i;          uint32_t i;
249    
250          DPRINTF(DPRINTF_COEFF,"predictor[0] %i", predictors[0]);          DPRINTF(XVID_DEBUG_COEFF,"predictor[0] %i\n", predictors[0]);
251    
252          dct_codes[0] += predictors[0];  // dc prediction          dct_codes[0] += predictors[0];  /* dc prediction */
253          pCurrent[0] = dct_codes[0] * iDcScaler;          pCurrent[0] = dct_codes[0] * iDcScaler;
254    
255          if (acpred_direction == 1) {          if (acpred_direction == 1) {
256                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
257                          int level = dct_codes[i] + predictors[i];                          int level = dct_codes[i] + predictors[i];
258    
259                          DPRINTF(DPRINTF_COEFF,"predictor[%i] %i",i, predictors[i]);                          DPRINTF(XVID_DEBUG_COEFF,"predictor[%i] %i\n",i, predictors[i]);
260    
261                          dct_codes[i] = level;                          dct_codes[i] = level;
262                          pCurrent[i] = level;                          pCurrent[i] = level;
# Line 262  Line 265 
265          } else if (acpred_direction == 2) {          } else if (acpred_direction == 2) {
266                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
267                          int level = dct_codes[i * 8] + predictors[i];                          int level = dct_codes[i * 8] + predictors[i];
268                          DPRINTF(DPRINTF_COEFF,"predictor[%i] %i",i*8, predictors[i]);                          DPRINTF(XVID_DEBUG_COEFF,"predictor[%i] %i\n",i*8, predictors[i]);
269    
270                          dct_codes[i * 8] = level;                          dct_codes[i * 8] = level;
271                          pCurrent[i + 7] = level;                          pCurrent[i + 7] = level;
# Line 278  Line 281 
281    
282    
283    
284  // ******************************************************************  /*****************************************************************************
285  // ******************************************************************   ****************************************************************************/
286    
287  /* encoder: subtract predictors from qcoeff[] and calculate S1/S2  /* encoder: subtract predictors from qcoeff[] and calculate S1/S2
288    
# Line 318  Line 321 
321                          int16_t level;                          int16_t level;
322    
323                          level = qcoeff[i];                          level = qcoeff[i];
324                          S2 += ABS(level);                          S2 += abs(level);
325                          level -= predictors[i];                          level -= predictors[i];
326                          S1 += ABS(level);                          S1 += abs(level);
327                          predictors[i] = level;                          predictors[i] = level;
328                  }                  }
329          } else                                          // acpred_direction == 2          } else                                          /* acpred_direction == 2 */
330          {          {
331                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
332                          int16_t level;                          int16_t level;
333    
334                          level = qcoeff[i * 8];                          level = qcoeff[i * 8];
335                          S2 += ABS(level);                          S2 += abs(level);
336                          level -= predictors[i];                          level -= predictors[i];
337                          S1 += ABS(level);                          S1 += abs(level);
338                          predictors[i] = level;                          predictors[i] = level;
339                  }                  }
340    
# Line 383  Line 386 
386                          qcoeff[i] -= predictors[i];                          qcoeff[i] -= predictors[i];
387                          predictors[i] = qcoeff[i];                          predictors[i] = qcoeff[i];
388                  }                  }
389          }else{                                          // acpred_direction == 2          }else{                                          /* acpred_direction == 2 */
390                  for (i = 1; i < 8; i++) {                  for (i = 1; i < 8; i++) {
391                          tmp[i] = qcoeff[i*8];                          tmp[i] = qcoeff[i*8];
392                          qcoeff[i*8] -= predictors[i];                          qcoeff[i*8] -= predictors[i];
# Line 401  Line 404 
404          if (direction == 1) {          if (direction == 1) {
405                  for (i = 1; i < 8; i++)                  for (i = 1; i < 8; i++)
406                          qcoeff[i] = tmp[i];                          qcoeff[i] = tmp[i];
407          }else{                                          // acpred_direction == 2          }else{                                          /* acpred_direction == 2 */
408                  for (i = 1; i < 8; i++)                  for (i = 1; i < 8; i++)
409                          qcoeff[i*8] = tmp[i];                          qcoeff[i*8] = tmp[i];
410          }          }
# Line 438  Line 441 
441  {  {
442    
443          int32_t j;          int32_t j;
444          int32_t iDcScaler, iQuant = frame->quant;          int32_t iDcScaler, iQuant;
445          int S = 0;          int S = 0;
446          int16_t predictors[6][8];          int16_t predictors[6][8];
447    
448          MACROBLOCK *pMB = &frame->mbs[x + y * mb_width];          MACROBLOCK *pMB = &frame->mbs[x + y * mb_width];
449        iQuant = pMB->quant;
450    
451          if ((pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q)) {          if ((pMB->mode == MODE_INTRA) || (pMB->mode == MODE_INTRA_Q)) {
452    
# Line 452  Line 456 
456                          predict_acdc(frame->mbs, x, y, mb_width, j, &qcoeff[j * 64],                          predict_acdc(frame->mbs, x, y, mb_width, j, &qcoeff[j * 64],
457                                                   iQuant, iDcScaler, predictors[j], 0);                                                   iQuant, iDcScaler, predictors[j], 0);
458    
459                          if ((frame->global_flags & XVID_HQACPRED))                          if ((frame->vop_flags & XVID_VOP_HQACPRED))
460                                  S += calc_acdc_bits(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);                                  S += calc_acdc_bits(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);
461                          else                          else
462                                  S += calc_acdc_coeff(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);                                  S += calc_acdc_coeff(pMB, j, &qcoeff[j * 64], iDcScaler, predictors[j]);
463    
464                  }                  }
465    
466                  if (S<=0) {                             // dont predict                  if (S<=0) {                             /* dont predict */
467                          for (j = 0; j < 6; j++)                          for (j = 0; j < 6; j++)
468                                  pMB->acpred_directions[j] = 0;                                  pMB->acpred_directions[j] = 0;
469                  }else{                  }else{

Legend:
Removed from v.1.13  
changed lines
  Added in v.1.13.2.7

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4