[cvs] / xvidcore / src / decoder.c Repository:
ViewVC logotype

Diff of /xvidcore/src/decoder.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.49.2.28, Sun Dec 21 19:41:53 2003 UTC revision 1.53, Sat Apr 10 04:30:07 2004 UTC
# Line 4  Line 4 
4   *  - Decoder Module -   *  - Decoder Module -
5   *   *
6   *  Copyright(C) 2002      MinChen <chenm001@163.com>   *  Copyright(C) 2002      MinChen <chenm001@163.com>
7   *               2002-2003 Peter Ross <pross@xvid.org>   *               2002-2004 Peter Ross <pross@xvid.org>
8   *   *
9   *  This program is free software ; you can redistribute it and/or modify   *  This program is free software ; you can redistribute it and/or modify
10   *  it under the terms of the GNU General Public License as published by   *  it under the terms of the GNU General Public License as published by
# Line 77  Line 77 
77                  xvid_free(dec->last_mbs);                  xvid_free(dec->last_mbs);
78          if (dec->mbs)          if (dec->mbs)
79                  xvid_free(dec->mbs);                  xvid_free(dec->mbs);
80            if (dec->qscale)
81                    xvid_free(dec->qscale);
82    
83          /* realloc */          /* realloc */
84          dec->mb_width = (dec->width + 15) / 16;          dec->mb_width = (dec->width + 15) / 16;
# Line 161  Line 163 
163    
164          memset(dec->last_mbs, 0, sizeof(MACROBLOCK) * dec->mb_width * dec->mb_height);          memset(dec->last_mbs, 0, sizeof(MACROBLOCK) * dec->mb_width * dec->mb_height);
165    
166            /* nothing happens if that fails */
167            dec->qscale =
168                    xvid_malloc(sizeof(int) * dec->mb_width * dec->mb_height, CACHE_LINE);
169    
170            if (dec->qscale)
171                    memset(dec->qscale, 0, sizeof(int) * dec->mb_width * dec->mb_height);
172    
173          return 0;          return 0;
174  }  }
175    
# Line 200  Line 209 
209          /* image based GMC */          /* image based GMC */
210          image_null(&dec->gmc);          image_null(&dec->gmc);
211    
   
212          dec->mbs = NULL;          dec->mbs = NULL;
213          dec->last_mbs = NULL;          dec->last_mbs = NULL;
214            dec->qscale = NULL;
215    
216          init_timer();          init_timer();
217          init_postproc(&dec->postproc);          init_postproc(&dec->postproc);
# Line 228  Line 237 
237  {  {
238          xvid_free(dec->last_mbs);          xvid_free(dec->last_mbs);
239          xvid_free(dec->mbs);          xvid_free(dec->mbs);
240            xvid_free(dec->qscale);
241    
242          /* image based GMC */          /* image based GMC */
243          image_destroy(&dec->gmc, dec->edged_width, dec->edged_height);          image_destroy(&dec->gmc, dec->edged_width, dec->edged_height);
# Line 751  Line 761 
761                  mv.y -= range;                  mv.y -= range;
762          }          }
763    
764            /* clip to valid range */
765    
766            if (mv.x > ((int)(dec->mb_width - x) << (5 + dec->quarterpel)) )
767                    mv.x = (int)(dec->mb_width - x) << (5 + dec->quarterpel);
768    
769            else if (mv.x < (int)(-x-1) << (5 + dec->quarterpel))
770                    mv.x = (int)(-x-1) << (5 + dec->quarterpel);
771    
772            if (mv.y > ((int)(dec->mb_height - y) << (5 + dec->quarterpel)) )
773                    mv.y = (int)(dec->mb_height - y) << (5 + dec->quarterpel);
774    
775            else if (mv.y < ((int)(-y-1)) << (5 + dec->quarterpel) )
776                    mv.y = (int)(-y-1) << (5 + dec->quarterpel);
777    
778          ret_mv->x = mv.x;          ret_mv->x = mv.x;
779          ret_mv->y = mv.y;          ret_mv->y = mv.y;
780  }  }
# Line 779  Line 803 
803    
804          start_timer();          start_timer();
805          image_setedges(&dec->refn[0], dec->edged_width, dec->edged_height,          image_setedges(&dec->refn[0], dec->edged_width, dec->edged_height,
806                                          dec->width, dec->height);                                          dec->width, dec->height, dec->bs_version);
807          stop_edges_timer();          stop_edges_timer();
808    
809          if (gmc_warp) {          if (gmc_warp) {
# Line 851  Line 875 
875                                  mb->quant = quant;                                  mb->quant = quant;
876    
877                                  if (dec->interlacing) {                                  if (dec->interlacing) {
878                                          if ((cbp || intra) && !mcsel) {                                          if (cbp || intra) {
879                                                  mb->field_dct = BitstreamGetBit(bs);                                                  mb->field_dct = BitstreamGetBit(bs);
880                                                  DPRINTF(XVID_DEBUG_MB,"decp: field_dct: %i\n", mb->field_dct);                                                  DPRINTF(XVID_DEBUG_MB,"decp: field_dct: %i\n", mb->field_dct);
881                                          }                                          }
882    
883                                          if (mb->mode == MODE_INTER || mb->mode == MODE_INTER_Q) {                                          if ((mb->mode == MODE_INTER || mb->mode == MODE_INTER_Q) && !mcsel) {
884                                                  mb->field_pred = BitstreamGetBit(bs);                                                  mb->field_pred = BitstreamGetBit(bs);
885                                                  DPRINTF(XVID_DEBUG_MB, "decp: field_pred: %i\n", mb->field_pred);                                                  DPRINTF(XVID_DEBUG_MB, "decp: field_pred: %i\n", mb->field_pred);
886    
# Line 900  Line 924 
924    
925                          } else if (gmc_warp) {  /* a not coded S(GMC)-VOP macroblock */                          } else if (gmc_warp) {  /* a not coded S(GMC)-VOP macroblock */
926                                  mb->mode = MODE_NOT_CODED_GMC;                                  mb->mode = MODE_NOT_CODED_GMC;
927                                    mb->quant = quant;
928                                  decoder_mbgmc(dec, mb, x, y, fcode, 0x00, bs, rounding);                                  decoder_mbgmc(dec, mb, x, y, fcode, 0x00, bs, rounding);
929    
930                                  if(dec->out_frm && cp_mb > 0) {                                  if(dec->out_frm && cp_mb > 0) {
# Line 909  Line 934 
934                                  st_mb = x+1;                                  st_mb = x+1;
935                          } else {        /* not coded P_VOP macroblock */                          } else {        /* not coded P_VOP macroblock */
936                                  mb->mode = MODE_NOT_CODED;                                  mb->mode = MODE_NOT_CODED;
937                                    mb->quant = quant;
938    
939                                  mb->mvs[0].x = mb->mvs[1].x = mb->mvs[2].x = mb->mvs[3].x = 0;                                  mb->mvs[0].x = mb->mvs[1].x = mb->mvs[2].x = mb->mvs[3].x = 0;
940                                  mb->mvs[0].y = mb->mvs[1].y = mb->mvs[2].y = mb->mvs[3].y = 0;                                  mb->mvs[0].y = mb->mvs[1].y = mb->mvs[2].y = mb->mvs[3].y = 0;
# Line 935  Line 961 
961  get_b_motion_vector(Bitstream * bs,  get_b_motion_vector(Bitstream * bs,
962                                          VECTOR * mv,                                          VECTOR * mv,
963                                          int fcode,                                          int fcode,
964                                          const VECTOR pmv)                                          const VECTOR pmv,
965                                            const DECODER * const dec,
966                                            const int x, const int y)
967  {  {
968          const int scale_fac = 1 << (fcode - 1);          const int scale_fac = 1 << (fcode - 1);
969          const int high = (32 * scale_fac) - 1;          const int high = (32 * scale_fac) - 1;
# Line 958  Line 986 
986          else if (mv_y > high)          else if (mv_y > high)
987                  mv_y -= range;                  mv_y -= range;
988    
989    
990            /* clip to valid range */
991            if (mv_x > ((int)(dec->mb_width - x) << (5 + dec->quarterpel)) )
992                    mv_x = (int)(dec->mb_width - x) << (5 + dec->quarterpel);
993    
994            else if (mv_x < (int)(-x-1) << (5 + dec->quarterpel))
995                    mv_x = (int)(-x-1) << (5 + dec->quarterpel);
996    
997            if (mv_y > ((int)(dec->mb_height - y) << (5 + dec->quarterpel)) )
998                    mv_y = (int)(dec->mb_height - y) << (5 + dec->quarterpel);
999    
1000            else if (mv_y < ((int)(-y-1)) << (5 + dec->quarterpel) )
1001                    mv_y = (int)(-y-1) << (5 + dec->quarterpel);
1002    
1003          mv->x = mv_x;          mv->x = mv_x;
1004          mv->y = mv_y;          mv->y = mv_y;
1005  }  }
# Line 1050  Line 1092 
1092                                                          pMB->mvs[1].x, pMB->mvs[1].y, stride, 0);                                                          pMB->mvs[1].x, pMB->mvs[1].y, stride, 0);
1093                  interpolate8x8_switch(dec->cur.y, forward.y, 16 * x_pos, 16 * y_pos + 8,                  interpolate8x8_switch(dec->cur.y, forward.y, 16 * x_pos, 16 * y_pos + 8,
1094                                                          pMB->mvs[2].x, pMB->mvs[2].y, stride, 0);                                                          pMB->mvs[2].x, pMB->mvs[2].y, stride, 0);
1095                  interpolate8x8_switch(dec->cur.y, forward.y, 16 * x_pos + 8,                  interpolate8x8_switch(dec->cur.y, forward.y, 16 * x_pos + 8, 16 * y_pos + 8,
1096                                                          16 * y_pos + 8, pMB->mvs[3].x, pMB->mvs[3].y, stride, 0);                                                          pMB->mvs[3].x, pMB->mvs[3].y, stride, 0);
1097          }          }
1098    
1099          interpolate8x8_switch(dec->cur.u, forward.u, 8 * x_pos, 8 * y_pos, uv_dx,          interpolate8x8_switch(dec->cur.u, forward.u, 8 * x_pos, 8 * y_pos, uv_dx,
# Line 1178  Line 1220 
1220    
1221          start_timer();          start_timer();
1222          image_setedges(&dec->refn[0], dec->edged_width, dec->edged_height,          image_setedges(&dec->refn[0], dec->edged_width, dec->edged_height,
1223                                          dec->width, dec->height);                                          dec->width, dec->height, dec->bs_version);
1224          image_setedges(&dec->refn[1], dec->edged_width, dec->edged_height,          image_setedges(&dec->refn[1], dec->edged_width, dec->edged_height,
1225                                          dec->width, dec->height);                                          dec->width, dec->height, dec->bs_version);
1226          stop_edges_timer();          stop_edges_timer();
1227    
1228          for (y = 0; y < dec->mb_height; y++) {          for (y = 0; y < dec->mb_height; y++) {
# Line 1264  Line 1306 
1306    
1307                          switch (mb->mode) {                          switch (mb->mode) {
1308                          case MODE_DIRECT:                          case MODE_DIRECT:
1309                                  get_b_motion_vector(bs, &mv, 1, zeromv);                                  get_b_motion_vector(bs, &mv, 1, zeromv, dec, x, y);
1310    
1311                          case MODE_DIRECT_NONE_MV:                          case MODE_DIRECT_NONE_MV:
1312                                  for (i = 0; i < 4; i++) {                                  for (i = 0; i < 4; i++) {
# Line 1283  Line 1325 
1325                                  break;                                  break;
1326    
1327                          case MODE_INTERPOLATE:                          case MODE_INTERPOLATE:
1328                                  get_b_motion_vector(bs, &mb->mvs[0], fcode_forward, dec->p_fmv);                                  get_b_motion_vector(bs, &mb->mvs[0], fcode_forward, dec->p_fmv, dec, x, y);
1329                                  dec->p_fmv = mb->mvs[1] = mb->mvs[2] = mb->mvs[3] =     mb->mvs[0];                                  dec->p_fmv = mb->mvs[1] = mb->mvs[2] = mb->mvs[3] =     mb->mvs[0];
1330    
1331                                  get_b_motion_vector(bs, &mb->b_mvs[0], fcode_backward, dec->p_bmv);                                  get_b_motion_vector(bs, &mb->b_mvs[0], fcode_backward, dec->p_bmv, dec, x, y);
1332                                  dec->p_bmv = mb->b_mvs[1] = mb->b_mvs[2] = mb->b_mvs[3] = mb->b_mvs[0];                                  dec->p_bmv = mb->b_mvs[1] = mb->b_mvs[2] = mb->b_mvs[3] = mb->b_mvs[0];
1333    
1334                                  decoder_bf_interpolate_mbinter(dec, dec->refn[1], dec->refn[0],                                  decoder_bf_interpolate_mbinter(dec, dec->refn[1], dec->refn[0],
# Line 1294  Line 1336 
1336                                  break;                                  break;
1337    
1338                          case MODE_BACKWARD:                          case MODE_BACKWARD:
1339                                  get_b_motion_vector(bs, &mb->mvs[0], fcode_backward, dec->p_bmv);                                  get_b_motion_vector(bs, &mb->mvs[0], fcode_backward, dec->p_bmv, dec, x, y);
1340                                  dec->p_bmv = mb->mvs[1] = mb->mvs[2] = mb->mvs[3] =     mb->mvs[0];                                  dec->p_bmv = mb->mvs[1] = mb->mvs[2] = mb->mvs[3] =     mb->mvs[0];
1341    
1342                                  decoder_mbinter(dec, mb, x, y, mb->cbp, bs, 0, 0, 0);                                  decoder_mbinter(dec, mb, x, y, mb->cbp, bs, 0, 0, 0);
1343                                  break;                                  break;
1344    
1345                          case MODE_FORWARD:                          case MODE_FORWARD:
1346                                  get_b_motion_vector(bs, &mb->mvs[0], fcode_forward, dec->p_fmv);                                  get_b_motion_vector(bs, &mb->mvs[0], fcode_forward, dec->p_fmv, dec, x, y);
1347                                  dec->p_fmv = mb->mvs[1] = mb->mvs[2] = mb->mvs[3] =     mb->mvs[0];                                  dec->p_fmv = mb->mvs[1] = mb->mvs[2] = mb->mvs[3] =     mb->mvs[0];
1348    
1349                                  decoder_mbinter(dec, mb, x, y, mb->cbp, bs, 0, 0, 1);                                  decoder_mbinter(dec, mb, x, y, mb->cbp, bs, 0, 0, 1);
# Line 1322  Line 1364 
1364          if (dec->cartoon_mode)          if (dec->cartoon_mode)
1365                  frame->general &= ~XVID_FILMEFFECT;                  frame->general &= ~XVID_FILMEFFECT;
1366    
1367          if (frame->general & (XVID_DEBLOCKY|XVID_DEBLOCKUV|XVID_FILMEFFECT) && mbs != NULL)     /* post process */          if ((frame->general & (XVID_DEBLOCKY|XVID_DEBLOCKUV|XVID_FILMEFFECT) || frame->brightness!=0)
1368                    && mbs != NULL) /* post process */
1369          {          {
1370                  /* note: image is stored to tmp */                  /* note: image is stored to tmp */
1371                  image_copy(&dec->tmp, img, dec->edged_width, dec->height);                  image_copy(&dec->tmp, img, dec->edged_width, dec->height);
1372                  image_postproc(&dec->postproc, &dec->tmp, dec->edged_width,                  image_postproc(&dec->postproc, &dec->tmp, dec->edged_width,
1373                                             mbs, dec->mb_width, dec->mb_height, dec->mb_width,                                             mbs, dec->mb_width, dec->mb_height, dec->mb_width,
1374                                             frame->general, dec->frames, (coding_type == B_VOP));                                             frame->general, frame->brightness, dec->frames, (coding_type == B_VOP));
1375                  img = &dec->tmp;                  img = &dec->tmp;
1376          }          }
1377    
# Line 1340  Line 1383 
1383                  stats->type = coding2type(coding_type);                  stats->type = coding2type(coding_type);
1384                  stats->data.vop.time_base = (int)dec->time_base;                  stats->data.vop.time_base = (int)dec->time_base;
1385                  stats->data.vop.time_increment = 0;     /* XXX: todo */                  stats->data.vop.time_increment = 0;     /* XXX: todo */
1386                    stats->data.vop.qscale_stride = dec->mb_width;
1387                    stats->data.vop.qscale = dec->qscale;
1388                    if (stats->data.vop.qscale != NULL && mbs != NULL) {
1389                            int i;
1390                            for (i = 0; i < dec->mb_width*dec->mb_height; i++)
1391                                    stats->data.vop.qscale[i] = mbs[i].quant;
1392                    } else
1393                            stats->data.vop.qscale = NULL;
1394          }          }
1395  }  }
1396    
# Line 1352  Line 1403 
1403          Bitstream bs;          Bitstream bs;
1404          uint32_t rounding;          uint32_t rounding;
1405          uint32_t reduced_resolution;          uint32_t reduced_resolution;
1406          uint32_t quant;          uint32_t quant = 2;
1407          uint32_t fcode_forward;          uint32_t fcode_forward;
1408          uint32_t fcode_backward;          uint32_t fcode_backward;
1409          uint32_t intra_dc_threshold;          uint32_t intra_dc_threshold;
# Line 1402  Line 1453 
1453    
1454          success = 0;          success = 0;
1455          output = 0;          output = 0;
1456            if (stats) stats->type = XVID_TYPE_NOTHING;
1457          seen_something = 0;          seen_something = 0;
1458    
1459  repeat:  repeat:
# Line 1508  Line 1560 
1560                          /* attemping to decode a bvop without atleast 2 reference frames */                          /* attemping to decode a bvop without atleast 2 reference frames */
1561                          image_printf(&dec->cur, dec->edged_width, dec->height, 16, 16,                          image_printf(&dec->cur, dec->edged_width, dec->height, 16, 16,
1562                                                  "broken b-frame, mising ref frames");                                                  "broken b-frame, mising ref frames");
1563                          stats->type = XVID_TYPE_NOTHING;                          if (stats) stats->type = XVID_TYPE_NOTHING;
1564                  } else if (dec->time_pp <= dec->time_bp) {                  } else if (dec->time_pp <= dec->time_bp) {
1565                          /* this occurs when dx50_bvop_compatibility==0 sequences are                          /* this occurs when dx50_bvop_compatibility==0 sequences are
1566                          decoded in vfw. */                          decoded in vfw. */
1567                          image_printf(&dec->cur, dec->edged_width, dec->height, 16, 16,                          image_printf(&dec->cur, dec->edged_width, dec->height, 16, 16,
1568                                                  "broken b-frame, tpp=%i tbp=%i", dec->time_pp, dec->time_bp);                                                  "broken b-frame, tpp=%i tbp=%i", dec->time_pp, dec->time_bp);
1569                          stats->type = XVID_TYPE_NOTHING;                          if (stats) stats->type = XVID_TYPE_NOTHING;
1570                  } else {                  } else {
1571                          decoder_bframe(dec, &bs, quant, fcode_forward, fcode_backward);                          decoder_bframe(dec, &bs, quant, fcode_forward, fcode_backward);
1572                          decoder_output(dec, &dec->cur, dec->mbs, frame, stats, coding_type, quant);                          decoder_output(dec, &dec->cur, dec->mbs, frame, stats, coding_type, quant);
# Line 1524  Line 1576 
1576                  dec->frames++;                  dec->frames++;
1577          }          }
1578    
1579    #if 0 /* Avoids to read to much data because of 32bit reads in our BS functions */
1580          BitstreamByteAlign(&bs);          BitstreamByteAlign(&bs);
1581    #endif
1582    
1583          /* low_delay_default mode: repeat in packed_mode */          /* low_delay_default mode: repeat in packed_mode */
1584          if (dec->low_delay_default && dec->packed_mode && output == 0 && success == 0) {          if (dec->low_delay_default && dec->packed_mode && output == 0 && success == 0) {
# Line 1555  Line 1609 
1609          emms();          emms();
1610          stop_global_timer();          stop_global_timer();
1611    
1612          return BitstreamPos(&bs) / 8;   /* number of bytes consumed */          return (BitstreamPos(&bs) + 7) / 8;     /* number of bytes consumed */
1613  }  }

Legend:
Removed from v.1.49.2.28  
changed lines
  Added in v.1.53

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4