[cvs] / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.25.2.8, Sat Jan 4 04:23:53 2003 UTC revision 1.30, Tue Sep 10 22:52:12 2002 UTC
# Line 1  Line 1 
1   /******************************************************************************  /*****************************************************************************
2    *                                                                            *   *
3    *  This file is part of XviD, a free MPEG-4 video encoder/decoder            *   *  XVID MPEG-4 VIDEO CODEC
4    *                                                                            *   *  - Macro Block coding functions -
5    *  XviD is an implementation of a part of one or more MPEG-4 Video tools     *   *
6    *  as specified in ISO/IEC 14496-2 standard.  Those intending to use this    *   *  Copyright(C) 2002 Michael Militzer <isibaar@xvid.org>
7    *  software module in hardware or software products are advised that its     *   *
8    *  use may infringe existing patents or copyrights, and any such use         *   *
9    *  would be at such party's own risk.  The original developer of this        *   *  This program is an implementation of a part of one or more MPEG-4
10    *  software module and his/her company, and subsequent editors and their     *   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
11    *  companies, will have no liability for use of this software or             *   *  to use this software module in hardware or software products are
12    *  modifications or derivatives thereof.                                     *   *  advised that its use may infringe existing patents or copyrights, and
13    *                                                                            *   *  any such use would be at such party's own risk.  The original
14    *  XviD is free software; you can redistribute it and/or modify it           *   *  developer of this software module and his/her company, and subsequent
15    *  under the terms of the GNU General Public License as published by         *   *  editors and their companies, will have no liability for use of this
16    *  the Free Software Foundation; either version 2 of the License, or         *   *  software or modifications or derivatives thereof.
17    *  (at your option) any later version.                                       *   *
18    *                                                                            *   *  This program is free software; you can redistribute it and/or modify
19    *  XviD is distributed in the hope that it will be useful, but               *   *  it under the terms of the GNU General Public License as published by
20    *  WITHOUT ANY WARRANTY; without even the implied warranty of                *   *  the Free Software Foundation; either version 2 of the License, or
21    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the             *   *  (at your option) any later version.
22    *  GNU General Public License for more details.                              *   *
23    *                                                                            *   *  This program is distributed in the hope that it will be useful,
24    *  You should have received a copy of the GNU General Public License         *   *  but WITHOUT ANY WARRANTY; without even the implied warranty of
25    *  along with this program; if not, write to the Free Software               *   *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
26    *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA  *   *  GNU General Public License for more details.
27    *                                                                            *   *
28    ******************************************************************************/   *  You should have received a copy of the GNU General Public License
29     *  along with this program; if not, write to the Free Software
30   /******************************************************************************   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
31    *                                                                            *   *
32    *  mbcoding.c                                                                *   * $Id$
33    *                                                                            *   *
34    *  Copyright (C) 2002 - Michael Militzer <isibaar@xvid.org>                  *   ****************************************************************************/
   *                                                                            *  
   *  For more information visit the XviD homepage: http://www.xvid.org         *  
   *                                                                            *  
   ******************************************************************************/  
   
  /******************************************************************************  
   *                                                                                                                                                        *  
   *  Revision history:                                                         *  
   *                                                                            *  
   *  28.10.2002 GMC support - gruel                                                                                        *  
   *  28.06.2002 added check_resync_marker()                                    *  
   *  14.04.2002 bframe encoding                                                                                            *  
   *  08.03.2002 initial version; isibaar                                                           *  
   *                                                                                                                                                        *  
   ******************************************************************************/  
   
   
35    
36  #include <stdlib.h>  #include <stdlib.h>
37  #include "../portab.h"  #include "../portab.h"
# Line 62  Line 45 
45  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
46  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
47    
48  VLC intra_table[4*2048*64];  /*****************************************************************************
49  VLC inter_table[4*2048*64];   * Local data
50     ****************************************************************************/
51  VLC DCT3Dintra[4096];  
52  VLC DCT3Dinter[4096];  static VLC intra_table[524032];
53    static VLC inter_table[524032];
54  /* not really MB related, but VLCs are only available here */  
55  void bs_put_spritetrajectory(Bitstream * bs, const int val)  static VLC DCT3Dintra[4096];
56  {  static VLC DCT3Dinter[4096];
57          const int code = sprite_trajectory_code[val+16384].code;  
58          const int len = sprite_trajectory_code[val+16384].len;  /*****************************************************************************
59          const int code2 = sprite_trajectory_len[len].code;   * Vector Length Coding Initialization
60          const int len2 = sprite_trajectory_len[len].len;   ****************************************************************************/
   
 //      printf("GMC=%d Code/Len  = %d / %d ",val, code,len);  
 //      printf("Code2 / Len2 = %d / %d \n",code2,len2);  
   
         BitstreamPutBits(bs, code2, len2);  
         if (len) BitstreamPutBits(bs, code, len);  
 }  
   
 int bs_get_spritetrajectory(Bitstream * bs)  
 {  
         int i;  
         for (i = 0; i < 12; i++)  
         {  
                 if (BitstreamShowBits(bs, sprite_trajectory_len[i].len) == sprite_trajectory_len[i].code)  
                 {  
                         BitstreamSkip(bs, sprite_trajectory_len[i].len);  
                         return i;  
                 }  
         }  
         return -1;  
 }  
61    
62  void  void
63  init_vlc_tables(void)  init_vlc_tables(void)
# Line 103  Line 65 
65    
66          int32_t k, l, i, intra, last;          int32_t k, l, i, intra, last;
67          VLC *vlc[2];          VLC *vlc[2];
68          VLC **coeff_ptr;          VLC const **coeff_ptr;
69          VLC *vlc1, *vlc2;          VLC *vlc1, *vlc2;
70    
71          vlc1 = DCT3Dintra;          vlc1 = DCT3Dintra;
# Line 112  Line 74 
74          vlc[0] = intra_table;          vlc[0] = intra_table;
75          vlc[1] = inter_table;          vlc[1] = inter_table;
76    
77          // generate encoding vlc lookup tables          /*
78          // the lookup table idea is taken from the excellent fame project by Vivien Chapellier           * Generate encoding vlc lookup tables
79             * the lookup table idea is taken from the excellent fame project
80             * by Vivien Chapellier
81             */
82          for (i = 0; i < 4; i++) {          for (i = 0; i < 4; i++) {
83                  intra = i % 2;                  intra = i % 2;
84                  last = i / 2;                  last = i / 2;
# Line 121  Line 86 
86                  coeff_ptr = coeff_vlc[last + 2 * intra];                  coeff_ptr = coeff_vlc[last + 2 * intra];
87    
88                  for (k = -2047; k < 2048; k++) {        // level                  for (k = -2047; k < 2048; k++) {        // level
89                          int8_t *max_level_ptr = max_level[last + 2 * intra];                          int8_t const *max_level_ptr = max_level[last + 2 * intra];
90                          int8_t *max_run_ptr = max_run[last + 2 * intra];                          int8_t const *max_run_ptr = max_run[last + 2 * intra];
91    
92                          for (l = 0; l < 64; l++) {      // run                          for (l = 0; l < 64; l++) {      // run
93                                  int32_t level = k;                                  int32_t level = k;
# Line 213  Line 178 
178          DCT3D[0] = DCT3Dinter;          DCT3D[0] = DCT3Dinter;
179          DCT3D[1] = DCT3Dintra;          DCT3D[1] = DCT3Dintra;
180    
   
 /* init sprite_trajectory tables */  
 /* even if GMC is not specified (it might be used later...) */  
   
         sprite_trajectory_code[0+16384].code = 0;  
         sprite_trajectory_code[0+16384].len = 0;  
         for (k=0;k<14;k++)  
         {  
                 int limit = (1<<k);  
   
                 for (i=-(2*limit-1); i<= -limit; i++)  
                 {  
                         sprite_trajectory_code[i+16384].code = (2*limit-1)+i;  
                         sprite_trajectory_code[i+16384].len = k+1;  
181                  }                  }
182    
183                  for (i=limit; i<= 2*limit-1; i++)  /*****************************************************************************
184                  {   * Local inlined functions for MB coding
185                          sprite_trajectory_code[i+16384].code = i;   ****************************************************************************/
                         sprite_trajectory_code[i+16384].len = k+1;  
                 }  
         }  
 }  
186    
187  static __inline void  static __inline void
188  CodeVector(Bitstream * bs,  CodeVector(Bitstream * bs,
# Line 292  Line 239 
239    
240  }  }
241    
   
242  static __inline void  static __inline void
243  CodeCoeff(Bitstream * bs,  CodeCoeff(Bitstream * bs,
244                    const int16_t qcoeff[64],                    const int16_t qcoeff[64],
# Line 331  Line 277 
277    
278  }  }
279    
280    /*****************************************************************************
281     * Local functions
282     ****************************************************************************/
283    
284  static __inline void  static void
285  CodeBlockIntra(const FRAMEINFO * const frame,  CodeBlockIntra(const FRAMEINFO * frame,
286                             const MACROBLOCK * pMB,                             const MACROBLOCK * pMB,
287                             int16_t qcoeff[6 * 64],                             int16_t qcoeff[6 * 64],
288                             Bitstream * bs,                             Bitstream * bs,
# Line 382  Line 331 
331                                                           dcc_tab[qcoeff[i * 64 + 0] + 255].len);                                                           dcc_tab[qcoeff[i * 64 + 0] + 255].len);
332    
333                  if (pMB->cbp & (1 << (5 - i))) {                  if (pMB->cbp & (1 << (5 - i))) {
                         const uint16_t *scan_table =  
                                 frame->global_flags & XVID_ALTERNATESCAN ?  
                                 scan_tables[2] : scan_tables[pMB->acpred_directions[i]];  
   
334                          bits = BitstreamPos(bs);                          bits = BitstreamPos(bs);
335    
336                          CodeCoeff(bs, &qcoeff[i * 64], intra_table, scan_table, 1);                          CodeCoeff(bs, &qcoeff[i * 64], intra_table,
337                                              scan_tables[pMB->acpred_directions[i]], 1);
338    
339                          bits = BitstreamPos(bs) - bits;                          bits = BitstreamPos(bs) - bits;
340                          pStat->iTextBits += bits;                          pStat->iTextBits += bits;
# Line 399  Line 345 
345    
346    
347  static void  static void
348  CodeBlockInter(const FRAMEINFO * const frame,  CodeBlockInter(const FRAMEINFO * frame,
349                             const MACROBLOCK * pMB,                             const MACROBLOCK * pMB,
350                             int16_t qcoeff[6 * 64],                             int16_t qcoeff[6 * 64],
351                             Bitstream * bs,                             Bitstream * bs,
# Line 408  Line 354 
354    
355          int32_t i;          int32_t i;
356          uint32_t bits, mcbpc, cbpy;          uint32_t bits, mcbpc, cbpy;
         int mcsel=0;  
357    
358          mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);          mcbpc = (pMB->mode & 7) | ((pMB->cbp & 3) << 3);
359          cbpy = 15 - (pMB->cbp >> 2);          cbpy = 15 - (pMB->cbp >> 2);
# Line 417  Line 362 
362          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,          BitstreamPutBits(bs, mcbpc_inter_tab[mcbpc].code,
363                                           mcbpc_inter_tab[mcbpc].len);                                           mcbpc_inter_tab[mcbpc].len);
364    
         if ( (frame->coding_type == S_VOP) && (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) )  
         {  
                 if (frame->quarterpel) {  
                         if ( (pMB->qmvs[0].x == frame->GMC_MV.x) && (pMB->qmvs[0].y == frame->GMC_MV.y) )  
                                 mcsel=1;  
                 } else {  
                         if ( (pMB->mvs[0].x == frame->GMC_MV.x) && (pMB->mvs[0].y == frame->GMC_MV.y) )  
                                 mcsel=1;  
                 }  
                 BitstreamPutBit(bs, mcsel);             // mcsel: '0'=local motion, '1'=GMC  
         }  
   
365          // write cbpy          // write cbpy
366          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);          BitstreamPutBits(bs, cbpy_tab[cbpy].code, cbpy_tab[cbpy].len);
367    
# Line 440  Line 373 
373          if (frame->global_flags & XVID_INTERLACING) {          if (frame->global_flags & XVID_INTERLACING) {
374                  if (pMB->cbp) {                  if (pMB->cbp) {
375                          BitstreamPutBit(bs, pMB->field_dct);                          BitstreamPutBit(bs, pMB->field_dct);
376                          DPRINTF(DPRINTF_MB,"codep: field_dct: %i", pMB->field_dct);                          DEBUG1("codep: field_dct: ", pMB->field_dct);
377                  }                  }
378    
379                  // if inter block, write field ME flag                  // if inter block, write field ME flag
380                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {                  if (pMB->mode == MODE_INTER || pMB->mode == MODE_INTER_Q) {
381                          BitstreamPutBit(bs, pMB->field_pred);                          BitstreamPutBit(bs, pMB->field_pred);
382                          DPRINTF(DPRINTF_MB,"codep: field_pred: %i", pMB->field_pred);                          DEBUG1("codep: field_pred: ", pMB->field_pred);
383    
384                          // write field prediction references                          // write field prediction references
385                          if (pMB->field_pred) {                          if (pMB->field_pred) {
# Line 455  Line 388 
388                          }                          }
389                  }                  }
390          }          }
391          // code motion vector(s) if motion is local          // code motion vector(s)
         if (mcsel==0)  
392                  for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {                  for (i = 0; i < (pMB->mode == MODE_INTER4V ? 4 : 1); i++) {
393                          CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);                          CodeVector(bs, pMB->pmvs[i].x, frame->fcode, pStat);
394                          CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);                          CodeVector(bs, pMB->pmvs[i].y, frame->fcode, pStat);
# Line 467  Line 399 
399          // code block coeffs          // code block coeffs
400          for (i = 0; i < 6; i++)          for (i = 0; i < 6; i++)
401                  if (pMB->cbp & (1 << (5 - i)))                  if (pMB->cbp & (1 << (5 - i)))
402                  {                          CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[0], 0);
                         const uint16_t *scan_table =  
                                 frame->global_flags & XVID_ALTERNATESCAN ?  
                                 scan_tables[2] : scan_tables[0];  
   
                         CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_table, 0);  
                 }  
403    
404          bits = BitstreamPos(bs) - bits;          bits = BitstreamPos(bs) - bits;
405          pStat->iTextBits += bits;          pStat->iTextBits += bits;
406    
407  }  }
408    
409    /*****************************************************************************
410     * Macro Block bitstream encoding functions
411     ****************************************************************************/
412    
413  void  void
414  MBCoding(const FRAMEINFO * const frame,  MBCoding(const FRAMEINFO * frame,
415                   MACROBLOCK * pMB,                   MACROBLOCK * pMB,
416                   int16_t qcoeff[6 * 64],                   int16_t qcoeff[6 * 64],
417                   Bitstream * bs,                   Bitstream * bs,
418                   Statistics * pStat)                   Statistics * pStat)
419  {  {
420          if (frame->coding_type != I_VOP)  
421                          BitstreamPutBit(bs, 0); // not_coded          if (frame->coding_type == P_VOP) {
422                            BitstreamPutBit(bs, 0); // coded
423            }
424    
425          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)          if (pMB->mode == MODE_INTRA || pMB->mode == MODE_INTRA_Q)
426                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);                  CodeBlockIntra(frame, pMB, qcoeff, bs, pStat);
# Line 497  Line 429 
429    
430  }  }
431    
432  /*  
 // moved to mbcoding.h so that in can be 'static __inline'  
433  void  void
434  MBSkip(Bitstream * bs)  MBSkip(Bitstream * bs)
435  {  {
436          BitstreamPutBit(bs, 1); // not coded          BitstreamPutBit(bs, 1); // not coded
437            return;
438  }  }
 */  
439    
440  /***************************************************************  /*****************************************************************************
441   * bframe encoding start   * decoding stuff starts here
442   ***************************************************************/   ****************************************************************************/
443    
444  /*  /*
445          mbtype   * For IVOP addbits == 0
446          0       1b              direct(h263)            mvdb   * For PVOP addbits == fcode - 1
447          1       01b             interpolate mc+q        dbquant, mvdf, mvdb   * For BVOP addbits == max(fcode,bcode) - 1
448          2       001b    backward mc+q           dbquant, mvdb   * returns true or false
         3       0001b   forward mc+q            dbquant, mvdf  
449  */  */
450    
 static __inline void  
 put_bvop_mbtype(Bitstream * bs,  
                                 int value)  
 {  
         switch (value) {  
                 case MODE_FORWARD:  
                         BitstreamPutBit(bs, 0);  
                 case MODE_BACKWARD:  
                         BitstreamPutBit(bs, 0);  
                 case MODE_INTERPOLATE:  
                         BitstreamPutBit(bs, 0);  
                 case MODE_DIRECT:  
                         BitstreamPutBit(bs, 1);  
                 default:  
                         break;  
         }  
 }  
   
 /*  
         dbquant  
         -2      10b  
         0       0b  
         +2      11b  
 */  
   
 static __inline void  
 put_bvop_dbquant(Bitstream * bs,  
                                  int value)  
 {  
         switch (value) {  
         case 0:  
                 BitstreamPutBit(bs, 0);  
                 return;  
   
         case -2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 0);  
                 return;  
   
         case 2:  
                 BitstreamPutBit(bs, 1);  
                 BitstreamPutBit(bs, 1);  
                 return;  
   
         default:;                                       // invalid  
         }  
 }  
   
   
   
 void  
 MBCodingBVOP(const MACROBLOCK * mb,  
                          const int16_t qcoeff[6 * 64],  
                          const int32_t fcode,  
                          const int32_t bcode,  
                          Bitstream * bs,  
                          Statistics * pStat,  
                          int direction)  
 {  
         int vcode = fcode;  
         unsigned int i;  
   
 /*      ------------------------------------------------------------------  
                 when a block is skipped it is decoded DIRECT(0,0)  
                 hence is interpolated from forward & backward frames  
         ------------------------------------------------------------------ */  
   
         if (mb->mode == MODE_DIRECT_NONE_MV) {  
                 BitstreamPutBit(bs, 1); // skipped  
                 return;  
         }  
   
         BitstreamPutBit(bs, 0);         // not skipped  
   
         if (mb->cbp == 0) {  
                 BitstreamPutBit(bs, 1); // cbp == 0  
         } else {  
                 BitstreamPutBit(bs, 0); // cbp == xxx  
         }  
   
         put_bvop_mbtype(bs, mb->mode);  
   
         if (mb->cbp) {  
                 BitstreamPutBits(bs, mb->cbp, 6);  
         }  
   
         if (mb->mode != MODE_DIRECT && mb->cbp != 0) {  
                 put_bvop_dbquant(bs, 0);        // todo: mb->dquant = 0  
         }  
   
         switch (mb->mode) {  
                 case MODE_INTERPOLATE:  
                         CodeVector(bs, mb->pmvs[1].x, vcode, pStat); //forward vector of interpolate mode  
                         CodeVector(bs, mb->pmvs[1].y, vcode, pStat);  
                 case MODE_BACKWARD:  
                         vcode = bcode;  
                 case MODE_FORWARD:  
                         CodeVector(bs, mb->pmvs[0].x, vcode, pStat);  
                         CodeVector(bs, mb->pmvs[0].y, vcode, pStat);  
                         break;  
                 case MODE_DIRECT:  
                         CodeVector(bs, mb->pmvs[3].x, 1, pStat);        // fcode is always 1 for delta vector  
                         CodeVector(bs, mb->pmvs[3].y, 1, pStat);        // prediction is always (0,0)  
                 default: break;  
         }  
   
         for (i = 0; i < 6; i++) {  
                 if (mb->cbp & (1 << (5 - i))) {  
                         CodeCoeff(bs, &qcoeff[i * 64], inter_table, scan_tables[direction], 0);  
                 }  
         }  
 }  
   
   
   
 /***************************************************************  
  * decoding stuff starts here                                  *  
  ***************************************************************/  
   
   
 // for IVOP addbits == 0  
 // for PVOP addbits == fcode - 1  
 // for BVOP addbits == max(fcode,bcode) - 1  
 // returns true or false  
451  int  int
452  check_resync_marker(Bitstream * bs, int addbits)  check_resync_marker(Bitstream * bs, int addbits)
453  {  {
# Line 709  Line 515 
515    
516  }  }
517    
518  static __inline int  int
519  get_mv_data(Bitstream * bs)  get_mv_data(Bitstream * bs)
520  {  {
521    
# Line 818  Line 624 
624    
625  }  }
626    
627    /*****************************************************************************
628     * Local inlined function to "decode" written vlc codes
629     ****************************************************************************/
630    
631    static __inline int
632    get_coeff(Bitstream * bs,
633                      int *run,
634                      int *last,
635                      int intra,
636                      int short_video_header)
637    {
638    
639            uint32_t mode;
640            const VLC *tab;
641            int32_t level;
642    
643            if (short_video_header)         // inter-VLCs will be used for both intra and inter blocks
644                    intra = 0;
645    
646            tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];
647    
648            if (tab->code == -1)
649                    goto error;
650    
651            BitstreamSkip(bs, tab->len);
652    
653            if (tab->code != ESCAPE) {
654                    if (!intra) {
655                            *run = (tab->code >> 4) & 255;
656                            level = tab->code & 15;
657                            *last = (tab->code >> 12) & 1;
658                    } else {
659                            *run = (tab->code >> 8) & 255;
660                            level = tab->code & 255;
661                            *last = (tab->code >> 16) & 1;
662                    }
663                    return BitstreamGetBit(bs) ? -level : level;
664            }
665    
666            if (short_video_header) {
667                    // escape mode 4 - H.263 type, only used if short_video_header = 1
668                    *last = BitstreamGetBit(bs);
669                    *run = BitstreamGetBits(bs, 6);
670                    level = BitstreamGetBits(bs, 8);
671    
672                    if (level == 0 || level == 128)
673                            DEBUG1("Illegal LEVEL for ESCAPE mode 4:", level);
674    
675                    return (level >= 128 ? -(256 - level) : level);
676            }
677    
678            mode = BitstreamShowBits(bs, 2);
679    
680            if (mode < 3) {
681                    BitstreamSkip(bs, (mode == 2) ? 2 : 1);
682    
683                    tab = &DCT3D[intra][BitstreamShowBits(bs, 12)];
684                    if (tab->code == -1)
685                            goto error;
686    
687                    BitstreamSkip(bs, tab->len);
688    
689                    if (!intra) {
690                            *run = (tab->code >> 4) & 255;
691                            level = tab->code & 15;
692                            *last = (tab->code >> 12) & 1;
693                    } else {
694                            *run = (tab->code >> 8) & 255;
695                            level = tab->code & 255;
696                            *last = (tab->code >> 16) & 1;
697                    }
698    
699                    if (mode < 2)                   // first escape mode, level is offset
700                            level += max_level[*last + (!intra << 1)][*run];        // need to add back the max level
701                    else if (mode == 2)             // second escape mode, run is offset
702                            *run += max_run[*last + (!intra << 1)][level] + 1;
703    
704                    return BitstreamGetBit(bs) ? -level : level;
705            }
706            // third escape mode - fixed length codes
707            BitstreamSkip(bs, 2);
708            *last = BitstreamGetBits(bs, 1);
709            *run = BitstreamGetBits(bs, 6);
710            BitstreamSkip(bs, 1);           // marker
711            level = BitstreamGetBits(bs, 12);
712            BitstreamSkip(bs, 1);           // marker
713    
714            return (level & 0x800) ? (level | (-1 ^ 0xfff)) : level;
715    
716      error:
717            *run = VLC_ERROR;
718            return 0;
719    
720    }
721    
722    /*****************************************************************************
723     * MB reading functions
724     ****************************************************************************/
725    
726  void  void
727  get_intra_block(Bitstream * bs,  get_intra_block(Bitstream * bs,
728                                  int16_t * block,                                  int16_t * block,
# Line 826  Line 731 
731  {  {
732    
733          const uint16_t *scan = scan_tables[direction];          const uint16_t *scan = scan_tables[direction];
734          int level, run, last;          int level;
735            int run;
736            int last;
737    
738          do {          do {
739                  level = get_coeff(bs, &run, &last, 1, 0);                  level = get_coeff(bs, &run, &last, 1, 0);
740                  if (run == -1) {                  if (run == -1) {
741                          DPRINTF(DPRINTF_ERROR,"fatal: invalid run");                          DEBUG("fatal: invalid run");
742                          break;                          break;
743                  }                  }
744                  coeff += run;                  coeff += run;
# Line 840  Line 747 
747                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[coeff], level);
748                  //DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32));                  //DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[coeff], level, BitstreamShowBits(bs, 32));
749    
750                  if (level < -2047 || level > 2047) {                  if (level < -127 || level > 127) {
751                          DPRINTF(DPRINTF_ERROR,"warning: intra_overflow %i", level);                          DEBUG1("warning: intra_overflow", level);
752                  }                  }
753                  coeff++;                  coeff++;
754          } while (!last);          } while (!last);
# Line 850  Line 757 
757    
758  void  void
759  get_inter_block(Bitstream * bs,  get_inter_block(Bitstream * bs,
760                                  int16_t * block,                                  int16_t * block)
                                 int direction)  
761  {  {
762    
763          const uint16_t *scan = scan_tables[direction];          const uint16_t *scan = scan_tables[0];
764          int p;          int p;
765          int level;          int level;
766          int run;          int run;
# Line 864  Line 770 
770          do {          do {
771                  level = get_coeff(bs, &run, &last, 0, 0);                  level = get_coeff(bs, &run, &last, 0, 0);
772                  if (run == -1) {                  if (run == -1) {
773                          DPRINTF(DPRINTF_ERROR,"fatal: invalid run");                          DEBUG("fatal: invalid run");
774                          break;                          break;
775                  }                  }
776                  p += run;                  p += run;
# Line 874  Line 780 
780                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);                  DPRINTF(DPRINTF_COEFF,"block[%i] %i", scan[p], level);
781                  // DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[p], level, BitstreamShowBits(bs, 32));                  // DPRINTF(DPRINTF_COEFF,"block[%i] %i %08x", scan[p], level, BitstreamShowBits(bs, 32));
782    
783                  if (level < -2047 || level > 2047) {                  if (level < -127 || level > 127) {
784                          DPRINTF(DPRINTF_ERROR,"warning: inter overflow %i", level);                          DEBUG1("warning: inter_overflow", level);
785                  }                  }
786                  p++;                  p++;
787          } while (!last);          } while (!last);
Legend:
Removed from v.1.25.2.8  
changed lines
  Added in v.1.30
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4