[cvs] / xvidcore / src / bitstream / mbcoding.c Repository:
ViewVC logotype

Diff of /xvidcore/src/bitstream/mbcoding.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.7, Thu Mar 28 20:57:24 2002 UTC revision 1.8, Thu Apr 4 13:58:18 2002 UTC
# Line 1  Line 1 
1    #include <stdlib.h>
2  #include "../portab.h"  #include "../portab.h"
3  #include "bitstream.h"  #include "bitstream.h"
4  #include "zigzag.h"  #include "zigzag.h"
5  #include "vlc_codes.h"  #include "vlc_codes.h"
6    #include "mbcoding.h"
7    
8  #include "../utils/mbfunctions.h"  #include "../utils/mbfunctions.h"
9    
 #include <stdlib.h> /* malloc, free */  
   
10  #define ESCAPE 7167  #define ESCAPE 7167
11  #define ABS(X) (((X)>0)?(X):-(X))  #define ABS(X) (((X)>0)?(X):-(X))
12  #define CLIP(X,A) (X > A) ? (A) : (X)  #define CLIP(X,A) (X > A) ? (A) : (X)
13    
14    VLC DCT3Dintra[4096];
15    VLC DCT3Dinter[4096];
16  static VLC *DCT3D[2];  static VLC *DCT3D[2];
17    
18  VLC *intra_table, *inter_table;  VLC intra_table[65536];
19    VLC inter_table[65536];
20    
21  static short clip_table[4096];  static short clip_table[4096];
22    
23  void create_vlc_tables(void)  void init_vlc_tables(void)
24  {  {
25    
26          int32_t k, l, i, intra, last;          int32_t k, l, i, intra, last;
# Line 24  Line 28 
28          VLC **coeff_ptr;          VLC **coeff_ptr;
29          VLC *vlc1, *vlc2;          VLC *vlc1, *vlc2;
30    
         VLC *DCT3Dintra;  
         VLC *DCT3Dinter;  
   
         DCT3Dintra = (VLC *) malloc(sizeof(VLC) * 4096);  
         DCT3Dinter = (VLC *) malloc(sizeof(VLC) * 4096);  
   
31          vlc1 = DCT3Dintra;          vlc1 = DCT3Dintra;
32          vlc2 = DCT3Dinter;          vlc2 = DCT3Dinter;
33    
34          vlc[0] = intra_table = (VLC *) malloc(128 * 511 * sizeof(VLC));          vlc[0] = intra_table;
35          vlc[1] = inter_table = (VLC *) malloc(128 * 511 * sizeof(VLC));          vlc[1] = inter_table;
36    
37          // initialize the clipping table          // initialize the clipping table
38          for(i = -2048; i < 2048; i++) {          for(i = -2048; i < 2048; i++) {
# Line 45  Line 43 
43                          clip_table[i + 2048] = 255;                          clip_table[i + 2048] = 255;
44          }          }
45    
46          // generate intra/inter vlc lookup table          // generate encoding vlc lookup tables
47          for(i = 0; i < 4; i++) {          for(i = 0; i < 4; i++) {
48                  intra = i % 2;                  intra = i % 2;
49                  last = i >> 1;                  last = i / 2;
50    
51                  coeff_ptr = coeff_vlc[last + (intra << 1)];                  coeff_ptr = coeff_vlc[last + 2 * intra];
52    
53                  for(k = -255; k < 256; k++) { // level                  for(k = -255; k < 256; k++) { // level
54                          char *max_level_ptr = max_level[last + (intra << 1)];                          int8_t *max_level_ptr = max_level[last + 2 * intra];
55                          char *max_run_ptr = max_run[last + (intra << 1)];                          int8_t *max_run_ptr = max_run[last + 2 * intra];
56    
57                          for(l = 0; l < 64; l++) { // run                          for(l = 0; l < 64; l++) { // run
58                                  int32_t level = k;                                  int32_t level = k;
59                                  uint32_t run = l;                                  uint32_t run = l;
60    
61                                  if(abs(level) <= max_level_ptr[run] && run <= max_run_ptr[abs(level)]) {                                  if((abs(level) <= max_level_ptr[run]) &&
62                                       (run <= max_run_ptr[abs(level)])) { // level < max_level and run < max_run
63    
                                         if(level > 0) {  
                                                 vlc[intra]->code = (coeff_ptr[run][level - 1].code) << 1;  
                                                 vlc[intra]->len = coeff_ptr[run][level - 1].len + 1;  
                                         }  
                                         else if(level < 0) {  
                                                 vlc[intra]->code = ((coeff_ptr[run][-level - 1].code) << 1) + 1;  
                                                 vlc[intra]->len = coeff_ptr[run][-level - 1].len + 1;  
                                         }  
                                         else {  
64                                                  vlc[intra]->code = 0;                                                  vlc[intra]->code = 0;
65                                                  vlc[intra]->len = 0;                                                  vlc[intra]->len = 0;
66                                                    goto loop_end;
67                                          }                                          }
68                                  } else {                                  else {
69                                          if(level > 0)                                          if(level > 0)                                        // correct level
70                                                  level -= max_level_ptr[run];                                                  level -= max_level_ptr[run];
71                                          else                                          else
72                                                  level += max_level_ptr[run];                                                  level += max_level_ptr[run];
73    
74                                          if(abs(level) <= max_level_ptr[run] &&                                          if((abs(level) <= max_level_ptr[run]) &&
75                                                  run <= max_run_ptr[abs(level)]) {                                             (run <= max_run_ptr[abs(level)])) {
76    
                                                 if(level > 0) {  
                                                         vlc[intra]->code = (0x06 << (coeff_ptr[run][level - 1].len + 1)) |  
                                                                 (coeff_ptr[run][level - 1].code << 1);  
                                                         vlc[intra]->len = (coeff_ptr[run][level - 1].len + 1) + 8;  
                                                 }  
                                                 else if(level < 0) {  
                                                         vlc[intra]->code = (0x06 << (coeff_ptr[run][-level - 1].len + 1)) |  
                                                                 ((coeff_ptr[run][-level - 1].code << 1) + 1);  
                                                         vlc[intra]->len = (coeff_ptr[run][-level - 1].len + 1) + 8;  
                                                 }  
                                                 else {  
77                                                          vlc[intra]->code = 0x06;                                                          vlc[intra]->code = 0x06;
78                                                          vlc[intra]->len = 8;                                                          vlc[intra]->len = 8;
79                                                    goto loop_end;
80                                                  }                                                  }
81                                          } else {  
82                                                  if(level > 0)                                          if(level > 0)                                       // still here?
83                                                          level += max_level_ptr[run];                                                  level += max_level_ptr[run];    // restore level
84                                                  else                                                  else
85                                                          level -= max_level_ptr[run];                                                          level -= max_level_ptr[run];
86    
87                                                  run -= max_run_ptr[abs(level)] + 1;                                          run -= max_run_ptr[abs(level)] + 1; // and change run
88    
89                                                  if(abs(level) <= max_level_ptr[run] &&                                          if((abs(level) <= max_level_ptr[run]) &&
90                                                          run <= max_run_ptr[abs(level)]) {                                             (run <= max_run_ptr[abs(level)])) {
91    
                                                         if(level > 0) {  
                                                                 vlc[intra]->code = (0x0e << (coeff_ptr[run][level - 1].len + 1)) |  
                                                                         (coeff_ptr[run][level - 1].code << 1);  
                                                                 vlc[intra]->len = (coeff_ptr[run][level - 1].len + 1) + 9;  
                                                         }  
                                                         else if(level < 0) {  
                                                                 vlc[intra]->code = (0x0e << (coeff_ptr[run][-level - 1].len + 1)) |  
                                                                         ((coeff_ptr[run][-level - 1].code << 1) + 1);  
                                                                 vlc[intra]->len = (coeff_ptr[run][-level - 1].len + 1) + 9;  
                                                         }  
                                                         else {  
92                                                                  vlc[intra]->code = 0x0e;                                                                  vlc[intra]->code = 0x0e;
93                                                                  vlc[intra]->len = 9;                                                                  vlc[intra]->len = 9;
94                                                    goto loop_end;
95                                                          }                                                          }
                                                 } else {  
                                                         if(level != 0)  
96                                                                  run += max_run_ptr[abs(level)] + 1;                                                                  run += max_run_ptr[abs(level)] + 1;
97                                                          else                                  }
                                                                 run++;  
98    
99                                                          vlc[intra]->code = (uint32_t) ((0x1e + last) << 20) |                                  vlc[intra]->code = (uint32_t) ((l << 14) | (0x1e + last) << 20) |
100                                                                                  (l << 14) | (1 << 13) | ((k & 0xfff) << 1) | 1;                                                                                            (1 << 13) | ((k & 0xfff) << 1) | 1;
101    
102                                                          vlc[intra]->len = 30;                                                          vlc[intra]->len = 30;
103                                    vlc[intra]++;
104                                    continue;
105    
106    loop_end:
107                                    if(level != 0) {
108                                            vlc[intra]->code = (vlc[intra]->code << (coeff_ptr[run][abs(level) - 1].len + 1)) |
109                                                                               (coeff_ptr[run][abs(level) - 1].code << 1);
110                                            vlc[intra]->len = (coeff_ptr[run][abs(level) - 1].len + 1) + vlc[intra]->len;
111    
112                                            if(level < 0)
113                                                    vlc[intra]->code += 1;
114                                                  }                                                  }
115                                          }  
                                 }  
116                                  vlc[intra]++;                                  vlc[intra]++;
117                          }                          }
118                  }                  }
119          }          }
120    
         intra_table += 64*255; // center vlc tables  
         inter_table += 64*255; // center vlc tables  
   
121          for(i = 0; i < 4096; i++) {          for(i = 0; i < 4096; i++) {
122                  if(i >= 512) {                  if(i >= 512) {
123                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];                          *vlc1 = DCT3Dtab3[(i >> 5) - 16];
# Line 169  Line 144 
144    
145  }  }
146    
 void destroy_vlc_tables(void) {  
   
         if(intra_table != NULL && inter_table != NULL) {  
                 intra_table -= 64*255; // uncenter vlc tables  
                 inter_table -= 64*255; // uncenter vlc tables  
   
                 free(intra_table);  
                 free(inter_table);  
         }  
   
         if(DCT3D[0] != NULL && DCT3D[1] != NULL) {  
                 free(DCT3D[0]);  
                 free(DCT3D[1]);  
         }  
   
 }  
   
147  static __inline void CodeVector(Bitstream *bs,  static __inline void CodeVector(Bitstream *bs,
148                                  int16_t value,                                  int16_t value,
149                                  int16_t f_code,                                  int16_t f_code,
# Line 257  Line 215 
215    
216          do {          do {
217                  // count zeroes                  // count zeroes
218                  vlc = table + (clip_table[2048+v] << 6) + j - last;                  vlc = table + 64*255 + (clip_table[2048+v] << 6) + j - last;
219                  last = j + 1;                  last = j + 1;
220                  while(j < 64 && (v = qcoeff[zigzag[j++]]) == 0);                  while(j < 64 && (v = qcoeff[zigzag[j++]]) == 0);
221    

Legend:
Removed from v.1.7  
changed lines
  Added in v.1.8

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4