[cvs] / xvidcore / src / image / postprocessing.c Repository:
ViewVC logotype

Diff of /xvidcore/src/image/postprocessing.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.1.4.3, Wed Dec 17 17:07:38 2003 UTC revision 1.1.4.4, Sun Dec 21 19:42:07 2003 UTC
# Line 33  Line 33 
33  #include "../utils/emms.h"  #include "../utils/emms.h"
34  #include "postprocessing.h"  #include "postprocessing.h"
35    
 /* Filtering thresholds */  
   
 #define THR1 2  
 #define THR2 6  
   
36  /* Some useful (and fast) macros  /* Some useful (and fast) macros
37     Note that the MIN/MAX macros assume signed shift - if your compiler     Note that the MIN/MAX macros assume signed shift - if your compiler
38     doesn't do signed shifts, use the default MIN/MAX macros from global.h */     doesn't do signed shifts, use the default MIN/MAX macros from global.h */
# Line 47  Line 42 
42  #define FAST_ABS(x) ((((int)(x)) >> 31) ^ ((int)(x))) - (((int)(x)) >> 31)  #define FAST_ABS(x) ((((int)(x)) >> 31) ^ ((int)(x))) - (((int)(x)) >> 31)
43  #define ABS(X)    (((X)>0)?(X):-(X))  #define ABS(X)    (((X)>0)?(X):-(X))
44    
45  void init_postproc(void)  void init_postproc(XVID_POSTPROC *tbls)
46  {  {
47          init_deblock();          init_deblock(tbls);
48          init_noise();          init_noise(tbls);
49  }  }
50    
51  void  void
52  image_postproc(IMAGE * img, int edged_width,  image_postproc(XVID_POSTPROC *tbls, IMAGE * img, int edged_width,
53                                  const MACROBLOCK * mbs, int mb_width, int mb_height, int mb_stride,                                  const MACROBLOCK * mbs, int mb_width, int mb_height, int mb_stride,
54                                  int flags, int frame_num)                                  int flags, int frame_num, int bvop)
55  {  {
56          const int edged_width2 = edged_width /2;          const int edged_width2 = edged_width /2;
57          int i,j;          int i,j;
# Line 69  Line 64 
64                  for (i = 0; i < mb_width*2; i++)                  for (i = 0; i < mb_width*2; i++)
65                  {                  {
66                          quant = mbs[(j+0)/2*mb_stride + (i/2)].quant;                          quant = mbs[(j+0)/2*mb_stride + (i/2)].quant;
67                          deblock8x8_h(img->y + j*8*edged_width + i*8, edged_width, quant);                          deblock8x8_h(tbls, img->y + j*8*edged_width + i*8, edged_width, quant);
68                  }                  }
69    
70                  for (j = 0; j < mb_height*2; j++)               /* vertical deblocking */                  for (j = 0; j < mb_height*2; j++)               /* vertical deblocking */
71                  for (i = 1; i < mb_width*2; i++)                  for (i = 1; i < mb_width*2; i++)
72                  {                  {
73                          quant = mbs[(j+0)/2*mb_stride + (i/2)].quant;                          quant = mbs[(j+0)/2*mb_stride + (i/2)].quant;
74                          deblock8x8_v(img->y + j*8*edged_width + i*8, edged_width, quant);                          deblock8x8_v(tbls, img->y + j*8*edged_width + i*8, edged_width, quant);
75                  }                  }
76          }          }
77    
# Line 88  Line 83 
83                  for (i = 0; i < mb_width; i++)                  for (i = 0; i < mb_width; i++)
84                  {                  {
85                          quant = mbs[(j+0)*mb_stride + i].quant;                          quant = mbs[(j+0)*mb_stride + i].quant;
86                          deblock8x8_h(img->u + j*8*edged_width2 + i*8, edged_width2, quant);                          deblock8x8_h(tbls, img->u + j*8*edged_width2 + i*8, edged_width2, quant);
87                          deblock8x8_h(img->v + j*8*edged_width2 + i*8, edged_width2, quant);                          deblock8x8_h(tbls, img->v + j*8*edged_width2 + i*8, edged_width2, quant);
88                  }                  }
89    
90                  for (j = 0; j < mb_height; j++)         /* vertical deblocking */                  for (j = 0; j < mb_height; j++)         /* vertical deblocking */
91                  for (i = 1; i < mb_width; i++)                  for (i = 1; i < mb_width; i++)
92                  {                  {
93                          quant = mbs[(j+0)*mb_stride + i].quant;                          quant = mbs[(j+0)*mb_stride + i].quant;
94                          deblock8x8_v(img->u + j*8*edged_width2 + i*8, edged_width2, quant);                          deblock8x8_v(tbls, img->u + j*8*edged_width2 + i*8, edged_width2, quant);
95                          deblock8x8_v(img->v + j*8*edged_width2 + i*8, edged_width2, quant);                          deblock8x8_v(tbls, img->v + j*8*edged_width2 + i*8, edged_width2, quant);
96                  }                  }
97          }          }
98    
99            if (!bvop)
100                    tbls->prev_quant = mbs->quant;
101    
102          if ((flags & XVID_FILMEFFECT))          if ((flags & XVID_FILMEFFECT))
103          {          {
104                  add_noise(img->y, img->y, edged_width, mb_width*16, mb_height*16, frame_num % 3);                  add_noise(tbls, img->y, img->y, edged_width, mb_width*16,
105                                      mb_height*16, frame_num % 3, tbls->prev_quant);
106          }          }
107  }  }
108    
109  /******************************************************************************/  /******************************************************************************/
110    
111  static int8_t xvid_thresh_tbl[510];  void init_deblock(XVID_POSTPROC *tbls)
 static int8_t xvid_abs_tbl[510];  
   
 void init_deblock(void)  
112  {  {
113          int i;          int i;
114    
115          for(i = -255; i < 256; i++) {          for(i = -255; i < 256; i++) {
116                  xvid_thresh_tbl[i + 255] = 0;                  tbls->xvid_thresh_tbl[i + 255] = 0;
117                  if(ABS(i) < THR1)                  if(ABS(i) < THR1)
118                          xvid_thresh_tbl[i + 255] = 1;                          tbls->xvid_thresh_tbl[i + 255] = 1;
119                  xvid_abs_tbl[i + 255] = ABS(i);                  tbls->xvid_abs_tbl[i + 255] = ABS(i);
120          }          }
121  }  }
122    
# Line 155  Line 151 
151                  \                  \
152                  eq_cnt = 0; \                  eq_cnt = 0; \
153                  \                  \
154                  eq_cnt += xvid_thresh_tbl[s[0] - s[1] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[0] - s[1] + 255]; \
155                  eq_cnt += xvid_thresh_tbl[s[1] - s[2] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[1] - s[2] + 255]; \
156                  eq_cnt += xvid_thresh_tbl[s[2] - s[3] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[2] - s[3] + 255]; \
157                  eq_cnt += xvid_thresh_tbl[s[3] - s[4] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[3] - s[4] + 255]; \
158                  eq_cnt += xvid_thresh_tbl[s[4] - s[5] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[4] - s[5] + 255]; \
159                  eq_cnt += xvid_thresh_tbl[s[5] - s[6] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[5] - s[6] + 255]; \
160                  eq_cnt += xvid_thresh_tbl[s[6] - s[7] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[6] - s[7] + 255]; \
161                  eq_cnt += xvid_thresh_tbl[s[7] - s[8] + 255]; \                  eq_cnt += tbls->xvid_thresh_tbl[s[7] - s[8] + 255]; \
162                  \                  \
163                  if(eq_cnt < THR2) { /* Default mode */  \                  if(eq_cnt < THR2) { /* Default mode */  \
164                          int a30, a31, a32;                                      \                          int a30, a31, a32;                                      \
165                          int diff, limit;                                        \                          int diff, limit;                                        \
166                                                                                                  \                                                                                                  \
167                          if(xvid_abs_tbl[(s[4] - s[5]) + 255] < quant) {                 \                          if(tbls->xvid_abs_tbl[(s[4] - s[5]) + 255] < quant) {                   \
168                                  a30 = ((s[3]<<1) - s[4] * 5 + s[5] * 5 - (s[6]<<1));    \                                  a30 = ((s[3]<<1) - s[4] * 5 + s[5] * 5 - (s[6]<<1));    \
169                                  a31 = ((s[1]<<1) - s[2] * 5 + s[3] * 5 - (s[4]<<1));    \                                  a31 = ((s[1]<<1) - s[2] * 5 + s[3] * 5 - (s[4]<<1));    \
170                                  a32 = ((s[5]<<1) - s[6] * 5 + s[7] * 5 - (s[8]<<1));    \                                  a32 = ((s[5]<<1) - s[6] * 5 + s[7] * 5 - (s[8]<<1));    \
171                                                                                                                                                  \                                                                                                                                                  \
172                                  diff = (5 * ((SIGN(a30) * MIN(xvid_abs_tbl[a30 + 255], MIN(xvid_abs_tbl[a31 + 255], xvid_abs_tbl[a32 + 255]))) - a30) + 32) >> 6;       \                                  diff = (5 * ((SIGN(a30) * MIN(tbls->xvid_abs_tbl[a30 + 255], MIN(tbls->xvid_abs_tbl[a31 + 255], tbls->xvid_abs_tbl[a32 + 255]))) - a30) + 32) >> 6;     \
173                                  limit = (s[4] - s[5]) / 2;      \                                  limit = (s[4] - s[5]) / 2;      \
174                                  \                                  \
175                                  if (limit > 0)                          \                                  if (limit > 0)                          \
# Line 196  Line 192 
192                          if(((max-min)) < 2*quant) {     \                          if(((max-min)) < 2*quant) {     \
193                                                                                  \                                                                                  \
194                                  /* Choose edge pixels */        \                                  /* Choose edge pixels */        \
195                                  p0 = (xvid_abs_tbl[(s[1] - s[0]) + 255] < quant) ? s[0] : s[1]; \                                  p0 = (tbls->xvid_abs_tbl[(s[1] - s[0]) + 255] < quant) ? s[0] : s[1];   \
196                                  p9 = (xvid_abs_tbl[(s[8] - s[9]) + 255] < quant) ? s[9] : s[8]; \                                  p9 = (tbls->xvid_abs_tbl[(s[8] - s[9]) + 255] < quant) ? s[9] : s[8];   \
197                                                                                                                                  \                                                                                                                                  \
198                                  *v[1] = (uint8_t) ((6*p0 + (s[1]<<2) + (s[2]<<1) + (s[3]<<1) + s[4] + s[5] + 8) >> 4);  \                                  *v[1] = (uint8_t) ((6*p0 + (s[1]<<2) + (s[2]<<1) + (s[3]<<1) + s[4] + s[5] + 8) >> 4);  \
199                                  *v[2] = (uint8_t) (((p0<<2) + (s[1]<<1) + (s[2]<<2) + (s[3]<<1) + (s[4]<<1) + s[5] + s[6] + 8) >> 4);   \                                  *v[2] = (uint8_t) (((p0<<2) + (s[1]<<1) + (s[2]<<2) + (s[3]<<1) + (s[4]<<1) + s[5] + s[6] + 8) >> 4);   \
# Line 210  Line 206 
206                          }       \                          }       \
207                  }                  }
208    
209  void deblock8x8_h(uint8_t *img, int stride, int quant)  void deblock8x8_h(XVID_POSTPROC *tbls, uint8_t *img, int stride, int quant)
210  {  {
211          int eq_cnt;          int eq_cnt;
212          uint8_t *v[10];          uint8_t *v[10];
# Line 242  Line 238 
238  }  }
239    
240    
241  void deblock8x8_v(uint8_t *img, int stride, int quant)  void deblock8x8_v(XVID_POSTPROC *tbls, uint8_t *img, int stride, int quant)
242  {  {
243          int eq_cnt;          int eq_cnt;
244          uint8_t *v[10];          uint8_t *v[10];
# Line 280  Line 276 
276   *                                                                                                                                                        *   *                                                                                                                                                        *
277   ******************************************************************************/   ******************************************************************************/
278    
 #define MAX_NOISE 4096  
 #define MAX_SHIFT 1024  
 #define MAX_RES (MAX_NOISE - MAX_SHIFT)  
   
279  #define RAND_N(range) ((int) ((double)range * rand() / (RAND_MAX + 1.0)))  #define RAND_N(range) ((int) ((double)range * rand() / (RAND_MAX + 1.0)))
280    #define STRENGTH1 12
281    #define STRENGTH2 8
282    
283  #define STRENGTH 13  void init_noise(XVID_POSTPROC *tbls)
   
 static int8_t xvid_noise[MAX_NOISE * sizeof(int8_t)];  
 static int8_t *xvid_prev_shift[MAX_RES][3];  
   
 void init_noise(void)  
284  {  {
285          int i, j;          int i, j;
286          int patt[4] = { -1,0,1,0 };          int patt[4] = { -1,0,1,0 };
# Line 302  Line 291 
291    
292          for(i = 0, j = 0; i < MAX_NOISE; i++, j++)          for(i = 0, j = 0; i < MAX_NOISE; i++, j++)
293          {          {
294                  double x1, x2, w, y1;                  double x1, x2, w, y1, y2;
295    
296                  do {                  do {
297                          x1 = 2.0 * rand() / (float) RAND_MAX - 1.0;                          x1 = 2.0 * rand() / (float) RAND_MAX - 1.0;
# Line 312  Line 301 
301    
302                  w = sqrt((-2.0 * log(w)) / w);                  w = sqrt((-2.0 * log(w)) / w);
303                  y1 = x1 * w;                  y1 = x1 * w;
304                  y1 *= STRENGTH / sqrt(3.0);                  y2 = x1 * w;
305    
306                    y1 *= STRENGTH1 / sqrt(3.0);
307                    y2 *= STRENGTH2 / sqrt(3.0);
308    
309              y1 /= 2;              y1 /= 2;
310              y1 += patt[j%4] * STRENGTH * 0.35;                  y2 /= 2;
311                y1 += patt[j%4] * STRENGTH1 * 0.35;
312                    y2 += patt[j%4] * STRENGTH2 * 0.35;
313    
314                  if (y1 < -128) {                  if (y1 < -128) {
315                          y1=-128;                          y1=-128;
# Line 324  Line 318 
318                          y1= 127;                          y1= 127;
319                  }                  }
320    
321                    if (y2 < -128) {
322                            y2=-128;
323                    }
324                    else if (y2 > 127) {
325                            y2= 127;
326                    }
327    
328                  y1 /= 3.0;                  y1 /= 3.0;
329                  xvid_noise[i] = (int) y1;                  y2 /= 3.0;
330                    tbls->xvid_noise1[i] = (int) y1;
331                    tbls->xvid_noise2[i] = (int) y2;
332    
333                  if (RAND_N(6) == 0) {                  if (RAND_N(6) == 0) {
334                          j--;                          j--;
# Line 334  Line 337 
337    
338          for (i = 0; i < MAX_RES; i++)          for (i = 0; i < MAX_RES; i++)
339                  for (j = 0; j < 3; j++) {                  for (j = 0; j < 3; j++) {
340                          xvid_prev_shift[i][j] = xvid_noise + (rand() & (MAX_SHIFT - 1));                          tbls->xvid_prev_shift[i][j] = tbls->xvid_noise1 + (rand() & (MAX_SHIFT - 1));
341                            tbls->xvid_prev_shift[i][3 + j] = tbls->xvid_noise2 + (rand() & (MAX_SHIFT - 1));
342                  }                  }
343  }  }
344    
345  void add_noise(uint8_t *dst, uint8_t *src, int stride, int width, int height, int shiftptr)  void add_noise(XVID_POSTPROC *tbls, uint8_t *dst, uint8_t *src, int stride, int width, int height, int shiftptr, int quant)
346  {  {
347          int x, y;          int x, y;
348          int shift = 0;          int shift = 0;
349            int add = (quant < 5) ? 3 : 0;
350            int8_t *noise = (quant < 5) ? tbls->xvid_noise2 : tbls->xvid_noise1;
351    
352          for(y = 0; y < height; y++)          for(y = 0; y < height; y++)
353          {          {
# Line 352  Line 358 
358                  shift &= ~7;                  shift &= ~7;
359                  for(x = 0; x < width; x++)                  for(x = 0; x < width; x++)
360                  {                  {
361                          const int n = xvid_prev_shift[y][0][x] + xvid_prev_shift[y][1][x] +                          const int n = tbls->xvid_prev_shift[y][0 + add][x] + tbls->xvid_prev_shift[y][1 + add][x] +
362                                            xvid_prev_shift[y][2][x];                                            tbls->xvid_prev_shift[y][2 + add][x];
363    
364                          dst[x] = src2[x] + ((n * src2[x]) >> 7);                          dst[x] = src2[x] + ((n * src2[x]) >> 7);
365                  }                  }
366    
367                  xvid_prev_shift[y][shiftptr] = xvid_noise + shift;                  tbls->xvid_prev_shift[y][shiftptr + add] = noise + shift;
368    
369                  dst += stride;                  dst += stride;
370                  src += stride;                  src += stride;
Legend:
Removed from v.1.1.4.3  
changed lines
  Added in v.1.1.4.4
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4