[cvs] / xvidcore / src / utils / mbtransquant.c Repository:
ViewVC logotype

Diff of /xvidcore/src/utils/mbtransquant.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.11.2.7, Sat Jan 4 06:14:33 2003 UTC revision 1.18, Sat Oct 19 12:20:33 2002 UTC
# Line 1  Line 1 
1   /******************************************************************************  /*****************************************************************************
2    *                                                                            *   *
3    *  This file is part of XviD, a free MPEG-4 video encoder/decoder            *   *  XVID MPEG-4 VIDEO CODEC
4    *                                                                            *   *  - MacroBlock transfer and quantization -
5    *  XviD is an implementation of a part of one or more MPEG-4 Video tools     *   *
6    *  as specified in ISO/IEC 14496-2 standard.  Those intending to use this    *   *  Copyright(C) 2002-2001 Christoph Lampert <gruel@web.de>
7    *  software module in hardware or software products are advised that its     *   *               2002-2001 Michael Militzer <isibaar@xvid.org>
8    *  use may infringe existing patents or copyrights, and any such use         *   *               2002-2001 Peter Ross <pross@xvid.org>
9    *  would be at such party's own risk.  The original developer of this        *   *               2002      Daniel Smith <danielsmith@astroboymail.com>
10    *  software module and his/her company, and subsequent editors and their     *   *
11    *  companies, will have no liability for use of this software or             *   *  This program is an implementation of a part of one or more MPEG-4
12    *  modifications or derivatives thereof.                                     *   *  Video tools as specified in ISO/IEC 14496-2 standard.  Those intending
13    *                                                                            *   *  to use this software module in hardware or software products are
14    *  XviD is free software; you can redistribute it and/or modify it           *   *  advised that its use may infringe existing patents or copyrights, and
15    *  under the terms of the GNU General Public License as published by         *   *  any such use would be at such party's own risk.  The original
16    *  the Free Software Foundation; either version 2 of the License, or         *   *  developer of this software module and his/her company, and subsequent
17    *  (at your option) any later version.                                       *   *  editors and their companies, will have no liability for use of this
18    *                                                                            *   *  software or modifications or derivatives thereof.
19    *  XviD is distributed in the hope that it will be useful, but               *   *
20    *  WITHOUT ANY WARRANTY; without even the implied warranty of                *   *  This program is free software; you can redistribute it and/or modify
21    *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the             *   *  it under the terms of the GNU General Public License as published by
22    *  GNU General Public License for more details.                              *   *  the Free Software Foundation; either version 2 of the License, or
23    *                                                                            *   *  (at your option) any later version.
24    *  You should have received a copy of the GNU General Public License         *   *
25    *  along with this program; if not, write to the Free Software               *   *  This program is distributed in the hope that it will be useful,
26    *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA  *   *  but WITHOUT ANY WARRANTY; without even the implied warranty of
27    *                                                                            *   *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
28    ******************************************************************************/   *  GNU General Public License for more details.
29     *
30   /******************************************************************************   *  You should have received a copy of the GNU General Public License
31    *                                                                            *   *  along with this program; if not, write to the Free Software
32    *  mbtransquant.c                                                            *   *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
33    *                                                                            *   *
34    *  Copyright (C) 2001 - Peter Ross <pross@cs.rmit.edu.au>                    *   * $Id$
35    *  Copyright (C) 2001 - Michael Militzer <isibaar@xvid.org>                  *   *
36    *                                                                            *   ****************************************************************************/
   *  For more information visit the XviD homepage: http://www.xvid.org         *  
   *                                                                            *  
   ******************************************************************************/  
   
  /******************************************************************************  
   *                                                                            *  
   *  Revision history:                                                         *  
   *                                                                            *  
   *  29.03.2002 interlacing speedup - used transfer strides instead of             *  
   *             manual field-to-frame conversion                                                           *  
   *  26.03.2002 interlacing support - moved transfers outside loops                        *  
   *  22.12.2001 get_dc_scaler() moved to common.h                                                          *  
   *  19.11.2001 introduced coefficient thresholding (Isibaar)                  *  
   *  17.11.2001 initial version                                                *  
   *                                                                            *  
   ******************************************************************************/  
37    
38  #include <string.h>  #include <string.h>
39    
# Line 65  Line 49 
49  #include "../quant/quant_h263.h"  #include "../quant/quant_h263.h"
50  #include "../encoder.h"  #include "../encoder.h"
51    
52  #include "../image/reduced.h"  #define MIN(X, Y) ((X)<(Y)?(X):(Y))
53    #define MAX(X, Y) ((X)>(Y)?(X):(Y))
54    
55  MBFIELDTEST_PTR MBFieldTest;  #define TOOSMALL_LIMIT 3                /* skip blocks having a coefficient sum below this value */
56    
57  #define TOOSMALL_LIMIT  1       /* skip blocks having a coefficient sum below this value */  /* this isnt pretty, but its better than 20 ifdefs */
58    
59  void  void
60  MBTransQuantIntra(const MBParam * pParam,  MBTransQuantIntra(const MBParam * pParam,
# Line 83  Line 68 
68    
69          uint32_t stride = pParam->edged_width;          uint32_t stride = pParam->edged_width;
70          uint32_t stride2 = stride / 2;          uint32_t stride2 = stride / 2;
71          uint32_t next_block = stride * ((frame->global_flags & XVID_REDUCED)?16:8);          uint32_t next_block = stride * 8;
72          uint32_t i;          uint32_t i;
73          uint32_t iQuant = frame->quant;          uint32_t iQuant = frame->quant;
74          uint8_t *pY_Cur, *pU_Cur, *pV_Cur;          uint8_t *pY_Cur, *pU_Cur, *pV_Cur;
75          IMAGE *pCurrent = &frame->image;          IMAGE *pCurrent = &frame->image;
76    
         start_timer();  
         if ((frame->global_flags & XVID_REDUCED))  
         {  
                 pY_Cur = pCurrent->y + (y_pos << 5) * stride + (x_pos << 5);  
                 pU_Cur = pCurrent->u + (y_pos << 4) * stride2 + (x_pos << 4);  
                 pV_Cur = pCurrent->v + (y_pos << 4) * stride2 + (x_pos << 4);  
   
                 filter_18x18_to_8x8(&data[0 * 64], pY_Cur, stride);  
                 filter_18x18_to_8x8(&data[1 * 64], pY_Cur + 16, stride);  
                 filter_18x18_to_8x8(&data[2 * 64], pY_Cur + next_block, stride);  
                 filter_18x18_to_8x8(&data[3 * 64], pY_Cur + next_block + 16, stride);  
                 filter_18x18_to_8x8(&data[4 * 64], pU_Cur, stride2);  
                 filter_18x18_to_8x8(&data[5 * 64], pV_Cur, stride2);  
         }else{  
77                  pY_Cur = pCurrent->y + (y_pos << 4) * stride + (x_pos << 4);                  pY_Cur = pCurrent->y + (y_pos << 4) * stride + (x_pos << 4);
78                  pU_Cur = pCurrent->u + (y_pos << 3) * stride2 + (x_pos << 3);                  pU_Cur = pCurrent->u + (y_pos << 3) * stride2 + (x_pos << 3);
79                  pV_Cur = pCurrent->v + (y_pos << 3) * stride2 + (x_pos << 3);                  pV_Cur = pCurrent->v + (y_pos << 3) * stride2 + (x_pos << 3);
80    
81            start_timer();
82                  transfer_8to16copy(&data[0 * 64], pY_Cur, stride);                  transfer_8to16copy(&data[0 * 64], pY_Cur, stride);
83                  transfer_8to16copy(&data[1 * 64], pY_Cur + 8, stride);                  transfer_8to16copy(&data[1 * 64], pY_Cur + 8, stride);
84                  transfer_8to16copy(&data[2 * 64], pY_Cur + next_block, stride);                  transfer_8to16copy(&data[2 * 64], pY_Cur + next_block, stride);
85                  transfer_8to16copy(&data[3 * 64], pY_Cur + next_block + 8, stride);                  transfer_8to16copy(&data[3 * 64], pY_Cur + next_block + 8, stride);
86                  transfer_8to16copy(&data[4 * 64], pU_Cur, stride2);                  transfer_8to16copy(&data[4 * 64], pU_Cur, stride2);
87                  transfer_8to16copy(&data[5 * 64], pV_Cur, stride2);                  transfer_8to16copy(&data[5 * 64], pV_Cur, stride2);
         }  
88          stop_transfer_timer();          stop_transfer_timer();
89    
         /* XXX: rrv+interlacing is buggy */  
90          start_timer();          start_timer();
91          pMB->field_dct = 0;          pMB->field_dct = 0;
92          if ((frame->global_flags & XVID_INTERLACING) &&          if ((frame->global_flags & XVID_INTERLACING) &&
# Line 137  Line 107 
107                          start_timer();                          start_timer();
108                          quant_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);                          quant_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);
109                          stop_quant_timer();                          stop_quant_timer();
                 } else {  
                         start_timer();  
                         quant4_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);  
                         stop_quant_timer();  
                 }  
110    
                 /* speedup: dont decode when encoding only ivops */  
                 if (pParam->iMaxKeyInterval != 1 || pParam->max_bframes > 0)  
                 {  
                         if (pParam->m_quant_type == H263_QUANT) {  
111                                  start_timer();                                  start_timer();
112                                  dequant_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);                                  dequant_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);
113                                  stop_iquant_timer();                                  stop_iquant_timer();
114                          } else {                          } else {
115                                  start_timer();                                  start_timer();
116                            quant4_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);
117                            stop_quant_timer();
118    
119                            start_timer();
120                                  dequant4_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);                                  dequant4_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);
121                                  stop_iquant_timer();                                  stop_iquant_timer();
122                          }                          }
# Line 160  Line 125 
125                          idct(&data[i * 64]);                          idct(&data[i * 64]);
126                          stop_idct_timer();                          stop_idct_timer();
127                  }                  }
         }  
   
         /* speedup: dont decode when encoding only ivops */  
         if (pParam->iMaxKeyInterval != 1 || pParam->max_bframes > 0)  
         {  
128    
129                  if (pMB->field_dct) {                  if (pMB->field_dct) {
130                          next_block = stride;                          next_block = stride;
# Line 172  Line 132 
132                  }                  }
133    
134                  start_timer();                  start_timer();
                 if ((frame->global_flags & XVID_REDUCED))  
                 {  
                         copy_upsampled_8x8_16to8(pY_Cur, &data[0 * 64], stride);  
                         copy_upsampled_8x8_16to8(pY_Cur + 16, &data[1 * 64], stride);  
                         copy_upsampled_8x8_16to8(pY_Cur + next_block, &data[2 * 64], stride);  
                         copy_upsampled_8x8_16to8(pY_Cur + next_block + 16, &data[3 * 64], stride);  
                         copy_upsampled_8x8_16to8(pU_Cur, &data[4 * 64], stride2);  
                         copy_upsampled_8x8_16to8(pV_Cur, &data[5 * 64], stride2);  
   
                 }else{  
135                          transfer_16to8copy(pY_Cur, &data[0 * 64], stride);                          transfer_16to8copy(pY_Cur, &data[0 * 64], stride);
136                          transfer_16to8copy(pY_Cur + 8, &data[1 * 64], stride);                          transfer_16to8copy(pY_Cur + 8, &data[1 * 64], stride);
137                          transfer_16to8copy(pY_Cur + next_block, &data[2 * 64], stride);                          transfer_16to8copy(pY_Cur + next_block, &data[2 * 64], stride);
138                          transfer_16to8copy(pY_Cur + next_block + 8, &data[3 * 64], stride);                          transfer_16to8copy(pY_Cur + next_block + 8, &data[3 * 64], stride);
139                          transfer_16to8copy(pU_Cur, &data[4 * 64], stride2);                          transfer_16to8copy(pU_Cur, &data[4 * 64], stride2);
140                          transfer_16to8copy(pV_Cur, &data[5 * 64], stride2);                          transfer_16to8copy(pV_Cur, &data[5 * 64], stride2);
                 }  
141                  stop_transfer_timer();                  stop_transfer_timer();
         }  
142    
143  }  }
144    
# Line 207  Line 155 
155    
156          uint32_t stride = pParam->edged_width;          uint32_t stride = pParam->edged_width;
157          uint32_t stride2 = stride / 2;          uint32_t stride2 = stride / 2;
158          uint32_t next_block = stride * ((frame->global_flags & XVID_REDUCED)?16:8);          uint32_t next_block = stride * 8;
159          uint32_t i;          uint32_t i;
160          uint32_t iQuant = frame->quant;          uint32_t iQuant = frame->quant;
161          uint8_t *pY_Cur, *pU_Cur, *pV_Cur;          uint8_t *pY_Cur, *pU_Cur, *pV_Cur;
# Line 215  Line 163 
163          uint32_t sum;          uint32_t sum;
164          IMAGE *pCurrent = &frame->image;          IMAGE *pCurrent = &frame->image;
165    
         if ((frame->global_flags & XVID_REDUCED))  
         {  
                 pY_Cur = pCurrent->y + (y_pos << 5) * stride + (x_pos << 5);  
                 pU_Cur = pCurrent->u + (y_pos << 4) * stride2 + (x_pos << 4);  
                 pV_Cur = pCurrent->v + (y_pos << 4) * stride2 + (x_pos << 4);  
         }else{  
166                  pY_Cur = pCurrent->y + (y_pos << 4) * stride + (x_pos << 4);                  pY_Cur = pCurrent->y + (y_pos << 4) * stride + (x_pos << 4);
167                  pU_Cur = pCurrent->u + (y_pos << 3) * stride2 + (x_pos << 3);                  pU_Cur = pCurrent->u + (y_pos << 3) * stride2 + (x_pos << 3);
168                  pV_Cur = pCurrent->v + (y_pos << 3) * stride2 + (x_pos << 3);                  pV_Cur = pCurrent->v + (y_pos << 3) * stride2 + (x_pos << 3);
         }  
169    
170          start_timer();          start_timer();
171          pMB->field_dct = 0;          pMB->field_dct = 0;
# Line 236  Line 177 
177          stop_interlacing_timer();          stop_interlacing_timer();
178    
179          for (i = 0; i < 6; i++) {          for (i = 0; i < 6; i++) {
                 uint32_t increase_limit = (iQuant == 1) ? 1 : 0;  
   
180                  /*                  /*
181                   *  no need to transfer 8->16-bit                   *  no need to transfer 8->16-bit
182                   * (this is performed already in motion compensation)                   * (this is performed already in motion compensation)
# Line 256  Line 195 
195                          stop_quant_timer();                          stop_quant_timer();
196                  }                  }
197    
198                  if ((sum >= TOOSMALL_LIMIT + increase_limit) || (qcoeff[i*64] != 0) ||                  if ((sum >= TOOSMALL_LIMIT) || (qcoeff[i*64] != 0) ||
199                          (qcoeff[i*64+1] != 0) || (qcoeff[i*64+8] != 0)) {                          (qcoeff[i*64+1] != 0) || (qcoeff[i*64+8] != 0)) {
200    
201                          if (pParam->m_quant_type == H263_QUANT) {                          if (pParam->m_quant_type == H263_QUANT) {
# Line 283  Line 222 
222          }          }
223    
224          start_timer();          start_timer();
         if ((frame->global_flags & XVID_REDUCED))  
         {  
                 if (cbp & 32)  
                         add_upsampled_8x8_16to8(pY_Cur, &data[0 * 64], stride);  
                 if (cbp & 16)  
                         add_upsampled_8x8_16to8(pY_Cur + 16, &data[1 * 64], stride);  
                 if (cbp & 8)  
                         add_upsampled_8x8_16to8(pY_Cur + next_block, &data[2 * 64], stride);  
                 if (cbp & 4)  
                         add_upsampled_8x8_16to8(pY_Cur + 16 + next_block, &data[3 * 64], stride);  
                 if (cbp & 2)  
                         add_upsampled_8x8_16to8(pU_Cur, &data[4 * 64], stride2);  
                 if (cbp & 1)  
                         add_upsampled_8x8_16to8(pV_Cur, &data[5 * 64], stride2);  
         }else{  
225                  if (cbp & 32)                  if (cbp & 32)
226                          transfer_16to8add(pY_Cur, &data[0 * 64], stride);                          transfer_16to8add(pY_Cur, &data[0 * 64], stride);
227                  if (cbp & 16)                  if (cbp & 16)
# Line 310  Line 234 
234                          transfer_16to8add(pU_Cur, &data[4 * 64], stride2);                          transfer_16to8add(pU_Cur, &data[4 * 64], stride2);
235                  if (cbp & 1)                  if (cbp & 1)
236                          transfer_16to8add(pV_Cur, &data[5 * 64], stride2);                          transfer_16to8add(pV_Cur, &data[5 * 64], stride2);
         }  
237          stop_transfer_timer();          stop_transfer_timer();
238    
239          return cbp;          return cbp;
# Line 443  Line 366 
366  MBQuantIntra(const MBParam * pParam,  MBQuantIntra(const MBParam * pParam,
367                           FRAMEINFO * frame,                           FRAMEINFO * frame,
368                           MACROBLOCK *pMB,                           MACROBLOCK *pMB,
369                       int16_t qcoeff[6 * 64],                           int16_t data[6 * 64],
370                           int16_t data[6*64])                       int16_t qcoeff[6 * 64])
371  {  {
372          int i;          int i;
373          int iQuant = frame->quant;          int iQuant = frame->quant;
# Line 637  Line 560 
560    
561    
562    
563  /* permute block and return field dct choice */  /* if sum(diff between field lines) < sum(diff between frame lines), use field dct */
564    
565    
566  uint32_t  uint32_t
567  MBDecideFieldDCT(int16_t data[6 * 64])  MBDecideFieldDCT(int16_t data[6 * 64])
568  {  {
         uint32_t field = MBFieldTest(data);  
   
         if (field) {  
                 MBFrameToField(data);  
         }  
   
         return field;  
 }  
   
569    
 /* if sum(diff between field lines) < sum(diff between frame lines), use field dct */  
   
 uint32_t  
 MBFieldTest_c(int16_t data[6 * 64])  
 {  
570          const uint8_t blocks[] =          const uint8_t blocks[] =
571                  { 0 * 64, 0 * 64, 0 * 64, 0 * 64, 2 * 64, 2 * 64, 2 * 64, 2 * 64 };                  { 0 * 64, 0 * 64, 0 * 64, 0 * 64, 2 * 64, 2 * 64, 2 * 64, 2 * 64 };
572          const uint8_t lines[] = { 0, 16, 32, 48, 0, 16, 32, 48 };          const uint8_t lines[] = { 0, 16, 32, 48, 0, 16, 32, 48 };
# Line 691  Line 600 
600                  }                  }
601          }          }
602    
603          return (frame >= (field + 350));          if (frame > (field + 350)) {
604                    MBFrameToField(data);
605            }
606    
607            return (frame > (field + 350));
608  }  }
609    
610    
Legend:
Removed from v.1.11.2.7  
changed lines
  Added in v.1.18
No admin address has been configured
 ViewVC Help
Powered by ViewVC 1.0.4