[cvs] / xvidcore / src / utils / mbtransquant.c Repository:
ViewVC logotype

Diff of /xvidcore/src/utils/mbtransquant.c

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 1.7, Wed Jun 12 20:38:41 2002 UTC revision 1.10, Mon Aug 19 19:19:40 2002 UTC
# Line 42  Line 42 
42    *                                                                            *    *                                                                            *
43    *  Revision history:                                                         *    *  Revision history:                                                         *
44    *                                                                            *    *                                                                            *
45    *  29.03.2002 interlacing speedup - used transfer strides instead of    *  29.03.2002 interlacing speedup - used transfer strides instead of             *
46    *             manual field-to-frame conversion    *             manual field-to-frame conversion                                                           *
47    *  26.03.2002 interlacing support - moved transfers outside loops    *  26.03.2002 interlacing support - moved transfers outside loops                        *
48    *  22.12.2001 get_dc_scaler() moved to common.h    *  22.12.2001 get_dc_scaler() moved to common.h                                                          *
49    *  19.11.2001 introduced coefficient thresholding (Isibaar)                  *    *  19.11.2001 introduced coefficient thresholding (Isibaar)                  *
50    *  17.11.2001 initial version                                                *    *  17.11.2001 initial version                                                *
51    *                                                                            *    *                                                                            *
# Line 68  Line 68 
68  #define MIN(X, Y) ((X)<(Y)?(X):(Y))  #define MIN(X, Y) ((X)<(Y)?(X):(Y))
69  #define MAX(X, Y) ((X)>(Y)?(X):(Y))  #define MAX(X, Y) ((X)>(Y)?(X):(Y))
70    
71  #define TOOSMALL_LIMIT 1                /* skip blocks having a coefficient sum below this value */  #define TOOSMALL_LIMIT 3                /* skip blocks having a coefficient sum below this value */
72    
73  /* this isnt pretty, but its better than 20 ifdefs */  /* this isnt pretty, but its better than 20 ifdefs */
74    
# Line 207  Line 207 
207                          stop_quant_timer();                          stop_quant_timer();
208                  }                  }
209    
210                  if (sum >= TOOSMALL_LIMIT) {    // skip block ?                  if ((sum >= TOOSMALL_LIMIT) || (qcoeff[i*64] != 0) ||
211                            (qcoeff[i*64+1] != 0) || (qcoeff[i*64+8] != 0)) {
212    
213                          if (pParam->m_quant_type == H263_QUANT) {                          if (pParam->m_quant_type == H263_QUANT) {
214                                  start_timer();                                  start_timer();
# Line 251  Line 252 
252    
253  }  }
254    
255    void
256    MBTransQuantIntra2(const MBParam * pParam,
257                                      FRAMEINFO * frame,
258                                      MACROBLOCK * pMB,
259                                      const uint32_t x_pos,
260                                      const uint32_t y_pos,
261                                      int16_t data[6 * 64],
262                                      int16_t qcoeff[6 * 64])
263    {
264            MBTrans(pParam,frame,pMB,x_pos,y_pos,data);
265            MBfDCT(pParam,frame,pMB,data);
266            MBQuantIntra(pParam,frame,pMB,data,qcoeff);
267            MBDeQuantIntra(pParam,frame->quant,data,qcoeff);
268            MBiDCT(data,0x3F);
269            MBTransAdd(pParam,frame,pMB,x_pos,y_pos,data,0x3F);
270    }
271    
272    
273    uint8_t
274    MBTransQuantInter2(const MBParam * pParam,
275                                      FRAMEINFO * frame,
276                                      MACROBLOCK * pMB,
277                                      const uint32_t x_pos,
278                                      const uint32_t y_pos,
279                                      int16_t data[6 * 64],
280                                      int16_t qcoeff[6 * 64])
281    {
282            uint8_t cbp;
283    
284    /* there is no MBTrans for Inter block, that's done in motion compensation already */
285    
286            MBfDCT(pParam,frame,pMB,data);
287            cbp = MBQuantInter(pParam,frame->quant,data,qcoeff);
288            MBDeQuantInter(pParam,frame->quant,data,qcoeff,cbp);
289            MBiDCT(data,cbp);
290            MBTransAdd(pParam,frame,pMB,x_pos,y_pos,data,cbp);
291    
292            return cbp;
293    }
294    
295    uint8_t
296    MBTransQuantInterBVOP(const MBParam * pParam,
297                                      FRAMEINFO * frame,
298                                      MACROBLOCK * pMB,
299                                      int16_t data[6 * 64],
300                                      int16_t qcoeff[6 * 64])
301    {
302            uint8_t cbp;
303    
304    /* there is no MBTrans for Inter block, that's done in motion compensation already */
305    
306            MBfDCT(pParam,frame,pMB,data);
307            cbp = MBQuantInter(pParam,frame->quant,data,qcoeff);
308    
309    /* we don't have to DeQuant, iDCT and Transfer back data for B-frames */
310    
311            return cbp;
312    }
313    
314    
315    void
316    MBfDCT(const MBParam * pParam,
317                                      FRAMEINFO * frame,
318                                      MACROBLOCK * pMB,
319                                      int16_t data[6 * 64])
320    {
321            int i;
322    
323            start_timer();
324            pMB->field_dct = 0;
325            if ((frame->global_flags & XVID_INTERLACING)) {
326                    pMB->field_dct = MBDecideFieldDCT(data);
327            }
328            stop_interlacing_timer();
329    
330            for (i = 0; i < 6; i++) {
331                    start_timer();
332                    fdct(&data[i * 64]);
333                    stop_dct_timer();
334            }
335    }
336    
337    void
338    MBQuantDeQuantIntra(const MBParam * pParam,
339                                            FRAMEINFO * frame,
340                                            MACROBLOCK * pMB,
341                                            int16_t qcoeff[6 * 64],
342                                            int16_t data[6*64])
343    {
344            int i;
345            int iQuant = frame->quant;
346    
347            start_timer();
348            pMB->field_dct = 0;
349            if ((frame->global_flags & XVID_INTERLACING)) {
350                    pMB->field_dct = MBDecideFieldDCT(data);
351            }
352            stop_interlacing_timer();
353    
354            for (i = 0; i < 6; i++) {
355                    uint32_t iDcScaler = get_dc_scaler(iQuant, i < 4);
356    
357                    if (pParam->m_quant_type == H263_QUANT) {
358                            start_timer();
359                            quant_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);
360                            stop_quant_timer();
361    
362                            start_timer();
363                            dequant_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);
364                            stop_iquant_timer();
365                    } else {
366                            start_timer();
367                            quant4_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);
368                            stop_quant_timer();
369    
370                            start_timer();
371                            dequant4_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);
372                            stop_iquant_timer();
373                    }
374            }
375    }
376    
377    void
378    MBQuantIntra(const MBParam * pParam,
379                             FRAMEINFO * frame,
380                             MACROBLOCK *pMB,
381                         int16_t qcoeff[6 * 64],
382                             int16_t data[6*64])
383    {
384            int i;
385            int iQuant = frame->quant;
386    
387            start_timer();
388            pMB->field_dct = 0;
389            if ((frame->global_flags & XVID_INTERLACING)) {
390                    pMB->field_dct = MBDecideFieldDCT(data);
391            }
392            stop_interlacing_timer();
393    
394            for (i = 0; i < 6; i++) {
395                    uint32_t iDcScaler = get_dc_scaler(iQuant, i < 4);
396    
397                    if (pParam->m_quant_type == H263_QUANT) {
398                            start_timer();
399                            quant_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);
400                            stop_quant_timer();
401                    } else {
402                            start_timer();
403                            quant4_intra(&qcoeff[i * 64], &data[i * 64], iQuant, iDcScaler);
404                            stop_quant_timer();
405                    }
406            }
407    }
408    
409    void
410    MBDeQuantIntra(const MBParam * pParam,
411                               const int iQuant,
412                                      int16_t qcoeff[6 * 64],
413                                      int16_t data[6*64])
414    {
415            int i;
416    
417            for (i = 0; i < 6; i++) {
418                    uint32_t iDcScaler = get_dc_scaler(iQuant, i < 4);
419    
420                    if (pParam->m_quant_type == H263_QUANT) {
421                            start_timer();
422                            dequant_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);
423                            stop_iquant_timer();
424                    } else {
425                            start_timer();
426                            dequant4_intra(&data[i * 64], &qcoeff[i * 64], iQuant, iDcScaler);
427                            stop_iquant_timer();
428                    }
429            }
430    }
431    
432    uint8_t
433    MBQuantInter(const MBParam * pParam,
434                             const int iQuant,
435                                      int16_t data[6 * 64],
436                                      int16_t qcoeff[6 * 64])
437    {
438    
439            int i;
440            uint8_t cbp = 0;
441            int sum;
442    
443            for (i = 0; i < 6; i++) {
444    
445                    if (pParam->m_quant_type == 0) {
446                            start_timer();
447                            sum = quant_inter(&qcoeff[i * 64], &data[i * 64], iQuant);
448                            stop_quant_timer();
449                    } else {
450                            start_timer();
451                            sum = quant4_inter(&qcoeff[i * 64], &data[i * 64], iQuant);
452                            stop_quant_timer();
453                    }
454    
455                    if (sum >= TOOSMALL_LIMIT) {    // skip block ?
456                            cbp |= 1 << (5 - i);
457                    }
458            }
459            return cbp;
460    }
461    
462    void
463    MBDeQuantInter( const MBParam * pParam,
464                                    const int iQuant,
465                                      int16_t data[6 * 64],
466                                      int16_t qcoeff[6 * 64],
467                                      const uint8_t cbp)
468    {
469            int i;
470    
471            for (i = 0; i < 6; i++) {
472                    if (cbp & (1 << (5 - i)))
473                    {
474                            if (pParam->m_quant_type == H263_QUANT) {
475                                    start_timer();
476                                    dequant_inter(&data[i * 64], &qcoeff[i * 64], iQuant);
477                                    stop_iquant_timer();
478                            } else {
479                                    start_timer();
480                                    dequant4_inter(&data[i * 64], &qcoeff[i * 64], iQuant);
481                                    stop_iquant_timer();
482                            }
483                    }
484            }
485    }
486    
487    void
488    MBiDCT( int16_t data[6 * 64],
489                    const uint8_t cbp)
490    {
491            int i;
492    
493            for (i = 0; i < 6; i++) {
494                    if (cbp & (1 << (5 - i)))
495                    {
496                            start_timer();
497                            idct(&data[i * 64]);
498                            stop_idct_timer();
499    
500                    }
501            }
502    }
503    
504    
505    void
506    MBTrans(const MBParam * pParam,
507                                      FRAMEINFO * frame,
508                                      MACROBLOCK * pMB,
509                                      const uint32_t x_pos,
510                                      const uint32_t y_pos,
511                                      int16_t data[6 * 64])
512    {
513            uint32_t stride = pParam->edged_width;
514            uint32_t stride2 = stride / 2;
515            uint32_t next_block = stride * 8;
516            uint8_t *pY_Cur, *pU_Cur, *pV_Cur;
517            IMAGE *pCurrent = &frame->image;
518    
519            pY_Cur = pCurrent->y + (y_pos << 4) * stride + (x_pos << 4);
520            pU_Cur = pCurrent->u + (y_pos << 3) * stride2 + (x_pos << 3);
521            pV_Cur = pCurrent->v + (y_pos << 3) * stride2 + (x_pos << 3);
522    
523            start_timer();
524            transfer_8to16copy(&data[0 * 64], pY_Cur, stride);
525            transfer_8to16copy(&data[1 * 64], pY_Cur + 8, stride);
526            transfer_8to16copy(&data[2 * 64], pY_Cur + next_block, stride);
527            transfer_8to16copy(&data[3 * 64], pY_Cur + next_block + 8, stride);
528            transfer_8to16copy(&data[4 * 64], pU_Cur, stride2);
529            transfer_8to16copy(&data[5 * 64], pV_Cur, stride2);
530            stop_transfer_timer();
531    }
532    
533    void
534    MBTransAdd(const MBParam * pParam,
535                                      FRAMEINFO * frame,
536                                      MACROBLOCK * pMB,
537                                      const uint32_t x_pos,
538                                      const uint32_t y_pos,
539                                      int16_t data[6 * 64],
540                                      const uint8_t cbp)
541    {
542            uint8_t *pY_Cur, *pU_Cur, *pV_Cur;
543            uint32_t stride = pParam->edged_width;
544            uint32_t stride2 = stride / 2;
545            uint32_t next_block = stride * 8;
546            IMAGE *pCurrent = &frame->image;
547    
548            pY_Cur = pCurrent->y + (y_pos << 4) * stride + (x_pos << 4);
549            pU_Cur = pCurrent->u + (y_pos << 3) * stride2 + (x_pos << 3);
550            pV_Cur = pCurrent->v + (y_pos << 3) * stride2 + (x_pos << 3);
551    
552            if (pMB->field_dct) {
553                    next_block = stride;
554                    stride *= 2;
555            }
556    
557            start_timer();
558            if (cbp & 32)
559                    transfer_16to8add(pY_Cur, &data[0 * 64], stride);
560            if (cbp & 16)
561                    transfer_16to8add(pY_Cur + 8, &data[1 * 64], stride);
562            if (cbp & 8)
563                    transfer_16to8add(pY_Cur + next_block, &data[2 * 64], stride);
564            if (cbp & 4)
565                    transfer_16to8add(pY_Cur + next_block + 8, &data[3 * 64], stride);
566            if (cbp & 2)
567                    transfer_16to8add(pU_Cur, &data[4 * 64], stride2);
568            if (cbp & 1)
569                    transfer_16to8add(pV_Cur, &data[5 * 64], stride2);
570            stop_transfer_timer();
571    }
572    
573    
574    
575  /* if sum(diff between field lines) < sum(diff between frame lines), use field dct */  /* if sum(diff between field lines) < sum(diff between frame lines), use field dct */
576    

Legend:
Removed from v.1.7  
changed lines
  Added in v.1.10

No admin address has been configured
ViewVC Help
Powered by ViewVC 1.0.4