LCOV - code coverage report
Current view: top level - lib_com - fft.c (source / functions) Hit Total Coverage
Test: Coverage on main -- conformance test test_26252.py @ a21f94bc6bac334fe001a5bad2f7b32b79038097 Lines: 4184 4373 95.7 %
Date: 2025-11-01 05:07:43 Functions: 68 73 93.2 %

          Line data    Source code
       1             : /******************************************************************************************************
       2             : 
       3             :    (C) 2022-2025 IVAS codec Public Collaboration with portions copyright Dolby International AB, Ericsson AB,
       4             :    Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
       5             :    Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
       6             :    Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
       7             :    contributors to this repository. All Rights Reserved.
       8             : 
       9             :    This software is protected by copyright law and by international treaties.
      10             :    The IVAS codec Public Collaboration consisting of Dolby International AB, Ericsson AB,
      11             :    Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
      12             :    Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
      13             :    Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
      14             :    contributors to this repository retain full ownership rights in their respective contributions in
      15             :    the software. This notice grants no license of any kind, including but not limited to patent
      16             :    license, nor is any license granted by implication, estoppel or otherwise.
      17             : 
      18             :    Contributors are required to enter into the IVAS codec Public Collaboration agreement before making
      19             :    contributions.
      20             : 
      21             :    This software is provided "AS IS", without any express or implied warranties. The software is in the
      22             :    development stage. It is intended exclusively for experts who have experience with such software and
      23             :    solely for the purpose of inspection. All implied warranties of non-infringement, merchantability
      24             :    and fitness for a particular purpose are hereby disclaimed and excluded.
      25             : 
      26             :    Any dispute, controversy or claim arising under or in relation to providing this software shall be
      27             :    submitted to and settled by the final, binding jurisdiction of the courts of Munich, Germany in
      28             :    accordance with the laws of the Federal Republic of Germany excluding its conflict of law rules and
      29             :    the United Nations Convention on Contracts on the International Sales of Goods.
      30             : 
      31             : *******************************************************************************************************/
      32             : 
      33             : /*====================================================================================
      34             :     EVS Codec 3GPP TS26.443 Nov 04, 2021. Version 12.14.0 / 13.10.0 / 14.6.0 / 15.4.0 / 16.3.0
      35             :   ====================================================================================*/
      36             : 
      37             : #include <assert.h>
      38             : #include <stdint.h>
      39             : #include "options.h"
      40             : #ifdef DEBUGGING
      41             : #include "debug.h"
      42             : #endif
      43             : #include <math.h>
      44             : #include "cnst.h"
      45             : #include "prot.h"
      46             : #include "rom_com.h"
      47             : #include "wmc_auto.h"
      48             : 
      49             : #ifdef _MSC_VER
      50             : #pragma warning( disable : 4310 )
      51             : #endif
      52             : 
      53             : /*-----------------------------------------------------------------*
      54             :  * Local constants
      55             :  *-----------------------------------------------------------------*/
      56             : 
      57             : #define FFT_15PONIT_WNK1 0.55901699f /* EDCT & EMDCT constants */
      58             : #define FFT_15PONIT_WNK2 0.95105652f /* EDCT & EMDCT constants */
      59             : #define FFT_15PONIT_WNK3 0.58778525f /* EDCT & EMDCT constants */
      60             : #define FFT_15PONIT_WNK4 0.86602540f /* EDCT & EMDCT constants */
      61             : #define FFT_15PONIT_WNK5 0.25000000f /* EDCT & EMDCT constants */
      62             : 
      63             : /* FFT constants */
      64             : #define FFT_C31  -0.8660254037f
      65             : #define FFT_C51  0.9510565195f
      66             : #define FFT_C52  -1.5388417989f
      67             : #define FFT_C53  -0.3632712597f
      68             : #define FFT_C54  0.5590169895f
      69             : #define FFT_C55  -1.2500000000f
      70             : #define FFT_C61  0.8660254036f
      71             : #define FFT_C81  0.7071067811f
      72             : #define FFT_C82  -0.7071067811f
      73             : #define FFT_C161 0.7071067811f
      74             : #define FFT_C162 -0.7071067811f
      75             : #define FFT_C163 0.9238795325f
      76             : #define FFT_C164 -0.9238795325f
      77             : #define FFT_C165 0.3826834323f
      78             : #define FFT_C166 -0.3826834323f
      79             : 
      80             : 
      81             : /*-----------------------------------------------------------------*
      82             :  * Local function prototypes
      83             :  *-----------------------------------------------------------------*/
      84             : 
      85             : static void cdftForw( int16_t n, float *a, const int16_t *ip, const float *w );
      86             : static void bitrv2_SR( int16_t n, const int16_t *ip, float *a );
      87             : static void cftfsub( int16_t n, float *a, const float *w );
      88             : static void cft1st( int16_t n, float *a, const float *w );
      89             : static void cftmdl( int16_t n, int16_t l, float *a, const float *w );
      90             : static void fft16( float *x, float *y, const int16_t *Idx );
      91             : static void fft5_shift1( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      92             : static void fft8( float *x, float *y, const int16_t *Idx );
      93             : static void fft15_shift2( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      94             : static void fft15_shift8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      95             : static void fft5_shift4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      96             : static void fft5_32( float *zRe, float *zIm, const int16_t *Idx );
      97             : static void fft64( float *x, float *y, const int16_t *Idx );
      98             : static void fft32_15( float *x, float *y, const int16_t *Idx );
      99             : static void fft32_5( float *x, float *y, const int16_t *Idx );
     100             : static void fft8_5( float *x, float *y, const int16_t *Idx );
     101             : static void fft5_8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
     102             : static void fft4_5( float *x, float *y, const int16_t *Idx );
     103             : static void fft5_4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
     104             : 
     105     2929152 : static float fmac( float a, float b, float c )
     106             : {
     107     2929152 :     return ( ( ( a ) * ( b ) ) + ( c ) );
     108             : }
     109             : 
     110    10740224 : static float fnms( float a, float b, float c )
     111             : {
     112    10740224 :     return ( ( c ) - ( ( a ) * ( b ) ) );
     113             : }
     114             : 
     115             : /*-----------------------------------------------------------------*
     116             :  * fft15_shift2()
     117             :  * 15-point FFT with 2-point circular shift
     118             :  *-----------------------------------------------------------------*/
     119             : 
     120        6496 : static void fft15_shift2(
     121             :     int16_t n1,        /* i  : length of data                           */
     122             :     float *zRe,        /* i/o: real part of input and output data       */
     123             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     124             :     const int16_t *Idx /* i  : pointer of the address table             */
     125             : )
     126             : {
     127             :     int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
     128             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
     129             :     float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
     130             :     float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
     131             :     float f2i13, f2i14, f2i15, f2i16, f2i17, f2i18, f2i19, f2i20, f2i21, f2i22, f2i23, f2i24;
     132             :     float f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9, f3i10, f3i11, f3i12, f3i13, f3i14, f3i15;
     133             :     float f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
     134             :     float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, f4i16, f4i17, f4i18, f4i19, f4i20, fo1, fo2, fo3, fo4;
     135             :     float fo5, fo6, fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, fo16, fo17, fo18;
     136             :     float f2o1, f2o2, f2o3, f2o4, f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13;
     137             :     float f2o14, f2o15, f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11;
     138             :     float f3o12, f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6;
     139             :     float f4o7, f4o8, f4o9, f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f4o16, f4o17, f4o18, f4o19;
     140             : 
     141        6496 :     in0 = Idx[0];
     142        6496 :     in8 = Idx[n1];
     143        6496 :     in16 = Idx[n1 * 2];
     144        6496 :     in24 = Idx[n1 * 3];
     145        6496 :     in32 = Idx[n1 * 4];
     146        6496 :     in1 = Idx[n1 * 5];
     147        6496 :     in9 = Idx[n1 * 6];
     148        6496 :     in17 = Idx[n1 * 7];
     149        6496 :     in25 = Idx[n1 * 8];
     150        6496 :     in33 = Idx[n1 * 9];
     151        6496 :     in2 = Idx[n1 * 10];
     152        6496 :     in10 = Idx[n1 * 11];
     153        6496 :     in18 = Idx[n1 * 12];
     154        6496 :     in26 = Idx[n1 * 13];
     155        6496 :     in34 = Idx[n1 * 14];
     156             : 
     157        6496 :     f2i13 = zRe[in0];
     158        6496 :     f2i14 = zIm[in0];
     159        6496 :     f2i21 = zRe[in1];
     160        6496 :     f2i22 = zRe[in2];
     161        6496 :     f2i23 = zIm[in1];
     162        6496 :     f2i24 = zIm[in2];
     163             : 
     164        6496 :     f2i15 = f2i21 + f2i22;
     165        6496 :     f2i16 = FFT_15PONIT_WNK4 * ( f2i22 - f2i21 );
     166        6496 :     f2i17 = FFT_15PONIT_WNK4 * ( f2i23 - f2i24 );
     167        6496 :     f2i18 = f2i23 + f2i24;
     168        6496 :     fi1 = f2i13 + f2i15;
     169        6496 :     fi2 = f2i14 + f2i18;
     170             : 
     171        6496 :     f2i19 = fnms( 0.5f, f2i15, f2i13 );
     172        6496 :     f2i20 = fnms( 0.5f, f2i18, f2i14 );
     173        6496 :     fi3 = f2i19 - f2i17;
     174        6496 :     fi4 = f2i19 + f2i17;
     175        6496 :     fi5 = f2i16 + f2i20;
     176        6496 :     fi6 = f2i20 - f2i16;
     177             : 
     178        6496 :     f3i1 = zRe[in9];
     179        6496 :     f4i2 = zRe[in10];
     180        6496 :     f4i3 = zRe[in8];
     181        6496 :     f3i2 = f4i2 + f4i3;
     182        6496 :     f3i3 = fnms( 0.5f, f3i2, f3i1 );
     183        6496 :     f3i4 = FFT_15PONIT_WNK4 * ( f4i3 - f4i2 );
     184             : 
     185        6496 :     f3i5 = zIm[in9];
     186        6496 :     f4i4 = zIm[in10];
     187        6496 :     f4i5 = zIm[in8];
     188        6496 :     f3i6 = f4i4 + f4i5;
     189        6496 :     f3i7 = FFT_15PONIT_WNK4 * ( f4i4 - f4i5 );
     190        6496 :     f3i8 = fnms( 0.5f, f3i6, f3i5 );
     191             : 
     192        6496 :     f3i9 = zRe[in33];
     193        6496 :     f4i6 = zRe[in34];
     194        6496 :     f4i7 = zRe[in32];
     195        6496 :     f3i10 = f4i6 + f4i7;
     196        6496 :     f3i11 = fnms( 0.5f, f3i10, f3i9 );
     197        6496 :     f3i12 = FFT_15PONIT_WNK4 * ( f4i7 - f4i6 );
     198             : 
     199        6496 :     f3i13 = zIm[in33];
     200        6496 :     f4i8 = zIm[in34];
     201        6496 :     f4i9 = zIm[in32];
     202        6496 :     f3i14 = f4i8 + f4i9;
     203        6496 :     f3i15 = FFT_15PONIT_WNK4 * ( f4i8 - f4i9 );
     204        6496 :     f4i1 = fnms( 0.5f, f3i14, f3i13 );
     205             : 
     206        6496 :     fi7 = f3i1 + f3i2;
     207        6496 :     fi8 = f3i9 + f3i10;
     208        6496 :     fi9 = fi7 + fi8;
     209        6496 :     fi10 = f3i3 - f3i7;
     210        6496 :     fi11 = f3i11 - f3i15;
     211        6496 :     fi12 = fi10 + fi11;
     212        6496 :     fi13 = f3i5 + f3i6;
     213        6496 :     fi14 = f3i13 + f3i14;
     214        6496 :     fi15 = fi13 + fi14;
     215        6496 :     fi16 = f3i8 - f3i4;
     216        6496 :     fi17 = f4i1 - f3i12;
     217        6496 :     fi18 = fi16 + fi17;
     218        6496 :     fi19 = f3i4 + f3i8;
     219        6496 :     fi20 = f3i12 + f4i1;
     220        6496 :     fi21 = fi19 + fi20;
     221        6496 :     fi22 = f3i3 + f3i7;
     222        6496 :     fi23 = f3i11 + f3i15;
     223        6496 :     fi24 = fi22 + fi23;
     224             : 
     225        6496 :     f4i10 = zRe[in24];
     226        6496 :     fo6 = zRe[in25];
     227        6496 :     fo7 = zRe[in26];
     228        6496 :     f4i11 = fo6 + fo7;
     229        6496 :     f4i12 = fnms( 0.5f, f4i11, f4i10 );
     230        6496 :     f4i13 = FFT_15PONIT_WNK4 * ( fo7 - fo6 );
     231             : 
     232        6496 :     f4i14 = zIm[in24];
     233        6496 :     fo8 = zIm[in25];
     234        6496 :     fo9 = zIm[in26];
     235        6496 :     f4i15 = fo8 + fo9;
     236        6496 :     f4i16 = FFT_15PONIT_WNK4 * ( fo8 - fo9 );
     237        6496 :     f4i17 = fnms( 0.5f, f4i15, f4i14 );
     238             : 
     239        6496 :     f4i18 = zRe[in18];
     240        6496 :     f2o10 = zRe[in16];
     241        6496 :     f2o11 = zRe[in17];
     242        6496 :     f4i19 = f2o10 + f2o11;
     243        6496 :     f4i20 = fnms( 0.5f, f4i19, f4i18 );
     244        6496 :     fo1 = FFT_15PONIT_WNK4 * ( f2o11 - f2o10 );
     245             : 
     246        6496 :     fo2 = zIm[in18];
     247        6496 :     f2o12 = zIm[in16];
     248        6496 :     f2o13 = zIm[in17];
     249        6496 :     fo3 = f2o12 + f2o13;
     250        6496 :     fo4 = FFT_15PONIT_WNK4 * ( f2o12 - f2o13 );
     251        6496 :     fo5 = fnms( 0.5f, fo3, fo2 );
     252             : 
     253        6496 :     fi25 = f4i10 + f4i11;
     254        6496 :     fi26 = f4i18 + f4i19;
     255        6496 :     fi27 = fi25 + fi26;
     256        6496 :     fi28 = f4i12 - f4i16;
     257        6496 :     fi29 = f4i20 - fo4;
     258        6496 :     fi30 = fi28 + fi29;
     259        6496 :     f2i1 = f4i14 + f4i15;
     260        6496 :     f2i2 = fo2 + fo3;
     261        6496 :     f2i3 = f2i1 + f2i2;
     262        6496 :     f2i4 = f4i17 - f4i13;
     263        6496 :     f2i5 = fo5 - fo1;
     264        6496 :     f2i6 = f2i4 + f2i5;
     265        6496 :     f2i7 = f4i13 + f4i17;
     266        6496 :     f2i8 = fo1 + fo5;
     267        6496 :     f2i9 = f2i7 + f2i8;
     268        6496 :     f2i10 = f4i12 + f4i16;
     269        6496 :     f2i11 = f4i20 + fo4;
     270        6496 :     f2i12 = f2i10 + f2i11;
     271             : 
     272        6496 :     fo10 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
     273        6496 :     fo11 = fi27 + fi9;
     274        6496 :     fo12 = fnms( FFT_15PONIT_WNK5, fo11, fi1 );
     275        6496 :     fo15 = fi13 - fi14;
     276        6496 :     fo16 = f2i1 - f2i2;
     277        6496 :     fo13 = fnms( FFT_15PONIT_WNK3, fo16, FFT_15PONIT_WNK2 * fo15 );
     278        6496 :     fo14 = fmac( FFT_15PONIT_WNK2, fo16, FFT_15PONIT_WNK3 * fo15 );
     279             : 
     280        6496 :     zRe[in0] = fi1 + fo11;
     281        6496 :     fo17 = fo10 + fo12;
     282        6496 :     zRe[in18] = fo17 - fo14;
     283        6496 :     zRe[in24] = fo17 + fo14;
     284        6496 :     fo18 = fo12 - fo10;
     285        6496 :     zRe[in9] = fo18 - fo13;
     286        6496 :     zRe[in33] = fo18 + fo13;
     287             : 
     288        6496 :     f2o1 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
     289        6496 :     f2o2 = f2i3 + fi15;
     290        6496 :     f2o3 = fnms( FFT_15PONIT_WNK5, f2o2, fi2 );
     291        6496 :     f2o6 = fi7 - fi8;
     292        6496 :     f2o7 = fi25 - fi26;
     293        6496 :     f2o4 = fnms( FFT_15PONIT_WNK3, f2o7, FFT_15PONIT_WNK2 * f2o6 );
     294        6496 :     f2o5 = fmac( FFT_15PONIT_WNK2, f2o7, FFT_15PONIT_WNK3 * f2o6 );
     295        6496 :     zIm[in0] = fi2 + f2o2;
     296        6496 :     f2o8 = f2o1 + f2o3;
     297        6496 :     zIm[in24] = f2o8 - f2o5;
     298        6496 :     zIm[in18] = f2o5 + f2o8;
     299        6496 :     f2o9 = f2o3 - f2o1;
     300        6496 :     zIm[in33] = f2o9 - f2o4;
     301        6496 :     zIm[in9] = f2o4 + f2o9;
     302             : 
     303        6496 :     f2o14 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
     304        6496 :     f2o15 = fi30 + fi12;
     305        6496 :     f3o1 = fnms( FFT_15PONIT_WNK5, f2o15, fi3 );
     306        6496 :     f3o4 = fi16 - fi17;
     307        6496 :     f3o5 = f2i4 - f2i5;
     308        6496 :     f3o2 = fnms( FFT_15PONIT_WNK3, f3o5, FFT_15PONIT_WNK2 * f3o4 );
     309        6496 :     f3o3 = fmac( FFT_15PONIT_WNK2, f3o5, FFT_15PONIT_WNK3 * f3o4 );
     310        6496 :     zRe[in2] = fi3 + f2o15;
     311        6496 :     f3o6 = f2o14 + f3o1;
     312        6496 :     zRe[in17] = f3o6 - f3o3;
     313        6496 :     zRe[in26] = f3o6 + f3o3;
     314        6496 :     f3o7 = f3o1 - f2o14;
     315        6496 :     zRe[in8] = f3o7 - f3o2;
     316        6496 :     zRe[in32] = f3o7 + f3o2;
     317             : 
     318        6496 :     f3o8 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
     319        6496 :     f3o9 = f2i6 + fi18;
     320        6496 :     f3o10 = fnms( FFT_15PONIT_WNK5, f3o9, fi6 );
     321        6496 :     f3o13 = fi10 - fi11;
     322        6496 :     f3o14 = fi28 - fi29;
     323        6496 :     f3o11 = fnms( FFT_15PONIT_WNK3, f3o14, FFT_15PONIT_WNK2 * f3o13 );
     324        6496 :     f3o12 = fmac( FFT_15PONIT_WNK2, f3o14, FFT_15PONIT_WNK3 * f3o13 );
     325        6496 :     zIm[in2] = fi6 + f3o9;
     326        6496 :     f3o15 = f3o8 + f3o10;
     327        6496 :     zIm[in26] = f3o15 - f3o12;
     328        6496 :     zIm[in17] = f3o12 + f3o15;
     329        6496 :     f4o1 = f3o10 - f3o8;
     330        6496 :     zIm[in8] = f3o11 + f4o1;
     331        6496 :     zIm[in32] = f4o1 - f3o11;
     332             : 
     333        6496 :     f4o2 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
     334        6496 :     f4o3 = f2i9 + fi21;
     335        6496 :     f4o4 = fnms( FFT_15PONIT_WNK5, f4o3, fi5 );
     336        6496 :     f4o7 = f2i10 - f2i11;
     337        6496 :     f4o8 = fi22 - fi23;
     338        6496 :     f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o8 );
     339        6496 :     f4o6 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o8 );
     340        6496 :     zIm[in1] = fi5 + f4o3;
     341        6496 :     f4o9 = f4o4 - f4o2;
     342        6496 :     f4o10 = f4o2 + f4o4;
     343             : 
     344        6496 :     zIm[in10] = f4o6 + f4o9;
     345        6496 :     zIm[in34] = f4o9 - f4o6;
     346        6496 :     zIm[in25] = f4o10 - f4o5;
     347        6496 :     zIm[in16] = f4o5 + f4o10;
     348             : 
     349        6496 :     f4o11 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
     350        6496 :     f4o12 = f2i12 + fi24;
     351        6496 :     f4o13 = fnms( FFT_15PONIT_WNK5, f4o12, fi4 );
     352        6496 :     f4o16 = f2i7 - f2i8;
     353        6496 :     f4o17 = fi19 - fi20;
     354        6496 :     f4o14 = fmac( FFT_15PONIT_WNK2, f4o16, FFT_15PONIT_WNK3 * f4o17 );
     355        6496 :     f4o15 = fnms( FFT_15PONIT_WNK3, f4o16, FFT_15PONIT_WNK2 * f4o17 );
     356        6496 :     zRe[in1] = fi4 + f4o12;
     357        6496 :     f4o18 = f4o13 - f4o11;
     358        6496 :     f4o19 = f4o11 + f4o13;
     359             : 
     360        6496 :     zRe[in10] = f4o18 - f4o15;
     361        6496 :     zRe[in34] = f4o18 + f4o15;
     362        6496 :     zRe[in16] = f4o19 - f4o14;
     363        6496 :     zRe[in25] = f4o19 + f4o14;
     364             : 
     365        6496 :     return;
     366             : }
     367             : 
     368             : /*-----------------------------------------------------------------*
     369             :  * fft15_shift8()
     370             :  * 15-point FFT with 8-point circular shift
     371             :  *-----------------------------------------------------------------*/
     372             : 
     373      481696 : static void fft15_shift8(
     374             :     int16_t n1,        /* i  : length of data                           */
     375             :     float *zRe,        /* i/o: real part of input and output data       */
     376             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     377             :     const int16_t *Idx /* i  : pointer of the address table             */
     378             : )
     379             : {
     380             :     int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
     381             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
     382             :     float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
     383             :     float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
     384             :     float f2i13, f2i14, f2i15, f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9;
     385             :     float f3i10, f3i11, f3i12, f3i13, f3i14, f3i15, f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
     386             :     float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, fo1, fo2, fo3, fo4, fo5, fo6;
     387             :     float fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, f2o1, f2o2, f2o3, f2o4;
     388             :     float f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13, f2o14, f2o15;
     389             :     float f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11, f3o12;
     390             :     float f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6, f4o7, f4o8, f4o9;
     391             :     float f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f5o1, f5o2, f5o3, f5o4, f5o5, f5o6, f5o7;
     392             :     float f5o8, f5o9, f5o10, f5o11, f5o12, f5o13, f5o14, f5o15, f5o16, f5o17, f5o18, f5o19, f5o21, f5o22;
     393             : 
     394      481696 :     in0 = Idx[0];
     395      481696 :     in8 = Idx[n1];
     396      481696 :     in16 = Idx[n1 * 2];
     397      481696 :     in24 = Idx[n1 * 3];
     398      481696 :     in32 = Idx[n1 * 4];
     399      481696 :     in1 = Idx[n1 * 5];
     400      481696 :     in9 = Idx[n1 * 6];
     401      481696 :     in17 = Idx[n1 * 7];
     402      481696 :     in25 = Idx[n1 * 8];
     403      481696 :     in33 = Idx[n1 * 9];
     404      481696 :     in2 = Idx[n1 * 10];
     405      481696 :     in10 = Idx[n1 * 11];
     406      481696 :     in18 = Idx[n1 * 12];
     407      481696 :     in26 = Idx[n1 * 13];
     408      481696 :     in34 = Idx[n1 * 14];
     409             : 
     410      481696 :     f2i13 = zRe[in0];
     411      481696 :     f2i14 = zIm[in0];
     412      481696 :     f3i6 = zRe[in1];
     413      481696 :     f3i7 = zRe[in2];
     414      481696 :     f3i8 = zIm[in1];
     415      481696 :     f3i9 = zIm[in2];
     416             : 
     417      481696 :     f2i15 = f3i6 + f3i7;
     418      481696 :     f3i1 = FFT_15PONIT_WNK4 * ( f3i7 - f3i6 );
     419      481696 :     f3i2 = FFT_15PONIT_WNK4 * ( f3i8 - f3i9 );
     420      481696 :     f3i3 = f3i8 + f3i9;
     421             : 
     422      481696 :     fi1 = f2i13 + f2i15;
     423      481696 :     fi2 = f2i14 + f3i3;
     424      481696 :     f3i4 = fnms( 0.5f, f2i15, f2i13 );
     425      481696 :     fi3 = f3i4 - f3i2;
     426      481696 :     fi4 = f3i4 + f3i2;
     427      481696 :     f3i5 = fnms( 0.5f, f3i3, f2i14 );
     428      481696 :     fi5 = f3i1 + f3i5;
     429      481696 :     fi6 = f3i5 - f3i1;
     430             : 
     431      481696 :     f3i10 = zRe[in9];
     432      481696 :     f4i11 = zRe[in10];
     433      481696 :     f4i12 = zRe[in8];
     434      481696 :     f3i14 = zIm[in9];
     435      481696 :     f4i13 = zIm[in10];
     436      481696 :     f4i14 = zIm[in8];
     437      481696 :     f4i3 = zRe[in33];
     438      481696 :     f4i15 = zRe[in34];
     439      481696 :     fo1 = zRe[in32];
     440      481696 :     f4i7 = zIm[in33];
     441      481696 :     fo2 = zIm[in34];
     442      481696 :     fo3 = zIm[in32];
     443             : 
     444             : 
     445      481696 :     f3i11 = f4i11 + f4i12;
     446      481696 :     f3i12 = fnms( 0.5f, f3i11, f3i10 );
     447      481696 :     f3i13 = FFT_15PONIT_WNK4 * ( f4i12 - f4i11 );
     448      481696 :     f3i15 = f4i13 + f4i14;
     449      481696 :     f4i1 = FFT_15PONIT_WNK4 * ( f4i13 - f4i14 );
     450      481696 :     f4i2 = fnms( 0.5f, f3i15, f3i14 );
     451      481696 :     f4i4 = f4i15 + fo1;
     452      481696 :     f4i5 = fnms( 0.5f, f4i4, f4i3 );
     453      481696 :     f4i6 = FFT_15PONIT_WNK4 * ( fo1 - f4i15 );
     454      481696 :     f4i8 = fo2 + fo3;
     455      481696 :     f4i9 = FFT_15PONIT_WNK4 * ( fo2 - fo3 );
     456      481696 :     f4i10 = fnms( 0.5f, f4i8, f4i7 );
     457             : 
     458      481696 :     fi7 = f3i10 + f3i11;
     459      481696 :     fi8 = f4i3 + f4i4;
     460      481696 :     fi9 = fi7 + fi8;
     461      481696 :     fi10 = f3i12 - f4i1;
     462      481696 :     fi11 = f4i5 - f4i9;
     463      481696 :     fi12 = fi10 + fi11;
     464      481696 :     fi13 = f3i14 + f3i15;
     465      481696 :     fi14 = f4i7 + f4i8;
     466      481696 :     fi15 = fi13 + fi14;
     467      481696 :     fi16 = f4i2 - f3i13;
     468      481696 :     fi17 = f4i10 - f4i6;
     469      481696 :     fi18 = fi16 + fi17;
     470      481696 :     fi19 = f3i13 + f4i2;
     471      481696 :     fi20 = f4i6 + f4i10;
     472      481696 :     fi21 = fi19 + fi20;
     473      481696 :     fi22 = f3i12 + f4i1;
     474      481696 :     fi23 = f4i5 + f4i9;
     475      481696 :     fi24 = fi22 + fi23;
     476             : 
     477      481696 :     fo4 = zRe[in24];
     478      481696 :     f2o5 = zRe[in25];
     479      481696 :     f2o6 = zRe[in26];
     480      481696 :     fo8 = zIm[in24];
     481      481696 :     f2o7 = zIm[in25];
     482      481696 :     f2o8 = zIm[in26];
     483      481696 :     fo12 = zRe[in18];
     484      481696 :     f2o9 = zRe[in16];
     485      481696 :     f2o10 = zRe[in17];
     486      481696 :     f2o1 = zIm[in18];
     487      481696 :     f2o11 = zIm[in16];
     488      481696 :     f2o12 = zIm[in17];
     489             : 
     490             : 
     491      481696 :     fo5 = f2o5 + f2o6;
     492      481696 :     fo6 = fnms( 0.5f, fo5, fo4 );
     493      481696 :     fo7 = FFT_15PONIT_WNK4 * ( f2o6 - f2o5 );
     494      481696 :     fo9 = f2o7 + f2o8;
     495      481696 :     fo10 = FFT_15PONIT_WNK4 * ( f2o7 - f2o8 );
     496      481696 :     fo11 = fnms( 0.5f, fo9, fo8 );
     497      481696 :     fo13 = f2o9 + f2o10;
     498      481696 :     fo14 = fnms( 0.5f, fo13, fo12 );
     499      481696 :     fo15 = FFT_15PONIT_WNK4 * ( f2o10 - f2o9 );
     500      481696 :     f2o2 = f2o11 + f2o12;
     501      481696 :     f2o3 = FFT_15PONIT_WNK4 * ( f2o11 - f2o12 );
     502      481696 :     f2o4 = fnms( 0.5f, f2o2, f2o1 );
     503             : 
     504      481696 :     fi25 = fo4 + fo5;
     505      481696 :     fi26 = fo12 + fo13;
     506      481696 :     fi27 = fi25 + fi26;
     507      481696 :     fi28 = fo6 - fo10;
     508      481696 :     fi29 = fo14 - f2o3;
     509      481696 :     fi30 = fi28 + fi29;
     510      481696 :     f2i1 = fo8 + fo9;
     511      481696 :     f2i2 = f2o1 + f2o2;
     512      481696 :     f2i3 = f2i1 + f2i2;
     513      481696 :     f2i4 = fo11 - fo7;
     514      481696 :     f2i5 = f2o4 - fo15;
     515      481696 :     f2i6 = f2i4 + f2i5;
     516      481696 :     f2i7 = fo7 + fo11;
     517      481696 :     f2i8 = fo15 + f2o4;
     518      481696 :     f2i9 = f2i7 + f2i8;
     519      481696 :     f2i10 = fo6 + fo10;
     520      481696 :     f2i11 = fo14 + f2o3;
     521      481696 :     f2i12 = f2i10 + f2i11;
     522             : 
     523      481696 :     f2o13 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
     524      481696 :     f2o14 = fi27 + fi9;
     525      481696 :     f2o15 = fnms( FFT_15PONIT_WNK5, f2o14, fi1 );
     526      481696 :     f3o3 = fi13 - fi14;
     527      481696 :     f3o4 = f2i1 - f2i2;
     528      481696 :     f3o1 = fnms( FFT_15PONIT_WNK3, f3o4, FFT_15PONIT_WNK2 * f3o3 );
     529      481696 :     f3o2 = fmac( FFT_15PONIT_WNK2, f3o4, FFT_15PONIT_WNK3 * f3o3 );
     530      481696 :     zRe[in0] = fi1 + f2o14;
     531      481696 :     f3o5 = f2o13 + f2o15;
     532      481696 :     zRe[in24] = f3o5 - f3o2;
     533      481696 :     zRe[in18] = f3o5 + f3o2;
     534      481696 :     f3o6 = f2o15 - f2o13;
     535      481696 :     zRe[in33] = f3o6 - f3o1;
     536      481696 :     zRe[in9] = f3o6 + f3o1;
     537             : 
     538      481696 :     f3o7 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
     539      481696 :     f3o8 = f2i3 + fi15;
     540      481696 :     f3o9 = fnms( FFT_15PONIT_WNK5, f3o8, fi2 );
     541      481696 :     f3o12 = fi7 - fi8;
     542      481696 :     f3o13 = fi25 - fi26;
     543      481696 :     f3o10 = fnms( FFT_15PONIT_WNK3, f3o13, FFT_15PONIT_WNK2 * f3o12 );
     544      481696 :     f3o11 = fmac( FFT_15PONIT_WNK2, f3o13, FFT_15PONIT_WNK3 * f3o12 );
     545      481696 :     zIm[in0] = fi2 + f3o8;
     546      481696 :     f3o14 = f3o7 + f3o9;
     547      481696 :     zIm[in18] = f3o14 - f3o11;
     548      481696 :     zIm[in24] = f3o11 + f3o14;
     549      481696 :     f3o15 = f3o9 - f3o7;
     550      481696 :     zIm[in9] = f3o15 - f3o10;
     551      481696 :     zIm[in33] = f3o10 + f3o15;
     552             : 
     553      481696 :     f4o1 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
     554      481696 :     f4o2 = fi30 + fi12;
     555      481696 :     f4o3 = fnms( FFT_15PONIT_WNK5, f4o2, fi3 );
     556      481696 :     f4o6 = fi16 - fi17;
     557      481696 :     f4o7 = f2i4 - f2i5;
     558      481696 :     f4o4 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o6 );
     559      481696 :     f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o6 );
     560      481696 :     zRe[in2] = fi3 + f4o2;
     561      481696 :     f4o8 = f4o1 + f4o3;
     562      481696 :     zRe[in26] = f4o8 - f4o5;
     563      481696 :     zRe[in17] = f4o8 + f4o5;
     564      481696 :     f4o9 = f4o3 - f4o1;
     565      481696 :     zRe[in32] = f4o9 - f4o4;
     566      481696 :     zRe[in8] = f4o9 + f4o4;
     567             : 
     568      481696 :     f4o10 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
     569      481696 :     f4o11 = f2i6 + fi18;
     570      481696 :     f4o12 = fnms( FFT_15PONIT_WNK5, f4o11, fi6 );
     571      481696 :     f4o15 = fi10 - fi11;
     572      481696 :     f5o1 = fi28 - fi29;
     573      481696 :     f4o13 = fnms( FFT_15PONIT_WNK3, f5o1, FFT_15PONIT_WNK2 * f4o15 );
     574      481696 :     f4o14 = fmac( FFT_15PONIT_WNK2, f5o1, FFT_15PONIT_WNK3 * f4o15 );
     575      481696 :     zIm[in2] = fi6 + f4o11;
     576      481696 :     f5o2 = f4o10 + f4o12;
     577      481696 :     zIm[in17] = f5o2 - f4o14;
     578      481696 :     zIm[in26] = f4o14 + f5o2;
     579      481696 :     f5o3 = f4o12 - f4o10;
     580      481696 :     zIm[in32] = f4o13 + f5o3;
     581      481696 :     zIm[in8] = f5o3 - f4o13;
     582             : 
     583      481696 :     f5o4 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
     584      481696 :     f5o5 = f2i9 + fi21;
     585      481696 :     f5o6 = fnms( FFT_15PONIT_WNK5, f5o5, fi5 );
     586      481696 :     f5o9 = f2i10 - f2i11;
     587      481696 :     f5o10 = fi22 - fi23;
     588      481696 :     f5o7 = fmac( FFT_15PONIT_WNK2, f5o9, FFT_15PONIT_WNK3 * f5o10 );
     589      481696 :     f5o8 = fnms( FFT_15PONIT_WNK3, f5o9, FFT_15PONIT_WNK2 * f5o10 );
     590      481696 :     zIm[in1] = fi5 + f5o5;
     591      481696 :     f5o11 = f5o6 - f5o4;
     592      481696 :     f5o12 = f5o4 + f5o6;
     593      481696 :     zIm[in34] = f5o8 + f5o11;
     594      481696 :     zIm[in10] = f5o11 - f5o8;
     595             : 
     596      481696 :     zIm[in16] = f5o12 - f5o7;
     597      481696 :     zIm[in25] = f5o7 + f5o12;
     598             : 
     599      481696 :     f5o13 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
     600      481696 :     f5o14 = f2i12 + fi24;
     601      481696 :     f5o15 = fnms( FFT_15PONIT_WNK5, f5o14, fi4 );
     602      481696 :     f5o18 = f2i7 - f2i8;
     603      481696 :     f5o19 = fi19 - fi20;
     604      481696 :     f5o16 = fmac( FFT_15PONIT_WNK2, f5o18, FFT_15PONIT_WNK3 * f5o19 );
     605      481696 :     f5o17 = fnms( FFT_15PONIT_WNK3, f5o18, FFT_15PONIT_WNK2 * f5o19 );
     606      481696 :     zRe[in1] = fi4 + f5o14;
     607      481696 :     f5o21 = f5o15 - f5o13;
     608      481696 :     f5o22 = f5o13 + f5o15;
     609             : 
     610      481696 :     zRe[in34] = f5o21 - f5o17;
     611      481696 :     zRe[in10] = f5o21 + f5o17;
     612      481696 :     zRe[in25] = f5o22 - f5o16;
     613      481696 :     zRe[in16] = f5o22 + f5o16;
     614             : 
     615      481696 :     return;
     616             : }
     617             : 
     618             : /*-----------------------------------------------------------------*
     619             :  * fft5_shift1()
     620             :  * 5-point FFT with 1-point circular shift
     621             :  *-----------------------------------------------------------------*/
     622             : 
     623       60544 : static void fft5_shift1(
     624             :     int16_t n1,        /* i  : length of data                           */
     625             :     float *zRe,        /* i/o: real part of input and output data       */
     626             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     627             :     const int16_t *Idx /* i  : pointer of the address table             */
     628             : )
     629             : {
     630             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
     631             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
     632             :     int16_t in1, in2, in3, in4, in5;
     633             : 
     634       60544 :     in1 = Idx[0];
     635       60544 :     in2 = Idx[n1];
     636       60544 :     in3 = Idx[n1 * 2];
     637       60544 :     in4 = Idx[n1 * 3];
     638       60544 :     in5 = Idx[n1 * 4];
     639             : 
     640       60544 :     fi1 = zRe[in1];
     641       60544 :     fi2 = zIm[in1];
     642       60544 :     fo3 = zRe[in2];
     643       60544 :     fo4 = zRe[in5];
     644       60544 :     fo6 = zRe[in3];
     645       60544 :     fo7 = zRe[in4];
     646             : 
     647       60544 :     fo5 = fo3 + fo4;
     648       60544 :     fo8 = fo6 + fo7;
     649       60544 :     fi3 = fo5 + fo8;
     650       60544 :     fi4 = fo6 - fo7;
     651       60544 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     652       60544 :     fi6 = fo3 - fo4;
     653             : 
     654       60544 :     fo3 = zIm[in2];
     655       60544 :     fo4 = zIm[in5];
     656       60544 :     fo6 = zIm[in3];
     657       60544 :     fo7 = zIm[in4];
     658             : 
     659       60544 :     fo5 = fo3 + fo4;
     660       60544 :     fo8 = fo6 + fo7;
     661       60544 :     fi7 = fo3 - fo4;
     662       60544 :     fi8 = fo5 + fo8;
     663       60544 :     fo1 = fo6 - fo7;
     664       60544 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     665             : 
     666       60544 :     zRe[in1] = fi1 + fi3;
     667       60544 :     zIm[in1] = fi2 + fi8;
     668             : 
     669       60544 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
     670       60544 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
     671       60544 :     fo7 = fi1 - fi3 / 4;
     672       60544 :     fo5 = fi5 + fo7;
     673       60544 :     fo6 = fo7 - fi5;
     674             : 
     675       60544 :     zRe[in2] = fo5 + fo3;
     676       60544 :     zRe[in3] = fo6 - fo4;
     677       60544 :     zRe[in4] = fo6 + fo4;
     678       60544 :     zRe[in5] = fo5 - fo3;
     679             : 
     680       60544 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
     681       60544 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
     682       60544 :     fo7 = fi2 - fi8 / 4;
     683       60544 :     fo5 = fo2 + fo7;
     684       60544 :     fo6 = fo7 - fo2;
     685             : 
     686       60544 :     zIm[in2] = fo5 - fo3;
     687       60544 :     zIm[in3] = fo4 + fo6;
     688       60544 :     zIm[in4] = fo6 - fo4;
     689       60544 :     zIm[in5] = fo3 + fo5;
     690             : 
     691       60544 :     return;
     692             : }
     693             : 
     694             : /*-----------------------------------------------------------------*
     695             :  * fft5_shift4()
     696             :  * 5-point FFT with 4-point circular shift
     697             :  *-----------------------------------------------------------------*/
     698             : 
     699    10339008 : static void fft5_shift4(
     700             :     int16_t n1,        /* i  : length of data                           */
     701             :     float *zRe,        /* i/o: real part of input and output data       */
     702             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     703             :     const int16_t *Idx /* i  : pointer of the address table             */
     704             : )
     705             : {
     706             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
     707             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
     708             :     int16_t in1, in2, in3, in4, in5;
     709             : 
     710    10339008 :     in1 = Idx[0];
     711    10339008 :     in2 = Idx[n1];
     712    10339008 :     in3 = Idx[n1 * 2];
     713    10339008 :     in4 = Idx[n1 * 3];
     714    10339008 :     in5 = Idx[n1 * 4];
     715             : 
     716    10339008 :     fi1 = zRe[in1];
     717    10339008 :     fi2 = zIm[in1];
     718    10339008 :     fo3 = zRe[in2];
     719    10339008 :     fo4 = zRe[in5];
     720    10339008 :     fo6 = zRe[in3];
     721    10339008 :     fo7 = zRe[in4];
     722             : 
     723    10339008 :     fo5 = fo3 + fo4;
     724    10339008 :     fo8 = fo6 + fo7;
     725    10339008 :     fi3 = fo5 + fo8;
     726    10339008 :     fi4 = fo6 - fo7;
     727    10339008 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     728    10339008 :     fi6 = fo3 - fo4;
     729             : 
     730    10339008 :     fo3 = zIm[in2];
     731    10339008 :     fo4 = zIm[in5];
     732    10339008 :     fo6 = zIm[in3];
     733    10339008 :     fo7 = zIm[in4];
     734             : 
     735    10339008 :     fo5 = fo3 + fo4;
     736    10339008 :     fo8 = fo6 + fo7;
     737    10339008 :     fi7 = fo3 - fo4;
     738    10339008 :     fi8 = fo5 + fo8;
     739    10339008 :     fo1 = fo6 - fo7;
     740    10339008 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     741             : 
     742    10339008 :     zRe[in1] = fi1 + fi3;
     743    10339008 :     zIm[in1] = fi2 + fi8;
     744             : 
     745    10339008 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
     746    10339008 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
     747    10339008 :     fo7 = fi1 - fi3 / 4;
     748    10339008 :     fo5 = fi5 + fo7;
     749    10339008 :     fo6 = fo7 - fi5;
     750    10339008 :     zRe[in2] = fo5 - fo3;
     751    10339008 :     zRe[in4] = fo6 - fo4;
     752    10339008 :     zRe[in3] = fo6 + fo4;
     753    10339008 :     zRe[in5] = fo5 + fo3;
     754             : 
     755    10339008 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
     756    10339008 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
     757    10339008 :     fo7 = fi2 - fi8 / 4;
     758    10339008 :     fo5 = fo2 + fo7;
     759    10339008 :     fo6 = fo7 - fo2;
     760             : 
     761    10339008 :     zIm[in3] = fo6 - fo4;
     762    10339008 :     zIm[in2] = fo3 + fo5;
     763    10339008 :     zIm[in4] = fo4 + fo6;
     764    10339008 :     zIm[in5] = fo5 - fo3;
     765             : 
     766    10339008 :     return;
     767             : }
     768             : 
     769             : /*-----------------------------------------------------------------*
     770             :  * fft5_32()
     771             :  * 5-point FFT called for 32 times
     772             :  *-----------------------------------------------------------------*/
     773             : 
     774      156960 : static void fft5_32(
     775             :     float *zRe,        /* i/o: real part of input and output data       */
     776             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     777             :     const int16_t *Idx /* i  : pointer of the address table             */
     778             : )
     779             : {
     780             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
     781             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
     782             :     int16_t in1, in2, in3, in4, in5;
     783             : 
     784      156960 :     in1 = Idx[0];
     785      156960 :     in2 = Idx[32];
     786      156960 :     in3 = Idx[64];
     787      156960 :     in4 = Idx[96];
     788      156960 :     in5 = Idx[128];
     789             : 
     790      156960 :     fi1 = zRe[in1];
     791      156960 :     fi2 = zIm[in1];
     792      156960 :     fo3 = zRe[in2];
     793      156960 :     fo4 = zRe[in5];
     794      156960 :     fo6 = zRe[in3];
     795      156960 :     fo7 = zRe[in4];
     796             : 
     797      156960 :     fo5 = fo3 + fo4;
     798      156960 :     fo8 = fo6 + fo7;
     799      156960 :     fi3 = fo5 + fo8;
     800      156960 :     fi4 = fo6 - fo7;
     801      156960 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     802      156960 :     fi6 = fo3 - fo4;
     803             : 
     804      156960 :     fo3 = zIm[in2];
     805      156960 :     fo4 = zIm[in5];
     806      156960 :     fo6 = zIm[in3];
     807      156960 :     fo7 = zIm[in4];
     808             : 
     809      156960 :     fo5 = fo3 + fo4;
     810      156960 :     fo8 = fo6 + fo7;
     811      156960 :     fi7 = fo3 - fo4;
     812      156960 :     fi8 = fo5 + fo8;
     813      156960 :     fo1 = fo6 - fo7;
     814      156960 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     815             : 
     816      156960 :     zRe[in1] = fi1 + fi3;
     817      156960 :     zIm[in1] = fi2 + fi8;
     818             : 
     819      156960 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
     820      156960 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
     821      156960 :     fo7 = fi1 - fi3 / 4;
     822      156960 :     fo5 = fi5 + fo7;
     823      156960 :     fo6 = fo7 - fi5;
     824             : 
     825      156960 :     zRe[in2] = fo6 + fo4;
     826      156960 :     zRe[in3] = fo5 + fo3;
     827      156960 :     zRe[in4] = fo5 - fo3;
     828      156960 :     zRe[in5] = fo6 - fo4;
     829             : 
     830      156960 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
     831      156960 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
     832      156960 :     fo7 = fi2 - fi8 / 4;
     833      156960 :     fo5 = fo2 + fo7;
     834      156960 :     fo6 = fo7 - fo2;
     835             : 
     836      156960 :     zIm[in2] = fo6 - fo4;
     837      156960 :     zIm[in3] = fo5 - fo3;
     838      156960 :     zIm[in4] = fo3 + fo5;
     839      156960 :     zIm[in5] = fo4 + fo6;
     840             : 
     841      156960 :     return;
     842             : }
     843             : 
     844             : /*-----------------------------------------------------------------*
     845             :  * fft64()
     846             :  * 64-point FFT
     847             :  *-----------------------------------------------------------------*/
     848             : 
     849      807735 : static void fft64(
     850             :     float *x,          /* i/o: real part of input and output data       */
     851             :     float *y,          /* i/o: imaginary part of input and output data  */
     852             :     const int16_t *Idx /* i  : pointer of the address table             */
     853             : )
     854             : {
     855             :     int16_t i, id, jd;
     856             :     float z[128];
     857    52502775 :     for ( i = 0; i < 64; i++ )
     858             :     {
     859    51695040 :         id = Idx[i];
     860    51695040 :         z[2 * i] = x[id];
     861    51695040 :         z[2 * i + 1] = y[id];
     862             :     }
     863             : 
     864      807735 :     cdftForw( 128, z, Ip_fft64, w_fft64 );
     865             : 
     866    52502775 :     for ( i = 0; i < 64; i++ )
     867             :     {
     868    51695040 :         jd = Odx_fft64[i];
     869    51695040 :         id = Idx[jd];
     870    51695040 :         x[id] = z[2 * i];
     871    51695040 :         y[id] = z[2 * i + 1];
     872             :     }
     873             : 
     874      807735 :     return;
     875             : }
     876             : 
     877             : 
     878             : /*-----------------------------------------------------------------*
     879             :  * fft32_15()
     880             :  * 32-point FFT called for 15 times
     881             :  *-----------------------------------------------------------------*/
     882             : 
     883      225795 : static void fft32_15(
     884             :     float *x,          /* i/o: real part of input and output data       */
     885             :     float *y,          /* i/o: imaginary part of input and output data  */
     886             :     const int16_t *Idx /* i  : pointer of the address table             */
     887             : )
     888             : {
     889             :     int16_t i, id, jd;
     890             :     float z[64];
     891             : 
     892     7451235 :     for ( i = 0; i < 32; i++ )
     893             :     {
     894     7225440 :         id = Idx[i];
     895     7225440 :         z[2 * i] = x[id];
     896     7225440 :         z[2 * i + 1] = y[id];
     897             :     }
     898             : 
     899      225795 :     cdftForw( 64, z, Ip_fft32, w_fft32 );
     900             : 
     901     7451235 :     for ( i = 0; i < 32; i++ )
     902             :     {
     903     7225440 :         jd = Odx_fft32_15[i];
     904     7225440 :         id = Idx[jd];
     905     7225440 :         x[id] = z[2 * i];
     906     7225440 :         y[id] = z[2 * i + 1];
     907             :     }
     908             : 
     909      225795 :     return;
     910             : }
     911             : 
     912             : /*-----------------------------------------------------------------*
     913             :  * fft32_5()
     914             :  * 32-point FFT called for 5 times
     915             :  *-----------------------------------------------------------------*/
     916             : 
     917       24525 : static void fft32_5(
     918             :     float *x,          /* i/o: real part of input and output data       */
     919             :     float *y,          /* i/o: imaginary part of input and output data  */
     920             :     const int16_t *Idx /* i  : pointer of the address table             */
     921             : )
     922             : {
     923             :     int16_t i, id, jd;
     924             :     float z[64];
     925             : 
     926      809325 :     for ( i = 0; i < 32; i++ )
     927             :     {
     928      784800 :         id = Idx[i];
     929      784800 :         z[2 * i] = x[id];
     930      784800 :         z[2 * i + 1] = y[id];
     931             :     }
     932             : 
     933       24525 :     cdftForw( 64, z, Ip_fft32, w_fft32 );
     934             : 
     935      809325 :     for ( i = 0; i < 32; i++ )
     936             :     {
     937      784800 :         jd = Odx_fft32_5[i];
     938      784800 :         id = Idx[jd];
     939      784800 :         x[id] = z[2 * i];
     940      784800 :         y[id] = z[2 * i + 1];
     941             :     }
     942             : 
     943       24525 :     return;
     944             : }
     945             : 
     946             : /*-----------------------------------------------------------------*
     947             :  * fft16()
     948             :  * 16-point FFT
     949             :  *-----------------------------------------------------------------*/
     950             : 
     951       18920 : static void fft16(
     952             :     float *x,          /* i/o: real part of input and output data       */
     953             :     float *y,          /* i/o: imaginary part of input and output data  */
     954             :     const int16_t *Idx /* i  : pointer of the address table             */
     955             : )
     956             : {
     957             :     int16_t i, id, jd;
     958             :     float z[32];
     959             : 
     960      321640 :     for ( i = 0; i < 16; i++ )
     961             :     {
     962      302720 :         id = Idx[i];
     963      302720 :         z[2 * i] = x[id];
     964      302720 :         z[2 * i + 1] = y[id];
     965             :     }
     966             : 
     967       18920 :     cdftForw( 32, z, Ip_fft16, w_fft16 );
     968             : 
     969      321640 :     for ( i = 0; i < 16; i++ )
     970             :     {
     971      302720 :         jd = Odx_fft16[i];
     972      302720 :         id = Idx[jd];
     973      302720 :         x[id] = z[2 * i];
     974      302720 :         y[id] = z[2 * i + 1];
     975             :     }
     976             : 
     977       18920 :     return;
     978             : }
     979             : 
     980             : /*-----------------------------------------------------------------*
     981             :  * fft8()
     982             :  * 8-point FFT
     983             :  *-----------------------------------------------------------------*/
     984             : 
     985       12180 : static void fft8(
     986             :     float *x,          /* i/o: real part of input and output data       */
     987             :     float *y,          /* i/o: imaginary part of input and output data  */
     988             :     const int16_t *Idx /* i  : pointer of the address table             */
     989             : )
     990             : {
     991             :     int16_t i, id;
     992             :     float z[16];
     993             : 
     994      109620 :     for ( i = 0; i < 8; i++ )
     995             :     {
     996       97440 :         id = Idx[i];
     997       97440 :         z[2 * i] = x[id];
     998       97440 :         z[2 * i + 1] = y[id];
     999             :     }
    1000             : 
    1001       12180 :     cdftForw( 16, z, Ip_fft8, w_fft8 );
    1002             : 
    1003      109620 :     for ( i = 0; i < 8; i++ )
    1004             :     {
    1005       97440 :         id = Idx[i];
    1006       97440 :         x[id] = z[2 * i];
    1007       97440 :         y[id] = z[2 * i + 1];
    1008             :     }
    1009             : 
    1010       12180 :     return;
    1011             : }
    1012             : 
    1013             : /*-----------------------------------------------------------------*
    1014             :  * fft8_5()
    1015             :  * 8-point FFT with shift 5
    1016             :  *-----------------------------------------------------------------*/
    1017             : 
    1018         760 : static void fft8_5(
    1019             :     float *x,          /* i/o: real part of input and output data       */
    1020             :     float *y,          /* i/o: imaginary part of input and output data  */
    1021             :     const int16_t *Idx /* i  : pointer of the address table             */
    1022             : )
    1023             : {
    1024             :     int16_t i, id, jd;
    1025             :     float z[16];
    1026             : 
    1027        6840 :     for ( i = 0; i < 8; i++ )
    1028             :     {
    1029        6080 :         id = Idx[i];
    1030        6080 :         z[2 * i] = x[id];
    1031        6080 :         z[2 * i + 1] = y[id];
    1032             :     }
    1033             : 
    1034         760 :     cdftForw( 16, z, Ip_fft8, w_fft8 );
    1035             : 
    1036        6840 :     for ( i = 0; i < 8; i++ )
    1037             :     {
    1038        6080 :         jd = Odx_fft8_5[i];
    1039        6080 :         id = Idx[jd];
    1040        6080 :         x[id] = z[2 * i];
    1041        6080 :         y[id] = z[2 * i + 1];
    1042             :     }
    1043         760 :     return;
    1044             : }
    1045             : 
    1046             : /*-----------------------------------------------------------------*
    1047             :  * fft5_8()
    1048             :  * 5-point FFT with shift 2
    1049             :  *-----------------------------------------------------------------*/
    1050             : 
    1051        1216 : static void fft5_8(
    1052             :     int16_t n1,        /* i  : length of data                           */
    1053             :     float *zRe,        /* i/o: real part of input and output data       */
    1054             :     float *zIm,        /* i/o: imaginary part of input and output data  */
    1055             :     const int16_t *Idx /* i  : pointer of the address table             */
    1056             : )
    1057             : {
    1058             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
    1059             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
    1060             :     int16_t in1, in2, in3, in4, in5;
    1061             : 
    1062        1216 :     in1 = Idx[0];
    1063        1216 :     in2 = Idx[n1];
    1064        1216 :     in3 = Idx[n1 * 2];
    1065        1216 :     in4 = Idx[n1 * 3];
    1066        1216 :     in5 = Idx[n1 * 4];
    1067             : 
    1068        1216 :     fi1 = zRe[in1];
    1069        1216 :     fi2 = zIm[in1];
    1070        1216 :     fo3 = zRe[in2];
    1071        1216 :     fo4 = zRe[in5];
    1072        1216 :     fo6 = zRe[in3];
    1073        1216 :     fo7 = zRe[in4];
    1074             : 
    1075        1216 :     fo5 = fo3 + fo4;
    1076        1216 :     fo8 = fo6 + fo7;
    1077        1216 :     fi3 = fo5 + fo8;
    1078        1216 :     fi4 = fo6 - fo7;
    1079        1216 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1080        1216 :     fi6 = fo3 - fo4;
    1081             : 
    1082        1216 :     fo3 = zIm[in2];
    1083        1216 :     fo4 = zIm[in5];
    1084        1216 :     fo6 = zIm[in3];
    1085        1216 :     fo7 = zIm[in4];
    1086             : 
    1087        1216 :     fo5 = fo3 + fo4;
    1088        1216 :     fo8 = fo6 + fo7;
    1089        1216 :     fi7 = fo3 - fo4;
    1090        1216 :     fi8 = fo5 + fo8;
    1091        1216 :     fo1 = fo6 - fo7;
    1092        1216 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1093             : 
    1094        1216 :     zRe[in1] = fi1 + fi3;
    1095        1216 :     zIm[in1] = fi2 + fi8;
    1096             : 
    1097        1216 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
    1098        1216 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
    1099        1216 :     fo7 = fi1 - fi3 / 4;
    1100        1216 :     fo5 = fi5 + fo7;
    1101        1216 :     fo6 = fo7 - fi5;
    1102             : 
    1103        1216 :     zRe[in2] = fo6 - fo4;
    1104        1216 :     zRe[in3] = fo5 - fo3;
    1105        1216 :     zRe[in5] = fo6 + fo4;
    1106        1216 :     zRe[in4] = fo5 + fo3;
    1107             : 
    1108        1216 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
    1109        1216 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
    1110        1216 :     fo7 = fi2 - fi8 / 4;
    1111        1216 :     fo5 = fo2 + fo7;
    1112        1216 :     fo6 = fo7 - fo2;
    1113             : 
    1114        1216 :     zIm[in2] = fo4 + fo6;
    1115        1216 :     zIm[in3] = fo3 + fo5;
    1116        1216 :     zIm[in4] = fo5 - fo3;
    1117        1216 :     zIm[in5] = fo6 - fo4;
    1118             : 
    1119        1216 :     return;
    1120             : }
    1121             : 
    1122             : /*-----------------------------------------------------------------*
    1123             :  * fft4_5()
    1124             :  * 8-point FFT with shift 1
    1125             :  *-----------------------------------------------------------------*/
    1126             : 
    1127           0 : static void fft4_5(
    1128             :     float *x,          /* i/o: real part of input and output data       */
    1129             :     float *y,          /* i/o: imaginary part of input and output data  */
    1130             :     const int16_t *Idx /* i  : pointer of the address table             */
    1131             : )
    1132             : {
    1133             :     int16_t i, id, jd;
    1134             :     float z[8];
    1135             : 
    1136           0 :     for ( i = 0; i < 4; i++ )
    1137             :     {
    1138           0 :         id = Idx[i];
    1139           0 :         z[2 * i] = x[id];
    1140           0 :         z[2 * i + 1] = y[id];
    1141             :     }
    1142             : 
    1143           0 :     cdftForw( 8, z, Ip_fft4, w_fft4 );
    1144             : 
    1145           0 :     for ( i = 0; i < 4; i++ )
    1146             :     {
    1147           0 :         jd = Odx_fft4_5[i];
    1148           0 :         id = Idx[jd];
    1149           0 :         x[id] = z[2 * i];
    1150           0 :         y[id] = z[2 * i + 1];
    1151             :     }
    1152           0 :     return;
    1153             : }
    1154             : 
    1155             : /*-----------------------------------------------------------------*
    1156             :  * fft5_4()
    1157             :  * 5-point FFT with shift 4
    1158             :  *-----------------------------------------------------------------*/
    1159             : 
    1160           0 : static void fft5_4(
    1161             :     int16_t n1,
    1162             :     float *zRe,
    1163             :     float *zIm,
    1164             :     const int16_t *Idx )
    1165             : {
    1166             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
    1167             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
    1168             :     int16_t in1, in2, in3, in4, in5;
    1169             : 
    1170           0 :     in1 = Idx[0];
    1171           0 :     in2 = Idx[n1];
    1172           0 :     in3 = Idx[n1 * 2];
    1173           0 :     in4 = Idx[n1 * 3];
    1174           0 :     in5 = Idx[n1 * 4];
    1175             : 
    1176           0 :     fi1 = zRe[in1];
    1177           0 :     fi2 = zIm[in1];
    1178           0 :     fo3 = zRe[in2];
    1179           0 :     fo4 = zRe[in5];
    1180           0 :     fo6 = zRe[in3];
    1181           0 :     fo7 = zRe[in4];
    1182             : 
    1183           0 :     fo5 = fo3 + fo4;
    1184           0 :     fo8 = fo6 + fo7;
    1185           0 :     fi3 = fo5 + fo8;
    1186           0 :     fi4 = fo6 - fo7;
    1187           0 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1188           0 :     fi6 = fo3 - fo4;
    1189             : 
    1190           0 :     fo3 = zIm[in2];
    1191           0 :     fo4 = zIm[in5];
    1192           0 :     fo6 = zIm[in3];
    1193           0 :     fo7 = zIm[in4];
    1194             : 
    1195           0 :     fo5 = fo3 + fo4;
    1196           0 :     fo8 = fo6 + fo7;
    1197           0 :     fi7 = fo3 - fo4;
    1198           0 :     fi8 = fo5 + fo8;
    1199           0 :     fo1 = fo6 - fo7;
    1200           0 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1201             : 
    1202           0 :     zRe[in1] = fi1 + fi3;
    1203           0 :     zIm[in1] = fi2 + fi8;
    1204             : 
    1205           0 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
    1206           0 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
    1207           0 :     fo7 = fi1 - fi3 / 4;
    1208           0 :     fo5 = fi5 + fo7;
    1209           0 :     fo6 = fo7 - fi5;
    1210             : 
    1211           0 :     zRe[in2] = fo5 - fo3;
    1212           0 :     zRe[in4] = fo6 - fo4;
    1213           0 :     zRe[in3] = fo6 + fo4;
    1214           0 :     zRe[in5] = fo5 + fo3;
    1215             : 
    1216           0 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
    1217           0 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
    1218           0 :     fo7 = fi2 - fi8 / 4;
    1219           0 :     fo5 = fo2 + fo7;
    1220           0 :     fo6 = fo7 - fo2;
    1221             : 
    1222           0 :     zIm[in2] = fo3 + fo5;
    1223           0 :     zIm[in3] = fo6 - fo4;
    1224           0 :     zIm[in4] = fo4 + fo6;
    1225           0 :     zIm[in5] = fo5 - fo3;
    1226             : 
    1227           0 :     return;
    1228             : }
    1229             : 
    1230             : 
    1231             : /*-----------------------------------------------------------------*
    1232             :  * DoRTFT80()
    1233             :  * a low complexity 2-dimensional DFT of 80 points
    1234             :  *-----------------------------------------------------------------*/
    1235             : 
    1236        3784 : void DoRTFT80(
    1237             :     float *x, /* i/o: real part of input and output data       */
    1238             :     float *y  /* i/o: imaginary part of input and output data  */
    1239             : )
    1240             : {
    1241             :     int16_t j;
    1242             : 
    1243             :     /* Applying 16-point FFT for 5 times based on the address table Idx_dortft80 */
    1244       22704 :     for ( j = 0; j < 5; j++ )
    1245             :     {
    1246       18920 :         fft16( x, y, Idx_dortft80 + 16 * j );
    1247             :     }
    1248             : 
    1249             :     /* Applying 5-point FFT for 16 times based on the address table Idx_dortft80 */
    1250       64328 :     for ( j = 0; j < 16; j++ )
    1251             :     {
    1252       60544 :         fft5_shift1( 16, x, y, Idx_dortft80 + j );
    1253             :     }
    1254             : 
    1255        3784 :     return;
    1256             : }
    1257             : 
    1258             : /*-----------------------------------------------------------------*
    1259             :  * DoRTFT120()
    1260             :  * a low complexity 2-dimensional DFT of 120 points
    1261             :  *-----------------------------------------------------------------*/
    1262             : 
    1263         812 : void DoRTFT120(
    1264             :     float *x, /* i/o: real part of input and output data       */
    1265             :     float *y  /* i/o: imaginary part of input and output data  */
    1266             : )
    1267             : {
    1268             :     int16_t j;
    1269             : 
    1270             :     /* Applying 8-point FFT for 15 times based on the address table Idx_dortft120 */
    1271       12992 :     for ( j = 0; j < 15; j++ )
    1272             :     {
    1273       12180 :         fft8( x, y, Idx_dortft120 + 8 * j );
    1274             :     }
    1275             : 
    1276             :     /* Applying 15-point FFT for 8 times based on the address table Idx_dortft120 */
    1277        7308 :     for ( j = 0; j < 8; j++ )
    1278             :     {
    1279        6496 :         fft15_shift2( 8, x, y, Idx_dortft120 + j );
    1280             :     }
    1281             : 
    1282         812 :     return;
    1283             : }
    1284             : 
    1285             : /*-----------------------------------------------------------------*
    1286             :  * DoRTFT160()
    1287             :  * a low complexity 2-dimensional DFT of 160 points
    1288             :  *-----------------------------------------------------------------*/
    1289             : 
    1290        4905 : void DoRTFT160(
    1291             :     float x[], /* i/o: real part of input and output data       */
    1292             :     float y[]  /* i/o: imaginary part of input and output data  */
    1293             : )
    1294             : {
    1295             :     int16_t j;
    1296             : 
    1297             :     /* Applying 32-point FFT for 5 times based on the address table Idx_dortft160 */
    1298       29430 :     for ( j = 0; j < 5; j++ )
    1299             :     {
    1300       24525 :         fft32_5( x, y, Idx_dortft160 + 32 * j );
    1301             :     }
    1302             : 
    1303             :     /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
    1304      161865 :     for ( j = 0; j < 32; j++ )
    1305             :     {
    1306      156960 :         fft5_32( x, y, Idx_dortft160 + j );
    1307             :     }
    1308             : 
    1309        4905 :     return;
    1310             : }
    1311             : 
    1312             : /*-----------------------------------------------------------------*
    1313             :  * DoRTFT320()
    1314             :  * a low complexity 2-dimensional DFT of 320 points
    1315             :  *-----------------------------------------------------------------*/
    1316             : 
    1317      161547 : void DoRTFT320(
    1318             :     float *x, /* i/o: real part of input and output data       */
    1319             :     float *y  /* i/o: imaginary part of input and output data  */
    1320             : )
    1321             : {
    1322             :     int16_t j;
    1323             : 
    1324             :     /* Applying 64-point FFT for 5 times based on the address table Idx_dortft160 */
    1325      969282 :     for ( j = 0; j < 5; j++ )
    1326             :     {
    1327      807735 :         fft64( x, y, Idx_dortft320 + 64 * j );
    1328             :     }
    1329             : 
    1330             :     /* Applying 5-point FFT for 64 times based on the address table Idx_dortft160 */
    1331    10500555 :     for ( j = 0; j < 64; j++ )
    1332             :     {
    1333    10339008 :         fft5_shift4( 64, x, y, Idx_dortft320 + j );
    1334             :     }
    1335             : 
    1336      161547 :     return;
    1337             : }
    1338             : 
    1339             : /*-----------------------------------------------------------------*
    1340             :  * DoRTFT480()
    1341             :  * a low complexity 2-dimensional DFT of 480 points
    1342             :  *-----------------------------------------------------------------*/
    1343             : 
    1344       15053 : void DoRTFT480(
    1345             :     float *x, /* i/o: real part of input and output data       */
    1346             :     float *y  /* i/o: imaginary part of input and output data  */
    1347             : )
    1348             : {
    1349             :     int16_t j;
    1350             : 
    1351             :     /* Applying 32-point FFT for 15 times based on the address table Idx_dortft160 */
    1352      240848 :     for ( j = 0; j < 15; j++ )
    1353             :     {
    1354      225795 :         fft32_15( x, y, Idx_dortft480 + 32 * j );
    1355             :     }
    1356             : 
    1357             :     /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
    1358      496749 :     for ( j = 0; j < 32; j++ )
    1359             :     {
    1360      481696 :         fft15_shift8( 32, x, y, Idx_dortft480 + j );
    1361             :     }
    1362             : 
    1363       15053 :     return;
    1364             : }
    1365             : 
    1366             : /*-----------------------------------------------------------------*
    1367             :  * DoRTFT40()
    1368             :  * a low complexity 2-dimensional DFT of 40 points
    1369             :  *-----------------------------------------------------------------*/
    1370             : 
    1371         152 : void DoRTFT40(
    1372             :     float *x, /* i/o: real part of input and output data       */
    1373             :     float *y  /* i/o: imaginary part of input and output data  */
    1374             : )
    1375             : {
    1376             :     int16_t j;
    1377             :     /* Applying 8-point FFT for 5 times based on the address table Idx_dortft40 */
    1378         912 :     for ( j = 0; j < 5; j++ )
    1379             :     {
    1380         760 :         fft8_5( x, y, Idx_dortft40 + 8 * j );
    1381             :     }
    1382             : 
    1383             :     /* Applying 5-point FFT for 8 times based on the address table Idx_dortft40 */
    1384        1368 :     for ( j = 0; j < 8; j++ )
    1385             :     {
    1386        1216 :         fft5_8( 8, x, y, Idx_dortft40 + j );
    1387             :     }
    1388             : 
    1389         152 :     return;
    1390             : }
    1391             : 
    1392             : /*-----------------------------------------------------------------*
    1393             :  * DoRTFT20()
    1394             :  * a low complexity 2-dimensional DFT of 20 points
    1395             :  *-----------------------------------------------------------------*/
    1396             : 
    1397           0 : void DoRTFT20(
    1398             :     float *x, /* i/o: real part of input and output data       */
    1399             :     float *y  /* i/o: imaginary part of input and output data  */
    1400             : )
    1401             : {
    1402             :     int16_t j;
    1403             : 
    1404             :     /* Applying 4-point FFT for 5 times based on the address table Idx_dortft20 */
    1405           0 :     for ( j = 0; j < 5; j++ )
    1406             :     {
    1407           0 :         fft4_5( x, y, Idx_dortft20 + 4 * j );
    1408             :     }
    1409             : 
    1410             :     /* Applying 5-point FFT for 4 times based on the address table Idx_dortft20 */
    1411           0 :     for ( j = 0; j < 4; j++ )
    1412             :     {
    1413           0 :         fft5_4( 4, x, y, Idx_dortft20 + j );
    1414             :     }
    1415             : 
    1416           0 :     return;
    1417             : }
    1418             : 
    1419             : /*-----------------------------------------------------------------*
    1420             :  * DoRTFT128()
    1421             :  * FFT with 128 points
    1422             :  *-----------------------------------------------------------------*/
    1423             : 
    1424      654348 : void DoRTFT128(
    1425             :     float *x, /* i/o: real part of input and output data       */
    1426             :     float *y  /* i/o: imaginary part of input and output data  */
    1427             : )
    1428             : {
    1429             : 
    1430             :     int16_t i;
    1431             :     float z[256];
    1432             : 
    1433    84410892 :     for ( i = 0; i < 128; i++ )
    1434             :     {
    1435    83756544 :         z[2 * i] = x[i];
    1436    83756544 :         z[2 * i + 1] = y[i];
    1437             :     }
    1438             : 
    1439      654348 :     cdftForw( 256, z, Ip_fft128, w_fft128 );
    1440             : 
    1441      654348 :     x[0] = z[0];
    1442      654348 :     y[0] = z[1];
    1443    83756544 :     for ( i = 1; i < 128; i++ )
    1444             :     {
    1445    83102196 :         x[128 - i] = z[2 * i];
    1446    83102196 :         y[128 - i] = z[2 * i + 1];
    1447             :     }
    1448             : 
    1449      654348 :     return;
    1450             : }
    1451             : 
    1452             : /*-----------------------------------------------------------------*
    1453             :  * cdftForw()
    1454             :  * Main fuction of Complex Discrete Fourier Transform
    1455             :  *-----------------------------------------------------------------*/
    1456             : 
    1457     2498778 : static void cdftForw(
    1458             :     int16_t n,         /* i  : data length of real and imag  */
    1459             :     float *a,          /* i/o: input/output data             */
    1460             :     const int16_t *ip, /* i  : work area for bit reversal    */
    1461             :     const float *w     /* i  : cos/sin table                 */
    1462             : )
    1463             : {
    1464             :     /* bit reversal */
    1465     2498778 :     bitrv2_SR( n, ip + 2, a );
    1466             : 
    1467             :     /* Do FFT */
    1468     2498778 :     cftfsub( n, a, w );
    1469     2498778 : }
    1470             : 
    1471             : /*-----------------------------------------------------------------*
    1472             :  * bitrv2_SR()
    1473             :  * Bit reversal
    1474             :  *-----------------------------------------------------------------*/
    1475             : 
    1476     2620188 : static void bitrv2_SR(
    1477             :     int16_t n,         /* i  : data length of real and imag  */
    1478             :     const int16_t *ip, /* i/o: work area for bit reversal    */
    1479             :     float *a           /* i/o: input/output data             */
    1480             : )
    1481             : {
    1482             :     int16_t j, j1, k, k1, m, m2;
    1483             :     int16_t l;
    1484             :     float xr, xi, yr, yi;
    1485             : 
    1486     2620188 :     if ( n == 64 )
    1487             :     {
    1488      371730 :         m = 4;
    1489      371730 :         l = -1;
    1490             :     }
    1491     2248458 :     else if ( n == 256 )
    1492             :     {
    1493      654348 :         m = 8;
    1494      654348 :         l = -1;
    1495             :     }
    1496     1594110 :     else if ( n == 16 )
    1497             :     {
    1498       12940 :         m = 2;
    1499       12940 :         l = -1;
    1500             :     }
    1501             :     else
    1502             :     {
    1503     1581170 :         l = n;
    1504     1581170 :         m = 1;
    1505             : 
    1506     6221694 :         while ( ( m << 3 ) < l )
    1507             :         {
    1508     4640524 :             l >>= 1;
    1509     4640524 :             m <<= 1;
    1510             :         }
    1511     1581170 :         l -= m * 8;
    1512             :     }
    1513             : 
    1514     2620188 :     m2 = 2 * m;
    1515             : 
    1516     2620188 :     if ( l == 0 )
    1517             :     {
    1518     4202756 :         for ( k = 0; k < m; k++ )
    1519             :         {
    1520     8563384 :             for ( j = 0; j < k; j++ )
    1521             :             {
    1522     5199208 :                 j1 = 2 * j + ip[k];
    1523     5199208 :                 k1 = 2 * k + ip[j];
    1524     5199208 :                 xr = a[j1];
    1525     5199208 :                 xi = a[j1 + 1];
    1526     5199208 :                 yr = a[k1];
    1527     5199208 :                 yi = a[k1 + 1];
    1528     5199208 :                 a[j1] = yr;
    1529     5199208 :                 a[j1 + 1] = yi;
    1530     5199208 :                 a[k1] = xr;
    1531     5199208 :                 a[k1 + 1] = xi;
    1532     5199208 :                 j1 += m2;
    1533     5199208 :                 k1 += 2 * m2;
    1534     5199208 :                 xr = a[j1];
    1535     5199208 :                 xi = a[j1 + 1];
    1536     5199208 :                 yr = a[k1];
    1537     5199208 :                 yi = a[k1 + 1];
    1538     5199208 :                 a[j1] = yr;
    1539     5199208 :                 a[j1 + 1] = yi;
    1540     5199208 :                 a[k1] = xr;
    1541     5199208 :                 a[k1 + 1] = xi;
    1542     5199208 :                 j1 += m2;
    1543     5199208 :                 k1 -= m2;
    1544     5199208 :                 xr = a[j1];
    1545     5199208 :                 xi = a[j1 + 1];
    1546     5199208 :                 yr = a[k1];
    1547     5199208 :                 yi = a[k1 + 1];
    1548     5199208 :                 a[j1] = yr;
    1549     5199208 :                 a[j1 + 1] = yi;
    1550     5199208 :                 a[k1] = xr;
    1551     5199208 :                 a[k1 + 1] = xi;
    1552     5199208 :                 j1 += m2;
    1553     5199208 :                 k1 += 2 * m2;
    1554     5199208 :                 xr = a[j1];
    1555     5199208 :                 xi = a[j1 + 1];
    1556     5199208 :                 yr = a[k1];
    1557     5199208 :                 yi = a[k1 + 1];
    1558     5199208 :                 a[j1] = yr;
    1559     5199208 :                 a[j1 + 1] = yi;
    1560     5199208 :                 a[k1] = xr;
    1561     5199208 :                 a[k1 + 1] = xi;
    1562             :             }
    1563             : 
    1564     3364176 :             j1 = 2 * k + m2 + ip[k];
    1565     3364176 :             k1 = j1 + m2;
    1566     3364176 :             xr = a[j1];
    1567     3364176 :             xi = a[j1 + 1];
    1568     3364176 :             yr = a[k1];
    1569     3364176 :             yi = a[k1 + 1];
    1570     3364176 :             a[j1] = yr;
    1571     3364176 :             a[j1 + 1] = yi;
    1572     3364176 :             a[k1] = xr;
    1573     3364176 :             a[k1 + 1] = xi;
    1574             :         }
    1575             :     }
    1576             :     else
    1577             :     {
    1578    18629024 :         for ( k = 1; k < m; k++ )
    1579             :         {
    1580   126523280 :             for ( j = 0; j < k; j++ )
    1581             :             {
    1582   109675864 :                 j1 = 2 * j + ip[k];
    1583   109675864 :                 k1 = 2 * k + ip[j];
    1584   109675864 :                 xr = a[j1];
    1585   109675864 :                 xi = a[j1 + 1];
    1586   109675864 :                 yr = a[k1];
    1587   109675864 :                 yi = a[k1 + 1];
    1588   109675864 :                 a[j1] = yr;
    1589   109675864 :                 a[j1 + 1] = yi;
    1590   109675864 :                 a[k1] = xr;
    1591   109675864 :                 a[k1 + 1] = xi;
    1592   109675864 :                 j1 += m2;
    1593   109675864 :                 k1 += m2;
    1594   109675864 :                 xr = a[j1];
    1595   109675864 :                 xi = a[j1 + 1];
    1596   109675864 :                 yr = a[k1];
    1597   109675864 :                 yi = a[k1 + 1];
    1598   109675864 :                 a[j1] = yr;
    1599   109675864 :                 a[j1 + 1] = yi;
    1600   109675864 :                 a[k1] = xr;
    1601   109675864 :                 a[k1 + 1] = xi;
    1602             :             }
    1603             :         }
    1604             :     }
    1605             : 
    1606     2620188 :     return;
    1607             : }
    1608             : 
    1609             : /*-----------------------------------------------------------------*
    1610             :  * cftfsub()
    1611             :  * Complex Discrete Fourier Transform
    1612             :  *-----------------------------------------------------------------*/
    1613             : 
    1614     2590193 : static void cftfsub(
    1615             :     int16_t n,     /* i  : data length of real and imag  */
    1616             :     float *a,      /* i/o: input/output data             */
    1617             :     const float *w /* i  : cos/sin table                 */
    1618             : )
    1619             : {
    1620             :     int16_t j, j1, j2, j3, l;
    1621             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1622             : 
    1623     2590193 :     l = 2;
    1624     2590193 :     if ( n > 8 )
    1625             :     {
    1626     2590193 :         cft1st( n, a, w );
    1627             : 
    1628     2590193 :         l = 8;
    1629     7299978 :         while ( ( l << 2 ) < n )
    1630             :         {
    1631     4709785 :             cftmdl( n, l, a, w );
    1632     4709785 :             l <<= 2;
    1633             :         }
    1634             :     }
    1635             : 
    1636     2590193 :     if ( ( l << 2 ) == n )
    1637             :     {
    1638    14601172 :         for ( j = 0; j < l; j += 2 )
    1639             :         {
    1640    13762592 :             j1 = j + l;
    1641    13762592 :             j2 = j1 + l;
    1642    13762592 :             j3 = j2 + l;
    1643    13762592 :             x0r = a[j] + a[j1];
    1644    13762592 :             x0i = a[j + 1] + a[j1 + 1];
    1645    13762592 :             x1r = a[j] - a[j1];
    1646    13762592 :             x1i = a[j + 1] - a[j1 + 1];
    1647    13762592 :             x2r = a[j2] + a[j3];
    1648    13762592 :             x2i = a[j2 + 1] + a[j3 + 1];
    1649    13762592 :             x3r = a[j2] - a[j3];
    1650    13762592 :             x3i = a[j2 + 1] - a[j3 + 1];
    1651    13762592 :             a[j] = x0r + x2r;
    1652    13762592 :             a[j + 1] = x0i + x2i;
    1653    13762592 :             a[j2] = x0r - x2r;
    1654    13762592 :             a[j2 + 1] = x0i - x2i;
    1655    13762592 :             a[j1] = x1r - x3i;
    1656    13762592 :             a[j1 + 1] = x1i + x3r;
    1657    13762592 :             a[j3] = x1r + x3i;
    1658    13762592 :             a[j3 + 1] = x1i - x3r;
    1659             :         }
    1660             :     }
    1661             :     else
    1662             :     {
    1663   239252445 :         for ( j = 0; j < l; j += 2 )
    1664             :         {
    1665   237500832 :             j1 = j + l;
    1666   237500832 :             x0r = a[j] - a[j1];
    1667   237500832 :             x0i = a[j + 1] - a[j1 + 1];
    1668   237500832 :             a[j] += a[j1];
    1669   237500832 :             a[j + 1] += a[j1 + 1];
    1670   237500832 :             a[j1] = x0r;
    1671   237500832 :             a[j1 + 1] = x0i;
    1672             :         }
    1673             :     }
    1674             : 
    1675     2590193 :     return;
    1676             : }
    1677             : 
    1678             : /*-----------------------------------------------------------------*
    1679             :  * cft1st()
    1680             :  * Subfunction of Complex Discrete Fourier Transform
    1681             :  *-----------------------------------------------------------------*/
    1682             : 
    1683     2620188 : static void cft1st(
    1684             :     int16_t n,     /* i  : data length of real and imag  */
    1685             :     float *a,      /* i/o: input/output data             */
    1686             :     const float *w /* i  : cos/sin table                 */
    1687             : )
    1688             : {
    1689             :     int16_t j, k1, k2;
    1690             :     float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
    1691             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1692             : 
    1693     2620188 :     x0r = a[0] + a[2];
    1694     2620188 :     x0i = a[1] + a[3];
    1695     2620188 :     x1r = a[0] - a[2];
    1696     2620188 :     x1i = a[1] - a[3];
    1697     2620188 :     x2r = a[4] + a[6];
    1698     2620188 :     x2i = a[5] + a[7];
    1699     2620188 :     x3r = a[4] - a[6];
    1700     2620188 :     x3i = a[5] - a[7];
    1701     2620188 :     a[0] = x0r + x2r;
    1702     2620188 :     a[1] = x0i + x2i;
    1703     2620188 :     a[4] = x0r - x2r;
    1704     2620188 :     a[5] = x0i - x2i;
    1705     2620188 :     a[2] = x1r - x3i;
    1706     2620188 :     a[3] = x1i + x3r;
    1707     2620188 :     a[6] = x1r + x3i;
    1708     2620188 :     a[7] = x1i - x3r;
    1709     2620188 :     wk1r = w[2];
    1710     2620188 :     x0r = a[8] + a[10];
    1711     2620188 :     x0i = a[9] + a[11];
    1712     2620188 :     x1r = a[8] - a[10];
    1713     2620188 :     x1i = a[9] - a[11];
    1714     2620188 :     x2r = a[12] + a[14];
    1715     2620188 :     x2i = a[13] + a[15];
    1716     2620188 :     x3r = a[12] - a[14];
    1717     2620188 :     x3i = a[13] - a[15];
    1718     2620188 :     a[8] = x0r + x2r;
    1719     2620188 :     a[9] = x0i + x2i;
    1720     2620188 :     a[12] = x2i - x0i;
    1721     2620188 :     a[13] = x0r - x2r;
    1722     2620188 :     x0r = x1r - x3i;
    1723     2620188 :     x0i = x1i + x3r;
    1724     2620188 :     a[10] = wk1r * ( x0r - x0i );
    1725     2620188 :     a[11] = wk1r * ( x0r + x0i );
    1726     2620188 :     x0r = x3i + x1r;
    1727     2620188 :     x0i = x3r - x1i;
    1728     2620188 :     a[14] = wk1r * ( x0i - x0r );
    1729     2620188 :     a[15] = wk1r * ( x0i + x0r );
    1730     2620188 :     k1 = 0;
    1731             : 
    1732    66376484 :     for ( j = 16; j < n; j += 16 )
    1733             :     {
    1734    63756296 :         k1 += 2;
    1735    63756296 :         k2 = 2 * k1;
    1736    63756296 :         wk2r = w[k1];
    1737    63756296 :         wk2i = w[k1 + 1];
    1738    63756296 :         wk1r = w[k2];
    1739    63756296 :         wk1i = w[k2 + 1];
    1740    63756296 :         wk3r = wk1r - 2 * wk2i * wk1i;
    1741    63756296 :         wk3i = 2 * wk2i * wk1r - wk1i;
    1742    63756296 :         x0r = a[j] + a[j + 2];
    1743    63756296 :         x0i = a[j + 1] + a[j + 3];
    1744    63756296 :         x1r = a[j] - a[j + 2];
    1745    63756296 :         x1i = a[j + 1] - a[j + 3];
    1746    63756296 :         x2r = a[j + 4] + a[j + 6];
    1747    63756296 :         x2i = a[j + 5] + a[j + 7];
    1748    63756296 :         x3r = a[j + 4] - a[j + 6];
    1749    63756296 :         x3i = a[j + 5] - a[j + 7];
    1750    63756296 :         a[j] = x0r + x2r;
    1751    63756296 :         a[j + 1] = x0i + x2i;
    1752    63756296 :         x0r -= x2r;
    1753    63756296 :         x0i -= x2i;
    1754    63756296 :         a[j + 4] = wk2r * x0r - wk2i * x0i;
    1755    63756296 :         a[j + 5] = wk2r * x0i + wk2i * x0r;
    1756    63756296 :         x0r = x1r - x3i;
    1757    63756296 :         x0i = x1i + x3r;
    1758    63756296 :         a[j + 2] = wk1r * x0r - wk1i * x0i;
    1759    63756296 :         a[j + 3] = wk1r * x0i + wk1i * x0r;
    1760    63756296 :         x0r = x1r + x3i;
    1761    63756296 :         x0i = x1i - x3r;
    1762    63756296 :         a[j + 6] = wk3r * x0r - wk3i * x0i;
    1763    63756296 :         a[j + 7] = wk3r * x0i + wk3i * x0r;
    1764    63756296 :         wk1r = w[k2 + 2];
    1765    63756296 :         wk1i = w[k2 + 3];
    1766    63756296 :         wk3r = wk1r - 2 * wk2r * wk1i;
    1767    63756296 :         wk3i = 2 * wk2r * wk1r - wk1i;
    1768    63756296 :         x0r = a[j + 8] + a[j + 10];
    1769    63756296 :         x0i = a[j + 9] + a[j + 11];
    1770    63756296 :         x1r = a[j + 8] - a[j + 10];
    1771    63756296 :         x1i = a[j + 9] - a[j + 11];
    1772    63756296 :         x2r = a[j + 12] + a[j + 14];
    1773    63756296 :         x2i = a[j + 13] + a[j + 15];
    1774    63756296 :         x3r = a[j + 12] - a[j + 14];
    1775    63756296 :         x3i = a[j + 13] - a[j + 15];
    1776    63756296 :         a[j + 8] = x0r + x2r;
    1777    63756296 :         a[j + 9] = x0i + x2i;
    1778    63756296 :         x0r -= x2r;
    1779    63756296 :         x0i -= x2i;
    1780    63756296 :         a[j + 12] = -wk2i * x0r - wk2r * x0i;
    1781    63756296 :         a[j + 13] = -wk2i * x0i + wk2r * x0r;
    1782    63756296 :         x0r = x1r - x3i;
    1783    63756296 :         x0i = x1i + x3r;
    1784    63756296 :         a[j + 10] = wk1r * x0r - wk1i * x0i;
    1785    63756296 :         a[j + 11] = wk1r * x0i + wk1i * x0r;
    1786    63756296 :         x0r = x1r + x3i;
    1787    63756296 :         x0i = x1i - x3r;
    1788    63756296 :         a[j + 14] = wk3r * x0r - wk3i * x0i;
    1789    63756296 :         a[j + 15] = wk3r * x0i + wk3i * x0r;
    1790             :     }
    1791             : 
    1792     2620188 :     return;
    1793             : }
    1794             : 
    1795             : /*-----------------------------------------------------------------*
    1796             :  * cftmdl()
    1797             :  * Subfunction of Complex Discrete Fourier Transform
    1798             :  *-----------------------------------------------------------------*/
    1799             : 
    1800     4739780 : static void cftmdl(
    1801             :     int16_t n,     /* i  : data length of real and imag  */
    1802             :     int16_t l,     /* i  : initial shift for processing  */
    1803             :     float *a,      /* i/o: input/output data             */
    1804             :     const float *w /* i  : cos/sin table                 */
    1805             : )
    1806             : {
    1807             :     int16_t j, j1, j2, j3, k, k1, k2, m, m2;
    1808             :     float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
    1809             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1810             : 
    1811     4739780 :     m = l << 2;
    1812    85160644 :     for ( j = 0; j < l; j += 2 )
    1813             :     {
    1814    80420864 :         j1 = j + l;
    1815    80420864 :         j2 = j1 + l;
    1816    80420864 :         j3 = j2 + l;
    1817    80420864 :         x0r = a[j] + a[j1];
    1818    80420864 :         x0i = a[j + 1] + a[j1 + 1];
    1819    80420864 :         x1r = a[j] - a[j1];
    1820    80420864 :         x1i = a[j + 1] - a[j1 + 1];
    1821    80420864 :         x2r = a[j2] + a[j3];
    1822    80420864 :         x2i = a[j2 + 1] + a[j3 + 1];
    1823    80420864 :         x3r = a[j2] - a[j3];
    1824    80420864 :         x3i = a[j2 + 1] - a[j3 + 1];
    1825    80420864 :         a[j] = x0r + x2r;
    1826    80420864 :         a[j + 1] = x0i + x2i;
    1827    80420864 :         a[j2] = x0r - x2r;
    1828    80420864 :         a[j2 + 1] = x0i - x2i;
    1829    80420864 :         a[j1] = x1r - x3i;
    1830    80420864 :         a[j1 + 1] = x1i + x3r;
    1831    80420864 :         a[j3] = x1r + x3i;
    1832    80420864 :         a[j3 + 1] = x1i - x3r;
    1833             :     }
    1834             : 
    1835     4739780 :     wk1r = w[2];
    1836    85160644 :     for ( j = m; j < l + m; j += 2 )
    1837             :     {
    1838    80420864 :         j1 = j + l;
    1839    80420864 :         j2 = j1 + l;
    1840    80420864 :         j3 = j2 + l;
    1841    80420864 :         x0r = a[j] + a[j1];
    1842    80420864 :         x0i = a[j + 1] + a[j1 + 1];
    1843    80420864 :         x1r = a[j] - a[j1];
    1844    80420864 :         x1i = a[j + 1] - a[j1 + 1];
    1845    80420864 :         x2r = a[j2] + a[j3];
    1846    80420864 :         x2i = a[j2 + 1] + a[j3 + 1];
    1847    80420864 :         x3r = a[j2] - a[j3];
    1848    80420864 :         x3i = a[j2 + 1] - a[j3 + 1];
    1849    80420864 :         a[j] = x0r + x2r;
    1850    80420864 :         a[j + 1] = x0i + x2i;
    1851    80420864 :         a[j2] = x2i - x0i;
    1852    80420864 :         a[j2 + 1] = x0r - x2r;
    1853    80420864 :         x0r = x1r - x3i;
    1854    80420864 :         x0i = x1i + x3r;
    1855    80420864 :         a[j1] = wk1r * ( x0r - x0i );
    1856    80420864 :         a[j1 + 1] = wk1r * ( x0r + x0i );
    1857    80420864 :         x0r = x3i + x1r;
    1858    80420864 :         x0i = x3r - x1i;
    1859    80420864 :         a[j3] = wk1r * ( x0i - x0r );
    1860    80420864 :         a[j3 + 1] = wk1r * ( x0i + x0r );
    1861             :     }
    1862             : 
    1863     4739780 :     k1 = 0;
    1864     4739780 :     m2 = 2 * m;
    1865    20972572 :     for ( k = m2; k < n; k += m2 )
    1866             :     {
    1867    16232792 :         k1 += 2;
    1868    16232792 :         k2 = 2 * k1;
    1869    16232792 :         wk2r = w[k1];
    1870    16232792 :         wk2i = w[k1 + 1];
    1871    16232792 :         wk1r = w[k2];
    1872    16232792 :         wk1i = w[k2 + 1];
    1873    16232792 :         wk3r = wk1r - 2 * wk2i * wk1i;
    1874    16232792 :         wk3i = 2 * wk2i * wk1r - wk1i;
    1875   108040288 :         for ( j = k; j < l + k; j += 2 )
    1876             :         {
    1877    91807496 :             j1 = j + l;
    1878    91807496 :             j2 = j1 + l;
    1879    91807496 :             j3 = j2 + l;
    1880    91807496 :             x0r = a[j] + a[j1];
    1881    91807496 :             x0i = a[j + 1] + a[j1 + 1];
    1882    91807496 :             x1r = a[j] - a[j1];
    1883    91807496 :             x1i = a[j + 1] - a[j1 + 1];
    1884    91807496 :             x2r = a[j2] + a[j3];
    1885    91807496 :             x2i = a[j2 + 1] + a[j3 + 1];
    1886    91807496 :             x3r = a[j2] - a[j3];
    1887    91807496 :             x3i = a[j2 + 1] - a[j3 + 1];
    1888    91807496 :             a[j] = x0r + x2r;
    1889    91807496 :             a[j + 1] = x0i + x2i;
    1890    91807496 :             x0r -= x2r;
    1891    91807496 :             x0i -= x2i;
    1892    91807496 :             a[j2] = wk2r * x0r - wk2i * x0i;
    1893    91807496 :             a[j2 + 1] = wk2r * x0i + wk2i * x0r;
    1894    91807496 :             x0r = x1r - x3i;
    1895    91807496 :             x0i = x1i + x3r;
    1896    91807496 :             a[j1] = wk1r * x0r - wk1i * x0i;
    1897    91807496 :             a[j1 + 1] = wk1r * x0i + wk1i * x0r;
    1898    91807496 :             x0r = x1r + x3i;
    1899    91807496 :             x0i = x1i - x3r;
    1900    91807496 :             a[j3] = wk3r * x0r - wk3i * x0i;
    1901    91807496 :             a[j3 + 1] = wk3r * x0i + wk3i * x0r;
    1902             :         }
    1903             : 
    1904    16232792 :         wk1r = w[k2 + 2];
    1905    16232792 :         wk1i = w[k2 + 3];
    1906    16232792 :         wk3r = wk1r - 2 * wk2r * wk1i;
    1907    16232792 :         wk3i = 2 * wk2r * wk1r - wk1i;
    1908   108040288 :         for ( j = k + m; j < l + ( k + m ); j += 2 )
    1909             :         {
    1910    91807496 :             j1 = j + l;
    1911    91807496 :             j2 = j1 + l;
    1912    91807496 :             j3 = j2 + l;
    1913    91807496 :             x0r = a[j] + a[j1];
    1914    91807496 :             x0i = a[j + 1] + a[j1 + 1];
    1915    91807496 :             x1r = a[j] - a[j1];
    1916    91807496 :             x1i = a[j + 1] - a[j1 + 1];
    1917    91807496 :             x2r = a[j2] + a[j3];
    1918    91807496 :             x2i = a[j2 + 1] + a[j3 + 1];
    1919    91807496 :             x3r = a[j2] - a[j3];
    1920    91807496 :             x3i = a[j2 + 1] - a[j3 + 1];
    1921    91807496 :             a[j] = x0r + x2r;
    1922    91807496 :             a[j + 1] = x0i + x2i;
    1923    91807496 :             x0r -= x2r;
    1924    91807496 :             x0i -= x2i;
    1925    91807496 :             a[j2] = -wk2i * x0r - wk2r * x0i;
    1926    91807496 :             a[j2 + 1] = -wk2i * x0i + wk2r * x0r;
    1927    91807496 :             x0r = x1r - x3i;
    1928    91807496 :             x0i = x1i + x3r;
    1929    91807496 :             a[j1] = wk1r * x0r - wk1i * x0i;
    1930    91807496 :             a[j1 + 1] = wk1r * x0i + wk1i * x0r;
    1931    91807496 :             x0r = x1r + x3i;
    1932    91807496 :             x0i = x1i - x3r;
    1933    91807496 :             a[j3] = wk3r * x0r - wk3i * x0i;
    1934    91807496 :             a[j3 + 1] = wk3r * x0i + wk3i * x0r;
    1935             :         }
    1936             :     }
    1937             : 
    1938     4739780 :     return;
    1939             : }
    1940             : 
    1941       29995 : static void cftbsub(
    1942             :     int16_t n,
    1943             :     float *a,
    1944             :     const float *w /* i  : cos/sin table                 */
    1945             : )
    1946             : {
    1947             :     int16_t j, j1, j2, j3, l;
    1948             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1949             : 
    1950       29995 :     l = 2;
    1951       29995 :     if ( n > 8 )
    1952             :     {
    1953       29995 :         cft1st( n, a, w );
    1954       29995 :         l = 8;
    1955             : 
    1956       59990 :         while ( ( l << 2 ) < n )
    1957             :         {
    1958       29995 :             cftmdl( n, l, a, w );
    1959       29995 :             l <<= 2;
    1960             :         }
    1961             :     }
    1962             : 
    1963       29995 :     if ( ( l << 2 ) == n )
    1964             :     {
    1965           0 :         for ( j = 0; j < l; j += 2 )
    1966             :         {
    1967           0 :             j1 = j + l;
    1968           0 :             j2 = j1 + l;
    1969           0 :             j3 = j2 + l;
    1970           0 :             x0r = a[j] + a[j1];
    1971           0 :             x0i = -a[j + 1] - a[j1 + 1];
    1972           0 :             x1r = a[j] - a[j1];
    1973           0 :             x1i = -a[j + 1] + a[j1 + 1];
    1974           0 :             x2r = a[j2] + a[j3];
    1975           0 :             x2i = a[j2 + 1] + a[j3 + 1];
    1976           0 :             x3r = a[j2] - a[j3];
    1977           0 :             x3i = a[j2 + 1] - a[j3 + 1];
    1978           0 :             a[j] = x0r + x2r;
    1979           0 :             a[j + 1] = x0i - x2i;
    1980           0 :             a[j2] = x0r - x2r;
    1981           0 :             a[j2 + 1] = x0i + x2i;
    1982           0 :             a[j1] = x1r - x3i;
    1983           0 :             a[j1 + 1] = x1i - x3r;
    1984           0 :             a[j3] = x1r + x3i;
    1985           0 :             a[j3 + 1] = x1i + x3r;
    1986             :         }
    1987             :     }
    1988             :     else
    1989             :     {
    1990      509915 :         for ( j = 0; j < l; j += 2 )
    1991             :         {
    1992      479920 :             j1 = j + l;
    1993      479920 :             x0r = a[j] - a[j1];
    1994      479920 :             x0i = -a[j + 1] + a[j1 + 1];
    1995      479920 :             a[j] += a[j1];
    1996      479920 :             a[j + 1] = -a[j + 1] - a[j1 + 1];
    1997      479920 :             a[j1] = x0r;
    1998      479920 :             a[j1 + 1] = x0i;
    1999             :         }
    2000             :     }
    2001             : 
    2002       29995 :     return;
    2003             : }
    2004             : 
    2005       91415 : static void rftfsub(
    2006             :     int16_t n,
    2007             :     float *a,
    2008             :     int16_t nc,
    2009             :     const float *c )
    2010             : {
    2011             :     int16_t j, k, kk, ks, m;
    2012             :     float wkr, wki, xr, xi, yr, yi;
    2013             : 
    2014       91415 :     m = n >> 1;
    2015       91415 :     ks = 2 * nc / m;
    2016       91415 :     kk = 0;
    2017     1462640 :     for ( j = 2; j < m; j += 2 )
    2018             :     {
    2019     1371225 :         k = n - j;
    2020     1371225 :         kk += ks;
    2021     1371225 :         wkr = 0.5f - c[nc - kk];
    2022     1371225 :         wki = c[kk];
    2023     1371225 :         xr = a[j] - a[k];
    2024     1371225 :         xi = a[j + 1] + a[k + 1];
    2025     1371225 :         yr = wkr * xr - wki * xi;
    2026     1371225 :         yi = wkr * xi + wki * xr;
    2027     1371225 :         a[j] -= yr;
    2028     1371225 :         a[j + 1] -= yi;
    2029     1371225 :         a[k] += yr;
    2030     1371225 :         a[k + 1] -= yi;
    2031             :     }
    2032             : 
    2033       91415 :     return;
    2034             : }
    2035             : 
    2036             : 
    2037       29995 : static void rftbsub(
    2038             :     int16_t n,
    2039             :     float *a,
    2040             :     int16_t nc,
    2041             :     const float *c )
    2042             : {
    2043             :     int16_t j, k, kk, ks, m;
    2044             :     float wkr, wki, xr, xi, yr, yi;
    2045             : 
    2046       29995 :     a[1] = -a[1];
    2047       29995 :     m = n >> 1;
    2048       29995 :     ks = 2 * nc / m;
    2049       29995 :     kk = 0;
    2050      479920 :     for ( j = 2; j < m; j += 2 )
    2051             :     {
    2052      449925 :         k = n - j;
    2053      449925 :         kk += ks;
    2054      449925 :         wkr = 0.5f - c[nc - kk];
    2055      449925 :         wki = c[kk];
    2056      449925 :         xr = a[j] - a[k];
    2057      449925 :         xi = a[j + 1] + a[k + 1];
    2058      449925 :         yr = wkr * xr + wki * xi;
    2059      449925 :         yi = wkr * xi - wki * xr;
    2060      449925 :         a[j] -= yr;
    2061      449925 :         a[j + 1] = yi - a[j + 1];
    2062      449925 :         a[k] += yr;
    2063      449925 :         a[k + 1] = yi - a[k + 1];
    2064             :     }
    2065       29995 :     a[m + 1] = -a[m + 1];
    2066             : 
    2067       29995 :     return;
    2068             : }
    2069             : 
    2070             : 
    2071      121410 : static void dctsub(
    2072             :     int16_t n,
    2073             :     float *a,
    2074             :     int16_t nc,
    2075             :     const float *c )
    2076             : {
    2077             :     int16_t j, k, kk, ks, m;
    2078             :     float wkr, wki, xr;
    2079             : 
    2080      121410 :     m = n >> 1;
    2081      121410 :     ks = nc / n;
    2082      121410 :     kk = 0;
    2083     3885120 :     for ( j = 1; j < m; j++ )
    2084             :     {
    2085     3763710 :         k = n - j;
    2086     3763710 :         kk += ks;
    2087     3763710 :         wkr = c[kk] - c[nc - kk];
    2088     3763710 :         wki = c[kk] + c[nc - kk];
    2089     3763710 :         xr = wki * a[j] - wkr * a[k];
    2090     3763710 :         a[j] = wkr * a[j] + wki * a[k];
    2091     3763710 :         a[k] = xr;
    2092             :     }
    2093      121410 :     a[m] *= c[0];
    2094             : 
    2095      121410 :     return;
    2096             : }
    2097             : 
    2098             : 
    2099             : /*-----------------------------------------------------------------*
    2100             :  * edct2()
    2101             :  *
    2102             :  * Transformation of the signal to DCT domain
    2103             :  * OR Inverse EDCT-II for short frames
    2104             :  *-----------------------------------------------------------------*/
    2105             : 
    2106      121410 : void edct2(
    2107             :     const int16_t n,
    2108             :     const int16_t isgn,
    2109             :     float *in,
    2110             :     float *a,
    2111             :     const int16_t *ip,
    2112             :     const float *w )
    2113             : {
    2114             :     int16_t j, nw, nc;
    2115             :     float xr;
    2116             : 
    2117      121410 :     mvr2r( in, a, n );
    2118             : 
    2119      121410 :     nw = ip[0];
    2120      121410 :     if ( n > ( nw << 2 ) )
    2121             :     {
    2122           0 :         nw = n >> 2;
    2123             :     }
    2124             : 
    2125      121410 :     nc = ip[1];
    2126      121410 :     if ( n > nc )
    2127             :     {
    2128           0 :         nc = n;
    2129             :     }
    2130             : 
    2131      121410 :     if ( isgn < 0 )
    2132             :     {
    2133       29995 :         xr = a[n - 1];
    2134      959840 :         for ( j = n - 2; j >= 2; j -= 2 )
    2135             :         {
    2136      929845 :             a[j + 1] = a[j] - a[j - 1];
    2137      929845 :             a[j] += a[j - 1];
    2138             :         }
    2139       29995 :         a[1] = a[0] - xr;
    2140       29995 :         a[0] += xr;
    2141             : 
    2142       29995 :         if ( n > 4 )
    2143             :         {
    2144       29995 :             rftbsub( n, a, nc, w + nw );
    2145       29995 :             bitrv2_SR( n, ip + 2, a );
    2146       29995 :             cftbsub( n, a, w );
    2147             :         }
    2148           0 :         else if ( n == 4 )
    2149             :         {
    2150           0 :             cftfsub( n, a, w );
    2151             :         }
    2152             :     }
    2153             : 
    2154      121410 :     if ( isgn >= 0 )
    2155             :     {
    2156       91415 :         a[0] *= 0.5f;
    2157             :     }
    2158             : 
    2159      121410 :     dctsub( n, a, nc, w + nw );
    2160             : 
    2161      121410 :     if ( isgn >= 0 )
    2162             :     {
    2163       91415 :         if ( n > 4 )
    2164             :         {
    2165       91415 :             bitrv2_SR( n, ip + 2, a );
    2166       91415 :             cftfsub( n, a, w );
    2167       91415 :             rftfsub( n, a, nc, w + nw );
    2168             :         }
    2169           0 :         else if ( n == 4 )
    2170             :         {
    2171           0 :             cftfsub( n, a, w );
    2172             :         }
    2173       91415 :         xr = a[0] - a[1];
    2174       91415 :         a[0] += a[1];
    2175     2925280 :         for ( j = 2; j < n; j += 2 )
    2176             :         {
    2177     2833865 :             a[j - 1] = a[j] - a[j + 1];
    2178     2833865 :             a[j] += a[j + 1];
    2179             :         }
    2180       91415 :         a[n - 1] = xr;
    2181             : 
    2182     5941975 :         for ( j = 0; j < n; j++ )
    2183             :         {
    2184     5850560 :             a[j] /= 32.0f;
    2185             :         }
    2186             :     }
    2187      121410 : }
    2188             : 
    2189             : 
    2190      754515 : void DoRTFTn(
    2191             :     float *x,       /* i/o: real part of input and output data       */
    2192             :     float *y,       /* i/o: imaginary part of input and output data  */
    2193             :     const int16_t n /* i  : size of the FFT up to 1024 */
    2194             : )
    2195             : {
    2196             : 
    2197             :     int16_t i;
    2198             :     float z[2048];
    2199             : 
    2200   384013203 :     for ( i = 0; i < n; i++ )
    2201             :     {
    2202   383258688 :         z[2 * i] = x[i];
    2203   383258688 :         z[2 * i + 1] = y[i];
    2204             :     }
    2205             : 
    2206      754515 :     switch ( n )
    2207             :     {
    2208           0 :         case ( 16 ):
    2209           0 :             cdftForw( 2 * n, z, Ip_fft16, w_fft16 );
    2210           0 :             break;
    2211           0 :         case ( 32 ):
    2212           0 :             cdftForw( 2 * n, z, Ip_fft32, w_fft32 );
    2213           0 :             break;
    2214           1 :         case ( 64 ):
    2215           1 :             cdftForw( 2 * n, z, Ip_fft64, w_fft64 );
    2216           1 :             break;
    2217           0 :         case ( 128 ):
    2218           0 :             cdftForw( 2 * n, z, Ip_fft128, w_fft128 );
    2219           0 :             break;
    2220       11924 :         case ( 256 ):
    2221       11924 :             cdftForw( 2 * n, z, Ip_fft256, w_fft256 );
    2222       11924 :             break;
    2223      742590 :         case ( 512 ):
    2224      742590 :             cdftForw( 2 * n, z, Ip_fft512, w_fft512 );
    2225      742590 :             break;
    2226           0 :         default:
    2227           0 :             assert( 0 );
    2228             :     }
    2229             : 
    2230      754515 :     x[0] = z[0];
    2231      754515 :     y[0] = z[1];
    2232   383258688 :     for ( i = 1; i < n; i++ )
    2233             :     {
    2234   382504173 :         x[n - i] = z[2 * i];
    2235   382504173 :         y[n - i] = z[2 * i + 1];
    2236             :     }
    2237             : 
    2238      754515 :     return;
    2239             : }
    2240             : 
    2241             : 
    2242         408 : void fft3(
    2243             :     const float X[],
    2244             :     float Y[],
    2245             :     const int16_t n )
    2246             : {
    2247             :     float Z[PH_ECU_SPEC_SIZE];
    2248             :     float *Z0, *Z1, *Z2;
    2249             :     float *z0, *z1, *z2;
    2250             :     const float *x;
    2251         408 :     const float *t_sin = sincos_t_rad3;
    2252             :     int16_t m, step, order;
    2253             :     int16_t i, j;
    2254             :     int16_t c1_ind, s1_ind, c2_ind, s2_ind;
    2255             :     int16_t c1_step, s1_step, c2_step, s2_step;
    2256             :     float *RY, *IY, *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
    2257             : 
    2258             :     /* Determine the order of the transform, the length of decimated  */
    2259             :     /* transforms m, and the step for the sine and cosine tables.     */
    2260         408 :     switch ( n )
    2261             :     {
    2262         136 :         case 1536:
    2263         136 :             order = 9;
    2264         136 :             m = 512;
    2265         136 :             step = 1;
    2266         136 :             break;
    2267         272 :         case 384:
    2268         272 :             order = 7;
    2269         272 :             m = 128;
    2270         272 :             step = 4;
    2271         272 :             break;
    2272           0 :         default:
    2273           0 :             order = 9;
    2274           0 :             m = 512;
    2275           0 :             step = 1;
    2276             :     }
    2277             : 
    2278             :     /* Compose decimated sequences X[3i], X[3i+1],X[3i+2] */
    2279             :     /* compute their FFT of length m.                                 */
    2280         408 :     Z0 = &Z[0];
    2281         408 :     z0 = &Z0[0];
    2282         408 :     Z1 = &Z0[m];
    2283         408 :     z1 = &Z1[0]; /* Z1 = &Z[ m];     */
    2284         408 :     Z2 = &Z1[m];
    2285         408 :     z2 = &Z2[0]; /* Z2 = &Z[2m];     */
    2286         408 :     x = &X[0];
    2287      104856 :     for ( i = 0; i < n / 3; i++ )
    2288             :     {
    2289      104448 :         *z0++ = *x++; /* Z0[i] = X[3i];   */
    2290      104448 :         *z1++ = *x++; /* Z1[i] = X[3i+1]; */
    2291      104448 :         *z2++ = *x++; /* Z2[i] = X[3i+2]; */
    2292             :     }
    2293             : 
    2294         408 :     fft_rel( &Z0[0], m, order );
    2295         408 :     fft_rel( &Z1[0], m, order );
    2296         408 :     fft_rel( &Z2[0], m, order );
    2297             : 
    2298             :     /* Butterflies of order 3. */
    2299             :     /* pointer initialization */
    2300         408 :     RY = &Y[0];
    2301         408 :     IY = &Y[n];
    2302         408 :     RZ0 = &Z0[0];
    2303         408 :     IZ0 = &Z0[m];
    2304         408 :     RZ1 = &Z1[0];
    2305         408 :     IZ1 = &Z1[m];
    2306         408 :     RZ2 = &Z2[0];
    2307         408 :     IZ2 = &Z2[m];
    2308             : 
    2309         408 :     c1_step = -step;
    2310         408 :     s1_step = step;
    2311         408 :     c2_step = -2 * step;
    2312         408 :     s2_step = 2 * step;
    2313         408 :     c1_ind = T_SIN_PI_2 + c1_step;
    2314         408 :     s1_ind = s1_step;
    2315         408 :     c2_ind = T_SIN_PI_2 + c2_step;
    2316         408 :     s2_ind = s2_step;
    2317             : 
    2318             :     /* special case: i = 0 */
    2319         408 :     RY[0] = RZ0[0] + RZ1[0] + RZ2[0];
    2320             : 
    2321             :     /* first 3/12 */
    2322       39168 :     for ( i = 1; i < 3 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind += c2_step, s2_ind += s2_step )
    2323             :     {
    2324       38760 :         RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] + RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
    2325       38760 :         IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] + IZ2[-i] * t_sin[c2_ind];
    2326             :     }
    2327             : 
    2328             :     /* next 1/12 */
    2329       13464 :     for ( ; i < 4 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
    2330             :     {
    2331       13056 :         RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] - RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
    2332       13056 :         IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] - IZ2[-i] * t_sin[c2_ind];
    2333             :     }
    2334             : 
    2335             :     /* special case: i = m/2 i.e. 1/3 */
    2336         408 :     RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] - RZ2[i] * t_sin[c2_ind];
    2337         408 :     IY[-i] = -RZ1[i] * t_sin[s1_ind] - RZ2[i] * t_sin[s2_ind];
    2338         408 :     i++;
    2339             : 
    2340         408 :     c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step;
    2341             : 
    2342             :     /* next  2/12 */
    2343       26112 :     for ( j = i - 2; i < 6 * m / 8; i++, j--, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
    2344             :     {
    2345       25704 :         RY[i] = RZ0[j] + RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
    2346       25704 :         IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] - RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
    2347             :     }
    2348             : 
    2349             :     /*--------------------------half--------------------------*/
    2350             :     /* next 2/12 */
    2351       26520 :     for ( ; i < 8 * m / 8; i++, j--, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
    2352             :     {
    2353       26112 :         RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] + IZ2[-j] * t_sin[s2_ind];
    2354       26112 :         IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] + IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
    2355             :     }
    2356             : 
    2357             :     /* special case: i = m, i.e 2/3 */
    2358         408 :     RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - RZ2[j] * t_sin[c2_ind];
    2359         408 :     IY[-i++] = -RZ1[j] * t_sin[s1_ind] + RZ2[j] * t_sin[s2_ind];
    2360         408 :     c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step;
    2361             : 
    2362             :     /* next 1/12 */
    2363       13056 :     for ( j = 1; i < 9 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
    2364             :     {
    2365       12648 :         RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
    2366       12648 :         IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] - IZ2[-j] * t_sin[c2_ind];
    2367             :     }
    2368             : 
    2369             :     /* last 3/12 */
    2370       39576 :     for ( ; i < 12 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
    2371             :     {
    2372       39168 :         RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] + RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
    2373       39168 :         IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
    2374             :     }
    2375             : 
    2376             :     /* special case: i = 3*m/2 */
    2377         408 :     RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + RZ2[j] * t_sin[c2_ind];
    2378             : 
    2379         408 :     return;
    2380             : }
    2381             : 
    2382         221 : void ifft3(
    2383             :     const float Z[],
    2384             :     float X[],
    2385             :     const int16_t n )
    2386             : {
    2387             :     float Y[PH_ECU_SPEC_SIZE];
    2388         221 :     const float *t_sin = sincos_t_rad3;
    2389             :     int16_t m, step, step2, order;
    2390             :     int16_t i;
    2391             :     int16_t c0_ind, s0_ind, c1_ind, s1_ind, c2_ind, s2_ind;
    2392             :     float scale;
    2393             :     const float *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
    2394             :     float *RY0, *IY0, *RY1, *IY1, *RY2, *IY2, *y0, *y1, *y2;
    2395             : 
    2396             :     /* Determine the order of the transform, the length of decimated  */
    2397             :     /* transforms m, and the step for the sine and cosine tables.     */
    2398         221 :     switch ( n )
    2399             :     {
    2400         221 :         case 1536:
    2401         221 :             order = 9;
    2402         221 :             m = 512;
    2403         221 :             step = 1;
    2404         221 :             break;
    2405           0 :         case 384:
    2406           0 :             order = 7;
    2407           0 :             m = 128;
    2408           0 :             step = 4;
    2409           0 :             break;
    2410           0 :         default:
    2411           0 :             order = 9;
    2412           0 :             m = 512;
    2413           0 :             step = 1;
    2414             :     }
    2415             : 
    2416             :     /* pointer initialization */
    2417         221 :     RY0 = &Y[0];
    2418         221 :     IY0 = &RY0[m];
    2419         221 :     RY1 = &RY0[m];
    2420         221 :     IY1 = &RY1[m];
    2421         221 :     RY2 = &RY1[m];
    2422         221 :     IY2 = &RY2[m];
    2423             : 
    2424         221 :     RZ0 = &Z[0];
    2425         221 :     RZ1 = RZ0 + m;
    2426         221 :     RZ2 = RZ0 + n / 2 - m / 2;
    2427         221 :     IZ0 = &Z[n];
    2428         221 :     IZ1 = IZ0 - m;
    2429         221 :     IZ2 = IZ0 - n / 2 + m / 2;
    2430             : 
    2431             :     /* Inverse butterflies of order 3. */
    2432             : 
    2433             :     /* Construction of Y0 */
    2434         221 :     RY0[0] = RZ0[0] + RZ1[0] + RZ2[0];
    2435       56576 :     for ( i = 1; i < m / 2; i++ )
    2436             :     {
    2437       56355 :         RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
    2438       56355 :         IY0[-i] = IZ0[-i] + IZ1[-i] - IZ2[i];
    2439             :     }
    2440             : 
    2441             :     /* m/2 */
    2442         221 :     RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
    2443             : 
    2444             :     /* Construction of Y1 */
    2445         221 :     c0_ind = T_SIN_PI_2;
    2446         221 :     s0_ind = 0;
    2447         221 :     c1_ind = T_SIN_PI_2 * 1 / 3;
    2448         221 :     s1_ind = T_SIN_PI_2 * 2 / 3;
    2449         221 :     c2_ind = T_SIN_PI_2 * 1 / 3;
    2450         221 :     s2_ind = T_SIN_PI_2 * 2 / 3;
    2451             : 
    2452         221 :     RY1[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] - IZ1[0] * t_sin[s1_ind] - IZ2[0] * t_sin[s2_ind];
    2453             : 
    2454         221 :     c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step;
    2455       28288 :     for ( i = 1; i < m / 4; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step )
    2456             :     {
    2457       28067 :         RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2458       28067 :         IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2459             :     }
    2460             : 
    2461       28509 :     for ( ; i < m / 2; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind += step, s2_ind -= step )
    2462             :     {
    2463       28288 :         RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2464       28288 :         IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] - IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2465             :     }
    2466             : 
    2467             :     /* m/2 */
    2468         221 :     RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2469             : 
    2470             :     /* Construction of Y2 */
    2471         221 :     c0_ind = T_SIN_PI_2;
    2472         221 :     s0_ind = 0;
    2473         221 :     c1_ind = T_SIN_PI_2 * 1 / 3;
    2474         221 :     s1_ind = T_SIN_PI_2 * 2 / 3;
    2475         221 :     c2_ind = T_SIN_PI_2 * 1 / 3;
    2476         221 :     s2_ind = T_SIN_PI_2 * 2 / 3;
    2477         221 :     step2 = 2 * step;
    2478         221 :     RY2[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] + IZ1[0] * t_sin[s1_ind] + IZ2[0] * t_sin[s2_ind];
    2479             : 
    2480         221 :     c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2;
    2481       14144 :     for ( i = 1; i < m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2 )
    2482             :     {
    2483       13923 :         RY2[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
    2484       13923 :         IY2[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
    2485             :     }
    2486             : 
    2487       14365 :     for ( ; i < m / 4; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind += step2, s2_ind -= step2 )
    2488             :     {
    2489       14144 :         RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
    2490       14144 :         IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
    2491             :     }
    2492             : 
    2493       14365 :     for ( ; i < 3 * m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
    2494             :     {
    2495       14144 :         RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2496       14144 :         IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2497             :     }
    2498             : 
    2499       14365 :     for ( ; i < m / 2; i++, c0_ind += step2, s0_ind -= step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
    2500             :     {
    2501       14144 :         RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2502       14144 :         IY2[-i] = -IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2503             :     }
    2504             : 
    2505             :     /* m/2 */
    2506         221 :     RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2507             : 
    2508             :     /* Compute the inverse FFT for all 3 blocks. */
    2509         221 :     ifft_rel( RY0, m, order );
    2510         221 :     ifft_rel( RY1, m, order );
    2511         221 :     ifft_rel( RY2, m, order );
    2512             : 
    2513         221 :     y0 = RY0;
    2514         221 :     y1 = RY1;
    2515         221 :     y2 = RY2;
    2516             : 
    2517             :     /* Interlacing and scaling, scale = 1/3 */
    2518         221 :     scale = 1.0f / 3;
    2519      113373 :     for ( i = 0; i < n; )
    2520             :     {
    2521      113152 :         X[i++] = ( *y0++ ) * scale;
    2522      113152 :         X[i++] = ( *y1++ ) * scale;
    2523      113152 :         X[i++] = ( *y2++ ) * scale;
    2524             :     }
    2525             : 
    2526         221 :     return;
    2527             : }
    2528             : 
    2529             : 
    2530       72721 : static void rfft_post(
    2531             :     const float *sine_table,
    2532             :     float *buf,
    2533             :     const int16_t len )
    2534             : {
    2535             :     float tmp1, tmp2, tmp3, tmp4, s, c;
    2536       72721 :     int16_t i = 0;
    2537             : 
    2538       72721 :     tmp1 = buf[0] + buf[1];
    2539       72721 :     buf[1] = buf[0] - buf[1];
    2540       72721 :     buf[0] = tmp1;
    2541             : 
    2542    11708081 :     for ( i = 1; i <= ( len + 2 ) / 4; i++ )
    2543             :     {
    2544    11635360 :         s = sine_table[i];           /* sin(pi*i/(len/2)) */
    2545    11635360 :         c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
    2546             : 
    2547    11635360 :         tmp1 = buf[2 * i] - buf[len - 2 * i];
    2548    11635360 :         tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
    2549    11635360 :         tmp3 = s * tmp1 - c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
    2550    11635360 :         tmp4 = c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
    2551    11635360 :         tmp1 = buf[2 * i] + buf[len - 2 * i];
    2552    11635360 :         tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
    2553             : 
    2554    11635360 :         buf[2 * i] = 0.5f * ( tmp1 - tmp3 );
    2555    11635360 :         buf[2 * i + 1] = 0.5f * ( tmp2 - tmp4 );
    2556    11635360 :         buf[len - 2 * i] = 0.5f * ( tmp1 + tmp3 );
    2557    11635360 :         buf[len - 2 * i + 1] = -0.5f * ( tmp2 + tmp4 );
    2558             :     }
    2559       72721 : }
    2560             : 
    2561       54237 : static void rfft_pre(
    2562             :     const float *sine_table,
    2563             :     float *buf,
    2564             :     const int16_t len )
    2565             : {
    2566       54237 :     const float scale = 1.0f / len;
    2567             :     float tmp1, tmp2, tmp3, tmp4, s, c;
    2568       54237 :     int16_t i = 0;
    2569             : 
    2570       54237 :     tmp1 = buf[0] + buf[1];
    2571       54237 :     buf[1] = scale * ( buf[0] - buf[1] );
    2572       54237 :     buf[0] = scale * tmp1;
    2573             : 
    2574     8732157 :     for ( i = 1; i <= ( len + 2 ) / 4; i++ )
    2575             :     {
    2576     8677920 :         s = sine_table[i];           /* sin(pi*i/(len/2)) */
    2577     8677920 :         c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
    2578             : 
    2579     8677920 :         tmp1 = buf[2 * i] - buf[len - 2 * i];
    2580     8677920 :         tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
    2581     8677920 :         tmp3 = s * tmp1 + c * tmp2;  /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
    2582     8677920 :         tmp4 = -c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
    2583     8677920 :         tmp1 = buf[2 * i] + buf[len - 2 * i];
    2584     8677920 :         tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
    2585             : 
    2586     8677920 :         buf[2 * i] = scale * ( tmp1 + tmp3 );
    2587     8677920 :         buf[2 * i + 1] = -scale * ( tmp2 + tmp4 );
    2588     8677920 :         buf[len - 2 * i] = scale * ( tmp1 - tmp3 );
    2589     8677920 :         buf[len - 2 * i + 1] = scale * ( tmp2 - tmp4 );
    2590             :     }
    2591             : 
    2592       54237 :     return;
    2593             : }
    2594             : 
    2595      269950 : int16_t RFFTN(
    2596             :     float *data,
    2597             :     const float *sine_table,
    2598             :     const int16_t len,
    2599             :     const int16_t sign )
    2600             : {
    2601      269950 :     assert( len <= 640 && len > 0 );
    2602             : 
    2603      269950 :     if ( len == 640 )
    2604             :     {
    2605             :         float x[320], y[320];
    2606             :         int16_t i;
    2607             : 
    2608      126958 :         if ( sign != -1 )
    2609             :         {
    2610       54237 :             rfft_pre( sine_table, data, len );
    2611             :         }
    2612             : 
    2613    40753518 :         for ( i = 0; i < 320; i++ )
    2614             :         {
    2615    40626560 :             x[i] = data[2 * i];
    2616    40626560 :             y[i] = data[2 * i + 1];
    2617             :         }
    2618      126958 :         DoRTFT320( x, y );
    2619    40753518 :         for ( i = 0; i < 320; i++ )
    2620             :         {
    2621    40626560 :             data[2 * i] = x[i];
    2622    40626560 :             data[2 * i + 1] = y[i];
    2623             :         }
    2624             : 
    2625      126958 :         if ( sign == -1 )
    2626             :         {
    2627       72721 :             rfft_post( sine_table, data, len );
    2628             :         }
    2629             :     }
    2630             :     else
    2631             :     {
    2632      142992 :         if ( len == 512 )
    2633             :         {
    2634             :             int16_t i;
    2635      142992 :             const int16_t log2 = 9;
    2636             :             float reordered_data[512];
    2637             : 
    2638      142992 :             if ( sign == -1 )
    2639             :             {
    2640       75255 :                 fft_rel( data, len, log2 );
    2641       75255 :                 reordered_data[0] = data[0];
    2642       75255 :                 reordered_data[1] = data[len / 2];
    2643    19265280 :                 for ( i = 1; i < len / 2; i++ )
    2644             :                 {
    2645    19190025 :                     reordered_data[2 * i] = data[i];
    2646    19190025 :                     reordered_data[2 * i + 1] = data[len - i];
    2647             :                 }
    2648             :             }
    2649             :             else
    2650             :             {
    2651       67737 :                 reordered_data[0] = data[0];
    2652       67737 :                 reordered_data[len / 2] = data[1];
    2653    17340672 :                 for ( i = 1; i < len / 2; i++ )
    2654             :                 {
    2655    17272935 :                     reordered_data[i] = data[2 * i];
    2656    17272935 :                     reordered_data[len - i] = data[2 * i + 1];
    2657             :                 }
    2658       67737 :                 ifft_rel( reordered_data, len, log2 );
    2659             :             }
    2660      142992 :             mvr2r( reordered_data, data, len );
    2661             :         }
    2662             :         else
    2663             :         {
    2664           0 :             assert( !"Not supported FFT length!" );
    2665             :         }
    2666             :     }
    2667             : 
    2668      269950 :     return 0;
    2669             : }
    2670             : 
    2671    29445270 : static void butterfly(
    2672             :     const float a,
    2673             :     const float b,
    2674             :     float *aPlusb,
    2675             :     float *aMinusb )
    2676             : {
    2677    29445270 :     *aPlusb = a + b;
    2678    29445270 :     *aMinusb = a - b;
    2679             : 
    2680    29445270 :     return;
    2681             : }
    2682             : 
    2683    19534080 : static void fft2(
    2684             :     float *pInOut )
    2685             : {
    2686             :     /*  FFT MATRIX:
    2687             :         1.0000             1.0000
    2688             :         1.0000            -1.0000
    2689             :     */
    2690             :     float re1, im1;
    2691             :     float re2, im2;
    2692             : 
    2693    19534080 :     re1 = pInOut[0];
    2694    19534080 :     im1 = pInOut[1];
    2695    19534080 :     re2 = pInOut[2];
    2696    19534080 :     im2 = pInOut[3];
    2697    19534080 :     pInOut[0] = re1 + re2;
    2698    19534080 :     pInOut[1] = im1 + im2;
    2699             : 
    2700    19534080 :     pInOut[2] = re1 - re2;
    2701    19534080 :     pInOut[3] = im1 - im2;
    2702             : 
    2703    19534080 :     return;
    2704             : }
    2705             : 
    2706             : static const float C31 = 0.5f;               /* cos(PI/3); sin(2*PI/3) */
    2707             : static const float C32 = 0.866025403784439f; /* cos(PI/3); sin(2*PI/3) */
    2708             : 
    2709    13035720 : static void fft3_2(
    2710             :     float *pInOut )
    2711             : {
    2712             :     float re1, im1;
    2713             :     float re2, im2;
    2714             :     float re3, im3;
    2715             : 
    2716             :     float tmp1, tmp2;
    2717             :     float tmp3, tmp4;
    2718             : 
    2719    13035720 :     re1 = pInOut[0];
    2720    13035720 :     im1 = pInOut[1];
    2721    13035720 :     re2 = pInOut[2];
    2722    13035720 :     im2 = pInOut[3];
    2723    13035720 :     re3 = pInOut[4];
    2724    13035720 :     im3 = pInOut[5];
    2725             : 
    2726             :     /*  FFT MATRIX:
    2727             :        1.0000             1.0000             1.0000
    2728             :                             C31      C32
    2729             :        1.0000            -0.5000 - 0.8660i  -0.5000 + 0.8660i
    2730             :        1.0000            -0.5000 + 0.8660i  -0.5000 - 0.8660i
    2731             :     */
    2732    13035720 :     tmp1 = re2 + re3;
    2733    13035720 :     tmp3 = im2 + im3;
    2734    13035720 :     tmp2 = re2 - re3;
    2735    13035720 :     tmp4 = im2 - im3;
    2736    13035720 :     pInOut[0] = re1 + tmp1;
    2737    13035720 :     pInOut[1] = im1 + tmp3;
    2738    13035720 :     pInOut[2] = re1 - C31 * tmp1 + C32 * tmp4;
    2739    13035720 :     pInOut[4] = re1 - C31 * tmp1 - C32 * tmp4;
    2740             : 
    2741    13035720 :     pInOut[3] = im1 - C32 * tmp2 - C31 * tmp3;
    2742    13035720 :     pInOut[5] = im1 + C32 * tmp2 - C31 * tmp3;
    2743    13035720 : }
    2744             : 
    2745             : 
    2746           0 : static void fft4(
    2747             :     float *pInOut )
    2748             : {
    2749             :     float re1, im1;
    2750             :     float re2, im2;
    2751             :     float re3, im3;
    2752             :     float re4, im4;
    2753             : 
    2754             :     float tmp1, tmp2;
    2755             :     float tmp3, tmp4;
    2756             :     float tmp5, tmp6;
    2757             :     float tmp7, tmp8;
    2758             : 
    2759           0 :     re1 = pInOut[0];
    2760           0 :     im1 = pInOut[1];
    2761           0 :     re2 = pInOut[2];
    2762           0 :     im2 = pInOut[3];
    2763           0 :     re3 = pInOut[4];
    2764           0 :     im3 = pInOut[5];
    2765           0 :     re4 = pInOut[6];
    2766           0 :     im4 = pInOut[7];
    2767             : 
    2768             :     /*
    2769             :      1.0000    1.0000      1.0000    1.0000
    2770             :      1.0000   -1.0000i    -1.0000    1.0000i
    2771             :      1.0000   -1.0000      1.0000   -1.0000
    2772             :      1.0000    1.0000i    -1.0000   -1.0000i
    2773             :     */
    2774           0 :     tmp1 = re1 + re3;
    2775           0 :     tmp3 = re2 + re4;
    2776           0 :     tmp5 = im1 + im3;
    2777           0 :     tmp7 = im2 + im4;
    2778           0 :     pInOut[0] = tmp1 + tmp3;
    2779           0 :     pInOut[4] = tmp1 - tmp3;
    2780             : 
    2781           0 :     pInOut[1] = tmp5 + tmp7;
    2782           0 :     pInOut[5] = tmp5 - tmp7;
    2783           0 :     tmp2 = re1 - re3;
    2784           0 :     tmp4 = re2 - re4;
    2785           0 :     tmp6 = im1 - im3;
    2786           0 :     tmp8 = im2 - im4;
    2787           0 :     pInOut[2] = tmp2 + tmp8;
    2788           0 :     pInOut[6] = tmp2 - tmp8;
    2789             : 
    2790           0 :     pInOut[3] = -tmp4 + tmp6;
    2791           0 :     pInOut[7] = tmp4 + tmp6;
    2792             : 
    2793           0 :     return;
    2794             : }
    2795             : 
    2796             : static const float C51 = 0.309016994374947f; /* cos(2*PI/5);   */
    2797             : static const float C52 = 0.951056516295154f; /* sin(2*PI/5);   */
    2798             : static const float C53 = 0.809016994374947f; /* cos(  PI/5);   */
    2799             : static const float C54 = 0.587785252292473f; /* sin(  PI/5);   */
    2800             : 
    2801     7894352 : static void fft5(
    2802             :     float *pInOut )
    2803             : {
    2804             :     float re1, im1;
    2805             :     float re2, im2;
    2806             :     float re3, im3;
    2807             :     float re4, im4;
    2808             :     float re5, im5;
    2809             : 
    2810             :     float tmp1, tmp2;
    2811             :     float tmp3, tmp4;
    2812             :     float tmp5, tmp6;
    2813             :     float tmp7, tmp8;
    2814             : 
    2815             : 
    2816     7894352 :     re1 = pInOut[0];
    2817     7894352 :     im1 = pInOut[1];
    2818     7894352 :     re2 = pInOut[2];
    2819     7894352 :     im2 = pInOut[3];
    2820     7894352 :     re3 = pInOut[4];
    2821     7894352 :     im3 = pInOut[5];
    2822     7894352 :     re4 = pInOut[6];
    2823     7894352 :     im4 = pInOut[7];
    2824     7894352 :     re5 = pInOut[8];
    2825     7894352 :     im5 = pInOut[9];
    2826             : 
    2827             :     /*
    2828             :      1.0000             1.0000             1.0000             1.0000             1.0000
    2829             :                           C51      C52      C53       C54
    2830             :      1.0000             0.3090 - 0.9511i  -0.8090 - 0.5878i  -0.8090 + 0.5878i   0.3090 + 0.9511i
    2831             :      1.0000            -0.8090 - 0.5878i   0.3090 + 0.9511i   0.3090 - 0.9511i  -0.8090 + 0.5878i
    2832             :      1.0000            -0.8090 + 0.5878i   0.3090 - 0.9511i   0.3090 + 0.9511i  -0.8090 - 0.5878i
    2833             :      1.0000             0.3090 + 0.9511i  -0.8090 + 0.5878i  -0.8090 - 0.5878i   0.3090 - 0.9511i
    2834             :     */
    2835     7894352 :     tmp1 = re2 + re5;
    2836     7894352 :     tmp2 = re2 - re5;
    2837     7894352 :     tmp3 = im2 + im5;
    2838     7894352 :     tmp4 = im2 - im5;
    2839     7894352 :     tmp5 = re3 + re4;
    2840     7894352 :     tmp6 = re3 - re4;
    2841     7894352 :     tmp7 = im3 + im4;
    2842     7894352 :     tmp8 = im3 - im4;
    2843             : 
    2844             : 
    2845     7894352 :     pInOut[0] = re1 + tmp1 + tmp5;
    2846     7894352 :     pInOut[1] = im1 + tmp3 + tmp7;
    2847             : 
    2848     7894352 :     pInOut[2] = re1 + C51 * tmp1 - C53 * tmp5 + C52 * tmp4 + C54 * tmp8;
    2849     7894352 :     pInOut[8] = re1 + C51 * tmp1 - C53 * tmp5 - C52 * tmp4 - C54 * tmp8;
    2850     7894352 :     pInOut[3] = im1 - C52 * tmp2 - C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
    2851     7894352 :     pInOut[9] = im1 + C52 * tmp2 + C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
    2852     7894352 :     pInOut[4] = re1 - C53 * tmp1 + C51 * tmp5 + C54 * tmp4 - C52 * tmp8;
    2853     7894352 :     pInOut[6] = re1 - C53 * tmp1 + C51 * tmp5 - C54 * tmp4 + C52 * tmp8;
    2854     7894352 :     pInOut[5] = im1 - C54 * tmp2 + C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
    2855     7894352 :     pInOut[7] = im1 + C54 * tmp2 - C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
    2856             : 
    2857     7894352 :     return;
    2858             : }
    2859             : 
    2860             : static const float C81 = 0.707106781186548f; /* cos(PI/4);   */
    2861             : 
    2862     4907545 : static void fft8_2(
    2863             :     float *pInOut )
    2864             : {
    2865             :     float re0, im0, re4, im4;
    2866             : 
    2867             :     float re1_7p, re1_7m;
    2868             :     float im1_7p, im1_7m;
    2869             :     float re2_6p, re2_6m;
    2870             :     float im2_6p, im2_6m;
    2871             :     float re3_5p, re3_5m;
    2872             :     float im3_5p, im3_5m;
    2873             : 
    2874     4907545 :     re0 = pInOut[0];
    2875     4907545 :     im0 = pInOut[1];
    2876     4907545 :     re4 = pInOut[8];
    2877     4907545 :     im4 = pInOut[9];
    2878     4907545 :     butterfly( pInOut[1 * 2], pInOut[7 * 2], &re1_7p, &re1_7m );
    2879     4907545 :     butterfly( pInOut[1 * 2 + 1], pInOut[7 * 2 + 1], &im1_7p, &im1_7m );
    2880     4907545 :     butterfly( pInOut[2 * 2], pInOut[6 * 2], &re2_6p, &re2_6m );
    2881     4907545 :     butterfly( pInOut[2 * 2 + 1], pInOut[6 * 2 + 1], &im2_6p, &im2_6m );
    2882     4907545 :     butterfly( pInOut[3 * 2], pInOut[5 * 2], &re3_5p, &re3_5m );
    2883     4907545 :     butterfly( pInOut[3 * 2 + 1], pInOut[5 * 2 + 1], &im3_5p, &im3_5m );
    2884             : 
    2885             :     /*
    2886             :     0:  1 + 0i     1   + 0i    1 + 0i        1 +   0i    1 + 0i      1 +   0i     1 + 0i      1 +   0i
    2887             :     1:  1 + 0i   C81 - C81i    0 - 1i     -C81 - C81i   -1 - 0i   -C81 + C81i   - 0 + 1i    C81 + C81i
    2888             :     2:  1 + 0i     0 -   1i   -1 - 0i     -  0 +   1i    1 + 0i      0 -   1i   - 1 - 0i   -  0 +   1i
    2889             :     3:  1 + 0i  -C81 - C81i   -0 + 1i      C81 - C81i   -1 - 0i    C81 + C81i     0 - 1i   -C81 + C81i
    2890             :     4:  1 + 0i  -  1 -   0i    1 + 0i     -  1 -   0i    1 + 0i   -  1 -   0i     1 + 0i   -  1 -   0i
    2891             :     5:  1 + 0i  -C81 + C81i    0 - 1i      C81 + C81i   -1 - 0i    C81 - C81i   - 0 + 1i   -C81 - C81i
    2892             :     6:  1 + 0i  -  0 +   1i   -1 - 0i        0 -   1i    1 + 0i   -  0 +   1i   - 1 - 0i    - 0 -   1i
    2893             :     7:  1 + 0i   C81 + C81i   -0 + 1i     -C81 + C81i   -1 - 0i   -C81 - C81i   - 0 - 1i    C81 - C81i
    2894             :     */
    2895     4907545 :     pInOut[0] = re0 + re4 + re1_7p + re2_6p + re3_5p;
    2896     4907545 :     pInOut[1] = im0 + im4 + im1_7p + im2_6p + im3_5p;
    2897             : 
    2898     4907545 :     pInOut[2] = re0 + C81 * ( re1_7p - re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) + im2_6m;
    2899     4907545 :     pInOut[3] = im0 + C81 * ( im1_7p - im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) - re2_6m;
    2900             : 
    2901     4907545 :     pInOut[4] = re0 - re2_6p + re4 + im1_7m - im3_5m;
    2902     4907545 :     pInOut[5] = im0 - im2_6p + im4 - re1_7m + re3_5m;
    2903             : 
    2904     4907545 :     pInOut[6] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) - im2_6m;
    2905     4907545 :     pInOut[7] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) + re2_6m;
    2906             : 
    2907     4907545 :     pInOut[8] = re0 - re1_7p + re2_6p - re3_5p + re4;
    2908     4907545 :     pInOut[9] = im0 - im1_7p + im2_6p - im3_5p + im4;
    2909             : 
    2910     4907545 :     pInOut[10] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) + im2_6m;
    2911     4907545 :     pInOut[11] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) - re2_6m;
    2912             : 
    2913     4907545 :     pInOut[12] = re0 - re2_6p + re4 - im1_7m + im3_5m;
    2914     4907545 :     pInOut[13] = im0 - im2_6p + im4 + re1_7m - re3_5m;
    2915             : 
    2916     4907545 :     pInOut[14] = re0 + C81 * ( re1_7p - re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) - im2_6m;
    2917     4907545 :     pInOut[15] = im0 + C81 * ( im1_7p - im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) + re2_6m;
    2918             : 
    2919     4907545 :     return;
    2920             : }
    2921             : 
    2922     4925800 : static void nextFFT(
    2923             :     float *x,
    2924             :     const int16_t length )
    2925             : {
    2926     4925800 :     switch ( length )
    2927             :     {
    2928           0 :         case 2:
    2929           0 :             fft2( x );
    2930           0 :             break;
    2931           0 :         case 3:
    2932           0 :             fft3_2( x );
    2933           0 :             break;
    2934           0 :         case 4:
    2935           0 :             fft4( x );
    2936           0 :             break;
    2937       42280 :         case 5:
    2938       42280 :             fft5( x );
    2939       42280 :             break;
    2940     4883520 :         case 8:
    2941     4883520 :             fft8_2( x );
    2942     4883520 :             break;
    2943           0 :         default:
    2944           0 :             assert( !"length not supported" );
    2945             :             break;
    2946             :     }
    2947             : 
    2948     4925800 :     return;
    2949             : }
    2950             : 
    2951             : static const int16_t CTFFTfactors[] = { 9, 8, 7, 5, 4, 3, 2, 0 };
    2952             : 
    2953     2450216 : static __inline int16_t findFactor(
    2954             :     const int16_t length )
    2955             : {
    2956     2450216 :     int16_t i = 0;
    2957     2450216 :     int16_t factor = 0;
    2958             : 
    2959     4917344 :     while ( CTFFTfactors[i] != 0 )
    2960             :     {
    2961     4917344 :         if ( 0 == ( length % CTFFTfactors[i] ) )
    2962             :         {
    2963     2450216 :             factor = CTFFTfactors[i];
    2964     2450216 :             break;
    2965             :         }
    2966     2467128 :         i++;
    2967             :     }
    2968     2450216 :     return factor;
    2969             : }
    2970             : 
    2971     2450216 : static __inline void twiddle(
    2972             :     float *x,
    2973             :     const int16_t length,
    2974             :     const int16_t n1,
    2975             :     const int16_t n2 )
    2976             : {
    2977             :     int16_t i, ii;
    2978     2450216 :     double pi = 4. * atan( 1. );
    2979             :     float sinValOrg, cosValOrg;
    2980     2450216 :     float sinVal = 0.f, cosVal = 1.f;
    2981     2450216 :     float twReal = 0.f, twImag = 1.f;
    2982             : 
    2983     2450216 :     cosValOrg = (float) cos( -2 * pi * 1. / (double) length );
    2984     2450216 :     sinValOrg = (float) sin( -2 * pi * 1. / (double) length );
    2985    19576360 :     for ( i = 1; i < n1; i++ )
    2986             :     {
    2987             :         float tmp;
    2988    17126144 :         twReal = 1.f;
    2989    17126144 :         twImag = 0.f;
    2990    17126144 :         tmp = cosVal * cosValOrg - sinVal * sinValOrg;
    2991    17126144 :         sinVal = sinVal * cosValOrg + cosVal * sinValOrg;
    2992    17126144 :         cosVal = tmp;
    2993    34353760 :         for ( ii = 1; ii < n2; ii++ )
    2994             :         {
    2995             :             float xRe, xIm, tmpReal;
    2996             :             /* cos(x+y) = cos(x)*cos(y) - sin(x)*sin(y); */
    2997             :             /* sin(x+y) = sin(x)*cos(y) + sin(y)*cos(x); */
    2998    17227616 :             tmpReal = twReal * cosVal - twImag * sinVal;
    2999    17227616 :             twImag = twImag * cosVal + sinVal * twReal;
    3000    17227616 :             twReal = tmpReal;
    3001    17227616 :             xRe = x[2 * ( i * n2 + ii )];
    3002    17227616 :             xIm = x[2 * ( i * n2 + ii ) + 1];
    3003    17227616 :             x[2 * ( i * n2 + ii )] = twReal * xRe - twImag * xIm;
    3004    17227616 :             x[2 * ( i * n2 + ii ) + 1] = twImag * xRe + twReal * xIm;
    3005             :         }
    3006    17126144 :         tmp = cosVal;
    3007             :     }
    3008             : 
    3009     2450216 :     return;
    3010             : }
    3011             : 
    3012    42896113 : static void cooleyTukeyFFT(
    3013             :     float *x,
    3014             :     const int16_t length,
    3015             :     float *scratch )
    3016             : {
    3017             :     int16_t factor;
    3018             :     int16_t i, ii;
    3019             :     int16_t n1, n2;
    3020    42896113 :     int16_t cnt = 0;
    3021             :     float *src, *dest;
    3022             : 
    3023    42896113 :     switch ( length )
    3024             :     {
    3025           0 :         case 1:
    3026           0 :             break;
    3027    19534080 :         case 2:
    3028    19534080 :             fft2( x );
    3029    19534080 :             break;
    3030    13035720 :         case 3:
    3031    13035720 :             fft3_2( x );
    3032    13035720 :             break;
    3033           0 :         case 4:
    3034           0 :             fft4( x );
    3035           0 :             break;
    3036     7852072 :         case 5:
    3037     7852072 :             fft5( x );
    3038     7852072 :             break;
    3039       24025 :         case 8:
    3040       24025 :             fft8_2( x );
    3041       24025 :             break;
    3042     2450216 :         default:
    3043             :         {
    3044     2450216 :             factor = findFactor( length );
    3045     2450216 :             if ( factor > 0 && ( length / factor > 1 ) )
    3046             :             {
    3047     2450216 :                 n1 = factor;
    3048     2450216 :                 n2 = length / factor;
    3049             : 
    3050             :                 /* DATA Resorting for stage1 */
    3051     2450216 :                 dest = scratch;
    3052    22026576 :                 for ( i = 0; i < 2 * n1; i += 2 )
    3053             :                 {
    3054    19576360 :                     src = x + i;
    3055    58855920 :                     for ( ii = 0; ii < n2; ii++ )
    3056             :                     {
    3057             :                         /* *dest++ = x[2*(i+ii*n1)]; */
    3058             :                         /* *dest++ = x[2*(i+ii*n1)+1]; */
    3059    39279560 :                         *dest++ = *src;
    3060    39279560 :                         *dest++ = *( src + 1 );
    3061    39279560 :                         src += 2 * n1;
    3062             :                     }
    3063             :                 }
    3064     2450216 :                 src = scratch;
    3065     2450216 :                 dest = x;
    3066    41729776 :                 for ( i = 0; i < length; i++ )
    3067             :                 {
    3068    39279560 :                     *dest++ = *src++;
    3069    39279560 :                     *dest++ = *src++;
    3070             :                 }
    3071             :                 /* perform n1 ffts of length n2 */
    3072    22026576 :                 for ( i = 0; i < n1; i++ )
    3073             :                 {
    3074    19576360 :                     cooleyTukeyFFT( x + 2 * i * n2, n2, scratch + 2 * i * n2 );
    3075             :                 }
    3076             :                 /*data twiddeling */
    3077     2450216 :                 twiddle( x, length, n1, n2 );
    3078             :                 /* DATA Resorting for stage2 */
    3079     2450216 :                 cnt = 0;
    3080     7376016 :                 for ( i = 0; i < n2; i++ )
    3081             :                 {
    3082    44205360 :                     for ( ii = 0; ii < n1; ii++ )
    3083             :                     {
    3084    39279560 :                         scratch[2 * cnt] = x[2 * ( i + ii * n2 )];
    3085    39279560 :                         scratch[2 * cnt + 1] = x[2 * ( i + ii * n2 ) + 1];
    3086    39279560 :                         cnt++;
    3087             :                     }
    3088             :                 }
    3089             :                 /* perform n2 ffts of length n1 */
    3090     7376016 :                 for ( i = 0; i < n2; i++ )
    3091             :                 {
    3092     4925800 :                     nextFFT( scratch + 2 * i * n1, n1 );
    3093             :                 }
    3094     2450216 :                 cnt = 0;
    3095    22026576 :                 for ( i = 0; i < n1; i++ )
    3096             :                 {
    3097    58855920 :                     for ( ii = 0; ii < n2; ii++ )
    3098             :                     {
    3099    39279560 :                         x[2 * cnt] = scratch[2 * ( i + ii * n1 )];
    3100    39279560 :                         x[2 * cnt + 1] = scratch[2 * ( i + ii * n1 ) + 1];
    3101    39279560 :                         cnt++;
    3102             :                     }
    3103             :                 }
    3104             :             }
    3105             :             else
    3106             :             {
    3107           0 :                 assert( !"length not supported" );
    3108             :             }
    3109             :         }
    3110             :     }
    3111             : 
    3112    42896113 :     return;
    3113             : }
    3114             : 
    3115    15822878 : static void pfaDFT(
    3116             :     float *x,
    3117             :     const int16_t length,
    3118             :     float *scratch1,
    3119             :     const int16_t numFactors,
    3120             :     const int16_t *factor )
    3121             : {
    3122             :     int16_t i, ii;
    3123             :     int16_t cnt;
    3124             : 
    3125    15822878 :     if ( numFactors > 1 )
    3126             :     {
    3127     2769208 :         float *tmp = scratch1;
    3128     2769208 :         int16_t n1_inv = 1, n2_inv = 1;
    3129     2769208 :         int16_t n2 = factor[0 /*idx*/];
    3130     2769208 :         int16_t n1 = length / n2;
    3131             :         int16_t idx, incr;
    3132             : 
    3133     7671959 :         while ( ( ( n1_inv * n1 ) % n2 ) != 1 )
    3134             :         {
    3135     4902751 :             n1_inv++;
    3136             :         }
    3137     5375281 :         while ( ( ( n2_inv * n2 ) % n1 ) != 1 )
    3138             :         {
    3139     2606073 :             n2_inv++;
    3140             :         }
    3141     2769208 :         idx = 0;
    3142     2769208 :         incr = n1 * n1_inv;
    3143     2769208 :         cnt = 0;
    3144    13035291 :         for ( i = 0; i < n1; i++ )
    3145             :         {
    3146    78367520 :             for ( ii = 0; ii < n2 - 1; ii++ )
    3147             :             {
    3148    68101437 :                 tmp[cnt++] = x[2 * idx];
    3149    68101437 :                 tmp[cnt++] = x[2 * idx + 1];
    3150             : 
    3151    68101437 :                 idx += incr;
    3152    68101437 :                 if ( idx > length )
    3153             :                 {
    3154    44772039 :                     idx -= length;
    3155             :                 }
    3156             :             }
    3157    10266083 :             tmp[cnt++] = x[2 * idx];
    3158    10266083 :             tmp[cnt++] = x[2 * idx + 1];
    3159    10266083 :             idx++;
    3160             :         }
    3161    13035291 :         for ( cnt = 0; cnt < length; cnt += n2 )
    3162             :         {
    3163    10266083 :             cooleyTukeyFFT( tmp + 2 * cnt, n2, x + 2 * cnt );
    3164             :         }
    3165    13035291 :         for ( cnt = 0; cnt < n1; cnt++ )
    3166             :         {
    3167    88633603 :             for ( i = 0; i < n2; i++ )
    3168             :             {
    3169    78367520 :                 x[2 * ( cnt + i * n1 )] = tmp[2 * ( cnt * n2 + i )];
    3170    78367520 :                 x[2 * ( cnt + i * n1 ) + 1] = tmp[2 * ( cnt * n2 + i ) + 1];
    3171             :             }
    3172             :         }
    3173    18428567 :         for ( cnt = 0; cnt < length; cnt += n1 )
    3174             :         {
    3175    15659359 :             pfaDFT( x + 2 * cnt, n1, tmp, numFactors - 1, &factor[1] );
    3176             :         }
    3177     2769208 :         idx = 0;
    3178     2769208 :         cnt = 0;
    3179    18428567 :         for ( i = 0; i < n2; i++ )
    3180             :         {
    3181    15659359 :             idx = i * n1;
    3182    94026879 :             for ( ii = 0; ii < n1; ii++ )
    3183             :             {
    3184    78367520 :                 tmp[2 * idx] = x[cnt++];
    3185    78367520 :                 tmp[2 * idx + 1] = x[cnt++];
    3186    78367520 :                 idx += n2;
    3187    78367520 :                 if ( idx > length )
    3188             :                 {
    3189    12890151 :                     idx -= length;
    3190             :                 }
    3191             :             }
    3192             :         }
    3193    81136728 :         for ( cnt = 0; cnt < length; cnt++ )
    3194             :         {
    3195    78367520 :             x[2 * cnt] = tmp[2 * cnt];
    3196    78367520 :             x[2 * cnt + 1] = tmp[2 * cnt + 1];
    3197             :         }
    3198             :     }
    3199             :     else
    3200             :     {
    3201    13053670 :         cooleyTukeyFFT( x, length, scratch1 );
    3202             :     }
    3203             : 
    3204    15822878 :     return;
    3205             : }
    3206             : 
    3207      163519 : static void fftf_interleave(
    3208             :     float *re,
    3209             :     float *im,
    3210             :     float *out,
    3211             :     const int16_t len )
    3212             : {
    3213      163519 :     int16_t i = 0;
    3214             : 
    3215    39423879 :     for ( i = 0; i < len; i++ )
    3216             :     {
    3217    39260360 :         *out++ = *re++;
    3218    39260360 :         *out++ = *im++;
    3219             :     }
    3220             : 
    3221      163519 :     return;
    3222             : }
    3223             : 
    3224      163519 : static void fftf_deinterleave(
    3225             :     float *in,
    3226             :     float *re,
    3227             :     float *im,
    3228             :     const int16_t len )
    3229             : {
    3230      163519 :     int16_t i = 0;
    3231             : 
    3232    39423879 :     for ( i = 0; i < len; i++ )
    3233             :     {
    3234    39260360 :         *re++ = *in++;
    3235    39260360 :         *im++ = *in++;
    3236             :     }
    3237             : 
    3238      163519 :     return;
    3239             : }
    3240             : 
    3241          97 : static void DoRTFT600(
    3242             :     float *x, /* i/o: real part of input and output data       */
    3243             :     float *y  /* i/o: imaginary part of input and output data  */
    3244             : )
    3245             : {
    3246             :     float scratch[1200], cmplx[1200];
    3247          97 :     const int16_t factors[3] = { 25, 8, 3 };
    3248             : 
    3249          97 :     fftf_interleave( x, y, cmplx, 600 );
    3250          97 :     pfaDFT( cmplx, 600, scratch, 3, factors );
    3251          97 :     fftf_deinterleave( cmplx, x, y, 600 );
    3252             : 
    3253          97 :     return;
    3254             : }
    3255             : 
    3256          48 : static void DoRTFT400(
    3257             :     float *x, /* i/o: real part of input and output data       */
    3258             :     float *y  /* i/o: imaginary part of input and output data  */
    3259             : )
    3260             : {
    3261             :     float scratch[800], cmplx[800];
    3262          48 :     const int16_t factors[2] = { 25, 16 };
    3263             : 
    3264          48 :     fftf_interleave( x, y, cmplx, 400 );
    3265          48 :     pfaDFT( cmplx, 400, scratch, 2, factors );
    3266          48 :     fftf_deinterleave( cmplx, x, y, 400 );
    3267             : 
    3268             : 
    3269          48 :     return;
    3270             : }
    3271             : 
    3272      162704 : static void DoRTFT240(
    3273             :     float *x, /* i/o: real part of input and output data       */
    3274             :     float *y  /* i/o: imaginary part of input and output data  */
    3275             : )
    3276             : {
    3277             :     float scratch[480], cmplx[480];
    3278      162704 :     const int16_t factors[3] = { 16, 5, 3 };
    3279             : 
    3280      162704 :     fftf_interleave( x, y, cmplx, 240 );
    3281      162704 :     pfaDFT( cmplx, 240, scratch, 3, factors );
    3282      162704 :     fftf_deinterleave( cmplx, x, y, 240 );
    3283             : 
    3284      162704 :     return;
    3285             : }
    3286             : 
    3287         670 : static void DoRTFT200(
    3288             :     float *x, /* i/o: real part of input and output data       */
    3289             :     float *y  /* i/o: imaginary part of input and output data  */
    3290             : )
    3291             : {
    3292             :     float scratch[400], cmplx[400];
    3293         670 :     const int16_t factors[2] = { 25, 8 };
    3294             : 
    3295         670 :     fftf_interleave( x, y, cmplx, 200 );
    3296         670 :     pfaDFT( cmplx, 200, scratch, 2, factors );
    3297         670 :     fftf_deinterleave( cmplx, x, y, 200 );
    3298             : 
    3299         670 :     return;
    3300             : }
    3301             : 
    3302           0 : static void DoRTFT100(
    3303             :     float *x, /* i/o: real part of input and output data       */
    3304             :     float *y  /* i/o: imaginary part of input and output data  */
    3305             : )
    3306             : {
    3307             :     float scratch[200], cmplx[200];
    3308           0 :     const int16_t factors[2] = { 25, 4 };
    3309             : 
    3310           0 :     fftf_interleave( x, y, cmplx, 100 );
    3311           0 :     pfaDFT( cmplx, 100, scratch, 2, factors );
    3312           0 :     fftf_deinterleave( cmplx, x, y, 100 );
    3313             : 
    3314           0 :     return;
    3315             : }
    3316             : 
    3317             : 
    3318      877162 : void DoFFT(
    3319             :     float *re2,
    3320             :     float *im2,
    3321             :     const int16_t length )
    3322             : {
    3323      877162 :     switch ( length )
    3324             :     {
    3325          97 :         case 600:
    3326          97 :             DoRTFT600( re2, im2 );
    3327          97 :             break;
    3328       15053 :         case 480:
    3329       15053 :             DoRTFT480( re2, im2 );
    3330       15053 :             break;
    3331          48 :         case 400:
    3332          48 :             DoRTFT400( re2, im2 );
    3333          48 :             break;
    3334       34589 :         case 320:
    3335       34589 :             DoRTFT320( re2, im2 );
    3336       34589 :             break;
    3337           0 :         case 256:
    3338           0 :             DoRTFTn( re2, im2, 256 );
    3339           0 :             break;
    3340      162704 :         case 240:
    3341      162704 :             DoRTFT240( re2, im2 );
    3342      162704 :             break;
    3343         670 :         case 200:
    3344         670 :             DoRTFT200( re2, im2 );
    3345         670 :             break;
    3346        4905 :         case 160:
    3347        4905 :             DoRTFT160( re2, im2 );
    3348        4905 :             break;
    3349      654348 :         case 128:
    3350      654348 :             DoRTFT128( re2, im2 );
    3351      654348 :             break;
    3352         812 :         case 120:
    3353         812 :             DoRTFT120( re2, im2 );
    3354         812 :             break;
    3355           0 :         case 100:
    3356           0 :             DoRTFT100( re2, im2 );
    3357           0 :             break;
    3358        3784 :         case 80:
    3359        3784 :             DoRTFT80( re2, im2 );
    3360        3784 :             break;
    3361           0 :         case 64:
    3362           0 :             DoRTFTn( re2, im2, 64 );
    3363           0 :             break;
    3364         152 :         case 40:
    3365         152 :             DoRTFT40( re2, im2 );
    3366         152 :             break;
    3367           0 :         case 20:
    3368           0 :             DoRTFT20( re2, im2 );
    3369           0 :             break;
    3370           0 :         default:
    3371           0 :             assert( !"fft is not supported!" );
    3372             :     }
    3373             : 
    3374      877162 :     return;
    3375             : }
    3376             : 
    3377             : /*-----------------------------------------------------------------*
    3378             :  * Low-complexity implementation of FFT
    3379             :  *-----------------------------------------------------------------*/
    3380             : 
    3381       98608 : static void fft_len5(
    3382             :     float *re,
    3383             :     float *im,
    3384             :     const int16_t s )
    3385             : {
    3386             :     float x0, x1, x2, x3, x4;
    3387             :     float r1, r2, r3, r4;
    3388             :     float s1, s2, s3, s4;
    3389             :     float t;
    3390             : 
    3391       98608 :     x0 = re[s * 0];
    3392       98608 :     x1 = re[s * 1];
    3393       98608 :     x2 = re[s * 2];
    3394       98608 :     x3 = re[s * 3];
    3395       98608 :     x4 = re[s * 4];
    3396             : 
    3397       98608 :     r1 = ( x1 + x4 );
    3398       98608 :     r4 = ( x1 - x4 );
    3399       98608 :     r3 = ( x2 + x3 );
    3400       98608 :     r2 = ( x2 - x3 );
    3401       98608 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3402       98608 :     r1 = ( r1 + r3 );
    3403       98608 :     re[0] = ( x0 + r1 );
    3404             : 
    3405       98608 :     r1 = ( re[0] + ( ( r1 * FFT_C55 ) ) );
    3406       98608 :     r3 = ( r1 - t );
    3407       98608 :     r1 = ( r1 + t );
    3408       98608 :     t = ( ( r4 + r2 ) * FFT_C51 );
    3409             : 
    3410       98608 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3411       98608 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3412             : 
    3413       98608 :     x0 = im[s * 0];
    3414       98608 :     x1 = im[s * 1];
    3415       98608 :     x2 = im[s * 2];
    3416       98608 :     x3 = im[s * 3];
    3417       98608 :     x4 = im[s * 4];
    3418             : 
    3419       98608 :     s1 = ( x1 + x4 );
    3420       98608 :     s4 = ( x1 - x4 );
    3421       98608 :     s3 = ( x2 + x3 );
    3422       98608 :     s2 = ( x2 - x3 );
    3423       98608 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3424       98608 :     s1 = ( s1 + s3 );
    3425       98608 :     im[0] = ( x0 + s1 );
    3426             : 
    3427       98608 :     s1 = ( im[0] + ( s1 * FFT_C55 ) );
    3428       98608 :     s3 = ( s1 - t );
    3429       98608 :     s1 = ( s1 + t );
    3430       98608 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3431             : 
    3432       98608 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3433       98608 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3434             : 
    3435       98608 :     re[s * 1] = ( r1 + s2 );
    3436       98608 :     re[s * 4] = ( r1 - s2 );
    3437       98608 :     re[s * 2] = ( r3 - s4 );
    3438       98608 :     re[s * 3] = ( r3 + s4 );
    3439             : 
    3440       98608 :     im[s * 1] = ( s1 - r2 );
    3441       98608 :     im[s * 4] = ( s1 + r2 );
    3442       98608 :     im[s * 2] = ( s3 + r4 );
    3443       98608 :     im[s * 3] = ( s3 - r4 );
    3444             : 
    3445       98608 :     return;
    3446             : }
    3447             : 
    3448      228232 : static void fft_len8(
    3449             :     float *re,
    3450             :     float *im,
    3451             :     const int16_t s )
    3452             : {
    3453             :     float x00, x01, x02, x03, x04, x05, x06, x07;
    3454             :     float x08, x09, x10, x11, x12, x13, x14, x15;
    3455             :     float t00, t01, t02, t03, t04, t05, t06, t07;
    3456             :     float t08, t09, t10, t11, t12, t13, t14, t15;
    3457             :     float s00, s01, s02, s03, s04, s05, s06, s07;
    3458             :     float s08, s09, s10, s11, s12, s13, s14, s15;
    3459             : 
    3460      228232 :     x00 = re[s * 0];
    3461      228232 :     x01 = im[s * 0];
    3462      228232 :     x02 = re[s * 1];
    3463      228232 :     x03 = im[s * 1];
    3464      228232 :     x04 = re[s * 2];
    3465      228232 :     x05 = im[s * 2];
    3466      228232 :     x06 = re[s * 3];
    3467      228232 :     x07 = im[s * 3];
    3468      228232 :     x08 = re[s * 4];
    3469      228232 :     x09 = im[s * 4];
    3470      228232 :     x10 = re[s * 5];
    3471      228232 :     x11 = im[s * 5];
    3472      228232 :     x12 = re[s * 6];
    3473      228232 :     x13 = im[s * 6];
    3474      228232 :     x14 = re[s * 7];
    3475      228232 :     x15 = im[s * 7];
    3476             : 
    3477      228232 :     t00 = ( x00 + x08 );
    3478      228232 :     t02 = ( x00 - x08 );
    3479      228232 :     t01 = ( x01 + x09 );
    3480      228232 :     t03 = ( x01 - x09 );
    3481      228232 :     t04 = ( x02 + x10 );
    3482      228232 :     t06 = ( x02 - x10 );
    3483      228232 :     t05 = ( x03 + x11 );
    3484      228232 :     t07 = ( x03 - x11 );
    3485      228232 :     t08 = ( x04 + x12 );
    3486      228232 :     t10 = ( x04 - x12 );
    3487      228232 :     t09 = ( x05 + x13 );
    3488      228232 :     t11 = ( x05 - x13 );
    3489      228232 :     t12 = ( x06 + x14 );
    3490      228232 :     t14 = ( x06 - x14 );
    3491      228232 :     t13 = ( x07 + x15 );
    3492      228232 :     t15 = ( x07 - x15 );
    3493             : 
    3494      228232 :     s00 = ( t00 + t08 );
    3495      228232 :     s04 = ( t00 - t08 );
    3496      228232 :     s01 = ( t01 + t09 );
    3497      228232 :     s05 = ( t01 - t09 );
    3498      228232 :     s08 = ( t02 - t11 );
    3499      228232 :     s10 = ( t02 + t11 );
    3500      228232 :     s09 = ( t03 + t10 );
    3501      228232 :     s11 = ( t03 - t10 );
    3502      228232 :     s02 = ( t04 + t12 );
    3503      228232 :     s07 = ( t04 - t12 );
    3504      228232 :     s03 = ( t05 + t13 );
    3505      228232 :     s06 = ( t13 - t05 );
    3506             : 
    3507      228232 :     t01 = ( t06 + t14 );
    3508      228232 :     t02 = ( t06 - t14 );
    3509      228232 :     t00 = ( t07 + t15 );
    3510      228232 :     t03 = ( t07 - t15 );
    3511             : 
    3512      228232 :     s12 = ( ( t00 + t02 ) * FFT_C81 );
    3513      228232 :     s14 = ( ( t00 - t02 ) * FFT_C81 );
    3514      228232 :     s13 = ( ( t03 - t01 ) * FFT_C81 );
    3515      228232 :     s15 = ( ( t01 + t03 ) * FFT_C82 );
    3516             : 
    3517      228232 :     re[s * 0] = ( s00 + s02 );
    3518      228232 :     re[s * 4] = ( s00 - s02 );
    3519      228232 :     im[s * 0] = ( s01 + s03 );
    3520      228232 :     im[s * 4] = ( s01 - s03 );
    3521      228232 :     re[s * 2] = ( s04 - s06 );
    3522      228232 :     re[s * 6] = ( s04 + s06 );
    3523      228232 :     im[s * 2] = ( s05 - s07 );
    3524      228232 :     im[s * 6] = ( s05 + s07 );
    3525      228232 :     re[s * 3] = ( s08 + s14 );
    3526      228232 :     re[s * 7] = ( s08 - s14 );
    3527      228232 :     im[s * 3] = ( s09 + s15 );
    3528      228232 :     im[s * 7] = ( s09 - s15 );
    3529      228232 :     re[s * 1] = ( s10 + s12 );
    3530      228232 :     re[s * 5] = ( s10 - s12 );
    3531      228232 :     im[s * 1] = ( s11 + s13 );
    3532      228232 :     im[s * 5] = ( s11 - s13 );
    3533             : 
    3534      228232 :     return;
    3535             : }
    3536             : 
    3537     2618460 : static void fft_len10(
    3538             :     float *re,
    3539             :     float *im,
    3540             :     const int16_t s )
    3541             : {
    3542             :     float t;
    3543             :     float x0, x1, x2, x3, x4;
    3544             :     float r1, r2, r3, r4;
    3545             :     float s1, s2, s3, s4;
    3546             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    3547             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    3548             : 
    3549     2618460 :     x0 = re[s * 0];
    3550     2618460 :     x1 = re[s * 2];
    3551     2618460 :     x2 = re[s * 4];
    3552     2618460 :     x3 = re[s * 6];
    3553     2618460 :     x4 = re[s * 8];
    3554             : 
    3555     2618460 :     r1 = ( x3 + x2 );
    3556     2618460 :     r4 = ( x3 - x2 );
    3557     2618460 :     r3 = ( x1 + x4 );
    3558     2618460 :     r2 = ( x1 - x4 );
    3559     2618460 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3560     2618460 :     r1 = ( r1 + r3 );
    3561     2618460 :     y00 = ( x0 + r1 );
    3562     2618460 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    3563     2618460 :     r3 = ( r1 - t );
    3564     2618460 :     r1 = ( r1 + t );
    3565     2618460 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3566     2618460 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3567     2618460 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3568             : 
    3569     2618460 :     x0 = im[s * 0];
    3570     2618460 :     x1 = im[s * 2];
    3571     2618460 :     x2 = im[s * 4];
    3572     2618460 :     x3 = im[s * 6];
    3573     2618460 :     x4 = im[s * 8];
    3574             : 
    3575     2618460 :     s1 = ( x3 + x2 );
    3576     2618460 :     s4 = ( x3 - x2 );
    3577     2618460 :     s3 = ( x1 + x4 );
    3578     2618460 :     s2 = ( x1 - x4 );
    3579     2618460 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3580     2618460 :     s1 = ( s1 + s3 );
    3581     2618460 :     y01 = ( x0 + s1 );
    3582     2618460 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    3583     2618460 :     s3 = ( s1 - t );
    3584     2618460 :     s1 = ( s1 + t );
    3585     2618460 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3586     2618460 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3587     2618460 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3588             : 
    3589     2618460 :     y04 = ( r1 + s2 );
    3590     2618460 :     y16 = ( r1 - s2 );
    3591     2618460 :     y08 = ( r3 - s4 );
    3592     2618460 :     y12 = ( r3 + s4 );
    3593             : 
    3594     2618460 :     y05 = ( s1 - r2 );
    3595     2618460 :     y17 = ( s1 + r2 );
    3596     2618460 :     y09 = ( s3 + r4 );
    3597     2618460 :     y13 = ( s3 - r4 );
    3598             : 
    3599     2618460 :     x0 = re[s * 5];
    3600     2618460 :     x1 = re[s * 1];
    3601     2618460 :     x2 = re[s * 3];
    3602     2618460 :     x3 = re[s * 7];
    3603     2618460 :     x4 = re[s * 9];
    3604             : 
    3605     2618460 :     r1 = ( x1 + x4 );
    3606     2618460 :     r4 = ( x1 - x4 );
    3607     2618460 :     r3 = ( x3 + x2 );
    3608     2618460 :     r2 = ( x3 - x2 );
    3609     2618460 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3610     2618460 :     r1 = ( r1 + r3 );
    3611     2618460 :     y02 = ( x0 + r1 );
    3612     2618460 :     r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
    3613     2618460 :     r3 = ( r1 - t );
    3614     2618460 :     r1 = ( r1 + t );
    3615     2618460 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3616     2618460 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3617     2618460 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3618             : 
    3619     2618460 :     x0 = im[s * 5];
    3620     2618460 :     x1 = im[s * 1];
    3621     2618460 :     x2 = im[s * 3];
    3622     2618460 :     x3 = im[s * 7];
    3623     2618460 :     x4 = im[s * 9];
    3624             : 
    3625     2618460 :     s1 = ( x1 + x4 );
    3626     2618460 :     s4 = ( x1 - x4 );
    3627     2618460 :     s3 = ( x3 + x2 );
    3628     2618460 :     s2 = ( x3 - x2 );
    3629     2618460 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3630     2618460 :     s1 = ( s1 + s3 );
    3631     2618460 :     y03 = ( x0 + s1 );
    3632     2618460 :     s1 = ( y03 + ( s1 * FFT_C55 ) );
    3633     2618460 :     s3 = ( s1 - t );
    3634     2618460 :     s1 = ( s1 + t );
    3635     2618460 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3636     2618460 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3637     2618460 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3638             : 
    3639     2618460 :     y06 = ( r1 + s2 );
    3640     2618460 :     y18 = ( r1 - s2 );
    3641     2618460 :     y10 = ( r3 - s4 );
    3642     2618460 :     y14 = ( r3 + s4 );
    3643             : 
    3644     2618460 :     y07 = ( s1 - r2 );
    3645     2618460 :     y19 = ( s1 + r2 );
    3646     2618460 :     y11 = ( s3 + r4 );
    3647     2618460 :     y15 = ( s3 - r4 );
    3648             : 
    3649     2618460 :     re[s * 0] = ( y00 + y02 );
    3650     2618460 :     im[s * 0] = ( y01 + y03 );
    3651     2618460 :     re[s * 5] = ( y00 - y02 );
    3652     2618460 :     im[s * 5] = ( y01 - y03 );
    3653             : 
    3654     2618460 :     re[s * 2] = ( y04 + y06 );
    3655     2618460 :     im[s * 2] = ( y05 + y07 );
    3656     2618460 :     re[s * 7] = ( y04 - y06 );
    3657     2618460 :     im[s * 7] = ( y05 - y07 );
    3658             : 
    3659     2618460 :     re[s * 4] = ( y08 + y10 );
    3660     2618460 :     im[s * 4] = ( y09 + y11 );
    3661     2618460 :     re[s * 9] = ( y08 - y10 );
    3662     2618460 :     im[s * 9] = ( y09 - y11 );
    3663             : 
    3664     2618460 :     re[s * 6] = ( y12 + y14 );
    3665     2618460 :     im[s * 6] = ( y13 + y15 );
    3666     2618460 :     re[s * 1] = ( y12 - y14 );
    3667     2618460 :     im[s * 1] = ( y13 - y15 );
    3668             : 
    3669     2618460 :     re[s * 8] = ( y16 + y18 );
    3670     2618460 :     im[s * 8] = ( y17 + y19 );
    3671     2618460 :     re[s * 3] = ( y16 - y18 );
    3672     2618460 :     im[s * 3] = ( y17 - y19 );
    3673             : 
    3674     2618460 :     return;
    3675             : }
    3676             : 
    3677     2250160 : static void fft_len15(
    3678             :     float *re,
    3679             :     float *im,
    3680             :     const int16_t s )
    3681             : {
    3682             :     float t;
    3683             :     float r1, r2, r3, r4;
    3684             :     float s1, s2, s3, s4;
    3685             :     float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
    3686             :     float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
    3687             :     float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
    3688             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    3689             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    3690             :     float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
    3691             : 
    3692     2250160 :     x00 = re[s * 0];
    3693     2250160 :     x01 = im[s * 0];
    3694     2250160 :     x02 = re[s * 3];
    3695     2250160 :     x03 = im[s * 3];
    3696     2250160 :     x04 = re[s * 6];
    3697     2250160 :     x05 = im[s * 6];
    3698     2250160 :     x06 = re[s * 9];
    3699     2250160 :     x07 = im[s * 9];
    3700     2250160 :     x08 = re[s * 12];
    3701     2250160 :     x09 = im[s * 12];
    3702             : 
    3703     2250160 :     x10 = re[s * 5];
    3704     2250160 :     x11 = im[s * 5];
    3705     2250160 :     x12 = re[s * 8];
    3706     2250160 :     x13 = im[s * 8];
    3707     2250160 :     x14 = re[s * 11];
    3708     2250160 :     x15 = im[s * 11];
    3709     2250160 :     x16 = re[s * 14];
    3710     2250160 :     x17 = im[s * 14];
    3711     2250160 :     x18 = re[s * 2];
    3712     2250160 :     x19 = im[s * 2];
    3713             : 
    3714     2250160 :     x20 = re[s * 10];
    3715     2250160 :     x21 = im[s * 10];
    3716     2250160 :     x22 = re[s * 13];
    3717     2250160 :     x23 = im[s * 13];
    3718     2250160 :     x24 = re[s * 1];
    3719     2250160 :     x25 = im[s * 1];
    3720     2250160 :     x26 = re[s * 4];
    3721     2250160 :     x27 = im[s * 4];
    3722     2250160 :     x28 = re[s * 7];
    3723     2250160 :     x29 = im[s * 7];
    3724             : 
    3725     2250160 :     r1 = ( x02 + x08 );
    3726     2250160 :     r4 = ( x02 - x08 );
    3727     2250160 :     r3 = ( x04 + x06 );
    3728     2250160 :     r2 = ( x04 - x06 );
    3729     2250160 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3730     2250160 :     r1 = ( r1 + r3 );
    3731     2250160 :     y00 = ( x00 + r1 );
    3732     2250160 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    3733     2250160 :     r3 = ( r1 - t );
    3734     2250160 :     r1 = ( r1 + t );
    3735     2250160 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3736     2250160 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3737     2250160 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3738             : 
    3739     2250160 :     s1 = ( x03 + x09 );
    3740     2250160 :     s4 = ( x03 - x09 );
    3741     2250160 :     s3 = ( x05 + x07 );
    3742     2250160 :     s2 = ( x05 - x07 );
    3743     2250160 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3744     2250160 :     s1 = ( s1 + s3 );
    3745     2250160 :     y01 = ( x01 + s1 );
    3746     2250160 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    3747     2250160 :     s3 = ( s1 - t );
    3748     2250160 :     s1 = ( s1 + t );
    3749     2250160 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3750     2250160 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3751     2250160 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3752             : 
    3753     2250160 :     y02 = ( r1 + s2 );
    3754     2250160 :     y08 = ( r1 - s2 );
    3755     2250160 :     y04 = ( r3 - s4 );
    3756     2250160 :     y06 = ( r3 + s4 );
    3757             : 
    3758     2250160 :     y03 = ( s1 - r2 );
    3759     2250160 :     y09 = ( s1 + r2 );
    3760     2250160 :     y05 = ( s3 + r4 );
    3761     2250160 :     y07 = ( s3 - r4 );
    3762             : 
    3763     2250160 :     r1 = ( x12 + x18 );
    3764     2250160 :     r4 = ( x12 - x18 );
    3765     2250160 :     r3 = ( x14 + x16 );
    3766     2250160 :     r2 = ( x14 - x16 );
    3767     2250160 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3768     2250160 :     r1 = ( r1 + r3 );
    3769     2250160 :     y10 = ( x10 + r1 );
    3770     2250160 :     r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
    3771     2250160 :     r3 = ( r1 - t );
    3772     2250160 :     r1 = ( r1 + t );
    3773     2250160 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3774     2250160 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3775     2250160 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3776             : 
    3777     2250160 :     s1 = ( x13 + x19 );
    3778     2250160 :     s4 = ( x13 - x19 );
    3779     2250160 :     s3 = ( x15 + x17 );
    3780     2250160 :     s2 = ( x15 - x17 );
    3781     2250160 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3782     2250160 :     s1 = ( s1 + s3 );
    3783     2250160 :     y11 = ( x11 + s1 );
    3784     2250160 :     s1 = ( y11 + ( s1 * FFT_C55 ) );
    3785     2250160 :     s3 = ( s1 - t );
    3786     2250160 :     s1 = ( s1 + t );
    3787     2250160 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3788     2250160 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3789     2250160 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3790             : 
    3791     2250160 :     y12 = ( r1 + s2 );
    3792     2250160 :     y18 = ( r1 - s2 );
    3793     2250160 :     y14 = ( r3 - s4 );
    3794     2250160 :     y16 = ( r3 + s4 );
    3795             : 
    3796     2250160 :     y13 = ( s1 - r2 );
    3797     2250160 :     y19 = ( s1 + r2 );
    3798     2250160 :     y15 = ( s3 + r4 );
    3799     2250160 :     y17 = ( s3 - r4 );
    3800             : 
    3801     2250160 :     r1 = ( x22 + x28 );
    3802     2250160 :     r4 = ( x22 - x28 );
    3803     2250160 :     r3 = ( x24 + x26 );
    3804     2250160 :     r2 = ( x24 - x26 );
    3805     2250160 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3806     2250160 :     r1 = ( r1 + r3 );
    3807     2250160 :     y20 = ( x20 + r1 );
    3808     2250160 :     r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
    3809     2250160 :     r3 = ( r1 - t );
    3810     2250160 :     r1 = ( r1 + t );
    3811     2250160 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3812     2250160 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3813     2250160 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3814             : 
    3815     2250160 :     s1 = ( x23 + x29 );
    3816     2250160 :     s4 = ( x23 - x29 );
    3817     2250160 :     s3 = ( x25 + x27 );
    3818     2250160 :     s2 = ( x25 - x27 );
    3819     2250160 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3820     2250160 :     s1 = ( s1 + s3 );
    3821     2250160 :     y21 = ( x21 + s1 );
    3822     2250160 :     s1 = ( y21 + ( s1 * FFT_C55 ) );
    3823     2250160 :     s3 = ( s1 - t );
    3824     2250160 :     s1 = ( s1 + t );
    3825     2250160 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3826     2250160 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3827     2250160 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3828             : 
    3829     2250160 :     y22 = ( r1 + s2 );
    3830     2250160 :     y28 = ( r1 - s2 );
    3831     2250160 :     y24 = ( r3 - s4 );
    3832     2250160 :     y26 = ( r3 + s4 );
    3833             : 
    3834     2250160 :     y23 = ( s1 - r2 );
    3835     2250160 :     y29 = ( s1 + r2 );
    3836     2250160 :     y25 = ( s3 + r4 );
    3837     2250160 :     y27 = ( s3 - r4 );
    3838             : 
    3839     2250160 :     r1 = ( y10 + y20 );
    3840     2250160 :     r2 = ( ( y10 - y20 ) * FFT_C31 );
    3841     2250160 :     re[s * 0] = ( y00 + r1 );
    3842     2250160 :     r1 = ( y00 - r1 * 0.5f );
    3843             : 
    3844     2250160 :     s1 = ( y11 + y21 );
    3845     2250160 :     s2 = ( ( y11 - y21 ) * FFT_C31 );
    3846     2250160 :     im[s * 0] = ( y01 + s1 );
    3847     2250160 :     s1 = ( y01 - s1 * 0.5f );
    3848             : 
    3849     2250160 :     re[s * 10] = ( r1 - s2 );
    3850     2250160 :     re[s * 5] = ( r1 + s2 );
    3851     2250160 :     im[s * 10] = ( s1 + r2 );
    3852     2250160 :     im[s * 5] = ( s1 - r2 );
    3853             : 
    3854     2250160 :     r1 = ( y12 + y22 );
    3855     2250160 :     r2 = ( ( y12 - y22 ) * FFT_C31 );
    3856     2250160 :     re[s * 6] = ( y02 + r1 );
    3857     2250160 :     r1 = ( y02 - r1 * 0.5f );
    3858             : 
    3859     2250160 :     s1 = ( y13 + y23 );
    3860     2250160 :     s2 = ( ( y13 - y23 ) * FFT_C31 );
    3861     2250160 :     im[s * 6] = ( y03 + s1 );
    3862     2250160 :     s1 = ( y03 - s1 * 0.5f );
    3863             : 
    3864     2250160 :     re[s * 1] = ( r1 - s2 );
    3865     2250160 :     re[s * 11] = ( r1 + s2 );
    3866     2250160 :     im[s * 1] = ( s1 + r2 );
    3867     2250160 :     im[s * 11] = ( s1 - r2 );
    3868             : 
    3869     2250160 :     r1 = ( y14 + y24 );
    3870     2250160 :     r2 = ( ( y14 - y24 ) * FFT_C31 );
    3871     2250160 :     re[s * 12] = ( y04 + r1 );
    3872     2250160 :     r1 = ( y04 - r1 * 0.5f );
    3873             : 
    3874     2250160 :     s1 = ( y15 + y25 );
    3875     2250160 :     s2 = ( ( y15 - y25 ) * FFT_C31 );
    3876     2250160 :     im[s * 12] = ( y05 + s1 );
    3877     2250160 :     s1 = ( y05 - s1 * 0.5f );
    3878             : 
    3879     2250160 :     re[s * 7] = ( r1 - s2 );
    3880     2250160 :     re[s * 2] = ( r1 + s2 );
    3881     2250160 :     im[s * 7] = ( s1 + r2 );
    3882     2250160 :     im[s * 2] = ( s1 - r2 );
    3883             : 
    3884     2250160 :     r1 = ( y16 + y26 );
    3885     2250160 :     r2 = ( ( y16 - y26 ) * FFT_C31 );
    3886     2250160 :     re[s * 3] = ( y06 + r1 );
    3887     2250160 :     r1 = ( y06 - r1 * 0.5f );
    3888             : 
    3889     2250160 :     s1 = ( y17 + y27 );
    3890     2250160 :     s2 = ( ( y17 - y27 ) * FFT_C31 );
    3891     2250160 :     im[s * 3] = ( y07 + s1 );
    3892     2250160 :     s1 = ( y07 - s1 * 0.5f );
    3893             : 
    3894     2250160 :     re[s * 13] = ( r1 - s2 );
    3895     2250160 :     re[s * 8] = ( r1 + s2 );
    3896     2250160 :     im[s * 13] = ( s1 + r2 );
    3897     2250160 :     im[s * 8] = ( s1 - r2 );
    3898             : 
    3899     2250160 :     r1 = ( y18 + y28 );
    3900     2250160 :     r2 = ( ( y18 - y28 ) * FFT_C31 );
    3901     2250160 :     re[s * 9] = ( y08 + r1 );
    3902     2250160 :     r1 = ( y08 - r1 * 0.5f );
    3903             : 
    3904     2250160 :     s1 = ( y19 + y29 );
    3905     2250160 :     s2 = ( ( y19 - y29 ) * FFT_C31 );
    3906     2250160 :     im[s * 9] = ( y09 + s1 );
    3907     2250160 :     s1 = ( y09 - s1 * 0.5f );
    3908             : 
    3909     2250160 :     re[s * 4] = ( r1 - s2 );
    3910     2250160 :     re[s * 14] = ( r1 + s2 );
    3911     2250160 :     im[s * 4] = ( s1 + r2 );
    3912     2250160 :     im[s * 14] = ( s1 - r2 );
    3913             : 
    3914     2250160 :     return;
    3915             : }
    3916             : 
    3917   108041474 : static void fft_len16(
    3918             :     float *re,
    3919             :     float *im,
    3920             :     const int16_t s )
    3921             : {
    3922             :     float x0, x1, x2, x3, x4, x5, x6, x7;
    3923             :     float t0, t1, t2, t3, t4, t5, t6, t7;
    3924             :     float y00, y01, y02, y03, y04, y05, y06, y07;
    3925             :     float y08, y09, y10, y11, y12, y13, y14, y15;
    3926             :     float y16, y17, y18, y19, y20, y21, y22, y23;
    3927             :     float y24, y25, y26, y27, y28, y29, y30, y31;
    3928             : 
    3929   108041474 :     x0 = re[s * 0];
    3930   108041474 :     x1 = im[s * 0];
    3931   108041474 :     x2 = re[s * 4];
    3932   108041474 :     x3 = im[s * 4];
    3933   108041474 :     x4 = re[s * 8];
    3934   108041474 :     x5 = im[s * 8];
    3935   108041474 :     x6 = re[s * 12];
    3936   108041474 :     x7 = im[s * 12];
    3937             : 
    3938   108041474 :     t0 = ( x0 + x4 );
    3939   108041474 :     t2 = ( x0 - x4 );
    3940   108041474 :     t1 = ( x1 + x5 );
    3941   108041474 :     t3 = ( x1 - x5 );
    3942   108041474 :     t4 = ( x2 + x6 );
    3943   108041474 :     t7 = ( x2 - x6 );
    3944   108041474 :     t5 = ( x7 + x3 );
    3945   108041474 :     t6 = ( x7 - x3 );
    3946             : 
    3947   108041474 :     y00 = ( t0 + t4 );
    3948   108041474 :     y01 = ( t1 + t5 );
    3949   108041474 :     y02 = ( t2 - t6 );
    3950   108041474 :     y03 = ( t3 - t7 );
    3951   108041474 :     y04 = ( t0 - t4 );
    3952   108041474 :     y05 = ( t1 - t5 );
    3953   108041474 :     y06 = ( t2 + t6 );
    3954   108041474 :     y07 = ( t3 + t7 );
    3955             : 
    3956   108041474 :     x0 = re[s * 1];
    3957   108041474 :     x1 = im[s * 1];
    3958   108041474 :     x2 = re[s * 5];
    3959   108041474 :     x3 = im[s * 5];
    3960   108041474 :     x4 = re[s * 9];
    3961   108041474 :     x5 = im[s * 9];
    3962   108041474 :     x6 = re[s * 13];
    3963   108041474 :     x7 = im[s * 13];
    3964             : 
    3965   108041474 :     t0 = ( x0 + x4 );
    3966   108041474 :     t2 = ( x0 - x4 );
    3967   108041474 :     t1 = ( x1 + x5 );
    3968   108041474 :     t3 = ( x1 - x5 );
    3969   108041474 :     t4 = ( x2 + x6 );
    3970   108041474 :     t7 = ( x2 - x6 );
    3971   108041474 :     t5 = ( x7 + x3 );
    3972   108041474 :     t6 = ( x7 - x3 );
    3973             : 
    3974   108041474 :     y08 = ( t0 + t4 );
    3975   108041474 :     y09 = ( t1 + t5 );
    3976   108041474 :     y10 = ( t2 - t6 );
    3977   108041474 :     y11 = ( t3 - t7 );
    3978   108041474 :     y12 = ( t0 - t4 );
    3979   108041474 :     y13 = ( t1 - t5 );
    3980   108041474 :     y14 = ( t2 + t6 );
    3981   108041474 :     y15 = ( t3 + t7 );
    3982             : 
    3983   108041474 :     x0 = re[s * 2];
    3984   108041474 :     x1 = im[s * 2];
    3985   108041474 :     x2 = re[s * 6];
    3986   108041474 :     x3 = im[s * 6];
    3987   108041474 :     x4 = re[s * 10];
    3988   108041474 :     x5 = im[s * 10];
    3989   108041474 :     x6 = re[s * 14];
    3990   108041474 :     x7 = im[s * 14];
    3991             : 
    3992   108041474 :     t0 = ( x0 + x4 );
    3993   108041474 :     t2 = ( x0 - x4 );
    3994   108041474 :     t1 = ( x1 + x5 );
    3995   108041474 :     t3 = ( x1 - x5 );
    3996   108041474 :     t4 = ( x2 + x6 );
    3997   108041474 :     t7 = ( x2 - x6 );
    3998   108041474 :     t5 = ( x7 + x3 );
    3999   108041474 :     t6 = ( x7 - x3 );
    4000             : 
    4001   108041474 :     y16 = ( t0 + t4 );
    4002   108041474 :     y17 = ( t1 + t5 );
    4003   108041474 :     y18 = ( t2 - t6 );
    4004   108041474 :     y19 = ( t3 - t7 );
    4005   108041474 :     y20 = ( t1 - t5 );
    4006   108041474 :     y21 = ( t4 - t0 );
    4007   108041474 :     y22 = ( t2 + t6 );
    4008   108041474 :     y23 = ( t3 + t7 );
    4009             : 
    4010   108041474 :     x0 = re[s * 3];
    4011   108041474 :     x1 = im[s * 3];
    4012   108041474 :     x2 = re[s * 7];
    4013   108041474 :     x3 = im[s * 7];
    4014   108041474 :     x4 = re[s * 11];
    4015   108041474 :     x5 = im[s * 11];
    4016   108041474 :     x6 = re[s * 15];
    4017   108041474 :     x7 = im[s * 15];
    4018             : 
    4019   108041474 :     t0 = ( x0 + x4 );
    4020   108041474 :     t2 = ( x0 - x4 );
    4021   108041474 :     t1 = ( x1 + x5 );
    4022   108041474 :     t3 = ( x1 - x5 );
    4023   108041474 :     t4 = ( x2 + x6 );
    4024   108041474 :     t7 = ( x2 - x6 );
    4025   108041474 :     t5 = ( x7 + x3 );
    4026   108041474 :     t6 = ( x7 - x3 );
    4027             : 
    4028   108041474 :     y24 = ( t0 + t4 );
    4029   108041474 :     y25 = ( t1 + t5 );
    4030   108041474 :     y26 = ( t2 - t6 );
    4031   108041474 :     y27 = ( t3 - t7 );
    4032   108041474 :     y28 = ( t0 - t4 );
    4033   108041474 :     y29 = ( t1 - t5 );
    4034   108041474 :     y30 = ( t2 + t6 );
    4035   108041474 :     y31 = ( t3 + t7 );
    4036             : 
    4037   108041474 :     x0 = ( y22 * FFT_C162 );
    4038   108041474 :     x1 = ( y23 * FFT_C162 );
    4039   108041474 :     y22 = ( x0 - x1 );
    4040   108041474 :     y23 = ( x0 + x1 );
    4041             : 
    4042   108041474 :     x0 = ( y28 * FFT_C162 );
    4043   108041474 :     x1 = ( y29 * FFT_C162 );
    4044   108041474 :     y28 = ( x0 - x1 );
    4045   108041474 :     y29 = ( x0 + x1 );
    4046             : 
    4047   108041474 :     x0 = ( y12 * FFT_C161 );
    4048   108041474 :     x1 = ( y13 * FFT_C161 );
    4049   108041474 :     y12 = ( x0 + x1 );
    4050   108041474 :     y13 = ( x1 - x0 );
    4051             : 
    4052   108041474 :     x0 = ( y18 * FFT_C161 );
    4053   108041474 :     x1 = ( y19 * FFT_C161 );
    4054   108041474 :     y18 = ( x0 + x1 );
    4055   108041474 :     y19 = ( x1 - x0 );
    4056             : 
    4057   108041474 :     x0 = ( y10 * FFT_C163 );
    4058   108041474 :     x1 = ( y11 * FFT_C166 );
    4059   108041474 :     x2 = ( y10 * FFT_C166 );
    4060   108041474 :     x3 = ( y11 * FFT_C163 );
    4061   108041474 :     y10 = ( x0 - x1 );
    4062   108041474 :     y11 = ( x2 + x3 );
    4063             : 
    4064   108041474 :     x0 = ( y14 * FFT_C165 );
    4065   108041474 :     x1 = ( y15 * FFT_C164 );
    4066   108041474 :     x2 = ( y14 * FFT_C164 );
    4067   108041474 :     x3 = ( y15 * FFT_C165 );
    4068   108041474 :     y14 = ( x0 - x1 );
    4069   108041474 :     y15 = ( x2 + x3 );
    4070             : 
    4071   108041474 :     x0 = ( y26 * FFT_C165 );
    4072   108041474 :     x1 = ( y27 * FFT_C164 );
    4073   108041474 :     x2 = ( y26 * FFT_C164 );
    4074   108041474 :     x3 = ( y27 * FFT_C165 );
    4075   108041474 :     y26 = ( x0 - x1 );
    4076   108041474 :     y27 = ( x2 + x3 );
    4077             : 
    4078   108041474 :     x0 = ( y30 * FFT_C164 );
    4079   108041474 :     x1 = ( y31 * FFT_C165 );
    4080   108041474 :     x2 = ( y30 * FFT_C165 );
    4081   108041474 :     x3 = ( y31 * FFT_C164 );
    4082   108041474 :     y30 = ( x0 - x1 );
    4083   108041474 :     y31 = ( x2 + x3 );
    4084             : 
    4085   108041474 :     t0 = ( y00 + y16 );
    4086   108041474 :     t2 = ( y00 - y16 );
    4087   108041474 :     t1 = ( y01 + y17 );
    4088   108041474 :     t3 = ( y01 - y17 );
    4089   108041474 :     t4 = ( y08 + y24 );
    4090   108041474 :     t7 = ( y08 - y24 );
    4091   108041474 :     t5 = ( y25 + y09 );
    4092   108041474 :     t6 = ( y25 - y09 );
    4093             : 
    4094   108041474 :     re[s * 0] = ( t0 + t4 );
    4095   108041474 :     im[s * 0] = ( t1 + t5 );
    4096   108041474 :     re[s * 4] = ( t2 - t6 );
    4097   108041474 :     im[s * 4] = ( t3 - t7 );
    4098   108041474 :     re[s * 8] = ( t0 - t4 );
    4099   108041474 :     im[s * 8] = ( t1 - t5 );
    4100   108041474 :     re[s * 12] = ( t2 + t6 );
    4101   108041474 :     im[s * 12] = ( t3 + t7 );
    4102             : 
    4103   108041474 :     t0 = ( y02 + y18 );
    4104   108041474 :     t2 = ( y02 - y18 );
    4105   108041474 :     t1 = ( y03 + y19 );
    4106   108041474 :     t3 = ( y03 - y19 );
    4107   108041474 :     t4 = ( y10 + y26 );
    4108   108041474 :     t7 = ( y10 - y26 );
    4109   108041474 :     t5 = ( y27 + y11 );
    4110   108041474 :     t6 = ( y27 - y11 );
    4111             : 
    4112   108041474 :     re[s * 1] = ( t0 + t4 );
    4113   108041474 :     im[s * 1] = ( t1 + t5 );
    4114   108041474 :     re[s * 5] = ( t2 - t6 );
    4115   108041474 :     im[s * 5] = ( t3 - t7 );
    4116   108041474 :     re[s * 9] = ( t0 - t4 );
    4117   108041474 :     im[s * 9] = ( t1 - t5 );
    4118   108041474 :     re[s * 13] = ( t2 + t6 );
    4119   108041474 :     im[s * 13] = ( t3 + t7 );
    4120             : 
    4121   108041474 :     t0 = ( y04 + y20 );
    4122   108041474 :     t2 = ( y04 - y20 );
    4123   108041474 :     t1 = ( y05 + y21 );
    4124   108041474 :     t3 = ( y05 - y21 );
    4125   108041474 :     t4 = ( y12 + y28 );
    4126   108041474 :     t7 = ( y12 - y28 );
    4127   108041474 :     t5 = ( y29 + y13 );
    4128   108041474 :     t6 = ( y29 - y13 );
    4129             : 
    4130   108041474 :     re[s * 2] = ( t0 + t4 );
    4131   108041474 :     im[s * 2] = ( t1 + t5 );
    4132   108041474 :     re[s * 6] = ( t2 - t6 );
    4133   108041474 :     im[s * 6] = ( t3 - t7 );
    4134   108041474 :     re[s * 10] = ( t0 - t4 );
    4135   108041474 :     im[s * 10] = ( t1 - t5 );
    4136   108041474 :     re[s * 14] = ( t2 + t6 );
    4137   108041474 :     im[s * 14] = ( t3 + t7 );
    4138             : 
    4139   108041474 :     t0 = ( y06 + y22 );
    4140   108041474 :     t2 = ( y06 - y22 );
    4141   108041474 :     t1 = ( y07 + y23 );
    4142   108041474 :     t3 = ( y07 - y23 );
    4143   108041474 :     t4 = ( y14 + y30 );
    4144   108041474 :     t7 = ( y14 - y30 );
    4145   108041474 :     t5 = ( y31 + y15 );
    4146   108041474 :     t6 = ( y31 - y15 );
    4147             : 
    4148   108041474 :     re[s * 3] = ( t0 + t4 );
    4149   108041474 :     im[s * 3] = ( t1 + t5 );
    4150   108041474 :     re[s * 7] = ( t2 - t6 );
    4151   108041474 :     im[s * 7] = ( t3 - t7 );
    4152   108041474 :     re[s * 11] = ( t0 - t4 );
    4153   108041474 :     im[s * 11] = ( t1 - t5 );
    4154   108041474 :     re[s * 15] = ( t2 + t6 );
    4155   108041474 :     im[s * 15] = ( t3 + t7 );
    4156             : 
    4157   108041474 :     return;
    4158             : }
    4159             : 
    4160    44774396 : static void fft_len20(
    4161             :     float *re,
    4162             :     float *im,
    4163             :     const int16_t s )
    4164             : {
    4165             :     float r1, r2, r3, r4;
    4166             :     float s1, s2, s3, s4;
    4167             :     float x0, x1, x2, x3, x4;
    4168             :     float t, t0, t1, t2, t3, t4, t5, t6, t7;
    4169             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    4170             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    4171             :     float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
    4172             :     float y30, y31, y32, y33, y34, y35, y36, y37, y38, y39;
    4173             : 
    4174    44774396 :     x0 = re[s * 0];
    4175    44774396 :     x1 = re[s * 16];
    4176    44774396 :     x2 = re[s * 12];
    4177    44774396 :     x3 = re[s * 8];
    4178    44774396 :     x4 = re[s * 4];
    4179             : 
    4180    44774396 :     r1 = ( x1 + x4 );
    4181    44774396 :     r4 = ( x1 - x4 );
    4182    44774396 :     r3 = ( x2 + x3 );
    4183    44774396 :     r2 = ( x2 - x3 );
    4184    44774396 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4185    44774396 :     r1 = ( r1 + r3 );
    4186    44774396 :     y00 = ( x0 + r1 );
    4187    44774396 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    4188    44774396 :     r3 = ( r1 - t );
    4189    44774396 :     r1 = ( r1 + t );
    4190    44774396 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4191    44774396 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4192    44774396 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4193             : 
    4194    44774396 :     x0 = im[s * 0];
    4195    44774396 :     x1 = im[s * 16];
    4196    44774396 :     x2 = im[s * 12];
    4197    44774396 :     x3 = im[s * 8];
    4198    44774396 :     x4 = im[s * 4];
    4199             : 
    4200    44774396 :     s1 = ( x1 + x4 );
    4201    44774396 :     s4 = ( x1 - x4 );
    4202    44774396 :     s3 = ( x2 + x3 );
    4203    44774396 :     s2 = ( x2 - x3 );
    4204    44774396 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4205    44774396 :     s1 = ( s1 + s3 );
    4206    44774396 :     y01 = ( x0 + s1 );
    4207    44774396 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    4208    44774396 :     s3 = ( s1 - t );
    4209    44774396 :     s1 = ( s1 + t );
    4210    44774396 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4211    44774396 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4212    44774396 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4213             : 
    4214    44774396 :     y08 = ( r1 + s2 );
    4215    44774396 :     y32 = ( r1 - s2 );
    4216    44774396 :     y16 = ( r3 - s4 );
    4217    44774396 :     y24 = ( r3 + s4 );
    4218             : 
    4219    44774396 :     y09 = ( s1 - r2 );
    4220    44774396 :     y33 = ( s1 + r2 );
    4221    44774396 :     y17 = ( s3 + r4 );
    4222    44774396 :     y25 = ( s3 - r4 );
    4223             : 
    4224    44774396 :     x0 = re[s * 5];
    4225    44774396 :     x1 = re[s * 1];
    4226    44774396 :     x2 = re[s * 17];
    4227    44774396 :     x3 = re[s * 13];
    4228    44774396 :     x4 = re[s * 9];
    4229             : 
    4230    44774396 :     r1 = ( x1 + x4 );
    4231    44774396 :     r4 = ( x1 - x4 );
    4232    44774396 :     r3 = ( x2 + x3 );
    4233    44774396 :     r2 = ( x2 - x3 );
    4234    44774396 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4235    44774396 :     r1 = ( r1 + r3 );
    4236    44774396 :     y02 = ( x0 + r1 );
    4237    44774396 :     r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
    4238    44774396 :     r3 = ( r1 - t );
    4239    44774396 :     r1 = ( r1 + t );
    4240    44774396 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4241    44774396 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4242    44774396 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4243             : 
    4244    44774396 :     x0 = im[s * 5];
    4245    44774396 :     x1 = im[s * 1];
    4246    44774396 :     x2 = im[s * 17];
    4247    44774396 :     x3 = im[s * 13];
    4248    44774396 :     x4 = im[s * 9];
    4249             : 
    4250    44774396 :     s1 = ( x1 + x4 );
    4251    44774396 :     s4 = ( x1 - x4 );
    4252    44774396 :     s3 = ( x2 + x3 );
    4253    44774396 :     s2 = ( x2 - x3 );
    4254    44774396 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4255    44774396 :     s1 = ( s1 + s3 );
    4256    44774396 :     y03 = ( x0 + s1 );
    4257    44774396 :     s1 = ( y03 + ( s1 * FFT_C55 ) );
    4258    44774396 :     s3 = ( s1 - t );
    4259    44774396 :     s1 = ( s1 + t );
    4260    44774396 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4261    44774396 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4262    44774396 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4263             : 
    4264    44774396 :     y10 = ( r1 + s2 );
    4265    44774396 :     y34 = ( r1 - s2 );
    4266    44774396 :     y18 = ( r3 - s4 );
    4267    44774396 :     y26 = ( r3 + s4 );
    4268             : 
    4269    44774396 :     y11 = ( s1 - r2 );
    4270    44774396 :     y35 = ( s1 + r2 );
    4271    44774396 :     y19 = ( s3 + r4 );
    4272    44774396 :     y27 = ( s3 - r4 );
    4273             : 
    4274    44774396 :     x0 = re[s * 10];
    4275    44774396 :     x1 = re[s * 6];
    4276    44774396 :     x2 = re[s * 2];
    4277    44774396 :     x3 = re[s * 18];
    4278    44774396 :     x4 = re[s * 14];
    4279             : 
    4280    44774396 :     r1 = ( x1 + x4 );
    4281    44774396 :     r4 = ( x1 - x4 );
    4282    44774396 :     r3 = ( x2 + x3 );
    4283    44774396 :     r2 = ( x2 - x3 );
    4284    44774396 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4285    44774396 :     r1 = ( r1 + r3 );
    4286    44774396 :     y04 = ( x0 + r1 );
    4287    44774396 :     r1 = ( y04 + ( ( r1 * FFT_C55 ) ) );
    4288    44774396 :     r3 = ( r1 - t );
    4289    44774396 :     r1 = ( r1 + t );
    4290    44774396 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4291    44774396 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4292    44774396 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4293             : 
    4294    44774396 :     x0 = im[s * 10];
    4295    44774396 :     x1 = im[s * 6];
    4296    44774396 :     x2 = im[s * 2];
    4297    44774396 :     x3 = im[s * 18];
    4298    44774396 :     x4 = im[s * 14];
    4299             : 
    4300    44774396 :     s1 = ( x1 + x4 );
    4301    44774396 :     s4 = ( x1 - x4 );
    4302    44774396 :     s3 = ( x2 + x3 );
    4303    44774396 :     s2 = ( x2 - x3 );
    4304    44774396 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4305    44774396 :     s1 = ( s1 + s3 );
    4306    44774396 :     y05 = ( x0 + s1 );
    4307    44774396 :     s1 = ( y05 + ( s1 * FFT_C55 ) );
    4308    44774396 :     s3 = ( s1 - t );
    4309    44774396 :     s1 = ( s1 + t );
    4310    44774396 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4311    44774396 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4312    44774396 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4313             : 
    4314    44774396 :     y12 = ( r1 + s2 );
    4315    44774396 :     y36 = ( r1 - s2 );
    4316    44774396 :     y20 = ( r3 - s4 );
    4317    44774396 :     y28 = ( r3 + s4 );
    4318             : 
    4319    44774396 :     y13 = ( s1 - r2 );
    4320    44774396 :     y37 = ( s1 + r2 );
    4321    44774396 :     y21 = ( s3 + r4 );
    4322    44774396 :     y29 = ( s3 - r4 );
    4323             : 
    4324    44774396 :     x0 = re[s * 15];
    4325    44774396 :     x1 = re[s * 11];
    4326    44774396 :     x2 = re[s * 7];
    4327    44774396 :     x3 = re[s * 3];
    4328    44774396 :     x4 = re[s * 19];
    4329             : 
    4330    44774396 :     r1 = ( x1 + x4 );
    4331    44774396 :     r4 = ( x1 - x4 );
    4332    44774396 :     r3 = ( x2 + x3 );
    4333    44774396 :     r2 = ( x2 - x3 );
    4334    44774396 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4335    44774396 :     r1 = ( r1 + r3 );
    4336    44774396 :     y06 = ( x0 + r1 );
    4337    44774396 :     r1 = ( y06 + ( ( r1 * FFT_C55 ) ) );
    4338    44774396 :     r3 = ( r1 - t );
    4339    44774396 :     r1 = ( r1 + t );
    4340    44774396 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4341    44774396 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4342    44774396 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4343             : 
    4344    44774396 :     x0 = im[s * 15];
    4345    44774396 :     x1 = im[s * 11];
    4346    44774396 :     x2 = im[s * 7];
    4347    44774396 :     x3 = im[s * 3];
    4348    44774396 :     x4 = im[s * 19];
    4349             : 
    4350    44774396 :     s1 = ( x1 + x4 );
    4351    44774396 :     s4 = ( x1 - x4 );
    4352    44774396 :     s3 = ( x2 + x3 );
    4353    44774396 :     s2 = ( x2 - x3 );
    4354    44774396 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4355    44774396 :     s1 = ( s1 + s3 );
    4356    44774396 :     y07 = ( x0 + s1 );
    4357    44774396 :     s1 = ( y07 + ( s1 * FFT_C55 ) );
    4358    44774396 :     s3 = ( s1 - t );
    4359    44774396 :     s1 = ( s1 + t );
    4360    44774396 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4361    44774396 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4362    44774396 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4363             : 
    4364    44774396 :     y14 = ( r1 + s2 );
    4365    44774396 :     y38 = ( r1 - s2 );
    4366    44774396 :     y22 = ( r3 - s4 );
    4367    44774396 :     y30 = ( r3 + s4 );
    4368             : 
    4369    44774396 :     y15 = ( s1 - r2 );
    4370    44774396 :     y39 = ( s1 + r2 );
    4371    44774396 :     y23 = ( s3 + r4 );
    4372    44774396 :     y31 = ( s3 - r4 );
    4373             : 
    4374    44774396 :     t0 = ( y00 + y04 );
    4375    44774396 :     t2 = ( y00 - y04 );
    4376    44774396 :     t1 = ( y01 + y05 );
    4377    44774396 :     t3 = ( y01 - y05 );
    4378    44774396 :     t4 = ( y02 + y06 );
    4379    44774396 :     t7 = ( y02 - y06 );
    4380    44774396 :     t5 = ( y07 + y03 );
    4381    44774396 :     t6 = ( y07 - y03 );
    4382             : 
    4383    44774396 :     re[s * 0] = ( t0 + t4 );
    4384    44774396 :     im[s * 0] = ( t1 + t5 );
    4385    44774396 :     re[s * 5] = ( t2 - t6 );
    4386    44774396 :     im[s * 5] = ( t3 - t7 );
    4387    44774396 :     re[s * 10] = ( t0 - t4 );
    4388    44774396 :     im[s * 10] = ( t1 - t5 );
    4389    44774396 :     re[s * 15] = ( t2 + t6 );
    4390    44774396 :     im[s * 15] = ( t3 + t7 );
    4391             : 
    4392    44774396 :     t0 = ( y08 + y12 );
    4393    44774396 :     t2 = ( y08 - y12 );
    4394    44774396 :     t1 = ( y09 + y13 );
    4395    44774396 :     t3 = ( y09 - y13 );
    4396    44774396 :     t4 = ( y10 + y14 );
    4397    44774396 :     t7 = ( y10 - y14 );
    4398    44774396 :     t5 = ( y15 + y11 );
    4399    44774396 :     t6 = ( y15 - y11 );
    4400             : 
    4401    44774396 :     re[s * 4] = ( t0 + t4 );
    4402    44774396 :     im[s * 4] = ( t1 + t5 );
    4403    44774396 :     re[s * 9] = ( t2 - t6 );
    4404    44774396 :     im[s * 9] = ( t3 - t7 );
    4405    44774396 :     re[s * 14] = ( t0 - t4 );
    4406    44774396 :     im[s * 14] = ( t1 - t5 );
    4407    44774396 :     re[s * 19] = ( t2 + t6 );
    4408    44774396 :     im[s * 19] = ( t3 + t7 );
    4409             : 
    4410    44774396 :     t0 = ( y16 + y20 );
    4411    44774396 :     t2 = ( y16 - y20 );
    4412    44774396 :     t1 = ( y17 + y21 );
    4413    44774396 :     t3 = ( y17 - y21 );
    4414    44774396 :     t4 = ( y18 + y22 );
    4415    44774396 :     t7 = ( y18 - y22 );
    4416    44774396 :     t5 = ( y23 + y19 );
    4417    44774396 :     t6 = ( y23 - y19 );
    4418             : 
    4419    44774396 :     re[s * 8] = ( t0 + t4 );
    4420    44774396 :     im[s * 8] = ( t1 + t5 );
    4421    44774396 :     re[s * 13] = ( t2 - t6 );
    4422    44774396 :     im[s * 13] = ( t3 - t7 );
    4423    44774396 :     re[s * 18] = ( t0 - t4 );
    4424    44774396 :     im[s * 18] = ( t1 - t5 );
    4425    44774396 :     re[s * 3] = ( t2 + t6 );
    4426    44774396 :     im[s * 3] = ( t3 + t7 );
    4427             : 
    4428    44774396 :     t0 = ( y24 + y28 );
    4429    44774396 :     t2 = ( y24 - y28 );
    4430    44774396 :     t1 = ( y25 + y29 );
    4431    44774396 :     t3 = ( y25 - y29 );
    4432    44774396 :     t4 = ( y26 + y30 );
    4433    44774396 :     t7 = ( y26 - y30 );
    4434    44774396 :     t5 = ( y31 + y27 );
    4435    44774396 :     t6 = ( y31 - y27 );
    4436             : 
    4437    44774396 :     re[s * 12] = ( t0 + t4 );
    4438    44774396 :     im[s * 12] = ( t1 + t5 );
    4439    44774396 :     re[s * 17] = ( t2 - t6 );
    4440    44774396 :     im[s * 17] = ( t3 - t7 );
    4441    44774396 :     re[s * 2] = ( t0 - t4 );
    4442    44774396 :     im[s * 2] = ( t1 - t5 );
    4443    44774396 :     re[s * 7] = ( t2 + t6 );
    4444    44774396 :     im[s * 7] = ( t3 + t7 );
    4445             : 
    4446    44774396 :     t0 = ( y32 + y36 );
    4447    44774396 :     t2 = ( y32 - y36 );
    4448    44774396 :     t1 = ( y33 + y37 );
    4449    44774396 :     t3 = ( y33 - y37 );
    4450    44774396 :     t4 = ( y34 + y38 );
    4451    44774396 :     t7 = ( y34 - y38 );
    4452    44774396 :     t5 = ( y39 + y35 );
    4453    44774396 :     t6 = ( y39 - y35 );
    4454             : 
    4455    44774396 :     re[s * 16] = ( t0 + t4 );
    4456    44774396 :     im[s * 16] = ( t1 + t5 );
    4457    44774396 :     re[s * 1] = ( t2 - t6 );
    4458    44774396 :     im[s * 1] = ( t3 - t7 );
    4459    44774396 :     re[s * 6] = ( t0 - t4 );
    4460    44774396 :     im[s * 6] = ( t1 - t5 );
    4461    44774396 :     re[s * 11] = ( t2 + t6 );
    4462    44774396 :     im[s * 11] = ( t3 + t7 );
    4463             : 
    4464    44774396 :     return;
    4465             : }
    4466             : 
    4467   134115908 : static void fft_len30(
    4468             :     float *re,
    4469             :     float *im,
    4470             :     const int16_t s )
    4471             : {
    4472             :     float t;
    4473             :     float r1, r2, r3, r4;
    4474             :     float s1, s2, s3, s4;
    4475             :     float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
    4476             :     float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
    4477             :     float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
    4478             : 
    4479             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    4480             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    4481             :     float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
    4482             : 
    4483             :     float z00, z01, z02, z03, z04, z05, z06, z07, z08, z09;
    4484             :     float z10, z11, z12, z13, z14, z15, z16, z17, z18, z19;
    4485             :     float z20, z21, z22, z23, z24, z25, z26, z27, z28, z29;
    4486             :     float z30, z31, z32, z33, z34, z35, z36, z37, z38, z39;
    4487             :     float z40, z41, z42, z43, z44, z45, z46, z47, z48, z49;
    4488             :     float z50, z51, z52, z53, z54, z55, z56, z57, z58, z59;
    4489             : 
    4490             :     float *rel, *reh, *iml, *imh;
    4491             : 
    4492   134115908 :     rel = &re[s * 0];
    4493   134115908 :     reh = &re[s * 15];
    4494   134115908 :     iml = &im[s * 0];
    4495   134115908 :     imh = &im[s * 15];
    4496             : 
    4497   134115908 :     x00 = re[s * 0];
    4498   134115908 :     x01 = im[s * 0];
    4499   134115908 :     x02 = re[s * 18];
    4500   134115908 :     x03 = im[s * 18];
    4501   134115908 :     x04 = re[s * 6];
    4502   134115908 :     x05 = im[s * 6];
    4503   134115908 :     x06 = re[s * 24];
    4504   134115908 :     x07 = im[s * 24];
    4505   134115908 :     x08 = re[s * 12];
    4506   134115908 :     x09 = im[s * 12];
    4507             : 
    4508   134115908 :     x10 = re[s * 20];
    4509   134115908 :     x11 = im[s * 20];
    4510   134115908 :     x12 = re[s * 8];
    4511   134115908 :     x13 = im[s * 8];
    4512   134115908 :     x14 = re[s * 26];
    4513   134115908 :     x15 = im[s * 26];
    4514   134115908 :     x16 = re[s * 14];
    4515   134115908 :     x17 = im[s * 14];
    4516   134115908 :     x18 = re[s * 2];
    4517   134115908 :     x19 = im[s * 2];
    4518             : 
    4519   134115908 :     x20 = re[s * 10];
    4520   134115908 :     x21 = im[s * 10];
    4521   134115908 :     x22 = re[s * 28];
    4522   134115908 :     x23 = im[s * 28];
    4523   134115908 :     x24 = re[s * 16];
    4524   134115908 :     x25 = im[s * 16];
    4525   134115908 :     x26 = re[s * 4];
    4526   134115908 :     x27 = im[s * 4];
    4527   134115908 :     x28 = re[s * 22];
    4528   134115908 :     x29 = im[s * 22];
    4529             : 
    4530   134115908 :     r1 = ( x02 + x08 );
    4531   134115908 :     r4 = ( x02 - x08 );
    4532   134115908 :     r3 = ( x04 + x06 );
    4533   134115908 :     r2 = ( x04 - x06 );
    4534   134115908 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4535   134115908 :     r1 = ( r1 + r3 );
    4536   134115908 :     y00 = ( x00 + r1 );
    4537   134115908 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    4538   134115908 :     r3 = ( r1 - t );
    4539   134115908 :     r1 = ( r1 + t );
    4540   134115908 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4541   134115908 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4542   134115908 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4543             : 
    4544   134115908 :     s1 = ( x03 + x09 );
    4545   134115908 :     s4 = ( x03 - x09 );
    4546   134115908 :     s3 = ( x05 + x07 );
    4547   134115908 :     s2 = ( x05 - x07 );
    4548   134115908 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4549   134115908 :     s1 = ( s1 + s3 );
    4550   134115908 :     y01 = ( x01 + s1 );
    4551   134115908 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    4552   134115908 :     s3 = ( s1 - t );
    4553   134115908 :     s1 = ( s1 + t );
    4554   134115908 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4555   134115908 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4556   134115908 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4557             : 
    4558   134115908 :     y02 = ( r1 + s2 );
    4559   134115908 :     y08 = ( r1 - s2 );
    4560   134115908 :     y04 = ( r3 - s4 );
    4561   134115908 :     y06 = ( r3 + s4 );
    4562             : 
    4563   134115908 :     y03 = ( s1 - r2 );
    4564   134115908 :     y09 = ( s1 + r2 );
    4565   134115908 :     y05 = ( s3 + r4 );
    4566   134115908 :     y07 = ( s3 - r4 );
    4567             : 
    4568   134115908 :     r1 = ( x12 + x18 );
    4569   134115908 :     r4 = ( x12 - x18 );
    4570   134115908 :     r3 = ( x14 + x16 );
    4571   134115908 :     r2 = ( x14 - x16 );
    4572   134115908 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4573   134115908 :     r1 = ( r1 + r3 );
    4574   134115908 :     y10 = ( x10 + r1 );
    4575   134115908 :     r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
    4576   134115908 :     r3 = ( r1 - t );
    4577   134115908 :     r1 = ( r1 + t );
    4578   134115908 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4579   134115908 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4580   134115908 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4581             : 
    4582   134115908 :     s1 = ( x13 + x19 );
    4583   134115908 :     s4 = ( x13 - x19 );
    4584   134115908 :     s3 = ( x15 + x17 );
    4585   134115908 :     s2 = ( x15 - x17 );
    4586   134115908 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4587   134115908 :     s1 = ( s1 + s3 );
    4588   134115908 :     y11 = ( x11 + s1 );
    4589   134115908 :     s1 = ( y11 + ( s1 * FFT_C55 ) );
    4590   134115908 :     s3 = ( s1 - t );
    4591   134115908 :     s1 = ( s1 + t );
    4592   134115908 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4593   134115908 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4594   134115908 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4595             : 
    4596   134115908 :     y12 = ( r1 + s2 );
    4597   134115908 :     y18 = ( r1 - s2 );
    4598   134115908 :     y14 = ( r3 - s4 );
    4599   134115908 :     y16 = ( r3 + s4 );
    4600             : 
    4601   134115908 :     y13 = ( s1 - r2 );
    4602   134115908 :     y19 = ( s1 + r2 );
    4603   134115908 :     y15 = ( s3 + r4 );
    4604   134115908 :     y17 = ( s3 - r4 );
    4605             : 
    4606   134115908 :     r1 = ( x22 + x28 );
    4607   134115908 :     r4 = ( x22 - x28 );
    4608   134115908 :     r3 = ( x24 + x26 );
    4609   134115908 :     r2 = ( x24 - x26 );
    4610   134115908 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4611   134115908 :     r1 = ( r1 + r3 );
    4612   134115908 :     y20 = ( x20 + r1 );
    4613   134115908 :     r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
    4614   134115908 :     r3 = ( r1 - t );
    4615   134115908 :     r1 = ( r1 + t );
    4616   134115908 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4617   134115908 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4618   134115908 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4619             : 
    4620   134115908 :     s1 = ( x23 + x29 );
    4621   134115908 :     s4 = ( x23 - x29 );
    4622   134115908 :     s3 = ( x25 + x27 );
    4623   134115908 :     s2 = ( x25 - x27 );
    4624   134115908 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4625   134115908 :     s1 = ( s1 + s3 );
    4626   134115908 :     y21 = ( x21 + s1 );
    4627   134115908 :     s1 = ( y21 + ( s1 * FFT_C55 ) );
    4628   134115908 :     s3 = ( s1 - t );
    4629   134115908 :     s1 = ( s1 + t );
    4630   134115908 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4631   134115908 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4632   134115908 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4633             : 
    4634   134115908 :     y22 = ( r1 + s2 );
    4635   134115908 :     y28 = ( r1 - s2 );
    4636   134115908 :     y24 = ( r3 - s4 );
    4637   134115908 :     y26 = ( r3 + s4 );
    4638             : 
    4639   134115908 :     y23 = ( s1 - r2 );
    4640   134115908 :     y29 = ( s1 + r2 );
    4641   134115908 :     y25 = ( s3 + r4 );
    4642   134115908 :     y27 = ( s3 - r4 );
    4643             : 
    4644   134115908 :     r1 = ( y10 + y20 );
    4645   134115908 :     r2 = ( ( y10 - y20 ) * FFT_C31 );
    4646   134115908 :     z00 = ( y00 + r1 );
    4647   134115908 :     r1 = ( y00 - r1 * 0.5f );
    4648             : 
    4649   134115908 :     s1 = ( y11 + y21 );
    4650   134115908 :     s2 = ( ( y11 - y21 ) * FFT_C31 );
    4651   134115908 :     z01 = ( y01 + s1 );
    4652   134115908 :     s1 = ( y01 - s1 * 0.5f );
    4653             : 
    4654   134115908 :     z20 = ( r1 - s2 );
    4655   134115908 :     z10 = ( r1 + s2 );
    4656   134115908 :     z21 = ( s1 + r2 );
    4657   134115908 :     z11 = ( s1 - r2 );
    4658             : 
    4659   134115908 :     r1 = ( y12 + y22 );
    4660   134115908 :     r2 = ( ( y12 - y22 ) * FFT_C31 );
    4661   134115908 :     z12 = ( y02 + r1 );
    4662   134115908 :     r1 = ( y02 - r1 * 0.5f );
    4663             : 
    4664   134115908 :     s1 = ( y13 + y23 );
    4665   134115908 :     s2 = ( ( y13 - y23 ) * FFT_C31 );
    4666   134115908 :     z13 = ( y03 + s1 );
    4667   134115908 :     s1 = ( y03 - s1 * 0.5f );
    4668             : 
    4669   134115908 :     z02 = ( r1 - s2 );
    4670   134115908 :     z22 = ( r1 + s2 );
    4671   134115908 :     z03 = ( s1 + r2 );
    4672   134115908 :     z23 = ( s1 - r2 );
    4673             : 
    4674   134115908 :     r1 = ( y14 + y24 );
    4675   134115908 :     r2 = ( ( y14 - y24 ) * FFT_C31 );
    4676   134115908 :     z24 = ( y04 + r1 );
    4677   134115908 :     r1 = ( y04 - r1 * 0.5f );
    4678             : 
    4679   134115908 :     s1 = ( y15 + y25 );
    4680   134115908 :     s2 = ( ( y15 - y25 ) * FFT_C31 );
    4681   134115908 :     z25 = ( y05 + s1 );
    4682   134115908 :     s1 = ( y05 - s1 * 0.5f );
    4683             : 
    4684   134115908 :     z14 = ( r1 - s2 );
    4685   134115908 :     z04 = ( r1 + s2 );
    4686   134115908 :     z15 = ( s1 + r2 );
    4687   134115908 :     z05 = ( s1 - r2 );
    4688             : 
    4689   134115908 :     r1 = ( y16 + y26 );
    4690   134115908 :     r2 = ( ( y16 - y26 ) * FFT_C31 );
    4691   134115908 :     z06 = ( y06 + r1 );
    4692   134115908 :     r1 = ( y06 - r1 * 0.5f );
    4693             : 
    4694   134115908 :     s1 = ( y17 + y27 );
    4695   134115908 :     s2 = ( ( y17 - y27 ) * FFT_C31 );
    4696   134115908 :     z07 = ( y07 + s1 );
    4697   134115908 :     s1 = ( y07 - s1 * 0.5f );
    4698             : 
    4699   134115908 :     z26 = ( r1 - s2 );
    4700   134115908 :     z16 = ( r1 + s2 );
    4701   134115908 :     z27 = ( s1 + r2 );
    4702   134115908 :     z17 = ( s1 - r2 );
    4703             : 
    4704   134115908 :     r1 = ( y18 + y28 );
    4705   134115908 :     r2 = ( ( y18 - y28 ) * FFT_C31 );
    4706   134115908 :     z18 = ( y08 + r1 );
    4707   134115908 :     r1 = ( y08 - r1 * 0.5f );
    4708             : 
    4709   134115908 :     s1 = ( y19 + y29 );
    4710   134115908 :     s2 = ( ( y19 - y29 ) * FFT_C31 );
    4711   134115908 :     z19 = ( y09 + s1 );
    4712   134115908 :     s1 = ( y09 - s1 * 0.5f );
    4713             : 
    4714   134115908 :     z08 = ( r1 - s2 );
    4715   134115908 :     z28 = ( r1 + s2 );
    4716   134115908 :     z09 = ( s1 + r2 );
    4717   134115908 :     z29 = ( s1 - r2 );
    4718             : 
    4719   134115908 :     x00 = re[s * 15];
    4720   134115908 :     x01 = im[s * 15];
    4721   134115908 :     x02 = re[s * 3];
    4722   134115908 :     x03 = im[s * 3];
    4723   134115908 :     x04 = re[s * 21];
    4724   134115908 :     x05 = im[s * 21];
    4725   134115908 :     x06 = re[s * 9];
    4726   134115908 :     x07 = im[s * 9];
    4727   134115908 :     x08 = re[s * 27];
    4728   134115908 :     x09 = im[s * 27];
    4729             : 
    4730   134115908 :     x10 = re[s * 5];
    4731   134115908 :     x11 = im[s * 5];
    4732   134115908 :     x12 = re[s * 23];
    4733   134115908 :     x13 = im[s * 23];
    4734   134115908 :     x14 = re[s * 11];
    4735   134115908 :     x15 = im[s * 11];
    4736   134115908 :     x16 = re[s * 29];
    4737   134115908 :     x17 = im[s * 29];
    4738   134115908 :     x18 = re[s * 17];
    4739   134115908 :     x19 = im[s * 17];
    4740             : 
    4741   134115908 :     x20 = re[s * 25];
    4742   134115908 :     x21 = im[s * 25];
    4743   134115908 :     x22 = re[s * 13];
    4744   134115908 :     x23 = im[s * 13];
    4745   134115908 :     x24 = re[s * 1];
    4746   134115908 :     x25 = im[s * 1];
    4747   134115908 :     x26 = re[s * 19];
    4748   134115908 :     x27 = im[s * 19];
    4749   134115908 :     x28 = re[s * 7];
    4750   134115908 :     x29 = im[s * 7];
    4751             : 
    4752   134115908 :     r1 = ( x02 + x08 );
    4753   134115908 :     r4 = ( x02 - x08 );
    4754   134115908 :     r3 = ( x04 + x06 );
    4755   134115908 :     r2 = ( x04 - x06 );
    4756   134115908 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4757   134115908 :     r1 = ( r1 + r3 );
    4758   134115908 :     y00 = ( x00 + r1 );
    4759   134115908 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    4760   134115908 :     r3 = ( r1 - t );
    4761   134115908 :     r1 = ( r1 + t );
    4762   134115908 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4763   134115908 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4764   134115908 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4765             : 
    4766   134115908 :     s1 = ( x03 + x09 );
    4767   134115908 :     s4 = ( x03 - x09 );
    4768   134115908 :     s3 = ( x05 + x07 );
    4769   134115908 :     s2 = ( x05 - x07 );
    4770   134115908 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4771   134115908 :     s1 = ( s1 + s3 );
    4772   134115908 :     y01 = ( x01 + s1 );
    4773   134115908 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    4774   134115908 :     s3 = ( s1 - t );
    4775   134115908 :     s1 = ( s1 + t );
    4776   134115908 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4777   134115908 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4778   134115908 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4779             : 
    4780   134115908 :     y02 = ( r1 + s2 );
    4781   134115908 :     y08 = ( r1 - s2 );
    4782   134115908 :     y04 = ( r3 - s4 );
    4783   134115908 :     y06 = ( r3 + s4 );
    4784             : 
    4785   134115908 :     y03 = ( s1 - r2 );
    4786   134115908 :     y09 = ( s1 + r2 );
    4787   134115908 :     y05 = ( s3 + r4 );
    4788   134115908 :     y07 = ( s3 - r4 );
    4789             : 
    4790   134115908 :     r1 = ( x12 + x18 );
    4791   134115908 :     r4 = ( x12 - x18 );
    4792   134115908 :     r3 = ( x14 + x16 );
    4793   134115908 :     r2 = ( x14 - x16 );
    4794   134115908 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4795   134115908 :     r1 = ( r1 + r3 );
    4796   134115908 :     y10 = ( x10 + r1 );
    4797   134115908 :     r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
    4798   134115908 :     r3 = ( r1 - t );
    4799   134115908 :     r1 = ( r1 + t );
    4800   134115908 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4801   134115908 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4802   134115908 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4803             : 
    4804   134115908 :     s1 = ( x13 + x19 );
    4805   134115908 :     s4 = ( x13 - x19 );
    4806   134115908 :     s3 = ( x15 + x17 );
    4807   134115908 :     s2 = ( x15 - x17 );
    4808   134115908 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4809   134115908 :     s1 = ( s1 + s3 );
    4810   134115908 :     y11 = ( x11 + s1 );
    4811   134115908 :     s1 = ( y11 + ( s1 * FFT_C55 ) );
    4812   134115908 :     s3 = ( s1 - t );
    4813   134115908 :     s1 = ( s1 + t );
    4814   134115908 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4815   134115908 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4816   134115908 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4817             : 
    4818   134115908 :     y12 = ( r1 + s2 );
    4819   134115908 :     y18 = ( r1 - s2 );
    4820   134115908 :     y14 = ( r3 - s4 );
    4821   134115908 :     y16 = ( r3 + s4 );
    4822             : 
    4823   134115908 :     y13 = ( s1 - r2 );
    4824   134115908 :     y19 = ( s1 + r2 );
    4825   134115908 :     y15 = ( s3 + r4 );
    4826   134115908 :     y17 = ( s3 - r4 );
    4827             : 
    4828   134115908 :     r1 = ( x22 + x28 );
    4829   134115908 :     r4 = ( x22 - x28 );
    4830   134115908 :     r3 = ( x24 + x26 );
    4831   134115908 :     r2 = ( x24 - x26 );
    4832   134115908 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4833   134115908 :     r1 = ( r1 + r3 );
    4834   134115908 :     y20 = ( x20 + r1 );
    4835   134115908 :     r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
    4836   134115908 :     r3 = ( r1 - t );
    4837   134115908 :     r1 = ( r1 + t );
    4838   134115908 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4839   134115908 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4840   134115908 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4841             : 
    4842   134115908 :     s1 = ( x23 + x29 );
    4843   134115908 :     s4 = ( x23 - x29 );
    4844   134115908 :     s3 = ( x25 + x27 );
    4845   134115908 :     s2 = ( x25 - x27 );
    4846   134115908 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4847   134115908 :     s1 = ( s1 + s3 );
    4848   134115908 :     y21 = ( x21 + s1 );
    4849   134115908 :     s1 = ( y21 + ( s1 * FFT_C55 ) );
    4850   134115908 :     s3 = ( s1 - t );
    4851   134115908 :     s1 = ( s1 + t );
    4852   134115908 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4853   134115908 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4854   134115908 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4855             : 
    4856   134115908 :     y22 = ( r1 + s2 );
    4857   134115908 :     y28 = ( r1 - s2 );
    4858   134115908 :     y24 = ( r3 - s4 );
    4859   134115908 :     y26 = ( r3 + s4 );
    4860             : 
    4861   134115908 :     y23 = ( s1 - r2 );
    4862   134115908 :     y29 = ( s1 + r2 );
    4863   134115908 :     y25 = ( s3 + r4 );
    4864   134115908 :     y27 = ( s3 - r4 );
    4865             : 
    4866   134115908 :     r1 = ( y10 + y20 );
    4867   134115908 :     r2 = ( ( y10 - y20 ) * FFT_C31 );
    4868   134115908 :     z30 = ( y00 + r1 );
    4869   134115908 :     r1 = ( y00 - r1 * 0.5f );
    4870             : 
    4871   134115908 :     s1 = ( y11 + y21 );
    4872   134115908 :     s2 = ( ( y11 - y21 ) * FFT_C31 );
    4873   134115908 :     z31 = ( y01 + s1 );
    4874   134115908 :     s1 = ( y01 - s1 * 0.5f );
    4875             : 
    4876   134115908 :     z50 = ( r1 - s2 );
    4877   134115908 :     z40 = ( r1 + s2 );
    4878   134115908 :     z51 = ( s1 + r2 );
    4879   134115908 :     z41 = ( s1 - r2 );
    4880             : 
    4881   134115908 :     r1 = ( y12 + y22 );
    4882   134115908 :     r2 = ( ( y12 - y22 ) * FFT_C31 );
    4883   134115908 :     z42 = ( y02 + r1 );
    4884   134115908 :     r1 = ( y02 - r1 * 0.5f );
    4885             : 
    4886   134115908 :     s1 = ( y13 + y23 );
    4887   134115908 :     s2 = ( ( y13 - y23 ) * FFT_C31 );
    4888   134115908 :     z43 = ( y03 + s1 );
    4889   134115908 :     s1 = ( y03 - s1 * 0.5f );
    4890             : 
    4891   134115908 :     z32 = ( r1 - s2 );
    4892   134115908 :     z52 = ( r1 + s2 );
    4893   134115908 :     z33 = ( s1 + r2 );
    4894   134115908 :     z53 = ( s1 - r2 );
    4895             : 
    4896   134115908 :     r1 = ( y14 + y24 );
    4897   134115908 :     r2 = ( ( y14 - y24 ) * FFT_C31 );
    4898   134115908 :     z54 = ( y04 + r1 );
    4899   134115908 :     r1 = ( y04 - r1 * 0.5f );
    4900             : 
    4901   134115908 :     s1 = ( y15 + y25 );
    4902   134115908 :     s2 = ( ( y15 - y25 ) * FFT_C31 );
    4903   134115908 :     z55 = ( y05 + s1 );
    4904   134115908 :     s1 = ( y05 - s1 * 0.5f );
    4905             : 
    4906   134115908 :     z44 = ( r1 - s2 );
    4907   134115908 :     z34 = ( r1 + s2 );
    4908   134115908 :     z45 = ( s1 + r2 );
    4909   134115908 :     z35 = ( s1 - r2 );
    4910             : 
    4911   134115908 :     r1 = ( y16 + y26 );
    4912   134115908 :     r2 = ( ( y16 - y26 ) * FFT_C31 );
    4913   134115908 :     z36 = ( y06 + r1 );
    4914   134115908 :     r1 = ( y06 - r1 * 0.5f );
    4915             : 
    4916   134115908 :     s1 = ( y17 + y27 );
    4917   134115908 :     s2 = ( ( y17 - y27 ) * FFT_C31 );
    4918   134115908 :     z37 = ( y07 + s1 );
    4919   134115908 :     s1 = ( y07 - s1 * 0.5f );
    4920             : 
    4921   134115908 :     z56 = ( r1 - s2 );
    4922   134115908 :     z46 = ( r1 + s2 );
    4923   134115908 :     z57 = ( s1 + r2 );
    4924   134115908 :     z47 = ( s1 - r2 );
    4925             : 
    4926   134115908 :     r1 = ( y18 + y28 );
    4927   134115908 :     r2 = ( ( y18 - y28 ) * FFT_C31 );
    4928   134115908 :     z48 = ( y08 + r1 );
    4929   134115908 :     r1 = ( y08 - r1 * 0.5f );
    4930             : 
    4931   134115908 :     s1 = ( y19 + y29 );
    4932   134115908 :     s2 = ( ( y19 - y29 ) * FFT_C31 );
    4933   134115908 :     z49 = ( y09 + s1 );
    4934   134115908 :     s1 = ( y09 - s1 * 0.5f );
    4935             : 
    4936   134115908 :     z38 = ( r1 - s2 );
    4937   134115908 :     z58 = ( r1 + s2 );
    4938   134115908 :     z39 = ( s1 + r2 );
    4939   134115908 :     z59 = ( s1 - r2 );
    4940             : 
    4941   134115908 :     r1 = z00;
    4942   134115908 :     r2 = z30;
    4943   134115908 :     r3 = z01;
    4944   134115908 :     r4 = z31;
    4945   134115908 :     *rel = ( r1 + r2 );
    4946   134115908 :     *reh = ( r1 - r2 );
    4947   134115908 :     *iml = ( r3 + r4 );
    4948   134115908 :     *imh = ( r3 - r4 );
    4949   134115908 :     rel += s, reh += s, iml += s;
    4950   134115908 :     imh += s;
    4951             : 
    4952   134115908 :     r1 = z16;
    4953   134115908 :     r2 = z46;
    4954   134115908 :     r3 = z17;
    4955   134115908 :     r4 = z47;
    4956   134115908 :     *reh = ( r1 + r2 );
    4957   134115908 :     *rel = ( r1 - r2 );
    4958   134115908 :     *imh = ( r3 + r4 );
    4959   134115908 :     *iml = ( r3 - r4 );
    4960   134115908 :     rel += s, reh += s, iml += s;
    4961   134115908 :     imh += s;
    4962             : 
    4963   134115908 :     r1 = z02;
    4964   134115908 :     r2 = z32;
    4965   134115908 :     r3 = z03;
    4966   134115908 :     r4 = z33;
    4967   134115908 :     *rel = ( r1 + r2 );
    4968   134115908 :     *reh = ( r1 - r2 );
    4969   134115908 :     *iml = ( r3 + r4 );
    4970   134115908 :     *imh = ( r3 - r4 );
    4971   134115908 :     rel += s, reh += s, iml += s;
    4972   134115908 :     imh += s;
    4973             : 
    4974   134115908 :     r1 = z18;
    4975   134115908 :     r2 = z48;
    4976   134115908 :     r3 = z19;
    4977   134115908 :     r4 = z49;
    4978   134115908 :     *reh = ( r1 + r2 );
    4979   134115908 :     *rel = ( r1 - r2 );
    4980   134115908 :     *imh = ( r3 + r4 );
    4981   134115908 :     *iml = ( r3 - r4 );
    4982   134115908 :     rel += s, reh += s, iml += s;
    4983   134115908 :     imh += s;
    4984             : 
    4985   134115908 :     r1 = z04;
    4986   134115908 :     r2 = z34;
    4987   134115908 :     r3 = z05;
    4988   134115908 :     r4 = z35;
    4989   134115908 :     *rel = ( r1 + r2 );
    4990   134115908 :     *reh = ( r1 - r2 );
    4991   134115908 :     *iml = ( r3 + r4 );
    4992   134115908 :     *imh = ( r3 - r4 );
    4993   134115908 :     rel += s, reh += s, iml += s;
    4994   134115908 :     imh += s;
    4995             : 
    4996   134115908 :     r1 = z20;
    4997   134115908 :     r2 = z50;
    4998   134115908 :     r3 = z21;
    4999   134115908 :     r4 = z51;
    5000   134115908 :     *reh = ( r1 + r2 );
    5001   134115908 :     *rel = ( r1 - r2 );
    5002   134115908 :     *imh = ( r3 + r4 );
    5003   134115908 :     *iml = ( r3 - r4 );
    5004   134115908 :     rel += s, reh += s, iml += s;
    5005   134115908 :     imh += s;
    5006             : 
    5007   134115908 :     r1 = z06;
    5008   134115908 :     r2 = z36;
    5009   134115908 :     r3 = z07;
    5010   134115908 :     r4 = z37;
    5011   134115908 :     *rel = ( r1 + r2 );
    5012   134115908 :     *reh = ( r1 - r2 );
    5013   134115908 :     *iml = ( r3 + r4 );
    5014   134115908 :     *imh = ( r3 - r4 );
    5015   134115908 :     rel += s, reh += s, iml += s;
    5016   134115908 :     imh += s;
    5017             : 
    5018   134115908 :     r1 = z22;
    5019   134115908 :     r2 = z52;
    5020   134115908 :     r3 = z23;
    5021   134115908 :     r4 = z53;
    5022   134115908 :     *reh = ( r1 + r2 );
    5023   134115908 :     *rel = ( r1 - r2 );
    5024   134115908 :     *imh = ( r3 + r4 );
    5025   134115908 :     *iml = ( r3 - r4 );
    5026   134115908 :     rel += s, reh += s, iml += s;
    5027   134115908 :     imh += s;
    5028             : 
    5029   134115908 :     r1 = z08;
    5030   134115908 :     r2 = z38;
    5031   134115908 :     r3 = z09;
    5032   134115908 :     r4 = z39;
    5033   134115908 :     *rel = ( r1 + r2 );
    5034   134115908 :     *reh = ( r1 - r2 );
    5035   134115908 :     *iml = ( r3 + r4 );
    5036   134115908 :     *imh = ( r3 - r4 );
    5037   134115908 :     rel += s, reh += s, iml += s;
    5038   134115908 :     imh += s;
    5039             : 
    5040   134115908 :     r1 = z24;
    5041   134115908 :     r2 = z54;
    5042   134115908 :     r3 = z25;
    5043   134115908 :     r4 = z55;
    5044   134115908 :     *reh = ( r1 + r2 );
    5045   134115908 :     *rel = ( r1 - r2 );
    5046   134115908 :     *imh = ( r3 + r4 );
    5047   134115908 :     *iml = ( r3 - r4 );
    5048   134115908 :     rel += s, reh += s, iml += s;
    5049   134115908 :     imh += s;
    5050             : 
    5051   134115908 :     r1 = z10;
    5052   134115908 :     r2 = z40;
    5053   134115908 :     r3 = z11;
    5054   134115908 :     r4 = z41;
    5055   134115908 :     *rel = ( r1 + r2 );
    5056   134115908 :     *reh = ( r1 - r2 );
    5057   134115908 :     *iml = ( r3 + r4 );
    5058   134115908 :     *imh = ( r3 - r4 );
    5059   134115908 :     rel += s, reh += s, iml += s;
    5060   134115908 :     imh += s;
    5061             : 
    5062   134115908 :     r1 = z26;
    5063   134115908 :     r2 = z56;
    5064   134115908 :     r3 = z27;
    5065   134115908 :     r4 = z57;
    5066   134115908 :     *reh = ( r1 + r2 );
    5067   134115908 :     *rel = ( r1 - r2 );
    5068   134115908 :     *imh = ( r3 + r4 );
    5069   134115908 :     *iml = ( r3 - r4 );
    5070   134115908 :     rel += s, reh += s, iml += s;
    5071   134115908 :     imh += s;
    5072             : 
    5073   134115908 :     r1 = z12;
    5074   134115908 :     r2 = z42;
    5075   134115908 :     r3 = z13;
    5076   134115908 :     r4 = z43;
    5077   134115908 :     *rel = ( r1 + r2 );
    5078   134115908 :     *reh = ( r1 - r2 );
    5079   134115908 :     *iml = ( r3 + r4 );
    5080   134115908 :     *imh = ( r3 - r4 );
    5081   134115908 :     rel += s, reh += s, iml += s;
    5082   134115908 :     imh += s;
    5083             : 
    5084   134115908 :     r1 = z28;
    5085   134115908 :     r2 = z58;
    5086   134115908 :     r3 = z29;
    5087   134115908 :     r4 = z59;
    5088   134115908 :     *reh = ( r1 + r2 );
    5089   134115908 :     *rel = ( r1 - r2 );
    5090   134115908 :     *imh = ( r3 + r4 );
    5091   134115908 :     *iml = ( r3 - r4 );
    5092   134115908 :     rel += s, reh += s, iml += s;
    5093   134115908 :     imh += s;
    5094             : 
    5095   134115908 :     r1 = z14;
    5096   134115908 :     r2 = z44;
    5097   134115908 :     r3 = z15;
    5098   134115908 :     r4 = z45;
    5099   134115908 :     *rel = ( r1 + r2 );
    5100   134115908 :     *reh = ( r1 - r2 );
    5101   134115908 :     *iml = ( r3 + r4 );
    5102   134115908 :     *imh = ( r3 - r4 );
    5103   134115908 :     rel += s, reh += s, iml += s;
    5104   134115908 :     imh += s;
    5105             : 
    5106   134115908 :     return;
    5107             : }
    5108             : 
    5109    21718620 : static void fft_len32(
    5110             :     float *re,
    5111             :     float *im,
    5112             :     const int16_t s )
    5113             : {
    5114             :     float as, bs;
    5115             :     float x00, x01, x02, x03, x04, x05, x06, x07;
    5116             :     float x08, x09, x10, x11, x12, x13, x14, x15;
    5117             :     float t00, t01, t02, t03, t04, t05, t06, t07;
    5118             :     float t08, t09, t10, t11, t12, t13, t14, t15;
    5119             :     float s00, s01, s02, s03, s04, s05, s06, s07;
    5120             :     float s08, s09, s10, s11, s12, s13, s14, s15;
    5121             : 
    5122             :     float y00, y01, y02, y03, y04, y05, y06, y07;
    5123             :     float y08, y09, y10, y11, y12, y13, y14, y15;
    5124             :     float y16, y17, y18, y19, y20, y21, y22, y23;
    5125             :     float y24, y25, y26, y27, y28, y29, y30, y31;
    5126             :     float y32, y33, y34, y35, y36, y37, y38, y39;
    5127             :     float y40, y41, y42, y43, y44, y45, y46, y47;
    5128             :     float y48, y49, y50, y51, y52, y53, y54, y55;
    5129             :     float y56, y57, y58, y59, y60, y61, y62, y63;
    5130             : 
    5131    21718620 :     x00 = re[s * 0];
    5132    21718620 :     x01 = im[s * 0];
    5133    21718620 :     x02 = re[s * 4];
    5134    21718620 :     x03 = im[s * 4];
    5135    21718620 :     x04 = re[s * 8];
    5136    21718620 :     x05 = im[s * 8];
    5137    21718620 :     x06 = re[s * 12];
    5138    21718620 :     x07 = im[s * 12];
    5139    21718620 :     x08 = re[s * 16];
    5140    21718620 :     x09 = im[s * 16];
    5141    21718620 :     x10 = re[s * 20];
    5142    21718620 :     x11 = im[s * 20];
    5143    21718620 :     x12 = re[s * 24];
    5144    21718620 :     x13 = im[s * 24];
    5145    21718620 :     x14 = re[s * 28];
    5146    21718620 :     x15 = im[s * 28];
    5147             : 
    5148    21718620 :     t00 = ( x00 + x08 );
    5149    21718620 :     t02 = ( x00 - x08 );
    5150    21718620 :     t01 = ( x01 + x09 );
    5151    21718620 :     t03 = ( x01 - x09 );
    5152    21718620 :     t04 = ( x02 + x10 );
    5153    21718620 :     t06 = ( x02 - x10 );
    5154    21718620 :     t05 = ( x03 + x11 );
    5155    21718620 :     t07 = ( x03 - x11 );
    5156    21718620 :     t08 = ( x04 + x12 );
    5157    21718620 :     t10 = ( x04 - x12 );
    5158    21718620 :     t09 = ( x05 + x13 );
    5159    21718620 :     t11 = ( x05 - x13 );
    5160    21718620 :     t12 = ( x06 + x14 );
    5161    21718620 :     t14 = ( x06 - x14 );
    5162    21718620 :     t13 = ( x07 + x15 );
    5163    21718620 :     t15 = ( x07 - x15 );
    5164             : 
    5165    21718620 :     s00 = ( t00 + t08 );
    5166    21718620 :     s04 = ( t00 - t08 );
    5167    21718620 :     s01 = ( t01 + t09 );
    5168    21718620 :     s05 = ( t01 - t09 );
    5169    21718620 :     s08 = ( t02 - t11 );
    5170    21718620 :     s10 = ( t02 + t11 );
    5171    21718620 :     s09 = ( t03 + t10 );
    5172    21718620 :     s11 = ( t03 - t10 );
    5173    21718620 :     s02 = ( t04 + t12 );
    5174    21718620 :     s07 = ( t04 - t12 );
    5175    21718620 :     s03 = ( t05 + t13 );
    5176    21718620 :     s06 = ( t13 - t05 );
    5177    21718620 :     t01 = ( t06 + t14 );
    5178    21718620 :     t02 = ( t06 - t14 );
    5179    21718620 :     t00 = ( t07 + t15 );
    5180    21718620 :     t03 = ( t07 - t15 );
    5181             : 
    5182             :     {
    5183    21718620 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5184    21718620 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5185    21718620 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5186    21718620 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5187             :     };
    5188             : 
    5189    21718620 :     y00 = ( s00 + s02 );
    5190    21718620 :     y08 = ( s00 - s02 );
    5191    21718620 :     y01 = ( s01 + s03 );
    5192    21718620 :     y09 = ( s01 - s03 );
    5193    21718620 :     y04 = ( s04 - s06 );
    5194    21718620 :     y12 = ( s04 + s06 );
    5195    21718620 :     y05 = ( s05 - s07 );
    5196    21718620 :     y13 = ( s05 + s07 );
    5197    21718620 :     y06 = ( s08 + s14 );
    5198    21718620 :     y14 = ( s08 - s14 );
    5199    21718620 :     y07 = ( s09 + s15 );
    5200    21718620 :     y15 = ( s09 - s15 );
    5201    21718620 :     y02 = ( s10 + s12 );
    5202    21718620 :     y10 = ( s10 - s12 );
    5203    21718620 :     y03 = ( s11 + s13 );
    5204    21718620 :     y11 = ( s11 - s13 );
    5205             : 
    5206    21718620 :     x00 = re[s * 1];
    5207    21718620 :     x01 = im[s * 1];
    5208    21718620 :     x02 = re[s * 5];
    5209    21718620 :     x03 = im[s * 5];
    5210    21718620 :     x04 = re[s * 9];
    5211    21718620 :     x05 = im[s * 9];
    5212    21718620 :     x06 = re[s * 13];
    5213    21718620 :     x07 = im[s * 13];
    5214    21718620 :     x08 = re[s * 17];
    5215    21718620 :     x09 = im[s * 17];
    5216    21718620 :     x10 = re[s * 21];
    5217    21718620 :     x11 = im[s * 21];
    5218    21718620 :     x12 = re[s * 25];
    5219    21718620 :     x13 = im[s * 25];
    5220    21718620 :     x14 = re[s * 29];
    5221    21718620 :     x15 = im[s * 29];
    5222             : 
    5223    21718620 :     t00 = ( x00 + x08 );
    5224    21718620 :     t02 = ( x00 - x08 );
    5225    21718620 :     t01 = ( x01 + x09 );
    5226    21718620 :     t03 = ( x01 - x09 );
    5227    21718620 :     t04 = ( x02 + x10 );
    5228    21718620 :     t06 = ( x02 - x10 );
    5229    21718620 :     t05 = ( x03 + x11 );
    5230    21718620 :     t07 = ( x03 - x11 );
    5231    21718620 :     t08 = ( x04 + x12 );
    5232    21718620 :     t10 = ( x04 - x12 );
    5233    21718620 :     t09 = ( x05 + x13 );
    5234    21718620 :     t11 = ( x05 - x13 );
    5235    21718620 :     t12 = ( x06 + x14 );
    5236    21718620 :     t14 = ( x06 - x14 );
    5237    21718620 :     t13 = ( x07 + x15 );
    5238    21718620 :     t15 = ( x07 - x15 );
    5239             : 
    5240    21718620 :     s00 = ( t00 + t08 );
    5241    21718620 :     s04 = ( t00 - t08 );
    5242    21718620 :     s01 = ( t01 + t09 );
    5243    21718620 :     s05 = ( t01 - t09 );
    5244    21718620 :     s08 = ( t02 - t11 );
    5245    21718620 :     s10 = ( t02 + t11 );
    5246    21718620 :     s09 = ( t03 + t10 );
    5247    21718620 :     s11 = ( t03 - t10 );
    5248    21718620 :     s02 = ( t04 + t12 );
    5249    21718620 :     s07 = ( t04 - t12 );
    5250    21718620 :     s03 = ( t05 + t13 );
    5251    21718620 :     s06 = ( t13 - t05 );
    5252    21718620 :     t01 = ( t06 + t14 );
    5253    21718620 :     t02 = ( t06 - t14 );
    5254    21718620 :     t00 = ( t07 + t15 );
    5255    21718620 :     t03 = ( t07 - t15 );
    5256             : 
    5257             :     {
    5258    21718620 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5259    21718620 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5260    21718620 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5261    21718620 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5262             :     };
    5263             : 
    5264    21718620 :     y16 = ( s00 + s02 );
    5265    21718620 :     y24 = ( s00 - s02 );
    5266    21718620 :     y17 = ( s01 + s03 );
    5267    21718620 :     y25 = ( s01 - s03 );
    5268    21718620 :     y20 = ( s04 - s06 );
    5269    21718620 :     y28 = ( s04 + s06 );
    5270    21718620 :     y21 = ( s05 - s07 );
    5271    21718620 :     y29 = ( s05 + s07 );
    5272    21718620 :     y22 = ( s08 + s14 );
    5273    21718620 :     y30 = ( s08 - s14 );
    5274    21718620 :     y23 = ( s09 + s15 );
    5275    21718620 :     y31 = ( s09 - s15 );
    5276    21718620 :     y18 = ( s10 + s12 );
    5277    21718620 :     y26 = ( s10 - s12 );
    5278    21718620 :     y19 = ( s11 + s13 );
    5279    21718620 :     y27 = ( s11 - s13 );
    5280             : 
    5281    21718620 :     x00 = re[s * 2];
    5282    21718620 :     x01 = im[s * 2];
    5283    21718620 :     x02 = re[s * 6];
    5284    21718620 :     x03 = im[s * 6];
    5285    21718620 :     x04 = re[s * 10];
    5286    21718620 :     x05 = im[s * 10];
    5287    21718620 :     x06 = re[s * 14];
    5288    21718620 :     x07 = im[s * 14];
    5289    21718620 :     x08 = re[s * 18];
    5290    21718620 :     x09 = im[s * 18];
    5291    21718620 :     x10 = re[s * 22];
    5292    21718620 :     x11 = im[s * 22];
    5293    21718620 :     x12 = re[s * 26];
    5294    21718620 :     x13 = im[s * 26];
    5295    21718620 :     x14 = re[s * 30];
    5296    21718620 :     x15 = im[s * 30];
    5297             : 
    5298    21718620 :     t00 = ( x00 + x08 );
    5299    21718620 :     t02 = ( x00 - x08 );
    5300    21718620 :     t01 = ( x01 + x09 );
    5301    21718620 :     t03 = ( x01 - x09 );
    5302    21718620 :     t04 = ( x02 + x10 );
    5303    21718620 :     t06 = ( x02 - x10 );
    5304    21718620 :     t05 = ( x03 + x11 );
    5305    21718620 :     t07 = ( x03 - x11 );
    5306    21718620 :     t08 = ( x04 + x12 );
    5307    21718620 :     t10 = ( x04 - x12 );
    5308    21718620 :     t09 = ( x05 + x13 );
    5309    21718620 :     t11 = ( x05 - x13 );
    5310    21718620 :     t12 = ( x06 + x14 );
    5311    21718620 :     t14 = ( x06 - x14 );
    5312    21718620 :     t13 = ( x07 + x15 );
    5313    21718620 :     t15 = ( x07 - x15 );
    5314             : 
    5315    21718620 :     s00 = ( t00 + t08 );
    5316    21718620 :     s04 = ( t00 - t08 );
    5317    21718620 :     s01 = ( t01 + t09 );
    5318    21718620 :     s05 = ( t01 - t09 );
    5319    21718620 :     s08 = ( t02 - t11 );
    5320    21718620 :     s10 = ( t02 + t11 );
    5321    21718620 :     s09 = ( t03 + t10 );
    5322    21718620 :     s11 = ( t03 - t10 );
    5323    21718620 :     s02 = ( t04 + t12 );
    5324    21718620 :     s07 = ( t04 - t12 );
    5325    21718620 :     s03 = ( t05 + t13 );
    5326    21718620 :     s06 = ( t13 - t05 );
    5327    21718620 :     t01 = ( t06 + t14 );
    5328    21718620 :     t02 = ( t06 - t14 );
    5329    21718620 :     t00 = ( t07 + t15 );
    5330    21718620 :     t03 = ( t07 - t15 );
    5331             : 
    5332             :     {
    5333    21718620 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5334    21718620 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5335    21718620 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5336    21718620 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5337             :     };
    5338             : 
    5339    21718620 :     y32 = ( s00 + s02 );
    5340    21718620 :     y40 = ( s00 - s02 );
    5341    21718620 :     y33 = ( s01 + s03 );
    5342    21718620 :     y41 = ( s01 - s03 );
    5343    21718620 :     y36 = ( s04 - s06 );
    5344    21718620 :     y44 = ( s04 + s06 );
    5345    21718620 :     y37 = ( s05 - s07 );
    5346    21718620 :     y45 = ( s05 + s07 );
    5347    21718620 :     y38 = ( s08 + s14 );
    5348    21718620 :     y46 = ( s08 - s14 );
    5349    21718620 :     y39 = ( s09 + s15 );
    5350    21718620 :     y47 = ( s09 - s15 );
    5351    21718620 :     y34 = ( s10 + s12 );
    5352    21718620 :     y42 = ( s10 - s12 );
    5353    21718620 :     y35 = ( s11 + s13 );
    5354    21718620 :     y43 = ( s11 - s13 );
    5355             : 
    5356    21718620 :     x00 = re[s * 3];
    5357    21718620 :     x01 = im[s * 3];
    5358    21718620 :     x02 = re[s * 7];
    5359    21718620 :     x03 = im[s * 7];
    5360    21718620 :     x04 = re[s * 11];
    5361    21718620 :     x05 = im[s * 11];
    5362    21718620 :     x06 = re[s * 15];
    5363    21718620 :     x07 = im[s * 15];
    5364    21718620 :     x08 = re[s * 19];
    5365    21718620 :     x09 = im[s * 19];
    5366    21718620 :     x10 = re[s * 23];
    5367    21718620 :     x11 = im[s * 23];
    5368    21718620 :     x12 = re[s * 27];
    5369    21718620 :     x13 = im[s * 27];
    5370    21718620 :     x14 = re[s * 31];
    5371    21718620 :     x15 = im[s * 31];
    5372             : 
    5373    21718620 :     t00 = ( x00 + x08 );
    5374    21718620 :     t02 = ( x00 - x08 );
    5375    21718620 :     t01 = ( x01 + x09 );
    5376    21718620 :     t03 = ( x01 - x09 );
    5377    21718620 :     t04 = ( x02 + x10 );
    5378    21718620 :     t06 = ( x02 - x10 );
    5379    21718620 :     t05 = ( x03 + x11 );
    5380    21718620 :     t07 = ( x03 - x11 );
    5381    21718620 :     t08 = ( x04 + x12 );
    5382    21718620 :     t10 = ( x04 - x12 );
    5383    21718620 :     t09 = ( x05 + x13 );
    5384    21718620 :     t11 = ( x05 - x13 );
    5385    21718620 :     t12 = ( x06 + x14 );
    5386    21718620 :     t14 = ( x06 - x14 );
    5387    21718620 :     t13 = ( x07 + x15 );
    5388    21718620 :     t15 = ( x07 - x15 );
    5389             : 
    5390    21718620 :     s00 = ( t00 + t08 );
    5391    21718620 :     s04 = ( t00 - t08 );
    5392    21718620 :     s01 = ( t01 + t09 );
    5393    21718620 :     s05 = ( t01 - t09 );
    5394    21718620 :     s08 = ( t02 - t11 );
    5395    21718620 :     s10 = ( t02 + t11 );
    5396    21718620 :     s09 = ( t03 + t10 );
    5397    21718620 :     s11 = ( t03 - t10 );
    5398    21718620 :     s02 = ( t04 + t12 );
    5399    21718620 :     s07 = ( t04 - t12 );
    5400    21718620 :     s03 = ( t05 + t13 );
    5401    21718620 :     s06 = ( t13 - t05 );
    5402    21718620 :     t01 = ( t06 + t14 );
    5403    21718620 :     t02 = ( t06 - t14 );
    5404    21718620 :     t00 = ( t07 + t15 );
    5405    21718620 :     t03 = ( t07 - t15 );
    5406             : 
    5407             :     {
    5408    21718620 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5409    21718620 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5410    21718620 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5411    21718620 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5412             :     };
    5413             : 
    5414    21718620 :     y48 = ( s00 + s02 );
    5415    21718620 :     y56 = ( s00 - s02 );
    5416    21718620 :     y49 = ( s01 + s03 );
    5417    21718620 :     y57 = ( s01 - s03 );
    5418    21718620 :     y52 = ( s04 - s06 );
    5419    21718620 :     y60 = ( s04 + s06 );
    5420    21718620 :     y53 = ( s05 - s07 );
    5421    21718620 :     y61 = ( s05 + s07 );
    5422    21718620 :     y54 = ( s08 + s14 );
    5423    21718620 :     y62 = ( s08 - s14 );
    5424    21718620 :     y55 = ( s09 + s15 );
    5425    21718620 :     y63 = ( s09 - s15 );
    5426    21718620 :     y50 = ( s10 + s12 );
    5427    21718620 :     y58 = ( s10 - s12 );
    5428    21718620 :     y51 = ( s11 + s13 );
    5429    21718620 :     y59 = ( s11 - s13 );
    5430             : 
    5431             : 
    5432             :     {
    5433    21718620 :         as = y18;
    5434    21718620 :         bs = y19;
    5435    21718620 :         y18 = ( ( as * FFT_RotVector_32[2 * 0 + 0] ) - ( bs * FFT_RotVector_32[2 * 0 + 1] ) );
    5436    21718620 :         y19 = ( ( as * FFT_RotVector_32[2 * 0 + 1] ) + ( bs * FFT_RotVector_32[2 * 0 + 0] ) );
    5437             :     };
    5438             :     {
    5439    21718620 :         as = y20;
    5440    21718620 :         bs = y21;
    5441    21718620 :         y20 = ( ( as * FFT_RotVector_32[2 * 1 + 0] ) - ( bs * FFT_RotVector_32[2 * 1 + 1] ) );
    5442    21718620 :         y21 = ( ( as * FFT_RotVector_32[2 * 1 + 1] ) + ( bs * FFT_RotVector_32[2 * 1 + 0] ) );
    5443             :     };
    5444             :     {
    5445    21718620 :         as = y22;
    5446    21718620 :         bs = y23;
    5447    21718620 :         y22 = ( ( as * FFT_RotVector_32[2 * 2 + 0] ) - ( bs * FFT_RotVector_32[2 * 2 + 1] ) );
    5448    21718620 :         y23 = ( ( as * FFT_RotVector_32[2 * 2 + 1] ) + ( bs * FFT_RotVector_32[2 * 2 + 0] ) );
    5449             :     };
    5450             :     {
    5451    21718620 :         as = y24;
    5452    21718620 :         bs = y25;
    5453    21718620 :         y24 = ( ( as * FFT_RotVector_32[2 * 3 + 0] ) - ( bs * FFT_RotVector_32[2 * 3 + 1] ) );
    5454    21718620 :         y25 = ( ( as * FFT_RotVector_32[2 * 3 + 1] ) + ( bs * FFT_RotVector_32[2 * 3 + 0] ) );
    5455             :     };
    5456             :     {
    5457    21718620 :         as = y26;
    5458    21718620 :         bs = y27;
    5459    21718620 :         y26 = ( ( as * FFT_RotVector_32[2 * 4 + 0] ) - ( bs * FFT_RotVector_32[2 * 4 + 1] ) );
    5460    21718620 :         y27 = ( ( as * FFT_RotVector_32[2 * 4 + 1] ) + ( bs * FFT_RotVector_32[2 * 4 + 0] ) );
    5461             :     };
    5462             :     {
    5463    21718620 :         as = y28;
    5464    21718620 :         bs = y29;
    5465    21718620 :         y28 = ( ( as * FFT_RotVector_32[2 * 5 + 0] ) - ( bs * FFT_RotVector_32[2 * 5 + 1] ) );
    5466    21718620 :         y29 = ( ( as * FFT_RotVector_32[2 * 5 + 1] ) + ( bs * FFT_RotVector_32[2 * 5 + 0] ) );
    5467             :     };
    5468             :     {
    5469    21718620 :         as = y30;
    5470    21718620 :         bs = y31;
    5471    21718620 :         y30 = ( ( as * FFT_RotVector_32[2 * 6 + 0] ) - ( bs * FFT_RotVector_32[2 * 6 + 1] ) );
    5472    21718620 :         y31 = ( ( as * FFT_RotVector_32[2 * 6 + 1] ) + ( bs * FFT_RotVector_32[2 * 6 + 0] ) );
    5473             :     };
    5474             :     {
    5475    21718620 :         as = y34;
    5476    21718620 :         bs = y35;
    5477    21718620 :         y34 = ( ( as * FFT_RotVector_32[2 * 7 + 0] ) - ( bs * FFT_RotVector_32[2 * 7 + 1] ) );
    5478    21718620 :         y35 = ( ( as * FFT_RotVector_32[2 * 7 + 1] ) + ( bs * FFT_RotVector_32[2 * 7 + 0] ) );
    5479             :     };
    5480             :     {
    5481    21718620 :         as = y36;
    5482    21718620 :         bs = y37;
    5483    21718620 :         y36 = ( ( as * FFT_RotVector_32[2 * 8 + 0] ) - ( bs * FFT_RotVector_32[2 * 8 + 1] ) );
    5484    21718620 :         y37 = ( ( as * FFT_RotVector_32[2 * 8 + 1] ) + ( bs * FFT_RotVector_32[2 * 8 + 0] ) );
    5485             :     };
    5486             :     {
    5487    21718620 :         as = y38;
    5488    21718620 :         bs = y39;
    5489    21718620 :         y38 = ( ( as * FFT_RotVector_32[2 * 9 + 0] ) - ( bs * FFT_RotVector_32[2 * 9 + 1] ) );
    5490    21718620 :         y39 = ( ( as * FFT_RotVector_32[2 * 9 + 1] ) + ( bs * FFT_RotVector_32[2 * 9 + 0] ) );
    5491             :     };
    5492             :     {
    5493    21718620 :         as = y42;
    5494    21718620 :         bs = y43;
    5495    21718620 :         y42 = ( ( as * FFT_RotVector_32[2 * 10 + 0] ) - ( bs * FFT_RotVector_32[2 * 10 + 1] ) );
    5496    21718620 :         y43 = ( ( as * FFT_RotVector_32[2 * 10 + 1] ) + ( bs * FFT_RotVector_32[2 * 10 + 0] ) );
    5497             :     };
    5498             :     {
    5499    21718620 :         as = y44;
    5500    21718620 :         bs = y45;
    5501    21718620 :         y44 = ( ( as * FFT_RotVector_32[2 * 11 + 0] ) - ( bs * FFT_RotVector_32[2 * 11 + 1] ) );
    5502    21718620 :         y45 = ( ( as * FFT_RotVector_32[2 * 11 + 1] ) + ( bs * FFT_RotVector_32[2 * 11 + 0] ) );
    5503             :     };
    5504             :     {
    5505    21718620 :         as = y46;
    5506    21718620 :         bs = y47;
    5507    21718620 :         y46 = ( ( as * FFT_RotVector_32[2 * 12 + 0] ) - ( bs * FFT_RotVector_32[2 * 12 + 1] ) );
    5508    21718620 :         y47 = ( ( as * FFT_RotVector_32[2 * 12 + 1] ) + ( bs * FFT_RotVector_32[2 * 12 + 0] ) );
    5509             :     };
    5510             :     {
    5511    21718620 :         as = y50;
    5512    21718620 :         bs = y51;
    5513    21718620 :         y50 = ( ( as * FFT_RotVector_32[2 * 13 + 0] ) - ( bs * FFT_RotVector_32[2 * 13 + 1] ) );
    5514    21718620 :         y51 = ( ( as * FFT_RotVector_32[2 * 13 + 1] ) + ( bs * FFT_RotVector_32[2 * 13 + 0] ) );
    5515             :     };
    5516             :     {
    5517    21718620 :         as = y52;
    5518    21718620 :         bs = y53;
    5519    21718620 :         y52 = ( ( as * FFT_RotVector_32[2 * 14 + 0] ) - ( bs * FFT_RotVector_32[2 * 14 + 1] ) );
    5520    21718620 :         y53 = ( ( as * FFT_RotVector_32[2 * 14 + 1] ) + ( bs * FFT_RotVector_32[2 * 14 + 0] ) );
    5521             :     };
    5522             :     {
    5523    21718620 :         as = y54;
    5524    21718620 :         bs = y55;
    5525    21718620 :         y54 = ( ( as * FFT_RotVector_32[2 * 15 + 0] ) - ( bs * FFT_RotVector_32[2 * 15 + 1] ) );
    5526    21718620 :         y55 = ( ( as * FFT_RotVector_32[2 * 15 + 1] ) + ( bs * FFT_RotVector_32[2 * 15 + 0] ) );
    5527             :     };
    5528             :     {
    5529    21718620 :         as = y56;
    5530    21718620 :         bs = y57;
    5531    21718620 :         y56 = ( ( as * FFT_RotVector_32[2 * 16 + 0] ) - ( bs * FFT_RotVector_32[2 * 16 + 1] ) );
    5532    21718620 :         y57 = ( ( as * FFT_RotVector_32[2 * 16 + 1] ) + ( bs * FFT_RotVector_32[2 * 16 + 0] ) );
    5533             :     };
    5534             :     {
    5535    21718620 :         as = y58;
    5536    21718620 :         bs = y59;
    5537    21718620 :         y58 = ( ( as * FFT_RotVector_32[2 * 17 + 0] ) - ( bs * FFT_RotVector_32[2 * 17 + 1] ) );
    5538    21718620 :         y59 = ( ( as * FFT_RotVector_32[2 * 17 + 1] ) + ( bs * FFT_RotVector_32[2 * 17 + 0] ) );
    5539             :     };
    5540             :     {
    5541    21718620 :         as = y60;
    5542    21718620 :         bs = y61;
    5543    21718620 :         y60 = ( ( as * FFT_RotVector_32[2 * 18 + 0] ) - ( bs * FFT_RotVector_32[2 * 18 + 1] ) );
    5544    21718620 :         y61 = ( ( as * FFT_RotVector_32[2 * 18 + 1] ) + ( bs * FFT_RotVector_32[2 * 18 + 0] ) );
    5545             :     };
    5546             :     {
    5547    21718620 :         as = y62;
    5548    21718620 :         bs = y63;
    5549    21718620 :         y62 = ( ( as * FFT_RotVector_32[2 * 19 + 0] ) - ( bs * FFT_RotVector_32[2 * 19 + 1] ) );
    5550    21718620 :         y63 = ( ( as * FFT_RotVector_32[2 * 19 + 1] ) + ( bs * FFT_RotVector_32[2 * 19 + 0] ) );
    5551             :     };
    5552             : 
    5553    21718620 :     t00 = ( y00 + y32 );
    5554    21718620 :     t02 = ( y00 - y32 );
    5555    21718620 :     t01 = ( y01 + y33 );
    5556    21718620 :     t03 = ( y01 - y33 );
    5557    21718620 :     t04 = ( y16 + y48 );
    5558    21718620 :     t07 = ( y16 - y48 );
    5559    21718620 :     t05 = ( y49 + y17 );
    5560    21718620 :     t06 = ( y49 - y17 );
    5561             : 
    5562    21718620 :     re[s * 0] = ( t00 + t04 );
    5563    21718620 :     im[s * 0] = ( t01 + t05 );
    5564    21718620 :     re[s * 8] = ( t02 - t06 );
    5565    21718620 :     im[s * 8] = ( t03 - t07 );
    5566    21718620 :     re[s * 16] = ( t00 - t04 );
    5567    21718620 :     im[s * 16] = ( t01 - t05 );
    5568    21718620 :     re[s * 24] = ( t02 + t06 );
    5569    21718620 :     im[s * 24] = ( t03 + t07 );
    5570             : 
    5571    21718620 :     t00 = ( y02 + y34 );
    5572    21718620 :     t02 = ( y02 - y34 );
    5573    21718620 :     t01 = ( y03 + y35 );
    5574    21718620 :     t03 = ( y03 - y35 );
    5575    21718620 :     t04 = ( y18 + y50 );
    5576    21718620 :     t07 = ( y18 - y50 );
    5577    21718620 :     t05 = ( y51 + y19 );
    5578    21718620 :     t06 = ( y51 - y19 );
    5579             : 
    5580    21718620 :     re[s * 1] = ( t00 + t04 );
    5581    21718620 :     im[s * 1] = ( t01 + t05 );
    5582    21718620 :     re[s * 9] = ( t02 - t06 );
    5583    21718620 :     im[s * 9] = ( t03 - t07 );
    5584    21718620 :     re[s * 17] = ( t00 - t04 );
    5585    21718620 :     im[s * 17] = ( t01 - t05 );
    5586    21718620 :     re[s * 25] = ( t02 + t06 );
    5587    21718620 :     im[s * 25] = ( t03 + t07 );
    5588             : 
    5589    21718620 :     t00 = ( y04 + y36 );
    5590    21718620 :     t02 = ( y04 - y36 );
    5591    21718620 :     t01 = ( y05 + y37 );
    5592    21718620 :     t03 = ( y05 - y37 );
    5593    21718620 :     t04 = ( y20 + y52 );
    5594    21718620 :     t07 = ( y20 - y52 );
    5595    21718620 :     t05 = ( y53 + y21 );
    5596    21718620 :     t06 = ( y53 - y21 );
    5597             : 
    5598    21718620 :     re[s * 2] = ( t00 + t04 );
    5599    21718620 :     im[s * 2] = ( t01 + t05 );
    5600    21718620 :     re[s * 10] = ( t02 - t06 );
    5601    21718620 :     im[s * 10] = ( t03 - t07 );
    5602    21718620 :     re[s * 18] = ( t00 - t04 );
    5603    21718620 :     im[s * 18] = ( t01 - t05 );
    5604    21718620 :     re[s * 26] = ( t02 + t06 );
    5605    21718620 :     im[s * 26] = ( t03 + t07 );
    5606             : 
    5607    21718620 :     t00 = ( y06 + y38 );
    5608    21718620 :     t02 = ( y06 - y38 );
    5609    21718620 :     t01 = ( y07 + y39 );
    5610    21718620 :     t03 = ( y07 - y39 );
    5611    21718620 :     t04 = ( y22 + y54 );
    5612    21718620 :     t07 = ( y22 - y54 );
    5613    21718620 :     t05 = ( y55 + y23 );
    5614    21718620 :     t06 = ( y55 - y23 );
    5615             : 
    5616    21718620 :     re[s * 3] = ( t00 + t04 );
    5617    21718620 :     im[s * 3] = ( t01 + t05 );
    5618    21718620 :     re[s * 11] = ( t02 - t06 );
    5619    21718620 :     im[s * 11] = ( t03 - t07 );
    5620    21718620 :     re[s * 19] = ( t00 - t04 );
    5621    21718620 :     im[s * 19] = ( t01 - t05 );
    5622    21718620 :     re[s * 27] = ( t02 + t06 );
    5623    21718620 :     im[s * 27] = ( t03 + t07 );
    5624             : 
    5625    21718620 :     t00 = ( y08 + y41 );
    5626    21718620 :     t02 = ( y08 - y41 );
    5627    21718620 :     t01 = ( y09 - y40 );
    5628    21718620 :     t03 = ( y09 + y40 );
    5629    21718620 :     t04 = ( y24 + y56 );
    5630    21718620 :     t07 = ( y24 - y56 );
    5631    21718620 :     t05 = ( y57 + y25 );
    5632    21718620 :     t06 = ( y57 - y25 );
    5633             : 
    5634    21718620 :     re[s * 4] = ( t00 + t04 );
    5635    21718620 :     im[s * 4] = ( t01 + t05 );
    5636    21718620 :     re[s * 12] = ( t02 - t06 );
    5637    21718620 :     im[s * 12] = ( t03 - t07 );
    5638    21718620 :     re[s * 20] = ( t00 - t04 );
    5639    21718620 :     im[s * 20] = ( t01 - t05 );
    5640    21718620 :     re[s * 28] = ( t02 + t06 );
    5641    21718620 :     im[s * 28] = ( t03 + t07 );
    5642             : 
    5643    21718620 :     t00 = ( y10 + y42 );
    5644    21718620 :     t02 = ( y10 - y42 );
    5645    21718620 :     t01 = ( y11 + y43 );
    5646    21718620 :     t03 = ( y11 - y43 );
    5647    21718620 :     t04 = ( y26 + y58 );
    5648    21718620 :     t07 = ( y26 - y58 );
    5649    21718620 :     t05 = ( y59 + y27 );
    5650    21718620 :     t06 = ( y59 - y27 );
    5651             : 
    5652    21718620 :     re[s * 5] = ( t00 + t04 );
    5653    21718620 :     im[s * 5] = ( t01 + t05 );
    5654    21718620 :     re[s * 13] = ( t02 - t06 );
    5655    21718620 :     im[s * 13] = ( t03 - t07 );
    5656    21718620 :     re[s * 21] = ( t00 - t04 );
    5657    21718620 :     im[s * 21] = ( t01 - t05 );
    5658    21718620 :     re[s * 29] = ( t02 + t06 );
    5659    21718620 :     im[s * 29] = ( t03 + t07 );
    5660             : 
    5661    21718620 :     t00 = ( y12 + y44 );
    5662    21718620 :     t02 = ( y12 - y44 );
    5663    21718620 :     t01 = ( y13 + y45 );
    5664    21718620 :     t03 = ( y13 - y45 );
    5665    21718620 :     t04 = ( y28 + y60 );
    5666    21718620 :     t07 = ( y28 - y60 );
    5667    21718620 :     t05 = ( y61 + y29 );
    5668    21718620 :     t06 = ( y61 - y29 );
    5669             : 
    5670    21718620 :     re[s * 6] = ( t00 + t04 );
    5671    21718620 :     im[s * 6] = ( t01 + t05 );
    5672    21718620 :     re[s * 14] = ( t02 - t06 );
    5673    21718620 :     im[s * 14] = ( t03 - t07 );
    5674    21718620 :     re[s * 22] = ( t00 - t04 );
    5675    21718620 :     im[s * 22] = ( t01 - t05 );
    5676    21718620 :     re[s * 30] = ( t02 + t06 );
    5677    21718620 :     im[s * 30] = ( t03 + t07 );
    5678             : 
    5679    21718620 :     t00 = ( y14 + y46 );
    5680    21718620 :     t02 = ( y14 - y46 );
    5681    21718620 :     t01 = ( y15 + y47 );
    5682    21718620 :     t03 = ( y15 - y47 );
    5683    21718620 :     t04 = ( y30 + y62 );
    5684    21718620 :     t07 = ( y30 - y62 );
    5685    21718620 :     t05 = ( y63 + y31 );
    5686    21718620 :     t06 = ( y63 - y31 );
    5687             : 
    5688    21718620 :     re[s * 7] = ( t00 + t04 );
    5689    21718620 :     im[s * 7] = ( t01 + t05 );
    5690    21718620 :     re[s * 15] = ( t02 - t06 );
    5691    21718620 :     im[s * 15] = ( t03 - t07 );
    5692    21718620 :     re[s * 23] = ( t00 - t04 );
    5693    21718620 :     im[s * 23] = ( t01 - t05 );
    5694    21718620 :     re[s * 31] = ( t02 + t06 );
    5695    21718620 :     im[s * 31] = ( t03 + t07 );
    5696             : 
    5697    21718620 :     return;
    5698             : }
    5699             : 
    5700    17980644 : static void fft_lenN(
    5701             :     float *re,
    5702             :     float *im,
    5703             :     const float *W,
    5704             :     const int16_t len,
    5705             :     const int16_t dim1,
    5706             :     const int16_t dim2,
    5707             :     const int16_t sx,
    5708             :     const int16_t sc,
    5709             :     const int16_t Woff )
    5710             : {
    5711             :     int16_t i, j;
    5712             :     float x[L_FRAME_MAX * 2];
    5713             : 
    5714   209783182 :     for ( i = 0; i < dim2; i++ )
    5715             :     {
    5716  5367241578 :         for ( j = 0; j < dim1; j++ )
    5717             :         {
    5718  5175439040 :             x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
    5719  5175439040 :             x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
    5720             :         }
    5721             :     }
    5722             : 
    5723    17980644 :     switch ( dim1 )
    5724             :     {
    5725       12326 :         case 5:
    5726      110934 :             for ( i = 0; i < dim2; i++ )
    5727             :             {
    5728       98608 :                 fft_len5( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5729             :             }
    5730       12326 :             break;
    5731             : 
    5732       28529 :         case 8:
    5733      256761 :             for ( i = 0; i < dim2; i++ )
    5734             :             {
    5735      228232 :                 fft_len8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5736             :             }
    5737       28529 :             break;
    5738             : 
    5739      290365 :         case 10:
    5740     2613285 :             for ( i = 0; i < dim2; i++ )
    5741             :             {
    5742     2322920 :                 fft_len10( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5743             :             }
    5744      290365 :             break;
    5745             : 
    5746      281270 :         case 15:
    5747     2531430 :             for ( i = 0; i < dim2; i++ )
    5748             :             {
    5749     2250160 :                 fft_len15( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5750             :             }
    5751      281270 :             break;
    5752             : 
    5753      523013 :         case 16:
    5754     4707117 :             for ( i = 0; i < dim2; i++ )
    5755             :             {
    5756     4184104 :                 fft_len16( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5757             :             }
    5758      523013 :             break;
    5759             : 
    5760     3195997 :         case 20:
    5761    47326643 :             for ( i = 0; i < dim2; i++ )
    5762             :             {
    5763    44130646 :                 fft_len20( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5764             :             }
    5765     3195997 :             break;
    5766             : 
    5767    13090149 :         case 30:
    5768   147206057 :             for ( i = 0; i < dim2; i++ )
    5769             :             {
    5770   134115908 :                 fft_len30( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5771             :             }
    5772    13090149 :             break;
    5773             : 
    5774      558995 :         case 32:
    5775     5030955 :             for ( i = 0; i < dim2; i++ )
    5776             :             {
    5777     4471960 :                 fft_len32( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5778             :             }
    5779      558995 :             break;
    5780             :     }
    5781             : 
    5782    17980644 :     switch ( dim2 )
    5783             :     {
    5784             : 
    5785    13304485 :         case 8:
    5786             :         {
    5787             :             float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
    5788             :             float t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
    5789             :             float s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
    5790             : 
    5791    13304485 :             if ( dim1 == 30 || dim1 == 20 || dim1 == 15 || dim1 == 10 || dim1 == 5 )
    5792             :             {
    5793   353959368 :                 for ( i = 0; i < dim1; i++ )
    5794             :                 {
    5795             :                     {
    5796   341765420 :                         x00 = x[2 * i + 2 * 0 * dim1];
    5797   341765420 :                         x01 = x[2 * i + 2 * 0 * dim1 + 1];
    5798             :                     };
    5799   341765420 :                     if ( i == 0 )
    5800             :                     {
    5801             :                         {
    5802    12193948 :                             x02 = x[2 * i + 2 * 1 * dim1];
    5803    12193948 :                             x03 = x[2 * i + 2 * 1 * dim1 + 1];
    5804             :                         };
    5805             :                         {
    5806    12193948 :                             x04 = x[2 * i + 2 * 2 * dim1];
    5807    12193948 :                             x05 = x[2 * i + 2 * 2 * dim1 + 1];
    5808             :                         };
    5809             :                         {
    5810    12193948 :                             x06 = x[2 * i + 2 * 3 * dim1];
    5811    12193948 :                             x07 = x[2 * i + 2 * 3 * dim1 + 1];
    5812             :                         };
    5813             :                         {
    5814    12193948 :                             x08 = x[2 * i + 2 * 4 * dim1];
    5815    12193948 :                             x09 = x[2 * i + 2 * 4 * dim1 + 1];
    5816             :                         };
    5817             :                         {
    5818    12193948 :                             x10 = x[2 * i + 2 * 5 * dim1];
    5819    12193948 :                             x11 = x[2 * i + 2 * 5 * dim1 + 1];
    5820             :                         };
    5821             :                         {
    5822    12193948 :                             x12 = x[2 * i + 2 * 6 * dim1];
    5823    12193948 :                             x13 = x[2 * i + 2 * 6 * dim1 + 1];
    5824             :                         };
    5825             :                         {
    5826    12193948 :                             x14 = x[2 * i + 2 * 7 * dim1];
    5827    12193948 :                             x15 = x[2 * i + 2 * 7 * dim1 + 1];
    5828             :                         };
    5829             :                     }
    5830             :                     else
    5831             :                     {
    5832             :                         {
    5833   329571472 :                             x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] );
    5834   329571472 :                             x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] );
    5835             :                         };
    5836             :                         {
    5837   329571472 :                             x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] );
    5838   329571472 :                             x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] );
    5839             :                         };
    5840             :                         {
    5841   329571472 :                             x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] );
    5842   329571472 :                             x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] );
    5843             :                         };
    5844             :                         {
    5845   329571472 :                             x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] );
    5846   329571472 :                             x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] );
    5847             :                         };
    5848             :                         {
    5849   329571472 :                             x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] );
    5850   329571472 :                             x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] );
    5851             :                         };
    5852             :                         {
    5853   329571472 :                             x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] );
    5854   329571472 :                             x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] );
    5855             :                         };
    5856             :                         {
    5857   329571472 :                             x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] );
    5858   329571472 :                             x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] );
    5859             :                         };
    5860             :                     }
    5861             : 
    5862   341765420 :                     t00 = ( x00 + x08 );
    5863   341765420 :                     t02 = ( x00 - x08 );
    5864   341765420 :                     t01 = ( x01 + x09 );
    5865   341765420 :                     t03 = ( x01 - x09 );
    5866   341765420 :                     t04 = ( x02 + x10 );
    5867   341765420 :                     t06 = ( x02 - x10 );
    5868   341765420 :                     t05 = ( x03 + x11 );
    5869   341765420 :                     t07 = ( x03 - x11 );
    5870   341765420 :                     t08 = ( x04 + x12 );
    5871   341765420 :                     t10 = ( x04 - x12 );
    5872   341765420 :                     t09 = ( x05 + x13 );
    5873   341765420 :                     t11 = ( x05 - x13 );
    5874   341765420 :                     t12 = ( x06 + x14 );
    5875   341765420 :                     t14 = ( x06 - x14 );
    5876   341765420 :                     t13 = ( x07 + x15 );
    5877   341765420 :                     t15 = ( x07 - x15 );
    5878             : 
    5879   341765420 :                     s00 = ( t00 + t08 );
    5880   341765420 :                     s04 = ( t00 - t08 );
    5881   341765420 :                     s01 = ( t01 + t09 );
    5882   341765420 :                     s05 = ( t01 - t09 );
    5883   341765420 :                     s08 = ( t02 - t11 );
    5884   341765420 :                     s10 = ( t02 + t11 );
    5885   341765420 :                     s09 = ( t03 + t10 );
    5886   341765420 :                     s11 = ( t03 - t10 );
    5887   341765420 :                     s02 = ( t04 + t12 );
    5888   341765420 :                     s07 = ( t04 - t12 );
    5889   341765420 :                     s03 = ( t05 + t13 );
    5890   341765420 :                     s06 = ( t13 - t05 );
    5891             : 
    5892   341765420 :                     t01 = ( t06 + t14 );
    5893   341765420 :                     t02 = ( t06 - t14 );
    5894   341765420 :                     t00 = ( t07 + t15 );
    5895   341765420 :                     t03 = ( t07 - t15 );
    5896             : 
    5897   341765420 :                     s12 = ( ( t00 + t02 ) * FFT_C81 );
    5898   341765420 :                     s14 = ( ( t00 - t02 ) * FFT_C81 );
    5899   341765420 :                     s13 = ( ( t03 - t01 ) * FFT_C81 );
    5900   341765420 :                     s15 = ( ( t01 + t03 ) * FFT_C82 );
    5901             : 
    5902   341765420 :                     re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
    5903   341765420 :                     im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
    5904   341765420 :                     re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
    5905   341765420 :                     im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
    5906   341765420 :                     re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
    5907   341765420 :                     im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
    5908   341765420 :                     re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
    5909   341765420 :                     im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
    5910   341765420 :                     re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
    5911   341765420 :                     im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
    5912   341765420 :                     re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
    5913   341765420 :                     im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
    5914   341765420 :                     re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
    5915   341765420 :                     im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
    5916   341765420 :                     re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
    5917   341765420 :                     im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
    5918             :                 }
    5919             :             }
    5920             :             else
    5921             :             {
    5922    27594817 :                 for ( i = 0; i < dim1; i++ )
    5923             :                 {
    5924             :                     {
    5925    26484280 :                         x00 = x[2 * i + 2 * 0 * dim1];
    5926    26484280 :                         x01 = x[2 * i + 2 * 0 * dim1 + 1];
    5927             :                     };
    5928    26484280 :                     if ( i == 0 )
    5929             :                     {
    5930             :                         {
    5931     1110537 :                             x02 = x[2 * i + 2 * 1 * dim1];
    5932     1110537 :                             x03 = x[2 * i + 2 * 1 * dim1 + 1];
    5933             :                         };
    5934             :                         {
    5935     1110537 :                             x04 = x[2 * i + 2 * 2 * dim1];
    5936     1110537 :                             x05 = x[2 * i + 2 * 2 * dim1 + 1];
    5937             :                         };
    5938             :                         {
    5939     1110537 :                             x06 = x[2 * i + 2 * 3 * dim1];
    5940     1110537 :                             x07 = x[2 * i + 2 * 3 * dim1 + 1];
    5941             :                         };
    5942             :                         {
    5943     1110537 :                             x08 = x[2 * i + 2 * 4 * dim1];
    5944     1110537 :                             x09 = x[2 * i + 2 * 4 * dim1 + 1];
    5945             :                         };
    5946             :                         {
    5947     1110537 :                             x10 = x[2 * i + 2 * 5 * dim1];
    5948     1110537 :                             x11 = x[2 * i + 2 * 5 * dim1 + 1];
    5949             :                         };
    5950             :                         {
    5951     1110537 :                             x12 = x[2 * i + 2 * 6 * dim1];
    5952     1110537 :                             x13 = x[2 * i + 2 * 6 * dim1 + 1];
    5953             :                         };
    5954             :                         {
    5955     1110537 :                             x14 = x[2 * i + 2 * 7 * dim1];
    5956     1110537 :                             x15 = x[2 * i + 2 * 7 * dim1 + 1];
    5957             :                         };
    5958             :                     }
    5959             :                     else
    5960             :                     {
    5961             :                         {
    5962    25373743 :                             x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] );
    5963    25373743 :                             x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 - Woff] );
    5964             :                         };
    5965             :                         {
    5966    25373743 :                             x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] );
    5967    25373743 :                             x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 - Woff] );
    5968             :                         };
    5969             :                         {
    5970    25373743 :                             x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] );
    5971    25373743 :                             x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 - Woff] );
    5972             :                         };
    5973             :                         {
    5974    25373743 :                             x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] );
    5975    25373743 :                             x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 - Woff] );
    5976             :                         };
    5977             :                         {
    5978    25373743 :                             x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] );
    5979    25373743 :                             x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 - Woff] );
    5980             :                         };
    5981             :                         {
    5982    25373743 :                             x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] );
    5983    25373743 :                             x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 - Woff] );
    5984             :                         };
    5985             :                         {
    5986    25373743 :                             x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] );
    5987    25373743 :                             x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 - Woff] );
    5988             :                         };
    5989             :                     }
    5990             : 
    5991    26484280 :                     t00 = ( x00 + x08 );
    5992    26484280 :                     t02 = ( x00 - x08 );
    5993    26484280 :                     t01 = ( x01 + x09 );
    5994    26484280 :                     t03 = ( x01 - x09 );
    5995    26484280 :                     t04 = ( x02 + x10 );
    5996    26484280 :                     t06 = ( x02 - x10 );
    5997    26484280 :                     t05 = ( x03 + x11 );
    5998    26484280 :                     t07 = ( x03 - x11 );
    5999    26484280 :                     t08 = ( x04 + x12 );
    6000    26484280 :                     t10 = ( x04 - x12 );
    6001    26484280 :                     t09 = ( x05 + x13 );
    6002    26484280 :                     t11 = ( x05 - x13 );
    6003    26484280 :                     t12 = ( x06 + x14 );
    6004    26484280 :                     t14 = ( x06 - x14 );
    6005    26484280 :                     t13 = ( x07 + x15 );
    6006    26484280 :                     t15 = ( x07 - x15 );
    6007             : 
    6008    26484280 :                     s00 = ( t00 + t08 );
    6009    26484280 :                     s04 = ( t00 - t08 );
    6010    26484280 :                     s01 = ( t01 + t09 );
    6011    26484280 :                     s05 = ( t01 - t09 );
    6012    26484280 :                     s08 = ( t02 - t11 );
    6013    26484280 :                     s10 = ( t02 + t11 );
    6014    26484280 :                     s09 = ( t03 + t10 );
    6015    26484280 :                     s11 = ( t03 - t10 );
    6016    26484280 :                     s02 = ( t04 + t12 );
    6017    26484280 :                     s07 = ( t04 - t12 );
    6018    26484280 :                     s03 = ( t05 + t13 );
    6019    26484280 :                     s06 = ( t13 - t05 );
    6020             : 
    6021    26484280 :                     t01 = ( t06 + t14 );
    6022    26484280 :                     t02 = ( t06 - t14 );
    6023    26484280 :                     t00 = ( t07 + t15 );
    6024    26484280 :                     t03 = ( t07 - t15 );
    6025             : 
    6026    26484280 :                     s12 = ( ( t00 + t02 ) * FFT_C81 );
    6027    26484280 :                     s14 = ( ( t00 - t02 ) * FFT_C81 );
    6028    26484280 :                     s13 = ( ( t03 - t01 ) * FFT_C81 );
    6029    26484280 :                     s15 = ( ( t01 + t03 ) * FFT_C82 );
    6030             : 
    6031    26484280 :                     re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
    6032    26484280 :                     im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
    6033    26484280 :                     re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
    6034    26484280 :                     im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
    6035    26484280 :                     re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
    6036    26484280 :                     im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
    6037    26484280 :                     re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
    6038    26484280 :                     im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
    6039    26484280 :                     re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
    6040    26484280 :                     im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
    6041    26484280 :                     re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
    6042    26484280 :                     im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
    6043    26484280 :                     re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
    6044    26484280 :                     im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
    6045    26484280 :                     re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
    6046    26484280 :                     im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
    6047             :                 }
    6048             :             }
    6049    13304485 :             break;
    6050             :         }
    6051             : 
    6052       14777 :         case 10:
    6053             :         {
    6054             :             float y[2 * 10];
    6055      162547 :             for ( j = 0; j < dim2; j++ )
    6056             :             {
    6057             :                 {
    6058      147770 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6059      147770 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6060             :                 };
    6061             :             }
    6062       14777 :             fft_len10( &y[0], &y[1], 2 );
    6063      162547 :             for ( j = 0; j < dim2; j++ )
    6064             :             {
    6065      147770 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6066      147770 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6067             :             }
    6068             : 
    6069      295540 :             for ( i = 1; i < dim1; i++ )
    6070             :             {
    6071             :                 {
    6072      280763 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6073      280763 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6074             :                 }
    6075             : 
    6076     2807630 :                 for ( j = 1; j < dim2; j++ )
    6077             :                 {
    6078             :                     {
    6079     2526867 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
    6080     2526867 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
    6081             :                     }
    6082             :                 }
    6083      280763 :                 fft_len10( &y[0], &y[1], 2 );
    6084     3088393 :                 for ( j = 0; j < dim2; j++ )
    6085             :                 {
    6086     2807630 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6087     2807630 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6088             :                 }
    6089             :             }
    6090       14777 :             break;
    6091             :         }
    6092             : 
    6093     3979449 :         case 16:
    6094             :         {
    6095             :             float y[2 * 16];
    6096    67650633 :             for ( j = 0; j < dim2; j++ )
    6097             :             {
    6098             :                 {
    6099    63671184 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6100    63671184 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6101             :                 };
    6102             :             }
    6103     3979449 :             fft_len16( &y[0], &y[1], 2 );
    6104    67650633 :             for ( j = 0; j < dim2; j++ )
    6105             :             {
    6106    63671184 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6107    63671184 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6108             :             }
    6109             : 
    6110   103857370 :             for ( i = 1; i < dim1; i++ )
    6111             :             {
    6112             :                 {
    6113    99877921 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6114    99877921 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6115             :                 }
    6116             : 
    6117  1598046736 :                 for ( j = 1; j < dim2; j++ )
    6118             :                 {
    6119             :                     {
    6120  1498168815 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
    6121  1498168815 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
    6122             :                     }
    6123             :                 }
    6124    99877921 :                 fft_len16( &y[0], &y[1], 2 );
    6125  1697924657 :                 for ( j = 0; j < dim2; j++ )
    6126             :                 {
    6127  1598046736 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6128  1598046736 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6129             :                 }
    6130             :             }
    6131     3979449 :             break;
    6132             :         }
    6133             : 
    6134       22846 :         case 20:
    6135             :         {
    6136             :             float y[2 * 20];
    6137      479766 :             for ( j = 0; j < dim2; j++ )
    6138             :             {
    6139             :                 {
    6140      456920 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6141      456920 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6142             :                 };
    6143             :             }
    6144       22846 :             fft_len20( &y[0], &y[1], 2 );
    6145      479766 :             for ( j = 0; j < dim2; j++ )
    6146             :             {
    6147      456920 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6148      456920 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6149             :             }
    6150             : 
    6151      643750 :             for ( i = 1; i < dim1; i++ )
    6152             :             {
    6153             :                 {
    6154      620904 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6155      620904 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6156             :                 }
    6157             :                 {
    6158      620904 :                     y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
    6159      620904 :                     y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
    6160             :                 }
    6161             : 
    6162     6209040 :                 for ( j = 2; j < dim2; j = j + 2 )
    6163             :                 {
    6164             :                     {
    6165     5588136 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
    6166     5588136 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
    6167             :                     }
    6168             :                     {
    6169     5588136 :                         y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
    6170     5588136 :                         y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
    6171             :                     }
    6172             :                 }
    6173      620904 :                 fft_len20( &y[0], &y[1], 2 );
    6174    13038984 :                 for ( j = 0; j < dim2; j++ )
    6175             :                 {
    6176    12418080 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6177    12418080 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6178             :                 }
    6179             :             }
    6180       22846 :             break;
    6181             :         }
    6182             : 
    6183      659087 :         case 32:
    6184             :         {
    6185             :             float y[2 * 32];
    6186    21749871 :             for ( j = 0; j < dim2; j++ )
    6187             :             {
    6188             :                 {
    6189    21090784 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6190    21090784 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6191             :                 };
    6192             :             }
    6193      659087 :             fft_len32( &y[0], &y[1], 2 );
    6194    21749871 :             for ( j = 0; j < dim2; j++ )
    6195             :             {
    6196    21090784 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6197    21090784 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6198             :             }
    6199             : 
    6200    17246660 :             for ( i = 1; i < dim1; i++ )
    6201             :             {
    6202             :                 {
    6203    16587573 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6204    16587573 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6205             :                 }
    6206             :                 {
    6207    16587573 :                     y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
    6208    16587573 :                     y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
    6209             :                 }
    6210             : 
    6211   265401168 :                 for ( j = 2; j < dim2; j = j + 2 )
    6212             :                 {
    6213             :                     {
    6214   248813595 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
    6215   248813595 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
    6216             :                     }
    6217             :                     {
    6218   248813595 :                         y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
    6219   248813595 :                         y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
    6220             :                     }
    6221             :                 }
    6222    16587573 :                 fft_len32( &y[0], &y[1], 2 );
    6223   547389909 :                 for ( j = 0; j < dim2; j++ )
    6224             :                 {
    6225   530802336 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6226   530802336 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6227             :                 }
    6228             :             }
    6229      659087 :             break;
    6230             :         }
    6231             :     }
    6232             : 
    6233    17980644 :     return;
    6234             : }
    6235             : 
    6236             : 
    6237             : /*-----------------------------------------------------------------*
    6238             :  * fft()
    6239             :  *
    6240             :  * Complex-value FFT
    6241             :  *-----------------------------------------------------------------*/
    6242             : 
    6243    17980644 : void fft(
    6244             :     float *re,            /* i/o: real part           */
    6245             :     float *im,            /* i/o: imag part           */
    6246             :     const int16_t length, /* i  : length of fft       */
    6247             :     const int16_t s       /* i  : sign                */
    6248             : )
    6249             : {
    6250    17980644 :     switch ( length )
    6251             :     {
    6252           0 :         case 20:
    6253           0 :             fft_len20( re, im, s );
    6254           0 :             break;
    6255       12326 :         case 40:
    6256       12326 :             fft_lenN( re, im, FFT_RotVector_640, 640, 5, 8, s, 8, 40 );
    6257       12326 :             break;
    6258       28529 :         case 64:
    6259       28529 :             fft_lenN( re, im, FFT_RotVector_256, 256, 8, 8, s, 8, 64 );
    6260       28529 :             break;
    6261      290365 :         case 80:
    6262      290365 :             fft_lenN( re, im, FFT_RotVector_640, 640, 10, 8, s, 4, 40 );
    6263      290365 :             break;
    6264           0 :         case 100:
    6265           0 :             fft_lenN( re, im, FFT_RotVector_400, 400, 10, 10, s, 4, 40 );
    6266           0 :             break;
    6267      281270 :         case 120:
    6268      281270 :             fft_lenN( re, im, FFT_RotVector_960, 960, 15, 8, s, 4, 60 );
    6269      281270 :             break;
    6270      523013 :         case 128:
    6271      523013 :             fft_lenN( re, im, FFT_RotVector_256, 256, 16, 8, s, 4, 64 );
    6272      523013 :             break;
    6273     1371852 :         case 160:
    6274     1371852 :             fft_lenN( re, im, FFT_RotVector_640, 640, 20, 8, s, 2, 40 );
    6275     1371852 :             break;
    6276       14777 :         case 200:
    6277       14777 :             fft_lenN( re, im, FFT_RotVector_400, 400, 20, 10, s, 2, 40 );
    6278       14777 :             break;
    6279    10238135 :         case 240:
    6280    10238135 :             fft_lenN( re, im, FFT_RotVector_960, 960, 30, 8, s, 2, 60 );
    6281    10238135 :             break;
    6282      558995 :         case 256:
    6283      558995 :             fft_lenN( re, im, FFT_RotVector_256, 256, 32, 8, s, 2, 64 );
    6284      558995 :             break;
    6285     1552610 :         case 320:
    6286     1552610 :             fft_lenN( re, im, FFT_RotVector_640, 640, 20, 16, s, 2, 40 );
    6287     1552610 :             break;
    6288        4163 :         case 400:
    6289        4163 :             fft_lenN( re, im, FFT_RotVector_400, 400, 20, 20, s, 2, 40 );
    6290        4163 :             break;
    6291     2426839 :         case 480:
    6292     2426839 :             fft_lenN( re, im, FFT_RotVector_960, 960, 30, 16, s, 2, 60 );
    6293     2426839 :             break;
    6294       18683 :         case 600:
    6295       18683 :             fft_lenN( re, im, FFT_RotVector_600, 600, 30, 20, s, 2, 60 );
    6296       18683 :             break;
    6297      252595 :         case 640:
    6298      252595 :             fft_lenN( re, im, FFT_RotVector_640, 640, 20, 32, s, 2, 40 );
    6299      252595 :             break;
    6300      406492 :         case 960:
    6301      406492 :             fft_lenN( re, im, FFT_RotVector_960, 960, 30, 32, s, 2, 60 );
    6302      406492 :             break;
    6303           0 :         default:
    6304           0 :             assert( !"fft length is not supported!" );
    6305             :     }
    6306             : 
    6307    17980644 :     return;
    6308             : }
    6309             : 
    6310             : 
    6311             : /*-----------------------------------------------------------------*
    6312             :  * rfft()
    6313             :  *
    6314             :  * Real-value FFT
    6315             :  *-----------------------------------------------------------------*/
    6316             : 
    6317      754132 : void rfft(
    6318             :     float *x,             /* i/o: values                    */
    6319             :     const float *w,       /* i  : window                    */
    6320             :     const int16_t length, /* i  : length of fft             */
    6321             :     const int16_t isign   /* i  : sign                      */
    6322             : )
    6323             : {
    6324             :     int16_t i, sizeOfFft2, sizeOfFft4;
    6325             :     float tmp, t1, t2, t3, t4, s1, s2;
    6326             : 
    6327      754132 :     sizeOfFft2 = length >> 1;
    6328      754132 :     sizeOfFft4 = length >> 2;
    6329      754132 :     s1 = 1.f / (float) sizeOfFft2;
    6330      754132 :     s2 = -1.f / (float) sizeOfFft2;
    6331             : 
    6332      754132 :     switch ( isign )
    6333             :     {
    6334             : 
    6335      362222 :         case -1:
    6336             : 
    6337      362222 :             fft( x, x + 1, sizeOfFft2, 2 );
    6338             : 
    6339      362222 :             tmp = x[0] + x[1];
    6340      362222 :             x[1] = x[0] - x[1];
    6341      362222 :             x[0] = tmp;
    6342             : 
    6343    56753518 :             for ( i = 1; i <= sizeOfFft4; i++ )
    6344             :             {
    6345    56391296 :                 t1 = x[2 * i] - x[length - 2 * i];
    6346    56391296 :                 t2 = x[2 * i + 1] + x[length - 2 * i + 1];
    6347    56391296 :                 t3 = w[i] * t1 - w[i + sizeOfFft4] * t2;
    6348    56391296 :                 t4 = w[i + sizeOfFft4] * t1 + w[i] * t2;
    6349    56391296 :                 t1 = x[2 * i] + x[length - 2 * i];
    6350    56391296 :                 t2 = x[2 * i + 1] - x[length - 2 * i + 1];
    6351             : 
    6352    56391296 :                 x[2 * i] = ( t1 - t3 ) * 0.5f;
    6353    56391296 :                 x[2 * i + 1] = ( t2 - t4 ) * 0.5f;
    6354    56391296 :                 x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
    6355    56391296 :                 x[length - 2 * i + 1] = -( t2 + t4 ) * 0.5f;
    6356             :             }
    6357             : 
    6358      362222 :             break;
    6359             : 
    6360      391910 :         case +1:
    6361             : 
    6362      391910 :             tmp = ( x[0] + x[1] ) * 0.5f;
    6363      391910 :             x[1] = ( x[1] - x[0] ) * 0.5f;
    6364      391910 :             x[0] = tmp;
    6365             : 
    6366    77916646 :             for ( i = 1; i <= sizeOfFft4; i++ )
    6367             :             {
    6368    77524736 :                 t1 = x[2 * i] - x[length - 2 * i];
    6369    77524736 :                 t2 = x[2 * i + 1] + x[length - 2 * i + 1];
    6370    77524736 :                 t3 = w[i] * t1 + w[i + sizeOfFft4] * t2;
    6371    77524736 :                 t4 = -w[i + sizeOfFft4] * t1 + w[i] * t2;
    6372    77524736 :                 t1 = x[2 * i] + x[length - 2 * i];
    6373    77524736 :                 t2 = x[2 * i + 1] - x[length - 2 * i + 1];
    6374             : 
    6375    77524736 :                 x[2 * i] = ( t1 - t3 ) * 0.5f;
    6376    77524736 :                 x[2 * i + 1] = ( t4 - t2 ) * 0.5f;
    6377    77524736 :                 x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
    6378    77524736 :                 x[length - 2 * i + 1] = ( t2 + t4 ) * 0.5f;
    6379             :             }
    6380             : 
    6381      391910 :             fft( x, x + 1, sizeOfFft2, 2 );
    6382             : 
    6383   155441382 :             for ( i = 0; i < length; i += 2 )
    6384             :             {
    6385   155049472 :                 x[i] *= s1;
    6386   155049472 :                 x[i + 1] *= s2;
    6387             :             }
    6388             : 
    6389      391910 :             break;
    6390             :     }
    6391             : 
    6392      754132 :     return;
    6393             : }
    6394             : 
    6395             : 
    6396             : #define WMC_TOOL_SKIP
    6397             : 
    6398             : #define SCALEFACTOR8  ( 4 )
    6399             : #define SCALEFACTOR64 ( 7 )
    6400             : #define SCALEFACTORN2 ( 3 )
    6401             : 
    6402             : #define SHC( x )  ( (Word16) x )
    6403             : #define FFTC( x ) WORD322WORD16( (Word32) x )
    6404             : 
    6405             : #define C81_FX ( FFTC( 0x5a82799a ) ) /* FL2WORD32( 7.071067811865475e-1) */
    6406             : #define C82_FX ( FFTC( 0xa57d8666 ) ) /* FL2WORD32(-7.071067811865475e-1) */
    6407             : 
    6408             : #define cplxMpy4_8_0( re, im, a, b, c, d )                          \
    6409             :     re = L_shr( L_sub( Mpy_32_16( a, c ), Mpy_32_16( b, d ) ), 1 ); \
    6410             :     im = L_shr( L_add( Mpy_32_16( a, d ), Mpy_32_16( b, c ) ), 1 );
    6411             : 
    6412             : #define cplxMpy4_8_1( re, im, a, b ) \
    6413             :     re = L_shr( a, 1 );              \
    6414             :     im = L_shr( b, 1 );
    6415             : 
    6416             : 
    6417             : /**
    6418             :  * \brief    Twiddle factors are unscaled
    6419             :  */
    6420             : static const Word16 RotVector_256[2 * ( 256 - 32 )] = {
    6421             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7ff6 ), SHC( 0xfcdc ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7fa7 ), SHC( 0xf695 ),
    6422             :     SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7e1e ), SHC( 0xea1e ),
    6423             :     SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7b5d ), SHC( 0xdddc ),
    6424             :     SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x798a ), SHC( 0xd7d9 ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x776c ), SHC( 0xd1ef ),
    6425             :     SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x7505 ), SHC( 0xcc21 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x7255 ), SHC( 0xc673 ),
    6426             :     SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6f5f ), SHC( 0xc0e9 ), SHC( 0x6dca ), SHC( 0xbe32 ), SHC( 0x6c24 ), SHC( 0xbb85 ),
    6427             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x64e9 ), SHC( 0xb140 ),
    6428             :     SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x60ec ), SHC( 0xac65 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5cb4 ), SHC( 0xa7bd ),
    6429             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7e9d ), SHC( 0xed38 ),
    6430             :     SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x7885 ), SHC( 0xd4e1 ),
    6431             :     SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6dca ), SHC( 0xbe32 ),
    6432             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x5ed7 ), SHC( 0xaa0a ),
    6433             :     SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x55f6 ), SHC( 0xa129 ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x4c40 ), SHC( 0x9930 ),
    6434             :     SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x3c57 ), SHC( 0x8f1d ), SHC( 0x36ba ), SHC( 0x8c4a ),
    6435             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x1f1a ), SHC( 0x83d6 ),
    6436             :     SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x12c8 ), SHC( 0x8163 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0648 ), SHC( 0x8027 ),
    6437             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fa7 ), SHC( 0xf695 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ),
    6438             :     SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x776c ), SHC( 0xd1ef ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
    6439             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x64e9 ), SHC( 0xb140 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5843 ), SHC( 0xa34c ),
    6440             :     SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x49b4 ), SHC( 0x9759 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x398d ), SHC( 0x8dab ),
    6441             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2827 ), SHC( 0x8676 ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x15e2 ), SHC( 0x81e2 ),
    6442             :     SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xf9b8 ), SHC( 0x8027 ), SHC( 0xf055 ), SHC( 0x80f6 ),
    6443             :     SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdddc ), SHC( 0x84a3 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xcc21 ), SHC( 0x8afb ),
    6444             :     SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xbb85 ), SHC( 0x93dc ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xac65 ), SHC( 0x9f14 ),
    6445             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7a7d ), SHC( 0xdad8 ),
    6446             :     SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x62f2 ), SHC( 0xaecc ),
    6447             :     SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x3c57 ), SHC( 0x8f1d ),
    6448             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0c8c ), SHC( 0x809e ),
    6449             :     SHC( 0x0000 ), SHC( 0x8000 ), SHC( 0xf374 ), SHC( 0x809e ), SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdad8 ), SHC( 0x8583 ),
    6450             :     SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb8e3 ), SHC( 0x9592 ), SHC( 0xaecc ), SHC( 0x9d0e ),
    6451             :     SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x9592 ), SHC( 0xb8e3 ), SHC( 0x8f1d ), SHC( 0xc3a9 ),
    6452             :     SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x8583 ), SHC( 0xdad8 ), SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x809e ), SHC( 0xf374 ),
    6453             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x776c ), SHC( 0xd1ef ),
    6454             :     SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x539b ), SHC( 0x9f14 ),
    6455             :     SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x398d ), SHC( 0x8dab ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x1c0c ), SHC( 0x831c ),
    6456             :     SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xfcdc ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xdddc ), SHC( 0x84a3 ),
    6457             :     SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc0e9 ), SHC( 0x90a1 ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xa7bd ), SHC( 0xa34c ),
    6458             :     SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x93dc ), SHC( 0xbb85 ), SHC( 0x8c4a ), SHC( 0xc946 ), SHC( 0x8676 ), SHC( 0xd7d9 ),
    6459             :     SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8059 ), SHC( 0xf695 ), SHC( 0x8027 ), SHC( 0x0648 ), SHC( 0x81e2 ), SHC( 0x15e2 ),
    6460             :     SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8afb ), SHC( 0x33df ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9b17 ), SHC( 0x4ec0 ),
    6461             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x73b6 ), SHC( 0xc946 ),
    6462             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x41ce ), SHC( 0x9236 ),
    6463             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xf9b8 ), SHC( 0x8027 ),
    6464             :     SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb3c0 ), SHC( 0x9930 ),
    6465             :     SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9930 ), SHC( 0xb3c0 ), SHC( 0x8f1d ), SHC( 0xc3a9 ), SHC( 0x877b ), SHC( 0xd4e1 ),
    6466             :     SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x809e ), SHC( 0x0c8c ), SHC( 0x83d6 ), SHC( 0x1f1a ),
    6467             :     SHC( 0x89be ), SHC( 0x30fc ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9d0e ), SHC( 0x5134 ), SHC( 0xaa0a ), SHC( 0x5ed7 ),
    6468             :     SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xc946 ), SHC( 0x73b6 ), SHC( 0xdad8 ), SHC( 0x7a7d ), SHC( 0xed38 ), SHC( 0x7e9d ),
    6469             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e1e ), SHC( 0xea1e ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
    6470             :     SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x539b ), SHC( 0x9f14 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x2e11 ), SHC( 0x8894 ),
    6471             :     SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xd7d9 ), SHC( 0x8676 ),
    6472             :     SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb140 ), SHC( 0x9b17 ), SHC( 0xa129 ), SHC( 0xaa0a ), SHC( 0x93dc ), SHC( 0xbb85 ),
    6473             :     SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x831c ), SHC( 0xe3f4 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x80f6 ), SHC( 0x0fab ),
    6474             :     SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8dab ), SHC( 0x398d ), SHC( 0x9930 ), SHC( 0x4c40 ), SHC( 0xa7bd ), SHC( 0x5cb4 ),
    6475             :     SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xcc21 ), SHC( 0x7505 ), SHC( 0xe0e6 ), SHC( 0x7c2a ), SHC( 0xf695 ), SHC( 0x7fa7 ),
    6476             :     SHC( 0x0c8c ), SHC( 0x7f62 ), SHC( 0x2224 ), SHC( 0x7b5d ), SHC( 0x36ba ), SHC( 0x73b6 ), SHC( 0x49b4 ), SHC( 0x68a7 )
    6477             : };
    6478             : 
    6479             : /*-----------------------------------------------------------------*
    6480             :  * BASOP_fft8()
    6481             :  *
    6482             :  * Function performs a complex 8-point FFT
    6483             :  * The FFT is performed inplace. The result of the FFT
    6484             :  * is scaled by SCALEFACTOR8 bits.
    6485             :  *
    6486             :  * WOPS with 32x16 bit multiplications: 108 cycles
    6487             :  *-----------------------------------------------------------------*/
    6488             : 
    6489      449072 : static void BASOP_fft8(
    6490             :     Word32 *re,
    6491             :     Word32 *im,
    6492             :     Word16 s )
    6493             : {
    6494             :     Word32 x00, x01, x02, x03, x04, x05, x06, x07;
    6495             :     Word32 x08, x09, x10, x11, x12, x13, x14, x15;
    6496             :     Word32 t00, t01, t02, t03, t04, t05, t06, t07;
    6497             :     Word32 t08, t09, t10, t11, t12, t13, t14, t15;
    6498             :     Word32 s00, s01, s02, s03, s04, s05, s06, s07;
    6499             :     Word32 s08, s09, s10, s11, s12, s13, s14, s15;
    6500             : 
    6501             : 
    6502             :     /* Pre-additions */
    6503             : 
    6504      449072 :     x00 = L_shr( re[s * 0], SCALEFACTOR8 );
    6505      449072 :     x01 = L_shr( im[s * 0], SCALEFACTOR8 );
    6506      449072 :     x02 = L_shr( re[s * 1], SCALEFACTOR8 );
    6507      449072 :     x03 = L_shr( im[s * 1], SCALEFACTOR8 );
    6508      449072 :     x04 = L_shr( re[s * 2], SCALEFACTOR8 );
    6509      449072 :     x05 = L_shr( im[s * 2], SCALEFACTOR8 );
    6510      449072 :     x06 = L_shr( re[s * 3], SCALEFACTOR8 );
    6511      449072 :     x07 = L_shr( im[s * 3], SCALEFACTOR8 );
    6512      449072 :     x08 = L_shr( re[s * 4], SCALEFACTOR8 );
    6513      449072 :     x09 = L_shr( im[s * 4], SCALEFACTOR8 );
    6514      449072 :     x10 = L_shr( re[s * 5], SCALEFACTOR8 );
    6515      449072 :     x11 = L_shr( im[s * 5], SCALEFACTOR8 );
    6516      449072 :     x12 = L_shr( re[s * 6], SCALEFACTOR8 );
    6517      449072 :     x13 = L_shr( im[s * 6], SCALEFACTOR8 );
    6518      449072 :     x14 = L_shr( re[s * 7], SCALEFACTOR8 );
    6519      449072 :     x15 = L_shr( im[s * 7], SCALEFACTOR8 );
    6520             : 
    6521      449072 :     t00 = L_add( x00, x08 );
    6522      449072 :     t02 = L_sub( x00, x08 );
    6523      449072 :     t01 = L_add( x01, x09 );
    6524      449072 :     t03 = L_sub( x01, x09 );
    6525      449072 :     t04 = L_add( x02, x10 );
    6526      449072 :     t06 = L_sub( x02, x10 );
    6527      449072 :     t05 = L_add( x03, x11 );
    6528      449072 :     t07 = L_sub( x03, x11 );
    6529      449072 :     t08 = L_add( x04, x12 );
    6530      449072 :     t10 = L_sub( x04, x12 );
    6531      449072 :     t09 = L_add( x05, x13 );
    6532      449072 :     t11 = L_sub( x05, x13 );
    6533      449072 :     t12 = L_add( x06, x14 );
    6534      449072 :     t14 = L_sub( x06, x14 );
    6535      449072 :     t13 = L_add( x07, x15 );
    6536      449072 :     t15 = L_sub( x07, x15 );
    6537             : 
    6538             :     /* Pre-additions and core multiplications */
    6539             : 
    6540      449072 :     s00 = L_add( t00, t08 );
    6541      449072 :     s04 = L_sub( t00, t08 );
    6542      449072 :     s01 = L_add( t01, t09 );
    6543      449072 :     s05 = L_sub( t01, t09 );
    6544      449072 :     s08 = L_sub( t02, t11 );
    6545      449072 :     s10 = L_add( t02, t11 );
    6546      449072 :     s09 = L_add( t03, t10 );
    6547      449072 :     s11 = L_sub( t03, t10 );
    6548      449072 :     s02 = L_add( t04, t12 );
    6549      449072 :     s07 = L_sub( t04, t12 );
    6550      449072 :     s03 = L_add( t05, t13 );
    6551      449072 :     s06 = L_sub( t13, t05 );
    6552             : 
    6553      449072 :     t01 = L_add( t06, t14 );
    6554      449072 :     t02 = L_sub( t06, t14 );
    6555      449072 :     t00 = L_add( t07, t15 );
    6556      449072 :     t03 = L_sub( t07, t15 );
    6557             : 
    6558      449072 :     s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
    6559      449072 :     s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
    6560      449072 :     s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
    6561      449072 :     s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
    6562             : 
    6563             :     /* Post-additions */
    6564             : 
    6565      449072 :     re[s * 0] = L_add( s00, s02 );
    6566      449072 :     move32();
    6567      449072 :     re[s * 4] = L_sub( s00, s02 );
    6568      449072 :     move32();
    6569      449072 :     im[s * 0] = L_add( s01, s03 );
    6570      449072 :     move32();
    6571      449072 :     im[s * 4] = L_sub( s01, s03 );
    6572      449072 :     move32();
    6573      449072 :     re[s * 2] = L_sub( s04, s06 );
    6574      449072 :     move32();
    6575      449072 :     re[s * 6] = L_add( s04, s06 );
    6576      449072 :     move32();
    6577      449072 :     im[s * 2] = L_sub( s05, s07 );
    6578      449072 :     move32();
    6579      449072 :     im[s * 6] = L_add( s05, s07 );
    6580      449072 :     move32();
    6581      449072 :     re[s * 3] = L_add( s08, s14 );
    6582      449072 :     move32();
    6583      449072 :     re[s * 7] = L_sub( s08, s14 );
    6584      449072 :     move32();
    6585      449072 :     im[s * 3] = L_add( s09, s15 );
    6586      449072 :     move32();
    6587      449072 :     im[s * 7] = L_sub( s09, s15 );
    6588      449072 :     move32();
    6589      449072 :     re[s * 1] = L_add( s10, s12 );
    6590      449072 :     move32();
    6591      449072 :     re[s * 5] = L_sub( s10, s12 );
    6592      449072 :     move32();
    6593      449072 :     im[s * 1] = L_add( s11, s13 );
    6594      449072 :     move32();
    6595      449072 :     im[s * 5] = L_sub( s11, s13 );
    6596      449072 :     move32();
    6597             : 
    6598      449072 :     return;
    6599             : }
    6600             : 
    6601             : 
    6602             : /*-----------------------------------------------------------------*
    6603             :  * fftN2()
    6604             :  *
    6605             :  * Combined FFT
    6606             :  *-----------------------------------------------------------------*/
    6607             : 
    6608       56134 : static void BASOP_fftN2(
    6609             :     Word32 *re,      /* i/o: real part                                       */
    6610             :     Word32 *im,      /* i/o: imag part                                       */
    6611             :     const Word16 *W, /* i  : rotation factor                                 */
    6612             :     Word16 dim1,     /* i  : length of fft1                                  */
    6613             :     Word16 dim2,     /* i  : length of fft2                                  */
    6614             :     Word16 sx,       /* i  : stride real and imag part                       */
    6615             :     Word16 sc,       /* i  : stride phase rotation coefficients              */
    6616             :     Word32 *x,       /* tmp: 32-bit workbuffer                               */
    6617             :     Word16 Woff      /* i  : offset for addressing the rotation vector table */
    6618             : )
    6619             : {
    6620             :     Word16 i, j;
    6621             :     Word32 x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
    6622             :     Word32 t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
    6623             :     Word32 s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
    6624             : 
    6625      505206 :     FOR( i = 0; i < dim2; i++ )
    6626             :     {
    6627     4041648 :         FOR( j = 0; j < dim1; j++ )
    6628             :         {
    6629     3592576 :             x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
    6630     3592576 :             move32();
    6631     3592576 :             x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
    6632     3592576 :             move32();
    6633             :         }
    6634             :     }
    6635             : 
    6636             :     /* dim1 == 8 */
    6637      505206 :     FOR( i = 0; i < dim2; i++ )
    6638             :     {
    6639      449072 :         BASOP_fft8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    6640             :     }
    6641             : 
    6642             :     /* dim2 == 8 */
    6643      505206 :     FOR( i = 0; i < dim1; i++ )
    6644             :     {
    6645      449072 :         cplxMpy4_8_1( x00, x01, x[2 * i + 2 * 0 * dim1], x[2 * i + 2 * 0 * dim1 + 1] );
    6646             : 
    6647      449072 :         IF( i == 0 )
    6648             :         {
    6649       56134 :             cplxMpy4_8_1( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1] );
    6650       56134 :             cplxMpy4_8_1( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1] );
    6651       56134 :             cplxMpy4_8_1( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1] );
    6652       56134 :             cplxMpy4_8_1( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1] );
    6653       56134 :             cplxMpy4_8_1( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1] );
    6654       56134 :             cplxMpy4_8_1( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1] );
    6655       56134 :             cplxMpy4_8_1( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1] );
    6656             :         }
    6657             :         ELSE
    6658             :         {
    6659      392938 :             cplxMpy4_8_0( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1], W[sc * i + sc * 1 * dim1 - Woff], W[sc * i + sc * 1 * dim1 + 1 - Woff] );
    6660      392938 :             cplxMpy4_8_0( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1], W[sc * i + sc * 2 * dim1 - Woff], W[sc * i + sc * 2 * dim1 + 1 - Woff] );
    6661      392938 :             cplxMpy4_8_0( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1], W[sc * i + sc * 3 * dim1 - Woff], W[sc * i + sc * 3 * dim1 + 1 - Woff] );
    6662      392938 :             cplxMpy4_8_0( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1], W[sc * i + sc * 4 * dim1 - Woff], W[sc * i + sc * 4 * dim1 + 1 - Woff] );
    6663      392938 :             cplxMpy4_8_0( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1], W[sc * i + sc * 5 * dim1 - Woff], W[sc * i + sc * 5 * dim1 + 1 - Woff] );
    6664      392938 :             cplxMpy4_8_0( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1], W[sc * i + sc * 6 * dim1 - Woff], W[sc * i + sc * 6 * dim1 + 1 - Woff] );
    6665      392938 :             cplxMpy4_8_0( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1], W[sc * i + sc * 7 * dim1 - Woff], W[sc * i + sc * 7 * dim1 + 1 - Woff] );
    6666             :         }
    6667      449072 :         t00 = L_shr( L_add( x00, x08 ), SCALEFACTORN2 - 1 );
    6668      449072 :         t02 = L_shr( L_sub( x00, x08 ), SCALEFACTORN2 - 1 );
    6669      449072 :         t01 = L_shr( L_add( x01, x09 ), SCALEFACTORN2 - 1 );
    6670      449072 :         t03 = L_shr( L_sub( x01, x09 ), SCALEFACTORN2 - 1 );
    6671      449072 :         t04 = L_shr( L_add( x02, x10 ), SCALEFACTORN2 - 1 );
    6672      449072 :         t06 = L_sub( x02, x10 );
    6673      449072 :         t05 = L_shr( L_add( x03, x11 ), SCALEFACTORN2 - 1 );
    6674      449072 :         t07 = L_sub( x03, x11 );
    6675      449072 :         t08 = L_shr( L_add( x04, x12 ), SCALEFACTORN2 - 1 );
    6676      449072 :         t10 = L_shr( L_sub( x04, x12 ), SCALEFACTORN2 - 1 );
    6677      449072 :         t09 = L_shr( L_add( x05, x13 ), SCALEFACTORN2 - 1 );
    6678      449072 :         t11 = L_shr( L_sub( x05, x13 ), SCALEFACTORN2 - 1 );
    6679      449072 :         t12 = L_shr( L_add( x06, x14 ), SCALEFACTORN2 - 1 );
    6680      449072 :         t14 = L_sub( x06, x14 );
    6681      449072 :         t13 = L_shr( L_add( x07, x15 ), SCALEFACTORN2 - 1 );
    6682      449072 :         t15 = L_sub( x07, x15 );
    6683             : 
    6684      449072 :         s00 = L_add( t00, t08 );
    6685      449072 :         s04 = L_sub( t00, t08 );
    6686      449072 :         s01 = L_add( t01, t09 );
    6687      449072 :         s05 = L_sub( t01, t09 );
    6688      449072 :         s08 = L_sub( t02, t11 );
    6689      449072 :         s10 = L_add( t02, t11 );
    6690      449072 :         s09 = L_add( t03, t10 );
    6691      449072 :         s11 = L_sub( t03, t10 );
    6692      449072 :         s02 = L_add( t04, t12 );
    6693      449072 :         s07 = L_sub( t04, t12 );
    6694      449072 :         s03 = L_add( t05, t13 );
    6695      449072 :         s06 = L_sub( t13, t05 );
    6696             : 
    6697      449072 :         t01 = L_shr( L_add( t06, t14 ), SCALEFACTORN2 - 1 );
    6698      449072 :         t02 = L_shr( L_sub( t06, t14 ), SCALEFACTORN2 - 1 );
    6699      449072 :         t00 = L_shr( L_add( t07, t15 ), SCALEFACTORN2 - 1 );
    6700      449072 :         t03 = L_shr( L_sub( t07, t15 ), SCALEFACTORN2 - 1 );
    6701             : 
    6702      449072 :         s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
    6703      449072 :         s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
    6704      449072 :         s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
    6705      449072 :         s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
    6706             : 
    6707      449072 :         re[sx * i + sx * 0 * dim1] = L_add( s00, s02 );
    6708      449072 :         move32();
    6709      449072 :         im[sx * i + sx * 0 * dim1] = L_add( s01, s03 );
    6710      449072 :         move32();
    6711      449072 :         re[sx * i + sx * 1 * dim1] = L_add( s10, s12 );
    6712      449072 :         move32();
    6713      449072 :         im[sx * i + sx * 1 * dim1] = L_add( s11, s13 );
    6714      449072 :         move32();
    6715      449072 :         re[sx * i + sx * 2 * dim1] = L_sub( s04, s06 );
    6716      449072 :         move32();
    6717      449072 :         im[sx * i + sx * 2 * dim1] = L_sub( s05, s07 );
    6718      449072 :         move32();
    6719      449072 :         re[sx * i + sx * 3 * dim1] = L_add( s08, s14 );
    6720      449072 :         move32();
    6721      449072 :         im[sx * i + sx * 3 * dim1] = L_add( s09, s15 );
    6722      449072 :         move32();
    6723      449072 :         re[sx * i + sx * 4 * dim1] = L_sub( s00, s02 );
    6724      449072 :         move32();
    6725      449072 :         im[sx * i + sx * 4 * dim1] = L_sub( s01, s03 );
    6726      449072 :         move32();
    6727      449072 :         re[sx * i + sx * 5 * dim1] = L_sub( s10, s12 );
    6728      449072 :         move32();
    6729      449072 :         im[sx * i + sx * 5 * dim1] = L_sub( s11, s13 );
    6730      449072 :         move32();
    6731      449072 :         re[sx * i + sx * 6 * dim1] = L_add( s04, s06 );
    6732      449072 :         move32();
    6733      449072 :         im[sx * i + sx * 6 * dim1] = L_add( s05, s07 );
    6734      449072 :         move32();
    6735      449072 :         re[sx * i + sx * 7 * dim1] = L_sub( s08, s14 );
    6736      449072 :         move32();
    6737      449072 :         im[sx * i + sx * 7 * dim1] = L_sub( s09, s15 );
    6738      449072 :         move32();
    6739             :     }
    6740             : 
    6741       56134 :     return;
    6742             : }
    6743             : 
    6744             : 
    6745             : /*-----------------------------------------------------------------*
    6746             :  * BASOP_cfft()
    6747             :  *
    6748             :  * Complex valued FFT
    6749             :  *-----------------------------------------------------------------*/
    6750             : 
    6751       56134 : void BASOP_cfft(
    6752             :     Word32 *re,   /* i/o: real part                   */
    6753             :     Word32 *im,   /* i/o: imag part                   */
    6754             :     Word16 s,     /* i  : stride real and imag part   */
    6755             :     Word16 *scale /* i  : scalefactor                 */
    6756             : )
    6757             : {
    6758             :     Word32 x[2 * 64];
    6759             : 
    6760             :     /* FFT for len = FDNS_NPTS */
    6761       56134 :     BASOP_fftN2( re, im, RotVector_256, 8, 8, s, 8, x, 64 );
    6762       56134 :     s = add( *scale, SCALEFACTOR64 );
    6763             : 
    6764       56134 :     *scale = s;
    6765       56134 :     move16();
    6766             : 
    6767       56134 :     return;
    6768             : }
    6769             : 
    6770             : #undef WMC_TOOL_SKIP

Generated by: LCOV version 1.14