LCOV - code coverage report
Current view: top level - lib_com - fft.c (source / functions) Hit Total Coverage
Test: Coverage on main -- short test vectors @ 1ecb9137d23f3dad766c8f6f3eb1e829e795f071 Lines: 4304 4373 98.4 %
Date: 2025-10-29 06:44:26 Functions: 73 73 100.0 %

          Line data    Source code
       1             : /******************************************************************************************************
       2             : 
       3             :    (C) 2022-2025 IVAS codec Public Collaboration with portions copyright Dolby International AB, Ericsson AB,
       4             :    Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
       5             :    Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
       6             :    Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
       7             :    contributors to this repository. All Rights Reserved.
       8             : 
       9             :    This software is protected by copyright law and by international treaties.
      10             :    The IVAS codec Public Collaboration consisting of Dolby International AB, Ericsson AB,
      11             :    Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
      12             :    Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
      13             :    Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
      14             :    contributors to this repository retain full ownership rights in their respective contributions in
      15             :    the software. This notice grants no license of any kind, including but not limited to patent
      16             :    license, nor is any license granted by implication, estoppel or otherwise.
      17             : 
      18             :    Contributors are required to enter into the IVAS codec Public Collaboration agreement before making
      19             :    contributions.
      20             : 
      21             :    This software is provided "AS IS", without any express or implied warranties. The software is in the
      22             :    development stage. It is intended exclusively for experts who have experience with such software and
      23             :    solely for the purpose of inspection. All implied warranties of non-infringement, merchantability
      24             :    and fitness for a particular purpose are hereby disclaimed and excluded.
      25             : 
      26             :    Any dispute, controversy or claim arising under or in relation to providing this software shall be
      27             :    submitted to and settled by the final, binding jurisdiction of the courts of Munich, Germany in
      28             :    accordance with the laws of the Federal Republic of Germany excluding its conflict of law rules and
      29             :    the United Nations Convention on Contracts on the International Sales of Goods.
      30             : 
      31             : *******************************************************************************************************/
      32             : 
      33             : /*====================================================================================
      34             :     EVS Codec 3GPP TS26.443 Nov 04, 2021. Version 12.14.0 / 13.10.0 / 14.6.0 / 15.4.0 / 16.3.0
      35             :   ====================================================================================*/
      36             : 
      37             : #include <assert.h>
      38             : #include <stdint.h>
      39             : #include "options.h"
      40             : #ifdef DEBUGGING
      41             : #include "debug.h"
      42             : #endif
      43             : #include <math.h>
      44             : #include "cnst.h"
      45             : #include "prot.h"
      46             : #include "rom_com.h"
      47             : #include "wmc_auto.h"
      48             : 
      49             : #ifdef _MSC_VER
      50             : #pragma warning( disable : 4310 )
      51             : #endif
      52             : 
      53             : /*-----------------------------------------------------------------*
      54             :  * Local constants
      55             :  *-----------------------------------------------------------------*/
      56             : 
      57             : #define FFT_15PONIT_WNK1 0.55901699f /* EDCT & EMDCT constants */
      58             : #define FFT_15PONIT_WNK2 0.95105652f /* EDCT & EMDCT constants */
      59             : #define FFT_15PONIT_WNK3 0.58778525f /* EDCT & EMDCT constants */
      60             : #define FFT_15PONIT_WNK4 0.86602540f /* EDCT & EMDCT constants */
      61             : #define FFT_15PONIT_WNK5 0.25000000f /* EDCT & EMDCT constants */
      62             : 
      63             : /* FFT constants */
      64             : #define FFT_C31  -0.8660254037f
      65             : #define FFT_C51  0.9510565195f
      66             : #define FFT_C52  -1.5388417989f
      67             : #define FFT_C53  -0.3632712597f
      68             : #define FFT_C54  0.5590169895f
      69             : #define FFT_C55  -1.2500000000f
      70             : #define FFT_C61  0.8660254036f
      71             : #define FFT_C81  0.7071067811f
      72             : #define FFT_C82  -0.7071067811f
      73             : #define FFT_C161 0.7071067811f
      74             : #define FFT_C162 -0.7071067811f
      75             : #define FFT_C163 0.9238795325f
      76             : #define FFT_C164 -0.9238795325f
      77             : #define FFT_C165 0.3826834323f
      78             : #define FFT_C166 -0.3826834323f
      79             : 
      80             : 
      81             : /*-----------------------------------------------------------------*
      82             :  * Local function prototypes
      83             :  *-----------------------------------------------------------------*/
      84             : 
      85             : static void cdftForw( int16_t n, float *a, const int16_t *ip, const float *w );
      86             : static void bitrv2_SR( int16_t n, const int16_t *ip, float *a );
      87             : static void cftfsub( int16_t n, float *a, const float *w );
      88             : static void cft1st( int16_t n, float *a, const float *w );
      89             : static void cftmdl( int16_t n, int16_t l, float *a, const float *w );
      90             : static void fft16( float *x, float *y, const int16_t *Idx );
      91             : static void fft5_shift1( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      92             : static void fft8( float *x, float *y, const int16_t *Idx );
      93             : static void fft15_shift2( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      94             : static void fft15_shift8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      95             : static void fft5_shift4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
      96             : static void fft5_32( float *zRe, float *zIm, const int16_t *Idx );
      97             : static void fft64( float *x, float *y, const int16_t *Idx );
      98             : static void fft32_15( float *x, float *y, const int16_t *Idx );
      99             : static void fft32_5( float *x, float *y, const int16_t *Idx );
     100             : static void fft8_5( float *x, float *y, const int16_t *Idx );
     101             : static void fft5_8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
     102             : static void fft4_5( float *x, float *y, const int16_t *Idx );
     103             : static void fft5_4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
     104             : 
     105    12248256 : static float fmac( float a, float b, float c )
     106             : {
     107    12248256 :     return ( ( ( a ) * ( b ) ) + ( c ) );
     108             : }
     109             : 
     110    44910272 : static float fnms( float a, float b, float c )
     111             : {
     112    44910272 :     return ( ( c ) - ( ( a ) * ( b ) ) );
     113             : }
     114             : 
     115             : /*-----------------------------------------------------------------*
     116             :  * fft15_shift2()
     117             :  * 15-point FFT with 2-point circular shift
     118             :  *-----------------------------------------------------------------*/
     119             : 
     120       18176 : static void fft15_shift2(
     121             :     int16_t n1,        /* i  : length of data                           */
     122             :     float *zRe,        /* i/o: real part of input and output data       */
     123             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     124             :     const int16_t *Idx /* i  : pointer of the address table             */
     125             : )
     126             : {
     127             :     int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
     128             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
     129             :     float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
     130             :     float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
     131             :     float f2i13, f2i14, f2i15, f2i16, f2i17, f2i18, f2i19, f2i20, f2i21, f2i22, f2i23, f2i24;
     132             :     float f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9, f3i10, f3i11, f3i12, f3i13, f3i14, f3i15;
     133             :     float f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
     134             :     float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, f4i16, f4i17, f4i18, f4i19, f4i20, fo1, fo2, fo3, fo4;
     135             :     float fo5, fo6, fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, fo16, fo17, fo18;
     136             :     float f2o1, f2o2, f2o3, f2o4, f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13;
     137             :     float f2o14, f2o15, f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11;
     138             :     float f3o12, f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6;
     139             :     float f4o7, f4o8, f4o9, f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f4o16, f4o17, f4o18, f4o19;
     140             : 
     141       18176 :     in0 = Idx[0];
     142       18176 :     in8 = Idx[n1];
     143       18176 :     in16 = Idx[n1 * 2];
     144       18176 :     in24 = Idx[n1 * 3];
     145       18176 :     in32 = Idx[n1 * 4];
     146       18176 :     in1 = Idx[n1 * 5];
     147       18176 :     in9 = Idx[n1 * 6];
     148       18176 :     in17 = Idx[n1 * 7];
     149       18176 :     in25 = Idx[n1 * 8];
     150       18176 :     in33 = Idx[n1 * 9];
     151       18176 :     in2 = Idx[n1 * 10];
     152       18176 :     in10 = Idx[n1 * 11];
     153       18176 :     in18 = Idx[n1 * 12];
     154       18176 :     in26 = Idx[n1 * 13];
     155       18176 :     in34 = Idx[n1 * 14];
     156             : 
     157       18176 :     f2i13 = zRe[in0];
     158       18176 :     f2i14 = zIm[in0];
     159       18176 :     f2i21 = zRe[in1];
     160       18176 :     f2i22 = zRe[in2];
     161       18176 :     f2i23 = zIm[in1];
     162       18176 :     f2i24 = zIm[in2];
     163             : 
     164       18176 :     f2i15 = f2i21 + f2i22;
     165       18176 :     f2i16 = FFT_15PONIT_WNK4 * ( f2i22 - f2i21 );
     166       18176 :     f2i17 = FFT_15PONIT_WNK4 * ( f2i23 - f2i24 );
     167       18176 :     f2i18 = f2i23 + f2i24;
     168       18176 :     fi1 = f2i13 + f2i15;
     169       18176 :     fi2 = f2i14 + f2i18;
     170             : 
     171       18176 :     f2i19 = fnms( 0.5f, f2i15, f2i13 );
     172       18176 :     f2i20 = fnms( 0.5f, f2i18, f2i14 );
     173       18176 :     fi3 = f2i19 - f2i17;
     174       18176 :     fi4 = f2i19 + f2i17;
     175       18176 :     fi5 = f2i16 + f2i20;
     176       18176 :     fi6 = f2i20 - f2i16;
     177             : 
     178       18176 :     f3i1 = zRe[in9];
     179       18176 :     f4i2 = zRe[in10];
     180       18176 :     f4i3 = zRe[in8];
     181       18176 :     f3i2 = f4i2 + f4i3;
     182       18176 :     f3i3 = fnms( 0.5f, f3i2, f3i1 );
     183       18176 :     f3i4 = FFT_15PONIT_WNK4 * ( f4i3 - f4i2 );
     184             : 
     185       18176 :     f3i5 = zIm[in9];
     186       18176 :     f4i4 = zIm[in10];
     187       18176 :     f4i5 = zIm[in8];
     188       18176 :     f3i6 = f4i4 + f4i5;
     189       18176 :     f3i7 = FFT_15PONIT_WNK4 * ( f4i4 - f4i5 );
     190       18176 :     f3i8 = fnms( 0.5f, f3i6, f3i5 );
     191             : 
     192       18176 :     f3i9 = zRe[in33];
     193       18176 :     f4i6 = zRe[in34];
     194       18176 :     f4i7 = zRe[in32];
     195       18176 :     f3i10 = f4i6 + f4i7;
     196       18176 :     f3i11 = fnms( 0.5f, f3i10, f3i9 );
     197       18176 :     f3i12 = FFT_15PONIT_WNK4 * ( f4i7 - f4i6 );
     198             : 
     199       18176 :     f3i13 = zIm[in33];
     200       18176 :     f4i8 = zIm[in34];
     201       18176 :     f4i9 = zIm[in32];
     202       18176 :     f3i14 = f4i8 + f4i9;
     203       18176 :     f3i15 = FFT_15PONIT_WNK4 * ( f4i8 - f4i9 );
     204       18176 :     f4i1 = fnms( 0.5f, f3i14, f3i13 );
     205             : 
     206       18176 :     fi7 = f3i1 + f3i2;
     207       18176 :     fi8 = f3i9 + f3i10;
     208       18176 :     fi9 = fi7 + fi8;
     209       18176 :     fi10 = f3i3 - f3i7;
     210       18176 :     fi11 = f3i11 - f3i15;
     211       18176 :     fi12 = fi10 + fi11;
     212       18176 :     fi13 = f3i5 + f3i6;
     213       18176 :     fi14 = f3i13 + f3i14;
     214       18176 :     fi15 = fi13 + fi14;
     215       18176 :     fi16 = f3i8 - f3i4;
     216       18176 :     fi17 = f4i1 - f3i12;
     217       18176 :     fi18 = fi16 + fi17;
     218       18176 :     fi19 = f3i4 + f3i8;
     219       18176 :     fi20 = f3i12 + f4i1;
     220       18176 :     fi21 = fi19 + fi20;
     221       18176 :     fi22 = f3i3 + f3i7;
     222       18176 :     fi23 = f3i11 + f3i15;
     223       18176 :     fi24 = fi22 + fi23;
     224             : 
     225       18176 :     f4i10 = zRe[in24];
     226       18176 :     fo6 = zRe[in25];
     227       18176 :     fo7 = zRe[in26];
     228       18176 :     f4i11 = fo6 + fo7;
     229       18176 :     f4i12 = fnms( 0.5f, f4i11, f4i10 );
     230       18176 :     f4i13 = FFT_15PONIT_WNK4 * ( fo7 - fo6 );
     231             : 
     232       18176 :     f4i14 = zIm[in24];
     233       18176 :     fo8 = zIm[in25];
     234       18176 :     fo9 = zIm[in26];
     235       18176 :     f4i15 = fo8 + fo9;
     236       18176 :     f4i16 = FFT_15PONIT_WNK4 * ( fo8 - fo9 );
     237       18176 :     f4i17 = fnms( 0.5f, f4i15, f4i14 );
     238             : 
     239       18176 :     f4i18 = zRe[in18];
     240       18176 :     f2o10 = zRe[in16];
     241       18176 :     f2o11 = zRe[in17];
     242       18176 :     f4i19 = f2o10 + f2o11;
     243       18176 :     f4i20 = fnms( 0.5f, f4i19, f4i18 );
     244       18176 :     fo1 = FFT_15PONIT_WNK4 * ( f2o11 - f2o10 );
     245             : 
     246       18176 :     fo2 = zIm[in18];
     247       18176 :     f2o12 = zIm[in16];
     248       18176 :     f2o13 = zIm[in17];
     249       18176 :     fo3 = f2o12 + f2o13;
     250       18176 :     fo4 = FFT_15PONIT_WNK4 * ( f2o12 - f2o13 );
     251       18176 :     fo5 = fnms( 0.5f, fo3, fo2 );
     252             : 
     253       18176 :     fi25 = f4i10 + f4i11;
     254       18176 :     fi26 = f4i18 + f4i19;
     255       18176 :     fi27 = fi25 + fi26;
     256       18176 :     fi28 = f4i12 - f4i16;
     257       18176 :     fi29 = f4i20 - fo4;
     258       18176 :     fi30 = fi28 + fi29;
     259       18176 :     f2i1 = f4i14 + f4i15;
     260       18176 :     f2i2 = fo2 + fo3;
     261       18176 :     f2i3 = f2i1 + f2i2;
     262       18176 :     f2i4 = f4i17 - f4i13;
     263       18176 :     f2i5 = fo5 - fo1;
     264       18176 :     f2i6 = f2i4 + f2i5;
     265       18176 :     f2i7 = f4i13 + f4i17;
     266       18176 :     f2i8 = fo1 + fo5;
     267       18176 :     f2i9 = f2i7 + f2i8;
     268       18176 :     f2i10 = f4i12 + f4i16;
     269       18176 :     f2i11 = f4i20 + fo4;
     270       18176 :     f2i12 = f2i10 + f2i11;
     271             : 
     272       18176 :     fo10 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
     273       18176 :     fo11 = fi27 + fi9;
     274       18176 :     fo12 = fnms( FFT_15PONIT_WNK5, fo11, fi1 );
     275       18176 :     fo15 = fi13 - fi14;
     276       18176 :     fo16 = f2i1 - f2i2;
     277       18176 :     fo13 = fnms( FFT_15PONIT_WNK3, fo16, FFT_15PONIT_WNK2 * fo15 );
     278       18176 :     fo14 = fmac( FFT_15PONIT_WNK2, fo16, FFT_15PONIT_WNK3 * fo15 );
     279             : 
     280       18176 :     zRe[in0] = fi1 + fo11;
     281       18176 :     fo17 = fo10 + fo12;
     282       18176 :     zRe[in18] = fo17 - fo14;
     283       18176 :     zRe[in24] = fo17 + fo14;
     284       18176 :     fo18 = fo12 - fo10;
     285       18176 :     zRe[in9] = fo18 - fo13;
     286       18176 :     zRe[in33] = fo18 + fo13;
     287             : 
     288       18176 :     f2o1 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
     289       18176 :     f2o2 = f2i3 + fi15;
     290       18176 :     f2o3 = fnms( FFT_15PONIT_WNK5, f2o2, fi2 );
     291       18176 :     f2o6 = fi7 - fi8;
     292       18176 :     f2o7 = fi25 - fi26;
     293       18176 :     f2o4 = fnms( FFT_15PONIT_WNK3, f2o7, FFT_15PONIT_WNK2 * f2o6 );
     294       18176 :     f2o5 = fmac( FFT_15PONIT_WNK2, f2o7, FFT_15PONIT_WNK3 * f2o6 );
     295       18176 :     zIm[in0] = fi2 + f2o2;
     296       18176 :     f2o8 = f2o1 + f2o3;
     297       18176 :     zIm[in24] = f2o8 - f2o5;
     298       18176 :     zIm[in18] = f2o5 + f2o8;
     299       18176 :     f2o9 = f2o3 - f2o1;
     300       18176 :     zIm[in33] = f2o9 - f2o4;
     301       18176 :     zIm[in9] = f2o4 + f2o9;
     302             : 
     303       18176 :     f2o14 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
     304       18176 :     f2o15 = fi30 + fi12;
     305       18176 :     f3o1 = fnms( FFT_15PONIT_WNK5, f2o15, fi3 );
     306       18176 :     f3o4 = fi16 - fi17;
     307       18176 :     f3o5 = f2i4 - f2i5;
     308       18176 :     f3o2 = fnms( FFT_15PONIT_WNK3, f3o5, FFT_15PONIT_WNK2 * f3o4 );
     309       18176 :     f3o3 = fmac( FFT_15PONIT_WNK2, f3o5, FFT_15PONIT_WNK3 * f3o4 );
     310       18176 :     zRe[in2] = fi3 + f2o15;
     311       18176 :     f3o6 = f2o14 + f3o1;
     312       18176 :     zRe[in17] = f3o6 - f3o3;
     313       18176 :     zRe[in26] = f3o6 + f3o3;
     314       18176 :     f3o7 = f3o1 - f2o14;
     315       18176 :     zRe[in8] = f3o7 - f3o2;
     316       18176 :     zRe[in32] = f3o7 + f3o2;
     317             : 
     318       18176 :     f3o8 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
     319       18176 :     f3o9 = f2i6 + fi18;
     320       18176 :     f3o10 = fnms( FFT_15PONIT_WNK5, f3o9, fi6 );
     321       18176 :     f3o13 = fi10 - fi11;
     322       18176 :     f3o14 = fi28 - fi29;
     323       18176 :     f3o11 = fnms( FFT_15PONIT_WNK3, f3o14, FFT_15PONIT_WNK2 * f3o13 );
     324       18176 :     f3o12 = fmac( FFT_15PONIT_WNK2, f3o14, FFT_15PONIT_WNK3 * f3o13 );
     325       18176 :     zIm[in2] = fi6 + f3o9;
     326       18176 :     f3o15 = f3o8 + f3o10;
     327       18176 :     zIm[in26] = f3o15 - f3o12;
     328       18176 :     zIm[in17] = f3o12 + f3o15;
     329       18176 :     f4o1 = f3o10 - f3o8;
     330       18176 :     zIm[in8] = f3o11 + f4o1;
     331       18176 :     zIm[in32] = f4o1 - f3o11;
     332             : 
     333       18176 :     f4o2 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
     334       18176 :     f4o3 = f2i9 + fi21;
     335       18176 :     f4o4 = fnms( FFT_15PONIT_WNK5, f4o3, fi5 );
     336       18176 :     f4o7 = f2i10 - f2i11;
     337       18176 :     f4o8 = fi22 - fi23;
     338       18176 :     f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o8 );
     339       18176 :     f4o6 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o8 );
     340       18176 :     zIm[in1] = fi5 + f4o3;
     341       18176 :     f4o9 = f4o4 - f4o2;
     342       18176 :     f4o10 = f4o2 + f4o4;
     343             : 
     344       18176 :     zIm[in10] = f4o6 + f4o9;
     345       18176 :     zIm[in34] = f4o9 - f4o6;
     346       18176 :     zIm[in25] = f4o10 - f4o5;
     347       18176 :     zIm[in16] = f4o5 + f4o10;
     348             : 
     349       18176 :     f4o11 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
     350       18176 :     f4o12 = f2i12 + fi24;
     351       18176 :     f4o13 = fnms( FFT_15PONIT_WNK5, f4o12, fi4 );
     352       18176 :     f4o16 = f2i7 - f2i8;
     353       18176 :     f4o17 = fi19 - fi20;
     354       18176 :     f4o14 = fmac( FFT_15PONIT_WNK2, f4o16, FFT_15PONIT_WNK3 * f4o17 );
     355       18176 :     f4o15 = fnms( FFT_15PONIT_WNK3, f4o16, FFT_15PONIT_WNK2 * f4o17 );
     356       18176 :     zRe[in1] = fi4 + f4o12;
     357       18176 :     f4o18 = f4o13 - f4o11;
     358       18176 :     f4o19 = f4o11 + f4o13;
     359             : 
     360       18176 :     zRe[in10] = f4o18 - f4o15;
     361       18176 :     zRe[in34] = f4o18 + f4o15;
     362       18176 :     zRe[in16] = f4o19 - f4o14;
     363       18176 :     zRe[in25] = f4o19 + f4o14;
     364             : 
     365       18176 :     return;
     366             : }
     367             : 
     368             : /*-----------------------------------------------------------------*
     369             :  * fft15_shift8()
     370             :  * 15-point FFT with 8-point circular shift
     371             :  *-----------------------------------------------------------------*/
     372             : 
     373     2023200 : static void fft15_shift8(
     374             :     int16_t n1,        /* i  : length of data                           */
     375             :     float *zRe,        /* i/o: real part of input and output data       */
     376             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     377             :     const int16_t *Idx /* i  : pointer of the address table             */
     378             : )
     379             : {
     380             :     int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
     381             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
     382             :     float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
     383             :     float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
     384             :     float f2i13, f2i14, f2i15, f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9;
     385             :     float f3i10, f3i11, f3i12, f3i13, f3i14, f3i15, f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
     386             :     float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, fo1, fo2, fo3, fo4, fo5, fo6;
     387             :     float fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, f2o1, f2o2, f2o3, f2o4;
     388             :     float f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13, f2o14, f2o15;
     389             :     float f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11, f3o12;
     390             :     float f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6, f4o7, f4o8, f4o9;
     391             :     float f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f5o1, f5o2, f5o3, f5o4, f5o5, f5o6, f5o7;
     392             :     float f5o8, f5o9, f5o10, f5o11, f5o12, f5o13, f5o14, f5o15, f5o16, f5o17, f5o18, f5o19, f5o21, f5o22;
     393             : 
     394     2023200 :     in0 = Idx[0];
     395     2023200 :     in8 = Idx[n1];
     396     2023200 :     in16 = Idx[n1 * 2];
     397     2023200 :     in24 = Idx[n1 * 3];
     398     2023200 :     in32 = Idx[n1 * 4];
     399     2023200 :     in1 = Idx[n1 * 5];
     400     2023200 :     in9 = Idx[n1 * 6];
     401     2023200 :     in17 = Idx[n1 * 7];
     402     2023200 :     in25 = Idx[n1 * 8];
     403     2023200 :     in33 = Idx[n1 * 9];
     404     2023200 :     in2 = Idx[n1 * 10];
     405     2023200 :     in10 = Idx[n1 * 11];
     406     2023200 :     in18 = Idx[n1 * 12];
     407     2023200 :     in26 = Idx[n1 * 13];
     408     2023200 :     in34 = Idx[n1 * 14];
     409             : 
     410     2023200 :     f2i13 = zRe[in0];
     411     2023200 :     f2i14 = zIm[in0];
     412     2023200 :     f3i6 = zRe[in1];
     413     2023200 :     f3i7 = zRe[in2];
     414     2023200 :     f3i8 = zIm[in1];
     415     2023200 :     f3i9 = zIm[in2];
     416             : 
     417     2023200 :     f2i15 = f3i6 + f3i7;
     418     2023200 :     f3i1 = FFT_15PONIT_WNK4 * ( f3i7 - f3i6 );
     419     2023200 :     f3i2 = FFT_15PONIT_WNK4 * ( f3i8 - f3i9 );
     420     2023200 :     f3i3 = f3i8 + f3i9;
     421             : 
     422     2023200 :     fi1 = f2i13 + f2i15;
     423     2023200 :     fi2 = f2i14 + f3i3;
     424     2023200 :     f3i4 = fnms( 0.5f, f2i15, f2i13 );
     425     2023200 :     fi3 = f3i4 - f3i2;
     426     2023200 :     fi4 = f3i4 + f3i2;
     427     2023200 :     f3i5 = fnms( 0.5f, f3i3, f2i14 );
     428     2023200 :     fi5 = f3i1 + f3i5;
     429     2023200 :     fi6 = f3i5 - f3i1;
     430             : 
     431     2023200 :     f3i10 = zRe[in9];
     432     2023200 :     f4i11 = zRe[in10];
     433     2023200 :     f4i12 = zRe[in8];
     434     2023200 :     f3i14 = zIm[in9];
     435     2023200 :     f4i13 = zIm[in10];
     436     2023200 :     f4i14 = zIm[in8];
     437     2023200 :     f4i3 = zRe[in33];
     438     2023200 :     f4i15 = zRe[in34];
     439     2023200 :     fo1 = zRe[in32];
     440     2023200 :     f4i7 = zIm[in33];
     441     2023200 :     fo2 = zIm[in34];
     442     2023200 :     fo3 = zIm[in32];
     443             : 
     444             : 
     445     2023200 :     f3i11 = f4i11 + f4i12;
     446     2023200 :     f3i12 = fnms( 0.5f, f3i11, f3i10 );
     447     2023200 :     f3i13 = FFT_15PONIT_WNK4 * ( f4i12 - f4i11 );
     448     2023200 :     f3i15 = f4i13 + f4i14;
     449     2023200 :     f4i1 = FFT_15PONIT_WNK4 * ( f4i13 - f4i14 );
     450     2023200 :     f4i2 = fnms( 0.5f, f3i15, f3i14 );
     451     2023200 :     f4i4 = f4i15 + fo1;
     452     2023200 :     f4i5 = fnms( 0.5f, f4i4, f4i3 );
     453     2023200 :     f4i6 = FFT_15PONIT_WNK4 * ( fo1 - f4i15 );
     454     2023200 :     f4i8 = fo2 + fo3;
     455     2023200 :     f4i9 = FFT_15PONIT_WNK4 * ( fo2 - fo3 );
     456     2023200 :     f4i10 = fnms( 0.5f, f4i8, f4i7 );
     457             : 
     458     2023200 :     fi7 = f3i10 + f3i11;
     459     2023200 :     fi8 = f4i3 + f4i4;
     460     2023200 :     fi9 = fi7 + fi8;
     461     2023200 :     fi10 = f3i12 - f4i1;
     462     2023200 :     fi11 = f4i5 - f4i9;
     463     2023200 :     fi12 = fi10 + fi11;
     464     2023200 :     fi13 = f3i14 + f3i15;
     465     2023200 :     fi14 = f4i7 + f4i8;
     466     2023200 :     fi15 = fi13 + fi14;
     467     2023200 :     fi16 = f4i2 - f3i13;
     468     2023200 :     fi17 = f4i10 - f4i6;
     469     2023200 :     fi18 = fi16 + fi17;
     470     2023200 :     fi19 = f3i13 + f4i2;
     471     2023200 :     fi20 = f4i6 + f4i10;
     472     2023200 :     fi21 = fi19 + fi20;
     473     2023200 :     fi22 = f3i12 + f4i1;
     474     2023200 :     fi23 = f4i5 + f4i9;
     475     2023200 :     fi24 = fi22 + fi23;
     476             : 
     477     2023200 :     fo4 = zRe[in24];
     478     2023200 :     f2o5 = zRe[in25];
     479     2023200 :     f2o6 = zRe[in26];
     480     2023200 :     fo8 = zIm[in24];
     481     2023200 :     f2o7 = zIm[in25];
     482     2023200 :     f2o8 = zIm[in26];
     483     2023200 :     fo12 = zRe[in18];
     484     2023200 :     f2o9 = zRe[in16];
     485     2023200 :     f2o10 = zRe[in17];
     486     2023200 :     f2o1 = zIm[in18];
     487     2023200 :     f2o11 = zIm[in16];
     488     2023200 :     f2o12 = zIm[in17];
     489             : 
     490             : 
     491     2023200 :     fo5 = f2o5 + f2o6;
     492     2023200 :     fo6 = fnms( 0.5f, fo5, fo4 );
     493     2023200 :     fo7 = FFT_15PONIT_WNK4 * ( f2o6 - f2o5 );
     494     2023200 :     fo9 = f2o7 + f2o8;
     495     2023200 :     fo10 = FFT_15PONIT_WNK4 * ( f2o7 - f2o8 );
     496     2023200 :     fo11 = fnms( 0.5f, fo9, fo8 );
     497     2023200 :     fo13 = f2o9 + f2o10;
     498     2023200 :     fo14 = fnms( 0.5f, fo13, fo12 );
     499     2023200 :     fo15 = FFT_15PONIT_WNK4 * ( f2o10 - f2o9 );
     500     2023200 :     f2o2 = f2o11 + f2o12;
     501     2023200 :     f2o3 = FFT_15PONIT_WNK4 * ( f2o11 - f2o12 );
     502     2023200 :     f2o4 = fnms( 0.5f, f2o2, f2o1 );
     503             : 
     504     2023200 :     fi25 = fo4 + fo5;
     505     2023200 :     fi26 = fo12 + fo13;
     506     2023200 :     fi27 = fi25 + fi26;
     507     2023200 :     fi28 = fo6 - fo10;
     508     2023200 :     fi29 = fo14 - f2o3;
     509     2023200 :     fi30 = fi28 + fi29;
     510     2023200 :     f2i1 = fo8 + fo9;
     511     2023200 :     f2i2 = f2o1 + f2o2;
     512     2023200 :     f2i3 = f2i1 + f2i2;
     513     2023200 :     f2i4 = fo11 - fo7;
     514     2023200 :     f2i5 = f2o4 - fo15;
     515     2023200 :     f2i6 = f2i4 + f2i5;
     516     2023200 :     f2i7 = fo7 + fo11;
     517     2023200 :     f2i8 = fo15 + f2o4;
     518     2023200 :     f2i9 = f2i7 + f2i8;
     519     2023200 :     f2i10 = fo6 + fo10;
     520     2023200 :     f2i11 = fo14 + f2o3;
     521     2023200 :     f2i12 = f2i10 + f2i11;
     522             : 
     523     2023200 :     f2o13 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
     524     2023200 :     f2o14 = fi27 + fi9;
     525     2023200 :     f2o15 = fnms( FFT_15PONIT_WNK5, f2o14, fi1 );
     526     2023200 :     f3o3 = fi13 - fi14;
     527     2023200 :     f3o4 = f2i1 - f2i2;
     528     2023200 :     f3o1 = fnms( FFT_15PONIT_WNK3, f3o4, FFT_15PONIT_WNK2 * f3o3 );
     529     2023200 :     f3o2 = fmac( FFT_15PONIT_WNK2, f3o4, FFT_15PONIT_WNK3 * f3o3 );
     530     2023200 :     zRe[in0] = fi1 + f2o14;
     531     2023200 :     f3o5 = f2o13 + f2o15;
     532     2023200 :     zRe[in24] = f3o5 - f3o2;
     533     2023200 :     zRe[in18] = f3o5 + f3o2;
     534     2023200 :     f3o6 = f2o15 - f2o13;
     535     2023200 :     zRe[in33] = f3o6 - f3o1;
     536     2023200 :     zRe[in9] = f3o6 + f3o1;
     537             : 
     538     2023200 :     f3o7 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
     539     2023200 :     f3o8 = f2i3 + fi15;
     540     2023200 :     f3o9 = fnms( FFT_15PONIT_WNK5, f3o8, fi2 );
     541     2023200 :     f3o12 = fi7 - fi8;
     542     2023200 :     f3o13 = fi25 - fi26;
     543     2023200 :     f3o10 = fnms( FFT_15PONIT_WNK3, f3o13, FFT_15PONIT_WNK2 * f3o12 );
     544     2023200 :     f3o11 = fmac( FFT_15PONIT_WNK2, f3o13, FFT_15PONIT_WNK3 * f3o12 );
     545     2023200 :     zIm[in0] = fi2 + f3o8;
     546     2023200 :     f3o14 = f3o7 + f3o9;
     547     2023200 :     zIm[in18] = f3o14 - f3o11;
     548     2023200 :     zIm[in24] = f3o11 + f3o14;
     549     2023200 :     f3o15 = f3o9 - f3o7;
     550     2023200 :     zIm[in9] = f3o15 - f3o10;
     551     2023200 :     zIm[in33] = f3o10 + f3o15;
     552             : 
     553     2023200 :     f4o1 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
     554     2023200 :     f4o2 = fi30 + fi12;
     555     2023200 :     f4o3 = fnms( FFT_15PONIT_WNK5, f4o2, fi3 );
     556     2023200 :     f4o6 = fi16 - fi17;
     557     2023200 :     f4o7 = f2i4 - f2i5;
     558     2023200 :     f4o4 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o6 );
     559     2023200 :     f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o6 );
     560     2023200 :     zRe[in2] = fi3 + f4o2;
     561     2023200 :     f4o8 = f4o1 + f4o3;
     562     2023200 :     zRe[in26] = f4o8 - f4o5;
     563     2023200 :     zRe[in17] = f4o8 + f4o5;
     564     2023200 :     f4o9 = f4o3 - f4o1;
     565     2023200 :     zRe[in32] = f4o9 - f4o4;
     566     2023200 :     zRe[in8] = f4o9 + f4o4;
     567             : 
     568     2023200 :     f4o10 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
     569     2023200 :     f4o11 = f2i6 + fi18;
     570     2023200 :     f4o12 = fnms( FFT_15PONIT_WNK5, f4o11, fi6 );
     571     2023200 :     f4o15 = fi10 - fi11;
     572     2023200 :     f5o1 = fi28 - fi29;
     573     2023200 :     f4o13 = fnms( FFT_15PONIT_WNK3, f5o1, FFT_15PONIT_WNK2 * f4o15 );
     574     2023200 :     f4o14 = fmac( FFT_15PONIT_WNK2, f5o1, FFT_15PONIT_WNK3 * f4o15 );
     575     2023200 :     zIm[in2] = fi6 + f4o11;
     576     2023200 :     f5o2 = f4o10 + f4o12;
     577     2023200 :     zIm[in17] = f5o2 - f4o14;
     578     2023200 :     zIm[in26] = f4o14 + f5o2;
     579     2023200 :     f5o3 = f4o12 - f4o10;
     580     2023200 :     zIm[in32] = f4o13 + f5o3;
     581     2023200 :     zIm[in8] = f5o3 - f4o13;
     582             : 
     583     2023200 :     f5o4 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
     584     2023200 :     f5o5 = f2i9 + fi21;
     585     2023200 :     f5o6 = fnms( FFT_15PONIT_WNK5, f5o5, fi5 );
     586     2023200 :     f5o9 = f2i10 - f2i11;
     587     2023200 :     f5o10 = fi22 - fi23;
     588     2023200 :     f5o7 = fmac( FFT_15PONIT_WNK2, f5o9, FFT_15PONIT_WNK3 * f5o10 );
     589     2023200 :     f5o8 = fnms( FFT_15PONIT_WNK3, f5o9, FFT_15PONIT_WNK2 * f5o10 );
     590     2023200 :     zIm[in1] = fi5 + f5o5;
     591     2023200 :     f5o11 = f5o6 - f5o4;
     592     2023200 :     f5o12 = f5o4 + f5o6;
     593     2023200 :     zIm[in34] = f5o8 + f5o11;
     594     2023200 :     zIm[in10] = f5o11 - f5o8;
     595             : 
     596     2023200 :     zIm[in16] = f5o12 - f5o7;
     597     2023200 :     zIm[in25] = f5o7 + f5o12;
     598             : 
     599     2023200 :     f5o13 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
     600     2023200 :     f5o14 = f2i12 + fi24;
     601     2023200 :     f5o15 = fnms( FFT_15PONIT_WNK5, f5o14, fi4 );
     602     2023200 :     f5o18 = f2i7 - f2i8;
     603     2023200 :     f5o19 = fi19 - fi20;
     604     2023200 :     f5o16 = fmac( FFT_15PONIT_WNK2, f5o18, FFT_15PONIT_WNK3 * f5o19 );
     605     2023200 :     f5o17 = fnms( FFT_15PONIT_WNK3, f5o18, FFT_15PONIT_WNK2 * f5o19 );
     606     2023200 :     zRe[in1] = fi4 + f5o14;
     607     2023200 :     f5o21 = f5o15 - f5o13;
     608     2023200 :     f5o22 = f5o13 + f5o15;
     609             : 
     610     2023200 :     zRe[in34] = f5o21 - f5o17;
     611     2023200 :     zRe[in10] = f5o21 + f5o17;
     612     2023200 :     zRe[in25] = f5o22 - f5o16;
     613     2023200 :     zRe[in16] = f5o22 + f5o16;
     614             : 
     615     2023200 :     return;
     616             : }
     617             : 
     618             : /*-----------------------------------------------------------------*
     619             :  * fft5_shift1()
     620             :  * 5-point FFT with 1-point circular shift
     621             :  *-----------------------------------------------------------------*/
     622             : 
     623     1669376 : static void fft5_shift1(
     624             :     int16_t n1,        /* i  : length of data                           */
     625             :     float *zRe,        /* i/o: real part of input and output data       */
     626             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     627             :     const int16_t *Idx /* i  : pointer of the address table             */
     628             : )
     629             : {
     630             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
     631             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
     632             :     int16_t in1, in2, in3, in4, in5;
     633             : 
     634     1669376 :     in1 = Idx[0];
     635     1669376 :     in2 = Idx[n1];
     636     1669376 :     in3 = Idx[n1 * 2];
     637     1669376 :     in4 = Idx[n1 * 3];
     638     1669376 :     in5 = Idx[n1 * 4];
     639             : 
     640     1669376 :     fi1 = zRe[in1];
     641     1669376 :     fi2 = zIm[in1];
     642     1669376 :     fo3 = zRe[in2];
     643     1669376 :     fo4 = zRe[in5];
     644     1669376 :     fo6 = zRe[in3];
     645     1669376 :     fo7 = zRe[in4];
     646             : 
     647     1669376 :     fo5 = fo3 + fo4;
     648     1669376 :     fo8 = fo6 + fo7;
     649     1669376 :     fi3 = fo5 + fo8;
     650     1669376 :     fi4 = fo6 - fo7;
     651     1669376 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     652     1669376 :     fi6 = fo3 - fo4;
     653             : 
     654     1669376 :     fo3 = zIm[in2];
     655     1669376 :     fo4 = zIm[in5];
     656     1669376 :     fo6 = zIm[in3];
     657     1669376 :     fo7 = zIm[in4];
     658             : 
     659     1669376 :     fo5 = fo3 + fo4;
     660     1669376 :     fo8 = fo6 + fo7;
     661     1669376 :     fi7 = fo3 - fo4;
     662     1669376 :     fi8 = fo5 + fo8;
     663     1669376 :     fo1 = fo6 - fo7;
     664     1669376 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     665             : 
     666     1669376 :     zRe[in1] = fi1 + fi3;
     667     1669376 :     zIm[in1] = fi2 + fi8;
     668             : 
     669     1669376 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
     670     1669376 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
     671     1669376 :     fo7 = fi1 - fi3 / 4;
     672     1669376 :     fo5 = fi5 + fo7;
     673     1669376 :     fo6 = fo7 - fi5;
     674             : 
     675     1669376 :     zRe[in2] = fo5 + fo3;
     676     1669376 :     zRe[in3] = fo6 - fo4;
     677     1669376 :     zRe[in4] = fo6 + fo4;
     678     1669376 :     zRe[in5] = fo5 - fo3;
     679             : 
     680     1669376 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
     681     1669376 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
     682     1669376 :     fo7 = fi2 - fi8 / 4;
     683     1669376 :     fo5 = fo2 + fo7;
     684     1669376 :     fo6 = fo7 - fo2;
     685             : 
     686     1669376 :     zIm[in2] = fo5 - fo3;
     687     1669376 :     zIm[in3] = fo4 + fo6;
     688     1669376 :     zIm[in4] = fo6 - fo4;
     689     1669376 :     zIm[in5] = fo3 + fo5;
     690             : 
     691     1669376 :     return;
     692             : }
     693             : 
     694             : /*-----------------------------------------------------------------*
     695             :  * fft5_shift4()
     696             :  * 5-point FFT with 4-point circular shift
     697             :  *-----------------------------------------------------------------*/
     698             : 
     699   107415360 : static void fft5_shift4(
     700             :     int16_t n1,        /* i  : length of data                           */
     701             :     float *zRe,        /* i/o: real part of input and output data       */
     702             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     703             :     const int16_t *Idx /* i  : pointer of the address table             */
     704             : )
     705             : {
     706             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
     707             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
     708             :     int16_t in1, in2, in3, in4, in5;
     709             : 
     710   107415360 :     in1 = Idx[0];
     711   107415360 :     in2 = Idx[n1];
     712   107415360 :     in3 = Idx[n1 * 2];
     713   107415360 :     in4 = Idx[n1 * 3];
     714   107415360 :     in5 = Idx[n1 * 4];
     715             : 
     716   107415360 :     fi1 = zRe[in1];
     717   107415360 :     fi2 = zIm[in1];
     718   107415360 :     fo3 = zRe[in2];
     719   107415360 :     fo4 = zRe[in5];
     720   107415360 :     fo6 = zRe[in3];
     721   107415360 :     fo7 = zRe[in4];
     722             : 
     723   107415360 :     fo5 = fo3 + fo4;
     724   107415360 :     fo8 = fo6 + fo7;
     725   107415360 :     fi3 = fo5 + fo8;
     726   107415360 :     fi4 = fo6 - fo7;
     727   107415360 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     728   107415360 :     fi6 = fo3 - fo4;
     729             : 
     730   107415360 :     fo3 = zIm[in2];
     731   107415360 :     fo4 = zIm[in5];
     732   107415360 :     fo6 = zIm[in3];
     733   107415360 :     fo7 = zIm[in4];
     734             : 
     735   107415360 :     fo5 = fo3 + fo4;
     736   107415360 :     fo8 = fo6 + fo7;
     737   107415360 :     fi7 = fo3 - fo4;
     738   107415360 :     fi8 = fo5 + fo8;
     739   107415360 :     fo1 = fo6 - fo7;
     740   107415360 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     741             : 
     742   107415360 :     zRe[in1] = fi1 + fi3;
     743   107415360 :     zIm[in1] = fi2 + fi8;
     744             : 
     745   107415360 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
     746   107415360 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
     747   107415360 :     fo7 = fi1 - fi3 / 4;
     748   107415360 :     fo5 = fi5 + fo7;
     749   107415360 :     fo6 = fo7 - fi5;
     750   107415360 :     zRe[in2] = fo5 - fo3;
     751   107415360 :     zRe[in4] = fo6 - fo4;
     752   107415360 :     zRe[in3] = fo6 + fo4;
     753   107415360 :     zRe[in5] = fo5 + fo3;
     754             : 
     755   107415360 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
     756   107415360 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
     757   107415360 :     fo7 = fi2 - fi8 / 4;
     758   107415360 :     fo5 = fo2 + fo7;
     759   107415360 :     fo6 = fo7 - fo2;
     760             : 
     761   107415360 :     zIm[in3] = fo6 - fo4;
     762   107415360 :     zIm[in2] = fo3 + fo5;
     763   107415360 :     zIm[in4] = fo4 + fo6;
     764   107415360 :     zIm[in5] = fo5 - fo3;
     765             : 
     766   107415360 :     return;
     767             : }
     768             : 
     769             : /*-----------------------------------------------------------------*
     770             :  * fft5_32()
     771             :  * 5-point FFT called for 32 times
     772             :  *-----------------------------------------------------------------*/
     773             : 
     774     4922976 : static void fft5_32(
     775             :     float *zRe,        /* i/o: real part of input and output data       */
     776             :     float *zIm,        /* i/o: imaginary part of input and output data  */
     777             :     const int16_t *Idx /* i  : pointer of the address table             */
     778             : )
     779             : {
     780             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
     781             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
     782             :     int16_t in1, in2, in3, in4, in5;
     783             : 
     784     4922976 :     in1 = Idx[0];
     785     4922976 :     in2 = Idx[32];
     786     4922976 :     in3 = Idx[64];
     787     4922976 :     in4 = Idx[96];
     788     4922976 :     in5 = Idx[128];
     789             : 
     790     4922976 :     fi1 = zRe[in1];
     791     4922976 :     fi2 = zIm[in1];
     792     4922976 :     fo3 = zRe[in2];
     793     4922976 :     fo4 = zRe[in5];
     794     4922976 :     fo6 = zRe[in3];
     795     4922976 :     fo7 = zRe[in4];
     796             : 
     797     4922976 :     fo5 = fo3 + fo4;
     798     4922976 :     fo8 = fo6 + fo7;
     799     4922976 :     fi3 = fo5 + fo8;
     800     4922976 :     fi4 = fo6 - fo7;
     801     4922976 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     802     4922976 :     fi6 = fo3 - fo4;
     803             : 
     804     4922976 :     fo3 = zIm[in2];
     805     4922976 :     fo4 = zIm[in5];
     806     4922976 :     fo6 = zIm[in3];
     807     4922976 :     fo7 = zIm[in4];
     808             : 
     809     4922976 :     fo5 = fo3 + fo4;
     810     4922976 :     fo8 = fo6 + fo7;
     811     4922976 :     fi7 = fo3 - fo4;
     812     4922976 :     fi8 = fo5 + fo8;
     813     4922976 :     fo1 = fo6 - fo7;
     814     4922976 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
     815             : 
     816     4922976 :     zRe[in1] = fi1 + fi3;
     817     4922976 :     zIm[in1] = fi2 + fi8;
     818             : 
     819     4922976 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
     820     4922976 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
     821     4922976 :     fo7 = fi1 - fi3 / 4;
     822     4922976 :     fo5 = fi5 + fo7;
     823     4922976 :     fo6 = fo7 - fi5;
     824             : 
     825     4922976 :     zRe[in2] = fo6 + fo4;
     826     4922976 :     zRe[in3] = fo5 + fo3;
     827     4922976 :     zRe[in4] = fo5 - fo3;
     828     4922976 :     zRe[in5] = fo6 - fo4;
     829             : 
     830     4922976 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
     831     4922976 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
     832     4922976 :     fo7 = fi2 - fi8 / 4;
     833     4922976 :     fo5 = fo2 + fo7;
     834     4922976 :     fo6 = fo7 - fo2;
     835             : 
     836     4922976 :     zIm[in2] = fo6 - fo4;
     837     4922976 :     zIm[in3] = fo5 - fo3;
     838     4922976 :     zIm[in4] = fo3 + fo5;
     839     4922976 :     zIm[in5] = fo4 + fo6;
     840             : 
     841     4922976 :     return;
     842             : }
     843             : 
     844             : /*-----------------------------------------------------------------*
     845             :  * fft64()
     846             :  * 64-point FFT
     847             :  *-----------------------------------------------------------------*/
     848             : 
     849     8391825 : static void fft64(
     850             :     float *x,          /* i/o: real part of input and output data       */
     851             :     float *y,          /* i/o: imaginary part of input and output data  */
     852             :     const int16_t *Idx /* i  : pointer of the address table             */
     853             : )
     854             : {
     855             :     int16_t i, id, jd;
     856             :     float z[128];
     857   545468625 :     for ( i = 0; i < 64; i++ )
     858             :     {
     859   537076800 :         id = Idx[i];
     860   537076800 :         z[2 * i] = x[id];
     861   537076800 :         z[2 * i + 1] = y[id];
     862             :     }
     863             : 
     864     8391825 :     cdftForw( 128, z, Ip_fft64, w_fft64 );
     865             : 
     866   545468625 :     for ( i = 0; i < 64; i++ )
     867             :     {
     868   537076800 :         jd = Odx_fft64[i];
     869   537076800 :         id = Idx[jd];
     870   537076800 :         x[id] = z[2 * i];
     871   537076800 :         y[id] = z[2 * i + 1];
     872             :     }
     873             : 
     874     8391825 :     return;
     875             : }
     876             : 
     877             : 
     878             : /*-----------------------------------------------------------------*
     879             :  * fft32_15()
     880             :  * 32-point FFT called for 15 times
     881             :  *-----------------------------------------------------------------*/
     882             : 
     883      948375 : static void fft32_15(
     884             :     float *x,          /* i/o: real part of input and output data       */
     885             :     float *y,          /* i/o: imaginary part of input and output data  */
     886             :     const int16_t *Idx /* i  : pointer of the address table             */
     887             : )
     888             : {
     889             :     int16_t i, id, jd;
     890             :     float z[64];
     891             : 
     892    31296375 :     for ( i = 0; i < 32; i++ )
     893             :     {
     894    30348000 :         id = Idx[i];
     895    30348000 :         z[2 * i] = x[id];
     896    30348000 :         z[2 * i + 1] = y[id];
     897             :     }
     898             : 
     899      948375 :     cdftForw( 64, z, Ip_fft32, w_fft32 );
     900             : 
     901    31296375 :     for ( i = 0; i < 32; i++ )
     902             :     {
     903    30348000 :         jd = Odx_fft32_15[i];
     904    30348000 :         id = Idx[jd];
     905    30348000 :         x[id] = z[2 * i];
     906    30348000 :         y[id] = z[2 * i + 1];
     907             :     }
     908             : 
     909      948375 :     return;
     910             : }
     911             : 
     912             : /*-----------------------------------------------------------------*
     913             :  * fft32_5()
     914             :  * 32-point FFT called for 5 times
     915             :  *-----------------------------------------------------------------*/
     916             : 
     917      769215 : static void fft32_5(
     918             :     float *x,          /* i/o: real part of input and output data       */
     919             :     float *y,          /* i/o: imaginary part of input and output data  */
     920             :     const int16_t *Idx /* i  : pointer of the address table             */
     921             : )
     922             : {
     923             :     int16_t i, id, jd;
     924             :     float z[64];
     925             : 
     926    25384095 :     for ( i = 0; i < 32; i++ )
     927             :     {
     928    24614880 :         id = Idx[i];
     929    24614880 :         z[2 * i] = x[id];
     930    24614880 :         z[2 * i + 1] = y[id];
     931             :     }
     932             : 
     933      769215 :     cdftForw( 64, z, Ip_fft32, w_fft32 );
     934             : 
     935    25384095 :     for ( i = 0; i < 32; i++ )
     936             :     {
     937    24614880 :         jd = Odx_fft32_5[i];
     938    24614880 :         id = Idx[jd];
     939    24614880 :         x[id] = z[2 * i];
     940    24614880 :         y[id] = z[2 * i + 1];
     941             :     }
     942             : 
     943      769215 :     return;
     944             : }
     945             : 
     946             : /*-----------------------------------------------------------------*
     947             :  * fft16()
     948             :  * 16-point FFT
     949             :  *-----------------------------------------------------------------*/
     950             : 
     951      521680 : static void fft16(
     952             :     float *x,          /* i/o: real part of input and output data       */
     953             :     float *y,          /* i/o: imaginary part of input and output data  */
     954             :     const int16_t *Idx /* i  : pointer of the address table             */
     955             : )
     956             : {
     957             :     int16_t i, id, jd;
     958             :     float z[32];
     959             : 
     960     8868560 :     for ( i = 0; i < 16; i++ )
     961             :     {
     962     8346880 :         id = Idx[i];
     963     8346880 :         z[2 * i] = x[id];
     964     8346880 :         z[2 * i + 1] = y[id];
     965             :     }
     966             : 
     967      521680 :     cdftForw( 32, z, Ip_fft16, w_fft16 );
     968             : 
     969     8868560 :     for ( i = 0; i < 16; i++ )
     970             :     {
     971     8346880 :         jd = Odx_fft16[i];
     972     8346880 :         id = Idx[jd];
     973     8346880 :         x[id] = z[2 * i];
     974     8346880 :         y[id] = z[2 * i + 1];
     975             :     }
     976             : 
     977      521680 :     return;
     978             : }
     979             : 
     980             : /*-----------------------------------------------------------------*
     981             :  * fft8()
     982             :  * 8-point FFT
     983             :  *-----------------------------------------------------------------*/
     984             : 
     985       34080 : static void fft8(
     986             :     float *x,          /* i/o: real part of input and output data       */
     987             :     float *y,          /* i/o: imaginary part of input and output data  */
     988             :     const int16_t *Idx /* i  : pointer of the address table             */
     989             : )
     990             : {
     991             :     int16_t i, id;
     992             :     float z[16];
     993             : 
     994      306720 :     for ( i = 0; i < 8; i++ )
     995             :     {
     996      272640 :         id = Idx[i];
     997      272640 :         z[2 * i] = x[id];
     998      272640 :         z[2 * i + 1] = y[id];
     999             :     }
    1000             : 
    1001       34080 :     cdftForw( 16, z, Ip_fft8, w_fft8 );
    1002             : 
    1003      306720 :     for ( i = 0; i < 8; i++ )
    1004             :     {
    1005      272640 :         id = Idx[i];
    1006      272640 :         x[id] = z[2 * i];
    1007      272640 :         y[id] = z[2 * i + 1];
    1008             :     }
    1009             : 
    1010       34080 :     return;
    1011             : }
    1012             : 
    1013             : /*-----------------------------------------------------------------*
    1014             :  * fft8_5()
    1015             :  * 8-point FFT with shift 5
    1016             :  *-----------------------------------------------------------------*/
    1017             : 
    1018        2620 : static void fft8_5(
    1019             :     float *x,          /* i/o: real part of input and output data       */
    1020             :     float *y,          /* i/o: imaginary part of input and output data  */
    1021             :     const int16_t *Idx /* i  : pointer of the address table             */
    1022             : )
    1023             : {
    1024             :     int16_t i, id, jd;
    1025             :     float z[16];
    1026             : 
    1027       23580 :     for ( i = 0; i < 8; i++ )
    1028             :     {
    1029       20960 :         id = Idx[i];
    1030       20960 :         z[2 * i] = x[id];
    1031       20960 :         z[2 * i + 1] = y[id];
    1032             :     }
    1033             : 
    1034        2620 :     cdftForw( 16, z, Ip_fft8, w_fft8 );
    1035             : 
    1036       23580 :     for ( i = 0; i < 8; i++ )
    1037             :     {
    1038       20960 :         jd = Odx_fft8_5[i];
    1039       20960 :         id = Idx[jd];
    1040       20960 :         x[id] = z[2 * i];
    1041       20960 :         y[id] = z[2 * i + 1];
    1042             :     }
    1043        2620 :     return;
    1044             : }
    1045             : 
    1046             : /*-----------------------------------------------------------------*
    1047             :  * fft5_8()
    1048             :  * 5-point FFT with shift 2
    1049             :  *-----------------------------------------------------------------*/
    1050             : 
    1051        4192 : static void fft5_8(
    1052             :     int16_t n1,        /* i  : length of data                           */
    1053             :     float *zRe,        /* i/o: real part of input and output data       */
    1054             :     float *zIm,        /* i/o: imaginary part of input and output data  */
    1055             :     const int16_t *Idx /* i  : pointer of the address table             */
    1056             : )
    1057             : {
    1058             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
    1059             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
    1060             :     int16_t in1, in2, in3, in4, in5;
    1061             : 
    1062        4192 :     in1 = Idx[0];
    1063        4192 :     in2 = Idx[n1];
    1064        4192 :     in3 = Idx[n1 * 2];
    1065        4192 :     in4 = Idx[n1 * 3];
    1066        4192 :     in5 = Idx[n1 * 4];
    1067             : 
    1068        4192 :     fi1 = zRe[in1];
    1069        4192 :     fi2 = zIm[in1];
    1070        4192 :     fo3 = zRe[in2];
    1071        4192 :     fo4 = zRe[in5];
    1072        4192 :     fo6 = zRe[in3];
    1073        4192 :     fo7 = zRe[in4];
    1074             : 
    1075        4192 :     fo5 = fo3 + fo4;
    1076        4192 :     fo8 = fo6 + fo7;
    1077        4192 :     fi3 = fo5 + fo8;
    1078        4192 :     fi4 = fo6 - fo7;
    1079        4192 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1080        4192 :     fi6 = fo3 - fo4;
    1081             : 
    1082        4192 :     fo3 = zIm[in2];
    1083        4192 :     fo4 = zIm[in5];
    1084        4192 :     fo6 = zIm[in3];
    1085        4192 :     fo7 = zIm[in4];
    1086             : 
    1087        4192 :     fo5 = fo3 + fo4;
    1088        4192 :     fo8 = fo6 + fo7;
    1089        4192 :     fi7 = fo3 - fo4;
    1090        4192 :     fi8 = fo5 + fo8;
    1091        4192 :     fo1 = fo6 - fo7;
    1092        4192 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1093             : 
    1094        4192 :     zRe[in1] = fi1 + fi3;
    1095        4192 :     zIm[in1] = fi2 + fi8;
    1096             : 
    1097        4192 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
    1098        4192 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
    1099        4192 :     fo7 = fi1 - fi3 / 4;
    1100        4192 :     fo5 = fi5 + fo7;
    1101        4192 :     fo6 = fo7 - fi5;
    1102             : 
    1103        4192 :     zRe[in2] = fo6 - fo4;
    1104        4192 :     zRe[in3] = fo5 - fo3;
    1105        4192 :     zRe[in5] = fo6 + fo4;
    1106        4192 :     zRe[in4] = fo5 + fo3;
    1107             : 
    1108        4192 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
    1109        4192 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
    1110        4192 :     fo7 = fi2 - fi8 / 4;
    1111        4192 :     fo5 = fo2 + fo7;
    1112        4192 :     fo6 = fo7 - fo2;
    1113             : 
    1114        4192 :     zIm[in2] = fo4 + fo6;
    1115        4192 :     zIm[in3] = fo3 + fo5;
    1116        4192 :     zIm[in4] = fo5 - fo3;
    1117        4192 :     zIm[in5] = fo6 - fo4;
    1118             : 
    1119        4192 :     return;
    1120             : }
    1121             : 
    1122             : /*-----------------------------------------------------------------*
    1123             :  * fft4_5()
    1124             :  * 8-point FFT with shift 1
    1125             :  *-----------------------------------------------------------------*/
    1126             : 
    1127         480 : static void fft4_5(
    1128             :     float *x,          /* i/o: real part of input and output data       */
    1129             :     float *y,          /* i/o: imaginary part of input and output data  */
    1130             :     const int16_t *Idx /* i  : pointer of the address table             */
    1131             : )
    1132             : {
    1133             :     int16_t i, id, jd;
    1134             :     float z[8];
    1135             : 
    1136        2400 :     for ( i = 0; i < 4; i++ )
    1137             :     {
    1138        1920 :         id = Idx[i];
    1139        1920 :         z[2 * i] = x[id];
    1140        1920 :         z[2 * i + 1] = y[id];
    1141             :     }
    1142             : 
    1143         480 :     cdftForw( 8, z, Ip_fft4, w_fft4 );
    1144             : 
    1145        2400 :     for ( i = 0; i < 4; i++ )
    1146             :     {
    1147        1920 :         jd = Odx_fft4_5[i];
    1148        1920 :         id = Idx[jd];
    1149        1920 :         x[id] = z[2 * i];
    1150        1920 :         y[id] = z[2 * i + 1];
    1151             :     }
    1152         480 :     return;
    1153             : }
    1154             : 
    1155             : /*-----------------------------------------------------------------*
    1156             :  * fft5_4()
    1157             :  * 5-point FFT with shift 4
    1158             :  *-----------------------------------------------------------------*/
    1159             : 
    1160         384 : static void fft5_4(
    1161             :     int16_t n1,
    1162             :     float *zRe,
    1163             :     float *zIm,
    1164             :     const int16_t *Idx )
    1165             : {
    1166             :     float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
    1167             :     float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
    1168             :     int16_t in1, in2, in3, in4, in5;
    1169             : 
    1170         384 :     in1 = Idx[0];
    1171         384 :     in2 = Idx[n1];
    1172         384 :     in3 = Idx[n1 * 2];
    1173         384 :     in4 = Idx[n1 * 3];
    1174         384 :     in5 = Idx[n1 * 4];
    1175             : 
    1176         384 :     fi1 = zRe[in1];
    1177         384 :     fi2 = zIm[in1];
    1178         384 :     fo3 = zRe[in2];
    1179         384 :     fo4 = zRe[in5];
    1180         384 :     fo6 = zRe[in3];
    1181         384 :     fo7 = zRe[in4];
    1182             : 
    1183         384 :     fo5 = fo3 + fo4;
    1184         384 :     fo8 = fo6 + fo7;
    1185         384 :     fi3 = fo5 + fo8;
    1186         384 :     fi4 = fo6 - fo7;
    1187         384 :     fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1188         384 :     fi6 = fo3 - fo4;
    1189             : 
    1190         384 :     fo3 = zIm[in2];
    1191         384 :     fo4 = zIm[in5];
    1192         384 :     fo6 = zIm[in3];
    1193         384 :     fo7 = zIm[in4];
    1194             : 
    1195         384 :     fo5 = fo3 + fo4;
    1196         384 :     fo8 = fo6 + fo7;
    1197         384 :     fi7 = fo3 - fo4;
    1198         384 :     fi8 = fo5 + fo8;
    1199         384 :     fo1 = fo6 - fo7;
    1200         384 :     fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
    1201             : 
    1202         384 :     zRe[in1] = fi1 + fi3;
    1203         384 :     zIm[in1] = fi2 + fi8;
    1204             : 
    1205         384 :     fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
    1206         384 :     fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
    1207         384 :     fo7 = fi1 - fi3 / 4;
    1208         384 :     fo5 = fi5 + fo7;
    1209         384 :     fo6 = fo7 - fi5;
    1210             : 
    1211         384 :     zRe[in2] = fo5 - fo3;
    1212         384 :     zRe[in4] = fo6 - fo4;
    1213         384 :     zRe[in3] = fo6 + fo4;
    1214         384 :     zRe[in5] = fo5 + fo3;
    1215             : 
    1216         384 :     fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
    1217         384 :     fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
    1218         384 :     fo7 = fi2 - fi8 / 4;
    1219         384 :     fo5 = fo2 + fo7;
    1220         384 :     fo6 = fo7 - fo2;
    1221             : 
    1222         384 :     zIm[in2] = fo3 + fo5;
    1223         384 :     zIm[in3] = fo6 - fo4;
    1224         384 :     zIm[in4] = fo4 + fo6;
    1225         384 :     zIm[in5] = fo5 - fo3;
    1226             : 
    1227         384 :     return;
    1228             : }
    1229             : 
    1230             : 
    1231             : /*-----------------------------------------------------------------*
    1232             :  * DoRTFT80()
    1233             :  * a low complexity 2-dimensional DFT of 80 points
    1234             :  *-----------------------------------------------------------------*/
    1235             : 
    1236      104336 : void DoRTFT80(
    1237             :     float *x, /* i/o: real part of input and output data       */
    1238             :     float *y  /* i/o: imaginary part of input and output data  */
    1239             : )
    1240             : {
    1241             :     int16_t j;
    1242             : 
    1243             :     /* Applying 16-point FFT for 5 times based on the address table Idx_dortft80 */
    1244      626016 :     for ( j = 0; j < 5; j++ )
    1245             :     {
    1246      521680 :         fft16( x, y, Idx_dortft80 + 16 * j );
    1247             :     }
    1248             : 
    1249             :     /* Applying 5-point FFT for 16 times based on the address table Idx_dortft80 */
    1250     1773712 :     for ( j = 0; j < 16; j++ )
    1251             :     {
    1252     1669376 :         fft5_shift1( 16, x, y, Idx_dortft80 + j );
    1253             :     }
    1254             : 
    1255      104336 :     return;
    1256             : }
    1257             : 
    1258             : /*-----------------------------------------------------------------*
    1259             :  * DoRTFT120()
    1260             :  * a low complexity 2-dimensional DFT of 120 points
    1261             :  *-----------------------------------------------------------------*/
    1262             : 
    1263        2272 : void DoRTFT120(
    1264             :     float *x, /* i/o: real part of input and output data       */
    1265             :     float *y  /* i/o: imaginary part of input and output data  */
    1266             : )
    1267             : {
    1268             :     int16_t j;
    1269             : 
    1270             :     /* Applying 8-point FFT for 15 times based on the address table Idx_dortft120 */
    1271       36352 :     for ( j = 0; j < 15; j++ )
    1272             :     {
    1273       34080 :         fft8( x, y, Idx_dortft120 + 8 * j );
    1274             :     }
    1275             : 
    1276             :     /* Applying 15-point FFT for 8 times based on the address table Idx_dortft120 */
    1277       20448 :     for ( j = 0; j < 8; j++ )
    1278             :     {
    1279       18176 :         fft15_shift2( 8, x, y, Idx_dortft120 + j );
    1280             :     }
    1281             : 
    1282        2272 :     return;
    1283             : }
    1284             : 
    1285             : /*-----------------------------------------------------------------*
    1286             :  * DoRTFT160()
    1287             :  * a low complexity 2-dimensional DFT of 160 points
    1288             :  *-----------------------------------------------------------------*/
    1289             : 
    1290      153843 : void DoRTFT160(
    1291             :     float x[], /* i/o: real part of input and output data       */
    1292             :     float y[]  /* i/o: imaginary part of input and output data  */
    1293             : )
    1294             : {
    1295             :     int16_t j;
    1296             : 
    1297             :     /* Applying 32-point FFT for 5 times based on the address table Idx_dortft160 */
    1298      923058 :     for ( j = 0; j < 5; j++ )
    1299             :     {
    1300      769215 :         fft32_5( x, y, Idx_dortft160 + 32 * j );
    1301             :     }
    1302             : 
    1303             :     /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
    1304     5076819 :     for ( j = 0; j < 32; j++ )
    1305             :     {
    1306     4922976 :         fft5_32( x, y, Idx_dortft160 + j );
    1307             :     }
    1308             : 
    1309      153843 :     return;
    1310             : }
    1311             : 
    1312             : /*-----------------------------------------------------------------*
    1313             :  * DoRTFT320()
    1314             :  * a low complexity 2-dimensional DFT of 320 points
    1315             :  *-----------------------------------------------------------------*/
    1316             : 
    1317     1678365 : void DoRTFT320(
    1318             :     float *x, /* i/o: real part of input and output data       */
    1319             :     float *y  /* i/o: imaginary part of input and output data  */
    1320             : )
    1321             : {
    1322             :     int16_t j;
    1323             : 
    1324             :     /* Applying 64-point FFT for 5 times based on the address table Idx_dortft160 */
    1325    10070190 :     for ( j = 0; j < 5; j++ )
    1326             :     {
    1327     8391825 :         fft64( x, y, Idx_dortft320 + 64 * j );
    1328             :     }
    1329             : 
    1330             :     /* Applying 5-point FFT for 64 times based on the address table Idx_dortft160 */
    1331   109093725 :     for ( j = 0; j < 64; j++ )
    1332             :     {
    1333   107415360 :         fft5_shift4( 64, x, y, Idx_dortft320 + j );
    1334             :     }
    1335             : 
    1336     1678365 :     return;
    1337             : }
    1338             : 
    1339             : /*-----------------------------------------------------------------*
    1340             :  * DoRTFT480()
    1341             :  * a low complexity 2-dimensional DFT of 480 points
    1342             :  *-----------------------------------------------------------------*/
    1343             : 
    1344       63225 : void DoRTFT480(
    1345             :     float *x, /* i/o: real part of input and output data       */
    1346             :     float *y  /* i/o: imaginary part of input and output data  */
    1347             : )
    1348             : {
    1349             :     int16_t j;
    1350             : 
    1351             :     /* Applying 32-point FFT for 15 times based on the address table Idx_dortft160 */
    1352     1011600 :     for ( j = 0; j < 15; j++ )
    1353             :     {
    1354      948375 :         fft32_15( x, y, Idx_dortft480 + 32 * j );
    1355             :     }
    1356             : 
    1357             :     /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
    1358     2086425 :     for ( j = 0; j < 32; j++ )
    1359             :     {
    1360     2023200 :         fft15_shift8( 32, x, y, Idx_dortft480 + j );
    1361             :     }
    1362             : 
    1363       63225 :     return;
    1364             : }
    1365             : 
    1366             : /*-----------------------------------------------------------------*
    1367             :  * DoRTFT40()
    1368             :  * a low complexity 2-dimensional DFT of 40 points
    1369             :  *-----------------------------------------------------------------*/
    1370             : 
    1371         524 : void DoRTFT40(
    1372             :     float *x, /* i/o: real part of input and output data       */
    1373             :     float *y  /* i/o: imaginary part of input and output data  */
    1374             : )
    1375             : {
    1376             :     int16_t j;
    1377             :     /* Applying 8-point FFT for 5 times based on the address table Idx_dortft40 */
    1378        3144 :     for ( j = 0; j < 5; j++ )
    1379             :     {
    1380        2620 :         fft8_5( x, y, Idx_dortft40 + 8 * j );
    1381             :     }
    1382             : 
    1383             :     /* Applying 5-point FFT for 8 times based on the address table Idx_dortft40 */
    1384        4716 :     for ( j = 0; j < 8; j++ )
    1385             :     {
    1386        4192 :         fft5_8( 8, x, y, Idx_dortft40 + j );
    1387             :     }
    1388             : 
    1389         524 :     return;
    1390             : }
    1391             : 
    1392             : /*-----------------------------------------------------------------*
    1393             :  * DoRTFT20()
    1394             :  * a low complexity 2-dimensional DFT of 20 points
    1395             :  *-----------------------------------------------------------------*/
    1396             : 
    1397          96 : void DoRTFT20(
    1398             :     float *x, /* i/o: real part of input and output data       */
    1399             :     float *y  /* i/o: imaginary part of input and output data  */
    1400             : )
    1401             : {
    1402             :     int16_t j;
    1403             : 
    1404             :     /* Applying 4-point FFT for 5 times based on the address table Idx_dortft20 */
    1405         576 :     for ( j = 0; j < 5; j++ )
    1406             :     {
    1407         480 :         fft4_5( x, y, Idx_dortft20 + 4 * j );
    1408             :     }
    1409             : 
    1410             :     /* Applying 5-point FFT for 4 times based on the address table Idx_dortft20 */
    1411         480 :     for ( j = 0; j < 4; j++ )
    1412             :     {
    1413         384 :         fft5_4( 4, x, y, Idx_dortft20 + j );
    1414             :     }
    1415             : 
    1416          96 :     return;
    1417             : }
    1418             : 
    1419             : /*-----------------------------------------------------------------*
    1420             :  * DoRTFT128()
    1421             :  * FFT with 128 points
    1422             :  *-----------------------------------------------------------------*/
    1423             : 
    1424     4850466 : void DoRTFT128(
    1425             :     float *x, /* i/o: real part of input and output data       */
    1426             :     float *y  /* i/o: imaginary part of input and output data  */
    1427             : )
    1428             : {
    1429             : 
    1430             :     int16_t i;
    1431             :     float z[256];
    1432             : 
    1433   625710114 :     for ( i = 0; i < 128; i++ )
    1434             :     {
    1435   620859648 :         z[2 * i] = x[i];
    1436   620859648 :         z[2 * i + 1] = y[i];
    1437             :     }
    1438             : 
    1439     4850466 :     cdftForw( 256, z, Ip_fft128, w_fft128 );
    1440             : 
    1441     4850466 :     x[0] = z[0];
    1442     4850466 :     y[0] = z[1];
    1443   620859648 :     for ( i = 1; i < 128; i++ )
    1444             :     {
    1445   616009182 :         x[128 - i] = z[2 * i];
    1446   616009182 :         y[128 - i] = z[2 * i + 1];
    1447             :     }
    1448             : 
    1449     4850466 :     return;
    1450             : }
    1451             : 
    1452             : /*-----------------------------------------------------------------*
    1453             :  * cdftForw()
    1454             :  * Main fuction of Complex Discrete Fourier Transform
    1455             :  *-----------------------------------------------------------------*/
    1456             : 
    1457    23999254 : static void cdftForw(
    1458             :     int16_t n,         /* i  : data length of real and imag  */
    1459             :     float *a,          /* i/o: input/output data             */
    1460             :     const int16_t *ip, /* i  : work area for bit reversal    */
    1461             :     const float *w     /* i  : cos/sin table                 */
    1462             : )
    1463             : {
    1464             :     /* bit reversal */
    1465    23999254 :     bitrv2_SR( n, ip + 2, a );
    1466             : 
    1467             :     /* Do FFT */
    1468    23999254 :     cftfsub( n, a, w );
    1469    23999254 : }
    1470             : 
    1471             : /*-----------------------------------------------------------------*
    1472             :  * bitrv2_SR()
    1473             :  * Bit reversal
    1474             :  *-----------------------------------------------------------------*/
    1475             : 
    1476    24485769 : static void bitrv2_SR(
    1477             :     int16_t n,         /* i  : data length of real and imag  */
    1478             :     const int16_t *ip, /* i/o: work area for bit reversal    */
    1479             :     float *a           /* i/o: input/output data             */
    1480             : )
    1481             : {
    1482             :     int16_t j, j1, k, k1, m, m2;
    1483             :     int16_t l;
    1484             :     float xr, xi, yr, yi;
    1485             : 
    1486    24485769 :     if ( n == 64 )
    1487             :     {
    1488     2204105 :         m = 4;
    1489     2204105 :         l = -1;
    1490             :     }
    1491    22281664 :     else if ( n == 256 )
    1492             :     {
    1493     4850468 :         m = 8;
    1494     4850468 :         l = -1;
    1495             :     }
    1496    17431196 :     else if ( n == 16 )
    1497             :     {
    1498       36700 :         m = 2;
    1499       36700 :         l = -1;
    1500             :     }
    1501             :     else
    1502             :     {
    1503    17394496 :         l = n;
    1504    17394496 :         m = 1;
    1505             : 
    1506    65809906 :         while ( ( m << 3 ) < l )
    1507             :         {
    1508    48415410 :             l >>= 1;
    1509    48415410 :             m <<= 1;
    1510             :         }
    1511    17394496 :         l -= m * 8;
    1512             :     }
    1513             : 
    1514    24485769 :     m2 = 2 * m;
    1515             : 
    1516    24485769 :     if ( l == 0 )
    1517             :     {
    1518    68439418 :         for ( k = 0; k < m; k++ )
    1519             :         {
    1520   184992752 :             for ( j = 0; j < k; j++ )
    1521             :             {
    1522   128246512 :                 j1 = 2 * j + ip[k];
    1523   128246512 :                 k1 = 2 * k + ip[j];
    1524   128246512 :                 xr = a[j1];
    1525   128246512 :                 xi = a[j1 + 1];
    1526   128246512 :                 yr = a[k1];
    1527   128246512 :                 yi = a[k1 + 1];
    1528   128246512 :                 a[j1] = yr;
    1529   128246512 :                 a[j1 + 1] = yi;
    1530   128246512 :                 a[k1] = xr;
    1531   128246512 :                 a[k1 + 1] = xi;
    1532   128246512 :                 j1 += m2;
    1533   128246512 :                 k1 += 2 * m2;
    1534   128246512 :                 xr = a[j1];
    1535   128246512 :                 xi = a[j1 + 1];
    1536   128246512 :                 yr = a[k1];
    1537   128246512 :                 yi = a[k1 + 1];
    1538   128246512 :                 a[j1] = yr;
    1539   128246512 :                 a[j1 + 1] = yi;
    1540   128246512 :                 a[k1] = xr;
    1541   128246512 :                 a[k1 + 1] = xi;
    1542   128246512 :                 j1 += m2;
    1543   128246512 :                 k1 -= m2;
    1544   128246512 :                 xr = a[j1];
    1545   128246512 :                 xi = a[j1 + 1];
    1546   128246512 :                 yr = a[k1];
    1547   128246512 :                 yi = a[k1 + 1];
    1548   128246512 :                 a[j1] = yr;
    1549   128246512 :                 a[j1 + 1] = yi;
    1550   128246512 :                 a[k1] = xr;
    1551   128246512 :                 a[k1 + 1] = xi;
    1552   128246512 :                 j1 += m2;
    1553   128246512 :                 k1 += 2 * m2;
    1554   128246512 :                 xr = a[j1];
    1555   128246512 :                 xi = a[j1 + 1];
    1556   128246512 :                 yr = a[k1];
    1557   128246512 :                 yi = a[k1 + 1];
    1558   128246512 :                 a[j1] = yr;
    1559   128246512 :                 a[j1 + 1] = yi;
    1560   128246512 :                 a[k1] = xr;
    1561   128246512 :                 a[k1 + 1] = xi;
    1562             :             }
    1563             : 
    1564    56746240 :             j1 = 2 * k + m2 + ip[k];
    1565    56746240 :             k1 = j1 + m2;
    1566    56746240 :             xr = a[j1];
    1567    56746240 :             xi = a[j1 + 1];
    1568    56746240 :             yr = a[k1];
    1569    56746240 :             yi = a[k1 + 1];
    1570    56746240 :             a[j1] = yr;
    1571    56746240 :             a[j1 + 1] = yi;
    1572    56746240 :             a[k1] = xr;
    1573    56746240 :             a[k1 + 1] = xi;
    1574             :         }
    1575             :     }
    1576             :     else
    1577             :     {
    1578   138914652 :         for ( k = 1; k < m; k++ )
    1579             :         {
    1580   959354655 :             for ( j = 0; j < k; j++ )
    1581             :             {
    1582   833232594 :                 j1 = 2 * j + ip[k];
    1583   833232594 :                 k1 = 2 * k + ip[j];
    1584   833232594 :                 xr = a[j1];
    1585   833232594 :                 xi = a[j1 + 1];
    1586   833232594 :                 yr = a[k1];
    1587   833232594 :                 yi = a[k1 + 1];
    1588   833232594 :                 a[j1] = yr;
    1589   833232594 :                 a[j1 + 1] = yi;
    1590   833232594 :                 a[k1] = xr;
    1591   833232594 :                 a[k1 + 1] = xi;
    1592   833232594 :                 j1 += m2;
    1593   833232594 :                 k1 += m2;
    1594   833232594 :                 xr = a[j1];
    1595   833232594 :                 xi = a[j1 + 1];
    1596   833232594 :                 yr = a[k1];
    1597   833232594 :                 yi = a[k1 + 1];
    1598   833232594 :                 a[j1] = yr;
    1599   833232594 :                 a[j1 + 1] = yi;
    1600   833232594 :                 a[k1] = xr;
    1601   833232594 :                 a[k1 + 1] = xi;
    1602             :             }
    1603             :         }
    1604             :     }
    1605             : 
    1606    24485769 :     return;
    1607             : }
    1608             : 
    1609             : /*-----------------------------------------------------------------*
    1610             :  * cftfsub()
    1611             :  * Complex Discrete Fourier Transform
    1612             :  *-----------------------------------------------------------------*/
    1613             : 
    1614    24395569 : static void cftfsub(
    1615             :     int16_t n,     /* i  : data length of real and imag  */
    1616             :     float *a,      /* i/o: input/output data             */
    1617             :     const float *w /* i  : cos/sin table                 */
    1618             : )
    1619             : {
    1620             :     int16_t j, j1, j2, j3, l;
    1621             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1622             : 
    1623    24395569 :     l = 2;
    1624    24395569 :     if ( n > 8 )
    1625             :     {
    1626    24395089 :         cft1st( n, a, w );
    1627             : 
    1628    24395089 :         l = 8;
    1629    67231324 :         while ( ( l << 2 ) < n )
    1630             :         {
    1631    42836235 :             cftmdl( n, l, a, w );
    1632    42836235 :             l <<= 2;
    1633             :         }
    1634             :     }
    1635             : 
    1636    24395569 :     if ( ( l << 2 ) == n )
    1637             :     {
    1638   324932442 :         for ( j = 0; j < l; j += 2 )
    1639             :         {
    1640   313239264 :             j1 = j + l;
    1641   313239264 :             j2 = j1 + l;
    1642   313239264 :             j3 = j2 + l;
    1643   313239264 :             x0r = a[j] + a[j1];
    1644   313239264 :             x0i = a[j + 1] + a[j1 + 1];
    1645   313239264 :             x1r = a[j] - a[j1];
    1646   313239264 :             x1i = a[j + 1] - a[j1 + 1];
    1647   313239264 :             x2r = a[j2] + a[j3];
    1648   313239264 :             x2i = a[j2 + 1] + a[j3 + 1];
    1649   313239264 :             x3r = a[j2] - a[j3];
    1650   313239264 :             x3i = a[j2 + 1] - a[j3 + 1];
    1651   313239264 :             a[j] = x0r + x2r;
    1652   313239264 :             a[j + 1] = x0i + x2i;
    1653   313239264 :             a[j2] = x0r - x2r;
    1654   313239264 :             a[j2 + 1] = x0i - x2i;
    1655   313239264 :             a[j1] = x1r - x3i;
    1656   313239264 :             a[j1 + 1] = x1i + x3r;
    1657   313239264 :             a[j3] = x1r + x3i;
    1658   313239264 :             a[j3 + 1] = x1i - x3r;
    1659             :         }
    1660             :     }
    1661             :     else
    1662             :     {
    1663  1816639031 :         for ( j = 0; j < l; j += 2 )
    1664             :         {
    1665  1803936640 :             j1 = j + l;
    1666  1803936640 :             x0r = a[j] - a[j1];
    1667  1803936640 :             x0i = a[j + 1] - a[j1 + 1];
    1668  1803936640 :             a[j] += a[j1];
    1669  1803936640 :             a[j + 1] += a[j1 + 1];
    1670  1803936640 :             a[j1] = x0r;
    1671  1803936640 :             a[j1 + 1] = x0i;
    1672             :         }
    1673             :     }
    1674             : 
    1675    24395569 :     return;
    1676             : }
    1677             : 
    1678             : /*-----------------------------------------------------------------*
    1679             :  * cft1st()
    1680             :  * Subfunction of Complex Discrete Fourier Transform
    1681             :  *-----------------------------------------------------------------*/
    1682             : 
    1683    24485289 : static void cft1st(
    1684             :     int16_t n,     /* i  : data length of real and imag  */
    1685             :     float *a,      /* i/o: input/output data             */
    1686             :     const float *w /* i  : cos/sin table                 */
    1687             : )
    1688             : {
    1689             :     int16_t j, k1, k2;
    1690             :     float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
    1691             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1692             : 
    1693    24485289 :     x0r = a[0] + a[2];
    1694    24485289 :     x0i = a[1] + a[3];
    1695    24485289 :     x1r = a[0] - a[2];
    1696    24485289 :     x1i = a[1] - a[3];
    1697    24485289 :     x2r = a[4] + a[6];
    1698    24485289 :     x2i = a[5] + a[7];
    1699    24485289 :     x3r = a[4] - a[6];
    1700    24485289 :     x3i = a[5] - a[7];
    1701    24485289 :     a[0] = x0r + x2r;
    1702    24485289 :     a[1] = x0i + x2i;
    1703    24485289 :     a[4] = x0r - x2r;
    1704    24485289 :     a[5] = x0i - x2i;
    1705    24485289 :     a[2] = x1r - x3i;
    1706    24485289 :     a[3] = x1i + x3r;
    1707    24485289 :     a[6] = x1r + x3i;
    1708    24485289 :     a[7] = x1i - x3r;
    1709    24485289 :     wk1r = w[2];
    1710    24485289 :     x0r = a[8] + a[10];
    1711    24485289 :     x0i = a[9] + a[11];
    1712    24485289 :     x1r = a[8] - a[10];
    1713    24485289 :     x1i = a[9] - a[11];
    1714    24485289 :     x2r = a[12] + a[14];
    1715    24485289 :     x2i = a[13] + a[15];
    1716    24485289 :     x3r = a[12] - a[14];
    1717    24485289 :     x3i = a[13] - a[15];
    1718    24485289 :     a[8] = x0r + x2r;
    1719    24485289 :     a[9] = x0i + x2i;
    1720    24485289 :     a[12] = x2i - x0i;
    1721    24485289 :     a[13] = x0r - x2r;
    1722    24485289 :     x0r = x1r - x3i;
    1723    24485289 :     x0i = x1i + x3r;
    1724    24485289 :     a[10] = wk1r * ( x0r - x0i );
    1725    24485289 :     a[11] = wk1r * ( x0r + x0i );
    1726    24485289 :     x0r = x3i + x1r;
    1727    24485289 :     x0i = x3r - x1i;
    1728    24485289 :     a[14] = wk1r * ( x0i - x0r );
    1729    24485289 :     a[15] = wk1r * ( x0i + x0r );
    1730    24485289 :     k1 = 0;
    1731             : 
    1732   607964352 :     for ( j = 16; j < n; j += 16 )
    1733             :     {
    1734   583479063 :         k1 += 2;
    1735   583479063 :         k2 = 2 * k1;
    1736   583479063 :         wk2r = w[k1];
    1737   583479063 :         wk2i = w[k1 + 1];
    1738   583479063 :         wk1r = w[k2];
    1739   583479063 :         wk1i = w[k2 + 1];
    1740   583479063 :         wk3r = wk1r - 2 * wk2i * wk1i;
    1741   583479063 :         wk3i = 2 * wk2i * wk1r - wk1i;
    1742   583479063 :         x0r = a[j] + a[j + 2];
    1743   583479063 :         x0i = a[j + 1] + a[j + 3];
    1744   583479063 :         x1r = a[j] - a[j + 2];
    1745   583479063 :         x1i = a[j + 1] - a[j + 3];
    1746   583479063 :         x2r = a[j + 4] + a[j + 6];
    1747   583479063 :         x2i = a[j + 5] + a[j + 7];
    1748   583479063 :         x3r = a[j + 4] - a[j + 6];
    1749   583479063 :         x3i = a[j + 5] - a[j + 7];
    1750   583479063 :         a[j] = x0r + x2r;
    1751   583479063 :         a[j + 1] = x0i + x2i;
    1752   583479063 :         x0r -= x2r;
    1753   583479063 :         x0i -= x2i;
    1754   583479063 :         a[j + 4] = wk2r * x0r - wk2i * x0i;
    1755   583479063 :         a[j + 5] = wk2r * x0i + wk2i * x0r;
    1756   583479063 :         x0r = x1r - x3i;
    1757   583479063 :         x0i = x1i + x3r;
    1758   583479063 :         a[j + 2] = wk1r * x0r - wk1i * x0i;
    1759   583479063 :         a[j + 3] = wk1r * x0i + wk1i * x0r;
    1760   583479063 :         x0r = x1r + x3i;
    1761   583479063 :         x0i = x1i - x3r;
    1762   583479063 :         a[j + 6] = wk3r * x0r - wk3i * x0i;
    1763   583479063 :         a[j + 7] = wk3r * x0i + wk3i * x0r;
    1764   583479063 :         wk1r = w[k2 + 2];
    1765   583479063 :         wk1i = w[k2 + 3];
    1766   583479063 :         wk3r = wk1r - 2 * wk2r * wk1i;
    1767   583479063 :         wk3i = 2 * wk2r * wk1r - wk1i;
    1768   583479063 :         x0r = a[j + 8] + a[j + 10];
    1769   583479063 :         x0i = a[j + 9] + a[j + 11];
    1770   583479063 :         x1r = a[j + 8] - a[j + 10];
    1771   583479063 :         x1i = a[j + 9] - a[j + 11];
    1772   583479063 :         x2r = a[j + 12] + a[j + 14];
    1773   583479063 :         x2i = a[j + 13] + a[j + 15];
    1774   583479063 :         x3r = a[j + 12] - a[j + 14];
    1775   583479063 :         x3i = a[j + 13] - a[j + 15];
    1776   583479063 :         a[j + 8] = x0r + x2r;
    1777   583479063 :         a[j + 9] = x0i + x2i;
    1778   583479063 :         x0r -= x2r;
    1779   583479063 :         x0i -= x2i;
    1780   583479063 :         a[j + 12] = -wk2i * x0r - wk2r * x0i;
    1781   583479063 :         a[j + 13] = -wk2i * x0i + wk2r * x0r;
    1782   583479063 :         x0r = x1r - x3i;
    1783   583479063 :         x0i = x1i + x3r;
    1784   583479063 :         a[j + 10] = wk1r * x0r - wk1i * x0i;
    1785   583479063 :         a[j + 11] = wk1r * x0i + wk1i * x0r;
    1786   583479063 :         x0r = x1r + x3i;
    1787   583479063 :         x0i = x1i - x3r;
    1788   583479063 :         a[j + 14] = wk3r * x0r - wk3i * x0i;
    1789   583479063 :         a[j + 15] = wk3r * x0i + wk3i * x0r;
    1790             :     }
    1791             : 
    1792    24485289 :     return;
    1793             : }
    1794             : 
    1795             : /*-----------------------------------------------------------------*
    1796             :  * cftmdl()
    1797             :  * Subfunction of Complex Discrete Fourier Transform
    1798             :  *-----------------------------------------------------------------*/
    1799             : 
    1800    42926435 : static void cftmdl(
    1801             :     int16_t n,     /* i  : data length of real and imag  */
    1802             :     int16_t l,     /* i  : initial shift for processing  */
    1803             :     float *a,      /* i/o: input/output data             */
    1804             :     const float *w /* i  : cos/sin table                 */
    1805             : )
    1806             : {
    1807             :     int16_t j, j1, j2, j3, k, k1, k2, m, m2;
    1808             :     float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
    1809             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1810             : 
    1811    42926435 :     m = l << 2;
    1812   716485591 :     for ( j = 0; j < l; j += 2 )
    1813             :     {
    1814   673559156 :         j1 = j + l;
    1815   673559156 :         j2 = j1 + l;
    1816   673559156 :         j3 = j2 + l;
    1817   673559156 :         x0r = a[j] + a[j1];
    1818   673559156 :         x0i = a[j + 1] + a[j1 + 1];
    1819   673559156 :         x1r = a[j] - a[j1];
    1820   673559156 :         x1i = a[j + 1] - a[j1 + 1];
    1821   673559156 :         x2r = a[j2] + a[j3];
    1822   673559156 :         x2i = a[j2 + 1] + a[j3 + 1];
    1823   673559156 :         x3r = a[j2] - a[j3];
    1824   673559156 :         x3i = a[j2 + 1] - a[j3 + 1];
    1825   673559156 :         a[j] = x0r + x2r;
    1826   673559156 :         a[j + 1] = x0i + x2i;
    1827   673559156 :         a[j2] = x0r - x2r;
    1828   673559156 :         a[j2 + 1] = x0i - x2i;
    1829   673559156 :         a[j1] = x1r - x3i;
    1830   673559156 :         a[j1 + 1] = x1i + x3r;
    1831   673559156 :         a[j3] = x1r + x3i;
    1832   673559156 :         a[j3 + 1] = x1i - x3r;
    1833             :     }
    1834             : 
    1835    42926435 :     wk1r = w[2];
    1836   716485591 :     for ( j = m; j < l + m; j += 2 )
    1837             :     {
    1838   673559156 :         j1 = j + l;
    1839   673559156 :         j2 = j1 + l;
    1840   673559156 :         j3 = j2 + l;
    1841   673559156 :         x0r = a[j] + a[j1];
    1842   673559156 :         x0i = a[j + 1] + a[j1 + 1];
    1843   673559156 :         x1r = a[j] - a[j1];
    1844   673559156 :         x1i = a[j + 1] - a[j1 + 1];
    1845   673559156 :         x2r = a[j2] + a[j3];
    1846   673559156 :         x2i = a[j2 + 1] + a[j3 + 1];
    1847   673559156 :         x3r = a[j2] - a[j3];
    1848   673559156 :         x3i = a[j2 + 1] - a[j3 + 1];
    1849   673559156 :         a[j] = x0r + x2r;
    1850   673559156 :         a[j + 1] = x0i + x2i;
    1851   673559156 :         a[j2] = x2i - x0i;
    1852   673559156 :         a[j2 + 1] = x0r - x2r;
    1853   673559156 :         x0r = x1r - x3i;
    1854   673559156 :         x0i = x1i + x3r;
    1855   673559156 :         a[j1] = wk1r * ( x0r - x0i );
    1856   673559156 :         a[j1 + 1] = wk1r * ( x0r + x0i );
    1857   673559156 :         x0r = x3i + x1r;
    1858   673559156 :         x0i = x3r - x1i;
    1859   673559156 :         a[j3] = wk1r * ( x0i - x0r );
    1860   673559156 :         a[j3 + 1] = wk1r * ( x0i + x0r );
    1861             :     }
    1862             : 
    1863    42926435 :     k1 = 0;
    1864    42926435 :     m2 = 2 * m;
    1865   190595455 :     for ( k = m2; k < n; k += m2 )
    1866             :     {
    1867   147669020 :         k1 += 2;
    1868   147669020 :         k2 = 2 * k1;
    1869   147669020 :         wk2r = w[k1];
    1870   147669020 :         wk2i = w[k1 + 1];
    1871   147669020 :         wk1r = w[k2];
    1872   147669020 :         wk1i = w[k2 + 1];
    1873   147669020 :         wk3r = wk1r - 2 * wk2i * wk1i;
    1874   147669020 :         wk3i = 2 * wk2i * wk1r - wk1i;
    1875   976745452 :         for ( j = k; j < l + k; j += 2 )
    1876             :         {
    1877   829076432 :             j1 = j + l;
    1878   829076432 :             j2 = j1 + l;
    1879   829076432 :             j3 = j2 + l;
    1880   829076432 :             x0r = a[j] + a[j1];
    1881   829076432 :             x0i = a[j + 1] + a[j1 + 1];
    1882   829076432 :             x1r = a[j] - a[j1];
    1883   829076432 :             x1i = a[j + 1] - a[j1 + 1];
    1884   829076432 :             x2r = a[j2] + a[j3];
    1885   829076432 :             x2i = a[j2 + 1] + a[j3 + 1];
    1886   829076432 :             x3r = a[j2] - a[j3];
    1887   829076432 :             x3i = a[j2 + 1] - a[j3 + 1];
    1888   829076432 :             a[j] = x0r + x2r;
    1889   829076432 :             a[j + 1] = x0i + x2i;
    1890   829076432 :             x0r -= x2r;
    1891   829076432 :             x0i -= x2i;
    1892   829076432 :             a[j2] = wk2r * x0r - wk2i * x0i;
    1893   829076432 :             a[j2 + 1] = wk2r * x0i + wk2i * x0r;
    1894   829076432 :             x0r = x1r - x3i;
    1895   829076432 :             x0i = x1i + x3r;
    1896   829076432 :             a[j1] = wk1r * x0r - wk1i * x0i;
    1897   829076432 :             a[j1 + 1] = wk1r * x0i + wk1i * x0r;
    1898   829076432 :             x0r = x1r + x3i;
    1899   829076432 :             x0i = x1i - x3r;
    1900   829076432 :             a[j3] = wk3r * x0r - wk3i * x0i;
    1901   829076432 :             a[j3 + 1] = wk3r * x0i + wk3i * x0r;
    1902             :         }
    1903             : 
    1904   147669020 :         wk1r = w[k2 + 2];
    1905   147669020 :         wk1i = w[k2 + 3];
    1906   147669020 :         wk3r = wk1r - 2 * wk2r * wk1i;
    1907   147669020 :         wk3i = 2 * wk2r * wk1r - wk1i;
    1908   976745452 :         for ( j = k + m; j < l + ( k + m ); j += 2 )
    1909             :         {
    1910   829076432 :             j1 = j + l;
    1911   829076432 :             j2 = j1 + l;
    1912   829076432 :             j3 = j2 + l;
    1913   829076432 :             x0r = a[j] + a[j1];
    1914   829076432 :             x0i = a[j + 1] + a[j1 + 1];
    1915   829076432 :             x1r = a[j] - a[j1];
    1916   829076432 :             x1i = a[j + 1] - a[j1 + 1];
    1917   829076432 :             x2r = a[j2] + a[j3];
    1918   829076432 :             x2i = a[j2 + 1] + a[j3 + 1];
    1919   829076432 :             x3r = a[j2] - a[j3];
    1920   829076432 :             x3i = a[j2 + 1] - a[j3 + 1];
    1921   829076432 :             a[j] = x0r + x2r;
    1922   829076432 :             a[j + 1] = x0i + x2i;
    1923   829076432 :             x0r -= x2r;
    1924   829076432 :             x0i -= x2i;
    1925   829076432 :             a[j2] = -wk2i * x0r - wk2r * x0i;
    1926   829076432 :             a[j2 + 1] = -wk2i * x0i + wk2r * x0r;
    1927   829076432 :             x0r = x1r - x3i;
    1928   829076432 :             x0i = x1i + x3r;
    1929   829076432 :             a[j1] = wk1r * x0r - wk1i * x0i;
    1930   829076432 :             a[j1 + 1] = wk1r * x0i + wk1i * x0r;
    1931   829076432 :             x0r = x1r + x3i;
    1932   829076432 :             x0i = x1i - x3r;
    1933   829076432 :             a[j3] = wk3r * x0r - wk3i * x0i;
    1934   829076432 :             a[j3 + 1] = wk3r * x0i + wk3i * x0r;
    1935             :         }
    1936             :     }
    1937             : 
    1938    42926435 :     return;
    1939             : }
    1940             : 
    1941       90200 : static void cftbsub(
    1942             :     int16_t n,
    1943             :     float *a,
    1944             :     const float *w /* i  : cos/sin table                 */
    1945             : )
    1946             : {
    1947             :     int16_t j, j1, j2, j3, l;
    1948             :     float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
    1949             : 
    1950       90200 :     l = 2;
    1951       90200 :     if ( n > 8 )
    1952             :     {
    1953       90200 :         cft1st( n, a, w );
    1954       90200 :         l = 8;
    1955             : 
    1956      180400 :         while ( ( l << 2 ) < n )
    1957             :         {
    1958       90200 :             cftmdl( n, l, a, w );
    1959       90200 :             l <<= 2;
    1960             :         }
    1961             :     }
    1962             : 
    1963       90200 :     if ( ( l << 2 ) == n )
    1964             :     {
    1965           0 :         for ( j = 0; j < l; j += 2 )
    1966             :         {
    1967           0 :             j1 = j + l;
    1968           0 :             j2 = j1 + l;
    1969           0 :             j3 = j2 + l;
    1970           0 :             x0r = a[j] + a[j1];
    1971           0 :             x0i = -a[j + 1] - a[j1 + 1];
    1972           0 :             x1r = a[j] - a[j1];
    1973           0 :             x1i = -a[j + 1] + a[j1 + 1];
    1974           0 :             x2r = a[j2] + a[j3];
    1975           0 :             x2i = a[j2 + 1] + a[j3 + 1];
    1976           0 :             x3r = a[j2] - a[j3];
    1977           0 :             x3i = a[j2 + 1] - a[j3 + 1];
    1978           0 :             a[j] = x0r + x2r;
    1979           0 :             a[j + 1] = x0i - x2i;
    1980           0 :             a[j2] = x0r - x2r;
    1981           0 :             a[j2 + 1] = x0i + x2i;
    1982           0 :             a[j1] = x1r - x3i;
    1983           0 :             a[j1 + 1] = x1i - x3r;
    1984           0 :             a[j3] = x1r + x3i;
    1985           0 :             a[j3 + 1] = x1i + x3r;
    1986             :         }
    1987             :     }
    1988             :     else
    1989             :     {
    1990     1533400 :         for ( j = 0; j < l; j += 2 )
    1991             :         {
    1992     1443200 :             j1 = j + l;
    1993     1443200 :             x0r = a[j] - a[j1];
    1994     1443200 :             x0i = -a[j + 1] + a[j1 + 1];
    1995     1443200 :             a[j] += a[j1];
    1996     1443200 :             a[j + 1] = -a[j + 1] - a[j1 + 1];
    1997     1443200 :             a[j1] = x0r;
    1998     1443200 :             a[j1 + 1] = x0i;
    1999             :         }
    2000             :     }
    2001             : 
    2002       90200 :     return;
    2003             : }
    2004             : 
    2005      396315 : static void rftfsub(
    2006             :     int16_t n,
    2007             :     float *a,
    2008             :     int16_t nc,
    2009             :     const float *c )
    2010             : {
    2011             :     int16_t j, k, kk, ks, m;
    2012             :     float wkr, wki, xr, xi, yr, yi;
    2013             : 
    2014      396315 :     m = n >> 1;
    2015      396315 :     ks = 2 * nc / m;
    2016      396315 :     kk = 0;
    2017     6341040 :     for ( j = 2; j < m; j += 2 )
    2018             :     {
    2019     5944725 :         k = n - j;
    2020     5944725 :         kk += ks;
    2021     5944725 :         wkr = 0.5f - c[nc - kk];
    2022     5944725 :         wki = c[kk];
    2023     5944725 :         xr = a[j] - a[k];
    2024     5944725 :         xi = a[j + 1] + a[k + 1];
    2025     5944725 :         yr = wkr * xr - wki * xi;
    2026     5944725 :         yi = wkr * xi + wki * xr;
    2027     5944725 :         a[j] -= yr;
    2028     5944725 :         a[j + 1] -= yi;
    2029     5944725 :         a[k] += yr;
    2030     5944725 :         a[k + 1] -= yi;
    2031             :     }
    2032             : 
    2033      396315 :     return;
    2034             : }
    2035             : 
    2036             : 
    2037       90200 : static void rftbsub(
    2038             :     int16_t n,
    2039             :     float *a,
    2040             :     int16_t nc,
    2041             :     const float *c )
    2042             : {
    2043             :     int16_t j, k, kk, ks, m;
    2044             :     float wkr, wki, xr, xi, yr, yi;
    2045             : 
    2046       90200 :     a[1] = -a[1];
    2047       90200 :     m = n >> 1;
    2048       90200 :     ks = 2 * nc / m;
    2049       90200 :     kk = 0;
    2050     1443200 :     for ( j = 2; j < m; j += 2 )
    2051             :     {
    2052     1353000 :         k = n - j;
    2053     1353000 :         kk += ks;
    2054     1353000 :         wkr = 0.5f - c[nc - kk];
    2055     1353000 :         wki = c[kk];
    2056     1353000 :         xr = a[j] - a[k];
    2057     1353000 :         xi = a[j + 1] + a[k + 1];
    2058     1353000 :         yr = wkr * xr + wki * xi;
    2059     1353000 :         yi = wkr * xi - wki * xr;
    2060     1353000 :         a[j] -= yr;
    2061     1353000 :         a[j + 1] = yi - a[j + 1];
    2062     1353000 :         a[k] += yr;
    2063     1353000 :         a[k + 1] = yi - a[k + 1];
    2064             :     }
    2065       90200 :     a[m + 1] = -a[m + 1];
    2066             : 
    2067       90200 :     return;
    2068             : }
    2069             : 
    2070             : 
    2071      486515 : static void dctsub(
    2072             :     int16_t n,
    2073             :     float *a,
    2074             :     int16_t nc,
    2075             :     const float *c )
    2076             : {
    2077             :     int16_t j, k, kk, ks, m;
    2078             :     float wkr, wki, xr;
    2079             : 
    2080      486515 :     m = n >> 1;
    2081      486515 :     ks = nc / n;
    2082      486515 :     kk = 0;
    2083    15568480 :     for ( j = 1; j < m; j++ )
    2084             :     {
    2085    15081965 :         k = n - j;
    2086    15081965 :         kk += ks;
    2087    15081965 :         wkr = c[kk] - c[nc - kk];
    2088    15081965 :         wki = c[kk] + c[nc - kk];
    2089    15081965 :         xr = wki * a[j] - wkr * a[k];
    2090    15081965 :         a[j] = wkr * a[j] + wki * a[k];
    2091    15081965 :         a[k] = xr;
    2092             :     }
    2093      486515 :     a[m] *= c[0];
    2094             : 
    2095      486515 :     return;
    2096             : }
    2097             : 
    2098             : 
    2099             : /*-----------------------------------------------------------------*
    2100             :  * edct2()
    2101             :  *
    2102             :  * Transformation of the signal to DCT domain
    2103             :  * OR Inverse EDCT-II for short frames
    2104             :  *-----------------------------------------------------------------*/
    2105             : 
    2106      486515 : void edct2(
    2107             :     const int16_t n,
    2108             :     const int16_t isgn,
    2109             :     float *in,
    2110             :     float *a,
    2111             :     const int16_t *ip,
    2112             :     const float *w )
    2113             : {
    2114             :     int16_t j, nw, nc;
    2115             :     float xr;
    2116             : 
    2117      486515 :     mvr2r( in, a, n );
    2118             : 
    2119      486515 :     nw = ip[0];
    2120      486515 :     if ( n > ( nw << 2 ) )
    2121             :     {
    2122           0 :         nw = n >> 2;
    2123             :     }
    2124             : 
    2125      486515 :     nc = ip[1];
    2126      486515 :     if ( n > nc )
    2127             :     {
    2128           0 :         nc = n;
    2129             :     }
    2130             : 
    2131      486515 :     if ( isgn < 0 )
    2132             :     {
    2133       90200 :         xr = a[n - 1];
    2134     2886400 :         for ( j = n - 2; j >= 2; j -= 2 )
    2135             :         {
    2136     2796200 :             a[j + 1] = a[j] - a[j - 1];
    2137     2796200 :             a[j] += a[j - 1];
    2138             :         }
    2139       90200 :         a[1] = a[0] - xr;
    2140       90200 :         a[0] += xr;
    2141             : 
    2142       90200 :         if ( n > 4 )
    2143             :         {
    2144       90200 :             rftbsub( n, a, nc, w + nw );
    2145       90200 :             bitrv2_SR( n, ip + 2, a );
    2146       90200 :             cftbsub( n, a, w );
    2147             :         }
    2148           0 :         else if ( n == 4 )
    2149             :         {
    2150           0 :             cftfsub( n, a, w );
    2151             :         }
    2152             :     }
    2153             : 
    2154      486515 :     if ( isgn >= 0 )
    2155             :     {
    2156      396315 :         a[0] *= 0.5f;
    2157             :     }
    2158             : 
    2159      486515 :     dctsub( n, a, nc, w + nw );
    2160             : 
    2161      486515 :     if ( isgn >= 0 )
    2162             :     {
    2163      396315 :         if ( n > 4 )
    2164             :         {
    2165      396315 :             bitrv2_SR( n, ip + 2, a );
    2166      396315 :             cftfsub( n, a, w );
    2167      396315 :             rftfsub( n, a, nc, w + nw );
    2168             :         }
    2169           0 :         else if ( n == 4 )
    2170             :         {
    2171           0 :             cftfsub( n, a, w );
    2172             :         }
    2173      396315 :         xr = a[0] - a[1];
    2174      396315 :         a[0] += a[1];
    2175    12682080 :         for ( j = 2; j < n; j += 2 )
    2176             :         {
    2177    12285765 :             a[j - 1] = a[j] - a[j + 1];
    2178    12285765 :             a[j] += a[j + 1];
    2179             :         }
    2180      396315 :         a[n - 1] = xr;
    2181             : 
    2182    25760475 :         for ( j = 0; j < n; j++ )
    2183             :         {
    2184    25364160 :             a[j] /= 32.0f;
    2185             :         }
    2186             :     }
    2187      486515 : }
    2188             : 
    2189             : 
    2190     8480513 : void DoRTFTn(
    2191             :     float *x,       /* i/o: real part of input and output data       */
    2192             :     float *y,       /* i/o: imaginary part of input and output data  */
    2193             :     const int16_t n /* i  : size of the FFT up to 1024 */
    2194             : )
    2195             : {
    2196             : 
    2197             :     int16_t i;
    2198             :     float z[2048];
    2199             : 
    2200  3635087041 :     for ( i = 0; i < n; i++ )
    2201             :     {
    2202  3626606528 :         z[2 * i] = x[i];
    2203  3626606528 :         z[2 * i + 1] = y[i];
    2204             :     }
    2205             : 
    2206     8480513 :     switch ( n )
    2207             :     {
    2208       16320 :         case ( 16 ):
    2209       16320 :             cdftForw( 2 * n, z, Ip_fft16, w_fft16 );
    2210       16320 :             break;
    2211           0 :         case ( 32 ):
    2212           0 :             cdftForw( 2 * n, z, Ip_fft32, w_fft32 );
    2213           0 :             break;
    2214         131 :         case ( 64 ):
    2215         131 :             cdftForw( 2 * n, z, Ip_fft64, w_fft64 );
    2216         131 :             break;
    2217           2 :         case ( 128 ):
    2218           2 :             cdftForw( 2 * n, z, Ip_fft128, w_fft128 );
    2219           2 :             break;
    2220     2762742 :         case ( 256 ):
    2221     2762742 :             cdftForw( 2 * n, z, Ip_fft256, w_fft256 );
    2222     2762742 :             break;
    2223     5701318 :         case ( 512 ):
    2224     5701318 :             cdftForw( 2 * n, z, Ip_fft512, w_fft512 );
    2225     5701318 :             break;
    2226           0 :         default:
    2227           0 :             assert( 0 );
    2228             :     }
    2229             : 
    2230     8480513 :     x[0] = z[0];
    2231     8480513 :     y[0] = z[1];
    2232  3626606528 :     for ( i = 1; i < n; i++ )
    2233             :     {
    2234  3618126015 :         x[n - i] = z[2 * i];
    2235  3618126015 :         y[n - i] = z[2 * i + 1];
    2236             :     }
    2237             : 
    2238     8480513 :     return;
    2239             : }
    2240             : 
    2241             : 
    2242        1194 : void fft3(
    2243             :     const float X[],
    2244             :     float Y[],
    2245             :     const int16_t n )
    2246             : {
    2247             :     float Z[PH_ECU_SPEC_SIZE];
    2248             :     float *Z0, *Z1, *Z2;
    2249             :     float *z0, *z1, *z2;
    2250             :     const float *x;
    2251        1194 :     const float *t_sin = sincos_t_rad3;
    2252             :     int16_t m, step, order;
    2253             :     int16_t i, j;
    2254             :     int16_t c1_ind, s1_ind, c2_ind, s2_ind;
    2255             :     int16_t c1_step, s1_step, c2_step, s2_step;
    2256             :     float *RY, *IY, *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
    2257             : 
    2258             :     /* Determine the order of the transform, the length of decimated  */
    2259             :     /* transforms m, and the step for the sine and cosine tables.     */
    2260        1194 :     switch ( n )
    2261             :     {
    2262         398 :         case 1536:
    2263         398 :             order = 9;
    2264         398 :             m = 512;
    2265         398 :             step = 1;
    2266         398 :             break;
    2267         796 :         case 384:
    2268         796 :             order = 7;
    2269         796 :             m = 128;
    2270         796 :             step = 4;
    2271         796 :             break;
    2272           0 :         default:
    2273           0 :             order = 9;
    2274           0 :             m = 512;
    2275           0 :             step = 1;
    2276             :     }
    2277             : 
    2278             :     /* Compose decimated sequences X[3i], X[3i+1],X[3i+2] */
    2279             :     /* compute their FFT of length m.                                 */
    2280        1194 :     Z0 = &Z[0];
    2281        1194 :     z0 = &Z0[0];
    2282        1194 :     Z1 = &Z0[m];
    2283        1194 :     z1 = &Z1[0]; /* Z1 = &Z[ m];     */
    2284        1194 :     Z2 = &Z1[m];
    2285        1194 :     z2 = &Z2[0]; /* Z2 = &Z[2m];     */
    2286        1194 :     x = &X[0];
    2287      306858 :     for ( i = 0; i < n / 3; i++ )
    2288             :     {
    2289      305664 :         *z0++ = *x++; /* Z0[i] = X[3i];   */
    2290      305664 :         *z1++ = *x++; /* Z1[i] = X[3i+1]; */
    2291      305664 :         *z2++ = *x++; /* Z2[i] = X[3i+2]; */
    2292             :     }
    2293             : 
    2294        1194 :     fft_rel( &Z0[0], m, order );
    2295        1194 :     fft_rel( &Z1[0], m, order );
    2296        1194 :     fft_rel( &Z2[0], m, order );
    2297             : 
    2298             :     /* Butterflies of order 3. */
    2299             :     /* pointer initialization */
    2300        1194 :     RY = &Y[0];
    2301        1194 :     IY = &Y[n];
    2302        1194 :     RZ0 = &Z0[0];
    2303        1194 :     IZ0 = &Z0[m];
    2304        1194 :     RZ1 = &Z1[0];
    2305        1194 :     IZ1 = &Z1[m];
    2306        1194 :     RZ2 = &Z2[0];
    2307        1194 :     IZ2 = &Z2[m];
    2308             : 
    2309        1194 :     c1_step = -step;
    2310        1194 :     s1_step = step;
    2311        1194 :     c2_step = -2 * step;
    2312        1194 :     s2_step = 2 * step;
    2313        1194 :     c1_ind = T_SIN_PI_2 + c1_step;
    2314        1194 :     s1_ind = s1_step;
    2315        1194 :     c2_ind = T_SIN_PI_2 + c2_step;
    2316        1194 :     s2_ind = s2_step;
    2317             : 
    2318             :     /* special case: i = 0 */
    2319        1194 :     RY[0] = RZ0[0] + RZ1[0] + RZ2[0];
    2320             : 
    2321             :     /* first 3/12 */
    2322      114624 :     for ( i = 1; i < 3 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind += c2_step, s2_ind += s2_step )
    2323             :     {
    2324      113430 :         RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] + RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
    2325      113430 :         IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] + IZ2[-i] * t_sin[c2_ind];
    2326             :     }
    2327             : 
    2328             :     /* next 1/12 */
    2329       39402 :     for ( ; i < 4 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
    2330             :     {
    2331       38208 :         RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] - RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
    2332       38208 :         IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] - IZ2[-i] * t_sin[c2_ind];
    2333             :     }
    2334             : 
    2335             :     /* special case: i = m/2 i.e. 1/3 */
    2336        1194 :     RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] - RZ2[i] * t_sin[c2_ind];
    2337        1194 :     IY[-i] = -RZ1[i] * t_sin[s1_ind] - RZ2[i] * t_sin[s2_ind];
    2338        1194 :     i++;
    2339             : 
    2340        1194 :     c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step;
    2341             : 
    2342             :     /* next  2/12 */
    2343       76416 :     for ( j = i - 2; i < 6 * m / 8; i++, j--, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
    2344             :     {
    2345       75222 :         RY[i] = RZ0[j] + RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
    2346       75222 :         IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] - RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
    2347             :     }
    2348             : 
    2349             :     /*--------------------------half--------------------------*/
    2350             :     /* next 2/12 */
    2351       77610 :     for ( ; i < 8 * m / 8; i++, j--, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
    2352             :     {
    2353       76416 :         RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] + IZ2[-j] * t_sin[s2_ind];
    2354       76416 :         IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] + IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
    2355             :     }
    2356             : 
    2357             :     /* special case: i = m, i.e 2/3 */
    2358        1194 :     RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - RZ2[j] * t_sin[c2_ind];
    2359        1194 :     IY[-i++] = -RZ1[j] * t_sin[s1_ind] + RZ2[j] * t_sin[s2_ind];
    2360        1194 :     c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step;
    2361             : 
    2362             :     /* next 1/12 */
    2363       38208 :     for ( j = 1; i < 9 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
    2364             :     {
    2365       37014 :         RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
    2366       37014 :         IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] - IZ2[-j] * t_sin[c2_ind];
    2367             :     }
    2368             : 
    2369             :     /* last 3/12 */
    2370      115818 :     for ( ; i < 12 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
    2371             :     {
    2372      114624 :         RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] + RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
    2373      114624 :         IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
    2374             :     }
    2375             : 
    2376             :     /* special case: i = 3*m/2 */
    2377        1194 :     RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + RZ2[j] * t_sin[c2_ind];
    2378             : 
    2379        1194 :     return;
    2380             : }
    2381             : 
    2382         849 : void ifft3(
    2383             :     const float Z[],
    2384             :     float X[],
    2385             :     const int16_t n )
    2386             : {
    2387             :     float Y[PH_ECU_SPEC_SIZE];
    2388         849 :     const float *t_sin = sincos_t_rad3;
    2389             :     int16_t m, step, step2, order;
    2390             :     int16_t i;
    2391             :     int16_t c0_ind, s0_ind, c1_ind, s1_ind, c2_ind, s2_ind;
    2392             :     float scale;
    2393             :     const float *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
    2394             :     float *RY0, *IY0, *RY1, *IY1, *RY2, *IY2, *y0, *y1, *y2;
    2395             : 
    2396             :     /* Determine the order of the transform, the length of decimated  */
    2397             :     /* transforms m, and the step for the sine and cosine tables.     */
    2398         849 :     switch ( n )
    2399             :     {
    2400         849 :         case 1536:
    2401         849 :             order = 9;
    2402         849 :             m = 512;
    2403         849 :             step = 1;
    2404         849 :             break;
    2405           0 :         case 384:
    2406           0 :             order = 7;
    2407           0 :             m = 128;
    2408           0 :             step = 4;
    2409           0 :             break;
    2410           0 :         default:
    2411           0 :             order = 9;
    2412           0 :             m = 512;
    2413           0 :             step = 1;
    2414             :     }
    2415             : 
    2416             :     /* pointer initialization */
    2417         849 :     RY0 = &Y[0];
    2418         849 :     IY0 = &RY0[m];
    2419         849 :     RY1 = &RY0[m];
    2420         849 :     IY1 = &RY1[m];
    2421         849 :     RY2 = &RY1[m];
    2422         849 :     IY2 = &RY2[m];
    2423             : 
    2424         849 :     RZ0 = &Z[0];
    2425         849 :     RZ1 = RZ0 + m;
    2426         849 :     RZ2 = RZ0 + n / 2 - m / 2;
    2427         849 :     IZ0 = &Z[n];
    2428         849 :     IZ1 = IZ0 - m;
    2429         849 :     IZ2 = IZ0 - n / 2 + m / 2;
    2430             : 
    2431             :     /* Inverse butterflies of order 3. */
    2432             : 
    2433             :     /* Construction of Y0 */
    2434         849 :     RY0[0] = RZ0[0] + RZ1[0] + RZ2[0];
    2435      217344 :     for ( i = 1; i < m / 2; i++ )
    2436             :     {
    2437      216495 :         RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
    2438      216495 :         IY0[-i] = IZ0[-i] + IZ1[-i] - IZ2[i];
    2439             :     }
    2440             : 
    2441             :     /* m/2 */
    2442         849 :     RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
    2443             : 
    2444             :     /* Construction of Y1 */
    2445         849 :     c0_ind = T_SIN_PI_2;
    2446         849 :     s0_ind = 0;
    2447         849 :     c1_ind = T_SIN_PI_2 * 1 / 3;
    2448         849 :     s1_ind = T_SIN_PI_2 * 2 / 3;
    2449         849 :     c2_ind = T_SIN_PI_2 * 1 / 3;
    2450         849 :     s2_ind = T_SIN_PI_2 * 2 / 3;
    2451             : 
    2452         849 :     RY1[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] - IZ1[0] * t_sin[s1_ind] - IZ2[0] * t_sin[s2_ind];
    2453             : 
    2454         849 :     c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step;
    2455      108672 :     for ( i = 1; i < m / 4; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step )
    2456             :     {
    2457      107823 :         RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2458      107823 :         IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2459             :     }
    2460             : 
    2461      109521 :     for ( ; i < m / 2; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind += step, s2_ind -= step )
    2462             :     {
    2463      108672 :         RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2464      108672 :         IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] - IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2465             :     }
    2466             : 
    2467             :     /* m/2 */
    2468         849 :     RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2469             : 
    2470             :     /* Construction of Y2 */
    2471         849 :     c0_ind = T_SIN_PI_2;
    2472         849 :     s0_ind = 0;
    2473         849 :     c1_ind = T_SIN_PI_2 * 1 / 3;
    2474         849 :     s1_ind = T_SIN_PI_2 * 2 / 3;
    2475         849 :     c2_ind = T_SIN_PI_2 * 1 / 3;
    2476         849 :     s2_ind = T_SIN_PI_2 * 2 / 3;
    2477         849 :     step2 = 2 * step;
    2478         849 :     RY2[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] + IZ1[0] * t_sin[s1_ind] + IZ2[0] * t_sin[s2_ind];
    2479             : 
    2480         849 :     c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2;
    2481       54336 :     for ( i = 1; i < m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2 )
    2482             :     {
    2483       53487 :         RY2[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
    2484       53487 :         IY2[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
    2485             :     }
    2486             : 
    2487       55185 :     for ( ; i < m / 4; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind += step2, s2_ind -= step2 )
    2488             :     {
    2489       54336 :         RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
    2490       54336 :         IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
    2491             :     }
    2492             : 
    2493       55185 :     for ( ; i < 3 * m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
    2494             :     {
    2495       54336 :         RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2496       54336 :         IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2497             :     }
    2498             : 
    2499       55185 :     for ( ; i < m / 2; i++, c0_ind += step2, s0_ind -= step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
    2500             :     {
    2501       54336 :         RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2502       54336 :         IY2[-i] = -IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
    2503             :     }
    2504             : 
    2505             :     /* m/2 */
    2506         849 :     RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
    2507             : 
    2508             :     /* Compute the inverse FFT for all 3 blocks. */
    2509         849 :     ifft_rel( RY0, m, order );
    2510         849 :     ifft_rel( RY1, m, order );
    2511         849 :     ifft_rel( RY2, m, order );
    2512             : 
    2513         849 :     y0 = RY0;
    2514         849 :     y1 = RY1;
    2515         849 :     y2 = RY2;
    2516             : 
    2517             :     /* Interlacing and scaling, scale = 1/3 */
    2518         849 :     scale = 1.0f / 3;
    2519      435537 :     for ( i = 0; i < n; )
    2520             :     {
    2521      434688 :         X[i++] = ( *y0++ ) * scale;
    2522      434688 :         X[i++] = ( *y1++ ) * scale;
    2523      434688 :         X[i++] = ( *y2++ ) * scale;
    2524             :     }
    2525             : 
    2526         849 :     return;
    2527             : }
    2528             : 
    2529             : 
    2530     1110112 : static void rfft_post(
    2531             :     const float *sine_table,
    2532             :     float *buf,
    2533             :     const int16_t len )
    2534             : {
    2535             :     float tmp1, tmp2, tmp3, tmp4, s, c;
    2536     1110112 :     int16_t i = 0;
    2537             : 
    2538     1110112 :     tmp1 = buf[0] + buf[1];
    2539     1110112 :     buf[1] = buf[0] - buf[1];
    2540     1110112 :     buf[0] = tmp1;
    2541             : 
    2542   178728032 :     for ( i = 1; i <= ( len + 2 ) / 4; i++ )
    2543             :     {
    2544   177617920 :         s = sine_table[i];           /* sin(pi*i/(len/2)) */
    2545   177617920 :         c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
    2546             : 
    2547   177617920 :         tmp1 = buf[2 * i] - buf[len - 2 * i];
    2548   177617920 :         tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
    2549   177617920 :         tmp3 = s * tmp1 - c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
    2550   177617920 :         tmp4 = c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
    2551   177617920 :         tmp1 = buf[2 * i] + buf[len - 2 * i];
    2552   177617920 :         tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
    2553             : 
    2554   177617920 :         buf[2 * i] = 0.5f * ( tmp1 - tmp3 );
    2555   177617920 :         buf[2 * i + 1] = 0.5f * ( tmp2 - tmp4 );
    2556   177617920 :         buf[len - 2 * i] = 0.5f * ( tmp1 + tmp3 );
    2557   177617920 :         buf[len - 2 * i + 1] = -0.5f * ( tmp2 + tmp4 );
    2558             :     }
    2559     1110112 : }
    2560             : 
    2561      294126 : static void rfft_pre(
    2562             :     const float *sine_table,
    2563             :     float *buf,
    2564             :     const int16_t len )
    2565             : {
    2566      294126 :     const float scale = 1.0f / len;
    2567             :     float tmp1, tmp2, tmp3, tmp4, s, c;
    2568      294126 :     int16_t i = 0;
    2569             : 
    2570      294126 :     tmp1 = buf[0] + buf[1];
    2571      294126 :     buf[1] = scale * ( buf[0] - buf[1] );
    2572      294126 :     buf[0] = scale * tmp1;
    2573             : 
    2574    47354286 :     for ( i = 1; i <= ( len + 2 ) / 4; i++ )
    2575             :     {
    2576    47060160 :         s = sine_table[i];           /* sin(pi*i/(len/2)) */
    2577    47060160 :         c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
    2578             : 
    2579    47060160 :         tmp1 = buf[2 * i] - buf[len - 2 * i];
    2580    47060160 :         tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
    2581    47060160 :         tmp3 = s * tmp1 + c * tmp2;  /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
    2582    47060160 :         tmp4 = -c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
    2583    47060160 :         tmp1 = buf[2 * i] + buf[len - 2 * i];
    2584    47060160 :         tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
    2585             : 
    2586    47060160 :         buf[2 * i] = scale * ( tmp1 + tmp3 );
    2587    47060160 :         buf[2 * i + 1] = -scale * ( tmp2 + tmp4 );
    2588    47060160 :         buf[len - 2 * i] = scale * ( tmp1 - tmp3 );
    2589    47060160 :         buf[len - 2 * i + 1] = scale * ( tmp2 - tmp4 );
    2590             :     }
    2591             : 
    2592      294126 :     return;
    2593             : }
    2594             : 
    2595     2975827 : int16_t RFFTN(
    2596             :     float *data,
    2597             :     const float *sine_table,
    2598             :     const int16_t len,
    2599             :     const int16_t sign )
    2600             : {
    2601     2975827 :     assert( len <= 640 && len > 0 );
    2602             : 
    2603     2975827 :     if ( len == 640 )
    2604             :     {
    2605             :         float x[320], y[320];
    2606             :         int16_t i;
    2607             : 
    2608     1404238 :         if ( sign != -1 )
    2609             :         {
    2610      294126 :             rfft_pre( sine_table, data, len );
    2611             :         }
    2612             : 
    2613   450760398 :         for ( i = 0; i < 320; i++ )
    2614             :         {
    2615   449356160 :             x[i] = data[2 * i];
    2616   449356160 :             y[i] = data[2 * i + 1];
    2617             :         }
    2618     1404238 :         DoRTFT320( x, y );
    2619   450760398 :         for ( i = 0; i < 320; i++ )
    2620             :         {
    2621   449356160 :             data[2 * i] = x[i];
    2622   449356160 :             data[2 * i + 1] = y[i];
    2623             :         }
    2624             : 
    2625     1404238 :         if ( sign == -1 )
    2626             :         {
    2627     1110112 :             rfft_post( sine_table, data, len );
    2628             :         }
    2629             :     }
    2630             :     else
    2631             :     {
    2632     1571589 :         if ( len == 512 )
    2633             :         {
    2634             :             int16_t i;
    2635     1571589 :             const int16_t log2 = 9;
    2636             :             float reordered_data[512];
    2637             : 
    2638     1571589 :             if ( sign == -1 )
    2639             :             {
    2640      891144 :                 fft_rel( data, len, log2 );
    2641      891144 :                 reordered_data[0] = data[0];
    2642      891144 :                 reordered_data[1] = data[len / 2];
    2643   228132864 :                 for ( i = 1; i < len / 2; i++ )
    2644             :                 {
    2645   227241720 :                     reordered_data[2 * i] = data[i];
    2646   227241720 :                     reordered_data[2 * i + 1] = data[len - i];
    2647             :                 }
    2648             :             }
    2649             :             else
    2650             :             {
    2651      680445 :                 reordered_data[0] = data[0];
    2652      680445 :                 reordered_data[len / 2] = data[1];
    2653   174193920 :                 for ( i = 1; i < len / 2; i++ )
    2654             :                 {
    2655   173513475 :                     reordered_data[i] = data[2 * i];
    2656   173513475 :                     reordered_data[len - i] = data[2 * i + 1];
    2657             :                 }
    2658      680445 :                 ifft_rel( reordered_data, len, log2 );
    2659             :             }
    2660     1571589 :             mvr2r( reordered_data, data, len );
    2661             :         }
    2662             :         else
    2663             :         {
    2664           0 :             assert( !"Not supported FFT length!" );
    2665             :         }
    2666             :     }
    2667             : 
    2668     2975827 :     return 0;
    2669             : }
    2670             : 
    2671   104646450 : static void butterfly(
    2672             :     const float a,
    2673             :     const float b,
    2674             :     float *aPlusb,
    2675             :     float *aMinusb )
    2676             : {
    2677   104646450 :     *aPlusb = a + b;
    2678   104646450 :     *aMinusb = a - b;
    2679             : 
    2680   104646450 :     return;
    2681             : }
    2682             : 
    2683    69386000 : static void fft2(
    2684             :     float *pInOut )
    2685             : {
    2686             :     /*  FFT MATRIX:
    2687             :         1.0000             1.0000
    2688             :         1.0000            -1.0000
    2689             :     */
    2690             :     float re1, im1;
    2691             :     float re2, im2;
    2692             : 
    2693    69386000 :     re1 = pInOut[0];
    2694    69386000 :     im1 = pInOut[1];
    2695    69386000 :     re2 = pInOut[2];
    2696    69386000 :     im2 = pInOut[3];
    2697    69386000 :     pInOut[0] = re1 + re2;
    2698    69386000 :     pInOut[1] = im1 + im2;
    2699             : 
    2700    69386000 :     pInOut[2] = re1 - re2;
    2701    69386000 :     pInOut[3] = im1 - im2;
    2702             : 
    2703    69386000 :     return;
    2704             : }
    2705             : 
    2706             : static const float C31 = 0.5f;               /* cos(PI/3); sin(2*PI/3) */
    2707             : static const float C32 = 0.866025403784439f; /* cos(PI/3); sin(2*PI/3) */
    2708             : 
    2709    46269000 : static void fft3_2(
    2710             :     float *pInOut )
    2711             : {
    2712             :     float re1, im1;
    2713             :     float re2, im2;
    2714             :     float re3, im3;
    2715             : 
    2716             :     float tmp1, tmp2;
    2717             :     float tmp3, tmp4;
    2718             : 
    2719    46269000 :     re1 = pInOut[0];
    2720    46269000 :     im1 = pInOut[1];
    2721    46269000 :     re2 = pInOut[2];
    2722    46269000 :     im2 = pInOut[3];
    2723    46269000 :     re3 = pInOut[4];
    2724    46269000 :     im3 = pInOut[5];
    2725             : 
    2726             :     /*  FFT MATRIX:
    2727             :        1.0000             1.0000             1.0000
    2728             :                             C31      C32
    2729             :        1.0000            -0.5000 - 0.8660i  -0.5000 + 0.8660i
    2730             :        1.0000            -0.5000 + 0.8660i  -0.5000 - 0.8660i
    2731             :     */
    2732    46269000 :     tmp1 = re2 + re3;
    2733    46269000 :     tmp3 = im2 + im3;
    2734    46269000 :     tmp2 = re2 - re3;
    2735    46269000 :     tmp4 = im2 - im3;
    2736    46269000 :     pInOut[0] = re1 + tmp1;
    2737    46269000 :     pInOut[1] = im1 + tmp3;
    2738    46269000 :     pInOut[2] = re1 - C31 * tmp1 + C32 * tmp4;
    2739    46269000 :     pInOut[4] = re1 - C31 * tmp1 - C32 * tmp4;
    2740             : 
    2741    46269000 :     pInOut[3] = im1 - C32 * tmp2 - C31 * tmp3;
    2742    46269000 :     pInOut[5] = im1 + C32 * tmp2 - C31 * tmp3;
    2743    46269000 : }
    2744             : 
    2745             : 
    2746         300 : static void fft4(
    2747             :     float *pInOut )
    2748             : {
    2749             :     float re1, im1;
    2750             :     float re2, im2;
    2751             :     float re3, im3;
    2752             :     float re4, im4;
    2753             : 
    2754             :     float tmp1, tmp2;
    2755             :     float tmp3, tmp4;
    2756             :     float tmp5, tmp6;
    2757             :     float tmp7, tmp8;
    2758             : 
    2759         300 :     re1 = pInOut[0];
    2760         300 :     im1 = pInOut[1];
    2761         300 :     re2 = pInOut[2];
    2762         300 :     im2 = pInOut[3];
    2763         300 :     re3 = pInOut[4];
    2764         300 :     im3 = pInOut[5];
    2765         300 :     re4 = pInOut[6];
    2766         300 :     im4 = pInOut[7];
    2767             : 
    2768             :     /*
    2769             :      1.0000    1.0000      1.0000    1.0000
    2770             :      1.0000   -1.0000i    -1.0000    1.0000i
    2771             :      1.0000   -1.0000      1.0000   -1.0000
    2772             :      1.0000    1.0000i    -1.0000   -1.0000i
    2773             :     */
    2774         300 :     tmp1 = re1 + re3;
    2775         300 :     tmp3 = re2 + re4;
    2776         300 :     tmp5 = im1 + im3;
    2777         300 :     tmp7 = im2 + im4;
    2778         300 :     pInOut[0] = tmp1 + tmp3;
    2779         300 :     pInOut[4] = tmp1 - tmp3;
    2780             : 
    2781         300 :     pInOut[1] = tmp5 + tmp7;
    2782         300 :     pInOut[5] = tmp5 - tmp7;
    2783         300 :     tmp2 = re1 - re3;
    2784         300 :     tmp4 = re2 - re4;
    2785         300 :     tmp6 = im1 - im3;
    2786         300 :     tmp8 = im2 - im4;
    2787         300 :     pInOut[2] = tmp2 + tmp8;
    2788         300 :     pInOut[6] = tmp2 - tmp8;
    2789             : 
    2790         300 :     pInOut[3] = -tmp4 + tmp6;
    2791         300 :     pInOut[7] = tmp4 + tmp6;
    2792             : 
    2793         300 :     return;
    2794             : }
    2795             : 
    2796             : static const float C51 = 0.309016994374947f; /* cos(2*PI/5);   */
    2797             : static const float C52 = 0.951056516295154f; /* sin(2*PI/5);   */
    2798             : static const float C53 = 0.809016994374947f; /* cos(  PI/5);   */
    2799             : static const float C54 = 0.587785252292473f; /* sin(  PI/5);   */
    2800             : 
    2801    28089040 : static void fft5(
    2802             :     float *pInOut )
    2803             : {
    2804             :     float re1, im1;
    2805             :     float re2, im2;
    2806             :     float re3, im3;
    2807             :     float re4, im4;
    2808             :     float re5, im5;
    2809             : 
    2810             :     float tmp1, tmp2;
    2811             :     float tmp3, tmp4;
    2812             :     float tmp5, tmp6;
    2813             :     float tmp7, tmp8;
    2814             : 
    2815             : 
    2816    28089040 :     re1 = pInOut[0];
    2817    28089040 :     im1 = pInOut[1];
    2818    28089040 :     re2 = pInOut[2];
    2819    28089040 :     im2 = pInOut[3];
    2820    28089040 :     re3 = pInOut[4];
    2821    28089040 :     im3 = pInOut[5];
    2822    28089040 :     re4 = pInOut[6];
    2823    28089040 :     im4 = pInOut[7];
    2824    28089040 :     re5 = pInOut[8];
    2825    28089040 :     im5 = pInOut[9];
    2826             : 
    2827             :     /*
    2828             :      1.0000             1.0000             1.0000             1.0000             1.0000
    2829             :                           C51      C52      C53       C54
    2830             :      1.0000             0.3090 - 0.9511i  -0.8090 - 0.5878i  -0.8090 + 0.5878i   0.3090 + 0.9511i
    2831             :      1.0000            -0.8090 - 0.5878i   0.3090 + 0.9511i   0.3090 - 0.9511i  -0.8090 + 0.5878i
    2832             :      1.0000            -0.8090 + 0.5878i   0.3090 - 0.9511i   0.3090 + 0.9511i  -0.8090 - 0.5878i
    2833             :      1.0000             0.3090 + 0.9511i  -0.8090 + 0.5878i  -0.8090 - 0.5878i   0.3090 - 0.9511i
    2834             :     */
    2835    28089040 :     tmp1 = re2 + re5;
    2836    28089040 :     tmp2 = re2 - re5;
    2837    28089040 :     tmp3 = im2 + im5;
    2838    28089040 :     tmp4 = im2 - im5;
    2839    28089040 :     tmp5 = re3 + re4;
    2840    28089040 :     tmp6 = re3 - re4;
    2841    28089040 :     tmp7 = im3 + im4;
    2842    28089040 :     tmp8 = im3 - im4;
    2843             : 
    2844             : 
    2845    28089040 :     pInOut[0] = re1 + tmp1 + tmp5;
    2846    28089040 :     pInOut[1] = im1 + tmp3 + tmp7;
    2847             : 
    2848    28089040 :     pInOut[2] = re1 + C51 * tmp1 - C53 * tmp5 + C52 * tmp4 + C54 * tmp8;
    2849    28089040 :     pInOut[8] = re1 + C51 * tmp1 - C53 * tmp5 - C52 * tmp4 - C54 * tmp8;
    2850    28089040 :     pInOut[3] = im1 - C52 * tmp2 - C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
    2851    28089040 :     pInOut[9] = im1 + C52 * tmp2 + C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
    2852    28089040 :     pInOut[4] = re1 - C53 * tmp1 + C51 * tmp5 + C54 * tmp4 - C52 * tmp8;
    2853    28089040 :     pInOut[6] = re1 - C53 * tmp1 + C51 * tmp5 - C54 * tmp4 + C52 * tmp8;
    2854    28089040 :     pInOut[5] = im1 - C54 * tmp2 + C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
    2855    28089040 :     pInOut[7] = im1 + C54 * tmp2 - C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
    2856             : 
    2857    28089040 :     return;
    2858             : }
    2859             : 
    2860             : static const float C81 = 0.707106781186548f; /* cos(PI/4);   */
    2861             : 
    2862    17441075 : static void fft8_2(
    2863             :     float *pInOut )
    2864             : {
    2865             :     float re0, im0, re4, im4;
    2866             : 
    2867             :     float re1_7p, re1_7m;
    2868             :     float im1_7p, im1_7m;
    2869             :     float re2_6p, re2_6m;
    2870             :     float im2_6p, im2_6m;
    2871             :     float re3_5p, re3_5m;
    2872             :     float im3_5p, im3_5m;
    2873             : 
    2874    17441075 :     re0 = pInOut[0];
    2875    17441075 :     im0 = pInOut[1];
    2876    17441075 :     re4 = pInOut[8];
    2877    17441075 :     im4 = pInOut[9];
    2878    17441075 :     butterfly( pInOut[1 * 2], pInOut[7 * 2], &re1_7p, &re1_7m );
    2879    17441075 :     butterfly( pInOut[1 * 2 + 1], pInOut[7 * 2 + 1], &im1_7p, &im1_7m );
    2880    17441075 :     butterfly( pInOut[2 * 2], pInOut[6 * 2], &re2_6p, &re2_6m );
    2881    17441075 :     butterfly( pInOut[2 * 2 + 1], pInOut[6 * 2 + 1], &im2_6p, &im2_6m );
    2882    17441075 :     butterfly( pInOut[3 * 2], pInOut[5 * 2], &re3_5p, &re3_5m );
    2883    17441075 :     butterfly( pInOut[3 * 2 + 1], pInOut[5 * 2 + 1], &im3_5p, &im3_5m );
    2884             : 
    2885             :     /*
    2886             :     0:  1 + 0i     1   + 0i    1 + 0i        1 +   0i    1 + 0i      1 +   0i     1 + 0i      1 +   0i
    2887             :     1:  1 + 0i   C81 - C81i    0 - 1i     -C81 - C81i   -1 - 0i   -C81 + C81i   - 0 + 1i    C81 + C81i
    2888             :     2:  1 + 0i     0 -   1i   -1 - 0i     -  0 +   1i    1 + 0i      0 -   1i   - 1 - 0i   -  0 +   1i
    2889             :     3:  1 + 0i  -C81 - C81i   -0 + 1i      C81 - C81i   -1 - 0i    C81 + C81i     0 - 1i   -C81 + C81i
    2890             :     4:  1 + 0i  -  1 -   0i    1 + 0i     -  1 -   0i    1 + 0i   -  1 -   0i     1 + 0i   -  1 -   0i
    2891             :     5:  1 + 0i  -C81 + C81i    0 - 1i      C81 + C81i   -1 - 0i    C81 - C81i   - 0 + 1i   -C81 - C81i
    2892             :     6:  1 + 0i  -  0 +   1i   -1 - 0i        0 -   1i    1 + 0i   -  0 +   1i   - 1 - 0i    - 0 -   1i
    2893             :     7:  1 + 0i   C81 + C81i   -0 + 1i     -C81 + C81i   -1 - 0i   -C81 - C81i   - 0 - 1i    C81 - C81i
    2894             :     */
    2895    17441075 :     pInOut[0] = re0 + re4 + re1_7p + re2_6p + re3_5p;
    2896    17441075 :     pInOut[1] = im0 + im4 + im1_7p + im2_6p + im3_5p;
    2897             : 
    2898    17441075 :     pInOut[2] = re0 + C81 * ( re1_7p - re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) + im2_6m;
    2899    17441075 :     pInOut[3] = im0 + C81 * ( im1_7p - im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) - re2_6m;
    2900             : 
    2901    17441075 :     pInOut[4] = re0 - re2_6p + re4 + im1_7m - im3_5m;
    2902    17441075 :     pInOut[5] = im0 - im2_6p + im4 - re1_7m + re3_5m;
    2903             : 
    2904    17441075 :     pInOut[6] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) - im2_6m;
    2905    17441075 :     pInOut[7] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) + re2_6m;
    2906             : 
    2907    17441075 :     pInOut[8] = re0 - re1_7p + re2_6p - re3_5p + re4;
    2908    17441075 :     pInOut[9] = im0 - im1_7p + im2_6p - im3_5p + im4;
    2909             : 
    2910    17441075 :     pInOut[10] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) + im2_6m;
    2911    17441075 :     pInOut[11] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) - re2_6m;
    2912             : 
    2913    17441075 :     pInOut[12] = re0 - re2_6p + re4 - im1_7m + im3_5m;
    2914    17441075 :     pInOut[13] = im0 - im2_6p + im4 + re1_7m - re3_5m;
    2915             : 
    2916    17441075 :     pInOut[14] = re0 + C81 * ( re1_7p - re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) - im2_6m;
    2917    17441075 :     pInOut[15] = im0 + C81 * ( im1_7p - im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) + re2_6m;
    2918             : 
    2919    17441075 :     return;
    2920             : }
    2921             : 
    2922    17529580 : static void nextFFT(
    2923             :     float *x,
    2924             :     const int16_t length )
    2925             : {
    2926    17529580 :     switch ( length )
    2927             :     {
    2928           0 :         case 2:
    2929           0 :             fft2( x );
    2930           0 :             break;
    2931           0 :         case 3:
    2932           0 :             fft3_2( x );
    2933           0 :             break;
    2934           0 :         case 4:
    2935           0 :             fft4( x );
    2936           0 :             break;
    2937      183080 :         case 5:
    2938      183080 :             fft5( x );
    2939      183080 :             break;
    2940    17346500 :         case 8:
    2941    17346500 :             fft8_2( x );
    2942    17346500 :             break;
    2943           0 :         default:
    2944           0 :             assert( !"length not supported" );
    2945             :             break;
    2946             :     }
    2947             : 
    2948    17529580 :     return;
    2949             : }
    2950             : 
    2951             : static const int16_t CTFFTfactors[] = { 9, 8, 7, 5, 4, 3, 2, 0 };
    2952             : 
    2953     8709866 : static __inline int16_t findFactor(
    2954             :     const int16_t length )
    2955             : {
    2956     8709866 :     int16_t i = 0;
    2957     8709866 :     int16_t factor = 0;
    2958             : 
    2959    17492964 :     while ( CTFFTfactors[i] != 0 )
    2960             :     {
    2961    17492964 :         if ( 0 == ( length % CTFFTfactors[i] ) )
    2962             :         {
    2963     8709866 :             factor = CTFFTfactors[i];
    2964     8709866 :             break;
    2965             :         }
    2966     8783098 :         i++;
    2967             :     }
    2968     8709866 :     return factor;
    2969             : }
    2970             : 
    2971     8709866 : static __inline void twiddle(
    2972             :     float *x,
    2973             :     const int16_t length,
    2974             :     const int16_t n1,
    2975             :     const int16_t n2 )
    2976             : {
    2977             :     int16_t i, ii;
    2978     8709866 :     double pi = 4. * atan( 1. );
    2979             :     float sinValOrg, cosValOrg;
    2980     8709866 :     float sinVal = 0.f, cosVal = 1.f;
    2981     8709866 :     float twReal = 0.f, twImag = 1.f;
    2982             : 
    2983     8709866 :     cosValOrg = (float) cos( -2 * pi * 1. / (double) length );
    2984     8709866 :     sinValOrg = (float) sin( -2 * pi * 1. / (double) length );
    2985    69569080 :     for ( i = 1; i < n1; i++ )
    2986             :     {
    2987             :         float tmp;
    2988    60859214 :         twReal = 1.f;
    2989    60859214 :         twImag = 0.f;
    2990    60859214 :         tmp = cosVal * cosValOrg - sinVal * sinValOrg;
    2991    60859214 :         sinVal = sinVal * cosValOrg + cosVal * sinValOrg;
    2992    60859214 :         cosVal = tmp;
    2993   122157820 :         for ( ii = 1; ii < n2; ii++ )
    2994             :         {
    2995             :             float xRe, xIm, tmpReal;
    2996             :             /* cos(x+y) = cos(x)*cos(y) - sin(x)*sin(y); */
    2997             :             /* sin(x+y) = sin(x)*cos(y) + sin(y)*cos(x); */
    2998    61298606 :             tmpReal = twReal * cosVal - twImag * sinVal;
    2999    61298606 :             twImag = twImag * cosVal + sinVal * twReal;
    3000    61298606 :             twReal = tmpReal;
    3001    61298606 :             xRe = x[2 * ( i * n2 + ii )];
    3002    61298606 :             xIm = x[2 * ( i * n2 + ii ) + 1];
    3003    61298606 :             x[2 * ( i * n2 + ii )] = twReal * xRe - twImag * xIm;
    3004    61298606 :             x[2 * ( i * n2 + ii ) + 1] = twImag * xRe + twReal * xIm;
    3005             :         }
    3006    60859214 :         tmp = cosVal;
    3007             :     }
    3008             : 
    3009     8709866 :     return;
    3010             : }
    3011             : 
    3012   152365701 : static void cooleyTukeyFFT(
    3013             :     float *x,
    3014             :     const int16_t length,
    3015             :     float *scratch )
    3016             : {
    3017             :     int16_t factor;
    3018             :     int16_t i, ii;
    3019             :     int16_t n1, n2;
    3020   152365701 :     int16_t cnt = 0;
    3021             :     float *src, *dest;
    3022             : 
    3023   152365701 :     switch ( length )
    3024             :     {
    3025           0 :         case 1:
    3026           0 :             break;
    3027    69386000 :         case 2:
    3028    69386000 :             fft2( x );
    3029    69386000 :             break;
    3030    46269000 :         case 3:
    3031    46269000 :             fft3_2( x );
    3032    46269000 :             break;
    3033         300 :         case 4:
    3034         300 :             fft4( x );
    3035         300 :             break;
    3036    27905960 :         case 5:
    3037    27905960 :             fft5( x );
    3038    27905960 :             break;
    3039       94575 :         case 8:
    3040       94575 :             fft8_2( x );
    3041       94575 :             break;
    3042     8709866 :         default:
    3043             :         {
    3044     8709866 :             factor = findFactor( length );
    3045     8709866 :             if ( factor > 0 && ( length / factor > 1 ) )
    3046             :             {
    3047     8709866 :                 n1 = factor;
    3048     8709866 :                 n2 = length / factor;
    3049             : 
    3050             :                 /* DATA Resorting for stage1 */
    3051     8709866 :                 dest = scratch;
    3052    78278946 :                 for ( i = 0; i < 2 * n1; i += 2 )
    3053             :                 {
    3054    69569080 :                     src = x + i;
    3055   209256480 :                     for ( ii = 0; ii < n2; ii++ )
    3056             :                     {
    3057             :                         /* *dest++ = x[2*(i+ii*n1)]; */
    3058             :                         /* *dest++ = x[2*(i+ii*n1)+1]; */
    3059   139687400 :                         *dest++ = *src;
    3060   139687400 :                         *dest++ = *( src + 1 );
    3061   139687400 :                         src += 2 * n1;
    3062             :                     }
    3063             :                 }
    3064     8709866 :                 src = scratch;
    3065     8709866 :                 dest = x;
    3066   148397266 :                 for ( i = 0; i < length; i++ )
    3067             :                 {
    3068   139687400 :                     *dest++ = *src++;
    3069   139687400 :                     *dest++ = *src++;
    3070             :                 }
    3071             :                 /* perform n1 ffts of length n2 */
    3072    78278946 :                 for ( i = 0; i < n1; i++ )
    3073             :                 {
    3074    69569080 :                     cooleyTukeyFFT( x + 2 * i * n2, n2, scratch + 2 * i * n2 );
    3075             :                 }
    3076             :                 /*data twiddeling */
    3077     8709866 :                 twiddle( x, length, n1, n2 );
    3078             :                 /* DATA Resorting for stage2 */
    3079     8709866 :                 cnt = 0;
    3080    26239446 :                 for ( i = 0; i < n2; i++ )
    3081             :                 {
    3082   157216980 :                     for ( ii = 0; ii < n1; ii++ )
    3083             :                     {
    3084   139687400 :                         scratch[2 * cnt] = x[2 * ( i + ii * n2 )];
    3085   139687400 :                         scratch[2 * cnt + 1] = x[2 * ( i + ii * n2 ) + 1];
    3086   139687400 :                         cnt++;
    3087             :                     }
    3088             :                 }
    3089             :                 /* perform n2 ffts of length n1 */
    3090    26239446 :                 for ( i = 0; i < n2; i++ )
    3091             :                 {
    3092    17529580 :                     nextFFT( scratch + 2 * i * n1, n1 );
    3093             :                 }
    3094     8709866 :                 cnt = 0;
    3095    78278946 :                 for ( i = 0; i < n1; i++ )
    3096             :                 {
    3097   209256480 :                     for ( ii = 0; ii < n2; ii++ )
    3098             :                     {
    3099   139687400 :                         x[2 * cnt] = scratch[2 * ( i + ii * n1 )];
    3100   139687400 :                         x[2 * cnt + 1] = scratch[2 * ( i + ii * n1 ) + 1];
    3101   139687400 :                         cnt++;
    3102             :                     }
    3103             :                 }
    3104             :             }
    3105             :             else
    3106             :             {
    3107           0 :                 assert( !"length not supported" );
    3108             :             }
    3109             :         }
    3110             :     }
    3111             : 
    3112   152365701 :     return;
    3113             : }
    3114             : 
    3115    56179742 : static void pfaDFT(
    3116             :     float *x,
    3117             :     const int16_t length,
    3118             :     float *scratch1,
    3119             :     const int16_t numFactors,
    3120             :     const int16_t *factor )
    3121             : {
    3122             :     int16_t i, ii;
    3123             :     int16_t cnt;
    3124             : 
    3125    56179742 :     if ( numFactors > 1 )
    3126             :     {
    3127     9830092 :         float *tmp = scratch1;
    3128     9830092 :         int16_t n1_inv = 1, n2_inv = 1;
    3129     9830092 :         int16_t n2 = factor[0 /*idx*/];
    3130     9830092 :         int16_t n1 = length / n2;
    3131             :         int16_t idx, incr;
    3132             : 
    3133    27243701 :         while ( ( ( n1_inv * n1 ) % n2 ) != 1 )
    3134             :         {
    3135    17413609 :             n1_inv++;
    3136             :         }
    3137    19082229 :         while ( ( ( n2_inv * n2 ) % n1 ) != 1 )
    3138             :         {
    3139     9252137 :             n2_inv++;
    3140             :         }
    3141     9830092 :         idx = 0;
    3142     9830092 :         incr = n1 * n1_inv;
    3143     9830092 :         cnt = 0;
    3144    46277063 :         for ( i = 0; i < n1; i++ )
    3145             :         {
    3146   278336800 :             for ( ii = 0; ii < n2 - 1; ii++ )
    3147             :             {
    3148   241889829 :                 tmp[cnt++] = x[2 * idx];
    3149   241889829 :                 tmp[cnt++] = x[2 * idx + 1];
    3150             : 
    3151   241889829 :                 idx += incr;
    3152   241889829 :                 if ( idx > length )
    3153             :                 {
    3154   159025623 :                     idx -= length;
    3155             :                 }
    3156             :             }
    3157    36446971 :             tmp[cnt++] = x[2 * idx];
    3158    36446971 :             tmp[cnt++] = x[2 * idx + 1];
    3159    36446971 :             idx++;
    3160             :         }
    3161    46277063 :         for ( cnt = 0; cnt < length; cnt += n2 )
    3162             :         {
    3163    36446971 :             cooleyTukeyFFT( tmp + 2 * cnt, n2, x + 2 * cnt );
    3164             :         }
    3165    46277063 :         for ( cnt = 0; cnt < n1; cnt++ )
    3166             :         {
    3167   314783771 :             for ( i = 0; i < n2; i++ )
    3168             :             {
    3169   278336800 :                 x[2 * ( cnt + i * n1 )] = tmp[2 * ( cnt * n2 + i )];
    3170   278336800 :                 x[2 * ( cnt + i * n1 ) + 1] = tmp[2 * ( cnt * n2 + i ) + 1];
    3171             :             }
    3172             :         }
    3173    65428727 :         for ( cnt = 0; cnt < length; cnt += n1 )
    3174             :         {
    3175    55598635 :             pfaDFT( x + 2 * cnt, n1, tmp, numFactors - 1, &factor[1] );
    3176             :         }
    3177     9830092 :         idx = 0;
    3178     9830092 :         cnt = 0;
    3179    65428727 :         for ( i = 0; i < n2; i++ )
    3180             :         {
    3181    55598635 :             idx = i * n1;
    3182   333935435 :             for ( ii = 0; ii < n1; ii++ )
    3183             :             {
    3184   278336800 :                 tmp[2 * idx] = x[cnt++];
    3185   278336800 :                 tmp[2 * idx + 1] = x[cnt++];
    3186   278336800 :                 idx += n2;
    3187   278336800 :                 if ( idx > length )
    3188             :                 {
    3189    45768543 :                     idx -= length;
    3190             :                 }
    3191             :             }
    3192             :         }
    3193   288166892 :         for ( cnt = 0; cnt < length; cnt++ )
    3194             :         {
    3195   278336800 :             x[2 * cnt] = tmp[2 * cnt];
    3196   278336800 :             x[2 * cnt + 1] = tmp[2 * cnt + 1];
    3197             :         }
    3198             :     }
    3199             :     else
    3200             :     {
    3201    46349650 :         cooleyTukeyFFT( x, length, scratch1 );
    3202             :     }
    3203             : 
    3204    56179742 :     return;
    3205             : }
    3206             : 
    3207      581107 : static void fftf_interleave(
    3208             :     float *re,
    3209             :     float *im,
    3210             :     float *out,
    3211             :     const int16_t len )
    3212             : {
    3213      581107 :     int16_t i = 0;
    3214             : 
    3215   140110907 :     for ( i = 0; i < len; i++ )
    3216             :     {
    3217   139529800 :         *out++ = *re++;
    3218   139529800 :         *out++ = *im++;
    3219             :     }
    3220             : 
    3221      581107 :     return;
    3222             : }
    3223             : 
    3224      581107 : static void fftf_deinterleave(
    3225             :     float *in,
    3226             :     float *re,
    3227             :     float *im,
    3228             :     const int16_t len )
    3229             : {
    3230      581107 :     int16_t i = 0;
    3231             : 
    3232   140110907 :     for ( i = 0; i < len; i++ )
    3233             :     {
    3234   139529800 :         *re++ = *in++;
    3235   139529800 :         *im++ = *in++;
    3236             :     }
    3237             : 
    3238      581107 :     return;
    3239             : }
    3240             : 
    3241         321 : static void DoRTFT600(
    3242             :     float *x, /* i/o: real part of input and output data       */
    3243             :     float *y  /* i/o: imaginary part of input and output data  */
    3244             : )
    3245             : {
    3246             :     float scratch[1200], cmplx[1200];
    3247         321 :     const int16_t factors[3] = { 25, 8, 3 };
    3248             : 
    3249         321 :     fftf_interleave( x, y, cmplx, 600 );
    3250         321 :     pfaDFT( cmplx, 600, scratch, 3, factors );
    3251         321 :     fftf_deinterleave( cmplx, x, y, 600 );
    3252             : 
    3253         321 :     return;
    3254             : }
    3255             : 
    3256         394 : static void DoRTFT400(
    3257             :     float *x, /* i/o: real part of input and output data       */
    3258             :     float *y  /* i/o: imaginary part of input and output data  */
    3259             : )
    3260             : {
    3261             :     float scratch[800], cmplx[800];
    3262         394 :     const int16_t factors[2] = { 25, 16 };
    3263             : 
    3264         394 :     fftf_interleave( x, y, cmplx, 400 );
    3265         394 :     pfaDFT( cmplx, 400, scratch, 2, factors );
    3266         394 :     fftf_deinterleave( cmplx, x, y, 400 );
    3267             : 
    3268             : 
    3269         394 :     return;
    3270             : }
    3271             : 
    3272      577560 : static void DoRTFT240(
    3273             :     float *x, /* i/o: real part of input and output data       */
    3274             :     float *y  /* i/o: imaginary part of input and output data  */
    3275             : )
    3276             : {
    3277             :     float scratch[480], cmplx[480];
    3278      577560 :     const int16_t factors[3] = { 16, 5, 3 };
    3279             : 
    3280      577560 :     fftf_interleave( x, y, cmplx, 240 );
    3281      577560 :     pfaDFT( cmplx, 240, scratch, 3, factors );
    3282      577560 :     fftf_deinterleave( cmplx, x, y, 240 );
    3283             : 
    3284      577560 :     return;
    3285             : }
    3286             : 
    3287        2820 : static void DoRTFT200(
    3288             :     float *x, /* i/o: real part of input and output data       */
    3289             :     float *y  /* i/o: imaginary part of input and output data  */
    3290             : )
    3291             : {
    3292             :     float scratch[400], cmplx[400];
    3293        2820 :     const int16_t factors[2] = { 25, 8 };
    3294             : 
    3295        2820 :     fftf_interleave( x, y, cmplx, 200 );
    3296        2820 :     pfaDFT( cmplx, 200, scratch, 2, factors );
    3297        2820 :     fftf_deinterleave( cmplx, x, y, 200 );
    3298             : 
    3299        2820 :     return;
    3300             : }
    3301             : 
    3302          12 : static void DoRTFT100(
    3303             :     float *x, /* i/o: real part of input and output data       */
    3304             :     float *y  /* i/o: imaginary part of input and output data  */
    3305             : )
    3306             : {
    3307             :     float scratch[200], cmplx[200];
    3308          12 :     const int16_t factors[2] = { 25, 4 };
    3309             : 
    3310          12 :     fftf_interleave( x, y, cmplx, 100 );
    3311          12 :     pfaDFT( cmplx, 100, scratch, 2, factors );
    3312          12 :     fftf_deinterleave( cmplx, x, y, 100 );
    3313             : 
    3314          12 :     return;
    3315             : }
    3316             : 
    3317             : 
    3318     6031558 : void DoFFT(
    3319             :     float *re2,
    3320             :     float *im2,
    3321             :     const int16_t length )
    3322             : {
    3323     6031558 :     switch ( length )
    3324             :     {
    3325         321 :         case 600:
    3326         321 :             DoRTFT600( re2, im2 );
    3327         321 :             break;
    3328       63225 :         case 480:
    3329       63225 :             DoRTFT480( re2, im2 );
    3330       63225 :             break;
    3331         394 :         case 400:
    3332         394 :             DoRTFT400( re2, im2 );
    3333         394 :             break;
    3334      274127 :         case 320:
    3335      274127 :             DoRTFT320( re2, im2 );
    3336      274127 :             break;
    3337        1434 :         case 256:
    3338        1434 :             DoRTFTn( re2, im2, 256 );
    3339        1434 :             break;
    3340      577560 :         case 240:
    3341      577560 :             DoRTFT240( re2, im2 );
    3342      577560 :             break;
    3343        2820 :         case 200:
    3344        2820 :             DoRTFT200( re2, im2 );
    3345        2820 :             break;
    3346      153843 :         case 160:
    3347      153843 :             DoRTFT160( re2, im2 );
    3348      153843 :             break;
    3349     4850466 :         case 128:
    3350     4850466 :             DoRTFT128( re2, im2 );
    3351     4850466 :             break;
    3352        2272 :         case 120:
    3353        2272 :             DoRTFT120( re2, im2 );
    3354        2272 :             break;
    3355          12 :         case 100:
    3356          12 :             DoRTFT100( re2, im2 );
    3357          12 :             break;
    3358      104336 :         case 80:
    3359      104336 :             DoRTFT80( re2, im2 );
    3360      104336 :             break;
    3361         128 :         case 64:
    3362         128 :             DoRTFTn( re2, im2, 64 );
    3363         128 :             break;
    3364         524 :         case 40:
    3365         524 :             DoRTFT40( re2, im2 );
    3366         524 :             break;
    3367          96 :         case 20:
    3368          96 :             DoRTFT20( re2, im2 );
    3369          96 :             break;
    3370           0 :         default:
    3371           0 :             assert( !"fft is not supported!" );
    3372             :     }
    3373             : 
    3374     6031558 :     return;
    3375             : }
    3376             : 
    3377             : /*-----------------------------------------------------------------*
    3378             :  * Low-complexity implementation of FFT
    3379             :  *-----------------------------------------------------------------*/
    3380             : 
    3381     4158256 : static void fft_len5(
    3382             :     float *re,
    3383             :     float *im,
    3384             :     const int16_t s )
    3385             : {
    3386             :     float x0, x1, x2, x3, x4;
    3387             :     float r1, r2, r3, r4;
    3388             :     float s1, s2, s3, s4;
    3389             :     float t;
    3390             : 
    3391     4158256 :     x0 = re[s * 0];
    3392     4158256 :     x1 = re[s * 1];
    3393     4158256 :     x2 = re[s * 2];
    3394     4158256 :     x3 = re[s * 3];
    3395     4158256 :     x4 = re[s * 4];
    3396             : 
    3397     4158256 :     r1 = ( x1 + x4 );
    3398     4158256 :     r4 = ( x1 - x4 );
    3399     4158256 :     r3 = ( x2 + x3 );
    3400     4158256 :     r2 = ( x2 - x3 );
    3401     4158256 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3402     4158256 :     r1 = ( r1 + r3 );
    3403     4158256 :     re[0] = ( x0 + r1 );
    3404             : 
    3405     4158256 :     r1 = ( re[0] + ( ( r1 * FFT_C55 ) ) );
    3406     4158256 :     r3 = ( r1 - t );
    3407     4158256 :     r1 = ( r1 + t );
    3408     4158256 :     t = ( ( r4 + r2 ) * FFT_C51 );
    3409             : 
    3410     4158256 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3411     4158256 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3412             : 
    3413     4158256 :     x0 = im[s * 0];
    3414     4158256 :     x1 = im[s * 1];
    3415     4158256 :     x2 = im[s * 2];
    3416     4158256 :     x3 = im[s * 3];
    3417     4158256 :     x4 = im[s * 4];
    3418             : 
    3419     4158256 :     s1 = ( x1 + x4 );
    3420     4158256 :     s4 = ( x1 - x4 );
    3421     4158256 :     s3 = ( x2 + x3 );
    3422     4158256 :     s2 = ( x2 - x3 );
    3423     4158256 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3424     4158256 :     s1 = ( s1 + s3 );
    3425     4158256 :     im[0] = ( x0 + s1 );
    3426             : 
    3427     4158256 :     s1 = ( im[0] + ( s1 * FFT_C55 ) );
    3428     4158256 :     s3 = ( s1 - t );
    3429     4158256 :     s1 = ( s1 + t );
    3430     4158256 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3431             : 
    3432     4158256 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3433     4158256 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3434             : 
    3435     4158256 :     re[s * 1] = ( r1 + s2 );
    3436     4158256 :     re[s * 4] = ( r1 - s2 );
    3437     4158256 :     re[s * 2] = ( r3 - s4 );
    3438     4158256 :     re[s * 3] = ( r3 + s4 );
    3439             : 
    3440     4158256 :     im[s * 1] = ( s1 - r2 );
    3441     4158256 :     im[s * 4] = ( s1 + r2 );
    3442     4158256 :     im[s * 2] = ( s3 + r4 );
    3443     4158256 :     im[s * 3] = ( s3 - r4 );
    3444             : 
    3445     4158256 :     return;
    3446             : }
    3447             : 
    3448     2167080 : static void fft_len8(
    3449             :     float *re,
    3450             :     float *im,
    3451             :     const int16_t s )
    3452             : {
    3453             :     float x00, x01, x02, x03, x04, x05, x06, x07;
    3454             :     float x08, x09, x10, x11, x12, x13, x14, x15;
    3455             :     float t00, t01, t02, t03, t04, t05, t06, t07;
    3456             :     float t08, t09, t10, t11, t12, t13, t14, t15;
    3457             :     float s00, s01, s02, s03, s04, s05, s06, s07;
    3458             :     float s08, s09, s10, s11, s12, s13, s14, s15;
    3459             : 
    3460     2167080 :     x00 = re[s * 0];
    3461     2167080 :     x01 = im[s * 0];
    3462     2167080 :     x02 = re[s * 1];
    3463     2167080 :     x03 = im[s * 1];
    3464     2167080 :     x04 = re[s * 2];
    3465     2167080 :     x05 = im[s * 2];
    3466     2167080 :     x06 = re[s * 3];
    3467     2167080 :     x07 = im[s * 3];
    3468     2167080 :     x08 = re[s * 4];
    3469     2167080 :     x09 = im[s * 4];
    3470     2167080 :     x10 = re[s * 5];
    3471     2167080 :     x11 = im[s * 5];
    3472     2167080 :     x12 = re[s * 6];
    3473     2167080 :     x13 = im[s * 6];
    3474     2167080 :     x14 = re[s * 7];
    3475     2167080 :     x15 = im[s * 7];
    3476             : 
    3477     2167080 :     t00 = ( x00 + x08 );
    3478     2167080 :     t02 = ( x00 - x08 );
    3479     2167080 :     t01 = ( x01 + x09 );
    3480     2167080 :     t03 = ( x01 - x09 );
    3481     2167080 :     t04 = ( x02 + x10 );
    3482     2167080 :     t06 = ( x02 - x10 );
    3483     2167080 :     t05 = ( x03 + x11 );
    3484     2167080 :     t07 = ( x03 - x11 );
    3485     2167080 :     t08 = ( x04 + x12 );
    3486     2167080 :     t10 = ( x04 - x12 );
    3487     2167080 :     t09 = ( x05 + x13 );
    3488     2167080 :     t11 = ( x05 - x13 );
    3489     2167080 :     t12 = ( x06 + x14 );
    3490     2167080 :     t14 = ( x06 - x14 );
    3491     2167080 :     t13 = ( x07 + x15 );
    3492     2167080 :     t15 = ( x07 - x15 );
    3493             : 
    3494     2167080 :     s00 = ( t00 + t08 );
    3495     2167080 :     s04 = ( t00 - t08 );
    3496     2167080 :     s01 = ( t01 + t09 );
    3497     2167080 :     s05 = ( t01 - t09 );
    3498     2167080 :     s08 = ( t02 - t11 );
    3499     2167080 :     s10 = ( t02 + t11 );
    3500     2167080 :     s09 = ( t03 + t10 );
    3501     2167080 :     s11 = ( t03 - t10 );
    3502     2167080 :     s02 = ( t04 + t12 );
    3503     2167080 :     s07 = ( t04 - t12 );
    3504     2167080 :     s03 = ( t05 + t13 );
    3505     2167080 :     s06 = ( t13 - t05 );
    3506             : 
    3507     2167080 :     t01 = ( t06 + t14 );
    3508     2167080 :     t02 = ( t06 - t14 );
    3509     2167080 :     t00 = ( t07 + t15 );
    3510     2167080 :     t03 = ( t07 - t15 );
    3511             : 
    3512     2167080 :     s12 = ( ( t00 + t02 ) * FFT_C81 );
    3513     2167080 :     s14 = ( ( t00 - t02 ) * FFT_C81 );
    3514     2167080 :     s13 = ( ( t03 - t01 ) * FFT_C81 );
    3515     2167080 :     s15 = ( ( t01 + t03 ) * FFT_C82 );
    3516             : 
    3517     2167080 :     re[s * 0] = ( s00 + s02 );
    3518     2167080 :     re[s * 4] = ( s00 - s02 );
    3519     2167080 :     im[s * 0] = ( s01 + s03 );
    3520     2167080 :     im[s * 4] = ( s01 - s03 );
    3521     2167080 :     re[s * 2] = ( s04 - s06 );
    3522     2167080 :     re[s * 6] = ( s04 + s06 );
    3523     2167080 :     im[s * 2] = ( s05 - s07 );
    3524     2167080 :     im[s * 6] = ( s05 + s07 );
    3525     2167080 :     re[s * 3] = ( s08 + s14 );
    3526     2167080 :     re[s * 7] = ( s08 - s14 );
    3527     2167080 :     im[s * 3] = ( s09 + s15 );
    3528     2167080 :     im[s * 7] = ( s09 - s15 );
    3529     2167080 :     re[s * 1] = ( s10 + s12 );
    3530     2167080 :     re[s * 5] = ( s10 - s12 );
    3531     2167080 :     im[s * 1] = ( s11 + s13 );
    3532     2167080 :     im[s * 5] = ( s11 - s13 );
    3533             : 
    3534     2167080 :     return;
    3535             : }
    3536             : 
    3537   205649416 : static void fft_len10(
    3538             :     float *re,
    3539             :     float *im,
    3540             :     const int16_t s )
    3541             : {
    3542             :     float t;
    3543             :     float x0, x1, x2, x3, x4;
    3544             :     float r1, r2, r3, r4;
    3545             :     float s1, s2, s3, s4;
    3546             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    3547             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    3548             : 
    3549   205649416 :     x0 = re[s * 0];
    3550   205649416 :     x1 = re[s * 2];
    3551   205649416 :     x2 = re[s * 4];
    3552   205649416 :     x3 = re[s * 6];
    3553   205649416 :     x4 = re[s * 8];
    3554             : 
    3555   205649416 :     r1 = ( x3 + x2 );
    3556   205649416 :     r4 = ( x3 - x2 );
    3557   205649416 :     r3 = ( x1 + x4 );
    3558   205649416 :     r2 = ( x1 - x4 );
    3559   205649416 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3560   205649416 :     r1 = ( r1 + r3 );
    3561   205649416 :     y00 = ( x0 + r1 );
    3562   205649416 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    3563   205649416 :     r3 = ( r1 - t );
    3564   205649416 :     r1 = ( r1 + t );
    3565   205649416 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3566   205649416 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3567   205649416 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3568             : 
    3569   205649416 :     x0 = im[s * 0];
    3570   205649416 :     x1 = im[s * 2];
    3571   205649416 :     x2 = im[s * 4];
    3572   205649416 :     x3 = im[s * 6];
    3573   205649416 :     x4 = im[s * 8];
    3574             : 
    3575   205649416 :     s1 = ( x3 + x2 );
    3576   205649416 :     s4 = ( x3 - x2 );
    3577   205649416 :     s3 = ( x1 + x4 );
    3578   205649416 :     s2 = ( x1 - x4 );
    3579   205649416 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3580   205649416 :     s1 = ( s1 + s3 );
    3581   205649416 :     y01 = ( x0 + s1 );
    3582   205649416 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    3583   205649416 :     s3 = ( s1 - t );
    3584   205649416 :     s1 = ( s1 + t );
    3585   205649416 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3586   205649416 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3587   205649416 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3588             : 
    3589   205649416 :     y04 = ( r1 + s2 );
    3590   205649416 :     y16 = ( r1 - s2 );
    3591   205649416 :     y08 = ( r3 - s4 );
    3592   205649416 :     y12 = ( r3 + s4 );
    3593             : 
    3594   205649416 :     y05 = ( s1 - r2 );
    3595   205649416 :     y17 = ( s1 + r2 );
    3596   205649416 :     y09 = ( s3 + r4 );
    3597   205649416 :     y13 = ( s3 - r4 );
    3598             : 
    3599   205649416 :     x0 = re[s * 5];
    3600   205649416 :     x1 = re[s * 1];
    3601   205649416 :     x2 = re[s * 3];
    3602   205649416 :     x3 = re[s * 7];
    3603   205649416 :     x4 = re[s * 9];
    3604             : 
    3605   205649416 :     r1 = ( x1 + x4 );
    3606   205649416 :     r4 = ( x1 - x4 );
    3607   205649416 :     r3 = ( x3 + x2 );
    3608   205649416 :     r2 = ( x3 - x2 );
    3609   205649416 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3610   205649416 :     r1 = ( r1 + r3 );
    3611   205649416 :     y02 = ( x0 + r1 );
    3612   205649416 :     r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
    3613   205649416 :     r3 = ( r1 - t );
    3614   205649416 :     r1 = ( r1 + t );
    3615   205649416 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3616   205649416 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3617   205649416 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3618             : 
    3619   205649416 :     x0 = im[s * 5];
    3620   205649416 :     x1 = im[s * 1];
    3621   205649416 :     x2 = im[s * 3];
    3622   205649416 :     x3 = im[s * 7];
    3623   205649416 :     x4 = im[s * 9];
    3624             : 
    3625   205649416 :     s1 = ( x1 + x4 );
    3626   205649416 :     s4 = ( x1 - x4 );
    3627   205649416 :     s3 = ( x3 + x2 );
    3628   205649416 :     s2 = ( x3 - x2 );
    3629   205649416 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3630   205649416 :     s1 = ( s1 + s3 );
    3631   205649416 :     y03 = ( x0 + s1 );
    3632   205649416 :     s1 = ( y03 + ( s1 * FFT_C55 ) );
    3633   205649416 :     s3 = ( s1 - t );
    3634   205649416 :     s1 = ( s1 + t );
    3635   205649416 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3636   205649416 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3637   205649416 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3638             : 
    3639   205649416 :     y06 = ( r1 + s2 );
    3640   205649416 :     y18 = ( r1 - s2 );
    3641   205649416 :     y10 = ( r3 - s4 );
    3642   205649416 :     y14 = ( r3 + s4 );
    3643             : 
    3644   205649416 :     y07 = ( s1 - r2 );
    3645   205649416 :     y19 = ( s1 + r2 );
    3646   205649416 :     y11 = ( s3 + r4 );
    3647   205649416 :     y15 = ( s3 - r4 );
    3648             : 
    3649   205649416 :     re[s * 0] = ( y00 + y02 );
    3650   205649416 :     im[s * 0] = ( y01 + y03 );
    3651   205649416 :     re[s * 5] = ( y00 - y02 );
    3652   205649416 :     im[s * 5] = ( y01 - y03 );
    3653             : 
    3654   205649416 :     re[s * 2] = ( y04 + y06 );
    3655   205649416 :     im[s * 2] = ( y05 + y07 );
    3656   205649416 :     re[s * 7] = ( y04 - y06 );
    3657   205649416 :     im[s * 7] = ( y05 - y07 );
    3658             : 
    3659   205649416 :     re[s * 4] = ( y08 + y10 );
    3660   205649416 :     im[s * 4] = ( y09 + y11 );
    3661   205649416 :     re[s * 9] = ( y08 - y10 );
    3662   205649416 :     im[s * 9] = ( y09 - y11 );
    3663             : 
    3664   205649416 :     re[s * 6] = ( y12 + y14 );
    3665   205649416 :     im[s * 6] = ( y13 + y15 );
    3666   205649416 :     re[s * 1] = ( y12 - y14 );
    3667   205649416 :     im[s * 1] = ( y13 - y15 );
    3668             : 
    3669   205649416 :     re[s * 8] = ( y16 + y18 );
    3670   205649416 :     im[s * 8] = ( y17 + y19 );
    3671   205649416 :     re[s * 3] = ( y16 - y18 );
    3672   205649416 :     im[s * 3] = ( y17 - y19 );
    3673             : 
    3674   205649416 :     return;
    3675             : }
    3676             : 
    3677    14937392 : static void fft_len15(
    3678             :     float *re,
    3679             :     float *im,
    3680             :     const int16_t s )
    3681             : {
    3682             :     float t;
    3683             :     float r1, r2, r3, r4;
    3684             :     float s1, s2, s3, s4;
    3685             :     float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
    3686             :     float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
    3687             :     float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
    3688             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    3689             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    3690             :     float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
    3691             : 
    3692    14937392 :     x00 = re[s * 0];
    3693    14937392 :     x01 = im[s * 0];
    3694    14937392 :     x02 = re[s * 3];
    3695    14937392 :     x03 = im[s * 3];
    3696    14937392 :     x04 = re[s * 6];
    3697    14937392 :     x05 = im[s * 6];
    3698    14937392 :     x06 = re[s * 9];
    3699    14937392 :     x07 = im[s * 9];
    3700    14937392 :     x08 = re[s * 12];
    3701    14937392 :     x09 = im[s * 12];
    3702             : 
    3703    14937392 :     x10 = re[s * 5];
    3704    14937392 :     x11 = im[s * 5];
    3705    14937392 :     x12 = re[s * 8];
    3706    14937392 :     x13 = im[s * 8];
    3707    14937392 :     x14 = re[s * 11];
    3708    14937392 :     x15 = im[s * 11];
    3709    14937392 :     x16 = re[s * 14];
    3710    14937392 :     x17 = im[s * 14];
    3711    14937392 :     x18 = re[s * 2];
    3712    14937392 :     x19 = im[s * 2];
    3713             : 
    3714    14937392 :     x20 = re[s * 10];
    3715    14937392 :     x21 = im[s * 10];
    3716    14937392 :     x22 = re[s * 13];
    3717    14937392 :     x23 = im[s * 13];
    3718    14937392 :     x24 = re[s * 1];
    3719    14937392 :     x25 = im[s * 1];
    3720    14937392 :     x26 = re[s * 4];
    3721    14937392 :     x27 = im[s * 4];
    3722    14937392 :     x28 = re[s * 7];
    3723    14937392 :     x29 = im[s * 7];
    3724             : 
    3725    14937392 :     r1 = ( x02 + x08 );
    3726    14937392 :     r4 = ( x02 - x08 );
    3727    14937392 :     r3 = ( x04 + x06 );
    3728    14937392 :     r2 = ( x04 - x06 );
    3729    14937392 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3730    14937392 :     r1 = ( r1 + r3 );
    3731    14937392 :     y00 = ( x00 + r1 );
    3732    14937392 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    3733    14937392 :     r3 = ( r1 - t );
    3734    14937392 :     r1 = ( r1 + t );
    3735    14937392 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3736    14937392 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3737    14937392 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3738             : 
    3739    14937392 :     s1 = ( x03 + x09 );
    3740    14937392 :     s4 = ( x03 - x09 );
    3741    14937392 :     s3 = ( x05 + x07 );
    3742    14937392 :     s2 = ( x05 - x07 );
    3743    14937392 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3744    14937392 :     s1 = ( s1 + s3 );
    3745    14937392 :     y01 = ( x01 + s1 );
    3746    14937392 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    3747    14937392 :     s3 = ( s1 - t );
    3748    14937392 :     s1 = ( s1 + t );
    3749    14937392 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3750    14937392 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3751    14937392 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3752             : 
    3753    14937392 :     y02 = ( r1 + s2 );
    3754    14937392 :     y08 = ( r1 - s2 );
    3755    14937392 :     y04 = ( r3 - s4 );
    3756    14937392 :     y06 = ( r3 + s4 );
    3757             : 
    3758    14937392 :     y03 = ( s1 - r2 );
    3759    14937392 :     y09 = ( s1 + r2 );
    3760    14937392 :     y05 = ( s3 + r4 );
    3761    14937392 :     y07 = ( s3 - r4 );
    3762             : 
    3763    14937392 :     r1 = ( x12 + x18 );
    3764    14937392 :     r4 = ( x12 - x18 );
    3765    14937392 :     r3 = ( x14 + x16 );
    3766    14937392 :     r2 = ( x14 - x16 );
    3767    14937392 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3768    14937392 :     r1 = ( r1 + r3 );
    3769    14937392 :     y10 = ( x10 + r1 );
    3770    14937392 :     r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
    3771    14937392 :     r3 = ( r1 - t );
    3772    14937392 :     r1 = ( r1 + t );
    3773    14937392 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3774    14937392 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3775    14937392 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3776             : 
    3777    14937392 :     s1 = ( x13 + x19 );
    3778    14937392 :     s4 = ( x13 - x19 );
    3779    14937392 :     s3 = ( x15 + x17 );
    3780    14937392 :     s2 = ( x15 - x17 );
    3781    14937392 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3782    14937392 :     s1 = ( s1 + s3 );
    3783    14937392 :     y11 = ( x11 + s1 );
    3784    14937392 :     s1 = ( y11 + ( s1 * FFT_C55 ) );
    3785    14937392 :     s3 = ( s1 - t );
    3786    14937392 :     s1 = ( s1 + t );
    3787    14937392 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3788    14937392 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3789    14937392 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3790             : 
    3791    14937392 :     y12 = ( r1 + s2 );
    3792    14937392 :     y18 = ( r1 - s2 );
    3793    14937392 :     y14 = ( r3 - s4 );
    3794    14937392 :     y16 = ( r3 + s4 );
    3795             : 
    3796    14937392 :     y13 = ( s1 - r2 );
    3797    14937392 :     y19 = ( s1 + r2 );
    3798    14937392 :     y15 = ( s3 + r4 );
    3799    14937392 :     y17 = ( s3 - r4 );
    3800             : 
    3801    14937392 :     r1 = ( x22 + x28 );
    3802    14937392 :     r4 = ( x22 - x28 );
    3803    14937392 :     r3 = ( x24 + x26 );
    3804    14937392 :     r2 = ( x24 - x26 );
    3805    14937392 :     t = ( ( r1 - r3 ) * FFT_C54 );
    3806    14937392 :     r1 = ( r1 + r3 );
    3807    14937392 :     y20 = ( x20 + r1 );
    3808    14937392 :     r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
    3809    14937392 :     r3 = ( r1 - t );
    3810    14937392 :     r1 = ( r1 + t );
    3811    14937392 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    3812    14937392 :     r4 = ( t + ( r4 * FFT_C52 ) );
    3813    14937392 :     r2 = ( t + ( r2 * FFT_C53 ) );
    3814             : 
    3815    14937392 :     s1 = ( x23 + x29 );
    3816    14937392 :     s4 = ( x23 - x29 );
    3817    14937392 :     s3 = ( x25 + x27 );
    3818    14937392 :     s2 = ( x25 - x27 );
    3819    14937392 :     t = ( ( s1 - s3 ) * FFT_C54 );
    3820    14937392 :     s1 = ( s1 + s3 );
    3821    14937392 :     y21 = ( x21 + s1 );
    3822    14937392 :     s1 = ( y21 + ( s1 * FFT_C55 ) );
    3823    14937392 :     s3 = ( s1 - t );
    3824    14937392 :     s1 = ( s1 + t );
    3825    14937392 :     t = ( ( s4 + s2 ) * FFT_C51 );
    3826    14937392 :     s4 = ( t + ( s4 * FFT_C52 ) );
    3827    14937392 :     s2 = ( t + ( s2 * FFT_C53 ) );
    3828             : 
    3829    14937392 :     y22 = ( r1 + s2 );
    3830    14937392 :     y28 = ( r1 - s2 );
    3831    14937392 :     y24 = ( r3 - s4 );
    3832    14937392 :     y26 = ( r3 + s4 );
    3833             : 
    3834    14937392 :     y23 = ( s1 - r2 );
    3835    14937392 :     y29 = ( s1 + r2 );
    3836    14937392 :     y25 = ( s3 + r4 );
    3837    14937392 :     y27 = ( s3 - r4 );
    3838             : 
    3839    14937392 :     r1 = ( y10 + y20 );
    3840    14937392 :     r2 = ( ( y10 - y20 ) * FFT_C31 );
    3841    14937392 :     re[s * 0] = ( y00 + r1 );
    3842    14937392 :     r1 = ( y00 - r1 * 0.5f );
    3843             : 
    3844    14937392 :     s1 = ( y11 + y21 );
    3845    14937392 :     s2 = ( ( y11 - y21 ) * FFT_C31 );
    3846    14937392 :     im[s * 0] = ( y01 + s1 );
    3847    14937392 :     s1 = ( y01 - s1 * 0.5f );
    3848             : 
    3849    14937392 :     re[s * 10] = ( r1 - s2 );
    3850    14937392 :     re[s * 5] = ( r1 + s2 );
    3851    14937392 :     im[s * 10] = ( s1 + r2 );
    3852    14937392 :     im[s * 5] = ( s1 - r2 );
    3853             : 
    3854    14937392 :     r1 = ( y12 + y22 );
    3855    14937392 :     r2 = ( ( y12 - y22 ) * FFT_C31 );
    3856    14937392 :     re[s * 6] = ( y02 + r1 );
    3857    14937392 :     r1 = ( y02 - r1 * 0.5f );
    3858             : 
    3859    14937392 :     s1 = ( y13 + y23 );
    3860    14937392 :     s2 = ( ( y13 - y23 ) * FFT_C31 );
    3861    14937392 :     im[s * 6] = ( y03 + s1 );
    3862    14937392 :     s1 = ( y03 - s1 * 0.5f );
    3863             : 
    3864    14937392 :     re[s * 1] = ( r1 - s2 );
    3865    14937392 :     re[s * 11] = ( r1 + s2 );
    3866    14937392 :     im[s * 1] = ( s1 + r2 );
    3867    14937392 :     im[s * 11] = ( s1 - r2 );
    3868             : 
    3869    14937392 :     r1 = ( y14 + y24 );
    3870    14937392 :     r2 = ( ( y14 - y24 ) * FFT_C31 );
    3871    14937392 :     re[s * 12] = ( y04 + r1 );
    3872    14937392 :     r1 = ( y04 - r1 * 0.5f );
    3873             : 
    3874    14937392 :     s1 = ( y15 + y25 );
    3875    14937392 :     s2 = ( ( y15 - y25 ) * FFT_C31 );
    3876    14937392 :     im[s * 12] = ( y05 + s1 );
    3877    14937392 :     s1 = ( y05 - s1 * 0.5f );
    3878             : 
    3879    14937392 :     re[s * 7] = ( r1 - s2 );
    3880    14937392 :     re[s * 2] = ( r1 + s2 );
    3881    14937392 :     im[s * 7] = ( s1 + r2 );
    3882    14937392 :     im[s * 2] = ( s1 - r2 );
    3883             : 
    3884    14937392 :     r1 = ( y16 + y26 );
    3885    14937392 :     r2 = ( ( y16 - y26 ) * FFT_C31 );
    3886    14937392 :     re[s * 3] = ( y06 + r1 );
    3887    14937392 :     r1 = ( y06 - r1 * 0.5f );
    3888             : 
    3889    14937392 :     s1 = ( y17 + y27 );
    3890    14937392 :     s2 = ( ( y17 - y27 ) * FFT_C31 );
    3891    14937392 :     im[s * 3] = ( y07 + s1 );
    3892    14937392 :     s1 = ( y07 - s1 * 0.5f );
    3893             : 
    3894    14937392 :     re[s * 13] = ( r1 - s2 );
    3895    14937392 :     re[s * 8] = ( r1 + s2 );
    3896    14937392 :     im[s * 13] = ( s1 + r2 );
    3897    14937392 :     im[s * 8] = ( s1 - r2 );
    3898             : 
    3899    14937392 :     r1 = ( y18 + y28 );
    3900    14937392 :     r2 = ( ( y18 - y28 ) * FFT_C31 );
    3901    14937392 :     re[s * 9] = ( y08 + r1 );
    3902    14937392 :     r1 = ( y08 - r1 * 0.5f );
    3903             : 
    3904    14937392 :     s1 = ( y19 + y29 );
    3905    14937392 :     s2 = ( ( y19 - y29 ) * FFT_C31 );
    3906    14937392 :     im[s * 9] = ( y09 + s1 );
    3907    14937392 :     s1 = ( y09 - s1 * 0.5f );
    3908             : 
    3909    14937392 :     re[s * 4] = ( r1 - s2 );
    3910    14937392 :     re[s * 14] = ( r1 + s2 );
    3911    14937392 :     im[s * 4] = ( s1 + r2 );
    3912    14937392 :     im[s * 14] = ( s1 - r2 );
    3913             : 
    3914    14937392 :     return;
    3915             : }
    3916             : 
    3917   587444484 : static void fft_len16(
    3918             :     float *re,
    3919             :     float *im,
    3920             :     const int16_t s )
    3921             : {
    3922             :     float x0, x1, x2, x3, x4, x5, x6, x7;
    3923             :     float t0, t1, t2, t3, t4, t5, t6, t7;
    3924             :     float y00, y01, y02, y03, y04, y05, y06, y07;
    3925             :     float y08, y09, y10, y11, y12, y13, y14, y15;
    3926             :     float y16, y17, y18, y19, y20, y21, y22, y23;
    3927             :     float y24, y25, y26, y27, y28, y29, y30, y31;
    3928             : 
    3929   587444484 :     x0 = re[s * 0];
    3930   587444484 :     x1 = im[s * 0];
    3931   587444484 :     x2 = re[s * 4];
    3932   587444484 :     x3 = im[s * 4];
    3933   587444484 :     x4 = re[s * 8];
    3934   587444484 :     x5 = im[s * 8];
    3935   587444484 :     x6 = re[s * 12];
    3936   587444484 :     x7 = im[s * 12];
    3937             : 
    3938   587444484 :     t0 = ( x0 + x4 );
    3939   587444484 :     t2 = ( x0 - x4 );
    3940   587444484 :     t1 = ( x1 + x5 );
    3941   587444484 :     t3 = ( x1 - x5 );
    3942   587444484 :     t4 = ( x2 + x6 );
    3943   587444484 :     t7 = ( x2 - x6 );
    3944   587444484 :     t5 = ( x7 + x3 );
    3945   587444484 :     t6 = ( x7 - x3 );
    3946             : 
    3947   587444484 :     y00 = ( t0 + t4 );
    3948   587444484 :     y01 = ( t1 + t5 );
    3949   587444484 :     y02 = ( t2 - t6 );
    3950   587444484 :     y03 = ( t3 - t7 );
    3951   587444484 :     y04 = ( t0 - t4 );
    3952   587444484 :     y05 = ( t1 - t5 );
    3953   587444484 :     y06 = ( t2 + t6 );
    3954   587444484 :     y07 = ( t3 + t7 );
    3955             : 
    3956   587444484 :     x0 = re[s * 1];
    3957   587444484 :     x1 = im[s * 1];
    3958   587444484 :     x2 = re[s * 5];
    3959   587444484 :     x3 = im[s * 5];
    3960   587444484 :     x4 = re[s * 9];
    3961   587444484 :     x5 = im[s * 9];
    3962   587444484 :     x6 = re[s * 13];
    3963   587444484 :     x7 = im[s * 13];
    3964             : 
    3965   587444484 :     t0 = ( x0 + x4 );
    3966   587444484 :     t2 = ( x0 - x4 );
    3967   587444484 :     t1 = ( x1 + x5 );
    3968   587444484 :     t3 = ( x1 - x5 );
    3969   587444484 :     t4 = ( x2 + x6 );
    3970   587444484 :     t7 = ( x2 - x6 );
    3971   587444484 :     t5 = ( x7 + x3 );
    3972   587444484 :     t6 = ( x7 - x3 );
    3973             : 
    3974   587444484 :     y08 = ( t0 + t4 );
    3975   587444484 :     y09 = ( t1 + t5 );
    3976   587444484 :     y10 = ( t2 - t6 );
    3977   587444484 :     y11 = ( t3 - t7 );
    3978   587444484 :     y12 = ( t0 - t4 );
    3979   587444484 :     y13 = ( t1 - t5 );
    3980   587444484 :     y14 = ( t2 + t6 );
    3981   587444484 :     y15 = ( t3 + t7 );
    3982             : 
    3983   587444484 :     x0 = re[s * 2];
    3984   587444484 :     x1 = im[s * 2];
    3985   587444484 :     x2 = re[s * 6];
    3986   587444484 :     x3 = im[s * 6];
    3987   587444484 :     x4 = re[s * 10];
    3988   587444484 :     x5 = im[s * 10];
    3989   587444484 :     x6 = re[s * 14];
    3990   587444484 :     x7 = im[s * 14];
    3991             : 
    3992   587444484 :     t0 = ( x0 + x4 );
    3993   587444484 :     t2 = ( x0 - x4 );
    3994   587444484 :     t1 = ( x1 + x5 );
    3995   587444484 :     t3 = ( x1 - x5 );
    3996   587444484 :     t4 = ( x2 + x6 );
    3997   587444484 :     t7 = ( x2 - x6 );
    3998   587444484 :     t5 = ( x7 + x3 );
    3999   587444484 :     t6 = ( x7 - x3 );
    4000             : 
    4001   587444484 :     y16 = ( t0 + t4 );
    4002   587444484 :     y17 = ( t1 + t5 );
    4003   587444484 :     y18 = ( t2 - t6 );
    4004   587444484 :     y19 = ( t3 - t7 );
    4005   587444484 :     y20 = ( t1 - t5 );
    4006   587444484 :     y21 = ( t4 - t0 );
    4007   587444484 :     y22 = ( t2 + t6 );
    4008   587444484 :     y23 = ( t3 + t7 );
    4009             : 
    4010   587444484 :     x0 = re[s * 3];
    4011   587444484 :     x1 = im[s * 3];
    4012   587444484 :     x2 = re[s * 7];
    4013   587444484 :     x3 = im[s * 7];
    4014   587444484 :     x4 = re[s * 11];
    4015   587444484 :     x5 = im[s * 11];
    4016   587444484 :     x6 = re[s * 15];
    4017   587444484 :     x7 = im[s * 15];
    4018             : 
    4019   587444484 :     t0 = ( x0 + x4 );
    4020   587444484 :     t2 = ( x0 - x4 );
    4021   587444484 :     t1 = ( x1 + x5 );
    4022   587444484 :     t3 = ( x1 - x5 );
    4023   587444484 :     t4 = ( x2 + x6 );
    4024   587444484 :     t7 = ( x2 - x6 );
    4025   587444484 :     t5 = ( x7 + x3 );
    4026   587444484 :     t6 = ( x7 - x3 );
    4027             : 
    4028   587444484 :     y24 = ( t0 + t4 );
    4029   587444484 :     y25 = ( t1 + t5 );
    4030   587444484 :     y26 = ( t2 - t6 );
    4031   587444484 :     y27 = ( t3 - t7 );
    4032   587444484 :     y28 = ( t0 - t4 );
    4033   587444484 :     y29 = ( t1 - t5 );
    4034   587444484 :     y30 = ( t2 + t6 );
    4035   587444484 :     y31 = ( t3 + t7 );
    4036             : 
    4037   587444484 :     x0 = ( y22 * FFT_C162 );
    4038   587444484 :     x1 = ( y23 * FFT_C162 );
    4039   587444484 :     y22 = ( x0 - x1 );
    4040   587444484 :     y23 = ( x0 + x1 );
    4041             : 
    4042   587444484 :     x0 = ( y28 * FFT_C162 );
    4043   587444484 :     x1 = ( y29 * FFT_C162 );
    4044   587444484 :     y28 = ( x0 - x1 );
    4045   587444484 :     y29 = ( x0 + x1 );
    4046             : 
    4047   587444484 :     x0 = ( y12 * FFT_C161 );
    4048   587444484 :     x1 = ( y13 * FFT_C161 );
    4049   587444484 :     y12 = ( x0 + x1 );
    4050   587444484 :     y13 = ( x1 - x0 );
    4051             : 
    4052   587444484 :     x0 = ( y18 * FFT_C161 );
    4053   587444484 :     x1 = ( y19 * FFT_C161 );
    4054   587444484 :     y18 = ( x0 + x1 );
    4055   587444484 :     y19 = ( x1 - x0 );
    4056             : 
    4057   587444484 :     x0 = ( y10 * FFT_C163 );
    4058   587444484 :     x1 = ( y11 * FFT_C166 );
    4059   587444484 :     x2 = ( y10 * FFT_C166 );
    4060   587444484 :     x3 = ( y11 * FFT_C163 );
    4061   587444484 :     y10 = ( x0 - x1 );
    4062   587444484 :     y11 = ( x2 + x3 );
    4063             : 
    4064   587444484 :     x0 = ( y14 * FFT_C165 );
    4065   587444484 :     x1 = ( y15 * FFT_C164 );
    4066   587444484 :     x2 = ( y14 * FFT_C164 );
    4067   587444484 :     x3 = ( y15 * FFT_C165 );
    4068   587444484 :     y14 = ( x0 - x1 );
    4069   587444484 :     y15 = ( x2 + x3 );
    4070             : 
    4071   587444484 :     x0 = ( y26 * FFT_C165 );
    4072   587444484 :     x1 = ( y27 * FFT_C164 );
    4073   587444484 :     x2 = ( y26 * FFT_C164 );
    4074   587444484 :     x3 = ( y27 * FFT_C165 );
    4075   587444484 :     y26 = ( x0 - x1 );
    4076   587444484 :     y27 = ( x2 + x3 );
    4077             : 
    4078   587444484 :     x0 = ( y30 * FFT_C164 );
    4079   587444484 :     x1 = ( y31 * FFT_C165 );
    4080   587444484 :     x2 = ( y30 * FFT_C165 );
    4081   587444484 :     x3 = ( y31 * FFT_C164 );
    4082   587444484 :     y30 = ( x0 - x1 );
    4083   587444484 :     y31 = ( x2 + x3 );
    4084             : 
    4085   587444484 :     t0 = ( y00 + y16 );
    4086   587444484 :     t2 = ( y00 - y16 );
    4087   587444484 :     t1 = ( y01 + y17 );
    4088   587444484 :     t3 = ( y01 - y17 );
    4089   587444484 :     t4 = ( y08 + y24 );
    4090   587444484 :     t7 = ( y08 - y24 );
    4091   587444484 :     t5 = ( y25 + y09 );
    4092   587444484 :     t6 = ( y25 - y09 );
    4093             : 
    4094   587444484 :     re[s * 0] = ( t0 + t4 );
    4095   587444484 :     im[s * 0] = ( t1 + t5 );
    4096   587444484 :     re[s * 4] = ( t2 - t6 );
    4097   587444484 :     im[s * 4] = ( t3 - t7 );
    4098   587444484 :     re[s * 8] = ( t0 - t4 );
    4099   587444484 :     im[s * 8] = ( t1 - t5 );
    4100   587444484 :     re[s * 12] = ( t2 + t6 );
    4101   587444484 :     im[s * 12] = ( t3 + t7 );
    4102             : 
    4103   587444484 :     t0 = ( y02 + y18 );
    4104   587444484 :     t2 = ( y02 - y18 );
    4105   587444484 :     t1 = ( y03 + y19 );
    4106   587444484 :     t3 = ( y03 - y19 );
    4107   587444484 :     t4 = ( y10 + y26 );
    4108   587444484 :     t7 = ( y10 - y26 );
    4109   587444484 :     t5 = ( y27 + y11 );
    4110   587444484 :     t6 = ( y27 - y11 );
    4111             : 
    4112   587444484 :     re[s * 1] = ( t0 + t4 );
    4113   587444484 :     im[s * 1] = ( t1 + t5 );
    4114   587444484 :     re[s * 5] = ( t2 - t6 );
    4115   587444484 :     im[s * 5] = ( t3 - t7 );
    4116   587444484 :     re[s * 9] = ( t0 - t4 );
    4117   587444484 :     im[s * 9] = ( t1 - t5 );
    4118   587444484 :     re[s * 13] = ( t2 + t6 );
    4119   587444484 :     im[s * 13] = ( t3 + t7 );
    4120             : 
    4121   587444484 :     t0 = ( y04 + y20 );
    4122   587444484 :     t2 = ( y04 - y20 );
    4123   587444484 :     t1 = ( y05 + y21 );
    4124   587444484 :     t3 = ( y05 - y21 );
    4125   587444484 :     t4 = ( y12 + y28 );
    4126   587444484 :     t7 = ( y12 - y28 );
    4127   587444484 :     t5 = ( y29 + y13 );
    4128   587444484 :     t6 = ( y29 - y13 );
    4129             : 
    4130   587444484 :     re[s * 2] = ( t0 + t4 );
    4131   587444484 :     im[s * 2] = ( t1 + t5 );
    4132   587444484 :     re[s * 6] = ( t2 - t6 );
    4133   587444484 :     im[s * 6] = ( t3 - t7 );
    4134   587444484 :     re[s * 10] = ( t0 - t4 );
    4135   587444484 :     im[s * 10] = ( t1 - t5 );
    4136   587444484 :     re[s * 14] = ( t2 + t6 );
    4137   587444484 :     im[s * 14] = ( t3 + t7 );
    4138             : 
    4139   587444484 :     t0 = ( y06 + y22 );
    4140   587444484 :     t2 = ( y06 - y22 );
    4141   587444484 :     t1 = ( y07 + y23 );
    4142   587444484 :     t3 = ( y07 - y23 );
    4143   587444484 :     t4 = ( y14 + y30 );
    4144   587444484 :     t7 = ( y14 - y30 );
    4145   587444484 :     t5 = ( y31 + y15 );
    4146   587444484 :     t6 = ( y31 - y15 );
    4147             : 
    4148   587444484 :     re[s * 3] = ( t0 + t4 );
    4149   587444484 :     im[s * 3] = ( t1 + t5 );
    4150   587444484 :     re[s * 7] = ( t2 - t6 );
    4151   587444484 :     im[s * 7] = ( t3 - t7 );
    4152   587444484 :     re[s * 11] = ( t0 - t4 );
    4153   587444484 :     im[s * 11] = ( t1 - t5 );
    4154   587444484 :     re[s * 15] = ( t2 + t6 );
    4155   587444484 :     im[s * 15] = ( t3 + t7 );
    4156             : 
    4157   587444484 :     return;
    4158             : }
    4159             : 
    4160   500446506 : static void fft_len20(
    4161             :     float *re,
    4162             :     float *im,
    4163             :     const int16_t s )
    4164             : {
    4165             :     float r1, r2, r3, r4;
    4166             :     float s1, s2, s3, s4;
    4167             :     float x0, x1, x2, x3, x4;
    4168             :     float t, t0, t1, t2, t3, t4, t5, t6, t7;
    4169             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    4170             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    4171             :     float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
    4172             :     float y30, y31, y32, y33, y34, y35, y36, y37, y38, y39;
    4173             : 
    4174   500446506 :     x0 = re[s * 0];
    4175   500446506 :     x1 = re[s * 16];
    4176   500446506 :     x2 = re[s * 12];
    4177   500446506 :     x3 = re[s * 8];
    4178   500446506 :     x4 = re[s * 4];
    4179             : 
    4180   500446506 :     r1 = ( x1 + x4 );
    4181   500446506 :     r4 = ( x1 - x4 );
    4182   500446506 :     r3 = ( x2 + x3 );
    4183   500446506 :     r2 = ( x2 - x3 );
    4184   500446506 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4185   500446506 :     r1 = ( r1 + r3 );
    4186   500446506 :     y00 = ( x0 + r1 );
    4187   500446506 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    4188   500446506 :     r3 = ( r1 - t );
    4189   500446506 :     r1 = ( r1 + t );
    4190   500446506 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4191   500446506 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4192   500446506 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4193             : 
    4194   500446506 :     x0 = im[s * 0];
    4195   500446506 :     x1 = im[s * 16];
    4196   500446506 :     x2 = im[s * 12];
    4197   500446506 :     x3 = im[s * 8];
    4198   500446506 :     x4 = im[s * 4];
    4199             : 
    4200   500446506 :     s1 = ( x1 + x4 );
    4201   500446506 :     s4 = ( x1 - x4 );
    4202   500446506 :     s3 = ( x2 + x3 );
    4203   500446506 :     s2 = ( x2 - x3 );
    4204   500446506 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4205   500446506 :     s1 = ( s1 + s3 );
    4206   500446506 :     y01 = ( x0 + s1 );
    4207   500446506 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    4208   500446506 :     s3 = ( s1 - t );
    4209   500446506 :     s1 = ( s1 + t );
    4210   500446506 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4211   500446506 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4212   500446506 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4213             : 
    4214   500446506 :     y08 = ( r1 + s2 );
    4215   500446506 :     y32 = ( r1 - s2 );
    4216   500446506 :     y16 = ( r3 - s4 );
    4217   500446506 :     y24 = ( r3 + s4 );
    4218             : 
    4219   500446506 :     y09 = ( s1 - r2 );
    4220   500446506 :     y33 = ( s1 + r2 );
    4221   500446506 :     y17 = ( s3 + r4 );
    4222   500446506 :     y25 = ( s3 - r4 );
    4223             : 
    4224   500446506 :     x0 = re[s * 5];
    4225   500446506 :     x1 = re[s * 1];
    4226   500446506 :     x2 = re[s * 17];
    4227   500446506 :     x3 = re[s * 13];
    4228   500446506 :     x4 = re[s * 9];
    4229             : 
    4230   500446506 :     r1 = ( x1 + x4 );
    4231   500446506 :     r4 = ( x1 - x4 );
    4232   500446506 :     r3 = ( x2 + x3 );
    4233   500446506 :     r2 = ( x2 - x3 );
    4234   500446506 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4235   500446506 :     r1 = ( r1 + r3 );
    4236   500446506 :     y02 = ( x0 + r1 );
    4237   500446506 :     r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
    4238   500446506 :     r3 = ( r1 - t );
    4239   500446506 :     r1 = ( r1 + t );
    4240   500446506 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4241   500446506 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4242   500446506 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4243             : 
    4244   500446506 :     x0 = im[s * 5];
    4245   500446506 :     x1 = im[s * 1];
    4246   500446506 :     x2 = im[s * 17];
    4247   500446506 :     x3 = im[s * 13];
    4248   500446506 :     x4 = im[s * 9];
    4249             : 
    4250   500446506 :     s1 = ( x1 + x4 );
    4251   500446506 :     s4 = ( x1 - x4 );
    4252   500446506 :     s3 = ( x2 + x3 );
    4253   500446506 :     s2 = ( x2 - x3 );
    4254   500446506 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4255   500446506 :     s1 = ( s1 + s3 );
    4256   500446506 :     y03 = ( x0 + s1 );
    4257   500446506 :     s1 = ( y03 + ( s1 * FFT_C55 ) );
    4258   500446506 :     s3 = ( s1 - t );
    4259   500446506 :     s1 = ( s1 + t );
    4260   500446506 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4261   500446506 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4262   500446506 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4263             : 
    4264   500446506 :     y10 = ( r1 + s2 );
    4265   500446506 :     y34 = ( r1 - s2 );
    4266   500446506 :     y18 = ( r3 - s4 );
    4267   500446506 :     y26 = ( r3 + s4 );
    4268             : 
    4269   500446506 :     y11 = ( s1 - r2 );
    4270   500446506 :     y35 = ( s1 + r2 );
    4271   500446506 :     y19 = ( s3 + r4 );
    4272   500446506 :     y27 = ( s3 - r4 );
    4273             : 
    4274   500446506 :     x0 = re[s * 10];
    4275   500446506 :     x1 = re[s * 6];
    4276   500446506 :     x2 = re[s * 2];
    4277   500446506 :     x3 = re[s * 18];
    4278   500446506 :     x4 = re[s * 14];
    4279             : 
    4280   500446506 :     r1 = ( x1 + x4 );
    4281   500446506 :     r4 = ( x1 - x4 );
    4282   500446506 :     r3 = ( x2 + x3 );
    4283   500446506 :     r2 = ( x2 - x3 );
    4284   500446506 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4285   500446506 :     r1 = ( r1 + r3 );
    4286   500446506 :     y04 = ( x0 + r1 );
    4287   500446506 :     r1 = ( y04 + ( ( r1 * FFT_C55 ) ) );
    4288   500446506 :     r3 = ( r1 - t );
    4289   500446506 :     r1 = ( r1 + t );
    4290   500446506 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4291   500446506 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4292   500446506 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4293             : 
    4294   500446506 :     x0 = im[s * 10];
    4295   500446506 :     x1 = im[s * 6];
    4296   500446506 :     x2 = im[s * 2];
    4297   500446506 :     x3 = im[s * 18];
    4298   500446506 :     x4 = im[s * 14];
    4299             : 
    4300   500446506 :     s1 = ( x1 + x4 );
    4301   500446506 :     s4 = ( x1 - x4 );
    4302   500446506 :     s3 = ( x2 + x3 );
    4303   500446506 :     s2 = ( x2 - x3 );
    4304   500446506 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4305   500446506 :     s1 = ( s1 + s3 );
    4306   500446506 :     y05 = ( x0 + s1 );
    4307   500446506 :     s1 = ( y05 + ( s1 * FFT_C55 ) );
    4308   500446506 :     s3 = ( s1 - t );
    4309   500446506 :     s1 = ( s1 + t );
    4310   500446506 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4311   500446506 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4312   500446506 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4313             : 
    4314   500446506 :     y12 = ( r1 + s2 );
    4315   500446506 :     y36 = ( r1 - s2 );
    4316   500446506 :     y20 = ( r3 - s4 );
    4317   500446506 :     y28 = ( r3 + s4 );
    4318             : 
    4319   500446506 :     y13 = ( s1 - r2 );
    4320   500446506 :     y37 = ( s1 + r2 );
    4321   500446506 :     y21 = ( s3 + r4 );
    4322   500446506 :     y29 = ( s3 - r4 );
    4323             : 
    4324   500446506 :     x0 = re[s * 15];
    4325   500446506 :     x1 = re[s * 11];
    4326   500446506 :     x2 = re[s * 7];
    4327   500446506 :     x3 = re[s * 3];
    4328   500446506 :     x4 = re[s * 19];
    4329             : 
    4330   500446506 :     r1 = ( x1 + x4 );
    4331   500446506 :     r4 = ( x1 - x4 );
    4332   500446506 :     r3 = ( x2 + x3 );
    4333   500446506 :     r2 = ( x2 - x3 );
    4334   500446506 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4335   500446506 :     r1 = ( r1 + r3 );
    4336   500446506 :     y06 = ( x0 + r1 );
    4337   500446506 :     r1 = ( y06 + ( ( r1 * FFT_C55 ) ) );
    4338   500446506 :     r3 = ( r1 - t );
    4339   500446506 :     r1 = ( r1 + t );
    4340   500446506 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4341   500446506 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4342   500446506 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4343             : 
    4344   500446506 :     x0 = im[s * 15];
    4345   500446506 :     x1 = im[s * 11];
    4346   500446506 :     x2 = im[s * 7];
    4347   500446506 :     x3 = im[s * 3];
    4348   500446506 :     x4 = im[s * 19];
    4349             : 
    4350   500446506 :     s1 = ( x1 + x4 );
    4351   500446506 :     s4 = ( x1 - x4 );
    4352   500446506 :     s3 = ( x2 + x3 );
    4353   500446506 :     s2 = ( x2 - x3 );
    4354   500446506 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4355   500446506 :     s1 = ( s1 + s3 );
    4356   500446506 :     y07 = ( x0 + s1 );
    4357   500446506 :     s1 = ( y07 + ( s1 * FFT_C55 ) );
    4358   500446506 :     s3 = ( s1 - t );
    4359   500446506 :     s1 = ( s1 + t );
    4360   500446506 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4361   500446506 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4362   500446506 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4363             : 
    4364   500446506 :     y14 = ( r1 + s2 );
    4365   500446506 :     y38 = ( r1 - s2 );
    4366   500446506 :     y22 = ( r3 - s4 );
    4367   500446506 :     y30 = ( r3 + s4 );
    4368             : 
    4369   500446506 :     y15 = ( s1 - r2 );
    4370   500446506 :     y39 = ( s1 + r2 );
    4371   500446506 :     y23 = ( s3 + r4 );
    4372   500446506 :     y31 = ( s3 - r4 );
    4373             : 
    4374   500446506 :     t0 = ( y00 + y04 );
    4375   500446506 :     t2 = ( y00 - y04 );
    4376   500446506 :     t1 = ( y01 + y05 );
    4377   500446506 :     t3 = ( y01 - y05 );
    4378   500446506 :     t4 = ( y02 + y06 );
    4379   500446506 :     t7 = ( y02 - y06 );
    4380   500446506 :     t5 = ( y07 + y03 );
    4381   500446506 :     t6 = ( y07 - y03 );
    4382             : 
    4383   500446506 :     re[s * 0] = ( t0 + t4 );
    4384   500446506 :     im[s * 0] = ( t1 + t5 );
    4385   500446506 :     re[s * 5] = ( t2 - t6 );
    4386   500446506 :     im[s * 5] = ( t3 - t7 );
    4387   500446506 :     re[s * 10] = ( t0 - t4 );
    4388   500446506 :     im[s * 10] = ( t1 - t5 );
    4389   500446506 :     re[s * 15] = ( t2 + t6 );
    4390   500446506 :     im[s * 15] = ( t3 + t7 );
    4391             : 
    4392   500446506 :     t0 = ( y08 + y12 );
    4393   500446506 :     t2 = ( y08 - y12 );
    4394   500446506 :     t1 = ( y09 + y13 );
    4395   500446506 :     t3 = ( y09 - y13 );
    4396   500446506 :     t4 = ( y10 + y14 );
    4397   500446506 :     t7 = ( y10 - y14 );
    4398   500446506 :     t5 = ( y15 + y11 );
    4399   500446506 :     t6 = ( y15 - y11 );
    4400             : 
    4401   500446506 :     re[s * 4] = ( t0 + t4 );
    4402   500446506 :     im[s * 4] = ( t1 + t5 );
    4403   500446506 :     re[s * 9] = ( t2 - t6 );
    4404   500446506 :     im[s * 9] = ( t3 - t7 );
    4405   500446506 :     re[s * 14] = ( t0 - t4 );
    4406   500446506 :     im[s * 14] = ( t1 - t5 );
    4407   500446506 :     re[s * 19] = ( t2 + t6 );
    4408   500446506 :     im[s * 19] = ( t3 + t7 );
    4409             : 
    4410   500446506 :     t0 = ( y16 + y20 );
    4411   500446506 :     t2 = ( y16 - y20 );
    4412   500446506 :     t1 = ( y17 + y21 );
    4413   500446506 :     t3 = ( y17 - y21 );
    4414   500446506 :     t4 = ( y18 + y22 );
    4415   500446506 :     t7 = ( y18 - y22 );
    4416   500446506 :     t5 = ( y23 + y19 );
    4417   500446506 :     t6 = ( y23 - y19 );
    4418             : 
    4419   500446506 :     re[s * 8] = ( t0 + t4 );
    4420   500446506 :     im[s * 8] = ( t1 + t5 );
    4421   500446506 :     re[s * 13] = ( t2 - t6 );
    4422   500446506 :     im[s * 13] = ( t3 - t7 );
    4423   500446506 :     re[s * 18] = ( t0 - t4 );
    4424   500446506 :     im[s * 18] = ( t1 - t5 );
    4425   500446506 :     re[s * 3] = ( t2 + t6 );
    4426   500446506 :     im[s * 3] = ( t3 + t7 );
    4427             : 
    4428   500446506 :     t0 = ( y24 + y28 );
    4429   500446506 :     t2 = ( y24 - y28 );
    4430   500446506 :     t1 = ( y25 + y29 );
    4431   500446506 :     t3 = ( y25 - y29 );
    4432   500446506 :     t4 = ( y26 + y30 );
    4433   500446506 :     t7 = ( y26 - y30 );
    4434   500446506 :     t5 = ( y31 + y27 );
    4435   500446506 :     t6 = ( y31 - y27 );
    4436             : 
    4437   500446506 :     re[s * 12] = ( t0 + t4 );
    4438   500446506 :     im[s * 12] = ( t1 + t5 );
    4439   500446506 :     re[s * 17] = ( t2 - t6 );
    4440   500446506 :     im[s * 17] = ( t3 - t7 );
    4441   500446506 :     re[s * 2] = ( t0 - t4 );
    4442   500446506 :     im[s * 2] = ( t1 - t5 );
    4443   500446506 :     re[s * 7] = ( t2 + t6 );
    4444   500446506 :     im[s * 7] = ( t3 + t7 );
    4445             : 
    4446   500446506 :     t0 = ( y32 + y36 );
    4447   500446506 :     t2 = ( y32 - y36 );
    4448   500446506 :     t1 = ( y33 + y37 );
    4449   500446506 :     t3 = ( y33 - y37 );
    4450   500446506 :     t4 = ( y34 + y38 );
    4451   500446506 :     t7 = ( y34 - y38 );
    4452   500446506 :     t5 = ( y39 + y35 );
    4453   500446506 :     t6 = ( y39 - y35 );
    4454             : 
    4455   500446506 :     re[s * 16] = ( t0 + t4 );
    4456   500446506 :     im[s * 16] = ( t1 + t5 );
    4457   500446506 :     re[s * 1] = ( t2 - t6 );
    4458   500446506 :     im[s * 1] = ( t3 - t7 );
    4459   500446506 :     re[s * 6] = ( t0 - t4 );
    4460   500446506 :     im[s * 6] = ( t1 - t5 );
    4461   500446506 :     re[s * 11] = ( t2 + t6 );
    4462   500446506 :     im[s * 11] = ( t3 + t7 );
    4463             : 
    4464   500446506 :     return;
    4465             : }
    4466             : 
    4467   567997452 : static void fft_len30(
    4468             :     float *re,
    4469             :     float *im,
    4470             :     const int16_t s )
    4471             : {
    4472             :     float t;
    4473             :     float r1, r2, r3, r4;
    4474             :     float s1, s2, s3, s4;
    4475             :     float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
    4476             :     float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
    4477             :     float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
    4478             : 
    4479             :     float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
    4480             :     float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
    4481             :     float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
    4482             : 
    4483             :     float z00, z01, z02, z03, z04, z05, z06, z07, z08, z09;
    4484             :     float z10, z11, z12, z13, z14, z15, z16, z17, z18, z19;
    4485             :     float z20, z21, z22, z23, z24, z25, z26, z27, z28, z29;
    4486             :     float z30, z31, z32, z33, z34, z35, z36, z37, z38, z39;
    4487             :     float z40, z41, z42, z43, z44, z45, z46, z47, z48, z49;
    4488             :     float z50, z51, z52, z53, z54, z55, z56, z57, z58, z59;
    4489             : 
    4490             :     float *rel, *reh, *iml, *imh;
    4491             : 
    4492   567997452 :     rel = &re[s * 0];
    4493   567997452 :     reh = &re[s * 15];
    4494   567997452 :     iml = &im[s * 0];
    4495   567997452 :     imh = &im[s * 15];
    4496             : 
    4497   567997452 :     x00 = re[s * 0];
    4498   567997452 :     x01 = im[s * 0];
    4499   567997452 :     x02 = re[s * 18];
    4500   567997452 :     x03 = im[s * 18];
    4501   567997452 :     x04 = re[s * 6];
    4502   567997452 :     x05 = im[s * 6];
    4503   567997452 :     x06 = re[s * 24];
    4504   567997452 :     x07 = im[s * 24];
    4505   567997452 :     x08 = re[s * 12];
    4506   567997452 :     x09 = im[s * 12];
    4507             : 
    4508   567997452 :     x10 = re[s * 20];
    4509   567997452 :     x11 = im[s * 20];
    4510   567997452 :     x12 = re[s * 8];
    4511   567997452 :     x13 = im[s * 8];
    4512   567997452 :     x14 = re[s * 26];
    4513   567997452 :     x15 = im[s * 26];
    4514   567997452 :     x16 = re[s * 14];
    4515   567997452 :     x17 = im[s * 14];
    4516   567997452 :     x18 = re[s * 2];
    4517   567997452 :     x19 = im[s * 2];
    4518             : 
    4519   567997452 :     x20 = re[s * 10];
    4520   567997452 :     x21 = im[s * 10];
    4521   567997452 :     x22 = re[s * 28];
    4522   567997452 :     x23 = im[s * 28];
    4523   567997452 :     x24 = re[s * 16];
    4524   567997452 :     x25 = im[s * 16];
    4525   567997452 :     x26 = re[s * 4];
    4526   567997452 :     x27 = im[s * 4];
    4527   567997452 :     x28 = re[s * 22];
    4528   567997452 :     x29 = im[s * 22];
    4529             : 
    4530   567997452 :     r1 = ( x02 + x08 );
    4531   567997452 :     r4 = ( x02 - x08 );
    4532   567997452 :     r3 = ( x04 + x06 );
    4533   567997452 :     r2 = ( x04 - x06 );
    4534   567997452 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4535   567997452 :     r1 = ( r1 + r3 );
    4536   567997452 :     y00 = ( x00 + r1 );
    4537   567997452 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    4538   567997452 :     r3 = ( r1 - t );
    4539   567997452 :     r1 = ( r1 + t );
    4540   567997452 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4541   567997452 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4542   567997452 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4543             : 
    4544   567997452 :     s1 = ( x03 + x09 );
    4545   567997452 :     s4 = ( x03 - x09 );
    4546   567997452 :     s3 = ( x05 + x07 );
    4547   567997452 :     s2 = ( x05 - x07 );
    4548   567997452 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4549   567997452 :     s1 = ( s1 + s3 );
    4550   567997452 :     y01 = ( x01 + s1 );
    4551   567997452 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    4552   567997452 :     s3 = ( s1 - t );
    4553   567997452 :     s1 = ( s1 + t );
    4554   567997452 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4555   567997452 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4556   567997452 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4557             : 
    4558   567997452 :     y02 = ( r1 + s2 );
    4559   567997452 :     y08 = ( r1 - s2 );
    4560   567997452 :     y04 = ( r3 - s4 );
    4561   567997452 :     y06 = ( r3 + s4 );
    4562             : 
    4563   567997452 :     y03 = ( s1 - r2 );
    4564   567997452 :     y09 = ( s1 + r2 );
    4565   567997452 :     y05 = ( s3 + r4 );
    4566   567997452 :     y07 = ( s3 - r4 );
    4567             : 
    4568   567997452 :     r1 = ( x12 + x18 );
    4569   567997452 :     r4 = ( x12 - x18 );
    4570   567997452 :     r3 = ( x14 + x16 );
    4571   567997452 :     r2 = ( x14 - x16 );
    4572   567997452 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4573   567997452 :     r1 = ( r1 + r3 );
    4574   567997452 :     y10 = ( x10 + r1 );
    4575   567997452 :     r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
    4576   567997452 :     r3 = ( r1 - t );
    4577   567997452 :     r1 = ( r1 + t );
    4578   567997452 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4579   567997452 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4580   567997452 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4581             : 
    4582   567997452 :     s1 = ( x13 + x19 );
    4583   567997452 :     s4 = ( x13 - x19 );
    4584   567997452 :     s3 = ( x15 + x17 );
    4585   567997452 :     s2 = ( x15 - x17 );
    4586   567997452 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4587   567997452 :     s1 = ( s1 + s3 );
    4588   567997452 :     y11 = ( x11 + s1 );
    4589   567997452 :     s1 = ( y11 + ( s1 * FFT_C55 ) );
    4590   567997452 :     s3 = ( s1 - t );
    4591   567997452 :     s1 = ( s1 + t );
    4592   567997452 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4593   567997452 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4594   567997452 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4595             : 
    4596   567997452 :     y12 = ( r1 + s2 );
    4597   567997452 :     y18 = ( r1 - s2 );
    4598   567997452 :     y14 = ( r3 - s4 );
    4599   567997452 :     y16 = ( r3 + s4 );
    4600             : 
    4601   567997452 :     y13 = ( s1 - r2 );
    4602   567997452 :     y19 = ( s1 + r2 );
    4603   567997452 :     y15 = ( s3 + r4 );
    4604   567997452 :     y17 = ( s3 - r4 );
    4605             : 
    4606   567997452 :     r1 = ( x22 + x28 );
    4607   567997452 :     r4 = ( x22 - x28 );
    4608   567997452 :     r3 = ( x24 + x26 );
    4609   567997452 :     r2 = ( x24 - x26 );
    4610   567997452 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4611   567997452 :     r1 = ( r1 + r3 );
    4612   567997452 :     y20 = ( x20 + r1 );
    4613   567997452 :     r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
    4614   567997452 :     r3 = ( r1 - t );
    4615   567997452 :     r1 = ( r1 + t );
    4616   567997452 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4617   567997452 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4618   567997452 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4619             : 
    4620   567997452 :     s1 = ( x23 + x29 );
    4621   567997452 :     s4 = ( x23 - x29 );
    4622   567997452 :     s3 = ( x25 + x27 );
    4623   567997452 :     s2 = ( x25 - x27 );
    4624   567997452 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4625   567997452 :     s1 = ( s1 + s3 );
    4626   567997452 :     y21 = ( x21 + s1 );
    4627   567997452 :     s1 = ( y21 + ( s1 * FFT_C55 ) );
    4628   567997452 :     s3 = ( s1 - t );
    4629   567997452 :     s1 = ( s1 + t );
    4630   567997452 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4631   567997452 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4632   567997452 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4633             : 
    4634   567997452 :     y22 = ( r1 + s2 );
    4635   567997452 :     y28 = ( r1 - s2 );
    4636   567997452 :     y24 = ( r3 - s4 );
    4637   567997452 :     y26 = ( r3 + s4 );
    4638             : 
    4639   567997452 :     y23 = ( s1 - r2 );
    4640   567997452 :     y29 = ( s1 + r2 );
    4641   567997452 :     y25 = ( s3 + r4 );
    4642   567997452 :     y27 = ( s3 - r4 );
    4643             : 
    4644   567997452 :     r1 = ( y10 + y20 );
    4645   567997452 :     r2 = ( ( y10 - y20 ) * FFT_C31 );
    4646   567997452 :     z00 = ( y00 + r1 );
    4647   567997452 :     r1 = ( y00 - r1 * 0.5f );
    4648             : 
    4649   567997452 :     s1 = ( y11 + y21 );
    4650   567997452 :     s2 = ( ( y11 - y21 ) * FFT_C31 );
    4651   567997452 :     z01 = ( y01 + s1 );
    4652   567997452 :     s1 = ( y01 - s1 * 0.5f );
    4653             : 
    4654   567997452 :     z20 = ( r1 - s2 );
    4655   567997452 :     z10 = ( r1 + s2 );
    4656   567997452 :     z21 = ( s1 + r2 );
    4657   567997452 :     z11 = ( s1 - r2 );
    4658             : 
    4659   567997452 :     r1 = ( y12 + y22 );
    4660   567997452 :     r2 = ( ( y12 - y22 ) * FFT_C31 );
    4661   567997452 :     z12 = ( y02 + r1 );
    4662   567997452 :     r1 = ( y02 - r1 * 0.5f );
    4663             : 
    4664   567997452 :     s1 = ( y13 + y23 );
    4665   567997452 :     s2 = ( ( y13 - y23 ) * FFT_C31 );
    4666   567997452 :     z13 = ( y03 + s1 );
    4667   567997452 :     s1 = ( y03 - s1 * 0.5f );
    4668             : 
    4669   567997452 :     z02 = ( r1 - s2 );
    4670   567997452 :     z22 = ( r1 + s2 );
    4671   567997452 :     z03 = ( s1 + r2 );
    4672   567997452 :     z23 = ( s1 - r2 );
    4673             : 
    4674   567997452 :     r1 = ( y14 + y24 );
    4675   567997452 :     r2 = ( ( y14 - y24 ) * FFT_C31 );
    4676   567997452 :     z24 = ( y04 + r1 );
    4677   567997452 :     r1 = ( y04 - r1 * 0.5f );
    4678             : 
    4679   567997452 :     s1 = ( y15 + y25 );
    4680   567997452 :     s2 = ( ( y15 - y25 ) * FFT_C31 );
    4681   567997452 :     z25 = ( y05 + s1 );
    4682   567997452 :     s1 = ( y05 - s1 * 0.5f );
    4683             : 
    4684   567997452 :     z14 = ( r1 - s2 );
    4685   567997452 :     z04 = ( r1 + s2 );
    4686   567997452 :     z15 = ( s1 + r2 );
    4687   567997452 :     z05 = ( s1 - r2 );
    4688             : 
    4689   567997452 :     r1 = ( y16 + y26 );
    4690   567997452 :     r2 = ( ( y16 - y26 ) * FFT_C31 );
    4691   567997452 :     z06 = ( y06 + r1 );
    4692   567997452 :     r1 = ( y06 - r1 * 0.5f );
    4693             : 
    4694   567997452 :     s1 = ( y17 + y27 );
    4695   567997452 :     s2 = ( ( y17 - y27 ) * FFT_C31 );
    4696   567997452 :     z07 = ( y07 + s1 );
    4697   567997452 :     s1 = ( y07 - s1 * 0.5f );
    4698             : 
    4699   567997452 :     z26 = ( r1 - s2 );
    4700   567997452 :     z16 = ( r1 + s2 );
    4701   567997452 :     z27 = ( s1 + r2 );
    4702   567997452 :     z17 = ( s1 - r2 );
    4703             : 
    4704   567997452 :     r1 = ( y18 + y28 );
    4705   567997452 :     r2 = ( ( y18 - y28 ) * FFT_C31 );
    4706   567997452 :     z18 = ( y08 + r1 );
    4707   567997452 :     r1 = ( y08 - r1 * 0.5f );
    4708             : 
    4709   567997452 :     s1 = ( y19 + y29 );
    4710   567997452 :     s2 = ( ( y19 - y29 ) * FFT_C31 );
    4711   567997452 :     z19 = ( y09 + s1 );
    4712   567997452 :     s1 = ( y09 - s1 * 0.5f );
    4713             : 
    4714   567997452 :     z08 = ( r1 - s2 );
    4715   567997452 :     z28 = ( r1 + s2 );
    4716   567997452 :     z09 = ( s1 + r2 );
    4717   567997452 :     z29 = ( s1 - r2 );
    4718             : 
    4719   567997452 :     x00 = re[s * 15];
    4720   567997452 :     x01 = im[s * 15];
    4721   567997452 :     x02 = re[s * 3];
    4722   567997452 :     x03 = im[s * 3];
    4723   567997452 :     x04 = re[s * 21];
    4724   567997452 :     x05 = im[s * 21];
    4725   567997452 :     x06 = re[s * 9];
    4726   567997452 :     x07 = im[s * 9];
    4727   567997452 :     x08 = re[s * 27];
    4728   567997452 :     x09 = im[s * 27];
    4729             : 
    4730   567997452 :     x10 = re[s * 5];
    4731   567997452 :     x11 = im[s * 5];
    4732   567997452 :     x12 = re[s * 23];
    4733   567997452 :     x13 = im[s * 23];
    4734   567997452 :     x14 = re[s * 11];
    4735   567997452 :     x15 = im[s * 11];
    4736   567997452 :     x16 = re[s * 29];
    4737   567997452 :     x17 = im[s * 29];
    4738   567997452 :     x18 = re[s * 17];
    4739   567997452 :     x19 = im[s * 17];
    4740             : 
    4741   567997452 :     x20 = re[s * 25];
    4742   567997452 :     x21 = im[s * 25];
    4743   567997452 :     x22 = re[s * 13];
    4744   567997452 :     x23 = im[s * 13];
    4745   567997452 :     x24 = re[s * 1];
    4746   567997452 :     x25 = im[s * 1];
    4747   567997452 :     x26 = re[s * 19];
    4748   567997452 :     x27 = im[s * 19];
    4749   567997452 :     x28 = re[s * 7];
    4750   567997452 :     x29 = im[s * 7];
    4751             : 
    4752   567997452 :     r1 = ( x02 + x08 );
    4753   567997452 :     r4 = ( x02 - x08 );
    4754   567997452 :     r3 = ( x04 + x06 );
    4755   567997452 :     r2 = ( x04 - x06 );
    4756   567997452 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4757   567997452 :     r1 = ( r1 + r3 );
    4758   567997452 :     y00 = ( x00 + r1 );
    4759   567997452 :     r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
    4760   567997452 :     r3 = ( r1 - t );
    4761   567997452 :     r1 = ( r1 + t );
    4762   567997452 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4763   567997452 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4764   567997452 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4765             : 
    4766   567997452 :     s1 = ( x03 + x09 );
    4767   567997452 :     s4 = ( x03 - x09 );
    4768   567997452 :     s3 = ( x05 + x07 );
    4769   567997452 :     s2 = ( x05 - x07 );
    4770   567997452 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4771   567997452 :     s1 = ( s1 + s3 );
    4772   567997452 :     y01 = ( x01 + s1 );
    4773   567997452 :     s1 = ( y01 + ( s1 * FFT_C55 ) );
    4774   567997452 :     s3 = ( s1 - t );
    4775   567997452 :     s1 = ( s1 + t );
    4776   567997452 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4777   567997452 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4778   567997452 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4779             : 
    4780   567997452 :     y02 = ( r1 + s2 );
    4781   567997452 :     y08 = ( r1 - s2 );
    4782   567997452 :     y04 = ( r3 - s4 );
    4783   567997452 :     y06 = ( r3 + s4 );
    4784             : 
    4785   567997452 :     y03 = ( s1 - r2 );
    4786   567997452 :     y09 = ( s1 + r2 );
    4787   567997452 :     y05 = ( s3 + r4 );
    4788   567997452 :     y07 = ( s3 - r4 );
    4789             : 
    4790   567997452 :     r1 = ( x12 + x18 );
    4791   567997452 :     r4 = ( x12 - x18 );
    4792   567997452 :     r3 = ( x14 + x16 );
    4793   567997452 :     r2 = ( x14 - x16 );
    4794   567997452 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4795   567997452 :     r1 = ( r1 + r3 );
    4796   567997452 :     y10 = ( x10 + r1 );
    4797   567997452 :     r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
    4798   567997452 :     r3 = ( r1 - t );
    4799   567997452 :     r1 = ( r1 + t );
    4800   567997452 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4801   567997452 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4802   567997452 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4803             : 
    4804   567997452 :     s1 = ( x13 + x19 );
    4805   567997452 :     s4 = ( x13 - x19 );
    4806   567997452 :     s3 = ( x15 + x17 );
    4807   567997452 :     s2 = ( x15 - x17 );
    4808   567997452 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4809   567997452 :     s1 = ( s1 + s3 );
    4810   567997452 :     y11 = ( x11 + s1 );
    4811   567997452 :     s1 = ( y11 + ( s1 * FFT_C55 ) );
    4812   567997452 :     s3 = ( s1 - t );
    4813   567997452 :     s1 = ( s1 + t );
    4814   567997452 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4815   567997452 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4816   567997452 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4817             : 
    4818   567997452 :     y12 = ( r1 + s2 );
    4819   567997452 :     y18 = ( r1 - s2 );
    4820   567997452 :     y14 = ( r3 - s4 );
    4821   567997452 :     y16 = ( r3 + s4 );
    4822             : 
    4823   567997452 :     y13 = ( s1 - r2 );
    4824   567997452 :     y19 = ( s1 + r2 );
    4825   567997452 :     y15 = ( s3 + r4 );
    4826   567997452 :     y17 = ( s3 - r4 );
    4827             : 
    4828   567997452 :     r1 = ( x22 + x28 );
    4829   567997452 :     r4 = ( x22 - x28 );
    4830   567997452 :     r3 = ( x24 + x26 );
    4831   567997452 :     r2 = ( x24 - x26 );
    4832   567997452 :     t = ( ( r1 - r3 ) * FFT_C54 );
    4833   567997452 :     r1 = ( r1 + r3 );
    4834   567997452 :     y20 = ( x20 + r1 );
    4835   567997452 :     r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
    4836   567997452 :     r3 = ( r1 - t );
    4837   567997452 :     r1 = ( r1 + t );
    4838   567997452 :     t = ( ( ( r4 + r2 ) ) * FFT_C51 );
    4839   567997452 :     r4 = ( t + ( r4 * FFT_C52 ) );
    4840   567997452 :     r2 = ( t + ( r2 * FFT_C53 ) );
    4841             : 
    4842   567997452 :     s1 = ( x23 + x29 );
    4843   567997452 :     s4 = ( x23 - x29 );
    4844   567997452 :     s3 = ( x25 + x27 );
    4845   567997452 :     s2 = ( x25 - x27 );
    4846   567997452 :     t = ( ( s1 - s3 ) * FFT_C54 );
    4847   567997452 :     s1 = ( s1 + s3 );
    4848   567997452 :     y21 = ( x21 + s1 );
    4849   567997452 :     s1 = ( y21 + ( s1 * FFT_C55 ) );
    4850   567997452 :     s3 = ( s1 - t );
    4851   567997452 :     s1 = ( s1 + t );
    4852   567997452 :     t = ( ( s4 + s2 ) * FFT_C51 );
    4853   567997452 :     s4 = ( t + ( s4 * FFT_C52 ) );
    4854   567997452 :     s2 = ( t + ( s2 * FFT_C53 ) );
    4855             : 
    4856   567997452 :     y22 = ( r1 + s2 );
    4857   567997452 :     y28 = ( r1 - s2 );
    4858   567997452 :     y24 = ( r3 - s4 );
    4859   567997452 :     y26 = ( r3 + s4 );
    4860             : 
    4861   567997452 :     y23 = ( s1 - r2 );
    4862   567997452 :     y29 = ( s1 + r2 );
    4863   567997452 :     y25 = ( s3 + r4 );
    4864   567997452 :     y27 = ( s3 - r4 );
    4865             : 
    4866   567997452 :     r1 = ( y10 + y20 );
    4867   567997452 :     r2 = ( ( y10 - y20 ) * FFT_C31 );
    4868   567997452 :     z30 = ( y00 + r1 );
    4869   567997452 :     r1 = ( y00 - r1 * 0.5f );
    4870             : 
    4871   567997452 :     s1 = ( y11 + y21 );
    4872   567997452 :     s2 = ( ( y11 - y21 ) * FFT_C31 );
    4873   567997452 :     z31 = ( y01 + s1 );
    4874   567997452 :     s1 = ( y01 - s1 * 0.5f );
    4875             : 
    4876   567997452 :     z50 = ( r1 - s2 );
    4877   567997452 :     z40 = ( r1 + s2 );
    4878   567997452 :     z51 = ( s1 + r2 );
    4879   567997452 :     z41 = ( s1 - r2 );
    4880             : 
    4881   567997452 :     r1 = ( y12 + y22 );
    4882   567997452 :     r2 = ( ( y12 - y22 ) * FFT_C31 );
    4883   567997452 :     z42 = ( y02 + r1 );
    4884   567997452 :     r1 = ( y02 - r1 * 0.5f );
    4885             : 
    4886   567997452 :     s1 = ( y13 + y23 );
    4887   567997452 :     s2 = ( ( y13 - y23 ) * FFT_C31 );
    4888   567997452 :     z43 = ( y03 + s1 );
    4889   567997452 :     s1 = ( y03 - s1 * 0.5f );
    4890             : 
    4891   567997452 :     z32 = ( r1 - s2 );
    4892   567997452 :     z52 = ( r1 + s2 );
    4893   567997452 :     z33 = ( s1 + r2 );
    4894   567997452 :     z53 = ( s1 - r2 );
    4895             : 
    4896   567997452 :     r1 = ( y14 + y24 );
    4897   567997452 :     r2 = ( ( y14 - y24 ) * FFT_C31 );
    4898   567997452 :     z54 = ( y04 + r1 );
    4899   567997452 :     r1 = ( y04 - r1 * 0.5f );
    4900             : 
    4901   567997452 :     s1 = ( y15 + y25 );
    4902   567997452 :     s2 = ( ( y15 - y25 ) * FFT_C31 );
    4903   567997452 :     z55 = ( y05 + s1 );
    4904   567997452 :     s1 = ( y05 - s1 * 0.5f );
    4905             : 
    4906   567997452 :     z44 = ( r1 - s2 );
    4907   567997452 :     z34 = ( r1 + s2 );
    4908   567997452 :     z45 = ( s1 + r2 );
    4909   567997452 :     z35 = ( s1 - r2 );
    4910             : 
    4911   567997452 :     r1 = ( y16 + y26 );
    4912   567997452 :     r2 = ( ( y16 - y26 ) * FFT_C31 );
    4913   567997452 :     z36 = ( y06 + r1 );
    4914   567997452 :     r1 = ( y06 - r1 * 0.5f );
    4915             : 
    4916   567997452 :     s1 = ( y17 + y27 );
    4917   567997452 :     s2 = ( ( y17 - y27 ) * FFT_C31 );
    4918   567997452 :     z37 = ( y07 + s1 );
    4919   567997452 :     s1 = ( y07 - s1 * 0.5f );
    4920             : 
    4921   567997452 :     z56 = ( r1 - s2 );
    4922   567997452 :     z46 = ( r1 + s2 );
    4923   567997452 :     z57 = ( s1 + r2 );
    4924   567997452 :     z47 = ( s1 - r2 );
    4925             : 
    4926   567997452 :     r1 = ( y18 + y28 );
    4927   567997452 :     r2 = ( ( y18 - y28 ) * FFT_C31 );
    4928   567997452 :     z48 = ( y08 + r1 );
    4929   567997452 :     r1 = ( y08 - r1 * 0.5f );
    4930             : 
    4931   567997452 :     s1 = ( y19 + y29 );
    4932   567997452 :     s2 = ( ( y19 - y29 ) * FFT_C31 );
    4933   567997452 :     z49 = ( y09 + s1 );
    4934   567997452 :     s1 = ( y09 - s1 * 0.5f );
    4935             : 
    4936   567997452 :     z38 = ( r1 - s2 );
    4937   567997452 :     z58 = ( r1 + s2 );
    4938   567997452 :     z39 = ( s1 + r2 );
    4939   567997452 :     z59 = ( s1 - r2 );
    4940             : 
    4941   567997452 :     r1 = z00;
    4942   567997452 :     r2 = z30;
    4943   567997452 :     r3 = z01;
    4944   567997452 :     r4 = z31;
    4945   567997452 :     *rel = ( r1 + r2 );
    4946   567997452 :     *reh = ( r1 - r2 );
    4947   567997452 :     *iml = ( r3 + r4 );
    4948   567997452 :     *imh = ( r3 - r4 );
    4949   567997452 :     rel += s, reh += s, iml += s;
    4950   567997452 :     imh += s;
    4951             : 
    4952   567997452 :     r1 = z16;
    4953   567997452 :     r2 = z46;
    4954   567997452 :     r3 = z17;
    4955   567997452 :     r4 = z47;
    4956   567997452 :     *reh = ( r1 + r2 );
    4957   567997452 :     *rel = ( r1 - r2 );
    4958   567997452 :     *imh = ( r3 + r4 );
    4959   567997452 :     *iml = ( r3 - r4 );
    4960   567997452 :     rel += s, reh += s, iml += s;
    4961   567997452 :     imh += s;
    4962             : 
    4963   567997452 :     r1 = z02;
    4964   567997452 :     r2 = z32;
    4965   567997452 :     r3 = z03;
    4966   567997452 :     r4 = z33;
    4967   567997452 :     *rel = ( r1 + r2 );
    4968   567997452 :     *reh = ( r1 - r2 );
    4969   567997452 :     *iml = ( r3 + r4 );
    4970   567997452 :     *imh = ( r3 - r4 );
    4971   567997452 :     rel += s, reh += s, iml += s;
    4972   567997452 :     imh += s;
    4973             : 
    4974   567997452 :     r1 = z18;
    4975   567997452 :     r2 = z48;
    4976   567997452 :     r3 = z19;
    4977   567997452 :     r4 = z49;
    4978   567997452 :     *reh = ( r1 + r2 );
    4979   567997452 :     *rel = ( r1 - r2 );
    4980   567997452 :     *imh = ( r3 + r4 );
    4981   567997452 :     *iml = ( r3 - r4 );
    4982   567997452 :     rel += s, reh += s, iml += s;
    4983   567997452 :     imh += s;
    4984             : 
    4985   567997452 :     r1 = z04;
    4986   567997452 :     r2 = z34;
    4987   567997452 :     r3 = z05;
    4988   567997452 :     r4 = z35;
    4989   567997452 :     *rel = ( r1 + r2 );
    4990   567997452 :     *reh = ( r1 - r2 );
    4991   567997452 :     *iml = ( r3 + r4 );
    4992   567997452 :     *imh = ( r3 - r4 );
    4993   567997452 :     rel += s, reh += s, iml += s;
    4994   567997452 :     imh += s;
    4995             : 
    4996   567997452 :     r1 = z20;
    4997   567997452 :     r2 = z50;
    4998   567997452 :     r3 = z21;
    4999   567997452 :     r4 = z51;
    5000   567997452 :     *reh = ( r1 + r2 );
    5001   567997452 :     *rel = ( r1 - r2 );
    5002   567997452 :     *imh = ( r3 + r4 );
    5003   567997452 :     *iml = ( r3 - r4 );
    5004   567997452 :     rel += s, reh += s, iml += s;
    5005   567997452 :     imh += s;
    5006             : 
    5007   567997452 :     r1 = z06;
    5008   567997452 :     r2 = z36;
    5009   567997452 :     r3 = z07;
    5010   567997452 :     r4 = z37;
    5011   567997452 :     *rel = ( r1 + r2 );
    5012   567997452 :     *reh = ( r1 - r2 );
    5013   567997452 :     *iml = ( r3 + r4 );
    5014   567997452 :     *imh = ( r3 - r4 );
    5015   567997452 :     rel += s, reh += s, iml += s;
    5016   567997452 :     imh += s;
    5017             : 
    5018   567997452 :     r1 = z22;
    5019   567997452 :     r2 = z52;
    5020   567997452 :     r3 = z23;
    5021   567997452 :     r4 = z53;
    5022   567997452 :     *reh = ( r1 + r2 );
    5023   567997452 :     *rel = ( r1 - r2 );
    5024   567997452 :     *imh = ( r3 + r4 );
    5025   567997452 :     *iml = ( r3 - r4 );
    5026   567997452 :     rel += s, reh += s, iml += s;
    5027   567997452 :     imh += s;
    5028             : 
    5029   567997452 :     r1 = z08;
    5030   567997452 :     r2 = z38;
    5031   567997452 :     r3 = z09;
    5032   567997452 :     r4 = z39;
    5033   567997452 :     *rel = ( r1 + r2 );
    5034   567997452 :     *reh = ( r1 - r2 );
    5035   567997452 :     *iml = ( r3 + r4 );
    5036   567997452 :     *imh = ( r3 - r4 );
    5037   567997452 :     rel += s, reh += s, iml += s;
    5038   567997452 :     imh += s;
    5039             : 
    5040   567997452 :     r1 = z24;
    5041   567997452 :     r2 = z54;
    5042   567997452 :     r3 = z25;
    5043   567997452 :     r4 = z55;
    5044   567997452 :     *reh = ( r1 + r2 );
    5045   567997452 :     *rel = ( r1 - r2 );
    5046   567997452 :     *imh = ( r3 + r4 );
    5047   567997452 :     *iml = ( r3 - r4 );
    5048   567997452 :     rel += s, reh += s, iml += s;
    5049   567997452 :     imh += s;
    5050             : 
    5051   567997452 :     r1 = z10;
    5052   567997452 :     r2 = z40;
    5053   567997452 :     r3 = z11;
    5054   567997452 :     r4 = z41;
    5055   567997452 :     *rel = ( r1 + r2 );
    5056   567997452 :     *reh = ( r1 - r2 );
    5057   567997452 :     *iml = ( r3 + r4 );
    5058   567997452 :     *imh = ( r3 - r4 );
    5059   567997452 :     rel += s, reh += s, iml += s;
    5060   567997452 :     imh += s;
    5061             : 
    5062   567997452 :     r1 = z26;
    5063   567997452 :     r2 = z56;
    5064   567997452 :     r3 = z27;
    5065   567997452 :     r4 = z57;
    5066   567997452 :     *reh = ( r1 + r2 );
    5067   567997452 :     *rel = ( r1 - r2 );
    5068   567997452 :     *imh = ( r3 + r4 );
    5069   567997452 :     *iml = ( r3 - r4 );
    5070   567997452 :     rel += s, reh += s, iml += s;
    5071   567997452 :     imh += s;
    5072             : 
    5073   567997452 :     r1 = z12;
    5074   567997452 :     r2 = z42;
    5075   567997452 :     r3 = z13;
    5076   567997452 :     r4 = z43;
    5077   567997452 :     *rel = ( r1 + r2 );
    5078   567997452 :     *reh = ( r1 - r2 );
    5079   567997452 :     *iml = ( r3 + r4 );
    5080   567997452 :     *imh = ( r3 - r4 );
    5081   567997452 :     rel += s, reh += s, iml += s;
    5082   567997452 :     imh += s;
    5083             : 
    5084   567997452 :     r1 = z28;
    5085   567997452 :     r2 = z58;
    5086   567997452 :     r3 = z29;
    5087   567997452 :     r4 = z59;
    5088   567997452 :     *reh = ( r1 + r2 );
    5089   567997452 :     *rel = ( r1 - r2 );
    5090   567997452 :     *imh = ( r3 + r4 );
    5091   567997452 :     *iml = ( r3 - r4 );
    5092   567997452 :     rel += s, reh += s, iml += s;
    5093   567997452 :     imh += s;
    5094             : 
    5095   567997452 :     r1 = z14;
    5096   567997452 :     r2 = z44;
    5097   567997452 :     r3 = z15;
    5098   567997452 :     r4 = z45;
    5099   567997452 :     *rel = ( r1 + r2 );
    5100   567997452 :     *reh = ( r1 - r2 );
    5101   567997452 :     *iml = ( r3 + r4 );
    5102   567997452 :     *imh = ( r3 - r4 );
    5103   567997452 :     rel += s, reh += s, iml += s;
    5104   567997452 :     imh += s;
    5105             : 
    5106   567997452 :     return;
    5107             : }
    5108             : 
    5109    90273738 : static void fft_len32(
    5110             :     float *re,
    5111             :     float *im,
    5112             :     const int16_t s )
    5113             : {
    5114             :     float as, bs;
    5115             :     float x00, x01, x02, x03, x04, x05, x06, x07;
    5116             :     float x08, x09, x10, x11, x12, x13, x14, x15;
    5117             :     float t00, t01, t02, t03, t04, t05, t06, t07;
    5118             :     float t08, t09, t10, t11, t12, t13, t14, t15;
    5119             :     float s00, s01, s02, s03, s04, s05, s06, s07;
    5120             :     float s08, s09, s10, s11, s12, s13, s14, s15;
    5121             : 
    5122             :     float y00, y01, y02, y03, y04, y05, y06, y07;
    5123             :     float y08, y09, y10, y11, y12, y13, y14, y15;
    5124             :     float y16, y17, y18, y19, y20, y21, y22, y23;
    5125             :     float y24, y25, y26, y27, y28, y29, y30, y31;
    5126             :     float y32, y33, y34, y35, y36, y37, y38, y39;
    5127             :     float y40, y41, y42, y43, y44, y45, y46, y47;
    5128             :     float y48, y49, y50, y51, y52, y53, y54, y55;
    5129             :     float y56, y57, y58, y59, y60, y61, y62, y63;
    5130             : 
    5131    90273738 :     x00 = re[s * 0];
    5132    90273738 :     x01 = im[s * 0];
    5133    90273738 :     x02 = re[s * 4];
    5134    90273738 :     x03 = im[s * 4];
    5135    90273738 :     x04 = re[s * 8];
    5136    90273738 :     x05 = im[s * 8];
    5137    90273738 :     x06 = re[s * 12];
    5138    90273738 :     x07 = im[s * 12];
    5139    90273738 :     x08 = re[s * 16];
    5140    90273738 :     x09 = im[s * 16];
    5141    90273738 :     x10 = re[s * 20];
    5142    90273738 :     x11 = im[s * 20];
    5143    90273738 :     x12 = re[s * 24];
    5144    90273738 :     x13 = im[s * 24];
    5145    90273738 :     x14 = re[s * 28];
    5146    90273738 :     x15 = im[s * 28];
    5147             : 
    5148    90273738 :     t00 = ( x00 + x08 );
    5149    90273738 :     t02 = ( x00 - x08 );
    5150    90273738 :     t01 = ( x01 + x09 );
    5151    90273738 :     t03 = ( x01 - x09 );
    5152    90273738 :     t04 = ( x02 + x10 );
    5153    90273738 :     t06 = ( x02 - x10 );
    5154    90273738 :     t05 = ( x03 + x11 );
    5155    90273738 :     t07 = ( x03 - x11 );
    5156    90273738 :     t08 = ( x04 + x12 );
    5157    90273738 :     t10 = ( x04 - x12 );
    5158    90273738 :     t09 = ( x05 + x13 );
    5159    90273738 :     t11 = ( x05 - x13 );
    5160    90273738 :     t12 = ( x06 + x14 );
    5161    90273738 :     t14 = ( x06 - x14 );
    5162    90273738 :     t13 = ( x07 + x15 );
    5163    90273738 :     t15 = ( x07 - x15 );
    5164             : 
    5165    90273738 :     s00 = ( t00 + t08 );
    5166    90273738 :     s04 = ( t00 - t08 );
    5167    90273738 :     s01 = ( t01 + t09 );
    5168    90273738 :     s05 = ( t01 - t09 );
    5169    90273738 :     s08 = ( t02 - t11 );
    5170    90273738 :     s10 = ( t02 + t11 );
    5171    90273738 :     s09 = ( t03 + t10 );
    5172    90273738 :     s11 = ( t03 - t10 );
    5173    90273738 :     s02 = ( t04 + t12 );
    5174    90273738 :     s07 = ( t04 - t12 );
    5175    90273738 :     s03 = ( t05 + t13 );
    5176    90273738 :     s06 = ( t13 - t05 );
    5177    90273738 :     t01 = ( t06 + t14 );
    5178    90273738 :     t02 = ( t06 - t14 );
    5179    90273738 :     t00 = ( t07 + t15 );
    5180    90273738 :     t03 = ( t07 - t15 );
    5181             : 
    5182             :     {
    5183    90273738 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5184    90273738 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5185    90273738 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5186    90273738 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5187             :     };
    5188             : 
    5189    90273738 :     y00 = ( s00 + s02 );
    5190    90273738 :     y08 = ( s00 - s02 );
    5191    90273738 :     y01 = ( s01 + s03 );
    5192    90273738 :     y09 = ( s01 - s03 );
    5193    90273738 :     y04 = ( s04 - s06 );
    5194    90273738 :     y12 = ( s04 + s06 );
    5195    90273738 :     y05 = ( s05 - s07 );
    5196    90273738 :     y13 = ( s05 + s07 );
    5197    90273738 :     y06 = ( s08 + s14 );
    5198    90273738 :     y14 = ( s08 - s14 );
    5199    90273738 :     y07 = ( s09 + s15 );
    5200    90273738 :     y15 = ( s09 - s15 );
    5201    90273738 :     y02 = ( s10 + s12 );
    5202    90273738 :     y10 = ( s10 - s12 );
    5203    90273738 :     y03 = ( s11 + s13 );
    5204    90273738 :     y11 = ( s11 - s13 );
    5205             : 
    5206    90273738 :     x00 = re[s * 1];
    5207    90273738 :     x01 = im[s * 1];
    5208    90273738 :     x02 = re[s * 5];
    5209    90273738 :     x03 = im[s * 5];
    5210    90273738 :     x04 = re[s * 9];
    5211    90273738 :     x05 = im[s * 9];
    5212    90273738 :     x06 = re[s * 13];
    5213    90273738 :     x07 = im[s * 13];
    5214    90273738 :     x08 = re[s * 17];
    5215    90273738 :     x09 = im[s * 17];
    5216    90273738 :     x10 = re[s * 21];
    5217    90273738 :     x11 = im[s * 21];
    5218    90273738 :     x12 = re[s * 25];
    5219    90273738 :     x13 = im[s * 25];
    5220    90273738 :     x14 = re[s * 29];
    5221    90273738 :     x15 = im[s * 29];
    5222             : 
    5223    90273738 :     t00 = ( x00 + x08 );
    5224    90273738 :     t02 = ( x00 - x08 );
    5225    90273738 :     t01 = ( x01 + x09 );
    5226    90273738 :     t03 = ( x01 - x09 );
    5227    90273738 :     t04 = ( x02 + x10 );
    5228    90273738 :     t06 = ( x02 - x10 );
    5229    90273738 :     t05 = ( x03 + x11 );
    5230    90273738 :     t07 = ( x03 - x11 );
    5231    90273738 :     t08 = ( x04 + x12 );
    5232    90273738 :     t10 = ( x04 - x12 );
    5233    90273738 :     t09 = ( x05 + x13 );
    5234    90273738 :     t11 = ( x05 - x13 );
    5235    90273738 :     t12 = ( x06 + x14 );
    5236    90273738 :     t14 = ( x06 - x14 );
    5237    90273738 :     t13 = ( x07 + x15 );
    5238    90273738 :     t15 = ( x07 - x15 );
    5239             : 
    5240    90273738 :     s00 = ( t00 + t08 );
    5241    90273738 :     s04 = ( t00 - t08 );
    5242    90273738 :     s01 = ( t01 + t09 );
    5243    90273738 :     s05 = ( t01 - t09 );
    5244    90273738 :     s08 = ( t02 - t11 );
    5245    90273738 :     s10 = ( t02 + t11 );
    5246    90273738 :     s09 = ( t03 + t10 );
    5247    90273738 :     s11 = ( t03 - t10 );
    5248    90273738 :     s02 = ( t04 + t12 );
    5249    90273738 :     s07 = ( t04 - t12 );
    5250    90273738 :     s03 = ( t05 + t13 );
    5251    90273738 :     s06 = ( t13 - t05 );
    5252    90273738 :     t01 = ( t06 + t14 );
    5253    90273738 :     t02 = ( t06 - t14 );
    5254    90273738 :     t00 = ( t07 + t15 );
    5255    90273738 :     t03 = ( t07 - t15 );
    5256             : 
    5257             :     {
    5258    90273738 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5259    90273738 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5260    90273738 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5261    90273738 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5262             :     };
    5263             : 
    5264    90273738 :     y16 = ( s00 + s02 );
    5265    90273738 :     y24 = ( s00 - s02 );
    5266    90273738 :     y17 = ( s01 + s03 );
    5267    90273738 :     y25 = ( s01 - s03 );
    5268    90273738 :     y20 = ( s04 - s06 );
    5269    90273738 :     y28 = ( s04 + s06 );
    5270    90273738 :     y21 = ( s05 - s07 );
    5271    90273738 :     y29 = ( s05 + s07 );
    5272    90273738 :     y22 = ( s08 + s14 );
    5273    90273738 :     y30 = ( s08 - s14 );
    5274    90273738 :     y23 = ( s09 + s15 );
    5275    90273738 :     y31 = ( s09 - s15 );
    5276    90273738 :     y18 = ( s10 + s12 );
    5277    90273738 :     y26 = ( s10 - s12 );
    5278    90273738 :     y19 = ( s11 + s13 );
    5279    90273738 :     y27 = ( s11 - s13 );
    5280             : 
    5281    90273738 :     x00 = re[s * 2];
    5282    90273738 :     x01 = im[s * 2];
    5283    90273738 :     x02 = re[s * 6];
    5284    90273738 :     x03 = im[s * 6];
    5285    90273738 :     x04 = re[s * 10];
    5286    90273738 :     x05 = im[s * 10];
    5287    90273738 :     x06 = re[s * 14];
    5288    90273738 :     x07 = im[s * 14];
    5289    90273738 :     x08 = re[s * 18];
    5290    90273738 :     x09 = im[s * 18];
    5291    90273738 :     x10 = re[s * 22];
    5292    90273738 :     x11 = im[s * 22];
    5293    90273738 :     x12 = re[s * 26];
    5294    90273738 :     x13 = im[s * 26];
    5295    90273738 :     x14 = re[s * 30];
    5296    90273738 :     x15 = im[s * 30];
    5297             : 
    5298    90273738 :     t00 = ( x00 + x08 );
    5299    90273738 :     t02 = ( x00 - x08 );
    5300    90273738 :     t01 = ( x01 + x09 );
    5301    90273738 :     t03 = ( x01 - x09 );
    5302    90273738 :     t04 = ( x02 + x10 );
    5303    90273738 :     t06 = ( x02 - x10 );
    5304    90273738 :     t05 = ( x03 + x11 );
    5305    90273738 :     t07 = ( x03 - x11 );
    5306    90273738 :     t08 = ( x04 + x12 );
    5307    90273738 :     t10 = ( x04 - x12 );
    5308    90273738 :     t09 = ( x05 + x13 );
    5309    90273738 :     t11 = ( x05 - x13 );
    5310    90273738 :     t12 = ( x06 + x14 );
    5311    90273738 :     t14 = ( x06 - x14 );
    5312    90273738 :     t13 = ( x07 + x15 );
    5313    90273738 :     t15 = ( x07 - x15 );
    5314             : 
    5315    90273738 :     s00 = ( t00 + t08 );
    5316    90273738 :     s04 = ( t00 - t08 );
    5317    90273738 :     s01 = ( t01 + t09 );
    5318    90273738 :     s05 = ( t01 - t09 );
    5319    90273738 :     s08 = ( t02 - t11 );
    5320    90273738 :     s10 = ( t02 + t11 );
    5321    90273738 :     s09 = ( t03 + t10 );
    5322    90273738 :     s11 = ( t03 - t10 );
    5323    90273738 :     s02 = ( t04 + t12 );
    5324    90273738 :     s07 = ( t04 - t12 );
    5325    90273738 :     s03 = ( t05 + t13 );
    5326    90273738 :     s06 = ( t13 - t05 );
    5327    90273738 :     t01 = ( t06 + t14 );
    5328    90273738 :     t02 = ( t06 - t14 );
    5329    90273738 :     t00 = ( t07 + t15 );
    5330    90273738 :     t03 = ( t07 - t15 );
    5331             : 
    5332             :     {
    5333    90273738 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5334    90273738 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5335    90273738 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5336    90273738 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5337             :     };
    5338             : 
    5339    90273738 :     y32 = ( s00 + s02 );
    5340    90273738 :     y40 = ( s00 - s02 );
    5341    90273738 :     y33 = ( s01 + s03 );
    5342    90273738 :     y41 = ( s01 - s03 );
    5343    90273738 :     y36 = ( s04 - s06 );
    5344    90273738 :     y44 = ( s04 + s06 );
    5345    90273738 :     y37 = ( s05 - s07 );
    5346    90273738 :     y45 = ( s05 + s07 );
    5347    90273738 :     y38 = ( s08 + s14 );
    5348    90273738 :     y46 = ( s08 - s14 );
    5349    90273738 :     y39 = ( s09 + s15 );
    5350    90273738 :     y47 = ( s09 - s15 );
    5351    90273738 :     y34 = ( s10 + s12 );
    5352    90273738 :     y42 = ( s10 - s12 );
    5353    90273738 :     y35 = ( s11 + s13 );
    5354    90273738 :     y43 = ( s11 - s13 );
    5355             : 
    5356    90273738 :     x00 = re[s * 3];
    5357    90273738 :     x01 = im[s * 3];
    5358    90273738 :     x02 = re[s * 7];
    5359    90273738 :     x03 = im[s * 7];
    5360    90273738 :     x04 = re[s * 11];
    5361    90273738 :     x05 = im[s * 11];
    5362    90273738 :     x06 = re[s * 15];
    5363    90273738 :     x07 = im[s * 15];
    5364    90273738 :     x08 = re[s * 19];
    5365    90273738 :     x09 = im[s * 19];
    5366    90273738 :     x10 = re[s * 23];
    5367    90273738 :     x11 = im[s * 23];
    5368    90273738 :     x12 = re[s * 27];
    5369    90273738 :     x13 = im[s * 27];
    5370    90273738 :     x14 = re[s * 31];
    5371    90273738 :     x15 = im[s * 31];
    5372             : 
    5373    90273738 :     t00 = ( x00 + x08 );
    5374    90273738 :     t02 = ( x00 - x08 );
    5375    90273738 :     t01 = ( x01 + x09 );
    5376    90273738 :     t03 = ( x01 - x09 );
    5377    90273738 :     t04 = ( x02 + x10 );
    5378    90273738 :     t06 = ( x02 - x10 );
    5379    90273738 :     t05 = ( x03 + x11 );
    5380    90273738 :     t07 = ( x03 - x11 );
    5381    90273738 :     t08 = ( x04 + x12 );
    5382    90273738 :     t10 = ( x04 - x12 );
    5383    90273738 :     t09 = ( x05 + x13 );
    5384    90273738 :     t11 = ( x05 - x13 );
    5385    90273738 :     t12 = ( x06 + x14 );
    5386    90273738 :     t14 = ( x06 - x14 );
    5387    90273738 :     t13 = ( x07 + x15 );
    5388    90273738 :     t15 = ( x07 - x15 );
    5389             : 
    5390    90273738 :     s00 = ( t00 + t08 );
    5391    90273738 :     s04 = ( t00 - t08 );
    5392    90273738 :     s01 = ( t01 + t09 );
    5393    90273738 :     s05 = ( t01 - t09 );
    5394    90273738 :     s08 = ( t02 - t11 );
    5395    90273738 :     s10 = ( t02 + t11 );
    5396    90273738 :     s09 = ( t03 + t10 );
    5397    90273738 :     s11 = ( t03 - t10 );
    5398    90273738 :     s02 = ( t04 + t12 );
    5399    90273738 :     s07 = ( t04 - t12 );
    5400    90273738 :     s03 = ( t05 + t13 );
    5401    90273738 :     s06 = ( t13 - t05 );
    5402    90273738 :     t01 = ( t06 + t14 );
    5403    90273738 :     t02 = ( t06 - t14 );
    5404    90273738 :     t00 = ( t07 + t15 );
    5405    90273738 :     t03 = ( t07 - t15 );
    5406             : 
    5407             :     {
    5408    90273738 :         s12 = ( ( t00 + t02 ) * FFT_C81 );
    5409    90273738 :         s14 = ( ( t00 - t02 ) * FFT_C81 );
    5410    90273738 :         s13 = ( ( t03 - t01 ) * FFT_C81 );
    5411    90273738 :         s15 = ( ( t01 + t03 ) * FFT_C82 );
    5412             :     };
    5413             : 
    5414    90273738 :     y48 = ( s00 + s02 );
    5415    90273738 :     y56 = ( s00 - s02 );
    5416    90273738 :     y49 = ( s01 + s03 );
    5417    90273738 :     y57 = ( s01 - s03 );
    5418    90273738 :     y52 = ( s04 - s06 );
    5419    90273738 :     y60 = ( s04 + s06 );
    5420    90273738 :     y53 = ( s05 - s07 );
    5421    90273738 :     y61 = ( s05 + s07 );
    5422    90273738 :     y54 = ( s08 + s14 );
    5423    90273738 :     y62 = ( s08 - s14 );
    5424    90273738 :     y55 = ( s09 + s15 );
    5425    90273738 :     y63 = ( s09 - s15 );
    5426    90273738 :     y50 = ( s10 + s12 );
    5427    90273738 :     y58 = ( s10 - s12 );
    5428    90273738 :     y51 = ( s11 + s13 );
    5429    90273738 :     y59 = ( s11 - s13 );
    5430             : 
    5431             : 
    5432             :     {
    5433    90273738 :         as = y18;
    5434    90273738 :         bs = y19;
    5435    90273738 :         y18 = ( ( as * FFT_RotVector_32[2 * 0 + 0] ) - ( bs * FFT_RotVector_32[2 * 0 + 1] ) );
    5436    90273738 :         y19 = ( ( as * FFT_RotVector_32[2 * 0 + 1] ) + ( bs * FFT_RotVector_32[2 * 0 + 0] ) );
    5437             :     };
    5438             :     {
    5439    90273738 :         as = y20;
    5440    90273738 :         bs = y21;
    5441    90273738 :         y20 = ( ( as * FFT_RotVector_32[2 * 1 + 0] ) - ( bs * FFT_RotVector_32[2 * 1 + 1] ) );
    5442    90273738 :         y21 = ( ( as * FFT_RotVector_32[2 * 1 + 1] ) + ( bs * FFT_RotVector_32[2 * 1 + 0] ) );
    5443             :     };
    5444             :     {
    5445    90273738 :         as = y22;
    5446    90273738 :         bs = y23;
    5447    90273738 :         y22 = ( ( as * FFT_RotVector_32[2 * 2 + 0] ) - ( bs * FFT_RotVector_32[2 * 2 + 1] ) );
    5448    90273738 :         y23 = ( ( as * FFT_RotVector_32[2 * 2 + 1] ) + ( bs * FFT_RotVector_32[2 * 2 + 0] ) );
    5449             :     };
    5450             :     {
    5451    90273738 :         as = y24;
    5452    90273738 :         bs = y25;
    5453    90273738 :         y24 = ( ( as * FFT_RotVector_32[2 * 3 + 0] ) - ( bs * FFT_RotVector_32[2 * 3 + 1] ) );
    5454    90273738 :         y25 = ( ( as * FFT_RotVector_32[2 * 3 + 1] ) + ( bs * FFT_RotVector_32[2 * 3 + 0] ) );
    5455             :     };
    5456             :     {
    5457    90273738 :         as = y26;
    5458    90273738 :         bs = y27;
    5459    90273738 :         y26 = ( ( as * FFT_RotVector_32[2 * 4 + 0] ) - ( bs * FFT_RotVector_32[2 * 4 + 1] ) );
    5460    90273738 :         y27 = ( ( as * FFT_RotVector_32[2 * 4 + 1] ) + ( bs * FFT_RotVector_32[2 * 4 + 0] ) );
    5461             :     };
    5462             :     {
    5463    90273738 :         as = y28;
    5464    90273738 :         bs = y29;
    5465    90273738 :         y28 = ( ( as * FFT_RotVector_32[2 * 5 + 0] ) - ( bs * FFT_RotVector_32[2 * 5 + 1] ) );
    5466    90273738 :         y29 = ( ( as * FFT_RotVector_32[2 * 5 + 1] ) + ( bs * FFT_RotVector_32[2 * 5 + 0] ) );
    5467             :     };
    5468             :     {
    5469    90273738 :         as = y30;
    5470    90273738 :         bs = y31;
    5471    90273738 :         y30 = ( ( as * FFT_RotVector_32[2 * 6 + 0] ) - ( bs * FFT_RotVector_32[2 * 6 + 1] ) );
    5472    90273738 :         y31 = ( ( as * FFT_RotVector_32[2 * 6 + 1] ) + ( bs * FFT_RotVector_32[2 * 6 + 0] ) );
    5473             :     };
    5474             :     {
    5475    90273738 :         as = y34;
    5476    90273738 :         bs = y35;
    5477    90273738 :         y34 = ( ( as * FFT_RotVector_32[2 * 7 + 0] ) - ( bs * FFT_RotVector_32[2 * 7 + 1] ) );
    5478    90273738 :         y35 = ( ( as * FFT_RotVector_32[2 * 7 + 1] ) + ( bs * FFT_RotVector_32[2 * 7 + 0] ) );
    5479             :     };
    5480             :     {
    5481    90273738 :         as = y36;
    5482    90273738 :         bs = y37;
    5483    90273738 :         y36 = ( ( as * FFT_RotVector_32[2 * 8 + 0] ) - ( bs * FFT_RotVector_32[2 * 8 + 1] ) );
    5484    90273738 :         y37 = ( ( as * FFT_RotVector_32[2 * 8 + 1] ) + ( bs * FFT_RotVector_32[2 * 8 + 0] ) );
    5485             :     };
    5486             :     {
    5487    90273738 :         as = y38;
    5488    90273738 :         bs = y39;
    5489    90273738 :         y38 = ( ( as * FFT_RotVector_32[2 * 9 + 0] ) - ( bs * FFT_RotVector_32[2 * 9 + 1] ) );
    5490    90273738 :         y39 = ( ( as * FFT_RotVector_32[2 * 9 + 1] ) + ( bs * FFT_RotVector_32[2 * 9 + 0] ) );
    5491             :     };
    5492             :     {
    5493    90273738 :         as = y42;
    5494    90273738 :         bs = y43;
    5495    90273738 :         y42 = ( ( as * FFT_RotVector_32[2 * 10 + 0] ) - ( bs * FFT_RotVector_32[2 * 10 + 1] ) );
    5496    90273738 :         y43 = ( ( as * FFT_RotVector_32[2 * 10 + 1] ) + ( bs * FFT_RotVector_32[2 * 10 + 0] ) );
    5497             :     };
    5498             :     {
    5499    90273738 :         as = y44;
    5500    90273738 :         bs = y45;
    5501    90273738 :         y44 = ( ( as * FFT_RotVector_32[2 * 11 + 0] ) - ( bs * FFT_RotVector_32[2 * 11 + 1] ) );
    5502    90273738 :         y45 = ( ( as * FFT_RotVector_32[2 * 11 + 1] ) + ( bs * FFT_RotVector_32[2 * 11 + 0] ) );
    5503             :     };
    5504             :     {
    5505    90273738 :         as = y46;
    5506    90273738 :         bs = y47;
    5507    90273738 :         y46 = ( ( as * FFT_RotVector_32[2 * 12 + 0] ) - ( bs * FFT_RotVector_32[2 * 12 + 1] ) );
    5508    90273738 :         y47 = ( ( as * FFT_RotVector_32[2 * 12 + 1] ) + ( bs * FFT_RotVector_32[2 * 12 + 0] ) );
    5509             :     };
    5510             :     {
    5511    90273738 :         as = y50;
    5512    90273738 :         bs = y51;
    5513    90273738 :         y50 = ( ( as * FFT_RotVector_32[2 * 13 + 0] ) - ( bs * FFT_RotVector_32[2 * 13 + 1] ) );
    5514    90273738 :         y51 = ( ( as * FFT_RotVector_32[2 * 13 + 1] ) + ( bs * FFT_RotVector_32[2 * 13 + 0] ) );
    5515             :     };
    5516             :     {
    5517    90273738 :         as = y52;
    5518    90273738 :         bs = y53;
    5519    90273738 :         y52 = ( ( as * FFT_RotVector_32[2 * 14 + 0] ) - ( bs * FFT_RotVector_32[2 * 14 + 1] ) );
    5520    90273738 :         y53 = ( ( as * FFT_RotVector_32[2 * 14 + 1] ) + ( bs * FFT_RotVector_32[2 * 14 + 0] ) );
    5521             :     };
    5522             :     {
    5523    90273738 :         as = y54;
    5524    90273738 :         bs = y55;
    5525    90273738 :         y54 = ( ( as * FFT_RotVector_32[2 * 15 + 0] ) - ( bs * FFT_RotVector_32[2 * 15 + 1] ) );
    5526    90273738 :         y55 = ( ( as * FFT_RotVector_32[2 * 15 + 1] ) + ( bs * FFT_RotVector_32[2 * 15 + 0] ) );
    5527             :     };
    5528             :     {
    5529    90273738 :         as = y56;
    5530    90273738 :         bs = y57;
    5531    90273738 :         y56 = ( ( as * FFT_RotVector_32[2 * 16 + 0] ) - ( bs * FFT_RotVector_32[2 * 16 + 1] ) );
    5532    90273738 :         y57 = ( ( as * FFT_RotVector_32[2 * 16 + 1] ) + ( bs * FFT_RotVector_32[2 * 16 + 0] ) );
    5533             :     };
    5534             :     {
    5535    90273738 :         as = y58;
    5536    90273738 :         bs = y59;
    5537    90273738 :         y58 = ( ( as * FFT_RotVector_32[2 * 17 + 0] ) - ( bs * FFT_RotVector_32[2 * 17 + 1] ) );
    5538    90273738 :         y59 = ( ( as * FFT_RotVector_32[2 * 17 + 1] ) + ( bs * FFT_RotVector_32[2 * 17 + 0] ) );
    5539             :     };
    5540             :     {
    5541    90273738 :         as = y60;
    5542    90273738 :         bs = y61;
    5543    90273738 :         y60 = ( ( as * FFT_RotVector_32[2 * 18 + 0] ) - ( bs * FFT_RotVector_32[2 * 18 + 1] ) );
    5544    90273738 :         y61 = ( ( as * FFT_RotVector_32[2 * 18 + 1] ) + ( bs * FFT_RotVector_32[2 * 18 + 0] ) );
    5545             :     };
    5546             :     {
    5547    90273738 :         as = y62;
    5548    90273738 :         bs = y63;
    5549    90273738 :         y62 = ( ( as * FFT_RotVector_32[2 * 19 + 0] ) - ( bs * FFT_RotVector_32[2 * 19 + 1] ) );
    5550    90273738 :         y63 = ( ( as * FFT_RotVector_32[2 * 19 + 1] ) + ( bs * FFT_RotVector_32[2 * 19 + 0] ) );
    5551             :     };
    5552             : 
    5553    90273738 :     t00 = ( y00 + y32 );
    5554    90273738 :     t02 = ( y00 - y32 );
    5555    90273738 :     t01 = ( y01 + y33 );
    5556    90273738 :     t03 = ( y01 - y33 );
    5557    90273738 :     t04 = ( y16 + y48 );
    5558    90273738 :     t07 = ( y16 - y48 );
    5559    90273738 :     t05 = ( y49 + y17 );
    5560    90273738 :     t06 = ( y49 - y17 );
    5561             : 
    5562    90273738 :     re[s * 0] = ( t00 + t04 );
    5563    90273738 :     im[s * 0] = ( t01 + t05 );
    5564    90273738 :     re[s * 8] = ( t02 - t06 );
    5565    90273738 :     im[s * 8] = ( t03 - t07 );
    5566    90273738 :     re[s * 16] = ( t00 - t04 );
    5567    90273738 :     im[s * 16] = ( t01 - t05 );
    5568    90273738 :     re[s * 24] = ( t02 + t06 );
    5569    90273738 :     im[s * 24] = ( t03 + t07 );
    5570             : 
    5571    90273738 :     t00 = ( y02 + y34 );
    5572    90273738 :     t02 = ( y02 - y34 );
    5573    90273738 :     t01 = ( y03 + y35 );
    5574    90273738 :     t03 = ( y03 - y35 );
    5575    90273738 :     t04 = ( y18 + y50 );
    5576    90273738 :     t07 = ( y18 - y50 );
    5577    90273738 :     t05 = ( y51 + y19 );
    5578    90273738 :     t06 = ( y51 - y19 );
    5579             : 
    5580    90273738 :     re[s * 1] = ( t00 + t04 );
    5581    90273738 :     im[s * 1] = ( t01 + t05 );
    5582    90273738 :     re[s * 9] = ( t02 - t06 );
    5583    90273738 :     im[s * 9] = ( t03 - t07 );
    5584    90273738 :     re[s * 17] = ( t00 - t04 );
    5585    90273738 :     im[s * 17] = ( t01 - t05 );
    5586    90273738 :     re[s * 25] = ( t02 + t06 );
    5587    90273738 :     im[s * 25] = ( t03 + t07 );
    5588             : 
    5589    90273738 :     t00 = ( y04 + y36 );
    5590    90273738 :     t02 = ( y04 - y36 );
    5591    90273738 :     t01 = ( y05 + y37 );
    5592    90273738 :     t03 = ( y05 - y37 );
    5593    90273738 :     t04 = ( y20 + y52 );
    5594    90273738 :     t07 = ( y20 - y52 );
    5595    90273738 :     t05 = ( y53 + y21 );
    5596    90273738 :     t06 = ( y53 - y21 );
    5597             : 
    5598    90273738 :     re[s * 2] = ( t00 + t04 );
    5599    90273738 :     im[s * 2] = ( t01 + t05 );
    5600    90273738 :     re[s * 10] = ( t02 - t06 );
    5601    90273738 :     im[s * 10] = ( t03 - t07 );
    5602    90273738 :     re[s * 18] = ( t00 - t04 );
    5603    90273738 :     im[s * 18] = ( t01 - t05 );
    5604    90273738 :     re[s * 26] = ( t02 + t06 );
    5605    90273738 :     im[s * 26] = ( t03 + t07 );
    5606             : 
    5607    90273738 :     t00 = ( y06 + y38 );
    5608    90273738 :     t02 = ( y06 - y38 );
    5609    90273738 :     t01 = ( y07 + y39 );
    5610    90273738 :     t03 = ( y07 - y39 );
    5611    90273738 :     t04 = ( y22 + y54 );
    5612    90273738 :     t07 = ( y22 - y54 );
    5613    90273738 :     t05 = ( y55 + y23 );
    5614    90273738 :     t06 = ( y55 - y23 );
    5615             : 
    5616    90273738 :     re[s * 3] = ( t00 + t04 );
    5617    90273738 :     im[s * 3] = ( t01 + t05 );
    5618    90273738 :     re[s * 11] = ( t02 - t06 );
    5619    90273738 :     im[s * 11] = ( t03 - t07 );
    5620    90273738 :     re[s * 19] = ( t00 - t04 );
    5621    90273738 :     im[s * 19] = ( t01 - t05 );
    5622    90273738 :     re[s * 27] = ( t02 + t06 );
    5623    90273738 :     im[s * 27] = ( t03 + t07 );
    5624             : 
    5625    90273738 :     t00 = ( y08 + y41 );
    5626    90273738 :     t02 = ( y08 - y41 );
    5627    90273738 :     t01 = ( y09 - y40 );
    5628    90273738 :     t03 = ( y09 + y40 );
    5629    90273738 :     t04 = ( y24 + y56 );
    5630    90273738 :     t07 = ( y24 - y56 );
    5631    90273738 :     t05 = ( y57 + y25 );
    5632    90273738 :     t06 = ( y57 - y25 );
    5633             : 
    5634    90273738 :     re[s * 4] = ( t00 + t04 );
    5635    90273738 :     im[s * 4] = ( t01 + t05 );
    5636    90273738 :     re[s * 12] = ( t02 - t06 );
    5637    90273738 :     im[s * 12] = ( t03 - t07 );
    5638    90273738 :     re[s * 20] = ( t00 - t04 );
    5639    90273738 :     im[s * 20] = ( t01 - t05 );
    5640    90273738 :     re[s * 28] = ( t02 + t06 );
    5641    90273738 :     im[s * 28] = ( t03 + t07 );
    5642             : 
    5643    90273738 :     t00 = ( y10 + y42 );
    5644    90273738 :     t02 = ( y10 - y42 );
    5645    90273738 :     t01 = ( y11 + y43 );
    5646    90273738 :     t03 = ( y11 - y43 );
    5647    90273738 :     t04 = ( y26 + y58 );
    5648    90273738 :     t07 = ( y26 - y58 );
    5649    90273738 :     t05 = ( y59 + y27 );
    5650    90273738 :     t06 = ( y59 - y27 );
    5651             : 
    5652    90273738 :     re[s * 5] = ( t00 + t04 );
    5653    90273738 :     im[s * 5] = ( t01 + t05 );
    5654    90273738 :     re[s * 13] = ( t02 - t06 );
    5655    90273738 :     im[s * 13] = ( t03 - t07 );
    5656    90273738 :     re[s * 21] = ( t00 - t04 );
    5657    90273738 :     im[s * 21] = ( t01 - t05 );
    5658    90273738 :     re[s * 29] = ( t02 + t06 );
    5659    90273738 :     im[s * 29] = ( t03 + t07 );
    5660             : 
    5661    90273738 :     t00 = ( y12 + y44 );
    5662    90273738 :     t02 = ( y12 - y44 );
    5663    90273738 :     t01 = ( y13 + y45 );
    5664    90273738 :     t03 = ( y13 - y45 );
    5665    90273738 :     t04 = ( y28 + y60 );
    5666    90273738 :     t07 = ( y28 - y60 );
    5667    90273738 :     t05 = ( y61 + y29 );
    5668    90273738 :     t06 = ( y61 - y29 );
    5669             : 
    5670    90273738 :     re[s * 6] = ( t00 + t04 );
    5671    90273738 :     im[s * 6] = ( t01 + t05 );
    5672    90273738 :     re[s * 14] = ( t02 - t06 );
    5673    90273738 :     im[s * 14] = ( t03 - t07 );
    5674    90273738 :     re[s * 22] = ( t00 - t04 );
    5675    90273738 :     im[s * 22] = ( t01 - t05 );
    5676    90273738 :     re[s * 30] = ( t02 + t06 );
    5677    90273738 :     im[s * 30] = ( t03 + t07 );
    5678             : 
    5679    90273738 :     t00 = ( y14 + y46 );
    5680    90273738 :     t02 = ( y14 - y46 );
    5681    90273738 :     t01 = ( y15 + y47 );
    5682    90273738 :     t03 = ( y15 - y47 );
    5683    90273738 :     t04 = ( y30 + y62 );
    5684    90273738 :     t07 = ( y30 - y62 );
    5685    90273738 :     t05 = ( y63 + y31 );
    5686    90273738 :     t06 = ( y63 - y31 );
    5687             : 
    5688    90273738 :     re[s * 7] = ( t00 + t04 );
    5689    90273738 :     im[s * 7] = ( t01 + t05 );
    5690    90273738 :     re[s * 15] = ( t02 - t06 );
    5691    90273738 :     im[s * 15] = ( t03 - t07 );
    5692    90273738 :     re[s * 23] = ( t00 - t04 );
    5693    90273738 :     im[s * 23] = ( t01 - t05 );
    5694    90273738 :     re[s * 31] = ( t02 + t06 );
    5695    90273738 :     im[s * 31] = ( t03 + t07 );
    5696             : 
    5697    90273738 :     return;
    5698             : }
    5699             : 
    5700   138423603 : static void fft_lenN(
    5701             :     float *re,
    5702             :     float *im,
    5703             :     const float *W,
    5704             :     const int16_t len,
    5705             :     const int16_t dim1,
    5706             :     const int16_t dim2,
    5707             :     const int16_t sx,
    5708             :     const int16_t sc,
    5709             :     const int16_t Woff )
    5710             : {
    5711             :     int16_t i, j;
    5712             :     float x[L_FRAME_MAX * 2];
    5713             : 
    5714  1482537987 :     for ( i = 0; i < dim2; i++ )
    5715             :     {
    5716 31964291544 :         for ( j = 0; j < dim1; j++ )
    5717             :         {
    5718 30620177160 :             x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
    5719 30620177160 :             x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
    5720             :         }
    5721             :     }
    5722             : 
    5723   138423603 :     switch ( dim1 )
    5724             :     {
    5725      519782 :         case 5:
    5726     4678038 :             for ( i = 0; i < dim2; i++ )
    5727             :             {
    5728     4158256 :                 fft_len5( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5729             :             }
    5730      519782 :             break;
    5731             : 
    5732      270885 :         case 8:
    5733     2437965 :             for ( i = 0; i < dim2; i++ )
    5734             :             {
    5735     2167080 :                 fft_len8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5736             :             }
    5737      270885 :             break;
    5738             : 
    5739    25387377 :         case 10:
    5740   228486393 :             for ( i = 0; i < dim2; i++ )
    5741             :             {
    5742   203099016 :                 fft_len10( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5743             :             }
    5744    25387377 :             break;
    5745             : 
    5746     1867174 :         case 15:
    5747    16804566 :             for ( i = 0; i < dim2; i++ )
    5748             :             {
    5749    14937392 :                 fft_len15( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5750             :             }
    5751     1867174 :             break;
    5752             : 
    5753     3175528 :         case 16:
    5754    28579752 :             for ( i = 0; i < dim2; i++ )
    5755             :             {
    5756    25404224 :                 fft_len16( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5757             :             }
    5758     3175528 :             break;
    5759             : 
    5760    48382971 :         case 20:
    5761   545268287 :             for ( i = 0; i < dim2; i++ )
    5762             :             {
    5763   496885316 :                 fft_len20( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5764             :             }
    5765    48382971 :             break;
    5766             : 
    5767    55136680 :         case 30:
    5768   623134132 :             for ( i = 0; i < dim2; i++ )
    5769             :             {
    5770   567997452 :                 fft_len30( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5771             :             }
    5772    55136680 :             break;
    5773             : 
    5774     3683206 :         case 32:
    5775    33148854 :             for ( i = 0; i < dim2; i++ )
    5776             :             {
    5777    29465648 :                 fft_len32( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    5778             :             }
    5779     3683206 :             break;
    5780             :     }
    5781             : 
    5782   138423603 :     switch ( dim2 )
    5783             :     {
    5784             : 
    5785   113392819 :         case 8:
    5786             :         {
    5787             :             float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
    5788             :             float t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
    5789             :             float s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
    5790             : 
    5791   113392819 :             if ( dim1 == 30 || dim1 == 20 || dim1 == 15 || dim1 == 10 || dim1 == 5 )
    5792             :             {
    5793  2383543370 :                 for ( i = 0; i < dim1; i++ )
    5794             :                 {
    5795             :                     {
    5796  2277280170 :                         x00 = x[2 * i + 2 * 0 * dim1];
    5797  2277280170 :                         x01 = x[2 * i + 2 * 0 * dim1 + 1];
    5798             :                     };
    5799  2277280170 :                     if ( i == 0 )
    5800             :                     {
    5801             :                         {
    5802   106263200 :                             x02 = x[2 * i + 2 * 1 * dim1];
    5803   106263200 :                             x03 = x[2 * i + 2 * 1 * dim1 + 1];
    5804             :                         };
    5805             :                         {
    5806   106263200 :                             x04 = x[2 * i + 2 * 2 * dim1];
    5807   106263200 :                             x05 = x[2 * i + 2 * 2 * dim1 + 1];
    5808             :                         };
    5809             :                         {
    5810   106263200 :                             x06 = x[2 * i + 2 * 3 * dim1];
    5811   106263200 :                             x07 = x[2 * i + 2 * 3 * dim1 + 1];
    5812             :                         };
    5813             :                         {
    5814   106263200 :                             x08 = x[2 * i + 2 * 4 * dim1];
    5815   106263200 :                             x09 = x[2 * i + 2 * 4 * dim1 + 1];
    5816             :                         };
    5817             :                         {
    5818   106263200 :                             x10 = x[2 * i + 2 * 5 * dim1];
    5819   106263200 :                             x11 = x[2 * i + 2 * 5 * dim1 + 1];
    5820             :                         };
    5821             :                         {
    5822   106263200 :                             x12 = x[2 * i + 2 * 6 * dim1];
    5823   106263200 :                             x13 = x[2 * i + 2 * 6 * dim1 + 1];
    5824             :                         };
    5825             :                         {
    5826   106263200 :                             x14 = x[2 * i + 2 * 7 * dim1];
    5827   106263200 :                             x15 = x[2 * i + 2 * 7 * dim1 + 1];
    5828             :                         };
    5829             :                     }
    5830             :                     else
    5831             :                     {
    5832             :                         {
    5833  2171016970 :                             x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] );
    5834  2171016970 :                             x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] );
    5835             :                         };
    5836             :                         {
    5837  2171016970 :                             x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] );
    5838  2171016970 :                             x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] );
    5839             :                         };
    5840             :                         {
    5841  2171016970 :                             x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] );
    5842  2171016970 :                             x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] );
    5843             :                         };
    5844             :                         {
    5845  2171016970 :                             x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] );
    5846  2171016970 :                             x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] );
    5847             :                         };
    5848             :                         {
    5849  2171016970 :                             x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] );
    5850  2171016970 :                             x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] );
    5851             :                         };
    5852             :                         {
    5853  2171016970 :                             x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] );
    5854  2171016970 :                             x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] );
    5855             :                         };
    5856             :                         {
    5857  2171016970 :                             x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] );
    5858  2171016970 :                             x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] );
    5859             :                         };
    5860             :                     }
    5861             : 
    5862  2277280170 :                     t00 = ( x00 + x08 );
    5863  2277280170 :                     t02 = ( x00 - x08 );
    5864  2277280170 :                     t01 = ( x01 + x09 );
    5865  2277280170 :                     t03 = ( x01 - x09 );
    5866  2277280170 :                     t04 = ( x02 + x10 );
    5867  2277280170 :                     t06 = ( x02 - x10 );
    5868  2277280170 :                     t05 = ( x03 + x11 );
    5869  2277280170 :                     t07 = ( x03 - x11 );
    5870  2277280170 :                     t08 = ( x04 + x12 );
    5871  2277280170 :                     t10 = ( x04 - x12 );
    5872  2277280170 :                     t09 = ( x05 + x13 );
    5873  2277280170 :                     t11 = ( x05 - x13 );
    5874  2277280170 :                     t12 = ( x06 + x14 );
    5875  2277280170 :                     t14 = ( x06 - x14 );
    5876  2277280170 :                     t13 = ( x07 + x15 );
    5877  2277280170 :                     t15 = ( x07 - x15 );
    5878             : 
    5879  2277280170 :                     s00 = ( t00 + t08 );
    5880  2277280170 :                     s04 = ( t00 - t08 );
    5881  2277280170 :                     s01 = ( t01 + t09 );
    5882  2277280170 :                     s05 = ( t01 - t09 );
    5883  2277280170 :                     s08 = ( t02 - t11 );
    5884  2277280170 :                     s10 = ( t02 + t11 );
    5885  2277280170 :                     s09 = ( t03 + t10 );
    5886  2277280170 :                     s11 = ( t03 - t10 );
    5887  2277280170 :                     s02 = ( t04 + t12 );
    5888  2277280170 :                     s07 = ( t04 - t12 );
    5889  2277280170 :                     s03 = ( t05 + t13 );
    5890  2277280170 :                     s06 = ( t13 - t05 );
    5891             : 
    5892  2277280170 :                     t01 = ( t06 + t14 );
    5893  2277280170 :                     t02 = ( t06 - t14 );
    5894  2277280170 :                     t00 = ( t07 + t15 );
    5895  2277280170 :                     t03 = ( t07 - t15 );
    5896             : 
    5897  2277280170 :                     s12 = ( ( t00 + t02 ) * FFT_C81 );
    5898  2277280170 :                     s14 = ( ( t00 - t02 ) * FFT_C81 );
    5899  2277280170 :                     s13 = ( ( t03 - t01 ) * FFT_C81 );
    5900  2277280170 :                     s15 = ( ( t01 + t03 ) * FFT_C82 );
    5901             : 
    5902  2277280170 :                     re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
    5903  2277280170 :                     im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
    5904  2277280170 :                     re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
    5905  2277280170 :                     im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
    5906  2277280170 :                     re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
    5907  2277280170 :                     im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
    5908  2277280170 :                     re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
    5909  2277280170 :                     im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
    5910  2277280170 :                     re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
    5911  2277280170 :                     im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
    5912  2277280170 :                     re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
    5913  2277280170 :                     im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
    5914  2277280170 :                     re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
    5915  2277280170 :                     im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
    5916  2277280170 :                     re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
    5917  2277280170 :                     im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
    5918             :                 }
    5919             :             }
    5920             :             else
    5921             :             {
    5922   177967739 :                 for ( i = 0; i < dim1; i++ )
    5923             :                 {
    5924             :                     {
    5925   170838120 :                         x00 = x[2 * i + 2 * 0 * dim1];
    5926   170838120 :                         x01 = x[2 * i + 2 * 0 * dim1 + 1];
    5927             :                     };
    5928   170838120 :                     if ( i == 0 )
    5929             :                     {
    5930             :                         {
    5931     7129619 :                             x02 = x[2 * i + 2 * 1 * dim1];
    5932     7129619 :                             x03 = x[2 * i + 2 * 1 * dim1 + 1];
    5933             :                         };
    5934             :                         {
    5935     7129619 :                             x04 = x[2 * i + 2 * 2 * dim1];
    5936     7129619 :                             x05 = x[2 * i + 2 * 2 * dim1 + 1];
    5937             :                         };
    5938             :                         {
    5939     7129619 :                             x06 = x[2 * i + 2 * 3 * dim1];
    5940     7129619 :                             x07 = x[2 * i + 2 * 3 * dim1 + 1];
    5941             :                         };
    5942             :                         {
    5943     7129619 :                             x08 = x[2 * i + 2 * 4 * dim1];
    5944     7129619 :                             x09 = x[2 * i + 2 * 4 * dim1 + 1];
    5945             :                         };
    5946             :                         {
    5947     7129619 :                             x10 = x[2 * i + 2 * 5 * dim1];
    5948     7129619 :                             x11 = x[2 * i + 2 * 5 * dim1 + 1];
    5949             :                         };
    5950             :                         {
    5951     7129619 :                             x12 = x[2 * i + 2 * 6 * dim1];
    5952     7129619 :                             x13 = x[2 * i + 2 * 6 * dim1 + 1];
    5953             :                         };
    5954             :                         {
    5955     7129619 :                             x14 = x[2 * i + 2 * 7 * dim1];
    5956     7129619 :                             x15 = x[2 * i + 2 * 7 * dim1 + 1];
    5957             :                         };
    5958             :                     }
    5959             :                     else
    5960             :                     {
    5961             :                         {
    5962   163708501 :                             x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] );
    5963   163708501 :                             x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 - Woff] );
    5964             :                         };
    5965             :                         {
    5966   163708501 :                             x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] );
    5967   163708501 :                             x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 - Woff] );
    5968             :                         };
    5969             :                         {
    5970   163708501 :                             x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] );
    5971   163708501 :                             x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 - Woff] );
    5972             :                         };
    5973             :                         {
    5974   163708501 :                             x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] );
    5975   163708501 :                             x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 - Woff] );
    5976             :                         };
    5977             :                         {
    5978   163708501 :                             x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] );
    5979   163708501 :                             x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 - Woff] );
    5980             :                         };
    5981             :                         {
    5982   163708501 :                             x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] );
    5983   163708501 :                             x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 - Woff] );
    5984             :                         };
    5985             :                         {
    5986   163708501 :                             x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] );
    5987   163708501 :                             x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 - Woff] );
    5988             :                         };
    5989             :                     }
    5990             : 
    5991   170838120 :                     t00 = ( x00 + x08 );
    5992   170838120 :                     t02 = ( x00 - x08 );
    5993   170838120 :                     t01 = ( x01 + x09 );
    5994   170838120 :                     t03 = ( x01 - x09 );
    5995   170838120 :                     t04 = ( x02 + x10 );
    5996   170838120 :                     t06 = ( x02 - x10 );
    5997   170838120 :                     t05 = ( x03 + x11 );
    5998   170838120 :                     t07 = ( x03 - x11 );
    5999   170838120 :                     t08 = ( x04 + x12 );
    6000   170838120 :                     t10 = ( x04 - x12 );
    6001   170838120 :                     t09 = ( x05 + x13 );
    6002   170838120 :                     t11 = ( x05 - x13 );
    6003   170838120 :                     t12 = ( x06 + x14 );
    6004   170838120 :                     t14 = ( x06 - x14 );
    6005   170838120 :                     t13 = ( x07 + x15 );
    6006   170838120 :                     t15 = ( x07 - x15 );
    6007             : 
    6008   170838120 :                     s00 = ( t00 + t08 );
    6009   170838120 :                     s04 = ( t00 - t08 );
    6010   170838120 :                     s01 = ( t01 + t09 );
    6011   170838120 :                     s05 = ( t01 - t09 );
    6012   170838120 :                     s08 = ( t02 - t11 );
    6013   170838120 :                     s10 = ( t02 + t11 );
    6014   170838120 :                     s09 = ( t03 + t10 );
    6015   170838120 :                     s11 = ( t03 - t10 );
    6016   170838120 :                     s02 = ( t04 + t12 );
    6017   170838120 :                     s07 = ( t04 - t12 );
    6018   170838120 :                     s03 = ( t05 + t13 );
    6019   170838120 :                     s06 = ( t13 - t05 );
    6020             : 
    6021   170838120 :                     t01 = ( t06 + t14 );
    6022   170838120 :                     t02 = ( t06 - t14 );
    6023   170838120 :                     t00 = ( t07 + t15 );
    6024   170838120 :                     t03 = ( t07 - t15 );
    6025             : 
    6026   170838120 :                     s12 = ( ( t00 + t02 ) * FFT_C81 );
    6027   170838120 :                     s14 = ( ( t00 - t02 ) * FFT_C81 );
    6028   170838120 :                     s13 = ( ( t03 - t01 ) * FFT_C81 );
    6029   170838120 :                     s15 = ( ( t01 + t03 ) * FFT_C82 );
    6030             : 
    6031   170838120 :                     re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
    6032   170838120 :                     im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
    6033   170838120 :                     re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
    6034   170838120 :                     im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
    6035   170838120 :                     re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
    6036   170838120 :                     im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
    6037   170838120 :                     re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
    6038   170838120 :                     im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
    6039   170838120 :                     re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
    6040   170838120 :                     im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
    6041   170838120 :                     re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
    6042   170838120 :                     im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
    6043   170838120 :                     re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
    6044   170838120 :                     im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
    6045   170838120 :                     re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
    6046   170838120 :                     im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
    6047             :                 }
    6048             :             }
    6049   113392819 :             break;
    6050             :         }
    6051             : 
    6052      127520 :         case 10:
    6053             :         {
    6054             :             float y[2 * 10];
    6055     1402720 :             for ( j = 0; j < dim2; j++ )
    6056             :             {
    6057             :                 {
    6058     1275200 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6059     1275200 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6060             :                 };
    6061             :             }
    6062      127520 :             fft_len10( &y[0], &y[1], 2 );
    6063     1402720 :             for ( j = 0; j < dim2; j++ )
    6064             :             {
    6065     1275200 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6066     1275200 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6067             :             }
    6068             : 
    6069     2550400 :             for ( i = 1; i < dim1; i++ )
    6070             :             {
    6071             :                 {
    6072     2422880 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6073     2422880 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6074             :                 }
    6075             : 
    6076    24228800 :                 for ( j = 1; j < dim2; j++ )
    6077             :                 {
    6078             :                     {
    6079    21805920 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
    6080    21805920 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
    6081             :                     }
    6082             :                 }
    6083     2422880 :                 fft_len10( &y[0], &y[1], 2 );
    6084    26651680 :                 for ( j = 0; j < dim2; j++ )
    6085             :                 {
    6086    24228800 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6087    24228800 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6088             :                 }
    6089             :             }
    6090      127520 :             break;
    6091             :         }
    6092             : 
    6093    22475749 :         case 16:
    6094             :         {
    6095             :             float y[2 * 16];
    6096   382087733 :             for ( j = 0; j < dim2; j++ )
    6097             :             {
    6098             :                 {
    6099   359611984 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6100   359611984 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6101             :                 };
    6102             :             }
    6103    22475749 :             fft_len16( &y[0], &y[1], 2 );
    6104   382087733 :             for ( j = 0; j < dim2; j++ )
    6105             :             {
    6106   359611984 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6107   359611984 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6108             :             }
    6109             : 
    6110   562040260 :             for ( i = 1; i < dim1; i++ )
    6111             :             {
    6112             :                 {
    6113   539564511 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6114   539564511 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6115             :                 }
    6116             : 
    6117  8633032176 :                 for ( j = 1; j < dim2; j++ )
    6118             :                 {
    6119             :                     {
    6120  8093467665 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
    6121  8093467665 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
    6122             :                     }
    6123             :                 }
    6124   539564511 :                 fft_len16( &y[0], &y[1], 2 );
    6125  9172596687 :                 for ( j = 0; j < dim2; j++ )
    6126             :                 {
    6127  8633032176 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6128  8633032176 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6129             :                 }
    6130             :             }
    6131    22475749 :             break;
    6132             :         }
    6133             : 
    6134      132986 :         case 20:
    6135             :         {
    6136             :             float y[2 * 20];
    6137     2792706 :             for ( j = 0; j < dim2; j++ )
    6138             :             {
    6139             :                 {
    6140     2659720 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6141     2659720 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6142             :                 };
    6143             :             }
    6144      132986 :             fft_len20( &y[0], &y[1], 2 );
    6145     2792706 :             for ( j = 0; j < dim2; j++ )
    6146             :             {
    6147     2659720 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6148     2659720 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6149             :             }
    6150             : 
    6151     3561190 :             for ( i = 1; i < dim1; i++ )
    6152             :             {
    6153             :                 {
    6154     3428204 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6155     3428204 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6156             :                 }
    6157             :                 {
    6158     3428204 :                     y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
    6159     3428204 :                     y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
    6160             :                 }
    6161             : 
    6162    34282040 :                 for ( j = 2; j < dim2; j = j + 2 )
    6163             :                 {
    6164             :                     {
    6165    30853836 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
    6166    30853836 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
    6167             :                     }
    6168             :                     {
    6169    30853836 :                         y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
    6170    30853836 :                         y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
    6171             :                     }
    6172             :                 }
    6173     3428204 :                 fft_len20( &y[0], &y[1], 2 );
    6174    71992284 :                 for ( j = 0; j < dim2; j++ )
    6175             :                 {
    6176    68564080 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6177    68564080 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6178             :                 }
    6179             :             }
    6180      132986 :             break;
    6181             :         }
    6182             : 
    6183     2294529 :         case 32:
    6184             :         {
    6185             :             float y[2 * 32];
    6186    75719457 :             for ( j = 0; j < dim2; j++ )
    6187             :             {
    6188             :                 {
    6189    73424928 :                     y[2 * j] = x[2 * 0 + 2 * j * dim1];
    6190    73424928 :                     y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
    6191             :                 };
    6192             :             }
    6193     2294529 :             fft_len32( &y[0], &y[1], 2 );
    6194    75719457 :             for ( j = 0; j < dim2; j++ )
    6195             :             {
    6196    73424928 :                 re[sx * 0 + sx * j * dim1] = y[2 * j];
    6197    73424928 :                 im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
    6198             :             }
    6199             : 
    6200    60808090 :             for ( i = 1; i < dim1; i++ )
    6201             :             {
    6202             :                 {
    6203    58513561 :                     y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
    6204    58513561 :                     y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
    6205             :                 }
    6206             :                 {
    6207    58513561 :                     y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
    6208    58513561 :                     y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
    6209             :                 }
    6210             : 
    6211   936216976 :                 for ( j = 2; j < dim2; j = j + 2 )
    6212             :                 {
    6213             :                     {
    6214   877703415 :                         y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
    6215   877703415 :                         y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
    6216             :                     }
    6217             :                     {
    6218   877703415 :                         y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
    6219   877703415 :                         y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
    6220             :                     }
    6221             :                 }
    6222    58513561 :                 fft_len32( &y[0], &y[1], 2 );
    6223  1930947513 :                 for ( j = 0; j < dim2; j++ )
    6224             :                 {
    6225  1872433952 :                     re[sx * i + sx * j * dim1] = y[2 * j];
    6226  1872433952 :                     im[sx * i + sx * j * dim1] = y[2 * j + 1];
    6227             :                 }
    6228             :             }
    6229     2294529 :             break;
    6230             :         }
    6231             :     }
    6232             : 
    6233   138423603 :     return;
    6234             : }
    6235             : 
    6236             : 
    6237             : /*-----------------------------------------------------------------*
    6238             :  * fft()
    6239             :  *
    6240             :  * Complex-value FFT
    6241             :  *-----------------------------------------------------------------*/
    6242             : 
    6243   138423603 : void fft(
    6244             :     float *re,            /* i/o: real part           */
    6245             :     float *im,            /* i/o: imag part           */
    6246             :     const int16_t length, /* i  : length of fft       */
    6247             :     const int16_t s       /* i  : sign                */
    6248             : )
    6249             : {
    6250   138423603 :     switch ( length )
    6251             :     {
    6252           0 :         case 20:
    6253           0 :             fft_len20( re, im, s );
    6254           0 :             break;
    6255      519782 :         case 40:
    6256      519782 :             fft_lenN( re, im, FFT_RotVector_640, 640, 5, 8, s, 8, 40 );
    6257      519782 :             break;
    6258      270885 :         case 64:
    6259      270885 :             fft_lenN( re, im, FFT_RotVector_256, 256, 8, 8, s, 8, 64 );
    6260      270885 :             break;
    6261    25387377 :         case 80:
    6262    25387377 :             fft_lenN( re, im, FFT_RotVector_640, 640, 10, 8, s, 4, 40 );
    6263    25387377 :             break;
    6264           0 :         case 100:
    6265           0 :             fft_lenN( re, im, FFT_RotVector_400, 400, 10, 10, s, 4, 40 );
    6266           0 :             break;
    6267     1867174 :         case 120:
    6268     1867174 :             fft_lenN( re, im, FFT_RotVector_960, 960, 15, 8, s, 4, 60 );
    6269     1867174 :             break;
    6270     3175528 :         case 128:
    6271     3175528 :             fft_lenN( re, im, FFT_RotVector_256, 256, 16, 8, s, 4, 64 );
    6272     3175528 :             break;
    6273    36186613 :         case 160:
    6274    36186613 :             fft_lenN( re, im, FFT_RotVector_640, 640, 20, 8, s, 2, 40 );
    6275    36186613 :             break;
    6276      127520 :         case 200:
    6277      127520 :             fft_lenN( re, im, FFT_RotVector_400, 400, 20, 10, s, 2, 40 );
    6278      127520 :             break;
    6279    42302254 :         case 240:
    6280    42302254 :             fft_lenN( re, im, FFT_RotVector_960, 960, 30, 8, s, 2, 60 );
    6281    42302254 :             break;
    6282     3683206 :         case 256:
    6283     3683206 :             fft_lenN( re, im, FFT_RotVector_256, 256, 32, 8, s, 2, 64 );
    6284     3683206 :             break;
    6285    11223221 :         case 320:
    6286    11223221 :             fft_lenN( re, im, FFT_RotVector_640, 640, 20, 16, s, 2, 40 );
    6287    11223221 :             break;
    6288       42839 :         case 400:
    6289       42839 :             fft_lenN( re, im, FFT_RotVector_400, 400, 20, 20, s, 2, 40 );
    6290       42839 :             break;
    6291    11252528 :         case 480:
    6292    11252528 :             fft_lenN( re, im, FFT_RotVector_960, 960, 30, 16, s, 2, 60 );
    6293    11252528 :             break;
    6294       90147 :         case 600:
    6295       90147 :             fft_lenN( re, im, FFT_RotVector_600, 600, 30, 20, s, 2, 60 );
    6296       90147 :             break;
    6297      802778 :         case 640:
    6298      802778 :             fft_lenN( re, im, FFT_RotVector_640, 640, 20, 32, s, 2, 40 );
    6299      802778 :             break;
    6300     1491751 :         case 960:
    6301     1491751 :             fft_lenN( re, im, FFT_RotVector_960, 960, 30, 32, s, 2, 60 );
    6302     1491751 :             break;
    6303           0 :         default:
    6304           0 :             assert( !"fft length is not supported!" );
    6305             :     }
    6306             : 
    6307   138423603 :     return;
    6308             : }
    6309             : 
    6310             : 
    6311             : /*-----------------------------------------------------------------*
    6312             :  * rfft()
    6313             :  *
    6314             :  * Real-value FFT
    6315             :  *-----------------------------------------------------------------*/
    6316             : 
    6317     4678286 : void rfft(
    6318             :     float *x,             /* i/o: values                    */
    6319             :     const float *w,       /* i  : window                    */
    6320             :     const int16_t length, /* i  : length of fft             */
    6321             :     const int16_t isign   /* i  : sign                      */
    6322             : )
    6323             : {
    6324             :     int16_t i, sizeOfFft2, sizeOfFft4;
    6325             :     float tmp, t1, t2, t3, t4, s1, s2;
    6326             : 
    6327     4678286 :     sizeOfFft2 = length >> 1;
    6328     4678286 :     sizeOfFft4 = length >> 2;
    6329     4678286 :     s1 = 1.f / (float) sizeOfFft2;
    6330     4678286 :     s2 = -1.f / (float) sizeOfFft2;
    6331             : 
    6332     4678286 :     switch ( isign )
    6333             :     {
    6334             : 
    6335     2352636 :         case -1:
    6336             : 
    6337     2352636 :             fft( x, x + 1, sizeOfFft2, 2 );
    6338             : 
    6339     2352636 :             tmp = x[0] + x[1];
    6340     2352636 :             x[1] = x[0] - x[1];
    6341     2352636 :             x[0] = tmp;
    6342             : 
    6343   325001468 :             for ( i = 1; i <= sizeOfFft4; i++ )
    6344             :             {
    6345   322648832 :                 t1 = x[2 * i] - x[length - 2 * i];
    6346   322648832 :                 t2 = x[2 * i + 1] + x[length - 2 * i + 1];
    6347   322648832 :                 t3 = w[i] * t1 - w[i + sizeOfFft4] * t2;
    6348   322648832 :                 t4 = w[i + sizeOfFft4] * t1 + w[i] * t2;
    6349   322648832 :                 t1 = x[2 * i] + x[length - 2 * i];
    6350   322648832 :                 t2 = x[2 * i + 1] - x[length - 2 * i + 1];
    6351             : 
    6352   322648832 :                 x[2 * i] = ( t1 - t3 ) * 0.5f;
    6353   322648832 :                 x[2 * i + 1] = ( t2 - t4 ) * 0.5f;
    6354   322648832 :                 x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
    6355   322648832 :                 x[length - 2 * i + 1] = -( t2 + t4 ) * 0.5f;
    6356             :             }
    6357             : 
    6358     2352636 :             break;
    6359             : 
    6360     2325650 :         case +1:
    6361             : 
    6362     2325650 :             tmp = ( x[0] + x[1] ) * 0.5f;
    6363     2325650 :             x[1] = ( x[1] - x[0] ) * 0.5f;
    6364     2325650 :             x[0] = tmp;
    6365             : 
    6366   421781186 :             for ( i = 1; i <= sizeOfFft4; i++ )
    6367             :             {
    6368   419455536 :                 t1 = x[2 * i] - x[length - 2 * i];
    6369   419455536 :                 t2 = x[2 * i + 1] + x[length - 2 * i + 1];
    6370   419455536 :                 t3 = w[i] * t1 + w[i + sizeOfFft4] * t2;
    6371   419455536 :                 t4 = -w[i + sizeOfFft4] * t1 + w[i] * t2;
    6372   419455536 :                 t1 = x[2 * i] + x[length - 2 * i];
    6373   419455536 :                 t2 = x[2 * i + 1] - x[length - 2 * i + 1];
    6374             : 
    6375   419455536 :                 x[2 * i] = ( t1 - t3 ) * 0.5f;
    6376   419455536 :                 x[2 * i + 1] = ( t4 - t2 ) * 0.5f;
    6377   419455536 :                 x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
    6378   419455536 :                 x[length - 2 * i + 1] = ( t2 + t4 ) * 0.5f;
    6379             :             }
    6380             : 
    6381     2325650 :             fft( x, x + 1, sizeOfFft2, 2 );
    6382             : 
    6383   841236722 :             for ( i = 0; i < length; i += 2 )
    6384             :             {
    6385   838911072 :                 x[i] *= s1;
    6386   838911072 :                 x[i + 1] *= s2;
    6387             :             }
    6388             : 
    6389     2325650 :             break;
    6390             :     }
    6391             : 
    6392     4678286 :     return;
    6393             : }
    6394             : 
    6395             : 
    6396             : #define WMC_TOOL_SKIP
    6397             : 
    6398             : #define SCALEFACTOR8  ( 4 )
    6399             : #define SCALEFACTOR64 ( 7 )
    6400             : #define SCALEFACTORN2 ( 3 )
    6401             : 
    6402             : #define SHC( x )  ( (Word16) x )
    6403             : #define FFTC( x ) WORD322WORD16( (Word32) x )
    6404             : 
    6405             : #define C81_FX ( FFTC( 0x5a82799a ) ) /* FL2WORD32( 7.071067811865475e-1) */
    6406             : #define C82_FX ( FFTC( 0xa57d8666 ) ) /* FL2WORD32(-7.071067811865475e-1) */
    6407             : 
    6408             : #define cplxMpy4_8_0( re, im, a, b, c, d )                          \
    6409             :     re = L_shr( L_sub( Mpy_32_16( a, c ), Mpy_32_16( b, d ) ), 1 ); \
    6410             :     im = L_shr( L_add( Mpy_32_16( a, d ), Mpy_32_16( b, c ) ), 1 );
    6411             : 
    6412             : #define cplxMpy4_8_1( re, im, a, b ) \
    6413             :     re = L_shr( a, 1 );              \
    6414             :     im = L_shr( b, 1 );
    6415             : 
    6416             : 
    6417             : /**
    6418             :  * \brief    Twiddle factors are unscaled
    6419             :  */
    6420             : static const Word16 RotVector_256[2 * ( 256 - 32 )] = {
    6421             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7ff6 ), SHC( 0xfcdc ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7fa7 ), SHC( 0xf695 ),
    6422             :     SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7e1e ), SHC( 0xea1e ),
    6423             :     SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7b5d ), SHC( 0xdddc ),
    6424             :     SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x798a ), SHC( 0xd7d9 ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x776c ), SHC( 0xd1ef ),
    6425             :     SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x7505 ), SHC( 0xcc21 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x7255 ), SHC( 0xc673 ),
    6426             :     SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6f5f ), SHC( 0xc0e9 ), SHC( 0x6dca ), SHC( 0xbe32 ), SHC( 0x6c24 ), SHC( 0xbb85 ),
    6427             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x64e9 ), SHC( 0xb140 ),
    6428             :     SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x60ec ), SHC( 0xac65 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5cb4 ), SHC( 0xa7bd ),
    6429             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7e9d ), SHC( 0xed38 ),
    6430             :     SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x7885 ), SHC( 0xd4e1 ),
    6431             :     SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6dca ), SHC( 0xbe32 ),
    6432             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x5ed7 ), SHC( 0xaa0a ),
    6433             :     SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x55f6 ), SHC( 0xa129 ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x4c40 ), SHC( 0x9930 ),
    6434             :     SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x3c57 ), SHC( 0x8f1d ), SHC( 0x36ba ), SHC( 0x8c4a ),
    6435             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x1f1a ), SHC( 0x83d6 ),
    6436             :     SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x12c8 ), SHC( 0x8163 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0648 ), SHC( 0x8027 ),
    6437             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fa7 ), SHC( 0xf695 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ),
    6438             :     SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x776c ), SHC( 0xd1ef ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
    6439             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x64e9 ), SHC( 0xb140 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5843 ), SHC( 0xa34c ),
    6440             :     SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x49b4 ), SHC( 0x9759 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x398d ), SHC( 0x8dab ),
    6441             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2827 ), SHC( 0x8676 ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x15e2 ), SHC( 0x81e2 ),
    6442             :     SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xf9b8 ), SHC( 0x8027 ), SHC( 0xf055 ), SHC( 0x80f6 ),
    6443             :     SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdddc ), SHC( 0x84a3 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xcc21 ), SHC( 0x8afb ),
    6444             :     SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xbb85 ), SHC( 0x93dc ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xac65 ), SHC( 0x9f14 ),
    6445             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7a7d ), SHC( 0xdad8 ),
    6446             :     SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x62f2 ), SHC( 0xaecc ),
    6447             :     SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x3c57 ), SHC( 0x8f1d ),
    6448             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0c8c ), SHC( 0x809e ),
    6449             :     SHC( 0x0000 ), SHC( 0x8000 ), SHC( 0xf374 ), SHC( 0x809e ), SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdad8 ), SHC( 0x8583 ),
    6450             :     SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb8e3 ), SHC( 0x9592 ), SHC( 0xaecc ), SHC( 0x9d0e ),
    6451             :     SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x9592 ), SHC( 0xb8e3 ), SHC( 0x8f1d ), SHC( 0xc3a9 ),
    6452             :     SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x8583 ), SHC( 0xdad8 ), SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x809e ), SHC( 0xf374 ),
    6453             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x776c ), SHC( 0xd1ef ),
    6454             :     SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x539b ), SHC( 0x9f14 ),
    6455             :     SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x398d ), SHC( 0x8dab ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x1c0c ), SHC( 0x831c ),
    6456             :     SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xfcdc ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xdddc ), SHC( 0x84a3 ),
    6457             :     SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc0e9 ), SHC( 0x90a1 ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xa7bd ), SHC( 0xa34c ),
    6458             :     SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x93dc ), SHC( 0xbb85 ), SHC( 0x8c4a ), SHC( 0xc946 ), SHC( 0x8676 ), SHC( 0xd7d9 ),
    6459             :     SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8059 ), SHC( 0xf695 ), SHC( 0x8027 ), SHC( 0x0648 ), SHC( 0x81e2 ), SHC( 0x15e2 ),
    6460             :     SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8afb ), SHC( 0x33df ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9b17 ), SHC( 0x4ec0 ),
    6461             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x73b6 ), SHC( 0xc946 ),
    6462             :     SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x41ce ), SHC( 0x9236 ),
    6463             :     SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xf9b8 ), SHC( 0x8027 ),
    6464             :     SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb3c0 ), SHC( 0x9930 ),
    6465             :     SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9930 ), SHC( 0xb3c0 ), SHC( 0x8f1d ), SHC( 0xc3a9 ), SHC( 0x877b ), SHC( 0xd4e1 ),
    6466             :     SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x809e ), SHC( 0x0c8c ), SHC( 0x83d6 ), SHC( 0x1f1a ),
    6467             :     SHC( 0x89be ), SHC( 0x30fc ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9d0e ), SHC( 0x5134 ), SHC( 0xaa0a ), SHC( 0x5ed7 ),
    6468             :     SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xc946 ), SHC( 0x73b6 ), SHC( 0xdad8 ), SHC( 0x7a7d ), SHC( 0xed38 ), SHC( 0x7e9d ),
    6469             :     SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e1e ), SHC( 0xea1e ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
    6470             :     SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x539b ), SHC( 0x9f14 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x2e11 ), SHC( 0x8894 ),
    6471             :     SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xd7d9 ), SHC( 0x8676 ),
    6472             :     SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb140 ), SHC( 0x9b17 ), SHC( 0xa129 ), SHC( 0xaa0a ), SHC( 0x93dc ), SHC( 0xbb85 ),
    6473             :     SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x831c ), SHC( 0xe3f4 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x80f6 ), SHC( 0x0fab ),
    6474             :     SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8dab ), SHC( 0x398d ), SHC( 0x9930 ), SHC( 0x4c40 ), SHC( 0xa7bd ), SHC( 0x5cb4 ),
    6475             :     SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xcc21 ), SHC( 0x7505 ), SHC( 0xe0e6 ), SHC( 0x7c2a ), SHC( 0xf695 ), SHC( 0x7fa7 ),
    6476             :     SHC( 0x0c8c ), SHC( 0x7f62 ), SHC( 0x2224 ), SHC( 0x7b5d ), SHC( 0x36ba ), SHC( 0x73b6 ), SHC( 0x49b4 ), SHC( 0x68a7 )
    6477             : };
    6478             : 
    6479             : /*-----------------------------------------------------------------*
    6480             :  * BASOP_fft8()
    6481             :  *
    6482             :  * Function performs a complex 8-point FFT
    6483             :  * The FFT is performed inplace. The result of the FFT
    6484             :  * is scaled by SCALEFACTOR8 bits.
    6485             :  *
    6486             :  * WOPS with 32x16 bit multiplications: 108 cycles
    6487             :  *-----------------------------------------------------------------*/
    6488             : 
    6489     3196368 : static void BASOP_fft8(
    6490             :     Word32 *re,
    6491             :     Word32 *im,
    6492             :     Word16 s )
    6493             : {
    6494             :     Word32 x00, x01, x02, x03, x04, x05, x06, x07;
    6495             :     Word32 x08, x09, x10, x11, x12, x13, x14, x15;
    6496             :     Word32 t00, t01, t02, t03, t04, t05, t06, t07;
    6497             :     Word32 t08, t09, t10, t11, t12, t13, t14, t15;
    6498             :     Word32 s00, s01, s02, s03, s04, s05, s06, s07;
    6499             :     Word32 s08, s09, s10, s11, s12, s13, s14, s15;
    6500             : 
    6501             : 
    6502             :     /* Pre-additions */
    6503             : 
    6504     3196368 :     x00 = L_shr( re[s * 0], SCALEFACTOR8 );
    6505     3196368 :     x01 = L_shr( im[s * 0], SCALEFACTOR8 );
    6506     3196368 :     x02 = L_shr( re[s * 1], SCALEFACTOR8 );
    6507     3196368 :     x03 = L_shr( im[s * 1], SCALEFACTOR8 );
    6508     3196368 :     x04 = L_shr( re[s * 2], SCALEFACTOR8 );
    6509     3196368 :     x05 = L_shr( im[s * 2], SCALEFACTOR8 );
    6510     3196368 :     x06 = L_shr( re[s * 3], SCALEFACTOR8 );
    6511     3196368 :     x07 = L_shr( im[s * 3], SCALEFACTOR8 );
    6512     3196368 :     x08 = L_shr( re[s * 4], SCALEFACTOR8 );
    6513     3196368 :     x09 = L_shr( im[s * 4], SCALEFACTOR8 );
    6514     3196368 :     x10 = L_shr( re[s * 5], SCALEFACTOR8 );
    6515     3196368 :     x11 = L_shr( im[s * 5], SCALEFACTOR8 );
    6516     3196368 :     x12 = L_shr( re[s * 6], SCALEFACTOR8 );
    6517     3196368 :     x13 = L_shr( im[s * 6], SCALEFACTOR8 );
    6518     3196368 :     x14 = L_shr( re[s * 7], SCALEFACTOR8 );
    6519     3196368 :     x15 = L_shr( im[s * 7], SCALEFACTOR8 );
    6520             : 
    6521     3196368 :     t00 = L_add( x00, x08 );
    6522     3196368 :     t02 = L_sub( x00, x08 );
    6523     3196368 :     t01 = L_add( x01, x09 );
    6524     3196368 :     t03 = L_sub( x01, x09 );
    6525     3196368 :     t04 = L_add( x02, x10 );
    6526     3196368 :     t06 = L_sub( x02, x10 );
    6527     3196368 :     t05 = L_add( x03, x11 );
    6528     3196368 :     t07 = L_sub( x03, x11 );
    6529     3196368 :     t08 = L_add( x04, x12 );
    6530     3196368 :     t10 = L_sub( x04, x12 );
    6531     3196368 :     t09 = L_add( x05, x13 );
    6532     3196368 :     t11 = L_sub( x05, x13 );
    6533     3196368 :     t12 = L_add( x06, x14 );
    6534     3196368 :     t14 = L_sub( x06, x14 );
    6535     3196368 :     t13 = L_add( x07, x15 );
    6536     3196368 :     t15 = L_sub( x07, x15 );
    6537             : 
    6538             :     /* Pre-additions and core multiplications */
    6539             : 
    6540     3196368 :     s00 = L_add( t00, t08 );
    6541     3196368 :     s04 = L_sub( t00, t08 );
    6542     3196368 :     s01 = L_add( t01, t09 );
    6543     3196368 :     s05 = L_sub( t01, t09 );
    6544     3196368 :     s08 = L_sub( t02, t11 );
    6545     3196368 :     s10 = L_add( t02, t11 );
    6546     3196368 :     s09 = L_add( t03, t10 );
    6547     3196368 :     s11 = L_sub( t03, t10 );
    6548     3196368 :     s02 = L_add( t04, t12 );
    6549     3196368 :     s07 = L_sub( t04, t12 );
    6550     3196368 :     s03 = L_add( t05, t13 );
    6551     3196368 :     s06 = L_sub( t13, t05 );
    6552             : 
    6553     3196368 :     t01 = L_add( t06, t14 );
    6554     3196368 :     t02 = L_sub( t06, t14 );
    6555     3196368 :     t00 = L_add( t07, t15 );
    6556     3196368 :     t03 = L_sub( t07, t15 );
    6557             : 
    6558     3196368 :     s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
    6559     3196368 :     s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
    6560     3196368 :     s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
    6561     3196368 :     s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
    6562             : 
    6563             :     /* Post-additions */
    6564             : 
    6565     3196368 :     re[s * 0] = L_add( s00, s02 );
    6566     3196368 :     move32();
    6567     3196368 :     re[s * 4] = L_sub( s00, s02 );
    6568     3196368 :     move32();
    6569     3196368 :     im[s * 0] = L_add( s01, s03 );
    6570     3196368 :     move32();
    6571     3196368 :     im[s * 4] = L_sub( s01, s03 );
    6572     3196368 :     move32();
    6573     3196368 :     re[s * 2] = L_sub( s04, s06 );
    6574     3196368 :     move32();
    6575     3196368 :     re[s * 6] = L_add( s04, s06 );
    6576     3196368 :     move32();
    6577     3196368 :     im[s * 2] = L_sub( s05, s07 );
    6578     3196368 :     move32();
    6579     3196368 :     im[s * 6] = L_add( s05, s07 );
    6580     3196368 :     move32();
    6581     3196368 :     re[s * 3] = L_add( s08, s14 );
    6582     3196368 :     move32();
    6583     3196368 :     re[s * 7] = L_sub( s08, s14 );
    6584     3196368 :     move32();
    6585     3196368 :     im[s * 3] = L_add( s09, s15 );
    6586     3196368 :     move32();
    6587     3196368 :     im[s * 7] = L_sub( s09, s15 );
    6588     3196368 :     move32();
    6589     3196368 :     re[s * 1] = L_add( s10, s12 );
    6590     3196368 :     move32();
    6591     3196368 :     re[s * 5] = L_sub( s10, s12 );
    6592     3196368 :     move32();
    6593     3196368 :     im[s * 1] = L_add( s11, s13 );
    6594     3196368 :     move32();
    6595     3196368 :     im[s * 5] = L_sub( s11, s13 );
    6596     3196368 :     move32();
    6597             : 
    6598     3196368 :     return;
    6599             : }
    6600             : 
    6601             : 
    6602             : /*-----------------------------------------------------------------*
    6603             :  * fftN2()
    6604             :  *
    6605             :  * Combined FFT
    6606             :  *-----------------------------------------------------------------*/
    6607             : 
    6608      399546 : static void BASOP_fftN2(
    6609             :     Word32 *re,      /* i/o: real part                                       */
    6610             :     Word32 *im,      /* i/o: imag part                                       */
    6611             :     const Word16 *W, /* i  : rotation factor                                 */
    6612             :     Word16 dim1,     /* i  : length of fft1                                  */
    6613             :     Word16 dim2,     /* i  : length of fft2                                  */
    6614             :     Word16 sx,       /* i  : stride real and imag part                       */
    6615             :     Word16 sc,       /* i  : stride phase rotation coefficients              */
    6616             :     Word32 *x,       /* tmp: 32-bit workbuffer                               */
    6617             :     Word16 Woff      /* i  : offset for addressing the rotation vector table */
    6618             : )
    6619             : {
    6620             :     Word16 i, j;
    6621             :     Word32 x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
    6622             :     Word32 t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
    6623             :     Word32 s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
    6624             : 
    6625     3595914 :     FOR( i = 0; i < dim2; i++ )
    6626             :     {
    6627    28767312 :         FOR( j = 0; j < dim1; j++ )
    6628             :         {
    6629    25570944 :             x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
    6630    25570944 :             move32();
    6631    25570944 :             x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
    6632    25570944 :             move32();
    6633             :         }
    6634             :     }
    6635             : 
    6636             :     /* dim1 == 8 */
    6637     3595914 :     FOR( i = 0; i < dim2; i++ )
    6638             :     {
    6639     3196368 :         BASOP_fft8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
    6640             :     }
    6641             : 
    6642             :     /* dim2 == 8 */
    6643     3595914 :     FOR( i = 0; i < dim1; i++ )
    6644             :     {
    6645     3196368 :         cplxMpy4_8_1( x00, x01, x[2 * i + 2 * 0 * dim1], x[2 * i + 2 * 0 * dim1 + 1] );
    6646             : 
    6647     3196368 :         IF( i == 0 )
    6648             :         {
    6649      399546 :             cplxMpy4_8_1( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1] );
    6650      399546 :             cplxMpy4_8_1( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1] );
    6651      399546 :             cplxMpy4_8_1( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1] );
    6652      399546 :             cplxMpy4_8_1( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1] );
    6653      399546 :             cplxMpy4_8_1( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1] );
    6654      399546 :             cplxMpy4_8_1( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1] );
    6655      399546 :             cplxMpy4_8_1( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1] );
    6656             :         }
    6657             :         ELSE
    6658             :         {
    6659     2796822 :             cplxMpy4_8_0( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1], W[sc * i + sc * 1 * dim1 - Woff], W[sc * i + sc * 1 * dim1 + 1 - Woff] );
    6660     2796822 :             cplxMpy4_8_0( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1], W[sc * i + sc * 2 * dim1 - Woff], W[sc * i + sc * 2 * dim1 + 1 - Woff] );
    6661     2796822 :             cplxMpy4_8_0( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1], W[sc * i + sc * 3 * dim1 - Woff], W[sc * i + sc * 3 * dim1 + 1 - Woff] );
    6662     2796822 :             cplxMpy4_8_0( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1], W[sc * i + sc * 4 * dim1 - Woff], W[sc * i + sc * 4 * dim1 + 1 - Woff] );
    6663     2796822 :             cplxMpy4_8_0( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1], W[sc * i + sc * 5 * dim1 - Woff], W[sc * i + sc * 5 * dim1 + 1 - Woff] );
    6664     2796822 :             cplxMpy4_8_0( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1], W[sc * i + sc * 6 * dim1 - Woff], W[sc * i + sc * 6 * dim1 + 1 - Woff] );
    6665     2796822 :             cplxMpy4_8_0( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1], W[sc * i + sc * 7 * dim1 - Woff], W[sc * i + sc * 7 * dim1 + 1 - Woff] );
    6666             :         }
    6667     3196368 :         t00 = L_shr( L_add( x00, x08 ), SCALEFACTORN2 - 1 );
    6668     3196368 :         t02 = L_shr( L_sub( x00, x08 ), SCALEFACTORN2 - 1 );
    6669     3196368 :         t01 = L_shr( L_add( x01, x09 ), SCALEFACTORN2 - 1 );
    6670     3196368 :         t03 = L_shr( L_sub( x01, x09 ), SCALEFACTORN2 - 1 );
    6671     3196368 :         t04 = L_shr( L_add( x02, x10 ), SCALEFACTORN2 - 1 );
    6672     3196368 :         t06 = L_sub( x02, x10 );
    6673     3196368 :         t05 = L_shr( L_add( x03, x11 ), SCALEFACTORN2 - 1 );
    6674     3196368 :         t07 = L_sub( x03, x11 );
    6675     3196368 :         t08 = L_shr( L_add( x04, x12 ), SCALEFACTORN2 - 1 );
    6676     3196368 :         t10 = L_shr( L_sub( x04, x12 ), SCALEFACTORN2 - 1 );
    6677     3196368 :         t09 = L_shr( L_add( x05, x13 ), SCALEFACTORN2 - 1 );
    6678     3196368 :         t11 = L_shr( L_sub( x05, x13 ), SCALEFACTORN2 - 1 );
    6679     3196368 :         t12 = L_shr( L_add( x06, x14 ), SCALEFACTORN2 - 1 );
    6680     3196368 :         t14 = L_sub( x06, x14 );
    6681     3196368 :         t13 = L_shr( L_add( x07, x15 ), SCALEFACTORN2 - 1 );
    6682     3196368 :         t15 = L_sub( x07, x15 );
    6683             : 
    6684     3196368 :         s00 = L_add( t00, t08 );
    6685     3196368 :         s04 = L_sub( t00, t08 );
    6686     3196368 :         s01 = L_add( t01, t09 );
    6687     3196368 :         s05 = L_sub( t01, t09 );
    6688     3196368 :         s08 = L_sub( t02, t11 );
    6689     3196368 :         s10 = L_add( t02, t11 );
    6690     3196368 :         s09 = L_add( t03, t10 );
    6691     3196368 :         s11 = L_sub( t03, t10 );
    6692     3196368 :         s02 = L_add( t04, t12 );
    6693     3196368 :         s07 = L_sub( t04, t12 );
    6694     3196368 :         s03 = L_add( t05, t13 );
    6695     3196368 :         s06 = L_sub( t13, t05 );
    6696             : 
    6697     3196368 :         t01 = L_shr( L_add( t06, t14 ), SCALEFACTORN2 - 1 );
    6698     3196368 :         t02 = L_shr( L_sub( t06, t14 ), SCALEFACTORN2 - 1 );
    6699     3196368 :         t00 = L_shr( L_add( t07, t15 ), SCALEFACTORN2 - 1 );
    6700     3196368 :         t03 = L_shr( L_sub( t07, t15 ), SCALEFACTORN2 - 1 );
    6701             : 
    6702     3196368 :         s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
    6703     3196368 :         s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
    6704     3196368 :         s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
    6705     3196368 :         s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
    6706             : 
    6707     3196368 :         re[sx * i + sx * 0 * dim1] = L_add( s00, s02 );
    6708     3196368 :         move32();
    6709     3196368 :         im[sx * i + sx * 0 * dim1] = L_add( s01, s03 );
    6710     3196368 :         move32();
    6711     3196368 :         re[sx * i + sx * 1 * dim1] = L_add( s10, s12 );
    6712     3196368 :         move32();
    6713     3196368 :         im[sx * i + sx * 1 * dim1] = L_add( s11, s13 );
    6714     3196368 :         move32();
    6715     3196368 :         re[sx * i + sx * 2 * dim1] = L_sub( s04, s06 );
    6716     3196368 :         move32();
    6717     3196368 :         im[sx * i + sx * 2 * dim1] = L_sub( s05, s07 );
    6718     3196368 :         move32();
    6719     3196368 :         re[sx * i + sx * 3 * dim1] = L_add( s08, s14 );
    6720     3196368 :         move32();
    6721     3196368 :         im[sx * i + sx * 3 * dim1] = L_add( s09, s15 );
    6722     3196368 :         move32();
    6723     3196368 :         re[sx * i + sx * 4 * dim1] = L_sub( s00, s02 );
    6724     3196368 :         move32();
    6725     3196368 :         im[sx * i + sx * 4 * dim1] = L_sub( s01, s03 );
    6726     3196368 :         move32();
    6727     3196368 :         re[sx * i + sx * 5 * dim1] = L_sub( s10, s12 );
    6728     3196368 :         move32();
    6729     3196368 :         im[sx * i + sx * 5 * dim1] = L_sub( s11, s13 );
    6730     3196368 :         move32();
    6731     3196368 :         re[sx * i + sx * 6 * dim1] = L_add( s04, s06 );
    6732     3196368 :         move32();
    6733     3196368 :         im[sx * i + sx * 6 * dim1] = L_add( s05, s07 );
    6734     3196368 :         move32();
    6735     3196368 :         re[sx * i + sx * 7 * dim1] = L_sub( s08, s14 );
    6736     3196368 :         move32();
    6737     3196368 :         im[sx * i + sx * 7 * dim1] = L_sub( s09, s15 );
    6738     3196368 :         move32();
    6739             :     }
    6740             : 
    6741      399546 :     return;
    6742             : }
    6743             : 
    6744             : 
    6745             : /*-----------------------------------------------------------------*
    6746             :  * BASOP_cfft()
    6747             :  *
    6748             :  * Complex valued FFT
    6749             :  *-----------------------------------------------------------------*/
    6750             : 
    6751      399546 : void BASOP_cfft(
    6752             :     Word32 *re,   /* i/o: real part                   */
    6753             :     Word32 *im,   /* i/o: imag part                   */
    6754             :     Word16 s,     /* i  : stride real and imag part   */
    6755             :     Word16 *scale /* i  : scalefactor                 */
    6756             : )
    6757             : {
    6758             :     Word32 x[2 * 64];
    6759             : 
    6760             :     /* FFT for len = FDNS_NPTS */
    6761      399546 :     BASOP_fftN2( re, im, RotVector_256, 8, 8, s, 8, x, 64 );
    6762      399546 :     s = add( *scale, SCALEFACTOR64 );
    6763             : 
    6764      399546 :     *scale = s;
    6765      399546 :     move16();
    6766             : 
    6767      399546 :     return;
    6768             : }
    6769             : 
    6770             : #undef WMC_TOOL_SKIP

Generated by: LCOV version 1.14