Line data Source code
1 : /******************************************************************************************************
2 :
3 : (C) 2022-2025 IVAS codec Public Collaboration with portions copyright Dolby International AB, Ericsson AB,
4 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
5 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
6 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
7 : contributors to this repository. All Rights Reserved.
8 :
9 : This software is protected by copyright law and by international treaties.
10 : The IVAS codec Public Collaboration consisting of Dolby International AB, Ericsson AB,
11 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
12 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
13 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
14 : contributors to this repository retain full ownership rights in their respective contributions in
15 : the software. This notice grants no license of any kind, including but not limited to patent
16 : license, nor is any license granted by implication, estoppel or otherwise.
17 :
18 : Contributors are required to enter into the IVAS codec Public Collaboration agreement before making
19 : contributions.
20 :
21 : This software is provided "AS IS", without any express or implied warranties. The software is in the
22 : development stage. It is intended exclusively for experts who have experience with such software and
23 : solely for the purpose of inspection. All implied warranties of non-infringement, merchantability
24 : and fitness for a particular purpose are hereby disclaimed and excluded.
25 :
26 : Any dispute, controversy or claim arising under or in relation to providing this software shall be
27 : submitted to and settled by the final, binding jurisdiction of the courts of Munich, Germany in
28 : accordance with the laws of the Federal Republic of Germany excluding its conflict of law rules and
29 : the United Nations Convention on Contracts on the International Sales of Goods.
30 :
31 : *******************************************************************************************************/
32 :
33 : /*====================================================================================
34 : EVS Codec 3GPP TS26.443 Nov 04, 2021. Version 12.14.0 / 13.10.0 / 14.6.0 / 15.4.0 / 16.3.0
35 : ====================================================================================*/
36 :
37 : #include <assert.h>
38 : #include <stdint.h>
39 : #include "options.h"
40 : #ifdef DEBUGGING
41 : #include "debug.h"
42 : #endif
43 : #include <math.h>
44 : #include "cnst.h"
45 : #include "prot.h"
46 : #include "rom_com.h"
47 : #include "wmc_auto.h"
48 :
49 : #ifdef _MSC_VER
50 : #pragma warning( disable : 4310 )
51 : #endif
52 :
53 : /*-----------------------------------------------------------------*
54 : * Local constants
55 : *-----------------------------------------------------------------*/
56 :
57 : #define FFT_15PONIT_WNK1 0.55901699f /* EDCT & EMDCT constants */
58 : #define FFT_15PONIT_WNK2 0.95105652f /* EDCT & EMDCT constants */
59 : #define FFT_15PONIT_WNK3 0.58778525f /* EDCT & EMDCT constants */
60 : #define FFT_15PONIT_WNK4 0.86602540f /* EDCT & EMDCT constants */
61 : #define FFT_15PONIT_WNK5 0.25000000f /* EDCT & EMDCT constants */
62 :
63 : /* FFT constants */
64 : #define FFT_C31 -0.8660254037f
65 : #define FFT_C51 0.9510565195f
66 : #define FFT_C52 -1.5388417989f
67 : #define FFT_C53 -0.3632712597f
68 : #define FFT_C54 0.5590169895f
69 : #define FFT_C55 -1.2500000000f
70 : #define FFT_C61 0.8660254036f
71 : #define FFT_C81 0.7071067811f
72 : #define FFT_C82 -0.7071067811f
73 : #define FFT_C161 0.7071067811f
74 : #define FFT_C162 -0.7071067811f
75 : #define FFT_C163 0.9238795325f
76 : #define FFT_C164 -0.9238795325f
77 : #define FFT_C165 0.3826834323f
78 : #define FFT_C166 -0.3826834323f
79 :
80 :
81 : /*-----------------------------------------------------------------*
82 : * Local function prototypes
83 : *-----------------------------------------------------------------*/
84 :
85 : static void cdftForw( int16_t n, float *a, const int16_t *ip, const float *w );
86 : static void bitrv2_SR( int16_t n, const int16_t *ip, float *a );
87 : static void cftfsub( int16_t n, float *a, const float *w );
88 : static void cft1st( int16_t n, float *a, const float *w );
89 : static void cftmdl( int16_t n, int16_t l, float *a, const float *w );
90 : static void fft16( float *x, float *y, const int16_t *Idx );
91 : static void fft5_shift1( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
92 : static void fft8( float *x, float *y, const int16_t *Idx );
93 : static void fft15_shift2( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
94 : static void fft15_shift8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
95 : static void fft5_shift4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
96 : static void fft5_32( float *zRe, float *zIm, const int16_t *Idx );
97 : static void fft64( float *x, float *y, const int16_t *Idx );
98 : static void fft32_15( float *x, float *y, const int16_t *Idx );
99 : static void fft32_5( float *x, float *y, const int16_t *Idx );
100 : static void fft8_5( float *x, float *y, const int16_t *Idx );
101 : static void fft5_8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
102 : static void fft4_5( float *x, float *y, const int16_t *Idx );
103 : static void fft5_4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
104 :
105 12800064 : static float fmac( float a, float b, float c )
106 : {
107 12800064 : return ( ( ( a ) * ( b ) ) + ( c ) );
108 : }
109 :
110 46933568 : static float fnms( float a, float b, float c )
111 : {
112 46933568 : return ( ( c ) - ( ( a ) * ( b ) ) );
113 : }
114 :
115 : /*-----------------------------------------------------------------*
116 : * fft15_shift2()
117 : * 15-point FFT with 2-point circular shift
118 : *-----------------------------------------------------------------*/
119 :
120 18176 : static void fft15_shift2(
121 : int16_t n1, /* i : length of data */
122 : float *zRe, /* i/o: real part of input and output data */
123 : float *zIm, /* i/o: imaginary part of input and output data */
124 : const int16_t *Idx /* i : pointer of the address table */
125 : )
126 : {
127 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
128 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
129 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
130 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
131 : float f2i13, f2i14, f2i15, f2i16, f2i17, f2i18, f2i19, f2i20, f2i21, f2i22, f2i23, f2i24;
132 : float f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9, f3i10, f3i11, f3i12, f3i13, f3i14, f3i15;
133 : float f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
134 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, f4i16, f4i17, f4i18, f4i19, f4i20, fo1, fo2, fo3, fo4;
135 : float fo5, fo6, fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, fo16, fo17, fo18;
136 : float f2o1, f2o2, f2o3, f2o4, f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13;
137 : float f2o14, f2o15, f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11;
138 : float f3o12, f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6;
139 : float f4o7, f4o8, f4o9, f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f4o16, f4o17, f4o18, f4o19;
140 :
141 18176 : in0 = Idx[0];
142 18176 : in8 = Idx[n1];
143 18176 : in16 = Idx[n1 * 2];
144 18176 : in24 = Idx[n1 * 3];
145 18176 : in32 = Idx[n1 * 4];
146 18176 : in1 = Idx[n1 * 5];
147 18176 : in9 = Idx[n1 * 6];
148 18176 : in17 = Idx[n1 * 7];
149 18176 : in25 = Idx[n1 * 8];
150 18176 : in33 = Idx[n1 * 9];
151 18176 : in2 = Idx[n1 * 10];
152 18176 : in10 = Idx[n1 * 11];
153 18176 : in18 = Idx[n1 * 12];
154 18176 : in26 = Idx[n1 * 13];
155 18176 : in34 = Idx[n1 * 14];
156 :
157 18176 : f2i13 = zRe[in0];
158 18176 : f2i14 = zIm[in0];
159 18176 : f2i21 = zRe[in1];
160 18176 : f2i22 = zRe[in2];
161 18176 : f2i23 = zIm[in1];
162 18176 : f2i24 = zIm[in2];
163 :
164 18176 : f2i15 = f2i21 + f2i22;
165 18176 : f2i16 = FFT_15PONIT_WNK4 * ( f2i22 - f2i21 );
166 18176 : f2i17 = FFT_15PONIT_WNK4 * ( f2i23 - f2i24 );
167 18176 : f2i18 = f2i23 + f2i24;
168 18176 : fi1 = f2i13 + f2i15;
169 18176 : fi2 = f2i14 + f2i18;
170 :
171 18176 : f2i19 = fnms( 0.5f, f2i15, f2i13 );
172 18176 : f2i20 = fnms( 0.5f, f2i18, f2i14 );
173 18176 : fi3 = f2i19 - f2i17;
174 18176 : fi4 = f2i19 + f2i17;
175 18176 : fi5 = f2i16 + f2i20;
176 18176 : fi6 = f2i20 - f2i16;
177 :
178 18176 : f3i1 = zRe[in9];
179 18176 : f4i2 = zRe[in10];
180 18176 : f4i3 = zRe[in8];
181 18176 : f3i2 = f4i2 + f4i3;
182 18176 : f3i3 = fnms( 0.5f, f3i2, f3i1 );
183 18176 : f3i4 = FFT_15PONIT_WNK4 * ( f4i3 - f4i2 );
184 :
185 18176 : f3i5 = zIm[in9];
186 18176 : f4i4 = zIm[in10];
187 18176 : f4i5 = zIm[in8];
188 18176 : f3i6 = f4i4 + f4i5;
189 18176 : f3i7 = FFT_15PONIT_WNK4 * ( f4i4 - f4i5 );
190 18176 : f3i8 = fnms( 0.5f, f3i6, f3i5 );
191 :
192 18176 : f3i9 = zRe[in33];
193 18176 : f4i6 = zRe[in34];
194 18176 : f4i7 = zRe[in32];
195 18176 : f3i10 = f4i6 + f4i7;
196 18176 : f3i11 = fnms( 0.5f, f3i10, f3i9 );
197 18176 : f3i12 = FFT_15PONIT_WNK4 * ( f4i7 - f4i6 );
198 :
199 18176 : f3i13 = zIm[in33];
200 18176 : f4i8 = zIm[in34];
201 18176 : f4i9 = zIm[in32];
202 18176 : f3i14 = f4i8 + f4i9;
203 18176 : f3i15 = FFT_15PONIT_WNK4 * ( f4i8 - f4i9 );
204 18176 : f4i1 = fnms( 0.5f, f3i14, f3i13 );
205 :
206 18176 : fi7 = f3i1 + f3i2;
207 18176 : fi8 = f3i9 + f3i10;
208 18176 : fi9 = fi7 + fi8;
209 18176 : fi10 = f3i3 - f3i7;
210 18176 : fi11 = f3i11 - f3i15;
211 18176 : fi12 = fi10 + fi11;
212 18176 : fi13 = f3i5 + f3i6;
213 18176 : fi14 = f3i13 + f3i14;
214 18176 : fi15 = fi13 + fi14;
215 18176 : fi16 = f3i8 - f3i4;
216 18176 : fi17 = f4i1 - f3i12;
217 18176 : fi18 = fi16 + fi17;
218 18176 : fi19 = f3i4 + f3i8;
219 18176 : fi20 = f3i12 + f4i1;
220 18176 : fi21 = fi19 + fi20;
221 18176 : fi22 = f3i3 + f3i7;
222 18176 : fi23 = f3i11 + f3i15;
223 18176 : fi24 = fi22 + fi23;
224 :
225 18176 : f4i10 = zRe[in24];
226 18176 : fo6 = zRe[in25];
227 18176 : fo7 = zRe[in26];
228 18176 : f4i11 = fo6 + fo7;
229 18176 : f4i12 = fnms( 0.5f, f4i11, f4i10 );
230 18176 : f4i13 = FFT_15PONIT_WNK4 * ( fo7 - fo6 );
231 :
232 18176 : f4i14 = zIm[in24];
233 18176 : fo8 = zIm[in25];
234 18176 : fo9 = zIm[in26];
235 18176 : f4i15 = fo8 + fo9;
236 18176 : f4i16 = FFT_15PONIT_WNK4 * ( fo8 - fo9 );
237 18176 : f4i17 = fnms( 0.5f, f4i15, f4i14 );
238 :
239 18176 : f4i18 = zRe[in18];
240 18176 : f2o10 = zRe[in16];
241 18176 : f2o11 = zRe[in17];
242 18176 : f4i19 = f2o10 + f2o11;
243 18176 : f4i20 = fnms( 0.5f, f4i19, f4i18 );
244 18176 : fo1 = FFT_15PONIT_WNK4 * ( f2o11 - f2o10 );
245 :
246 18176 : fo2 = zIm[in18];
247 18176 : f2o12 = zIm[in16];
248 18176 : f2o13 = zIm[in17];
249 18176 : fo3 = f2o12 + f2o13;
250 18176 : fo4 = FFT_15PONIT_WNK4 * ( f2o12 - f2o13 );
251 18176 : fo5 = fnms( 0.5f, fo3, fo2 );
252 :
253 18176 : fi25 = f4i10 + f4i11;
254 18176 : fi26 = f4i18 + f4i19;
255 18176 : fi27 = fi25 + fi26;
256 18176 : fi28 = f4i12 - f4i16;
257 18176 : fi29 = f4i20 - fo4;
258 18176 : fi30 = fi28 + fi29;
259 18176 : f2i1 = f4i14 + f4i15;
260 18176 : f2i2 = fo2 + fo3;
261 18176 : f2i3 = f2i1 + f2i2;
262 18176 : f2i4 = f4i17 - f4i13;
263 18176 : f2i5 = fo5 - fo1;
264 18176 : f2i6 = f2i4 + f2i5;
265 18176 : f2i7 = f4i13 + f4i17;
266 18176 : f2i8 = fo1 + fo5;
267 18176 : f2i9 = f2i7 + f2i8;
268 18176 : f2i10 = f4i12 + f4i16;
269 18176 : f2i11 = f4i20 + fo4;
270 18176 : f2i12 = f2i10 + f2i11;
271 :
272 18176 : fo10 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
273 18176 : fo11 = fi27 + fi9;
274 18176 : fo12 = fnms( FFT_15PONIT_WNK5, fo11, fi1 );
275 18176 : fo15 = fi13 - fi14;
276 18176 : fo16 = f2i1 - f2i2;
277 18176 : fo13 = fnms( FFT_15PONIT_WNK3, fo16, FFT_15PONIT_WNK2 * fo15 );
278 18176 : fo14 = fmac( FFT_15PONIT_WNK2, fo16, FFT_15PONIT_WNK3 * fo15 );
279 :
280 18176 : zRe[in0] = fi1 + fo11;
281 18176 : fo17 = fo10 + fo12;
282 18176 : zRe[in18] = fo17 - fo14;
283 18176 : zRe[in24] = fo17 + fo14;
284 18176 : fo18 = fo12 - fo10;
285 18176 : zRe[in9] = fo18 - fo13;
286 18176 : zRe[in33] = fo18 + fo13;
287 :
288 18176 : f2o1 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
289 18176 : f2o2 = f2i3 + fi15;
290 18176 : f2o3 = fnms( FFT_15PONIT_WNK5, f2o2, fi2 );
291 18176 : f2o6 = fi7 - fi8;
292 18176 : f2o7 = fi25 - fi26;
293 18176 : f2o4 = fnms( FFT_15PONIT_WNK3, f2o7, FFT_15PONIT_WNK2 * f2o6 );
294 18176 : f2o5 = fmac( FFT_15PONIT_WNK2, f2o7, FFT_15PONIT_WNK3 * f2o6 );
295 18176 : zIm[in0] = fi2 + f2o2;
296 18176 : f2o8 = f2o1 + f2o3;
297 18176 : zIm[in24] = f2o8 - f2o5;
298 18176 : zIm[in18] = f2o5 + f2o8;
299 18176 : f2o9 = f2o3 - f2o1;
300 18176 : zIm[in33] = f2o9 - f2o4;
301 18176 : zIm[in9] = f2o4 + f2o9;
302 :
303 18176 : f2o14 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
304 18176 : f2o15 = fi30 + fi12;
305 18176 : f3o1 = fnms( FFT_15PONIT_WNK5, f2o15, fi3 );
306 18176 : f3o4 = fi16 - fi17;
307 18176 : f3o5 = f2i4 - f2i5;
308 18176 : f3o2 = fnms( FFT_15PONIT_WNK3, f3o5, FFT_15PONIT_WNK2 * f3o4 );
309 18176 : f3o3 = fmac( FFT_15PONIT_WNK2, f3o5, FFT_15PONIT_WNK3 * f3o4 );
310 18176 : zRe[in2] = fi3 + f2o15;
311 18176 : f3o6 = f2o14 + f3o1;
312 18176 : zRe[in17] = f3o6 - f3o3;
313 18176 : zRe[in26] = f3o6 + f3o3;
314 18176 : f3o7 = f3o1 - f2o14;
315 18176 : zRe[in8] = f3o7 - f3o2;
316 18176 : zRe[in32] = f3o7 + f3o2;
317 :
318 18176 : f3o8 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
319 18176 : f3o9 = f2i6 + fi18;
320 18176 : f3o10 = fnms( FFT_15PONIT_WNK5, f3o9, fi6 );
321 18176 : f3o13 = fi10 - fi11;
322 18176 : f3o14 = fi28 - fi29;
323 18176 : f3o11 = fnms( FFT_15PONIT_WNK3, f3o14, FFT_15PONIT_WNK2 * f3o13 );
324 18176 : f3o12 = fmac( FFT_15PONIT_WNK2, f3o14, FFT_15PONIT_WNK3 * f3o13 );
325 18176 : zIm[in2] = fi6 + f3o9;
326 18176 : f3o15 = f3o8 + f3o10;
327 18176 : zIm[in26] = f3o15 - f3o12;
328 18176 : zIm[in17] = f3o12 + f3o15;
329 18176 : f4o1 = f3o10 - f3o8;
330 18176 : zIm[in8] = f3o11 + f4o1;
331 18176 : zIm[in32] = f4o1 - f3o11;
332 :
333 18176 : f4o2 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
334 18176 : f4o3 = f2i9 + fi21;
335 18176 : f4o4 = fnms( FFT_15PONIT_WNK5, f4o3, fi5 );
336 18176 : f4o7 = f2i10 - f2i11;
337 18176 : f4o8 = fi22 - fi23;
338 18176 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o8 );
339 18176 : f4o6 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o8 );
340 18176 : zIm[in1] = fi5 + f4o3;
341 18176 : f4o9 = f4o4 - f4o2;
342 18176 : f4o10 = f4o2 + f4o4;
343 :
344 18176 : zIm[in10] = f4o6 + f4o9;
345 18176 : zIm[in34] = f4o9 - f4o6;
346 18176 : zIm[in25] = f4o10 - f4o5;
347 18176 : zIm[in16] = f4o5 + f4o10;
348 :
349 18176 : f4o11 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
350 18176 : f4o12 = f2i12 + fi24;
351 18176 : f4o13 = fnms( FFT_15PONIT_WNK5, f4o12, fi4 );
352 18176 : f4o16 = f2i7 - f2i8;
353 18176 : f4o17 = fi19 - fi20;
354 18176 : f4o14 = fmac( FFT_15PONIT_WNK2, f4o16, FFT_15PONIT_WNK3 * f4o17 );
355 18176 : f4o15 = fnms( FFT_15PONIT_WNK3, f4o16, FFT_15PONIT_WNK2 * f4o17 );
356 18176 : zRe[in1] = fi4 + f4o12;
357 18176 : f4o18 = f4o13 - f4o11;
358 18176 : f4o19 = f4o11 + f4o13;
359 :
360 18176 : zRe[in10] = f4o18 - f4o15;
361 18176 : zRe[in34] = f4o18 + f4o15;
362 18176 : zRe[in16] = f4o19 - f4o14;
363 18176 : zRe[in25] = f4o19 + f4o14;
364 :
365 18176 : return;
366 : }
367 :
368 : /*-----------------------------------------------------------------*
369 : * fft15_shift8()
370 : * 15-point FFT with 8-point circular shift
371 : *-----------------------------------------------------------------*/
372 :
373 2115168 : static void fft15_shift8(
374 : int16_t n1, /* i : length of data */
375 : float *zRe, /* i/o: real part of input and output data */
376 : float *zIm, /* i/o: imaginary part of input and output data */
377 : const int16_t *Idx /* i : pointer of the address table */
378 : )
379 : {
380 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
381 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
382 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
383 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
384 : float f2i13, f2i14, f2i15, f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9;
385 : float f3i10, f3i11, f3i12, f3i13, f3i14, f3i15, f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
386 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, fo1, fo2, fo3, fo4, fo5, fo6;
387 : float fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, f2o1, f2o2, f2o3, f2o4;
388 : float f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13, f2o14, f2o15;
389 : float f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11, f3o12;
390 : float f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6, f4o7, f4o8, f4o9;
391 : float f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f5o1, f5o2, f5o3, f5o4, f5o5, f5o6, f5o7;
392 : float f5o8, f5o9, f5o10, f5o11, f5o12, f5o13, f5o14, f5o15, f5o16, f5o17, f5o18, f5o19, f5o21, f5o22;
393 :
394 2115168 : in0 = Idx[0];
395 2115168 : in8 = Idx[n1];
396 2115168 : in16 = Idx[n1 * 2];
397 2115168 : in24 = Idx[n1 * 3];
398 2115168 : in32 = Idx[n1 * 4];
399 2115168 : in1 = Idx[n1 * 5];
400 2115168 : in9 = Idx[n1 * 6];
401 2115168 : in17 = Idx[n1 * 7];
402 2115168 : in25 = Idx[n1 * 8];
403 2115168 : in33 = Idx[n1 * 9];
404 2115168 : in2 = Idx[n1 * 10];
405 2115168 : in10 = Idx[n1 * 11];
406 2115168 : in18 = Idx[n1 * 12];
407 2115168 : in26 = Idx[n1 * 13];
408 2115168 : in34 = Idx[n1 * 14];
409 :
410 2115168 : f2i13 = zRe[in0];
411 2115168 : f2i14 = zIm[in0];
412 2115168 : f3i6 = zRe[in1];
413 2115168 : f3i7 = zRe[in2];
414 2115168 : f3i8 = zIm[in1];
415 2115168 : f3i9 = zIm[in2];
416 :
417 2115168 : f2i15 = f3i6 + f3i7;
418 2115168 : f3i1 = FFT_15PONIT_WNK4 * ( f3i7 - f3i6 );
419 2115168 : f3i2 = FFT_15PONIT_WNK4 * ( f3i8 - f3i9 );
420 2115168 : f3i3 = f3i8 + f3i9;
421 :
422 2115168 : fi1 = f2i13 + f2i15;
423 2115168 : fi2 = f2i14 + f3i3;
424 2115168 : f3i4 = fnms( 0.5f, f2i15, f2i13 );
425 2115168 : fi3 = f3i4 - f3i2;
426 2115168 : fi4 = f3i4 + f3i2;
427 2115168 : f3i5 = fnms( 0.5f, f3i3, f2i14 );
428 2115168 : fi5 = f3i1 + f3i5;
429 2115168 : fi6 = f3i5 - f3i1;
430 :
431 2115168 : f3i10 = zRe[in9];
432 2115168 : f4i11 = zRe[in10];
433 2115168 : f4i12 = zRe[in8];
434 2115168 : f3i14 = zIm[in9];
435 2115168 : f4i13 = zIm[in10];
436 2115168 : f4i14 = zIm[in8];
437 2115168 : f4i3 = zRe[in33];
438 2115168 : f4i15 = zRe[in34];
439 2115168 : fo1 = zRe[in32];
440 2115168 : f4i7 = zIm[in33];
441 2115168 : fo2 = zIm[in34];
442 2115168 : fo3 = zIm[in32];
443 :
444 :
445 2115168 : f3i11 = f4i11 + f4i12;
446 2115168 : f3i12 = fnms( 0.5f, f3i11, f3i10 );
447 2115168 : f3i13 = FFT_15PONIT_WNK4 * ( f4i12 - f4i11 );
448 2115168 : f3i15 = f4i13 + f4i14;
449 2115168 : f4i1 = FFT_15PONIT_WNK4 * ( f4i13 - f4i14 );
450 2115168 : f4i2 = fnms( 0.5f, f3i15, f3i14 );
451 2115168 : f4i4 = f4i15 + fo1;
452 2115168 : f4i5 = fnms( 0.5f, f4i4, f4i3 );
453 2115168 : f4i6 = FFT_15PONIT_WNK4 * ( fo1 - f4i15 );
454 2115168 : f4i8 = fo2 + fo3;
455 2115168 : f4i9 = FFT_15PONIT_WNK4 * ( fo2 - fo3 );
456 2115168 : f4i10 = fnms( 0.5f, f4i8, f4i7 );
457 :
458 2115168 : fi7 = f3i10 + f3i11;
459 2115168 : fi8 = f4i3 + f4i4;
460 2115168 : fi9 = fi7 + fi8;
461 2115168 : fi10 = f3i12 - f4i1;
462 2115168 : fi11 = f4i5 - f4i9;
463 2115168 : fi12 = fi10 + fi11;
464 2115168 : fi13 = f3i14 + f3i15;
465 2115168 : fi14 = f4i7 + f4i8;
466 2115168 : fi15 = fi13 + fi14;
467 2115168 : fi16 = f4i2 - f3i13;
468 2115168 : fi17 = f4i10 - f4i6;
469 2115168 : fi18 = fi16 + fi17;
470 2115168 : fi19 = f3i13 + f4i2;
471 2115168 : fi20 = f4i6 + f4i10;
472 2115168 : fi21 = fi19 + fi20;
473 2115168 : fi22 = f3i12 + f4i1;
474 2115168 : fi23 = f4i5 + f4i9;
475 2115168 : fi24 = fi22 + fi23;
476 :
477 2115168 : fo4 = zRe[in24];
478 2115168 : f2o5 = zRe[in25];
479 2115168 : f2o6 = zRe[in26];
480 2115168 : fo8 = zIm[in24];
481 2115168 : f2o7 = zIm[in25];
482 2115168 : f2o8 = zIm[in26];
483 2115168 : fo12 = zRe[in18];
484 2115168 : f2o9 = zRe[in16];
485 2115168 : f2o10 = zRe[in17];
486 2115168 : f2o1 = zIm[in18];
487 2115168 : f2o11 = zIm[in16];
488 2115168 : f2o12 = zIm[in17];
489 :
490 :
491 2115168 : fo5 = f2o5 + f2o6;
492 2115168 : fo6 = fnms( 0.5f, fo5, fo4 );
493 2115168 : fo7 = FFT_15PONIT_WNK4 * ( f2o6 - f2o5 );
494 2115168 : fo9 = f2o7 + f2o8;
495 2115168 : fo10 = FFT_15PONIT_WNK4 * ( f2o7 - f2o8 );
496 2115168 : fo11 = fnms( 0.5f, fo9, fo8 );
497 2115168 : fo13 = f2o9 + f2o10;
498 2115168 : fo14 = fnms( 0.5f, fo13, fo12 );
499 2115168 : fo15 = FFT_15PONIT_WNK4 * ( f2o10 - f2o9 );
500 2115168 : f2o2 = f2o11 + f2o12;
501 2115168 : f2o3 = FFT_15PONIT_WNK4 * ( f2o11 - f2o12 );
502 2115168 : f2o4 = fnms( 0.5f, f2o2, f2o1 );
503 :
504 2115168 : fi25 = fo4 + fo5;
505 2115168 : fi26 = fo12 + fo13;
506 2115168 : fi27 = fi25 + fi26;
507 2115168 : fi28 = fo6 - fo10;
508 2115168 : fi29 = fo14 - f2o3;
509 2115168 : fi30 = fi28 + fi29;
510 2115168 : f2i1 = fo8 + fo9;
511 2115168 : f2i2 = f2o1 + f2o2;
512 2115168 : f2i3 = f2i1 + f2i2;
513 2115168 : f2i4 = fo11 - fo7;
514 2115168 : f2i5 = f2o4 - fo15;
515 2115168 : f2i6 = f2i4 + f2i5;
516 2115168 : f2i7 = fo7 + fo11;
517 2115168 : f2i8 = fo15 + f2o4;
518 2115168 : f2i9 = f2i7 + f2i8;
519 2115168 : f2i10 = fo6 + fo10;
520 2115168 : f2i11 = fo14 + f2o3;
521 2115168 : f2i12 = f2i10 + f2i11;
522 :
523 2115168 : f2o13 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
524 2115168 : f2o14 = fi27 + fi9;
525 2115168 : f2o15 = fnms( FFT_15PONIT_WNK5, f2o14, fi1 );
526 2115168 : f3o3 = fi13 - fi14;
527 2115168 : f3o4 = f2i1 - f2i2;
528 2115168 : f3o1 = fnms( FFT_15PONIT_WNK3, f3o4, FFT_15PONIT_WNK2 * f3o3 );
529 2115168 : f3o2 = fmac( FFT_15PONIT_WNK2, f3o4, FFT_15PONIT_WNK3 * f3o3 );
530 2115168 : zRe[in0] = fi1 + f2o14;
531 2115168 : f3o5 = f2o13 + f2o15;
532 2115168 : zRe[in24] = f3o5 - f3o2;
533 2115168 : zRe[in18] = f3o5 + f3o2;
534 2115168 : f3o6 = f2o15 - f2o13;
535 2115168 : zRe[in33] = f3o6 - f3o1;
536 2115168 : zRe[in9] = f3o6 + f3o1;
537 :
538 2115168 : f3o7 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
539 2115168 : f3o8 = f2i3 + fi15;
540 2115168 : f3o9 = fnms( FFT_15PONIT_WNK5, f3o8, fi2 );
541 2115168 : f3o12 = fi7 - fi8;
542 2115168 : f3o13 = fi25 - fi26;
543 2115168 : f3o10 = fnms( FFT_15PONIT_WNK3, f3o13, FFT_15PONIT_WNK2 * f3o12 );
544 2115168 : f3o11 = fmac( FFT_15PONIT_WNK2, f3o13, FFT_15PONIT_WNK3 * f3o12 );
545 2115168 : zIm[in0] = fi2 + f3o8;
546 2115168 : f3o14 = f3o7 + f3o9;
547 2115168 : zIm[in18] = f3o14 - f3o11;
548 2115168 : zIm[in24] = f3o11 + f3o14;
549 2115168 : f3o15 = f3o9 - f3o7;
550 2115168 : zIm[in9] = f3o15 - f3o10;
551 2115168 : zIm[in33] = f3o10 + f3o15;
552 :
553 2115168 : f4o1 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
554 2115168 : f4o2 = fi30 + fi12;
555 2115168 : f4o3 = fnms( FFT_15PONIT_WNK5, f4o2, fi3 );
556 2115168 : f4o6 = fi16 - fi17;
557 2115168 : f4o7 = f2i4 - f2i5;
558 2115168 : f4o4 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o6 );
559 2115168 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o6 );
560 2115168 : zRe[in2] = fi3 + f4o2;
561 2115168 : f4o8 = f4o1 + f4o3;
562 2115168 : zRe[in26] = f4o8 - f4o5;
563 2115168 : zRe[in17] = f4o8 + f4o5;
564 2115168 : f4o9 = f4o3 - f4o1;
565 2115168 : zRe[in32] = f4o9 - f4o4;
566 2115168 : zRe[in8] = f4o9 + f4o4;
567 :
568 2115168 : f4o10 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
569 2115168 : f4o11 = f2i6 + fi18;
570 2115168 : f4o12 = fnms( FFT_15PONIT_WNK5, f4o11, fi6 );
571 2115168 : f4o15 = fi10 - fi11;
572 2115168 : f5o1 = fi28 - fi29;
573 2115168 : f4o13 = fnms( FFT_15PONIT_WNK3, f5o1, FFT_15PONIT_WNK2 * f4o15 );
574 2115168 : f4o14 = fmac( FFT_15PONIT_WNK2, f5o1, FFT_15PONIT_WNK3 * f4o15 );
575 2115168 : zIm[in2] = fi6 + f4o11;
576 2115168 : f5o2 = f4o10 + f4o12;
577 2115168 : zIm[in17] = f5o2 - f4o14;
578 2115168 : zIm[in26] = f4o14 + f5o2;
579 2115168 : f5o3 = f4o12 - f4o10;
580 2115168 : zIm[in32] = f4o13 + f5o3;
581 2115168 : zIm[in8] = f5o3 - f4o13;
582 :
583 2115168 : f5o4 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
584 2115168 : f5o5 = f2i9 + fi21;
585 2115168 : f5o6 = fnms( FFT_15PONIT_WNK5, f5o5, fi5 );
586 2115168 : f5o9 = f2i10 - f2i11;
587 2115168 : f5o10 = fi22 - fi23;
588 2115168 : f5o7 = fmac( FFT_15PONIT_WNK2, f5o9, FFT_15PONIT_WNK3 * f5o10 );
589 2115168 : f5o8 = fnms( FFT_15PONIT_WNK3, f5o9, FFT_15PONIT_WNK2 * f5o10 );
590 2115168 : zIm[in1] = fi5 + f5o5;
591 2115168 : f5o11 = f5o6 - f5o4;
592 2115168 : f5o12 = f5o4 + f5o6;
593 2115168 : zIm[in34] = f5o8 + f5o11;
594 2115168 : zIm[in10] = f5o11 - f5o8;
595 :
596 2115168 : zIm[in16] = f5o12 - f5o7;
597 2115168 : zIm[in25] = f5o7 + f5o12;
598 :
599 2115168 : f5o13 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
600 2115168 : f5o14 = f2i12 + fi24;
601 2115168 : f5o15 = fnms( FFT_15PONIT_WNK5, f5o14, fi4 );
602 2115168 : f5o18 = f2i7 - f2i8;
603 2115168 : f5o19 = fi19 - fi20;
604 2115168 : f5o16 = fmac( FFT_15PONIT_WNK2, f5o18, FFT_15PONIT_WNK3 * f5o19 );
605 2115168 : f5o17 = fnms( FFT_15PONIT_WNK3, f5o18, FFT_15PONIT_WNK2 * f5o19 );
606 2115168 : zRe[in1] = fi4 + f5o14;
607 2115168 : f5o21 = f5o15 - f5o13;
608 2115168 : f5o22 = f5o13 + f5o15;
609 :
610 2115168 : zRe[in34] = f5o21 - f5o17;
611 2115168 : zRe[in10] = f5o21 + f5o17;
612 2115168 : zRe[in25] = f5o22 - f5o16;
613 2115168 : zRe[in16] = f5o22 + f5o16;
614 :
615 2115168 : return;
616 : }
617 :
618 : /*-----------------------------------------------------------------*
619 : * fft5_shift1()
620 : * 5-point FFT with 1-point circular shift
621 : *-----------------------------------------------------------------*/
622 :
623 1669376 : static void fft5_shift1(
624 : int16_t n1, /* i : length of data */
625 : float *zRe, /* i/o: real part of input and output data */
626 : float *zIm, /* i/o: imaginary part of input and output data */
627 : const int16_t *Idx /* i : pointer of the address table */
628 : )
629 : {
630 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
631 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
632 : int16_t in1, in2, in3, in4, in5;
633 :
634 1669376 : in1 = Idx[0];
635 1669376 : in2 = Idx[n1];
636 1669376 : in3 = Idx[n1 * 2];
637 1669376 : in4 = Idx[n1 * 3];
638 1669376 : in5 = Idx[n1 * 4];
639 :
640 1669376 : fi1 = zRe[in1];
641 1669376 : fi2 = zIm[in1];
642 1669376 : fo3 = zRe[in2];
643 1669376 : fo4 = zRe[in5];
644 1669376 : fo6 = zRe[in3];
645 1669376 : fo7 = zRe[in4];
646 :
647 1669376 : fo5 = fo3 + fo4;
648 1669376 : fo8 = fo6 + fo7;
649 1669376 : fi3 = fo5 + fo8;
650 1669376 : fi4 = fo6 - fo7;
651 1669376 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
652 1669376 : fi6 = fo3 - fo4;
653 :
654 1669376 : fo3 = zIm[in2];
655 1669376 : fo4 = zIm[in5];
656 1669376 : fo6 = zIm[in3];
657 1669376 : fo7 = zIm[in4];
658 :
659 1669376 : fo5 = fo3 + fo4;
660 1669376 : fo8 = fo6 + fo7;
661 1669376 : fi7 = fo3 - fo4;
662 1669376 : fi8 = fo5 + fo8;
663 1669376 : fo1 = fo6 - fo7;
664 1669376 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
665 :
666 1669376 : zRe[in1] = fi1 + fi3;
667 1669376 : zIm[in1] = fi2 + fi8;
668 :
669 1669376 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
670 1669376 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
671 1669376 : fo7 = fi1 - fi3 / 4;
672 1669376 : fo5 = fi5 + fo7;
673 1669376 : fo6 = fo7 - fi5;
674 :
675 1669376 : zRe[in2] = fo5 + fo3;
676 1669376 : zRe[in3] = fo6 - fo4;
677 1669376 : zRe[in4] = fo6 + fo4;
678 1669376 : zRe[in5] = fo5 - fo3;
679 :
680 1669376 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
681 1669376 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
682 1669376 : fo7 = fi2 - fi8 / 4;
683 1669376 : fo5 = fo2 + fo7;
684 1669376 : fo6 = fo7 - fo2;
685 :
686 1669376 : zIm[in2] = fo5 - fo3;
687 1669376 : zIm[in3] = fo4 + fo6;
688 1669376 : zIm[in4] = fo6 - fo4;
689 1669376 : zIm[in5] = fo3 + fo5;
690 :
691 1669376 : return;
692 : }
693 :
694 : /*-----------------------------------------------------------------*
695 : * fft5_shift4()
696 : * 5-point FFT with 4-point circular shift
697 : *-----------------------------------------------------------------*/
698 :
699 113302656 : static void fft5_shift4(
700 : int16_t n1, /* i : length of data */
701 : float *zRe, /* i/o: real part of input and output data */
702 : float *zIm, /* i/o: imaginary part of input and output data */
703 : const int16_t *Idx /* i : pointer of the address table */
704 : )
705 : {
706 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
707 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
708 : int16_t in1, in2, in3, in4, in5;
709 :
710 113302656 : in1 = Idx[0];
711 113302656 : in2 = Idx[n1];
712 113302656 : in3 = Idx[n1 * 2];
713 113302656 : in4 = Idx[n1 * 3];
714 113302656 : in5 = Idx[n1 * 4];
715 :
716 113302656 : fi1 = zRe[in1];
717 113302656 : fi2 = zIm[in1];
718 113302656 : fo3 = zRe[in2];
719 113302656 : fo4 = zRe[in5];
720 113302656 : fo6 = zRe[in3];
721 113302656 : fo7 = zRe[in4];
722 :
723 113302656 : fo5 = fo3 + fo4;
724 113302656 : fo8 = fo6 + fo7;
725 113302656 : fi3 = fo5 + fo8;
726 113302656 : fi4 = fo6 - fo7;
727 113302656 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
728 113302656 : fi6 = fo3 - fo4;
729 :
730 113302656 : fo3 = zIm[in2];
731 113302656 : fo4 = zIm[in5];
732 113302656 : fo6 = zIm[in3];
733 113302656 : fo7 = zIm[in4];
734 :
735 113302656 : fo5 = fo3 + fo4;
736 113302656 : fo8 = fo6 + fo7;
737 113302656 : fi7 = fo3 - fo4;
738 113302656 : fi8 = fo5 + fo8;
739 113302656 : fo1 = fo6 - fo7;
740 113302656 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
741 :
742 113302656 : zRe[in1] = fi1 + fi3;
743 113302656 : zIm[in1] = fi2 + fi8;
744 :
745 113302656 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
746 113302656 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
747 113302656 : fo7 = fi1 - fi3 / 4;
748 113302656 : fo5 = fi5 + fo7;
749 113302656 : fo6 = fo7 - fi5;
750 113302656 : zRe[in2] = fo5 - fo3;
751 113302656 : zRe[in4] = fo6 - fo4;
752 113302656 : zRe[in3] = fo6 + fo4;
753 113302656 : zRe[in5] = fo5 + fo3;
754 :
755 113302656 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
756 113302656 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
757 113302656 : fo7 = fi2 - fi8 / 4;
758 113302656 : fo5 = fo2 + fo7;
759 113302656 : fo6 = fo7 - fo2;
760 :
761 113302656 : zIm[in3] = fo6 - fo4;
762 113302656 : zIm[in2] = fo3 + fo5;
763 113302656 : zIm[in4] = fo4 + fo6;
764 113302656 : zIm[in5] = fo5 - fo3;
765 :
766 113302656 : return;
767 : }
768 :
769 : /*-----------------------------------------------------------------*
770 : * fft5_32()
771 : * 5-point FFT called for 32 times
772 : *-----------------------------------------------------------------*/
773 :
774 4927584 : static void fft5_32(
775 : float *zRe, /* i/o: real part of input and output data */
776 : float *zIm, /* i/o: imaginary part of input and output data */
777 : const int16_t *Idx /* i : pointer of the address table */
778 : )
779 : {
780 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
781 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
782 : int16_t in1, in2, in3, in4, in5;
783 :
784 4927584 : in1 = Idx[0];
785 4927584 : in2 = Idx[32];
786 4927584 : in3 = Idx[64];
787 4927584 : in4 = Idx[96];
788 4927584 : in5 = Idx[128];
789 :
790 4927584 : fi1 = zRe[in1];
791 4927584 : fi2 = zIm[in1];
792 4927584 : fo3 = zRe[in2];
793 4927584 : fo4 = zRe[in5];
794 4927584 : fo6 = zRe[in3];
795 4927584 : fo7 = zRe[in4];
796 :
797 4927584 : fo5 = fo3 + fo4;
798 4927584 : fo8 = fo6 + fo7;
799 4927584 : fi3 = fo5 + fo8;
800 4927584 : fi4 = fo6 - fo7;
801 4927584 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
802 4927584 : fi6 = fo3 - fo4;
803 :
804 4927584 : fo3 = zIm[in2];
805 4927584 : fo4 = zIm[in5];
806 4927584 : fo6 = zIm[in3];
807 4927584 : fo7 = zIm[in4];
808 :
809 4927584 : fo5 = fo3 + fo4;
810 4927584 : fo8 = fo6 + fo7;
811 4927584 : fi7 = fo3 - fo4;
812 4927584 : fi8 = fo5 + fo8;
813 4927584 : fo1 = fo6 - fo7;
814 4927584 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
815 :
816 4927584 : zRe[in1] = fi1 + fi3;
817 4927584 : zIm[in1] = fi2 + fi8;
818 :
819 4927584 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
820 4927584 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
821 4927584 : fo7 = fi1 - fi3 / 4;
822 4927584 : fo5 = fi5 + fo7;
823 4927584 : fo6 = fo7 - fi5;
824 :
825 4927584 : zRe[in2] = fo6 + fo4;
826 4927584 : zRe[in3] = fo5 + fo3;
827 4927584 : zRe[in4] = fo5 - fo3;
828 4927584 : zRe[in5] = fo6 - fo4;
829 :
830 4927584 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
831 4927584 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
832 4927584 : fo7 = fi2 - fi8 / 4;
833 4927584 : fo5 = fo2 + fo7;
834 4927584 : fo6 = fo7 - fo2;
835 :
836 4927584 : zIm[in2] = fo6 - fo4;
837 4927584 : zIm[in3] = fo5 - fo3;
838 4927584 : zIm[in4] = fo3 + fo5;
839 4927584 : zIm[in5] = fo4 + fo6;
840 :
841 4927584 : return;
842 : }
843 :
844 : /*-----------------------------------------------------------------*
845 : * fft64()
846 : * 64-point FFT
847 : *-----------------------------------------------------------------*/
848 :
849 8851770 : static void fft64(
850 : float *x, /* i/o: real part of input and output data */
851 : float *y, /* i/o: imaginary part of input and output data */
852 : const int16_t *Idx /* i : pointer of the address table */
853 : )
854 : {
855 : int16_t i, id, jd;
856 : float z[128];
857 575365050 : for ( i = 0; i < 64; i++ )
858 : {
859 566513280 : id = Idx[i];
860 566513280 : z[2 * i] = x[id];
861 566513280 : z[2 * i + 1] = y[id];
862 : }
863 :
864 8851770 : cdftForw( 128, z, Ip_fft64, w_fft64 );
865 :
866 575365050 : for ( i = 0; i < 64; i++ )
867 : {
868 566513280 : jd = Odx_fft64[i];
869 566513280 : id = Idx[jd];
870 566513280 : x[id] = z[2 * i];
871 566513280 : y[id] = z[2 * i + 1];
872 : }
873 :
874 8851770 : return;
875 : }
876 :
877 :
878 : /*-----------------------------------------------------------------*
879 : * fft32_15()
880 : * 32-point FFT called for 15 times
881 : *-----------------------------------------------------------------*/
882 :
883 991485 : static void fft32_15(
884 : float *x, /* i/o: real part of input and output data */
885 : float *y, /* i/o: imaginary part of input and output data */
886 : const int16_t *Idx /* i : pointer of the address table */
887 : )
888 : {
889 : int16_t i, id, jd;
890 : float z[64];
891 :
892 32719005 : for ( i = 0; i < 32; i++ )
893 : {
894 31727520 : id = Idx[i];
895 31727520 : z[2 * i] = x[id];
896 31727520 : z[2 * i + 1] = y[id];
897 : }
898 :
899 991485 : cdftForw( 64, z, Ip_fft32, w_fft32 );
900 :
901 32719005 : for ( i = 0; i < 32; i++ )
902 : {
903 31727520 : jd = Odx_fft32_15[i];
904 31727520 : id = Idx[jd];
905 31727520 : x[id] = z[2 * i];
906 31727520 : y[id] = z[2 * i + 1];
907 : }
908 :
909 991485 : return;
910 : }
911 :
912 : /*-----------------------------------------------------------------*
913 : * fft32_5()
914 : * 32-point FFT called for 5 times
915 : *-----------------------------------------------------------------*/
916 :
917 769935 : static void fft32_5(
918 : float *x, /* i/o: real part of input and output data */
919 : float *y, /* i/o: imaginary part of input and output data */
920 : const int16_t *Idx /* i : pointer of the address table */
921 : )
922 : {
923 : int16_t i, id, jd;
924 : float z[64];
925 :
926 25407855 : for ( i = 0; i < 32; i++ )
927 : {
928 24637920 : id = Idx[i];
929 24637920 : z[2 * i] = x[id];
930 24637920 : z[2 * i + 1] = y[id];
931 : }
932 :
933 769935 : cdftForw( 64, z, Ip_fft32, w_fft32 );
934 :
935 25407855 : for ( i = 0; i < 32; i++ )
936 : {
937 24637920 : jd = Odx_fft32_5[i];
938 24637920 : id = Idx[jd];
939 24637920 : x[id] = z[2 * i];
940 24637920 : y[id] = z[2 * i + 1];
941 : }
942 :
943 769935 : return;
944 : }
945 :
946 : /*-----------------------------------------------------------------*
947 : * fft16()
948 : * 16-point FFT
949 : *-----------------------------------------------------------------*/
950 :
951 521680 : static void fft16(
952 : float *x, /* i/o: real part of input and output data */
953 : float *y, /* i/o: imaginary part of input and output data */
954 : const int16_t *Idx /* i : pointer of the address table */
955 : )
956 : {
957 : int16_t i, id, jd;
958 : float z[32];
959 :
960 8868560 : for ( i = 0; i < 16; i++ )
961 : {
962 8346880 : id = Idx[i];
963 8346880 : z[2 * i] = x[id];
964 8346880 : z[2 * i + 1] = y[id];
965 : }
966 :
967 521680 : cdftForw( 32, z, Ip_fft16, w_fft16 );
968 :
969 8868560 : for ( i = 0; i < 16; i++ )
970 : {
971 8346880 : jd = Odx_fft16[i];
972 8346880 : id = Idx[jd];
973 8346880 : x[id] = z[2 * i];
974 8346880 : y[id] = z[2 * i + 1];
975 : }
976 :
977 521680 : return;
978 : }
979 :
980 : /*-----------------------------------------------------------------*
981 : * fft8()
982 : * 8-point FFT
983 : *-----------------------------------------------------------------*/
984 :
985 34080 : static void fft8(
986 : float *x, /* i/o: real part of input and output data */
987 : float *y, /* i/o: imaginary part of input and output data */
988 : const int16_t *Idx /* i : pointer of the address table */
989 : )
990 : {
991 : int16_t i, id;
992 : float z[16];
993 :
994 306720 : for ( i = 0; i < 8; i++ )
995 : {
996 272640 : id = Idx[i];
997 272640 : z[2 * i] = x[id];
998 272640 : z[2 * i + 1] = y[id];
999 : }
1000 :
1001 34080 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1002 :
1003 306720 : for ( i = 0; i < 8; i++ )
1004 : {
1005 272640 : id = Idx[i];
1006 272640 : x[id] = z[2 * i];
1007 272640 : y[id] = z[2 * i + 1];
1008 : }
1009 :
1010 34080 : return;
1011 : }
1012 :
1013 : /*-----------------------------------------------------------------*
1014 : * fft8_5()
1015 : * 8-point FFT with shift 5
1016 : *-----------------------------------------------------------------*/
1017 :
1018 2620 : static void fft8_5(
1019 : float *x, /* i/o: real part of input and output data */
1020 : float *y, /* i/o: imaginary part of input and output data */
1021 : const int16_t *Idx /* i : pointer of the address table */
1022 : )
1023 : {
1024 : int16_t i, id, jd;
1025 : float z[16];
1026 :
1027 23580 : for ( i = 0; i < 8; i++ )
1028 : {
1029 20960 : id = Idx[i];
1030 20960 : z[2 * i] = x[id];
1031 20960 : z[2 * i + 1] = y[id];
1032 : }
1033 :
1034 2620 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1035 :
1036 23580 : for ( i = 0; i < 8; i++ )
1037 : {
1038 20960 : jd = Odx_fft8_5[i];
1039 20960 : id = Idx[jd];
1040 20960 : x[id] = z[2 * i];
1041 20960 : y[id] = z[2 * i + 1];
1042 : }
1043 2620 : return;
1044 : }
1045 :
1046 : /*-----------------------------------------------------------------*
1047 : * fft5_8()
1048 : * 5-point FFT with shift 2
1049 : *-----------------------------------------------------------------*/
1050 :
1051 4192 : static void fft5_8(
1052 : int16_t n1, /* i : length of data */
1053 : float *zRe, /* i/o: real part of input and output data */
1054 : float *zIm, /* i/o: imaginary part of input and output data */
1055 : const int16_t *Idx /* i : pointer of the address table */
1056 : )
1057 : {
1058 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1059 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1060 : int16_t in1, in2, in3, in4, in5;
1061 :
1062 4192 : in1 = Idx[0];
1063 4192 : in2 = Idx[n1];
1064 4192 : in3 = Idx[n1 * 2];
1065 4192 : in4 = Idx[n1 * 3];
1066 4192 : in5 = Idx[n1 * 4];
1067 :
1068 4192 : fi1 = zRe[in1];
1069 4192 : fi2 = zIm[in1];
1070 4192 : fo3 = zRe[in2];
1071 4192 : fo4 = zRe[in5];
1072 4192 : fo6 = zRe[in3];
1073 4192 : fo7 = zRe[in4];
1074 :
1075 4192 : fo5 = fo3 + fo4;
1076 4192 : fo8 = fo6 + fo7;
1077 4192 : fi3 = fo5 + fo8;
1078 4192 : fi4 = fo6 - fo7;
1079 4192 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1080 4192 : fi6 = fo3 - fo4;
1081 :
1082 4192 : fo3 = zIm[in2];
1083 4192 : fo4 = zIm[in5];
1084 4192 : fo6 = zIm[in3];
1085 4192 : fo7 = zIm[in4];
1086 :
1087 4192 : fo5 = fo3 + fo4;
1088 4192 : fo8 = fo6 + fo7;
1089 4192 : fi7 = fo3 - fo4;
1090 4192 : fi8 = fo5 + fo8;
1091 4192 : fo1 = fo6 - fo7;
1092 4192 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1093 :
1094 4192 : zRe[in1] = fi1 + fi3;
1095 4192 : zIm[in1] = fi2 + fi8;
1096 :
1097 4192 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1098 4192 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1099 4192 : fo7 = fi1 - fi3 / 4;
1100 4192 : fo5 = fi5 + fo7;
1101 4192 : fo6 = fo7 - fi5;
1102 :
1103 4192 : zRe[in2] = fo6 - fo4;
1104 4192 : zRe[in3] = fo5 - fo3;
1105 4192 : zRe[in5] = fo6 + fo4;
1106 4192 : zRe[in4] = fo5 + fo3;
1107 :
1108 4192 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1109 4192 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1110 4192 : fo7 = fi2 - fi8 / 4;
1111 4192 : fo5 = fo2 + fo7;
1112 4192 : fo6 = fo7 - fo2;
1113 :
1114 4192 : zIm[in2] = fo4 + fo6;
1115 4192 : zIm[in3] = fo3 + fo5;
1116 4192 : zIm[in4] = fo5 - fo3;
1117 4192 : zIm[in5] = fo6 - fo4;
1118 :
1119 4192 : return;
1120 : }
1121 :
1122 : /*-----------------------------------------------------------------*
1123 : * fft4_5()
1124 : * 8-point FFT with shift 1
1125 : *-----------------------------------------------------------------*/
1126 :
1127 480 : static void fft4_5(
1128 : float *x, /* i/o: real part of input and output data */
1129 : float *y, /* i/o: imaginary part of input and output data */
1130 : const int16_t *Idx /* i : pointer of the address table */
1131 : )
1132 : {
1133 : int16_t i, id, jd;
1134 : float z[8];
1135 :
1136 2400 : for ( i = 0; i < 4; i++ )
1137 : {
1138 1920 : id = Idx[i];
1139 1920 : z[2 * i] = x[id];
1140 1920 : z[2 * i + 1] = y[id];
1141 : }
1142 :
1143 480 : cdftForw( 8, z, Ip_fft4, w_fft4 );
1144 :
1145 2400 : for ( i = 0; i < 4; i++ )
1146 : {
1147 1920 : jd = Odx_fft4_5[i];
1148 1920 : id = Idx[jd];
1149 1920 : x[id] = z[2 * i];
1150 1920 : y[id] = z[2 * i + 1];
1151 : }
1152 480 : return;
1153 : }
1154 :
1155 : /*-----------------------------------------------------------------*
1156 : * fft5_4()
1157 : * 5-point FFT with shift 4
1158 : *-----------------------------------------------------------------*/
1159 :
1160 384 : static void fft5_4(
1161 : int16_t n1,
1162 : float *zRe,
1163 : float *zIm,
1164 : const int16_t *Idx )
1165 : {
1166 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1167 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1168 : int16_t in1, in2, in3, in4, in5;
1169 :
1170 384 : in1 = Idx[0];
1171 384 : in2 = Idx[n1];
1172 384 : in3 = Idx[n1 * 2];
1173 384 : in4 = Idx[n1 * 3];
1174 384 : in5 = Idx[n1 * 4];
1175 :
1176 384 : fi1 = zRe[in1];
1177 384 : fi2 = zIm[in1];
1178 384 : fo3 = zRe[in2];
1179 384 : fo4 = zRe[in5];
1180 384 : fo6 = zRe[in3];
1181 384 : fo7 = zRe[in4];
1182 :
1183 384 : fo5 = fo3 + fo4;
1184 384 : fo8 = fo6 + fo7;
1185 384 : fi3 = fo5 + fo8;
1186 384 : fi4 = fo6 - fo7;
1187 384 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1188 384 : fi6 = fo3 - fo4;
1189 :
1190 384 : fo3 = zIm[in2];
1191 384 : fo4 = zIm[in5];
1192 384 : fo6 = zIm[in3];
1193 384 : fo7 = zIm[in4];
1194 :
1195 384 : fo5 = fo3 + fo4;
1196 384 : fo8 = fo6 + fo7;
1197 384 : fi7 = fo3 - fo4;
1198 384 : fi8 = fo5 + fo8;
1199 384 : fo1 = fo6 - fo7;
1200 384 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1201 :
1202 384 : zRe[in1] = fi1 + fi3;
1203 384 : zIm[in1] = fi2 + fi8;
1204 :
1205 384 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1206 384 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1207 384 : fo7 = fi1 - fi3 / 4;
1208 384 : fo5 = fi5 + fo7;
1209 384 : fo6 = fo7 - fi5;
1210 :
1211 384 : zRe[in2] = fo5 - fo3;
1212 384 : zRe[in4] = fo6 - fo4;
1213 384 : zRe[in3] = fo6 + fo4;
1214 384 : zRe[in5] = fo5 + fo3;
1215 :
1216 384 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1217 384 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1218 384 : fo7 = fi2 - fi8 / 4;
1219 384 : fo5 = fo2 + fo7;
1220 384 : fo6 = fo7 - fo2;
1221 :
1222 384 : zIm[in2] = fo3 + fo5;
1223 384 : zIm[in3] = fo6 - fo4;
1224 384 : zIm[in4] = fo4 + fo6;
1225 384 : zIm[in5] = fo5 - fo3;
1226 :
1227 384 : return;
1228 : }
1229 :
1230 :
1231 : /*-----------------------------------------------------------------*
1232 : * DoRTFT80()
1233 : * a low complexity 2-dimensional DFT of 80 points
1234 : *-----------------------------------------------------------------*/
1235 :
1236 104336 : void DoRTFT80(
1237 : float *x, /* i/o: real part of input and output data */
1238 : float *y /* i/o: imaginary part of input and output data */
1239 : )
1240 : {
1241 : int16_t j;
1242 :
1243 : /* Applying 16-point FFT for 5 times based on the address table Idx_dortft80 */
1244 626016 : for ( j = 0; j < 5; j++ )
1245 : {
1246 521680 : fft16( x, y, Idx_dortft80 + 16 * j );
1247 : }
1248 :
1249 : /* Applying 5-point FFT for 16 times based on the address table Idx_dortft80 */
1250 1773712 : for ( j = 0; j < 16; j++ )
1251 : {
1252 1669376 : fft5_shift1( 16, x, y, Idx_dortft80 + j );
1253 : }
1254 :
1255 104336 : return;
1256 : }
1257 :
1258 : /*-----------------------------------------------------------------*
1259 : * DoRTFT120()
1260 : * a low complexity 2-dimensional DFT of 120 points
1261 : *-----------------------------------------------------------------*/
1262 :
1263 2272 : void DoRTFT120(
1264 : float *x, /* i/o: real part of input and output data */
1265 : float *y /* i/o: imaginary part of input and output data */
1266 : )
1267 : {
1268 : int16_t j;
1269 :
1270 : /* Applying 8-point FFT for 15 times based on the address table Idx_dortft120 */
1271 36352 : for ( j = 0; j < 15; j++ )
1272 : {
1273 34080 : fft8( x, y, Idx_dortft120 + 8 * j );
1274 : }
1275 :
1276 : /* Applying 15-point FFT for 8 times based on the address table Idx_dortft120 */
1277 20448 : for ( j = 0; j < 8; j++ )
1278 : {
1279 18176 : fft15_shift2( 8, x, y, Idx_dortft120 + j );
1280 : }
1281 :
1282 2272 : return;
1283 : }
1284 :
1285 : /*-----------------------------------------------------------------*
1286 : * DoRTFT160()
1287 : * a low complexity 2-dimensional DFT of 160 points
1288 : *-----------------------------------------------------------------*/
1289 :
1290 153987 : void DoRTFT160(
1291 : float x[], /* i/o: real part of input and output data */
1292 : float y[] /* i/o: imaginary part of input and output data */
1293 : )
1294 : {
1295 : int16_t j;
1296 :
1297 : /* Applying 32-point FFT for 5 times based on the address table Idx_dortft160 */
1298 923922 : for ( j = 0; j < 5; j++ )
1299 : {
1300 769935 : fft32_5( x, y, Idx_dortft160 + 32 * j );
1301 : }
1302 :
1303 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1304 5081571 : for ( j = 0; j < 32; j++ )
1305 : {
1306 4927584 : fft5_32( x, y, Idx_dortft160 + j );
1307 : }
1308 :
1309 153987 : return;
1310 : }
1311 :
1312 : /*-----------------------------------------------------------------*
1313 : * DoRTFT320()
1314 : * a low complexity 2-dimensional DFT of 320 points
1315 : *-----------------------------------------------------------------*/
1316 :
1317 1770354 : void DoRTFT320(
1318 : float *x, /* i/o: real part of input and output data */
1319 : float *y /* i/o: imaginary part of input and output data */
1320 : )
1321 : {
1322 : int16_t j;
1323 :
1324 : /* Applying 64-point FFT for 5 times based on the address table Idx_dortft160 */
1325 10622124 : for ( j = 0; j < 5; j++ )
1326 : {
1327 8851770 : fft64( x, y, Idx_dortft320 + 64 * j );
1328 : }
1329 :
1330 : /* Applying 5-point FFT for 64 times based on the address table Idx_dortft160 */
1331 115073010 : for ( j = 0; j < 64; j++ )
1332 : {
1333 113302656 : fft5_shift4( 64, x, y, Idx_dortft320 + j );
1334 : }
1335 :
1336 1770354 : return;
1337 : }
1338 :
1339 : /*-----------------------------------------------------------------*
1340 : * DoRTFT480()
1341 : * a low complexity 2-dimensional DFT of 480 points
1342 : *-----------------------------------------------------------------*/
1343 :
1344 66099 : void DoRTFT480(
1345 : float *x, /* i/o: real part of input and output data */
1346 : float *y /* i/o: imaginary part of input and output data */
1347 : )
1348 : {
1349 : int16_t j;
1350 :
1351 : /* Applying 32-point FFT for 15 times based on the address table Idx_dortft160 */
1352 1057584 : for ( j = 0; j < 15; j++ )
1353 : {
1354 991485 : fft32_15( x, y, Idx_dortft480 + 32 * j );
1355 : }
1356 :
1357 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1358 2181267 : for ( j = 0; j < 32; j++ )
1359 : {
1360 2115168 : fft15_shift8( 32, x, y, Idx_dortft480 + j );
1361 : }
1362 :
1363 66099 : return;
1364 : }
1365 :
1366 : /*-----------------------------------------------------------------*
1367 : * DoRTFT40()
1368 : * a low complexity 2-dimensional DFT of 40 points
1369 : *-----------------------------------------------------------------*/
1370 :
1371 524 : void DoRTFT40(
1372 : float *x, /* i/o: real part of input and output data */
1373 : float *y /* i/o: imaginary part of input and output data */
1374 : )
1375 : {
1376 : int16_t j;
1377 : /* Applying 8-point FFT for 5 times based on the address table Idx_dortft40 */
1378 3144 : for ( j = 0; j < 5; j++ )
1379 : {
1380 2620 : fft8_5( x, y, Idx_dortft40 + 8 * j );
1381 : }
1382 :
1383 : /* Applying 5-point FFT for 8 times based on the address table Idx_dortft40 */
1384 4716 : for ( j = 0; j < 8; j++ )
1385 : {
1386 4192 : fft5_8( 8, x, y, Idx_dortft40 + j );
1387 : }
1388 :
1389 524 : return;
1390 : }
1391 :
1392 : /*-----------------------------------------------------------------*
1393 : * DoRTFT20()
1394 : * a low complexity 2-dimensional DFT of 20 points
1395 : *-----------------------------------------------------------------*/
1396 :
1397 96 : void DoRTFT20(
1398 : float *x, /* i/o: real part of input and output data */
1399 : float *y /* i/o: imaginary part of input and output data */
1400 : )
1401 : {
1402 : int16_t j;
1403 :
1404 : /* Applying 4-point FFT for 5 times based on the address table Idx_dortft20 */
1405 576 : for ( j = 0; j < 5; j++ )
1406 : {
1407 480 : fft4_5( x, y, Idx_dortft20 + 4 * j );
1408 : }
1409 :
1410 : /* Applying 5-point FFT for 4 times based on the address table Idx_dortft20 */
1411 480 : for ( j = 0; j < 4; j++ )
1412 : {
1413 384 : fft5_4( 4, x, y, Idx_dortft20 + j );
1414 : }
1415 :
1416 96 : return;
1417 : }
1418 :
1419 : /*-----------------------------------------------------------------*
1420 : * DoRTFT128()
1421 : * FFT with 128 points
1422 : *-----------------------------------------------------------------*/
1423 :
1424 5136115 : void DoRTFT128(
1425 : float *x, /* i/o: real part of input and output data */
1426 : float *y /* i/o: imaginary part of input and output data */
1427 : )
1428 : {
1429 :
1430 : int16_t i;
1431 : float z[256];
1432 :
1433 662558835 : for ( i = 0; i < 128; i++ )
1434 : {
1435 657422720 : z[2 * i] = x[i];
1436 657422720 : z[2 * i + 1] = y[i];
1437 : }
1438 :
1439 5136115 : cdftForw( 256, z, Ip_fft128, w_fft128 );
1440 :
1441 5136115 : x[0] = z[0];
1442 5136115 : y[0] = z[1];
1443 657422720 : for ( i = 1; i < 128; i++ )
1444 : {
1445 652286605 : x[128 - i] = z[2 * i];
1446 652286605 : y[128 - i] = z[2 * i + 1];
1447 : }
1448 :
1449 5136115 : return;
1450 : }
1451 :
1452 : /*-----------------------------------------------------------------*
1453 : * cdftForw()
1454 : * Main fuction of Complex Discrete Fourier Transform
1455 : *-----------------------------------------------------------------*/
1456 :
1457 35044412 : static void cdftForw(
1458 : int16_t n, /* i : data length of real and imag */
1459 : float *a, /* i/o: input/output data */
1460 : const int16_t *ip, /* i : work area for bit reversal */
1461 : const float *w /* i : cos/sin table */
1462 : )
1463 : {
1464 : /* bit reversal */
1465 35044412 : bitrv2_SR( n, ip + 2, a );
1466 :
1467 : /* Do FFT */
1468 35044412 : cftfsub( n, a, w );
1469 35044412 : }
1470 :
1471 : /*-----------------------------------------------------------------*
1472 : * bitrv2_SR()
1473 : * Bit reversal
1474 : *-----------------------------------------------------------------*/
1475 :
1476 35573797 : static void bitrv2_SR(
1477 : int16_t n, /* i : data length of real and imag */
1478 : const int16_t *ip, /* i/o: work area for bit reversal */
1479 : float *a /* i/o: input/output data */
1480 : )
1481 : {
1482 : int16_t j, j1, k, k1, m, m2;
1483 : int16_t l;
1484 : float xr, xi, yr, yi;
1485 :
1486 35573797 : if ( n == 64 )
1487 : {
1488 2290805 : m = 4;
1489 2290805 : l = -1;
1490 : }
1491 33282992 : else if ( n == 256 )
1492 : {
1493 5136117 : m = 8;
1494 5136117 : l = -1;
1495 : }
1496 28146875 : else if ( n == 16 )
1497 : {
1498 36700 : m = 2;
1499 36700 : l = -1;
1500 : }
1501 : else
1502 : {
1503 28110175 : l = n;
1504 28110175 : m = 1;
1505 :
1506 115049893 : while ( ( m << 3 ) < l )
1507 : {
1508 86939718 : l >>= 1;
1509 86939718 : m <<= 1;
1510 : }
1511 28110175 : l -= m * 8;
1512 : }
1513 :
1514 35573797 : m2 = 2 * m;
1515 :
1516 35573797 : if ( l == 0 )
1517 : {
1518 101505805 : for ( k = 0; k < m; k++ )
1519 : {
1520 312658850 : for ( j = 0; j < k; j++ )
1521 : {
1522 226724686 : j1 = 2 * j + ip[k];
1523 226724686 : k1 = 2 * k + ip[j];
1524 226724686 : xr = a[j1];
1525 226724686 : xi = a[j1 + 1];
1526 226724686 : yr = a[k1];
1527 226724686 : yi = a[k1 + 1];
1528 226724686 : a[j1] = yr;
1529 226724686 : a[j1 + 1] = yi;
1530 226724686 : a[k1] = xr;
1531 226724686 : a[k1 + 1] = xi;
1532 226724686 : j1 += m2;
1533 226724686 : k1 += 2 * m2;
1534 226724686 : xr = a[j1];
1535 226724686 : xi = a[j1 + 1];
1536 226724686 : yr = a[k1];
1537 226724686 : yi = a[k1 + 1];
1538 226724686 : a[j1] = yr;
1539 226724686 : a[j1 + 1] = yi;
1540 226724686 : a[k1] = xr;
1541 226724686 : a[k1 + 1] = xi;
1542 226724686 : j1 += m2;
1543 226724686 : k1 -= m2;
1544 226724686 : xr = a[j1];
1545 226724686 : xi = a[j1 + 1];
1546 226724686 : yr = a[k1];
1547 226724686 : yi = a[k1 + 1];
1548 226724686 : a[j1] = yr;
1549 226724686 : a[j1 + 1] = yi;
1550 226724686 : a[k1] = xr;
1551 226724686 : a[k1 + 1] = xi;
1552 226724686 : j1 += m2;
1553 226724686 : k1 += 2 * m2;
1554 226724686 : xr = a[j1];
1555 226724686 : xi = a[j1 + 1];
1556 226724686 : yr = a[k1];
1557 226724686 : yi = a[k1 + 1];
1558 226724686 : a[j1] = yr;
1559 226724686 : a[j1 + 1] = yi;
1560 226724686 : a[k1] = xr;
1561 226724686 : a[k1 + 1] = xi;
1562 : }
1563 :
1564 85934164 : j1 = 2 * k + m2 + ip[k];
1565 85934164 : k1 = j1 + m2;
1566 85934164 : xr = a[j1];
1567 85934164 : xi = a[j1 + 1];
1568 85934164 : yr = a[k1];
1569 85934164 : yi = a[k1 + 1];
1570 85934164 : a[j1] = yr;
1571 85934164 : a[j1 + 1] = yi;
1572 85934164 : a[k1] = xr;
1573 85934164 : a[k1 + 1] = xi;
1574 : }
1575 : }
1576 : else
1577 : {
1578 250942100 : for ( k = 1; k < m; k++ )
1579 : {
1580 1893156830 : for ( j = 0; j < k; j++ )
1581 : {
1582 1662216886 : j1 = 2 * j + ip[k];
1583 1662216886 : k1 = 2 * k + ip[j];
1584 1662216886 : xr = a[j1];
1585 1662216886 : xi = a[j1 + 1];
1586 1662216886 : yr = a[k1];
1587 1662216886 : yi = a[k1 + 1];
1588 1662216886 : a[j1] = yr;
1589 1662216886 : a[j1 + 1] = yi;
1590 1662216886 : a[k1] = xr;
1591 1662216886 : a[k1 + 1] = xi;
1592 1662216886 : j1 += m2;
1593 1662216886 : k1 += m2;
1594 1662216886 : xr = a[j1];
1595 1662216886 : xi = a[j1 + 1];
1596 1662216886 : yr = a[k1];
1597 1662216886 : yi = a[k1 + 1];
1598 1662216886 : a[j1] = yr;
1599 1662216886 : a[j1 + 1] = yi;
1600 1662216886 : a[k1] = xr;
1601 1662216886 : a[k1 + 1] = xi;
1602 : }
1603 : }
1604 : }
1605 :
1606 35573797 : return;
1607 : }
1608 :
1609 : /*-----------------------------------------------------------------*
1610 : * cftfsub()
1611 : * Complex Discrete Fourier Transform
1612 : *-----------------------------------------------------------------*/
1613 :
1614 35474867 : static void cftfsub(
1615 : int16_t n, /* i : data length of real and imag */
1616 : float *a, /* i/o: input/output data */
1617 : const float *w /* i : cos/sin table */
1618 : )
1619 : {
1620 : int16_t j, j1, j2, j3, l;
1621 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1622 :
1623 35474867 : l = 2;
1624 35474867 : if ( n > 8 )
1625 : {
1626 35474387 : cft1st( n, a, w );
1627 :
1628 35474387 : l = 8;
1629 106768519 : while ( ( l << 2 ) < n )
1630 : {
1631 71294132 : cftmdl( n, l, a, w );
1632 71294132 : l <<= 2;
1633 : }
1634 : }
1635 :
1636 35474867 : if ( ( l << 2 ) == n )
1637 : {
1638 554955177 : for ( j = 0; j < l; j += 2 )
1639 : {
1640 539383536 : j1 = j + l;
1641 539383536 : j2 = j1 + l;
1642 539383536 : j3 = j2 + l;
1643 539383536 : x0r = a[j] + a[j1];
1644 539383536 : x0i = a[j + 1] + a[j1 + 1];
1645 539383536 : x1r = a[j] - a[j1];
1646 539383536 : x1i = a[j + 1] - a[j1 + 1];
1647 539383536 : x2r = a[j2] + a[j3];
1648 539383536 : x2i = a[j2 + 1] + a[j3 + 1];
1649 539383536 : x3r = a[j2] - a[j3];
1650 539383536 : x3i = a[j2 + 1] - a[j3 + 1];
1651 539383536 : a[j] = x0r + x2r;
1652 539383536 : a[j + 1] = x0i + x2i;
1653 539383536 : a[j2] = x0r - x2r;
1654 539383536 : a[j2 + 1] = x0i - x2i;
1655 539383536 : a[j1] = x1r - x3i;
1656 539383536 : a[j1 + 1] = x1i + x3r;
1657 539383536 : a[j3] = x1r + x3i;
1658 539383536 : a[j3 + 1] = x1i - x3r;
1659 : }
1660 : }
1661 : else
1662 : {
1663 3593696218 : for ( j = 0; j < l; j += 2 )
1664 : {
1665 3573792992 : j1 = j + l;
1666 3573792992 : x0r = a[j] - a[j1];
1667 3573792992 : x0i = a[j + 1] - a[j1 + 1];
1668 3573792992 : a[j] += a[j1];
1669 3573792992 : a[j + 1] += a[j1 + 1];
1670 3573792992 : a[j1] = x0r;
1671 3573792992 : a[j1 + 1] = x0i;
1672 : }
1673 : }
1674 :
1675 35474867 : return;
1676 : }
1677 :
1678 : /*-----------------------------------------------------------------*
1679 : * cft1st()
1680 : * Subfunction of Complex Discrete Fourier Transform
1681 : *-----------------------------------------------------------------*/
1682 :
1683 35573317 : static void cft1st(
1684 : int16_t n, /* i : data length of real and imag */
1685 : float *a, /* i/o: input/output data */
1686 : const float *w /* i : cos/sin table */
1687 : )
1688 : {
1689 : int16_t j, k1, k2;
1690 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1691 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1692 :
1693 35573317 : x0r = a[0] + a[2];
1694 35573317 : x0i = a[1] + a[3];
1695 35573317 : x1r = a[0] - a[2];
1696 35573317 : x1i = a[1] - a[3];
1697 35573317 : x2r = a[4] + a[6];
1698 35573317 : x2i = a[5] + a[7];
1699 35573317 : x3r = a[4] - a[6];
1700 35573317 : x3i = a[5] - a[7];
1701 35573317 : a[0] = x0r + x2r;
1702 35573317 : a[1] = x0i + x2i;
1703 35573317 : a[4] = x0r - x2r;
1704 35573317 : a[5] = x0i - x2i;
1705 35573317 : a[2] = x1r - x3i;
1706 35573317 : a[3] = x1i + x3r;
1707 35573317 : a[6] = x1r + x3i;
1708 35573317 : a[7] = x1i - x3r;
1709 35573317 : wk1r = w[2];
1710 35573317 : x0r = a[8] + a[10];
1711 35573317 : x0i = a[9] + a[11];
1712 35573317 : x1r = a[8] - a[10];
1713 35573317 : x1i = a[9] - a[11];
1714 35573317 : x2r = a[12] + a[14];
1715 35573317 : x2i = a[13] + a[15];
1716 35573317 : x3r = a[12] - a[14];
1717 35573317 : x3i = a[13] - a[15];
1718 35573317 : a[8] = x0r + x2r;
1719 35573317 : a[9] = x0i + x2i;
1720 35573317 : a[12] = x2i - x0i;
1721 35573317 : a[13] = x0r - x2r;
1722 35573317 : x0r = x1r - x3i;
1723 35573317 : x0i = x1i + x3r;
1724 35573317 : a[10] = wk1r * ( x0r - x0i );
1725 35573317 : a[11] = wk1r * ( x0r + x0i );
1726 35573317 : x0r = x3i + x1r;
1727 35573317 : x0i = x3r - x1i;
1728 35573317 : a[14] = wk1r * ( x0i - x0r );
1729 35573317 : a[15] = wk1r * ( x0i + x0r );
1730 35573317 : k1 = 0;
1731 :
1732 1163535496 : for ( j = 16; j < n; j += 16 )
1733 : {
1734 1127962179 : k1 += 2;
1735 1127962179 : k2 = 2 * k1;
1736 1127962179 : wk2r = w[k1];
1737 1127962179 : wk2i = w[k1 + 1];
1738 1127962179 : wk1r = w[k2];
1739 1127962179 : wk1i = w[k2 + 1];
1740 1127962179 : wk3r = wk1r - 2 * wk2i * wk1i;
1741 1127962179 : wk3i = 2 * wk2i * wk1r - wk1i;
1742 1127962179 : x0r = a[j] + a[j + 2];
1743 1127962179 : x0i = a[j + 1] + a[j + 3];
1744 1127962179 : x1r = a[j] - a[j + 2];
1745 1127962179 : x1i = a[j + 1] - a[j + 3];
1746 1127962179 : x2r = a[j + 4] + a[j + 6];
1747 1127962179 : x2i = a[j + 5] + a[j + 7];
1748 1127962179 : x3r = a[j + 4] - a[j + 6];
1749 1127962179 : x3i = a[j + 5] - a[j + 7];
1750 1127962179 : a[j] = x0r + x2r;
1751 1127962179 : a[j + 1] = x0i + x2i;
1752 1127962179 : x0r -= x2r;
1753 1127962179 : x0i -= x2i;
1754 1127962179 : a[j + 4] = wk2r * x0r - wk2i * x0i;
1755 1127962179 : a[j + 5] = wk2r * x0i + wk2i * x0r;
1756 1127962179 : x0r = x1r - x3i;
1757 1127962179 : x0i = x1i + x3r;
1758 1127962179 : a[j + 2] = wk1r * x0r - wk1i * x0i;
1759 1127962179 : a[j + 3] = wk1r * x0i + wk1i * x0r;
1760 1127962179 : x0r = x1r + x3i;
1761 1127962179 : x0i = x1i - x3r;
1762 1127962179 : a[j + 6] = wk3r * x0r - wk3i * x0i;
1763 1127962179 : a[j + 7] = wk3r * x0i + wk3i * x0r;
1764 1127962179 : wk1r = w[k2 + 2];
1765 1127962179 : wk1i = w[k2 + 3];
1766 1127962179 : wk3r = wk1r - 2 * wk2r * wk1i;
1767 1127962179 : wk3i = 2 * wk2r * wk1r - wk1i;
1768 1127962179 : x0r = a[j + 8] + a[j + 10];
1769 1127962179 : x0i = a[j + 9] + a[j + 11];
1770 1127962179 : x1r = a[j + 8] - a[j + 10];
1771 1127962179 : x1i = a[j + 9] - a[j + 11];
1772 1127962179 : x2r = a[j + 12] + a[j + 14];
1773 1127962179 : x2i = a[j + 13] + a[j + 15];
1774 1127962179 : x3r = a[j + 12] - a[j + 14];
1775 1127962179 : x3i = a[j + 13] - a[j + 15];
1776 1127962179 : a[j + 8] = x0r + x2r;
1777 1127962179 : a[j + 9] = x0i + x2i;
1778 1127962179 : x0r -= x2r;
1779 1127962179 : x0i -= x2i;
1780 1127962179 : a[j + 12] = -wk2i * x0r - wk2r * x0i;
1781 1127962179 : a[j + 13] = -wk2i * x0i + wk2r * x0r;
1782 1127962179 : x0r = x1r - x3i;
1783 1127962179 : x0i = x1i + x3r;
1784 1127962179 : a[j + 10] = wk1r * x0r - wk1i * x0i;
1785 1127962179 : a[j + 11] = wk1r * x0i + wk1i * x0r;
1786 1127962179 : x0r = x1r + x3i;
1787 1127962179 : x0i = x1i - x3r;
1788 1127962179 : a[j + 14] = wk3r * x0r - wk3i * x0i;
1789 1127962179 : a[j + 15] = wk3r * x0i + wk3i * x0r;
1790 : }
1791 :
1792 35573317 : return;
1793 : }
1794 :
1795 : /*-----------------------------------------------------------------*
1796 : * cftmdl()
1797 : * Subfunction of Complex Discrete Fourier Transform
1798 : *-----------------------------------------------------------------*/
1799 :
1800 71393062 : static void cftmdl(
1801 : int16_t n, /* i : data length of real and imag */
1802 : int16_t l, /* i : initial shift for processing */
1803 : float *a, /* i/o: input/output data */
1804 : const float *w /* i : cos/sin table */
1805 : )
1806 : {
1807 : int16_t j, j1, j2, j3, k, k1, k2, m, m2;
1808 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1809 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1810 :
1811 71393062 : m = l << 2;
1812 1395548282 : for ( j = 0; j < l; j += 2 )
1813 : {
1814 1324155220 : j1 = j + l;
1815 1324155220 : j2 = j1 + l;
1816 1324155220 : j3 = j2 + l;
1817 1324155220 : x0r = a[j] + a[j1];
1818 1324155220 : x0i = a[j + 1] + a[j1 + 1];
1819 1324155220 : x1r = a[j] - a[j1];
1820 1324155220 : x1i = a[j + 1] - a[j1 + 1];
1821 1324155220 : x2r = a[j2] + a[j3];
1822 1324155220 : x2i = a[j2 + 1] + a[j3 + 1];
1823 1324155220 : x3r = a[j2] - a[j3];
1824 1324155220 : x3i = a[j2 + 1] - a[j3 + 1];
1825 1324155220 : a[j] = x0r + x2r;
1826 1324155220 : a[j + 1] = x0i + x2i;
1827 1324155220 : a[j2] = x0r - x2r;
1828 1324155220 : a[j2 + 1] = x0i - x2i;
1829 1324155220 : a[j1] = x1r - x3i;
1830 1324155220 : a[j1 + 1] = x1i + x3r;
1831 1324155220 : a[j3] = x1r + x3i;
1832 1324155220 : a[j3 + 1] = x1i - x3r;
1833 : }
1834 :
1835 71393062 : wk1r = w[2];
1836 1395548282 : for ( j = m; j < l + m; j += 2 )
1837 : {
1838 1324155220 : j1 = j + l;
1839 1324155220 : j2 = j1 + l;
1840 1324155220 : j3 = j2 + l;
1841 1324155220 : x0r = a[j] + a[j1];
1842 1324155220 : x0i = a[j + 1] + a[j1 + 1];
1843 1324155220 : x1r = a[j] - a[j1];
1844 1324155220 : x1i = a[j + 1] - a[j1 + 1];
1845 1324155220 : x2r = a[j2] + a[j3];
1846 1324155220 : x2i = a[j2 + 1] + a[j3 + 1];
1847 1324155220 : x3r = a[j2] - a[j3];
1848 1324155220 : x3i = a[j2 + 1] - a[j3 + 1];
1849 1324155220 : a[j] = x0r + x2r;
1850 1324155220 : a[j + 1] = x0i + x2i;
1851 1324155220 : a[j2] = x2i - x0i;
1852 1324155220 : a[j2 + 1] = x0r - x2r;
1853 1324155220 : x0r = x1r - x3i;
1854 1324155220 : x0i = x1i + x3r;
1855 1324155220 : a[j1] = wk1r * ( x0r - x0i );
1856 1324155220 : a[j1 + 1] = wk1r * ( x0r + x0i );
1857 1324155220 : x0r = x3i + x1r;
1858 1324155220 : x0i = x3r - x1i;
1859 1324155220 : a[j3] = wk1r * ( x0i - x0r );
1860 1324155220 : a[j3 + 1] = wk1r * ( x0i + x0r );
1861 : }
1862 :
1863 71393062 : k1 = 0;
1864 71393062 : m2 = 2 * m;
1865 370797006 : for ( k = m2; k < n; k += m2 )
1866 : {
1867 299403944 : k1 += 2;
1868 299403944 : k2 = 2 * k1;
1869 299403944 : wk2r = w[k1];
1870 299403944 : wk2i = w[k1 + 1];
1871 299403944 : wk1r = w[k2];
1872 299403944 : wk1i = w[k2 + 1];
1873 299403944 : wk3r = wk1r - 2 * wk2i * wk1i;
1874 299403944 : wk3i = 2 * wk2i * wk1r - wk1i;
1875 2022582064 : for ( j = k; j < l + k; j += 2 )
1876 : {
1877 1723178120 : j1 = j + l;
1878 1723178120 : j2 = j1 + l;
1879 1723178120 : j3 = j2 + l;
1880 1723178120 : x0r = a[j] + a[j1];
1881 1723178120 : x0i = a[j + 1] + a[j1 + 1];
1882 1723178120 : x1r = a[j] - a[j1];
1883 1723178120 : x1i = a[j + 1] - a[j1 + 1];
1884 1723178120 : x2r = a[j2] + a[j3];
1885 1723178120 : x2i = a[j2 + 1] + a[j3 + 1];
1886 1723178120 : x3r = a[j2] - a[j3];
1887 1723178120 : x3i = a[j2 + 1] - a[j3 + 1];
1888 1723178120 : a[j] = x0r + x2r;
1889 1723178120 : a[j + 1] = x0i + x2i;
1890 1723178120 : x0r -= x2r;
1891 1723178120 : x0i -= x2i;
1892 1723178120 : a[j2] = wk2r * x0r - wk2i * x0i;
1893 1723178120 : a[j2 + 1] = wk2r * x0i + wk2i * x0r;
1894 1723178120 : x0r = x1r - x3i;
1895 1723178120 : x0i = x1i + x3r;
1896 1723178120 : a[j1] = wk1r * x0r - wk1i * x0i;
1897 1723178120 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1898 1723178120 : x0r = x1r + x3i;
1899 1723178120 : x0i = x1i - x3r;
1900 1723178120 : a[j3] = wk3r * x0r - wk3i * x0i;
1901 1723178120 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1902 : }
1903 :
1904 299403944 : wk1r = w[k2 + 2];
1905 299403944 : wk1i = w[k2 + 3];
1906 299403944 : wk3r = wk1r - 2 * wk2r * wk1i;
1907 299403944 : wk3i = 2 * wk2r * wk1r - wk1i;
1908 2022582064 : for ( j = k + m; j < l + ( k + m ); j += 2 )
1909 : {
1910 1723178120 : j1 = j + l;
1911 1723178120 : j2 = j1 + l;
1912 1723178120 : j3 = j2 + l;
1913 1723178120 : x0r = a[j] + a[j1];
1914 1723178120 : x0i = a[j + 1] + a[j1 + 1];
1915 1723178120 : x1r = a[j] - a[j1];
1916 1723178120 : x1i = a[j + 1] - a[j1 + 1];
1917 1723178120 : x2r = a[j2] + a[j3];
1918 1723178120 : x2i = a[j2 + 1] + a[j3 + 1];
1919 1723178120 : x3r = a[j2] - a[j3];
1920 1723178120 : x3i = a[j2 + 1] - a[j3 + 1];
1921 1723178120 : a[j] = x0r + x2r;
1922 1723178120 : a[j + 1] = x0i + x2i;
1923 1723178120 : x0r -= x2r;
1924 1723178120 : x0i -= x2i;
1925 1723178120 : a[j2] = -wk2i * x0r - wk2r * x0i;
1926 1723178120 : a[j2 + 1] = -wk2i * x0i + wk2r * x0r;
1927 1723178120 : x0r = x1r - x3i;
1928 1723178120 : x0i = x1i + x3r;
1929 1723178120 : a[j1] = wk1r * x0r - wk1i * x0i;
1930 1723178120 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1931 1723178120 : x0r = x1r + x3i;
1932 1723178120 : x0i = x1i - x3r;
1933 1723178120 : a[j3] = wk3r * x0r - wk3i * x0i;
1934 1723178120 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1935 : }
1936 : }
1937 :
1938 71393062 : return;
1939 : }
1940 :
1941 98930 : static void cftbsub(
1942 : int16_t n,
1943 : float *a,
1944 : const float *w /* i : cos/sin table */
1945 : )
1946 : {
1947 : int16_t j, j1, j2, j3, l;
1948 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1949 :
1950 98930 : l = 2;
1951 98930 : if ( n > 8 )
1952 : {
1953 98930 : cft1st( n, a, w );
1954 98930 : l = 8;
1955 :
1956 197860 : while ( ( l << 2 ) < n )
1957 : {
1958 98930 : cftmdl( n, l, a, w );
1959 98930 : l <<= 2;
1960 : }
1961 : }
1962 :
1963 98930 : if ( ( l << 2 ) == n )
1964 : {
1965 0 : for ( j = 0; j < l; j += 2 )
1966 : {
1967 0 : j1 = j + l;
1968 0 : j2 = j1 + l;
1969 0 : j3 = j2 + l;
1970 0 : x0r = a[j] + a[j1];
1971 0 : x0i = -a[j + 1] - a[j1 + 1];
1972 0 : x1r = a[j] - a[j1];
1973 0 : x1i = -a[j + 1] + a[j1 + 1];
1974 0 : x2r = a[j2] + a[j3];
1975 0 : x2i = a[j2 + 1] + a[j3 + 1];
1976 0 : x3r = a[j2] - a[j3];
1977 0 : x3i = a[j2 + 1] - a[j3 + 1];
1978 0 : a[j] = x0r + x2r;
1979 0 : a[j + 1] = x0i - x2i;
1980 0 : a[j2] = x0r - x2r;
1981 0 : a[j2 + 1] = x0i + x2i;
1982 0 : a[j1] = x1r - x3i;
1983 0 : a[j1 + 1] = x1i - x3r;
1984 0 : a[j3] = x1r + x3i;
1985 0 : a[j3 + 1] = x1i + x3r;
1986 : }
1987 : }
1988 : else
1989 : {
1990 1681810 : for ( j = 0; j < l; j += 2 )
1991 : {
1992 1582880 : j1 = j + l;
1993 1582880 : x0r = a[j] - a[j1];
1994 1582880 : x0i = -a[j + 1] + a[j1 + 1];
1995 1582880 : a[j] += a[j1];
1996 1582880 : a[j + 1] = -a[j + 1] - a[j1 + 1];
1997 1582880 : a[j1] = x0r;
1998 1582880 : a[j1 + 1] = x0i;
1999 : }
2000 : }
2001 :
2002 98930 : return;
2003 : }
2004 :
2005 430455 : static void rftfsub(
2006 : int16_t n,
2007 : float *a,
2008 : int16_t nc,
2009 : const float *c )
2010 : {
2011 : int16_t j, k, kk, ks, m;
2012 : float wkr, wki, xr, xi, yr, yi;
2013 :
2014 430455 : m = n >> 1;
2015 430455 : ks = 2 * nc / m;
2016 430455 : kk = 0;
2017 6887280 : for ( j = 2; j < m; j += 2 )
2018 : {
2019 6456825 : k = n - j;
2020 6456825 : kk += ks;
2021 6456825 : wkr = 0.5f - c[nc - kk];
2022 6456825 : wki = c[kk];
2023 6456825 : xr = a[j] - a[k];
2024 6456825 : xi = a[j + 1] + a[k + 1];
2025 6456825 : yr = wkr * xr - wki * xi;
2026 6456825 : yi = wkr * xi + wki * xr;
2027 6456825 : a[j] -= yr;
2028 6456825 : a[j + 1] -= yi;
2029 6456825 : a[k] += yr;
2030 6456825 : a[k + 1] -= yi;
2031 : }
2032 :
2033 430455 : return;
2034 : }
2035 :
2036 :
2037 98930 : static void rftbsub(
2038 : int16_t n,
2039 : float *a,
2040 : int16_t nc,
2041 : const float *c )
2042 : {
2043 : int16_t j, k, kk, ks, m;
2044 : float wkr, wki, xr, xi, yr, yi;
2045 :
2046 98930 : a[1] = -a[1];
2047 98930 : m = n >> 1;
2048 98930 : ks = 2 * nc / m;
2049 98930 : kk = 0;
2050 1582880 : for ( j = 2; j < m; j += 2 )
2051 : {
2052 1483950 : k = n - j;
2053 1483950 : kk += ks;
2054 1483950 : wkr = 0.5f - c[nc - kk];
2055 1483950 : wki = c[kk];
2056 1483950 : xr = a[j] - a[k];
2057 1483950 : xi = a[j + 1] + a[k + 1];
2058 1483950 : yr = wkr * xr + wki * xi;
2059 1483950 : yi = wkr * xi - wki * xr;
2060 1483950 : a[j] -= yr;
2061 1483950 : a[j + 1] = yi - a[j + 1];
2062 1483950 : a[k] += yr;
2063 1483950 : a[k + 1] = yi - a[k + 1];
2064 : }
2065 98930 : a[m + 1] = -a[m + 1];
2066 :
2067 98930 : return;
2068 : }
2069 :
2070 :
2071 529385 : static void dctsub(
2072 : int16_t n,
2073 : float *a,
2074 : int16_t nc,
2075 : const float *c )
2076 : {
2077 : int16_t j, k, kk, ks, m;
2078 : float wkr, wki, xr;
2079 :
2080 529385 : m = n >> 1;
2081 529385 : ks = nc / n;
2082 529385 : kk = 0;
2083 16940320 : for ( j = 1; j < m; j++ )
2084 : {
2085 16410935 : k = n - j;
2086 16410935 : kk += ks;
2087 16410935 : wkr = c[kk] - c[nc - kk];
2088 16410935 : wki = c[kk] + c[nc - kk];
2089 16410935 : xr = wki * a[j] - wkr * a[k];
2090 16410935 : a[j] = wkr * a[j] + wki * a[k];
2091 16410935 : a[k] = xr;
2092 : }
2093 529385 : a[m] *= c[0];
2094 :
2095 529385 : return;
2096 : }
2097 :
2098 :
2099 : /*-----------------------------------------------------------------*
2100 : * edct2()
2101 : *
2102 : * Transformation of the signal to DCT domain
2103 : * OR Inverse EDCT-II for short frames
2104 : *-----------------------------------------------------------------*/
2105 :
2106 529385 : void edct2(
2107 : const int16_t n,
2108 : const int16_t isgn,
2109 : float *in,
2110 : float *a,
2111 : const int16_t *ip,
2112 : const float *w )
2113 : {
2114 : int16_t j, nw, nc;
2115 : float xr;
2116 :
2117 529385 : mvr2r( in, a, n );
2118 :
2119 529385 : nw = ip[0];
2120 529385 : if ( n > ( nw << 2 ) )
2121 : {
2122 0 : nw = n >> 2;
2123 : }
2124 :
2125 529385 : nc = ip[1];
2126 529385 : if ( n > nc )
2127 : {
2128 0 : nc = n;
2129 : }
2130 :
2131 529385 : if ( isgn < 0 )
2132 : {
2133 98930 : xr = a[n - 1];
2134 3165760 : for ( j = n - 2; j >= 2; j -= 2 )
2135 : {
2136 3066830 : a[j + 1] = a[j] - a[j - 1];
2137 3066830 : a[j] += a[j - 1];
2138 : }
2139 98930 : a[1] = a[0] - xr;
2140 98930 : a[0] += xr;
2141 :
2142 98930 : if ( n > 4 )
2143 : {
2144 98930 : rftbsub( n, a, nc, w + nw );
2145 98930 : bitrv2_SR( n, ip + 2, a );
2146 98930 : cftbsub( n, a, w );
2147 : }
2148 0 : else if ( n == 4 )
2149 : {
2150 0 : cftfsub( n, a, w );
2151 : }
2152 : }
2153 :
2154 529385 : if ( isgn >= 0 )
2155 : {
2156 430455 : a[0] *= 0.5f;
2157 : }
2158 :
2159 529385 : dctsub( n, a, nc, w + nw );
2160 :
2161 529385 : if ( isgn >= 0 )
2162 : {
2163 430455 : if ( n > 4 )
2164 : {
2165 430455 : bitrv2_SR( n, ip + 2, a );
2166 430455 : cftfsub( n, a, w );
2167 430455 : rftfsub( n, a, nc, w + nw );
2168 : }
2169 0 : else if ( n == 4 )
2170 : {
2171 0 : cftfsub( n, a, w );
2172 : }
2173 430455 : xr = a[0] - a[1];
2174 430455 : a[0] += a[1];
2175 13774560 : for ( j = 2; j < n; j += 2 )
2176 : {
2177 13344105 : a[j - 1] = a[j] - a[j + 1];
2178 13344105 : a[j] += a[j + 1];
2179 : }
2180 430455 : a[n - 1] = xr;
2181 :
2182 27979575 : for ( j = 0; j < n; j++ )
2183 : {
2184 27549120 : a[j] /= 32.0f;
2185 : }
2186 : }
2187 529385 : }
2188 :
2189 :
2190 18736247 : void DoRTFTn(
2191 : float *x, /* i/o: real part of input and output data */
2192 : float *y, /* i/o: imaginary part of input and output data */
2193 : const int16_t n /* i : size of the FFT up to 1024 */
2194 : )
2195 : {
2196 :
2197 : int16_t i;
2198 : float z[2048];
2199 :
2200 8021137975 : for ( i = 0; i < n; i++ )
2201 : {
2202 8002401728 : z[2 * i] = x[i];
2203 8002401728 : z[2 * i + 1] = y[i];
2204 : }
2205 :
2206 18736247 : switch ( n )
2207 : {
2208 16320 : case ( 16 ):
2209 16320 : cdftForw( 2 * n, z, Ip_fft16, w_fft16 );
2210 16320 : break;
2211 0 : case ( 32 ):
2212 0 : cdftForw( 2 * n, z, Ip_fft32, w_fft32 );
2213 0 : break;
2214 131 : case ( 64 ):
2215 131 : cdftForw( 2 * n, z, Ip_fft64, w_fft64 );
2216 131 : break;
2217 2 : case ( 128 ):
2218 2 : cdftForw( 2 * n, z, Ip_fft128, w_fft128 );
2219 2 : break;
2220 6181260 : case ( 256 ):
2221 6181260 : cdftForw( 2 * n, z, Ip_fft256, w_fft256 );
2222 6181260 : break;
2223 12538534 : case ( 512 ):
2224 12538534 : cdftForw( 2 * n, z, Ip_fft512, w_fft512 );
2225 12538534 : break;
2226 0 : default:
2227 0 : assert( 0 );
2228 : }
2229 :
2230 18736247 : x[0] = z[0];
2231 18736247 : y[0] = z[1];
2232 8002401728 : for ( i = 1; i < n; i++ )
2233 : {
2234 7983665481 : x[n - i] = z[2 * i];
2235 7983665481 : y[n - i] = z[2 * i + 1];
2236 : }
2237 :
2238 18736247 : return;
2239 : }
2240 :
2241 :
2242 1275 : void fft3(
2243 : const float X[],
2244 : float Y[],
2245 : const int16_t n )
2246 : {
2247 : float Z[PH_ECU_SPEC_SIZE];
2248 : float *Z0, *Z1, *Z2;
2249 : float *z0, *z1, *z2;
2250 : const float *x;
2251 1275 : const float *t_sin = sincos_t_rad3;
2252 : int16_t m, step, order;
2253 : int16_t i, j;
2254 : int16_t c1_ind, s1_ind, c2_ind, s2_ind;
2255 : int16_t c1_step, s1_step, c2_step, s2_step;
2256 : float *RY, *IY, *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2257 :
2258 : /* Determine the order of the transform, the length of decimated */
2259 : /* transforms m, and the step for the sine and cosine tables. */
2260 1275 : switch ( n )
2261 : {
2262 425 : case 1536:
2263 425 : order = 9;
2264 425 : m = 512;
2265 425 : step = 1;
2266 425 : break;
2267 850 : case 384:
2268 850 : order = 7;
2269 850 : m = 128;
2270 850 : step = 4;
2271 850 : break;
2272 0 : default:
2273 0 : order = 9;
2274 0 : m = 512;
2275 0 : step = 1;
2276 : }
2277 :
2278 : /* Compose decimated sequences X[3i], X[3i+1],X[3i+2] */
2279 : /* compute their FFT of length m. */
2280 1275 : Z0 = &Z[0];
2281 1275 : z0 = &Z0[0];
2282 1275 : Z1 = &Z0[m];
2283 1275 : z1 = &Z1[0]; /* Z1 = &Z[ m]; */
2284 1275 : Z2 = &Z1[m];
2285 1275 : z2 = &Z2[0]; /* Z2 = &Z[2m]; */
2286 1275 : x = &X[0];
2287 327675 : for ( i = 0; i < n / 3; i++ )
2288 : {
2289 326400 : *z0++ = *x++; /* Z0[i] = X[3i]; */
2290 326400 : *z1++ = *x++; /* Z1[i] = X[3i+1]; */
2291 326400 : *z2++ = *x++; /* Z2[i] = X[3i+2]; */
2292 : }
2293 :
2294 1275 : fft_rel( &Z0[0], m, order );
2295 1275 : fft_rel( &Z1[0], m, order );
2296 1275 : fft_rel( &Z2[0], m, order );
2297 :
2298 : /* Butterflies of order 3. */
2299 : /* pointer initialization */
2300 1275 : RY = &Y[0];
2301 1275 : IY = &Y[n];
2302 1275 : RZ0 = &Z0[0];
2303 1275 : IZ0 = &Z0[m];
2304 1275 : RZ1 = &Z1[0];
2305 1275 : IZ1 = &Z1[m];
2306 1275 : RZ2 = &Z2[0];
2307 1275 : IZ2 = &Z2[m];
2308 :
2309 1275 : c1_step = -step;
2310 1275 : s1_step = step;
2311 1275 : c2_step = -2 * step;
2312 1275 : s2_step = 2 * step;
2313 1275 : c1_ind = T_SIN_PI_2 + c1_step;
2314 1275 : s1_ind = s1_step;
2315 1275 : c2_ind = T_SIN_PI_2 + c2_step;
2316 1275 : s2_ind = s2_step;
2317 :
2318 : /* special case: i = 0 */
2319 1275 : RY[0] = RZ0[0] + RZ1[0] + RZ2[0];
2320 :
2321 : /* first 3/12 */
2322 122400 : for ( i = 1; i < 3 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind += c2_step, s2_ind += s2_step )
2323 : {
2324 121125 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] + RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2325 121125 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] + IZ2[-i] * t_sin[c2_ind];
2326 : }
2327 :
2328 : /* next 1/12 */
2329 42075 : for ( ; i < 4 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2330 : {
2331 40800 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] - RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2332 40800 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] - IZ2[-i] * t_sin[c2_ind];
2333 : }
2334 :
2335 : /* special case: i = m/2 i.e. 1/3 */
2336 1275 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] - RZ2[i] * t_sin[c2_ind];
2337 1275 : IY[-i] = -RZ1[i] * t_sin[s1_ind] - RZ2[i] * t_sin[s2_ind];
2338 1275 : i++;
2339 :
2340 1275 : c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step;
2341 :
2342 : /* next 2/12 */
2343 81600 : for ( j = i - 2; i < 6 * m / 8; i++, j--, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2344 : {
2345 80325 : RY[i] = RZ0[j] + RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2346 80325 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] - RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2347 : }
2348 :
2349 : /*--------------------------half--------------------------*/
2350 : /* next 2/12 */
2351 82875 : for ( ; i < 8 * m / 8; i++, j--, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2352 : {
2353 81600 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] + IZ2[-j] * t_sin[s2_ind];
2354 81600 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] + IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2355 : }
2356 :
2357 : /* special case: i = m, i.e 2/3 */
2358 1275 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - RZ2[j] * t_sin[c2_ind];
2359 1275 : IY[-i++] = -RZ1[j] * t_sin[s1_ind] + RZ2[j] * t_sin[s2_ind];
2360 1275 : c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step;
2361 :
2362 : /* next 1/12 */
2363 40800 : for ( j = 1; i < 9 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2364 : {
2365 39525 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2366 39525 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] - IZ2[-j] * t_sin[c2_ind];
2367 : }
2368 :
2369 : /* last 3/12 */
2370 123675 : for ( ; i < 12 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2371 : {
2372 122400 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] + RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2373 122400 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2374 : }
2375 :
2376 : /* special case: i = 3*m/2 */
2377 1275 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + RZ2[j] * t_sin[c2_ind];
2378 :
2379 1275 : return;
2380 : }
2381 :
2382 915 : void ifft3(
2383 : const float Z[],
2384 : float X[],
2385 : const int16_t n )
2386 : {
2387 : float Y[PH_ECU_SPEC_SIZE];
2388 915 : const float *t_sin = sincos_t_rad3;
2389 : int16_t m, step, step2, order;
2390 : int16_t i;
2391 : int16_t c0_ind, s0_ind, c1_ind, s1_ind, c2_ind, s2_ind;
2392 : float scale;
2393 : const float *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2394 : float *RY0, *IY0, *RY1, *IY1, *RY2, *IY2, *y0, *y1, *y2;
2395 :
2396 : /* Determine the order of the transform, the length of decimated */
2397 : /* transforms m, and the step for the sine and cosine tables. */
2398 915 : switch ( n )
2399 : {
2400 915 : case 1536:
2401 915 : order = 9;
2402 915 : m = 512;
2403 915 : step = 1;
2404 915 : break;
2405 0 : case 384:
2406 0 : order = 7;
2407 0 : m = 128;
2408 0 : step = 4;
2409 0 : break;
2410 0 : default:
2411 0 : order = 9;
2412 0 : m = 512;
2413 0 : step = 1;
2414 : }
2415 :
2416 : /* pointer initialization */
2417 915 : RY0 = &Y[0];
2418 915 : IY0 = &RY0[m];
2419 915 : RY1 = &RY0[m];
2420 915 : IY1 = &RY1[m];
2421 915 : RY2 = &RY1[m];
2422 915 : IY2 = &RY2[m];
2423 :
2424 915 : RZ0 = &Z[0];
2425 915 : RZ1 = RZ0 + m;
2426 915 : RZ2 = RZ0 + n / 2 - m / 2;
2427 915 : IZ0 = &Z[n];
2428 915 : IZ1 = IZ0 - m;
2429 915 : IZ2 = IZ0 - n / 2 + m / 2;
2430 :
2431 : /* Inverse butterflies of order 3. */
2432 :
2433 : /* Construction of Y0 */
2434 915 : RY0[0] = RZ0[0] + RZ1[0] + RZ2[0];
2435 234240 : for ( i = 1; i < m / 2; i++ )
2436 : {
2437 233325 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2438 233325 : IY0[-i] = IZ0[-i] + IZ1[-i] - IZ2[i];
2439 : }
2440 :
2441 : /* m/2 */
2442 915 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2443 :
2444 : /* Construction of Y1 */
2445 915 : c0_ind = T_SIN_PI_2;
2446 915 : s0_ind = 0;
2447 915 : c1_ind = T_SIN_PI_2 * 1 / 3;
2448 915 : s1_ind = T_SIN_PI_2 * 2 / 3;
2449 915 : c2_ind = T_SIN_PI_2 * 1 / 3;
2450 915 : s2_ind = T_SIN_PI_2 * 2 / 3;
2451 :
2452 915 : RY1[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] - IZ1[0] * t_sin[s1_ind] - IZ2[0] * t_sin[s2_ind];
2453 :
2454 915 : c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step;
2455 117120 : for ( i = 1; i < m / 4; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step )
2456 : {
2457 116205 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2458 116205 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2459 : }
2460 :
2461 118035 : for ( ; i < m / 2; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind += step, s2_ind -= step )
2462 : {
2463 117120 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2464 117120 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] - IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2465 : }
2466 :
2467 : /* m/2 */
2468 915 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2469 :
2470 : /* Construction of Y2 */
2471 915 : c0_ind = T_SIN_PI_2;
2472 915 : s0_ind = 0;
2473 915 : c1_ind = T_SIN_PI_2 * 1 / 3;
2474 915 : s1_ind = T_SIN_PI_2 * 2 / 3;
2475 915 : c2_ind = T_SIN_PI_2 * 1 / 3;
2476 915 : s2_ind = T_SIN_PI_2 * 2 / 3;
2477 915 : step2 = 2 * step;
2478 915 : RY2[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] + IZ1[0] * t_sin[s1_ind] + IZ2[0] * t_sin[s2_ind];
2479 :
2480 915 : c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2;
2481 58560 : for ( i = 1; i < m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2 )
2482 : {
2483 57645 : RY2[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2484 57645 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2485 : }
2486 :
2487 59475 : for ( ; i < m / 4; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind += step2, s2_ind -= step2 )
2488 : {
2489 58560 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2490 58560 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2491 : }
2492 :
2493 59475 : for ( ; i < 3 * m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2494 : {
2495 58560 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2496 58560 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2497 : }
2498 :
2499 59475 : for ( ; i < m / 2; i++, c0_ind += step2, s0_ind -= step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2500 : {
2501 58560 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2502 58560 : IY2[-i] = -IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2503 : }
2504 :
2505 : /* m/2 */
2506 915 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2507 :
2508 : /* Compute the inverse FFT for all 3 blocks. */
2509 915 : ifft_rel( RY0, m, order );
2510 915 : ifft_rel( RY1, m, order );
2511 915 : ifft_rel( RY2, m, order );
2512 :
2513 915 : y0 = RY0;
2514 915 : y1 = RY1;
2515 915 : y2 = RY2;
2516 :
2517 : /* Interlacing and scaling, scale = 1/3 */
2518 915 : scale = 1.0f / 3;
2519 469395 : for ( i = 0; i < n; )
2520 : {
2521 468480 : X[i++] = ( *y0++ ) * scale;
2522 468480 : X[i++] = ( *y1++ ) * scale;
2523 468480 : X[i++] = ( *y2++ ) * scale;
2524 : }
2525 :
2526 915 : return;
2527 : }
2528 :
2529 :
2530 1179529 : static void rfft_post(
2531 : const float *sine_table,
2532 : float *buf,
2533 : const int16_t len )
2534 : {
2535 : float tmp1, tmp2, tmp3, tmp4, s, c;
2536 1179529 : int16_t i = 0;
2537 :
2538 1179529 : tmp1 = buf[0] + buf[1];
2539 1179529 : buf[1] = buf[0] - buf[1];
2540 1179529 : buf[0] = tmp1;
2541 :
2542 189904169 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2543 : {
2544 188724640 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2545 188724640 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2546 :
2547 188724640 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2548 188724640 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2549 188724640 : tmp3 = s * tmp1 - c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2550 188724640 : tmp4 = c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2551 188724640 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2552 188724640 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2553 :
2554 188724640 : buf[2 * i] = 0.5f * ( tmp1 - tmp3 );
2555 188724640 : buf[2 * i + 1] = 0.5f * ( tmp2 - tmp4 );
2556 188724640 : buf[len - 2 * i] = 0.5f * ( tmp1 + tmp3 );
2557 188724640 : buf[len - 2 * i + 1] = -0.5f * ( tmp2 + tmp4 );
2558 : }
2559 1179529 : }
2560 :
2561 303554 : static void rfft_pre(
2562 : const float *sine_table,
2563 : float *buf,
2564 : const int16_t len )
2565 : {
2566 303554 : const float scale = 1.0f / len;
2567 : float tmp1, tmp2, tmp3, tmp4, s, c;
2568 303554 : int16_t i = 0;
2569 :
2570 303554 : tmp1 = buf[0] + buf[1];
2571 303554 : buf[1] = scale * ( buf[0] - buf[1] );
2572 303554 : buf[0] = scale * tmp1;
2573 :
2574 48872194 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2575 : {
2576 48568640 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2577 48568640 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2578 :
2579 48568640 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2580 48568640 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2581 48568640 : tmp3 = s * tmp1 + c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2582 48568640 : tmp4 = -c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2583 48568640 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2584 48568640 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2585 :
2586 48568640 : buf[2 * i] = scale * ( tmp1 + tmp3 );
2587 48568640 : buf[2 * i + 1] = -scale * ( tmp2 + tmp4 );
2588 48568640 : buf[len - 2 * i] = scale * ( tmp1 - tmp3 );
2589 48568640 : buf[len - 2 * i + 1] = scale * ( tmp2 - tmp4 );
2590 : }
2591 :
2592 303554 : return;
2593 : }
2594 :
2595 3121049 : int16_t RFFTN(
2596 : float *data,
2597 : const float *sine_table,
2598 : const int16_t len,
2599 : const int16_t sign )
2600 : {
2601 3121049 : assert( len <= 640 && len > 0 );
2602 :
2603 3121049 : if ( len == 640 )
2604 : {
2605 : float x[320], y[320];
2606 : int16_t i;
2607 :
2608 1483083 : if ( sign != -1 )
2609 : {
2610 303554 : rfft_pre( sine_table, data, len );
2611 : }
2612 :
2613 476069643 : for ( i = 0; i < 320; i++ )
2614 : {
2615 474586560 : x[i] = data[2 * i];
2616 474586560 : y[i] = data[2 * i + 1];
2617 : }
2618 1483083 : DoRTFT320( x, y );
2619 476069643 : for ( i = 0; i < 320; i++ )
2620 : {
2621 474586560 : data[2 * i] = x[i];
2622 474586560 : data[2 * i + 1] = y[i];
2623 : }
2624 :
2625 1483083 : if ( sign == -1 )
2626 : {
2627 1179529 : rfft_post( sine_table, data, len );
2628 : }
2629 : }
2630 : else
2631 : {
2632 1637966 : if ( len == 512 )
2633 : {
2634 : int16_t i;
2635 1637966 : const int16_t log2 = 9;
2636 : float reordered_data[512];
2637 :
2638 1637966 : if ( sign == -1 )
2639 : {
2640 934539 : fft_rel( data, len, log2 );
2641 934539 : reordered_data[0] = data[0];
2642 934539 : reordered_data[1] = data[len / 2];
2643 239241984 : for ( i = 1; i < len / 2; i++ )
2644 : {
2645 238307445 : reordered_data[2 * i] = data[i];
2646 238307445 : reordered_data[2 * i + 1] = data[len - i];
2647 : }
2648 : }
2649 : else
2650 : {
2651 703427 : reordered_data[0] = data[0];
2652 703427 : reordered_data[len / 2] = data[1];
2653 180077312 : for ( i = 1; i < len / 2; i++ )
2654 : {
2655 179373885 : reordered_data[i] = data[2 * i];
2656 179373885 : reordered_data[len - i] = data[2 * i + 1];
2657 : }
2658 703427 : ifft_rel( reordered_data, len, log2 );
2659 : }
2660 1637966 : mvr2r( reordered_data, data, len );
2661 : }
2662 : else
2663 : {
2664 0 : assert( !"Not supported FFT length!" );
2665 : }
2666 : }
2667 :
2668 3121049 : return 0;
2669 : }
2670 :
2671 104646450 : static void butterfly(
2672 : const float a,
2673 : const float b,
2674 : float *aPlusb,
2675 : float *aMinusb )
2676 : {
2677 104646450 : *aPlusb = a + b;
2678 104646450 : *aMinusb = a - b;
2679 :
2680 104646450 : return;
2681 : }
2682 :
2683 69386000 : static void fft2(
2684 : float *pInOut )
2685 : {
2686 : /* FFT MATRIX:
2687 : 1.0000 1.0000
2688 : 1.0000 -1.0000
2689 : */
2690 : float re1, im1;
2691 : float re2, im2;
2692 :
2693 69386000 : re1 = pInOut[0];
2694 69386000 : im1 = pInOut[1];
2695 69386000 : re2 = pInOut[2];
2696 69386000 : im2 = pInOut[3];
2697 69386000 : pInOut[0] = re1 + re2;
2698 69386000 : pInOut[1] = im1 + im2;
2699 :
2700 69386000 : pInOut[2] = re1 - re2;
2701 69386000 : pInOut[3] = im1 - im2;
2702 :
2703 69386000 : return;
2704 : }
2705 :
2706 : static const float C31 = 0.5f; /* cos(PI/3); sin(2*PI/3) */
2707 : static const float C32 = 0.866025403784439f; /* cos(PI/3); sin(2*PI/3) */
2708 :
2709 46269000 : static void fft3_2(
2710 : float *pInOut )
2711 : {
2712 : float re1, im1;
2713 : float re2, im2;
2714 : float re3, im3;
2715 :
2716 : float tmp1, tmp2;
2717 : float tmp3, tmp4;
2718 :
2719 46269000 : re1 = pInOut[0];
2720 46269000 : im1 = pInOut[1];
2721 46269000 : re2 = pInOut[2];
2722 46269000 : im2 = pInOut[3];
2723 46269000 : re3 = pInOut[4];
2724 46269000 : im3 = pInOut[5];
2725 :
2726 : /* FFT MATRIX:
2727 : 1.0000 1.0000 1.0000
2728 : C31 C32
2729 : 1.0000 -0.5000 - 0.8660i -0.5000 + 0.8660i
2730 : 1.0000 -0.5000 + 0.8660i -0.5000 - 0.8660i
2731 : */
2732 46269000 : tmp1 = re2 + re3;
2733 46269000 : tmp3 = im2 + im3;
2734 46269000 : tmp2 = re2 - re3;
2735 46269000 : tmp4 = im2 - im3;
2736 46269000 : pInOut[0] = re1 + tmp1;
2737 46269000 : pInOut[1] = im1 + tmp3;
2738 46269000 : pInOut[2] = re1 - C31 * tmp1 + C32 * tmp4;
2739 46269000 : pInOut[4] = re1 - C31 * tmp1 - C32 * tmp4;
2740 :
2741 46269000 : pInOut[3] = im1 - C32 * tmp2 - C31 * tmp3;
2742 46269000 : pInOut[5] = im1 + C32 * tmp2 - C31 * tmp3;
2743 46269000 : }
2744 :
2745 :
2746 300 : static void fft4(
2747 : float *pInOut )
2748 : {
2749 : float re1, im1;
2750 : float re2, im2;
2751 : float re3, im3;
2752 : float re4, im4;
2753 :
2754 : float tmp1, tmp2;
2755 : float tmp3, tmp4;
2756 : float tmp5, tmp6;
2757 : float tmp7, tmp8;
2758 :
2759 300 : re1 = pInOut[0];
2760 300 : im1 = pInOut[1];
2761 300 : re2 = pInOut[2];
2762 300 : im2 = pInOut[3];
2763 300 : re3 = pInOut[4];
2764 300 : im3 = pInOut[5];
2765 300 : re4 = pInOut[6];
2766 300 : im4 = pInOut[7];
2767 :
2768 : /*
2769 : 1.0000 1.0000 1.0000 1.0000
2770 : 1.0000 -1.0000i -1.0000 1.0000i
2771 : 1.0000 -1.0000 1.0000 -1.0000
2772 : 1.0000 1.0000i -1.0000 -1.0000i
2773 : */
2774 300 : tmp1 = re1 + re3;
2775 300 : tmp3 = re2 + re4;
2776 300 : tmp5 = im1 + im3;
2777 300 : tmp7 = im2 + im4;
2778 300 : pInOut[0] = tmp1 + tmp3;
2779 300 : pInOut[4] = tmp1 - tmp3;
2780 :
2781 300 : pInOut[1] = tmp5 + tmp7;
2782 300 : pInOut[5] = tmp5 - tmp7;
2783 300 : tmp2 = re1 - re3;
2784 300 : tmp4 = re2 - re4;
2785 300 : tmp6 = im1 - im3;
2786 300 : tmp8 = im2 - im4;
2787 300 : pInOut[2] = tmp2 + tmp8;
2788 300 : pInOut[6] = tmp2 - tmp8;
2789 :
2790 300 : pInOut[3] = -tmp4 + tmp6;
2791 300 : pInOut[7] = tmp4 + tmp6;
2792 :
2793 300 : return;
2794 : }
2795 :
2796 : static const float C51 = 0.309016994374947f; /* cos(2*PI/5); */
2797 : static const float C52 = 0.951056516295154f; /* sin(2*PI/5); */
2798 : static const float C53 = 0.809016994374947f; /* cos( PI/5); */
2799 : static const float C54 = 0.587785252292473f; /* sin( PI/5); */
2800 :
2801 28089040 : static void fft5(
2802 : float *pInOut )
2803 : {
2804 : float re1, im1;
2805 : float re2, im2;
2806 : float re3, im3;
2807 : float re4, im4;
2808 : float re5, im5;
2809 :
2810 : float tmp1, tmp2;
2811 : float tmp3, tmp4;
2812 : float tmp5, tmp6;
2813 : float tmp7, tmp8;
2814 :
2815 :
2816 28089040 : re1 = pInOut[0];
2817 28089040 : im1 = pInOut[1];
2818 28089040 : re2 = pInOut[2];
2819 28089040 : im2 = pInOut[3];
2820 28089040 : re3 = pInOut[4];
2821 28089040 : im3 = pInOut[5];
2822 28089040 : re4 = pInOut[6];
2823 28089040 : im4 = pInOut[7];
2824 28089040 : re5 = pInOut[8];
2825 28089040 : im5 = pInOut[9];
2826 :
2827 : /*
2828 : 1.0000 1.0000 1.0000 1.0000 1.0000
2829 : C51 C52 C53 C54
2830 : 1.0000 0.3090 - 0.9511i -0.8090 - 0.5878i -0.8090 + 0.5878i 0.3090 + 0.9511i
2831 : 1.0000 -0.8090 - 0.5878i 0.3090 + 0.9511i 0.3090 - 0.9511i -0.8090 + 0.5878i
2832 : 1.0000 -0.8090 + 0.5878i 0.3090 - 0.9511i 0.3090 + 0.9511i -0.8090 - 0.5878i
2833 : 1.0000 0.3090 + 0.9511i -0.8090 + 0.5878i -0.8090 - 0.5878i 0.3090 - 0.9511i
2834 : */
2835 28089040 : tmp1 = re2 + re5;
2836 28089040 : tmp2 = re2 - re5;
2837 28089040 : tmp3 = im2 + im5;
2838 28089040 : tmp4 = im2 - im5;
2839 28089040 : tmp5 = re3 + re4;
2840 28089040 : tmp6 = re3 - re4;
2841 28089040 : tmp7 = im3 + im4;
2842 28089040 : tmp8 = im3 - im4;
2843 :
2844 :
2845 28089040 : pInOut[0] = re1 + tmp1 + tmp5;
2846 28089040 : pInOut[1] = im1 + tmp3 + tmp7;
2847 :
2848 28089040 : pInOut[2] = re1 + C51 * tmp1 - C53 * tmp5 + C52 * tmp4 + C54 * tmp8;
2849 28089040 : pInOut[8] = re1 + C51 * tmp1 - C53 * tmp5 - C52 * tmp4 - C54 * tmp8;
2850 28089040 : pInOut[3] = im1 - C52 * tmp2 - C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2851 28089040 : pInOut[9] = im1 + C52 * tmp2 + C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2852 28089040 : pInOut[4] = re1 - C53 * tmp1 + C51 * tmp5 + C54 * tmp4 - C52 * tmp8;
2853 28089040 : pInOut[6] = re1 - C53 * tmp1 + C51 * tmp5 - C54 * tmp4 + C52 * tmp8;
2854 28089040 : pInOut[5] = im1 - C54 * tmp2 + C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2855 28089040 : pInOut[7] = im1 + C54 * tmp2 - C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2856 :
2857 28089040 : return;
2858 : }
2859 :
2860 : static const float C81 = 0.707106781186548f; /* cos(PI/4); */
2861 :
2862 17441075 : static void fft8_2(
2863 : float *pInOut )
2864 : {
2865 : float re0, im0, re4, im4;
2866 :
2867 : float re1_7p, re1_7m;
2868 : float im1_7p, im1_7m;
2869 : float re2_6p, re2_6m;
2870 : float im2_6p, im2_6m;
2871 : float re3_5p, re3_5m;
2872 : float im3_5p, im3_5m;
2873 :
2874 17441075 : re0 = pInOut[0];
2875 17441075 : im0 = pInOut[1];
2876 17441075 : re4 = pInOut[8];
2877 17441075 : im4 = pInOut[9];
2878 17441075 : butterfly( pInOut[1 * 2], pInOut[7 * 2], &re1_7p, &re1_7m );
2879 17441075 : butterfly( pInOut[1 * 2 + 1], pInOut[7 * 2 + 1], &im1_7p, &im1_7m );
2880 17441075 : butterfly( pInOut[2 * 2], pInOut[6 * 2], &re2_6p, &re2_6m );
2881 17441075 : butterfly( pInOut[2 * 2 + 1], pInOut[6 * 2 + 1], &im2_6p, &im2_6m );
2882 17441075 : butterfly( pInOut[3 * 2], pInOut[5 * 2], &re3_5p, &re3_5m );
2883 17441075 : butterfly( pInOut[3 * 2 + 1], pInOut[5 * 2 + 1], &im3_5p, &im3_5m );
2884 :
2885 : /*
2886 : 0: 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i
2887 : 1: 1 + 0i C81 - C81i 0 - 1i -C81 - C81i -1 - 0i -C81 + C81i - 0 + 1i C81 + C81i
2888 : 2: 1 + 0i 0 - 1i -1 - 0i - 0 + 1i 1 + 0i 0 - 1i - 1 - 0i - 0 + 1i
2889 : 3: 1 + 0i -C81 - C81i -0 + 1i C81 - C81i -1 - 0i C81 + C81i 0 - 1i -C81 + C81i
2890 : 4: 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i
2891 : 5: 1 + 0i -C81 + C81i 0 - 1i C81 + C81i -1 - 0i C81 - C81i - 0 + 1i -C81 - C81i
2892 : 6: 1 + 0i - 0 + 1i -1 - 0i 0 - 1i 1 + 0i - 0 + 1i - 1 - 0i - 0 - 1i
2893 : 7: 1 + 0i C81 + C81i -0 + 1i -C81 + C81i -1 - 0i -C81 - C81i - 0 - 1i C81 - C81i
2894 : */
2895 17441075 : pInOut[0] = re0 + re4 + re1_7p + re2_6p + re3_5p;
2896 17441075 : pInOut[1] = im0 + im4 + im1_7p + im2_6p + im3_5p;
2897 :
2898 17441075 : pInOut[2] = re0 + C81 * ( re1_7p - re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) + im2_6m;
2899 17441075 : pInOut[3] = im0 + C81 * ( im1_7p - im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) - re2_6m;
2900 :
2901 17441075 : pInOut[4] = re0 - re2_6p + re4 + im1_7m - im3_5m;
2902 17441075 : pInOut[5] = im0 - im2_6p + im4 - re1_7m + re3_5m;
2903 :
2904 17441075 : pInOut[6] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) - im2_6m;
2905 17441075 : pInOut[7] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) + re2_6m;
2906 :
2907 17441075 : pInOut[8] = re0 - re1_7p + re2_6p - re3_5p + re4;
2908 17441075 : pInOut[9] = im0 - im1_7p + im2_6p - im3_5p + im4;
2909 :
2910 17441075 : pInOut[10] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) + im2_6m;
2911 17441075 : pInOut[11] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) - re2_6m;
2912 :
2913 17441075 : pInOut[12] = re0 - re2_6p + re4 - im1_7m + im3_5m;
2914 17441075 : pInOut[13] = im0 - im2_6p + im4 + re1_7m - re3_5m;
2915 :
2916 17441075 : pInOut[14] = re0 + C81 * ( re1_7p - re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) - im2_6m;
2917 17441075 : pInOut[15] = im0 + C81 * ( im1_7p - im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) + re2_6m;
2918 :
2919 17441075 : return;
2920 : }
2921 :
2922 17529580 : static void nextFFT(
2923 : float *x,
2924 : const int16_t length )
2925 : {
2926 17529580 : switch ( length )
2927 : {
2928 0 : case 2:
2929 0 : fft2( x );
2930 0 : break;
2931 0 : case 3:
2932 0 : fft3_2( x );
2933 0 : break;
2934 0 : case 4:
2935 0 : fft4( x );
2936 0 : break;
2937 183080 : case 5:
2938 183080 : fft5( x );
2939 183080 : break;
2940 17346500 : case 8:
2941 17346500 : fft8_2( x );
2942 17346500 : break;
2943 0 : default:
2944 0 : assert( !"length not supported" );
2945 : break;
2946 : }
2947 :
2948 17529580 : return;
2949 : }
2950 :
2951 : static const int16_t CTFFTfactors[] = { 9, 8, 7, 5, 4, 3, 2, 0 };
2952 :
2953 8709866 : static __inline int16_t findFactor(
2954 : const int16_t length )
2955 : {
2956 8709866 : int16_t i = 0;
2957 8709866 : int16_t factor = 0;
2958 :
2959 17492964 : while ( CTFFTfactors[i] != 0 )
2960 : {
2961 17492964 : if ( 0 == ( length % CTFFTfactors[i] ) )
2962 : {
2963 8709866 : factor = CTFFTfactors[i];
2964 8709866 : break;
2965 : }
2966 8783098 : i++;
2967 : }
2968 8709866 : return factor;
2969 : }
2970 :
2971 8709866 : static __inline void twiddle(
2972 : float *x,
2973 : const int16_t length,
2974 : const int16_t n1,
2975 : const int16_t n2 )
2976 : {
2977 : int16_t i, ii;
2978 8709866 : double pi = 4. * atan( 1. );
2979 : float sinValOrg, cosValOrg;
2980 8709866 : float sinVal = 0.f, cosVal = 1.f;
2981 8709866 : float twReal = 0.f, twImag = 1.f;
2982 :
2983 8709866 : cosValOrg = (float) cos( -2 * pi * 1. / (double) length );
2984 8709866 : sinValOrg = (float) sin( -2 * pi * 1. / (double) length );
2985 69569080 : for ( i = 1; i < n1; i++ )
2986 : {
2987 : float tmp;
2988 60859214 : twReal = 1.f;
2989 60859214 : twImag = 0.f;
2990 60859214 : tmp = cosVal * cosValOrg - sinVal * sinValOrg;
2991 60859214 : sinVal = sinVal * cosValOrg + cosVal * sinValOrg;
2992 60859214 : cosVal = tmp;
2993 122157820 : for ( ii = 1; ii < n2; ii++ )
2994 : {
2995 : float xRe, xIm, tmpReal;
2996 : /* cos(x+y) = cos(x)*cos(y) - sin(x)*sin(y); */
2997 : /* sin(x+y) = sin(x)*cos(y) + sin(y)*cos(x); */
2998 61298606 : tmpReal = twReal * cosVal - twImag * sinVal;
2999 61298606 : twImag = twImag * cosVal + sinVal * twReal;
3000 61298606 : twReal = tmpReal;
3001 61298606 : xRe = x[2 * ( i * n2 + ii )];
3002 61298606 : xIm = x[2 * ( i * n2 + ii ) + 1];
3003 61298606 : x[2 * ( i * n2 + ii )] = twReal * xRe - twImag * xIm;
3004 61298606 : x[2 * ( i * n2 + ii ) + 1] = twImag * xRe + twReal * xIm;
3005 : }
3006 60859214 : tmp = cosVal;
3007 : }
3008 :
3009 8709866 : return;
3010 : }
3011 :
3012 152365701 : static void cooleyTukeyFFT(
3013 : float *x,
3014 : const int16_t length,
3015 : float *scratch )
3016 : {
3017 : int16_t factor;
3018 : int16_t i, ii;
3019 : int16_t n1, n2;
3020 152365701 : int16_t cnt = 0;
3021 : float *src, *dest;
3022 :
3023 152365701 : switch ( length )
3024 : {
3025 0 : case 1:
3026 0 : break;
3027 69386000 : case 2:
3028 69386000 : fft2( x );
3029 69386000 : break;
3030 46269000 : case 3:
3031 46269000 : fft3_2( x );
3032 46269000 : break;
3033 300 : case 4:
3034 300 : fft4( x );
3035 300 : break;
3036 27905960 : case 5:
3037 27905960 : fft5( x );
3038 27905960 : break;
3039 94575 : case 8:
3040 94575 : fft8_2( x );
3041 94575 : break;
3042 8709866 : default:
3043 : {
3044 8709866 : factor = findFactor( length );
3045 8709866 : if ( factor > 0 && ( length / factor > 1 ) )
3046 : {
3047 8709866 : n1 = factor;
3048 8709866 : n2 = length / factor;
3049 :
3050 : /* DATA Resorting for stage1 */
3051 8709866 : dest = scratch;
3052 78278946 : for ( i = 0; i < 2 * n1; i += 2 )
3053 : {
3054 69569080 : src = x + i;
3055 209256480 : for ( ii = 0; ii < n2; ii++ )
3056 : {
3057 : /* *dest++ = x[2*(i+ii*n1)]; */
3058 : /* *dest++ = x[2*(i+ii*n1)+1]; */
3059 139687400 : *dest++ = *src;
3060 139687400 : *dest++ = *( src + 1 );
3061 139687400 : src += 2 * n1;
3062 : }
3063 : }
3064 8709866 : src = scratch;
3065 8709866 : dest = x;
3066 148397266 : for ( i = 0; i < length; i++ )
3067 : {
3068 139687400 : *dest++ = *src++;
3069 139687400 : *dest++ = *src++;
3070 : }
3071 : /* perform n1 ffts of length n2 */
3072 78278946 : for ( i = 0; i < n1; i++ )
3073 : {
3074 69569080 : cooleyTukeyFFT( x + 2 * i * n2, n2, scratch + 2 * i * n2 );
3075 : }
3076 : /*data twiddeling */
3077 8709866 : twiddle( x, length, n1, n2 );
3078 : /* DATA Resorting for stage2 */
3079 8709866 : cnt = 0;
3080 26239446 : for ( i = 0; i < n2; i++ )
3081 : {
3082 157216980 : for ( ii = 0; ii < n1; ii++ )
3083 : {
3084 139687400 : scratch[2 * cnt] = x[2 * ( i + ii * n2 )];
3085 139687400 : scratch[2 * cnt + 1] = x[2 * ( i + ii * n2 ) + 1];
3086 139687400 : cnt++;
3087 : }
3088 : }
3089 : /* perform n2 ffts of length n1 */
3090 26239446 : for ( i = 0; i < n2; i++ )
3091 : {
3092 17529580 : nextFFT( scratch + 2 * i * n1, n1 );
3093 : }
3094 8709866 : cnt = 0;
3095 78278946 : for ( i = 0; i < n1; i++ )
3096 : {
3097 209256480 : for ( ii = 0; ii < n2; ii++ )
3098 : {
3099 139687400 : x[2 * cnt] = scratch[2 * ( i + ii * n1 )];
3100 139687400 : x[2 * cnt + 1] = scratch[2 * ( i + ii * n1 ) + 1];
3101 139687400 : cnt++;
3102 : }
3103 : }
3104 : }
3105 : else
3106 : {
3107 0 : assert( !"length not supported" );
3108 : }
3109 : }
3110 : }
3111 :
3112 152365701 : return;
3113 : }
3114 :
3115 56179742 : static void pfaDFT(
3116 : float *x,
3117 : const int16_t length,
3118 : float *scratch1,
3119 : const int16_t numFactors,
3120 : const int16_t *factor )
3121 : {
3122 : int16_t i, ii;
3123 : int16_t cnt;
3124 :
3125 56179742 : if ( numFactors > 1 )
3126 : {
3127 9830092 : float *tmp = scratch1;
3128 9830092 : int16_t n1_inv = 1, n2_inv = 1;
3129 9830092 : int16_t n2 = factor[0 /*idx*/];
3130 9830092 : int16_t n1 = length / n2;
3131 : int16_t idx, incr;
3132 :
3133 27243701 : while ( ( ( n1_inv * n1 ) % n2 ) != 1 )
3134 : {
3135 17413609 : n1_inv++;
3136 : }
3137 19082229 : while ( ( ( n2_inv * n2 ) % n1 ) != 1 )
3138 : {
3139 9252137 : n2_inv++;
3140 : }
3141 9830092 : idx = 0;
3142 9830092 : incr = n1 * n1_inv;
3143 9830092 : cnt = 0;
3144 46277063 : for ( i = 0; i < n1; i++ )
3145 : {
3146 278336800 : for ( ii = 0; ii < n2 - 1; ii++ )
3147 : {
3148 241889829 : tmp[cnt++] = x[2 * idx];
3149 241889829 : tmp[cnt++] = x[2 * idx + 1];
3150 :
3151 241889829 : idx += incr;
3152 241889829 : if ( idx > length )
3153 : {
3154 159025623 : idx -= length;
3155 : }
3156 : }
3157 36446971 : tmp[cnt++] = x[2 * idx];
3158 36446971 : tmp[cnt++] = x[2 * idx + 1];
3159 36446971 : idx++;
3160 : }
3161 46277063 : for ( cnt = 0; cnt < length; cnt += n2 )
3162 : {
3163 36446971 : cooleyTukeyFFT( tmp + 2 * cnt, n2, x + 2 * cnt );
3164 : }
3165 46277063 : for ( cnt = 0; cnt < n1; cnt++ )
3166 : {
3167 314783771 : for ( i = 0; i < n2; i++ )
3168 : {
3169 278336800 : x[2 * ( cnt + i * n1 )] = tmp[2 * ( cnt * n2 + i )];
3170 278336800 : x[2 * ( cnt + i * n1 ) + 1] = tmp[2 * ( cnt * n2 + i ) + 1];
3171 : }
3172 : }
3173 65428727 : for ( cnt = 0; cnt < length; cnt += n1 )
3174 : {
3175 55598635 : pfaDFT( x + 2 * cnt, n1, tmp, numFactors - 1, &factor[1] );
3176 : }
3177 9830092 : idx = 0;
3178 9830092 : cnt = 0;
3179 65428727 : for ( i = 0; i < n2; i++ )
3180 : {
3181 55598635 : idx = i * n1;
3182 333935435 : for ( ii = 0; ii < n1; ii++ )
3183 : {
3184 278336800 : tmp[2 * idx] = x[cnt++];
3185 278336800 : tmp[2 * idx + 1] = x[cnt++];
3186 278336800 : idx += n2;
3187 278336800 : if ( idx > length )
3188 : {
3189 45768543 : idx -= length;
3190 : }
3191 : }
3192 : }
3193 288166892 : for ( cnt = 0; cnt < length; cnt++ )
3194 : {
3195 278336800 : x[2 * cnt] = tmp[2 * cnt];
3196 278336800 : x[2 * cnt + 1] = tmp[2 * cnt + 1];
3197 : }
3198 : }
3199 : else
3200 : {
3201 46349650 : cooleyTukeyFFT( x, length, scratch1 );
3202 : }
3203 :
3204 56179742 : return;
3205 : }
3206 :
3207 581107 : static void fftf_interleave(
3208 : float *re,
3209 : float *im,
3210 : float *out,
3211 : const int16_t len )
3212 : {
3213 581107 : int16_t i = 0;
3214 :
3215 140110907 : for ( i = 0; i < len; i++ )
3216 : {
3217 139529800 : *out++ = *re++;
3218 139529800 : *out++ = *im++;
3219 : }
3220 :
3221 581107 : return;
3222 : }
3223 :
3224 581107 : static void fftf_deinterleave(
3225 : float *in,
3226 : float *re,
3227 : float *im,
3228 : const int16_t len )
3229 : {
3230 581107 : int16_t i = 0;
3231 :
3232 140110907 : for ( i = 0; i < len; i++ )
3233 : {
3234 139529800 : *re++ = *in++;
3235 139529800 : *im++ = *in++;
3236 : }
3237 :
3238 581107 : return;
3239 : }
3240 :
3241 321 : static void DoRTFT600(
3242 : float *x, /* i/o: real part of input and output data */
3243 : float *y /* i/o: imaginary part of input and output data */
3244 : )
3245 : {
3246 : float scratch[1200], cmplx[1200];
3247 321 : const int16_t factors[3] = { 25, 8, 3 };
3248 :
3249 321 : fftf_interleave( x, y, cmplx, 600 );
3250 321 : pfaDFT( cmplx, 600, scratch, 3, factors );
3251 321 : fftf_deinterleave( cmplx, x, y, 600 );
3252 :
3253 321 : return;
3254 : }
3255 :
3256 394 : static void DoRTFT400(
3257 : float *x, /* i/o: real part of input and output data */
3258 : float *y /* i/o: imaginary part of input and output data */
3259 : )
3260 : {
3261 : float scratch[800], cmplx[800];
3262 394 : const int16_t factors[2] = { 25, 16 };
3263 :
3264 394 : fftf_interleave( x, y, cmplx, 400 );
3265 394 : pfaDFT( cmplx, 400, scratch, 2, factors );
3266 394 : fftf_deinterleave( cmplx, x, y, 400 );
3267 :
3268 :
3269 394 : return;
3270 : }
3271 :
3272 577560 : static void DoRTFT240(
3273 : float *x, /* i/o: real part of input and output data */
3274 : float *y /* i/o: imaginary part of input and output data */
3275 : )
3276 : {
3277 : float scratch[480], cmplx[480];
3278 577560 : const int16_t factors[3] = { 16, 5, 3 };
3279 :
3280 577560 : fftf_interleave( x, y, cmplx, 240 );
3281 577560 : pfaDFT( cmplx, 240, scratch, 3, factors );
3282 577560 : fftf_deinterleave( cmplx, x, y, 240 );
3283 :
3284 577560 : return;
3285 : }
3286 :
3287 2820 : static void DoRTFT200(
3288 : float *x, /* i/o: real part of input and output data */
3289 : float *y /* i/o: imaginary part of input and output data */
3290 : )
3291 : {
3292 : float scratch[400], cmplx[400];
3293 2820 : const int16_t factors[2] = { 25, 8 };
3294 :
3295 2820 : fftf_interleave( x, y, cmplx, 200 );
3296 2820 : pfaDFT( cmplx, 200, scratch, 2, factors );
3297 2820 : fftf_deinterleave( cmplx, x, y, 200 );
3298 :
3299 2820 : return;
3300 : }
3301 :
3302 12 : static void DoRTFT100(
3303 : float *x, /* i/o: real part of input and output data */
3304 : float *y /* i/o: imaginary part of input and output data */
3305 : )
3306 : {
3307 : float scratch[200], cmplx[200];
3308 12 : const int16_t factors[2] = { 25, 4 };
3309 :
3310 12 : fftf_interleave( x, y, cmplx, 100 );
3311 12 : pfaDFT( cmplx, 100, scratch, 2, factors );
3312 12 : fftf_deinterleave( cmplx, x, y, 100 );
3313 :
3314 12 : return;
3315 : }
3316 :
3317 :
3318 6333369 : void DoFFT(
3319 : float *re2,
3320 : float *im2,
3321 : const int16_t length )
3322 : {
3323 6333369 : switch ( length )
3324 : {
3325 321 : case 600:
3326 321 : DoRTFT600( re2, im2 );
3327 321 : break;
3328 66099 : case 480:
3329 66099 : DoRTFT480( re2, im2 );
3330 66099 : break;
3331 394 : case 400:
3332 394 : DoRTFT400( re2, im2 );
3333 394 : break;
3334 287271 : case 320:
3335 287271 : DoRTFT320( re2, im2 );
3336 287271 : break;
3337 1434 : case 256:
3338 1434 : DoRTFTn( re2, im2, 256 );
3339 1434 : break;
3340 577560 : case 240:
3341 577560 : DoRTFT240( re2, im2 );
3342 577560 : break;
3343 2820 : case 200:
3344 2820 : DoRTFT200( re2, im2 );
3345 2820 : break;
3346 153987 : case 160:
3347 153987 : DoRTFT160( re2, im2 );
3348 153987 : break;
3349 5136115 : case 128:
3350 5136115 : DoRTFT128( re2, im2 );
3351 5136115 : break;
3352 2272 : case 120:
3353 2272 : DoRTFT120( re2, im2 );
3354 2272 : break;
3355 12 : case 100:
3356 12 : DoRTFT100( re2, im2 );
3357 12 : break;
3358 104336 : case 80:
3359 104336 : DoRTFT80( re2, im2 );
3360 104336 : break;
3361 128 : case 64:
3362 128 : DoRTFTn( re2, im2, 64 );
3363 128 : break;
3364 524 : case 40:
3365 524 : DoRTFT40( re2, im2 );
3366 524 : break;
3367 96 : case 20:
3368 96 : DoRTFT20( re2, im2 );
3369 96 : break;
3370 0 : default:
3371 0 : assert( !"fft is not supported!" );
3372 : }
3373 :
3374 6333369 : return;
3375 : }
3376 :
3377 : /*-----------------------------------------------------------------*
3378 : * Low-complexity implementation of FFT
3379 : *-----------------------------------------------------------------*/
3380 :
3381 4167600 : static void fft_len5(
3382 : float *re,
3383 : float *im,
3384 : const int16_t s )
3385 : {
3386 : float x0, x1, x2, x3, x4;
3387 : float r1, r2, r3, r4;
3388 : float s1, s2, s3, s4;
3389 : float t;
3390 :
3391 4167600 : x0 = re[s * 0];
3392 4167600 : x1 = re[s * 1];
3393 4167600 : x2 = re[s * 2];
3394 4167600 : x3 = re[s * 3];
3395 4167600 : x4 = re[s * 4];
3396 :
3397 4167600 : r1 = ( x1 + x4 );
3398 4167600 : r4 = ( x1 - x4 );
3399 4167600 : r3 = ( x2 + x3 );
3400 4167600 : r2 = ( x2 - x3 );
3401 4167600 : t = ( ( r1 - r3 ) * FFT_C54 );
3402 4167600 : r1 = ( r1 + r3 );
3403 4167600 : re[0] = ( x0 + r1 );
3404 :
3405 4167600 : r1 = ( re[0] + ( ( r1 * FFT_C55 ) ) );
3406 4167600 : r3 = ( r1 - t );
3407 4167600 : r1 = ( r1 + t );
3408 4167600 : t = ( ( r4 + r2 ) * FFT_C51 );
3409 :
3410 4167600 : r4 = ( t + ( r4 * FFT_C52 ) );
3411 4167600 : r2 = ( t + ( r2 * FFT_C53 ) );
3412 :
3413 4167600 : x0 = im[s * 0];
3414 4167600 : x1 = im[s * 1];
3415 4167600 : x2 = im[s * 2];
3416 4167600 : x3 = im[s * 3];
3417 4167600 : x4 = im[s * 4];
3418 :
3419 4167600 : s1 = ( x1 + x4 );
3420 4167600 : s4 = ( x1 - x4 );
3421 4167600 : s3 = ( x2 + x3 );
3422 4167600 : s2 = ( x2 - x3 );
3423 4167600 : t = ( ( s1 - s3 ) * FFT_C54 );
3424 4167600 : s1 = ( s1 + s3 );
3425 4167600 : im[0] = ( x0 + s1 );
3426 :
3427 4167600 : s1 = ( im[0] + ( s1 * FFT_C55 ) );
3428 4167600 : s3 = ( s1 - t );
3429 4167600 : s1 = ( s1 + t );
3430 4167600 : t = ( ( s4 + s2 ) * FFT_C51 );
3431 :
3432 4167600 : s4 = ( t + ( s4 * FFT_C52 ) );
3433 4167600 : s2 = ( t + ( s2 * FFT_C53 ) );
3434 :
3435 4167600 : re[s * 1] = ( r1 + s2 );
3436 4167600 : re[s * 4] = ( r1 - s2 );
3437 4167600 : re[s * 2] = ( r3 - s4 );
3438 4167600 : re[s * 3] = ( r3 + s4 );
3439 :
3440 4167600 : im[s * 1] = ( s1 - r2 );
3441 4167600 : im[s * 4] = ( s1 + r2 );
3442 4167600 : im[s * 2] = ( s3 + r4 );
3443 4167600 : im[s * 3] = ( s3 - r4 );
3444 :
3445 4167600 : return;
3446 : }
3447 :
3448 2224496 : static void fft_len8(
3449 : float *re,
3450 : float *im,
3451 : const int16_t s )
3452 : {
3453 : float x00, x01, x02, x03, x04, x05, x06, x07;
3454 : float x08, x09, x10, x11, x12, x13, x14, x15;
3455 : float t00, t01, t02, t03, t04, t05, t06, t07;
3456 : float t08, t09, t10, t11, t12, t13, t14, t15;
3457 : float s00, s01, s02, s03, s04, s05, s06, s07;
3458 : float s08, s09, s10, s11, s12, s13, s14, s15;
3459 :
3460 2224496 : x00 = re[s * 0];
3461 2224496 : x01 = im[s * 0];
3462 2224496 : x02 = re[s * 1];
3463 2224496 : x03 = im[s * 1];
3464 2224496 : x04 = re[s * 2];
3465 2224496 : x05 = im[s * 2];
3466 2224496 : x06 = re[s * 3];
3467 2224496 : x07 = im[s * 3];
3468 2224496 : x08 = re[s * 4];
3469 2224496 : x09 = im[s * 4];
3470 2224496 : x10 = re[s * 5];
3471 2224496 : x11 = im[s * 5];
3472 2224496 : x12 = re[s * 6];
3473 2224496 : x13 = im[s * 6];
3474 2224496 : x14 = re[s * 7];
3475 2224496 : x15 = im[s * 7];
3476 :
3477 2224496 : t00 = ( x00 + x08 );
3478 2224496 : t02 = ( x00 - x08 );
3479 2224496 : t01 = ( x01 + x09 );
3480 2224496 : t03 = ( x01 - x09 );
3481 2224496 : t04 = ( x02 + x10 );
3482 2224496 : t06 = ( x02 - x10 );
3483 2224496 : t05 = ( x03 + x11 );
3484 2224496 : t07 = ( x03 - x11 );
3485 2224496 : t08 = ( x04 + x12 );
3486 2224496 : t10 = ( x04 - x12 );
3487 2224496 : t09 = ( x05 + x13 );
3488 2224496 : t11 = ( x05 - x13 );
3489 2224496 : t12 = ( x06 + x14 );
3490 2224496 : t14 = ( x06 - x14 );
3491 2224496 : t13 = ( x07 + x15 );
3492 2224496 : t15 = ( x07 - x15 );
3493 :
3494 2224496 : s00 = ( t00 + t08 );
3495 2224496 : s04 = ( t00 - t08 );
3496 2224496 : s01 = ( t01 + t09 );
3497 2224496 : s05 = ( t01 - t09 );
3498 2224496 : s08 = ( t02 - t11 );
3499 2224496 : s10 = ( t02 + t11 );
3500 2224496 : s09 = ( t03 + t10 );
3501 2224496 : s11 = ( t03 - t10 );
3502 2224496 : s02 = ( t04 + t12 );
3503 2224496 : s07 = ( t04 - t12 );
3504 2224496 : s03 = ( t05 + t13 );
3505 2224496 : s06 = ( t13 - t05 );
3506 :
3507 2224496 : t01 = ( t06 + t14 );
3508 2224496 : t02 = ( t06 - t14 );
3509 2224496 : t00 = ( t07 + t15 );
3510 2224496 : t03 = ( t07 - t15 );
3511 :
3512 2224496 : s12 = ( ( t00 + t02 ) * FFT_C81 );
3513 2224496 : s14 = ( ( t00 - t02 ) * FFT_C81 );
3514 2224496 : s13 = ( ( t03 - t01 ) * FFT_C81 );
3515 2224496 : s15 = ( ( t01 + t03 ) * FFT_C82 );
3516 :
3517 2224496 : re[s * 0] = ( s00 + s02 );
3518 2224496 : re[s * 4] = ( s00 - s02 );
3519 2224496 : im[s * 0] = ( s01 + s03 );
3520 2224496 : im[s * 4] = ( s01 - s03 );
3521 2224496 : re[s * 2] = ( s04 - s06 );
3522 2224496 : re[s * 6] = ( s04 + s06 );
3523 2224496 : im[s * 2] = ( s05 - s07 );
3524 2224496 : im[s * 6] = ( s05 + s07 );
3525 2224496 : re[s * 3] = ( s08 + s14 );
3526 2224496 : re[s * 7] = ( s08 - s14 );
3527 2224496 : im[s * 3] = ( s09 + s15 );
3528 2224496 : im[s * 7] = ( s09 - s15 );
3529 2224496 : re[s * 1] = ( s10 + s12 );
3530 2224496 : re[s * 5] = ( s10 - s12 );
3531 2224496 : im[s * 1] = ( s11 + s13 );
3532 2224496 : im[s * 5] = ( s11 - s13 );
3533 :
3534 2224496 : return;
3535 : }
3536 :
3537 245138216 : static void fft_len10(
3538 : float *re,
3539 : float *im,
3540 : const int16_t s )
3541 : {
3542 : float t;
3543 : float x0, x1, x2, x3, x4;
3544 : float r1, r2, r3, r4;
3545 : float s1, s2, s3, s4;
3546 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3547 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3548 :
3549 245138216 : x0 = re[s * 0];
3550 245138216 : x1 = re[s * 2];
3551 245138216 : x2 = re[s * 4];
3552 245138216 : x3 = re[s * 6];
3553 245138216 : x4 = re[s * 8];
3554 :
3555 245138216 : r1 = ( x3 + x2 );
3556 245138216 : r4 = ( x3 - x2 );
3557 245138216 : r3 = ( x1 + x4 );
3558 245138216 : r2 = ( x1 - x4 );
3559 245138216 : t = ( ( r1 - r3 ) * FFT_C54 );
3560 245138216 : r1 = ( r1 + r3 );
3561 245138216 : y00 = ( x0 + r1 );
3562 245138216 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3563 245138216 : r3 = ( r1 - t );
3564 245138216 : r1 = ( r1 + t );
3565 245138216 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3566 245138216 : r4 = ( t + ( r4 * FFT_C52 ) );
3567 245138216 : r2 = ( t + ( r2 * FFT_C53 ) );
3568 :
3569 245138216 : x0 = im[s * 0];
3570 245138216 : x1 = im[s * 2];
3571 245138216 : x2 = im[s * 4];
3572 245138216 : x3 = im[s * 6];
3573 245138216 : x4 = im[s * 8];
3574 :
3575 245138216 : s1 = ( x3 + x2 );
3576 245138216 : s4 = ( x3 - x2 );
3577 245138216 : s3 = ( x1 + x4 );
3578 245138216 : s2 = ( x1 - x4 );
3579 245138216 : t = ( ( s1 - s3 ) * FFT_C54 );
3580 245138216 : s1 = ( s1 + s3 );
3581 245138216 : y01 = ( x0 + s1 );
3582 245138216 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3583 245138216 : s3 = ( s1 - t );
3584 245138216 : s1 = ( s1 + t );
3585 245138216 : t = ( ( s4 + s2 ) * FFT_C51 );
3586 245138216 : s4 = ( t + ( s4 * FFT_C52 ) );
3587 245138216 : s2 = ( t + ( s2 * FFT_C53 ) );
3588 :
3589 245138216 : y04 = ( r1 + s2 );
3590 245138216 : y16 = ( r1 - s2 );
3591 245138216 : y08 = ( r3 - s4 );
3592 245138216 : y12 = ( r3 + s4 );
3593 :
3594 245138216 : y05 = ( s1 - r2 );
3595 245138216 : y17 = ( s1 + r2 );
3596 245138216 : y09 = ( s3 + r4 );
3597 245138216 : y13 = ( s3 - r4 );
3598 :
3599 245138216 : x0 = re[s * 5];
3600 245138216 : x1 = re[s * 1];
3601 245138216 : x2 = re[s * 3];
3602 245138216 : x3 = re[s * 7];
3603 245138216 : x4 = re[s * 9];
3604 :
3605 245138216 : r1 = ( x1 + x4 );
3606 245138216 : r4 = ( x1 - x4 );
3607 245138216 : r3 = ( x3 + x2 );
3608 245138216 : r2 = ( x3 - x2 );
3609 245138216 : t = ( ( r1 - r3 ) * FFT_C54 );
3610 245138216 : r1 = ( r1 + r3 );
3611 245138216 : y02 = ( x0 + r1 );
3612 245138216 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
3613 245138216 : r3 = ( r1 - t );
3614 245138216 : r1 = ( r1 + t );
3615 245138216 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3616 245138216 : r4 = ( t + ( r4 * FFT_C52 ) );
3617 245138216 : r2 = ( t + ( r2 * FFT_C53 ) );
3618 :
3619 245138216 : x0 = im[s * 5];
3620 245138216 : x1 = im[s * 1];
3621 245138216 : x2 = im[s * 3];
3622 245138216 : x3 = im[s * 7];
3623 245138216 : x4 = im[s * 9];
3624 :
3625 245138216 : s1 = ( x1 + x4 );
3626 245138216 : s4 = ( x1 - x4 );
3627 245138216 : s3 = ( x3 + x2 );
3628 245138216 : s2 = ( x3 - x2 );
3629 245138216 : t = ( ( s1 - s3 ) * FFT_C54 );
3630 245138216 : s1 = ( s1 + s3 );
3631 245138216 : y03 = ( x0 + s1 );
3632 245138216 : s1 = ( y03 + ( s1 * FFT_C55 ) );
3633 245138216 : s3 = ( s1 - t );
3634 245138216 : s1 = ( s1 + t );
3635 245138216 : t = ( ( s4 + s2 ) * FFT_C51 );
3636 245138216 : s4 = ( t + ( s4 * FFT_C52 ) );
3637 245138216 : s2 = ( t + ( s2 * FFT_C53 ) );
3638 :
3639 245138216 : y06 = ( r1 + s2 );
3640 245138216 : y18 = ( r1 - s2 );
3641 245138216 : y10 = ( r3 - s4 );
3642 245138216 : y14 = ( r3 + s4 );
3643 :
3644 245138216 : y07 = ( s1 - r2 );
3645 245138216 : y19 = ( s1 + r2 );
3646 245138216 : y11 = ( s3 + r4 );
3647 245138216 : y15 = ( s3 - r4 );
3648 :
3649 245138216 : re[s * 0] = ( y00 + y02 );
3650 245138216 : im[s * 0] = ( y01 + y03 );
3651 245138216 : re[s * 5] = ( y00 - y02 );
3652 245138216 : im[s * 5] = ( y01 - y03 );
3653 :
3654 245138216 : re[s * 2] = ( y04 + y06 );
3655 245138216 : im[s * 2] = ( y05 + y07 );
3656 245138216 : re[s * 7] = ( y04 - y06 );
3657 245138216 : im[s * 7] = ( y05 - y07 );
3658 :
3659 245138216 : re[s * 4] = ( y08 + y10 );
3660 245138216 : im[s * 4] = ( y09 + y11 );
3661 245138216 : re[s * 9] = ( y08 - y10 );
3662 245138216 : im[s * 9] = ( y09 - y11 );
3663 :
3664 245138216 : re[s * 6] = ( y12 + y14 );
3665 245138216 : im[s * 6] = ( y13 + y15 );
3666 245138216 : re[s * 1] = ( y12 - y14 );
3667 245138216 : im[s * 1] = ( y13 - y15 );
3668 :
3669 245138216 : re[s * 8] = ( y16 + y18 );
3670 245138216 : im[s * 8] = ( y17 + y19 );
3671 245138216 : re[s * 3] = ( y16 - y18 );
3672 245138216 : im[s * 3] = ( y17 - y19 );
3673 :
3674 245138216 : return;
3675 : }
3676 :
3677 15137672 : static void fft_len15(
3678 : float *re,
3679 : float *im,
3680 : const int16_t s )
3681 : {
3682 : float t;
3683 : float r1, r2, r3, r4;
3684 : float s1, s2, s3, s4;
3685 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
3686 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
3687 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
3688 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3689 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3690 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
3691 :
3692 15137672 : x00 = re[s * 0];
3693 15137672 : x01 = im[s * 0];
3694 15137672 : x02 = re[s * 3];
3695 15137672 : x03 = im[s * 3];
3696 15137672 : x04 = re[s * 6];
3697 15137672 : x05 = im[s * 6];
3698 15137672 : x06 = re[s * 9];
3699 15137672 : x07 = im[s * 9];
3700 15137672 : x08 = re[s * 12];
3701 15137672 : x09 = im[s * 12];
3702 :
3703 15137672 : x10 = re[s * 5];
3704 15137672 : x11 = im[s * 5];
3705 15137672 : x12 = re[s * 8];
3706 15137672 : x13 = im[s * 8];
3707 15137672 : x14 = re[s * 11];
3708 15137672 : x15 = im[s * 11];
3709 15137672 : x16 = re[s * 14];
3710 15137672 : x17 = im[s * 14];
3711 15137672 : x18 = re[s * 2];
3712 15137672 : x19 = im[s * 2];
3713 :
3714 15137672 : x20 = re[s * 10];
3715 15137672 : x21 = im[s * 10];
3716 15137672 : x22 = re[s * 13];
3717 15137672 : x23 = im[s * 13];
3718 15137672 : x24 = re[s * 1];
3719 15137672 : x25 = im[s * 1];
3720 15137672 : x26 = re[s * 4];
3721 15137672 : x27 = im[s * 4];
3722 15137672 : x28 = re[s * 7];
3723 15137672 : x29 = im[s * 7];
3724 :
3725 15137672 : r1 = ( x02 + x08 );
3726 15137672 : r4 = ( x02 - x08 );
3727 15137672 : r3 = ( x04 + x06 );
3728 15137672 : r2 = ( x04 - x06 );
3729 15137672 : t = ( ( r1 - r3 ) * FFT_C54 );
3730 15137672 : r1 = ( r1 + r3 );
3731 15137672 : y00 = ( x00 + r1 );
3732 15137672 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3733 15137672 : r3 = ( r1 - t );
3734 15137672 : r1 = ( r1 + t );
3735 15137672 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3736 15137672 : r4 = ( t + ( r4 * FFT_C52 ) );
3737 15137672 : r2 = ( t + ( r2 * FFT_C53 ) );
3738 :
3739 15137672 : s1 = ( x03 + x09 );
3740 15137672 : s4 = ( x03 - x09 );
3741 15137672 : s3 = ( x05 + x07 );
3742 15137672 : s2 = ( x05 - x07 );
3743 15137672 : t = ( ( s1 - s3 ) * FFT_C54 );
3744 15137672 : s1 = ( s1 + s3 );
3745 15137672 : y01 = ( x01 + s1 );
3746 15137672 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3747 15137672 : s3 = ( s1 - t );
3748 15137672 : s1 = ( s1 + t );
3749 15137672 : t = ( ( s4 + s2 ) * FFT_C51 );
3750 15137672 : s4 = ( t + ( s4 * FFT_C52 ) );
3751 15137672 : s2 = ( t + ( s2 * FFT_C53 ) );
3752 :
3753 15137672 : y02 = ( r1 + s2 );
3754 15137672 : y08 = ( r1 - s2 );
3755 15137672 : y04 = ( r3 - s4 );
3756 15137672 : y06 = ( r3 + s4 );
3757 :
3758 15137672 : y03 = ( s1 - r2 );
3759 15137672 : y09 = ( s1 + r2 );
3760 15137672 : y05 = ( s3 + r4 );
3761 15137672 : y07 = ( s3 - r4 );
3762 :
3763 15137672 : r1 = ( x12 + x18 );
3764 15137672 : r4 = ( x12 - x18 );
3765 15137672 : r3 = ( x14 + x16 );
3766 15137672 : r2 = ( x14 - x16 );
3767 15137672 : t = ( ( r1 - r3 ) * FFT_C54 );
3768 15137672 : r1 = ( r1 + r3 );
3769 15137672 : y10 = ( x10 + r1 );
3770 15137672 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
3771 15137672 : r3 = ( r1 - t );
3772 15137672 : r1 = ( r1 + t );
3773 15137672 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3774 15137672 : r4 = ( t + ( r4 * FFT_C52 ) );
3775 15137672 : r2 = ( t + ( r2 * FFT_C53 ) );
3776 :
3777 15137672 : s1 = ( x13 + x19 );
3778 15137672 : s4 = ( x13 - x19 );
3779 15137672 : s3 = ( x15 + x17 );
3780 15137672 : s2 = ( x15 - x17 );
3781 15137672 : t = ( ( s1 - s3 ) * FFT_C54 );
3782 15137672 : s1 = ( s1 + s3 );
3783 15137672 : y11 = ( x11 + s1 );
3784 15137672 : s1 = ( y11 + ( s1 * FFT_C55 ) );
3785 15137672 : s3 = ( s1 - t );
3786 15137672 : s1 = ( s1 + t );
3787 15137672 : t = ( ( s4 + s2 ) * FFT_C51 );
3788 15137672 : s4 = ( t + ( s4 * FFT_C52 ) );
3789 15137672 : s2 = ( t + ( s2 * FFT_C53 ) );
3790 :
3791 15137672 : y12 = ( r1 + s2 );
3792 15137672 : y18 = ( r1 - s2 );
3793 15137672 : y14 = ( r3 - s4 );
3794 15137672 : y16 = ( r3 + s4 );
3795 :
3796 15137672 : y13 = ( s1 - r2 );
3797 15137672 : y19 = ( s1 + r2 );
3798 15137672 : y15 = ( s3 + r4 );
3799 15137672 : y17 = ( s3 - r4 );
3800 :
3801 15137672 : r1 = ( x22 + x28 );
3802 15137672 : r4 = ( x22 - x28 );
3803 15137672 : r3 = ( x24 + x26 );
3804 15137672 : r2 = ( x24 - x26 );
3805 15137672 : t = ( ( r1 - r3 ) * FFT_C54 );
3806 15137672 : r1 = ( r1 + r3 );
3807 15137672 : y20 = ( x20 + r1 );
3808 15137672 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
3809 15137672 : r3 = ( r1 - t );
3810 15137672 : r1 = ( r1 + t );
3811 15137672 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3812 15137672 : r4 = ( t + ( r4 * FFT_C52 ) );
3813 15137672 : r2 = ( t + ( r2 * FFT_C53 ) );
3814 :
3815 15137672 : s1 = ( x23 + x29 );
3816 15137672 : s4 = ( x23 - x29 );
3817 15137672 : s3 = ( x25 + x27 );
3818 15137672 : s2 = ( x25 - x27 );
3819 15137672 : t = ( ( s1 - s3 ) * FFT_C54 );
3820 15137672 : s1 = ( s1 + s3 );
3821 15137672 : y21 = ( x21 + s1 );
3822 15137672 : s1 = ( y21 + ( s1 * FFT_C55 ) );
3823 15137672 : s3 = ( s1 - t );
3824 15137672 : s1 = ( s1 + t );
3825 15137672 : t = ( ( s4 + s2 ) * FFT_C51 );
3826 15137672 : s4 = ( t + ( s4 * FFT_C52 ) );
3827 15137672 : s2 = ( t + ( s2 * FFT_C53 ) );
3828 :
3829 15137672 : y22 = ( r1 + s2 );
3830 15137672 : y28 = ( r1 - s2 );
3831 15137672 : y24 = ( r3 - s4 );
3832 15137672 : y26 = ( r3 + s4 );
3833 :
3834 15137672 : y23 = ( s1 - r2 );
3835 15137672 : y29 = ( s1 + r2 );
3836 15137672 : y25 = ( s3 + r4 );
3837 15137672 : y27 = ( s3 - r4 );
3838 :
3839 15137672 : r1 = ( y10 + y20 );
3840 15137672 : r2 = ( ( y10 - y20 ) * FFT_C31 );
3841 15137672 : re[s * 0] = ( y00 + r1 );
3842 15137672 : r1 = ( y00 - r1 * 0.5f );
3843 :
3844 15137672 : s1 = ( y11 + y21 );
3845 15137672 : s2 = ( ( y11 - y21 ) * FFT_C31 );
3846 15137672 : im[s * 0] = ( y01 + s1 );
3847 15137672 : s1 = ( y01 - s1 * 0.5f );
3848 :
3849 15137672 : re[s * 10] = ( r1 - s2 );
3850 15137672 : re[s * 5] = ( r1 + s2 );
3851 15137672 : im[s * 10] = ( s1 + r2 );
3852 15137672 : im[s * 5] = ( s1 - r2 );
3853 :
3854 15137672 : r1 = ( y12 + y22 );
3855 15137672 : r2 = ( ( y12 - y22 ) * FFT_C31 );
3856 15137672 : re[s * 6] = ( y02 + r1 );
3857 15137672 : r1 = ( y02 - r1 * 0.5f );
3858 :
3859 15137672 : s1 = ( y13 + y23 );
3860 15137672 : s2 = ( ( y13 - y23 ) * FFT_C31 );
3861 15137672 : im[s * 6] = ( y03 + s1 );
3862 15137672 : s1 = ( y03 - s1 * 0.5f );
3863 :
3864 15137672 : re[s * 1] = ( r1 - s2 );
3865 15137672 : re[s * 11] = ( r1 + s2 );
3866 15137672 : im[s * 1] = ( s1 + r2 );
3867 15137672 : im[s * 11] = ( s1 - r2 );
3868 :
3869 15137672 : r1 = ( y14 + y24 );
3870 15137672 : r2 = ( ( y14 - y24 ) * FFT_C31 );
3871 15137672 : re[s * 12] = ( y04 + r1 );
3872 15137672 : r1 = ( y04 - r1 * 0.5f );
3873 :
3874 15137672 : s1 = ( y15 + y25 );
3875 15137672 : s2 = ( ( y15 - y25 ) * FFT_C31 );
3876 15137672 : im[s * 12] = ( y05 + s1 );
3877 15137672 : s1 = ( y05 - s1 * 0.5f );
3878 :
3879 15137672 : re[s * 7] = ( r1 - s2 );
3880 15137672 : re[s * 2] = ( r1 + s2 );
3881 15137672 : im[s * 7] = ( s1 + r2 );
3882 15137672 : im[s * 2] = ( s1 - r2 );
3883 :
3884 15137672 : r1 = ( y16 + y26 );
3885 15137672 : r2 = ( ( y16 - y26 ) * FFT_C31 );
3886 15137672 : re[s * 3] = ( y06 + r1 );
3887 15137672 : r1 = ( y06 - r1 * 0.5f );
3888 :
3889 15137672 : s1 = ( y17 + y27 );
3890 15137672 : s2 = ( ( y17 - y27 ) * FFT_C31 );
3891 15137672 : im[s * 3] = ( y07 + s1 );
3892 15137672 : s1 = ( y07 - s1 * 0.5f );
3893 :
3894 15137672 : re[s * 13] = ( r1 - s2 );
3895 15137672 : re[s * 8] = ( r1 + s2 );
3896 15137672 : im[s * 13] = ( s1 + r2 );
3897 15137672 : im[s * 8] = ( s1 - r2 );
3898 :
3899 15137672 : r1 = ( y18 + y28 );
3900 15137672 : r2 = ( ( y18 - y28 ) * FFT_C31 );
3901 15137672 : re[s * 9] = ( y08 + r1 );
3902 15137672 : r1 = ( y08 - r1 * 0.5f );
3903 :
3904 15137672 : s1 = ( y19 + y29 );
3905 15137672 : s2 = ( ( y19 - y29 ) * FFT_C31 );
3906 15137672 : im[s * 9] = ( y09 + s1 );
3907 15137672 : s1 = ( y09 - s1 * 0.5f );
3908 :
3909 15137672 : re[s * 4] = ( r1 - s2 );
3910 15137672 : re[s * 14] = ( r1 + s2 );
3911 15137672 : im[s * 4] = ( s1 + r2 );
3912 15137672 : im[s * 14] = ( s1 - r2 );
3913 :
3914 15137672 : return;
3915 : }
3916 :
3917 615182606 : static void fft_len16(
3918 : float *re,
3919 : float *im,
3920 : const int16_t s )
3921 : {
3922 : float x0, x1, x2, x3, x4, x5, x6, x7;
3923 : float t0, t1, t2, t3, t4, t5, t6, t7;
3924 : float y00, y01, y02, y03, y04, y05, y06, y07;
3925 : float y08, y09, y10, y11, y12, y13, y14, y15;
3926 : float y16, y17, y18, y19, y20, y21, y22, y23;
3927 : float y24, y25, y26, y27, y28, y29, y30, y31;
3928 :
3929 615182606 : x0 = re[s * 0];
3930 615182606 : x1 = im[s * 0];
3931 615182606 : x2 = re[s * 4];
3932 615182606 : x3 = im[s * 4];
3933 615182606 : x4 = re[s * 8];
3934 615182606 : x5 = im[s * 8];
3935 615182606 : x6 = re[s * 12];
3936 615182606 : x7 = im[s * 12];
3937 :
3938 615182606 : t0 = ( x0 + x4 );
3939 615182606 : t2 = ( x0 - x4 );
3940 615182606 : t1 = ( x1 + x5 );
3941 615182606 : t3 = ( x1 - x5 );
3942 615182606 : t4 = ( x2 + x6 );
3943 615182606 : t7 = ( x2 - x6 );
3944 615182606 : t5 = ( x7 + x3 );
3945 615182606 : t6 = ( x7 - x3 );
3946 :
3947 615182606 : y00 = ( t0 + t4 );
3948 615182606 : y01 = ( t1 + t5 );
3949 615182606 : y02 = ( t2 - t6 );
3950 615182606 : y03 = ( t3 - t7 );
3951 615182606 : y04 = ( t0 - t4 );
3952 615182606 : y05 = ( t1 - t5 );
3953 615182606 : y06 = ( t2 + t6 );
3954 615182606 : y07 = ( t3 + t7 );
3955 :
3956 615182606 : x0 = re[s * 1];
3957 615182606 : x1 = im[s * 1];
3958 615182606 : x2 = re[s * 5];
3959 615182606 : x3 = im[s * 5];
3960 615182606 : x4 = re[s * 9];
3961 615182606 : x5 = im[s * 9];
3962 615182606 : x6 = re[s * 13];
3963 615182606 : x7 = im[s * 13];
3964 :
3965 615182606 : t0 = ( x0 + x4 );
3966 615182606 : t2 = ( x0 - x4 );
3967 615182606 : t1 = ( x1 + x5 );
3968 615182606 : t3 = ( x1 - x5 );
3969 615182606 : t4 = ( x2 + x6 );
3970 615182606 : t7 = ( x2 - x6 );
3971 615182606 : t5 = ( x7 + x3 );
3972 615182606 : t6 = ( x7 - x3 );
3973 :
3974 615182606 : y08 = ( t0 + t4 );
3975 615182606 : y09 = ( t1 + t5 );
3976 615182606 : y10 = ( t2 - t6 );
3977 615182606 : y11 = ( t3 - t7 );
3978 615182606 : y12 = ( t0 - t4 );
3979 615182606 : y13 = ( t1 - t5 );
3980 615182606 : y14 = ( t2 + t6 );
3981 615182606 : y15 = ( t3 + t7 );
3982 :
3983 615182606 : x0 = re[s * 2];
3984 615182606 : x1 = im[s * 2];
3985 615182606 : x2 = re[s * 6];
3986 615182606 : x3 = im[s * 6];
3987 615182606 : x4 = re[s * 10];
3988 615182606 : x5 = im[s * 10];
3989 615182606 : x6 = re[s * 14];
3990 615182606 : x7 = im[s * 14];
3991 :
3992 615182606 : t0 = ( x0 + x4 );
3993 615182606 : t2 = ( x0 - x4 );
3994 615182606 : t1 = ( x1 + x5 );
3995 615182606 : t3 = ( x1 - x5 );
3996 615182606 : t4 = ( x2 + x6 );
3997 615182606 : t7 = ( x2 - x6 );
3998 615182606 : t5 = ( x7 + x3 );
3999 615182606 : t6 = ( x7 - x3 );
4000 :
4001 615182606 : y16 = ( t0 + t4 );
4002 615182606 : y17 = ( t1 + t5 );
4003 615182606 : y18 = ( t2 - t6 );
4004 615182606 : y19 = ( t3 - t7 );
4005 615182606 : y20 = ( t1 - t5 );
4006 615182606 : y21 = ( t4 - t0 );
4007 615182606 : y22 = ( t2 + t6 );
4008 615182606 : y23 = ( t3 + t7 );
4009 :
4010 615182606 : x0 = re[s * 3];
4011 615182606 : x1 = im[s * 3];
4012 615182606 : x2 = re[s * 7];
4013 615182606 : x3 = im[s * 7];
4014 615182606 : x4 = re[s * 11];
4015 615182606 : x5 = im[s * 11];
4016 615182606 : x6 = re[s * 15];
4017 615182606 : x7 = im[s * 15];
4018 :
4019 615182606 : t0 = ( x0 + x4 );
4020 615182606 : t2 = ( x0 - x4 );
4021 615182606 : t1 = ( x1 + x5 );
4022 615182606 : t3 = ( x1 - x5 );
4023 615182606 : t4 = ( x2 + x6 );
4024 615182606 : t7 = ( x2 - x6 );
4025 615182606 : t5 = ( x7 + x3 );
4026 615182606 : t6 = ( x7 - x3 );
4027 :
4028 615182606 : y24 = ( t0 + t4 );
4029 615182606 : y25 = ( t1 + t5 );
4030 615182606 : y26 = ( t2 - t6 );
4031 615182606 : y27 = ( t3 - t7 );
4032 615182606 : y28 = ( t0 - t4 );
4033 615182606 : y29 = ( t1 - t5 );
4034 615182606 : y30 = ( t2 + t6 );
4035 615182606 : y31 = ( t3 + t7 );
4036 :
4037 615182606 : x0 = ( y22 * FFT_C162 );
4038 615182606 : x1 = ( y23 * FFT_C162 );
4039 615182606 : y22 = ( x0 - x1 );
4040 615182606 : y23 = ( x0 + x1 );
4041 :
4042 615182606 : x0 = ( y28 * FFT_C162 );
4043 615182606 : x1 = ( y29 * FFT_C162 );
4044 615182606 : y28 = ( x0 - x1 );
4045 615182606 : y29 = ( x0 + x1 );
4046 :
4047 615182606 : x0 = ( y12 * FFT_C161 );
4048 615182606 : x1 = ( y13 * FFT_C161 );
4049 615182606 : y12 = ( x0 + x1 );
4050 615182606 : y13 = ( x1 - x0 );
4051 :
4052 615182606 : x0 = ( y18 * FFT_C161 );
4053 615182606 : x1 = ( y19 * FFT_C161 );
4054 615182606 : y18 = ( x0 + x1 );
4055 615182606 : y19 = ( x1 - x0 );
4056 :
4057 615182606 : x0 = ( y10 * FFT_C163 );
4058 615182606 : x1 = ( y11 * FFT_C166 );
4059 615182606 : x2 = ( y10 * FFT_C166 );
4060 615182606 : x3 = ( y11 * FFT_C163 );
4061 615182606 : y10 = ( x0 - x1 );
4062 615182606 : y11 = ( x2 + x3 );
4063 :
4064 615182606 : x0 = ( y14 * FFT_C165 );
4065 615182606 : x1 = ( y15 * FFT_C164 );
4066 615182606 : x2 = ( y14 * FFT_C164 );
4067 615182606 : x3 = ( y15 * FFT_C165 );
4068 615182606 : y14 = ( x0 - x1 );
4069 615182606 : y15 = ( x2 + x3 );
4070 :
4071 615182606 : x0 = ( y26 * FFT_C165 );
4072 615182606 : x1 = ( y27 * FFT_C164 );
4073 615182606 : x2 = ( y26 * FFT_C164 );
4074 615182606 : x3 = ( y27 * FFT_C165 );
4075 615182606 : y26 = ( x0 - x1 );
4076 615182606 : y27 = ( x2 + x3 );
4077 :
4078 615182606 : x0 = ( y30 * FFT_C164 );
4079 615182606 : x1 = ( y31 * FFT_C165 );
4080 615182606 : x2 = ( y30 * FFT_C165 );
4081 615182606 : x3 = ( y31 * FFT_C164 );
4082 615182606 : y30 = ( x0 - x1 );
4083 615182606 : y31 = ( x2 + x3 );
4084 :
4085 615182606 : t0 = ( y00 + y16 );
4086 615182606 : t2 = ( y00 - y16 );
4087 615182606 : t1 = ( y01 + y17 );
4088 615182606 : t3 = ( y01 - y17 );
4089 615182606 : t4 = ( y08 + y24 );
4090 615182606 : t7 = ( y08 - y24 );
4091 615182606 : t5 = ( y25 + y09 );
4092 615182606 : t6 = ( y25 - y09 );
4093 :
4094 615182606 : re[s * 0] = ( t0 + t4 );
4095 615182606 : im[s * 0] = ( t1 + t5 );
4096 615182606 : re[s * 4] = ( t2 - t6 );
4097 615182606 : im[s * 4] = ( t3 - t7 );
4098 615182606 : re[s * 8] = ( t0 - t4 );
4099 615182606 : im[s * 8] = ( t1 - t5 );
4100 615182606 : re[s * 12] = ( t2 + t6 );
4101 615182606 : im[s * 12] = ( t3 + t7 );
4102 :
4103 615182606 : t0 = ( y02 + y18 );
4104 615182606 : t2 = ( y02 - y18 );
4105 615182606 : t1 = ( y03 + y19 );
4106 615182606 : t3 = ( y03 - y19 );
4107 615182606 : t4 = ( y10 + y26 );
4108 615182606 : t7 = ( y10 - y26 );
4109 615182606 : t5 = ( y27 + y11 );
4110 615182606 : t6 = ( y27 - y11 );
4111 :
4112 615182606 : re[s * 1] = ( t0 + t4 );
4113 615182606 : im[s * 1] = ( t1 + t5 );
4114 615182606 : re[s * 5] = ( t2 - t6 );
4115 615182606 : im[s * 5] = ( t3 - t7 );
4116 615182606 : re[s * 9] = ( t0 - t4 );
4117 615182606 : im[s * 9] = ( t1 - t5 );
4118 615182606 : re[s * 13] = ( t2 + t6 );
4119 615182606 : im[s * 13] = ( t3 + t7 );
4120 :
4121 615182606 : t0 = ( y04 + y20 );
4122 615182606 : t2 = ( y04 - y20 );
4123 615182606 : t1 = ( y05 + y21 );
4124 615182606 : t3 = ( y05 - y21 );
4125 615182606 : t4 = ( y12 + y28 );
4126 615182606 : t7 = ( y12 - y28 );
4127 615182606 : t5 = ( y29 + y13 );
4128 615182606 : t6 = ( y29 - y13 );
4129 :
4130 615182606 : re[s * 2] = ( t0 + t4 );
4131 615182606 : im[s * 2] = ( t1 + t5 );
4132 615182606 : re[s * 6] = ( t2 - t6 );
4133 615182606 : im[s * 6] = ( t3 - t7 );
4134 615182606 : re[s * 10] = ( t0 - t4 );
4135 615182606 : im[s * 10] = ( t1 - t5 );
4136 615182606 : re[s * 14] = ( t2 + t6 );
4137 615182606 : im[s * 14] = ( t3 + t7 );
4138 :
4139 615182606 : t0 = ( y06 + y22 );
4140 615182606 : t2 = ( y06 - y22 );
4141 615182606 : t1 = ( y07 + y23 );
4142 615182606 : t3 = ( y07 - y23 );
4143 615182606 : t4 = ( y14 + y30 );
4144 615182606 : t7 = ( y14 - y30 );
4145 615182606 : t5 = ( y31 + y15 );
4146 615182606 : t6 = ( y31 - y15 );
4147 :
4148 615182606 : re[s * 3] = ( t0 + t4 );
4149 615182606 : im[s * 3] = ( t1 + t5 );
4150 615182606 : re[s * 7] = ( t2 - t6 );
4151 615182606 : im[s * 7] = ( t3 - t7 );
4152 615182606 : re[s * 11] = ( t0 - t4 );
4153 615182606 : im[s * 11] = ( t1 - t5 );
4154 615182606 : re[s * 15] = ( t2 + t6 );
4155 615182606 : im[s * 15] = ( t3 + t7 );
4156 :
4157 615182606 : return;
4158 : }
4159 :
4160 546971320 : static void fft_len20(
4161 : float *re,
4162 : float *im,
4163 : const int16_t s )
4164 : {
4165 : float r1, r2, r3, r4;
4166 : float s1, s2, s3, s4;
4167 : float x0, x1, x2, x3, x4;
4168 : float t, t0, t1, t2, t3, t4, t5, t6, t7;
4169 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4170 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4171 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4172 : float y30, y31, y32, y33, y34, y35, y36, y37, y38, y39;
4173 :
4174 546971320 : x0 = re[s * 0];
4175 546971320 : x1 = re[s * 16];
4176 546971320 : x2 = re[s * 12];
4177 546971320 : x3 = re[s * 8];
4178 546971320 : x4 = re[s * 4];
4179 :
4180 546971320 : r1 = ( x1 + x4 );
4181 546971320 : r4 = ( x1 - x4 );
4182 546971320 : r3 = ( x2 + x3 );
4183 546971320 : r2 = ( x2 - x3 );
4184 546971320 : t = ( ( r1 - r3 ) * FFT_C54 );
4185 546971320 : r1 = ( r1 + r3 );
4186 546971320 : y00 = ( x0 + r1 );
4187 546971320 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4188 546971320 : r3 = ( r1 - t );
4189 546971320 : r1 = ( r1 + t );
4190 546971320 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4191 546971320 : r4 = ( t + ( r4 * FFT_C52 ) );
4192 546971320 : r2 = ( t + ( r2 * FFT_C53 ) );
4193 :
4194 546971320 : x0 = im[s * 0];
4195 546971320 : x1 = im[s * 16];
4196 546971320 : x2 = im[s * 12];
4197 546971320 : x3 = im[s * 8];
4198 546971320 : x4 = im[s * 4];
4199 :
4200 546971320 : s1 = ( x1 + x4 );
4201 546971320 : s4 = ( x1 - x4 );
4202 546971320 : s3 = ( x2 + x3 );
4203 546971320 : s2 = ( x2 - x3 );
4204 546971320 : t = ( ( s1 - s3 ) * FFT_C54 );
4205 546971320 : s1 = ( s1 + s3 );
4206 546971320 : y01 = ( x0 + s1 );
4207 546971320 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4208 546971320 : s3 = ( s1 - t );
4209 546971320 : s1 = ( s1 + t );
4210 546971320 : t = ( ( s4 + s2 ) * FFT_C51 );
4211 546971320 : s4 = ( t + ( s4 * FFT_C52 ) );
4212 546971320 : s2 = ( t + ( s2 * FFT_C53 ) );
4213 :
4214 546971320 : y08 = ( r1 + s2 );
4215 546971320 : y32 = ( r1 - s2 );
4216 546971320 : y16 = ( r3 - s4 );
4217 546971320 : y24 = ( r3 + s4 );
4218 :
4219 546971320 : y09 = ( s1 - r2 );
4220 546971320 : y33 = ( s1 + r2 );
4221 546971320 : y17 = ( s3 + r4 );
4222 546971320 : y25 = ( s3 - r4 );
4223 :
4224 546971320 : x0 = re[s * 5];
4225 546971320 : x1 = re[s * 1];
4226 546971320 : x2 = re[s * 17];
4227 546971320 : x3 = re[s * 13];
4228 546971320 : x4 = re[s * 9];
4229 :
4230 546971320 : r1 = ( x1 + x4 );
4231 546971320 : r4 = ( x1 - x4 );
4232 546971320 : r3 = ( x2 + x3 );
4233 546971320 : r2 = ( x2 - x3 );
4234 546971320 : t = ( ( r1 - r3 ) * FFT_C54 );
4235 546971320 : r1 = ( r1 + r3 );
4236 546971320 : y02 = ( x0 + r1 );
4237 546971320 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
4238 546971320 : r3 = ( r1 - t );
4239 546971320 : r1 = ( r1 + t );
4240 546971320 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4241 546971320 : r4 = ( t + ( r4 * FFT_C52 ) );
4242 546971320 : r2 = ( t + ( r2 * FFT_C53 ) );
4243 :
4244 546971320 : x0 = im[s * 5];
4245 546971320 : x1 = im[s * 1];
4246 546971320 : x2 = im[s * 17];
4247 546971320 : x3 = im[s * 13];
4248 546971320 : x4 = im[s * 9];
4249 :
4250 546971320 : s1 = ( x1 + x4 );
4251 546971320 : s4 = ( x1 - x4 );
4252 546971320 : s3 = ( x2 + x3 );
4253 546971320 : s2 = ( x2 - x3 );
4254 546971320 : t = ( ( s1 - s3 ) * FFT_C54 );
4255 546971320 : s1 = ( s1 + s3 );
4256 546971320 : y03 = ( x0 + s1 );
4257 546971320 : s1 = ( y03 + ( s1 * FFT_C55 ) );
4258 546971320 : s3 = ( s1 - t );
4259 546971320 : s1 = ( s1 + t );
4260 546971320 : t = ( ( s4 + s2 ) * FFT_C51 );
4261 546971320 : s4 = ( t + ( s4 * FFT_C52 ) );
4262 546971320 : s2 = ( t + ( s2 * FFT_C53 ) );
4263 :
4264 546971320 : y10 = ( r1 + s2 );
4265 546971320 : y34 = ( r1 - s2 );
4266 546971320 : y18 = ( r3 - s4 );
4267 546971320 : y26 = ( r3 + s4 );
4268 :
4269 546971320 : y11 = ( s1 - r2 );
4270 546971320 : y35 = ( s1 + r2 );
4271 546971320 : y19 = ( s3 + r4 );
4272 546971320 : y27 = ( s3 - r4 );
4273 :
4274 546971320 : x0 = re[s * 10];
4275 546971320 : x1 = re[s * 6];
4276 546971320 : x2 = re[s * 2];
4277 546971320 : x3 = re[s * 18];
4278 546971320 : x4 = re[s * 14];
4279 :
4280 546971320 : r1 = ( x1 + x4 );
4281 546971320 : r4 = ( x1 - x4 );
4282 546971320 : r3 = ( x2 + x3 );
4283 546971320 : r2 = ( x2 - x3 );
4284 546971320 : t = ( ( r1 - r3 ) * FFT_C54 );
4285 546971320 : r1 = ( r1 + r3 );
4286 546971320 : y04 = ( x0 + r1 );
4287 546971320 : r1 = ( y04 + ( ( r1 * FFT_C55 ) ) );
4288 546971320 : r3 = ( r1 - t );
4289 546971320 : r1 = ( r1 + t );
4290 546971320 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4291 546971320 : r4 = ( t + ( r4 * FFT_C52 ) );
4292 546971320 : r2 = ( t + ( r2 * FFT_C53 ) );
4293 :
4294 546971320 : x0 = im[s * 10];
4295 546971320 : x1 = im[s * 6];
4296 546971320 : x2 = im[s * 2];
4297 546971320 : x3 = im[s * 18];
4298 546971320 : x4 = im[s * 14];
4299 :
4300 546971320 : s1 = ( x1 + x4 );
4301 546971320 : s4 = ( x1 - x4 );
4302 546971320 : s3 = ( x2 + x3 );
4303 546971320 : s2 = ( x2 - x3 );
4304 546971320 : t = ( ( s1 - s3 ) * FFT_C54 );
4305 546971320 : s1 = ( s1 + s3 );
4306 546971320 : y05 = ( x0 + s1 );
4307 546971320 : s1 = ( y05 + ( s1 * FFT_C55 ) );
4308 546971320 : s3 = ( s1 - t );
4309 546971320 : s1 = ( s1 + t );
4310 546971320 : t = ( ( s4 + s2 ) * FFT_C51 );
4311 546971320 : s4 = ( t + ( s4 * FFT_C52 ) );
4312 546971320 : s2 = ( t + ( s2 * FFT_C53 ) );
4313 :
4314 546971320 : y12 = ( r1 + s2 );
4315 546971320 : y36 = ( r1 - s2 );
4316 546971320 : y20 = ( r3 - s4 );
4317 546971320 : y28 = ( r3 + s4 );
4318 :
4319 546971320 : y13 = ( s1 - r2 );
4320 546971320 : y37 = ( s1 + r2 );
4321 546971320 : y21 = ( s3 + r4 );
4322 546971320 : y29 = ( s3 - r4 );
4323 :
4324 546971320 : x0 = re[s * 15];
4325 546971320 : x1 = re[s * 11];
4326 546971320 : x2 = re[s * 7];
4327 546971320 : x3 = re[s * 3];
4328 546971320 : x4 = re[s * 19];
4329 :
4330 546971320 : r1 = ( x1 + x4 );
4331 546971320 : r4 = ( x1 - x4 );
4332 546971320 : r3 = ( x2 + x3 );
4333 546971320 : r2 = ( x2 - x3 );
4334 546971320 : t = ( ( r1 - r3 ) * FFT_C54 );
4335 546971320 : r1 = ( r1 + r3 );
4336 546971320 : y06 = ( x0 + r1 );
4337 546971320 : r1 = ( y06 + ( ( r1 * FFT_C55 ) ) );
4338 546971320 : r3 = ( r1 - t );
4339 546971320 : r1 = ( r1 + t );
4340 546971320 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4341 546971320 : r4 = ( t + ( r4 * FFT_C52 ) );
4342 546971320 : r2 = ( t + ( r2 * FFT_C53 ) );
4343 :
4344 546971320 : x0 = im[s * 15];
4345 546971320 : x1 = im[s * 11];
4346 546971320 : x2 = im[s * 7];
4347 546971320 : x3 = im[s * 3];
4348 546971320 : x4 = im[s * 19];
4349 :
4350 546971320 : s1 = ( x1 + x4 );
4351 546971320 : s4 = ( x1 - x4 );
4352 546971320 : s3 = ( x2 + x3 );
4353 546971320 : s2 = ( x2 - x3 );
4354 546971320 : t = ( ( s1 - s3 ) * FFT_C54 );
4355 546971320 : s1 = ( s1 + s3 );
4356 546971320 : y07 = ( x0 + s1 );
4357 546971320 : s1 = ( y07 + ( s1 * FFT_C55 ) );
4358 546971320 : s3 = ( s1 - t );
4359 546971320 : s1 = ( s1 + t );
4360 546971320 : t = ( ( s4 + s2 ) * FFT_C51 );
4361 546971320 : s4 = ( t + ( s4 * FFT_C52 ) );
4362 546971320 : s2 = ( t + ( s2 * FFT_C53 ) );
4363 :
4364 546971320 : y14 = ( r1 + s2 );
4365 546971320 : y38 = ( r1 - s2 );
4366 546971320 : y22 = ( r3 - s4 );
4367 546971320 : y30 = ( r3 + s4 );
4368 :
4369 546971320 : y15 = ( s1 - r2 );
4370 546971320 : y39 = ( s1 + r2 );
4371 546971320 : y23 = ( s3 + r4 );
4372 546971320 : y31 = ( s3 - r4 );
4373 :
4374 546971320 : t0 = ( y00 + y04 );
4375 546971320 : t2 = ( y00 - y04 );
4376 546971320 : t1 = ( y01 + y05 );
4377 546971320 : t3 = ( y01 - y05 );
4378 546971320 : t4 = ( y02 + y06 );
4379 546971320 : t7 = ( y02 - y06 );
4380 546971320 : t5 = ( y07 + y03 );
4381 546971320 : t6 = ( y07 - y03 );
4382 :
4383 546971320 : re[s * 0] = ( t0 + t4 );
4384 546971320 : im[s * 0] = ( t1 + t5 );
4385 546971320 : re[s * 5] = ( t2 - t6 );
4386 546971320 : im[s * 5] = ( t3 - t7 );
4387 546971320 : re[s * 10] = ( t0 - t4 );
4388 546971320 : im[s * 10] = ( t1 - t5 );
4389 546971320 : re[s * 15] = ( t2 + t6 );
4390 546971320 : im[s * 15] = ( t3 + t7 );
4391 :
4392 546971320 : t0 = ( y08 + y12 );
4393 546971320 : t2 = ( y08 - y12 );
4394 546971320 : t1 = ( y09 + y13 );
4395 546971320 : t3 = ( y09 - y13 );
4396 546971320 : t4 = ( y10 + y14 );
4397 546971320 : t7 = ( y10 - y14 );
4398 546971320 : t5 = ( y15 + y11 );
4399 546971320 : t6 = ( y15 - y11 );
4400 :
4401 546971320 : re[s * 4] = ( t0 + t4 );
4402 546971320 : im[s * 4] = ( t1 + t5 );
4403 546971320 : re[s * 9] = ( t2 - t6 );
4404 546971320 : im[s * 9] = ( t3 - t7 );
4405 546971320 : re[s * 14] = ( t0 - t4 );
4406 546971320 : im[s * 14] = ( t1 - t5 );
4407 546971320 : re[s * 19] = ( t2 + t6 );
4408 546971320 : im[s * 19] = ( t3 + t7 );
4409 :
4410 546971320 : t0 = ( y16 + y20 );
4411 546971320 : t2 = ( y16 - y20 );
4412 546971320 : t1 = ( y17 + y21 );
4413 546971320 : t3 = ( y17 - y21 );
4414 546971320 : t4 = ( y18 + y22 );
4415 546971320 : t7 = ( y18 - y22 );
4416 546971320 : t5 = ( y23 + y19 );
4417 546971320 : t6 = ( y23 - y19 );
4418 :
4419 546971320 : re[s * 8] = ( t0 + t4 );
4420 546971320 : im[s * 8] = ( t1 + t5 );
4421 546971320 : re[s * 13] = ( t2 - t6 );
4422 546971320 : im[s * 13] = ( t3 - t7 );
4423 546971320 : re[s * 18] = ( t0 - t4 );
4424 546971320 : im[s * 18] = ( t1 - t5 );
4425 546971320 : re[s * 3] = ( t2 + t6 );
4426 546971320 : im[s * 3] = ( t3 + t7 );
4427 :
4428 546971320 : t0 = ( y24 + y28 );
4429 546971320 : t2 = ( y24 - y28 );
4430 546971320 : t1 = ( y25 + y29 );
4431 546971320 : t3 = ( y25 - y29 );
4432 546971320 : t4 = ( y26 + y30 );
4433 546971320 : t7 = ( y26 - y30 );
4434 546971320 : t5 = ( y31 + y27 );
4435 546971320 : t6 = ( y31 - y27 );
4436 :
4437 546971320 : re[s * 12] = ( t0 + t4 );
4438 546971320 : im[s * 12] = ( t1 + t5 );
4439 546971320 : re[s * 17] = ( t2 - t6 );
4440 546971320 : im[s * 17] = ( t3 - t7 );
4441 546971320 : re[s * 2] = ( t0 - t4 );
4442 546971320 : im[s * 2] = ( t1 - t5 );
4443 546971320 : re[s * 7] = ( t2 + t6 );
4444 546971320 : im[s * 7] = ( t3 + t7 );
4445 :
4446 546971320 : t0 = ( y32 + y36 );
4447 546971320 : t2 = ( y32 - y36 );
4448 546971320 : t1 = ( y33 + y37 );
4449 546971320 : t3 = ( y33 - y37 );
4450 546971320 : t4 = ( y34 + y38 );
4451 546971320 : t7 = ( y34 - y38 );
4452 546971320 : t5 = ( y39 + y35 );
4453 546971320 : t6 = ( y39 - y35 );
4454 :
4455 546971320 : re[s * 16] = ( t0 + t4 );
4456 546971320 : im[s * 16] = ( t1 + t5 );
4457 546971320 : re[s * 1] = ( t2 - t6 );
4458 546971320 : im[s * 1] = ( t3 - t7 );
4459 546971320 : re[s * 6] = ( t0 - t4 );
4460 546971320 : im[s * 6] = ( t1 - t5 );
4461 546971320 : re[s * 11] = ( t2 + t6 );
4462 546971320 : im[s * 11] = ( t3 + t7 );
4463 :
4464 546971320 : return;
4465 : }
4466 :
4467 621790232 : static void fft_len30(
4468 : float *re,
4469 : float *im,
4470 : const int16_t s )
4471 : {
4472 : float t;
4473 : float r1, r2, r3, r4;
4474 : float s1, s2, s3, s4;
4475 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
4476 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
4477 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
4478 :
4479 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4480 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4481 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4482 :
4483 : float z00, z01, z02, z03, z04, z05, z06, z07, z08, z09;
4484 : float z10, z11, z12, z13, z14, z15, z16, z17, z18, z19;
4485 : float z20, z21, z22, z23, z24, z25, z26, z27, z28, z29;
4486 : float z30, z31, z32, z33, z34, z35, z36, z37, z38, z39;
4487 : float z40, z41, z42, z43, z44, z45, z46, z47, z48, z49;
4488 : float z50, z51, z52, z53, z54, z55, z56, z57, z58, z59;
4489 :
4490 : float *rel, *reh, *iml, *imh;
4491 :
4492 621790232 : rel = &re[s * 0];
4493 621790232 : reh = &re[s * 15];
4494 621790232 : iml = &im[s * 0];
4495 621790232 : imh = &im[s * 15];
4496 :
4497 621790232 : x00 = re[s * 0];
4498 621790232 : x01 = im[s * 0];
4499 621790232 : x02 = re[s * 18];
4500 621790232 : x03 = im[s * 18];
4501 621790232 : x04 = re[s * 6];
4502 621790232 : x05 = im[s * 6];
4503 621790232 : x06 = re[s * 24];
4504 621790232 : x07 = im[s * 24];
4505 621790232 : x08 = re[s * 12];
4506 621790232 : x09 = im[s * 12];
4507 :
4508 621790232 : x10 = re[s * 20];
4509 621790232 : x11 = im[s * 20];
4510 621790232 : x12 = re[s * 8];
4511 621790232 : x13 = im[s * 8];
4512 621790232 : x14 = re[s * 26];
4513 621790232 : x15 = im[s * 26];
4514 621790232 : x16 = re[s * 14];
4515 621790232 : x17 = im[s * 14];
4516 621790232 : x18 = re[s * 2];
4517 621790232 : x19 = im[s * 2];
4518 :
4519 621790232 : x20 = re[s * 10];
4520 621790232 : x21 = im[s * 10];
4521 621790232 : x22 = re[s * 28];
4522 621790232 : x23 = im[s * 28];
4523 621790232 : x24 = re[s * 16];
4524 621790232 : x25 = im[s * 16];
4525 621790232 : x26 = re[s * 4];
4526 621790232 : x27 = im[s * 4];
4527 621790232 : x28 = re[s * 22];
4528 621790232 : x29 = im[s * 22];
4529 :
4530 621790232 : r1 = ( x02 + x08 );
4531 621790232 : r4 = ( x02 - x08 );
4532 621790232 : r3 = ( x04 + x06 );
4533 621790232 : r2 = ( x04 - x06 );
4534 621790232 : t = ( ( r1 - r3 ) * FFT_C54 );
4535 621790232 : r1 = ( r1 + r3 );
4536 621790232 : y00 = ( x00 + r1 );
4537 621790232 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4538 621790232 : r3 = ( r1 - t );
4539 621790232 : r1 = ( r1 + t );
4540 621790232 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4541 621790232 : r4 = ( t + ( r4 * FFT_C52 ) );
4542 621790232 : r2 = ( t + ( r2 * FFT_C53 ) );
4543 :
4544 621790232 : s1 = ( x03 + x09 );
4545 621790232 : s4 = ( x03 - x09 );
4546 621790232 : s3 = ( x05 + x07 );
4547 621790232 : s2 = ( x05 - x07 );
4548 621790232 : t = ( ( s1 - s3 ) * FFT_C54 );
4549 621790232 : s1 = ( s1 + s3 );
4550 621790232 : y01 = ( x01 + s1 );
4551 621790232 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4552 621790232 : s3 = ( s1 - t );
4553 621790232 : s1 = ( s1 + t );
4554 621790232 : t = ( ( s4 + s2 ) * FFT_C51 );
4555 621790232 : s4 = ( t + ( s4 * FFT_C52 ) );
4556 621790232 : s2 = ( t + ( s2 * FFT_C53 ) );
4557 :
4558 621790232 : y02 = ( r1 + s2 );
4559 621790232 : y08 = ( r1 - s2 );
4560 621790232 : y04 = ( r3 - s4 );
4561 621790232 : y06 = ( r3 + s4 );
4562 :
4563 621790232 : y03 = ( s1 - r2 );
4564 621790232 : y09 = ( s1 + r2 );
4565 621790232 : y05 = ( s3 + r4 );
4566 621790232 : y07 = ( s3 - r4 );
4567 :
4568 621790232 : r1 = ( x12 + x18 );
4569 621790232 : r4 = ( x12 - x18 );
4570 621790232 : r3 = ( x14 + x16 );
4571 621790232 : r2 = ( x14 - x16 );
4572 621790232 : t = ( ( r1 - r3 ) * FFT_C54 );
4573 621790232 : r1 = ( r1 + r3 );
4574 621790232 : y10 = ( x10 + r1 );
4575 621790232 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4576 621790232 : r3 = ( r1 - t );
4577 621790232 : r1 = ( r1 + t );
4578 621790232 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4579 621790232 : r4 = ( t + ( r4 * FFT_C52 ) );
4580 621790232 : r2 = ( t + ( r2 * FFT_C53 ) );
4581 :
4582 621790232 : s1 = ( x13 + x19 );
4583 621790232 : s4 = ( x13 - x19 );
4584 621790232 : s3 = ( x15 + x17 );
4585 621790232 : s2 = ( x15 - x17 );
4586 621790232 : t = ( ( s1 - s3 ) * FFT_C54 );
4587 621790232 : s1 = ( s1 + s3 );
4588 621790232 : y11 = ( x11 + s1 );
4589 621790232 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4590 621790232 : s3 = ( s1 - t );
4591 621790232 : s1 = ( s1 + t );
4592 621790232 : t = ( ( s4 + s2 ) * FFT_C51 );
4593 621790232 : s4 = ( t + ( s4 * FFT_C52 ) );
4594 621790232 : s2 = ( t + ( s2 * FFT_C53 ) );
4595 :
4596 621790232 : y12 = ( r1 + s2 );
4597 621790232 : y18 = ( r1 - s2 );
4598 621790232 : y14 = ( r3 - s4 );
4599 621790232 : y16 = ( r3 + s4 );
4600 :
4601 621790232 : y13 = ( s1 - r2 );
4602 621790232 : y19 = ( s1 + r2 );
4603 621790232 : y15 = ( s3 + r4 );
4604 621790232 : y17 = ( s3 - r4 );
4605 :
4606 621790232 : r1 = ( x22 + x28 );
4607 621790232 : r4 = ( x22 - x28 );
4608 621790232 : r3 = ( x24 + x26 );
4609 621790232 : r2 = ( x24 - x26 );
4610 621790232 : t = ( ( r1 - r3 ) * FFT_C54 );
4611 621790232 : r1 = ( r1 + r3 );
4612 621790232 : y20 = ( x20 + r1 );
4613 621790232 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4614 621790232 : r3 = ( r1 - t );
4615 621790232 : r1 = ( r1 + t );
4616 621790232 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4617 621790232 : r4 = ( t + ( r4 * FFT_C52 ) );
4618 621790232 : r2 = ( t + ( r2 * FFT_C53 ) );
4619 :
4620 621790232 : s1 = ( x23 + x29 );
4621 621790232 : s4 = ( x23 - x29 );
4622 621790232 : s3 = ( x25 + x27 );
4623 621790232 : s2 = ( x25 - x27 );
4624 621790232 : t = ( ( s1 - s3 ) * FFT_C54 );
4625 621790232 : s1 = ( s1 + s3 );
4626 621790232 : y21 = ( x21 + s1 );
4627 621790232 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4628 621790232 : s3 = ( s1 - t );
4629 621790232 : s1 = ( s1 + t );
4630 621790232 : t = ( ( s4 + s2 ) * FFT_C51 );
4631 621790232 : s4 = ( t + ( s4 * FFT_C52 ) );
4632 621790232 : s2 = ( t + ( s2 * FFT_C53 ) );
4633 :
4634 621790232 : y22 = ( r1 + s2 );
4635 621790232 : y28 = ( r1 - s2 );
4636 621790232 : y24 = ( r3 - s4 );
4637 621790232 : y26 = ( r3 + s4 );
4638 :
4639 621790232 : y23 = ( s1 - r2 );
4640 621790232 : y29 = ( s1 + r2 );
4641 621790232 : y25 = ( s3 + r4 );
4642 621790232 : y27 = ( s3 - r4 );
4643 :
4644 621790232 : r1 = ( y10 + y20 );
4645 621790232 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4646 621790232 : z00 = ( y00 + r1 );
4647 621790232 : r1 = ( y00 - r1 * 0.5f );
4648 :
4649 621790232 : s1 = ( y11 + y21 );
4650 621790232 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4651 621790232 : z01 = ( y01 + s1 );
4652 621790232 : s1 = ( y01 - s1 * 0.5f );
4653 :
4654 621790232 : z20 = ( r1 - s2 );
4655 621790232 : z10 = ( r1 + s2 );
4656 621790232 : z21 = ( s1 + r2 );
4657 621790232 : z11 = ( s1 - r2 );
4658 :
4659 621790232 : r1 = ( y12 + y22 );
4660 621790232 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4661 621790232 : z12 = ( y02 + r1 );
4662 621790232 : r1 = ( y02 - r1 * 0.5f );
4663 :
4664 621790232 : s1 = ( y13 + y23 );
4665 621790232 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4666 621790232 : z13 = ( y03 + s1 );
4667 621790232 : s1 = ( y03 - s1 * 0.5f );
4668 :
4669 621790232 : z02 = ( r1 - s2 );
4670 621790232 : z22 = ( r1 + s2 );
4671 621790232 : z03 = ( s1 + r2 );
4672 621790232 : z23 = ( s1 - r2 );
4673 :
4674 621790232 : r1 = ( y14 + y24 );
4675 621790232 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4676 621790232 : z24 = ( y04 + r1 );
4677 621790232 : r1 = ( y04 - r1 * 0.5f );
4678 :
4679 621790232 : s1 = ( y15 + y25 );
4680 621790232 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4681 621790232 : z25 = ( y05 + s1 );
4682 621790232 : s1 = ( y05 - s1 * 0.5f );
4683 :
4684 621790232 : z14 = ( r1 - s2 );
4685 621790232 : z04 = ( r1 + s2 );
4686 621790232 : z15 = ( s1 + r2 );
4687 621790232 : z05 = ( s1 - r2 );
4688 :
4689 621790232 : r1 = ( y16 + y26 );
4690 621790232 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4691 621790232 : z06 = ( y06 + r1 );
4692 621790232 : r1 = ( y06 - r1 * 0.5f );
4693 :
4694 621790232 : s1 = ( y17 + y27 );
4695 621790232 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4696 621790232 : z07 = ( y07 + s1 );
4697 621790232 : s1 = ( y07 - s1 * 0.5f );
4698 :
4699 621790232 : z26 = ( r1 - s2 );
4700 621790232 : z16 = ( r1 + s2 );
4701 621790232 : z27 = ( s1 + r2 );
4702 621790232 : z17 = ( s1 - r2 );
4703 :
4704 621790232 : r1 = ( y18 + y28 );
4705 621790232 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4706 621790232 : z18 = ( y08 + r1 );
4707 621790232 : r1 = ( y08 - r1 * 0.5f );
4708 :
4709 621790232 : s1 = ( y19 + y29 );
4710 621790232 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4711 621790232 : z19 = ( y09 + s1 );
4712 621790232 : s1 = ( y09 - s1 * 0.5f );
4713 :
4714 621790232 : z08 = ( r1 - s2 );
4715 621790232 : z28 = ( r1 + s2 );
4716 621790232 : z09 = ( s1 + r2 );
4717 621790232 : z29 = ( s1 - r2 );
4718 :
4719 621790232 : x00 = re[s * 15];
4720 621790232 : x01 = im[s * 15];
4721 621790232 : x02 = re[s * 3];
4722 621790232 : x03 = im[s * 3];
4723 621790232 : x04 = re[s * 21];
4724 621790232 : x05 = im[s * 21];
4725 621790232 : x06 = re[s * 9];
4726 621790232 : x07 = im[s * 9];
4727 621790232 : x08 = re[s * 27];
4728 621790232 : x09 = im[s * 27];
4729 :
4730 621790232 : x10 = re[s * 5];
4731 621790232 : x11 = im[s * 5];
4732 621790232 : x12 = re[s * 23];
4733 621790232 : x13 = im[s * 23];
4734 621790232 : x14 = re[s * 11];
4735 621790232 : x15 = im[s * 11];
4736 621790232 : x16 = re[s * 29];
4737 621790232 : x17 = im[s * 29];
4738 621790232 : x18 = re[s * 17];
4739 621790232 : x19 = im[s * 17];
4740 :
4741 621790232 : x20 = re[s * 25];
4742 621790232 : x21 = im[s * 25];
4743 621790232 : x22 = re[s * 13];
4744 621790232 : x23 = im[s * 13];
4745 621790232 : x24 = re[s * 1];
4746 621790232 : x25 = im[s * 1];
4747 621790232 : x26 = re[s * 19];
4748 621790232 : x27 = im[s * 19];
4749 621790232 : x28 = re[s * 7];
4750 621790232 : x29 = im[s * 7];
4751 :
4752 621790232 : r1 = ( x02 + x08 );
4753 621790232 : r4 = ( x02 - x08 );
4754 621790232 : r3 = ( x04 + x06 );
4755 621790232 : r2 = ( x04 - x06 );
4756 621790232 : t = ( ( r1 - r3 ) * FFT_C54 );
4757 621790232 : r1 = ( r1 + r3 );
4758 621790232 : y00 = ( x00 + r1 );
4759 621790232 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4760 621790232 : r3 = ( r1 - t );
4761 621790232 : r1 = ( r1 + t );
4762 621790232 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4763 621790232 : r4 = ( t + ( r4 * FFT_C52 ) );
4764 621790232 : r2 = ( t + ( r2 * FFT_C53 ) );
4765 :
4766 621790232 : s1 = ( x03 + x09 );
4767 621790232 : s4 = ( x03 - x09 );
4768 621790232 : s3 = ( x05 + x07 );
4769 621790232 : s2 = ( x05 - x07 );
4770 621790232 : t = ( ( s1 - s3 ) * FFT_C54 );
4771 621790232 : s1 = ( s1 + s3 );
4772 621790232 : y01 = ( x01 + s1 );
4773 621790232 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4774 621790232 : s3 = ( s1 - t );
4775 621790232 : s1 = ( s1 + t );
4776 621790232 : t = ( ( s4 + s2 ) * FFT_C51 );
4777 621790232 : s4 = ( t + ( s4 * FFT_C52 ) );
4778 621790232 : s2 = ( t + ( s2 * FFT_C53 ) );
4779 :
4780 621790232 : y02 = ( r1 + s2 );
4781 621790232 : y08 = ( r1 - s2 );
4782 621790232 : y04 = ( r3 - s4 );
4783 621790232 : y06 = ( r3 + s4 );
4784 :
4785 621790232 : y03 = ( s1 - r2 );
4786 621790232 : y09 = ( s1 + r2 );
4787 621790232 : y05 = ( s3 + r4 );
4788 621790232 : y07 = ( s3 - r4 );
4789 :
4790 621790232 : r1 = ( x12 + x18 );
4791 621790232 : r4 = ( x12 - x18 );
4792 621790232 : r3 = ( x14 + x16 );
4793 621790232 : r2 = ( x14 - x16 );
4794 621790232 : t = ( ( r1 - r3 ) * FFT_C54 );
4795 621790232 : r1 = ( r1 + r3 );
4796 621790232 : y10 = ( x10 + r1 );
4797 621790232 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4798 621790232 : r3 = ( r1 - t );
4799 621790232 : r1 = ( r1 + t );
4800 621790232 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4801 621790232 : r4 = ( t + ( r4 * FFT_C52 ) );
4802 621790232 : r2 = ( t + ( r2 * FFT_C53 ) );
4803 :
4804 621790232 : s1 = ( x13 + x19 );
4805 621790232 : s4 = ( x13 - x19 );
4806 621790232 : s3 = ( x15 + x17 );
4807 621790232 : s2 = ( x15 - x17 );
4808 621790232 : t = ( ( s1 - s3 ) * FFT_C54 );
4809 621790232 : s1 = ( s1 + s3 );
4810 621790232 : y11 = ( x11 + s1 );
4811 621790232 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4812 621790232 : s3 = ( s1 - t );
4813 621790232 : s1 = ( s1 + t );
4814 621790232 : t = ( ( s4 + s2 ) * FFT_C51 );
4815 621790232 : s4 = ( t + ( s4 * FFT_C52 ) );
4816 621790232 : s2 = ( t + ( s2 * FFT_C53 ) );
4817 :
4818 621790232 : y12 = ( r1 + s2 );
4819 621790232 : y18 = ( r1 - s2 );
4820 621790232 : y14 = ( r3 - s4 );
4821 621790232 : y16 = ( r3 + s4 );
4822 :
4823 621790232 : y13 = ( s1 - r2 );
4824 621790232 : y19 = ( s1 + r2 );
4825 621790232 : y15 = ( s3 + r4 );
4826 621790232 : y17 = ( s3 - r4 );
4827 :
4828 621790232 : r1 = ( x22 + x28 );
4829 621790232 : r4 = ( x22 - x28 );
4830 621790232 : r3 = ( x24 + x26 );
4831 621790232 : r2 = ( x24 - x26 );
4832 621790232 : t = ( ( r1 - r3 ) * FFT_C54 );
4833 621790232 : r1 = ( r1 + r3 );
4834 621790232 : y20 = ( x20 + r1 );
4835 621790232 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4836 621790232 : r3 = ( r1 - t );
4837 621790232 : r1 = ( r1 + t );
4838 621790232 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4839 621790232 : r4 = ( t + ( r4 * FFT_C52 ) );
4840 621790232 : r2 = ( t + ( r2 * FFT_C53 ) );
4841 :
4842 621790232 : s1 = ( x23 + x29 );
4843 621790232 : s4 = ( x23 - x29 );
4844 621790232 : s3 = ( x25 + x27 );
4845 621790232 : s2 = ( x25 - x27 );
4846 621790232 : t = ( ( s1 - s3 ) * FFT_C54 );
4847 621790232 : s1 = ( s1 + s3 );
4848 621790232 : y21 = ( x21 + s1 );
4849 621790232 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4850 621790232 : s3 = ( s1 - t );
4851 621790232 : s1 = ( s1 + t );
4852 621790232 : t = ( ( s4 + s2 ) * FFT_C51 );
4853 621790232 : s4 = ( t + ( s4 * FFT_C52 ) );
4854 621790232 : s2 = ( t + ( s2 * FFT_C53 ) );
4855 :
4856 621790232 : y22 = ( r1 + s2 );
4857 621790232 : y28 = ( r1 - s2 );
4858 621790232 : y24 = ( r3 - s4 );
4859 621790232 : y26 = ( r3 + s4 );
4860 :
4861 621790232 : y23 = ( s1 - r2 );
4862 621790232 : y29 = ( s1 + r2 );
4863 621790232 : y25 = ( s3 + r4 );
4864 621790232 : y27 = ( s3 - r4 );
4865 :
4866 621790232 : r1 = ( y10 + y20 );
4867 621790232 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4868 621790232 : z30 = ( y00 + r1 );
4869 621790232 : r1 = ( y00 - r1 * 0.5f );
4870 :
4871 621790232 : s1 = ( y11 + y21 );
4872 621790232 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4873 621790232 : z31 = ( y01 + s1 );
4874 621790232 : s1 = ( y01 - s1 * 0.5f );
4875 :
4876 621790232 : z50 = ( r1 - s2 );
4877 621790232 : z40 = ( r1 + s2 );
4878 621790232 : z51 = ( s1 + r2 );
4879 621790232 : z41 = ( s1 - r2 );
4880 :
4881 621790232 : r1 = ( y12 + y22 );
4882 621790232 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4883 621790232 : z42 = ( y02 + r1 );
4884 621790232 : r1 = ( y02 - r1 * 0.5f );
4885 :
4886 621790232 : s1 = ( y13 + y23 );
4887 621790232 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4888 621790232 : z43 = ( y03 + s1 );
4889 621790232 : s1 = ( y03 - s1 * 0.5f );
4890 :
4891 621790232 : z32 = ( r1 - s2 );
4892 621790232 : z52 = ( r1 + s2 );
4893 621790232 : z33 = ( s1 + r2 );
4894 621790232 : z53 = ( s1 - r2 );
4895 :
4896 621790232 : r1 = ( y14 + y24 );
4897 621790232 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4898 621790232 : z54 = ( y04 + r1 );
4899 621790232 : r1 = ( y04 - r1 * 0.5f );
4900 :
4901 621790232 : s1 = ( y15 + y25 );
4902 621790232 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4903 621790232 : z55 = ( y05 + s1 );
4904 621790232 : s1 = ( y05 - s1 * 0.5f );
4905 :
4906 621790232 : z44 = ( r1 - s2 );
4907 621790232 : z34 = ( r1 + s2 );
4908 621790232 : z45 = ( s1 + r2 );
4909 621790232 : z35 = ( s1 - r2 );
4910 :
4911 621790232 : r1 = ( y16 + y26 );
4912 621790232 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4913 621790232 : z36 = ( y06 + r1 );
4914 621790232 : r1 = ( y06 - r1 * 0.5f );
4915 :
4916 621790232 : s1 = ( y17 + y27 );
4917 621790232 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4918 621790232 : z37 = ( y07 + s1 );
4919 621790232 : s1 = ( y07 - s1 * 0.5f );
4920 :
4921 621790232 : z56 = ( r1 - s2 );
4922 621790232 : z46 = ( r1 + s2 );
4923 621790232 : z57 = ( s1 + r2 );
4924 621790232 : z47 = ( s1 - r2 );
4925 :
4926 621790232 : r1 = ( y18 + y28 );
4927 621790232 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4928 621790232 : z48 = ( y08 + r1 );
4929 621790232 : r1 = ( y08 - r1 * 0.5f );
4930 :
4931 621790232 : s1 = ( y19 + y29 );
4932 621790232 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4933 621790232 : z49 = ( y09 + s1 );
4934 621790232 : s1 = ( y09 - s1 * 0.5f );
4935 :
4936 621790232 : z38 = ( r1 - s2 );
4937 621790232 : z58 = ( r1 + s2 );
4938 621790232 : z39 = ( s1 + r2 );
4939 621790232 : z59 = ( s1 - r2 );
4940 :
4941 621790232 : r1 = z00;
4942 621790232 : r2 = z30;
4943 621790232 : r3 = z01;
4944 621790232 : r4 = z31;
4945 621790232 : *rel = ( r1 + r2 );
4946 621790232 : *reh = ( r1 - r2 );
4947 621790232 : *iml = ( r3 + r4 );
4948 621790232 : *imh = ( r3 - r4 );
4949 621790232 : rel += s, reh += s, iml += s;
4950 621790232 : imh += s;
4951 :
4952 621790232 : r1 = z16;
4953 621790232 : r2 = z46;
4954 621790232 : r3 = z17;
4955 621790232 : r4 = z47;
4956 621790232 : *reh = ( r1 + r2 );
4957 621790232 : *rel = ( r1 - r2 );
4958 621790232 : *imh = ( r3 + r4 );
4959 621790232 : *iml = ( r3 - r4 );
4960 621790232 : rel += s, reh += s, iml += s;
4961 621790232 : imh += s;
4962 :
4963 621790232 : r1 = z02;
4964 621790232 : r2 = z32;
4965 621790232 : r3 = z03;
4966 621790232 : r4 = z33;
4967 621790232 : *rel = ( r1 + r2 );
4968 621790232 : *reh = ( r1 - r2 );
4969 621790232 : *iml = ( r3 + r4 );
4970 621790232 : *imh = ( r3 - r4 );
4971 621790232 : rel += s, reh += s, iml += s;
4972 621790232 : imh += s;
4973 :
4974 621790232 : r1 = z18;
4975 621790232 : r2 = z48;
4976 621790232 : r3 = z19;
4977 621790232 : r4 = z49;
4978 621790232 : *reh = ( r1 + r2 );
4979 621790232 : *rel = ( r1 - r2 );
4980 621790232 : *imh = ( r3 + r4 );
4981 621790232 : *iml = ( r3 - r4 );
4982 621790232 : rel += s, reh += s, iml += s;
4983 621790232 : imh += s;
4984 :
4985 621790232 : r1 = z04;
4986 621790232 : r2 = z34;
4987 621790232 : r3 = z05;
4988 621790232 : r4 = z35;
4989 621790232 : *rel = ( r1 + r2 );
4990 621790232 : *reh = ( r1 - r2 );
4991 621790232 : *iml = ( r3 + r4 );
4992 621790232 : *imh = ( r3 - r4 );
4993 621790232 : rel += s, reh += s, iml += s;
4994 621790232 : imh += s;
4995 :
4996 621790232 : r1 = z20;
4997 621790232 : r2 = z50;
4998 621790232 : r3 = z21;
4999 621790232 : r4 = z51;
5000 621790232 : *reh = ( r1 + r2 );
5001 621790232 : *rel = ( r1 - r2 );
5002 621790232 : *imh = ( r3 + r4 );
5003 621790232 : *iml = ( r3 - r4 );
5004 621790232 : rel += s, reh += s, iml += s;
5005 621790232 : imh += s;
5006 :
5007 621790232 : r1 = z06;
5008 621790232 : r2 = z36;
5009 621790232 : r3 = z07;
5010 621790232 : r4 = z37;
5011 621790232 : *rel = ( r1 + r2 );
5012 621790232 : *reh = ( r1 - r2 );
5013 621790232 : *iml = ( r3 + r4 );
5014 621790232 : *imh = ( r3 - r4 );
5015 621790232 : rel += s, reh += s, iml += s;
5016 621790232 : imh += s;
5017 :
5018 621790232 : r1 = z22;
5019 621790232 : r2 = z52;
5020 621790232 : r3 = z23;
5021 621790232 : r4 = z53;
5022 621790232 : *reh = ( r1 + r2 );
5023 621790232 : *rel = ( r1 - r2 );
5024 621790232 : *imh = ( r3 + r4 );
5025 621790232 : *iml = ( r3 - r4 );
5026 621790232 : rel += s, reh += s, iml += s;
5027 621790232 : imh += s;
5028 :
5029 621790232 : r1 = z08;
5030 621790232 : r2 = z38;
5031 621790232 : r3 = z09;
5032 621790232 : r4 = z39;
5033 621790232 : *rel = ( r1 + r2 );
5034 621790232 : *reh = ( r1 - r2 );
5035 621790232 : *iml = ( r3 + r4 );
5036 621790232 : *imh = ( r3 - r4 );
5037 621790232 : rel += s, reh += s, iml += s;
5038 621790232 : imh += s;
5039 :
5040 621790232 : r1 = z24;
5041 621790232 : r2 = z54;
5042 621790232 : r3 = z25;
5043 621790232 : r4 = z55;
5044 621790232 : *reh = ( r1 + r2 );
5045 621790232 : *rel = ( r1 - r2 );
5046 621790232 : *imh = ( r3 + r4 );
5047 621790232 : *iml = ( r3 - r4 );
5048 621790232 : rel += s, reh += s, iml += s;
5049 621790232 : imh += s;
5050 :
5051 621790232 : r1 = z10;
5052 621790232 : r2 = z40;
5053 621790232 : r3 = z11;
5054 621790232 : r4 = z41;
5055 621790232 : *rel = ( r1 + r2 );
5056 621790232 : *reh = ( r1 - r2 );
5057 621790232 : *iml = ( r3 + r4 );
5058 621790232 : *imh = ( r3 - r4 );
5059 621790232 : rel += s, reh += s, iml += s;
5060 621790232 : imh += s;
5061 :
5062 621790232 : r1 = z26;
5063 621790232 : r2 = z56;
5064 621790232 : r3 = z27;
5065 621790232 : r4 = z57;
5066 621790232 : *reh = ( r1 + r2 );
5067 621790232 : *rel = ( r1 - r2 );
5068 621790232 : *imh = ( r3 + r4 );
5069 621790232 : *iml = ( r3 - r4 );
5070 621790232 : rel += s, reh += s, iml += s;
5071 621790232 : imh += s;
5072 :
5073 621790232 : r1 = z12;
5074 621790232 : r2 = z42;
5075 621790232 : r3 = z13;
5076 621790232 : r4 = z43;
5077 621790232 : *rel = ( r1 + r2 );
5078 621790232 : *reh = ( r1 - r2 );
5079 621790232 : *iml = ( r3 + r4 );
5080 621790232 : *imh = ( r3 - r4 );
5081 621790232 : rel += s, reh += s, iml += s;
5082 621790232 : imh += s;
5083 :
5084 621790232 : r1 = z28;
5085 621790232 : r2 = z58;
5086 621790232 : r3 = z29;
5087 621790232 : r4 = z59;
5088 621790232 : *reh = ( r1 + r2 );
5089 621790232 : *rel = ( r1 - r2 );
5090 621790232 : *imh = ( r3 + r4 );
5091 621790232 : *iml = ( r3 - r4 );
5092 621790232 : rel += s, reh += s, iml += s;
5093 621790232 : imh += s;
5094 :
5095 621790232 : r1 = z14;
5096 621790232 : r2 = z44;
5097 621790232 : r3 = z15;
5098 621790232 : r4 = z45;
5099 621790232 : *rel = ( r1 + r2 );
5100 621790232 : *reh = ( r1 - r2 );
5101 621790232 : *iml = ( r3 + r4 );
5102 621790232 : *imh = ( r3 - r4 );
5103 621790232 : rel += s, reh += s, iml += s;
5104 621790232 : imh += s;
5105 :
5106 621790232 : return;
5107 : }
5108 :
5109 94313254 : static void fft_len32(
5110 : float *re,
5111 : float *im,
5112 : const int16_t s )
5113 : {
5114 : float as, bs;
5115 : float x00, x01, x02, x03, x04, x05, x06, x07;
5116 : float x08, x09, x10, x11, x12, x13, x14, x15;
5117 : float t00, t01, t02, t03, t04, t05, t06, t07;
5118 : float t08, t09, t10, t11, t12, t13, t14, t15;
5119 : float s00, s01, s02, s03, s04, s05, s06, s07;
5120 : float s08, s09, s10, s11, s12, s13, s14, s15;
5121 :
5122 : float y00, y01, y02, y03, y04, y05, y06, y07;
5123 : float y08, y09, y10, y11, y12, y13, y14, y15;
5124 : float y16, y17, y18, y19, y20, y21, y22, y23;
5125 : float y24, y25, y26, y27, y28, y29, y30, y31;
5126 : float y32, y33, y34, y35, y36, y37, y38, y39;
5127 : float y40, y41, y42, y43, y44, y45, y46, y47;
5128 : float y48, y49, y50, y51, y52, y53, y54, y55;
5129 : float y56, y57, y58, y59, y60, y61, y62, y63;
5130 :
5131 94313254 : x00 = re[s * 0];
5132 94313254 : x01 = im[s * 0];
5133 94313254 : x02 = re[s * 4];
5134 94313254 : x03 = im[s * 4];
5135 94313254 : x04 = re[s * 8];
5136 94313254 : x05 = im[s * 8];
5137 94313254 : x06 = re[s * 12];
5138 94313254 : x07 = im[s * 12];
5139 94313254 : x08 = re[s * 16];
5140 94313254 : x09 = im[s * 16];
5141 94313254 : x10 = re[s * 20];
5142 94313254 : x11 = im[s * 20];
5143 94313254 : x12 = re[s * 24];
5144 94313254 : x13 = im[s * 24];
5145 94313254 : x14 = re[s * 28];
5146 94313254 : x15 = im[s * 28];
5147 :
5148 94313254 : t00 = ( x00 + x08 );
5149 94313254 : t02 = ( x00 - x08 );
5150 94313254 : t01 = ( x01 + x09 );
5151 94313254 : t03 = ( x01 - x09 );
5152 94313254 : t04 = ( x02 + x10 );
5153 94313254 : t06 = ( x02 - x10 );
5154 94313254 : t05 = ( x03 + x11 );
5155 94313254 : t07 = ( x03 - x11 );
5156 94313254 : t08 = ( x04 + x12 );
5157 94313254 : t10 = ( x04 - x12 );
5158 94313254 : t09 = ( x05 + x13 );
5159 94313254 : t11 = ( x05 - x13 );
5160 94313254 : t12 = ( x06 + x14 );
5161 94313254 : t14 = ( x06 - x14 );
5162 94313254 : t13 = ( x07 + x15 );
5163 94313254 : t15 = ( x07 - x15 );
5164 :
5165 94313254 : s00 = ( t00 + t08 );
5166 94313254 : s04 = ( t00 - t08 );
5167 94313254 : s01 = ( t01 + t09 );
5168 94313254 : s05 = ( t01 - t09 );
5169 94313254 : s08 = ( t02 - t11 );
5170 94313254 : s10 = ( t02 + t11 );
5171 94313254 : s09 = ( t03 + t10 );
5172 94313254 : s11 = ( t03 - t10 );
5173 94313254 : s02 = ( t04 + t12 );
5174 94313254 : s07 = ( t04 - t12 );
5175 94313254 : s03 = ( t05 + t13 );
5176 94313254 : s06 = ( t13 - t05 );
5177 94313254 : t01 = ( t06 + t14 );
5178 94313254 : t02 = ( t06 - t14 );
5179 94313254 : t00 = ( t07 + t15 );
5180 94313254 : t03 = ( t07 - t15 );
5181 :
5182 : {
5183 94313254 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5184 94313254 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5185 94313254 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5186 94313254 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5187 : };
5188 :
5189 94313254 : y00 = ( s00 + s02 );
5190 94313254 : y08 = ( s00 - s02 );
5191 94313254 : y01 = ( s01 + s03 );
5192 94313254 : y09 = ( s01 - s03 );
5193 94313254 : y04 = ( s04 - s06 );
5194 94313254 : y12 = ( s04 + s06 );
5195 94313254 : y05 = ( s05 - s07 );
5196 94313254 : y13 = ( s05 + s07 );
5197 94313254 : y06 = ( s08 + s14 );
5198 94313254 : y14 = ( s08 - s14 );
5199 94313254 : y07 = ( s09 + s15 );
5200 94313254 : y15 = ( s09 - s15 );
5201 94313254 : y02 = ( s10 + s12 );
5202 94313254 : y10 = ( s10 - s12 );
5203 94313254 : y03 = ( s11 + s13 );
5204 94313254 : y11 = ( s11 - s13 );
5205 :
5206 94313254 : x00 = re[s * 1];
5207 94313254 : x01 = im[s * 1];
5208 94313254 : x02 = re[s * 5];
5209 94313254 : x03 = im[s * 5];
5210 94313254 : x04 = re[s * 9];
5211 94313254 : x05 = im[s * 9];
5212 94313254 : x06 = re[s * 13];
5213 94313254 : x07 = im[s * 13];
5214 94313254 : x08 = re[s * 17];
5215 94313254 : x09 = im[s * 17];
5216 94313254 : x10 = re[s * 21];
5217 94313254 : x11 = im[s * 21];
5218 94313254 : x12 = re[s * 25];
5219 94313254 : x13 = im[s * 25];
5220 94313254 : x14 = re[s * 29];
5221 94313254 : x15 = im[s * 29];
5222 :
5223 94313254 : t00 = ( x00 + x08 );
5224 94313254 : t02 = ( x00 - x08 );
5225 94313254 : t01 = ( x01 + x09 );
5226 94313254 : t03 = ( x01 - x09 );
5227 94313254 : t04 = ( x02 + x10 );
5228 94313254 : t06 = ( x02 - x10 );
5229 94313254 : t05 = ( x03 + x11 );
5230 94313254 : t07 = ( x03 - x11 );
5231 94313254 : t08 = ( x04 + x12 );
5232 94313254 : t10 = ( x04 - x12 );
5233 94313254 : t09 = ( x05 + x13 );
5234 94313254 : t11 = ( x05 - x13 );
5235 94313254 : t12 = ( x06 + x14 );
5236 94313254 : t14 = ( x06 - x14 );
5237 94313254 : t13 = ( x07 + x15 );
5238 94313254 : t15 = ( x07 - x15 );
5239 :
5240 94313254 : s00 = ( t00 + t08 );
5241 94313254 : s04 = ( t00 - t08 );
5242 94313254 : s01 = ( t01 + t09 );
5243 94313254 : s05 = ( t01 - t09 );
5244 94313254 : s08 = ( t02 - t11 );
5245 94313254 : s10 = ( t02 + t11 );
5246 94313254 : s09 = ( t03 + t10 );
5247 94313254 : s11 = ( t03 - t10 );
5248 94313254 : s02 = ( t04 + t12 );
5249 94313254 : s07 = ( t04 - t12 );
5250 94313254 : s03 = ( t05 + t13 );
5251 94313254 : s06 = ( t13 - t05 );
5252 94313254 : t01 = ( t06 + t14 );
5253 94313254 : t02 = ( t06 - t14 );
5254 94313254 : t00 = ( t07 + t15 );
5255 94313254 : t03 = ( t07 - t15 );
5256 :
5257 : {
5258 94313254 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5259 94313254 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5260 94313254 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5261 94313254 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5262 : };
5263 :
5264 94313254 : y16 = ( s00 + s02 );
5265 94313254 : y24 = ( s00 - s02 );
5266 94313254 : y17 = ( s01 + s03 );
5267 94313254 : y25 = ( s01 - s03 );
5268 94313254 : y20 = ( s04 - s06 );
5269 94313254 : y28 = ( s04 + s06 );
5270 94313254 : y21 = ( s05 - s07 );
5271 94313254 : y29 = ( s05 + s07 );
5272 94313254 : y22 = ( s08 + s14 );
5273 94313254 : y30 = ( s08 - s14 );
5274 94313254 : y23 = ( s09 + s15 );
5275 94313254 : y31 = ( s09 - s15 );
5276 94313254 : y18 = ( s10 + s12 );
5277 94313254 : y26 = ( s10 - s12 );
5278 94313254 : y19 = ( s11 + s13 );
5279 94313254 : y27 = ( s11 - s13 );
5280 :
5281 94313254 : x00 = re[s * 2];
5282 94313254 : x01 = im[s * 2];
5283 94313254 : x02 = re[s * 6];
5284 94313254 : x03 = im[s * 6];
5285 94313254 : x04 = re[s * 10];
5286 94313254 : x05 = im[s * 10];
5287 94313254 : x06 = re[s * 14];
5288 94313254 : x07 = im[s * 14];
5289 94313254 : x08 = re[s * 18];
5290 94313254 : x09 = im[s * 18];
5291 94313254 : x10 = re[s * 22];
5292 94313254 : x11 = im[s * 22];
5293 94313254 : x12 = re[s * 26];
5294 94313254 : x13 = im[s * 26];
5295 94313254 : x14 = re[s * 30];
5296 94313254 : x15 = im[s * 30];
5297 :
5298 94313254 : t00 = ( x00 + x08 );
5299 94313254 : t02 = ( x00 - x08 );
5300 94313254 : t01 = ( x01 + x09 );
5301 94313254 : t03 = ( x01 - x09 );
5302 94313254 : t04 = ( x02 + x10 );
5303 94313254 : t06 = ( x02 - x10 );
5304 94313254 : t05 = ( x03 + x11 );
5305 94313254 : t07 = ( x03 - x11 );
5306 94313254 : t08 = ( x04 + x12 );
5307 94313254 : t10 = ( x04 - x12 );
5308 94313254 : t09 = ( x05 + x13 );
5309 94313254 : t11 = ( x05 - x13 );
5310 94313254 : t12 = ( x06 + x14 );
5311 94313254 : t14 = ( x06 - x14 );
5312 94313254 : t13 = ( x07 + x15 );
5313 94313254 : t15 = ( x07 - x15 );
5314 :
5315 94313254 : s00 = ( t00 + t08 );
5316 94313254 : s04 = ( t00 - t08 );
5317 94313254 : s01 = ( t01 + t09 );
5318 94313254 : s05 = ( t01 - t09 );
5319 94313254 : s08 = ( t02 - t11 );
5320 94313254 : s10 = ( t02 + t11 );
5321 94313254 : s09 = ( t03 + t10 );
5322 94313254 : s11 = ( t03 - t10 );
5323 94313254 : s02 = ( t04 + t12 );
5324 94313254 : s07 = ( t04 - t12 );
5325 94313254 : s03 = ( t05 + t13 );
5326 94313254 : s06 = ( t13 - t05 );
5327 94313254 : t01 = ( t06 + t14 );
5328 94313254 : t02 = ( t06 - t14 );
5329 94313254 : t00 = ( t07 + t15 );
5330 94313254 : t03 = ( t07 - t15 );
5331 :
5332 : {
5333 94313254 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5334 94313254 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5335 94313254 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5336 94313254 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5337 : };
5338 :
5339 94313254 : y32 = ( s00 + s02 );
5340 94313254 : y40 = ( s00 - s02 );
5341 94313254 : y33 = ( s01 + s03 );
5342 94313254 : y41 = ( s01 - s03 );
5343 94313254 : y36 = ( s04 - s06 );
5344 94313254 : y44 = ( s04 + s06 );
5345 94313254 : y37 = ( s05 - s07 );
5346 94313254 : y45 = ( s05 + s07 );
5347 94313254 : y38 = ( s08 + s14 );
5348 94313254 : y46 = ( s08 - s14 );
5349 94313254 : y39 = ( s09 + s15 );
5350 94313254 : y47 = ( s09 - s15 );
5351 94313254 : y34 = ( s10 + s12 );
5352 94313254 : y42 = ( s10 - s12 );
5353 94313254 : y35 = ( s11 + s13 );
5354 94313254 : y43 = ( s11 - s13 );
5355 :
5356 94313254 : x00 = re[s * 3];
5357 94313254 : x01 = im[s * 3];
5358 94313254 : x02 = re[s * 7];
5359 94313254 : x03 = im[s * 7];
5360 94313254 : x04 = re[s * 11];
5361 94313254 : x05 = im[s * 11];
5362 94313254 : x06 = re[s * 15];
5363 94313254 : x07 = im[s * 15];
5364 94313254 : x08 = re[s * 19];
5365 94313254 : x09 = im[s * 19];
5366 94313254 : x10 = re[s * 23];
5367 94313254 : x11 = im[s * 23];
5368 94313254 : x12 = re[s * 27];
5369 94313254 : x13 = im[s * 27];
5370 94313254 : x14 = re[s * 31];
5371 94313254 : x15 = im[s * 31];
5372 :
5373 94313254 : t00 = ( x00 + x08 );
5374 94313254 : t02 = ( x00 - x08 );
5375 94313254 : t01 = ( x01 + x09 );
5376 94313254 : t03 = ( x01 - x09 );
5377 94313254 : t04 = ( x02 + x10 );
5378 94313254 : t06 = ( x02 - x10 );
5379 94313254 : t05 = ( x03 + x11 );
5380 94313254 : t07 = ( x03 - x11 );
5381 94313254 : t08 = ( x04 + x12 );
5382 94313254 : t10 = ( x04 - x12 );
5383 94313254 : t09 = ( x05 + x13 );
5384 94313254 : t11 = ( x05 - x13 );
5385 94313254 : t12 = ( x06 + x14 );
5386 94313254 : t14 = ( x06 - x14 );
5387 94313254 : t13 = ( x07 + x15 );
5388 94313254 : t15 = ( x07 - x15 );
5389 :
5390 94313254 : s00 = ( t00 + t08 );
5391 94313254 : s04 = ( t00 - t08 );
5392 94313254 : s01 = ( t01 + t09 );
5393 94313254 : s05 = ( t01 - t09 );
5394 94313254 : s08 = ( t02 - t11 );
5395 94313254 : s10 = ( t02 + t11 );
5396 94313254 : s09 = ( t03 + t10 );
5397 94313254 : s11 = ( t03 - t10 );
5398 94313254 : s02 = ( t04 + t12 );
5399 94313254 : s07 = ( t04 - t12 );
5400 94313254 : s03 = ( t05 + t13 );
5401 94313254 : s06 = ( t13 - t05 );
5402 94313254 : t01 = ( t06 + t14 );
5403 94313254 : t02 = ( t06 - t14 );
5404 94313254 : t00 = ( t07 + t15 );
5405 94313254 : t03 = ( t07 - t15 );
5406 :
5407 : {
5408 94313254 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5409 94313254 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5410 94313254 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5411 94313254 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5412 : };
5413 :
5414 94313254 : y48 = ( s00 + s02 );
5415 94313254 : y56 = ( s00 - s02 );
5416 94313254 : y49 = ( s01 + s03 );
5417 94313254 : y57 = ( s01 - s03 );
5418 94313254 : y52 = ( s04 - s06 );
5419 94313254 : y60 = ( s04 + s06 );
5420 94313254 : y53 = ( s05 - s07 );
5421 94313254 : y61 = ( s05 + s07 );
5422 94313254 : y54 = ( s08 + s14 );
5423 94313254 : y62 = ( s08 - s14 );
5424 94313254 : y55 = ( s09 + s15 );
5425 94313254 : y63 = ( s09 - s15 );
5426 94313254 : y50 = ( s10 + s12 );
5427 94313254 : y58 = ( s10 - s12 );
5428 94313254 : y51 = ( s11 + s13 );
5429 94313254 : y59 = ( s11 - s13 );
5430 :
5431 :
5432 : {
5433 94313254 : as = y18;
5434 94313254 : bs = y19;
5435 94313254 : y18 = ( ( as * FFT_RotVector_32[2 * 0 + 0] ) - ( bs * FFT_RotVector_32[2 * 0 + 1] ) );
5436 94313254 : y19 = ( ( as * FFT_RotVector_32[2 * 0 + 1] ) + ( bs * FFT_RotVector_32[2 * 0 + 0] ) );
5437 : };
5438 : {
5439 94313254 : as = y20;
5440 94313254 : bs = y21;
5441 94313254 : y20 = ( ( as * FFT_RotVector_32[2 * 1 + 0] ) - ( bs * FFT_RotVector_32[2 * 1 + 1] ) );
5442 94313254 : y21 = ( ( as * FFT_RotVector_32[2 * 1 + 1] ) + ( bs * FFT_RotVector_32[2 * 1 + 0] ) );
5443 : };
5444 : {
5445 94313254 : as = y22;
5446 94313254 : bs = y23;
5447 94313254 : y22 = ( ( as * FFT_RotVector_32[2 * 2 + 0] ) - ( bs * FFT_RotVector_32[2 * 2 + 1] ) );
5448 94313254 : y23 = ( ( as * FFT_RotVector_32[2 * 2 + 1] ) + ( bs * FFT_RotVector_32[2 * 2 + 0] ) );
5449 : };
5450 : {
5451 94313254 : as = y24;
5452 94313254 : bs = y25;
5453 94313254 : y24 = ( ( as * FFT_RotVector_32[2 * 3 + 0] ) - ( bs * FFT_RotVector_32[2 * 3 + 1] ) );
5454 94313254 : y25 = ( ( as * FFT_RotVector_32[2 * 3 + 1] ) + ( bs * FFT_RotVector_32[2 * 3 + 0] ) );
5455 : };
5456 : {
5457 94313254 : as = y26;
5458 94313254 : bs = y27;
5459 94313254 : y26 = ( ( as * FFT_RotVector_32[2 * 4 + 0] ) - ( bs * FFT_RotVector_32[2 * 4 + 1] ) );
5460 94313254 : y27 = ( ( as * FFT_RotVector_32[2 * 4 + 1] ) + ( bs * FFT_RotVector_32[2 * 4 + 0] ) );
5461 : };
5462 : {
5463 94313254 : as = y28;
5464 94313254 : bs = y29;
5465 94313254 : y28 = ( ( as * FFT_RotVector_32[2 * 5 + 0] ) - ( bs * FFT_RotVector_32[2 * 5 + 1] ) );
5466 94313254 : y29 = ( ( as * FFT_RotVector_32[2 * 5 + 1] ) + ( bs * FFT_RotVector_32[2 * 5 + 0] ) );
5467 : };
5468 : {
5469 94313254 : as = y30;
5470 94313254 : bs = y31;
5471 94313254 : y30 = ( ( as * FFT_RotVector_32[2 * 6 + 0] ) - ( bs * FFT_RotVector_32[2 * 6 + 1] ) );
5472 94313254 : y31 = ( ( as * FFT_RotVector_32[2 * 6 + 1] ) + ( bs * FFT_RotVector_32[2 * 6 + 0] ) );
5473 : };
5474 : {
5475 94313254 : as = y34;
5476 94313254 : bs = y35;
5477 94313254 : y34 = ( ( as * FFT_RotVector_32[2 * 7 + 0] ) - ( bs * FFT_RotVector_32[2 * 7 + 1] ) );
5478 94313254 : y35 = ( ( as * FFT_RotVector_32[2 * 7 + 1] ) + ( bs * FFT_RotVector_32[2 * 7 + 0] ) );
5479 : };
5480 : {
5481 94313254 : as = y36;
5482 94313254 : bs = y37;
5483 94313254 : y36 = ( ( as * FFT_RotVector_32[2 * 8 + 0] ) - ( bs * FFT_RotVector_32[2 * 8 + 1] ) );
5484 94313254 : y37 = ( ( as * FFT_RotVector_32[2 * 8 + 1] ) + ( bs * FFT_RotVector_32[2 * 8 + 0] ) );
5485 : };
5486 : {
5487 94313254 : as = y38;
5488 94313254 : bs = y39;
5489 94313254 : y38 = ( ( as * FFT_RotVector_32[2 * 9 + 0] ) - ( bs * FFT_RotVector_32[2 * 9 + 1] ) );
5490 94313254 : y39 = ( ( as * FFT_RotVector_32[2 * 9 + 1] ) + ( bs * FFT_RotVector_32[2 * 9 + 0] ) );
5491 : };
5492 : {
5493 94313254 : as = y42;
5494 94313254 : bs = y43;
5495 94313254 : y42 = ( ( as * FFT_RotVector_32[2 * 10 + 0] ) - ( bs * FFT_RotVector_32[2 * 10 + 1] ) );
5496 94313254 : y43 = ( ( as * FFT_RotVector_32[2 * 10 + 1] ) + ( bs * FFT_RotVector_32[2 * 10 + 0] ) );
5497 : };
5498 : {
5499 94313254 : as = y44;
5500 94313254 : bs = y45;
5501 94313254 : y44 = ( ( as * FFT_RotVector_32[2 * 11 + 0] ) - ( bs * FFT_RotVector_32[2 * 11 + 1] ) );
5502 94313254 : y45 = ( ( as * FFT_RotVector_32[2 * 11 + 1] ) + ( bs * FFT_RotVector_32[2 * 11 + 0] ) );
5503 : };
5504 : {
5505 94313254 : as = y46;
5506 94313254 : bs = y47;
5507 94313254 : y46 = ( ( as * FFT_RotVector_32[2 * 12 + 0] ) - ( bs * FFT_RotVector_32[2 * 12 + 1] ) );
5508 94313254 : y47 = ( ( as * FFT_RotVector_32[2 * 12 + 1] ) + ( bs * FFT_RotVector_32[2 * 12 + 0] ) );
5509 : };
5510 : {
5511 94313254 : as = y50;
5512 94313254 : bs = y51;
5513 94313254 : y50 = ( ( as * FFT_RotVector_32[2 * 13 + 0] ) - ( bs * FFT_RotVector_32[2 * 13 + 1] ) );
5514 94313254 : y51 = ( ( as * FFT_RotVector_32[2 * 13 + 1] ) + ( bs * FFT_RotVector_32[2 * 13 + 0] ) );
5515 : };
5516 : {
5517 94313254 : as = y52;
5518 94313254 : bs = y53;
5519 94313254 : y52 = ( ( as * FFT_RotVector_32[2 * 14 + 0] ) - ( bs * FFT_RotVector_32[2 * 14 + 1] ) );
5520 94313254 : y53 = ( ( as * FFT_RotVector_32[2 * 14 + 1] ) + ( bs * FFT_RotVector_32[2 * 14 + 0] ) );
5521 : };
5522 : {
5523 94313254 : as = y54;
5524 94313254 : bs = y55;
5525 94313254 : y54 = ( ( as * FFT_RotVector_32[2 * 15 + 0] ) - ( bs * FFT_RotVector_32[2 * 15 + 1] ) );
5526 94313254 : y55 = ( ( as * FFT_RotVector_32[2 * 15 + 1] ) + ( bs * FFT_RotVector_32[2 * 15 + 0] ) );
5527 : };
5528 : {
5529 94313254 : as = y56;
5530 94313254 : bs = y57;
5531 94313254 : y56 = ( ( as * FFT_RotVector_32[2 * 16 + 0] ) - ( bs * FFT_RotVector_32[2 * 16 + 1] ) );
5532 94313254 : y57 = ( ( as * FFT_RotVector_32[2 * 16 + 1] ) + ( bs * FFT_RotVector_32[2 * 16 + 0] ) );
5533 : };
5534 : {
5535 94313254 : as = y58;
5536 94313254 : bs = y59;
5537 94313254 : y58 = ( ( as * FFT_RotVector_32[2 * 17 + 0] ) - ( bs * FFT_RotVector_32[2 * 17 + 1] ) );
5538 94313254 : y59 = ( ( as * FFT_RotVector_32[2 * 17 + 1] ) + ( bs * FFT_RotVector_32[2 * 17 + 0] ) );
5539 : };
5540 : {
5541 94313254 : as = y60;
5542 94313254 : bs = y61;
5543 94313254 : y60 = ( ( as * FFT_RotVector_32[2 * 18 + 0] ) - ( bs * FFT_RotVector_32[2 * 18 + 1] ) );
5544 94313254 : y61 = ( ( as * FFT_RotVector_32[2 * 18 + 1] ) + ( bs * FFT_RotVector_32[2 * 18 + 0] ) );
5545 : };
5546 : {
5547 94313254 : as = y62;
5548 94313254 : bs = y63;
5549 94313254 : y62 = ( ( as * FFT_RotVector_32[2 * 19 + 0] ) - ( bs * FFT_RotVector_32[2 * 19 + 1] ) );
5550 94313254 : y63 = ( ( as * FFT_RotVector_32[2 * 19 + 1] ) + ( bs * FFT_RotVector_32[2 * 19 + 0] ) );
5551 : };
5552 :
5553 94313254 : t00 = ( y00 + y32 );
5554 94313254 : t02 = ( y00 - y32 );
5555 94313254 : t01 = ( y01 + y33 );
5556 94313254 : t03 = ( y01 - y33 );
5557 94313254 : t04 = ( y16 + y48 );
5558 94313254 : t07 = ( y16 - y48 );
5559 94313254 : t05 = ( y49 + y17 );
5560 94313254 : t06 = ( y49 - y17 );
5561 :
5562 94313254 : re[s * 0] = ( t00 + t04 );
5563 94313254 : im[s * 0] = ( t01 + t05 );
5564 94313254 : re[s * 8] = ( t02 - t06 );
5565 94313254 : im[s * 8] = ( t03 - t07 );
5566 94313254 : re[s * 16] = ( t00 - t04 );
5567 94313254 : im[s * 16] = ( t01 - t05 );
5568 94313254 : re[s * 24] = ( t02 + t06 );
5569 94313254 : im[s * 24] = ( t03 + t07 );
5570 :
5571 94313254 : t00 = ( y02 + y34 );
5572 94313254 : t02 = ( y02 - y34 );
5573 94313254 : t01 = ( y03 + y35 );
5574 94313254 : t03 = ( y03 - y35 );
5575 94313254 : t04 = ( y18 + y50 );
5576 94313254 : t07 = ( y18 - y50 );
5577 94313254 : t05 = ( y51 + y19 );
5578 94313254 : t06 = ( y51 - y19 );
5579 :
5580 94313254 : re[s * 1] = ( t00 + t04 );
5581 94313254 : im[s * 1] = ( t01 + t05 );
5582 94313254 : re[s * 9] = ( t02 - t06 );
5583 94313254 : im[s * 9] = ( t03 - t07 );
5584 94313254 : re[s * 17] = ( t00 - t04 );
5585 94313254 : im[s * 17] = ( t01 - t05 );
5586 94313254 : re[s * 25] = ( t02 + t06 );
5587 94313254 : im[s * 25] = ( t03 + t07 );
5588 :
5589 94313254 : t00 = ( y04 + y36 );
5590 94313254 : t02 = ( y04 - y36 );
5591 94313254 : t01 = ( y05 + y37 );
5592 94313254 : t03 = ( y05 - y37 );
5593 94313254 : t04 = ( y20 + y52 );
5594 94313254 : t07 = ( y20 - y52 );
5595 94313254 : t05 = ( y53 + y21 );
5596 94313254 : t06 = ( y53 - y21 );
5597 :
5598 94313254 : re[s * 2] = ( t00 + t04 );
5599 94313254 : im[s * 2] = ( t01 + t05 );
5600 94313254 : re[s * 10] = ( t02 - t06 );
5601 94313254 : im[s * 10] = ( t03 - t07 );
5602 94313254 : re[s * 18] = ( t00 - t04 );
5603 94313254 : im[s * 18] = ( t01 - t05 );
5604 94313254 : re[s * 26] = ( t02 + t06 );
5605 94313254 : im[s * 26] = ( t03 + t07 );
5606 :
5607 94313254 : t00 = ( y06 + y38 );
5608 94313254 : t02 = ( y06 - y38 );
5609 94313254 : t01 = ( y07 + y39 );
5610 94313254 : t03 = ( y07 - y39 );
5611 94313254 : t04 = ( y22 + y54 );
5612 94313254 : t07 = ( y22 - y54 );
5613 94313254 : t05 = ( y55 + y23 );
5614 94313254 : t06 = ( y55 - y23 );
5615 :
5616 94313254 : re[s * 3] = ( t00 + t04 );
5617 94313254 : im[s * 3] = ( t01 + t05 );
5618 94313254 : re[s * 11] = ( t02 - t06 );
5619 94313254 : im[s * 11] = ( t03 - t07 );
5620 94313254 : re[s * 19] = ( t00 - t04 );
5621 94313254 : im[s * 19] = ( t01 - t05 );
5622 94313254 : re[s * 27] = ( t02 + t06 );
5623 94313254 : im[s * 27] = ( t03 + t07 );
5624 :
5625 94313254 : t00 = ( y08 + y41 );
5626 94313254 : t02 = ( y08 - y41 );
5627 94313254 : t01 = ( y09 - y40 );
5628 94313254 : t03 = ( y09 + y40 );
5629 94313254 : t04 = ( y24 + y56 );
5630 94313254 : t07 = ( y24 - y56 );
5631 94313254 : t05 = ( y57 + y25 );
5632 94313254 : t06 = ( y57 - y25 );
5633 :
5634 94313254 : re[s * 4] = ( t00 + t04 );
5635 94313254 : im[s * 4] = ( t01 + t05 );
5636 94313254 : re[s * 12] = ( t02 - t06 );
5637 94313254 : im[s * 12] = ( t03 - t07 );
5638 94313254 : re[s * 20] = ( t00 - t04 );
5639 94313254 : im[s * 20] = ( t01 - t05 );
5640 94313254 : re[s * 28] = ( t02 + t06 );
5641 94313254 : im[s * 28] = ( t03 + t07 );
5642 :
5643 94313254 : t00 = ( y10 + y42 );
5644 94313254 : t02 = ( y10 - y42 );
5645 94313254 : t01 = ( y11 + y43 );
5646 94313254 : t03 = ( y11 - y43 );
5647 94313254 : t04 = ( y26 + y58 );
5648 94313254 : t07 = ( y26 - y58 );
5649 94313254 : t05 = ( y59 + y27 );
5650 94313254 : t06 = ( y59 - y27 );
5651 :
5652 94313254 : re[s * 5] = ( t00 + t04 );
5653 94313254 : im[s * 5] = ( t01 + t05 );
5654 94313254 : re[s * 13] = ( t02 - t06 );
5655 94313254 : im[s * 13] = ( t03 - t07 );
5656 94313254 : re[s * 21] = ( t00 - t04 );
5657 94313254 : im[s * 21] = ( t01 - t05 );
5658 94313254 : re[s * 29] = ( t02 + t06 );
5659 94313254 : im[s * 29] = ( t03 + t07 );
5660 :
5661 94313254 : t00 = ( y12 + y44 );
5662 94313254 : t02 = ( y12 - y44 );
5663 94313254 : t01 = ( y13 + y45 );
5664 94313254 : t03 = ( y13 - y45 );
5665 94313254 : t04 = ( y28 + y60 );
5666 94313254 : t07 = ( y28 - y60 );
5667 94313254 : t05 = ( y61 + y29 );
5668 94313254 : t06 = ( y61 - y29 );
5669 :
5670 94313254 : re[s * 6] = ( t00 + t04 );
5671 94313254 : im[s * 6] = ( t01 + t05 );
5672 94313254 : re[s * 14] = ( t02 - t06 );
5673 94313254 : im[s * 14] = ( t03 - t07 );
5674 94313254 : re[s * 22] = ( t00 - t04 );
5675 94313254 : im[s * 22] = ( t01 - t05 );
5676 94313254 : re[s * 30] = ( t02 + t06 );
5677 94313254 : im[s * 30] = ( t03 + t07 );
5678 :
5679 94313254 : t00 = ( y14 + y46 );
5680 94313254 : t02 = ( y14 - y46 );
5681 94313254 : t01 = ( y15 + y47 );
5682 94313254 : t03 = ( y15 - y47 );
5683 94313254 : t04 = ( y30 + y62 );
5684 94313254 : t07 = ( y30 - y62 );
5685 94313254 : t05 = ( y63 + y31 );
5686 94313254 : t06 = ( y63 - y31 );
5687 :
5688 94313254 : re[s * 7] = ( t00 + t04 );
5689 94313254 : im[s * 7] = ( t01 + t05 );
5690 94313254 : re[s * 15] = ( t02 - t06 );
5691 94313254 : im[s * 15] = ( t03 - t07 );
5692 94313254 : re[s * 23] = ( t00 - t04 );
5693 94313254 : im[s * 23] = ( t01 - t05 );
5694 94313254 : re[s * 31] = ( t02 + t06 );
5695 94313254 : im[s * 31] = ( t03 + t07 );
5696 :
5697 94313254 : return;
5698 : }
5699 :
5700 154812564 : static void fft_lenN(
5701 : float *re,
5702 : float *im,
5703 : const float *W,
5704 : const int16_t len,
5705 : const int16_t dim1,
5706 : const int16_t dim2,
5707 : const int16_t sx,
5708 : const int16_t sc,
5709 : const int16_t Woff )
5710 : {
5711 : int16_t i, j;
5712 : float x[L_FRAME_MAX * 2];
5713 :
5714 1640539300 : for ( i = 0; i < dim2; i++ )
5715 : {
5716 35088974008 : for ( j = 0; j < dim1; j++ )
5717 : {
5718 33603247272 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
5719 33603247272 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
5720 : }
5721 : }
5722 :
5723 154812564 : switch ( dim1 )
5724 : {
5725 520950 : case 5:
5726 4688550 : for ( i = 0; i < dim2; i++ )
5727 : {
5728 4167600 : fft_len5( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5729 : }
5730 520950 : break;
5731 :
5732 278062 : case 8:
5733 2502558 : for ( i = 0; i < dim2; i++ )
5734 : {
5735 2224496 : fft_len8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5736 : }
5737 278062 : break;
5738 :
5739 30304987 : case 10:
5740 272744883 : for ( i = 0; i < dim2; i++ )
5741 : {
5742 242439896 : fft_len10( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5743 : }
5744 30304987 : break;
5745 :
5746 1892209 : case 15:
5747 17029881 : for ( i = 0; i < dim2; i++ )
5748 : {
5749 15137672 : fft_len15( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5750 : }
5751 1892209 : break;
5752 :
5753 3339752 : case 16:
5754 30057768 : for ( i = 0; i < dim2; i++ )
5755 : {
5756 26718016 : fft_len16( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5757 : }
5758 3339752 : break;
5759 :
5760 53802634 : case 20:
5761 596469994 : for ( i = 0; i < dim2; i++ )
5762 : {
5763 542667360 : fft_len20( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5764 : }
5765 53802634 : break;
5766 :
5767 60851287 : case 30:
5768 682641519 : for ( i = 0; i < dim2; i++ )
5769 : {
5770 621790232 : fft_len30( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5771 : }
5772 60851287 : break;
5773 :
5774 3822683 : case 32:
5775 34404147 : for ( i = 0; i < dim2; i++ )
5776 : {
5777 30581464 : fft_len32( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5778 : }
5779 3822683 : break;
5780 : }
5781 :
5782 154812564 : switch ( dim2 )
5783 : {
5784 :
5785 128691654 : case 8:
5786 : {
5787 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
5788 : float t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
5789 : float s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
5790 :
5791 128691654 : if ( dim1 == 30 || dim1 == 20 || dim1 == 15 || dim1 == 10 || dim1 == 5 )
5792 : {
5793 2697681542 : for ( i = 0; i < dim1; i++ )
5794 : {
5795 : {
5796 2576430385 : x00 = x[2 * i + 2 * 0 * dim1];
5797 2576430385 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5798 : };
5799 2576430385 : if ( i == 0 )
5800 : {
5801 : {
5802 121251157 : x02 = x[2 * i + 2 * 1 * dim1];
5803 121251157 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5804 : };
5805 : {
5806 121251157 : x04 = x[2 * i + 2 * 2 * dim1];
5807 121251157 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5808 : };
5809 : {
5810 121251157 : x06 = x[2 * i + 2 * 3 * dim1];
5811 121251157 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5812 : };
5813 : {
5814 121251157 : x08 = x[2 * i + 2 * 4 * dim1];
5815 121251157 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5816 : };
5817 : {
5818 121251157 : x10 = x[2 * i + 2 * 5 * dim1];
5819 121251157 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5820 : };
5821 : {
5822 121251157 : x12 = x[2 * i + 2 * 6 * dim1];
5823 121251157 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5824 : };
5825 : {
5826 121251157 : x14 = x[2 * i + 2 * 7 * dim1];
5827 121251157 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5828 : };
5829 : }
5830 : else
5831 : {
5832 : {
5833 2455179228 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] );
5834 2455179228 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] );
5835 : };
5836 : {
5837 2455179228 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] );
5838 2455179228 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] );
5839 : };
5840 : {
5841 2455179228 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] );
5842 2455179228 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] );
5843 : };
5844 : {
5845 2455179228 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] );
5846 2455179228 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] );
5847 : };
5848 : {
5849 2455179228 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] );
5850 2455179228 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] );
5851 : };
5852 : {
5853 2455179228 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] );
5854 2455179228 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] );
5855 : };
5856 : {
5857 2455179228 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] );
5858 2455179228 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] );
5859 : };
5860 : }
5861 :
5862 2576430385 : t00 = ( x00 + x08 );
5863 2576430385 : t02 = ( x00 - x08 );
5864 2576430385 : t01 = ( x01 + x09 );
5865 2576430385 : t03 = ( x01 - x09 );
5866 2576430385 : t04 = ( x02 + x10 );
5867 2576430385 : t06 = ( x02 - x10 );
5868 2576430385 : t05 = ( x03 + x11 );
5869 2576430385 : t07 = ( x03 - x11 );
5870 2576430385 : t08 = ( x04 + x12 );
5871 2576430385 : t10 = ( x04 - x12 );
5872 2576430385 : t09 = ( x05 + x13 );
5873 2576430385 : t11 = ( x05 - x13 );
5874 2576430385 : t12 = ( x06 + x14 );
5875 2576430385 : t14 = ( x06 - x14 );
5876 2576430385 : t13 = ( x07 + x15 );
5877 2576430385 : t15 = ( x07 - x15 );
5878 :
5879 2576430385 : s00 = ( t00 + t08 );
5880 2576430385 : s04 = ( t00 - t08 );
5881 2576430385 : s01 = ( t01 + t09 );
5882 2576430385 : s05 = ( t01 - t09 );
5883 2576430385 : s08 = ( t02 - t11 );
5884 2576430385 : s10 = ( t02 + t11 );
5885 2576430385 : s09 = ( t03 + t10 );
5886 2576430385 : s11 = ( t03 - t10 );
5887 2576430385 : s02 = ( t04 + t12 );
5888 2576430385 : s07 = ( t04 - t12 );
5889 2576430385 : s03 = ( t05 + t13 );
5890 2576430385 : s06 = ( t13 - t05 );
5891 :
5892 2576430385 : t01 = ( t06 + t14 );
5893 2576430385 : t02 = ( t06 - t14 );
5894 2576430385 : t00 = ( t07 + t15 );
5895 2576430385 : t03 = ( t07 - t15 );
5896 :
5897 2576430385 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5898 2576430385 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5899 2576430385 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5900 2576430385 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5901 :
5902 2576430385 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
5903 2576430385 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
5904 2576430385 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
5905 2576430385 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
5906 2576430385 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
5907 2576430385 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
5908 2576430385 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
5909 2576430385 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
5910 2576430385 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
5911 2576430385 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
5912 2576430385 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
5913 2576430385 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
5914 2576430385 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
5915 2576430385 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
5916 2576430385 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
5917 2576430385 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
5918 : }
5919 : }
5920 : else
5921 : {
5922 185426881 : for ( i = 0; i < dim1; i++ )
5923 : {
5924 : {
5925 177986384 : x00 = x[2 * i + 2 * 0 * dim1];
5926 177986384 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5927 : };
5928 177986384 : if ( i == 0 )
5929 : {
5930 : {
5931 7440497 : x02 = x[2 * i + 2 * 1 * dim1];
5932 7440497 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5933 : };
5934 : {
5935 7440497 : x04 = x[2 * i + 2 * 2 * dim1];
5936 7440497 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5937 : };
5938 : {
5939 7440497 : x06 = x[2 * i + 2 * 3 * dim1];
5940 7440497 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5941 : };
5942 : {
5943 7440497 : x08 = x[2 * i + 2 * 4 * dim1];
5944 7440497 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5945 : };
5946 : {
5947 7440497 : x10 = x[2 * i + 2 * 5 * dim1];
5948 7440497 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5949 : };
5950 : {
5951 7440497 : x12 = x[2 * i + 2 * 6 * dim1];
5952 7440497 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5953 : };
5954 : {
5955 7440497 : x14 = x[2 * i + 2 * 7 * dim1];
5956 7440497 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5957 : };
5958 : }
5959 : else
5960 : {
5961 : {
5962 170545887 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] );
5963 170545887 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 - Woff] );
5964 : };
5965 : {
5966 170545887 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] );
5967 170545887 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 - Woff] );
5968 : };
5969 : {
5970 170545887 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] );
5971 170545887 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 - Woff] );
5972 : };
5973 : {
5974 170545887 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] );
5975 170545887 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 - Woff] );
5976 : };
5977 : {
5978 170545887 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] );
5979 170545887 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 - Woff] );
5980 : };
5981 : {
5982 170545887 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] );
5983 170545887 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 - Woff] );
5984 : };
5985 : {
5986 170545887 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] );
5987 170545887 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 - Woff] );
5988 : };
5989 : }
5990 :
5991 177986384 : t00 = ( x00 + x08 );
5992 177986384 : t02 = ( x00 - x08 );
5993 177986384 : t01 = ( x01 + x09 );
5994 177986384 : t03 = ( x01 - x09 );
5995 177986384 : t04 = ( x02 + x10 );
5996 177986384 : t06 = ( x02 - x10 );
5997 177986384 : t05 = ( x03 + x11 );
5998 177986384 : t07 = ( x03 - x11 );
5999 177986384 : t08 = ( x04 + x12 );
6000 177986384 : t10 = ( x04 - x12 );
6001 177986384 : t09 = ( x05 + x13 );
6002 177986384 : t11 = ( x05 - x13 );
6003 177986384 : t12 = ( x06 + x14 );
6004 177986384 : t14 = ( x06 - x14 );
6005 177986384 : t13 = ( x07 + x15 );
6006 177986384 : t15 = ( x07 - x15 );
6007 :
6008 177986384 : s00 = ( t00 + t08 );
6009 177986384 : s04 = ( t00 - t08 );
6010 177986384 : s01 = ( t01 + t09 );
6011 177986384 : s05 = ( t01 - t09 );
6012 177986384 : s08 = ( t02 - t11 );
6013 177986384 : s10 = ( t02 + t11 );
6014 177986384 : s09 = ( t03 + t10 );
6015 177986384 : s11 = ( t03 - t10 );
6016 177986384 : s02 = ( t04 + t12 );
6017 177986384 : s07 = ( t04 - t12 );
6018 177986384 : s03 = ( t05 + t13 );
6019 177986384 : s06 = ( t13 - t05 );
6020 :
6021 177986384 : t01 = ( t06 + t14 );
6022 177986384 : t02 = ( t06 - t14 );
6023 177986384 : t00 = ( t07 + t15 );
6024 177986384 : t03 = ( t07 - t15 );
6025 :
6026 177986384 : s12 = ( ( t00 + t02 ) * FFT_C81 );
6027 177986384 : s14 = ( ( t00 - t02 ) * FFT_C81 );
6028 177986384 : s13 = ( ( t03 - t01 ) * FFT_C81 );
6029 177986384 : s15 = ( ( t01 + t03 ) * FFT_C82 );
6030 :
6031 177986384 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
6032 177986384 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
6033 177986384 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
6034 177986384 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
6035 177986384 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
6036 177986384 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
6037 177986384 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
6038 177986384 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
6039 177986384 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
6040 177986384 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
6041 177986384 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
6042 177986384 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
6043 177986384 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
6044 177986384 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
6045 177986384 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
6046 177986384 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
6047 : }
6048 : }
6049 128691654 : break;
6050 : }
6051 :
6052 134916 : case 10:
6053 : {
6054 : float y[2 * 10];
6055 1484076 : for ( j = 0; j < dim2; j++ )
6056 : {
6057 : {
6058 1349160 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6059 1349160 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6060 : };
6061 : }
6062 134916 : fft_len10( &y[0], &y[1], 2 );
6063 1484076 : for ( j = 0; j < dim2; j++ )
6064 : {
6065 1349160 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6066 1349160 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6067 : }
6068 :
6069 2698320 : for ( i = 1; i < dim1; i++ )
6070 : {
6071 : {
6072 2563404 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6073 2563404 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6074 : }
6075 :
6076 25634040 : for ( j = 1; j < dim2; j++ )
6077 : {
6078 : {
6079 23070636 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6080 23070636 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6081 : }
6082 : }
6083 2563404 : fft_len10( &y[0], &y[1], 2 );
6084 28197444 : for ( j = 0; j < dim2; j++ )
6085 : {
6086 25634040 : re[sx * i + sx * j * dim1] = y[2 * j];
6087 25634040 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6088 : }
6089 : }
6090 134916 : break;
6091 : }
6092 :
6093 23424932 : case 16:
6094 : {
6095 : float y[2 * 16];
6096 398223844 : for ( j = 0; j < dim2; j++ )
6097 : {
6098 : {
6099 374798912 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6100 374798912 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6101 : };
6102 : }
6103 23424932 : fft_len16( &y[0], &y[1], 2 );
6104 398223844 : for ( j = 0; j < dim2; j++ )
6105 : {
6106 374798912 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6107 374798912 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6108 : }
6109 :
6110 588464590 : for ( i = 1; i < dim1; i++ )
6111 : {
6112 : {
6113 565039658 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6114 565039658 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6115 : }
6116 :
6117 9040634528 : for ( j = 1; j < dim2; j++ )
6118 : {
6119 : {
6120 8475594870 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6121 8475594870 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6122 : }
6123 : }
6124 565039658 : fft_len16( &y[0], &y[1], 2 );
6125 9605674186 : for ( j = 0; j < dim2; j++ )
6126 : {
6127 9040634528 : re[sx * i + sx * j * dim1] = y[2 * j];
6128 9040634528 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6129 : }
6130 : }
6131 23424932 : break;
6132 : }
6133 :
6134 159046 : case 20:
6135 : {
6136 : float y[2 * 20];
6137 3339966 : for ( j = 0; j < dim2; j++ )
6138 : {
6139 : {
6140 3180920 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6141 3180920 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6142 : };
6143 : }
6144 159046 : fft_len20( &y[0], &y[1], 2 );
6145 3339966 : for ( j = 0; j < dim2; j++ )
6146 : {
6147 3180920 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6148 3180920 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6149 : }
6150 :
6151 4303960 : for ( i = 1; i < dim1; i++ )
6152 : {
6153 : {
6154 4144914 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6155 4144914 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6156 : }
6157 : {
6158 4144914 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6159 4144914 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6160 : }
6161 :
6162 41449140 : for ( j = 2; j < dim2; j = j + 2 )
6163 : {
6164 : {
6165 37304226 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6166 37304226 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6167 : }
6168 : {
6169 37304226 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6170 37304226 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6171 : }
6172 : }
6173 4144914 : fft_len20( &y[0], &y[1], 2 );
6174 87043194 : for ( j = 0; j < dim2; j++ )
6175 : {
6176 82898280 : re[sx * i + sx * j * dim1] = y[2 * j];
6177 82898280 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6178 : }
6179 : }
6180 159046 : break;
6181 : }
6182 :
6183 2402016 : case 32:
6184 : {
6185 : float y[2 * 32];
6186 79266528 : for ( j = 0; j < dim2; j++ )
6187 : {
6188 : {
6189 76864512 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6190 76864512 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6191 : };
6192 : }
6193 2402016 : fft_len32( &y[0], &y[1], 2 );
6194 79266528 : for ( j = 0; j < dim2; j++ )
6195 : {
6196 76864512 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6197 76864512 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6198 : }
6199 :
6200 63731790 : for ( i = 1; i < dim1; i++ )
6201 : {
6202 : {
6203 61329774 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6204 61329774 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6205 : }
6206 : {
6207 61329774 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6208 61329774 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6209 : }
6210 :
6211 981276384 : for ( j = 2; j < dim2; j = j + 2 )
6212 : {
6213 : {
6214 919946610 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6215 919946610 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6216 : }
6217 : {
6218 919946610 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6219 919946610 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6220 : }
6221 : }
6222 61329774 : fft_len32( &y[0], &y[1], 2 );
6223 2023882542 : for ( j = 0; j < dim2; j++ )
6224 : {
6225 1962552768 : re[sx * i + sx * j * dim1] = y[2 * j];
6226 1962552768 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6227 : }
6228 : }
6229 2402016 : break;
6230 : }
6231 : }
6232 :
6233 154812564 : return;
6234 : }
6235 :
6236 :
6237 : /*-----------------------------------------------------------------*
6238 : * fft()
6239 : *
6240 : * Complex-value FFT
6241 : *-----------------------------------------------------------------*/
6242 :
6243 154812564 : void fft(
6244 : float *re, /* i/o: real part */
6245 : float *im, /* i/o: imag part */
6246 : const int16_t length, /* i : length of fft */
6247 : const int16_t s /* i : sign */
6248 : )
6249 : {
6250 154812564 : switch ( length )
6251 : {
6252 0 : case 20:
6253 0 : fft_len20( re, im, s );
6254 0 : break;
6255 520950 : case 40:
6256 520950 : fft_lenN( re, im, FFT_RotVector_640, 640, 5, 8, s, 8, 40 );
6257 520950 : break;
6258 278062 : case 64:
6259 278062 : fft_lenN( re, im, FFT_RotVector_256, 256, 8, 8, s, 8, 64 );
6260 278062 : break;
6261 30304987 : case 80:
6262 30304987 : fft_lenN( re, im, FFT_RotVector_640, 640, 10, 8, s, 4, 40 );
6263 30304987 : break;
6264 0 : case 100:
6265 0 : fft_lenN( re, im, FFT_RotVector_400, 400, 10, 10, s, 4, 40 );
6266 0 : break;
6267 1892209 : case 120:
6268 1892209 : fft_lenN( re, im, FFT_RotVector_960, 960, 15, 8, s, 4, 60 );
6269 1892209 : break;
6270 3339752 : case 128:
6271 3339752 : fft_lenN( re, im, FFT_RotVector_256, 256, 16, 8, s, 4, 64 );
6272 3339752 : break;
6273 41359770 : case 160:
6274 41359770 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 8, s, 2, 40 );
6275 41359770 : break;
6276 134916 : case 200:
6277 134916 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 10, s, 2, 40 );
6278 134916 : break;
6279 47173241 : case 240:
6280 47173241 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 8, s, 2, 60 );
6281 47173241 : break;
6282 3822683 : case 256:
6283 3822683 : fft_lenN( re, im, FFT_RotVector_256, 256, 32, 8, s, 2, 64 );
6284 3822683 : break;
6285 11428337 : case 320:
6286 11428337 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 16, s, 2, 40 );
6287 11428337 : break;
6288 46742 : case 400:
6289 46742 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 20, s, 2, 40 );
6290 46742 : break;
6291 11996595 : case 480:
6292 11996595 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 16, s, 2, 60 );
6293 11996595 : break;
6294 112304 : case 600:
6295 112304 : fft_lenN( re, im, FFT_RotVector_600, 600, 30, 20, s, 2, 60 );
6296 112304 : break;
6297 832869 : case 640:
6298 832869 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 32, s, 2, 40 );
6299 832869 : break;
6300 1569147 : case 960:
6301 1569147 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 32, s, 2, 60 );
6302 1569147 : break;
6303 0 : default:
6304 0 : assert( !"fft length is not supported!" );
6305 : }
6306 :
6307 154812564 : return;
6308 : }
6309 :
6310 :
6311 : /*-----------------------------------------------------------------*
6312 : * rfft()
6313 : *
6314 : * Real-value FFT
6315 : *-----------------------------------------------------------------*/
6316 :
6317 5188798 : void rfft(
6318 : float *x, /* i/o: values */
6319 : const float *w, /* i : window */
6320 : const int16_t length, /* i : length of fft */
6321 : const int16_t isign /* i : sign */
6322 : )
6323 : {
6324 : int16_t i, sizeOfFft2, sizeOfFft4;
6325 : float tmp, t1, t2, t3, t4, s1, s2;
6326 :
6327 5188798 : sizeOfFft2 = length >> 1;
6328 5188798 : sizeOfFft4 = length >> 2;
6329 5188798 : s1 = 1.f / (float) sizeOfFft2;
6330 5188798 : s2 = -1.f / (float) sizeOfFft2;
6331 :
6332 5188798 : switch ( isign )
6333 : {
6334 :
6335 2587003 : case -1:
6336 :
6337 2587003 : fft( x, x + 1, sizeOfFft2, 2 );
6338 :
6339 2587003 : tmp = x[0] + x[1];
6340 2587003 : x[1] = x[0] - x[1];
6341 2587003 : x[0] = tmp;
6342 :
6343 370939035 : for ( i = 1; i <= sizeOfFft4; i++ )
6344 : {
6345 368352032 : t1 = x[2 * i] - x[length - 2 * i];
6346 368352032 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6347 368352032 : t3 = w[i] * t1 - w[i + sizeOfFft4] * t2;
6348 368352032 : t4 = w[i + sizeOfFft4] * t1 + w[i] * t2;
6349 368352032 : t1 = x[2 * i] + x[length - 2 * i];
6350 368352032 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6351 :
6352 368352032 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6353 368352032 : x[2 * i + 1] = ( t2 - t4 ) * 0.5f;
6354 368352032 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6355 368352032 : x[length - 2 * i + 1] = -( t2 + t4 ) * 0.5f;
6356 : }
6357 :
6358 2587003 : break;
6359 :
6360 2601795 : case +1:
6361 :
6362 2601795 : tmp = ( x[0] + x[1] ) * 0.5f;
6363 2601795 : x[1] = ( x[1] - x[0] ) * 0.5f;
6364 2601795 : x[0] = tmp;
6365 :
6366 487752595 : for ( i = 1; i <= sizeOfFft4; i++ )
6367 : {
6368 485150800 : t1 = x[2 * i] - x[length - 2 * i];
6369 485150800 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6370 485150800 : t3 = w[i] * t1 + w[i + sizeOfFft4] * t2;
6371 485150800 : t4 = -w[i + sizeOfFft4] * t1 + w[i] * t2;
6372 485150800 : t1 = x[2 * i] + x[length - 2 * i];
6373 485150800 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6374 :
6375 485150800 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6376 485150800 : x[2 * i + 1] = ( t4 - t2 ) * 0.5f;
6377 485150800 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6378 485150800 : x[length - 2 * i + 1] = ( t2 + t4 ) * 0.5f;
6379 : }
6380 :
6381 2601795 : fft( x, x + 1, sizeOfFft2, 2 );
6382 :
6383 972903395 : for ( i = 0; i < length; i += 2 )
6384 : {
6385 970301600 : x[i] *= s1;
6386 970301600 : x[i + 1] *= s2;
6387 : }
6388 :
6389 2601795 : break;
6390 : }
6391 :
6392 5188798 : return;
6393 : }
6394 :
6395 :
6396 : #define WMC_TOOL_SKIP
6397 :
6398 : #define SCALEFACTOR8 ( 4 )
6399 : #define SCALEFACTOR64 ( 7 )
6400 : #define SCALEFACTORN2 ( 3 )
6401 :
6402 : #define SHC( x ) ( (Word16) x )
6403 : #define FFTC( x ) WORD322WORD16( (Word32) x )
6404 :
6405 : #define C81_FX ( FFTC( 0x5a82799a ) ) /* FL2WORD32( 7.071067811865475e-1) */
6406 : #define C82_FX ( FFTC( 0xa57d8666 ) ) /* FL2WORD32(-7.071067811865475e-1) */
6407 :
6408 : #define cplxMpy4_8_0( re, im, a, b, c, d ) \
6409 : re = L_shr( L_sub( Mpy_32_16( a, c ), Mpy_32_16( b, d ) ), 1 ); \
6410 : im = L_shr( L_add( Mpy_32_16( a, d ), Mpy_32_16( b, c ) ), 1 );
6411 :
6412 : #define cplxMpy4_8_1( re, im, a, b ) \
6413 : re = L_shr( a, 1 ); \
6414 : im = L_shr( b, 1 );
6415 :
6416 :
6417 : /**
6418 : * \brief Twiddle factors are unscaled
6419 : */
6420 : static const Word16 RotVector_256[2 * ( 256 - 32 )] = {
6421 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7ff6 ), SHC( 0xfcdc ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7fa7 ), SHC( 0xf695 ),
6422 : SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7e1e ), SHC( 0xea1e ),
6423 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7b5d ), SHC( 0xdddc ),
6424 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x798a ), SHC( 0xd7d9 ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x776c ), SHC( 0xd1ef ),
6425 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x7505 ), SHC( 0xcc21 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x7255 ), SHC( 0xc673 ),
6426 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6f5f ), SHC( 0xc0e9 ), SHC( 0x6dca ), SHC( 0xbe32 ), SHC( 0x6c24 ), SHC( 0xbb85 ),
6427 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x64e9 ), SHC( 0xb140 ),
6428 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x60ec ), SHC( 0xac65 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5cb4 ), SHC( 0xa7bd ),
6429 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7e9d ), SHC( 0xed38 ),
6430 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x7885 ), SHC( 0xd4e1 ),
6431 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6dca ), SHC( 0xbe32 ),
6432 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x5ed7 ), SHC( 0xaa0a ),
6433 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x55f6 ), SHC( 0xa129 ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x4c40 ), SHC( 0x9930 ),
6434 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x3c57 ), SHC( 0x8f1d ), SHC( 0x36ba ), SHC( 0x8c4a ),
6435 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x1f1a ), SHC( 0x83d6 ),
6436 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x12c8 ), SHC( 0x8163 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0648 ), SHC( 0x8027 ),
6437 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fa7 ), SHC( 0xf695 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ),
6438 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x776c ), SHC( 0xd1ef ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6439 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x64e9 ), SHC( 0xb140 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5843 ), SHC( 0xa34c ),
6440 : SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x49b4 ), SHC( 0x9759 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x398d ), SHC( 0x8dab ),
6441 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2827 ), SHC( 0x8676 ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x15e2 ), SHC( 0x81e2 ),
6442 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xf9b8 ), SHC( 0x8027 ), SHC( 0xf055 ), SHC( 0x80f6 ),
6443 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdddc ), SHC( 0x84a3 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xcc21 ), SHC( 0x8afb ),
6444 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xbb85 ), SHC( 0x93dc ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xac65 ), SHC( 0x9f14 ),
6445 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7a7d ), SHC( 0xdad8 ),
6446 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x62f2 ), SHC( 0xaecc ),
6447 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x3c57 ), SHC( 0x8f1d ),
6448 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0c8c ), SHC( 0x809e ),
6449 : SHC( 0x0000 ), SHC( 0x8000 ), SHC( 0xf374 ), SHC( 0x809e ), SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdad8 ), SHC( 0x8583 ),
6450 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb8e3 ), SHC( 0x9592 ), SHC( 0xaecc ), SHC( 0x9d0e ),
6451 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x9592 ), SHC( 0xb8e3 ), SHC( 0x8f1d ), SHC( 0xc3a9 ),
6452 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x8583 ), SHC( 0xdad8 ), SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x809e ), SHC( 0xf374 ),
6453 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x776c ), SHC( 0xd1ef ),
6454 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x539b ), SHC( 0x9f14 ),
6455 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x398d ), SHC( 0x8dab ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x1c0c ), SHC( 0x831c ),
6456 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xfcdc ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xdddc ), SHC( 0x84a3 ),
6457 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc0e9 ), SHC( 0x90a1 ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xa7bd ), SHC( 0xa34c ),
6458 : SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x93dc ), SHC( 0xbb85 ), SHC( 0x8c4a ), SHC( 0xc946 ), SHC( 0x8676 ), SHC( 0xd7d9 ),
6459 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8059 ), SHC( 0xf695 ), SHC( 0x8027 ), SHC( 0x0648 ), SHC( 0x81e2 ), SHC( 0x15e2 ),
6460 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8afb ), SHC( 0x33df ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9b17 ), SHC( 0x4ec0 ),
6461 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x73b6 ), SHC( 0xc946 ),
6462 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x41ce ), SHC( 0x9236 ),
6463 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xf9b8 ), SHC( 0x8027 ),
6464 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb3c0 ), SHC( 0x9930 ),
6465 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9930 ), SHC( 0xb3c0 ), SHC( 0x8f1d ), SHC( 0xc3a9 ), SHC( 0x877b ), SHC( 0xd4e1 ),
6466 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x809e ), SHC( 0x0c8c ), SHC( 0x83d6 ), SHC( 0x1f1a ),
6467 : SHC( 0x89be ), SHC( 0x30fc ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9d0e ), SHC( 0x5134 ), SHC( 0xaa0a ), SHC( 0x5ed7 ),
6468 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xc946 ), SHC( 0x73b6 ), SHC( 0xdad8 ), SHC( 0x7a7d ), SHC( 0xed38 ), SHC( 0x7e9d ),
6469 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e1e ), SHC( 0xea1e ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6470 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x539b ), SHC( 0x9f14 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x2e11 ), SHC( 0x8894 ),
6471 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xd7d9 ), SHC( 0x8676 ),
6472 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb140 ), SHC( 0x9b17 ), SHC( 0xa129 ), SHC( 0xaa0a ), SHC( 0x93dc ), SHC( 0xbb85 ),
6473 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x831c ), SHC( 0xe3f4 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x80f6 ), SHC( 0x0fab ),
6474 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8dab ), SHC( 0x398d ), SHC( 0x9930 ), SHC( 0x4c40 ), SHC( 0xa7bd ), SHC( 0x5cb4 ),
6475 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xcc21 ), SHC( 0x7505 ), SHC( 0xe0e6 ), SHC( 0x7c2a ), SHC( 0xf695 ), SHC( 0x7fa7 ),
6476 : SHC( 0x0c8c ), SHC( 0x7f62 ), SHC( 0x2224 ), SHC( 0x7b5d ), SHC( 0x36ba ), SHC( 0x73b6 ), SHC( 0x49b4 ), SHC( 0x68a7 )
6477 : };
6478 :
6479 : /*-----------------------------------------------------------------*
6480 : * BASOP_fft8()
6481 : *
6482 : * Function performs a complex 8-point FFT
6483 : * The FFT is performed inplace. The result of the FFT
6484 : * is scaled by SCALEFACTOR8 bits.
6485 : *
6486 : * WOPS with 32x16 bit multiplications: 108 cycles
6487 : *-----------------------------------------------------------------*/
6488 :
6489 3644784 : static void BASOP_fft8(
6490 : Word32 *re,
6491 : Word32 *im,
6492 : Word16 s )
6493 : {
6494 : Word32 x00, x01, x02, x03, x04, x05, x06, x07;
6495 : Word32 x08, x09, x10, x11, x12, x13, x14, x15;
6496 : Word32 t00, t01, t02, t03, t04, t05, t06, t07;
6497 : Word32 t08, t09, t10, t11, t12, t13, t14, t15;
6498 : Word32 s00, s01, s02, s03, s04, s05, s06, s07;
6499 : Word32 s08, s09, s10, s11, s12, s13, s14, s15;
6500 :
6501 :
6502 : /* Pre-additions */
6503 :
6504 3644784 : x00 = L_shr( re[s * 0], SCALEFACTOR8 );
6505 3644784 : x01 = L_shr( im[s * 0], SCALEFACTOR8 );
6506 3644784 : x02 = L_shr( re[s * 1], SCALEFACTOR8 );
6507 3644784 : x03 = L_shr( im[s * 1], SCALEFACTOR8 );
6508 3644784 : x04 = L_shr( re[s * 2], SCALEFACTOR8 );
6509 3644784 : x05 = L_shr( im[s * 2], SCALEFACTOR8 );
6510 3644784 : x06 = L_shr( re[s * 3], SCALEFACTOR8 );
6511 3644784 : x07 = L_shr( im[s * 3], SCALEFACTOR8 );
6512 3644784 : x08 = L_shr( re[s * 4], SCALEFACTOR8 );
6513 3644784 : x09 = L_shr( im[s * 4], SCALEFACTOR8 );
6514 3644784 : x10 = L_shr( re[s * 5], SCALEFACTOR8 );
6515 3644784 : x11 = L_shr( im[s * 5], SCALEFACTOR8 );
6516 3644784 : x12 = L_shr( re[s * 6], SCALEFACTOR8 );
6517 3644784 : x13 = L_shr( im[s * 6], SCALEFACTOR8 );
6518 3644784 : x14 = L_shr( re[s * 7], SCALEFACTOR8 );
6519 3644784 : x15 = L_shr( im[s * 7], SCALEFACTOR8 );
6520 :
6521 3644784 : t00 = L_add( x00, x08 );
6522 3644784 : t02 = L_sub( x00, x08 );
6523 3644784 : t01 = L_add( x01, x09 );
6524 3644784 : t03 = L_sub( x01, x09 );
6525 3644784 : t04 = L_add( x02, x10 );
6526 3644784 : t06 = L_sub( x02, x10 );
6527 3644784 : t05 = L_add( x03, x11 );
6528 3644784 : t07 = L_sub( x03, x11 );
6529 3644784 : t08 = L_add( x04, x12 );
6530 3644784 : t10 = L_sub( x04, x12 );
6531 3644784 : t09 = L_add( x05, x13 );
6532 3644784 : t11 = L_sub( x05, x13 );
6533 3644784 : t12 = L_add( x06, x14 );
6534 3644784 : t14 = L_sub( x06, x14 );
6535 3644784 : t13 = L_add( x07, x15 );
6536 3644784 : t15 = L_sub( x07, x15 );
6537 :
6538 : /* Pre-additions and core multiplications */
6539 :
6540 3644784 : s00 = L_add( t00, t08 );
6541 3644784 : s04 = L_sub( t00, t08 );
6542 3644784 : s01 = L_add( t01, t09 );
6543 3644784 : s05 = L_sub( t01, t09 );
6544 3644784 : s08 = L_sub( t02, t11 );
6545 3644784 : s10 = L_add( t02, t11 );
6546 3644784 : s09 = L_add( t03, t10 );
6547 3644784 : s11 = L_sub( t03, t10 );
6548 3644784 : s02 = L_add( t04, t12 );
6549 3644784 : s07 = L_sub( t04, t12 );
6550 3644784 : s03 = L_add( t05, t13 );
6551 3644784 : s06 = L_sub( t13, t05 );
6552 :
6553 3644784 : t01 = L_add( t06, t14 );
6554 3644784 : t02 = L_sub( t06, t14 );
6555 3644784 : t00 = L_add( t07, t15 );
6556 3644784 : t03 = L_sub( t07, t15 );
6557 :
6558 3644784 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6559 3644784 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6560 3644784 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6561 3644784 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6562 :
6563 : /* Post-additions */
6564 :
6565 3644784 : re[s * 0] = L_add( s00, s02 );
6566 3644784 : move32();
6567 3644784 : re[s * 4] = L_sub( s00, s02 );
6568 3644784 : move32();
6569 3644784 : im[s * 0] = L_add( s01, s03 );
6570 3644784 : move32();
6571 3644784 : im[s * 4] = L_sub( s01, s03 );
6572 3644784 : move32();
6573 3644784 : re[s * 2] = L_sub( s04, s06 );
6574 3644784 : move32();
6575 3644784 : re[s * 6] = L_add( s04, s06 );
6576 3644784 : move32();
6577 3644784 : im[s * 2] = L_sub( s05, s07 );
6578 3644784 : move32();
6579 3644784 : im[s * 6] = L_add( s05, s07 );
6580 3644784 : move32();
6581 3644784 : re[s * 3] = L_add( s08, s14 );
6582 3644784 : move32();
6583 3644784 : re[s * 7] = L_sub( s08, s14 );
6584 3644784 : move32();
6585 3644784 : im[s * 3] = L_add( s09, s15 );
6586 3644784 : move32();
6587 3644784 : im[s * 7] = L_sub( s09, s15 );
6588 3644784 : move32();
6589 3644784 : re[s * 1] = L_add( s10, s12 );
6590 3644784 : move32();
6591 3644784 : re[s * 5] = L_sub( s10, s12 );
6592 3644784 : move32();
6593 3644784 : im[s * 1] = L_add( s11, s13 );
6594 3644784 : move32();
6595 3644784 : im[s * 5] = L_sub( s11, s13 );
6596 3644784 : move32();
6597 :
6598 3644784 : return;
6599 : }
6600 :
6601 :
6602 : /*-----------------------------------------------------------------*
6603 : * fftN2()
6604 : *
6605 : * Combined FFT
6606 : *-----------------------------------------------------------------*/
6607 :
6608 455598 : static void BASOP_fftN2(
6609 : Word32 *re, /* i/o: real part */
6610 : Word32 *im, /* i/o: imag part */
6611 : const Word16 *W, /* i : rotation factor */
6612 : Word16 dim1, /* i : length of fft1 */
6613 : Word16 dim2, /* i : length of fft2 */
6614 : Word16 sx, /* i : stride real and imag part */
6615 : Word16 sc, /* i : stride phase rotation coefficients */
6616 : Word32 *x, /* tmp: 32-bit workbuffer */
6617 : Word16 Woff /* i : offset for addressing the rotation vector table */
6618 : )
6619 : {
6620 : Word16 i, j;
6621 : Word32 x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
6622 : Word32 t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
6623 : Word32 s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
6624 :
6625 4100382 : FOR( i = 0; i < dim2; i++ )
6626 : {
6627 32803056 : FOR( j = 0; j < dim1; j++ )
6628 : {
6629 29158272 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
6630 29158272 : move32();
6631 29158272 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
6632 29158272 : move32();
6633 : }
6634 : }
6635 :
6636 : /* dim1 == 8 */
6637 4100382 : FOR( i = 0; i < dim2; i++ )
6638 : {
6639 3644784 : BASOP_fft8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
6640 : }
6641 :
6642 : /* dim2 == 8 */
6643 4100382 : FOR( i = 0; i < dim1; i++ )
6644 : {
6645 3644784 : cplxMpy4_8_1( x00, x01, x[2 * i + 2 * 0 * dim1], x[2 * i + 2 * 0 * dim1 + 1] );
6646 :
6647 3644784 : IF( i == 0 )
6648 : {
6649 455598 : cplxMpy4_8_1( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1] );
6650 455598 : cplxMpy4_8_1( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1] );
6651 455598 : cplxMpy4_8_1( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1] );
6652 455598 : cplxMpy4_8_1( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1] );
6653 455598 : cplxMpy4_8_1( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1] );
6654 455598 : cplxMpy4_8_1( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1] );
6655 455598 : cplxMpy4_8_1( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1] );
6656 : }
6657 : ELSE
6658 : {
6659 3189186 : cplxMpy4_8_0( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1], W[sc * i + sc * 1 * dim1 - Woff], W[sc * i + sc * 1 * dim1 + 1 - Woff] );
6660 3189186 : cplxMpy4_8_0( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1], W[sc * i + sc * 2 * dim1 - Woff], W[sc * i + sc * 2 * dim1 + 1 - Woff] );
6661 3189186 : cplxMpy4_8_0( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1], W[sc * i + sc * 3 * dim1 - Woff], W[sc * i + sc * 3 * dim1 + 1 - Woff] );
6662 3189186 : cplxMpy4_8_0( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1], W[sc * i + sc * 4 * dim1 - Woff], W[sc * i + sc * 4 * dim1 + 1 - Woff] );
6663 3189186 : cplxMpy4_8_0( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1], W[sc * i + sc * 5 * dim1 - Woff], W[sc * i + sc * 5 * dim1 + 1 - Woff] );
6664 3189186 : cplxMpy4_8_0( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1], W[sc * i + sc * 6 * dim1 - Woff], W[sc * i + sc * 6 * dim1 + 1 - Woff] );
6665 3189186 : cplxMpy4_8_0( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1], W[sc * i + sc * 7 * dim1 - Woff], W[sc * i + sc * 7 * dim1 + 1 - Woff] );
6666 : }
6667 3644784 : t00 = L_shr( L_add( x00, x08 ), SCALEFACTORN2 - 1 );
6668 3644784 : t02 = L_shr( L_sub( x00, x08 ), SCALEFACTORN2 - 1 );
6669 3644784 : t01 = L_shr( L_add( x01, x09 ), SCALEFACTORN2 - 1 );
6670 3644784 : t03 = L_shr( L_sub( x01, x09 ), SCALEFACTORN2 - 1 );
6671 3644784 : t04 = L_shr( L_add( x02, x10 ), SCALEFACTORN2 - 1 );
6672 3644784 : t06 = L_sub( x02, x10 );
6673 3644784 : t05 = L_shr( L_add( x03, x11 ), SCALEFACTORN2 - 1 );
6674 3644784 : t07 = L_sub( x03, x11 );
6675 3644784 : t08 = L_shr( L_add( x04, x12 ), SCALEFACTORN2 - 1 );
6676 3644784 : t10 = L_shr( L_sub( x04, x12 ), SCALEFACTORN2 - 1 );
6677 3644784 : t09 = L_shr( L_add( x05, x13 ), SCALEFACTORN2 - 1 );
6678 3644784 : t11 = L_shr( L_sub( x05, x13 ), SCALEFACTORN2 - 1 );
6679 3644784 : t12 = L_shr( L_add( x06, x14 ), SCALEFACTORN2 - 1 );
6680 3644784 : t14 = L_sub( x06, x14 );
6681 3644784 : t13 = L_shr( L_add( x07, x15 ), SCALEFACTORN2 - 1 );
6682 3644784 : t15 = L_sub( x07, x15 );
6683 :
6684 3644784 : s00 = L_add( t00, t08 );
6685 3644784 : s04 = L_sub( t00, t08 );
6686 3644784 : s01 = L_add( t01, t09 );
6687 3644784 : s05 = L_sub( t01, t09 );
6688 3644784 : s08 = L_sub( t02, t11 );
6689 3644784 : s10 = L_add( t02, t11 );
6690 3644784 : s09 = L_add( t03, t10 );
6691 3644784 : s11 = L_sub( t03, t10 );
6692 3644784 : s02 = L_add( t04, t12 );
6693 3644784 : s07 = L_sub( t04, t12 );
6694 3644784 : s03 = L_add( t05, t13 );
6695 3644784 : s06 = L_sub( t13, t05 );
6696 :
6697 3644784 : t01 = L_shr( L_add( t06, t14 ), SCALEFACTORN2 - 1 );
6698 3644784 : t02 = L_shr( L_sub( t06, t14 ), SCALEFACTORN2 - 1 );
6699 3644784 : t00 = L_shr( L_add( t07, t15 ), SCALEFACTORN2 - 1 );
6700 3644784 : t03 = L_shr( L_sub( t07, t15 ), SCALEFACTORN2 - 1 );
6701 :
6702 3644784 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6703 3644784 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6704 3644784 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6705 3644784 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6706 :
6707 3644784 : re[sx * i + sx * 0 * dim1] = L_add( s00, s02 );
6708 3644784 : move32();
6709 3644784 : im[sx * i + sx * 0 * dim1] = L_add( s01, s03 );
6710 3644784 : move32();
6711 3644784 : re[sx * i + sx * 1 * dim1] = L_add( s10, s12 );
6712 3644784 : move32();
6713 3644784 : im[sx * i + sx * 1 * dim1] = L_add( s11, s13 );
6714 3644784 : move32();
6715 3644784 : re[sx * i + sx * 2 * dim1] = L_sub( s04, s06 );
6716 3644784 : move32();
6717 3644784 : im[sx * i + sx * 2 * dim1] = L_sub( s05, s07 );
6718 3644784 : move32();
6719 3644784 : re[sx * i + sx * 3 * dim1] = L_add( s08, s14 );
6720 3644784 : move32();
6721 3644784 : im[sx * i + sx * 3 * dim1] = L_add( s09, s15 );
6722 3644784 : move32();
6723 3644784 : re[sx * i + sx * 4 * dim1] = L_sub( s00, s02 );
6724 3644784 : move32();
6725 3644784 : im[sx * i + sx * 4 * dim1] = L_sub( s01, s03 );
6726 3644784 : move32();
6727 3644784 : re[sx * i + sx * 5 * dim1] = L_sub( s10, s12 );
6728 3644784 : move32();
6729 3644784 : im[sx * i + sx * 5 * dim1] = L_sub( s11, s13 );
6730 3644784 : move32();
6731 3644784 : re[sx * i + sx * 6 * dim1] = L_add( s04, s06 );
6732 3644784 : move32();
6733 3644784 : im[sx * i + sx * 6 * dim1] = L_add( s05, s07 );
6734 3644784 : move32();
6735 3644784 : re[sx * i + sx * 7 * dim1] = L_sub( s08, s14 );
6736 3644784 : move32();
6737 3644784 : im[sx * i + sx * 7 * dim1] = L_sub( s09, s15 );
6738 3644784 : move32();
6739 : }
6740 :
6741 455598 : return;
6742 : }
6743 :
6744 :
6745 : /*-----------------------------------------------------------------*
6746 : * BASOP_cfft()
6747 : *
6748 : * Complex valued FFT
6749 : *-----------------------------------------------------------------*/
6750 :
6751 455598 : void BASOP_cfft(
6752 : Word32 *re, /* i/o: real part */
6753 : Word32 *im, /* i/o: imag part */
6754 : Word16 s, /* i : stride real and imag part */
6755 : Word16 *scale /* i : scalefactor */
6756 : )
6757 : {
6758 : Word32 x[2 * 64];
6759 :
6760 : /* FFT for len = FDNS_NPTS */
6761 455598 : BASOP_fftN2( re, im, RotVector_256, 8, 8, s, 8, x, 64 );
6762 455598 : s = add( *scale, SCALEFACTOR64 );
6763 :
6764 455598 : *scale = s;
6765 455598 : move16();
6766 :
6767 455598 : return;
6768 : }
6769 :
6770 : #undef WMC_TOOL_SKIP
|
