Line data Source code
1 : /******************************************************************************************************
2 :
3 : (C) 2022-2025 IVAS codec Public Collaboration with portions copyright Dolby International AB, Ericsson AB,
4 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
5 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
6 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
7 : contributors to this repository. All Rights Reserved.
8 :
9 : This software is protected by copyright law and by international treaties.
10 : The IVAS codec Public Collaboration consisting of Dolby International AB, Ericsson AB,
11 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
12 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
13 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
14 : contributors to this repository retain full ownership rights in their respective contributions in
15 : the software. This notice grants no license of any kind, including but not limited to patent
16 : license, nor is any license granted by implication, estoppel or otherwise.
17 :
18 : Contributors are required to enter into the IVAS codec Public Collaboration agreement before making
19 : contributions.
20 :
21 : This software is provided "AS IS", without any express or implied warranties. The software is in the
22 : development stage. It is intended exclusively for experts who have experience with such software and
23 : solely for the purpose of inspection. All implied warranties of non-infringement, merchantability
24 : and fitness for a particular purpose are hereby disclaimed and excluded.
25 :
26 : Any dispute, controversy or claim arising under or in relation to providing this software shall be
27 : submitted to and settled by the final, binding jurisdiction of the courts of Munich, Germany in
28 : accordance with the laws of the Federal Republic of Germany excluding its conflict of law rules and
29 : the United Nations Convention on Contracts on the International Sales of Goods.
30 :
31 : *******************************************************************************************************/
32 :
33 : /*====================================================================================
34 : EVS Codec 3GPP TS26.443 Nov 04, 2021. Version 12.14.0 / 13.10.0 / 14.6.0 / 15.4.0 / 16.3.0
35 : ====================================================================================*/
36 :
37 : #include <assert.h>
38 : #include <stdint.h>
39 : #include "options.h"
40 : #ifdef DEBUGGING
41 : #include "debug.h"
42 : #endif
43 : #include <math.h>
44 : #include "cnst.h"
45 : #include "prot.h"
46 : #include "rom_com.h"
47 : #include "wmc_auto.h"
48 :
49 : #ifdef _MSC_VER
50 : #pragma warning( disable : 4310 )
51 : #endif
52 :
53 : /*-----------------------------------------------------------------*
54 : * Local constants
55 : *-----------------------------------------------------------------*/
56 :
57 : #define FFT_15PONIT_WNK1 0.55901699f /* EDCT & EMDCT constants */
58 : #define FFT_15PONIT_WNK2 0.95105652f /* EDCT & EMDCT constants */
59 : #define FFT_15PONIT_WNK3 0.58778525f /* EDCT & EMDCT constants */
60 : #define FFT_15PONIT_WNK4 0.86602540f /* EDCT & EMDCT constants */
61 : #define FFT_15PONIT_WNK5 0.25000000f /* EDCT & EMDCT constants */
62 :
63 : /* FFT constants */
64 : #define FFT_C31 -0.8660254037f
65 : #define FFT_C51 0.9510565195f
66 : #define FFT_C52 -1.5388417989f
67 : #define FFT_C53 -0.3632712597f
68 : #define FFT_C54 0.5590169895f
69 : #define FFT_C55 -1.2500000000f
70 : #define FFT_C61 0.8660254036f
71 : #define FFT_C81 0.7071067811f
72 : #define FFT_C82 -0.7071067811f
73 : #define FFT_C161 0.7071067811f
74 : #define FFT_C162 -0.7071067811f
75 : #define FFT_C163 0.9238795325f
76 : #define FFT_C164 -0.9238795325f
77 : #define FFT_C165 0.3826834323f
78 : #define FFT_C166 -0.3826834323f
79 :
80 :
81 : /*-----------------------------------------------------------------*
82 : * Local function prototypes
83 : *-----------------------------------------------------------------*/
84 :
85 : static void cdftForw( int16_t n, float *a, const int16_t *ip, const float *w );
86 : static void bitrv2_SR( int16_t n, const int16_t *ip, float *a );
87 : static void cftfsub( int16_t n, float *a, const float *w );
88 : static void cft1st( int16_t n, float *a, const float *w );
89 : static void cftmdl( int16_t n, int16_t l, float *a, const float *w );
90 : static void fft16( float *x, float *y, const int16_t *Idx );
91 : static void fft5_shift1( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
92 : static void fft8( float *x, float *y, const int16_t *Idx );
93 : static void fft15_shift2( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
94 : static void fft15_shift8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
95 : static void fft5_shift4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
96 : static void fft5_32( float *zRe, float *zIm, const int16_t *Idx );
97 : static void fft64( float *x, float *y, const int16_t *Idx );
98 : static void fft32_15( float *x, float *y, const int16_t *Idx );
99 : static void fft32_5( float *x, float *y, const int16_t *Idx );
100 : static void fft8_5( float *x, float *y, const int16_t *Idx );
101 : static void fft5_8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
102 : static void fft4_5( float *x, float *y, const int16_t *Idx );
103 : static void fft5_4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
104 :
105 2558016 : static float fmac( float a, float b, float c )
106 : {
107 2558016 : return ( ( ( a ) * ( b ) ) + ( c ) );
108 : }
109 :
110 9379392 : static float fnms( float a, float b, float c )
111 : {
112 9379392 : return ( ( c ) - ( ( a ) * ( b ) ) );
113 : }
114 :
115 : /*-----------------------------------------------------------------*
116 : * fft15_shift2()
117 : * 15-point FFT with 2-point circular shift
118 : *-----------------------------------------------------------------*/
119 :
120 12672 : static void fft15_shift2(
121 : int16_t n1, /* i : length of data */
122 : float *zRe, /* i/o: real part of input and output data */
123 : float *zIm, /* i/o: imaginary part of input and output data */
124 : const int16_t *Idx /* i : pointer of the address table */
125 : )
126 : {
127 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
128 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
129 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
130 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
131 : float f2i13, f2i14, f2i15, f2i16, f2i17, f2i18, f2i19, f2i20, f2i21, f2i22, f2i23, f2i24;
132 : float f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9, f3i10, f3i11, f3i12, f3i13, f3i14, f3i15;
133 : float f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
134 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, f4i16, f4i17, f4i18, f4i19, f4i20, fo1, fo2, fo3, fo4;
135 : float fo5, fo6, fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, fo16, fo17, fo18;
136 : float f2o1, f2o2, f2o3, f2o4, f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13;
137 : float f2o14, f2o15, f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11;
138 : float f3o12, f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6;
139 : float f4o7, f4o8, f4o9, f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f4o16, f4o17, f4o18, f4o19;
140 :
141 12672 : in0 = Idx[0];
142 12672 : in8 = Idx[n1];
143 12672 : in16 = Idx[n1 * 2];
144 12672 : in24 = Idx[n1 * 3];
145 12672 : in32 = Idx[n1 * 4];
146 12672 : in1 = Idx[n1 * 5];
147 12672 : in9 = Idx[n1 * 6];
148 12672 : in17 = Idx[n1 * 7];
149 12672 : in25 = Idx[n1 * 8];
150 12672 : in33 = Idx[n1 * 9];
151 12672 : in2 = Idx[n1 * 10];
152 12672 : in10 = Idx[n1 * 11];
153 12672 : in18 = Idx[n1 * 12];
154 12672 : in26 = Idx[n1 * 13];
155 12672 : in34 = Idx[n1 * 14];
156 :
157 12672 : f2i13 = zRe[in0];
158 12672 : f2i14 = zIm[in0];
159 12672 : f2i21 = zRe[in1];
160 12672 : f2i22 = zRe[in2];
161 12672 : f2i23 = zIm[in1];
162 12672 : f2i24 = zIm[in2];
163 :
164 12672 : f2i15 = f2i21 + f2i22;
165 12672 : f2i16 = FFT_15PONIT_WNK4 * ( f2i22 - f2i21 );
166 12672 : f2i17 = FFT_15PONIT_WNK4 * ( f2i23 - f2i24 );
167 12672 : f2i18 = f2i23 + f2i24;
168 12672 : fi1 = f2i13 + f2i15;
169 12672 : fi2 = f2i14 + f2i18;
170 :
171 12672 : f2i19 = fnms( 0.5f, f2i15, f2i13 );
172 12672 : f2i20 = fnms( 0.5f, f2i18, f2i14 );
173 12672 : fi3 = f2i19 - f2i17;
174 12672 : fi4 = f2i19 + f2i17;
175 12672 : fi5 = f2i16 + f2i20;
176 12672 : fi6 = f2i20 - f2i16;
177 :
178 12672 : f3i1 = zRe[in9];
179 12672 : f4i2 = zRe[in10];
180 12672 : f4i3 = zRe[in8];
181 12672 : f3i2 = f4i2 + f4i3;
182 12672 : f3i3 = fnms( 0.5f, f3i2, f3i1 );
183 12672 : f3i4 = FFT_15PONIT_WNK4 * ( f4i3 - f4i2 );
184 :
185 12672 : f3i5 = zIm[in9];
186 12672 : f4i4 = zIm[in10];
187 12672 : f4i5 = zIm[in8];
188 12672 : f3i6 = f4i4 + f4i5;
189 12672 : f3i7 = FFT_15PONIT_WNK4 * ( f4i4 - f4i5 );
190 12672 : f3i8 = fnms( 0.5f, f3i6, f3i5 );
191 :
192 12672 : f3i9 = zRe[in33];
193 12672 : f4i6 = zRe[in34];
194 12672 : f4i7 = zRe[in32];
195 12672 : f3i10 = f4i6 + f4i7;
196 12672 : f3i11 = fnms( 0.5f, f3i10, f3i9 );
197 12672 : f3i12 = FFT_15PONIT_WNK4 * ( f4i7 - f4i6 );
198 :
199 12672 : f3i13 = zIm[in33];
200 12672 : f4i8 = zIm[in34];
201 12672 : f4i9 = zIm[in32];
202 12672 : f3i14 = f4i8 + f4i9;
203 12672 : f3i15 = FFT_15PONIT_WNK4 * ( f4i8 - f4i9 );
204 12672 : f4i1 = fnms( 0.5f, f3i14, f3i13 );
205 :
206 12672 : fi7 = f3i1 + f3i2;
207 12672 : fi8 = f3i9 + f3i10;
208 12672 : fi9 = fi7 + fi8;
209 12672 : fi10 = f3i3 - f3i7;
210 12672 : fi11 = f3i11 - f3i15;
211 12672 : fi12 = fi10 + fi11;
212 12672 : fi13 = f3i5 + f3i6;
213 12672 : fi14 = f3i13 + f3i14;
214 12672 : fi15 = fi13 + fi14;
215 12672 : fi16 = f3i8 - f3i4;
216 12672 : fi17 = f4i1 - f3i12;
217 12672 : fi18 = fi16 + fi17;
218 12672 : fi19 = f3i4 + f3i8;
219 12672 : fi20 = f3i12 + f4i1;
220 12672 : fi21 = fi19 + fi20;
221 12672 : fi22 = f3i3 + f3i7;
222 12672 : fi23 = f3i11 + f3i15;
223 12672 : fi24 = fi22 + fi23;
224 :
225 12672 : f4i10 = zRe[in24];
226 12672 : fo6 = zRe[in25];
227 12672 : fo7 = zRe[in26];
228 12672 : f4i11 = fo6 + fo7;
229 12672 : f4i12 = fnms( 0.5f, f4i11, f4i10 );
230 12672 : f4i13 = FFT_15PONIT_WNK4 * ( fo7 - fo6 );
231 :
232 12672 : f4i14 = zIm[in24];
233 12672 : fo8 = zIm[in25];
234 12672 : fo9 = zIm[in26];
235 12672 : f4i15 = fo8 + fo9;
236 12672 : f4i16 = FFT_15PONIT_WNK4 * ( fo8 - fo9 );
237 12672 : f4i17 = fnms( 0.5f, f4i15, f4i14 );
238 :
239 12672 : f4i18 = zRe[in18];
240 12672 : f2o10 = zRe[in16];
241 12672 : f2o11 = zRe[in17];
242 12672 : f4i19 = f2o10 + f2o11;
243 12672 : f4i20 = fnms( 0.5f, f4i19, f4i18 );
244 12672 : fo1 = FFT_15PONIT_WNK4 * ( f2o11 - f2o10 );
245 :
246 12672 : fo2 = zIm[in18];
247 12672 : f2o12 = zIm[in16];
248 12672 : f2o13 = zIm[in17];
249 12672 : fo3 = f2o12 + f2o13;
250 12672 : fo4 = FFT_15PONIT_WNK4 * ( f2o12 - f2o13 );
251 12672 : fo5 = fnms( 0.5f, fo3, fo2 );
252 :
253 12672 : fi25 = f4i10 + f4i11;
254 12672 : fi26 = f4i18 + f4i19;
255 12672 : fi27 = fi25 + fi26;
256 12672 : fi28 = f4i12 - f4i16;
257 12672 : fi29 = f4i20 - fo4;
258 12672 : fi30 = fi28 + fi29;
259 12672 : f2i1 = f4i14 + f4i15;
260 12672 : f2i2 = fo2 + fo3;
261 12672 : f2i3 = f2i1 + f2i2;
262 12672 : f2i4 = f4i17 - f4i13;
263 12672 : f2i5 = fo5 - fo1;
264 12672 : f2i6 = f2i4 + f2i5;
265 12672 : f2i7 = f4i13 + f4i17;
266 12672 : f2i8 = fo1 + fo5;
267 12672 : f2i9 = f2i7 + f2i8;
268 12672 : f2i10 = f4i12 + f4i16;
269 12672 : f2i11 = f4i20 + fo4;
270 12672 : f2i12 = f2i10 + f2i11;
271 :
272 12672 : fo10 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
273 12672 : fo11 = fi27 + fi9;
274 12672 : fo12 = fnms( FFT_15PONIT_WNK5, fo11, fi1 );
275 12672 : fo15 = fi13 - fi14;
276 12672 : fo16 = f2i1 - f2i2;
277 12672 : fo13 = fnms( FFT_15PONIT_WNK3, fo16, FFT_15PONIT_WNK2 * fo15 );
278 12672 : fo14 = fmac( FFT_15PONIT_WNK2, fo16, FFT_15PONIT_WNK3 * fo15 );
279 :
280 12672 : zRe[in0] = fi1 + fo11;
281 12672 : fo17 = fo10 + fo12;
282 12672 : zRe[in18] = fo17 - fo14;
283 12672 : zRe[in24] = fo17 + fo14;
284 12672 : fo18 = fo12 - fo10;
285 12672 : zRe[in9] = fo18 - fo13;
286 12672 : zRe[in33] = fo18 + fo13;
287 :
288 12672 : f2o1 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
289 12672 : f2o2 = f2i3 + fi15;
290 12672 : f2o3 = fnms( FFT_15PONIT_WNK5, f2o2, fi2 );
291 12672 : f2o6 = fi7 - fi8;
292 12672 : f2o7 = fi25 - fi26;
293 12672 : f2o4 = fnms( FFT_15PONIT_WNK3, f2o7, FFT_15PONIT_WNK2 * f2o6 );
294 12672 : f2o5 = fmac( FFT_15PONIT_WNK2, f2o7, FFT_15PONIT_WNK3 * f2o6 );
295 12672 : zIm[in0] = fi2 + f2o2;
296 12672 : f2o8 = f2o1 + f2o3;
297 12672 : zIm[in24] = f2o8 - f2o5;
298 12672 : zIm[in18] = f2o5 + f2o8;
299 12672 : f2o9 = f2o3 - f2o1;
300 12672 : zIm[in33] = f2o9 - f2o4;
301 12672 : zIm[in9] = f2o4 + f2o9;
302 :
303 12672 : f2o14 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
304 12672 : f2o15 = fi30 + fi12;
305 12672 : f3o1 = fnms( FFT_15PONIT_WNK5, f2o15, fi3 );
306 12672 : f3o4 = fi16 - fi17;
307 12672 : f3o5 = f2i4 - f2i5;
308 12672 : f3o2 = fnms( FFT_15PONIT_WNK3, f3o5, FFT_15PONIT_WNK2 * f3o4 );
309 12672 : f3o3 = fmac( FFT_15PONIT_WNK2, f3o5, FFT_15PONIT_WNK3 * f3o4 );
310 12672 : zRe[in2] = fi3 + f2o15;
311 12672 : f3o6 = f2o14 + f3o1;
312 12672 : zRe[in17] = f3o6 - f3o3;
313 12672 : zRe[in26] = f3o6 + f3o3;
314 12672 : f3o7 = f3o1 - f2o14;
315 12672 : zRe[in8] = f3o7 - f3o2;
316 12672 : zRe[in32] = f3o7 + f3o2;
317 :
318 12672 : f3o8 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
319 12672 : f3o9 = f2i6 + fi18;
320 12672 : f3o10 = fnms( FFT_15PONIT_WNK5, f3o9, fi6 );
321 12672 : f3o13 = fi10 - fi11;
322 12672 : f3o14 = fi28 - fi29;
323 12672 : f3o11 = fnms( FFT_15PONIT_WNK3, f3o14, FFT_15PONIT_WNK2 * f3o13 );
324 12672 : f3o12 = fmac( FFT_15PONIT_WNK2, f3o14, FFT_15PONIT_WNK3 * f3o13 );
325 12672 : zIm[in2] = fi6 + f3o9;
326 12672 : f3o15 = f3o8 + f3o10;
327 12672 : zIm[in26] = f3o15 - f3o12;
328 12672 : zIm[in17] = f3o12 + f3o15;
329 12672 : f4o1 = f3o10 - f3o8;
330 12672 : zIm[in8] = f3o11 + f4o1;
331 12672 : zIm[in32] = f4o1 - f3o11;
332 :
333 12672 : f4o2 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
334 12672 : f4o3 = f2i9 + fi21;
335 12672 : f4o4 = fnms( FFT_15PONIT_WNK5, f4o3, fi5 );
336 12672 : f4o7 = f2i10 - f2i11;
337 12672 : f4o8 = fi22 - fi23;
338 12672 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o8 );
339 12672 : f4o6 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o8 );
340 12672 : zIm[in1] = fi5 + f4o3;
341 12672 : f4o9 = f4o4 - f4o2;
342 12672 : f4o10 = f4o2 + f4o4;
343 :
344 12672 : zIm[in10] = f4o6 + f4o9;
345 12672 : zIm[in34] = f4o9 - f4o6;
346 12672 : zIm[in25] = f4o10 - f4o5;
347 12672 : zIm[in16] = f4o5 + f4o10;
348 :
349 12672 : f4o11 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
350 12672 : f4o12 = f2i12 + fi24;
351 12672 : f4o13 = fnms( FFT_15PONIT_WNK5, f4o12, fi4 );
352 12672 : f4o16 = f2i7 - f2i8;
353 12672 : f4o17 = fi19 - fi20;
354 12672 : f4o14 = fmac( FFT_15PONIT_WNK2, f4o16, FFT_15PONIT_WNK3 * f4o17 );
355 12672 : f4o15 = fnms( FFT_15PONIT_WNK3, f4o16, FFT_15PONIT_WNK2 * f4o17 );
356 12672 : zRe[in1] = fi4 + f4o12;
357 12672 : f4o18 = f4o13 - f4o11;
358 12672 : f4o19 = f4o11 + f4o13;
359 :
360 12672 : zRe[in10] = f4o18 - f4o15;
361 12672 : zRe[in34] = f4o18 + f4o15;
362 12672 : zRe[in16] = f4o19 - f4o14;
363 12672 : zRe[in25] = f4o19 + f4o14;
364 :
365 12672 : return;
366 : }
367 :
368 : /*-----------------------------------------------------------------*
369 : * fft15_shift8()
370 : * 15-point FFT with 8-point circular shift
371 : *-----------------------------------------------------------------*/
372 :
373 413664 : static void fft15_shift8(
374 : int16_t n1, /* i : length of data */
375 : float *zRe, /* i/o: real part of input and output data */
376 : float *zIm, /* i/o: imaginary part of input and output data */
377 : const int16_t *Idx /* i : pointer of the address table */
378 : )
379 : {
380 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
381 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
382 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
383 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
384 : float f2i13, f2i14, f2i15, f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9;
385 : float f3i10, f3i11, f3i12, f3i13, f3i14, f3i15, f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
386 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, fo1, fo2, fo3, fo4, fo5, fo6;
387 : float fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, f2o1, f2o2, f2o3, f2o4;
388 : float f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13, f2o14, f2o15;
389 : float f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11, f3o12;
390 : float f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6, f4o7, f4o8, f4o9;
391 : float f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f5o1, f5o2, f5o3, f5o4, f5o5, f5o6, f5o7;
392 : float f5o8, f5o9, f5o10, f5o11, f5o12, f5o13, f5o14, f5o15, f5o16, f5o17, f5o18, f5o19, f5o21, f5o22;
393 :
394 413664 : in0 = Idx[0];
395 413664 : in8 = Idx[n1];
396 413664 : in16 = Idx[n1 * 2];
397 413664 : in24 = Idx[n1 * 3];
398 413664 : in32 = Idx[n1 * 4];
399 413664 : in1 = Idx[n1 * 5];
400 413664 : in9 = Idx[n1 * 6];
401 413664 : in17 = Idx[n1 * 7];
402 413664 : in25 = Idx[n1 * 8];
403 413664 : in33 = Idx[n1 * 9];
404 413664 : in2 = Idx[n1 * 10];
405 413664 : in10 = Idx[n1 * 11];
406 413664 : in18 = Idx[n1 * 12];
407 413664 : in26 = Idx[n1 * 13];
408 413664 : in34 = Idx[n1 * 14];
409 :
410 413664 : f2i13 = zRe[in0];
411 413664 : f2i14 = zIm[in0];
412 413664 : f3i6 = zRe[in1];
413 413664 : f3i7 = zRe[in2];
414 413664 : f3i8 = zIm[in1];
415 413664 : f3i9 = zIm[in2];
416 :
417 413664 : f2i15 = f3i6 + f3i7;
418 413664 : f3i1 = FFT_15PONIT_WNK4 * ( f3i7 - f3i6 );
419 413664 : f3i2 = FFT_15PONIT_WNK4 * ( f3i8 - f3i9 );
420 413664 : f3i3 = f3i8 + f3i9;
421 :
422 413664 : fi1 = f2i13 + f2i15;
423 413664 : fi2 = f2i14 + f3i3;
424 413664 : f3i4 = fnms( 0.5f, f2i15, f2i13 );
425 413664 : fi3 = f3i4 - f3i2;
426 413664 : fi4 = f3i4 + f3i2;
427 413664 : f3i5 = fnms( 0.5f, f3i3, f2i14 );
428 413664 : fi5 = f3i1 + f3i5;
429 413664 : fi6 = f3i5 - f3i1;
430 :
431 413664 : f3i10 = zRe[in9];
432 413664 : f4i11 = zRe[in10];
433 413664 : f4i12 = zRe[in8];
434 413664 : f3i14 = zIm[in9];
435 413664 : f4i13 = zIm[in10];
436 413664 : f4i14 = zIm[in8];
437 413664 : f4i3 = zRe[in33];
438 413664 : f4i15 = zRe[in34];
439 413664 : fo1 = zRe[in32];
440 413664 : f4i7 = zIm[in33];
441 413664 : fo2 = zIm[in34];
442 413664 : fo3 = zIm[in32];
443 :
444 :
445 413664 : f3i11 = f4i11 + f4i12;
446 413664 : f3i12 = fnms( 0.5f, f3i11, f3i10 );
447 413664 : f3i13 = FFT_15PONIT_WNK4 * ( f4i12 - f4i11 );
448 413664 : f3i15 = f4i13 + f4i14;
449 413664 : f4i1 = FFT_15PONIT_WNK4 * ( f4i13 - f4i14 );
450 413664 : f4i2 = fnms( 0.5f, f3i15, f3i14 );
451 413664 : f4i4 = f4i15 + fo1;
452 413664 : f4i5 = fnms( 0.5f, f4i4, f4i3 );
453 413664 : f4i6 = FFT_15PONIT_WNK4 * ( fo1 - f4i15 );
454 413664 : f4i8 = fo2 + fo3;
455 413664 : f4i9 = FFT_15PONIT_WNK4 * ( fo2 - fo3 );
456 413664 : f4i10 = fnms( 0.5f, f4i8, f4i7 );
457 :
458 413664 : fi7 = f3i10 + f3i11;
459 413664 : fi8 = f4i3 + f4i4;
460 413664 : fi9 = fi7 + fi8;
461 413664 : fi10 = f3i12 - f4i1;
462 413664 : fi11 = f4i5 - f4i9;
463 413664 : fi12 = fi10 + fi11;
464 413664 : fi13 = f3i14 + f3i15;
465 413664 : fi14 = f4i7 + f4i8;
466 413664 : fi15 = fi13 + fi14;
467 413664 : fi16 = f4i2 - f3i13;
468 413664 : fi17 = f4i10 - f4i6;
469 413664 : fi18 = fi16 + fi17;
470 413664 : fi19 = f3i13 + f4i2;
471 413664 : fi20 = f4i6 + f4i10;
472 413664 : fi21 = fi19 + fi20;
473 413664 : fi22 = f3i12 + f4i1;
474 413664 : fi23 = f4i5 + f4i9;
475 413664 : fi24 = fi22 + fi23;
476 :
477 413664 : fo4 = zRe[in24];
478 413664 : f2o5 = zRe[in25];
479 413664 : f2o6 = zRe[in26];
480 413664 : fo8 = zIm[in24];
481 413664 : f2o7 = zIm[in25];
482 413664 : f2o8 = zIm[in26];
483 413664 : fo12 = zRe[in18];
484 413664 : f2o9 = zRe[in16];
485 413664 : f2o10 = zRe[in17];
486 413664 : f2o1 = zIm[in18];
487 413664 : f2o11 = zIm[in16];
488 413664 : f2o12 = zIm[in17];
489 :
490 :
491 413664 : fo5 = f2o5 + f2o6;
492 413664 : fo6 = fnms( 0.5f, fo5, fo4 );
493 413664 : fo7 = FFT_15PONIT_WNK4 * ( f2o6 - f2o5 );
494 413664 : fo9 = f2o7 + f2o8;
495 413664 : fo10 = FFT_15PONIT_WNK4 * ( f2o7 - f2o8 );
496 413664 : fo11 = fnms( 0.5f, fo9, fo8 );
497 413664 : fo13 = f2o9 + f2o10;
498 413664 : fo14 = fnms( 0.5f, fo13, fo12 );
499 413664 : fo15 = FFT_15PONIT_WNK4 * ( f2o10 - f2o9 );
500 413664 : f2o2 = f2o11 + f2o12;
501 413664 : f2o3 = FFT_15PONIT_WNK4 * ( f2o11 - f2o12 );
502 413664 : f2o4 = fnms( 0.5f, f2o2, f2o1 );
503 :
504 413664 : fi25 = fo4 + fo5;
505 413664 : fi26 = fo12 + fo13;
506 413664 : fi27 = fi25 + fi26;
507 413664 : fi28 = fo6 - fo10;
508 413664 : fi29 = fo14 - f2o3;
509 413664 : fi30 = fi28 + fi29;
510 413664 : f2i1 = fo8 + fo9;
511 413664 : f2i2 = f2o1 + f2o2;
512 413664 : f2i3 = f2i1 + f2i2;
513 413664 : f2i4 = fo11 - fo7;
514 413664 : f2i5 = f2o4 - fo15;
515 413664 : f2i6 = f2i4 + f2i5;
516 413664 : f2i7 = fo7 + fo11;
517 413664 : f2i8 = fo15 + f2o4;
518 413664 : f2i9 = f2i7 + f2i8;
519 413664 : f2i10 = fo6 + fo10;
520 413664 : f2i11 = fo14 + f2o3;
521 413664 : f2i12 = f2i10 + f2i11;
522 :
523 413664 : f2o13 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
524 413664 : f2o14 = fi27 + fi9;
525 413664 : f2o15 = fnms( FFT_15PONIT_WNK5, f2o14, fi1 );
526 413664 : f3o3 = fi13 - fi14;
527 413664 : f3o4 = f2i1 - f2i2;
528 413664 : f3o1 = fnms( FFT_15PONIT_WNK3, f3o4, FFT_15PONIT_WNK2 * f3o3 );
529 413664 : f3o2 = fmac( FFT_15PONIT_WNK2, f3o4, FFT_15PONIT_WNK3 * f3o3 );
530 413664 : zRe[in0] = fi1 + f2o14;
531 413664 : f3o5 = f2o13 + f2o15;
532 413664 : zRe[in24] = f3o5 - f3o2;
533 413664 : zRe[in18] = f3o5 + f3o2;
534 413664 : f3o6 = f2o15 - f2o13;
535 413664 : zRe[in33] = f3o6 - f3o1;
536 413664 : zRe[in9] = f3o6 + f3o1;
537 :
538 413664 : f3o7 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
539 413664 : f3o8 = f2i3 + fi15;
540 413664 : f3o9 = fnms( FFT_15PONIT_WNK5, f3o8, fi2 );
541 413664 : f3o12 = fi7 - fi8;
542 413664 : f3o13 = fi25 - fi26;
543 413664 : f3o10 = fnms( FFT_15PONIT_WNK3, f3o13, FFT_15PONIT_WNK2 * f3o12 );
544 413664 : f3o11 = fmac( FFT_15PONIT_WNK2, f3o13, FFT_15PONIT_WNK3 * f3o12 );
545 413664 : zIm[in0] = fi2 + f3o8;
546 413664 : f3o14 = f3o7 + f3o9;
547 413664 : zIm[in18] = f3o14 - f3o11;
548 413664 : zIm[in24] = f3o11 + f3o14;
549 413664 : f3o15 = f3o9 - f3o7;
550 413664 : zIm[in9] = f3o15 - f3o10;
551 413664 : zIm[in33] = f3o10 + f3o15;
552 :
553 413664 : f4o1 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
554 413664 : f4o2 = fi30 + fi12;
555 413664 : f4o3 = fnms( FFT_15PONIT_WNK5, f4o2, fi3 );
556 413664 : f4o6 = fi16 - fi17;
557 413664 : f4o7 = f2i4 - f2i5;
558 413664 : f4o4 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o6 );
559 413664 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o6 );
560 413664 : zRe[in2] = fi3 + f4o2;
561 413664 : f4o8 = f4o1 + f4o3;
562 413664 : zRe[in26] = f4o8 - f4o5;
563 413664 : zRe[in17] = f4o8 + f4o5;
564 413664 : f4o9 = f4o3 - f4o1;
565 413664 : zRe[in32] = f4o9 - f4o4;
566 413664 : zRe[in8] = f4o9 + f4o4;
567 :
568 413664 : f4o10 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
569 413664 : f4o11 = f2i6 + fi18;
570 413664 : f4o12 = fnms( FFT_15PONIT_WNK5, f4o11, fi6 );
571 413664 : f4o15 = fi10 - fi11;
572 413664 : f5o1 = fi28 - fi29;
573 413664 : f4o13 = fnms( FFT_15PONIT_WNK3, f5o1, FFT_15PONIT_WNK2 * f4o15 );
574 413664 : f4o14 = fmac( FFT_15PONIT_WNK2, f5o1, FFT_15PONIT_WNK3 * f4o15 );
575 413664 : zIm[in2] = fi6 + f4o11;
576 413664 : f5o2 = f4o10 + f4o12;
577 413664 : zIm[in17] = f5o2 - f4o14;
578 413664 : zIm[in26] = f4o14 + f5o2;
579 413664 : f5o3 = f4o12 - f4o10;
580 413664 : zIm[in32] = f4o13 + f5o3;
581 413664 : zIm[in8] = f5o3 - f4o13;
582 :
583 413664 : f5o4 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
584 413664 : f5o5 = f2i9 + fi21;
585 413664 : f5o6 = fnms( FFT_15PONIT_WNK5, f5o5, fi5 );
586 413664 : f5o9 = f2i10 - f2i11;
587 413664 : f5o10 = fi22 - fi23;
588 413664 : f5o7 = fmac( FFT_15PONIT_WNK2, f5o9, FFT_15PONIT_WNK3 * f5o10 );
589 413664 : f5o8 = fnms( FFT_15PONIT_WNK3, f5o9, FFT_15PONIT_WNK2 * f5o10 );
590 413664 : zIm[in1] = fi5 + f5o5;
591 413664 : f5o11 = f5o6 - f5o4;
592 413664 : f5o12 = f5o4 + f5o6;
593 413664 : zIm[in34] = f5o8 + f5o11;
594 413664 : zIm[in10] = f5o11 - f5o8;
595 :
596 413664 : zIm[in16] = f5o12 - f5o7;
597 413664 : zIm[in25] = f5o7 + f5o12;
598 :
599 413664 : f5o13 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
600 413664 : f5o14 = f2i12 + fi24;
601 413664 : f5o15 = fnms( FFT_15PONIT_WNK5, f5o14, fi4 );
602 413664 : f5o18 = f2i7 - f2i8;
603 413664 : f5o19 = fi19 - fi20;
604 413664 : f5o16 = fmac( FFT_15PONIT_WNK2, f5o18, FFT_15PONIT_WNK3 * f5o19 );
605 413664 : f5o17 = fnms( FFT_15PONIT_WNK3, f5o18, FFT_15PONIT_WNK2 * f5o19 );
606 413664 : zRe[in1] = fi4 + f5o14;
607 413664 : f5o21 = f5o15 - f5o13;
608 413664 : f5o22 = f5o13 + f5o15;
609 :
610 413664 : zRe[in34] = f5o21 - f5o17;
611 413664 : zRe[in10] = f5o21 + f5o17;
612 413664 : zRe[in25] = f5o22 - f5o16;
613 413664 : zRe[in16] = f5o22 + f5o16;
614 :
615 413664 : return;
616 : }
617 :
618 : /*-----------------------------------------------------------------*
619 : * fft5_shift1()
620 : * 5-point FFT with 1-point circular shift
621 : *-----------------------------------------------------------------*/
622 :
623 181248 : static void fft5_shift1(
624 : int16_t n1, /* i : length of data */
625 : float *zRe, /* i/o: real part of input and output data */
626 : float *zIm, /* i/o: imaginary part of input and output data */
627 : const int16_t *Idx /* i : pointer of the address table */
628 : )
629 : {
630 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
631 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
632 : int16_t in1, in2, in3, in4, in5;
633 :
634 181248 : in1 = Idx[0];
635 181248 : in2 = Idx[n1];
636 181248 : in3 = Idx[n1 * 2];
637 181248 : in4 = Idx[n1 * 3];
638 181248 : in5 = Idx[n1 * 4];
639 :
640 181248 : fi1 = zRe[in1];
641 181248 : fi2 = zIm[in1];
642 181248 : fo3 = zRe[in2];
643 181248 : fo4 = zRe[in5];
644 181248 : fo6 = zRe[in3];
645 181248 : fo7 = zRe[in4];
646 :
647 181248 : fo5 = fo3 + fo4;
648 181248 : fo8 = fo6 + fo7;
649 181248 : fi3 = fo5 + fo8;
650 181248 : fi4 = fo6 - fo7;
651 181248 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
652 181248 : fi6 = fo3 - fo4;
653 :
654 181248 : fo3 = zIm[in2];
655 181248 : fo4 = zIm[in5];
656 181248 : fo6 = zIm[in3];
657 181248 : fo7 = zIm[in4];
658 :
659 181248 : fo5 = fo3 + fo4;
660 181248 : fo8 = fo6 + fo7;
661 181248 : fi7 = fo3 - fo4;
662 181248 : fi8 = fo5 + fo8;
663 181248 : fo1 = fo6 - fo7;
664 181248 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
665 :
666 181248 : zRe[in1] = fi1 + fi3;
667 181248 : zIm[in1] = fi2 + fi8;
668 :
669 181248 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
670 181248 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
671 181248 : fo7 = fi1 - fi3 / 4;
672 181248 : fo5 = fi5 + fo7;
673 181248 : fo6 = fo7 - fi5;
674 :
675 181248 : zRe[in2] = fo5 + fo3;
676 181248 : zRe[in3] = fo6 - fo4;
677 181248 : zRe[in4] = fo6 + fo4;
678 181248 : zRe[in5] = fo5 - fo3;
679 :
680 181248 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
681 181248 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
682 181248 : fo7 = fi2 - fi8 / 4;
683 181248 : fo5 = fo2 + fo7;
684 181248 : fo6 = fo7 - fo2;
685 :
686 181248 : zIm[in2] = fo5 - fo3;
687 181248 : zIm[in3] = fo4 + fo6;
688 181248 : zIm[in4] = fo6 - fo4;
689 181248 : zIm[in5] = fo3 + fo5;
690 :
691 181248 : return;
692 : }
693 :
694 : /*-----------------------------------------------------------------*
695 : * fft5_shift4()
696 : * 5-point FFT with 4-point circular shift
697 : *-----------------------------------------------------------------*/
698 :
699 22573184 : static void fft5_shift4(
700 : int16_t n1, /* i : length of data */
701 : float *zRe, /* i/o: real part of input and output data */
702 : float *zIm, /* i/o: imaginary part of input and output data */
703 : const int16_t *Idx /* i : pointer of the address table */
704 : )
705 : {
706 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
707 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
708 : int16_t in1, in2, in3, in4, in5;
709 :
710 22573184 : in1 = Idx[0];
711 22573184 : in2 = Idx[n1];
712 22573184 : in3 = Idx[n1 * 2];
713 22573184 : in4 = Idx[n1 * 3];
714 22573184 : in5 = Idx[n1 * 4];
715 :
716 22573184 : fi1 = zRe[in1];
717 22573184 : fi2 = zIm[in1];
718 22573184 : fo3 = zRe[in2];
719 22573184 : fo4 = zRe[in5];
720 22573184 : fo6 = zRe[in3];
721 22573184 : fo7 = zRe[in4];
722 :
723 22573184 : fo5 = fo3 + fo4;
724 22573184 : fo8 = fo6 + fo7;
725 22573184 : fi3 = fo5 + fo8;
726 22573184 : fi4 = fo6 - fo7;
727 22573184 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
728 22573184 : fi6 = fo3 - fo4;
729 :
730 22573184 : fo3 = zIm[in2];
731 22573184 : fo4 = zIm[in5];
732 22573184 : fo6 = zIm[in3];
733 22573184 : fo7 = zIm[in4];
734 :
735 22573184 : fo5 = fo3 + fo4;
736 22573184 : fo8 = fo6 + fo7;
737 22573184 : fi7 = fo3 - fo4;
738 22573184 : fi8 = fo5 + fo8;
739 22573184 : fo1 = fo6 - fo7;
740 22573184 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
741 :
742 22573184 : zRe[in1] = fi1 + fi3;
743 22573184 : zIm[in1] = fi2 + fi8;
744 :
745 22573184 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
746 22573184 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
747 22573184 : fo7 = fi1 - fi3 / 4;
748 22573184 : fo5 = fi5 + fo7;
749 22573184 : fo6 = fo7 - fi5;
750 22573184 : zRe[in2] = fo5 - fo3;
751 22573184 : zRe[in4] = fo6 - fo4;
752 22573184 : zRe[in3] = fo6 + fo4;
753 22573184 : zRe[in5] = fo5 + fo3;
754 :
755 22573184 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
756 22573184 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
757 22573184 : fo7 = fi2 - fi8 / 4;
758 22573184 : fo5 = fo2 + fo7;
759 22573184 : fo6 = fo7 - fo2;
760 :
761 22573184 : zIm[in3] = fo6 - fo4;
762 22573184 : zIm[in2] = fo3 + fo5;
763 22573184 : zIm[in4] = fo4 + fo6;
764 22573184 : zIm[in5] = fo5 - fo3;
765 :
766 22573184 : return;
767 : }
768 :
769 : /*-----------------------------------------------------------------*
770 : * fft5_32()
771 : * 5-point FFT called for 32 times
772 : *-----------------------------------------------------------------*/
773 :
774 300000 : static void fft5_32(
775 : float *zRe, /* i/o: real part of input and output data */
776 : float *zIm, /* i/o: imaginary part of input and output data */
777 : const int16_t *Idx /* i : pointer of the address table */
778 : )
779 : {
780 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
781 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
782 : int16_t in1, in2, in3, in4, in5;
783 :
784 300000 : in1 = Idx[0];
785 300000 : in2 = Idx[32];
786 300000 : in3 = Idx[64];
787 300000 : in4 = Idx[96];
788 300000 : in5 = Idx[128];
789 :
790 300000 : fi1 = zRe[in1];
791 300000 : fi2 = zIm[in1];
792 300000 : fo3 = zRe[in2];
793 300000 : fo4 = zRe[in5];
794 300000 : fo6 = zRe[in3];
795 300000 : fo7 = zRe[in4];
796 :
797 300000 : fo5 = fo3 + fo4;
798 300000 : fo8 = fo6 + fo7;
799 300000 : fi3 = fo5 + fo8;
800 300000 : fi4 = fo6 - fo7;
801 300000 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
802 300000 : fi6 = fo3 - fo4;
803 :
804 300000 : fo3 = zIm[in2];
805 300000 : fo4 = zIm[in5];
806 300000 : fo6 = zIm[in3];
807 300000 : fo7 = zIm[in4];
808 :
809 300000 : fo5 = fo3 + fo4;
810 300000 : fo8 = fo6 + fo7;
811 300000 : fi7 = fo3 - fo4;
812 300000 : fi8 = fo5 + fo8;
813 300000 : fo1 = fo6 - fo7;
814 300000 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
815 :
816 300000 : zRe[in1] = fi1 + fi3;
817 300000 : zIm[in1] = fi2 + fi8;
818 :
819 300000 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
820 300000 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
821 300000 : fo7 = fi1 - fi3 / 4;
822 300000 : fo5 = fi5 + fo7;
823 300000 : fo6 = fo7 - fi5;
824 :
825 300000 : zRe[in2] = fo6 + fo4;
826 300000 : zRe[in3] = fo5 + fo3;
827 300000 : zRe[in4] = fo5 - fo3;
828 300000 : zRe[in5] = fo6 - fo4;
829 :
830 300000 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
831 300000 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
832 300000 : fo7 = fi2 - fi8 / 4;
833 300000 : fo5 = fo2 + fo7;
834 300000 : fo6 = fo7 - fo2;
835 :
836 300000 : zIm[in2] = fo6 - fo4;
837 300000 : zIm[in3] = fo5 - fo3;
838 300000 : zIm[in4] = fo3 + fo5;
839 300000 : zIm[in5] = fo4 + fo6;
840 :
841 300000 : return;
842 : }
843 :
844 : /*-----------------------------------------------------------------*
845 : * fft64()
846 : * 64-point FFT
847 : *-----------------------------------------------------------------*/
848 :
849 1763530 : static void fft64(
850 : float *x, /* i/o: real part of input and output data */
851 : float *y, /* i/o: imaginary part of input and output data */
852 : const int16_t *Idx /* i : pointer of the address table */
853 : )
854 : {
855 : int16_t i, id, jd;
856 : float z[128];
857 114629450 : for ( i = 0; i < 64; i++ )
858 : {
859 112865920 : id = Idx[i];
860 112865920 : z[2 * i] = x[id];
861 112865920 : z[2 * i + 1] = y[id];
862 : }
863 :
864 1763530 : cdftForw( 128, z, Ip_fft64, w_fft64 );
865 :
866 114629450 : for ( i = 0; i < 64; i++ )
867 : {
868 112865920 : jd = Odx_fft64[i];
869 112865920 : id = Idx[jd];
870 112865920 : x[id] = z[2 * i];
871 112865920 : y[id] = z[2 * i + 1];
872 : }
873 :
874 1763530 : return;
875 : }
876 :
877 :
878 : /*-----------------------------------------------------------------*
879 : * fft32_15()
880 : * 32-point FFT called for 15 times
881 : *-----------------------------------------------------------------*/
882 :
883 193905 : static void fft32_15(
884 : float *x, /* i/o: real part of input and output data */
885 : float *y, /* i/o: imaginary part of input and output data */
886 : const int16_t *Idx /* i : pointer of the address table */
887 : )
888 : {
889 : int16_t i, id, jd;
890 : float z[64];
891 :
892 6398865 : for ( i = 0; i < 32; i++ )
893 : {
894 6204960 : id = Idx[i];
895 6204960 : z[2 * i] = x[id];
896 6204960 : z[2 * i + 1] = y[id];
897 : }
898 :
899 193905 : cdftForw( 64, z, Ip_fft32, w_fft32 );
900 :
901 6398865 : for ( i = 0; i < 32; i++ )
902 : {
903 6204960 : jd = Odx_fft32_15[i];
904 6204960 : id = Idx[jd];
905 6204960 : x[id] = z[2 * i];
906 6204960 : y[id] = z[2 * i + 1];
907 : }
908 :
909 193905 : return;
910 : }
911 :
912 : /*-----------------------------------------------------------------*
913 : * fft32_5()
914 : * 32-point FFT called for 5 times
915 : *-----------------------------------------------------------------*/
916 :
917 46875 : static void fft32_5(
918 : float *x, /* i/o: real part of input and output data */
919 : float *y, /* i/o: imaginary part of input and output data */
920 : const int16_t *Idx /* i : pointer of the address table */
921 : )
922 : {
923 : int16_t i, id, jd;
924 : float z[64];
925 :
926 1546875 : for ( i = 0; i < 32; i++ )
927 : {
928 1500000 : id = Idx[i];
929 1500000 : z[2 * i] = x[id];
930 1500000 : z[2 * i + 1] = y[id];
931 : }
932 :
933 46875 : cdftForw( 64, z, Ip_fft32, w_fft32 );
934 :
935 1546875 : for ( i = 0; i < 32; i++ )
936 : {
937 1500000 : jd = Odx_fft32_5[i];
938 1500000 : id = Idx[jd];
939 1500000 : x[id] = z[2 * i];
940 1500000 : y[id] = z[2 * i + 1];
941 : }
942 :
943 46875 : return;
944 : }
945 :
946 : /*-----------------------------------------------------------------*
947 : * fft16()
948 : * 16-point FFT
949 : *-----------------------------------------------------------------*/
950 :
951 56640 : static void fft16(
952 : float *x, /* i/o: real part of input and output data */
953 : float *y, /* i/o: imaginary part of input and output data */
954 : const int16_t *Idx /* i : pointer of the address table */
955 : )
956 : {
957 : int16_t i, id, jd;
958 : float z[32];
959 :
960 962880 : for ( i = 0; i < 16; i++ )
961 : {
962 906240 : id = Idx[i];
963 906240 : z[2 * i] = x[id];
964 906240 : z[2 * i + 1] = y[id];
965 : }
966 :
967 56640 : cdftForw( 32, z, Ip_fft16, w_fft16 );
968 :
969 962880 : for ( i = 0; i < 16; i++ )
970 : {
971 906240 : jd = Odx_fft16[i];
972 906240 : id = Idx[jd];
973 906240 : x[id] = z[2 * i];
974 906240 : y[id] = z[2 * i + 1];
975 : }
976 :
977 56640 : return;
978 : }
979 :
980 : /*-----------------------------------------------------------------*
981 : * fft8()
982 : * 8-point FFT
983 : *-----------------------------------------------------------------*/
984 :
985 23760 : static void fft8(
986 : float *x, /* i/o: real part of input and output data */
987 : float *y, /* i/o: imaginary part of input and output data */
988 : const int16_t *Idx /* i : pointer of the address table */
989 : )
990 : {
991 : int16_t i, id;
992 : float z[16];
993 :
994 213840 : for ( i = 0; i < 8; i++ )
995 : {
996 190080 : id = Idx[i];
997 190080 : z[2 * i] = x[id];
998 190080 : z[2 * i + 1] = y[id];
999 : }
1000 :
1001 23760 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1002 :
1003 213840 : for ( i = 0; i < 8; i++ )
1004 : {
1005 190080 : id = Idx[i];
1006 190080 : x[id] = z[2 * i];
1007 190080 : y[id] = z[2 * i + 1];
1008 : }
1009 :
1010 23760 : return;
1011 : }
1012 :
1013 : /*-----------------------------------------------------------------*
1014 : * fft8_5()
1015 : * 8-point FFT with shift 5
1016 : *-----------------------------------------------------------------*/
1017 :
1018 760 : static void fft8_5(
1019 : float *x, /* i/o: real part of input and output data */
1020 : float *y, /* i/o: imaginary part of input and output data */
1021 : const int16_t *Idx /* i : pointer of the address table */
1022 : )
1023 : {
1024 : int16_t i, id, jd;
1025 : float z[16];
1026 :
1027 6840 : for ( i = 0; i < 8; i++ )
1028 : {
1029 6080 : id = Idx[i];
1030 6080 : z[2 * i] = x[id];
1031 6080 : z[2 * i + 1] = y[id];
1032 : }
1033 :
1034 760 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1035 :
1036 6840 : for ( i = 0; i < 8; i++ )
1037 : {
1038 6080 : jd = Odx_fft8_5[i];
1039 6080 : id = Idx[jd];
1040 6080 : x[id] = z[2 * i];
1041 6080 : y[id] = z[2 * i + 1];
1042 : }
1043 760 : return;
1044 : }
1045 :
1046 : /*-----------------------------------------------------------------*
1047 : * fft5_8()
1048 : * 5-point FFT with shift 2
1049 : *-----------------------------------------------------------------*/
1050 :
1051 1216 : static void fft5_8(
1052 : int16_t n1, /* i : length of data */
1053 : float *zRe, /* i/o: real part of input and output data */
1054 : float *zIm, /* i/o: imaginary part of input and output data */
1055 : const int16_t *Idx /* i : pointer of the address table */
1056 : )
1057 : {
1058 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1059 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1060 : int16_t in1, in2, in3, in4, in5;
1061 :
1062 1216 : in1 = Idx[0];
1063 1216 : in2 = Idx[n1];
1064 1216 : in3 = Idx[n1 * 2];
1065 1216 : in4 = Idx[n1 * 3];
1066 1216 : in5 = Idx[n1 * 4];
1067 :
1068 1216 : fi1 = zRe[in1];
1069 1216 : fi2 = zIm[in1];
1070 1216 : fo3 = zRe[in2];
1071 1216 : fo4 = zRe[in5];
1072 1216 : fo6 = zRe[in3];
1073 1216 : fo7 = zRe[in4];
1074 :
1075 1216 : fo5 = fo3 + fo4;
1076 1216 : fo8 = fo6 + fo7;
1077 1216 : fi3 = fo5 + fo8;
1078 1216 : fi4 = fo6 - fo7;
1079 1216 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1080 1216 : fi6 = fo3 - fo4;
1081 :
1082 1216 : fo3 = zIm[in2];
1083 1216 : fo4 = zIm[in5];
1084 1216 : fo6 = zIm[in3];
1085 1216 : fo7 = zIm[in4];
1086 :
1087 1216 : fo5 = fo3 + fo4;
1088 1216 : fo8 = fo6 + fo7;
1089 1216 : fi7 = fo3 - fo4;
1090 1216 : fi8 = fo5 + fo8;
1091 1216 : fo1 = fo6 - fo7;
1092 1216 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1093 :
1094 1216 : zRe[in1] = fi1 + fi3;
1095 1216 : zIm[in1] = fi2 + fi8;
1096 :
1097 1216 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1098 1216 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1099 1216 : fo7 = fi1 - fi3 / 4;
1100 1216 : fo5 = fi5 + fo7;
1101 1216 : fo6 = fo7 - fi5;
1102 :
1103 1216 : zRe[in2] = fo6 - fo4;
1104 1216 : zRe[in3] = fo5 - fo3;
1105 1216 : zRe[in5] = fo6 + fo4;
1106 1216 : zRe[in4] = fo5 + fo3;
1107 :
1108 1216 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1109 1216 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1110 1216 : fo7 = fi2 - fi8 / 4;
1111 1216 : fo5 = fo2 + fo7;
1112 1216 : fo6 = fo7 - fo2;
1113 :
1114 1216 : zIm[in2] = fo4 + fo6;
1115 1216 : zIm[in3] = fo3 + fo5;
1116 1216 : zIm[in4] = fo5 - fo3;
1117 1216 : zIm[in5] = fo6 - fo4;
1118 :
1119 1216 : return;
1120 : }
1121 :
1122 : /*-----------------------------------------------------------------*
1123 : * fft4_5()
1124 : * 8-point FFT with shift 1
1125 : *-----------------------------------------------------------------*/
1126 :
1127 0 : static void fft4_5(
1128 : float *x, /* i/o: real part of input and output data */
1129 : float *y, /* i/o: imaginary part of input and output data */
1130 : const int16_t *Idx /* i : pointer of the address table */
1131 : )
1132 : {
1133 : int16_t i, id, jd;
1134 : float z[8];
1135 :
1136 0 : for ( i = 0; i < 4; i++ )
1137 : {
1138 0 : id = Idx[i];
1139 0 : z[2 * i] = x[id];
1140 0 : z[2 * i + 1] = y[id];
1141 : }
1142 :
1143 0 : cdftForw( 8, z, Ip_fft4, w_fft4 );
1144 :
1145 0 : for ( i = 0; i < 4; i++ )
1146 : {
1147 0 : jd = Odx_fft4_5[i];
1148 0 : id = Idx[jd];
1149 0 : x[id] = z[2 * i];
1150 0 : y[id] = z[2 * i + 1];
1151 : }
1152 0 : return;
1153 : }
1154 :
1155 : /*-----------------------------------------------------------------*
1156 : * fft5_4()
1157 : * 5-point FFT with shift 4
1158 : *-----------------------------------------------------------------*/
1159 :
1160 0 : static void fft5_4(
1161 : int16_t n1,
1162 : float *zRe,
1163 : float *zIm,
1164 : const int16_t *Idx )
1165 : {
1166 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1167 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1168 : int16_t in1, in2, in3, in4, in5;
1169 :
1170 0 : in1 = Idx[0];
1171 0 : in2 = Idx[n1];
1172 0 : in3 = Idx[n1 * 2];
1173 0 : in4 = Idx[n1 * 3];
1174 0 : in5 = Idx[n1 * 4];
1175 :
1176 0 : fi1 = zRe[in1];
1177 0 : fi2 = zIm[in1];
1178 0 : fo3 = zRe[in2];
1179 0 : fo4 = zRe[in5];
1180 0 : fo6 = zRe[in3];
1181 0 : fo7 = zRe[in4];
1182 :
1183 0 : fo5 = fo3 + fo4;
1184 0 : fo8 = fo6 + fo7;
1185 0 : fi3 = fo5 + fo8;
1186 0 : fi4 = fo6 - fo7;
1187 0 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1188 0 : fi6 = fo3 - fo4;
1189 :
1190 0 : fo3 = zIm[in2];
1191 0 : fo4 = zIm[in5];
1192 0 : fo6 = zIm[in3];
1193 0 : fo7 = zIm[in4];
1194 :
1195 0 : fo5 = fo3 + fo4;
1196 0 : fo8 = fo6 + fo7;
1197 0 : fi7 = fo3 - fo4;
1198 0 : fi8 = fo5 + fo8;
1199 0 : fo1 = fo6 - fo7;
1200 0 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1201 :
1202 0 : zRe[in1] = fi1 + fi3;
1203 0 : zIm[in1] = fi2 + fi8;
1204 :
1205 0 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1206 0 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1207 0 : fo7 = fi1 - fi3 / 4;
1208 0 : fo5 = fi5 + fo7;
1209 0 : fo6 = fo7 - fi5;
1210 :
1211 0 : zRe[in2] = fo5 - fo3;
1212 0 : zRe[in4] = fo6 - fo4;
1213 0 : zRe[in3] = fo6 + fo4;
1214 0 : zRe[in5] = fo5 + fo3;
1215 :
1216 0 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1217 0 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1218 0 : fo7 = fi2 - fi8 / 4;
1219 0 : fo5 = fo2 + fo7;
1220 0 : fo6 = fo7 - fo2;
1221 :
1222 0 : zIm[in2] = fo3 + fo5;
1223 0 : zIm[in3] = fo6 - fo4;
1224 0 : zIm[in4] = fo4 + fo6;
1225 0 : zIm[in5] = fo5 - fo3;
1226 :
1227 0 : return;
1228 : }
1229 :
1230 :
1231 : /*-----------------------------------------------------------------*
1232 : * DoRTFT80()
1233 : * a low complexity 2-dimensional DFT of 80 points
1234 : *-----------------------------------------------------------------*/
1235 :
1236 11328 : void DoRTFT80(
1237 : float *x, /* i/o: real part of input and output data */
1238 : float *y /* i/o: imaginary part of input and output data */
1239 : )
1240 : {
1241 : int16_t j;
1242 :
1243 : /* Applying 16-point FFT for 5 times based on the address table Idx_dortft80 */
1244 67968 : for ( j = 0; j < 5; j++ )
1245 : {
1246 56640 : fft16( x, y, Idx_dortft80 + 16 * j );
1247 : }
1248 :
1249 : /* Applying 5-point FFT for 16 times based on the address table Idx_dortft80 */
1250 192576 : for ( j = 0; j < 16; j++ )
1251 : {
1252 181248 : fft5_shift1( 16, x, y, Idx_dortft80 + j );
1253 : }
1254 :
1255 11328 : return;
1256 : }
1257 :
1258 : /*-----------------------------------------------------------------*
1259 : * DoRTFT120()
1260 : * a low complexity 2-dimensional DFT of 120 points
1261 : *-----------------------------------------------------------------*/
1262 :
1263 1584 : void DoRTFT120(
1264 : float *x, /* i/o: real part of input and output data */
1265 : float *y /* i/o: imaginary part of input and output data */
1266 : )
1267 : {
1268 : int16_t j;
1269 :
1270 : /* Applying 8-point FFT for 15 times based on the address table Idx_dortft120 */
1271 25344 : for ( j = 0; j < 15; j++ )
1272 : {
1273 23760 : fft8( x, y, Idx_dortft120 + 8 * j );
1274 : }
1275 :
1276 : /* Applying 15-point FFT for 8 times based on the address table Idx_dortft120 */
1277 14256 : for ( j = 0; j < 8; j++ )
1278 : {
1279 12672 : fft15_shift2( 8, x, y, Idx_dortft120 + j );
1280 : }
1281 :
1282 1584 : return;
1283 : }
1284 :
1285 : /*-----------------------------------------------------------------*
1286 : * DoRTFT160()
1287 : * a low complexity 2-dimensional DFT of 160 points
1288 : *-----------------------------------------------------------------*/
1289 :
1290 9375 : void DoRTFT160(
1291 : float x[], /* i/o: real part of input and output data */
1292 : float y[] /* i/o: imaginary part of input and output data */
1293 : )
1294 : {
1295 : int16_t j;
1296 :
1297 : /* Applying 32-point FFT for 5 times based on the address table Idx_dortft160 */
1298 56250 : for ( j = 0; j < 5; j++ )
1299 : {
1300 46875 : fft32_5( x, y, Idx_dortft160 + 32 * j );
1301 : }
1302 :
1303 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1304 309375 : for ( j = 0; j < 32; j++ )
1305 : {
1306 300000 : fft5_32( x, y, Idx_dortft160 + j );
1307 : }
1308 :
1309 9375 : return;
1310 : }
1311 :
1312 : /*-----------------------------------------------------------------*
1313 : * DoRTFT320()
1314 : * a low complexity 2-dimensional DFT of 320 points
1315 : *-----------------------------------------------------------------*/
1316 :
1317 352706 : void DoRTFT320(
1318 : float *x, /* i/o: real part of input and output data */
1319 : float *y /* i/o: imaginary part of input and output data */
1320 : )
1321 : {
1322 : int16_t j;
1323 :
1324 : /* Applying 64-point FFT for 5 times based on the address table Idx_dortft160 */
1325 2116236 : for ( j = 0; j < 5; j++ )
1326 : {
1327 1763530 : fft64( x, y, Idx_dortft320 + 64 * j );
1328 : }
1329 :
1330 : /* Applying 5-point FFT for 64 times based on the address table Idx_dortft160 */
1331 22925890 : for ( j = 0; j < 64; j++ )
1332 : {
1333 22573184 : fft5_shift4( 64, x, y, Idx_dortft320 + j );
1334 : }
1335 :
1336 352706 : return;
1337 : }
1338 :
1339 : /*-----------------------------------------------------------------*
1340 : * DoRTFT480()
1341 : * a low complexity 2-dimensional DFT of 480 points
1342 : *-----------------------------------------------------------------*/
1343 :
1344 12927 : void DoRTFT480(
1345 : float *x, /* i/o: real part of input and output data */
1346 : float *y /* i/o: imaginary part of input and output data */
1347 : )
1348 : {
1349 : int16_t j;
1350 :
1351 : /* Applying 32-point FFT for 15 times based on the address table Idx_dortft160 */
1352 206832 : for ( j = 0; j < 15; j++ )
1353 : {
1354 193905 : fft32_15( x, y, Idx_dortft480 + 32 * j );
1355 : }
1356 :
1357 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1358 426591 : for ( j = 0; j < 32; j++ )
1359 : {
1360 413664 : fft15_shift8( 32, x, y, Idx_dortft480 + j );
1361 : }
1362 :
1363 12927 : return;
1364 : }
1365 :
1366 : /*-----------------------------------------------------------------*
1367 : * DoRTFT40()
1368 : * a low complexity 2-dimensional DFT of 40 points
1369 : *-----------------------------------------------------------------*/
1370 :
1371 152 : void DoRTFT40(
1372 : float *x, /* i/o: real part of input and output data */
1373 : float *y /* i/o: imaginary part of input and output data */
1374 : )
1375 : {
1376 : int16_t j;
1377 : /* Applying 8-point FFT for 5 times based on the address table Idx_dortft40 */
1378 912 : for ( j = 0; j < 5; j++ )
1379 : {
1380 760 : fft8_5( x, y, Idx_dortft40 + 8 * j );
1381 : }
1382 :
1383 : /* Applying 5-point FFT for 8 times based on the address table Idx_dortft40 */
1384 1368 : for ( j = 0; j < 8; j++ )
1385 : {
1386 1216 : fft5_8( 8, x, y, Idx_dortft40 + j );
1387 : }
1388 :
1389 152 : return;
1390 : }
1391 :
1392 : /*-----------------------------------------------------------------*
1393 : * DoRTFT20()
1394 : * a low complexity 2-dimensional DFT of 20 points
1395 : *-----------------------------------------------------------------*/
1396 :
1397 0 : void DoRTFT20(
1398 : float *x, /* i/o: real part of input and output data */
1399 : float *y /* i/o: imaginary part of input and output data */
1400 : )
1401 : {
1402 : int16_t j;
1403 :
1404 : /* Applying 4-point FFT for 5 times based on the address table Idx_dortft20 */
1405 0 : for ( j = 0; j < 5; j++ )
1406 : {
1407 0 : fft4_5( x, y, Idx_dortft20 + 4 * j );
1408 : }
1409 :
1410 : /* Applying 5-point FFT for 4 times based on the address table Idx_dortft20 */
1411 0 : for ( j = 0; j < 4; j++ )
1412 : {
1413 0 : fft5_4( 4, x, y, Idx_dortft20 + j );
1414 : }
1415 :
1416 0 : return;
1417 : }
1418 :
1419 : /*-----------------------------------------------------------------*
1420 : * DoRTFT128()
1421 : * FFT with 128 points
1422 : *-----------------------------------------------------------------*/
1423 :
1424 1294791 : void DoRTFT128(
1425 : float *x, /* i/o: real part of input and output data */
1426 : float *y /* i/o: imaginary part of input and output data */
1427 : )
1428 : {
1429 :
1430 : int16_t i;
1431 : float z[256];
1432 :
1433 167028039 : for ( i = 0; i < 128; i++ )
1434 : {
1435 165733248 : z[2 * i] = x[i];
1436 165733248 : z[2 * i + 1] = y[i];
1437 : }
1438 :
1439 1294791 : cdftForw( 256, z, Ip_fft128, w_fft128 );
1440 :
1441 1294791 : x[0] = z[0];
1442 1294791 : y[0] = z[1];
1443 165733248 : for ( i = 1; i < 128; i++ )
1444 : {
1445 164438457 : x[128 - i] = z[2 * i];
1446 164438457 : y[128 - i] = z[2 * i + 1];
1447 : }
1448 :
1449 1294791 : return;
1450 : }
1451 :
1452 : /*-----------------------------------------------------------------*
1453 : * cdftForw()
1454 : * Main fuction of Complex Discrete Fourier Transform
1455 : *-----------------------------------------------------------------*/
1456 :
1457 4973318 : static void cdftForw(
1458 : int16_t n, /* i : data length of real and imag */
1459 : float *a, /* i/o: input/output data */
1460 : const int16_t *ip, /* i : work area for bit reversal */
1461 : const float *w /* i : cos/sin table */
1462 : )
1463 : {
1464 : /* bit reversal */
1465 4973318 : bitrv2_SR( n, ip + 2, a );
1466 :
1467 : /* Do FFT */
1468 4973318 : cftfsub( n, a, w );
1469 4973318 : }
1470 :
1471 : /*-----------------------------------------------------------------*
1472 : * bitrv2_SR()
1473 : * Bit reversal
1474 : *-----------------------------------------------------------------*/
1475 :
1476 5134478 : static void bitrv2_SR(
1477 : int16_t n, /* i : data length of real and imag */
1478 : const int16_t *ip, /* i/o: work area for bit reversal */
1479 : float *a /* i/o: input/output data */
1480 : )
1481 : {
1482 : int16_t j, j1, k, k1, m, m2;
1483 : int16_t l;
1484 : float xr, xi, yr, yi;
1485 :
1486 5134478 : if ( n == 64 )
1487 : {
1488 401940 : m = 4;
1489 401940 : l = -1;
1490 : }
1491 4732538 : else if ( n == 256 )
1492 : {
1493 1294791 : m = 8;
1494 1294791 : l = -1;
1495 : }
1496 3437747 : else if ( n == 16 )
1497 : {
1498 24520 : m = 2;
1499 24520 : l = -1;
1500 : }
1501 : else
1502 : {
1503 3413227 : l = n;
1504 3413227 : m = 1;
1505 :
1506 13333377 : while ( ( m << 3 ) < l )
1507 : {
1508 9920150 : l >>= 1;
1509 9920150 : m <<= 1;
1510 : }
1511 3413227 : l -= m * 8;
1512 : }
1513 :
1514 5134478 : m2 = 2 * m;
1515 :
1516 5134478 : if ( l == 0 )
1517 : {
1518 9309533 : for ( k = 0; k < m; k++ )
1519 : {
1520 19093042 : for ( j = 0; j < k; j++ )
1521 : {
1522 11639454 : j1 = 2 * j + ip[k];
1523 11639454 : k1 = 2 * k + ip[j];
1524 11639454 : xr = a[j1];
1525 11639454 : xi = a[j1 + 1];
1526 11639454 : yr = a[k1];
1527 11639454 : yi = a[k1 + 1];
1528 11639454 : a[j1] = yr;
1529 11639454 : a[j1 + 1] = yi;
1530 11639454 : a[k1] = xr;
1531 11639454 : a[k1 + 1] = xi;
1532 11639454 : j1 += m2;
1533 11639454 : k1 += 2 * m2;
1534 11639454 : xr = a[j1];
1535 11639454 : xi = a[j1 + 1];
1536 11639454 : yr = a[k1];
1537 11639454 : yi = a[k1 + 1];
1538 11639454 : a[j1] = yr;
1539 11639454 : a[j1 + 1] = yi;
1540 11639454 : a[k1] = xr;
1541 11639454 : a[k1 + 1] = xi;
1542 11639454 : j1 += m2;
1543 11639454 : k1 -= m2;
1544 11639454 : xr = a[j1];
1545 11639454 : xi = a[j1 + 1];
1546 11639454 : yr = a[k1];
1547 11639454 : yi = a[k1 + 1];
1548 11639454 : a[j1] = yr;
1549 11639454 : a[j1 + 1] = yi;
1550 11639454 : a[k1] = xr;
1551 11639454 : a[k1 + 1] = xi;
1552 11639454 : j1 += m2;
1553 11639454 : k1 += 2 * m2;
1554 11639454 : xr = a[j1];
1555 11639454 : xi = a[j1 + 1];
1556 11639454 : yr = a[k1];
1557 11639454 : yi = a[k1 + 1];
1558 11639454 : a[j1] = yr;
1559 11639454 : a[j1 + 1] = yi;
1560 11639454 : a[k1] = xr;
1561 11639454 : a[k1 + 1] = xi;
1562 : }
1563 :
1564 7453588 : j1 = 2 * k + m2 + ip[k];
1565 7453588 : k1 = j1 + m2;
1566 7453588 : xr = a[j1];
1567 7453588 : xi = a[j1 + 1];
1568 7453588 : yr = a[k1];
1569 7453588 : yi = a[k1 + 1];
1570 7453588 : a[j1] = yr;
1571 7453588 : a[j1 + 1] = yi;
1572 7453588 : a[k1] = xr;
1573 7453588 : a[k1 + 1] = xi;
1574 : }
1575 : }
1576 : else
1577 : {
1578 36931640 : for ( k = 1; k < m; k++ )
1579 : {
1580 259217255 : for ( j = 0; j < k; j++ )
1581 : {
1582 225564148 : j1 = 2 * j + ip[k];
1583 225564148 : k1 = 2 * k + ip[j];
1584 225564148 : xr = a[j1];
1585 225564148 : xi = a[j1 + 1];
1586 225564148 : yr = a[k1];
1587 225564148 : yi = a[k1 + 1];
1588 225564148 : a[j1] = yr;
1589 225564148 : a[j1 + 1] = yi;
1590 225564148 : a[k1] = xr;
1591 225564148 : a[k1 + 1] = xi;
1592 225564148 : j1 += m2;
1593 225564148 : k1 += m2;
1594 225564148 : xr = a[j1];
1595 225564148 : xi = a[j1 + 1];
1596 225564148 : yr = a[k1];
1597 225564148 : yi = a[k1 + 1];
1598 225564148 : a[j1] = yr;
1599 225564148 : a[j1 + 1] = yi;
1600 225564148 : a[k1] = xr;
1601 225564148 : a[k1 + 1] = xi;
1602 : }
1603 : }
1604 : }
1605 :
1606 5134478 : return;
1607 : }
1608 :
1609 : /*-----------------------------------------------------------------*
1610 : * cftfsub()
1611 : * Complex Discrete Fourier Transform
1612 : *-----------------------------------------------------------------*/
1613 :
1614 5101943 : static void cftfsub(
1615 : int16_t n, /* i : data length of real and imag */
1616 : float *a, /* i/o: input/output data */
1617 : const float *w /* i : cos/sin table */
1618 : )
1619 : {
1620 : int16_t j, j1, j2, j3, l;
1621 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1622 :
1623 5101943 : l = 2;
1624 5101943 : if ( n > 8 )
1625 : {
1626 5101943 : cft1st( n, a, w );
1627 :
1628 5101943 : l = 8;
1629 14567853 : while ( ( l << 2 ) < n )
1630 : {
1631 9465910 : cftmdl( n, l, a, w );
1632 9465910 : l <<= 2;
1633 : }
1634 : }
1635 :
1636 5101943 : if ( ( l << 2 ) == n )
1637 : {
1638 32588441 : for ( j = 0; j < l; j += 2 )
1639 : {
1640 30732496 : j1 = j + l;
1641 30732496 : j2 = j1 + l;
1642 30732496 : j3 = j2 + l;
1643 30732496 : x0r = a[j] + a[j1];
1644 30732496 : x0i = a[j + 1] + a[j1 + 1];
1645 30732496 : x1r = a[j] - a[j1];
1646 30732496 : x1i = a[j + 1] - a[j1 + 1];
1647 30732496 : x2r = a[j2] + a[j3];
1648 30732496 : x2i = a[j2 + 1] + a[j3 + 1];
1649 30732496 : x3r = a[j2] - a[j3];
1650 30732496 : x3i = a[j2 + 1] - a[j3 + 1];
1651 30732496 : a[j] = x0r + x2r;
1652 30732496 : a[j + 1] = x0i + x2i;
1653 30732496 : a[j2] = x0r - x2r;
1654 30732496 : a[j2 + 1] = x0i - x2i;
1655 30732496 : a[j1] = x1r - x3i;
1656 30732496 : a[j1 + 1] = x1i + x3r;
1657 30732496 : a[j3] = x1r + x3i;
1658 30732496 : a[j3 + 1] = x1i - x3r;
1659 : }
1660 : }
1661 : else
1662 : {
1663 490785374 : for ( j = 0; j < l; j += 2 )
1664 : {
1665 487539376 : j1 = j + l;
1666 487539376 : x0r = a[j] - a[j1];
1667 487539376 : x0i = a[j + 1] - a[j1 + 1];
1668 487539376 : a[j] += a[j1];
1669 487539376 : a[j + 1] += a[j1 + 1];
1670 487539376 : a[j1] = x0r;
1671 487539376 : a[j1 + 1] = x0i;
1672 : }
1673 : }
1674 :
1675 5101943 : return;
1676 : }
1677 :
1678 : /*-----------------------------------------------------------------*
1679 : * cft1st()
1680 : * Subfunction of Complex Discrete Fourier Transform
1681 : *-----------------------------------------------------------------*/
1682 :
1683 5134478 : static void cft1st(
1684 : int16_t n, /* i : data length of real and imag */
1685 : float *a, /* i/o: input/output data */
1686 : const float *w /* i : cos/sin table */
1687 : )
1688 : {
1689 : int16_t j, k1, k2;
1690 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1691 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1692 :
1693 5134478 : x0r = a[0] + a[2];
1694 5134478 : x0i = a[1] + a[3];
1695 5134478 : x1r = a[0] - a[2];
1696 5134478 : x1i = a[1] - a[3];
1697 5134478 : x2r = a[4] + a[6];
1698 5134478 : x2i = a[5] + a[7];
1699 5134478 : x3r = a[4] - a[6];
1700 5134478 : x3i = a[5] - a[7];
1701 5134478 : a[0] = x0r + x2r;
1702 5134478 : a[1] = x0i + x2i;
1703 5134478 : a[4] = x0r - x2r;
1704 5134478 : a[5] = x0i - x2i;
1705 5134478 : a[2] = x1r - x3i;
1706 5134478 : a[3] = x1i + x3r;
1707 5134478 : a[6] = x1r + x3i;
1708 5134478 : a[7] = x1i - x3r;
1709 5134478 : wk1r = w[2];
1710 5134478 : x0r = a[8] + a[10];
1711 5134478 : x0i = a[9] + a[11];
1712 5134478 : x1r = a[8] - a[10];
1713 5134478 : x1i = a[9] - a[11];
1714 5134478 : x2r = a[12] + a[14];
1715 5134478 : x2i = a[13] + a[15];
1716 5134478 : x3r = a[12] - a[14];
1717 5134478 : x3i = a[13] - a[15];
1718 5134478 : a[8] = x0r + x2r;
1719 5134478 : a[9] = x0i + x2i;
1720 5134478 : a[12] = x2i - x0i;
1721 5134478 : a[13] = x0r - x2r;
1722 5134478 : x0r = x1r - x3i;
1723 5134478 : x0i = x1i + x3r;
1724 5134478 : a[10] = wk1r * ( x0r - x0i );
1725 5134478 : a[11] = wk1r * ( x0r + x0i );
1726 5134478 : x0r = x3i + x1r;
1727 5134478 : x0i = x3r - x1i;
1728 5134478 : a[14] = wk1r * ( x0i - x0r );
1729 5134478 : a[15] = wk1r * ( x0i + x0r );
1730 5134478 : k1 = 0;
1731 :
1732 137381232 : for ( j = 16; j < n; j += 16 )
1733 : {
1734 132246754 : k1 += 2;
1735 132246754 : k2 = 2 * k1;
1736 132246754 : wk2r = w[k1];
1737 132246754 : wk2i = w[k1 + 1];
1738 132246754 : wk1r = w[k2];
1739 132246754 : wk1i = w[k2 + 1];
1740 132246754 : wk3r = wk1r - 2 * wk2i * wk1i;
1741 132246754 : wk3i = 2 * wk2i * wk1r - wk1i;
1742 132246754 : x0r = a[j] + a[j + 2];
1743 132246754 : x0i = a[j + 1] + a[j + 3];
1744 132246754 : x1r = a[j] - a[j + 2];
1745 132246754 : x1i = a[j + 1] - a[j + 3];
1746 132246754 : x2r = a[j + 4] + a[j + 6];
1747 132246754 : x2i = a[j + 5] + a[j + 7];
1748 132246754 : x3r = a[j + 4] - a[j + 6];
1749 132246754 : x3i = a[j + 5] - a[j + 7];
1750 132246754 : a[j] = x0r + x2r;
1751 132246754 : a[j + 1] = x0i + x2i;
1752 132246754 : x0r -= x2r;
1753 132246754 : x0i -= x2i;
1754 132246754 : a[j + 4] = wk2r * x0r - wk2i * x0i;
1755 132246754 : a[j + 5] = wk2r * x0i + wk2i * x0r;
1756 132246754 : x0r = x1r - x3i;
1757 132246754 : x0i = x1i + x3r;
1758 132246754 : a[j + 2] = wk1r * x0r - wk1i * x0i;
1759 132246754 : a[j + 3] = wk1r * x0i + wk1i * x0r;
1760 132246754 : x0r = x1r + x3i;
1761 132246754 : x0i = x1i - x3r;
1762 132246754 : a[j + 6] = wk3r * x0r - wk3i * x0i;
1763 132246754 : a[j + 7] = wk3r * x0i + wk3i * x0r;
1764 132246754 : wk1r = w[k2 + 2];
1765 132246754 : wk1i = w[k2 + 3];
1766 132246754 : wk3r = wk1r - 2 * wk2r * wk1i;
1767 132246754 : wk3i = 2 * wk2r * wk1r - wk1i;
1768 132246754 : x0r = a[j + 8] + a[j + 10];
1769 132246754 : x0i = a[j + 9] + a[j + 11];
1770 132246754 : x1r = a[j + 8] - a[j + 10];
1771 132246754 : x1i = a[j + 9] - a[j + 11];
1772 132246754 : x2r = a[j + 12] + a[j + 14];
1773 132246754 : x2i = a[j + 13] + a[j + 15];
1774 132246754 : x3r = a[j + 12] - a[j + 14];
1775 132246754 : x3i = a[j + 13] - a[j + 15];
1776 132246754 : a[j + 8] = x0r + x2r;
1777 132246754 : a[j + 9] = x0i + x2i;
1778 132246754 : x0r -= x2r;
1779 132246754 : x0i -= x2i;
1780 132246754 : a[j + 12] = -wk2i * x0r - wk2r * x0i;
1781 132246754 : a[j + 13] = -wk2i * x0i + wk2r * x0r;
1782 132246754 : x0r = x1r - x3i;
1783 132246754 : x0i = x1i + x3r;
1784 132246754 : a[j + 10] = wk1r * x0r - wk1i * x0i;
1785 132246754 : a[j + 11] = wk1r * x0i + wk1i * x0r;
1786 132246754 : x0r = x1r + x3i;
1787 132246754 : x0i = x1i - x3r;
1788 132246754 : a[j + 14] = wk3r * x0r - wk3i * x0i;
1789 132246754 : a[j + 15] = wk3r * x0i + wk3i * x0r;
1790 : }
1791 :
1792 5134478 : return;
1793 : }
1794 :
1795 : /*-----------------------------------------------------------------*
1796 : * cftmdl()
1797 : * Subfunction of Complex Discrete Fourier Transform
1798 : *-----------------------------------------------------------------*/
1799 :
1800 9498445 : static void cftmdl(
1801 : int16_t n, /* i : data length of real and imag */
1802 : int16_t l, /* i : initial shift for processing */
1803 : float *a, /* i/o: input/output data */
1804 : const float *w /* i : cos/sin table */
1805 : )
1806 : {
1807 : int16_t j, j1, j2, j3, k, k1, k2, m, m2;
1808 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1809 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1810 :
1811 9498445 : m = l << 2;
1812 175583285 : for ( j = 0; j < l; j += 2 )
1813 : {
1814 166084840 : j1 = j + l;
1815 166084840 : j2 = j1 + l;
1816 166084840 : j3 = j2 + l;
1817 166084840 : x0r = a[j] + a[j1];
1818 166084840 : x0i = a[j + 1] + a[j1 + 1];
1819 166084840 : x1r = a[j] - a[j1];
1820 166084840 : x1i = a[j + 1] - a[j1 + 1];
1821 166084840 : x2r = a[j2] + a[j3];
1822 166084840 : x2i = a[j2 + 1] + a[j3 + 1];
1823 166084840 : x3r = a[j2] - a[j3];
1824 166084840 : x3i = a[j2 + 1] - a[j3 + 1];
1825 166084840 : a[j] = x0r + x2r;
1826 166084840 : a[j + 1] = x0i + x2i;
1827 166084840 : a[j2] = x0r - x2r;
1828 166084840 : a[j2 + 1] = x0i - x2i;
1829 166084840 : a[j1] = x1r - x3i;
1830 166084840 : a[j1 + 1] = x1i + x3r;
1831 166084840 : a[j3] = x1r + x3i;
1832 166084840 : a[j3 + 1] = x1i - x3r;
1833 : }
1834 :
1835 9498445 : wk1r = w[2];
1836 175583285 : for ( j = m; j < l + m; j += 2 )
1837 : {
1838 166084840 : j1 = j + l;
1839 166084840 : j2 = j1 + l;
1840 166084840 : j3 = j2 + l;
1841 166084840 : x0r = a[j] + a[j1];
1842 166084840 : x0i = a[j + 1] + a[j1 + 1];
1843 166084840 : x1r = a[j] - a[j1];
1844 166084840 : x1i = a[j + 1] - a[j1 + 1];
1845 166084840 : x2r = a[j2] + a[j3];
1846 166084840 : x2i = a[j2 + 1] + a[j3 + 1];
1847 166084840 : x3r = a[j2] - a[j3];
1848 166084840 : x3i = a[j2 + 1] - a[j3 + 1];
1849 166084840 : a[j] = x0r + x2r;
1850 166084840 : a[j + 1] = x0i + x2i;
1851 166084840 : a[j2] = x2i - x0i;
1852 166084840 : a[j2 + 1] = x0r - x2r;
1853 166084840 : x0r = x1r - x3i;
1854 166084840 : x0i = x1i + x3r;
1855 166084840 : a[j1] = wk1r * ( x0r - x0i );
1856 166084840 : a[j1 + 1] = wk1r * ( x0r + x0i );
1857 166084840 : x0r = x3i + x1r;
1858 166084840 : x0i = x3r - x1i;
1859 166084840 : a[j3] = wk1r * ( x0i - x0r );
1860 166084840 : a[j3 + 1] = wk1r * ( x0i + x0r );
1861 : }
1862 :
1863 9498445 : k1 = 0;
1864 9498445 : m2 = 2 * m;
1865 43463603 : for ( k = m2; k < n; k += m2 )
1866 : {
1867 33965158 : k1 += 2;
1868 33965158 : k2 = 2 * k1;
1869 33965158 : wk2r = w[k1];
1870 33965158 : wk2i = w[k1 + 1];
1871 33965158 : wk1r = w[k2];
1872 33965158 : wk1i = w[k2 + 1];
1873 33965158 : wk3r = wk1r - 2 * wk2i * wk1i;
1874 33965158 : wk3i = 2 * wk2i * wk1r - wk1i;
1875 226317206 : for ( j = k; j < l + k; j += 2 )
1876 : {
1877 192352048 : j1 = j + l;
1878 192352048 : j2 = j1 + l;
1879 192352048 : j3 = j2 + l;
1880 192352048 : x0r = a[j] + a[j1];
1881 192352048 : x0i = a[j + 1] + a[j1 + 1];
1882 192352048 : x1r = a[j] - a[j1];
1883 192352048 : x1i = a[j + 1] - a[j1 + 1];
1884 192352048 : x2r = a[j2] + a[j3];
1885 192352048 : x2i = a[j2 + 1] + a[j3 + 1];
1886 192352048 : x3r = a[j2] - a[j3];
1887 192352048 : x3i = a[j2 + 1] - a[j3 + 1];
1888 192352048 : a[j] = x0r + x2r;
1889 192352048 : a[j + 1] = x0i + x2i;
1890 192352048 : x0r -= x2r;
1891 192352048 : x0i -= x2i;
1892 192352048 : a[j2] = wk2r * x0r - wk2i * x0i;
1893 192352048 : a[j2 + 1] = wk2r * x0i + wk2i * x0r;
1894 192352048 : x0r = x1r - x3i;
1895 192352048 : x0i = x1i + x3r;
1896 192352048 : a[j1] = wk1r * x0r - wk1i * x0i;
1897 192352048 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1898 192352048 : x0r = x1r + x3i;
1899 192352048 : x0i = x1i - x3r;
1900 192352048 : a[j3] = wk3r * x0r - wk3i * x0i;
1901 192352048 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1902 : }
1903 :
1904 33965158 : wk1r = w[k2 + 2];
1905 33965158 : wk1i = w[k2 + 3];
1906 33965158 : wk3r = wk1r - 2 * wk2r * wk1i;
1907 33965158 : wk3i = 2 * wk2r * wk1r - wk1i;
1908 226317206 : for ( j = k + m; j < l + ( k + m ); j += 2 )
1909 : {
1910 192352048 : j1 = j + l;
1911 192352048 : j2 = j1 + l;
1912 192352048 : j3 = j2 + l;
1913 192352048 : x0r = a[j] + a[j1];
1914 192352048 : x0i = a[j + 1] + a[j1 + 1];
1915 192352048 : x1r = a[j] - a[j1];
1916 192352048 : x1i = a[j + 1] - a[j1 + 1];
1917 192352048 : x2r = a[j2] + a[j3];
1918 192352048 : x2i = a[j2 + 1] + a[j3 + 1];
1919 192352048 : x3r = a[j2] - a[j3];
1920 192352048 : x3i = a[j2 + 1] - a[j3 + 1];
1921 192352048 : a[j] = x0r + x2r;
1922 192352048 : a[j + 1] = x0i + x2i;
1923 192352048 : x0r -= x2r;
1924 192352048 : x0i -= x2i;
1925 192352048 : a[j2] = -wk2i * x0r - wk2r * x0i;
1926 192352048 : a[j2 + 1] = -wk2i * x0i + wk2r * x0r;
1927 192352048 : x0r = x1r - x3i;
1928 192352048 : x0i = x1i + x3r;
1929 192352048 : a[j1] = wk1r * x0r - wk1i * x0i;
1930 192352048 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1931 192352048 : x0r = x1r + x3i;
1932 192352048 : x0i = x1i - x3r;
1933 192352048 : a[j3] = wk3r * x0r - wk3i * x0i;
1934 192352048 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1935 : }
1936 : }
1937 :
1938 9498445 : return;
1939 : }
1940 :
1941 32535 : static void cftbsub(
1942 : int16_t n,
1943 : float *a,
1944 : const float *w /* i : cos/sin table */
1945 : )
1946 : {
1947 : int16_t j, j1, j2, j3, l;
1948 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1949 :
1950 32535 : l = 2;
1951 32535 : if ( n > 8 )
1952 : {
1953 32535 : cft1st( n, a, w );
1954 32535 : l = 8;
1955 :
1956 65070 : while ( ( l << 2 ) < n )
1957 : {
1958 32535 : cftmdl( n, l, a, w );
1959 32535 : l <<= 2;
1960 : }
1961 : }
1962 :
1963 32535 : if ( ( l << 2 ) == n )
1964 : {
1965 0 : for ( j = 0; j < l; j += 2 )
1966 : {
1967 0 : j1 = j + l;
1968 0 : j2 = j1 + l;
1969 0 : j3 = j2 + l;
1970 0 : x0r = a[j] + a[j1];
1971 0 : x0i = -a[j + 1] - a[j1 + 1];
1972 0 : x1r = a[j] - a[j1];
1973 0 : x1i = -a[j + 1] + a[j1 + 1];
1974 0 : x2r = a[j2] + a[j3];
1975 0 : x2i = a[j2 + 1] + a[j3 + 1];
1976 0 : x3r = a[j2] - a[j3];
1977 0 : x3i = a[j2 + 1] - a[j3 + 1];
1978 0 : a[j] = x0r + x2r;
1979 0 : a[j + 1] = x0i - x2i;
1980 0 : a[j2] = x0r - x2r;
1981 0 : a[j2 + 1] = x0i + x2i;
1982 0 : a[j1] = x1r - x3i;
1983 0 : a[j1 + 1] = x1i - x3r;
1984 0 : a[j3] = x1r + x3i;
1985 0 : a[j3 + 1] = x1i + x3r;
1986 : }
1987 : }
1988 : else
1989 : {
1990 553095 : for ( j = 0; j < l; j += 2 )
1991 : {
1992 520560 : j1 = j + l;
1993 520560 : x0r = a[j] - a[j1];
1994 520560 : x0i = -a[j + 1] + a[j1 + 1];
1995 520560 : a[j] += a[j1];
1996 520560 : a[j + 1] = -a[j + 1] - a[j1 + 1];
1997 520560 : a[j1] = x0r;
1998 520560 : a[j1 + 1] = x0i;
1999 : }
2000 : }
2001 :
2002 32535 : return;
2003 : }
2004 :
2005 128625 : static void rftfsub(
2006 : int16_t n,
2007 : float *a,
2008 : int16_t nc,
2009 : const float *c )
2010 : {
2011 : int16_t j, k, kk, ks, m;
2012 : float wkr, wki, xr, xi, yr, yi;
2013 :
2014 128625 : m = n >> 1;
2015 128625 : ks = 2 * nc / m;
2016 128625 : kk = 0;
2017 2058000 : for ( j = 2; j < m; j += 2 )
2018 : {
2019 1929375 : k = n - j;
2020 1929375 : kk += ks;
2021 1929375 : wkr = 0.5f - c[nc - kk];
2022 1929375 : wki = c[kk];
2023 1929375 : xr = a[j] - a[k];
2024 1929375 : xi = a[j + 1] + a[k + 1];
2025 1929375 : yr = wkr * xr - wki * xi;
2026 1929375 : yi = wkr * xi + wki * xr;
2027 1929375 : a[j] -= yr;
2028 1929375 : a[j + 1] -= yi;
2029 1929375 : a[k] += yr;
2030 1929375 : a[k + 1] -= yi;
2031 : }
2032 :
2033 128625 : return;
2034 : }
2035 :
2036 :
2037 32535 : static void rftbsub(
2038 : int16_t n,
2039 : float *a,
2040 : int16_t nc,
2041 : const float *c )
2042 : {
2043 : int16_t j, k, kk, ks, m;
2044 : float wkr, wki, xr, xi, yr, yi;
2045 :
2046 32535 : a[1] = -a[1];
2047 32535 : m = n >> 1;
2048 32535 : ks = 2 * nc / m;
2049 32535 : kk = 0;
2050 520560 : for ( j = 2; j < m; j += 2 )
2051 : {
2052 488025 : k = n - j;
2053 488025 : kk += ks;
2054 488025 : wkr = 0.5f - c[nc - kk];
2055 488025 : wki = c[kk];
2056 488025 : xr = a[j] - a[k];
2057 488025 : xi = a[j + 1] + a[k + 1];
2058 488025 : yr = wkr * xr + wki * xi;
2059 488025 : yi = wkr * xi - wki * xr;
2060 488025 : a[j] -= yr;
2061 488025 : a[j + 1] = yi - a[j + 1];
2062 488025 : a[k] += yr;
2063 488025 : a[k + 1] = yi - a[k + 1];
2064 : }
2065 32535 : a[m + 1] = -a[m + 1];
2066 :
2067 32535 : return;
2068 : }
2069 :
2070 :
2071 161160 : static void dctsub(
2072 : int16_t n,
2073 : float *a,
2074 : int16_t nc,
2075 : const float *c )
2076 : {
2077 : int16_t j, k, kk, ks, m;
2078 : float wkr, wki, xr;
2079 :
2080 161160 : m = n >> 1;
2081 161160 : ks = nc / n;
2082 161160 : kk = 0;
2083 5157120 : for ( j = 1; j < m; j++ )
2084 : {
2085 4995960 : k = n - j;
2086 4995960 : kk += ks;
2087 4995960 : wkr = c[kk] - c[nc - kk];
2088 4995960 : wki = c[kk] + c[nc - kk];
2089 4995960 : xr = wki * a[j] - wkr * a[k];
2090 4995960 : a[j] = wkr * a[j] + wki * a[k];
2091 4995960 : a[k] = xr;
2092 : }
2093 161160 : a[m] *= c[0];
2094 :
2095 161160 : return;
2096 : }
2097 :
2098 :
2099 : /*-----------------------------------------------------------------*
2100 : * edct2()
2101 : *
2102 : * Transformation of the signal to DCT domain
2103 : * OR Inverse EDCT-II for short frames
2104 : *-----------------------------------------------------------------*/
2105 :
2106 161160 : void edct2(
2107 : const int16_t n,
2108 : const int16_t isgn,
2109 : float *in,
2110 : float *a,
2111 : const int16_t *ip,
2112 : const float *w )
2113 : {
2114 : int16_t j, nw, nc;
2115 : float xr;
2116 :
2117 161160 : mvr2r( in, a, n );
2118 :
2119 161160 : nw = ip[0];
2120 161160 : if ( n > ( nw << 2 ) )
2121 : {
2122 0 : nw = n >> 2;
2123 : }
2124 :
2125 161160 : nc = ip[1];
2126 161160 : if ( n > nc )
2127 : {
2128 0 : nc = n;
2129 : }
2130 :
2131 161160 : if ( isgn < 0 )
2132 : {
2133 32535 : xr = a[n - 1];
2134 1041120 : for ( j = n - 2; j >= 2; j -= 2 )
2135 : {
2136 1008585 : a[j + 1] = a[j] - a[j - 1];
2137 1008585 : a[j] += a[j - 1];
2138 : }
2139 32535 : a[1] = a[0] - xr;
2140 32535 : a[0] += xr;
2141 :
2142 32535 : if ( n > 4 )
2143 : {
2144 32535 : rftbsub( n, a, nc, w + nw );
2145 32535 : bitrv2_SR( n, ip + 2, a );
2146 32535 : cftbsub( n, a, w );
2147 : }
2148 0 : else if ( n == 4 )
2149 : {
2150 0 : cftfsub( n, a, w );
2151 : }
2152 : }
2153 :
2154 161160 : if ( isgn >= 0 )
2155 : {
2156 128625 : a[0] *= 0.5f;
2157 : }
2158 :
2159 161160 : dctsub( n, a, nc, w + nw );
2160 :
2161 161160 : if ( isgn >= 0 )
2162 : {
2163 128625 : if ( n > 4 )
2164 : {
2165 128625 : bitrv2_SR( n, ip + 2, a );
2166 128625 : cftfsub( n, a, w );
2167 128625 : rftfsub( n, a, nc, w + nw );
2168 : }
2169 0 : else if ( n == 4 )
2170 : {
2171 0 : cftfsub( n, a, w );
2172 : }
2173 128625 : xr = a[0] - a[1];
2174 128625 : a[0] += a[1];
2175 4116000 : for ( j = 2; j < n; j += 2 )
2176 : {
2177 3987375 : a[j - 1] = a[j] - a[j + 1];
2178 3987375 : a[j] += a[j + 1];
2179 : }
2180 128625 : a[n - 1] = xr;
2181 :
2182 8360625 : for ( j = 0; j < n; j++ )
2183 : {
2184 8232000 : a[j] /= 32.0f;
2185 : }
2186 : }
2187 161160 : }
2188 :
2189 :
2190 1593057 : void DoRTFTn(
2191 : float *x, /* i/o: real part of input and output data */
2192 : float *y, /* i/o: imaginary part of input and output data */
2193 : const int16_t n /* i : size of the FFT up to 1024 */
2194 : )
2195 : {
2196 :
2197 : int16_t i;
2198 : float z[2048];
2199 :
2200 808079265 : for ( i = 0; i < n; i++ )
2201 : {
2202 806486208 : z[2 * i] = x[i];
2203 806486208 : z[2 * i + 1] = y[i];
2204 : }
2205 :
2206 1593057 : switch ( n )
2207 : {
2208 0 : case ( 16 ):
2209 0 : cdftForw( 2 * n, z, Ip_fft16, w_fft16 );
2210 0 : break;
2211 0 : case ( 32 ):
2212 0 : cdftForw( 2 * n, z, Ip_fft32, w_fft32 );
2213 0 : break;
2214 3 : case ( 64 ):
2215 3 : cdftForw( 2 * n, z, Ip_fft64, w_fft64 );
2216 3 : break;
2217 0 : case ( 128 ):
2218 0 : cdftForw( 2 * n, z, Ip_fft128, w_fft128 );
2219 0 : break;
2220 35772 : case ( 256 ):
2221 35772 : cdftForw( 2 * n, z, Ip_fft256, w_fft256 );
2222 35772 : break;
2223 1557282 : case ( 512 ):
2224 1557282 : cdftForw( 2 * n, z, Ip_fft512, w_fft512 );
2225 1557282 : break;
2226 0 : default:
2227 0 : assert( 0 );
2228 : }
2229 :
2230 1593057 : x[0] = z[0];
2231 1593057 : y[0] = z[1];
2232 806486208 : for ( i = 1; i < n; i++ )
2233 : {
2234 804893151 : x[n - i] = z[2 * i];
2235 804893151 : y[n - i] = z[2 * i + 1];
2236 : }
2237 :
2238 1593057 : return;
2239 : }
2240 :
2241 :
2242 612 : void fft3(
2243 : const float X[],
2244 : float Y[],
2245 : const int16_t n )
2246 : {
2247 : float Z[PH_ECU_SPEC_SIZE];
2248 : float *Z0, *Z1, *Z2;
2249 : float *z0, *z1, *z2;
2250 : const float *x;
2251 612 : const float *t_sin = sincos_t_rad3;
2252 : int16_t m, step, order;
2253 : int16_t i, j;
2254 : int16_t c1_ind, s1_ind, c2_ind, s2_ind;
2255 : int16_t c1_step, s1_step, c2_step, s2_step;
2256 : float *RY, *IY, *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2257 :
2258 : /* Determine the order of the transform, the length of decimated */
2259 : /* transforms m, and the step for the sine and cosine tables. */
2260 612 : switch ( n )
2261 : {
2262 204 : case 1536:
2263 204 : order = 9;
2264 204 : m = 512;
2265 204 : step = 1;
2266 204 : break;
2267 408 : case 384:
2268 408 : order = 7;
2269 408 : m = 128;
2270 408 : step = 4;
2271 408 : break;
2272 0 : default:
2273 0 : order = 9;
2274 0 : m = 512;
2275 0 : step = 1;
2276 : }
2277 :
2278 : /* Compose decimated sequences X[3i], X[3i+1],X[3i+2] */
2279 : /* compute their FFT of length m. */
2280 612 : Z0 = &Z[0];
2281 612 : z0 = &Z0[0];
2282 612 : Z1 = &Z0[m];
2283 612 : z1 = &Z1[0]; /* Z1 = &Z[ m]; */
2284 612 : Z2 = &Z1[m];
2285 612 : z2 = &Z2[0]; /* Z2 = &Z[2m]; */
2286 612 : x = &X[0];
2287 157284 : for ( i = 0; i < n / 3; i++ )
2288 : {
2289 156672 : *z0++ = *x++; /* Z0[i] = X[3i]; */
2290 156672 : *z1++ = *x++; /* Z1[i] = X[3i+1]; */
2291 156672 : *z2++ = *x++; /* Z2[i] = X[3i+2]; */
2292 : }
2293 :
2294 612 : fft_rel( &Z0[0], m, order );
2295 612 : fft_rel( &Z1[0], m, order );
2296 612 : fft_rel( &Z2[0], m, order );
2297 :
2298 : /* Butterflies of order 3. */
2299 : /* pointer initialization */
2300 612 : RY = &Y[0];
2301 612 : IY = &Y[n];
2302 612 : RZ0 = &Z0[0];
2303 612 : IZ0 = &Z0[m];
2304 612 : RZ1 = &Z1[0];
2305 612 : IZ1 = &Z1[m];
2306 612 : RZ2 = &Z2[0];
2307 612 : IZ2 = &Z2[m];
2308 :
2309 612 : c1_step = -step;
2310 612 : s1_step = step;
2311 612 : c2_step = -2 * step;
2312 612 : s2_step = 2 * step;
2313 612 : c1_ind = T_SIN_PI_2 + c1_step;
2314 612 : s1_ind = s1_step;
2315 612 : c2_ind = T_SIN_PI_2 + c2_step;
2316 612 : s2_ind = s2_step;
2317 :
2318 : /* special case: i = 0 */
2319 612 : RY[0] = RZ0[0] + RZ1[0] + RZ2[0];
2320 :
2321 : /* first 3/12 */
2322 58752 : for ( i = 1; i < 3 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind += c2_step, s2_ind += s2_step )
2323 : {
2324 58140 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] + RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2325 58140 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] + IZ2[-i] * t_sin[c2_ind];
2326 : }
2327 :
2328 : /* next 1/12 */
2329 20196 : for ( ; i < 4 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2330 : {
2331 19584 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] - RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2332 19584 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] - IZ2[-i] * t_sin[c2_ind];
2333 : }
2334 :
2335 : /* special case: i = m/2 i.e. 1/3 */
2336 612 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] - RZ2[i] * t_sin[c2_ind];
2337 612 : IY[-i] = -RZ1[i] * t_sin[s1_ind] - RZ2[i] * t_sin[s2_ind];
2338 612 : i++;
2339 :
2340 612 : c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step;
2341 :
2342 : /* next 2/12 */
2343 39168 : for ( j = i - 2; i < 6 * m / 8; i++, j--, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2344 : {
2345 38556 : RY[i] = RZ0[j] + RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2346 38556 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] - RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2347 : }
2348 :
2349 : /*--------------------------half--------------------------*/
2350 : /* next 2/12 */
2351 39780 : for ( ; i < 8 * m / 8; i++, j--, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2352 : {
2353 39168 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] + IZ2[-j] * t_sin[s2_ind];
2354 39168 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] + IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2355 : }
2356 :
2357 : /* special case: i = m, i.e 2/3 */
2358 612 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - RZ2[j] * t_sin[c2_ind];
2359 612 : IY[-i++] = -RZ1[j] * t_sin[s1_ind] + RZ2[j] * t_sin[s2_ind];
2360 612 : c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step;
2361 :
2362 : /* next 1/12 */
2363 19584 : for ( j = 1; i < 9 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2364 : {
2365 18972 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2366 18972 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] - IZ2[-j] * t_sin[c2_ind];
2367 : }
2368 :
2369 : /* last 3/12 */
2370 59364 : for ( ; i < 12 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2371 : {
2372 58752 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] + RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2373 58752 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2374 : }
2375 :
2376 : /* special case: i = 3*m/2 */
2377 612 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + RZ2[j] * t_sin[c2_ind];
2378 :
2379 612 : return;
2380 : }
2381 :
2382 459 : void ifft3(
2383 : const float Z[],
2384 : float X[],
2385 : const int16_t n )
2386 : {
2387 : float Y[PH_ECU_SPEC_SIZE];
2388 459 : const float *t_sin = sincos_t_rad3;
2389 : int16_t m, step, step2, order;
2390 : int16_t i;
2391 : int16_t c0_ind, s0_ind, c1_ind, s1_ind, c2_ind, s2_ind;
2392 : float scale;
2393 : const float *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2394 : float *RY0, *IY0, *RY1, *IY1, *RY2, *IY2, *y0, *y1, *y2;
2395 :
2396 : /* Determine the order of the transform, the length of decimated */
2397 : /* transforms m, and the step for the sine and cosine tables. */
2398 459 : switch ( n )
2399 : {
2400 459 : case 1536:
2401 459 : order = 9;
2402 459 : m = 512;
2403 459 : step = 1;
2404 459 : break;
2405 0 : case 384:
2406 0 : order = 7;
2407 0 : m = 128;
2408 0 : step = 4;
2409 0 : break;
2410 0 : default:
2411 0 : order = 9;
2412 0 : m = 512;
2413 0 : step = 1;
2414 : }
2415 :
2416 : /* pointer initialization */
2417 459 : RY0 = &Y[0];
2418 459 : IY0 = &RY0[m];
2419 459 : RY1 = &RY0[m];
2420 459 : IY1 = &RY1[m];
2421 459 : RY2 = &RY1[m];
2422 459 : IY2 = &RY2[m];
2423 :
2424 459 : RZ0 = &Z[0];
2425 459 : RZ1 = RZ0 + m;
2426 459 : RZ2 = RZ0 + n / 2 - m / 2;
2427 459 : IZ0 = &Z[n];
2428 459 : IZ1 = IZ0 - m;
2429 459 : IZ2 = IZ0 - n / 2 + m / 2;
2430 :
2431 : /* Inverse butterflies of order 3. */
2432 :
2433 : /* Construction of Y0 */
2434 459 : RY0[0] = RZ0[0] + RZ1[0] + RZ2[0];
2435 117504 : for ( i = 1; i < m / 2; i++ )
2436 : {
2437 117045 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2438 117045 : IY0[-i] = IZ0[-i] + IZ1[-i] - IZ2[i];
2439 : }
2440 :
2441 : /* m/2 */
2442 459 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2443 :
2444 : /* Construction of Y1 */
2445 459 : c0_ind = T_SIN_PI_2;
2446 459 : s0_ind = 0;
2447 459 : c1_ind = T_SIN_PI_2 * 1 / 3;
2448 459 : s1_ind = T_SIN_PI_2 * 2 / 3;
2449 459 : c2_ind = T_SIN_PI_2 * 1 / 3;
2450 459 : s2_ind = T_SIN_PI_2 * 2 / 3;
2451 :
2452 459 : RY1[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] - IZ1[0] * t_sin[s1_ind] - IZ2[0] * t_sin[s2_ind];
2453 :
2454 459 : c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step;
2455 58752 : for ( i = 1; i < m / 4; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step )
2456 : {
2457 58293 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2458 58293 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2459 : }
2460 :
2461 59211 : for ( ; i < m / 2; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind += step, s2_ind -= step )
2462 : {
2463 58752 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2464 58752 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] - IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2465 : }
2466 :
2467 : /* m/2 */
2468 459 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2469 :
2470 : /* Construction of Y2 */
2471 459 : c0_ind = T_SIN_PI_2;
2472 459 : s0_ind = 0;
2473 459 : c1_ind = T_SIN_PI_2 * 1 / 3;
2474 459 : s1_ind = T_SIN_PI_2 * 2 / 3;
2475 459 : c2_ind = T_SIN_PI_2 * 1 / 3;
2476 459 : s2_ind = T_SIN_PI_2 * 2 / 3;
2477 459 : step2 = 2 * step;
2478 459 : RY2[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] + IZ1[0] * t_sin[s1_ind] + IZ2[0] * t_sin[s2_ind];
2479 :
2480 459 : c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2;
2481 29376 : for ( i = 1; i < m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2 )
2482 : {
2483 28917 : RY2[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2484 28917 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2485 : }
2486 :
2487 29835 : for ( ; i < m / 4; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind += step2, s2_ind -= step2 )
2488 : {
2489 29376 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2490 29376 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2491 : }
2492 :
2493 29835 : for ( ; i < 3 * m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2494 : {
2495 29376 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2496 29376 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2497 : }
2498 :
2499 29835 : for ( ; i < m / 2; i++, c0_ind += step2, s0_ind -= step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2500 : {
2501 29376 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2502 29376 : IY2[-i] = -IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2503 : }
2504 :
2505 : /* m/2 */
2506 459 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2507 :
2508 : /* Compute the inverse FFT for all 3 blocks. */
2509 459 : ifft_rel( RY0, m, order );
2510 459 : ifft_rel( RY1, m, order );
2511 459 : ifft_rel( RY2, m, order );
2512 :
2513 459 : y0 = RY0;
2514 459 : y1 = RY1;
2515 459 : y2 = RY2;
2516 :
2517 : /* Interlacing and scaling, scale = 1/3 */
2518 459 : scale = 1.0f / 3;
2519 235467 : for ( i = 0; i < n; )
2520 : {
2521 235008 : X[i++] = ( *y0++ ) * scale;
2522 235008 : X[i++] = ( *y1++ ) * scale;
2523 235008 : X[i++] = ( *y2++ ) * scale;
2524 : }
2525 :
2526 459 : return;
2527 : }
2528 :
2529 :
2530 145425 : static void rfft_post(
2531 : const float *sine_table,
2532 : float *buf,
2533 : const int16_t len )
2534 : {
2535 : float tmp1, tmp2, tmp3, tmp4, s, c;
2536 145425 : int16_t i = 0;
2537 :
2538 145425 : tmp1 = buf[0] + buf[1];
2539 145425 : buf[1] = buf[0] - buf[1];
2540 145425 : buf[0] = tmp1;
2541 :
2542 23413425 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2543 : {
2544 23268000 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2545 23268000 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2546 :
2547 23268000 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2548 23268000 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2549 23268000 : tmp3 = s * tmp1 - c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2550 23268000 : tmp4 = c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2551 23268000 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2552 23268000 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2553 :
2554 23268000 : buf[2 * i] = 0.5f * ( tmp1 - tmp3 );
2555 23268000 : buf[2 * i + 1] = 0.5f * ( tmp2 - tmp4 );
2556 23268000 : buf[len - 2 * i] = 0.5f * ( tmp1 + tmp3 );
2557 23268000 : buf[len - 2 * i + 1] = -0.5f * ( tmp2 + tmp4 );
2558 : }
2559 145425 : }
2560 :
2561 141134 : static void rfft_pre(
2562 : const float *sine_table,
2563 : float *buf,
2564 : const int16_t len )
2565 : {
2566 141134 : const float scale = 1.0f / len;
2567 : float tmp1, tmp2, tmp3, tmp4, s, c;
2568 141134 : int16_t i = 0;
2569 :
2570 141134 : tmp1 = buf[0] + buf[1];
2571 141134 : buf[1] = scale * ( buf[0] - buf[1] );
2572 141134 : buf[0] = scale * tmp1;
2573 :
2574 22722574 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2575 : {
2576 22581440 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2577 22581440 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2578 :
2579 22581440 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2580 22581440 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2581 22581440 : tmp3 = s * tmp1 + c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2582 22581440 : tmp4 = -c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2583 22581440 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2584 22581440 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2585 :
2586 22581440 : buf[2 * i] = scale * ( tmp1 + tmp3 );
2587 22581440 : buf[2 * i + 1] = -scale * ( tmp2 + tmp4 );
2588 22581440 : buf[len - 2 * i] = scale * ( tmp1 - tmp3 );
2589 22581440 : buf[len - 2 * i + 1] = scale * ( tmp2 - tmp4 );
2590 : }
2591 :
2592 141134 : return;
2593 : }
2594 :
2595 590092 : int16_t RFFTN(
2596 : float *data,
2597 : const float *sine_table,
2598 : const int16_t len,
2599 : const int16_t sign )
2600 : {
2601 590092 : assert( len <= 640 && len > 0 );
2602 :
2603 590092 : if ( len == 640 )
2604 : {
2605 : float x[320], y[320];
2606 : int16_t i;
2607 :
2608 286559 : if ( sign != -1 )
2609 : {
2610 141134 : rfft_pre( sine_table, data, len );
2611 : }
2612 :
2613 91985439 : for ( i = 0; i < 320; i++ )
2614 : {
2615 91698880 : x[i] = data[2 * i];
2616 91698880 : y[i] = data[2 * i + 1];
2617 : }
2618 286559 : DoRTFT320( x, y );
2619 91985439 : for ( i = 0; i < 320; i++ )
2620 : {
2621 91698880 : data[2 * i] = x[i];
2622 91698880 : data[2 * i + 1] = y[i];
2623 : }
2624 :
2625 286559 : if ( sign == -1 )
2626 : {
2627 145425 : rfft_post( sine_table, data, len );
2628 : }
2629 : }
2630 : else
2631 : {
2632 303533 : if ( len == 512 )
2633 : {
2634 : int16_t i;
2635 303533 : const int16_t log2 = 9;
2636 : float reordered_data[512];
2637 :
2638 303533 : if ( sign == -1 )
2639 : {
2640 142122 : fft_rel( data, len, log2 );
2641 142122 : reordered_data[0] = data[0];
2642 142122 : reordered_data[1] = data[len / 2];
2643 36383232 : for ( i = 1; i < len / 2; i++ )
2644 : {
2645 36241110 : reordered_data[2 * i] = data[i];
2646 36241110 : reordered_data[2 * i + 1] = data[len - i];
2647 : }
2648 : }
2649 : else
2650 : {
2651 161411 : reordered_data[0] = data[0];
2652 161411 : reordered_data[len / 2] = data[1];
2653 41321216 : for ( i = 1; i < len / 2; i++ )
2654 : {
2655 41159805 : reordered_data[i] = data[2 * i];
2656 41159805 : reordered_data[len - i] = data[2 * i + 1];
2657 : }
2658 161411 : ifft_rel( reordered_data, len, log2 );
2659 : }
2660 303533 : mvr2r( reordered_data, data, len );
2661 : }
2662 : else
2663 : {
2664 0 : assert( !"Not supported FFT length!" );
2665 : }
2666 : }
2667 :
2668 590092 : return 0;
2669 : }
2670 :
2671 36181260 : static void butterfly(
2672 : const float a,
2673 : const float b,
2674 : float *aPlusb,
2675 : float *aMinusb )
2676 : {
2677 36181260 : *aPlusb = a + b;
2678 36181260 : *aMinusb = a - b;
2679 :
2680 36181260 : return;
2681 : }
2682 :
2683 24018640 : static void fft2(
2684 : float *pInOut )
2685 : {
2686 : /* FFT MATRIX:
2687 : 1.0000 1.0000
2688 : 1.0000 -1.0000
2689 : */
2690 : float re1, im1;
2691 : float re2, im2;
2692 :
2693 24018640 : re1 = pInOut[0];
2694 24018640 : im1 = pInOut[1];
2695 24018640 : re2 = pInOut[2];
2696 24018640 : im2 = pInOut[3];
2697 24018640 : pInOut[0] = re1 + re2;
2698 24018640 : pInOut[1] = im1 + im2;
2699 :
2700 24018640 : pInOut[2] = re1 - re2;
2701 24018640 : pInOut[3] = im1 - im2;
2702 :
2703 24018640 : return;
2704 : }
2705 :
2706 : static const float C31 = 0.5f; /* cos(PI/3); sin(2*PI/3) */
2707 : static const float C32 = 0.866025403784439f; /* cos(PI/3); sin(2*PI/3) */
2708 :
2709 16023760 : static void fft3_2(
2710 : float *pInOut )
2711 : {
2712 : float re1, im1;
2713 : float re2, im2;
2714 : float re3, im3;
2715 :
2716 : float tmp1, tmp2;
2717 : float tmp3, tmp4;
2718 :
2719 16023760 : re1 = pInOut[0];
2720 16023760 : im1 = pInOut[1];
2721 16023760 : re2 = pInOut[2];
2722 16023760 : im2 = pInOut[3];
2723 16023760 : re3 = pInOut[4];
2724 16023760 : im3 = pInOut[5];
2725 :
2726 : /* FFT MATRIX:
2727 : 1.0000 1.0000 1.0000
2728 : C31 C32
2729 : 1.0000 -0.5000 - 0.8660i -0.5000 + 0.8660i
2730 : 1.0000 -0.5000 + 0.8660i -0.5000 - 0.8660i
2731 : */
2732 16023760 : tmp1 = re2 + re3;
2733 16023760 : tmp3 = im2 + im3;
2734 16023760 : tmp2 = re2 - re3;
2735 16023760 : tmp4 = im2 - im3;
2736 16023760 : pInOut[0] = re1 + tmp1;
2737 16023760 : pInOut[1] = im1 + tmp3;
2738 16023760 : pInOut[2] = re1 - C31 * tmp1 + C32 * tmp4;
2739 16023760 : pInOut[4] = re1 - C31 * tmp1 - C32 * tmp4;
2740 :
2741 16023760 : pInOut[3] = im1 - C32 * tmp2 - C31 * tmp3;
2742 16023760 : pInOut[5] = im1 + C32 * tmp2 - C31 * tmp3;
2743 16023760 : }
2744 :
2745 :
2746 0 : static void fft4(
2747 : float *pInOut )
2748 : {
2749 : float re1, im1;
2750 : float re2, im2;
2751 : float re3, im3;
2752 : float re4, im4;
2753 :
2754 : float tmp1, tmp2;
2755 : float tmp3, tmp4;
2756 : float tmp5, tmp6;
2757 : float tmp7, tmp8;
2758 :
2759 0 : re1 = pInOut[0];
2760 0 : im1 = pInOut[1];
2761 0 : re2 = pInOut[2];
2762 0 : im2 = pInOut[3];
2763 0 : re3 = pInOut[4];
2764 0 : im3 = pInOut[5];
2765 0 : re4 = pInOut[6];
2766 0 : im4 = pInOut[7];
2767 :
2768 : /*
2769 : 1.0000 1.0000 1.0000 1.0000
2770 : 1.0000 -1.0000i -1.0000 1.0000i
2771 : 1.0000 -1.0000 1.0000 -1.0000
2772 : 1.0000 1.0000i -1.0000 -1.0000i
2773 : */
2774 0 : tmp1 = re1 + re3;
2775 0 : tmp3 = re2 + re4;
2776 0 : tmp5 = im1 + im3;
2777 0 : tmp7 = im2 + im4;
2778 0 : pInOut[0] = tmp1 + tmp3;
2779 0 : pInOut[4] = tmp1 - tmp3;
2780 :
2781 0 : pInOut[1] = tmp5 + tmp7;
2782 0 : pInOut[5] = tmp5 - tmp7;
2783 0 : tmp2 = re1 - re3;
2784 0 : tmp4 = re2 - re4;
2785 0 : tmp6 = im1 - im3;
2786 0 : tmp8 = im2 - im4;
2787 0 : pInOut[2] = tmp2 + tmp8;
2788 0 : pInOut[6] = tmp2 - tmp8;
2789 :
2790 0 : pInOut[3] = -tmp4 + tmp6;
2791 0 : pInOut[7] = tmp4 + tmp6;
2792 :
2793 0 : return;
2794 : }
2795 :
2796 : static const float C51 = 0.309016994374947f; /* cos(2*PI/5); */
2797 : static const float C52 = 0.951056516295154f; /* sin(2*PI/5); */
2798 : static const float C53 = 0.809016994374947f; /* cos( PI/5); */
2799 : static const float C54 = 0.587785252292473f; /* sin( PI/5); */
2800 :
2801 9695616 : static void fft5(
2802 : float *pInOut )
2803 : {
2804 : float re1, im1;
2805 : float re2, im2;
2806 : float re3, im3;
2807 : float re4, im4;
2808 : float re5, im5;
2809 :
2810 : float tmp1, tmp2;
2811 : float tmp3, tmp4;
2812 : float tmp5, tmp6;
2813 : float tmp7, tmp8;
2814 :
2815 :
2816 9695616 : re1 = pInOut[0];
2817 9695616 : im1 = pInOut[1];
2818 9695616 : re2 = pInOut[2];
2819 9695616 : im2 = pInOut[3];
2820 9695616 : re3 = pInOut[4];
2821 9695616 : im3 = pInOut[5];
2822 9695616 : re4 = pInOut[6];
2823 9695616 : im4 = pInOut[7];
2824 9695616 : re5 = pInOut[8];
2825 9695616 : im5 = pInOut[9];
2826 :
2827 : /*
2828 : 1.0000 1.0000 1.0000 1.0000 1.0000
2829 : C51 C52 C53 C54
2830 : 1.0000 0.3090 - 0.9511i -0.8090 - 0.5878i -0.8090 + 0.5878i 0.3090 + 0.9511i
2831 : 1.0000 -0.8090 - 0.5878i 0.3090 + 0.9511i 0.3090 - 0.9511i -0.8090 + 0.5878i
2832 : 1.0000 -0.8090 + 0.5878i 0.3090 - 0.9511i 0.3090 + 0.9511i -0.8090 - 0.5878i
2833 : 1.0000 0.3090 + 0.9511i -0.8090 + 0.5878i -0.8090 - 0.5878i 0.3090 - 0.9511i
2834 : */
2835 9695616 : tmp1 = re2 + re5;
2836 9695616 : tmp2 = re2 - re5;
2837 9695616 : tmp3 = im2 + im5;
2838 9695616 : tmp4 = im2 - im5;
2839 9695616 : tmp5 = re3 + re4;
2840 9695616 : tmp6 = re3 - re4;
2841 9695616 : tmp7 = im3 + im4;
2842 9695616 : tmp8 = im3 - im4;
2843 :
2844 :
2845 9695616 : pInOut[0] = re1 + tmp1 + tmp5;
2846 9695616 : pInOut[1] = im1 + tmp3 + tmp7;
2847 :
2848 9695616 : pInOut[2] = re1 + C51 * tmp1 - C53 * tmp5 + C52 * tmp4 + C54 * tmp8;
2849 9695616 : pInOut[8] = re1 + C51 * tmp1 - C53 * tmp5 - C52 * tmp4 - C54 * tmp8;
2850 9695616 : pInOut[3] = im1 - C52 * tmp2 - C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2851 9695616 : pInOut[9] = im1 + C52 * tmp2 + C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2852 9695616 : pInOut[4] = re1 - C53 * tmp1 + C51 * tmp5 + C54 * tmp4 - C52 * tmp8;
2853 9695616 : pInOut[6] = re1 - C53 * tmp1 + C51 * tmp5 - C54 * tmp4 + C52 * tmp8;
2854 9695616 : pInOut[5] = im1 - C54 * tmp2 + C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2855 9695616 : pInOut[7] = im1 + C54 * tmp2 - C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2856 :
2857 9695616 : return;
2858 : }
2859 :
2860 : static const float C81 = 0.707106781186548f; /* cos(PI/4); */
2861 :
2862 6030210 : static void fft8_2(
2863 : float *pInOut )
2864 : {
2865 : float re0, im0, re4, im4;
2866 :
2867 : float re1_7p, re1_7m;
2868 : float im1_7p, im1_7m;
2869 : float re2_6p, re2_6m;
2870 : float im2_6p, im2_6m;
2871 : float re3_5p, re3_5m;
2872 : float im3_5p, im3_5m;
2873 :
2874 6030210 : re0 = pInOut[0];
2875 6030210 : im0 = pInOut[1];
2876 6030210 : re4 = pInOut[8];
2877 6030210 : im4 = pInOut[9];
2878 6030210 : butterfly( pInOut[1 * 2], pInOut[7 * 2], &re1_7p, &re1_7m );
2879 6030210 : butterfly( pInOut[1 * 2 + 1], pInOut[7 * 2 + 1], &im1_7p, &im1_7m );
2880 6030210 : butterfly( pInOut[2 * 2], pInOut[6 * 2], &re2_6p, &re2_6m );
2881 6030210 : butterfly( pInOut[2 * 2 + 1], pInOut[6 * 2 + 1], &im2_6p, &im2_6m );
2882 6030210 : butterfly( pInOut[3 * 2], pInOut[5 * 2], &re3_5p, &re3_5m );
2883 6030210 : butterfly( pInOut[3 * 2 + 1], pInOut[5 * 2 + 1], &im3_5p, &im3_5m );
2884 :
2885 : /*
2886 : 0: 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i
2887 : 1: 1 + 0i C81 - C81i 0 - 1i -C81 - C81i -1 - 0i -C81 + C81i - 0 + 1i C81 + C81i
2888 : 2: 1 + 0i 0 - 1i -1 - 0i - 0 + 1i 1 + 0i 0 - 1i - 1 - 0i - 0 + 1i
2889 : 3: 1 + 0i -C81 - C81i -0 + 1i C81 - C81i -1 - 0i C81 + C81i 0 - 1i -C81 + C81i
2890 : 4: 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i
2891 : 5: 1 + 0i -C81 + C81i 0 - 1i C81 + C81i -1 - 0i C81 - C81i - 0 + 1i -C81 - C81i
2892 : 6: 1 + 0i - 0 + 1i -1 - 0i 0 - 1i 1 + 0i - 0 + 1i - 1 - 0i - 0 - 1i
2893 : 7: 1 + 0i C81 + C81i -0 + 1i -C81 + C81i -1 - 0i -C81 - C81i - 0 - 1i C81 - C81i
2894 : */
2895 6030210 : pInOut[0] = re0 + re4 + re1_7p + re2_6p + re3_5p;
2896 6030210 : pInOut[1] = im0 + im4 + im1_7p + im2_6p + im3_5p;
2897 :
2898 6030210 : pInOut[2] = re0 + C81 * ( re1_7p - re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) + im2_6m;
2899 6030210 : pInOut[3] = im0 + C81 * ( im1_7p - im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) - re2_6m;
2900 :
2901 6030210 : pInOut[4] = re0 - re2_6p + re4 + im1_7m - im3_5m;
2902 6030210 : pInOut[5] = im0 - im2_6p + im4 - re1_7m + re3_5m;
2903 :
2904 6030210 : pInOut[6] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) - im2_6m;
2905 6030210 : pInOut[7] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) + re2_6m;
2906 :
2907 6030210 : pInOut[8] = re0 - re1_7p + re2_6p - re3_5p + re4;
2908 6030210 : pInOut[9] = im0 - im1_7p + im2_6p - im3_5p + im4;
2909 :
2910 6030210 : pInOut[10] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) + im2_6m;
2911 6030210 : pInOut[11] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) - re2_6m;
2912 :
2913 6030210 : pInOut[12] = re0 - re2_6p + re4 - im1_7m + im3_5m;
2914 6030210 : pInOut[13] = im0 - im2_6p + im4 + re1_7m - re3_5m;
2915 :
2916 6030210 : pInOut[14] = re0 + C81 * ( re1_7p - re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) - im2_6m;
2917 6030210 : pInOut[15] = im0 + C81 * ( im1_7p - im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) + re2_6m;
2918 :
2919 6030210 : return;
2920 : }
2921 :
2922 6051940 : static void nextFFT(
2923 : float *x,
2924 : const int16_t length )
2925 : {
2926 6051940 : switch ( length )
2927 : {
2928 0 : case 2:
2929 0 : fft2( x );
2930 0 : break;
2931 0 : case 3:
2932 0 : fft3_2( x );
2933 0 : break;
2934 0 : case 4:
2935 0 : fft4( x );
2936 0 : break;
2937 47280 : case 5:
2938 47280 : fft5( x );
2939 47280 : break;
2940 6004660 : case 8:
2941 6004660 : fft8_2( x );
2942 6004660 : break;
2943 0 : default:
2944 0 : assert( !"length not supported" );
2945 : break;
2946 : }
2947 :
2948 6051940 : return;
2949 : }
2950 :
2951 : static const int16_t CTFFTfactors[] = { 9, 8, 7, 5, 4, 3, 2, 0 };
2952 :
2953 3011786 : static __inline int16_t findFactor(
2954 : const int16_t length )
2955 : {
2956 3011786 : int16_t i = 0;
2957 3011786 : int16_t factor = 0;
2958 :
2959 6042484 : while ( CTFFTfactors[i] != 0 )
2960 : {
2961 6042484 : if ( 0 == ( length % CTFFTfactors[i] ) )
2962 : {
2963 3011786 : factor = CTFFTfactors[i];
2964 3011786 : break;
2965 : }
2966 3030698 : i++;
2967 : }
2968 3011786 : return factor;
2969 : }
2970 :
2971 3011786 : static __inline void twiddle(
2972 : float *x,
2973 : const int16_t length,
2974 : const int16_t n1,
2975 : const int16_t n2 )
2976 : {
2977 : int16_t i, ii;
2978 3011786 : double pi = 4. * atan( 1. );
2979 : float sinValOrg, cosValOrg;
2980 3011786 : float sinVal = 0.f, cosVal = 1.f;
2981 3011786 : float twReal = 0.f, twImag = 1.f;
2982 :
2983 3011786 : cosValOrg = (float) cos( -2 * pi * 1. / (double) length );
2984 3011786 : sinValOrg = (float) sin( -2 * pi * 1. / (double) length );
2985 24065920 : for ( i = 1; i < n1; i++ )
2986 : {
2987 : float tmp;
2988 21054134 : twReal = 1.f;
2989 21054134 : twImag = 0.f;
2990 21054134 : tmp = cosVal * cosValOrg - sinVal * sinValOrg;
2991 21054134 : sinVal = sinVal * cosValOrg + cosVal * sinValOrg;
2992 21054134 : cosVal = tmp;
2993 42221740 : for ( ii = 1; ii < n2; ii++ )
2994 : {
2995 : float xRe, xIm, tmpReal;
2996 : /* cos(x+y) = cos(x)*cos(y) - sin(x)*sin(y); */
2997 : /* sin(x+y) = sin(x)*cos(y) + sin(y)*cos(x); */
2998 21167606 : tmpReal = twReal * cosVal - twImag * sinVal;
2999 21167606 : twImag = twImag * cosVal + sinVal * twReal;
3000 21167606 : twReal = tmpReal;
3001 21167606 : xRe = x[2 * ( i * n2 + ii )];
3002 21167606 : xIm = x[2 * ( i * n2 + ii ) + 1];
3003 21167606 : x[2 * ( i * n2 + ii )] = twReal * xRe - twImag * xIm;
3004 21167606 : x[2 * ( i * n2 + ii ) + 1] = twImag * xRe + twReal * xIm;
3005 : }
3006 21054134 : tmp = cosVal;
3007 : }
3008 :
3009 3011786 : return;
3010 : }
3011 :
3012 52728072 : static void cooleyTukeyFFT(
3013 : float *x,
3014 : const int16_t length,
3015 : float *scratch )
3016 : {
3017 : int16_t factor;
3018 : int16_t i, ii;
3019 : int16_t n1, n2;
3020 52728072 : int16_t cnt = 0;
3021 : float *src, *dest;
3022 :
3023 52728072 : switch ( length )
3024 : {
3025 0 : case 1:
3026 0 : break;
3027 24018640 : case 2:
3028 24018640 : fft2( x );
3029 24018640 : break;
3030 16023760 : case 3:
3031 16023760 : fft3_2( x );
3032 16023760 : break;
3033 0 : case 4:
3034 0 : fft4( x );
3035 0 : break;
3036 9648336 : case 5:
3037 9648336 : fft5( x );
3038 9648336 : break;
3039 25550 : case 8:
3040 25550 : fft8_2( x );
3041 25550 : break;
3042 3011786 : default:
3043 : {
3044 3011786 : factor = findFactor( length );
3045 3011786 : if ( factor > 0 && ( length / factor > 1 ) )
3046 : {
3047 3011786 : n1 = factor;
3048 3011786 : n2 = length / factor;
3049 :
3050 : /* DATA Resorting for stage1 */
3051 3011786 : dest = scratch;
3052 27077706 : for ( i = 0; i < 2 * n1; i += 2 )
3053 : {
3054 24065920 : src = x + i;
3055 72339600 : for ( ii = 0; ii < n2; ii++ )
3056 : {
3057 : /* *dest++ = x[2*(i+ii*n1)]; */
3058 : /* *dest++ = x[2*(i+ii*n1)+1]; */
3059 48273680 : *dest++ = *src;
3060 48273680 : *dest++ = *( src + 1 );
3061 48273680 : src += 2 * n1;
3062 : }
3063 : }
3064 3011786 : src = scratch;
3065 3011786 : dest = x;
3066 51285466 : for ( i = 0; i < length; i++ )
3067 : {
3068 48273680 : *dest++ = *src++;
3069 48273680 : *dest++ = *src++;
3070 : }
3071 : /* perform n1 ffts of length n2 */
3072 27077706 : for ( i = 0; i < n1; i++ )
3073 : {
3074 24065920 : cooleyTukeyFFT( x + 2 * i * n2, n2, scratch + 2 * i * n2 );
3075 : }
3076 : /*data twiddeling */
3077 3011786 : twiddle( x, length, n1, n2 );
3078 : /* DATA Resorting for stage2 */
3079 3011786 : cnt = 0;
3080 9063726 : for ( i = 0; i < n2; i++ )
3081 : {
3082 54325620 : for ( ii = 0; ii < n1; ii++ )
3083 : {
3084 48273680 : scratch[2 * cnt] = x[2 * ( i + ii * n2 )];
3085 48273680 : scratch[2 * cnt + 1] = x[2 * ( i + ii * n2 ) + 1];
3086 48273680 : cnt++;
3087 : }
3088 : }
3089 : /* perform n2 ffts of length n1 */
3090 9063726 : for ( i = 0; i < n2; i++ )
3091 : {
3092 6051940 : nextFFT( scratch + 2 * i * n1, n1 );
3093 : }
3094 3011786 : cnt = 0;
3095 27077706 : for ( i = 0; i < n1; i++ )
3096 : {
3097 72339600 : for ( ii = 0; ii < n2; ii++ )
3098 : {
3099 48273680 : x[2 * cnt] = scratch[2 * ( i + ii * n1 )];
3100 48273680 : x[2 * cnt + 1] = scratch[2 * ( i + ii * n1 ) + 1];
3101 48273680 : cnt++;
3102 : }
3103 : }
3104 : }
3105 : else
3106 : {
3107 0 : assert( !"length not supported" );
3108 : }
3109 : }
3110 : }
3111 :
3112 52728072 : return;
3113 : }
3114 :
3115 19447066 : static void pfaDFT(
3116 : float *x,
3117 : const int16_t length,
3118 : float *scratch1,
3119 : const int16_t numFactors,
3120 : const int16_t *factor )
3121 : {
3122 : int16_t i, ii;
3123 : int16_t cnt;
3124 :
3125 19447066 : if ( numFactors > 1 )
3126 : {
3127 3404006 : float *tmp = scratch1;
3128 3404006 : int16_t n1_inv = 1, n2_inv = 1;
3129 3404006 : int16_t n2 = factor[0 /*idx*/];
3130 3404006 : int16_t n1 = length / n2;
3131 : int16_t idx, incr;
3132 :
3133 9428028 : while ( ( ( n1_inv * n1 ) % n2 ) != 1 )
3134 : {
3135 6024022 : n1_inv++;
3136 : }
3137 6607748 : while ( ( ( n2_inv * n2 ) % n1 ) != 1 )
3138 : {
3139 3203742 : n2_inv++;
3140 : }
3141 3404006 : idx = 0;
3142 3404006 : incr = n1 * n1_inv;
3143 3404006 : cnt = 0;
3144 16023098 : for ( i = 0; i < n1; i++ )
3145 : {
3146 96312960 : for ( ii = 0; ii < n2 - 1; ii++ )
3147 : {
3148 83693868 : tmp[cnt++] = x[2 * idx];
3149 83693868 : tmp[cnt++] = x[2 * idx + 1];
3150 :
3151 83693868 : idx += incr;
3152 83693868 : if ( idx > length )
3153 : {
3154 55015694 : idx -= length;
3155 : }
3156 : }
3157 12619092 : tmp[cnt++] = x[2 * idx];
3158 12619092 : tmp[cnt++] = x[2 * idx + 1];
3159 12619092 : idx++;
3160 : }
3161 16023098 : for ( cnt = 0; cnt < length; cnt += n2 )
3162 : {
3163 12619092 : cooleyTukeyFFT( tmp + 2 * cnt, n2, x + 2 * cnt );
3164 : }
3165 16023098 : for ( cnt = 0; cnt < n1; cnt++ )
3166 : {
3167 108932052 : for ( i = 0; i < n2; i++ )
3168 : {
3169 96312960 : x[2 * ( cnt + i * n1 )] = tmp[2 * ( cnt * n2 + i )];
3170 96312960 : x[2 * ( cnt + i * n1 ) + 1] = tmp[2 * ( cnt * n2 + i ) + 1];
3171 : }
3172 : }
3173 22650168 : for ( cnt = 0; cnt < length; cnt += n1 )
3174 : {
3175 19246162 : pfaDFT( x + 2 * cnt, n1, tmp, numFactors - 1, &factor[1] );
3176 : }
3177 3404006 : idx = 0;
3178 3404006 : cnt = 0;
3179 22650168 : for ( i = 0; i < n2; i++ )
3180 : {
3181 19246162 : idx = i * n1;
3182 115559122 : for ( ii = 0; ii < n1; ii++ )
3183 : {
3184 96312960 : tmp[2 * idx] = x[cnt++];
3185 96312960 : tmp[2 * idx + 1] = x[cnt++];
3186 96312960 : idx += n2;
3187 96312960 : if ( idx > length )
3188 : {
3189 15842156 : idx -= length;
3190 : }
3191 : }
3192 : }
3193 99716966 : for ( cnt = 0; cnt < length; cnt++ )
3194 : {
3195 96312960 : x[2 * cnt] = tmp[2 * cnt];
3196 96312960 : x[2 * cnt + 1] = tmp[2 * cnt + 1];
3197 : }
3198 : }
3199 : else
3200 : {
3201 16043060 : cooleyTukeyFFT( x, length, scratch1 );
3202 : }
3203 :
3204 19447066 : return;
3205 : }
3206 :
3207 200904 : static void fftf_interleave(
3208 : float *re,
3209 : float *im,
3210 : float *out,
3211 : const int16_t len )
3212 : {
3213 200904 : int16_t i = 0;
3214 :
3215 48442584 : for ( i = 0; i < len; i++ )
3216 : {
3217 48241680 : *out++ = *re++;
3218 48241680 : *out++ = *im++;
3219 : }
3220 :
3221 200904 : return;
3222 : }
3223 :
3224 200904 : static void fftf_deinterleave(
3225 : float *in,
3226 : float *re,
3227 : float *im,
3228 : const int16_t len )
3229 : {
3230 200904 : int16_t i = 0;
3231 :
3232 48442584 : for ( i = 0; i < len; i++ )
3233 : {
3234 48241680 : *re++ = *in++;
3235 48241680 : *im++ = *in++;
3236 : }
3237 :
3238 200904 : return;
3239 : }
3240 :
3241 110 : static void DoRTFT600(
3242 : float *x, /* i/o: real part of input and output data */
3243 : float *y /* i/o: imaginary part of input and output data */
3244 : )
3245 : {
3246 : float scratch[1200], cmplx[1200];
3247 110 : const int16_t factors[3] = { 25, 8, 3 };
3248 :
3249 110 : fftf_interleave( x, y, cmplx, 600 );
3250 110 : pfaDFT( cmplx, 600, scratch, 3, factors );
3251 110 : fftf_deinterleave( cmplx, x, y, 600 );
3252 :
3253 110 : return;
3254 : }
3255 :
3256 80 : static void DoRTFT400(
3257 : float *x, /* i/o: real part of input and output data */
3258 : float *y /* i/o: imaginary part of input and output data */
3259 : )
3260 : {
3261 : float scratch[800], cmplx[800];
3262 80 : const int16_t factors[2] = { 25, 16 };
3263 :
3264 80 : fftf_interleave( x, y, cmplx, 400 );
3265 80 : pfaDFT( cmplx, 400, scratch, 2, factors );
3266 80 : fftf_deinterleave( cmplx, x, y, 400 );
3267 :
3268 :
3269 80 : return;
3270 : }
3271 :
3272 200022 : static void DoRTFT240(
3273 : float *x, /* i/o: real part of input and output data */
3274 : float *y /* i/o: imaginary part of input and output data */
3275 : )
3276 : {
3277 : float scratch[480], cmplx[480];
3278 200022 : const int16_t factors[3] = { 16, 5, 3 };
3279 :
3280 200022 : fftf_interleave( x, y, cmplx, 240 );
3281 200022 : pfaDFT( cmplx, 240, scratch, 3, factors );
3282 200022 : fftf_deinterleave( cmplx, x, y, 240 );
3283 :
3284 200022 : return;
3285 : }
3286 :
3287 692 : static void DoRTFT200(
3288 : float *x, /* i/o: real part of input and output data */
3289 : float *y /* i/o: imaginary part of input and output data */
3290 : )
3291 : {
3292 : float scratch[400], cmplx[400];
3293 692 : const int16_t factors[2] = { 25, 8 };
3294 :
3295 692 : fftf_interleave( x, y, cmplx, 200 );
3296 692 : pfaDFT( cmplx, 200, scratch, 2, factors );
3297 692 : fftf_deinterleave( cmplx, x, y, 200 );
3298 :
3299 692 : return;
3300 : }
3301 :
3302 0 : static void DoRTFT100(
3303 : float *x, /* i/o: real part of input and output data */
3304 : float *y /* i/o: imaginary part of input and output data */
3305 : )
3306 : {
3307 : float scratch[200], cmplx[200];
3308 0 : const int16_t factors[2] = { 25, 4 };
3309 :
3310 0 : fftf_interleave( x, y, cmplx, 100 );
3311 0 : pfaDFT( cmplx, 100, scratch, 2, factors );
3312 0 : fftf_deinterleave( cmplx, x, y, 100 );
3313 :
3314 0 : return;
3315 : }
3316 :
3317 :
3318 1597208 : void DoFFT(
3319 : float *re2,
3320 : float *im2,
3321 : const int16_t length )
3322 : {
3323 1597208 : switch ( length )
3324 : {
3325 110 : case 600:
3326 110 : DoRTFT600( re2, im2 );
3327 110 : break;
3328 12927 : case 480:
3329 12927 : DoRTFT480( re2, im2 );
3330 12927 : break;
3331 80 : case 400:
3332 80 : DoRTFT400( re2, im2 );
3333 80 : break;
3334 66147 : case 320:
3335 66147 : DoRTFT320( re2, im2 );
3336 66147 : break;
3337 0 : case 256:
3338 0 : DoRTFTn( re2, im2, 256 );
3339 0 : break;
3340 200022 : case 240:
3341 200022 : DoRTFT240( re2, im2 );
3342 200022 : break;
3343 692 : case 200:
3344 692 : DoRTFT200( re2, im2 );
3345 692 : break;
3346 9375 : case 160:
3347 9375 : DoRTFT160( re2, im2 );
3348 9375 : break;
3349 1294791 : case 128:
3350 1294791 : DoRTFT128( re2, im2 );
3351 1294791 : break;
3352 1584 : case 120:
3353 1584 : DoRTFT120( re2, im2 );
3354 1584 : break;
3355 0 : case 100:
3356 0 : DoRTFT100( re2, im2 );
3357 0 : break;
3358 11328 : case 80:
3359 11328 : DoRTFT80( re2, im2 );
3360 11328 : break;
3361 0 : case 64:
3362 0 : DoRTFTn( re2, im2, 64 );
3363 0 : break;
3364 152 : case 40:
3365 152 : DoRTFT40( re2, im2 );
3366 152 : break;
3367 0 : case 20:
3368 0 : DoRTFT20( re2, im2 );
3369 0 : break;
3370 0 : default:
3371 0 : assert( !"fft is not supported!" );
3372 : }
3373 :
3374 1597208 : return;
3375 : }
3376 :
3377 : /*-----------------------------------------------------------------*
3378 : * Low-complexity implementation of FFT
3379 : *-----------------------------------------------------------------*/
3380 :
3381 238544 : static void fft_len5(
3382 : float *re,
3383 : float *im,
3384 : const int16_t s )
3385 : {
3386 : float x0, x1, x2, x3, x4;
3387 : float r1, r2, r3, r4;
3388 : float s1, s2, s3, s4;
3389 : float t;
3390 :
3391 238544 : x0 = re[s * 0];
3392 238544 : x1 = re[s * 1];
3393 238544 : x2 = re[s * 2];
3394 238544 : x3 = re[s * 3];
3395 238544 : x4 = re[s * 4];
3396 :
3397 238544 : r1 = ( x1 + x4 );
3398 238544 : r4 = ( x1 - x4 );
3399 238544 : r3 = ( x2 + x3 );
3400 238544 : r2 = ( x2 - x3 );
3401 238544 : t = ( ( r1 - r3 ) * FFT_C54 );
3402 238544 : r1 = ( r1 + r3 );
3403 238544 : re[0] = ( x0 + r1 );
3404 :
3405 238544 : r1 = ( re[0] + ( ( r1 * FFT_C55 ) ) );
3406 238544 : r3 = ( r1 - t );
3407 238544 : r1 = ( r1 + t );
3408 238544 : t = ( ( r4 + r2 ) * FFT_C51 );
3409 :
3410 238544 : r4 = ( t + ( r4 * FFT_C52 ) );
3411 238544 : r2 = ( t + ( r2 * FFT_C53 ) );
3412 :
3413 238544 : x0 = im[s * 0];
3414 238544 : x1 = im[s * 1];
3415 238544 : x2 = im[s * 2];
3416 238544 : x3 = im[s * 3];
3417 238544 : x4 = im[s * 4];
3418 :
3419 238544 : s1 = ( x1 + x4 );
3420 238544 : s4 = ( x1 - x4 );
3421 238544 : s3 = ( x2 + x3 );
3422 238544 : s2 = ( x2 - x3 );
3423 238544 : t = ( ( s1 - s3 ) * FFT_C54 );
3424 238544 : s1 = ( s1 + s3 );
3425 238544 : im[0] = ( x0 + s1 );
3426 :
3427 238544 : s1 = ( im[0] + ( s1 * FFT_C55 ) );
3428 238544 : s3 = ( s1 - t );
3429 238544 : s1 = ( s1 + t );
3430 238544 : t = ( ( s4 + s2 ) * FFT_C51 );
3431 :
3432 238544 : s4 = ( t + ( s4 * FFT_C52 ) );
3433 238544 : s2 = ( t + ( s2 * FFT_C53 ) );
3434 :
3435 238544 : re[s * 1] = ( r1 + s2 );
3436 238544 : re[s * 4] = ( r1 - s2 );
3437 238544 : re[s * 2] = ( r3 - s4 );
3438 238544 : re[s * 3] = ( r3 + s4 );
3439 :
3440 238544 : im[s * 1] = ( s1 - r2 );
3441 238544 : im[s * 4] = ( s1 + r2 );
3442 238544 : im[s * 2] = ( s3 + r4 );
3443 238544 : im[s * 3] = ( s3 - r4 );
3444 :
3445 238544 : return;
3446 : }
3447 :
3448 355128 : static void fft_len8(
3449 : float *re,
3450 : float *im,
3451 : const int16_t s )
3452 : {
3453 : float x00, x01, x02, x03, x04, x05, x06, x07;
3454 : float x08, x09, x10, x11, x12, x13, x14, x15;
3455 : float t00, t01, t02, t03, t04, t05, t06, t07;
3456 : float t08, t09, t10, t11, t12, t13, t14, t15;
3457 : float s00, s01, s02, s03, s04, s05, s06, s07;
3458 : float s08, s09, s10, s11, s12, s13, s14, s15;
3459 :
3460 355128 : x00 = re[s * 0];
3461 355128 : x01 = im[s * 0];
3462 355128 : x02 = re[s * 1];
3463 355128 : x03 = im[s * 1];
3464 355128 : x04 = re[s * 2];
3465 355128 : x05 = im[s * 2];
3466 355128 : x06 = re[s * 3];
3467 355128 : x07 = im[s * 3];
3468 355128 : x08 = re[s * 4];
3469 355128 : x09 = im[s * 4];
3470 355128 : x10 = re[s * 5];
3471 355128 : x11 = im[s * 5];
3472 355128 : x12 = re[s * 6];
3473 355128 : x13 = im[s * 6];
3474 355128 : x14 = re[s * 7];
3475 355128 : x15 = im[s * 7];
3476 :
3477 355128 : t00 = ( x00 + x08 );
3478 355128 : t02 = ( x00 - x08 );
3479 355128 : t01 = ( x01 + x09 );
3480 355128 : t03 = ( x01 - x09 );
3481 355128 : t04 = ( x02 + x10 );
3482 355128 : t06 = ( x02 - x10 );
3483 355128 : t05 = ( x03 + x11 );
3484 355128 : t07 = ( x03 - x11 );
3485 355128 : t08 = ( x04 + x12 );
3486 355128 : t10 = ( x04 - x12 );
3487 355128 : t09 = ( x05 + x13 );
3488 355128 : t11 = ( x05 - x13 );
3489 355128 : t12 = ( x06 + x14 );
3490 355128 : t14 = ( x06 - x14 );
3491 355128 : t13 = ( x07 + x15 );
3492 355128 : t15 = ( x07 - x15 );
3493 :
3494 355128 : s00 = ( t00 + t08 );
3495 355128 : s04 = ( t00 - t08 );
3496 355128 : s01 = ( t01 + t09 );
3497 355128 : s05 = ( t01 - t09 );
3498 355128 : s08 = ( t02 - t11 );
3499 355128 : s10 = ( t02 + t11 );
3500 355128 : s09 = ( t03 + t10 );
3501 355128 : s11 = ( t03 - t10 );
3502 355128 : s02 = ( t04 + t12 );
3503 355128 : s07 = ( t04 - t12 );
3504 355128 : s03 = ( t05 + t13 );
3505 355128 : s06 = ( t13 - t05 );
3506 :
3507 355128 : t01 = ( t06 + t14 );
3508 355128 : t02 = ( t06 - t14 );
3509 355128 : t00 = ( t07 + t15 );
3510 355128 : t03 = ( t07 - t15 );
3511 :
3512 355128 : s12 = ( ( t00 + t02 ) * FFT_C81 );
3513 355128 : s14 = ( ( t00 - t02 ) * FFT_C81 );
3514 355128 : s13 = ( ( t03 - t01 ) * FFT_C81 );
3515 355128 : s15 = ( ( t01 + t03 ) * FFT_C82 );
3516 :
3517 355128 : re[s * 0] = ( s00 + s02 );
3518 355128 : re[s * 4] = ( s00 - s02 );
3519 355128 : im[s * 0] = ( s01 + s03 );
3520 355128 : im[s * 4] = ( s01 - s03 );
3521 355128 : re[s * 2] = ( s04 - s06 );
3522 355128 : re[s * 6] = ( s04 + s06 );
3523 355128 : im[s * 2] = ( s05 - s07 );
3524 355128 : im[s * 6] = ( s05 + s07 );
3525 355128 : re[s * 3] = ( s08 + s14 );
3526 355128 : re[s * 7] = ( s08 - s14 );
3527 355128 : im[s * 3] = ( s09 + s15 );
3528 355128 : im[s * 7] = ( s09 - s15 );
3529 355128 : re[s * 1] = ( s10 + s12 );
3530 355128 : re[s * 5] = ( s10 - s12 );
3531 355128 : im[s * 1] = ( s11 + s13 );
3532 355128 : im[s * 5] = ( s11 - s13 );
3533 :
3534 355128 : return;
3535 : }
3536 :
3537 5941044 : static void fft_len10(
3538 : float *re,
3539 : float *im,
3540 : const int16_t s )
3541 : {
3542 : float t;
3543 : float x0, x1, x2, x3, x4;
3544 : float r1, r2, r3, r4;
3545 : float s1, s2, s3, s4;
3546 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3547 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3548 :
3549 5941044 : x0 = re[s * 0];
3550 5941044 : x1 = re[s * 2];
3551 5941044 : x2 = re[s * 4];
3552 5941044 : x3 = re[s * 6];
3553 5941044 : x4 = re[s * 8];
3554 :
3555 5941044 : r1 = ( x3 + x2 );
3556 5941044 : r4 = ( x3 - x2 );
3557 5941044 : r3 = ( x1 + x4 );
3558 5941044 : r2 = ( x1 - x4 );
3559 5941044 : t = ( ( r1 - r3 ) * FFT_C54 );
3560 5941044 : r1 = ( r1 + r3 );
3561 5941044 : y00 = ( x0 + r1 );
3562 5941044 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3563 5941044 : r3 = ( r1 - t );
3564 5941044 : r1 = ( r1 + t );
3565 5941044 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3566 5941044 : r4 = ( t + ( r4 * FFT_C52 ) );
3567 5941044 : r2 = ( t + ( r2 * FFT_C53 ) );
3568 :
3569 5941044 : x0 = im[s * 0];
3570 5941044 : x1 = im[s * 2];
3571 5941044 : x2 = im[s * 4];
3572 5941044 : x3 = im[s * 6];
3573 5941044 : x4 = im[s * 8];
3574 :
3575 5941044 : s1 = ( x3 + x2 );
3576 5941044 : s4 = ( x3 - x2 );
3577 5941044 : s3 = ( x1 + x4 );
3578 5941044 : s2 = ( x1 - x4 );
3579 5941044 : t = ( ( s1 - s3 ) * FFT_C54 );
3580 5941044 : s1 = ( s1 + s3 );
3581 5941044 : y01 = ( x0 + s1 );
3582 5941044 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3583 5941044 : s3 = ( s1 - t );
3584 5941044 : s1 = ( s1 + t );
3585 5941044 : t = ( ( s4 + s2 ) * FFT_C51 );
3586 5941044 : s4 = ( t + ( s4 * FFT_C52 ) );
3587 5941044 : s2 = ( t + ( s2 * FFT_C53 ) );
3588 :
3589 5941044 : y04 = ( r1 + s2 );
3590 5941044 : y16 = ( r1 - s2 );
3591 5941044 : y08 = ( r3 - s4 );
3592 5941044 : y12 = ( r3 + s4 );
3593 :
3594 5941044 : y05 = ( s1 - r2 );
3595 5941044 : y17 = ( s1 + r2 );
3596 5941044 : y09 = ( s3 + r4 );
3597 5941044 : y13 = ( s3 - r4 );
3598 :
3599 5941044 : x0 = re[s * 5];
3600 5941044 : x1 = re[s * 1];
3601 5941044 : x2 = re[s * 3];
3602 5941044 : x3 = re[s * 7];
3603 5941044 : x4 = re[s * 9];
3604 :
3605 5941044 : r1 = ( x1 + x4 );
3606 5941044 : r4 = ( x1 - x4 );
3607 5941044 : r3 = ( x3 + x2 );
3608 5941044 : r2 = ( x3 - x2 );
3609 5941044 : t = ( ( r1 - r3 ) * FFT_C54 );
3610 5941044 : r1 = ( r1 + r3 );
3611 5941044 : y02 = ( x0 + r1 );
3612 5941044 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
3613 5941044 : r3 = ( r1 - t );
3614 5941044 : r1 = ( r1 + t );
3615 5941044 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3616 5941044 : r4 = ( t + ( r4 * FFT_C52 ) );
3617 5941044 : r2 = ( t + ( r2 * FFT_C53 ) );
3618 :
3619 5941044 : x0 = im[s * 5];
3620 5941044 : x1 = im[s * 1];
3621 5941044 : x2 = im[s * 3];
3622 5941044 : x3 = im[s * 7];
3623 5941044 : x4 = im[s * 9];
3624 :
3625 5941044 : s1 = ( x1 + x4 );
3626 5941044 : s4 = ( x1 - x4 );
3627 5941044 : s3 = ( x3 + x2 );
3628 5941044 : s2 = ( x3 - x2 );
3629 5941044 : t = ( ( s1 - s3 ) * FFT_C54 );
3630 5941044 : s1 = ( s1 + s3 );
3631 5941044 : y03 = ( x0 + s1 );
3632 5941044 : s1 = ( y03 + ( s1 * FFT_C55 ) );
3633 5941044 : s3 = ( s1 - t );
3634 5941044 : s1 = ( s1 + t );
3635 5941044 : t = ( ( s4 + s2 ) * FFT_C51 );
3636 5941044 : s4 = ( t + ( s4 * FFT_C52 ) );
3637 5941044 : s2 = ( t + ( s2 * FFT_C53 ) );
3638 :
3639 5941044 : y06 = ( r1 + s2 );
3640 5941044 : y18 = ( r1 - s2 );
3641 5941044 : y10 = ( r3 - s4 );
3642 5941044 : y14 = ( r3 + s4 );
3643 :
3644 5941044 : y07 = ( s1 - r2 );
3645 5941044 : y19 = ( s1 + r2 );
3646 5941044 : y11 = ( s3 + r4 );
3647 5941044 : y15 = ( s3 - r4 );
3648 :
3649 5941044 : re[s * 0] = ( y00 + y02 );
3650 5941044 : im[s * 0] = ( y01 + y03 );
3651 5941044 : re[s * 5] = ( y00 - y02 );
3652 5941044 : im[s * 5] = ( y01 - y03 );
3653 :
3654 5941044 : re[s * 2] = ( y04 + y06 );
3655 5941044 : im[s * 2] = ( y05 + y07 );
3656 5941044 : re[s * 7] = ( y04 - y06 );
3657 5941044 : im[s * 7] = ( y05 - y07 );
3658 :
3659 5941044 : re[s * 4] = ( y08 + y10 );
3660 5941044 : im[s * 4] = ( y09 + y11 );
3661 5941044 : re[s * 9] = ( y08 - y10 );
3662 5941044 : im[s * 9] = ( y09 - y11 );
3663 :
3664 5941044 : re[s * 6] = ( y12 + y14 );
3665 5941044 : im[s * 6] = ( y13 + y15 );
3666 5941044 : re[s * 1] = ( y12 - y14 );
3667 5941044 : im[s * 1] = ( y13 - y15 );
3668 :
3669 5941044 : re[s * 8] = ( y16 + y18 );
3670 5941044 : im[s * 8] = ( y17 + y19 );
3671 5941044 : re[s * 3] = ( y16 - y18 );
3672 5941044 : im[s * 3] = ( y17 - y19 );
3673 :
3674 5941044 : return;
3675 : }
3676 :
3677 4797968 : static void fft_len15(
3678 : float *re,
3679 : float *im,
3680 : const int16_t s )
3681 : {
3682 : float t;
3683 : float r1, r2, r3, r4;
3684 : float s1, s2, s3, s4;
3685 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
3686 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
3687 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
3688 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3689 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3690 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
3691 :
3692 4797968 : x00 = re[s * 0];
3693 4797968 : x01 = im[s * 0];
3694 4797968 : x02 = re[s * 3];
3695 4797968 : x03 = im[s * 3];
3696 4797968 : x04 = re[s * 6];
3697 4797968 : x05 = im[s * 6];
3698 4797968 : x06 = re[s * 9];
3699 4797968 : x07 = im[s * 9];
3700 4797968 : x08 = re[s * 12];
3701 4797968 : x09 = im[s * 12];
3702 :
3703 4797968 : x10 = re[s * 5];
3704 4797968 : x11 = im[s * 5];
3705 4797968 : x12 = re[s * 8];
3706 4797968 : x13 = im[s * 8];
3707 4797968 : x14 = re[s * 11];
3708 4797968 : x15 = im[s * 11];
3709 4797968 : x16 = re[s * 14];
3710 4797968 : x17 = im[s * 14];
3711 4797968 : x18 = re[s * 2];
3712 4797968 : x19 = im[s * 2];
3713 :
3714 4797968 : x20 = re[s * 10];
3715 4797968 : x21 = im[s * 10];
3716 4797968 : x22 = re[s * 13];
3717 4797968 : x23 = im[s * 13];
3718 4797968 : x24 = re[s * 1];
3719 4797968 : x25 = im[s * 1];
3720 4797968 : x26 = re[s * 4];
3721 4797968 : x27 = im[s * 4];
3722 4797968 : x28 = re[s * 7];
3723 4797968 : x29 = im[s * 7];
3724 :
3725 4797968 : r1 = ( x02 + x08 );
3726 4797968 : r4 = ( x02 - x08 );
3727 4797968 : r3 = ( x04 + x06 );
3728 4797968 : r2 = ( x04 - x06 );
3729 4797968 : t = ( ( r1 - r3 ) * FFT_C54 );
3730 4797968 : r1 = ( r1 + r3 );
3731 4797968 : y00 = ( x00 + r1 );
3732 4797968 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3733 4797968 : r3 = ( r1 - t );
3734 4797968 : r1 = ( r1 + t );
3735 4797968 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3736 4797968 : r4 = ( t + ( r4 * FFT_C52 ) );
3737 4797968 : r2 = ( t + ( r2 * FFT_C53 ) );
3738 :
3739 4797968 : s1 = ( x03 + x09 );
3740 4797968 : s4 = ( x03 - x09 );
3741 4797968 : s3 = ( x05 + x07 );
3742 4797968 : s2 = ( x05 - x07 );
3743 4797968 : t = ( ( s1 - s3 ) * FFT_C54 );
3744 4797968 : s1 = ( s1 + s3 );
3745 4797968 : y01 = ( x01 + s1 );
3746 4797968 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3747 4797968 : s3 = ( s1 - t );
3748 4797968 : s1 = ( s1 + t );
3749 4797968 : t = ( ( s4 + s2 ) * FFT_C51 );
3750 4797968 : s4 = ( t + ( s4 * FFT_C52 ) );
3751 4797968 : s2 = ( t + ( s2 * FFT_C53 ) );
3752 :
3753 4797968 : y02 = ( r1 + s2 );
3754 4797968 : y08 = ( r1 - s2 );
3755 4797968 : y04 = ( r3 - s4 );
3756 4797968 : y06 = ( r3 + s4 );
3757 :
3758 4797968 : y03 = ( s1 - r2 );
3759 4797968 : y09 = ( s1 + r2 );
3760 4797968 : y05 = ( s3 + r4 );
3761 4797968 : y07 = ( s3 - r4 );
3762 :
3763 4797968 : r1 = ( x12 + x18 );
3764 4797968 : r4 = ( x12 - x18 );
3765 4797968 : r3 = ( x14 + x16 );
3766 4797968 : r2 = ( x14 - x16 );
3767 4797968 : t = ( ( r1 - r3 ) * FFT_C54 );
3768 4797968 : r1 = ( r1 + r3 );
3769 4797968 : y10 = ( x10 + r1 );
3770 4797968 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
3771 4797968 : r3 = ( r1 - t );
3772 4797968 : r1 = ( r1 + t );
3773 4797968 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3774 4797968 : r4 = ( t + ( r4 * FFT_C52 ) );
3775 4797968 : r2 = ( t + ( r2 * FFT_C53 ) );
3776 :
3777 4797968 : s1 = ( x13 + x19 );
3778 4797968 : s4 = ( x13 - x19 );
3779 4797968 : s3 = ( x15 + x17 );
3780 4797968 : s2 = ( x15 - x17 );
3781 4797968 : t = ( ( s1 - s3 ) * FFT_C54 );
3782 4797968 : s1 = ( s1 + s3 );
3783 4797968 : y11 = ( x11 + s1 );
3784 4797968 : s1 = ( y11 + ( s1 * FFT_C55 ) );
3785 4797968 : s3 = ( s1 - t );
3786 4797968 : s1 = ( s1 + t );
3787 4797968 : t = ( ( s4 + s2 ) * FFT_C51 );
3788 4797968 : s4 = ( t + ( s4 * FFT_C52 ) );
3789 4797968 : s2 = ( t + ( s2 * FFT_C53 ) );
3790 :
3791 4797968 : y12 = ( r1 + s2 );
3792 4797968 : y18 = ( r1 - s2 );
3793 4797968 : y14 = ( r3 - s4 );
3794 4797968 : y16 = ( r3 + s4 );
3795 :
3796 4797968 : y13 = ( s1 - r2 );
3797 4797968 : y19 = ( s1 + r2 );
3798 4797968 : y15 = ( s3 + r4 );
3799 4797968 : y17 = ( s3 - r4 );
3800 :
3801 4797968 : r1 = ( x22 + x28 );
3802 4797968 : r4 = ( x22 - x28 );
3803 4797968 : r3 = ( x24 + x26 );
3804 4797968 : r2 = ( x24 - x26 );
3805 4797968 : t = ( ( r1 - r3 ) * FFT_C54 );
3806 4797968 : r1 = ( r1 + r3 );
3807 4797968 : y20 = ( x20 + r1 );
3808 4797968 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
3809 4797968 : r3 = ( r1 - t );
3810 4797968 : r1 = ( r1 + t );
3811 4797968 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3812 4797968 : r4 = ( t + ( r4 * FFT_C52 ) );
3813 4797968 : r2 = ( t + ( r2 * FFT_C53 ) );
3814 :
3815 4797968 : s1 = ( x23 + x29 );
3816 4797968 : s4 = ( x23 - x29 );
3817 4797968 : s3 = ( x25 + x27 );
3818 4797968 : s2 = ( x25 - x27 );
3819 4797968 : t = ( ( s1 - s3 ) * FFT_C54 );
3820 4797968 : s1 = ( s1 + s3 );
3821 4797968 : y21 = ( x21 + s1 );
3822 4797968 : s1 = ( y21 + ( s1 * FFT_C55 ) );
3823 4797968 : s3 = ( s1 - t );
3824 4797968 : s1 = ( s1 + t );
3825 4797968 : t = ( ( s4 + s2 ) * FFT_C51 );
3826 4797968 : s4 = ( t + ( s4 * FFT_C52 ) );
3827 4797968 : s2 = ( t + ( s2 * FFT_C53 ) );
3828 :
3829 4797968 : y22 = ( r1 + s2 );
3830 4797968 : y28 = ( r1 - s2 );
3831 4797968 : y24 = ( r3 - s4 );
3832 4797968 : y26 = ( r3 + s4 );
3833 :
3834 4797968 : y23 = ( s1 - r2 );
3835 4797968 : y29 = ( s1 + r2 );
3836 4797968 : y25 = ( s3 + r4 );
3837 4797968 : y27 = ( s3 - r4 );
3838 :
3839 4797968 : r1 = ( y10 + y20 );
3840 4797968 : r2 = ( ( y10 - y20 ) * FFT_C31 );
3841 4797968 : re[s * 0] = ( y00 + r1 );
3842 4797968 : r1 = ( y00 - r1 * 0.5f );
3843 :
3844 4797968 : s1 = ( y11 + y21 );
3845 4797968 : s2 = ( ( y11 - y21 ) * FFT_C31 );
3846 4797968 : im[s * 0] = ( y01 + s1 );
3847 4797968 : s1 = ( y01 - s1 * 0.5f );
3848 :
3849 4797968 : re[s * 10] = ( r1 - s2 );
3850 4797968 : re[s * 5] = ( r1 + s2 );
3851 4797968 : im[s * 10] = ( s1 + r2 );
3852 4797968 : im[s * 5] = ( s1 - r2 );
3853 :
3854 4797968 : r1 = ( y12 + y22 );
3855 4797968 : r2 = ( ( y12 - y22 ) * FFT_C31 );
3856 4797968 : re[s * 6] = ( y02 + r1 );
3857 4797968 : r1 = ( y02 - r1 * 0.5f );
3858 :
3859 4797968 : s1 = ( y13 + y23 );
3860 4797968 : s2 = ( ( y13 - y23 ) * FFT_C31 );
3861 4797968 : im[s * 6] = ( y03 + s1 );
3862 4797968 : s1 = ( y03 - s1 * 0.5f );
3863 :
3864 4797968 : re[s * 1] = ( r1 - s2 );
3865 4797968 : re[s * 11] = ( r1 + s2 );
3866 4797968 : im[s * 1] = ( s1 + r2 );
3867 4797968 : im[s * 11] = ( s1 - r2 );
3868 :
3869 4797968 : r1 = ( y14 + y24 );
3870 4797968 : r2 = ( ( y14 - y24 ) * FFT_C31 );
3871 4797968 : re[s * 12] = ( y04 + r1 );
3872 4797968 : r1 = ( y04 - r1 * 0.5f );
3873 :
3874 4797968 : s1 = ( y15 + y25 );
3875 4797968 : s2 = ( ( y15 - y25 ) * FFT_C31 );
3876 4797968 : im[s * 12] = ( y05 + s1 );
3877 4797968 : s1 = ( y05 - s1 * 0.5f );
3878 :
3879 4797968 : re[s * 7] = ( r1 - s2 );
3880 4797968 : re[s * 2] = ( r1 + s2 );
3881 4797968 : im[s * 7] = ( s1 + r2 );
3882 4797968 : im[s * 2] = ( s1 - r2 );
3883 :
3884 4797968 : r1 = ( y16 + y26 );
3885 4797968 : r2 = ( ( y16 - y26 ) * FFT_C31 );
3886 4797968 : re[s * 3] = ( y06 + r1 );
3887 4797968 : r1 = ( y06 - r1 * 0.5f );
3888 :
3889 4797968 : s1 = ( y17 + y27 );
3890 4797968 : s2 = ( ( y17 - y27 ) * FFT_C31 );
3891 4797968 : im[s * 3] = ( y07 + s1 );
3892 4797968 : s1 = ( y07 - s1 * 0.5f );
3893 :
3894 4797968 : re[s * 13] = ( r1 - s2 );
3895 4797968 : re[s * 8] = ( r1 + s2 );
3896 4797968 : im[s * 13] = ( s1 + r2 );
3897 4797968 : im[s * 8] = ( s1 - r2 );
3898 :
3899 4797968 : r1 = ( y18 + y28 );
3900 4797968 : r2 = ( ( y18 - y28 ) * FFT_C31 );
3901 4797968 : re[s * 9] = ( y08 + r1 );
3902 4797968 : r1 = ( y08 - r1 * 0.5f );
3903 :
3904 4797968 : s1 = ( y19 + y29 );
3905 4797968 : s2 = ( ( y19 - y29 ) * FFT_C31 );
3906 4797968 : im[s * 9] = ( y09 + s1 );
3907 4797968 : s1 = ( y09 - s1 * 0.5f );
3908 :
3909 4797968 : re[s * 4] = ( r1 - s2 );
3910 4797968 : re[s * 14] = ( r1 + s2 );
3911 4797968 : im[s * 4] = ( s1 + r2 );
3912 4797968 : im[s * 14] = ( s1 - r2 );
3913 :
3914 4797968 : return;
3915 : }
3916 :
3917 168864620 : static void fft_len16(
3918 : float *re,
3919 : float *im,
3920 : const int16_t s )
3921 : {
3922 : float x0, x1, x2, x3, x4, x5, x6, x7;
3923 : float t0, t1, t2, t3, t4, t5, t6, t7;
3924 : float y00, y01, y02, y03, y04, y05, y06, y07;
3925 : float y08, y09, y10, y11, y12, y13, y14, y15;
3926 : float y16, y17, y18, y19, y20, y21, y22, y23;
3927 : float y24, y25, y26, y27, y28, y29, y30, y31;
3928 :
3929 168864620 : x0 = re[s * 0];
3930 168864620 : x1 = im[s * 0];
3931 168864620 : x2 = re[s * 4];
3932 168864620 : x3 = im[s * 4];
3933 168864620 : x4 = re[s * 8];
3934 168864620 : x5 = im[s * 8];
3935 168864620 : x6 = re[s * 12];
3936 168864620 : x7 = im[s * 12];
3937 :
3938 168864620 : t0 = ( x0 + x4 );
3939 168864620 : t2 = ( x0 - x4 );
3940 168864620 : t1 = ( x1 + x5 );
3941 168864620 : t3 = ( x1 - x5 );
3942 168864620 : t4 = ( x2 + x6 );
3943 168864620 : t7 = ( x2 - x6 );
3944 168864620 : t5 = ( x7 + x3 );
3945 168864620 : t6 = ( x7 - x3 );
3946 :
3947 168864620 : y00 = ( t0 + t4 );
3948 168864620 : y01 = ( t1 + t5 );
3949 168864620 : y02 = ( t2 - t6 );
3950 168864620 : y03 = ( t3 - t7 );
3951 168864620 : y04 = ( t0 - t4 );
3952 168864620 : y05 = ( t1 - t5 );
3953 168864620 : y06 = ( t2 + t6 );
3954 168864620 : y07 = ( t3 + t7 );
3955 :
3956 168864620 : x0 = re[s * 1];
3957 168864620 : x1 = im[s * 1];
3958 168864620 : x2 = re[s * 5];
3959 168864620 : x3 = im[s * 5];
3960 168864620 : x4 = re[s * 9];
3961 168864620 : x5 = im[s * 9];
3962 168864620 : x6 = re[s * 13];
3963 168864620 : x7 = im[s * 13];
3964 :
3965 168864620 : t0 = ( x0 + x4 );
3966 168864620 : t2 = ( x0 - x4 );
3967 168864620 : t1 = ( x1 + x5 );
3968 168864620 : t3 = ( x1 - x5 );
3969 168864620 : t4 = ( x2 + x6 );
3970 168864620 : t7 = ( x2 - x6 );
3971 168864620 : t5 = ( x7 + x3 );
3972 168864620 : t6 = ( x7 - x3 );
3973 :
3974 168864620 : y08 = ( t0 + t4 );
3975 168864620 : y09 = ( t1 + t5 );
3976 168864620 : y10 = ( t2 - t6 );
3977 168864620 : y11 = ( t3 - t7 );
3978 168864620 : y12 = ( t0 - t4 );
3979 168864620 : y13 = ( t1 - t5 );
3980 168864620 : y14 = ( t2 + t6 );
3981 168864620 : y15 = ( t3 + t7 );
3982 :
3983 168864620 : x0 = re[s * 2];
3984 168864620 : x1 = im[s * 2];
3985 168864620 : x2 = re[s * 6];
3986 168864620 : x3 = im[s * 6];
3987 168864620 : x4 = re[s * 10];
3988 168864620 : x5 = im[s * 10];
3989 168864620 : x6 = re[s * 14];
3990 168864620 : x7 = im[s * 14];
3991 :
3992 168864620 : t0 = ( x0 + x4 );
3993 168864620 : t2 = ( x0 - x4 );
3994 168864620 : t1 = ( x1 + x5 );
3995 168864620 : t3 = ( x1 - x5 );
3996 168864620 : t4 = ( x2 + x6 );
3997 168864620 : t7 = ( x2 - x6 );
3998 168864620 : t5 = ( x7 + x3 );
3999 168864620 : t6 = ( x7 - x3 );
4000 :
4001 168864620 : y16 = ( t0 + t4 );
4002 168864620 : y17 = ( t1 + t5 );
4003 168864620 : y18 = ( t2 - t6 );
4004 168864620 : y19 = ( t3 - t7 );
4005 168864620 : y20 = ( t1 - t5 );
4006 168864620 : y21 = ( t4 - t0 );
4007 168864620 : y22 = ( t2 + t6 );
4008 168864620 : y23 = ( t3 + t7 );
4009 :
4010 168864620 : x0 = re[s * 3];
4011 168864620 : x1 = im[s * 3];
4012 168864620 : x2 = re[s * 7];
4013 168864620 : x3 = im[s * 7];
4014 168864620 : x4 = re[s * 11];
4015 168864620 : x5 = im[s * 11];
4016 168864620 : x6 = re[s * 15];
4017 168864620 : x7 = im[s * 15];
4018 :
4019 168864620 : t0 = ( x0 + x4 );
4020 168864620 : t2 = ( x0 - x4 );
4021 168864620 : t1 = ( x1 + x5 );
4022 168864620 : t3 = ( x1 - x5 );
4023 168864620 : t4 = ( x2 + x6 );
4024 168864620 : t7 = ( x2 - x6 );
4025 168864620 : t5 = ( x7 + x3 );
4026 168864620 : t6 = ( x7 - x3 );
4027 :
4028 168864620 : y24 = ( t0 + t4 );
4029 168864620 : y25 = ( t1 + t5 );
4030 168864620 : y26 = ( t2 - t6 );
4031 168864620 : y27 = ( t3 - t7 );
4032 168864620 : y28 = ( t0 - t4 );
4033 168864620 : y29 = ( t1 - t5 );
4034 168864620 : y30 = ( t2 + t6 );
4035 168864620 : y31 = ( t3 + t7 );
4036 :
4037 168864620 : x0 = ( y22 * FFT_C162 );
4038 168864620 : x1 = ( y23 * FFT_C162 );
4039 168864620 : y22 = ( x0 - x1 );
4040 168864620 : y23 = ( x0 + x1 );
4041 :
4042 168864620 : x0 = ( y28 * FFT_C162 );
4043 168864620 : x1 = ( y29 * FFT_C162 );
4044 168864620 : y28 = ( x0 - x1 );
4045 168864620 : y29 = ( x0 + x1 );
4046 :
4047 168864620 : x0 = ( y12 * FFT_C161 );
4048 168864620 : x1 = ( y13 * FFT_C161 );
4049 168864620 : y12 = ( x0 + x1 );
4050 168864620 : y13 = ( x1 - x0 );
4051 :
4052 168864620 : x0 = ( y18 * FFT_C161 );
4053 168864620 : x1 = ( y19 * FFT_C161 );
4054 168864620 : y18 = ( x0 + x1 );
4055 168864620 : y19 = ( x1 - x0 );
4056 :
4057 168864620 : x0 = ( y10 * FFT_C163 );
4058 168864620 : x1 = ( y11 * FFT_C166 );
4059 168864620 : x2 = ( y10 * FFT_C166 );
4060 168864620 : x3 = ( y11 * FFT_C163 );
4061 168864620 : y10 = ( x0 - x1 );
4062 168864620 : y11 = ( x2 + x3 );
4063 :
4064 168864620 : x0 = ( y14 * FFT_C165 );
4065 168864620 : x1 = ( y15 * FFT_C164 );
4066 168864620 : x2 = ( y14 * FFT_C164 );
4067 168864620 : x3 = ( y15 * FFT_C165 );
4068 168864620 : y14 = ( x0 - x1 );
4069 168864620 : y15 = ( x2 + x3 );
4070 :
4071 168864620 : x0 = ( y26 * FFT_C165 );
4072 168864620 : x1 = ( y27 * FFT_C164 );
4073 168864620 : x2 = ( y26 * FFT_C164 );
4074 168864620 : x3 = ( y27 * FFT_C165 );
4075 168864620 : y26 = ( x0 - x1 );
4076 168864620 : y27 = ( x2 + x3 );
4077 :
4078 168864620 : x0 = ( y30 * FFT_C164 );
4079 168864620 : x1 = ( y31 * FFT_C165 );
4080 168864620 : x2 = ( y30 * FFT_C165 );
4081 168864620 : x3 = ( y31 * FFT_C164 );
4082 168864620 : y30 = ( x0 - x1 );
4083 168864620 : y31 = ( x2 + x3 );
4084 :
4085 168864620 : t0 = ( y00 + y16 );
4086 168864620 : t2 = ( y00 - y16 );
4087 168864620 : t1 = ( y01 + y17 );
4088 168864620 : t3 = ( y01 - y17 );
4089 168864620 : t4 = ( y08 + y24 );
4090 168864620 : t7 = ( y08 - y24 );
4091 168864620 : t5 = ( y25 + y09 );
4092 168864620 : t6 = ( y25 - y09 );
4093 :
4094 168864620 : re[s * 0] = ( t0 + t4 );
4095 168864620 : im[s * 0] = ( t1 + t5 );
4096 168864620 : re[s * 4] = ( t2 - t6 );
4097 168864620 : im[s * 4] = ( t3 - t7 );
4098 168864620 : re[s * 8] = ( t0 - t4 );
4099 168864620 : im[s * 8] = ( t1 - t5 );
4100 168864620 : re[s * 12] = ( t2 + t6 );
4101 168864620 : im[s * 12] = ( t3 + t7 );
4102 :
4103 168864620 : t0 = ( y02 + y18 );
4104 168864620 : t2 = ( y02 - y18 );
4105 168864620 : t1 = ( y03 + y19 );
4106 168864620 : t3 = ( y03 - y19 );
4107 168864620 : t4 = ( y10 + y26 );
4108 168864620 : t7 = ( y10 - y26 );
4109 168864620 : t5 = ( y27 + y11 );
4110 168864620 : t6 = ( y27 - y11 );
4111 :
4112 168864620 : re[s * 1] = ( t0 + t4 );
4113 168864620 : im[s * 1] = ( t1 + t5 );
4114 168864620 : re[s * 5] = ( t2 - t6 );
4115 168864620 : im[s * 5] = ( t3 - t7 );
4116 168864620 : re[s * 9] = ( t0 - t4 );
4117 168864620 : im[s * 9] = ( t1 - t5 );
4118 168864620 : re[s * 13] = ( t2 + t6 );
4119 168864620 : im[s * 13] = ( t3 + t7 );
4120 :
4121 168864620 : t0 = ( y04 + y20 );
4122 168864620 : t2 = ( y04 - y20 );
4123 168864620 : t1 = ( y05 + y21 );
4124 168864620 : t3 = ( y05 - y21 );
4125 168864620 : t4 = ( y12 + y28 );
4126 168864620 : t7 = ( y12 - y28 );
4127 168864620 : t5 = ( y29 + y13 );
4128 168864620 : t6 = ( y29 - y13 );
4129 :
4130 168864620 : re[s * 2] = ( t0 + t4 );
4131 168864620 : im[s * 2] = ( t1 + t5 );
4132 168864620 : re[s * 6] = ( t2 - t6 );
4133 168864620 : im[s * 6] = ( t3 - t7 );
4134 168864620 : re[s * 10] = ( t0 - t4 );
4135 168864620 : im[s * 10] = ( t1 - t5 );
4136 168864620 : re[s * 14] = ( t2 + t6 );
4137 168864620 : im[s * 14] = ( t3 + t7 );
4138 :
4139 168864620 : t0 = ( y06 + y22 );
4140 168864620 : t2 = ( y06 - y22 );
4141 168864620 : t1 = ( y07 + y23 );
4142 168864620 : t3 = ( y07 - y23 );
4143 168864620 : t4 = ( y14 + y30 );
4144 168864620 : t7 = ( y14 - y30 );
4145 168864620 : t5 = ( y31 + y15 );
4146 168864620 : t6 = ( y31 - y15 );
4147 :
4148 168864620 : re[s * 3] = ( t0 + t4 );
4149 168864620 : im[s * 3] = ( t1 + t5 );
4150 168864620 : re[s * 7] = ( t2 - t6 );
4151 168864620 : im[s * 7] = ( t3 - t7 );
4152 168864620 : re[s * 11] = ( t0 - t4 );
4153 168864620 : im[s * 11] = ( t1 - t5 );
4154 168864620 : re[s * 15] = ( t2 + t6 );
4155 168864620 : im[s * 15] = ( t3 + t7 );
4156 :
4157 168864620 : return;
4158 : }
4159 :
4160 86250278 : static void fft_len20(
4161 : float *re,
4162 : float *im,
4163 : const int16_t s )
4164 : {
4165 : float r1, r2, r3, r4;
4166 : float s1, s2, s3, s4;
4167 : float x0, x1, x2, x3, x4;
4168 : float t, t0, t1, t2, t3, t4, t5, t6, t7;
4169 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4170 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4171 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4172 : float y30, y31, y32, y33, y34, y35, y36, y37, y38, y39;
4173 :
4174 86250278 : x0 = re[s * 0];
4175 86250278 : x1 = re[s * 16];
4176 86250278 : x2 = re[s * 12];
4177 86250278 : x3 = re[s * 8];
4178 86250278 : x4 = re[s * 4];
4179 :
4180 86250278 : r1 = ( x1 + x4 );
4181 86250278 : r4 = ( x1 - x4 );
4182 86250278 : r3 = ( x2 + x3 );
4183 86250278 : r2 = ( x2 - x3 );
4184 86250278 : t = ( ( r1 - r3 ) * FFT_C54 );
4185 86250278 : r1 = ( r1 + r3 );
4186 86250278 : y00 = ( x0 + r1 );
4187 86250278 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4188 86250278 : r3 = ( r1 - t );
4189 86250278 : r1 = ( r1 + t );
4190 86250278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4191 86250278 : r4 = ( t + ( r4 * FFT_C52 ) );
4192 86250278 : r2 = ( t + ( r2 * FFT_C53 ) );
4193 :
4194 86250278 : x0 = im[s * 0];
4195 86250278 : x1 = im[s * 16];
4196 86250278 : x2 = im[s * 12];
4197 86250278 : x3 = im[s * 8];
4198 86250278 : x4 = im[s * 4];
4199 :
4200 86250278 : s1 = ( x1 + x4 );
4201 86250278 : s4 = ( x1 - x4 );
4202 86250278 : s3 = ( x2 + x3 );
4203 86250278 : s2 = ( x2 - x3 );
4204 86250278 : t = ( ( s1 - s3 ) * FFT_C54 );
4205 86250278 : s1 = ( s1 + s3 );
4206 86250278 : y01 = ( x0 + s1 );
4207 86250278 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4208 86250278 : s3 = ( s1 - t );
4209 86250278 : s1 = ( s1 + t );
4210 86250278 : t = ( ( s4 + s2 ) * FFT_C51 );
4211 86250278 : s4 = ( t + ( s4 * FFT_C52 ) );
4212 86250278 : s2 = ( t + ( s2 * FFT_C53 ) );
4213 :
4214 86250278 : y08 = ( r1 + s2 );
4215 86250278 : y32 = ( r1 - s2 );
4216 86250278 : y16 = ( r3 - s4 );
4217 86250278 : y24 = ( r3 + s4 );
4218 :
4219 86250278 : y09 = ( s1 - r2 );
4220 86250278 : y33 = ( s1 + r2 );
4221 86250278 : y17 = ( s3 + r4 );
4222 86250278 : y25 = ( s3 - r4 );
4223 :
4224 86250278 : x0 = re[s * 5];
4225 86250278 : x1 = re[s * 1];
4226 86250278 : x2 = re[s * 17];
4227 86250278 : x3 = re[s * 13];
4228 86250278 : x4 = re[s * 9];
4229 :
4230 86250278 : r1 = ( x1 + x4 );
4231 86250278 : r4 = ( x1 - x4 );
4232 86250278 : r3 = ( x2 + x3 );
4233 86250278 : r2 = ( x2 - x3 );
4234 86250278 : t = ( ( r1 - r3 ) * FFT_C54 );
4235 86250278 : r1 = ( r1 + r3 );
4236 86250278 : y02 = ( x0 + r1 );
4237 86250278 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
4238 86250278 : r3 = ( r1 - t );
4239 86250278 : r1 = ( r1 + t );
4240 86250278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4241 86250278 : r4 = ( t + ( r4 * FFT_C52 ) );
4242 86250278 : r2 = ( t + ( r2 * FFT_C53 ) );
4243 :
4244 86250278 : x0 = im[s * 5];
4245 86250278 : x1 = im[s * 1];
4246 86250278 : x2 = im[s * 17];
4247 86250278 : x3 = im[s * 13];
4248 86250278 : x4 = im[s * 9];
4249 :
4250 86250278 : s1 = ( x1 + x4 );
4251 86250278 : s4 = ( x1 - x4 );
4252 86250278 : s3 = ( x2 + x3 );
4253 86250278 : s2 = ( x2 - x3 );
4254 86250278 : t = ( ( s1 - s3 ) * FFT_C54 );
4255 86250278 : s1 = ( s1 + s3 );
4256 86250278 : y03 = ( x0 + s1 );
4257 86250278 : s1 = ( y03 + ( s1 * FFT_C55 ) );
4258 86250278 : s3 = ( s1 - t );
4259 86250278 : s1 = ( s1 + t );
4260 86250278 : t = ( ( s4 + s2 ) * FFT_C51 );
4261 86250278 : s4 = ( t + ( s4 * FFT_C52 ) );
4262 86250278 : s2 = ( t + ( s2 * FFT_C53 ) );
4263 :
4264 86250278 : y10 = ( r1 + s2 );
4265 86250278 : y34 = ( r1 - s2 );
4266 86250278 : y18 = ( r3 - s4 );
4267 86250278 : y26 = ( r3 + s4 );
4268 :
4269 86250278 : y11 = ( s1 - r2 );
4270 86250278 : y35 = ( s1 + r2 );
4271 86250278 : y19 = ( s3 + r4 );
4272 86250278 : y27 = ( s3 - r4 );
4273 :
4274 86250278 : x0 = re[s * 10];
4275 86250278 : x1 = re[s * 6];
4276 86250278 : x2 = re[s * 2];
4277 86250278 : x3 = re[s * 18];
4278 86250278 : x4 = re[s * 14];
4279 :
4280 86250278 : r1 = ( x1 + x4 );
4281 86250278 : r4 = ( x1 - x4 );
4282 86250278 : r3 = ( x2 + x3 );
4283 86250278 : r2 = ( x2 - x3 );
4284 86250278 : t = ( ( r1 - r3 ) * FFT_C54 );
4285 86250278 : r1 = ( r1 + r3 );
4286 86250278 : y04 = ( x0 + r1 );
4287 86250278 : r1 = ( y04 + ( ( r1 * FFT_C55 ) ) );
4288 86250278 : r3 = ( r1 - t );
4289 86250278 : r1 = ( r1 + t );
4290 86250278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4291 86250278 : r4 = ( t + ( r4 * FFT_C52 ) );
4292 86250278 : r2 = ( t + ( r2 * FFT_C53 ) );
4293 :
4294 86250278 : x0 = im[s * 10];
4295 86250278 : x1 = im[s * 6];
4296 86250278 : x2 = im[s * 2];
4297 86250278 : x3 = im[s * 18];
4298 86250278 : x4 = im[s * 14];
4299 :
4300 86250278 : s1 = ( x1 + x4 );
4301 86250278 : s4 = ( x1 - x4 );
4302 86250278 : s3 = ( x2 + x3 );
4303 86250278 : s2 = ( x2 - x3 );
4304 86250278 : t = ( ( s1 - s3 ) * FFT_C54 );
4305 86250278 : s1 = ( s1 + s3 );
4306 86250278 : y05 = ( x0 + s1 );
4307 86250278 : s1 = ( y05 + ( s1 * FFT_C55 ) );
4308 86250278 : s3 = ( s1 - t );
4309 86250278 : s1 = ( s1 + t );
4310 86250278 : t = ( ( s4 + s2 ) * FFT_C51 );
4311 86250278 : s4 = ( t + ( s4 * FFT_C52 ) );
4312 86250278 : s2 = ( t + ( s2 * FFT_C53 ) );
4313 :
4314 86250278 : y12 = ( r1 + s2 );
4315 86250278 : y36 = ( r1 - s2 );
4316 86250278 : y20 = ( r3 - s4 );
4317 86250278 : y28 = ( r3 + s4 );
4318 :
4319 86250278 : y13 = ( s1 - r2 );
4320 86250278 : y37 = ( s1 + r2 );
4321 86250278 : y21 = ( s3 + r4 );
4322 86250278 : y29 = ( s3 - r4 );
4323 :
4324 86250278 : x0 = re[s * 15];
4325 86250278 : x1 = re[s * 11];
4326 86250278 : x2 = re[s * 7];
4327 86250278 : x3 = re[s * 3];
4328 86250278 : x4 = re[s * 19];
4329 :
4330 86250278 : r1 = ( x1 + x4 );
4331 86250278 : r4 = ( x1 - x4 );
4332 86250278 : r3 = ( x2 + x3 );
4333 86250278 : r2 = ( x2 - x3 );
4334 86250278 : t = ( ( r1 - r3 ) * FFT_C54 );
4335 86250278 : r1 = ( r1 + r3 );
4336 86250278 : y06 = ( x0 + r1 );
4337 86250278 : r1 = ( y06 + ( ( r1 * FFT_C55 ) ) );
4338 86250278 : r3 = ( r1 - t );
4339 86250278 : r1 = ( r1 + t );
4340 86250278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4341 86250278 : r4 = ( t + ( r4 * FFT_C52 ) );
4342 86250278 : r2 = ( t + ( r2 * FFT_C53 ) );
4343 :
4344 86250278 : x0 = im[s * 15];
4345 86250278 : x1 = im[s * 11];
4346 86250278 : x2 = im[s * 7];
4347 86250278 : x3 = im[s * 3];
4348 86250278 : x4 = im[s * 19];
4349 :
4350 86250278 : s1 = ( x1 + x4 );
4351 86250278 : s4 = ( x1 - x4 );
4352 86250278 : s3 = ( x2 + x3 );
4353 86250278 : s2 = ( x2 - x3 );
4354 86250278 : t = ( ( s1 - s3 ) * FFT_C54 );
4355 86250278 : s1 = ( s1 + s3 );
4356 86250278 : y07 = ( x0 + s1 );
4357 86250278 : s1 = ( y07 + ( s1 * FFT_C55 ) );
4358 86250278 : s3 = ( s1 - t );
4359 86250278 : s1 = ( s1 + t );
4360 86250278 : t = ( ( s4 + s2 ) * FFT_C51 );
4361 86250278 : s4 = ( t + ( s4 * FFT_C52 ) );
4362 86250278 : s2 = ( t + ( s2 * FFT_C53 ) );
4363 :
4364 86250278 : y14 = ( r1 + s2 );
4365 86250278 : y38 = ( r1 - s2 );
4366 86250278 : y22 = ( r3 - s4 );
4367 86250278 : y30 = ( r3 + s4 );
4368 :
4369 86250278 : y15 = ( s1 - r2 );
4370 86250278 : y39 = ( s1 + r2 );
4371 86250278 : y23 = ( s3 + r4 );
4372 86250278 : y31 = ( s3 - r4 );
4373 :
4374 86250278 : t0 = ( y00 + y04 );
4375 86250278 : t2 = ( y00 - y04 );
4376 86250278 : t1 = ( y01 + y05 );
4377 86250278 : t3 = ( y01 - y05 );
4378 86250278 : t4 = ( y02 + y06 );
4379 86250278 : t7 = ( y02 - y06 );
4380 86250278 : t5 = ( y07 + y03 );
4381 86250278 : t6 = ( y07 - y03 );
4382 :
4383 86250278 : re[s * 0] = ( t0 + t4 );
4384 86250278 : im[s * 0] = ( t1 + t5 );
4385 86250278 : re[s * 5] = ( t2 - t6 );
4386 86250278 : im[s * 5] = ( t3 - t7 );
4387 86250278 : re[s * 10] = ( t0 - t4 );
4388 86250278 : im[s * 10] = ( t1 - t5 );
4389 86250278 : re[s * 15] = ( t2 + t6 );
4390 86250278 : im[s * 15] = ( t3 + t7 );
4391 :
4392 86250278 : t0 = ( y08 + y12 );
4393 86250278 : t2 = ( y08 - y12 );
4394 86250278 : t1 = ( y09 + y13 );
4395 86250278 : t3 = ( y09 - y13 );
4396 86250278 : t4 = ( y10 + y14 );
4397 86250278 : t7 = ( y10 - y14 );
4398 86250278 : t5 = ( y15 + y11 );
4399 86250278 : t6 = ( y15 - y11 );
4400 :
4401 86250278 : re[s * 4] = ( t0 + t4 );
4402 86250278 : im[s * 4] = ( t1 + t5 );
4403 86250278 : re[s * 9] = ( t2 - t6 );
4404 86250278 : im[s * 9] = ( t3 - t7 );
4405 86250278 : re[s * 14] = ( t0 - t4 );
4406 86250278 : im[s * 14] = ( t1 - t5 );
4407 86250278 : re[s * 19] = ( t2 + t6 );
4408 86250278 : im[s * 19] = ( t3 + t7 );
4409 :
4410 86250278 : t0 = ( y16 + y20 );
4411 86250278 : t2 = ( y16 - y20 );
4412 86250278 : t1 = ( y17 + y21 );
4413 86250278 : t3 = ( y17 - y21 );
4414 86250278 : t4 = ( y18 + y22 );
4415 86250278 : t7 = ( y18 - y22 );
4416 86250278 : t5 = ( y23 + y19 );
4417 86250278 : t6 = ( y23 - y19 );
4418 :
4419 86250278 : re[s * 8] = ( t0 + t4 );
4420 86250278 : im[s * 8] = ( t1 + t5 );
4421 86250278 : re[s * 13] = ( t2 - t6 );
4422 86250278 : im[s * 13] = ( t3 - t7 );
4423 86250278 : re[s * 18] = ( t0 - t4 );
4424 86250278 : im[s * 18] = ( t1 - t5 );
4425 86250278 : re[s * 3] = ( t2 + t6 );
4426 86250278 : im[s * 3] = ( t3 + t7 );
4427 :
4428 86250278 : t0 = ( y24 + y28 );
4429 86250278 : t2 = ( y24 - y28 );
4430 86250278 : t1 = ( y25 + y29 );
4431 86250278 : t3 = ( y25 - y29 );
4432 86250278 : t4 = ( y26 + y30 );
4433 86250278 : t7 = ( y26 - y30 );
4434 86250278 : t5 = ( y31 + y27 );
4435 86250278 : t6 = ( y31 - y27 );
4436 :
4437 86250278 : re[s * 12] = ( t0 + t4 );
4438 86250278 : im[s * 12] = ( t1 + t5 );
4439 86250278 : re[s * 17] = ( t2 - t6 );
4440 86250278 : im[s * 17] = ( t3 - t7 );
4441 86250278 : re[s * 2] = ( t0 - t4 );
4442 86250278 : im[s * 2] = ( t1 - t5 );
4443 86250278 : re[s * 7] = ( t2 + t6 );
4444 86250278 : im[s * 7] = ( t3 + t7 );
4445 :
4446 86250278 : t0 = ( y32 + y36 );
4447 86250278 : t2 = ( y32 - y36 );
4448 86250278 : t1 = ( y33 + y37 );
4449 86250278 : t3 = ( y33 - y37 );
4450 86250278 : t4 = ( y34 + y38 );
4451 86250278 : t7 = ( y34 - y38 );
4452 86250278 : t5 = ( y39 + y35 );
4453 86250278 : t6 = ( y39 - y35 );
4454 :
4455 86250278 : re[s * 16] = ( t0 + t4 );
4456 86250278 : im[s * 16] = ( t1 + t5 );
4457 86250278 : re[s * 1] = ( t2 - t6 );
4458 86250278 : im[s * 1] = ( t3 - t7 );
4459 86250278 : re[s * 6] = ( t0 - t4 );
4460 86250278 : im[s * 6] = ( t1 - t5 );
4461 86250278 : re[s * 11] = ( t2 + t6 );
4462 86250278 : im[s * 11] = ( t3 + t7 );
4463 :
4464 86250278 : return;
4465 : }
4466 :
4467 207872448 : static void fft_len30(
4468 : float *re,
4469 : float *im,
4470 : const int16_t s )
4471 : {
4472 : float t;
4473 : float r1, r2, r3, r4;
4474 : float s1, s2, s3, s4;
4475 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
4476 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
4477 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
4478 :
4479 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4480 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4481 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4482 :
4483 : float z00, z01, z02, z03, z04, z05, z06, z07, z08, z09;
4484 : float z10, z11, z12, z13, z14, z15, z16, z17, z18, z19;
4485 : float z20, z21, z22, z23, z24, z25, z26, z27, z28, z29;
4486 : float z30, z31, z32, z33, z34, z35, z36, z37, z38, z39;
4487 : float z40, z41, z42, z43, z44, z45, z46, z47, z48, z49;
4488 : float z50, z51, z52, z53, z54, z55, z56, z57, z58, z59;
4489 :
4490 : float *rel, *reh, *iml, *imh;
4491 :
4492 207872448 : rel = &re[s * 0];
4493 207872448 : reh = &re[s * 15];
4494 207872448 : iml = &im[s * 0];
4495 207872448 : imh = &im[s * 15];
4496 :
4497 207872448 : x00 = re[s * 0];
4498 207872448 : x01 = im[s * 0];
4499 207872448 : x02 = re[s * 18];
4500 207872448 : x03 = im[s * 18];
4501 207872448 : x04 = re[s * 6];
4502 207872448 : x05 = im[s * 6];
4503 207872448 : x06 = re[s * 24];
4504 207872448 : x07 = im[s * 24];
4505 207872448 : x08 = re[s * 12];
4506 207872448 : x09 = im[s * 12];
4507 :
4508 207872448 : x10 = re[s * 20];
4509 207872448 : x11 = im[s * 20];
4510 207872448 : x12 = re[s * 8];
4511 207872448 : x13 = im[s * 8];
4512 207872448 : x14 = re[s * 26];
4513 207872448 : x15 = im[s * 26];
4514 207872448 : x16 = re[s * 14];
4515 207872448 : x17 = im[s * 14];
4516 207872448 : x18 = re[s * 2];
4517 207872448 : x19 = im[s * 2];
4518 :
4519 207872448 : x20 = re[s * 10];
4520 207872448 : x21 = im[s * 10];
4521 207872448 : x22 = re[s * 28];
4522 207872448 : x23 = im[s * 28];
4523 207872448 : x24 = re[s * 16];
4524 207872448 : x25 = im[s * 16];
4525 207872448 : x26 = re[s * 4];
4526 207872448 : x27 = im[s * 4];
4527 207872448 : x28 = re[s * 22];
4528 207872448 : x29 = im[s * 22];
4529 :
4530 207872448 : r1 = ( x02 + x08 );
4531 207872448 : r4 = ( x02 - x08 );
4532 207872448 : r3 = ( x04 + x06 );
4533 207872448 : r2 = ( x04 - x06 );
4534 207872448 : t = ( ( r1 - r3 ) * FFT_C54 );
4535 207872448 : r1 = ( r1 + r3 );
4536 207872448 : y00 = ( x00 + r1 );
4537 207872448 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4538 207872448 : r3 = ( r1 - t );
4539 207872448 : r1 = ( r1 + t );
4540 207872448 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4541 207872448 : r4 = ( t + ( r4 * FFT_C52 ) );
4542 207872448 : r2 = ( t + ( r2 * FFT_C53 ) );
4543 :
4544 207872448 : s1 = ( x03 + x09 );
4545 207872448 : s4 = ( x03 - x09 );
4546 207872448 : s3 = ( x05 + x07 );
4547 207872448 : s2 = ( x05 - x07 );
4548 207872448 : t = ( ( s1 - s3 ) * FFT_C54 );
4549 207872448 : s1 = ( s1 + s3 );
4550 207872448 : y01 = ( x01 + s1 );
4551 207872448 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4552 207872448 : s3 = ( s1 - t );
4553 207872448 : s1 = ( s1 + t );
4554 207872448 : t = ( ( s4 + s2 ) * FFT_C51 );
4555 207872448 : s4 = ( t + ( s4 * FFT_C52 ) );
4556 207872448 : s2 = ( t + ( s2 * FFT_C53 ) );
4557 :
4558 207872448 : y02 = ( r1 + s2 );
4559 207872448 : y08 = ( r1 - s2 );
4560 207872448 : y04 = ( r3 - s4 );
4561 207872448 : y06 = ( r3 + s4 );
4562 :
4563 207872448 : y03 = ( s1 - r2 );
4564 207872448 : y09 = ( s1 + r2 );
4565 207872448 : y05 = ( s3 + r4 );
4566 207872448 : y07 = ( s3 - r4 );
4567 :
4568 207872448 : r1 = ( x12 + x18 );
4569 207872448 : r4 = ( x12 - x18 );
4570 207872448 : r3 = ( x14 + x16 );
4571 207872448 : r2 = ( x14 - x16 );
4572 207872448 : t = ( ( r1 - r3 ) * FFT_C54 );
4573 207872448 : r1 = ( r1 + r3 );
4574 207872448 : y10 = ( x10 + r1 );
4575 207872448 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4576 207872448 : r3 = ( r1 - t );
4577 207872448 : r1 = ( r1 + t );
4578 207872448 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4579 207872448 : r4 = ( t + ( r4 * FFT_C52 ) );
4580 207872448 : r2 = ( t + ( r2 * FFT_C53 ) );
4581 :
4582 207872448 : s1 = ( x13 + x19 );
4583 207872448 : s4 = ( x13 - x19 );
4584 207872448 : s3 = ( x15 + x17 );
4585 207872448 : s2 = ( x15 - x17 );
4586 207872448 : t = ( ( s1 - s3 ) * FFT_C54 );
4587 207872448 : s1 = ( s1 + s3 );
4588 207872448 : y11 = ( x11 + s1 );
4589 207872448 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4590 207872448 : s3 = ( s1 - t );
4591 207872448 : s1 = ( s1 + t );
4592 207872448 : t = ( ( s4 + s2 ) * FFT_C51 );
4593 207872448 : s4 = ( t + ( s4 * FFT_C52 ) );
4594 207872448 : s2 = ( t + ( s2 * FFT_C53 ) );
4595 :
4596 207872448 : y12 = ( r1 + s2 );
4597 207872448 : y18 = ( r1 - s2 );
4598 207872448 : y14 = ( r3 - s4 );
4599 207872448 : y16 = ( r3 + s4 );
4600 :
4601 207872448 : y13 = ( s1 - r2 );
4602 207872448 : y19 = ( s1 + r2 );
4603 207872448 : y15 = ( s3 + r4 );
4604 207872448 : y17 = ( s3 - r4 );
4605 :
4606 207872448 : r1 = ( x22 + x28 );
4607 207872448 : r4 = ( x22 - x28 );
4608 207872448 : r3 = ( x24 + x26 );
4609 207872448 : r2 = ( x24 - x26 );
4610 207872448 : t = ( ( r1 - r3 ) * FFT_C54 );
4611 207872448 : r1 = ( r1 + r3 );
4612 207872448 : y20 = ( x20 + r1 );
4613 207872448 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4614 207872448 : r3 = ( r1 - t );
4615 207872448 : r1 = ( r1 + t );
4616 207872448 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4617 207872448 : r4 = ( t + ( r4 * FFT_C52 ) );
4618 207872448 : r2 = ( t + ( r2 * FFT_C53 ) );
4619 :
4620 207872448 : s1 = ( x23 + x29 );
4621 207872448 : s4 = ( x23 - x29 );
4622 207872448 : s3 = ( x25 + x27 );
4623 207872448 : s2 = ( x25 - x27 );
4624 207872448 : t = ( ( s1 - s3 ) * FFT_C54 );
4625 207872448 : s1 = ( s1 + s3 );
4626 207872448 : y21 = ( x21 + s1 );
4627 207872448 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4628 207872448 : s3 = ( s1 - t );
4629 207872448 : s1 = ( s1 + t );
4630 207872448 : t = ( ( s4 + s2 ) * FFT_C51 );
4631 207872448 : s4 = ( t + ( s4 * FFT_C52 ) );
4632 207872448 : s2 = ( t + ( s2 * FFT_C53 ) );
4633 :
4634 207872448 : y22 = ( r1 + s2 );
4635 207872448 : y28 = ( r1 - s2 );
4636 207872448 : y24 = ( r3 - s4 );
4637 207872448 : y26 = ( r3 + s4 );
4638 :
4639 207872448 : y23 = ( s1 - r2 );
4640 207872448 : y29 = ( s1 + r2 );
4641 207872448 : y25 = ( s3 + r4 );
4642 207872448 : y27 = ( s3 - r4 );
4643 :
4644 207872448 : r1 = ( y10 + y20 );
4645 207872448 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4646 207872448 : z00 = ( y00 + r1 );
4647 207872448 : r1 = ( y00 - r1 * 0.5f );
4648 :
4649 207872448 : s1 = ( y11 + y21 );
4650 207872448 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4651 207872448 : z01 = ( y01 + s1 );
4652 207872448 : s1 = ( y01 - s1 * 0.5f );
4653 :
4654 207872448 : z20 = ( r1 - s2 );
4655 207872448 : z10 = ( r1 + s2 );
4656 207872448 : z21 = ( s1 + r2 );
4657 207872448 : z11 = ( s1 - r2 );
4658 :
4659 207872448 : r1 = ( y12 + y22 );
4660 207872448 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4661 207872448 : z12 = ( y02 + r1 );
4662 207872448 : r1 = ( y02 - r1 * 0.5f );
4663 :
4664 207872448 : s1 = ( y13 + y23 );
4665 207872448 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4666 207872448 : z13 = ( y03 + s1 );
4667 207872448 : s1 = ( y03 - s1 * 0.5f );
4668 :
4669 207872448 : z02 = ( r1 - s2 );
4670 207872448 : z22 = ( r1 + s2 );
4671 207872448 : z03 = ( s1 + r2 );
4672 207872448 : z23 = ( s1 - r2 );
4673 :
4674 207872448 : r1 = ( y14 + y24 );
4675 207872448 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4676 207872448 : z24 = ( y04 + r1 );
4677 207872448 : r1 = ( y04 - r1 * 0.5f );
4678 :
4679 207872448 : s1 = ( y15 + y25 );
4680 207872448 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4681 207872448 : z25 = ( y05 + s1 );
4682 207872448 : s1 = ( y05 - s1 * 0.5f );
4683 :
4684 207872448 : z14 = ( r1 - s2 );
4685 207872448 : z04 = ( r1 + s2 );
4686 207872448 : z15 = ( s1 + r2 );
4687 207872448 : z05 = ( s1 - r2 );
4688 :
4689 207872448 : r1 = ( y16 + y26 );
4690 207872448 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4691 207872448 : z06 = ( y06 + r1 );
4692 207872448 : r1 = ( y06 - r1 * 0.5f );
4693 :
4694 207872448 : s1 = ( y17 + y27 );
4695 207872448 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4696 207872448 : z07 = ( y07 + s1 );
4697 207872448 : s1 = ( y07 - s1 * 0.5f );
4698 :
4699 207872448 : z26 = ( r1 - s2 );
4700 207872448 : z16 = ( r1 + s2 );
4701 207872448 : z27 = ( s1 + r2 );
4702 207872448 : z17 = ( s1 - r2 );
4703 :
4704 207872448 : r1 = ( y18 + y28 );
4705 207872448 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4706 207872448 : z18 = ( y08 + r1 );
4707 207872448 : r1 = ( y08 - r1 * 0.5f );
4708 :
4709 207872448 : s1 = ( y19 + y29 );
4710 207872448 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4711 207872448 : z19 = ( y09 + s1 );
4712 207872448 : s1 = ( y09 - s1 * 0.5f );
4713 :
4714 207872448 : z08 = ( r1 - s2 );
4715 207872448 : z28 = ( r1 + s2 );
4716 207872448 : z09 = ( s1 + r2 );
4717 207872448 : z29 = ( s1 - r2 );
4718 :
4719 207872448 : x00 = re[s * 15];
4720 207872448 : x01 = im[s * 15];
4721 207872448 : x02 = re[s * 3];
4722 207872448 : x03 = im[s * 3];
4723 207872448 : x04 = re[s * 21];
4724 207872448 : x05 = im[s * 21];
4725 207872448 : x06 = re[s * 9];
4726 207872448 : x07 = im[s * 9];
4727 207872448 : x08 = re[s * 27];
4728 207872448 : x09 = im[s * 27];
4729 :
4730 207872448 : x10 = re[s * 5];
4731 207872448 : x11 = im[s * 5];
4732 207872448 : x12 = re[s * 23];
4733 207872448 : x13 = im[s * 23];
4734 207872448 : x14 = re[s * 11];
4735 207872448 : x15 = im[s * 11];
4736 207872448 : x16 = re[s * 29];
4737 207872448 : x17 = im[s * 29];
4738 207872448 : x18 = re[s * 17];
4739 207872448 : x19 = im[s * 17];
4740 :
4741 207872448 : x20 = re[s * 25];
4742 207872448 : x21 = im[s * 25];
4743 207872448 : x22 = re[s * 13];
4744 207872448 : x23 = im[s * 13];
4745 207872448 : x24 = re[s * 1];
4746 207872448 : x25 = im[s * 1];
4747 207872448 : x26 = re[s * 19];
4748 207872448 : x27 = im[s * 19];
4749 207872448 : x28 = re[s * 7];
4750 207872448 : x29 = im[s * 7];
4751 :
4752 207872448 : r1 = ( x02 + x08 );
4753 207872448 : r4 = ( x02 - x08 );
4754 207872448 : r3 = ( x04 + x06 );
4755 207872448 : r2 = ( x04 - x06 );
4756 207872448 : t = ( ( r1 - r3 ) * FFT_C54 );
4757 207872448 : r1 = ( r1 + r3 );
4758 207872448 : y00 = ( x00 + r1 );
4759 207872448 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4760 207872448 : r3 = ( r1 - t );
4761 207872448 : r1 = ( r1 + t );
4762 207872448 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4763 207872448 : r4 = ( t + ( r4 * FFT_C52 ) );
4764 207872448 : r2 = ( t + ( r2 * FFT_C53 ) );
4765 :
4766 207872448 : s1 = ( x03 + x09 );
4767 207872448 : s4 = ( x03 - x09 );
4768 207872448 : s3 = ( x05 + x07 );
4769 207872448 : s2 = ( x05 - x07 );
4770 207872448 : t = ( ( s1 - s3 ) * FFT_C54 );
4771 207872448 : s1 = ( s1 + s3 );
4772 207872448 : y01 = ( x01 + s1 );
4773 207872448 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4774 207872448 : s3 = ( s1 - t );
4775 207872448 : s1 = ( s1 + t );
4776 207872448 : t = ( ( s4 + s2 ) * FFT_C51 );
4777 207872448 : s4 = ( t + ( s4 * FFT_C52 ) );
4778 207872448 : s2 = ( t + ( s2 * FFT_C53 ) );
4779 :
4780 207872448 : y02 = ( r1 + s2 );
4781 207872448 : y08 = ( r1 - s2 );
4782 207872448 : y04 = ( r3 - s4 );
4783 207872448 : y06 = ( r3 + s4 );
4784 :
4785 207872448 : y03 = ( s1 - r2 );
4786 207872448 : y09 = ( s1 + r2 );
4787 207872448 : y05 = ( s3 + r4 );
4788 207872448 : y07 = ( s3 - r4 );
4789 :
4790 207872448 : r1 = ( x12 + x18 );
4791 207872448 : r4 = ( x12 - x18 );
4792 207872448 : r3 = ( x14 + x16 );
4793 207872448 : r2 = ( x14 - x16 );
4794 207872448 : t = ( ( r1 - r3 ) * FFT_C54 );
4795 207872448 : r1 = ( r1 + r3 );
4796 207872448 : y10 = ( x10 + r1 );
4797 207872448 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4798 207872448 : r3 = ( r1 - t );
4799 207872448 : r1 = ( r1 + t );
4800 207872448 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4801 207872448 : r4 = ( t + ( r4 * FFT_C52 ) );
4802 207872448 : r2 = ( t + ( r2 * FFT_C53 ) );
4803 :
4804 207872448 : s1 = ( x13 + x19 );
4805 207872448 : s4 = ( x13 - x19 );
4806 207872448 : s3 = ( x15 + x17 );
4807 207872448 : s2 = ( x15 - x17 );
4808 207872448 : t = ( ( s1 - s3 ) * FFT_C54 );
4809 207872448 : s1 = ( s1 + s3 );
4810 207872448 : y11 = ( x11 + s1 );
4811 207872448 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4812 207872448 : s3 = ( s1 - t );
4813 207872448 : s1 = ( s1 + t );
4814 207872448 : t = ( ( s4 + s2 ) * FFT_C51 );
4815 207872448 : s4 = ( t + ( s4 * FFT_C52 ) );
4816 207872448 : s2 = ( t + ( s2 * FFT_C53 ) );
4817 :
4818 207872448 : y12 = ( r1 + s2 );
4819 207872448 : y18 = ( r1 - s2 );
4820 207872448 : y14 = ( r3 - s4 );
4821 207872448 : y16 = ( r3 + s4 );
4822 :
4823 207872448 : y13 = ( s1 - r2 );
4824 207872448 : y19 = ( s1 + r2 );
4825 207872448 : y15 = ( s3 + r4 );
4826 207872448 : y17 = ( s3 - r4 );
4827 :
4828 207872448 : r1 = ( x22 + x28 );
4829 207872448 : r4 = ( x22 - x28 );
4830 207872448 : r3 = ( x24 + x26 );
4831 207872448 : r2 = ( x24 - x26 );
4832 207872448 : t = ( ( r1 - r3 ) * FFT_C54 );
4833 207872448 : r1 = ( r1 + r3 );
4834 207872448 : y20 = ( x20 + r1 );
4835 207872448 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4836 207872448 : r3 = ( r1 - t );
4837 207872448 : r1 = ( r1 + t );
4838 207872448 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4839 207872448 : r4 = ( t + ( r4 * FFT_C52 ) );
4840 207872448 : r2 = ( t + ( r2 * FFT_C53 ) );
4841 :
4842 207872448 : s1 = ( x23 + x29 );
4843 207872448 : s4 = ( x23 - x29 );
4844 207872448 : s3 = ( x25 + x27 );
4845 207872448 : s2 = ( x25 - x27 );
4846 207872448 : t = ( ( s1 - s3 ) * FFT_C54 );
4847 207872448 : s1 = ( s1 + s3 );
4848 207872448 : y21 = ( x21 + s1 );
4849 207872448 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4850 207872448 : s3 = ( s1 - t );
4851 207872448 : s1 = ( s1 + t );
4852 207872448 : t = ( ( s4 + s2 ) * FFT_C51 );
4853 207872448 : s4 = ( t + ( s4 * FFT_C52 ) );
4854 207872448 : s2 = ( t + ( s2 * FFT_C53 ) );
4855 :
4856 207872448 : y22 = ( r1 + s2 );
4857 207872448 : y28 = ( r1 - s2 );
4858 207872448 : y24 = ( r3 - s4 );
4859 207872448 : y26 = ( r3 + s4 );
4860 :
4861 207872448 : y23 = ( s1 - r2 );
4862 207872448 : y29 = ( s1 + r2 );
4863 207872448 : y25 = ( s3 + r4 );
4864 207872448 : y27 = ( s3 - r4 );
4865 :
4866 207872448 : r1 = ( y10 + y20 );
4867 207872448 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4868 207872448 : z30 = ( y00 + r1 );
4869 207872448 : r1 = ( y00 - r1 * 0.5f );
4870 :
4871 207872448 : s1 = ( y11 + y21 );
4872 207872448 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4873 207872448 : z31 = ( y01 + s1 );
4874 207872448 : s1 = ( y01 - s1 * 0.5f );
4875 :
4876 207872448 : z50 = ( r1 - s2 );
4877 207872448 : z40 = ( r1 + s2 );
4878 207872448 : z51 = ( s1 + r2 );
4879 207872448 : z41 = ( s1 - r2 );
4880 :
4881 207872448 : r1 = ( y12 + y22 );
4882 207872448 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4883 207872448 : z42 = ( y02 + r1 );
4884 207872448 : r1 = ( y02 - r1 * 0.5f );
4885 :
4886 207872448 : s1 = ( y13 + y23 );
4887 207872448 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4888 207872448 : z43 = ( y03 + s1 );
4889 207872448 : s1 = ( y03 - s1 * 0.5f );
4890 :
4891 207872448 : z32 = ( r1 - s2 );
4892 207872448 : z52 = ( r1 + s2 );
4893 207872448 : z33 = ( s1 + r2 );
4894 207872448 : z53 = ( s1 - r2 );
4895 :
4896 207872448 : r1 = ( y14 + y24 );
4897 207872448 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4898 207872448 : z54 = ( y04 + r1 );
4899 207872448 : r1 = ( y04 - r1 * 0.5f );
4900 :
4901 207872448 : s1 = ( y15 + y25 );
4902 207872448 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4903 207872448 : z55 = ( y05 + s1 );
4904 207872448 : s1 = ( y05 - s1 * 0.5f );
4905 :
4906 207872448 : z44 = ( r1 - s2 );
4907 207872448 : z34 = ( r1 + s2 );
4908 207872448 : z45 = ( s1 + r2 );
4909 207872448 : z35 = ( s1 - r2 );
4910 :
4911 207872448 : r1 = ( y16 + y26 );
4912 207872448 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4913 207872448 : z36 = ( y06 + r1 );
4914 207872448 : r1 = ( y06 - r1 * 0.5f );
4915 :
4916 207872448 : s1 = ( y17 + y27 );
4917 207872448 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4918 207872448 : z37 = ( y07 + s1 );
4919 207872448 : s1 = ( y07 - s1 * 0.5f );
4920 :
4921 207872448 : z56 = ( r1 - s2 );
4922 207872448 : z46 = ( r1 + s2 );
4923 207872448 : z57 = ( s1 + r2 );
4924 207872448 : z47 = ( s1 - r2 );
4925 :
4926 207872448 : r1 = ( y18 + y28 );
4927 207872448 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4928 207872448 : z48 = ( y08 + r1 );
4929 207872448 : r1 = ( y08 - r1 * 0.5f );
4930 :
4931 207872448 : s1 = ( y19 + y29 );
4932 207872448 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4933 207872448 : z49 = ( y09 + s1 );
4934 207872448 : s1 = ( y09 - s1 * 0.5f );
4935 :
4936 207872448 : z38 = ( r1 - s2 );
4937 207872448 : z58 = ( r1 + s2 );
4938 207872448 : z39 = ( s1 + r2 );
4939 207872448 : z59 = ( s1 - r2 );
4940 :
4941 207872448 : r1 = z00;
4942 207872448 : r2 = z30;
4943 207872448 : r3 = z01;
4944 207872448 : r4 = z31;
4945 207872448 : *rel = ( r1 + r2 );
4946 207872448 : *reh = ( r1 - r2 );
4947 207872448 : *iml = ( r3 + r4 );
4948 207872448 : *imh = ( r3 - r4 );
4949 207872448 : rel += s, reh += s, iml += s;
4950 207872448 : imh += s;
4951 :
4952 207872448 : r1 = z16;
4953 207872448 : r2 = z46;
4954 207872448 : r3 = z17;
4955 207872448 : r4 = z47;
4956 207872448 : *reh = ( r1 + r2 );
4957 207872448 : *rel = ( r1 - r2 );
4958 207872448 : *imh = ( r3 + r4 );
4959 207872448 : *iml = ( r3 - r4 );
4960 207872448 : rel += s, reh += s, iml += s;
4961 207872448 : imh += s;
4962 :
4963 207872448 : r1 = z02;
4964 207872448 : r2 = z32;
4965 207872448 : r3 = z03;
4966 207872448 : r4 = z33;
4967 207872448 : *rel = ( r1 + r2 );
4968 207872448 : *reh = ( r1 - r2 );
4969 207872448 : *iml = ( r3 + r4 );
4970 207872448 : *imh = ( r3 - r4 );
4971 207872448 : rel += s, reh += s, iml += s;
4972 207872448 : imh += s;
4973 :
4974 207872448 : r1 = z18;
4975 207872448 : r2 = z48;
4976 207872448 : r3 = z19;
4977 207872448 : r4 = z49;
4978 207872448 : *reh = ( r1 + r2 );
4979 207872448 : *rel = ( r1 - r2 );
4980 207872448 : *imh = ( r3 + r4 );
4981 207872448 : *iml = ( r3 - r4 );
4982 207872448 : rel += s, reh += s, iml += s;
4983 207872448 : imh += s;
4984 :
4985 207872448 : r1 = z04;
4986 207872448 : r2 = z34;
4987 207872448 : r3 = z05;
4988 207872448 : r4 = z35;
4989 207872448 : *rel = ( r1 + r2 );
4990 207872448 : *reh = ( r1 - r2 );
4991 207872448 : *iml = ( r3 + r4 );
4992 207872448 : *imh = ( r3 - r4 );
4993 207872448 : rel += s, reh += s, iml += s;
4994 207872448 : imh += s;
4995 :
4996 207872448 : r1 = z20;
4997 207872448 : r2 = z50;
4998 207872448 : r3 = z21;
4999 207872448 : r4 = z51;
5000 207872448 : *reh = ( r1 + r2 );
5001 207872448 : *rel = ( r1 - r2 );
5002 207872448 : *imh = ( r3 + r4 );
5003 207872448 : *iml = ( r3 - r4 );
5004 207872448 : rel += s, reh += s, iml += s;
5005 207872448 : imh += s;
5006 :
5007 207872448 : r1 = z06;
5008 207872448 : r2 = z36;
5009 207872448 : r3 = z07;
5010 207872448 : r4 = z37;
5011 207872448 : *rel = ( r1 + r2 );
5012 207872448 : *reh = ( r1 - r2 );
5013 207872448 : *iml = ( r3 + r4 );
5014 207872448 : *imh = ( r3 - r4 );
5015 207872448 : rel += s, reh += s, iml += s;
5016 207872448 : imh += s;
5017 :
5018 207872448 : r1 = z22;
5019 207872448 : r2 = z52;
5020 207872448 : r3 = z23;
5021 207872448 : r4 = z53;
5022 207872448 : *reh = ( r1 + r2 );
5023 207872448 : *rel = ( r1 - r2 );
5024 207872448 : *imh = ( r3 + r4 );
5025 207872448 : *iml = ( r3 - r4 );
5026 207872448 : rel += s, reh += s, iml += s;
5027 207872448 : imh += s;
5028 :
5029 207872448 : r1 = z08;
5030 207872448 : r2 = z38;
5031 207872448 : r3 = z09;
5032 207872448 : r4 = z39;
5033 207872448 : *rel = ( r1 + r2 );
5034 207872448 : *reh = ( r1 - r2 );
5035 207872448 : *iml = ( r3 + r4 );
5036 207872448 : *imh = ( r3 - r4 );
5037 207872448 : rel += s, reh += s, iml += s;
5038 207872448 : imh += s;
5039 :
5040 207872448 : r1 = z24;
5041 207872448 : r2 = z54;
5042 207872448 : r3 = z25;
5043 207872448 : r4 = z55;
5044 207872448 : *reh = ( r1 + r2 );
5045 207872448 : *rel = ( r1 - r2 );
5046 207872448 : *imh = ( r3 + r4 );
5047 207872448 : *iml = ( r3 - r4 );
5048 207872448 : rel += s, reh += s, iml += s;
5049 207872448 : imh += s;
5050 :
5051 207872448 : r1 = z10;
5052 207872448 : r2 = z40;
5053 207872448 : r3 = z11;
5054 207872448 : r4 = z41;
5055 207872448 : *rel = ( r1 + r2 );
5056 207872448 : *reh = ( r1 - r2 );
5057 207872448 : *iml = ( r3 + r4 );
5058 207872448 : *imh = ( r3 - r4 );
5059 207872448 : rel += s, reh += s, iml += s;
5060 207872448 : imh += s;
5061 :
5062 207872448 : r1 = z26;
5063 207872448 : r2 = z56;
5064 207872448 : r3 = z27;
5065 207872448 : r4 = z57;
5066 207872448 : *reh = ( r1 + r2 );
5067 207872448 : *rel = ( r1 - r2 );
5068 207872448 : *imh = ( r3 + r4 );
5069 207872448 : *iml = ( r3 - r4 );
5070 207872448 : rel += s, reh += s, iml += s;
5071 207872448 : imh += s;
5072 :
5073 207872448 : r1 = z12;
5074 207872448 : r2 = z42;
5075 207872448 : r3 = z13;
5076 207872448 : r4 = z43;
5077 207872448 : *rel = ( r1 + r2 );
5078 207872448 : *reh = ( r1 - r2 );
5079 207872448 : *iml = ( r3 + r4 );
5080 207872448 : *imh = ( r3 - r4 );
5081 207872448 : rel += s, reh += s, iml += s;
5082 207872448 : imh += s;
5083 :
5084 207872448 : r1 = z28;
5085 207872448 : r2 = z58;
5086 207872448 : r3 = z29;
5087 207872448 : r4 = z59;
5088 207872448 : *reh = ( r1 + r2 );
5089 207872448 : *rel = ( r1 - r2 );
5090 207872448 : *imh = ( r3 + r4 );
5091 207872448 : *iml = ( r3 - r4 );
5092 207872448 : rel += s, reh += s, iml += s;
5093 207872448 : imh += s;
5094 :
5095 207872448 : r1 = z14;
5096 207872448 : r2 = z44;
5097 207872448 : r3 = z15;
5098 207872448 : r4 = z45;
5099 207872448 : *rel = ( r1 + r2 );
5100 207872448 : *reh = ( r1 - r2 );
5101 207872448 : *iml = ( r3 + r4 );
5102 207872448 : *imh = ( r3 - r4 );
5103 207872448 : rel += s, reh += s, iml += s;
5104 207872448 : imh += s;
5105 :
5106 207872448 : return;
5107 : }
5108 :
5109 31934446 : static void fft_len32(
5110 : float *re,
5111 : float *im,
5112 : const int16_t s )
5113 : {
5114 : float as, bs;
5115 : float x00, x01, x02, x03, x04, x05, x06, x07;
5116 : float x08, x09, x10, x11, x12, x13, x14, x15;
5117 : float t00, t01, t02, t03, t04, t05, t06, t07;
5118 : float t08, t09, t10, t11, t12, t13, t14, t15;
5119 : float s00, s01, s02, s03, s04, s05, s06, s07;
5120 : float s08, s09, s10, s11, s12, s13, s14, s15;
5121 :
5122 : float y00, y01, y02, y03, y04, y05, y06, y07;
5123 : float y08, y09, y10, y11, y12, y13, y14, y15;
5124 : float y16, y17, y18, y19, y20, y21, y22, y23;
5125 : float y24, y25, y26, y27, y28, y29, y30, y31;
5126 : float y32, y33, y34, y35, y36, y37, y38, y39;
5127 : float y40, y41, y42, y43, y44, y45, y46, y47;
5128 : float y48, y49, y50, y51, y52, y53, y54, y55;
5129 : float y56, y57, y58, y59, y60, y61, y62, y63;
5130 :
5131 31934446 : x00 = re[s * 0];
5132 31934446 : x01 = im[s * 0];
5133 31934446 : x02 = re[s * 4];
5134 31934446 : x03 = im[s * 4];
5135 31934446 : x04 = re[s * 8];
5136 31934446 : x05 = im[s * 8];
5137 31934446 : x06 = re[s * 12];
5138 31934446 : x07 = im[s * 12];
5139 31934446 : x08 = re[s * 16];
5140 31934446 : x09 = im[s * 16];
5141 31934446 : x10 = re[s * 20];
5142 31934446 : x11 = im[s * 20];
5143 31934446 : x12 = re[s * 24];
5144 31934446 : x13 = im[s * 24];
5145 31934446 : x14 = re[s * 28];
5146 31934446 : x15 = im[s * 28];
5147 :
5148 31934446 : t00 = ( x00 + x08 );
5149 31934446 : t02 = ( x00 - x08 );
5150 31934446 : t01 = ( x01 + x09 );
5151 31934446 : t03 = ( x01 - x09 );
5152 31934446 : t04 = ( x02 + x10 );
5153 31934446 : t06 = ( x02 - x10 );
5154 31934446 : t05 = ( x03 + x11 );
5155 31934446 : t07 = ( x03 - x11 );
5156 31934446 : t08 = ( x04 + x12 );
5157 31934446 : t10 = ( x04 - x12 );
5158 31934446 : t09 = ( x05 + x13 );
5159 31934446 : t11 = ( x05 - x13 );
5160 31934446 : t12 = ( x06 + x14 );
5161 31934446 : t14 = ( x06 - x14 );
5162 31934446 : t13 = ( x07 + x15 );
5163 31934446 : t15 = ( x07 - x15 );
5164 :
5165 31934446 : s00 = ( t00 + t08 );
5166 31934446 : s04 = ( t00 - t08 );
5167 31934446 : s01 = ( t01 + t09 );
5168 31934446 : s05 = ( t01 - t09 );
5169 31934446 : s08 = ( t02 - t11 );
5170 31934446 : s10 = ( t02 + t11 );
5171 31934446 : s09 = ( t03 + t10 );
5172 31934446 : s11 = ( t03 - t10 );
5173 31934446 : s02 = ( t04 + t12 );
5174 31934446 : s07 = ( t04 - t12 );
5175 31934446 : s03 = ( t05 + t13 );
5176 31934446 : s06 = ( t13 - t05 );
5177 31934446 : t01 = ( t06 + t14 );
5178 31934446 : t02 = ( t06 - t14 );
5179 31934446 : t00 = ( t07 + t15 );
5180 31934446 : t03 = ( t07 - t15 );
5181 :
5182 : {
5183 31934446 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5184 31934446 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5185 31934446 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5186 31934446 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5187 : };
5188 :
5189 31934446 : y00 = ( s00 + s02 );
5190 31934446 : y08 = ( s00 - s02 );
5191 31934446 : y01 = ( s01 + s03 );
5192 31934446 : y09 = ( s01 - s03 );
5193 31934446 : y04 = ( s04 - s06 );
5194 31934446 : y12 = ( s04 + s06 );
5195 31934446 : y05 = ( s05 - s07 );
5196 31934446 : y13 = ( s05 + s07 );
5197 31934446 : y06 = ( s08 + s14 );
5198 31934446 : y14 = ( s08 - s14 );
5199 31934446 : y07 = ( s09 + s15 );
5200 31934446 : y15 = ( s09 - s15 );
5201 31934446 : y02 = ( s10 + s12 );
5202 31934446 : y10 = ( s10 - s12 );
5203 31934446 : y03 = ( s11 + s13 );
5204 31934446 : y11 = ( s11 - s13 );
5205 :
5206 31934446 : x00 = re[s * 1];
5207 31934446 : x01 = im[s * 1];
5208 31934446 : x02 = re[s * 5];
5209 31934446 : x03 = im[s * 5];
5210 31934446 : x04 = re[s * 9];
5211 31934446 : x05 = im[s * 9];
5212 31934446 : x06 = re[s * 13];
5213 31934446 : x07 = im[s * 13];
5214 31934446 : x08 = re[s * 17];
5215 31934446 : x09 = im[s * 17];
5216 31934446 : x10 = re[s * 21];
5217 31934446 : x11 = im[s * 21];
5218 31934446 : x12 = re[s * 25];
5219 31934446 : x13 = im[s * 25];
5220 31934446 : x14 = re[s * 29];
5221 31934446 : x15 = im[s * 29];
5222 :
5223 31934446 : t00 = ( x00 + x08 );
5224 31934446 : t02 = ( x00 - x08 );
5225 31934446 : t01 = ( x01 + x09 );
5226 31934446 : t03 = ( x01 - x09 );
5227 31934446 : t04 = ( x02 + x10 );
5228 31934446 : t06 = ( x02 - x10 );
5229 31934446 : t05 = ( x03 + x11 );
5230 31934446 : t07 = ( x03 - x11 );
5231 31934446 : t08 = ( x04 + x12 );
5232 31934446 : t10 = ( x04 - x12 );
5233 31934446 : t09 = ( x05 + x13 );
5234 31934446 : t11 = ( x05 - x13 );
5235 31934446 : t12 = ( x06 + x14 );
5236 31934446 : t14 = ( x06 - x14 );
5237 31934446 : t13 = ( x07 + x15 );
5238 31934446 : t15 = ( x07 - x15 );
5239 :
5240 31934446 : s00 = ( t00 + t08 );
5241 31934446 : s04 = ( t00 - t08 );
5242 31934446 : s01 = ( t01 + t09 );
5243 31934446 : s05 = ( t01 - t09 );
5244 31934446 : s08 = ( t02 - t11 );
5245 31934446 : s10 = ( t02 + t11 );
5246 31934446 : s09 = ( t03 + t10 );
5247 31934446 : s11 = ( t03 - t10 );
5248 31934446 : s02 = ( t04 + t12 );
5249 31934446 : s07 = ( t04 - t12 );
5250 31934446 : s03 = ( t05 + t13 );
5251 31934446 : s06 = ( t13 - t05 );
5252 31934446 : t01 = ( t06 + t14 );
5253 31934446 : t02 = ( t06 - t14 );
5254 31934446 : t00 = ( t07 + t15 );
5255 31934446 : t03 = ( t07 - t15 );
5256 :
5257 : {
5258 31934446 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5259 31934446 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5260 31934446 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5261 31934446 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5262 : };
5263 :
5264 31934446 : y16 = ( s00 + s02 );
5265 31934446 : y24 = ( s00 - s02 );
5266 31934446 : y17 = ( s01 + s03 );
5267 31934446 : y25 = ( s01 - s03 );
5268 31934446 : y20 = ( s04 - s06 );
5269 31934446 : y28 = ( s04 + s06 );
5270 31934446 : y21 = ( s05 - s07 );
5271 31934446 : y29 = ( s05 + s07 );
5272 31934446 : y22 = ( s08 + s14 );
5273 31934446 : y30 = ( s08 - s14 );
5274 31934446 : y23 = ( s09 + s15 );
5275 31934446 : y31 = ( s09 - s15 );
5276 31934446 : y18 = ( s10 + s12 );
5277 31934446 : y26 = ( s10 - s12 );
5278 31934446 : y19 = ( s11 + s13 );
5279 31934446 : y27 = ( s11 - s13 );
5280 :
5281 31934446 : x00 = re[s * 2];
5282 31934446 : x01 = im[s * 2];
5283 31934446 : x02 = re[s * 6];
5284 31934446 : x03 = im[s * 6];
5285 31934446 : x04 = re[s * 10];
5286 31934446 : x05 = im[s * 10];
5287 31934446 : x06 = re[s * 14];
5288 31934446 : x07 = im[s * 14];
5289 31934446 : x08 = re[s * 18];
5290 31934446 : x09 = im[s * 18];
5291 31934446 : x10 = re[s * 22];
5292 31934446 : x11 = im[s * 22];
5293 31934446 : x12 = re[s * 26];
5294 31934446 : x13 = im[s * 26];
5295 31934446 : x14 = re[s * 30];
5296 31934446 : x15 = im[s * 30];
5297 :
5298 31934446 : t00 = ( x00 + x08 );
5299 31934446 : t02 = ( x00 - x08 );
5300 31934446 : t01 = ( x01 + x09 );
5301 31934446 : t03 = ( x01 - x09 );
5302 31934446 : t04 = ( x02 + x10 );
5303 31934446 : t06 = ( x02 - x10 );
5304 31934446 : t05 = ( x03 + x11 );
5305 31934446 : t07 = ( x03 - x11 );
5306 31934446 : t08 = ( x04 + x12 );
5307 31934446 : t10 = ( x04 - x12 );
5308 31934446 : t09 = ( x05 + x13 );
5309 31934446 : t11 = ( x05 - x13 );
5310 31934446 : t12 = ( x06 + x14 );
5311 31934446 : t14 = ( x06 - x14 );
5312 31934446 : t13 = ( x07 + x15 );
5313 31934446 : t15 = ( x07 - x15 );
5314 :
5315 31934446 : s00 = ( t00 + t08 );
5316 31934446 : s04 = ( t00 - t08 );
5317 31934446 : s01 = ( t01 + t09 );
5318 31934446 : s05 = ( t01 - t09 );
5319 31934446 : s08 = ( t02 - t11 );
5320 31934446 : s10 = ( t02 + t11 );
5321 31934446 : s09 = ( t03 + t10 );
5322 31934446 : s11 = ( t03 - t10 );
5323 31934446 : s02 = ( t04 + t12 );
5324 31934446 : s07 = ( t04 - t12 );
5325 31934446 : s03 = ( t05 + t13 );
5326 31934446 : s06 = ( t13 - t05 );
5327 31934446 : t01 = ( t06 + t14 );
5328 31934446 : t02 = ( t06 - t14 );
5329 31934446 : t00 = ( t07 + t15 );
5330 31934446 : t03 = ( t07 - t15 );
5331 :
5332 : {
5333 31934446 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5334 31934446 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5335 31934446 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5336 31934446 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5337 : };
5338 :
5339 31934446 : y32 = ( s00 + s02 );
5340 31934446 : y40 = ( s00 - s02 );
5341 31934446 : y33 = ( s01 + s03 );
5342 31934446 : y41 = ( s01 - s03 );
5343 31934446 : y36 = ( s04 - s06 );
5344 31934446 : y44 = ( s04 + s06 );
5345 31934446 : y37 = ( s05 - s07 );
5346 31934446 : y45 = ( s05 + s07 );
5347 31934446 : y38 = ( s08 + s14 );
5348 31934446 : y46 = ( s08 - s14 );
5349 31934446 : y39 = ( s09 + s15 );
5350 31934446 : y47 = ( s09 - s15 );
5351 31934446 : y34 = ( s10 + s12 );
5352 31934446 : y42 = ( s10 - s12 );
5353 31934446 : y35 = ( s11 + s13 );
5354 31934446 : y43 = ( s11 - s13 );
5355 :
5356 31934446 : x00 = re[s * 3];
5357 31934446 : x01 = im[s * 3];
5358 31934446 : x02 = re[s * 7];
5359 31934446 : x03 = im[s * 7];
5360 31934446 : x04 = re[s * 11];
5361 31934446 : x05 = im[s * 11];
5362 31934446 : x06 = re[s * 15];
5363 31934446 : x07 = im[s * 15];
5364 31934446 : x08 = re[s * 19];
5365 31934446 : x09 = im[s * 19];
5366 31934446 : x10 = re[s * 23];
5367 31934446 : x11 = im[s * 23];
5368 31934446 : x12 = re[s * 27];
5369 31934446 : x13 = im[s * 27];
5370 31934446 : x14 = re[s * 31];
5371 31934446 : x15 = im[s * 31];
5372 :
5373 31934446 : t00 = ( x00 + x08 );
5374 31934446 : t02 = ( x00 - x08 );
5375 31934446 : t01 = ( x01 + x09 );
5376 31934446 : t03 = ( x01 - x09 );
5377 31934446 : t04 = ( x02 + x10 );
5378 31934446 : t06 = ( x02 - x10 );
5379 31934446 : t05 = ( x03 + x11 );
5380 31934446 : t07 = ( x03 - x11 );
5381 31934446 : t08 = ( x04 + x12 );
5382 31934446 : t10 = ( x04 - x12 );
5383 31934446 : t09 = ( x05 + x13 );
5384 31934446 : t11 = ( x05 - x13 );
5385 31934446 : t12 = ( x06 + x14 );
5386 31934446 : t14 = ( x06 - x14 );
5387 31934446 : t13 = ( x07 + x15 );
5388 31934446 : t15 = ( x07 - x15 );
5389 :
5390 31934446 : s00 = ( t00 + t08 );
5391 31934446 : s04 = ( t00 - t08 );
5392 31934446 : s01 = ( t01 + t09 );
5393 31934446 : s05 = ( t01 - t09 );
5394 31934446 : s08 = ( t02 - t11 );
5395 31934446 : s10 = ( t02 + t11 );
5396 31934446 : s09 = ( t03 + t10 );
5397 31934446 : s11 = ( t03 - t10 );
5398 31934446 : s02 = ( t04 + t12 );
5399 31934446 : s07 = ( t04 - t12 );
5400 31934446 : s03 = ( t05 + t13 );
5401 31934446 : s06 = ( t13 - t05 );
5402 31934446 : t01 = ( t06 + t14 );
5403 31934446 : t02 = ( t06 - t14 );
5404 31934446 : t00 = ( t07 + t15 );
5405 31934446 : t03 = ( t07 - t15 );
5406 :
5407 : {
5408 31934446 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5409 31934446 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5410 31934446 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5411 31934446 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5412 : };
5413 :
5414 31934446 : y48 = ( s00 + s02 );
5415 31934446 : y56 = ( s00 - s02 );
5416 31934446 : y49 = ( s01 + s03 );
5417 31934446 : y57 = ( s01 - s03 );
5418 31934446 : y52 = ( s04 - s06 );
5419 31934446 : y60 = ( s04 + s06 );
5420 31934446 : y53 = ( s05 - s07 );
5421 31934446 : y61 = ( s05 + s07 );
5422 31934446 : y54 = ( s08 + s14 );
5423 31934446 : y62 = ( s08 - s14 );
5424 31934446 : y55 = ( s09 + s15 );
5425 31934446 : y63 = ( s09 - s15 );
5426 31934446 : y50 = ( s10 + s12 );
5427 31934446 : y58 = ( s10 - s12 );
5428 31934446 : y51 = ( s11 + s13 );
5429 31934446 : y59 = ( s11 - s13 );
5430 :
5431 :
5432 : {
5433 31934446 : as = y18;
5434 31934446 : bs = y19;
5435 31934446 : y18 = ( ( as * FFT_RotVector_32[2 * 0 + 0] ) - ( bs * FFT_RotVector_32[2 * 0 + 1] ) );
5436 31934446 : y19 = ( ( as * FFT_RotVector_32[2 * 0 + 1] ) + ( bs * FFT_RotVector_32[2 * 0 + 0] ) );
5437 : };
5438 : {
5439 31934446 : as = y20;
5440 31934446 : bs = y21;
5441 31934446 : y20 = ( ( as * FFT_RotVector_32[2 * 1 + 0] ) - ( bs * FFT_RotVector_32[2 * 1 + 1] ) );
5442 31934446 : y21 = ( ( as * FFT_RotVector_32[2 * 1 + 1] ) + ( bs * FFT_RotVector_32[2 * 1 + 0] ) );
5443 : };
5444 : {
5445 31934446 : as = y22;
5446 31934446 : bs = y23;
5447 31934446 : y22 = ( ( as * FFT_RotVector_32[2 * 2 + 0] ) - ( bs * FFT_RotVector_32[2 * 2 + 1] ) );
5448 31934446 : y23 = ( ( as * FFT_RotVector_32[2 * 2 + 1] ) + ( bs * FFT_RotVector_32[2 * 2 + 0] ) );
5449 : };
5450 : {
5451 31934446 : as = y24;
5452 31934446 : bs = y25;
5453 31934446 : y24 = ( ( as * FFT_RotVector_32[2 * 3 + 0] ) - ( bs * FFT_RotVector_32[2 * 3 + 1] ) );
5454 31934446 : y25 = ( ( as * FFT_RotVector_32[2 * 3 + 1] ) + ( bs * FFT_RotVector_32[2 * 3 + 0] ) );
5455 : };
5456 : {
5457 31934446 : as = y26;
5458 31934446 : bs = y27;
5459 31934446 : y26 = ( ( as * FFT_RotVector_32[2 * 4 + 0] ) - ( bs * FFT_RotVector_32[2 * 4 + 1] ) );
5460 31934446 : y27 = ( ( as * FFT_RotVector_32[2 * 4 + 1] ) + ( bs * FFT_RotVector_32[2 * 4 + 0] ) );
5461 : };
5462 : {
5463 31934446 : as = y28;
5464 31934446 : bs = y29;
5465 31934446 : y28 = ( ( as * FFT_RotVector_32[2 * 5 + 0] ) - ( bs * FFT_RotVector_32[2 * 5 + 1] ) );
5466 31934446 : y29 = ( ( as * FFT_RotVector_32[2 * 5 + 1] ) + ( bs * FFT_RotVector_32[2 * 5 + 0] ) );
5467 : };
5468 : {
5469 31934446 : as = y30;
5470 31934446 : bs = y31;
5471 31934446 : y30 = ( ( as * FFT_RotVector_32[2 * 6 + 0] ) - ( bs * FFT_RotVector_32[2 * 6 + 1] ) );
5472 31934446 : y31 = ( ( as * FFT_RotVector_32[2 * 6 + 1] ) + ( bs * FFT_RotVector_32[2 * 6 + 0] ) );
5473 : };
5474 : {
5475 31934446 : as = y34;
5476 31934446 : bs = y35;
5477 31934446 : y34 = ( ( as * FFT_RotVector_32[2 * 7 + 0] ) - ( bs * FFT_RotVector_32[2 * 7 + 1] ) );
5478 31934446 : y35 = ( ( as * FFT_RotVector_32[2 * 7 + 1] ) + ( bs * FFT_RotVector_32[2 * 7 + 0] ) );
5479 : };
5480 : {
5481 31934446 : as = y36;
5482 31934446 : bs = y37;
5483 31934446 : y36 = ( ( as * FFT_RotVector_32[2 * 8 + 0] ) - ( bs * FFT_RotVector_32[2 * 8 + 1] ) );
5484 31934446 : y37 = ( ( as * FFT_RotVector_32[2 * 8 + 1] ) + ( bs * FFT_RotVector_32[2 * 8 + 0] ) );
5485 : };
5486 : {
5487 31934446 : as = y38;
5488 31934446 : bs = y39;
5489 31934446 : y38 = ( ( as * FFT_RotVector_32[2 * 9 + 0] ) - ( bs * FFT_RotVector_32[2 * 9 + 1] ) );
5490 31934446 : y39 = ( ( as * FFT_RotVector_32[2 * 9 + 1] ) + ( bs * FFT_RotVector_32[2 * 9 + 0] ) );
5491 : };
5492 : {
5493 31934446 : as = y42;
5494 31934446 : bs = y43;
5495 31934446 : y42 = ( ( as * FFT_RotVector_32[2 * 10 + 0] ) - ( bs * FFT_RotVector_32[2 * 10 + 1] ) );
5496 31934446 : y43 = ( ( as * FFT_RotVector_32[2 * 10 + 1] ) + ( bs * FFT_RotVector_32[2 * 10 + 0] ) );
5497 : };
5498 : {
5499 31934446 : as = y44;
5500 31934446 : bs = y45;
5501 31934446 : y44 = ( ( as * FFT_RotVector_32[2 * 11 + 0] ) - ( bs * FFT_RotVector_32[2 * 11 + 1] ) );
5502 31934446 : y45 = ( ( as * FFT_RotVector_32[2 * 11 + 1] ) + ( bs * FFT_RotVector_32[2 * 11 + 0] ) );
5503 : };
5504 : {
5505 31934446 : as = y46;
5506 31934446 : bs = y47;
5507 31934446 : y46 = ( ( as * FFT_RotVector_32[2 * 12 + 0] ) - ( bs * FFT_RotVector_32[2 * 12 + 1] ) );
5508 31934446 : y47 = ( ( as * FFT_RotVector_32[2 * 12 + 1] ) + ( bs * FFT_RotVector_32[2 * 12 + 0] ) );
5509 : };
5510 : {
5511 31934446 : as = y50;
5512 31934446 : bs = y51;
5513 31934446 : y50 = ( ( as * FFT_RotVector_32[2 * 13 + 0] ) - ( bs * FFT_RotVector_32[2 * 13 + 1] ) );
5514 31934446 : y51 = ( ( as * FFT_RotVector_32[2 * 13 + 1] ) + ( bs * FFT_RotVector_32[2 * 13 + 0] ) );
5515 : };
5516 : {
5517 31934446 : as = y52;
5518 31934446 : bs = y53;
5519 31934446 : y52 = ( ( as * FFT_RotVector_32[2 * 14 + 0] ) - ( bs * FFT_RotVector_32[2 * 14 + 1] ) );
5520 31934446 : y53 = ( ( as * FFT_RotVector_32[2 * 14 + 1] ) + ( bs * FFT_RotVector_32[2 * 14 + 0] ) );
5521 : };
5522 : {
5523 31934446 : as = y54;
5524 31934446 : bs = y55;
5525 31934446 : y54 = ( ( as * FFT_RotVector_32[2 * 15 + 0] ) - ( bs * FFT_RotVector_32[2 * 15 + 1] ) );
5526 31934446 : y55 = ( ( as * FFT_RotVector_32[2 * 15 + 1] ) + ( bs * FFT_RotVector_32[2 * 15 + 0] ) );
5527 : };
5528 : {
5529 31934446 : as = y56;
5530 31934446 : bs = y57;
5531 31934446 : y56 = ( ( as * FFT_RotVector_32[2 * 16 + 0] ) - ( bs * FFT_RotVector_32[2 * 16 + 1] ) );
5532 31934446 : y57 = ( ( as * FFT_RotVector_32[2 * 16 + 1] ) + ( bs * FFT_RotVector_32[2 * 16 + 0] ) );
5533 : };
5534 : {
5535 31934446 : as = y58;
5536 31934446 : bs = y59;
5537 31934446 : y58 = ( ( as * FFT_RotVector_32[2 * 17 + 0] ) - ( bs * FFT_RotVector_32[2 * 17 + 1] ) );
5538 31934446 : y59 = ( ( as * FFT_RotVector_32[2 * 17 + 1] ) + ( bs * FFT_RotVector_32[2 * 17 + 0] ) );
5539 : };
5540 : {
5541 31934446 : as = y60;
5542 31934446 : bs = y61;
5543 31934446 : y60 = ( ( as * FFT_RotVector_32[2 * 18 + 0] ) - ( bs * FFT_RotVector_32[2 * 18 + 1] ) );
5544 31934446 : y61 = ( ( as * FFT_RotVector_32[2 * 18 + 1] ) + ( bs * FFT_RotVector_32[2 * 18 + 0] ) );
5545 : };
5546 : {
5547 31934446 : as = y62;
5548 31934446 : bs = y63;
5549 31934446 : y62 = ( ( as * FFT_RotVector_32[2 * 19 + 0] ) - ( bs * FFT_RotVector_32[2 * 19 + 1] ) );
5550 31934446 : y63 = ( ( as * FFT_RotVector_32[2 * 19 + 1] ) + ( bs * FFT_RotVector_32[2 * 19 + 0] ) );
5551 : };
5552 :
5553 31934446 : t00 = ( y00 + y32 );
5554 31934446 : t02 = ( y00 - y32 );
5555 31934446 : t01 = ( y01 + y33 );
5556 31934446 : t03 = ( y01 - y33 );
5557 31934446 : t04 = ( y16 + y48 );
5558 31934446 : t07 = ( y16 - y48 );
5559 31934446 : t05 = ( y49 + y17 );
5560 31934446 : t06 = ( y49 - y17 );
5561 :
5562 31934446 : re[s * 0] = ( t00 + t04 );
5563 31934446 : im[s * 0] = ( t01 + t05 );
5564 31934446 : re[s * 8] = ( t02 - t06 );
5565 31934446 : im[s * 8] = ( t03 - t07 );
5566 31934446 : re[s * 16] = ( t00 - t04 );
5567 31934446 : im[s * 16] = ( t01 - t05 );
5568 31934446 : re[s * 24] = ( t02 + t06 );
5569 31934446 : im[s * 24] = ( t03 + t07 );
5570 :
5571 31934446 : t00 = ( y02 + y34 );
5572 31934446 : t02 = ( y02 - y34 );
5573 31934446 : t01 = ( y03 + y35 );
5574 31934446 : t03 = ( y03 - y35 );
5575 31934446 : t04 = ( y18 + y50 );
5576 31934446 : t07 = ( y18 - y50 );
5577 31934446 : t05 = ( y51 + y19 );
5578 31934446 : t06 = ( y51 - y19 );
5579 :
5580 31934446 : re[s * 1] = ( t00 + t04 );
5581 31934446 : im[s * 1] = ( t01 + t05 );
5582 31934446 : re[s * 9] = ( t02 - t06 );
5583 31934446 : im[s * 9] = ( t03 - t07 );
5584 31934446 : re[s * 17] = ( t00 - t04 );
5585 31934446 : im[s * 17] = ( t01 - t05 );
5586 31934446 : re[s * 25] = ( t02 + t06 );
5587 31934446 : im[s * 25] = ( t03 + t07 );
5588 :
5589 31934446 : t00 = ( y04 + y36 );
5590 31934446 : t02 = ( y04 - y36 );
5591 31934446 : t01 = ( y05 + y37 );
5592 31934446 : t03 = ( y05 - y37 );
5593 31934446 : t04 = ( y20 + y52 );
5594 31934446 : t07 = ( y20 - y52 );
5595 31934446 : t05 = ( y53 + y21 );
5596 31934446 : t06 = ( y53 - y21 );
5597 :
5598 31934446 : re[s * 2] = ( t00 + t04 );
5599 31934446 : im[s * 2] = ( t01 + t05 );
5600 31934446 : re[s * 10] = ( t02 - t06 );
5601 31934446 : im[s * 10] = ( t03 - t07 );
5602 31934446 : re[s * 18] = ( t00 - t04 );
5603 31934446 : im[s * 18] = ( t01 - t05 );
5604 31934446 : re[s * 26] = ( t02 + t06 );
5605 31934446 : im[s * 26] = ( t03 + t07 );
5606 :
5607 31934446 : t00 = ( y06 + y38 );
5608 31934446 : t02 = ( y06 - y38 );
5609 31934446 : t01 = ( y07 + y39 );
5610 31934446 : t03 = ( y07 - y39 );
5611 31934446 : t04 = ( y22 + y54 );
5612 31934446 : t07 = ( y22 - y54 );
5613 31934446 : t05 = ( y55 + y23 );
5614 31934446 : t06 = ( y55 - y23 );
5615 :
5616 31934446 : re[s * 3] = ( t00 + t04 );
5617 31934446 : im[s * 3] = ( t01 + t05 );
5618 31934446 : re[s * 11] = ( t02 - t06 );
5619 31934446 : im[s * 11] = ( t03 - t07 );
5620 31934446 : re[s * 19] = ( t00 - t04 );
5621 31934446 : im[s * 19] = ( t01 - t05 );
5622 31934446 : re[s * 27] = ( t02 + t06 );
5623 31934446 : im[s * 27] = ( t03 + t07 );
5624 :
5625 31934446 : t00 = ( y08 + y41 );
5626 31934446 : t02 = ( y08 - y41 );
5627 31934446 : t01 = ( y09 - y40 );
5628 31934446 : t03 = ( y09 + y40 );
5629 31934446 : t04 = ( y24 + y56 );
5630 31934446 : t07 = ( y24 - y56 );
5631 31934446 : t05 = ( y57 + y25 );
5632 31934446 : t06 = ( y57 - y25 );
5633 :
5634 31934446 : re[s * 4] = ( t00 + t04 );
5635 31934446 : im[s * 4] = ( t01 + t05 );
5636 31934446 : re[s * 12] = ( t02 - t06 );
5637 31934446 : im[s * 12] = ( t03 - t07 );
5638 31934446 : re[s * 20] = ( t00 - t04 );
5639 31934446 : im[s * 20] = ( t01 - t05 );
5640 31934446 : re[s * 28] = ( t02 + t06 );
5641 31934446 : im[s * 28] = ( t03 + t07 );
5642 :
5643 31934446 : t00 = ( y10 + y42 );
5644 31934446 : t02 = ( y10 - y42 );
5645 31934446 : t01 = ( y11 + y43 );
5646 31934446 : t03 = ( y11 - y43 );
5647 31934446 : t04 = ( y26 + y58 );
5648 31934446 : t07 = ( y26 - y58 );
5649 31934446 : t05 = ( y59 + y27 );
5650 31934446 : t06 = ( y59 - y27 );
5651 :
5652 31934446 : re[s * 5] = ( t00 + t04 );
5653 31934446 : im[s * 5] = ( t01 + t05 );
5654 31934446 : re[s * 13] = ( t02 - t06 );
5655 31934446 : im[s * 13] = ( t03 - t07 );
5656 31934446 : re[s * 21] = ( t00 - t04 );
5657 31934446 : im[s * 21] = ( t01 - t05 );
5658 31934446 : re[s * 29] = ( t02 + t06 );
5659 31934446 : im[s * 29] = ( t03 + t07 );
5660 :
5661 31934446 : t00 = ( y12 + y44 );
5662 31934446 : t02 = ( y12 - y44 );
5663 31934446 : t01 = ( y13 + y45 );
5664 31934446 : t03 = ( y13 - y45 );
5665 31934446 : t04 = ( y28 + y60 );
5666 31934446 : t07 = ( y28 - y60 );
5667 31934446 : t05 = ( y61 + y29 );
5668 31934446 : t06 = ( y61 - y29 );
5669 :
5670 31934446 : re[s * 6] = ( t00 + t04 );
5671 31934446 : im[s * 6] = ( t01 + t05 );
5672 31934446 : re[s * 14] = ( t02 - t06 );
5673 31934446 : im[s * 14] = ( t03 - t07 );
5674 31934446 : re[s * 22] = ( t00 - t04 );
5675 31934446 : im[s * 22] = ( t01 - t05 );
5676 31934446 : re[s * 30] = ( t02 + t06 );
5677 31934446 : im[s * 30] = ( t03 + t07 );
5678 :
5679 31934446 : t00 = ( y14 + y46 );
5680 31934446 : t02 = ( y14 - y46 );
5681 31934446 : t01 = ( y15 + y47 );
5682 31934446 : t03 = ( y15 - y47 );
5683 31934446 : t04 = ( y30 + y62 );
5684 31934446 : t07 = ( y30 - y62 );
5685 31934446 : t05 = ( y63 + y31 );
5686 31934446 : t06 = ( y63 - y31 );
5687 :
5688 31934446 : re[s * 7] = ( t00 + t04 );
5689 31934446 : im[s * 7] = ( t01 + t05 );
5690 31934446 : re[s * 15] = ( t02 - t06 );
5691 31934446 : im[s * 15] = ( t03 - t07 );
5692 31934446 : re[s * 23] = ( t00 - t04 );
5693 31934446 : im[s * 23] = ( t01 - t05 );
5694 31934446 : re[s * 31] = ( t02 + t06 );
5695 31934446 : im[s * 31] = ( t03 + t07 );
5696 :
5697 31934446 : return;
5698 : }
5699 :
5700 30487816 : static void fft_lenN(
5701 : float *re,
5702 : float *im,
5703 : const float *W,
5704 : const int16_t len,
5705 : const int16_t dim1,
5706 : const int16_t dim2,
5707 : const int16_t sx,
5708 : const int16_t sc,
5709 : const int16_t Woff )
5710 : {
5711 : int16_t i, j;
5712 : float x[L_FRAME_MAX * 2];
5713 :
5714 349421982 : for ( i = 0; i < dim2; i++ )
5715 : {
5716 8735233662 : for ( j = 0; j < dim1; j++ )
5717 : {
5718 8416299496 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
5719 8416299496 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
5720 : }
5721 : }
5722 :
5723 30487816 : switch ( dim1 )
5724 : {
5725 29818 : case 5:
5726 268362 : for ( i = 0; i < dim2; i++ )
5727 : {
5728 238544 : fft_len5( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5729 : }
5730 29818 : break;
5731 :
5732 44391 : case 8:
5733 399519 : for ( i = 0; i < dim2; i++ )
5734 : {
5735 355128 : fft_len8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5736 : }
5737 44391 : break;
5738 :
5739 655383 : case 10:
5740 5898447 : for ( i = 0; i < dim2; i++ )
5741 : {
5742 5243064 : fft_len10( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5743 : }
5744 655383 : break;
5745 :
5746 599746 : case 15:
5747 5397714 : for ( i = 0; i < dim2; i++ )
5748 : {
5749 4797968 : fft_len15( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5750 : }
5751 599746 : break;
5752 :
5753 1113850 : case 16:
5754 10024650 : for ( i = 0; i < dim2; i++ )
5755 : {
5756 8910800 : fft_len16( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5757 : }
5758 1113850 : break;
5759 :
5760 6300217 : case 20:
5761 91250175 : for ( i = 0; i < dim2; i++ )
5762 : {
5763 84949958 : fft_len20( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5764 : }
5765 6300217 : break;
5766 :
5767 20923629 : case 30:
5768 228796077 : for ( i = 0; i < dim2; i++ )
5769 : {
5770 207872448 : fft_len30( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5771 : }
5772 20923629 : break;
5773 :
5774 820782 : case 32:
5775 7387038 : for ( i = 0; i < dim2; i++ )
5776 : {
5777 6566256 : fft_len32( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5778 : }
5779 820782 : break;
5780 : }
5781 :
5782 30487816 : switch ( dim2 )
5783 : {
5784 :
5785 23141630 : case 8:
5786 : {
5787 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
5788 : float t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
5789 : float s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
5790 :
5791 23141630 : if ( dim1 == 30 || dim1 == 20 || dim1 == 15 || dim1 == 10 || dim1 == 5 )
5792 : {
5793 603254617 : for ( i = 0; i < dim1; i++ )
5794 : {
5795 : {
5796 582092010 : x00 = x[2 * i + 2 * 0 * dim1];
5797 582092010 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5798 : };
5799 582092010 : if ( i == 0 )
5800 : {
5801 : {
5802 21162607 : x02 = x[2 * i + 2 * 1 * dim1];
5803 21162607 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5804 : };
5805 : {
5806 21162607 : x04 = x[2 * i + 2 * 2 * dim1];
5807 21162607 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5808 : };
5809 : {
5810 21162607 : x06 = x[2 * i + 2 * 3 * dim1];
5811 21162607 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5812 : };
5813 : {
5814 21162607 : x08 = x[2 * i + 2 * 4 * dim1];
5815 21162607 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5816 : };
5817 : {
5818 21162607 : x10 = x[2 * i + 2 * 5 * dim1];
5819 21162607 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5820 : };
5821 : {
5822 21162607 : x12 = x[2 * i + 2 * 6 * dim1];
5823 21162607 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5824 : };
5825 : {
5826 21162607 : x14 = x[2 * i + 2 * 7 * dim1];
5827 21162607 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5828 : };
5829 : }
5830 : else
5831 : {
5832 : {
5833 560929403 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] );
5834 560929403 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] );
5835 : };
5836 : {
5837 560929403 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] );
5838 560929403 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] );
5839 : };
5840 : {
5841 560929403 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] );
5842 560929403 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] );
5843 : };
5844 : {
5845 560929403 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] );
5846 560929403 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] );
5847 : };
5848 : {
5849 560929403 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] );
5850 560929403 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] );
5851 : };
5852 : {
5853 560929403 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] );
5854 560929403 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] );
5855 : };
5856 : {
5857 560929403 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] );
5858 560929403 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] );
5859 : };
5860 : }
5861 :
5862 582092010 : t00 = ( x00 + x08 );
5863 582092010 : t02 = ( x00 - x08 );
5864 582092010 : t01 = ( x01 + x09 );
5865 582092010 : t03 = ( x01 - x09 );
5866 582092010 : t04 = ( x02 + x10 );
5867 582092010 : t06 = ( x02 - x10 );
5868 582092010 : t05 = ( x03 + x11 );
5869 582092010 : t07 = ( x03 - x11 );
5870 582092010 : t08 = ( x04 + x12 );
5871 582092010 : t10 = ( x04 - x12 );
5872 582092010 : t09 = ( x05 + x13 );
5873 582092010 : t11 = ( x05 - x13 );
5874 582092010 : t12 = ( x06 + x14 );
5875 582092010 : t14 = ( x06 - x14 );
5876 582092010 : t13 = ( x07 + x15 );
5877 582092010 : t15 = ( x07 - x15 );
5878 :
5879 582092010 : s00 = ( t00 + t08 );
5880 582092010 : s04 = ( t00 - t08 );
5881 582092010 : s01 = ( t01 + t09 );
5882 582092010 : s05 = ( t01 - t09 );
5883 582092010 : s08 = ( t02 - t11 );
5884 582092010 : s10 = ( t02 + t11 );
5885 582092010 : s09 = ( t03 + t10 );
5886 582092010 : s11 = ( t03 - t10 );
5887 582092010 : s02 = ( t04 + t12 );
5888 582092010 : s07 = ( t04 - t12 );
5889 582092010 : s03 = ( t05 + t13 );
5890 582092010 : s06 = ( t13 - t05 );
5891 :
5892 582092010 : t01 = ( t06 + t14 );
5893 582092010 : t02 = ( t06 - t14 );
5894 582092010 : t00 = ( t07 + t15 );
5895 582092010 : t03 = ( t07 - t15 );
5896 :
5897 582092010 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5898 582092010 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5899 582092010 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5900 582092010 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5901 :
5902 582092010 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
5903 582092010 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
5904 582092010 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
5905 582092010 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
5906 582092010 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
5907 582092010 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
5908 582092010 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
5909 582092010 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
5910 582092010 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
5911 582092010 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
5912 582092010 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
5913 582092010 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
5914 582092010 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
5915 582092010 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
5916 582092010 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
5917 582092010 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
5918 : }
5919 : }
5920 : else
5921 : {
5922 46420775 : for ( i = 0; i < dim1; i++ )
5923 : {
5924 : {
5925 44441752 : x00 = x[2 * i + 2 * 0 * dim1];
5926 44441752 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5927 : };
5928 44441752 : if ( i == 0 )
5929 : {
5930 : {
5931 1979023 : x02 = x[2 * i + 2 * 1 * dim1];
5932 1979023 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5933 : };
5934 : {
5935 1979023 : x04 = x[2 * i + 2 * 2 * dim1];
5936 1979023 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5937 : };
5938 : {
5939 1979023 : x06 = x[2 * i + 2 * 3 * dim1];
5940 1979023 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5941 : };
5942 : {
5943 1979023 : x08 = x[2 * i + 2 * 4 * dim1];
5944 1979023 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5945 : };
5946 : {
5947 1979023 : x10 = x[2 * i + 2 * 5 * dim1];
5948 1979023 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5949 : };
5950 : {
5951 1979023 : x12 = x[2 * i + 2 * 6 * dim1];
5952 1979023 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5953 : };
5954 : {
5955 1979023 : x14 = x[2 * i + 2 * 7 * dim1];
5956 1979023 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5957 : };
5958 : }
5959 : else
5960 : {
5961 : {
5962 42462729 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] );
5963 42462729 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 - Woff] );
5964 : };
5965 : {
5966 42462729 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] );
5967 42462729 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 - Woff] );
5968 : };
5969 : {
5970 42462729 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] );
5971 42462729 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 - Woff] );
5972 : };
5973 : {
5974 42462729 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] );
5975 42462729 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 - Woff] );
5976 : };
5977 : {
5978 42462729 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] );
5979 42462729 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 - Woff] );
5980 : };
5981 : {
5982 42462729 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] );
5983 42462729 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 - Woff] );
5984 : };
5985 : {
5986 42462729 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] );
5987 42462729 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 - Woff] );
5988 : };
5989 : }
5990 :
5991 44441752 : t00 = ( x00 + x08 );
5992 44441752 : t02 = ( x00 - x08 );
5993 44441752 : t01 = ( x01 + x09 );
5994 44441752 : t03 = ( x01 - x09 );
5995 44441752 : t04 = ( x02 + x10 );
5996 44441752 : t06 = ( x02 - x10 );
5997 44441752 : t05 = ( x03 + x11 );
5998 44441752 : t07 = ( x03 - x11 );
5999 44441752 : t08 = ( x04 + x12 );
6000 44441752 : t10 = ( x04 - x12 );
6001 44441752 : t09 = ( x05 + x13 );
6002 44441752 : t11 = ( x05 - x13 );
6003 44441752 : t12 = ( x06 + x14 );
6004 44441752 : t14 = ( x06 - x14 );
6005 44441752 : t13 = ( x07 + x15 );
6006 44441752 : t15 = ( x07 - x15 );
6007 :
6008 44441752 : s00 = ( t00 + t08 );
6009 44441752 : s04 = ( t00 - t08 );
6010 44441752 : s01 = ( t01 + t09 );
6011 44441752 : s05 = ( t01 - t09 );
6012 44441752 : s08 = ( t02 - t11 );
6013 44441752 : s10 = ( t02 + t11 );
6014 44441752 : s09 = ( t03 + t10 );
6015 44441752 : s11 = ( t03 - t10 );
6016 44441752 : s02 = ( t04 + t12 );
6017 44441752 : s07 = ( t04 - t12 );
6018 44441752 : s03 = ( t05 + t13 );
6019 44441752 : s06 = ( t13 - t05 );
6020 :
6021 44441752 : t01 = ( t06 + t14 );
6022 44441752 : t02 = ( t06 - t14 );
6023 44441752 : t00 = ( t07 + t15 );
6024 44441752 : t03 = ( t07 - t15 );
6025 :
6026 44441752 : s12 = ( ( t00 + t02 ) * FFT_C81 );
6027 44441752 : s14 = ( ( t00 - t02 ) * FFT_C81 );
6028 44441752 : s13 = ( ( t03 - t01 ) * FFT_C81 );
6029 44441752 : s15 = ( ( t01 + t03 ) * FFT_C82 );
6030 :
6031 44441752 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
6032 44441752 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
6033 44441752 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
6034 44441752 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
6035 44441752 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
6036 44441752 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
6037 44441752 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
6038 44441752 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
6039 44441752 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
6040 44441752 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
6041 44441752 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
6042 44441752 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
6043 44441752 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
6044 44441752 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
6045 44441752 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
6046 44441752 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
6047 : }
6048 : }
6049 23141630 : break;
6050 : }
6051 :
6052 34899 : case 10:
6053 : {
6054 : float y[2 * 10];
6055 383889 : for ( j = 0; j < dim2; j++ )
6056 : {
6057 : {
6058 348990 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6059 348990 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6060 : };
6061 : }
6062 34899 : fft_len10( &y[0], &y[1], 2 );
6063 383889 : for ( j = 0; j < dim2; j++ )
6064 : {
6065 348990 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6066 348990 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6067 : }
6068 :
6069 697980 : for ( i = 1; i < dim1; i++ )
6070 : {
6071 : {
6072 663081 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6073 663081 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6074 : }
6075 :
6076 6630810 : for ( j = 1; j < dim2; j++ )
6077 : {
6078 : {
6079 5967729 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6080 5967729 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6081 : }
6082 : }
6083 663081 : fft_len10( &y[0], &y[1], 2 );
6084 7293891 : for ( j = 0; j < dim2; j++ )
6085 : {
6086 6630810 : re[sx * i + sx * j * dim1] = y[2 * j];
6087 6630810 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6088 : }
6089 : }
6090 34899 : break;
6091 : }
6092 :
6093 6246612 : case 16:
6094 : {
6095 : float y[2 * 16];
6096 106192404 : for ( j = 0; j < dim2; j++ )
6097 : {
6098 : {
6099 99945792 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6100 99945792 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6101 : };
6102 : }
6103 6246612 : fft_len16( &y[0], &y[1], 2 );
6104 106192404 : for ( j = 0; j < dim2; j++ )
6105 : {
6106 99945792 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6107 99945792 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6108 : }
6109 :
6110 159953820 : for ( i = 1; i < dim1; i++ )
6111 : {
6112 : {
6113 153707208 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6114 153707208 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6115 : }
6116 :
6117 2459315328 : for ( j = 1; j < dim2; j++ )
6118 : {
6119 : {
6120 2305608120 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6121 2305608120 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6122 : }
6123 : }
6124 153707208 : fft_len16( &y[0], &y[1], 2 );
6125 2613022536 : for ( j = 0; j < dim2; j++ )
6126 : {
6127 2459315328 : re[sx * i + sx * j * dim1] = y[2 * j];
6128 2459315328 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6129 : }
6130 : }
6131 6246612 : break;
6132 : }
6133 :
6134 46938 : case 20:
6135 : {
6136 : float y[2 * 20];
6137 985698 : for ( j = 0; j < dim2; j++ )
6138 : {
6139 : {
6140 938760 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6141 938760 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6142 : };
6143 : }
6144 46938 : fft_len20( &y[0], &y[1], 2 );
6145 985698 : for ( j = 0; j < dim2; j++ )
6146 : {
6147 938760 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6148 938760 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6149 : }
6150 :
6151 1300320 : for ( i = 1; i < dim1; i++ )
6152 : {
6153 : {
6154 1253382 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6155 1253382 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6156 : }
6157 : {
6158 1253382 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6159 1253382 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6160 : }
6161 :
6162 12533820 : for ( j = 2; j < dim2; j = j + 2 )
6163 : {
6164 : {
6165 11280438 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6166 11280438 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6167 : }
6168 : {
6169 11280438 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6170 11280438 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6171 : }
6172 : }
6173 1253382 : fft_len20( &y[0], &y[1], 2 );
6174 26321022 : for ( j = 0; j < dim2; j++ )
6175 : {
6176 25067640 : re[sx * i + sx * j * dim1] = y[2 * j];
6177 25067640 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6178 : }
6179 : }
6180 46938 : break;
6181 : }
6182 :
6183 1017737 : case 32:
6184 : {
6185 : float y[2 * 32];
6186 33585321 : for ( j = 0; j < dim2; j++ )
6187 : {
6188 : {
6189 32567584 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6190 32567584 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6191 : };
6192 : }
6193 1017737 : fft_len32( &y[0], &y[1], 2 );
6194 33585321 : for ( j = 0; j < dim2; j++ )
6195 : {
6196 32567584 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6197 32567584 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6198 : }
6199 :
6200 25368190 : for ( i = 1; i < dim1; i++ )
6201 : {
6202 : {
6203 24350453 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6204 24350453 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6205 : }
6206 : {
6207 24350453 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6208 24350453 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6209 : }
6210 :
6211 389607248 : for ( j = 2; j < dim2; j = j + 2 )
6212 : {
6213 : {
6214 365256795 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6215 365256795 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6216 : }
6217 : {
6218 365256795 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6219 365256795 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6220 : }
6221 : }
6222 24350453 : fft_len32( &y[0], &y[1], 2 );
6223 803564949 : for ( j = 0; j < dim2; j++ )
6224 : {
6225 779214496 : re[sx * i + sx * j * dim1] = y[2 * j];
6226 779214496 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6227 : }
6228 : }
6229 1017737 : break;
6230 : }
6231 : }
6232 :
6233 30487816 : return;
6234 : }
6235 :
6236 :
6237 : /*-----------------------------------------------------------------*
6238 : * fft()
6239 : *
6240 : * Complex-value FFT
6241 : *-----------------------------------------------------------------*/
6242 :
6243 30487816 : void fft(
6244 : float *re, /* i/o: real part */
6245 : float *im, /* i/o: imag part */
6246 : const int16_t length, /* i : length of fft */
6247 : const int16_t s /* i : sign */
6248 : )
6249 : {
6250 30487816 : switch ( length )
6251 : {
6252 0 : case 20:
6253 0 : fft_len20( re, im, s );
6254 0 : break;
6255 29818 : case 40:
6256 29818 : fft_lenN( re, im, FFT_RotVector_640, 640, 5, 8, s, 8, 40 );
6257 29818 : break;
6258 44391 : case 64:
6259 44391 : fft_lenN( re, im, FFT_RotVector_256, 256, 8, 8, s, 8, 64 );
6260 44391 : break;
6261 655383 : case 80:
6262 655383 : fft_lenN( re, im, FFT_RotVector_640, 640, 10, 8, s, 4, 40 );
6263 655383 : break;
6264 0 : case 100:
6265 0 : fft_lenN( re, im, FFT_RotVector_400, 400, 10, 10, s, 4, 40 );
6266 0 : break;
6267 599746 : case 120:
6268 599746 : fft_lenN( re, im, FFT_RotVector_960, 960, 15, 8, s, 4, 60 );
6269 599746 : break;
6270 1113850 : case 128:
6271 1113850 : fft_lenN( re, im, FFT_RotVector_256, 256, 16, 8, s, 4, 64 );
6272 1113850 : break;
6273 2993690 : case 160:
6274 2993690 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 8, s, 2, 40 );
6275 2993690 : break;
6276 34899 : case 200:
6277 34899 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 10, s, 2, 40 );
6278 34899 : break;
6279 16883970 : case 240:
6280 16883970 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 8, s, 2, 60 );
6281 16883970 : break;
6282 820782 : case 256:
6283 820782 : fft_lenN( re, im, FFT_RotVector_256, 256, 32, 8, s, 2, 64 );
6284 820782 : break;
6285 2744454 : case 320:
6286 2744454 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 16, s, 2, 40 );
6287 2744454 : break;
6288 10782 : case 400:
6289 10782 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 20, s, 2, 40 );
6290 10782 : break;
6291 3502158 : case 480:
6292 3502158 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 16, s, 2, 60 );
6293 3502158 : break;
6294 36156 : case 600:
6295 36156 : fft_lenN( re, im, FFT_RotVector_600, 600, 30, 20, s, 2, 60 );
6296 36156 : break;
6297 516392 : case 640:
6298 516392 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 32, s, 2, 40 );
6299 516392 : break;
6300 501345 : case 960:
6301 501345 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 32, s, 2, 60 );
6302 501345 : break;
6303 0 : default:
6304 0 : assert( !"fft length is not supported!" );
6305 : }
6306 :
6307 30487816 : return;
6308 : }
6309 :
6310 :
6311 : /*-----------------------------------------------------------------*
6312 : * rfft()
6313 : *
6314 : * Real-value FFT
6315 : *-----------------------------------------------------------------*/
6316 :
6317 1808963 : void rfft(
6318 : float *x, /* i/o: values */
6319 : const float *w, /* i : window */
6320 : const int16_t length, /* i : length of fft */
6321 : const int16_t isign /* i : sign */
6322 : )
6323 : {
6324 : int16_t i, sizeOfFft2, sizeOfFft4;
6325 : float tmp, t1, t2, t3, t4, s1, s2;
6326 :
6327 1808963 : sizeOfFft2 = length >> 1;
6328 1808963 : sizeOfFft4 = length >> 2;
6329 1808963 : s1 = 1.f / (float) sizeOfFft2;
6330 1808963 : s2 = -1.f / (float) sizeOfFft2;
6331 :
6332 1808963 : switch ( isign )
6333 : {
6334 :
6335 896926 : case -1:
6336 :
6337 896926 : fft( x, x + 1, sizeOfFft2, 2 );
6338 :
6339 896926 : tmp = x[0] + x[1];
6340 896926 : x[1] = x[0] - x[1];
6341 896926 : x[0] = tmp;
6342 :
6343 121682846 : for ( i = 1; i <= sizeOfFft4; i++ )
6344 : {
6345 120785920 : t1 = x[2 * i] - x[length - 2 * i];
6346 120785920 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6347 120785920 : t3 = w[i] * t1 - w[i + sizeOfFft4] * t2;
6348 120785920 : t4 = w[i + sizeOfFft4] * t1 + w[i] * t2;
6349 120785920 : t1 = x[2 * i] + x[length - 2 * i];
6350 120785920 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6351 :
6352 120785920 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6353 120785920 : x[2 * i + 1] = ( t2 - t4 ) * 0.5f;
6354 120785920 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6355 120785920 : x[length - 2 * i + 1] = -( t2 + t4 ) * 0.5f;
6356 : }
6357 :
6358 896926 : break;
6359 :
6360 912037 : case +1:
6361 :
6362 912037 : tmp = ( x[0] + x[1] ) * 0.5f;
6363 912037 : x[1] = ( x[1] - x[0] ) * 0.5f;
6364 912037 : x[0] = tmp;
6365 :
6366 171659269 : for ( i = 1; i <= sizeOfFft4; i++ )
6367 : {
6368 170747232 : t1 = x[2 * i] - x[length - 2 * i];
6369 170747232 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6370 170747232 : t3 = w[i] * t1 + w[i + sizeOfFft4] * t2;
6371 170747232 : t4 = -w[i + sizeOfFft4] * t1 + w[i] * t2;
6372 170747232 : t1 = x[2 * i] + x[length - 2 * i];
6373 170747232 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6374 :
6375 170747232 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6376 170747232 : x[2 * i + 1] = ( t4 - t2 ) * 0.5f;
6377 170747232 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6378 170747232 : x[length - 2 * i + 1] = ( t2 + t4 ) * 0.5f;
6379 : }
6380 :
6381 912037 : fft( x, x + 1, sizeOfFft2, 2 );
6382 :
6383 342406501 : for ( i = 0; i < length; i += 2 )
6384 : {
6385 341494464 : x[i] *= s1;
6386 341494464 : x[i + 1] *= s2;
6387 : }
6388 :
6389 912037 : break;
6390 : }
6391 :
6392 1808963 : return;
6393 : }
6394 :
6395 :
6396 : #define WMC_TOOL_SKIP
6397 :
6398 : #define SCALEFACTOR8 ( 4 )
6399 : #define SCALEFACTOR64 ( 7 )
6400 : #define SCALEFACTORN2 ( 3 )
6401 :
6402 : #define SHC( x ) ( (Word16) x )
6403 : #define FFTC( x ) WORD322WORD16( (Word32) x )
6404 :
6405 : #define C81_FX ( FFTC( 0x5a82799a ) ) /* FL2WORD32( 7.071067811865475e-1) */
6406 : #define C82_FX ( FFTC( 0xa57d8666 ) ) /* FL2WORD32(-7.071067811865475e-1) */
6407 :
6408 : #define cplxMpy4_8_0( re, im, a, b, c, d ) \
6409 : re = L_shr( L_sub( Mpy_32_16( a, c ), Mpy_32_16( b, d ) ), 1 ); \
6410 : im = L_shr( L_add( Mpy_32_16( a, d ), Mpy_32_16( b, c ) ), 1 );
6411 :
6412 : #define cplxMpy4_8_1( re, im, a, b ) \
6413 : re = L_shr( a, 1 ); \
6414 : im = L_shr( b, 1 );
6415 :
6416 :
6417 : /**
6418 : * \brief Twiddle factors are unscaled
6419 : */
6420 : static const Word16 RotVector_256[2 * ( 256 - 32 )] = {
6421 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7ff6 ), SHC( 0xfcdc ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7fa7 ), SHC( 0xf695 ),
6422 : SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7e1e ), SHC( 0xea1e ),
6423 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7b5d ), SHC( 0xdddc ),
6424 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x798a ), SHC( 0xd7d9 ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x776c ), SHC( 0xd1ef ),
6425 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x7505 ), SHC( 0xcc21 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x7255 ), SHC( 0xc673 ),
6426 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6f5f ), SHC( 0xc0e9 ), SHC( 0x6dca ), SHC( 0xbe32 ), SHC( 0x6c24 ), SHC( 0xbb85 ),
6427 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x64e9 ), SHC( 0xb140 ),
6428 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x60ec ), SHC( 0xac65 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5cb4 ), SHC( 0xa7bd ),
6429 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7e9d ), SHC( 0xed38 ),
6430 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x7885 ), SHC( 0xd4e1 ),
6431 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6dca ), SHC( 0xbe32 ),
6432 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x5ed7 ), SHC( 0xaa0a ),
6433 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x55f6 ), SHC( 0xa129 ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x4c40 ), SHC( 0x9930 ),
6434 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x3c57 ), SHC( 0x8f1d ), SHC( 0x36ba ), SHC( 0x8c4a ),
6435 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x1f1a ), SHC( 0x83d6 ),
6436 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x12c8 ), SHC( 0x8163 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0648 ), SHC( 0x8027 ),
6437 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fa7 ), SHC( 0xf695 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ),
6438 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x776c ), SHC( 0xd1ef ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6439 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x64e9 ), SHC( 0xb140 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5843 ), SHC( 0xa34c ),
6440 : SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x49b4 ), SHC( 0x9759 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x398d ), SHC( 0x8dab ),
6441 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2827 ), SHC( 0x8676 ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x15e2 ), SHC( 0x81e2 ),
6442 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xf9b8 ), SHC( 0x8027 ), SHC( 0xf055 ), SHC( 0x80f6 ),
6443 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdddc ), SHC( 0x84a3 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xcc21 ), SHC( 0x8afb ),
6444 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xbb85 ), SHC( 0x93dc ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xac65 ), SHC( 0x9f14 ),
6445 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7a7d ), SHC( 0xdad8 ),
6446 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x62f2 ), SHC( 0xaecc ),
6447 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x3c57 ), SHC( 0x8f1d ),
6448 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0c8c ), SHC( 0x809e ),
6449 : SHC( 0x0000 ), SHC( 0x8000 ), SHC( 0xf374 ), SHC( 0x809e ), SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdad8 ), SHC( 0x8583 ),
6450 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb8e3 ), SHC( 0x9592 ), SHC( 0xaecc ), SHC( 0x9d0e ),
6451 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x9592 ), SHC( 0xb8e3 ), SHC( 0x8f1d ), SHC( 0xc3a9 ),
6452 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x8583 ), SHC( 0xdad8 ), SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x809e ), SHC( 0xf374 ),
6453 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x776c ), SHC( 0xd1ef ),
6454 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x539b ), SHC( 0x9f14 ),
6455 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x398d ), SHC( 0x8dab ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x1c0c ), SHC( 0x831c ),
6456 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xfcdc ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xdddc ), SHC( 0x84a3 ),
6457 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc0e9 ), SHC( 0x90a1 ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xa7bd ), SHC( 0xa34c ),
6458 : SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x93dc ), SHC( 0xbb85 ), SHC( 0x8c4a ), SHC( 0xc946 ), SHC( 0x8676 ), SHC( 0xd7d9 ),
6459 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8059 ), SHC( 0xf695 ), SHC( 0x8027 ), SHC( 0x0648 ), SHC( 0x81e2 ), SHC( 0x15e2 ),
6460 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8afb ), SHC( 0x33df ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9b17 ), SHC( 0x4ec0 ),
6461 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x73b6 ), SHC( 0xc946 ),
6462 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x41ce ), SHC( 0x9236 ),
6463 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xf9b8 ), SHC( 0x8027 ),
6464 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb3c0 ), SHC( 0x9930 ),
6465 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9930 ), SHC( 0xb3c0 ), SHC( 0x8f1d ), SHC( 0xc3a9 ), SHC( 0x877b ), SHC( 0xd4e1 ),
6466 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x809e ), SHC( 0x0c8c ), SHC( 0x83d6 ), SHC( 0x1f1a ),
6467 : SHC( 0x89be ), SHC( 0x30fc ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9d0e ), SHC( 0x5134 ), SHC( 0xaa0a ), SHC( 0x5ed7 ),
6468 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xc946 ), SHC( 0x73b6 ), SHC( 0xdad8 ), SHC( 0x7a7d ), SHC( 0xed38 ), SHC( 0x7e9d ),
6469 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e1e ), SHC( 0xea1e ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6470 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x539b ), SHC( 0x9f14 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x2e11 ), SHC( 0x8894 ),
6471 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xd7d9 ), SHC( 0x8676 ),
6472 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb140 ), SHC( 0x9b17 ), SHC( 0xa129 ), SHC( 0xaa0a ), SHC( 0x93dc ), SHC( 0xbb85 ),
6473 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x831c ), SHC( 0xe3f4 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x80f6 ), SHC( 0x0fab ),
6474 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8dab ), SHC( 0x398d ), SHC( 0x9930 ), SHC( 0x4c40 ), SHC( 0xa7bd ), SHC( 0x5cb4 ),
6475 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xcc21 ), SHC( 0x7505 ), SHC( 0xe0e6 ), SHC( 0x7c2a ), SHC( 0xf695 ), SHC( 0x7fa7 ),
6476 : SHC( 0x0c8c ), SHC( 0x7f62 ), SHC( 0x2224 ), SHC( 0x7b5d ), SHC( 0x36ba ), SHC( 0x73b6 ), SHC( 0x49b4 ), SHC( 0x68a7 )
6477 : };
6478 :
6479 : /*-----------------------------------------------------------------*
6480 : * BASOP_fft8()
6481 : *
6482 : * Function performs a complex 8-point FFT
6483 : * The FFT is performed inplace. The result of the FFT
6484 : * is scaled by SCALEFACTOR8 bits.
6485 : *
6486 : * WOPS with 32x16 bit multiplications: 108 cycles
6487 : *-----------------------------------------------------------------*/
6488 :
6489 1094640 : static void BASOP_fft8(
6490 : Word32 *re,
6491 : Word32 *im,
6492 : Word16 s )
6493 : {
6494 : Word32 x00, x01, x02, x03, x04, x05, x06, x07;
6495 : Word32 x08, x09, x10, x11, x12, x13, x14, x15;
6496 : Word32 t00, t01, t02, t03, t04, t05, t06, t07;
6497 : Word32 t08, t09, t10, t11, t12, t13, t14, t15;
6498 : Word32 s00, s01, s02, s03, s04, s05, s06, s07;
6499 : Word32 s08, s09, s10, s11, s12, s13, s14, s15;
6500 :
6501 :
6502 : /* Pre-additions */
6503 :
6504 1094640 : x00 = L_shr( re[s * 0], SCALEFACTOR8 );
6505 1094640 : x01 = L_shr( im[s * 0], SCALEFACTOR8 );
6506 1094640 : x02 = L_shr( re[s * 1], SCALEFACTOR8 );
6507 1094640 : x03 = L_shr( im[s * 1], SCALEFACTOR8 );
6508 1094640 : x04 = L_shr( re[s * 2], SCALEFACTOR8 );
6509 1094640 : x05 = L_shr( im[s * 2], SCALEFACTOR8 );
6510 1094640 : x06 = L_shr( re[s * 3], SCALEFACTOR8 );
6511 1094640 : x07 = L_shr( im[s * 3], SCALEFACTOR8 );
6512 1094640 : x08 = L_shr( re[s * 4], SCALEFACTOR8 );
6513 1094640 : x09 = L_shr( im[s * 4], SCALEFACTOR8 );
6514 1094640 : x10 = L_shr( re[s * 5], SCALEFACTOR8 );
6515 1094640 : x11 = L_shr( im[s * 5], SCALEFACTOR8 );
6516 1094640 : x12 = L_shr( re[s * 6], SCALEFACTOR8 );
6517 1094640 : x13 = L_shr( im[s * 6], SCALEFACTOR8 );
6518 1094640 : x14 = L_shr( re[s * 7], SCALEFACTOR8 );
6519 1094640 : x15 = L_shr( im[s * 7], SCALEFACTOR8 );
6520 :
6521 1094640 : t00 = L_add( x00, x08 );
6522 1094640 : t02 = L_sub( x00, x08 );
6523 1094640 : t01 = L_add( x01, x09 );
6524 1094640 : t03 = L_sub( x01, x09 );
6525 1094640 : t04 = L_add( x02, x10 );
6526 1094640 : t06 = L_sub( x02, x10 );
6527 1094640 : t05 = L_add( x03, x11 );
6528 1094640 : t07 = L_sub( x03, x11 );
6529 1094640 : t08 = L_add( x04, x12 );
6530 1094640 : t10 = L_sub( x04, x12 );
6531 1094640 : t09 = L_add( x05, x13 );
6532 1094640 : t11 = L_sub( x05, x13 );
6533 1094640 : t12 = L_add( x06, x14 );
6534 1094640 : t14 = L_sub( x06, x14 );
6535 1094640 : t13 = L_add( x07, x15 );
6536 1094640 : t15 = L_sub( x07, x15 );
6537 :
6538 : /* Pre-additions and core multiplications */
6539 :
6540 1094640 : s00 = L_add( t00, t08 );
6541 1094640 : s04 = L_sub( t00, t08 );
6542 1094640 : s01 = L_add( t01, t09 );
6543 1094640 : s05 = L_sub( t01, t09 );
6544 1094640 : s08 = L_sub( t02, t11 );
6545 1094640 : s10 = L_add( t02, t11 );
6546 1094640 : s09 = L_add( t03, t10 );
6547 1094640 : s11 = L_sub( t03, t10 );
6548 1094640 : s02 = L_add( t04, t12 );
6549 1094640 : s07 = L_sub( t04, t12 );
6550 1094640 : s03 = L_add( t05, t13 );
6551 1094640 : s06 = L_sub( t13, t05 );
6552 :
6553 1094640 : t01 = L_add( t06, t14 );
6554 1094640 : t02 = L_sub( t06, t14 );
6555 1094640 : t00 = L_add( t07, t15 );
6556 1094640 : t03 = L_sub( t07, t15 );
6557 :
6558 1094640 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6559 1094640 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6560 1094640 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6561 1094640 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6562 :
6563 : /* Post-additions */
6564 :
6565 1094640 : re[s * 0] = L_add( s00, s02 );
6566 1094640 : move32();
6567 1094640 : re[s * 4] = L_sub( s00, s02 );
6568 1094640 : move32();
6569 1094640 : im[s * 0] = L_add( s01, s03 );
6570 1094640 : move32();
6571 1094640 : im[s * 4] = L_sub( s01, s03 );
6572 1094640 : move32();
6573 1094640 : re[s * 2] = L_sub( s04, s06 );
6574 1094640 : move32();
6575 1094640 : re[s * 6] = L_add( s04, s06 );
6576 1094640 : move32();
6577 1094640 : im[s * 2] = L_sub( s05, s07 );
6578 1094640 : move32();
6579 1094640 : im[s * 6] = L_add( s05, s07 );
6580 1094640 : move32();
6581 1094640 : re[s * 3] = L_add( s08, s14 );
6582 1094640 : move32();
6583 1094640 : re[s * 7] = L_sub( s08, s14 );
6584 1094640 : move32();
6585 1094640 : im[s * 3] = L_add( s09, s15 );
6586 1094640 : move32();
6587 1094640 : im[s * 7] = L_sub( s09, s15 );
6588 1094640 : move32();
6589 1094640 : re[s * 1] = L_add( s10, s12 );
6590 1094640 : move32();
6591 1094640 : re[s * 5] = L_sub( s10, s12 );
6592 1094640 : move32();
6593 1094640 : im[s * 1] = L_add( s11, s13 );
6594 1094640 : move32();
6595 1094640 : im[s * 5] = L_sub( s11, s13 );
6596 1094640 : move32();
6597 :
6598 1094640 : return;
6599 : }
6600 :
6601 :
6602 : /*-----------------------------------------------------------------*
6603 : * fftN2()
6604 : *
6605 : * Combined FFT
6606 : *-----------------------------------------------------------------*/
6607 :
6608 136830 : static void BASOP_fftN2(
6609 : Word32 *re, /* i/o: real part */
6610 : Word32 *im, /* i/o: imag part */
6611 : const Word16 *W, /* i : rotation factor */
6612 : Word16 dim1, /* i : length of fft1 */
6613 : Word16 dim2, /* i : length of fft2 */
6614 : Word16 sx, /* i : stride real and imag part */
6615 : Word16 sc, /* i : stride phase rotation coefficients */
6616 : Word32 *x, /* tmp: 32-bit workbuffer */
6617 : Word16 Woff /* i : offset for addressing the rotation vector table */
6618 : )
6619 : {
6620 : Word16 i, j;
6621 : Word32 x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
6622 : Word32 t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
6623 : Word32 s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
6624 :
6625 1231470 : FOR( i = 0; i < dim2; i++ )
6626 : {
6627 9851760 : FOR( j = 0; j < dim1; j++ )
6628 : {
6629 8757120 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
6630 8757120 : move32();
6631 8757120 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
6632 8757120 : move32();
6633 : }
6634 : }
6635 :
6636 : /* dim1 == 8 */
6637 1231470 : FOR( i = 0; i < dim2; i++ )
6638 : {
6639 1094640 : BASOP_fft8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
6640 : }
6641 :
6642 : /* dim2 == 8 */
6643 1231470 : FOR( i = 0; i < dim1; i++ )
6644 : {
6645 1094640 : cplxMpy4_8_1( x00, x01, x[2 * i + 2 * 0 * dim1], x[2 * i + 2 * 0 * dim1 + 1] );
6646 :
6647 1094640 : IF( i == 0 )
6648 : {
6649 136830 : cplxMpy4_8_1( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1] );
6650 136830 : cplxMpy4_8_1( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1] );
6651 136830 : cplxMpy4_8_1( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1] );
6652 136830 : cplxMpy4_8_1( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1] );
6653 136830 : cplxMpy4_8_1( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1] );
6654 136830 : cplxMpy4_8_1( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1] );
6655 136830 : cplxMpy4_8_1( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1] );
6656 : }
6657 : ELSE
6658 : {
6659 957810 : cplxMpy4_8_0( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1], W[sc * i + sc * 1 * dim1 - Woff], W[sc * i + sc * 1 * dim1 + 1 - Woff] );
6660 957810 : cplxMpy4_8_0( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1], W[sc * i + sc * 2 * dim1 - Woff], W[sc * i + sc * 2 * dim1 + 1 - Woff] );
6661 957810 : cplxMpy4_8_0( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1], W[sc * i + sc * 3 * dim1 - Woff], W[sc * i + sc * 3 * dim1 + 1 - Woff] );
6662 957810 : cplxMpy4_8_0( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1], W[sc * i + sc * 4 * dim1 - Woff], W[sc * i + sc * 4 * dim1 + 1 - Woff] );
6663 957810 : cplxMpy4_8_0( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1], W[sc * i + sc * 5 * dim1 - Woff], W[sc * i + sc * 5 * dim1 + 1 - Woff] );
6664 957810 : cplxMpy4_8_0( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1], W[sc * i + sc * 6 * dim1 - Woff], W[sc * i + sc * 6 * dim1 + 1 - Woff] );
6665 957810 : cplxMpy4_8_0( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1], W[sc * i + sc * 7 * dim1 - Woff], W[sc * i + sc * 7 * dim1 + 1 - Woff] );
6666 : }
6667 1094640 : t00 = L_shr( L_add( x00, x08 ), SCALEFACTORN2 - 1 );
6668 1094640 : t02 = L_shr( L_sub( x00, x08 ), SCALEFACTORN2 - 1 );
6669 1094640 : t01 = L_shr( L_add( x01, x09 ), SCALEFACTORN2 - 1 );
6670 1094640 : t03 = L_shr( L_sub( x01, x09 ), SCALEFACTORN2 - 1 );
6671 1094640 : t04 = L_shr( L_add( x02, x10 ), SCALEFACTORN2 - 1 );
6672 1094640 : t06 = L_sub( x02, x10 );
6673 1094640 : t05 = L_shr( L_add( x03, x11 ), SCALEFACTORN2 - 1 );
6674 1094640 : t07 = L_sub( x03, x11 );
6675 1094640 : t08 = L_shr( L_add( x04, x12 ), SCALEFACTORN2 - 1 );
6676 1094640 : t10 = L_shr( L_sub( x04, x12 ), SCALEFACTORN2 - 1 );
6677 1094640 : t09 = L_shr( L_add( x05, x13 ), SCALEFACTORN2 - 1 );
6678 1094640 : t11 = L_shr( L_sub( x05, x13 ), SCALEFACTORN2 - 1 );
6679 1094640 : t12 = L_shr( L_add( x06, x14 ), SCALEFACTORN2 - 1 );
6680 1094640 : t14 = L_sub( x06, x14 );
6681 1094640 : t13 = L_shr( L_add( x07, x15 ), SCALEFACTORN2 - 1 );
6682 1094640 : t15 = L_sub( x07, x15 );
6683 :
6684 1094640 : s00 = L_add( t00, t08 );
6685 1094640 : s04 = L_sub( t00, t08 );
6686 1094640 : s01 = L_add( t01, t09 );
6687 1094640 : s05 = L_sub( t01, t09 );
6688 1094640 : s08 = L_sub( t02, t11 );
6689 1094640 : s10 = L_add( t02, t11 );
6690 1094640 : s09 = L_add( t03, t10 );
6691 1094640 : s11 = L_sub( t03, t10 );
6692 1094640 : s02 = L_add( t04, t12 );
6693 1094640 : s07 = L_sub( t04, t12 );
6694 1094640 : s03 = L_add( t05, t13 );
6695 1094640 : s06 = L_sub( t13, t05 );
6696 :
6697 1094640 : t01 = L_shr( L_add( t06, t14 ), SCALEFACTORN2 - 1 );
6698 1094640 : t02 = L_shr( L_sub( t06, t14 ), SCALEFACTORN2 - 1 );
6699 1094640 : t00 = L_shr( L_add( t07, t15 ), SCALEFACTORN2 - 1 );
6700 1094640 : t03 = L_shr( L_sub( t07, t15 ), SCALEFACTORN2 - 1 );
6701 :
6702 1094640 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6703 1094640 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6704 1094640 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6705 1094640 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6706 :
6707 1094640 : re[sx * i + sx * 0 * dim1] = L_add( s00, s02 );
6708 1094640 : move32();
6709 1094640 : im[sx * i + sx * 0 * dim1] = L_add( s01, s03 );
6710 1094640 : move32();
6711 1094640 : re[sx * i + sx * 1 * dim1] = L_add( s10, s12 );
6712 1094640 : move32();
6713 1094640 : im[sx * i + sx * 1 * dim1] = L_add( s11, s13 );
6714 1094640 : move32();
6715 1094640 : re[sx * i + sx * 2 * dim1] = L_sub( s04, s06 );
6716 1094640 : move32();
6717 1094640 : im[sx * i + sx * 2 * dim1] = L_sub( s05, s07 );
6718 1094640 : move32();
6719 1094640 : re[sx * i + sx * 3 * dim1] = L_add( s08, s14 );
6720 1094640 : move32();
6721 1094640 : im[sx * i + sx * 3 * dim1] = L_add( s09, s15 );
6722 1094640 : move32();
6723 1094640 : re[sx * i + sx * 4 * dim1] = L_sub( s00, s02 );
6724 1094640 : move32();
6725 1094640 : im[sx * i + sx * 4 * dim1] = L_sub( s01, s03 );
6726 1094640 : move32();
6727 1094640 : re[sx * i + sx * 5 * dim1] = L_sub( s10, s12 );
6728 1094640 : move32();
6729 1094640 : im[sx * i + sx * 5 * dim1] = L_sub( s11, s13 );
6730 1094640 : move32();
6731 1094640 : re[sx * i + sx * 6 * dim1] = L_add( s04, s06 );
6732 1094640 : move32();
6733 1094640 : im[sx * i + sx * 6 * dim1] = L_add( s05, s07 );
6734 1094640 : move32();
6735 1094640 : re[sx * i + sx * 7 * dim1] = L_sub( s08, s14 );
6736 1094640 : move32();
6737 1094640 : im[sx * i + sx * 7 * dim1] = L_sub( s09, s15 );
6738 1094640 : move32();
6739 : }
6740 :
6741 136830 : return;
6742 : }
6743 :
6744 :
6745 : /*-----------------------------------------------------------------*
6746 : * BASOP_cfft()
6747 : *
6748 : * Complex valued FFT
6749 : *-----------------------------------------------------------------*/
6750 :
6751 136830 : void BASOP_cfft(
6752 : Word32 *re, /* i/o: real part */
6753 : Word32 *im, /* i/o: imag part */
6754 : Word16 s, /* i : stride real and imag part */
6755 : Word16 *scale /* i : scalefactor */
6756 : )
6757 : {
6758 : Word32 x[2 * 64];
6759 :
6760 : /* FFT for len = FDNS_NPTS */
6761 136830 : BASOP_fftN2( re, im, RotVector_256, 8, 8, s, 8, x, 64 );
6762 136830 : s = add( *scale, SCALEFACTOR64 );
6763 :
6764 136830 : *scale = s;
6765 136830 : move16();
6766 :
6767 136830 : return;
6768 : }
6769 :
6770 : #undef WMC_TOOL_SKIP
|
