Line data Source code
1 : /******************************************************************************************************
2 :
3 : (C) 2022-2025 IVAS codec Public Collaboration with portions copyright Dolby International AB, Ericsson AB,
4 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
5 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
6 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
7 : contributors to this repository. All Rights Reserved.
8 :
9 : This software is protected by copyright law and by international treaties.
10 : The IVAS codec Public Collaboration consisting of Dolby International AB, Ericsson AB,
11 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
12 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
13 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
14 : contributors to this repository retain full ownership rights in their respective contributions in
15 : the software. This notice grants no license of any kind, including but not limited to patent
16 : license, nor is any license granted by implication, estoppel or otherwise.
17 :
18 : Contributors are required to enter into the IVAS codec Public Collaboration agreement before making
19 : contributions.
20 :
21 : This software is provided "AS IS", without any express or implied warranties. The software is in the
22 : development stage. It is intended exclusively for experts who have experience with such software and
23 : solely for the purpose of inspection. All implied warranties of non-infringement, merchantability
24 : and fitness for a particular purpose are hereby disclaimed and excluded.
25 :
26 : Any dispute, controversy or claim arising under or in relation to providing this software shall be
27 : submitted to and settled by the final, binding jurisdiction of the courts of Munich, Germany in
28 : accordance with the laws of the Federal Republic of Germany excluding its conflict of law rules and
29 : the United Nations Convention on Contracts on the International Sales of Goods.
30 :
31 : *******************************************************************************************************/
32 :
33 : /*====================================================================================
34 : EVS Codec 3GPP TS26.443 Nov 04, 2021. Version 12.14.0 / 13.10.0 / 14.6.0 / 15.4.0 / 16.3.0
35 : ====================================================================================*/
36 :
37 : #include <assert.h>
38 : #include <stdint.h>
39 : #include "options.h"
40 : #ifdef DEBUGGING
41 : #include "debug.h"
42 : #endif
43 : #include <math.h>
44 : #include "cnst.h"
45 : #include "prot.h"
46 : #include "rom_com.h"
47 : #include "wmc_auto.h"
48 :
49 : #ifdef _MSC_VER
50 : #pragma warning( disable : 4310 )
51 : #endif
52 :
53 : /*-----------------------------------------------------------------*
54 : * Local constants
55 : *-----------------------------------------------------------------*/
56 :
57 : #define FFT_15PONIT_WNK1 0.55901699f /* EDCT & EMDCT constants */
58 : #define FFT_15PONIT_WNK2 0.95105652f /* EDCT & EMDCT constants */
59 : #define FFT_15PONIT_WNK3 0.58778525f /* EDCT & EMDCT constants */
60 : #define FFT_15PONIT_WNK4 0.86602540f /* EDCT & EMDCT constants */
61 : #define FFT_15PONIT_WNK5 0.25000000f /* EDCT & EMDCT constants */
62 :
63 : /* FFT constants */
64 : #define FFT_C31 -0.8660254037f
65 : #define FFT_C51 0.9510565195f
66 : #define FFT_C52 -1.5388417989f
67 : #define FFT_C53 -0.3632712597f
68 : #define FFT_C54 0.5590169895f
69 : #define FFT_C55 -1.2500000000f
70 : #define FFT_C61 0.8660254036f
71 : #define FFT_C81 0.7071067811f
72 : #define FFT_C82 -0.7071067811f
73 : #define FFT_C161 0.7071067811f
74 : #define FFT_C162 -0.7071067811f
75 : #define FFT_C163 0.9238795325f
76 : #define FFT_C164 -0.9238795325f
77 : #define FFT_C165 0.3826834323f
78 : #define FFT_C166 -0.3826834323f
79 :
80 :
81 : /*-----------------------------------------------------------------*
82 : * Local function prototypes
83 : *-----------------------------------------------------------------*/
84 :
85 : static void cdftForw( int16_t n, float *a, const int16_t *ip, const float *w );
86 : static void bitrv2_SR( int16_t n, const int16_t *ip, float *a );
87 : static void cftfsub( int16_t n, float *a, const float *w );
88 : static void cft1st( int16_t n, float *a, const float *w );
89 : static void cftmdl( int16_t n, int16_t l, float *a, const float *w );
90 : static void fft16( float *x, float *y, const int16_t *Idx );
91 : static void fft5_shift1( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
92 : static void fft8( float *x, float *y, const int16_t *Idx );
93 : static void fft15_shift2( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
94 : static void fft15_shift8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
95 : static void fft5_shift4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
96 : static void fft5_32( float *zRe, float *zIm, const int16_t *Idx );
97 : static void fft64( float *x, float *y, const int16_t *Idx );
98 : static void fft32_15( float *x, float *y, const int16_t *Idx );
99 : static void fft32_5( float *x, float *y, const int16_t *Idx );
100 : static void fft8_5( float *x, float *y, const int16_t *Idx );
101 : static void fft5_8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
102 : static void fft4_5( float *x, float *y, const int16_t *Idx );
103 : static void fft5_4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
104 :
105 3380160 : static float fmac( float a, float b, float c )
106 : {
107 3380160 : return ( ( ( a ) * ( b ) ) + ( c ) );
108 : }
109 :
110 12393920 : static float fnms( float a, float b, float c )
111 : {
112 12393920 : return ( ( c ) - ( ( a ) * ( b ) ) );
113 : }
114 :
115 : /*-----------------------------------------------------------------*
116 : * fft15_shift2()
117 : * 15-point FFT with 2-point circular shift
118 : *-----------------------------------------------------------------*/
119 :
120 6656 : static void fft15_shift2(
121 : int16_t n1, /* i : length of data */
122 : float *zRe, /* i/o: real part of input and output data */
123 : float *zIm, /* i/o: imaginary part of input and output data */
124 : const int16_t *Idx /* i : pointer of the address table */
125 : )
126 : {
127 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
128 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
129 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
130 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
131 : float f2i13, f2i14, f2i15, f2i16, f2i17, f2i18, f2i19, f2i20, f2i21, f2i22, f2i23, f2i24;
132 : float f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9, f3i10, f3i11, f3i12, f3i13, f3i14, f3i15;
133 : float f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
134 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, f4i16, f4i17, f4i18, f4i19, f4i20, fo1, fo2, fo3, fo4;
135 : float fo5, fo6, fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, fo16, fo17, fo18;
136 : float f2o1, f2o2, f2o3, f2o4, f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13;
137 : float f2o14, f2o15, f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11;
138 : float f3o12, f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6;
139 : float f4o7, f4o8, f4o9, f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f4o16, f4o17, f4o18, f4o19;
140 :
141 6656 : in0 = Idx[0];
142 6656 : in8 = Idx[n1];
143 6656 : in16 = Idx[n1 * 2];
144 6656 : in24 = Idx[n1 * 3];
145 6656 : in32 = Idx[n1 * 4];
146 6656 : in1 = Idx[n1 * 5];
147 6656 : in9 = Idx[n1 * 6];
148 6656 : in17 = Idx[n1 * 7];
149 6656 : in25 = Idx[n1 * 8];
150 6656 : in33 = Idx[n1 * 9];
151 6656 : in2 = Idx[n1 * 10];
152 6656 : in10 = Idx[n1 * 11];
153 6656 : in18 = Idx[n1 * 12];
154 6656 : in26 = Idx[n1 * 13];
155 6656 : in34 = Idx[n1 * 14];
156 :
157 6656 : f2i13 = zRe[in0];
158 6656 : f2i14 = zIm[in0];
159 6656 : f2i21 = zRe[in1];
160 6656 : f2i22 = zRe[in2];
161 6656 : f2i23 = zIm[in1];
162 6656 : f2i24 = zIm[in2];
163 :
164 6656 : f2i15 = f2i21 + f2i22;
165 6656 : f2i16 = FFT_15PONIT_WNK4 * ( f2i22 - f2i21 );
166 6656 : f2i17 = FFT_15PONIT_WNK4 * ( f2i23 - f2i24 );
167 6656 : f2i18 = f2i23 + f2i24;
168 6656 : fi1 = f2i13 + f2i15;
169 6656 : fi2 = f2i14 + f2i18;
170 :
171 6656 : f2i19 = fnms( 0.5f, f2i15, f2i13 );
172 6656 : f2i20 = fnms( 0.5f, f2i18, f2i14 );
173 6656 : fi3 = f2i19 - f2i17;
174 6656 : fi4 = f2i19 + f2i17;
175 6656 : fi5 = f2i16 + f2i20;
176 6656 : fi6 = f2i20 - f2i16;
177 :
178 6656 : f3i1 = zRe[in9];
179 6656 : f4i2 = zRe[in10];
180 6656 : f4i3 = zRe[in8];
181 6656 : f3i2 = f4i2 + f4i3;
182 6656 : f3i3 = fnms( 0.5f, f3i2, f3i1 );
183 6656 : f3i4 = FFT_15PONIT_WNK4 * ( f4i3 - f4i2 );
184 :
185 6656 : f3i5 = zIm[in9];
186 6656 : f4i4 = zIm[in10];
187 6656 : f4i5 = zIm[in8];
188 6656 : f3i6 = f4i4 + f4i5;
189 6656 : f3i7 = FFT_15PONIT_WNK4 * ( f4i4 - f4i5 );
190 6656 : f3i8 = fnms( 0.5f, f3i6, f3i5 );
191 :
192 6656 : f3i9 = zRe[in33];
193 6656 : f4i6 = zRe[in34];
194 6656 : f4i7 = zRe[in32];
195 6656 : f3i10 = f4i6 + f4i7;
196 6656 : f3i11 = fnms( 0.5f, f3i10, f3i9 );
197 6656 : f3i12 = FFT_15PONIT_WNK4 * ( f4i7 - f4i6 );
198 :
199 6656 : f3i13 = zIm[in33];
200 6656 : f4i8 = zIm[in34];
201 6656 : f4i9 = zIm[in32];
202 6656 : f3i14 = f4i8 + f4i9;
203 6656 : f3i15 = FFT_15PONIT_WNK4 * ( f4i8 - f4i9 );
204 6656 : f4i1 = fnms( 0.5f, f3i14, f3i13 );
205 :
206 6656 : fi7 = f3i1 + f3i2;
207 6656 : fi8 = f3i9 + f3i10;
208 6656 : fi9 = fi7 + fi8;
209 6656 : fi10 = f3i3 - f3i7;
210 6656 : fi11 = f3i11 - f3i15;
211 6656 : fi12 = fi10 + fi11;
212 6656 : fi13 = f3i5 + f3i6;
213 6656 : fi14 = f3i13 + f3i14;
214 6656 : fi15 = fi13 + fi14;
215 6656 : fi16 = f3i8 - f3i4;
216 6656 : fi17 = f4i1 - f3i12;
217 6656 : fi18 = fi16 + fi17;
218 6656 : fi19 = f3i4 + f3i8;
219 6656 : fi20 = f3i12 + f4i1;
220 6656 : fi21 = fi19 + fi20;
221 6656 : fi22 = f3i3 + f3i7;
222 6656 : fi23 = f3i11 + f3i15;
223 6656 : fi24 = fi22 + fi23;
224 :
225 6656 : f4i10 = zRe[in24];
226 6656 : fo6 = zRe[in25];
227 6656 : fo7 = zRe[in26];
228 6656 : f4i11 = fo6 + fo7;
229 6656 : f4i12 = fnms( 0.5f, f4i11, f4i10 );
230 6656 : f4i13 = FFT_15PONIT_WNK4 * ( fo7 - fo6 );
231 :
232 6656 : f4i14 = zIm[in24];
233 6656 : fo8 = zIm[in25];
234 6656 : fo9 = zIm[in26];
235 6656 : f4i15 = fo8 + fo9;
236 6656 : f4i16 = FFT_15PONIT_WNK4 * ( fo8 - fo9 );
237 6656 : f4i17 = fnms( 0.5f, f4i15, f4i14 );
238 :
239 6656 : f4i18 = zRe[in18];
240 6656 : f2o10 = zRe[in16];
241 6656 : f2o11 = zRe[in17];
242 6656 : f4i19 = f2o10 + f2o11;
243 6656 : f4i20 = fnms( 0.5f, f4i19, f4i18 );
244 6656 : fo1 = FFT_15PONIT_WNK4 * ( f2o11 - f2o10 );
245 :
246 6656 : fo2 = zIm[in18];
247 6656 : f2o12 = zIm[in16];
248 6656 : f2o13 = zIm[in17];
249 6656 : fo3 = f2o12 + f2o13;
250 6656 : fo4 = FFT_15PONIT_WNK4 * ( f2o12 - f2o13 );
251 6656 : fo5 = fnms( 0.5f, fo3, fo2 );
252 :
253 6656 : fi25 = f4i10 + f4i11;
254 6656 : fi26 = f4i18 + f4i19;
255 6656 : fi27 = fi25 + fi26;
256 6656 : fi28 = f4i12 - f4i16;
257 6656 : fi29 = f4i20 - fo4;
258 6656 : fi30 = fi28 + fi29;
259 6656 : f2i1 = f4i14 + f4i15;
260 6656 : f2i2 = fo2 + fo3;
261 6656 : f2i3 = f2i1 + f2i2;
262 6656 : f2i4 = f4i17 - f4i13;
263 6656 : f2i5 = fo5 - fo1;
264 6656 : f2i6 = f2i4 + f2i5;
265 6656 : f2i7 = f4i13 + f4i17;
266 6656 : f2i8 = fo1 + fo5;
267 6656 : f2i9 = f2i7 + f2i8;
268 6656 : f2i10 = f4i12 + f4i16;
269 6656 : f2i11 = f4i20 + fo4;
270 6656 : f2i12 = f2i10 + f2i11;
271 :
272 6656 : fo10 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
273 6656 : fo11 = fi27 + fi9;
274 6656 : fo12 = fnms( FFT_15PONIT_WNK5, fo11, fi1 );
275 6656 : fo15 = fi13 - fi14;
276 6656 : fo16 = f2i1 - f2i2;
277 6656 : fo13 = fnms( FFT_15PONIT_WNK3, fo16, FFT_15PONIT_WNK2 * fo15 );
278 6656 : fo14 = fmac( FFT_15PONIT_WNK2, fo16, FFT_15PONIT_WNK3 * fo15 );
279 :
280 6656 : zRe[in0] = fi1 + fo11;
281 6656 : fo17 = fo10 + fo12;
282 6656 : zRe[in18] = fo17 - fo14;
283 6656 : zRe[in24] = fo17 + fo14;
284 6656 : fo18 = fo12 - fo10;
285 6656 : zRe[in9] = fo18 - fo13;
286 6656 : zRe[in33] = fo18 + fo13;
287 :
288 6656 : f2o1 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
289 6656 : f2o2 = f2i3 + fi15;
290 6656 : f2o3 = fnms( FFT_15PONIT_WNK5, f2o2, fi2 );
291 6656 : f2o6 = fi7 - fi8;
292 6656 : f2o7 = fi25 - fi26;
293 6656 : f2o4 = fnms( FFT_15PONIT_WNK3, f2o7, FFT_15PONIT_WNK2 * f2o6 );
294 6656 : f2o5 = fmac( FFT_15PONIT_WNK2, f2o7, FFT_15PONIT_WNK3 * f2o6 );
295 6656 : zIm[in0] = fi2 + f2o2;
296 6656 : f2o8 = f2o1 + f2o3;
297 6656 : zIm[in24] = f2o8 - f2o5;
298 6656 : zIm[in18] = f2o5 + f2o8;
299 6656 : f2o9 = f2o3 - f2o1;
300 6656 : zIm[in33] = f2o9 - f2o4;
301 6656 : zIm[in9] = f2o4 + f2o9;
302 :
303 6656 : f2o14 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
304 6656 : f2o15 = fi30 + fi12;
305 6656 : f3o1 = fnms( FFT_15PONIT_WNK5, f2o15, fi3 );
306 6656 : f3o4 = fi16 - fi17;
307 6656 : f3o5 = f2i4 - f2i5;
308 6656 : f3o2 = fnms( FFT_15PONIT_WNK3, f3o5, FFT_15PONIT_WNK2 * f3o4 );
309 6656 : f3o3 = fmac( FFT_15PONIT_WNK2, f3o5, FFT_15PONIT_WNK3 * f3o4 );
310 6656 : zRe[in2] = fi3 + f2o15;
311 6656 : f3o6 = f2o14 + f3o1;
312 6656 : zRe[in17] = f3o6 - f3o3;
313 6656 : zRe[in26] = f3o6 + f3o3;
314 6656 : f3o7 = f3o1 - f2o14;
315 6656 : zRe[in8] = f3o7 - f3o2;
316 6656 : zRe[in32] = f3o7 + f3o2;
317 :
318 6656 : f3o8 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
319 6656 : f3o9 = f2i6 + fi18;
320 6656 : f3o10 = fnms( FFT_15PONIT_WNK5, f3o9, fi6 );
321 6656 : f3o13 = fi10 - fi11;
322 6656 : f3o14 = fi28 - fi29;
323 6656 : f3o11 = fnms( FFT_15PONIT_WNK3, f3o14, FFT_15PONIT_WNK2 * f3o13 );
324 6656 : f3o12 = fmac( FFT_15PONIT_WNK2, f3o14, FFT_15PONIT_WNK3 * f3o13 );
325 6656 : zIm[in2] = fi6 + f3o9;
326 6656 : f3o15 = f3o8 + f3o10;
327 6656 : zIm[in26] = f3o15 - f3o12;
328 6656 : zIm[in17] = f3o12 + f3o15;
329 6656 : f4o1 = f3o10 - f3o8;
330 6656 : zIm[in8] = f3o11 + f4o1;
331 6656 : zIm[in32] = f4o1 - f3o11;
332 :
333 6656 : f4o2 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
334 6656 : f4o3 = f2i9 + fi21;
335 6656 : f4o4 = fnms( FFT_15PONIT_WNK5, f4o3, fi5 );
336 6656 : f4o7 = f2i10 - f2i11;
337 6656 : f4o8 = fi22 - fi23;
338 6656 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o8 );
339 6656 : f4o6 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o8 );
340 6656 : zIm[in1] = fi5 + f4o3;
341 6656 : f4o9 = f4o4 - f4o2;
342 6656 : f4o10 = f4o2 + f4o4;
343 :
344 6656 : zIm[in10] = f4o6 + f4o9;
345 6656 : zIm[in34] = f4o9 - f4o6;
346 6656 : zIm[in25] = f4o10 - f4o5;
347 6656 : zIm[in16] = f4o5 + f4o10;
348 :
349 6656 : f4o11 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
350 6656 : f4o12 = f2i12 + fi24;
351 6656 : f4o13 = fnms( FFT_15PONIT_WNK5, f4o12, fi4 );
352 6656 : f4o16 = f2i7 - f2i8;
353 6656 : f4o17 = fi19 - fi20;
354 6656 : f4o14 = fmac( FFT_15PONIT_WNK2, f4o16, FFT_15PONIT_WNK3 * f4o17 );
355 6656 : f4o15 = fnms( FFT_15PONIT_WNK3, f4o16, FFT_15PONIT_WNK2 * f4o17 );
356 6656 : zRe[in1] = fi4 + f4o12;
357 6656 : f4o18 = f4o13 - f4o11;
358 6656 : f4o19 = f4o11 + f4o13;
359 :
360 6656 : zRe[in10] = f4o18 - f4o15;
361 6656 : zRe[in34] = f4o18 + f4o15;
362 6656 : zRe[in16] = f4o19 - f4o14;
363 6656 : zRe[in25] = f4o19 + f4o14;
364 :
365 6656 : return;
366 : }
367 :
368 : /*-----------------------------------------------------------------*
369 : * fft15_shift8()
370 : * 15-point FFT with 8-point circular shift
371 : *-----------------------------------------------------------------*/
372 :
373 556704 : static void fft15_shift8(
374 : int16_t n1, /* i : length of data */
375 : float *zRe, /* i/o: real part of input and output data */
376 : float *zIm, /* i/o: imaginary part of input and output data */
377 : const int16_t *Idx /* i : pointer of the address table */
378 : )
379 : {
380 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
381 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
382 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
383 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
384 : float f2i13, f2i14, f2i15, f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9;
385 : float f3i10, f3i11, f3i12, f3i13, f3i14, f3i15, f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
386 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, fo1, fo2, fo3, fo4, fo5, fo6;
387 : float fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, f2o1, f2o2, f2o3, f2o4;
388 : float f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13, f2o14, f2o15;
389 : float f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11, f3o12;
390 : float f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6, f4o7, f4o8, f4o9;
391 : float f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f5o1, f5o2, f5o3, f5o4, f5o5, f5o6, f5o7;
392 : float f5o8, f5o9, f5o10, f5o11, f5o12, f5o13, f5o14, f5o15, f5o16, f5o17, f5o18, f5o19, f5o21, f5o22;
393 :
394 556704 : in0 = Idx[0];
395 556704 : in8 = Idx[n1];
396 556704 : in16 = Idx[n1 * 2];
397 556704 : in24 = Idx[n1 * 3];
398 556704 : in32 = Idx[n1 * 4];
399 556704 : in1 = Idx[n1 * 5];
400 556704 : in9 = Idx[n1 * 6];
401 556704 : in17 = Idx[n1 * 7];
402 556704 : in25 = Idx[n1 * 8];
403 556704 : in33 = Idx[n1 * 9];
404 556704 : in2 = Idx[n1 * 10];
405 556704 : in10 = Idx[n1 * 11];
406 556704 : in18 = Idx[n1 * 12];
407 556704 : in26 = Idx[n1 * 13];
408 556704 : in34 = Idx[n1 * 14];
409 :
410 556704 : f2i13 = zRe[in0];
411 556704 : f2i14 = zIm[in0];
412 556704 : f3i6 = zRe[in1];
413 556704 : f3i7 = zRe[in2];
414 556704 : f3i8 = zIm[in1];
415 556704 : f3i9 = zIm[in2];
416 :
417 556704 : f2i15 = f3i6 + f3i7;
418 556704 : f3i1 = FFT_15PONIT_WNK4 * ( f3i7 - f3i6 );
419 556704 : f3i2 = FFT_15PONIT_WNK4 * ( f3i8 - f3i9 );
420 556704 : f3i3 = f3i8 + f3i9;
421 :
422 556704 : fi1 = f2i13 + f2i15;
423 556704 : fi2 = f2i14 + f3i3;
424 556704 : f3i4 = fnms( 0.5f, f2i15, f2i13 );
425 556704 : fi3 = f3i4 - f3i2;
426 556704 : fi4 = f3i4 + f3i2;
427 556704 : f3i5 = fnms( 0.5f, f3i3, f2i14 );
428 556704 : fi5 = f3i1 + f3i5;
429 556704 : fi6 = f3i5 - f3i1;
430 :
431 556704 : f3i10 = zRe[in9];
432 556704 : f4i11 = zRe[in10];
433 556704 : f4i12 = zRe[in8];
434 556704 : f3i14 = zIm[in9];
435 556704 : f4i13 = zIm[in10];
436 556704 : f4i14 = zIm[in8];
437 556704 : f4i3 = zRe[in33];
438 556704 : f4i15 = zRe[in34];
439 556704 : fo1 = zRe[in32];
440 556704 : f4i7 = zIm[in33];
441 556704 : fo2 = zIm[in34];
442 556704 : fo3 = zIm[in32];
443 :
444 :
445 556704 : f3i11 = f4i11 + f4i12;
446 556704 : f3i12 = fnms( 0.5f, f3i11, f3i10 );
447 556704 : f3i13 = FFT_15PONIT_WNK4 * ( f4i12 - f4i11 );
448 556704 : f3i15 = f4i13 + f4i14;
449 556704 : f4i1 = FFT_15PONIT_WNK4 * ( f4i13 - f4i14 );
450 556704 : f4i2 = fnms( 0.5f, f3i15, f3i14 );
451 556704 : f4i4 = f4i15 + fo1;
452 556704 : f4i5 = fnms( 0.5f, f4i4, f4i3 );
453 556704 : f4i6 = FFT_15PONIT_WNK4 * ( fo1 - f4i15 );
454 556704 : f4i8 = fo2 + fo3;
455 556704 : f4i9 = FFT_15PONIT_WNK4 * ( fo2 - fo3 );
456 556704 : f4i10 = fnms( 0.5f, f4i8, f4i7 );
457 :
458 556704 : fi7 = f3i10 + f3i11;
459 556704 : fi8 = f4i3 + f4i4;
460 556704 : fi9 = fi7 + fi8;
461 556704 : fi10 = f3i12 - f4i1;
462 556704 : fi11 = f4i5 - f4i9;
463 556704 : fi12 = fi10 + fi11;
464 556704 : fi13 = f3i14 + f3i15;
465 556704 : fi14 = f4i7 + f4i8;
466 556704 : fi15 = fi13 + fi14;
467 556704 : fi16 = f4i2 - f3i13;
468 556704 : fi17 = f4i10 - f4i6;
469 556704 : fi18 = fi16 + fi17;
470 556704 : fi19 = f3i13 + f4i2;
471 556704 : fi20 = f4i6 + f4i10;
472 556704 : fi21 = fi19 + fi20;
473 556704 : fi22 = f3i12 + f4i1;
474 556704 : fi23 = f4i5 + f4i9;
475 556704 : fi24 = fi22 + fi23;
476 :
477 556704 : fo4 = zRe[in24];
478 556704 : f2o5 = zRe[in25];
479 556704 : f2o6 = zRe[in26];
480 556704 : fo8 = zIm[in24];
481 556704 : f2o7 = zIm[in25];
482 556704 : f2o8 = zIm[in26];
483 556704 : fo12 = zRe[in18];
484 556704 : f2o9 = zRe[in16];
485 556704 : f2o10 = zRe[in17];
486 556704 : f2o1 = zIm[in18];
487 556704 : f2o11 = zIm[in16];
488 556704 : f2o12 = zIm[in17];
489 :
490 :
491 556704 : fo5 = f2o5 + f2o6;
492 556704 : fo6 = fnms( 0.5f, fo5, fo4 );
493 556704 : fo7 = FFT_15PONIT_WNK4 * ( f2o6 - f2o5 );
494 556704 : fo9 = f2o7 + f2o8;
495 556704 : fo10 = FFT_15PONIT_WNK4 * ( f2o7 - f2o8 );
496 556704 : fo11 = fnms( 0.5f, fo9, fo8 );
497 556704 : fo13 = f2o9 + f2o10;
498 556704 : fo14 = fnms( 0.5f, fo13, fo12 );
499 556704 : fo15 = FFT_15PONIT_WNK4 * ( f2o10 - f2o9 );
500 556704 : f2o2 = f2o11 + f2o12;
501 556704 : f2o3 = FFT_15PONIT_WNK4 * ( f2o11 - f2o12 );
502 556704 : f2o4 = fnms( 0.5f, f2o2, f2o1 );
503 :
504 556704 : fi25 = fo4 + fo5;
505 556704 : fi26 = fo12 + fo13;
506 556704 : fi27 = fi25 + fi26;
507 556704 : fi28 = fo6 - fo10;
508 556704 : fi29 = fo14 - f2o3;
509 556704 : fi30 = fi28 + fi29;
510 556704 : f2i1 = fo8 + fo9;
511 556704 : f2i2 = f2o1 + f2o2;
512 556704 : f2i3 = f2i1 + f2i2;
513 556704 : f2i4 = fo11 - fo7;
514 556704 : f2i5 = f2o4 - fo15;
515 556704 : f2i6 = f2i4 + f2i5;
516 556704 : f2i7 = fo7 + fo11;
517 556704 : f2i8 = fo15 + f2o4;
518 556704 : f2i9 = f2i7 + f2i8;
519 556704 : f2i10 = fo6 + fo10;
520 556704 : f2i11 = fo14 + f2o3;
521 556704 : f2i12 = f2i10 + f2i11;
522 :
523 556704 : f2o13 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
524 556704 : f2o14 = fi27 + fi9;
525 556704 : f2o15 = fnms( FFT_15PONIT_WNK5, f2o14, fi1 );
526 556704 : f3o3 = fi13 - fi14;
527 556704 : f3o4 = f2i1 - f2i2;
528 556704 : f3o1 = fnms( FFT_15PONIT_WNK3, f3o4, FFT_15PONIT_WNK2 * f3o3 );
529 556704 : f3o2 = fmac( FFT_15PONIT_WNK2, f3o4, FFT_15PONIT_WNK3 * f3o3 );
530 556704 : zRe[in0] = fi1 + f2o14;
531 556704 : f3o5 = f2o13 + f2o15;
532 556704 : zRe[in24] = f3o5 - f3o2;
533 556704 : zRe[in18] = f3o5 + f3o2;
534 556704 : f3o6 = f2o15 - f2o13;
535 556704 : zRe[in33] = f3o6 - f3o1;
536 556704 : zRe[in9] = f3o6 + f3o1;
537 :
538 556704 : f3o7 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
539 556704 : f3o8 = f2i3 + fi15;
540 556704 : f3o9 = fnms( FFT_15PONIT_WNK5, f3o8, fi2 );
541 556704 : f3o12 = fi7 - fi8;
542 556704 : f3o13 = fi25 - fi26;
543 556704 : f3o10 = fnms( FFT_15PONIT_WNK3, f3o13, FFT_15PONIT_WNK2 * f3o12 );
544 556704 : f3o11 = fmac( FFT_15PONIT_WNK2, f3o13, FFT_15PONIT_WNK3 * f3o12 );
545 556704 : zIm[in0] = fi2 + f3o8;
546 556704 : f3o14 = f3o7 + f3o9;
547 556704 : zIm[in18] = f3o14 - f3o11;
548 556704 : zIm[in24] = f3o11 + f3o14;
549 556704 : f3o15 = f3o9 - f3o7;
550 556704 : zIm[in9] = f3o15 - f3o10;
551 556704 : zIm[in33] = f3o10 + f3o15;
552 :
553 556704 : f4o1 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
554 556704 : f4o2 = fi30 + fi12;
555 556704 : f4o3 = fnms( FFT_15PONIT_WNK5, f4o2, fi3 );
556 556704 : f4o6 = fi16 - fi17;
557 556704 : f4o7 = f2i4 - f2i5;
558 556704 : f4o4 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o6 );
559 556704 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o6 );
560 556704 : zRe[in2] = fi3 + f4o2;
561 556704 : f4o8 = f4o1 + f4o3;
562 556704 : zRe[in26] = f4o8 - f4o5;
563 556704 : zRe[in17] = f4o8 + f4o5;
564 556704 : f4o9 = f4o3 - f4o1;
565 556704 : zRe[in32] = f4o9 - f4o4;
566 556704 : zRe[in8] = f4o9 + f4o4;
567 :
568 556704 : f4o10 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
569 556704 : f4o11 = f2i6 + fi18;
570 556704 : f4o12 = fnms( FFT_15PONIT_WNK5, f4o11, fi6 );
571 556704 : f4o15 = fi10 - fi11;
572 556704 : f5o1 = fi28 - fi29;
573 556704 : f4o13 = fnms( FFT_15PONIT_WNK3, f5o1, FFT_15PONIT_WNK2 * f4o15 );
574 556704 : f4o14 = fmac( FFT_15PONIT_WNK2, f5o1, FFT_15PONIT_WNK3 * f4o15 );
575 556704 : zIm[in2] = fi6 + f4o11;
576 556704 : f5o2 = f4o10 + f4o12;
577 556704 : zIm[in17] = f5o2 - f4o14;
578 556704 : zIm[in26] = f4o14 + f5o2;
579 556704 : f5o3 = f4o12 - f4o10;
580 556704 : zIm[in32] = f4o13 + f5o3;
581 556704 : zIm[in8] = f5o3 - f4o13;
582 :
583 556704 : f5o4 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
584 556704 : f5o5 = f2i9 + fi21;
585 556704 : f5o6 = fnms( FFT_15PONIT_WNK5, f5o5, fi5 );
586 556704 : f5o9 = f2i10 - f2i11;
587 556704 : f5o10 = fi22 - fi23;
588 556704 : f5o7 = fmac( FFT_15PONIT_WNK2, f5o9, FFT_15PONIT_WNK3 * f5o10 );
589 556704 : f5o8 = fnms( FFT_15PONIT_WNK3, f5o9, FFT_15PONIT_WNK2 * f5o10 );
590 556704 : zIm[in1] = fi5 + f5o5;
591 556704 : f5o11 = f5o6 - f5o4;
592 556704 : f5o12 = f5o4 + f5o6;
593 556704 : zIm[in34] = f5o8 + f5o11;
594 556704 : zIm[in10] = f5o11 - f5o8;
595 :
596 556704 : zIm[in16] = f5o12 - f5o7;
597 556704 : zIm[in25] = f5o7 + f5o12;
598 :
599 556704 : f5o13 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
600 556704 : f5o14 = f2i12 + fi24;
601 556704 : f5o15 = fnms( FFT_15PONIT_WNK5, f5o14, fi4 );
602 556704 : f5o18 = f2i7 - f2i8;
603 556704 : f5o19 = fi19 - fi20;
604 556704 : f5o16 = fmac( FFT_15PONIT_WNK2, f5o18, FFT_15PONIT_WNK3 * f5o19 );
605 556704 : f5o17 = fnms( FFT_15PONIT_WNK3, f5o18, FFT_15PONIT_WNK2 * f5o19 );
606 556704 : zRe[in1] = fi4 + f5o14;
607 556704 : f5o21 = f5o15 - f5o13;
608 556704 : f5o22 = f5o13 + f5o15;
609 :
610 556704 : zRe[in34] = f5o21 - f5o17;
611 556704 : zRe[in10] = f5o21 + f5o17;
612 556704 : zRe[in25] = f5o22 - f5o16;
613 556704 : zRe[in16] = f5o22 + f5o16;
614 :
615 556704 : return;
616 : }
617 :
618 : /*-----------------------------------------------------------------*
619 : * fft5_shift1()
620 : * 5-point FFT with 1-point circular shift
621 : *-----------------------------------------------------------------*/
622 :
623 60544 : static void fft5_shift1(
624 : int16_t n1, /* i : length of data */
625 : float *zRe, /* i/o: real part of input and output data */
626 : float *zIm, /* i/o: imaginary part of input and output data */
627 : const int16_t *Idx /* i : pointer of the address table */
628 : )
629 : {
630 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
631 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
632 : int16_t in1, in2, in3, in4, in5;
633 :
634 60544 : in1 = Idx[0];
635 60544 : in2 = Idx[n1];
636 60544 : in3 = Idx[n1 * 2];
637 60544 : in4 = Idx[n1 * 3];
638 60544 : in5 = Idx[n1 * 4];
639 :
640 60544 : fi1 = zRe[in1];
641 60544 : fi2 = zIm[in1];
642 60544 : fo3 = zRe[in2];
643 60544 : fo4 = zRe[in5];
644 60544 : fo6 = zRe[in3];
645 60544 : fo7 = zRe[in4];
646 :
647 60544 : fo5 = fo3 + fo4;
648 60544 : fo8 = fo6 + fo7;
649 60544 : fi3 = fo5 + fo8;
650 60544 : fi4 = fo6 - fo7;
651 60544 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
652 60544 : fi6 = fo3 - fo4;
653 :
654 60544 : fo3 = zIm[in2];
655 60544 : fo4 = zIm[in5];
656 60544 : fo6 = zIm[in3];
657 60544 : fo7 = zIm[in4];
658 :
659 60544 : fo5 = fo3 + fo4;
660 60544 : fo8 = fo6 + fo7;
661 60544 : fi7 = fo3 - fo4;
662 60544 : fi8 = fo5 + fo8;
663 60544 : fo1 = fo6 - fo7;
664 60544 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
665 :
666 60544 : zRe[in1] = fi1 + fi3;
667 60544 : zIm[in1] = fi2 + fi8;
668 :
669 60544 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
670 60544 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
671 60544 : fo7 = fi1 - fi3 / 4;
672 60544 : fo5 = fi5 + fo7;
673 60544 : fo6 = fo7 - fi5;
674 :
675 60544 : zRe[in2] = fo5 + fo3;
676 60544 : zRe[in3] = fo6 - fo4;
677 60544 : zRe[in4] = fo6 + fo4;
678 60544 : zRe[in5] = fo5 - fo3;
679 :
680 60544 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
681 60544 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
682 60544 : fo7 = fi2 - fi8 / 4;
683 60544 : fo5 = fo2 + fo7;
684 60544 : fo6 = fo7 - fo2;
685 :
686 60544 : zIm[in2] = fo5 - fo3;
687 60544 : zIm[in3] = fo4 + fo6;
688 60544 : zIm[in4] = fo6 - fo4;
689 60544 : zIm[in5] = fo3 + fo5;
690 :
691 60544 : return;
692 : }
693 :
694 : /*-----------------------------------------------------------------*
695 : * fft5_shift4()
696 : * 5-point FFT with 4-point circular shift
697 : *-----------------------------------------------------------------*/
698 :
699 12285376 : static void fft5_shift4(
700 : int16_t n1, /* i : length of data */
701 : float *zRe, /* i/o: real part of input and output data */
702 : float *zIm, /* i/o: imaginary part of input and output data */
703 : const int16_t *Idx /* i : pointer of the address table */
704 : )
705 : {
706 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
707 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
708 : int16_t in1, in2, in3, in4, in5;
709 :
710 12285376 : in1 = Idx[0];
711 12285376 : in2 = Idx[n1];
712 12285376 : in3 = Idx[n1 * 2];
713 12285376 : in4 = Idx[n1 * 3];
714 12285376 : in5 = Idx[n1 * 4];
715 :
716 12285376 : fi1 = zRe[in1];
717 12285376 : fi2 = zIm[in1];
718 12285376 : fo3 = zRe[in2];
719 12285376 : fo4 = zRe[in5];
720 12285376 : fo6 = zRe[in3];
721 12285376 : fo7 = zRe[in4];
722 :
723 12285376 : fo5 = fo3 + fo4;
724 12285376 : fo8 = fo6 + fo7;
725 12285376 : fi3 = fo5 + fo8;
726 12285376 : fi4 = fo6 - fo7;
727 12285376 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
728 12285376 : fi6 = fo3 - fo4;
729 :
730 12285376 : fo3 = zIm[in2];
731 12285376 : fo4 = zIm[in5];
732 12285376 : fo6 = zIm[in3];
733 12285376 : fo7 = zIm[in4];
734 :
735 12285376 : fo5 = fo3 + fo4;
736 12285376 : fo8 = fo6 + fo7;
737 12285376 : fi7 = fo3 - fo4;
738 12285376 : fi8 = fo5 + fo8;
739 12285376 : fo1 = fo6 - fo7;
740 12285376 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
741 :
742 12285376 : zRe[in1] = fi1 + fi3;
743 12285376 : zIm[in1] = fi2 + fi8;
744 :
745 12285376 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
746 12285376 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
747 12285376 : fo7 = fi1 - fi3 / 4;
748 12285376 : fo5 = fi5 + fo7;
749 12285376 : fo6 = fo7 - fi5;
750 12285376 : zRe[in2] = fo5 - fo3;
751 12285376 : zRe[in4] = fo6 - fo4;
752 12285376 : zRe[in3] = fo6 + fo4;
753 12285376 : zRe[in5] = fo5 + fo3;
754 :
755 12285376 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
756 12285376 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
757 12285376 : fo7 = fi2 - fi8 / 4;
758 12285376 : fo5 = fo2 + fo7;
759 12285376 : fo6 = fo7 - fo2;
760 :
761 12285376 : zIm[in3] = fo6 - fo4;
762 12285376 : zIm[in2] = fo3 + fo5;
763 12285376 : zIm[in4] = fo4 + fo6;
764 12285376 : zIm[in5] = fo5 - fo3;
765 :
766 12285376 : return;
767 : }
768 :
769 : /*-----------------------------------------------------------------*
770 : * fft5_32()
771 : * 5-point FFT called for 32 times
772 : *-----------------------------------------------------------------*/
773 :
774 187104 : static void fft5_32(
775 : float *zRe, /* i/o: real part of input and output data */
776 : float *zIm, /* i/o: imaginary part of input and output data */
777 : const int16_t *Idx /* i : pointer of the address table */
778 : )
779 : {
780 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
781 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
782 : int16_t in1, in2, in3, in4, in5;
783 :
784 187104 : in1 = Idx[0];
785 187104 : in2 = Idx[32];
786 187104 : in3 = Idx[64];
787 187104 : in4 = Idx[96];
788 187104 : in5 = Idx[128];
789 :
790 187104 : fi1 = zRe[in1];
791 187104 : fi2 = zIm[in1];
792 187104 : fo3 = zRe[in2];
793 187104 : fo4 = zRe[in5];
794 187104 : fo6 = zRe[in3];
795 187104 : fo7 = zRe[in4];
796 :
797 187104 : fo5 = fo3 + fo4;
798 187104 : fo8 = fo6 + fo7;
799 187104 : fi3 = fo5 + fo8;
800 187104 : fi4 = fo6 - fo7;
801 187104 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
802 187104 : fi6 = fo3 - fo4;
803 :
804 187104 : fo3 = zIm[in2];
805 187104 : fo4 = zIm[in5];
806 187104 : fo6 = zIm[in3];
807 187104 : fo7 = zIm[in4];
808 :
809 187104 : fo5 = fo3 + fo4;
810 187104 : fo8 = fo6 + fo7;
811 187104 : fi7 = fo3 - fo4;
812 187104 : fi8 = fo5 + fo8;
813 187104 : fo1 = fo6 - fo7;
814 187104 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
815 :
816 187104 : zRe[in1] = fi1 + fi3;
817 187104 : zIm[in1] = fi2 + fi8;
818 :
819 187104 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
820 187104 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
821 187104 : fo7 = fi1 - fi3 / 4;
822 187104 : fo5 = fi5 + fo7;
823 187104 : fo6 = fo7 - fi5;
824 :
825 187104 : zRe[in2] = fo6 + fo4;
826 187104 : zRe[in3] = fo5 + fo3;
827 187104 : zRe[in4] = fo5 - fo3;
828 187104 : zRe[in5] = fo6 - fo4;
829 :
830 187104 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
831 187104 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
832 187104 : fo7 = fi2 - fi8 / 4;
833 187104 : fo5 = fo2 + fo7;
834 187104 : fo6 = fo7 - fo2;
835 :
836 187104 : zIm[in2] = fo6 - fo4;
837 187104 : zIm[in3] = fo5 - fo3;
838 187104 : zIm[in4] = fo3 + fo5;
839 187104 : zIm[in5] = fo4 + fo6;
840 :
841 187104 : return;
842 : }
843 :
844 : /*-----------------------------------------------------------------*
845 : * fft64()
846 : * 64-point FFT
847 : *-----------------------------------------------------------------*/
848 :
849 959795 : static void fft64(
850 : float *x, /* i/o: real part of input and output data */
851 : float *y, /* i/o: imaginary part of input and output data */
852 : const int16_t *Idx /* i : pointer of the address table */
853 : )
854 : {
855 : int16_t i, id, jd;
856 : float z[128];
857 62386675 : for ( i = 0; i < 64; i++ )
858 : {
859 61426880 : id = Idx[i];
860 61426880 : z[2 * i] = x[id];
861 61426880 : z[2 * i + 1] = y[id];
862 : }
863 :
864 959795 : cdftForw( 128, z, Ip_fft64, w_fft64 );
865 :
866 62386675 : for ( i = 0; i < 64; i++ )
867 : {
868 61426880 : jd = Odx_fft64[i];
869 61426880 : id = Idx[jd];
870 61426880 : x[id] = z[2 * i];
871 61426880 : y[id] = z[2 * i + 1];
872 : }
873 :
874 959795 : return;
875 : }
876 :
877 :
878 : /*-----------------------------------------------------------------*
879 : * fft32_15()
880 : * 32-point FFT called for 15 times
881 : *-----------------------------------------------------------------*/
882 :
883 260955 : static void fft32_15(
884 : float *x, /* i/o: real part of input and output data */
885 : float *y, /* i/o: imaginary part of input and output data */
886 : const int16_t *Idx /* i : pointer of the address table */
887 : )
888 : {
889 : int16_t i, id, jd;
890 : float z[64];
891 :
892 8611515 : for ( i = 0; i < 32; i++ )
893 : {
894 8350560 : id = Idx[i];
895 8350560 : z[2 * i] = x[id];
896 8350560 : z[2 * i + 1] = y[id];
897 : }
898 :
899 260955 : cdftForw( 64, z, Ip_fft32, w_fft32 );
900 :
901 8611515 : for ( i = 0; i < 32; i++ )
902 : {
903 8350560 : jd = Odx_fft32_15[i];
904 8350560 : id = Idx[jd];
905 8350560 : x[id] = z[2 * i];
906 8350560 : y[id] = z[2 * i + 1];
907 : }
908 :
909 260955 : return;
910 : }
911 :
912 : /*-----------------------------------------------------------------*
913 : * fft32_5()
914 : * 32-point FFT called for 5 times
915 : *-----------------------------------------------------------------*/
916 :
917 29235 : static void fft32_5(
918 : float *x, /* i/o: real part of input and output data */
919 : float *y, /* i/o: imaginary part of input and output data */
920 : const int16_t *Idx /* i : pointer of the address table */
921 : )
922 : {
923 : int16_t i, id, jd;
924 : float z[64];
925 :
926 964755 : for ( i = 0; i < 32; i++ )
927 : {
928 935520 : id = Idx[i];
929 935520 : z[2 * i] = x[id];
930 935520 : z[2 * i + 1] = y[id];
931 : }
932 :
933 29235 : cdftForw( 64, z, Ip_fft32, w_fft32 );
934 :
935 964755 : for ( i = 0; i < 32; i++ )
936 : {
937 935520 : jd = Odx_fft32_5[i];
938 935520 : id = Idx[jd];
939 935520 : x[id] = z[2 * i];
940 935520 : y[id] = z[2 * i + 1];
941 : }
942 :
943 29235 : return;
944 : }
945 :
946 : /*-----------------------------------------------------------------*
947 : * fft16()
948 : * 16-point FFT
949 : *-----------------------------------------------------------------*/
950 :
951 18920 : static void fft16(
952 : float *x, /* i/o: real part of input and output data */
953 : float *y, /* i/o: imaginary part of input and output data */
954 : const int16_t *Idx /* i : pointer of the address table */
955 : )
956 : {
957 : int16_t i, id, jd;
958 : float z[32];
959 :
960 321640 : for ( i = 0; i < 16; i++ )
961 : {
962 302720 : id = Idx[i];
963 302720 : z[2 * i] = x[id];
964 302720 : z[2 * i + 1] = y[id];
965 : }
966 :
967 18920 : cdftForw( 32, z, Ip_fft16, w_fft16 );
968 :
969 321640 : for ( i = 0; i < 16; i++ )
970 : {
971 302720 : jd = Odx_fft16[i];
972 302720 : id = Idx[jd];
973 302720 : x[id] = z[2 * i];
974 302720 : y[id] = z[2 * i + 1];
975 : }
976 :
977 18920 : return;
978 : }
979 :
980 : /*-----------------------------------------------------------------*
981 : * fft8()
982 : * 8-point FFT
983 : *-----------------------------------------------------------------*/
984 :
985 12480 : static void fft8(
986 : float *x, /* i/o: real part of input and output data */
987 : float *y, /* i/o: imaginary part of input and output data */
988 : const int16_t *Idx /* i : pointer of the address table */
989 : )
990 : {
991 : int16_t i, id;
992 : float z[16];
993 :
994 112320 : for ( i = 0; i < 8; i++ )
995 : {
996 99840 : id = Idx[i];
997 99840 : z[2 * i] = x[id];
998 99840 : z[2 * i + 1] = y[id];
999 : }
1000 :
1001 12480 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1002 :
1003 112320 : for ( i = 0; i < 8; i++ )
1004 : {
1005 99840 : id = Idx[i];
1006 99840 : x[id] = z[2 * i];
1007 99840 : y[id] = z[2 * i + 1];
1008 : }
1009 :
1010 12480 : return;
1011 : }
1012 :
1013 : /*-----------------------------------------------------------------*
1014 : * fft8_5()
1015 : * 8-point FFT with shift 5
1016 : *-----------------------------------------------------------------*/
1017 :
1018 860 : static void fft8_5(
1019 : float *x, /* i/o: real part of input and output data */
1020 : float *y, /* i/o: imaginary part of input and output data */
1021 : const int16_t *Idx /* i : pointer of the address table */
1022 : )
1023 : {
1024 : int16_t i, id, jd;
1025 : float z[16];
1026 :
1027 7740 : for ( i = 0; i < 8; i++ )
1028 : {
1029 6880 : id = Idx[i];
1030 6880 : z[2 * i] = x[id];
1031 6880 : z[2 * i + 1] = y[id];
1032 : }
1033 :
1034 860 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1035 :
1036 7740 : for ( i = 0; i < 8; i++ )
1037 : {
1038 6880 : jd = Odx_fft8_5[i];
1039 6880 : id = Idx[jd];
1040 6880 : x[id] = z[2 * i];
1041 6880 : y[id] = z[2 * i + 1];
1042 : }
1043 860 : return;
1044 : }
1045 :
1046 : /*-----------------------------------------------------------------*
1047 : * fft5_8()
1048 : * 5-point FFT with shift 2
1049 : *-----------------------------------------------------------------*/
1050 :
1051 1376 : static void fft5_8(
1052 : int16_t n1, /* i : length of data */
1053 : float *zRe, /* i/o: real part of input and output data */
1054 : float *zIm, /* i/o: imaginary part of input and output data */
1055 : const int16_t *Idx /* i : pointer of the address table */
1056 : )
1057 : {
1058 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1059 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1060 : int16_t in1, in2, in3, in4, in5;
1061 :
1062 1376 : in1 = Idx[0];
1063 1376 : in2 = Idx[n1];
1064 1376 : in3 = Idx[n1 * 2];
1065 1376 : in4 = Idx[n1 * 3];
1066 1376 : in5 = Idx[n1 * 4];
1067 :
1068 1376 : fi1 = zRe[in1];
1069 1376 : fi2 = zIm[in1];
1070 1376 : fo3 = zRe[in2];
1071 1376 : fo4 = zRe[in5];
1072 1376 : fo6 = zRe[in3];
1073 1376 : fo7 = zRe[in4];
1074 :
1075 1376 : fo5 = fo3 + fo4;
1076 1376 : fo8 = fo6 + fo7;
1077 1376 : fi3 = fo5 + fo8;
1078 1376 : fi4 = fo6 - fo7;
1079 1376 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1080 1376 : fi6 = fo3 - fo4;
1081 :
1082 1376 : fo3 = zIm[in2];
1083 1376 : fo4 = zIm[in5];
1084 1376 : fo6 = zIm[in3];
1085 1376 : fo7 = zIm[in4];
1086 :
1087 1376 : fo5 = fo3 + fo4;
1088 1376 : fo8 = fo6 + fo7;
1089 1376 : fi7 = fo3 - fo4;
1090 1376 : fi8 = fo5 + fo8;
1091 1376 : fo1 = fo6 - fo7;
1092 1376 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1093 :
1094 1376 : zRe[in1] = fi1 + fi3;
1095 1376 : zIm[in1] = fi2 + fi8;
1096 :
1097 1376 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1098 1376 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1099 1376 : fo7 = fi1 - fi3 / 4;
1100 1376 : fo5 = fi5 + fo7;
1101 1376 : fo6 = fo7 - fi5;
1102 :
1103 1376 : zRe[in2] = fo6 - fo4;
1104 1376 : zRe[in3] = fo5 - fo3;
1105 1376 : zRe[in5] = fo6 + fo4;
1106 1376 : zRe[in4] = fo5 + fo3;
1107 :
1108 1376 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1109 1376 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1110 1376 : fo7 = fi2 - fi8 / 4;
1111 1376 : fo5 = fo2 + fo7;
1112 1376 : fo6 = fo7 - fo2;
1113 :
1114 1376 : zIm[in2] = fo4 + fo6;
1115 1376 : zIm[in3] = fo3 + fo5;
1116 1376 : zIm[in4] = fo5 - fo3;
1117 1376 : zIm[in5] = fo6 - fo4;
1118 :
1119 1376 : return;
1120 : }
1121 :
1122 : /*-----------------------------------------------------------------*
1123 : * fft4_5()
1124 : * 8-point FFT with shift 1
1125 : *-----------------------------------------------------------------*/
1126 :
1127 0 : static void fft4_5(
1128 : float *x, /* i/o: real part of input and output data */
1129 : float *y, /* i/o: imaginary part of input and output data */
1130 : const int16_t *Idx /* i : pointer of the address table */
1131 : )
1132 : {
1133 : int16_t i, id, jd;
1134 : float z[8];
1135 :
1136 0 : for ( i = 0; i < 4; i++ )
1137 : {
1138 0 : id = Idx[i];
1139 0 : z[2 * i] = x[id];
1140 0 : z[2 * i + 1] = y[id];
1141 : }
1142 :
1143 0 : cdftForw( 8, z, Ip_fft4, w_fft4 );
1144 :
1145 0 : for ( i = 0; i < 4; i++ )
1146 : {
1147 0 : jd = Odx_fft4_5[i];
1148 0 : id = Idx[jd];
1149 0 : x[id] = z[2 * i];
1150 0 : y[id] = z[2 * i + 1];
1151 : }
1152 0 : return;
1153 : }
1154 :
1155 : /*-----------------------------------------------------------------*
1156 : * fft5_4()
1157 : * 5-point FFT with shift 4
1158 : *-----------------------------------------------------------------*/
1159 :
1160 0 : static void fft5_4(
1161 : int16_t n1,
1162 : float *zRe,
1163 : float *zIm,
1164 : const int16_t *Idx )
1165 : {
1166 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1167 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1168 : int16_t in1, in2, in3, in4, in5;
1169 :
1170 0 : in1 = Idx[0];
1171 0 : in2 = Idx[n1];
1172 0 : in3 = Idx[n1 * 2];
1173 0 : in4 = Idx[n1 * 3];
1174 0 : in5 = Idx[n1 * 4];
1175 :
1176 0 : fi1 = zRe[in1];
1177 0 : fi2 = zIm[in1];
1178 0 : fo3 = zRe[in2];
1179 0 : fo4 = zRe[in5];
1180 0 : fo6 = zRe[in3];
1181 0 : fo7 = zRe[in4];
1182 :
1183 0 : fo5 = fo3 + fo4;
1184 0 : fo8 = fo6 + fo7;
1185 0 : fi3 = fo5 + fo8;
1186 0 : fi4 = fo6 - fo7;
1187 0 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1188 0 : fi6 = fo3 - fo4;
1189 :
1190 0 : fo3 = zIm[in2];
1191 0 : fo4 = zIm[in5];
1192 0 : fo6 = zIm[in3];
1193 0 : fo7 = zIm[in4];
1194 :
1195 0 : fo5 = fo3 + fo4;
1196 0 : fo8 = fo6 + fo7;
1197 0 : fi7 = fo3 - fo4;
1198 0 : fi8 = fo5 + fo8;
1199 0 : fo1 = fo6 - fo7;
1200 0 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1201 :
1202 0 : zRe[in1] = fi1 + fi3;
1203 0 : zIm[in1] = fi2 + fi8;
1204 :
1205 0 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1206 0 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1207 0 : fo7 = fi1 - fi3 / 4;
1208 0 : fo5 = fi5 + fo7;
1209 0 : fo6 = fo7 - fi5;
1210 :
1211 0 : zRe[in2] = fo5 - fo3;
1212 0 : zRe[in4] = fo6 - fo4;
1213 0 : zRe[in3] = fo6 + fo4;
1214 0 : zRe[in5] = fo5 + fo3;
1215 :
1216 0 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1217 0 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1218 0 : fo7 = fi2 - fi8 / 4;
1219 0 : fo5 = fo2 + fo7;
1220 0 : fo6 = fo7 - fo2;
1221 :
1222 0 : zIm[in2] = fo3 + fo5;
1223 0 : zIm[in3] = fo6 - fo4;
1224 0 : zIm[in4] = fo4 + fo6;
1225 0 : zIm[in5] = fo5 - fo3;
1226 :
1227 0 : return;
1228 : }
1229 :
1230 :
1231 : /*-----------------------------------------------------------------*
1232 : * DoRTFT80()
1233 : * a low complexity 2-dimensional DFT of 80 points
1234 : *-----------------------------------------------------------------*/
1235 :
1236 3784 : void DoRTFT80(
1237 : float *x, /* i/o: real part of input and output data */
1238 : float *y /* i/o: imaginary part of input and output data */
1239 : )
1240 : {
1241 : int16_t j;
1242 :
1243 : /* Applying 16-point FFT for 5 times based on the address table Idx_dortft80 */
1244 22704 : for ( j = 0; j < 5; j++ )
1245 : {
1246 18920 : fft16( x, y, Idx_dortft80 + 16 * j );
1247 : }
1248 :
1249 : /* Applying 5-point FFT for 16 times based on the address table Idx_dortft80 */
1250 64328 : for ( j = 0; j < 16; j++ )
1251 : {
1252 60544 : fft5_shift1( 16, x, y, Idx_dortft80 + j );
1253 : }
1254 :
1255 3784 : return;
1256 : }
1257 :
1258 : /*-----------------------------------------------------------------*
1259 : * DoRTFT120()
1260 : * a low complexity 2-dimensional DFT of 120 points
1261 : *-----------------------------------------------------------------*/
1262 :
1263 832 : void DoRTFT120(
1264 : float *x, /* i/o: real part of input and output data */
1265 : float *y /* i/o: imaginary part of input and output data */
1266 : )
1267 : {
1268 : int16_t j;
1269 :
1270 : /* Applying 8-point FFT for 15 times based on the address table Idx_dortft120 */
1271 13312 : for ( j = 0; j < 15; j++ )
1272 : {
1273 12480 : fft8( x, y, Idx_dortft120 + 8 * j );
1274 : }
1275 :
1276 : /* Applying 15-point FFT for 8 times based on the address table Idx_dortft120 */
1277 7488 : for ( j = 0; j < 8; j++ )
1278 : {
1279 6656 : fft15_shift2( 8, x, y, Idx_dortft120 + j );
1280 : }
1281 :
1282 832 : return;
1283 : }
1284 :
1285 : /*-----------------------------------------------------------------*
1286 : * DoRTFT160()
1287 : * a low complexity 2-dimensional DFT of 160 points
1288 : *-----------------------------------------------------------------*/
1289 :
1290 5847 : void DoRTFT160(
1291 : float x[], /* i/o: real part of input and output data */
1292 : float y[] /* i/o: imaginary part of input and output data */
1293 : )
1294 : {
1295 : int16_t j;
1296 :
1297 : /* Applying 32-point FFT for 5 times based on the address table Idx_dortft160 */
1298 35082 : for ( j = 0; j < 5; j++ )
1299 : {
1300 29235 : fft32_5( x, y, Idx_dortft160 + 32 * j );
1301 : }
1302 :
1303 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1304 192951 : for ( j = 0; j < 32; j++ )
1305 : {
1306 187104 : fft5_32( x, y, Idx_dortft160 + j );
1307 : }
1308 :
1309 5847 : return;
1310 : }
1311 :
1312 : /*-----------------------------------------------------------------*
1313 : * DoRTFT320()
1314 : * a low complexity 2-dimensional DFT of 320 points
1315 : *-----------------------------------------------------------------*/
1316 :
1317 191959 : void DoRTFT320(
1318 : float *x, /* i/o: real part of input and output data */
1319 : float *y /* i/o: imaginary part of input and output data */
1320 : )
1321 : {
1322 : int16_t j;
1323 :
1324 : /* Applying 64-point FFT for 5 times based on the address table Idx_dortft160 */
1325 1151754 : for ( j = 0; j < 5; j++ )
1326 : {
1327 959795 : fft64( x, y, Idx_dortft320 + 64 * j );
1328 : }
1329 :
1330 : /* Applying 5-point FFT for 64 times based on the address table Idx_dortft160 */
1331 12477335 : for ( j = 0; j < 64; j++ )
1332 : {
1333 12285376 : fft5_shift4( 64, x, y, Idx_dortft320 + j );
1334 : }
1335 :
1336 191959 : return;
1337 : }
1338 :
1339 : /*-----------------------------------------------------------------*
1340 : * DoRTFT480()
1341 : * a low complexity 2-dimensional DFT of 480 points
1342 : *-----------------------------------------------------------------*/
1343 :
1344 17397 : void DoRTFT480(
1345 : float *x, /* i/o: real part of input and output data */
1346 : float *y /* i/o: imaginary part of input and output data */
1347 : )
1348 : {
1349 : int16_t j;
1350 :
1351 : /* Applying 32-point FFT for 15 times based on the address table Idx_dortft160 */
1352 278352 : for ( j = 0; j < 15; j++ )
1353 : {
1354 260955 : fft32_15( x, y, Idx_dortft480 + 32 * j );
1355 : }
1356 :
1357 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1358 574101 : for ( j = 0; j < 32; j++ )
1359 : {
1360 556704 : fft15_shift8( 32, x, y, Idx_dortft480 + j );
1361 : }
1362 :
1363 17397 : return;
1364 : }
1365 :
1366 : /*-----------------------------------------------------------------*
1367 : * DoRTFT40()
1368 : * a low complexity 2-dimensional DFT of 40 points
1369 : *-----------------------------------------------------------------*/
1370 :
1371 172 : void DoRTFT40(
1372 : float *x, /* i/o: real part of input and output data */
1373 : float *y /* i/o: imaginary part of input and output data */
1374 : )
1375 : {
1376 : int16_t j;
1377 : /* Applying 8-point FFT for 5 times based on the address table Idx_dortft40 */
1378 1032 : for ( j = 0; j < 5; j++ )
1379 : {
1380 860 : fft8_5( x, y, Idx_dortft40 + 8 * j );
1381 : }
1382 :
1383 : /* Applying 5-point FFT for 8 times based on the address table Idx_dortft40 */
1384 1548 : for ( j = 0; j < 8; j++ )
1385 : {
1386 1376 : fft5_8( 8, x, y, Idx_dortft40 + j );
1387 : }
1388 :
1389 172 : return;
1390 : }
1391 :
1392 : /*-----------------------------------------------------------------*
1393 : * DoRTFT20()
1394 : * a low complexity 2-dimensional DFT of 20 points
1395 : *-----------------------------------------------------------------*/
1396 :
1397 0 : void DoRTFT20(
1398 : float *x, /* i/o: real part of input and output data */
1399 : float *y /* i/o: imaginary part of input and output data */
1400 : )
1401 : {
1402 : int16_t j;
1403 :
1404 : /* Applying 4-point FFT for 5 times based on the address table Idx_dortft20 */
1405 0 : for ( j = 0; j < 5; j++ )
1406 : {
1407 0 : fft4_5( x, y, Idx_dortft20 + 4 * j );
1408 : }
1409 :
1410 : /* Applying 5-point FFT for 4 times based on the address table Idx_dortft20 */
1411 0 : for ( j = 0; j < 4; j++ )
1412 : {
1413 0 : fft5_4( 4, x, y, Idx_dortft20 + j );
1414 : }
1415 :
1416 0 : return;
1417 : }
1418 :
1419 : /*-----------------------------------------------------------------*
1420 : * DoRTFT128()
1421 : * FFT with 128 points
1422 : *-----------------------------------------------------------------*/
1423 :
1424 804640 : void DoRTFT128(
1425 : float *x, /* i/o: real part of input and output data */
1426 : float *y /* i/o: imaginary part of input and output data */
1427 : )
1428 : {
1429 :
1430 : int16_t i;
1431 : float z[256];
1432 :
1433 103798560 : for ( i = 0; i < 128; i++ )
1434 : {
1435 102993920 : z[2 * i] = x[i];
1436 102993920 : z[2 * i + 1] = y[i];
1437 : }
1438 :
1439 804640 : cdftForw( 256, z, Ip_fft128, w_fft128 );
1440 :
1441 804640 : x[0] = z[0];
1442 804640 : y[0] = z[1];
1443 102993920 : for ( i = 1; i < 128; i++ )
1444 : {
1445 102189280 : x[128 - i] = z[2 * i];
1446 102189280 : y[128 - i] = z[2 * i + 1];
1447 : }
1448 :
1449 804640 : return;
1450 : }
1451 :
1452 : /*-----------------------------------------------------------------*
1453 : * cdftForw()
1454 : * Main fuction of Complex Discrete Fourier Transform
1455 : *-----------------------------------------------------------------*/
1456 :
1457 4444852 : static void cdftForw(
1458 : int16_t n, /* i : data length of real and imag */
1459 : float *a, /* i/o: input/output data */
1460 : const int16_t *ip, /* i : work area for bit reversal */
1461 : const float *w /* i : cos/sin table */
1462 : )
1463 : {
1464 : /* bit reversal */
1465 4444852 : bitrv2_SR( n, ip + 2, a );
1466 :
1467 : /* Do FFT */
1468 4444852 : cftfsub( n, a, w );
1469 4444852 : }
1470 :
1471 : /*-----------------------------------------------------------------*
1472 : * bitrv2_SR()
1473 : * Bit reversal
1474 : *-----------------------------------------------------------------*/
1475 :
1476 4591152 : static void bitrv2_SR(
1477 : int16_t n, /* i : data length of real and imag */
1478 : const int16_t *ip, /* i/o: work area for bit reversal */
1479 : float *a /* i/o: input/output data */
1480 : )
1481 : {
1482 : int16_t j, j1, k, k1, m, m2;
1483 : int16_t l;
1484 : float xr, xi, yr, yi;
1485 :
1486 4591152 : if ( n == 64 )
1487 : {
1488 436490 : m = 4;
1489 436490 : l = -1;
1490 : }
1491 4154662 : else if ( n == 256 )
1492 : {
1493 804640 : m = 8;
1494 804640 : l = -1;
1495 : }
1496 3350022 : else if ( n == 16 )
1497 : {
1498 13340 : m = 2;
1499 13340 : l = -1;
1500 : }
1501 : else
1502 : {
1503 3336682 : l = n;
1504 3336682 : m = 1;
1505 :
1506 14108440 : while ( ( m << 3 ) < l )
1507 : {
1508 10771758 : l >>= 1;
1509 10771758 : m <<= 1;
1510 : }
1511 3336682 : l -= m * 8;
1512 : }
1513 :
1514 4591152 : m2 = 2 * m;
1515 :
1516 4591152 : if ( l == 0 )
1517 : {
1518 10243302 : for ( k = 0; k < m; k++ )
1519 : {
1520 31204968 : for ( j = 0; j < k; j++ )
1521 : {
1522 22539000 : j1 = 2 * j + ip[k];
1523 22539000 : k1 = 2 * k + ip[j];
1524 22539000 : xr = a[j1];
1525 22539000 : xi = a[j1 + 1];
1526 22539000 : yr = a[k1];
1527 22539000 : yi = a[k1 + 1];
1528 22539000 : a[j1] = yr;
1529 22539000 : a[j1 + 1] = yi;
1530 22539000 : a[k1] = xr;
1531 22539000 : a[k1 + 1] = xi;
1532 22539000 : j1 += m2;
1533 22539000 : k1 += 2 * m2;
1534 22539000 : xr = a[j1];
1535 22539000 : xi = a[j1 + 1];
1536 22539000 : yr = a[k1];
1537 22539000 : yi = a[k1 + 1];
1538 22539000 : a[j1] = yr;
1539 22539000 : a[j1 + 1] = yi;
1540 22539000 : a[k1] = xr;
1541 22539000 : a[k1 + 1] = xi;
1542 22539000 : j1 += m2;
1543 22539000 : k1 -= m2;
1544 22539000 : xr = a[j1];
1545 22539000 : xi = a[j1 + 1];
1546 22539000 : yr = a[k1];
1547 22539000 : yi = a[k1 + 1];
1548 22539000 : a[j1] = yr;
1549 22539000 : a[j1 + 1] = yi;
1550 22539000 : a[k1] = xr;
1551 22539000 : a[k1 + 1] = xi;
1552 22539000 : j1 += m2;
1553 22539000 : k1 += 2 * m2;
1554 22539000 : xr = a[j1];
1555 22539000 : xi = a[j1 + 1];
1556 22539000 : yr = a[k1];
1557 22539000 : yi = a[k1 + 1];
1558 22539000 : a[j1] = yr;
1559 22539000 : a[j1 + 1] = yi;
1560 22539000 : a[k1] = xr;
1561 22539000 : a[k1 + 1] = xi;
1562 : }
1563 :
1564 8665968 : j1 = 2 * k + m2 + ip[k];
1565 8665968 : k1 = j1 + m2;
1566 8665968 : xr = a[j1];
1567 8665968 : xi = a[j1 + 1];
1568 8665968 : yr = a[k1];
1569 8665968 : yi = a[k1 + 1];
1570 8665968 : a[j1] = yr;
1571 8665968 : a[j1 + 1] = yi;
1572 8665968 : a[k1] = xr;
1573 8665968 : a[k1 + 1] = xi;
1574 : }
1575 : }
1576 : else
1577 : {
1578 36359328 : for ( k = 1; k < m; k++ )
1579 : {
1580 269629470 : for ( j = 0; j < k; j++ )
1581 : {
1582 236283960 : j1 = 2 * j + ip[k];
1583 236283960 : k1 = 2 * k + ip[j];
1584 236283960 : xr = a[j1];
1585 236283960 : xi = a[j1 + 1];
1586 236283960 : yr = a[k1];
1587 236283960 : yi = a[k1 + 1];
1588 236283960 : a[j1] = yr;
1589 236283960 : a[j1 + 1] = yi;
1590 236283960 : a[k1] = xr;
1591 236283960 : a[k1 + 1] = xi;
1592 236283960 : j1 += m2;
1593 236283960 : k1 += m2;
1594 236283960 : xr = a[j1];
1595 236283960 : xi = a[j1 + 1];
1596 236283960 : yr = a[k1];
1597 236283960 : yi = a[k1 + 1];
1598 236283960 : a[j1] = yr;
1599 236283960 : a[j1 + 1] = yi;
1600 236283960 : a[k1] = xr;
1601 236283960 : a[k1 + 1] = xi;
1602 : }
1603 : }
1604 : }
1605 :
1606 4591152 : return;
1607 : }
1608 :
1609 : /*-----------------------------------------------------------------*
1610 : * cftfsub()
1611 : * Complex Discrete Fourier Transform
1612 : *-----------------------------------------------------------------*/
1613 :
1614 4552947 : static void cftfsub(
1615 : int16_t n, /* i : data length of real and imag */
1616 : float *a, /* i/o: input/output data */
1617 : const float *w /* i : cos/sin table */
1618 : )
1619 : {
1620 : int16_t j, j1, j2, j3, l;
1621 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1622 :
1623 4552947 : l = 2;
1624 4552947 : if ( n > 8 )
1625 : {
1626 4552947 : cft1st( n, a, w );
1627 :
1628 4552947 : l = 8;
1629 13995588 : while ( ( l << 2 ) < n )
1630 : {
1631 9442641 : cftmdl( n, l, a, w );
1632 9442641 : l <<= 2;
1633 : }
1634 : }
1635 :
1636 4552947 : if ( ( l << 2 ) == n )
1637 : {
1638 55321302 : for ( j = 0; j < l; j += 2 )
1639 : {
1640 53743968 : j1 = j + l;
1641 53743968 : j2 = j1 + l;
1642 53743968 : j3 = j2 + l;
1643 53743968 : x0r = a[j] + a[j1];
1644 53743968 : x0i = a[j + 1] + a[j1 + 1];
1645 53743968 : x1r = a[j] - a[j1];
1646 53743968 : x1i = a[j + 1] - a[j1 + 1];
1647 53743968 : x2r = a[j2] + a[j3];
1648 53743968 : x2i = a[j2 + 1] + a[j3 + 1];
1649 53743968 : x3r = a[j2] - a[j3];
1650 53743968 : x3i = a[j2 + 1] - a[j3 + 1];
1651 53743968 : a[j] = x0r + x2r;
1652 53743968 : a[j + 1] = x0i + x2i;
1653 53743968 : a[j2] = x0r - x2r;
1654 53743968 : a[j2 + 1] = x0i - x2i;
1655 53743968 : a[j1] = x1r - x3i;
1656 53743968 : a[j1 + 1] = x1i + x3r;
1657 53743968 : a[j3] = x1r + x3i;
1658 53743968 : a[j3 + 1] = x1i - x3r;
1659 : }
1660 : }
1661 : else
1662 : {
1663 511291581 : for ( j = 0; j < l; j += 2 )
1664 : {
1665 508315968 : j1 = j + l;
1666 508315968 : x0r = a[j] - a[j1];
1667 508315968 : x0i = a[j + 1] - a[j1 + 1];
1668 508315968 : a[j] += a[j1];
1669 508315968 : a[j + 1] += a[j1 + 1];
1670 508315968 : a[j1] = x0r;
1671 508315968 : a[j1 + 1] = x0i;
1672 : }
1673 : }
1674 :
1675 4552947 : return;
1676 : }
1677 :
1678 : /*-----------------------------------------------------------------*
1679 : * cft1st()
1680 : * Subfunction of Complex Discrete Fourier Transform
1681 : *-----------------------------------------------------------------*/
1682 :
1683 4591152 : static void cft1st(
1684 : int16_t n, /* i : data length of real and imag */
1685 : float *a, /* i/o: input/output data */
1686 : const float *w /* i : cos/sin table */
1687 : )
1688 : {
1689 : int16_t j, k1, k2;
1690 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1691 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1692 :
1693 4591152 : x0r = a[0] + a[2];
1694 4591152 : x0i = a[1] + a[3];
1695 4591152 : x1r = a[0] - a[2];
1696 4591152 : x1i = a[1] - a[3];
1697 4591152 : x2r = a[4] + a[6];
1698 4591152 : x2i = a[5] + a[7];
1699 4591152 : x3r = a[4] - a[6];
1700 4591152 : x3i = a[5] - a[7];
1701 4591152 : a[0] = x0r + x2r;
1702 4591152 : a[1] = x0i + x2i;
1703 4591152 : a[4] = x0r - x2r;
1704 4591152 : a[5] = x0i - x2i;
1705 4591152 : a[2] = x1r - x3i;
1706 4591152 : a[3] = x1i + x3r;
1707 4591152 : a[6] = x1r + x3i;
1708 4591152 : a[7] = x1i - x3r;
1709 4591152 : wk1r = w[2];
1710 4591152 : x0r = a[8] + a[10];
1711 4591152 : x0i = a[9] + a[11];
1712 4591152 : x1r = a[8] - a[10];
1713 4591152 : x1i = a[9] - a[11];
1714 4591152 : x2r = a[12] + a[14];
1715 4591152 : x2i = a[13] + a[15];
1716 4591152 : x3r = a[12] - a[14];
1717 4591152 : x3i = a[13] - a[15];
1718 4591152 : a[8] = x0r + x2r;
1719 4591152 : a[9] = x0i + x2i;
1720 4591152 : a[12] = x2i - x0i;
1721 4591152 : a[13] = x0r - x2r;
1722 4591152 : x0r = x1r - x3i;
1723 4591152 : x0i = x1i + x3r;
1724 4591152 : a[10] = wk1r * ( x0r - x0i );
1725 4591152 : a[11] = wk1r * ( x0r + x0i );
1726 4591152 : x0r = x3i + x1r;
1727 4591152 : x0i = x3r - x1i;
1728 4591152 : a[14] = wk1r * ( x0i - x0r );
1729 4591152 : a[15] = wk1r * ( x0i + x0r );
1730 4591152 : k1 = 0;
1731 :
1732 154103796 : for ( j = 16; j < n; j += 16 )
1733 : {
1734 149512644 : k1 += 2;
1735 149512644 : k2 = 2 * k1;
1736 149512644 : wk2r = w[k1];
1737 149512644 : wk2i = w[k1 + 1];
1738 149512644 : wk1r = w[k2];
1739 149512644 : wk1i = w[k2 + 1];
1740 149512644 : wk3r = wk1r - 2 * wk2i * wk1i;
1741 149512644 : wk3i = 2 * wk2i * wk1r - wk1i;
1742 149512644 : x0r = a[j] + a[j + 2];
1743 149512644 : x0i = a[j + 1] + a[j + 3];
1744 149512644 : x1r = a[j] - a[j + 2];
1745 149512644 : x1i = a[j + 1] - a[j + 3];
1746 149512644 : x2r = a[j + 4] + a[j + 6];
1747 149512644 : x2i = a[j + 5] + a[j + 7];
1748 149512644 : x3r = a[j + 4] - a[j + 6];
1749 149512644 : x3i = a[j + 5] - a[j + 7];
1750 149512644 : a[j] = x0r + x2r;
1751 149512644 : a[j + 1] = x0i + x2i;
1752 149512644 : x0r -= x2r;
1753 149512644 : x0i -= x2i;
1754 149512644 : a[j + 4] = wk2r * x0r - wk2i * x0i;
1755 149512644 : a[j + 5] = wk2r * x0i + wk2i * x0r;
1756 149512644 : x0r = x1r - x3i;
1757 149512644 : x0i = x1i + x3r;
1758 149512644 : a[j + 2] = wk1r * x0r - wk1i * x0i;
1759 149512644 : a[j + 3] = wk1r * x0i + wk1i * x0r;
1760 149512644 : x0r = x1r + x3i;
1761 149512644 : x0i = x1i - x3r;
1762 149512644 : a[j + 6] = wk3r * x0r - wk3i * x0i;
1763 149512644 : a[j + 7] = wk3r * x0i + wk3i * x0r;
1764 149512644 : wk1r = w[k2 + 2];
1765 149512644 : wk1i = w[k2 + 3];
1766 149512644 : wk3r = wk1r - 2 * wk2r * wk1i;
1767 149512644 : wk3i = 2 * wk2r * wk1r - wk1i;
1768 149512644 : x0r = a[j + 8] + a[j + 10];
1769 149512644 : x0i = a[j + 9] + a[j + 11];
1770 149512644 : x1r = a[j + 8] - a[j + 10];
1771 149512644 : x1i = a[j + 9] - a[j + 11];
1772 149512644 : x2r = a[j + 12] + a[j + 14];
1773 149512644 : x2i = a[j + 13] + a[j + 15];
1774 149512644 : x3r = a[j + 12] - a[j + 14];
1775 149512644 : x3i = a[j + 13] - a[j + 15];
1776 149512644 : a[j + 8] = x0r + x2r;
1777 149512644 : a[j + 9] = x0i + x2i;
1778 149512644 : x0r -= x2r;
1779 149512644 : x0i -= x2i;
1780 149512644 : a[j + 12] = -wk2i * x0r - wk2r * x0i;
1781 149512644 : a[j + 13] = -wk2i * x0i + wk2r * x0r;
1782 149512644 : x0r = x1r - x3i;
1783 149512644 : x0i = x1i + x3r;
1784 149512644 : a[j + 10] = wk1r * x0r - wk1i * x0i;
1785 149512644 : a[j + 11] = wk1r * x0i + wk1i * x0r;
1786 149512644 : x0r = x1r + x3i;
1787 149512644 : x0i = x1i - x3r;
1788 149512644 : a[j + 14] = wk3r * x0r - wk3i * x0i;
1789 149512644 : a[j + 15] = wk3r * x0i + wk3i * x0r;
1790 : }
1791 :
1792 4591152 : return;
1793 : }
1794 :
1795 : /*-----------------------------------------------------------------*
1796 : * cftmdl()
1797 : * Subfunction of Complex Discrete Fourier Transform
1798 : *-----------------------------------------------------------------*/
1799 :
1800 9480846 : static void cftmdl(
1801 : int16_t n, /* i : data length of real and imag */
1802 : int16_t l, /* i : initial shift for processing */
1803 : float *a, /* i/o: input/output data */
1804 : const float *w /* i : cos/sin table */
1805 : )
1806 : {
1807 : int16_t j, j1, j2, j3, k, k1, k2, m, m2;
1808 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1809 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1810 :
1811 9480846 : m = l << 2;
1812 190916382 : for ( j = 0; j < l; j += 2 )
1813 : {
1814 181435536 : j1 = j + l;
1815 181435536 : j2 = j1 + l;
1816 181435536 : j3 = j2 + l;
1817 181435536 : x0r = a[j] + a[j1];
1818 181435536 : x0i = a[j + 1] + a[j1 + 1];
1819 181435536 : x1r = a[j] - a[j1];
1820 181435536 : x1i = a[j + 1] - a[j1 + 1];
1821 181435536 : x2r = a[j2] + a[j3];
1822 181435536 : x2i = a[j2 + 1] + a[j3 + 1];
1823 181435536 : x3r = a[j2] - a[j3];
1824 181435536 : x3i = a[j2 + 1] - a[j3 + 1];
1825 181435536 : a[j] = x0r + x2r;
1826 181435536 : a[j + 1] = x0i + x2i;
1827 181435536 : a[j2] = x0r - x2r;
1828 181435536 : a[j2 + 1] = x0i - x2i;
1829 181435536 : a[j1] = x1r - x3i;
1830 181435536 : a[j1 + 1] = x1i + x3r;
1831 181435536 : a[j3] = x1r + x3i;
1832 181435536 : a[j3 + 1] = x1i - x3r;
1833 : }
1834 :
1835 9480846 : wk1r = w[2];
1836 190916382 : for ( j = m; j < l + m; j += 2 )
1837 : {
1838 181435536 : j1 = j + l;
1839 181435536 : j2 = j1 + l;
1840 181435536 : j3 = j2 + l;
1841 181435536 : x0r = a[j] + a[j1];
1842 181435536 : x0i = a[j + 1] + a[j1 + 1];
1843 181435536 : x1r = a[j] - a[j1];
1844 181435536 : x1i = a[j + 1] - a[j1 + 1];
1845 181435536 : x2r = a[j2] + a[j3];
1846 181435536 : x2i = a[j2 + 1] + a[j3 + 1];
1847 181435536 : x3r = a[j2] - a[j3];
1848 181435536 : x3i = a[j2 + 1] - a[j3 + 1];
1849 181435536 : a[j] = x0r + x2r;
1850 181435536 : a[j + 1] = x0i + x2i;
1851 181435536 : a[j2] = x2i - x0i;
1852 181435536 : a[j2 + 1] = x0r - x2r;
1853 181435536 : x0r = x1r - x3i;
1854 181435536 : x0i = x1i + x3r;
1855 181435536 : a[j1] = wk1r * ( x0r - x0i );
1856 181435536 : a[j1 + 1] = wk1r * ( x0r + x0i );
1857 181435536 : x0r = x3i + x1r;
1858 181435536 : x0i = x3r - x1i;
1859 181435536 : a[j3] = wk1r * ( x0i - x0r );
1860 181435536 : a[j3 + 1] = wk1r * ( x0i + x0r );
1861 : }
1862 :
1863 9480846 : k1 = 0;
1864 9480846 : m2 = 2 * m;
1865 49311770 : for ( k = m2; k < n; k += m2 )
1866 : {
1867 39830924 : k1 += 2;
1868 39830924 : k2 = 2 * k1;
1869 39830924 : wk2r = w[k1];
1870 39830924 : wk2i = w[k1 + 1];
1871 39830924 : wk1r = w[k2];
1872 39830924 : wk1i = w[k2 + 1];
1873 39830924 : wk3r = wk1r - 2 * wk2i * wk1i;
1874 39830924 : wk3i = 2 * wk2i * wk1r - wk1i;
1875 269674564 : for ( j = k; j < l + k; j += 2 )
1876 : {
1877 229843640 : j1 = j + l;
1878 229843640 : j2 = j1 + l;
1879 229843640 : j3 = j2 + l;
1880 229843640 : x0r = a[j] + a[j1];
1881 229843640 : x0i = a[j + 1] + a[j1 + 1];
1882 229843640 : x1r = a[j] - a[j1];
1883 229843640 : x1i = a[j + 1] - a[j1 + 1];
1884 229843640 : x2r = a[j2] + a[j3];
1885 229843640 : x2i = a[j2 + 1] + a[j3 + 1];
1886 229843640 : x3r = a[j2] - a[j3];
1887 229843640 : x3i = a[j2 + 1] - a[j3 + 1];
1888 229843640 : a[j] = x0r + x2r;
1889 229843640 : a[j + 1] = x0i + x2i;
1890 229843640 : x0r -= x2r;
1891 229843640 : x0i -= x2i;
1892 229843640 : a[j2] = wk2r * x0r - wk2i * x0i;
1893 229843640 : a[j2 + 1] = wk2r * x0i + wk2i * x0r;
1894 229843640 : x0r = x1r - x3i;
1895 229843640 : x0i = x1i + x3r;
1896 229843640 : a[j1] = wk1r * x0r - wk1i * x0i;
1897 229843640 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1898 229843640 : x0r = x1r + x3i;
1899 229843640 : x0i = x1i - x3r;
1900 229843640 : a[j3] = wk3r * x0r - wk3i * x0i;
1901 229843640 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1902 : }
1903 :
1904 39830924 : wk1r = w[k2 + 2];
1905 39830924 : wk1i = w[k2 + 3];
1906 39830924 : wk3r = wk1r - 2 * wk2r * wk1i;
1907 39830924 : wk3i = 2 * wk2r * wk1r - wk1i;
1908 269674564 : for ( j = k + m; j < l + ( k + m ); j += 2 )
1909 : {
1910 229843640 : j1 = j + l;
1911 229843640 : j2 = j1 + l;
1912 229843640 : j3 = j2 + l;
1913 229843640 : x0r = a[j] + a[j1];
1914 229843640 : x0i = a[j + 1] + a[j1 + 1];
1915 229843640 : x1r = a[j] - a[j1];
1916 229843640 : x1i = a[j + 1] - a[j1 + 1];
1917 229843640 : x2r = a[j2] + a[j3];
1918 229843640 : x2i = a[j2 + 1] + a[j3 + 1];
1919 229843640 : x3r = a[j2] - a[j3];
1920 229843640 : x3i = a[j2 + 1] - a[j3 + 1];
1921 229843640 : a[j] = x0r + x2r;
1922 229843640 : a[j + 1] = x0i + x2i;
1923 229843640 : x0r -= x2r;
1924 229843640 : x0i -= x2i;
1925 229843640 : a[j2] = -wk2i * x0r - wk2r * x0i;
1926 229843640 : a[j2 + 1] = -wk2i * x0i + wk2r * x0r;
1927 229843640 : x0r = x1r - x3i;
1928 229843640 : x0i = x1i + x3r;
1929 229843640 : a[j1] = wk1r * x0r - wk1i * x0i;
1930 229843640 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1931 229843640 : x0r = x1r + x3i;
1932 229843640 : x0i = x1i - x3r;
1933 229843640 : a[j3] = wk3r * x0r - wk3i * x0i;
1934 229843640 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1935 : }
1936 : }
1937 :
1938 9480846 : return;
1939 : }
1940 :
1941 38205 : static void cftbsub(
1942 : int16_t n,
1943 : float *a,
1944 : const float *w /* i : cos/sin table */
1945 : )
1946 : {
1947 : int16_t j, j1, j2, j3, l;
1948 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1949 :
1950 38205 : l = 2;
1951 38205 : if ( n > 8 )
1952 : {
1953 38205 : cft1st( n, a, w );
1954 38205 : l = 8;
1955 :
1956 76410 : while ( ( l << 2 ) < n )
1957 : {
1958 38205 : cftmdl( n, l, a, w );
1959 38205 : l <<= 2;
1960 : }
1961 : }
1962 :
1963 38205 : if ( ( l << 2 ) == n )
1964 : {
1965 0 : for ( j = 0; j < l; j += 2 )
1966 : {
1967 0 : j1 = j + l;
1968 0 : j2 = j1 + l;
1969 0 : j3 = j2 + l;
1970 0 : x0r = a[j] + a[j1];
1971 0 : x0i = -a[j + 1] - a[j1 + 1];
1972 0 : x1r = a[j] - a[j1];
1973 0 : x1i = -a[j + 1] + a[j1 + 1];
1974 0 : x2r = a[j2] + a[j3];
1975 0 : x2i = a[j2 + 1] + a[j3 + 1];
1976 0 : x3r = a[j2] - a[j3];
1977 0 : x3i = a[j2 + 1] - a[j3 + 1];
1978 0 : a[j] = x0r + x2r;
1979 0 : a[j + 1] = x0i - x2i;
1980 0 : a[j2] = x0r - x2r;
1981 0 : a[j2 + 1] = x0i + x2i;
1982 0 : a[j1] = x1r - x3i;
1983 0 : a[j1 + 1] = x1i - x3r;
1984 0 : a[j3] = x1r + x3i;
1985 0 : a[j3 + 1] = x1i + x3r;
1986 : }
1987 : }
1988 : else
1989 : {
1990 649485 : for ( j = 0; j < l; j += 2 )
1991 : {
1992 611280 : j1 = j + l;
1993 611280 : x0r = a[j] - a[j1];
1994 611280 : x0i = -a[j + 1] + a[j1 + 1];
1995 611280 : a[j] += a[j1];
1996 611280 : a[j + 1] = -a[j + 1] - a[j1 + 1];
1997 611280 : a[j1] = x0r;
1998 611280 : a[j1 + 1] = x0i;
1999 : }
2000 : }
2001 :
2002 38205 : return;
2003 : }
2004 :
2005 108095 : static void rftfsub(
2006 : int16_t n,
2007 : float *a,
2008 : int16_t nc,
2009 : const float *c )
2010 : {
2011 : int16_t j, k, kk, ks, m;
2012 : float wkr, wki, xr, xi, yr, yi;
2013 :
2014 108095 : m = n >> 1;
2015 108095 : ks = 2 * nc / m;
2016 108095 : kk = 0;
2017 1729520 : for ( j = 2; j < m; j += 2 )
2018 : {
2019 1621425 : k = n - j;
2020 1621425 : kk += ks;
2021 1621425 : wkr = 0.5f - c[nc - kk];
2022 1621425 : wki = c[kk];
2023 1621425 : xr = a[j] - a[k];
2024 1621425 : xi = a[j + 1] + a[k + 1];
2025 1621425 : yr = wkr * xr - wki * xi;
2026 1621425 : yi = wkr * xi + wki * xr;
2027 1621425 : a[j] -= yr;
2028 1621425 : a[j + 1] -= yi;
2029 1621425 : a[k] += yr;
2030 1621425 : a[k + 1] -= yi;
2031 : }
2032 :
2033 108095 : return;
2034 : }
2035 :
2036 :
2037 38205 : static void rftbsub(
2038 : int16_t n,
2039 : float *a,
2040 : int16_t nc,
2041 : const float *c )
2042 : {
2043 : int16_t j, k, kk, ks, m;
2044 : float wkr, wki, xr, xi, yr, yi;
2045 :
2046 38205 : a[1] = -a[1];
2047 38205 : m = n >> 1;
2048 38205 : ks = 2 * nc / m;
2049 38205 : kk = 0;
2050 611280 : for ( j = 2; j < m; j += 2 )
2051 : {
2052 573075 : k = n - j;
2053 573075 : kk += ks;
2054 573075 : wkr = 0.5f - c[nc - kk];
2055 573075 : wki = c[kk];
2056 573075 : xr = a[j] - a[k];
2057 573075 : xi = a[j + 1] + a[k + 1];
2058 573075 : yr = wkr * xr + wki * xi;
2059 573075 : yi = wkr * xi - wki * xr;
2060 573075 : a[j] -= yr;
2061 573075 : a[j + 1] = yi - a[j + 1];
2062 573075 : a[k] += yr;
2063 573075 : a[k + 1] = yi - a[k + 1];
2064 : }
2065 38205 : a[m + 1] = -a[m + 1];
2066 :
2067 38205 : return;
2068 : }
2069 :
2070 :
2071 146300 : static void dctsub(
2072 : int16_t n,
2073 : float *a,
2074 : int16_t nc,
2075 : const float *c )
2076 : {
2077 : int16_t j, k, kk, ks, m;
2078 : float wkr, wki, xr;
2079 :
2080 146300 : m = n >> 1;
2081 146300 : ks = nc / n;
2082 146300 : kk = 0;
2083 4681600 : for ( j = 1; j < m; j++ )
2084 : {
2085 4535300 : k = n - j;
2086 4535300 : kk += ks;
2087 4535300 : wkr = c[kk] - c[nc - kk];
2088 4535300 : wki = c[kk] + c[nc - kk];
2089 4535300 : xr = wki * a[j] - wkr * a[k];
2090 4535300 : a[j] = wkr * a[j] + wki * a[k];
2091 4535300 : a[k] = xr;
2092 : }
2093 146300 : a[m] *= c[0];
2094 :
2095 146300 : return;
2096 : }
2097 :
2098 :
2099 : /*-----------------------------------------------------------------*
2100 : * edct2()
2101 : *
2102 : * Transformation of the signal to DCT domain
2103 : * OR Inverse EDCT-II for short frames
2104 : *-----------------------------------------------------------------*/
2105 :
2106 146300 : void edct2(
2107 : const int16_t n,
2108 : const int16_t isgn,
2109 : float *in,
2110 : float *a,
2111 : const int16_t *ip,
2112 : const float *w )
2113 : {
2114 : int16_t j, nw, nc;
2115 : float xr;
2116 :
2117 146300 : mvr2r( in, a, n );
2118 :
2119 146300 : nw = ip[0];
2120 146300 : if ( n > ( nw << 2 ) )
2121 : {
2122 0 : nw = n >> 2;
2123 : }
2124 :
2125 146300 : nc = ip[1];
2126 146300 : if ( n > nc )
2127 : {
2128 0 : nc = n;
2129 : }
2130 :
2131 146300 : if ( isgn < 0 )
2132 : {
2133 38205 : xr = a[n - 1];
2134 1222560 : for ( j = n - 2; j >= 2; j -= 2 )
2135 : {
2136 1184355 : a[j + 1] = a[j] - a[j - 1];
2137 1184355 : a[j] += a[j - 1];
2138 : }
2139 38205 : a[1] = a[0] - xr;
2140 38205 : a[0] += xr;
2141 :
2142 38205 : if ( n > 4 )
2143 : {
2144 38205 : rftbsub( n, a, nc, w + nw );
2145 38205 : bitrv2_SR( n, ip + 2, a );
2146 38205 : cftbsub( n, a, w );
2147 : }
2148 0 : else if ( n == 4 )
2149 : {
2150 0 : cftfsub( n, a, w );
2151 : }
2152 : }
2153 :
2154 146300 : if ( isgn >= 0 )
2155 : {
2156 108095 : a[0] *= 0.5f;
2157 : }
2158 :
2159 146300 : dctsub( n, a, nc, w + nw );
2160 :
2161 146300 : if ( isgn >= 0 )
2162 : {
2163 108095 : if ( n > 4 )
2164 : {
2165 108095 : bitrv2_SR( n, ip + 2, a );
2166 108095 : cftfsub( n, a, w );
2167 108095 : rftfsub( n, a, nc, w + nw );
2168 : }
2169 0 : else if ( n == 4 )
2170 : {
2171 0 : cftfsub( n, a, w );
2172 : }
2173 108095 : xr = a[0] - a[1];
2174 108095 : a[0] += a[1];
2175 3459040 : for ( j = 2; j < n; j += 2 )
2176 : {
2177 3350945 : a[j - 1] = a[j] - a[j + 1];
2178 3350945 : a[j] += a[j + 1];
2179 : }
2180 108095 : a[n - 1] = xr;
2181 :
2182 7026175 : for ( j = 0; j < n; j++ )
2183 : {
2184 6918080 : a[j] /= 32.0f;
2185 : }
2186 : }
2187 146300 : }
2188 :
2189 :
2190 2357967 : void DoRTFTn(
2191 : float *x, /* i/o: real part of input and output data */
2192 : float *y, /* i/o: imaginary part of input and output data */
2193 : const int16_t n /* i : size of the FFT up to 1024 */
2194 : )
2195 : {
2196 :
2197 : int16_t i;
2198 : float z[2048];
2199 :
2200 1056390415 : for ( i = 0; i < n; i++ )
2201 : {
2202 1054032448 : z[2 * i] = x[i];
2203 1054032448 : z[2 * i + 1] = y[i];
2204 : }
2205 :
2206 2357967 : switch ( n )
2207 : {
2208 0 : case ( 16 ):
2209 0 : cdftForw( 2 * n, z, Ip_fft16, w_fft16 );
2210 0 : break;
2211 0 : case ( 32 ):
2212 0 : cdftForw( 2 * n, z, Ip_fft32, w_fft32 );
2213 0 : break;
2214 1 : case ( 64 ):
2215 1 : cdftForw( 2 * n, z, Ip_fft64, w_fft64 );
2216 1 : break;
2217 0 : case ( 128 ):
2218 0 : cdftForw( 2 * n, z, Ip_fft128, w_fft128 );
2219 0 : break;
2220 598618 : case ( 256 ):
2221 598618 : cdftForw( 2 * n, z, Ip_fft256, w_fft256 );
2222 598618 : break;
2223 1759348 : case ( 512 ):
2224 1759348 : cdftForw( 2 * n, z, Ip_fft512, w_fft512 );
2225 1759348 : break;
2226 0 : default:
2227 0 : assert( 0 );
2228 : }
2229 :
2230 2357967 : x[0] = z[0];
2231 2357967 : y[0] = z[1];
2232 1054032448 : for ( i = 1; i < n; i++ )
2233 : {
2234 1051674481 : x[n - i] = z[2 * i];
2235 1051674481 : y[n - i] = z[2 * i + 1];
2236 : }
2237 :
2238 2357967 : return;
2239 : }
2240 :
2241 :
2242 435 : void fft3(
2243 : const float X[],
2244 : float Y[],
2245 : const int16_t n )
2246 : {
2247 : float Z[PH_ECU_SPEC_SIZE];
2248 : float *Z0, *Z1, *Z2;
2249 : float *z0, *z1, *z2;
2250 : const float *x;
2251 435 : const float *t_sin = sincos_t_rad3;
2252 : int16_t m, step, order;
2253 : int16_t i, j;
2254 : int16_t c1_ind, s1_ind, c2_ind, s2_ind;
2255 : int16_t c1_step, s1_step, c2_step, s2_step;
2256 : float *RY, *IY, *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2257 :
2258 : /* Determine the order of the transform, the length of decimated */
2259 : /* transforms m, and the step for the sine and cosine tables. */
2260 435 : switch ( n )
2261 : {
2262 145 : case 1536:
2263 145 : order = 9;
2264 145 : m = 512;
2265 145 : step = 1;
2266 145 : break;
2267 290 : case 384:
2268 290 : order = 7;
2269 290 : m = 128;
2270 290 : step = 4;
2271 290 : break;
2272 0 : default:
2273 0 : order = 9;
2274 0 : m = 512;
2275 0 : step = 1;
2276 : }
2277 :
2278 : /* Compose decimated sequences X[3i], X[3i+1],X[3i+2] */
2279 : /* compute their FFT of length m. */
2280 435 : Z0 = &Z[0];
2281 435 : z0 = &Z0[0];
2282 435 : Z1 = &Z0[m];
2283 435 : z1 = &Z1[0]; /* Z1 = &Z[ m]; */
2284 435 : Z2 = &Z1[m];
2285 435 : z2 = &Z2[0]; /* Z2 = &Z[2m]; */
2286 435 : x = &X[0];
2287 111795 : for ( i = 0; i < n / 3; i++ )
2288 : {
2289 111360 : *z0++ = *x++; /* Z0[i] = X[3i]; */
2290 111360 : *z1++ = *x++; /* Z1[i] = X[3i+1]; */
2291 111360 : *z2++ = *x++; /* Z2[i] = X[3i+2]; */
2292 : }
2293 :
2294 435 : fft_rel( &Z0[0], m, order );
2295 435 : fft_rel( &Z1[0], m, order );
2296 435 : fft_rel( &Z2[0], m, order );
2297 :
2298 : /* Butterflies of order 3. */
2299 : /* pointer initialization */
2300 435 : RY = &Y[0];
2301 435 : IY = &Y[n];
2302 435 : RZ0 = &Z0[0];
2303 435 : IZ0 = &Z0[m];
2304 435 : RZ1 = &Z1[0];
2305 435 : IZ1 = &Z1[m];
2306 435 : RZ2 = &Z2[0];
2307 435 : IZ2 = &Z2[m];
2308 :
2309 435 : c1_step = -step;
2310 435 : s1_step = step;
2311 435 : c2_step = -2 * step;
2312 435 : s2_step = 2 * step;
2313 435 : c1_ind = T_SIN_PI_2 + c1_step;
2314 435 : s1_ind = s1_step;
2315 435 : c2_ind = T_SIN_PI_2 + c2_step;
2316 435 : s2_ind = s2_step;
2317 :
2318 : /* special case: i = 0 */
2319 435 : RY[0] = RZ0[0] + RZ1[0] + RZ2[0];
2320 :
2321 : /* first 3/12 */
2322 41760 : for ( i = 1; i < 3 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind += c2_step, s2_ind += s2_step )
2323 : {
2324 41325 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] + RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2325 41325 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] + IZ2[-i] * t_sin[c2_ind];
2326 : }
2327 :
2328 : /* next 1/12 */
2329 14355 : for ( ; i < 4 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2330 : {
2331 13920 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] - RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2332 13920 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] - IZ2[-i] * t_sin[c2_ind];
2333 : }
2334 :
2335 : /* special case: i = m/2 i.e. 1/3 */
2336 435 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] - RZ2[i] * t_sin[c2_ind];
2337 435 : IY[-i] = -RZ1[i] * t_sin[s1_ind] - RZ2[i] * t_sin[s2_ind];
2338 435 : i++;
2339 :
2340 435 : c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step;
2341 :
2342 : /* next 2/12 */
2343 27840 : for ( j = i - 2; i < 6 * m / 8; i++, j--, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2344 : {
2345 27405 : RY[i] = RZ0[j] + RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2346 27405 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] - RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2347 : }
2348 :
2349 : /*--------------------------half--------------------------*/
2350 : /* next 2/12 */
2351 28275 : for ( ; i < 8 * m / 8; i++, j--, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2352 : {
2353 27840 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] + IZ2[-j] * t_sin[s2_ind];
2354 27840 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] + IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2355 : }
2356 :
2357 : /* special case: i = m, i.e 2/3 */
2358 435 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - RZ2[j] * t_sin[c2_ind];
2359 435 : IY[-i++] = -RZ1[j] * t_sin[s1_ind] + RZ2[j] * t_sin[s2_ind];
2360 435 : c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step;
2361 :
2362 : /* next 1/12 */
2363 13920 : for ( j = 1; i < 9 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2364 : {
2365 13485 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2366 13485 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] - IZ2[-j] * t_sin[c2_ind];
2367 : }
2368 :
2369 : /* last 3/12 */
2370 42195 : for ( ; i < 12 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2371 : {
2372 41760 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] + RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2373 41760 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2374 : }
2375 :
2376 : /* special case: i = 3*m/2 */
2377 435 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + RZ2[j] * t_sin[c2_ind];
2378 :
2379 435 : return;
2380 : }
2381 :
2382 243 : void ifft3(
2383 : const float Z[],
2384 : float X[],
2385 : const int16_t n )
2386 : {
2387 : float Y[PH_ECU_SPEC_SIZE];
2388 243 : const float *t_sin = sincos_t_rad3;
2389 : int16_t m, step, step2, order;
2390 : int16_t i;
2391 : int16_t c0_ind, s0_ind, c1_ind, s1_ind, c2_ind, s2_ind;
2392 : float scale;
2393 : const float *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2394 : float *RY0, *IY0, *RY1, *IY1, *RY2, *IY2, *y0, *y1, *y2;
2395 :
2396 : /* Determine the order of the transform, the length of decimated */
2397 : /* transforms m, and the step for the sine and cosine tables. */
2398 243 : switch ( n )
2399 : {
2400 243 : case 1536:
2401 243 : order = 9;
2402 243 : m = 512;
2403 243 : step = 1;
2404 243 : break;
2405 0 : case 384:
2406 0 : order = 7;
2407 0 : m = 128;
2408 0 : step = 4;
2409 0 : break;
2410 0 : default:
2411 0 : order = 9;
2412 0 : m = 512;
2413 0 : step = 1;
2414 : }
2415 :
2416 : /* pointer initialization */
2417 243 : RY0 = &Y[0];
2418 243 : IY0 = &RY0[m];
2419 243 : RY1 = &RY0[m];
2420 243 : IY1 = &RY1[m];
2421 243 : RY2 = &RY1[m];
2422 243 : IY2 = &RY2[m];
2423 :
2424 243 : RZ0 = &Z[0];
2425 243 : RZ1 = RZ0 + m;
2426 243 : RZ2 = RZ0 + n / 2 - m / 2;
2427 243 : IZ0 = &Z[n];
2428 243 : IZ1 = IZ0 - m;
2429 243 : IZ2 = IZ0 - n / 2 + m / 2;
2430 :
2431 : /* Inverse butterflies of order 3. */
2432 :
2433 : /* Construction of Y0 */
2434 243 : RY0[0] = RZ0[0] + RZ1[0] + RZ2[0];
2435 62208 : for ( i = 1; i < m / 2; i++ )
2436 : {
2437 61965 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2438 61965 : IY0[-i] = IZ0[-i] + IZ1[-i] - IZ2[i];
2439 : }
2440 :
2441 : /* m/2 */
2442 243 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2443 :
2444 : /* Construction of Y1 */
2445 243 : c0_ind = T_SIN_PI_2;
2446 243 : s0_ind = 0;
2447 243 : c1_ind = T_SIN_PI_2 * 1 / 3;
2448 243 : s1_ind = T_SIN_PI_2 * 2 / 3;
2449 243 : c2_ind = T_SIN_PI_2 * 1 / 3;
2450 243 : s2_ind = T_SIN_PI_2 * 2 / 3;
2451 :
2452 243 : RY1[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] - IZ1[0] * t_sin[s1_ind] - IZ2[0] * t_sin[s2_ind];
2453 :
2454 243 : c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step;
2455 31104 : for ( i = 1; i < m / 4; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step )
2456 : {
2457 30861 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2458 30861 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2459 : }
2460 :
2461 31347 : for ( ; i < m / 2; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind += step, s2_ind -= step )
2462 : {
2463 31104 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2464 31104 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] - IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2465 : }
2466 :
2467 : /* m/2 */
2468 243 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2469 :
2470 : /* Construction of Y2 */
2471 243 : c0_ind = T_SIN_PI_2;
2472 243 : s0_ind = 0;
2473 243 : c1_ind = T_SIN_PI_2 * 1 / 3;
2474 243 : s1_ind = T_SIN_PI_2 * 2 / 3;
2475 243 : c2_ind = T_SIN_PI_2 * 1 / 3;
2476 243 : s2_ind = T_SIN_PI_2 * 2 / 3;
2477 243 : step2 = 2 * step;
2478 243 : RY2[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] + IZ1[0] * t_sin[s1_ind] + IZ2[0] * t_sin[s2_ind];
2479 :
2480 243 : c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2;
2481 15552 : for ( i = 1; i < m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2 )
2482 : {
2483 15309 : RY2[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2484 15309 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2485 : }
2486 :
2487 15795 : for ( ; i < m / 4; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind += step2, s2_ind -= step2 )
2488 : {
2489 15552 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2490 15552 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2491 : }
2492 :
2493 15795 : for ( ; i < 3 * m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2494 : {
2495 15552 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2496 15552 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2497 : }
2498 :
2499 15795 : for ( ; i < m / 2; i++, c0_ind += step2, s0_ind -= step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2500 : {
2501 15552 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2502 15552 : IY2[-i] = -IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2503 : }
2504 :
2505 : /* m/2 */
2506 243 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2507 :
2508 : /* Compute the inverse FFT for all 3 blocks. */
2509 243 : ifft_rel( RY0, m, order );
2510 243 : ifft_rel( RY1, m, order );
2511 243 : ifft_rel( RY2, m, order );
2512 :
2513 243 : y0 = RY0;
2514 243 : y1 = RY1;
2515 243 : y2 = RY2;
2516 :
2517 : /* Interlacing and scaling, scale = 1/3 */
2518 243 : scale = 1.0f / 3;
2519 124659 : for ( i = 0; i < n; )
2520 : {
2521 124416 : X[i++] = ( *y0++ ) * scale;
2522 124416 : X[i++] = ( *y1++ ) * scale;
2523 124416 : X[i++] = ( *y2++ ) * scale;
2524 : }
2525 :
2526 243 : return;
2527 : }
2528 :
2529 :
2530 95860 : static void rfft_post(
2531 : const float *sine_table,
2532 : float *buf,
2533 : const int16_t len )
2534 : {
2535 : float tmp1, tmp2, tmp3, tmp4, s, c;
2536 95860 : int16_t i = 0;
2537 :
2538 95860 : tmp1 = buf[0] + buf[1];
2539 95860 : buf[1] = buf[0] - buf[1];
2540 95860 : buf[0] = tmp1;
2541 :
2542 15433460 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2543 : {
2544 15337600 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2545 15337600 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2546 :
2547 15337600 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2548 15337600 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2549 15337600 : tmp3 = s * tmp1 - c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2550 15337600 : tmp4 = c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2551 15337600 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2552 15337600 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2553 :
2554 15337600 : buf[2 * i] = 0.5f * ( tmp1 - tmp3 );
2555 15337600 : buf[2 * i + 1] = 0.5f * ( tmp2 - tmp4 );
2556 15337600 : buf[len - 2 * i] = 0.5f * ( tmp1 + tmp3 );
2557 15337600 : buf[len - 2 * i + 1] = -0.5f * ( tmp2 + tmp4 );
2558 : }
2559 95860 : }
2560 :
2561 57296 : static void rfft_pre(
2562 : const float *sine_table,
2563 : float *buf,
2564 : const int16_t len )
2565 : {
2566 57296 : const float scale = 1.0f / len;
2567 : float tmp1, tmp2, tmp3, tmp4, s, c;
2568 57296 : int16_t i = 0;
2569 :
2570 57296 : tmp1 = buf[0] + buf[1];
2571 57296 : buf[1] = scale * ( buf[0] - buf[1] );
2572 57296 : buf[0] = scale * tmp1;
2573 :
2574 9224656 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2575 : {
2576 9167360 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2577 9167360 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2578 :
2579 9167360 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2580 9167360 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2581 9167360 : tmp3 = s * tmp1 + c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2582 9167360 : tmp4 = -c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2583 9167360 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2584 9167360 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2585 :
2586 9167360 : buf[2 * i] = scale * ( tmp1 + tmp3 );
2587 9167360 : buf[2 * i + 1] = -scale * ( tmp2 + tmp4 );
2588 9167360 : buf[len - 2 * i] = scale * ( tmp1 - tmp3 );
2589 9167360 : buf[len - 2 * i + 1] = scale * ( tmp2 - tmp4 );
2590 : }
2591 :
2592 57296 : return;
2593 : }
2594 :
2595 318245 : int16_t RFFTN(
2596 : float *data,
2597 : const float *sine_table,
2598 : const int16_t len,
2599 : const int16_t sign )
2600 : {
2601 318245 : assert( len <= 640 && len > 0 );
2602 :
2603 318245 : if ( len == 640 )
2604 : {
2605 : float x[320], y[320];
2606 : int16_t i;
2607 :
2608 153156 : if ( sign != -1 )
2609 : {
2610 57296 : rfft_pre( sine_table, data, len );
2611 : }
2612 :
2613 49163076 : for ( i = 0; i < 320; i++ )
2614 : {
2615 49009920 : x[i] = data[2 * i];
2616 49009920 : y[i] = data[2 * i + 1];
2617 : }
2618 153156 : DoRTFT320( x, y );
2619 49163076 : for ( i = 0; i < 320; i++ )
2620 : {
2621 49009920 : data[2 * i] = x[i];
2622 49009920 : data[2 * i + 1] = y[i];
2623 : }
2624 :
2625 153156 : if ( sign == -1 )
2626 : {
2627 95860 : rfft_post( sine_table, data, len );
2628 : }
2629 : }
2630 : else
2631 : {
2632 165089 : if ( len == 512 )
2633 : {
2634 : int16_t i;
2635 165089 : const int16_t log2 = 9;
2636 : float reordered_data[512];
2637 :
2638 165089 : if ( sign == -1 )
2639 : {
2640 89720 : fft_rel( data, len, log2 );
2641 89720 : reordered_data[0] = data[0];
2642 89720 : reordered_data[1] = data[len / 2];
2643 22968320 : for ( i = 1; i < len / 2; i++ )
2644 : {
2645 22878600 : reordered_data[2 * i] = data[i];
2646 22878600 : reordered_data[2 * i + 1] = data[len - i];
2647 : }
2648 : }
2649 : else
2650 : {
2651 75369 : reordered_data[0] = data[0];
2652 75369 : reordered_data[len / 2] = data[1];
2653 19294464 : for ( i = 1; i < len / 2; i++ )
2654 : {
2655 19219095 : reordered_data[i] = data[2 * i];
2656 19219095 : reordered_data[len - i] = data[2 * i + 1];
2657 : }
2658 75369 : ifft_rel( reordered_data, len, log2 );
2659 : }
2660 165089 : mvr2r( reordered_data, data, len );
2661 : }
2662 : else
2663 : {
2664 0 : assert( !"Not supported FFT length!" );
2665 : }
2666 : }
2667 :
2668 318245 : return 0;
2669 : }
2670 :
2671 29732670 : static void butterfly(
2672 : const float a,
2673 : const float b,
2674 : float *aPlusb,
2675 : float *aMinusb )
2676 : {
2677 29732670 : *aPlusb = a + b;
2678 29732670 : *aMinusb = a - b;
2679 :
2680 29732670 : return;
2681 : }
2682 :
2683 19644480 : static void fft2(
2684 : float *pInOut )
2685 : {
2686 : /* FFT MATRIX:
2687 : 1.0000 1.0000
2688 : 1.0000 -1.0000
2689 : */
2690 : float re1, im1;
2691 : float re2, im2;
2692 :
2693 19644480 : re1 = pInOut[0];
2694 19644480 : im1 = pInOut[1];
2695 19644480 : re2 = pInOut[2];
2696 19644480 : im2 = pInOut[3];
2697 19644480 : pInOut[0] = re1 + re2;
2698 19644480 : pInOut[1] = im1 + im2;
2699 :
2700 19644480 : pInOut[2] = re1 - re2;
2701 19644480 : pInOut[3] = im1 - im2;
2702 :
2703 19644480 : return;
2704 : }
2705 :
2706 : static const float C31 = 0.5f; /* cos(PI/3); sin(2*PI/3) */
2707 : static const float C32 = 0.866025403784439f; /* cos(PI/3); sin(2*PI/3) */
2708 :
2709 13121720 : static void fft3_2(
2710 : float *pInOut )
2711 : {
2712 : float re1, im1;
2713 : float re2, im2;
2714 : float re3, im3;
2715 :
2716 : float tmp1, tmp2;
2717 : float tmp3, tmp4;
2718 :
2719 13121720 : re1 = pInOut[0];
2720 13121720 : im1 = pInOut[1];
2721 13121720 : re2 = pInOut[2];
2722 13121720 : im2 = pInOut[3];
2723 13121720 : re3 = pInOut[4];
2724 13121720 : im3 = pInOut[5];
2725 :
2726 : /* FFT MATRIX:
2727 : 1.0000 1.0000 1.0000
2728 : C31 C32
2729 : 1.0000 -0.5000 - 0.8660i -0.5000 + 0.8660i
2730 : 1.0000 -0.5000 + 0.8660i -0.5000 - 0.8660i
2731 : */
2732 13121720 : tmp1 = re2 + re3;
2733 13121720 : tmp3 = im2 + im3;
2734 13121720 : tmp2 = re2 - re3;
2735 13121720 : tmp4 = im2 - im3;
2736 13121720 : pInOut[0] = re1 + tmp1;
2737 13121720 : pInOut[1] = im1 + tmp3;
2738 13121720 : pInOut[2] = re1 - C31 * tmp1 + C32 * tmp4;
2739 13121720 : pInOut[4] = re1 - C31 * tmp1 - C32 * tmp4;
2740 :
2741 13121720 : pInOut[3] = im1 - C32 * tmp2 - C31 * tmp3;
2742 13121720 : pInOut[5] = im1 + C32 * tmp2 - C31 * tmp3;
2743 13121720 : }
2744 :
2745 :
2746 0 : static void fft4(
2747 : float *pInOut )
2748 : {
2749 : float re1, im1;
2750 : float re2, im2;
2751 : float re3, im3;
2752 : float re4, im4;
2753 :
2754 : float tmp1, tmp2;
2755 : float tmp3, tmp4;
2756 : float tmp5, tmp6;
2757 : float tmp7, tmp8;
2758 :
2759 0 : re1 = pInOut[0];
2760 0 : im1 = pInOut[1];
2761 0 : re2 = pInOut[2];
2762 0 : im2 = pInOut[3];
2763 0 : re3 = pInOut[4];
2764 0 : im3 = pInOut[5];
2765 0 : re4 = pInOut[6];
2766 0 : im4 = pInOut[7];
2767 :
2768 : /*
2769 : 1.0000 1.0000 1.0000 1.0000
2770 : 1.0000 -1.0000i -1.0000 1.0000i
2771 : 1.0000 -1.0000 1.0000 -1.0000
2772 : 1.0000 1.0000i -1.0000 -1.0000i
2773 : */
2774 0 : tmp1 = re1 + re3;
2775 0 : tmp3 = re2 + re4;
2776 0 : tmp5 = im1 + im3;
2777 0 : tmp7 = im2 + im4;
2778 0 : pInOut[0] = tmp1 + tmp3;
2779 0 : pInOut[4] = tmp1 - tmp3;
2780 :
2781 0 : pInOut[1] = tmp5 + tmp7;
2782 0 : pInOut[5] = tmp5 - tmp7;
2783 0 : tmp2 = re1 - re3;
2784 0 : tmp4 = re2 - re4;
2785 0 : tmp6 = im1 - im3;
2786 0 : tmp8 = im2 - im4;
2787 0 : pInOut[2] = tmp2 + tmp8;
2788 0 : pInOut[6] = tmp2 - tmp8;
2789 :
2790 0 : pInOut[3] = -tmp4 + tmp6;
2791 0 : pInOut[7] = tmp4 + tmp6;
2792 :
2793 0 : return;
2794 : }
2795 :
2796 : static const float C51 = 0.309016994374947f; /* cos(2*PI/5); */
2797 : static const float C52 = 0.951056516295154f; /* sin(2*PI/5); */
2798 : static const float C53 = 0.809016994374947f; /* cos( PI/5); */
2799 : static const float C54 = 0.587785252292473f; /* sin( PI/5); */
2800 :
2801 8003472 : static void fft5(
2802 : float *pInOut )
2803 : {
2804 : float re1, im1;
2805 : float re2, im2;
2806 : float re3, im3;
2807 : float re4, im4;
2808 : float re5, im5;
2809 :
2810 : float tmp1, tmp2;
2811 : float tmp3, tmp4;
2812 : float tmp5, tmp6;
2813 : float tmp7, tmp8;
2814 :
2815 :
2816 8003472 : re1 = pInOut[0];
2817 8003472 : im1 = pInOut[1];
2818 8003472 : re2 = pInOut[2];
2819 8003472 : im2 = pInOut[3];
2820 8003472 : re3 = pInOut[4];
2821 8003472 : im3 = pInOut[5];
2822 8003472 : re4 = pInOut[6];
2823 8003472 : im4 = pInOut[7];
2824 8003472 : re5 = pInOut[8];
2825 8003472 : im5 = pInOut[9];
2826 :
2827 : /*
2828 : 1.0000 1.0000 1.0000 1.0000 1.0000
2829 : C51 C52 C53 C54
2830 : 1.0000 0.3090 - 0.9511i -0.8090 - 0.5878i -0.8090 + 0.5878i 0.3090 + 0.9511i
2831 : 1.0000 -0.8090 - 0.5878i 0.3090 + 0.9511i 0.3090 - 0.9511i -0.8090 + 0.5878i
2832 : 1.0000 -0.8090 + 0.5878i 0.3090 - 0.9511i 0.3090 + 0.9511i -0.8090 - 0.5878i
2833 : 1.0000 0.3090 + 0.9511i -0.8090 + 0.5878i -0.8090 - 0.5878i 0.3090 - 0.9511i
2834 : */
2835 8003472 : tmp1 = re2 + re5;
2836 8003472 : tmp2 = re2 - re5;
2837 8003472 : tmp3 = im2 + im5;
2838 8003472 : tmp4 = im2 - im5;
2839 8003472 : tmp5 = re3 + re4;
2840 8003472 : tmp6 = re3 - re4;
2841 8003472 : tmp7 = im3 + im4;
2842 8003472 : tmp8 = im3 - im4;
2843 :
2844 :
2845 8003472 : pInOut[0] = re1 + tmp1 + tmp5;
2846 8003472 : pInOut[1] = im1 + tmp3 + tmp7;
2847 :
2848 8003472 : pInOut[2] = re1 + C51 * tmp1 - C53 * tmp5 + C52 * tmp4 + C54 * tmp8;
2849 8003472 : pInOut[8] = re1 + C51 * tmp1 - C53 * tmp5 - C52 * tmp4 - C54 * tmp8;
2850 8003472 : pInOut[3] = im1 - C52 * tmp2 - C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2851 8003472 : pInOut[9] = im1 + C52 * tmp2 + C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2852 8003472 : pInOut[4] = re1 - C53 * tmp1 + C51 * tmp5 + C54 * tmp4 - C52 * tmp8;
2853 8003472 : pInOut[6] = re1 - C53 * tmp1 + C51 * tmp5 - C54 * tmp4 + C52 * tmp8;
2854 8003472 : pInOut[5] = im1 - C54 * tmp2 + C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2855 8003472 : pInOut[7] = im1 + C54 * tmp2 - C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2856 :
2857 8003472 : return;
2858 : }
2859 :
2860 : static const float C81 = 0.707106781186548f; /* cos(PI/4); */
2861 :
2862 4955445 : static void fft8_2(
2863 : float *pInOut )
2864 : {
2865 : float re0, im0, re4, im4;
2866 :
2867 : float re1_7p, re1_7m;
2868 : float im1_7p, im1_7m;
2869 : float re2_6p, re2_6m;
2870 : float im2_6p, im2_6m;
2871 : float re3_5p, re3_5m;
2872 : float im3_5p, im3_5m;
2873 :
2874 4955445 : re0 = pInOut[0];
2875 4955445 : im0 = pInOut[1];
2876 4955445 : re4 = pInOut[8];
2877 4955445 : im4 = pInOut[9];
2878 4955445 : butterfly( pInOut[1 * 2], pInOut[7 * 2], &re1_7p, &re1_7m );
2879 4955445 : butterfly( pInOut[1 * 2 + 1], pInOut[7 * 2 + 1], &im1_7p, &im1_7m );
2880 4955445 : butterfly( pInOut[2 * 2], pInOut[6 * 2], &re2_6p, &re2_6m );
2881 4955445 : butterfly( pInOut[2 * 2 + 1], pInOut[6 * 2 + 1], &im2_6p, &im2_6m );
2882 4955445 : butterfly( pInOut[3 * 2], pInOut[5 * 2], &re3_5p, &re3_5m );
2883 4955445 : butterfly( pInOut[3 * 2 + 1], pInOut[5 * 2 + 1], &im3_5p, &im3_5m );
2884 :
2885 : /*
2886 : 0: 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i
2887 : 1: 1 + 0i C81 - C81i 0 - 1i -C81 - C81i -1 - 0i -C81 + C81i - 0 + 1i C81 + C81i
2888 : 2: 1 + 0i 0 - 1i -1 - 0i - 0 + 1i 1 + 0i 0 - 1i - 1 - 0i - 0 + 1i
2889 : 3: 1 + 0i -C81 - C81i -0 + 1i C81 - C81i -1 - 0i C81 + C81i 0 - 1i -C81 + C81i
2890 : 4: 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i
2891 : 5: 1 + 0i -C81 + C81i 0 - 1i C81 + C81i -1 - 0i C81 - C81i - 0 + 1i -C81 - C81i
2892 : 6: 1 + 0i - 0 + 1i -1 - 0i 0 - 1i 1 + 0i - 0 + 1i - 1 - 0i - 0 - 1i
2893 : 7: 1 + 0i C81 + C81i -0 + 1i -C81 + C81i -1 - 0i -C81 - C81i - 0 - 1i C81 - C81i
2894 : */
2895 4955445 : pInOut[0] = re0 + re4 + re1_7p + re2_6p + re3_5p;
2896 4955445 : pInOut[1] = im0 + im4 + im1_7p + im2_6p + im3_5p;
2897 :
2898 4955445 : pInOut[2] = re0 + C81 * ( re1_7p - re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) + im2_6m;
2899 4955445 : pInOut[3] = im0 + C81 * ( im1_7p - im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) - re2_6m;
2900 :
2901 4955445 : pInOut[4] = re0 - re2_6p + re4 + im1_7m - im3_5m;
2902 4955445 : pInOut[5] = im0 - im2_6p + im4 - re1_7m + re3_5m;
2903 :
2904 4955445 : pInOut[6] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) - im2_6m;
2905 4955445 : pInOut[7] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) + re2_6m;
2906 :
2907 4955445 : pInOut[8] = re0 - re1_7p + re2_6p - re3_5p + re4;
2908 4955445 : pInOut[9] = im0 - im1_7p + im2_6p - im3_5p + im4;
2909 :
2910 4955445 : pInOut[10] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) + im2_6m;
2911 4955445 : pInOut[11] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) - re2_6m;
2912 :
2913 4955445 : pInOut[12] = re0 - re2_6p + re4 - im1_7m + im3_5m;
2914 4955445 : pInOut[13] = im0 - im2_6p + im4 + re1_7m - re3_5m;
2915 :
2916 4955445 : pInOut[14] = re0 + C81 * ( re1_7p - re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) - im2_6m;
2917 4955445 : pInOut[15] = im0 + C81 * ( im1_7p - im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) + re2_6m;
2918 :
2919 4955445 : return;
2920 : }
2921 :
2922 4985880 : static void nextFFT(
2923 : float *x,
2924 : const int16_t length )
2925 : {
2926 4985880 : switch ( length )
2927 : {
2928 0 : case 2:
2929 0 : fft2( x );
2930 0 : break;
2931 0 : case 3:
2932 0 : fft3_2( x );
2933 0 : break;
2934 0 : case 4:
2935 0 : fft4( x );
2936 0 : break;
2937 74760 : case 5:
2938 74760 : fft5( x );
2939 74760 : break;
2940 4911120 : case 8:
2941 4911120 : fft8_2( x );
2942 4911120 : break;
2943 0 : default:
2944 0 : assert( !"length not supported" );
2945 : break;
2946 : }
2947 :
2948 4985880 : return;
2949 : }
2950 :
2951 : static const int16_t CTFFTfactors[] = { 9, 8, 7, 5, 4, 3, 2, 0 };
2952 :
2953 2470512 : static __inline int16_t findFactor(
2954 : const int16_t length )
2955 : {
2956 2470512 : int16_t i = 0;
2957 2470512 : int16_t factor = 0;
2958 :
2959 4970928 : while ( CTFFTfactors[i] != 0 )
2960 : {
2961 4970928 : if ( 0 == ( length % CTFFTfactors[i] ) )
2962 : {
2963 2470512 : factor = CTFFTfactors[i];
2964 2470512 : break;
2965 : }
2966 2500416 : i++;
2967 : }
2968 2470512 : return factor;
2969 : }
2970 :
2971 2470512 : static __inline void twiddle(
2972 : float *x,
2973 : const int16_t length,
2974 : const int16_t n1,
2975 : const int16_t n2 )
2976 : {
2977 : int16_t i, ii;
2978 2470512 : double pi = 4. * atan( 1. );
2979 : float sinValOrg, cosValOrg;
2980 2470512 : float sinVal = 0.f, cosVal = 1.f;
2981 2470512 : float twReal = 0.f, twImag = 1.f;
2982 :
2983 2470512 : cosValOrg = (float) cos( -2 * pi * 1. / (double) length );
2984 2470512 : sinValOrg = (float) sin( -2 * pi * 1. / (double) length );
2985 19719240 : for ( i = 1; i < n1; i++ )
2986 : {
2987 : float tmp;
2988 17248728 : twReal = 1.f;
2989 17248728 : twImag = 0.f;
2990 17248728 : tmp = cosVal * cosValOrg - sinVal * sinValOrg;
2991 17248728 : sinVal = sinVal * cosValOrg + cosVal * sinValOrg;
2992 17248728 : cosVal = tmp;
2993 34676880 : for ( ii = 1; ii < n2; ii++ )
2994 : {
2995 : float xRe, xIm, tmpReal;
2996 : /* cos(x+y) = cos(x)*cos(y) - sin(x)*sin(y); */
2997 : /* sin(x+y) = sin(x)*cos(y) + sin(y)*cos(x); */
2998 17428152 : tmpReal = twReal * cosVal - twImag * sinVal;
2999 17428152 : twImag = twImag * cosVal + sinVal * twReal;
3000 17428152 : twReal = tmpReal;
3001 17428152 : xRe = x[2 * ( i * n2 + ii )];
3002 17428152 : xIm = x[2 * ( i * n2 + ii ) + 1];
3003 17428152 : x[2 * ( i * n2 + ii )] = twReal * xRe - twImag * xIm;
3004 17428152 : x[2 * ( i * n2 + ii ) + 1] = twImag * xRe + twReal * xIm;
3005 : }
3006 17248728 : tmp = cosVal;
3007 : }
3008 :
3009 2470512 : return;
3010 : }
3011 :
3012 43209749 : static void cooleyTukeyFFT(
3013 : float *x,
3014 : const int16_t length,
3015 : float *scratch )
3016 : {
3017 : int16_t factor;
3018 : int16_t i, ii;
3019 : int16_t n1, n2;
3020 43209749 : int16_t cnt = 0;
3021 : float *src, *dest;
3022 :
3023 43209749 : switch ( length )
3024 : {
3025 0 : case 1:
3026 0 : break;
3027 19644480 : case 2:
3028 19644480 : fft2( x );
3029 19644480 : break;
3030 13121720 : case 3:
3031 13121720 : fft3_2( x );
3032 13121720 : break;
3033 0 : case 4:
3034 0 : fft4( x );
3035 0 : break;
3036 7928712 : case 5:
3037 7928712 : fft5( x );
3038 7928712 : break;
3039 44325 : case 8:
3040 44325 : fft8_2( x );
3041 44325 : break;
3042 2470512 : default:
3043 : {
3044 2470512 : factor = findFactor( length );
3045 2470512 : if ( factor > 0 && ( length / factor > 1 ) )
3046 : {
3047 2470512 : n1 = factor;
3048 2470512 : n2 = length / factor;
3049 :
3050 : /* DATA Resorting for stage1 */
3051 2470512 : dest = scratch;
3052 22189752 : for ( i = 0; i < 2 * n1; i += 2 )
3053 : {
3054 19719240 : src = x + i;
3055 59382000 : for ( ii = 0; ii < n2; ii++ )
3056 : {
3057 : /* *dest++ = x[2*(i+ii*n1)]; */
3058 : /* *dest++ = x[2*(i+ii*n1)+1]; */
3059 39662760 : *dest++ = *src;
3060 39662760 : *dest++ = *( src + 1 );
3061 39662760 : src += 2 * n1;
3062 : }
3063 : }
3064 2470512 : src = scratch;
3065 2470512 : dest = x;
3066 42133272 : for ( i = 0; i < length; i++ )
3067 : {
3068 39662760 : *dest++ = *src++;
3069 39662760 : *dest++ = *src++;
3070 : }
3071 : /* perform n1 ffts of length n2 */
3072 22189752 : for ( i = 0; i < n1; i++ )
3073 : {
3074 19719240 : cooleyTukeyFFT( x + 2 * i * n2, n2, scratch + 2 * i * n2 );
3075 : }
3076 : /*data twiddeling */
3077 2470512 : twiddle( x, length, n1, n2 );
3078 : /* DATA Resorting for stage2 */
3079 2470512 : cnt = 0;
3080 7456392 : for ( i = 0; i < n2; i++ )
3081 : {
3082 44648640 : for ( ii = 0; ii < n1; ii++ )
3083 : {
3084 39662760 : scratch[2 * cnt] = x[2 * ( i + ii * n2 )];
3085 39662760 : scratch[2 * cnt + 1] = x[2 * ( i + ii * n2 ) + 1];
3086 39662760 : cnt++;
3087 : }
3088 : }
3089 : /* perform n2 ffts of length n1 */
3090 7456392 : for ( i = 0; i < n2; i++ )
3091 : {
3092 4985880 : nextFFT( scratch + 2 * i * n1, n1 );
3093 : }
3094 2470512 : cnt = 0;
3095 22189752 : for ( i = 0; i < n1; i++ )
3096 : {
3097 59382000 : for ( ii = 0; ii < n2; ii++ )
3098 : {
3099 39662760 : x[2 * cnt] = scratch[2 * ( i + ii * n1 )];
3100 39662760 : x[2 * cnt + 1] = scratch[2 * ( i + ii * n1 ) + 1];
3101 39662760 : cnt++;
3102 : }
3103 : }
3104 : }
3105 : else
3106 : {
3107 0 : assert( !"length not supported" );
3108 : }
3109 : }
3110 : }
3111 :
3112 43209749 : return;
3113 : }
3114 :
3115 15942406 : static void pfaDFT(
3116 : float *x,
3117 : const int16_t length,
3118 : float *scratch1,
3119 : const int16_t numFactors,
3120 : const int16_t *factor )
3121 : {
3122 : int16_t i, ii;
3123 : int16_t cnt;
3124 :
3125 15942406 : if ( numFactors > 1 )
3126 : {
3127 2787086 : float *tmp = scratch1;
3128 2787086 : int16_t n1_inv = 1, n2_inv = 1;
3129 2787086 : int16_t n2 = factor[0 /*idx*/];
3130 2787086 : int16_t n1 = length / n2;
3131 : int16_t idx, incr;
3132 :
3133 7735109 : while ( ( ( n1_inv * n1 ) % n2 ) != 1 )
3134 : {
3135 4948023 : n1_inv++;
3136 : }
3137 5409429 : while ( ( ( n2_inv * n2 ) % n1 ) != 1 )
3138 : {
3139 2622343 : n2_inv++;
3140 : }
3141 2787086 : idx = 0;
3142 2787086 : incr = n1 * n1_inv;
3143 2787086 : cnt = 0;
3144 13122275 : for ( i = 0; i < n1; i++ )
3145 : {
3146 79008720 : for ( ii = 0; ii < n2 - 1; ii++ )
3147 : {
3148 68673531 : tmp[cnt++] = x[2 * idx];
3149 68673531 : tmp[cnt++] = x[2 * idx + 1];
3150 :
3151 68673531 : idx += incr;
3152 68673531 : if ( idx > length )
3153 : {
3154 45174361 : idx -= length;
3155 : }
3156 : }
3157 10335189 : tmp[cnt++] = x[2 * idx];
3158 10335189 : tmp[cnt++] = x[2 * idx + 1];
3159 10335189 : idx++;
3160 : }
3161 13122275 : for ( cnt = 0; cnt < length; cnt += n2 )
3162 : {
3163 10335189 : cooleyTukeyFFT( tmp + 2 * cnt, n2, x + 2 * cnt );
3164 : }
3165 13122275 : for ( cnt = 0; cnt < n1; cnt++ )
3166 : {
3167 89343909 : for ( i = 0; i < n2; i++ )
3168 : {
3169 79008720 : x[2 * ( cnt + i * n1 )] = tmp[2 * ( cnt * n2 + i )];
3170 79008720 : x[2 * ( cnt + i * n1 ) + 1] = tmp[2 * ( cnt * n2 + i ) + 1];
3171 : }
3172 : }
3173 18564365 : for ( cnt = 0; cnt < length; cnt += n1 )
3174 : {
3175 15777279 : pfaDFT( x + 2 * cnt, n1, tmp, numFactors - 1, &factor[1] );
3176 : }
3177 2787086 : idx = 0;
3178 2787086 : cnt = 0;
3179 18564365 : for ( i = 0; i < n2; i++ )
3180 : {
3181 15777279 : idx = i * n1;
3182 94785999 : for ( ii = 0; ii < n1; ii++ )
3183 : {
3184 79008720 : tmp[2 * idx] = x[cnt++];
3185 79008720 : tmp[2 * idx + 1] = x[cnt++];
3186 79008720 : idx += n2;
3187 79008720 : if ( idx > length )
3188 : {
3189 12990193 : idx -= length;
3190 : }
3191 : }
3192 : }
3193 81795806 : for ( cnt = 0; cnt < length; cnt++ )
3194 : {
3195 79008720 : x[2 * cnt] = tmp[2 * cnt];
3196 79008720 : x[2 * cnt + 1] = tmp[2 * cnt + 1];
3197 : }
3198 : }
3199 : else
3200 : {
3201 13155320 : cooleyTukeyFFT( x, length, scratch1 );
3202 : }
3203 :
3204 15942406 : return;
3205 : }
3206 :
3207 165127 : static void fftf_interleave(
3208 : float *re,
3209 : float *im,
3210 : float *out,
3211 : const int16_t len )
3212 : {
3213 165127 : int16_t i = 0;
3214 :
3215 39808687 : for ( i = 0; i < len; i++ )
3216 : {
3217 39643560 : *out++ = *re++;
3218 39643560 : *out++ = *im++;
3219 : }
3220 :
3221 165127 : return;
3222 : }
3223 :
3224 165127 : static void fftf_deinterleave(
3225 : float *in,
3226 : float *re,
3227 : float *im,
3228 : const int16_t len )
3229 : {
3230 165127 : int16_t i = 0;
3231 :
3232 39808687 : for ( i = 0; i < len; i++ )
3233 : {
3234 39643560 : *re++ = *in++;
3235 39643560 : *im++ = *in++;
3236 : }
3237 :
3238 165127 : return;
3239 : }
3240 :
3241 159 : static void DoRTFT600(
3242 : float *x, /* i/o: real part of input and output data */
3243 : float *y /* i/o: imaginary part of input and output data */
3244 : )
3245 : {
3246 : float scratch[1200], cmplx[1200];
3247 159 : const int16_t factors[3] = { 25, 8, 3 };
3248 :
3249 159 : fftf_interleave( x, y, cmplx, 600 );
3250 159 : pfaDFT( cmplx, 600, scratch, 3, factors );
3251 159 : fftf_deinterleave( cmplx, x, y, 600 );
3252 :
3253 159 : return;
3254 : }
3255 :
3256 48 : static void DoRTFT400(
3257 : float *x, /* i/o: real part of input and output data */
3258 : float *y /* i/o: imaginary part of input and output data */
3259 : )
3260 : {
3261 : float scratch[800], cmplx[800];
3262 48 : const int16_t factors[2] = { 25, 16 };
3263 :
3264 48 : fftf_interleave( x, y, cmplx, 400 );
3265 48 : pfaDFT( cmplx, 400, scratch, 2, factors );
3266 48 : fftf_deinterleave( cmplx, x, y, 400 );
3267 :
3268 :
3269 48 : return;
3270 : }
3271 :
3272 163624 : static void DoRTFT240(
3273 : float *x, /* i/o: real part of input and output data */
3274 : float *y /* i/o: imaginary part of input and output data */
3275 : )
3276 : {
3277 : float scratch[480], cmplx[480];
3278 163624 : const int16_t factors[3] = { 16, 5, 3 };
3279 :
3280 163624 : fftf_interleave( x, y, cmplx, 240 );
3281 163624 : pfaDFT( cmplx, 240, scratch, 3, factors );
3282 163624 : fftf_deinterleave( cmplx, x, y, 240 );
3283 :
3284 163624 : return;
3285 : }
3286 :
3287 1296 : static void DoRTFT200(
3288 : float *x, /* i/o: real part of input and output data */
3289 : float *y /* i/o: imaginary part of input and output data */
3290 : )
3291 : {
3292 : float scratch[400], cmplx[400];
3293 1296 : const int16_t factors[2] = { 25, 8 };
3294 :
3295 1296 : fftf_interleave( x, y, cmplx, 200 );
3296 1296 : pfaDFT( cmplx, 200, scratch, 2, factors );
3297 1296 : fftf_deinterleave( cmplx, x, y, 200 );
3298 :
3299 1296 : return;
3300 : }
3301 :
3302 0 : static void DoRTFT100(
3303 : float *x, /* i/o: real part of input and output data */
3304 : float *y /* i/o: imaginary part of input and output data */
3305 : )
3306 : {
3307 : float scratch[200], cmplx[200];
3308 0 : const int16_t factors[2] = { 25, 4 };
3309 :
3310 0 : fftf_interleave( x, y, cmplx, 100 );
3311 0 : pfaDFT( cmplx, 100, scratch, 2, factors );
3312 0 : fftf_deinterleave( cmplx, x, y, 100 );
3313 :
3314 0 : return;
3315 : }
3316 :
3317 :
3318 1036602 : void DoFFT(
3319 : float *re2,
3320 : float *im2,
3321 : const int16_t length )
3322 : {
3323 1036602 : switch ( length )
3324 : {
3325 159 : case 600:
3326 159 : DoRTFT600( re2, im2 );
3327 159 : break;
3328 17397 : case 480:
3329 17397 : DoRTFT480( re2, im2 );
3330 17397 : break;
3331 48 : case 400:
3332 48 : DoRTFT400( re2, im2 );
3333 48 : break;
3334 38803 : case 320:
3335 38803 : DoRTFT320( re2, im2 );
3336 38803 : break;
3337 0 : case 256:
3338 0 : DoRTFTn( re2, im2, 256 );
3339 0 : break;
3340 163624 : case 240:
3341 163624 : DoRTFT240( re2, im2 );
3342 163624 : break;
3343 1296 : case 200:
3344 1296 : DoRTFT200( re2, im2 );
3345 1296 : break;
3346 5847 : case 160:
3347 5847 : DoRTFT160( re2, im2 );
3348 5847 : break;
3349 804640 : case 128:
3350 804640 : DoRTFT128( re2, im2 );
3351 804640 : break;
3352 832 : case 120:
3353 832 : DoRTFT120( re2, im2 );
3354 832 : break;
3355 0 : case 100:
3356 0 : DoRTFT100( re2, im2 );
3357 0 : break;
3358 3784 : case 80:
3359 3784 : DoRTFT80( re2, im2 );
3360 3784 : break;
3361 0 : case 64:
3362 0 : DoRTFTn( re2, im2, 64 );
3363 0 : break;
3364 172 : case 40:
3365 172 : DoRTFT40( re2, im2 );
3366 172 : break;
3367 0 : case 20:
3368 0 : DoRTFT20( re2, im2 );
3369 0 : break;
3370 0 : default:
3371 0 : assert( !"fft is not supported!" );
3372 : }
3373 :
3374 1036602 : return;
3375 : }
3376 :
3377 : /*-----------------------------------------------------------------*
3378 : * Low-complexity implementation of FFT
3379 : *-----------------------------------------------------------------*/
3380 :
3381 101936 : static void fft_len5(
3382 : float *re,
3383 : float *im,
3384 : const int16_t s )
3385 : {
3386 : float x0, x1, x2, x3, x4;
3387 : float r1, r2, r3, r4;
3388 : float s1, s2, s3, s4;
3389 : float t;
3390 :
3391 101936 : x0 = re[s * 0];
3392 101936 : x1 = re[s * 1];
3393 101936 : x2 = re[s * 2];
3394 101936 : x3 = re[s * 3];
3395 101936 : x4 = re[s * 4];
3396 :
3397 101936 : r1 = ( x1 + x4 );
3398 101936 : r4 = ( x1 - x4 );
3399 101936 : r3 = ( x2 + x3 );
3400 101936 : r2 = ( x2 - x3 );
3401 101936 : t = ( ( r1 - r3 ) * FFT_C54 );
3402 101936 : r1 = ( r1 + r3 );
3403 101936 : re[0] = ( x0 + r1 );
3404 :
3405 101936 : r1 = ( re[0] + ( ( r1 * FFT_C55 ) ) );
3406 101936 : r3 = ( r1 - t );
3407 101936 : r1 = ( r1 + t );
3408 101936 : t = ( ( r4 + r2 ) * FFT_C51 );
3409 :
3410 101936 : r4 = ( t + ( r4 * FFT_C52 ) );
3411 101936 : r2 = ( t + ( r2 * FFT_C53 ) );
3412 :
3413 101936 : x0 = im[s * 0];
3414 101936 : x1 = im[s * 1];
3415 101936 : x2 = im[s * 2];
3416 101936 : x3 = im[s * 3];
3417 101936 : x4 = im[s * 4];
3418 :
3419 101936 : s1 = ( x1 + x4 );
3420 101936 : s4 = ( x1 - x4 );
3421 101936 : s3 = ( x2 + x3 );
3422 101936 : s2 = ( x2 - x3 );
3423 101936 : t = ( ( s1 - s3 ) * FFT_C54 );
3424 101936 : s1 = ( s1 + s3 );
3425 101936 : im[0] = ( x0 + s1 );
3426 :
3427 101936 : s1 = ( im[0] + ( s1 * FFT_C55 ) );
3428 101936 : s3 = ( s1 - t );
3429 101936 : s1 = ( s1 + t );
3430 101936 : t = ( ( s4 + s2 ) * FFT_C51 );
3431 :
3432 101936 : s4 = ( t + ( s4 * FFT_C52 ) );
3433 101936 : s2 = ( t + ( s2 * FFT_C53 ) );
3434 :
3435 101936 : re[s * 1] = ( r1 + s2 );
3436 101936 : re[s * 4] = ( r1 - s2 );
3437 101936 : re[s * 2] = ( r3 - s4 );
3438 101936 : re[s * 3] = ( r3 + s4 );
3439 :
3440 101936 : im[s * 1] = ( s1 - r2 );
3441 101936 : im[s * 4] = ( s1 + r2 );
3442 101936 : im[s * 2] = ( s3 + r4 );
3443 101936 : im[s * 3] = ( s3 - r4 );
3444 :
3445 101936 : return;
3446 : }
3447 :
3448 247680 : static void fft_len8(
3449 : float *re,
3450 : float *im,
3451 : const int16_t s )
3452 : {
3453 : float x00, x01, x02, x03, x04, x05, x06, x07;
3454 : float x08, x09, x10, x11, x12, x13, x14, x15;
3455 : float t00, t01, t02, t03, t04, t05, t06, t07;
3456 : float t08, t09, t10, t11, t12, t13, t14, t15;
3457 : float s00, s01, s02, s03, s04, s05, s06, s07;
3458 : float s08, s09, s10, s11, s12, s13, s14, s15;
3459 :
3460 247680 : x00 = re[s * 0];
3461 247680 : x01 = im[s * 0];
3462 247680 : x02 = re[s * 1];
3463 247680 : x03 = im[s * 1];
3464 247680 : x04 = re[s * 2];
3465 247680 : x05 = im[s * 2];
3466 247680 : x06 = re[s * 3];
3467 247680 : x07 = im[s * 3];
3468 247680 : x08 = re[s * 4];
3469 247680 : x09 = im[s * 4];
3470 247680 : x10 = re[s * 5];
3471 247680 : x11 = im[s * 5];
3472 247680 : x12 = re[s * 6];
3473 247680 : x13 = im[s * 6];
3474 247680 : x14 = re[s * 7];
3475 247680 : x15 = im[s * 7];
3476 :
3477 247680 : t00 = ( x00 + x08 );
3478 247680 : t02 = ( x00 - x08 );
3479 247680 : t01 = ( x01 + x09 );
3480 247680 : t03 = ( x01 - x09 );
3481 247680 : t04 = ( x02 + x10 );
3482 247680 : t06 = ( x02 - x10 );
3483 247680 : t05 = ( x03 + x11 );
3484 247680 : t07 = ( x03 - x11 );
3485 247680 : t08 = ( x04 + x12 );
3486 247680 : t10 = ( x04 - x12 );
3487 247680 : t09 = ( x05 + x13 );
3488 247680 : t11 = ( x05 - x13 );
3489 247680 : t12 = ( x06 + x14 );
3490 247680 : t14 = ( x06 - x14 );
3491 247680 : t13 = ( x07 + x15 );
3492 247680 : t15 = ( x07 - x15 );
3493 :
3494 247680 : s00 = ( t00 + t08 );
3495 247680 : s04 = ( t00 - t08 );
3496 247680 : s01 = ( t01 + t09 );
3497 247680 : s05 = ( t01 - t09 );
3498 247680 : s08 = ( t02 - t11 );
3499 247680 : s10 = ( t02 + t11 );
3500 247680 : s09 = ( t03 + t10 );
3501 247680 : s11 = ( t03 - t10 );
3502 247680 : s02 = ( t04 + t12 );
3503 247680 : s07 = ( t04 - t12 );
3504 247680 : s03 = ( t05 + t13 );
3505 247680 : s06 = ( t13 - t05 );
3506 :
3507 247680 : t01 = ( t06 + t14 );
3508 247680 : t02 = ( t06 - t14 );
3509 247680 : t00 = ( t07 + t15 );
3510 247680 : t03 = ( t07 - t15 );
3511 :
3512 247680 : s12 = ( ( t00 + t02 ) * FFT_C81 );
3513 247680 : s14 = ( ( t00 - t02 ) * FFT_C81 );
3514 247680 : s13 = ( ( t03 - t01 ) * FFT_C81 );
3515 247680 : s15 = ( ( t01 + t03 ) * FFT_C82 );
3516 :
3517 247680 : re[s * 0] = ( s00 + s02 );
3518 247680 : re[s * 4] = ( s00 - s02 );
3519 247680 : im[s * 0] = ( s01 + s03 );
3520 247680 : im[s * 4] = ( s01 - s03 );
3521 247680 : re[s * 2] = ( s04 - s06 );
3522 247680 : re[s * 6] = ( s04 + s06 );
3523 247680 : im[s * 2] = ( s05 - s07 );
3524 247680 : im[s * 6] = ( s05 + s07 );
3525 247680 : re[s * 3] = ( s08 + s14 );
3526 247680 : re[s * 7] = ( s08 - s14 );
3527 247680 : im[s * 3] = ( s09 + s15 );
3528 247680 : im[s * 7] = ( s09 - s15 );
3529 247680 : re[s * 1] = ( s10 + s12 );
3530 247680 : re[s * 5] = ( s10 - s12 );
3531 247680 : im[s * 1] = ( s11 + s13 );
3532 247680 : im[s * 5] = ( s11 - s13 );
3533 :
3534 247680 : return;
3535 : }
3536 :
3537 32330844 : static void fft_len10(
3538 : float *re,
3539 : float *im,
3540 : const int16_t s )
3541 : {
3542 : float t;
3543 : float x0, x1, x2, x3, x4;
3544 : float r1, r2, r3, r4;
3545 : float s1, s2, s3, s4;
3546 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3547 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3548 :
3549 32330844 : x0 = re[s * 0];
3550 32330844 : x1 = re[s * 2];
3551 32330844 : x2 = re[s * 4];
3552 32330844 : x3 = re[s * 6];
3553 32330844 : x4 = re[s * 8];
3554 :
3555 32330844 : r1 = ( x3 + x2 );
3556 32330844 : r4 = ( x3 - x2 );
3557 32330844 : r3 = ( x1 + x4 );
3558 32330844 : r2 = ( x1 - x4 );
3559 32330844 : t = ( ( r1 - r3 ) * FFT_C54 );
3560 32330844 : r1 = ( r1 + r3 );
3561 32330844 : y00 = ( x0 + r1 );
3562 32330844 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3563 32330844 : r3 = ( r1 - t );
3564 32330844 : r1 = ( r1 + t );
3565 32330844 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3566 32330844 : r4 = ( t + ( r4 * FFT_C52 ) );
3567 32330844 : r2 = ( t + ( r2 * FFT_C53 ) );
3568 :
3569 32330844 : x0 = im[s * 0];
3570 32330844 : x1 = im[s * 2];
3571 32330844 : x2 = im[s * 4];
3572 32330844 : x3 = im[s * 6];
3573 32330844 : x4 = im[s * 8];
3574 :
3575 32330844 : s1 = ( x3 + x2 );
3576 32330844 : s4 = ( x3 - x2 );
3577 32330844 : s3 = ( x1 + x4 );
3578 32330844 : s2 = ( x1 - x4 );
3579 32330844 : t = ( ( s1 - s3 ) * FFT_C54 );
3580 32330844 : s1 = ( s1 + s3 );
3581 32330844 : y01 = ( x0 + s1 );
3582 32330844 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3583 32330844 : s3 = ( s1 - t );
3584 32330844 : s1 = ( s1 + t );
3585 32330844 : t = ( ( s4 + s2 ) * FFT_C51 );
3586 32330844 : s4 = ( t + ( s4 * FFT_C52 ) );
3587 32330844 : s2 = ( t + ( s2 * FFT_C53 ) );
3588 :
3589 32330844 : y04 = ( r1 + s2 );
3590 32330844 : y16 = ( r1 - s2 );
3591 32330844 : y08 = ( r3 - s4 );
3592 32330844 : y12 = ( r3 + s4 );
3593 :
3594 32330844 : y05 = ( s1 - r2 );
3595 32330844 : y17 = ( s1 + r2 );
3596 32330844 : y09 = ( s3 + r4 );
3597 32330844 : y13 = ( s3 - r4 );
3598 :
3599 32330844 : x0 = re[s * 5];
3600 32330844 : x1 = re[s * 1];
3601 32330844 : x2 = re[s * 3];
3602 32330844 : x3 = re[s * 7];
3603 32330844 : x4 = re[s * 9];
3604 :
3605 32330844 : r1 = ( x1 + x4 );
3606 32330844 : r4 = ( x1 - x4 );
3607 32330844 : r3 = ( x3 + x2 );
3608 32330844 : r2 = ( x3 - x2 );
3609 32330844 : t = ( ( r1 - r3 ) * FFT_C54 );
3610 32330844 : r1 = ( r1 + r3 );
3611 32330844 : y02 = ( x0 + r1 );
3612 32330844 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
3613 32330844 : r3 = ( r1 - t );
3614 32330844 : r1 = ( r1 + t );
3615 32330844 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3616 32330844 : r4 = ( t + ( r4 * FFT_C52 ) );
3617 32330844 : r2 = ( t + ( r2 * FFT_C53 ) );
3618 :
3619 32330844 : x0 = im[s * 5];
3620 32330844 : x1 = im[s * 1];
3621 32330844 : x2 = im[s * 3];
3622 32330844 : x3 = im[s * 7];
3623 32330844 : x4 = im[s * 9];
3624 :
3625 32330844 : s1 = ( x1 + x4 );
3626 32330844 : s4 = ( x1 - x4 );
3627 32330844 : s3 = ( x3 + x2 );
3628 32330844 : s2 = ( x3 - x2 );
3629 32330844 : t = ( ( s1 - s3 ) * FFT_C54 );
3630 32330844 : s1 = ( s1 + s3 );
3631 32330844 : y03 = ( x0 + s1 );
3632 32330844 : s1 = ( y03 + ( s1 * FFT_C55 ) );
3633 32330844 : s3 = ( s1 - t );
3634 32330844 : s1 = ( s1 + t );
3635 32330844 : t = ( ( s4 + s2 ) * FFT_C51 );
3636 32330844 : s4 = ( t + ( s4 * FFT_C52 ) );
3637 32330844 : s2 = ( t + ( s2 * FFT_C53 ) );
3638 :
3639 32330844 : y06 = ( r1 + s2 );
3640 32330844 : y18 = ( r1 - s2 );
3641 32330844 : y10 = ( r3 - s4 );
3642 32330844 : y14 = ( r3 + s4 );
3643 :
3644 32330844 : y07 = ( s1 - r2 );
3645 32330844 : y19 = ( s1 + r2 );
3646 32330844 : y11 = ( s3 + r4 );
3647 32330844 : y15 = ( s3 - r4 );
3648 :
3649 32330844 : re[s * 0] = ( y00 + y02 );
3650 32330844 : im[s * 0] = ( y01 + y03 );
3651 32330844 : re[s * 5] = ( y00 - y02 );
3652 32330844 : im[s * 5] = ( y01 - y03 );
3653 :
3654 32330844 : re[s * 2] = ( y04 + y06 );
3655 32330844 : im[s * 2] = ( y05 + y07 );
3656 32330844 : re[s * 7] = ( y04 - y06 );
3657 32330844 : im[s * 7] = ( y05 - y07 );
3658 :
3659 32330844 : re[s * 4] = ( y08 + y10 );
3660 32330844 : im[s * 4] = ( y09 + y11 );
3661 32330844 : re[s * 9] = ( y08 - y10 );
3662 32330844 : im[s * 9] = ( y09 - y11 );
3663 :
3664 32330844 : re[s * 6] = ( y12 + y14 );
3665 32330844 : im[s * 6] = ( y13 + y15 );
3666 32330844 : re[s * 1] = ( y12 - y14 );
3667 32330844 : im[s * 1] = ( y13 - y15 );
3668 :
3669 32330844 : re[s * 8] = ( y16 + y18 );
3670 32330844 : im[s * 8] = ( y17 + y19 );
3671 32330844 : re[s * 3] = ( y16 - y18 );
3672 32330844 : im[s * 3] = ( y17 - y19 );
3673 :
3674 32330844 : return;
3675 : }
3676 :
3677 2480552 : static void fft_len15(
3678 : float *re,
3679 : float *im,
3680 : const int16_t s )
3681 : {
3682 : float t;
3683 : float r1, r2, r3, r4;
3684 : float s1, s2, s3, s4;
3685 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
3686 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
3687 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
3688 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3689 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3690 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
3691 :
3692 2480552 : x00 = re[s * 0];
3693 2480552 : x01 = im[s * 0];
3694 2480552 : x02 = re[s * 3];
3695 2480552 : x03 = im[s * 3];
3696 2480552 : x04 = re[s * 6];
3697 2480552 : x05 = im[s * 6];
3698 2480552 : x06 = re[s * 9];
3699 2480552 : x07 = im[s * 9];
3700 2480552 : x08 = re[s * 12];
3701 2480552 : x09 = im[s * 12];
3702 :
3703 2480552 : x10 = re[s * 5];
3704 2480552 : x11 = im[s * 5];
3705 2480552 : x12 = re[s * 8];
3706 2480552 : x13 = im[s * 8];
3707 2480552 : x14 = re[s * 11];
3708 2480552 : x15 = im[s * 11];
3709 2480552 : x16 = re[s * 14];
3710 2480552 : x17 = im[s * 14];
3711 2480552 : x18 = re[s * 2];
3712 2480552 : x19 = im[s * 2];
3713 :
3714 2480552 : x20 = re[s * 10];
3715 2480552 : x21 = im[s * 10];
3716 2480552 : x22 = re[s * 13];
3717 2480552 : x23 = im[s * 13];
3718 2480552 : x24 = re[s * 1];
3719 2480552 : x25 = im[s * 1];
3720 2480552 : x26 = re[s * 4];
3721 2480552 : x27 = im[s * 4];
3722 2480552 : x28 = re[s * 7];
3723 2480552 : x29 = im[s * 7];
3724 :
3725 2480552 : r1 = ( x02 + x08 );
3726 2480552 : r4 = ( x02 - x08 );
3727 2480552 : r3 = ( x04 + x06 );
3728 2480552 : r2 = ( x04 - x06 );
3729 2480552 : t = ( ( r1 - r3 ) * FFT_C54 );
3730 2480552 : r1 = ( r1 + r3 );
3731 2480552 : y00 = ( x00 + r1 );
3732 2480552 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3733 2480552 : r3 = ( r1 - t );
3734 2480552 : r1 = ( r1 + t );
3735 2480552 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3736 2480552 : r4 = ( t + ( r4 * FFT_C52 ) );
3737 2480552 : r2 = ( t + ( r2 * FFT_C53 ) );
3738 :
3739 2480552 : s1 = ( x03 + x09 );
3740 2480552 : s4 = ( x03 - x09 );
3741 2480552 : s3 = ( x05 + x07 );
3742 2480552 : s2 = ( x05 - x07 );
3743 2480552 : t = ( ( s1 - s3 ) * FFT_C54 );
3744 2480552 : s1 = ( s1 + s3 );
3745 2480552 : y01 = ( x01 + s1 );
3746 2480552 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3747 2480552 : s3 = ( s1 - t );
3748 2480552 : s1 = ( s1 + t );
3749 2480552 : t = ( ( s4 + s2 ) * FFT_C51 );
3750 2480552 : s4 = ( t + ( s4 * FFT_C52 ) );
3751 2480552 : s2 = ( t + ( s2 * FFT_C53 ) );
3752 :
3753 2480552 : y02 = ( r1 + s2 );
3754 2480552 : y08 = ( r1 - s2 );
3755 2480552 : y04 = ( r3 - s4 );
3756 2480552 : y06 = ( r3 + s4 );
3757 :
3758 2480552 : y03 = ( s1 - r2 );
3759 2480552 : y09 = ( s1 + r2 );
3760 2480552 : y05 = ( s3 + r4 );
3761 2480552 : y07 = ( s3 - r4 );
3762 :
3763 2480552 : r1 = ( x12 + x18 );
3764 2480552 : r4 = ( x12 - x18 );
3765 2480552 : r3 = ( x14 + x16 );
3766 2480552 : r2 = ( x14 - x16 );
3767 2480552 : t = ( ( r1 - r3 ) * FFT_C54 );
3768 2480552 : r1 = ( r1 + r3 );
3769 2480552 : y10 = ( x10 + r1 );
3770 2480552 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
3771 2480552 : r3 = ( r1 - t );
3772 2480552 : r1 = ( r1 + t );
3773 2480552 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3774 2480552 : r4 = ( t + ( r4 * FFT_C52 ) );
3775 2480552 : r2 = ( t + ( r2 * FFT_C53 ) );
3776 :
3777 2480552 : s1 = ( x13 + x19 );
3778 2480552 : s4 = ( x13 - x19 );
3779 2480552 : s3 = ( x15 + x17 );
3780 2480552 : s2 = ( x15 - x17 );
3781 2480552 : t = ( ( s1 - s3 ) * FFT_C54 );
3782 2480552 : s1 = ( s1 + s3 );
3783 2480552 : y11 = ( x11 + s1 );
3784 2480552 : s1 = ( y11 + ( s1 * FFT_C55 ) );
3785 2480552 : s3 = ( s1 - t );
3786 2480552 : s1 = ( s1 + t );
3787 2480552 : t = ( ( s4 + s2 ) * FFT_C51 );
3788 2480552 : s4 = ( t + ( s4 * FFT_C52 ) );
3789 2480552 : s2 = ( t + ( s2 * FFT_C53 ) );
3790 :
3791 2480552 : y12 = ( r1 + s2 );
3792 2480552 : y18 = ( r1 - s2 );
3793 2480552 : y14 = ( r3 - s4 );
3794 2480552 : y16 = ( r3 + s4 );
3795 :
3796 2480552 : y13 = ( s1 - r2 );
3797 2480552 : y19 = ( s1 + r2 );
3798 2480552 : y15 = ( s3 + r4 );
3799 2480552 : y17 = ( s3 - r4 );
3800 :
3801 2480552 : r1 = ( x22 + x28 );
3802 2480552 : r4 = ( x22 - x28 );
3803 2480552 : r3 = ( x24 + x26 );
3804 2480552 : r2 = ( x24 - x26 );
3805 2480552 : t = ( ( r1 - r3 ) * FFT_C54 );
3806 2480552 : r1 = ( r1 + r3 );
3807 2480552 : y20 = ( x20 + r1 );
3808 2480552 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
3809 2480552 : r3 = ( r1 - t );
3810 2480552 : r1 = ( r1 + t );
3811 2480552 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3812 2480552 : r4 = ( t + ( r4 * FFT_C52 ) );
3813 2480552 : r2 = ( t + ( r2 * FFT_C53 ) );
3814 :
3815 2480552 : s1 = ( x23 + x29 );
3816 2480552 : s4 = ( x23 - x29 );
3817 2480552 : s3 = ( x25 + x27 );
3818 2480552 : s2 = ( x25 - x27 );
3819 2480552 : t = ( ( s1 - s3 ) * FFT_C54 );
3820 2480552 : s1 = ( s1 + s3 );
3821 2480552 : y21 = ( x21 + s1 );
3822 2480552 : s1 = ( y21 + ( s1 * FFT_C55 ) );
3823 2480552 : s3 = ( s1 - t );
3824 2480552 : s1 = ( s1 + t );
3825 2480552 : t = ( ( s4 + s2 ) * FFT_C51 );
3826 2480552 : s4 = ( t + ( s4 * FFT_C52 ) );
3827 2480552 : s2 = ( t + ( s2 * FFT_C53 ) );
3828 :
3829 2480552 : y22 = ( r1 + s2 );
3830 2480552 : y28 = ( r1 - s2 );
3831 2480552 : y24 = ( r3 - s4 );
3832 2480552 : y26 = ( r3 + s4 );
3833 :
3834 2480552 : y23 = ( s1 - r2 );
3835 2480552 : y29 = ( s1 + r2 );
3836 2480552 : y25 = ( s3 + r4 );
3837 2480552 : y27 = ( s3 - r4 );
3838 :
3839 2480552 : r1 = ( y10 + y20 );
3840 2480552 : r2 = ( ( y10 - y20 ) * FFT_C31 );
3841 2480552 : re[s * 0] = ( y00 + r1 );
3842 2480552 : r1 = ( y00 - r1 * 0.5f );
3843 :
3844 2480552 : s1 = ( y11 + y21 );
3845 2480552 : s2 = ( ( y11 - y21 ) * FFT_C31 );
3846 2480552 : im[s * 0] = ( y01 + s1 );
3847 2480552 : s1 = ( y01 - s1 * 0.5f );
3848 :
3849 2480552 : re[s * 10] = ( r1 - s2 );
3850 2480552 : re[s * 5] = ( r1 + s2 );
3851 2480552 : im[s * 10] = ( s1 + r2 );
3852 2480552 : im[s * 5] = ( s1 - r2 );
3853 :
3854 2480552 : r1 = ( y12 + y22 );
3855 2480552 : r2 = ( ( y12 - y22 ) * FFT_C31 );
3856 2480552 : re[s * 6] = ( y02 + r1 );
3857 2480552 : r1 = ( y02 - r1 * 0.5f );
3858 :
3859 2480552 : s1 = ( y13 + y23 );
3860 2480552 : s2 = ( ( y13 - y23 ) * FFT_C31 );
3861 2480552 : im[s * 6] = ( y03 + s1 );
3862 2480552 : s1 = ( y03 - s1 * 0.5f );
3863 :
3864 2480552 : re[s * 1] = ( r1 - s2 );
3865 2480552 : re[s * 11] = ( r1 + s2 );
3866 2480552 : im[s * 1] = ( s1 + r2 );
3867 2480552 : im[s * 11] = ( s1 - r2 );
3868 :
3869 2480552 : r1 = ( y14 + y24 );
3870 2480552 : r2 = ( ( y14 - y24 ) * FFT_C31 );
3871 2480552 : re[s * 12] = ( y04 + r1 );
3872 2480552 : r1 = ( y04 - r1 * 0.5f );
3873 :
3874 2480552 : s1 = ( y15 + y25 );
3875 2480552 : s2 = ( ( y15 - y25 ) * FFT_C31 );
3876 2480552 : im[s * 12] = ( y05 + s1 );
3877 2480552 : s1 = ( y05 - s1 * 0.5f );
3878 :
3879 2480552 : re[s * 7] = ( r1 - s2 );
3880 2480552 : re[s * 2] = ( r1 + s2 );
3881 2480552 : im[s * 7] = ( s1 + r2 );
3882 2480552 : im[s * 2] = ( s1 - r2 );
3883 :
3884 2480552 : r1 = ( y16 + y26 );
3885 2480552 : r2 = ( ( y16 - y26 ) * FFT_C31 );
3886 2480552 : re[s * 3] = ( y06 + r1 );
3887 2480552 : r1 = ( y06 - r1 * 0.5f );
3888 :
3889 2480552 : s1 = ( y17 + y27 );
3890 2480552 : s2 = ( ( y17 - y27 ) * FFT_C31 );
3891 2480552 : im[s * 3] = ( y07 + s1 );
3892 2480552 : s1 = ( y07 - s1 * 0.5f );
3893 :
3894 2480552 : re[s * 13] = ( r1 - s2 );
3895 2480552 : re[s * 8] = ( r1 + s2 );
3896 2480552 : im[s * 13] = ( s1 + r2 );
3897 2480552 : im[s * 8] = ( s1 - r2 );
3898 :
3899 2480552 : r1 = ( y18 + y28 );
3900 2480552 : r2 = ( ( y18 - y28 ) * FFT_C31 );
3901 2480552 : re[s * 9] = ( y08 + r1 );
3902 2480552 : r1 = ( y08 - r1 * 0.5f );
3903 :
3904 2480552 : s1 = ( y19 + y29 );
3905 2480552 : s2 = ( ( y19 - y29 ) * FFT_C31 );
3906 2480552 : im[s * 9] = ( y09 + s1 );
3907 2480552 : s1 = ( y09 - s1 * 0.5f );
3908 :
3909 2480552 : re[s * 4] = ( r1 - s2 );
3910 2480552 : re[s * 14] = ( r1 + s2 );
3911 2480552 : im[s * 4] = ( s1 + r2 );
3912 2480552 : im[s * 14] = ( s1 - r2 );
3913 :
3914 2480552 : return;
3915 : }
3916 :
3917 120879062 : static void fft_len16(
3918 : float *re,
3919 : float *im,
3920 : const int16_t s )
3921 : {
3922 : float x0, x1, x2, x3, x4, x5, x6, x7;
3923 : float t0, t1, t2, t3, t4, t5, t6, t7;
3924 : float y00, y01, y02, y03, y04, y05, y06, y07;
3925 : float y08, y09, y10, y11, y12, y13, y14, y15;
3926 : float y16, y17, y18, y19, y20, y21, y22, y23;
3927 : float y24, y25, y26, y27, y28, y29, y30, y31;
3928 :
3929 120879062 : x0 = re[s * 0];
3930 120879062 : x1 = im[s * 0];
3931 120879062 : x2 = re[s * 4];
3932 120879062 : x3 = im[s * 4];
3933 120879062 : x4 = re[s * 8];
3934 120879062 : x5 = im[s * 8];
3935 120879062 : x6 = re[s * 12];
3936 120879062 : x7 = im[s * 12];
3937 :
3938 120879062 : t0 = ( x0 + x4 );
3939 120879062 : t2 = ( x0 - x4 );
3940 120879062 : t1 = ( x1 + x5 );
3941 120879062 : t3 = ( x1 - x5 );
3942 120879062 : t4 = ( x2 + x6 );
3943 120879062 : t7 = ( x2 - x6 );
3944 120879062 : t5 = ( x7 + x3 );
3945 120879062 : t6 = ( x7 - x3 );
3946 :
3947 120879062 : y00 = ( t0 + t4 );
3948 120879062 : y01 = ( t1 + t5 );
3949 120879062 : y02 = ( t2 - t6 );
3950 120879062 : y03 = ( t3 - t7 );
3951 120879062 : y04 = ( t0 - t4 );
3952 120879062 : y05 = ( t1 - t5 );
3953 120879062 : y06 = ( t2 + t6 );
3954 120879062 : y07 = ( t3 + t7 );
3955 :
3956 120879062 : x0 = re[s * 1];
3957 120879062 : x1 = im[s * 1];
3958 120879062 : x2 = re[s * 5];
3959 120879062 : x3 = im[s * 5];
3960 120879062 : x4 = re[s * 9];
3961 120879062 : x5 = im[s * 9];
3962 120879062 : x6 = re[s * 13];
3963 120879062 : x7 = im[s * 13];
3964 :
3965 120879062 : t0 = ( x0 + x4 );
3966 120879062 : t2 = ( x0 - x4 );
3967 120879062 : t1 = ( x1 + x5 );
3968 120879062 : t3 = ( x1 - x5 );
3969 120879062 : t4 = ( x2 + x6 );
3970 120879062 : t7 = ( x2 - x6 );
3971 120879062 : t5 = ( x7 + x3 );
3972 120879062 : t6 = ( x7 - x3 );
3973 :
3974 120879062 : y08 = ( t0 + t4 );
3975 120879062 : y09 = ( t1 + t5 );
3976 120879062 : y10 = ( t2 - t6 );
3977 120879062 : y11 = ( t3 - t7 );
3978 120879062 : y12 = ( t0 - t4 );
3979 120879062 : y13 = ( t1 - t5 );
3980 120879062 : y14 = ( t2 + t6 );
3981 120879062 : y15 = ( t3 + t7 );
3982 :
3983 120879062 : x0 = re[s * 2];
3984 120879062 : x1 = im[s * 2];
3985 120879062 : x2 = re[s * 6];
3986 120879062 : x3 = im[s * 6];
3987 120879062 : x4 = re[s * 10];
3988 120879062 : x5 = im[s * 10];
3989 120879062 : x6 = re[s * 14];
3990 120879062 : x7 = im[s * 14];
3991 :
3992 120879062 : t0 = ( x0 + x4 );
3993 120879062 : t2 = ( x0 - x4 );
3994 120879062 : t1 = ( x1 + x5 );
3995 120879062 : t3 = ( x1 - x5 );
3996 120879062 : t4 = ( x2 + x6 );
3997 120879062 : t7 = ( x2 - x6 );
3998 120879062 : t5 = ( x7 + x3 );
3999 120879062 : t6 = ( x7 - x3 );
4000 :
4001 120879062 : y16 = ( t0 + t4 );
4002 120879062 : y17 = ( t1 + t5 );
4003 120879062 : y18 = ( t2 - t6 );
4004 120879062 : y19 = ( t3 - t7 );
4005 120879062 : y20 = ( t1 - t5 );
4006 120879062 : y21 = ( t4 - t0 );
4007 120879062 : y22 = ( t2 + t6 );
4008 120879062 : y23 = ( t3 + t7 );
4009 :
4010 120879062 : x0 = re[s * 3];
4011 120879062 : x1 = im[s * 3];
4012 120879062 : x2 = re[s * 7];
4013 120879062 : x3 = im[s * 7];
4014 120879062 : x4 = re[s * 11];
4015 120879062 : x5 = im[s * 11];
4016 120879062 : x6 = re[s * 15];
4017 120879062 : x7 = im[s * 15];
4018 :
4019 120879062 : t0 = ( x0 + x4 );
4020 120879062 : t2 = ( x0 - x4 );
4021 120879062 : t1 = ( x1 + x5 );
4022 120879062 : t3 = ( x1 - x5 );
4023 120879062 : t4 = ( x2 + x6 );
4024 120879062 : t7 = ( x2 - x6 );
4025 120879062 : t5 = ( x7 + x3 );
4026 120879062 : t6 = ( x7 - x3 );
4027 :
4028 120879062 : y24 = ( t0 + t4 );
4029 120879062 : y25 = ( t1 + t5 );
4030 120879062 : y26 = ( t2 - t6 );
4031 120879062 : y27 = ( t3 - t7 );
4032 120879062 : y28 = ( t0 - t4 );
4033 120879062 : y29 = ( t1 - t5 );
4034 120879062 : y30 = ( t2 + t6 );
4035 120879062 : y31 = ( t3 + t7 );
4036 :
4037 120879062 : x0 = ( y22 * FFT_C162 );
4038 120879062 : x1 = ( y23 * FFT_C162 );
4039 120879062 : y22 = ( x0 - x1 );
4040 120879062 : y23 = ( x0 + x1 );
4041 :
4042 120879062 : x0 = ( y28 * FFT_C162 );
4043 120879062 : x1 = ( y29 * FFT_C162 );
4044 120879062 : y28 = ( x0 - x1 );
4045 120879062 : y29 = ( x0 + x1 );
4046 :
4047 120879062 : x0 = ( y12 * FFT_C161 );
4048 120879062 : x1 = ( y13 * FFT_C161 );
4049 120879062 : y12 = ( x0 + x1 );
4050 120879062 : y13 = ( x1 - x0 );
4051 :
4052 120879062 : x0 = ( y18 * FFT_C161 );
4053 120879062 : x1 = ( y19 * FFT_C161 );
4054 120879062 : y18 = ( x0 + x1 );
4055 120879062 : y19 = ( x1 - x0 );
4056 :
4057 120879062 : x0 = ( y10 * FFT_C163 );
4058 120879062 : x1 = ( y11 * FFT_C166 );
4059 120879062 : x2 = ( y10 * FFT_C166 );
4060 120879062 : x3 = ( y11 * FFT_C163 );
4061 120879062 : y10 = ( x0 - x1 );
4062 120879062 : y11 = ( x2 + x3 );
4063 :
4064 120879062 : x0 = ( y14 * FFT_C165 );
4065 120879062 : x1 = ( y15 * FFT_C164 );
4066 120879062 : x2 = ( y14 * FFT_C164 );
4067 120879062 : x3 = ( y15 * FFT_C165 );
4068 120879062 : y14 = ( x0 - x1 );
4069 120879062 : y15 = ( x2 + x3 );
4070 :
4071 120879062 : x0 = ( y26 * FFT_C165 );
4072 120879062 : x1 = ( y27 * FFT_C164 );
4073 120879062 : x2 = ( y26 * FFT_C164 );
4074 120879062 : x3 = ( y27 * FFT_C165 );
4075 120879062 : y26 = ( x0 - x1 );
4076 120879062 : y27 = ( x2 + x3 );
4077 :
4078 120879062 : x0 = ( y30 * FFT_C164 );
4079 120879062 : x1 = ( y31 * FFT_C165 );
4080 120879062 : x2 = ( y30 * FFT_C165 );
4081 120879062 : x3 = ( y31 * FFT_C164 );
4082 120879062 : y30 = ( x0 - x1 );
4083 120879062 : y31 = ( x2 + x3 );
4084 :
4085 120879062 : t0 = ( y00 + y16 );
4086 120879062 : t2 = ( y00 - y16 );
4087 120879062 : t1 = ( y01 + y17 );
4088 120879062 : t3 = ( y01 - y17 );
4089 120879062 : t4 = ( y08 + y24 );
4090 120879062 : t7 = ( y08 - y24 );
4091 120879062 : t5 = ( y25 + y09 );
4092 120879062 : t6 = ( y25 - y09 );
4093 :
4094 120879062 : re[s * 0] = ( t0 + t4 );
4095 120879062 : im[s * 0] = ( t1 + t5 );
4096 120879062 : re[s * 4] = ( t2 - t6 );
4097 120879062 : im[s * 4] = ( t3 - t7 );
4098 120879062 : re[s * 8] = ( t0 - t4 );
4099 120879062 : im[s * 8] = ( t1 - t5 );
4100 120879062 : re[s * 12] = ( t2 + t6 );
4101 120879062 : im[s * 12] = ( t3 + t7 );
4102 :
4103 120879062 : t0 = ( y02 + y18 );
4104 120879062 : t2 = ( y02 - y18 );
4105 120879062 : t1 = ( y03 + y19 );
4106 120879062 : t3 = ( y03 - y19 );
4107 120879062 : t4 = ( y10 + y26 );
4108 120879062 : t7 = ( y10 - y26 );
4109 120879062 : t5 = ( y27 + y11 );
4110 120879062 : t6 = ( y27 - y11 );
4111 :
4112 120879062 : re[s * 1] = ( t0 + t4 );
4113 120879062 : im[s * 1] = ( t1 + t5 );
4114 120879062 : re[s * 5] = ( t2 - t6 );
4115 120879062 : im[s * 5] = ( t3 - t7 );
4116 120879062 : re[s * 9] = ( t0 - t4 );
4117 120879062 : im[s * 9] = ( t1 - t5 );
4118 120879062 : re[s * 13] = ( t2 + t6 );
4119 120879062 : im[s * 13] = ( t3 + t7 );
4120 :
4121 120879062 : t0 = ( y04 + y20 );
4122 120879062 : t2 = ( y04 - y20 );
4123 120879062 : t1 = ( y05 + y21 );
4124 120879062 : t3 = ( y05 - y21 );
4125 120879062 : t4 = ( y12 + y28 );
4126 120879062 : t7 = ( y12 - y28 );
4127 120879062 : t5 = ( y29 + y13 );
4128 120879062 : t6 = ( y29 - y13 );
4129 :
4130 120879062 : re[s * 2] = ( t0 + t4 );
4131 120879062 : im[s * 2] = ( t1 + t5 );
4132 120879062 : re[s * 6] = ( t2 - t6 );
4133 120879062 : im[s * 6] = ( t3 - t7 );
4134 120879062 : re[s * 10] = ( t0 - t4 );
4135 120879062 : im[s * 10] = ( t1 - t5 );
4136 120879062 : re[s * 14] = ( t2 + t6 );
4137 120879062 : im[s * 14] = ( t3 + t7 );
4138 :
4139 120879062 : t0 = ( y06 + y22 );
4140 120879062 : t2 = ( y06 - y22 );
4141 120879062 : t1 = ( y07 + y23 );
4142 120879062 : t3 = ( y07 - y23 );
4143 120879062 : t4 = ( y14 + y30 );
4144 120879062 : t7 = ( y14 - y30 );
4145 120879062 : t5 = ( y31 + y15 );
4146 120879062 : t6 = ( y31 - y15 );
4147 :
4148 120879062 : re[s * 3] = ( t0 + t4 );
4149 120879062 : im[s * 3] = ( t1 + t5 );
4150 120879062 : re[s * 7] = ( t2 - t6 );
4151 120879062 : im[s * 7] = ( t3 - t7 );
4152 120879062 : re[s * 11] = ( t0 - t4 );
4153 120879062 : im[s * 11] = ( t1 - t5 );
4154 120879062 : re[s * 15] = ( t2 + t6 );
4155 120879062 : im[s * 15] = ( t3 + t7 );
4156 :
4157 120879062 : return;
4158 : }
4159 :
4160 80822036 : static void fft_len20(
4161 : float *re,
4162 : float *im,
4163 : const int16_t s )
4164 : {
4165 : float r1, r2, r3, r4;
4166 : float s1, s2, s3, s4;
4167 : float x0, x1, x2, x3, x4;
4168 : float t, t0, t1, t2, t3, t4, t5, t6, t7;
4169 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4170 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4171 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4172 : float y30, y31, y32, y33, y34, y35, y36, y37, y38, y39;
4173 :
4174 80822036 : x0 = re[s * 0];
4175 80822036 : x1 = re[s * 16];
4176 80822036 : x2 = re[s * 12];
4177 80822036 : x3 = re[s * 8];
4178 80822036 : x4 = re[s * 4];
4179 :
4180 80822036 : r1 = ( x1 + x4 );
4181 80822036 : r4 = ( x1 - x4 );
4182 80822036 : r3 = ( x2 + x3 );
4183 80822036 : r2 = ( x2 - x3 );
4184 80822036 : t = ( ( r1 - r3 ) * FFT_C54 );
4185 80822036 : r1 = ( r1 + r3 );
4186 80822036 : y00 = ( x0 + r1 );
4187 80822036 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4188 80822036 : r3 = ( r1 - t );
4189 80822036 : r1 = ( r1 + t );
4190 80822036 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4191 80822036 : r4 = ( t + ( r4 * FFT_C52 ) );
4192 80822036 : r2 = ( t + ( r2 * FFT_C53 ) );
4193 :
4194 80822036 : x0 = im[s * 0];
4195 80822036 : x1 = im[s * 16];
4196 80822036 : x2 = im[s * 12];
4197 80822036 : x3 = im[s * 8];
4198 80822036 : x4 = im[s * 4];
4199 :
4200 80822036 : s1 = ( x1 + x4 );
4201 80822036 : s4 = ( x1 - x4 );
4202 80822036 : s3 = ( x2 + x3 );
4203 80822036 : s2 = ( x2 - x3 );
4204 80822036 : t = ( ( s1 - s3 ) * FFT_C54 );
4205 80822036 : s1 = ( s1 + s3 );
4206 80822036 : y01 = ( x0 + s1 );
4207 80822036 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4208 80822036 : s3 = ( s1 - t );
4209 80822036 : s1 = ( s1 + t );
4210 80822036 : t = ( ( s4 + s2 ) * FFT_C51 );
4211 80822036 : s4 = ( t + ( s4 * FFT_C52 ) );
4212 80822036 : s2 = ( t + ( s2 * FFT_C53 ) );
4213 :
4214 80822036 : y08 = ( r1 + s2 );
4215 80822036 : y32 = ( r1 - s2 );
4216 80822036 : y16 = ( r3 - s4 );
4217 80822036 : y24 = ( r3 + s4 );
4218 :
4219 80822036 : y09 = ( s1 - r2 );
4220 80822036 : y33 = ( s1 + r2 );
4221 80822036 : y17 = ( s3 + r4 );
4222 80822036 : y25 = ( s3 - r4 );
4223 :
4224 80822036 : x0 = re[s * 5];
4225 80822036 : x1 = re[s * 1];
4226 80822036 : x2 = re[s * 17];
4227 80822036 : x3 = re[s * 13];
4228 80822036 : x4 = re[s * 9];
4229 :
4230 80822036 : r1 = ( x1 + x4 );
4231 80822036 : r4 = ( x1 - x4 );
4232 80822036 : r3 = ( x2 + x3 );
4233 80822036 : r2 = ( x2 - x3 );
4234 80822036 : t = ( ( r1 - r3 ) * FFT_C54 );
4235 80822036 : r1 = ( r1 + r3 );
4236 80822036 : y02 = ( x0 + r1 );
4237 80822036 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
4238 80822036 : r3 = ( r1 - t );
4239 80822036 : r1 = ( r1 + t );
4240 80822036 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4241 80822036 : r4 = ( t + ( r4 * FFT_C52 ) );
4242 80822036 : r2 = ( t + ( r2 * FFT_C53 ) );
4243 :
4244 80822036 : x0 = im[s * 5];
4245 80822036 : x1 = im[s * 1];
4246 80822036 : x2 = im[s * 17];
4247 80822036 : x3 = im[s * 13];
4248 80822036 : x4 = im[s * 9];
4249 :
4250 80822036 : s1 = ( x1 + x4 );
4251 80822036 : s4 = ( x1 - x4 );
4252 80822036 : s3 = ( x2 + x3 );
4253 80822036 : s2 = ( x2 - x3 );
4254 80822036 : t = ( ( s1 - s3 ) * FFT_C54 );
4255 80822036 : s1 = ( s1 + s3 );
4256 80822036 : y03 = ( x0 + s1 );
4257 80822036 : s1 = ( y03 + ( s1 * FFT_C55 ) );
4258 80822036 : s3 = ( s1 - t );
4259 80822036 : s1 = ( s1 + t );
4260 80822036 : t = ( ( s4 + s2 ) * FFT_C51 );
4261 80822036 : s4 = ( t + ( s4 * FFT_C52 ) );
4262 80822036 : s2 = ( t + ( s2 * FFT_C53 ) );
4263 :
4264 80822036 : y10 = ( r1 + s2 );
4265 80822036 : y34 = ( r1 - s2 );
4266 80822036 : y18 = ( r3 - s4 );
4267 80822036 : y26 = ( r3 + s4 );
4268 :
4269 80822036 : y11 = ( s1 - r2 );
4270 80822036 : y35 = ( s1 + r2 );
4271 80822036 : y19 = ( s3 + r4 );
4272 80822036 : y27 = ( s3 - r4 );
4273 :
4274 80822036 : x0 = re[s * 10];
4275 80822036 : x1 = re[s * 6];
4276 80822036 : x2 = re[s * 2];
4277 80822036 : x3 = re[s * 18];
4278 80822036 : x4 = re[s * 14];
4279 :
4280 80822036 : r1 = ( x1 + x4 );
4281 80822036 : r4 = ( x1 - x4 );
4282 80822036 : r3 = ( x2 + x3 );
4283 80822036 : r2 = ( x2 - x3 );
4284 80822036 : t = ( ( r1 - r3 ) * FFT_C54 );
4285 80822036 : r1 = ( r1 + r3 );
4286 80822036 : y04 = ( x0 + r1 );
4287 80822036 : r1 = ( y04 + ( ( r1 * FFT_C55 ) ) );
4288 80822036 : r3 = ( r1 - t );
4289 80822036 : r1 = ( r1 + t );
4290 80822036 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4291 80822036 : r4 = ( t + ( r4 * FFT_C52 ) );
4292 80822036 : r2 = ( t + ( r2 * FFT_C53 ) );
4293 :
4294 80822036 : x0 = im[s * 10];
4295 80822036 : x1 = im[s * 6];
4296 80822036 : x2 = im[s * 2];
4297 80822036 : x3 = im[s * 18];
4298 80822036 : x4 = im[s * 14];
4299 :
4300 80822036 : s1 = ( x1 + x4 );
4301 80822036 : s4 = ( x1 - x4 );
4302 80822036 : s3 = ( x2 + x3 );
4303 80822036 : s2 = ( x2 - x3 );
4304 80822036 : t = ( ( s1 - s3 ) * FFT_C54 );
4305 80822036 : s1 = ( s1 + s3 );
4306 80822036 : y05 = ( x0 + s1 );
4307 80822036 : s1 = ( y05 + ( s1 * FFT_C55 ) );
4308 80822036 : s3 = ( s1 - t );
4309 80822036 : s1 = ( s1 + t );
4310 80822036 : t = ( ( s4 + s2 ) * FFT_C51 );
4311 80822036 : s4 = ( t + ( s4 * FFT_C52 ) );
4312 80822036 : s2 = ( t + ( s2 * FFT_C53 ) );
4313 :
4314 80822036 : y12 = ( r1 + s2 );
4315 80822036 : y36 = ( r1 - s2 );
4316 80822036 : y20 = ( r3 - s4 );
4317 80822036 : y28 = ( r3 + s4 );
4318 :
4319 80822036 : y13 = ( s1 - r2 );
4320 80822036 : y37 = ( s1 + r2 );
4321 80822036 : y21 = ( s3 + r4 );
4322 80822036 : y29 = ( s3 - r4 );
4323 :
4324 80822036 : x0 = re[s * 15];
4325 80822036 : x1 = re[s * 11];
4326 80822036 : x2 = re[s * 7];
4327 80822036 : x3 = re[s * 3];
4328 80822036 : x4 = re[s * 19];
4329 :
4330 80822036 : r1 = ( x1 + x4 );
4331 80822036 : r4 = ( x1 - x4 );
4332 80822036 : r3 = ( x2 + x3 );
4333 80822036 : r2 = ( x2 - x3 );
4334 80822036 : t = ( ( r1 - r3 ) * FFT_C54 );
4335 80822036 : r1 = ( r1 + r3 );
4336 80822036 : y06 = ( x0 + r1 );
4337 80822036 : r1 = ( y06 + ( ( r1 * FFT_C55 ) ) );
4338 80822036 : r3 = ( r1 - t );
4339 80822036 : r1 = ( r1 + t );
4340 80822036 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4341 80822036 : r4 = ( t + ( r4 * FFT_C52 ) );
4342 80822036 : r2 = ( t + ( r2 * FFT_C53 ) );
4343 :
4344 80822036 : x0 = im[s * 15];
4345 80822036 : x1 = im[s * 11];
4346 80822036 : x2 = im[s * 7];
4347 80822036 : x3 = im[s * 3];
4348 80822036 : x4 = im[s * 19];
4349 :
4350 80822036 : s1 = ( x1 + x4 );
4351 80822036 : s4 = ( x1 - x4 );
4352 80822036 : s3 = ( x2 + x3 );
4353 80822036 : s2 = ( x2 - x3 );
4354 80822036 : t = ( ( s1 - s3 ) * FFT_C54 );
4355 80822036 : s1 = ( s1 + s3 );
4356 80822036 : y07 = ( x0 + s1 );
4357 80822036 : s1 = ( y07 + ( s1 * FFT_C55 ) );
4358 80822036 : s3 = ( s1 - t );
4359 80822036 : s1 = ( s1 + t );
4360 80822036 : t = ( ( s4 + s2 ) * FFT_C51 );
4361 80822036 : s4 = ( t + ( s4 * FFT_C52 ) );
4362 80822036 : s2 = ( t + ( s2 * FFT_C53 ) );
4363 :
4364 80822036 : y14 = ( r1 + s2 );
4365 80822036 : y38 = ( r1 - s2 );
4366 80822036 : y22 = ( r3 - s4 );
4367 80822036 : y30 = ( r3 + s4 );
4368 :
4369 80822036 : y15 = ( s1 - r2 );
4370 80822036 : y39 = ( s1 + r2 );
4371 80822036 : y23 = ( s3 + r4 );
4372 80822036 : y31 = ( s3 - r4 );
4373 :
4374 80822036 : t0 = ( y00 + y04 );
4375 80822036 : t2 = ( y00 - y04 );
4376 80822036 : t1 = ( y01 + y05 );
4377 80822036 : t3 = ( y01 - y05 );
4378 80822036 : t4 = ( y02 + y06 );
4379 80822036 : t7 = ( y02 - y06 );
4380 80822036 : t5 = ( y07 + y03 );
4381 80822036 : t6 = ( y07 - y03 );
4382 :
4383 80822036 : re[s * 0] = ( t0 + t4 );
4384 80822036 : im[s * 0] = ( t1 + t5 );
4385 80822036 : re[s * 5] = ( t2 - t6 );
4386 80822036 : im[s * 5] = ( t3 - t7 );
4387 80822036 : re[s * 10] = ( t0 - t4 );
4388 80822036 : im[s * 10] = ( t1 - t5 );
4389 80822036 : re[s * 15] = ( t2 + t6 );
4390 80822036 : im[s * 15] = ( t3 + t7 );
4391 :
4392 80822036 : t0 = ( y08 + y12 );
4393 80822036 : t2 = ( y08 - y12 );
4394 80822036 : t1 = ( y09 + y13 );
4395 80822036 : t3 = ( y09 - y13 );
4396 80822036 : t4 = ( y10 + y14 );
4397 80822036 : t7 = ( y10 - y14 );
4398 80822036 : t5 = ( y15 + y11 );
4399 80822036 : t6 = ( y15 - y11 );
4400 :
4401 80822036 : re[s * 4] = ( t0 + t4 );
4402 80822036 : im[s * 4] = ( t1 + t5 );
4403 80822036 : re[s * 9] = ( t2 - t6 );
4404 80822036 : im[s * 9] = ( t3 - t7 );
4405 80822036 : re[s * 14] = ( t0 - t4 );
4406 80822036 : im[s * 14] = ( t1 - t5 );
4407 80822036 : re[s * 19] = ( t2 + t6 );
4408 80822036 : im[s * 19] = ( t3 + t7 );
4409 :
4410 80822036 : t0 = ( y16 + y20 );
4411 80822036 : t2 = ( y16 - y20 );
4412 80822036 : t1 = ( y17 + y21 );
4413 80822036 : t3 = ( y17 - y21 );
4414 80822036 : t4 = ( y18 + y22 );
4415 80822036 : t7 = ( y18 - y22 );
4416 80822036 : t5 = ( y23 + y19 );
4417 80822036 : t6 = ( y23 - y19 );
4418 :
4419 80822036 : re[s * 8] = ( t0 + t4 );
4420 80822036 : im[s * 8] = ( t1 + t5 );
4421 80822036 : re[s * 13] = ( t2 - t6 );
4422 80822036 : im[s * 13] = ( t3 - t7 );
4423 80822036 : re[s * 18] = ( t0 - t4 );
4424 80822036 : im[s * 18] = ( t1 - t5 );
4425 80822036 : re[s * 3] = ( t2 + t6 );
4426 80822036 : im[s * 3] = ( t3 + t7 );
4427 :
4428 80822036 : t0 = ( y24 + y28 );
4429 80822036 : t2 = ( y24 - y28 );
4430 80822036 : t1 = ( y25 + y29 );
4431 80822036 : t3 = ( y25 - y29 );
4432 80822036 : t4 = ( y26 + y30 );
4433 80822036 : t7 = ( y26 - y30 );
4434 80822036 : t5 = ( y31 + y27 );
4435 80822036 : t6 = ( y31 - y27 );
4436 :
4437 80822036 : re[s * 12] = ( t0 + t4 );
4438 80822036 : im[s * 12] = ( t1 + t5 );
4439 80822036 : re[s * 17] = ( t2 - t6 );
4440 80822036 : im[s * 17] = ( t3 - t7 );
4441 80822036 : re[s * 2] = ( t0 - t4 );
4442 80822036 : im[s * 2] = ( t1 - t5 );
4443 80822036 : re[s * 7] = ( t2 + t6 );
4444 80822036 : im[s * 7] = ( t3 + t7 );
4445 :
4446 80822036 : t0 = ( y32 + y36 );
4447 80822036 : t2 = ( y32 - y36 );
4448 80822036 : t1 = ( y33 + y37 );
4449 80822036 : t3 = ( y33 - y37 );
4450 80822036 : t4 = ( y34 + y38 );
4451 80822036 : t7 = ( y34 - y38 );
4452 80822036 : t5 = ( y39 + y35 );
4453 80822036 : t6 = ( y39 - y35 );
4454 :
4455 80822036 : re[s * 16] = ( t0 + t4 );
4456 80822036 : im[s * 16] = ( t1 + t5 );
4457 80822036 : re[s * 1] = ( t2 - t6 );
4458 80822036 : im[s * 1] = ( t3 - t7 );
4459 80822036 : re[s * 6] = ( t0 - t4 );
4460 80822036 : im[s * 6] = ( t1 - t5 );
4461 80822036 : re[s * 11] = ( t2 + t6 );
4462 80822036 : im[s * 11] = ( t3 + t7 );
4463 :
4464 80822036 : return;
4465 : }
4466 :
4467 161719396 : static void fft_len30(
4468 : float *re,
4469 : float *im,
4470 : const int16_t s )
4471 : {
4472 : float t;
4473 : float r1, r2, r3, r4;
4474 : float s1, s2, s3, s4;
4475 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
4476 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
4477 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
4478 :
4479 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4480 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4481 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4482 :
4483 : float z00, z01, z02, z03, z04, z05, z06, z07, z08, z09;
4484 : float z10, z11, z12, z13, z14, z15, z16, z17, z18, z19;
4485 : float z20, z21, z22, z23, z24, z25, z26, z27, z28, z29;
4486 : float z30, z31, z32, z33, z34, z35, z36, z37, z38, z39;
4487 : float z40, z41, z42, z43, z44, z45, z46, z47, z48, z49;
4488 : float z50, z51, z52, z53, z54, z55, z56, z57, z58, z59;
4489 :
4490 : float *rel, *reh, *iml, *imh;
4491 :
4492 161719396 : rel = &re[s * 0];
4493 161719396 : reh = &re[s * 15];
4494 161719396 : iml = &im[s * 0];
4495 161719396 : imh = &im[s * 15];
4496 :
4497 161719396 : x00 = re[s * 0];
4498 161719396 : x01 = im[s * 0];
4499 161719396 : x02 = re[s * 18];
4500 161719396 : x03 = im[s * 18];
4501 161719396 : x04 = re[s * 6];
4502 161719396 : x05 = im[s * 6];
4503 161719396 : x06 = re[s * 24];
4504 161719396 : x07 = im[s * 24];
4505 161719396 : x08 = re[s * 12];
4506 161719396 : x09 = im[s * 12];
4507 :
4508 161719396 : x10 = re[s * 20];
4509 161719396 : x11 = im[s * 20];
4510 161719396 : x12 = re[s * 8];
4511 161719396 : x13 = im[s * 8];
4512 161719396 : x14 = re[s * 26];
4513 161719396 : x15 = im[s * 26];
4514 161719396 : x16 = re[s * 14];
4515 161719396 : x17 = im[s * 14];
4516 161719396 : x18 = re[s * 2];
4517 161719396 : x19 = im[s * 2];
4518 :
4519 161719396 : x20 = re[s * 10];
4520 161719396 : x21 = im[s * 10];
4521 161719396 : x22 = re[s * 28];
4522 161719396 : x23 = im[s * 28];
4523 161719396 : x24 = re[s * 16];
4524 161719396 : x25 = im[s * 16];
4525 161719396 : x26 = re[s * 4];
4526 161719396 : x27 = im[s * 4];
4527 161719396 : x28 = re[s * 22];
4528 161719396 : x29 = im[s * 22];
4529 :
4530 161719396 : r1 = ( x02 + x08 );
4531 161719396 : r4 = ( x02 - x08 );
4532 161719396 : r3 = ( x04 + x06 );
4533 161719396 : r2 = ( x04 - x06 );
4534 161719396 : t = ( ( r1 - r3 ) * FFT_C54 );
4535 161719396 : r1 = ( r1 + r3 );
4536 161719396 : y00 = ( x00 + r1 );
4537 161719396 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4538 161719396 : r3 = ( r1 - t );
4539 161719396 : r1 = ( r1 + t );
4540 161719396 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4541 161719396 : r4 = ( t + ( r4 * FFT_C52 ) );
4542 161719396 : r2 = ( t + ( r2 * FFT_C53 ) );
4543 :
4544 161719396 : s1 = ( x03 + x09 );
4545 161719396 : s4 = ( x03 - x09 );
4546 161719396 : s3 = ( x05 + x07 );
4547 161719396 : s2 = ( x05 - x07 );
4548 161719396 : t = ( ( s1 - s3 ) * FFT_C54 );
4549 161719396 : s1 = ( s1 + s3 );
4550 161719396 : y01 = ( x01 + s1 );
4551 161719396 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4552 161719396 : s3 = ( s1 - t );
4553 161719396 : s1 = ( s1 + t );
4554 161719396 : t = ( ( s4 + s2 ) * FFT_C51 );
4555 161719396 : s4 = ( t + ( s4 * FFT_C52 ) );
4556 161719396 : s2 = ( t + ( s2 * FFT_C53 ) );
4557 :
4558 161719396 : y02 = ( r1 + s2 );
4559 161719396 : y08 = ( r1 - s2 );
4560 161719396 : y04 = ( r3 - s4 );
4561 161719396 : y06 = ( r3 + s4 );
4562 :
4563 161719396 : y03 = ( s1 - r2 );
4564 161719396 : y09 = ( s1 + r2 );
4565 161719396 : y05 = ( s3 + r4 );
4566 161719396 : y07 = ( s3 - r4 );
4567 :
4568 161719396 : r1 = ( x12 + x18 );
4569 161719396 : r4 = ( x12 - x18 );
4570 161719396 : r3 = ( x14 + x16 );
4571 161719396 : r2 = ( x14 - x16 );
4572 161719396 : t = ( ( r1 - r3 ) * FFT_C54 );
4573 161719396 : r1 = ( r1 + r3 );
4574 161719396 : y10 = ( x10 + r1 );
4575 161719396 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4576 161719396 : r3 = ( r1 - t );
4577 161719396 : r1 = ( r1 + t );
4578 161719396 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4579 161719396 : r4 = ( t + ( r4 * FFT_C52 ) );
4580 161719396 : r2 = ( t + ( r2 * FFT_C53 ) );
4581 :
4582 161719396 : s1 = ( x13 + x19 );
4583 161719396 : s4 = ( x13 - x19 );
4584 161719396 : s3 = ( x15 + x17 );
4585 161719396 : s2 = ( x15 - x17 );
4586 161719396 : t = ( ( s1 - s3 ) * FFT_C54 );
4587 161719396 : s1 = ( s1 + s3 );
4588 161719396 : y11 = ( x11 + s1 );
4589 161719396 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4590 161719396 : s3 = ( s1 - t );
4591 161719396 : s1 = ( s1 + t );
4592 161719396 : t = ( ( s4 + s2 ) * FFT_C51 );
4593 161719396 : s4 = ( t + ( s4 * FFT_C52 ) );
4594 161719396 : s2 = ( t + ( s2 * FFT_C53 ) );
4595 :
4596 161719396 : y12 = ( r1 + s2 );
4597 161719396 : y18 = ( r1 - s2 );
4598 161719396 : y14 = ( r3 - s4 );
4599 161719396 : y16 = ( r3 + s4 );
4600 :
4601 161719396 : y13 = ( s1 - r2 );
4602 161719396 : y19 = ( s1 + r2 );
4603 161719396 : y15 = ( s3 + r4 );
4604 161719396 : y17 = ( s3 - r4 );
4605 :
4606 161719396 : r1 = ( x22 + x28 );
4607 161719396 : r4 = ( x22 - x28 );
4608 161719396 : r3 = ( x24 + x26 );
4609 161719396 : r2 = ( x24 - x26 );
4610 161719396 : t = ( ( r1 - r3 ) * FFT_C54 );
4611 161719396 : r1 = ( r1 + r3 );
4612 161719396 : y20 = ( x20 + r1 );
4613 161719396 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4614 161719396 : r3 = ( r1 - t );
4615 161719396 : r1 = ( r1 + t );
4616 161719396 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4617 161719396 : r4 = ( t + ( r4 * FFT_C52 ) );
4618 161719396 : r2 = ( t + ( r2 * FFT_C53 ) );
4619 :
4620 161719396 : s1 = ( x23 + x29 );
4621 161719396 : s4 = ( x23 - x29 );
4622 161719396 : s3 = ( x25 + x27 );
4623 161719396 : s2 = ( x25 - x27 );
4624 161719396 : t = ( ( s1 - s3 ) * FFT_C54 );
4625 161719396 : s1 = ( s1 + s3 );
4626 161719396 : y21 = ( x21 + s1 );
4627 161719396 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4628 161719396 : s3 = ( s1 - t );
4629 161719396 : s1 = ( s1 + t );
4630 161719396 : t = ( ( s4 + s2 ) * FFT_C51 );
4631 161719396 : s4 = ( t + ( s4 * FFT_C52 ) );
4632 161719396 : s2 = ( t + ( s2 * FFT_C53 ) );
4633 :
4634 161719396 : y22 = ( r1 + s2 );
4635 161719396 : y28 = ( r1 - s2 );
4636 161719396 : y24 = ( r3 - s4 );
4637 161719396 : y26 = ( r3 + s4 );
4638 :
4639 161719396 : y23 = ( s1 - r2 );
4640 161719396 : y29 = ( s1 + r2 );
4641 161719396 : y25 = ( s3 + r4 );
4642 161719396 : y27 = ( s3 - r4 );
4643 :
4644 161719396 : r1 = ( y10 + y20 );
4645 161719396 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4646 161719396 : z00 = ( y00 + r1 );
4647 161719396 : r1 = ( y00 - r1 * 0.5f );
4648 :
4649 161719396 : s1 = ( y11 + y21 );
4650 161719396 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4651 161719396 : z01 = ( y01 + s1 );
4652 161719396 : s1 = ( y01 - s1 * 0.5f );
4653 :
4654 161719396 : z20 = ( r1 - s2 );
4655 161719396 : z10 = ( r1 + s2 );
4656 161719396 : z21 = ( s1 + r2 );
4657 161719396 : z11 = ( s1 - r2 );
4658 :
4659 161719396 : r1 = ( y12 + y22 );
4660 161719396 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4661 161719396 : z12 = ( y02 + r1 );
4662 161719396 : r1 = ( y02 - r1 * 0.5f );
4663 :
4664 161719396 : s1 = ( y13 + y23 );
4665 161719396 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4666 161719396 : z13 = ( y03 + s1 );
4667 161719396 : s1 = ( y03 - s1 * 0.5f );
4668 :
4669 161719396 : z02 = ( r1 - s2 );
4670 161719396 : z22 = ( r1 + s2 );
4671 161719396 : z03 = ( s1 + r2 );
4672 161719396 : z23 = ( s1 - r2 );
4673 :
4674 161719396 : r1 = ( y14 + y24 );
4675 161719396 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4676 161719396 : z24 = ( y04 + r1 );
4677 161719396 : r1 = ( y04 - r1 * 0.5f );
4678 :
4679 161719396 : s1 = ( y15 + y25 );
4680 161719396 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4681 161719396 : z25 = ( y05 + s1 );
4682 161719396 : s1 = ( y05 - s1 * 0.5f );
4683 :
4684 161719396 : z14 = ( r1 - s2 );
4685 161719396 : z04 = ( r1 + s2 );
4686 161719396 : z15 = ( s1 + r2 );
4687 161719396 : z05 = ( s1 - r2 );
4688 :
4689 161719396 : r1 = ( y16 + y26 );
4690 161719396 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4691 161719396 : z06 = ( y06 + r1 );
4692 161719396 : r1 = ( y06 - r1 * 0.5f );
4693 :
4694 161719396 : s1 = ( y17 + y27 );
4695 161719396 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4696 161719396 : z07 = ( y07 + s1 );
4697 161719396 : s1 = ( y07 - s1 * 0.5f );
4698 :
4699 161719396 : z26 = ( r1 - s2 );
4700 161719396 : z16 = ( r1 + s2 );
4701 161719396 : z27 = ( s1 + r2 );
4702 161719396 : z17 = ( s1 - r2 );
4703 :
4704 161719396 : r1 = ( y18 + y28 );
4705 161719396 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4706 161719396 : z18 = ( y08 + r1 );
4707 161719396 : r1 = ( y08 - r1 * 0.5f );
4708 :
4709 161719396 : s1 = ( y19 + y29 );
4710 161719396 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4711 161719396 : z19 = ( y09 + s1 );
4712 161719396 : s1 = ( y09 - s1 * 0.5f );
4713 :
4714 161719396 : z08 = ( r1 - s2 );
4715 161719396 : z28 = ( r1 + s2 );
4716 161719396 : z09 = ( s1 + r2 );
4717 161719396 : z29 = ( s1 - r2 );
4718 :
4719 161719396 : x00 = re[s * 15];
4720 161719396 : x01 = im[s * 15];
4721 161719396 : x02 = re[s * 3];
4722 161719396 : x03 = im[s * 3];
4723 161719396 : x04 = re[s * 21];
4724 161719396 : x05 = im[s * 21];
4725 161719396 : x06 = re[s * 9];
4726 161719396 : x07 = im[s * 9];
4727 161719396 : x08 = re[s * 27];
4728 161719396 : x09 = im[s * 27];
4729 :
4730 161719396 : x10 = re[s * 5];
4731 161719396 : x11 = im[s * 5];
4732 161719396 : x12 = re[s * 23];
4733 161719396 : x13 = im[s * 23];
4734 161719396 : x14 = re[s * 11];
4735 161719396 : x15 = im[s * 11];
4736 161719396 : x16 = re[s * 29];
4737 161719396 : x17 = im[s * 29];
4738 161719396 : x18 = re[s * 17];
4739 161719396 : x19 = im[s * 17];
4740 :
4741 161719396 : x20 = re[s * 25];
4742 161719396 : x21 = im[s * 25];
4743 161719396 : x22 = re[s * 13];
4744 161719396 : x23 = im[s * 13];
4745 161719396 : x24 = re[s * 1];
4746 161719396 : x25 = im[s * 1];
4747 161719396 : x26 = re[s * 19];
4748 161719396 : x27 = im[s * 19];
4749 161719396 : x28 = re[s * 7];
4750 161719396 : x29 = im[s * 7];
4751 :
4752 161719396 : r1 = ( x02 + x08 );
4753 161719396 : r4 = ( x02 - x08 );
4754 161719396 : r3 = ( x04 + x06 );
4755 161719396 : r2 = ( x04 - x06 );
4756 161719396 : t = ( ( r1 - r3 ) * FFT_C54 );
4757 161719396 : r1 = ( r1 + r3 );
4758 161719396 : y00 = ( x00 + r1 );
4759 161719396 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4760 161719396 : r3 = ( r1 - t );
4761 161719396 : r1 = ( r1 + t );
4762 161719396 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4763 161719396 : r4 = ( t + ( r4 * FFT_C52 ) );
4764 161719396 : r2 = ( t + ( r2 * FFT_C53 ) );
4765 :
4766 161719396 : s1 = ( x03 + x09 );
4767 161719396 : s4 = ( x03 - x09 );
4768 161719396 : s3 = ( x05 + x07 );
4769 161719396 : s2 = ( x05 - x07 );
4770 161719396 : t = ( ( s1 - s3 ) * FFT_C54 );
4771 161719396 : s1 = ( s1 + s3 );
4772 161719396 : y01 = ( x01 + s1 );
4773 161719396 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4774 161719396 : s3 = ( s1 - t );
4775 161719396 : s1 = ( s1 + t );
4776 161719396 : t = ( ( s4 + s2 ) * FFT_C51 );
4777 161719396 : s4 = ( t + ( s4 * FFT_C52 ) );
4778 161719396 : s2 = ( t + ( s2 * FFT_C53 ) );
4779 :
4780 161719396 : y02 = ( r1 + s2 );
4781 161719396 : y08 = ( r1 - s2 );
4782 161719396 : y04 = ( r3 - s4 );
4783 161719396 : y06 = ( r3 + s4 );
4784 :
4785 161719396 : y03 = ( s1 - r2 );
4786 161719396 : y09 = ( s1 + r2 );
4787 161719396 : y05 = ( s3 + r4 );
4788 161719396 : y07 = ( s3 - r4 );
4789 :
4790 161719396 : r1 = ( x12 + x18 );
4791 161719396 : r4 = ( x12 - x18 );
4792 161719396 : r3 = ( x14 + x16 );
4793 161719396 : r2 = ( x14 - x16 );
4794 161719396 : t = ( ( r1 - r3 ) * FFT_C54 );
4795 161719396 : r1 = ( r1 + r3 );
4796 161719396 : y10 = ( x10 + r1 );
4797 161719396 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4798 161719396 : r3 = ( r1 - t );
4799 161719396 : r1 = ( r1 + t );
4800 161719396 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4801 161719396 : r4 = ( t + ( r4 * FFT_C52 ) );
4802 161719396 : r2 = ( t + ( r2 * FFT_C53 ) );
4803 :
4804 161719396 : s1 = ( x13 + x19 );
4805 161719396 : s4 = ( x13 - x19 );
4806 161719396 : s3 = ( x15 + x17 );
4807 161719396 : s2 = ( x15 - x17 );
4808 161719396 : t = ( ( s1 - s3 ) * FFT_C54 );
4809 161719396 : s1 = ( s1 + s3 );
4810 161719396 : y11 = ( x11 + s1 );
4811 161719396 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4812 161719396 : s3 = ( s1 - t );
4813 161719396 : s1 = ( s1 + t );
4814 161719396 : t = ( ( s4 + s2 ) * FFT_C51 );
4815 161719396 : s4 = ( t + ( s4 * FFT_C52 ) );
4816 161719396 : s2 = ( t + ( s2 * FFT_C53 ) );
4817 :
4818 161719396 : y12 = ( r1 + s2 );
4819 161719396 : y18 = ( r1 - s2 );
4820 161719396 : y14 = ( r3 - s4 );
4821 161719396 : y16 = ( r3 + s4 );
4822 :
4823 161719396 : y13 = ( s1 - r2 );
4824 161719396 : y19 = ( s1 + r2 );
4825 161719396 : y15 = ( s3 + r4 );
4826 161719396 : y17 = ( s3 - r4 );
4827 :
4828 161719396 : r1 = ( x22 + x28 );
4829 161719396 : r4 = ( x22 - x28 );
4830 161719396 : r3 = ( x24 + x26 );
4831 161719396 : r2 = ( x24 - x26 );
4832 161719396 : t = ( ( r1 - r3 ) * FFT_C54 );
4833 161719396 : r1 = ( r1 + r3 );
4834 161719396 : y20 = ( x20 + r1 );
4835 161719396 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4836 161719396 : r3 = ( r1 - t );
4837 161719396 : r1 = ( r1 + t );
4838 161719396 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4839 161719396 : r4 = ( t + ( r4 * FFT_C52 ) );
4840 161719396 : r2 = ( t + ( r2 * FFT_C53 ) );
4841 :
4842 161719396 : s1 = ( x23 + x29 );
4843 161719396 : s4 = ( x23 - x29 );
4844 161719396 : s3 = ( x25 + x27 );
4845 161719396 : s2 = ( x25 - x27 );
4846 161719396 : t = ( ( s1 - s3 ) * FFT_C54 );
4847 161719396 : s1 = ( s1 + s3 );
4848 161719396 : y21 = ( x21 + s1 );
4849 161719396 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4850 161719396 : s3 = ( s1 - t );
4851 161719396 : s1 = ( s1 + t );
4852 161719396 : t = ( ( s4 + s2 ) * FFT_C51 );
4853 161719396 : s4 = ( t + ( s4 * FFT_C52 ) );
4854 161719396 : s2 = ( t + ( s2 * FFT_C53 ) );
4855 :
4856 161719396 : y22 = ( r1 + s2 );
4857 161719396 : y28 = ( r1 - s2 );
4858 161719396 : y24 = ( r3 - s4 );
4859 161719396 : y26 = ( r3 + s4 );
4860 :
4861 161719396 : y23 = ( s1 - r2 );
4862 161719396 : y29 = ( s1 + r2 );
4863 161719396 : y25 = ( s3 + r4 );
4864 161719396 : y27 = ( s3 - r4 );
4865 :
4866 161719396 : r1 = ( y10 + y20 );
4867 161719396 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4868 161719396 : z30 = ( y00 + r1 );
4869 161719396 : r1 = ( y00 - r1 * 0.5f );
4870 :
4871 161719396 : s1 = ( y11 + y21 );
4872 161719396 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4873 161719396 : z31 = ( y01 + s1 );
4874 161719396 : s1 = ( y01 - s1 * 0.5f );
4875 :
4876 161719396 : z50 = ( r1 - s2 );
4877 161719396 : z40 = ( r1 + s2 );
4878 161719396 : z51 = ( s1 + r2 );
4879 161719396 : z41 = ( s1 - r2 );
4880 :
4881 161719396 : r1 = ( y12 + y22 );
4882 161719396 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4883 161719396 : z42 = ( y02 + r1 );
4884 161719396 : r1 = ( y02 - r1 * 0.5f );
4885 :
4886 161719396 : s1 = ( y13 + y23 );
4887 161719396 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4888 161719396 : z43 = ( y03 + s1 );
4889 161719396 : s1 = ( y03 - s1 * 0.5f );
4890 :
4891 161719396 : z32 = ( r1 - s2 );
4892 161719396 : z52 = ( r1 + s2 );
4893 161719396 : z33 = ( s1 + r2 );
4894 161719396 : z53 = ( s1 - r2 );
4895 :
4896 161719396 : r1 = ( y14 + y24 );
4897 161719396 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4898 161719396 : z54 = ( y04 + r1 );
4899 161719396 : r1 = ( y04 - r1 * 0.5f );
4900 :
4901 161719396 : s1 = ( y15 + y25 );
4902 161719396 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4903 161719396 : z55 = ( y05 + s1 );
4904 161719396 : s1 = ( y05 - s1 * 0.5f );
4905 :
4906 161719396 : z44 = ( r1 - s2 );
4907 161719396 : z34 = ( r1 + s2 );
4908 161719396 : z45 = ( s1 + r2 );
4909 161719396 : z35 = ( s1 - r2 );
4910 :
4911 161719396 : r1 = ( y16 + y26 );
4912 161719396 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4913 161719396 : z36 = ( y06 + r1 );
4914 161719396 : r1 = ( y06 - r1 * 0.5f );
4915 :
4916 161719396 : s1 = ( y17 + y27 );
4917 161719396 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4918 161719396 : z37 = ( y07 + s1 );
4919 161719396 : s1 = ( y07 - s1 * 0.5f );
4920 :
4921 161719396 : z56 = ( r1 - s2 );
4922 161719396 : z46 = ( r1 + s2 );
4923 161719396 : z57 = ( s1 + r2 );
4924 161719396 : z47 = ( s1 - r2 );
4925 :
4926 161719396 : r1 = ( y18 + y28 );
4927 161719396 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4928 161719396 : z48 = ( y08 + r1 );
4929 161719396 : r1 = ( y08 - r1 * 0.5f );
4930 :
4931 161719396 : s1 = ( y19 + y29 );
4932 161719396 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4933 161719396 : z49 = ( y09 + s1 );
4934 161719396 : s1 = ( y09 - s1 * 0.5f );
4935 :
4936 161719396 : z38 = ( r1 - s2 );
4937 161719396 : z58 = ( r1 + s2 );
4938 161719396 : z39 = ( s1 + r2 );
4939 161719396 : z59 = ( s1 - r2 );
4940 :
4941 161719396 : r1 = z00;
4942 161719396 : r2 = z30;
4943 161719396 : r3 = z01;
4944 161719396 : r4 = z31;
4945 161719396 : *rel = ( r1 + r2 );
4946 161719396 : *reh = ( r1 - r2 );
4947 161719396 : *iml = ( r3 + r4 );
4948 161719396 : *imh = ( r3 - r4 );
4949 161719396 : rel += s, reh += s, iml += s;
4950 161719396 : imh += s;
4951 :
4952 161719396 : r1 = z16;
4953 161719396 : r2 = z46;
4954 161719396 : r3 = z17;
4955 161719396 : r4 = z47;
4956 161719396 : *reh = ( r1 + r2 );
4957 161719396 : *rel = ( r1 - r2 );
4958 161719396 : *imh = ( r3 + r4 );
4959 161719396 : *iml = ( r3 - r4 );
4960 161719396 : rel += s, reh += s, iml += s;
4961 161719396 : imh += s;
4962 :
4963 161719396 : r1 = z02;
4964 161719396 : r2 = z32;
4965 161719396 : r3 = z03;
4966 161719396 : r4 = z33;
4967 161719396 : *rel = ( r1 + r2 );
4968 161719396 : *reh = ( r1 - r2 );
4969 161719396 : *iml = ( r3 + r4 );
4970 161719396 : *imh = ( r3 - r4 );
4971 161719396 : rel += s, reh += s, iml += s;
4972 161719396 : imh += s;
4973 :
4974 161719396 : r1 = z18;
4975 161719396 : r2 = z48;
4976 161719396 : r3 = z19;
4977 161719396 : r4 = z49;
4978 161719396 : *reh = ( r1 + r2 );
4979 161719396 : *rel = ( r1 - r2 );
4980 161719396 : *imh = ( r3 + r4 );
4981 161719396 : *iml = ( r3 - r4 );
4982 161719396 : rel += s, reh += s, iml += s;
4983 161719396 : imh += s;
4984 :
4985 161719396 : r1 = z04;
4986 161719396 : r2 = z34;
4987 161719396 : r3 = z05;
4988 161719396 : r4 = z35;
4989 161719396 : *rel = ( r1 + r2 );
4990 161719396 : *reh = ( r1 - r2 );
4991 161719396 : *iml = ( r3 + r4 );
4992 161719396 : *imh = ( r3 - r4 );
4993 161719396 : rel += s, reh += s, iml += s;
4994 161719396 : imh += s;
4995 :
4996 161719396 : r1 = z20;
4997 161719396 : r2 = z50;
4998 161719396 : r3 = z21;
4999 161719396 : r4 = z51;
5000 161719396 : *reh = ( r1 + r2 );
5001 161719396 : *rel = ( r1 - r2 );
5002 161719396 : *imh = ( r3 + r4 );
5003 161719396 : *iml = ( r3 - r4 );
5004 161719396 : rel += s, reh += s, iml += s;
5005 161719396 : imh += s;
5006 :
5007 161719396 : r1 = z06;
5008 161719396 : r2 = z36;
5009 161719396 : r3 = z07;
5010 161719396 : r4 = z37;
5011 161719396 : *rel = ( r1 + r2 );
5012 161719396 : *reh = ( r1 - r2 );
5013 161719396 : *iml = ( r3 + r4 );
5014 161719396 : *imh = ( r3 - r4 );
5015 161719396 : rel += s, reh += s, iml += s;
5016 161719396 : imh += s;
5017 :
5018 161719396 : r1 = z22;
5019 161719396 : r2 = z52;
5020 161719396 : r3 = z23;
5021 161719396 : r4 = z53;
5022 161719396 : *reh = ( r1 + r2 );
5023 161719396 : *rel = ( r1 - r2 );
5024 161719396 : *imh = ( r3 + r4 );
5025 161719396 : *iml = ( r3 - r4 );
5026 161719396 : rel += s, reh += s, iml += s;
5027 161719396 : imh += s;
5028 :
5029 161719396 : r1 = z08;
5030 161719396 : r2 = z38;
5031 161719396 : r3 = z09;
5032 161719396 : r4 = z39;
5033 161719396 : *rel = ( r1 + r2 );
5034 161719396 : *reh = ( r1 - r2 );
5035 161719396 : *iml = ( r3 + r4 );
5036 161719396 : *imh = ( r3 - r4 );
5037 161719396 : rel += s, reh += s, iml += s;
5038 161719396 : imh += s;
5039 :
5040 161719396 : r1 = z24;
5041 161719396 : r2 = z54;
5042 161719396 : r3 = z25;
5043 161719396 : r4 = z55;
5044 161719396 : *reh = ( r1 + r2 );
5045 161719396 : *rel = ( r1 - r2 );
5046 161719396 : *imh = ( r3 + r4 );
5047 161719396 : *iml = ( r3 - r4 );
5048 161719396 : rel += s, reh += s, iml += s;
5049 161719396 : imh += s;
5050 :
5051 161719396 : r1 = z10;
5052 161719396 : r2 = z40;
5053 161719396 : r3 = z11;
5054 161719396 : r4 = z41;
5055 161719396 : *rel = ( r1 + r2 );
5056 161719396 : *reh = ( r1 - r2 );
5057 161719396 : *iml = ( r3 + r4 );
5058 161719396 : *imh = ( r3 - r4 );
5059 161719396 : rel += s, reh += s, iml += s;
5060 161719396 : imh += s;
5061 :
5062 161719396 : r1 = z26;
5063 161719396 : r2 = z56;
5064 161719396 : r3 = z27;
5065 161719396 : r4 = z57;
5066 161719396 : *reh = ( r1 + r2 );
5067 161719396 : *rel = ( r1 - r2 );
5068 161719396 : *imh = ( r3 + r4 );
5069 161719396 : *iml = ( r3 - r4 );
5070 161719396 : rel += s, reh += s, iml += s;
5071 161719396 : imh += s;
5072 :
5073 161719396 : r1 = z12;
5074 161719396 : r2 = z42;
5075 161719396 : r3 = z13;
5076 161719396 : r4 = z43;
5077 161719396 : *rel = ( r1 + r2 );
5078 161719396 : *reh = ( r1 - r2 );
5079 161719396 : *iml = ( r3 + r4 );
5080 161719396 : *imh = ( r3 - r4 );
5081 161719396 : rel += s, reh += s, iml += s;
5082 161719396 : imh += s;
5083 :
5084 161719396 : r1 = z28;
5085 161719396 : r2 = z58;
5086 161719396 : r3 = z29;
5087 161719396 : r4 = z59;
5088 161719396 : *reh = ( r1 + r2 );
5089 161719396 : *rel = ( r1 - r2 );
5090 161719396 : *imh = ( r3 + r4 );
5091 161719396 : *iml = ( r3 - r4 );
5092 161719396 : rel += s, reh += s, iml += s;
5093 161719396 : imh += s;
5094 :
5095 161719396 : r1 = z14;
5096 161719396 : r2 = z44;
5097 161719396 : r3 = z15;
5098 161719396 : r4 = z45;
5099 161719396 : *rel = ( r1 + r2 );
5100 161719396 : *reh = ( r1 - r2 );
5101 161719396 : *iml = ( r3 + r4 );
5102 161719396 : *imh = ( r3 - r4 );
5103 161719396 : rel += s, reh += s, iml += s;
5104 161719396 : imh += s;
5105 :
5106 161719396 : return;
5107 : }
5108 :
5109 24632600 : static void fft_len32(
5110 : float *re,
5111 : float *im,
5112 : const int16_t s )
5113 : {
5114 : float as, bs;
5115 : float x00, x01, x02, x03, x04, x05, x06, x07;
5116 : float x08, x09, x10, x11, x12, x13, x14, x15;
5117 : float t00, t01, t02, t03, t04, t05, t06, t07;
5118 : float t08, t09, t10, t11, t12, t13, t14, t15;
5119 : float s00, s01, s02, s03, s04, s05, s06, s07;
5120 : float s08, s09, s10, s11, s12, s13, s14, s15;
5121 :
5122 : float y00, y01, y02, y03, y04, y05, y06, y07;
5123 : float y08, y09, y10, y11, y12, y13, y14, y15;
5124 : float y16, y17, y18, y19, y20, y21, y22, y23;
5125 : float y24, y25, y26, y27, y28, y29, y30, y31;
5126 : float y32, y33, y34, y35, y36, y37, y38, y39;
5127 : float y40, y41, y42, y43, y44, y45, y46, y47;
5128 : float y48, y49, y50, y51, y52, y53, y54, y55;
5129 : float y56, y57, y58, y59, y60, y61, y62, y63;
5130 :
5131 24632600 : x00 = re[s * 0];
5132 24632600 : x01 = im[s * 0];
5133 24632600 : x02 = re[s * 4];
5134 24632600 : x03 = im[s * 4];
5135 24632600 : x04 = re[s * 8];
5136 24632600 : x05 = im[s * 8];
5137 24632600 : x06 = re[s * 12];
5138 24632600 : x07 = im[s * 12];
5139 24632600 : x08 = re[s * 16];
5140 24632600 : x09 = im[s * 16];
5141 24632600 : x10 = re[s * 20];
5142 24632600 : x11 = im[s * 20];
5143 24632600 : x12 = re[s * 24];
5144 24632600 : x13 = im[s * 24];
5145 24632600 : x14 = re[s * 28];
5146 24632600 : x15 = im[s * 28];
5147 :
5148 24632600 : t00 = ( x00 + x08 );
5149 24632600 : t02 = ( x00 - x08 );
5150 24632600 : t01 = ( x01 + x09 );
5151 24632600 : t03 = ( x01 - x09 );
5152 24632600 : t04 = ( x02 + x10 );
5153 24632600 : t06 = ( x02 - x10 );
5154 24632600 : t05 = ( x03 + x11 );
5155 24632600 : t07 = ( x03 - x11 );
5156 24632600 : t08 = ( x04 + x12 );
5157 24632600 : t10 = ( x04 - x12 );
5158 24632600 : t09 = ( x05 + x13 );
5159 24632600 : t11 = ( x05 - x13 );
5160 24632600 : t12 = ( x06 + x14 );
5161 24632600 : t14 = ( x06 - x14 );
5162 24632600 : t13 = ( x07 + x15 );
5163 24632600 : t15 = ( x07 - x15 );
5164 :
5165 24632600 : s00 = ( t00 + t08 );
5166 24632600 : s04 = ( t00 - t08 );
5167 24632600 : s01 = ( t01 + t09 );
5168 24632600 : s05 = ( t01 - t09 );
5169 24632600 : s08 = ( t02 - t11 );
5170 24632600 : s10 = ( t02 + t11 );
5171 24632600 : s09 = ( t03 + t10 );
5172 24632600 : s11 = ( t03 - t10 );
5173 24632600 : s02 = ( t04 + t12 );
5174 24632600 : s07 = ( t04 - t12 );
5175 24632600 : s03 = ( t05 + t13 );
5176 24632600 : s06 = ( t13 - t05 );
5177 24632600 : t01 = ( t06 + t14 );
5178 24632600 : t02 = ( t06 - t14 );
5179 24632600 : t00 = ( t07 + t15 );
5180 24632600 : t03 = ( t07 - t15 );
5181 :
5182 : {
5183 24632600 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5184 24632600 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5185 24632600 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5186 24632600 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5187 : };
5188 :
5189 24632600 : y00 = ( s00 + s02 );
5190 24632600 : y08 = ( s00 - s02 );
5191 24632600 : y01 = ( s01 + s03 );
5192 24632600 : y09 = ( s01 - s03 );
5193 24632600 : y04 = ( s04 - s06 );
5194 24632600 : y12 = ( s04 + s06 );
5195 24632600 : y05 = ( s05 - s07 );
5196 24632600 : y13 = ( s05 + s07 );
5197 24632600 : y06 = ( s08 + s14 );
5198 24632600 : y14 = ( s08 - s14 );
5199 24632600 : y07 = ( s09 + s15 );
5200 24632600 : y15 = ( s09 - s15 );
5201 24632600 : y02 = ( s10 + s12 );
5202 24632600 : y10 = ( s10 - s12 );
5203 24632600 : y03 = ( s11 + s13 );
5204 24632600 : y11 = ( s11 - s13 );
5205 :
5206 24632600 : x00 = re[s * 1];
5207 24632600 : x01 = im[s * 1];
5208 24632600 : x02 = re[s * 5];
5209 24632600 : x03 = im[s * 5];
5210 24632600 : x04 = re[s * 9];
5211 24632600 : x05 = im[s * 9];
5212 24632600 : x06 = re[s * 13];
5213 24632600 : x07 = im[s * 13];
5214 24632600 : x08 = re[s * 17];
5215 24632600 : x09 = im[s * 17];
5216 24632600 : x10 = re[s * 21];
5217 24632600 : x11 = im[s * 21];
5218 24632600 : x12 = re[s * 25];
5219 24632600 : x13 = im[s * 25];
5220 24632600 : x14 = re[s * 29];
5221 24632600 : x15 = im[s * 29];
5222 :
5223 24632600 : t00 = ( x00 + x08 );
5224 24632600 : t02 = ( x00 - x08 );
5225 24632600 : t01 = ( x01 + x09 );
5226 24632600 : t03 = ( x01 - x09 );
5227 24632600 : t04 = ( x02 + x10 );
5228 24632600 : t06 = ( x02 - x10 );
5229 24632600 : t05 = ( x03 + x11 );
5230 24632600 : t07 = ( x03 - x11 );
5231 24632600 : t08 = ( x04 + x12 );
5232 24632600 : t10 = ( x04 - x12 );
5233 24632600 : t09 = ( x05 + x13 );
5234 24632600 : t11 = ( x05 - x13 );
5235 24632600 : t12 = ( x06 + x14 );
5236 24632600 : t14 = ( x06 - x14 );
5237 24632600 : t13 = ( x07 + x15 );
5238 24632600 : t15 = ( x07 - x15 );
5239 :
5240 24632600 : s00 = ( t00 + t08 );
5241 24632600 : s04 = ( t00 - t08 );
5242 24632600 : s01 = ( t01 + t09 );
5243 24632600 : s05 = ( t01 - t09 );
5244 24632600 : s08 = ( t02 - t11 );
5245 24632600 : s10 = ( t02 + t11 );
5246 24632600 : s09 = ( t03 + t10 );
5247 24632600 : s11 = ( t03 - t10 );
5248 24632600 : s02 = ( t04 + t12 );
5249 24632600 : s07 = ( t04 - t12 );
5250 24632600 : s03 = ( t05 + t13 );
5251 24632600 : s06 = ( t13 - t05 );
5252 24632600 : t01 = ( t06 + t14 );
5253 24632600 : t02 = ( t06 - t14 );
5254 24632600 : t00 = ( t07 + t15 );
5255 24632600 : t03 = ( t07 - t15 );
5256 :
5257 : {
5258 24632600 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5259 24632600 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5260 24632600 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5261 24632600 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5262 : };
5263 :
5264 24632600 : y16 = ( s00 + s02 );
5265 24632600 : y24 = ( s00 - s02 );
5266 24632600 : y17 = ( s01 + s03 );
5267 24632600 : y25 = ( s01 - s03 );
5268 24632600 : y20 = ( s04 - s06 );
5269 24632600 : y28 = ( s04 + s06 );
5270 24632600 : y21 = ( s05 - s07 );
5271 24632600 : y29 = ( s05 + s07 );
5272 24632600 : y22 = ( s08 + s14 );
5273 24632600 : y30 = ( s08 - s14 );
5274 24632600 : y23 = ( s09 + s15 );
5275 24632600 : y31 = ( s09 - s15 );
5276 24632600 : y18 = ( s10 + s12 );
5277 24632600 : y26 = ( s10 - s12 );
5278 24632600 : y19 = ( s11 + s13 );
5279 24632600 : y27 = ( s11 - s13 );
5280 :
5281 24632600 : x00 = re[s * 2];
5282 24632600 : x01 = im[s * 2];
5283 24632600 : x02 = re[s * 6];
5284 24632600 : x03 = im[s * 6];
5285 24632600 : x04 = re[s * 10];
5286 24632600 : x05 = im[s * 10];
5287 24632600 : x06 = re[s * 14];
5288 24632600 : x07 = im[s * 14];
5289 24632600 : x08 = re[s * 18];
5290 24632600 : x09 = im[s * 18];
5291 24632600 : x10 = re[s * 22];
5292 24632600 : x11 = im[s * 22];
5293 24632600 : x12 = re[s * 26];
5294 24632600 : x13 = im[s * 26];
5295 24632600 : x14 = re[s * 30];
5296 24632600 : x15 = im[s * 30];
5297 :
5298 24632600 : t00 = ( x00 + x08 );
5299 24632600 : t02 = ( x00 - x08 );
5300 24632600 : t01 = ( x01 + x09 );
5301 24632600 : t03 = ( x01 - x09 );
5302 24632600 : t04 = ( x02 + x10 );
5303 24632600 : t06 = ( x02 - x10 );
5304 24632600 : t05 = ( x03 + x11 );
5305 24632600 : t07 = ( x03 - x11 );
5306 24632600 : t08 = ( x04 + x12 );
5307 24632600 : t10 = ( x04 - x12 );
5308 24632600 : t09 = ( x05 + x13 );
5309 24632600 : t11 = ( x05 - x13 );
5310 24632600 : t12 = ( x06 + x14 );
5311 24632600 : t14 = ( x06 - x14 );
5312 24632600 : t13 = ( x07 + x15 );
5313 24632600 : t15 = ( x07 - x15 );
5314 :
5315 24632600 : s00 = ( t00 + t08 );
5316 24632600 : s04 = ( t00 - t08 );
5317 24632600 : s01 = ( t01 + t09 );
5318 24632600 : s05 = ( t01 - t09 );
5319 24632600 : s08 = ( t02 - t11 );
5320 24632600 : s10 = ( t02 + t11 );
5321 24632600 : s09 = ( t03 + t10 );
5322 24632600 : s11 = ( t03 - t10 );
5323 24632600 : s02 = ( t04 + t12 );
5324 24632600 : s07 = ( t04 - t12 );
5325 24632600 : s03 = ( t05 + t13 );
5326 24632600 : s06 = ( t13 - t05 );
5327 24632600 : t01 = ( t06 + t14 );
5328 24632600 : t02 = ( t06 - t14 );
5329 24632600 : t00 = ( t07 + t15 );
5330 24632600 : t03 = ( t07 - t15 );
5331 :
5332 : {
5333 24632600 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5334 24632600 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5335 24632600 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5336 24632600 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5337 : };
5338 :
5339 24632600 : y32 = ( s00 + s02 );
5340 24632600 : y40 = ( s00 - s02 );
5341 24632600 : y33 = ( s01 + s03 );
5342 24632600 : y41 = ( s01 - s03 );
5343 24632600 : y36 = ( s04 - s06 );
5344 24632600 : y44 = ( s04 + s06 );
5345 24632600 : y37 = ( s05 - s07 );
5346 24632600 : y45 = ( s05 + s07 );
5347 24632600 : y38 = ( s08 + s14 );
5348 24632600 : y46 = ( s08 - s14 );
5349 24632600 : y39 = ( s09 + s15 );
5350 24632600 : y47 = ( s09 - s15 );
5351 24632600 : y34 = ( s10 + s12 );
5352 24632600 : y42 = ( s10 - s12 );
5353 24632600 : y35 = ( s11 + s13 );
5354 24632600 : y43 = ( s11 - s13 );
5355 :
5356 24632600 : x00 = re[s * 3];
5357 24632600 : x01 = im[s * 3];
5358 24632600 : x02 = re[s * 7];
5359 24632600 : x03 = im[s * 7];
5360 24632600 : x04 = re[s * 11];
5361 24632600 : x05 = im[s * 11];
5362 24632600 : x06 = re[s * 15];
5363 24632600 : x07 = im[s * 15];
5364 24632600 : x08 = re[s * 19];
5365 24632600 : x09 = im[s * 19];
5366 24632600 : x10 = re[s * 23];
5367 24632600 : x11 = im[s * 23];
5368 24632600 : x12 = re[s * 27];
5369 24632600 : x13 = im[s * 27];
5370 24632600 : x14 = re[s * 31];
5371 24632600 : x15 = im[s * 31];
5372 :
5373 24632600 : t00 = ( x00 + x08 );
5374 24632600 : t02 = ( x00 - x08 );
5375 24632600 : t01 = ( x01 + x09 );
5376 24632600 : t03 = ( x01 - x09 );
5377 24632600 : t04 = ( x02 + x10 );
5378 24632600 : t06 = ( x02 - x10 );
5379 24632600 : t05 = ( x03 + x11 );
5380 24632600 : t07 = ( x03 - x11 );
5381 24632600 : t08 = ( x04 + x12 );
5382 24632600 : t10 = ( x04 - x12 );
5383 24632600 : t09 = ( x05 + x13 );
5384 24632600 : t11 = ( x05 - x13 );
5385 24632600 : t12 = ( x06 + x14 );
5386 24632600 : t14 = ( x06 - x14 );
5387 24632600 : t13 = ( x07 + x15 );
5388 24632600 : t15 = ( x07 - x15 );
5389 :
5390 24632600 : s00 = ( t00 + t08 );
5391 24632600 : s04 = ( t00 - t08 );
5392 24632600 : s01 = ( t01 + t09 );
5393 24632600 : s05 = ( t01 - t09 );
5394 24632600 : s08 = ( t02 - t11 );
5395 24632600 : s10 = ( t02 + t11 );
5396 24632600 : s09 = ( t03 + t10 );
5397 24632600 : s11 = ( t03 - t10 );
5398 24632600 : s02 = ( t04 + t12 );
5399 24632600 : s07 = ( t04 - t12 );
5400 24632600 : s03 = ( t05 + t13 );
5401 24632600 : s06 = ( t13 - t05 );
5402 24632600 : t01 = ( t06 + t14 );
5403 24632600 : t02 = ( t06 - t14 );
5404 24632600 : t00 = ( t07 + t15 );
5405 24632600 : t03 = ( t07 - t15 );
5406 :
5407 : {
5408 24632600 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5409 24632600 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5410 24632600 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5411 24632600 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5412 : };
5413 :
5414 24632600 : y48 = ( s00 + s02 );
5415 24632600 : y56 = ( s00 - s02 );
5416 24632600 : y49 = ( s01 + s03 );
5417 24632600 : y57 = ( s01 - s03 );
5418 24632600 : y52 = ( s04 - s06 );
5419 24632600 : y60 = ( s04 + s06 );
5420 24632600 : y53 = ( s05 - s07 );
5421 24632600 : y61 = ( s05 + s07 );
5422 24632600 : y54 = ( s08 + s14 );
5423 24632600 : y62 = ( s08 - s14 );
5424 24632600 : y55 = ( s09 + s15 );
5425 24632600 : y63 = ( s09 - s15 );
5426 24632600 : y50 = ( s10 + s12 );
5427 24632600 : y58 = ( s10 - s12 );
5428 24632600 : y51 = ( s11 + s13 );
5429 24632600 : y59 = ( s11 - s13 );
5430 :
5431 :
5432 : {
5433 24632600 : as = y18;
5434 24632600 : bs = y19;
5435 24632600 : y18 = ( ( as * FFT_RotVector_32[2 * 0 + 0] ) - ( bs * FFT_RotVector_32[2 * 0 + 1] ) );
5436 24632600 : y19 = ( ( as * FFT_RotVector_32[2 * 0 + 1] ) + ( bs * FFT_RotVector_32[2 * 0 + 0] ) );
5437 : };
5438 : {
5439 24632600 : as = y20;
5440 24632600 : bs = y21;
5441 24632600 : y20 = ( ( as * FFT_RotVector_32[2 * 1 + 0] ) - ( bs * FFT_RotVector_32[2 * 1 + 1] ) );
5442 24632600 : y21 = ( ( as * FFT_RotVector_32[2 * 1 + 1] ) + ( bs * FFT_RotVector_32[2 * 1 + 0] ) );
5443 : };
5444 : {
5445 24632600 : as = y22;
5446 24632600 : bs = y23;
5447 24632600 : y22 = ( ( as * FFT_RotVector_32[2 * 2 + 0] ) - ( bs * FFT_RotVector_32[2 * 2 + 1] ) );
5448 24632600 : y23 = ( ( as * FFT_RotVector_32[2 * 2 + 1] ) + ( bs * FFT_RotVector_32[2 * 2 + 0] ) );
5449 : };
5450 : {
5451 24632600 : as = y24;
5452 24632600 : bs = y25;
5453 24632600 : y24 = ( ( as * FFT_RotVector_32[2 * 3 + 0] ) - ( bs * FFT_RotVector_32[2 * 3 + 1] ) );
5454 24632600 : y25 = ( ( as * FFT_RotVector_32[2 * 3 + 1] ) + ( bs * FFT_RotVector_32[2 * 3 + 0] ) );
5455 : };
5456 : {
5457 24632600 : as = y26;
5458 24632600 : bs = y27;
5459 24632600 : y26 = ( ( as * FFT_RotVector_32[2 * 4 + 0] ) - ( bs * FFT_RotVector_32[2 * 4 + 1] ) );
5460 24632600 : y27 = ( ( as * FFT_RotVector_32[2 * 4 + 1] ) + ( bs * FFT_RotVector_32[2 * 4 + 0] ) );
5461 : };
5462 : {
5463 24632600 : as = y28;
5464 24632600 : bs = y29;
5465 24632600 : y28 = ( ( as * FFT_RotVector_32[2 * 5 + 0] ) - ( bs * FFT_RotVector_32[2 * 5 + 1] ) );
5466 24632600 : y29 = ( ( as * FFT_RotVector_32[2 * 5 + 1] ) + ( bs * FFT_RotVector_32[2 * 5 + 0] ) );
5467 : };
5468 : {
5469 24632600 : as = y30;
5470 24632600 : bs = y31;
5471 24632600 : y30 = ( ( as * FFT_RotVector_32[2 * 6 + 0] ) - ( bs * FFT_RotVector_32[2 * 6 + 1] ) );
5472 24632600 : y31 = ( ( as * FFT_RotVector_32[2 * 6 + 1] ) + ( bs * FFT_RotVector_32[2 * 6 + 0] ) );
5473 : };
5474 : {
5475 24632600 : as = y34;
5476 24632600 : bs = y35;
5477 24632600 : y34 = ( ( as * FFT_RotVector_32[2 * 7 + 0] ) - ( bs * FFT_RotVector_32[2 * 7 + 1] ) );
5478 24632600 : y35 = ( ( as * FFT_RotVector_32[2 * 7 + 1] ) + ( bs * FFT_RotVector_32[2 * 7 + 0] ) );
5479 : };
5480 : {
5481 24632600 : as = y36;
5482 24632600 : bs = y37;
5483 24632600 : y36 = ( ( as * FFT_RotVector_32[2 * 8 + 0] ) - ( bs * FFT_RotVector_32[2 * 8 + 1] ) );
5484 24632600 : y37 = ( ( as * FFT_RotVector_32[2 * 8 + 1] ) + ( bs * FFT_RotVector_32[2 * 8 + 0] ) );
5485 : };
5486 : {
5487 24632600 : as = y38;
5488 24632600 : bs = y39;
5489 24632600 : y38 = ( ( as * FFT_RotVector_32[2 * 9 + 0] ) - ( bs * FFT_RotVector_32[2 * 9 + 1] ) );
5490 24632600 : y39 = ( ( as * FFT_RotVector_32[2 * 9 + 1] ) + ( bs * FFT_RotVector_32[2 * 9 + 0] ) );
5491 : };
5492 : {
5493 24632600 : as = y42;
5494 24632600 : bs = y43;
5495 24632600 : y42 = ( ( as * FFT_RotVector_32[2 * 10 + 0] ) - ( bs * FFT_RotVector_32[2 * 10 + 1] ) );
5496 24632600 : y43 = ( ( as * FFT_RotVector_32[2 * 10 + 1] ) + ( bs * FFT_RotVector_32[2 * 10 + 0] ) );
5497 : };
5498 : {
5499 24632600 : as = y44;
5500 24632600 : bs = y45;
5501 24632600 : y44 = ( ( as * FFT_RotVector_32[2 * 11 + 0] ) - ( bs * FFT_RotVector_32[2 * 11 + 1] ) );
5502 24632600 : y45 = ( ( as * FFT_RotVector_32[2 * 11 + 1] ) + ( bs * FFT_RotVector_32[2 * 11 + 0] ) );
5503 : };
5504 : {
5505 24632600 : as = y46;
5506 24632600 : bs = y47;
5507 24632600 : y46 = ( ( as * FFT_RotVector_32[2 * 12 + 0] ) - ( bs * FFT_RotVector_32[2 * 12 + 1] ) );
5508 24632600 : y47 = ( ( as * FFT_RotVector_32[2 * 12 + 1] ) + ( bs * FFT_RotVector_32[2 * 12 + 0] ) );
5509 : };
5510 : {
5511 24632600 : as = y50;
5512 24632600 : bs = y51;
5513 24632600 : y50 = ( ( as * FFT_RotVector_32[2 * 13 + 0] ) - ( bs * FFT_RotVector_32[2 * 13 + 1] ) );
5514 24632600 : y51 = ( ( as * FFT_RotVector_32[2 * 13 + 1] ) + ( bs * FFT_RotVector_32[2 * 13 + 0] ) );
5515 : };
5516 : {
5517 24632600 : as = y52;
5518 24632600 : bs = y53;
5519 24632600 : y52 = ( ( as * FFT_RotVector_32[2 * 14 + 0] ) - ( bs * FFT_RotVector_32[2 * 14 + 1] ) );
5520 24632600 : y53 = ( ( as * FFT_RotVector_32[2 * 14 + 1] ) + ( bs * FFT_RotVector_32[2 * 14 + 0] ) );
5521 : };
5522 : {
5523 24632600 : as = y54;
5524 24632600 : bs = y55;
5525 24632600 : y54 = ( ( as * FFT_RotVector_32[2 * 15 + 0] ) - ( bs * FFT_RotVector_32[2 * 15 + 1] ) );
5526 24632600 : y55 = ( ( as * FFT_RotVector_32[2 * 15 + 1] ) + ( bs * FFT_RotVector_32[2 * 15 + 0] ) );
5527 : };
5528 : {
5529 24632600 : as = y56;
5530 24632600 : bs = y57;
5531 24632600 : y56 = ( ( as * FFT_RotVector_32[2 * 16 + 0] ) - ( bs * FFT_RotVector_32[2 * 16 + 1] ) );
5532 24632600 : y57 = ( ( as * FFT_RotVector_32[2 * 16 + 1] ) + ( bs * FFT_RotVector_32[2 * 16 + 0] ) );
5533 : };
5534 : {
5535 24632600 : as = y58;
5536 24632600 : bs = y59;
5537 24632600 : y58 = ( ( as * FFT_RotVector_32[2 * 17 + 0] ) - ( bs * FFT_RotVector_32[2 * 17 + 1] ) );
5538 24632600 : y59 = ( ( as * FFT_RotVector_32[2 * 17 + 1] ) + ( bs * FFT_RotVector_32[2 * 17 + 0] ) );
5539 : };
5540 : {
5541 24632600 : as = y60;
5542 24632600 : bs = y61;
5543 24632600 : y60 = ( ( as * FFT_RotVector_32[2 * 18 + 0] ) - ( bs * FFT_RotVector_32[2 * 18 + 1] ) );
5544 24632600 : y61 = ( ( as * FFT_RotVector_32[2 * 18 + 1] ) + ( bs * FFT_RotVector_32[2 * 18 + 0] ) );
5545 : };
5546 : {
5547 24632600 : as = y62;
5548 24632600 : bs = y63;
5549 24632600 : y62 = ( ( as * FFT_RotVector_32[2 * 19 + 0] ) - ( bs * FFT_RotVector_32[2 * 19 + 1] ) );
5550 24632600 : y63 = ( ( as * FFT_RotVector_32[2 * 19 + 1] ) + ( bs * FFT_RotVector_32[2 * 19 + 0] ) );
5551 : };
5552 :
5553 24632600 : t00 = ( y00 + y32 );
5554 24632600 : t02 = ( y00 - y32 );
5555 24632600 : t01 = ( y01 + y33 );
5556 24632600 : t03 = ( y01 - y33 );
5557 24632600 : t04 = ( y16 + y48 );
5558 24632600 : t07 = ( y16 - y48 );
5559 24632600 : t05 = ( y49 + y17 );
5560 24632600 : t06 = ( y49 - y17 );
5561 :
5562 24632600 : re[s * 0] = ( t00 + t04 );
5563 24632600 : im[s * 0] = ( t01 + t05 );
5564 24632600 : re[s * 8] = ( t02 - t06 );
5565 24632600 : im[s * 8] = ( t03 - t07 );
5566 24632600 : re[s * 16] = ( t00 - t04 );
5567 24632600 : im[s * 16] = ( t01 - t05 );
5568 24632600 : re[s * 24] = ( t02 + t06 );
5569 24632600 : im[s * 24] = ( t03 + t07 );
5570 :
5571 24632600 : t00 = ( y02 + y34 );
5572 24632600 : t02 = ( y02 - y34 );
5573 24632600 : t01 = ( y03 + y35 );
5574 24632600 : t03 = ( y03 - y35 );
5575 24632600 : t04 = ( y18 + y50 );
5576 24632600 : t07 = ( y18 - y50 );
5577 24632600 : t05 = ( y51 + y19 );
5578 24632600 : t06 = ( y51 - y19 );
5579 :
5580 24632600 : re[s * 1] = ( t00 + t04 );
5581 24632600 : im[s * 1] = ( t01 + t05 );
5582 24632600 : re[s * 9] = ( t02 - t06 );
5583 24632600 : im[s * 9] = ( t03 - t07 );
5584 24632600 : re[s * 17] = ( t00 - t04 );
5585 24632600 : im[s * 17] = ( t01 - t05 );
5586 24632600 : re[s * 25] = ( t02 + t06 );
5587 24632600 : im[s * 25] = ( t03 + t07 );
5588 :
5589 24632600 : t00 = ( y04 + y36 );
5590 24632600 : t02 = ( y04 - y36 );
5591 24632600 : t01 = ( y05 + y37 );
5592 24632600 : t03 = ( y05 - y37 );
5593 24632600 : t04 = ( y20 + y52 );
5594 24632600 : t07 = ( y20 - y52 );
5595 24632600 : t05 = ( y53 + y21 );
5596 24632600 : t06 = ( y53 - y21 );
5597 :
5598 24632600 : re[s * 2] = ( t00 + t04 );
5599 24632600 : im[s * 2] = ( t01 + t05 );
5600 24632600 : re[s * 10] = ( t02 - t06 );
5601 24632600 : im[s * 10] = ( t03 - t07 );
5602 24632600 : re[s * 18] = ( t00 - t04 );
5603 24632600 : im[s * 18] = ( t01 - t05 );
5604 24632600 : re[s * 26] = ( t02 + t06 );
5605 24632600 : im[s * 26] = ( t03 + t07 );
5606 :
5607 24632600 : t00 = ( y06 + y38 );
5608 24632600 : t02 = ( y06 - y38 );
5609 24632600 : t01 = ( y07 + y39 );
5610 24632600 : t03 = ( y07 - y39 );
5611 24632600 : t04 = ( y22 + y54 );
5612 24632600 : t07 = ( y22 - y54 );
5613 24632600 : t05 = ( y55 + y23 );
5614 24632600 : t06 = ( y55 - y23 );
5615 :
5616 24632600 : re[s * 3] = ( t00 + t04 );
5617 24632600 : im[s * 3] = ( t01 + t05 );
5618 24632600 : re[s * 11] = ( t02 - t06 );
5619 24632600 : im[s * 11] = ( t03 - t07 );
5620 24632600 : re[s * 19] = ( t00 - t04 );
5621 24632600 : im[s * 19] = ( t01 - t05 );
5622 24632600 : re[s * 27] = ( t02 + t06 );
5623 24632600 : im[s * 27] = ( t03 + t07 );
5624 :
5625 24632600 : t00 = ( y08 + y41 );
5626 24632600 : t02 = ( y08 - y41 );
5627 24632600 : t01 = ( y09 - y40 );
5628 24632600 : t03 = ( y09 + y40 );
5629 24632600 : t04 = ( y24 + y56 );
5630 24632600 : t07 = ( y24 - y56 );
5631 24632600 : t05 = ( y57 + y25 );
5632 24632600 : t06 = ( y57 - y25 );
5633 :
5634 24632600 : re[s * 4] = ( t00 + t04 );
5635 24632600 : im[s * 4] = ( t01 + t05 );
5636 24632600 : re[s * 12] = ( t02 - t06 );
5637 24632600 : im[s * 12] = ( t03 - t07 );
5638 24632600 : re[s * 20] = ( t00 - t04 );
5639 24632600 : im[s * 20] = ( t01 - t05 );
5640 24632600 : re[s * 28] = ( t02 + t06 );
5641 24632600 : im[s * 28] = ( t03 + t07 );
5642 :
5643 24632600 : t00 = ( y10 + y42 );
5644 24632600 : t02 = ( y10 - y42 );
5645 24632600 : t01 = ( y11 + y43 );
5646 24632600 : t03 = ( y11 - y43 );
5647 24632600 : t04 = ( y26 + y58 );
5648 24632600 : t07 = ( y26 - y58 );
5649 24632600 : t05 = ( y59 + y27 );
5650 24632600 : t06 = ( y59 - y27 );
5651 :
5652 24632600 : re[s * 5] = ( t00 + t04 );
5653 24632600 : im[s * 5] = ( t01 + t05 );
5654 24632600 : re[s * 13] = ( t02 - t06 );
5655 24632600 : im[s * 13] = ( t03 - t07 );
5656 24632600 : re[s * 21] = ( t00 - t04 );
5657 24632600 : im[s * 21] = ( t01 - t05 );
5658 24632600 : re[s * 29] = ( t02 + t06 );
5659 24632600 : im[s * 29] = ( t03 + t07 );
5660 :
5661 24632600 : t00 = ( y12 + y44 );
5662 24632600 : t02 = ( y12 - y44 );
5663 24632600 : t01 = ( y13 + y45 );
5664 24632600 : t03 = ( y13 - y45 );
5665 24632600 : t04 = ( y28 + y60 );
5666 24632600 : t07 = ( y28 - y60 );
5667 24632600 : t05 = ( y61 + y29 );
5668 24632600 : t06 = ( y61 - y29 );
5669 :
5670 24632600 : re[s * 6] = ( t00 + t04 );
5671 24632600 : im[s * 6] = ( t01 + t05 );
5672 24632600 : re[s * 14] = ( t02 - t06 );
5673 24632600 : im[s * 14] = ( t03 - t07 );
5674 24632600 : re[s * 22] = ( t00 - t04 );
5675 24632600 : im[s * 22] = ( t01 - t05 );
5676 24632600 : re[s * 30] = ( t02 + t06 );
5677 24632600 : im[s * 30] = ( t03 + t07 );
5678 :
5679 24632600 : t00 = ( y14 + y46 );
5680 24632600 : t02 = ( y14 - y46 );
5681 24632600 : t01 = ( y15 + y47 );
5682 24632600 : t03 = ( y15 - y47 );
5683 24632600 : t04 = ( y30 + y62 );
5684 24632600 : t07 = ( y30 - y62 );
5685 24632600 : t05 = ( y63 + y31 );
5686 24632600 : t06 = ( y63 - y31 );
5687 :
5688 24632600 : re[s * 7] = ( t00 + t04 );
5689 24632600 : im[s * 7] = ( t01 + t05 );
5690 24632600 : re[s * 15] = ( t02 - t06 );
5691 24632600 : im[s * 15] = ( t03 - t07 );
5692 24632600 : re[s * 23] = ( t00 - t04 );
5693 24632600 : im[s * 23] = ( t01 - t05 );
5694 24632600 : re[s * 31] = ( t02 + t06 );
5695 24632600 : im[s * 31] = ( t03 + t07 );
5696 :
5697 24632600 : return;
5698 : }
5699 :
5700 29056115 : static void fft_lenN(
5701 : float *re,
5702 : float *im,
5703 : const float *W,
5704 : const int16_t len,
5705 : const int16_t dim1,
5706 : const int16_t dim2,
5707 : const int16_t sx,
5708 : const int16_t sc,
5709 : const int16_t Woff )
5710 : {
5711 : int16_t i, j;
5712 : float x[L_FRAME_MAX * 2];
5713 :
5714 315221881 : for ( i = 0; i < dim2; i++ )
5715 : {
5716 7329756718 : for ( j = 0; j < dim1; j++ )
5717 : {
5718 7043590952 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
5719 7043590952 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
5720 : }
5721 : }
5722 :
5723 29056115 : switch ( dim1 )
5724 : {
5725 12742 : case 5:
5726 114678 : for ( i = 0; i < dim2; i++ )
5727 : {
5728 101936 : fft_len5( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5729 : }
5730 12742 : break;
5731 :
5732 30960 : case 8:
5733 278640 : for ( i = 0; i < dim2; i++ )
5734 : {
5735 247680 : fft_len8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5736 : }
5737 30960 : break;
5738 :
5739 3996518 : case 10:
5740 35968662 : for ( i = 0; i < dim2; i++ )
5741 : {
5742 31972144 : fft_len10( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5743 : }
5744 3996518 : break;
5745 :
5746 310069 : case 15:
5747 2790621 : for ( i = 0; i < dim2; i++ )
5748 : {
5749 2480552 : fft_len15( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5750 : }
5751 310069 : break;
5752 :
5753 611864 : case 16:
5754 5506776 : for ( i = 0; i < dim2; i++ )
5755 : {
5756 4894912 : fft_len16( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5757 : }
5758 611864 : break;
5759 :
5760 7499268 : case 20:
5761 87307854 : for ( i = 0; i < dim2; i++ )
5762 : {
5763 79808586 : fft_len20( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5764 : }
5765 7499268 : break;
5766 :
5767 15977124 : case 30:
5768 177696520 : for ( i = 0; i < dim2; i++ )
5769 : {
5770 161719396 : fft_len30( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5771 : }
5772 15977124 : break;
5773 :
5774 617570 : case 32:
5775 5558130 : for ( i = 0; i < dim2; i++ )
5776 : {
5777 4940560 : fft_len32( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5778 : }
5779 617570 : break;
5780 : }
5781 :
5782 29056115 : switch ( dim2 )
5783 : {
5784 :
5785 23841760 : case 8:
5786 : {
5787 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
5788 : float t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
5789 : float s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
5790 :
5791 23841760 : if ( dim1 == 30 || dim1 == 20 || dim1 == 15 || dim1 == 10 || dim1 == 5 )
5792 : {
5793 559512031 : for ( i = 0; i < dim1; i++ )
5794 : {
5795 : {
5796 536930665 : x00 = x[2 * i + 2 * 0 * dim1];
5797 536930665 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5798 : };
5799 536930665 : if ( i == 0 )
5800 : {
5801 : {
5802 22581366 : x02 = x[2 * i + 2 * 1 * dim1];
5803 22581366 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5804 : };
5805 : {
5806 22581366 : x04 = x[2 * i + 2 * 2 * dim1];
5807 22581366 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5808 : };
5809 : {
5810 22581366 : x06 = x[2 * i + 2 * 3 * dim1];
5811 22581366 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5812 : };
5813 : {
5814 22581366 : x08 = x[2 * i + 2 * 4 * dim1];
5815 22581366 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5816 : };
5817 : {
5818 22581366 : x10 = x[2 * i + 2 * 5 * dim1];
5819 22581366 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5820 : };
5821 : {
5822 22581366 : x12 = x[2 * i + 2 * 6 * dim1];
5823 22581366 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5824 : };
5825 : {
5826 22581366 : x14 = x[2 * i + 2 * 7 * dim1];
5827 22581366 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5828 : };
5829 : }
5830 : else
5831 : {
5832 : {
5833 514349299 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] );
5834 514349299 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] );
5835 : };
5836 : {
5837 514349299 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] );
5838 514349299 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] );
5839 : };
5840 : {
5841 514349299 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] );
5842 514349299 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] );
5843 : };
5844 : {
5845 514349299 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] );
5846 514349299 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] );
5847 : };
5848 : {
5849 514349299 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] );
5850 514349299 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] );
5851 : };
5852 : {
5853 514349299 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] );
5854 514349299 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] );
5855 : };
5856 : {
5857 514349299 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] );
5858 514349299 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] );
5859 : };
5860 : }
5861 :
5862 536930665 : t00 = ( x00 + x08 );
5863 536930665 : t02 = ( x00 - x08 );
5864 536930665 : t01 = ( x01 + x09 );
5865 536930665 : t03 = ( x01 - x09 );
5866 536930665 : t04 = ( x02 + x10 );
5867 536930665 : t06 = ( x02 - x10 );
5868 536930665 : t05 = ( x03 + x11 );
5869 536930665 : t07 = ( x03 - x11 );
5870 536930665 : t08 = ( x04 + x12 );
5871 536930665 : t10 = ( x04 - x12 );
5872 536930665 : t09 = ( x05 + x13 );
5873 536930665 : t11 = ( x05 - x13 );
5874 536930665 : t12 = ( x06 + x14 );
5875 536930665 : t14 = ( x06 - x14 );
5876 536930665 : t13 = ( x07 + x15 );
5877 536930665 : t15 = ( x07 - x15 );
5878 :
5879 536930665 : s00 = ( t00 + t08 );
5880 536930665 : s04 = ( t00 - t08 );
5881 536930665 : s01 = ( t01 + t09 );
5882 536930665 : s05 = ( t01 - t09 );
5883 536930665 : s08 = ( t02 - t11 );
5884 536930665 : s10 = ( t02 + t11 );
5885 536930665 : s09 = ( t03 + t10 );
5886 536930665 : s11 = ( t03 - t10 );
5887 536930665 : s02 = ( t04 + t12 );
5888 536930665 : s07 = ( t04 - t12 );
5889 536930665 : s03 = ( t05 + t13 );
5890 536930665 : s06 = ( t13 - t05 );
5891 :
5892 536930665 : t01 = ( t06 + t14 );
5893 536930665 : t02 = ( t06 - t14 );
5894 536930665 : t00 = ( t07 + t15 );
5895 536930665 : t03 = ( t07 - t15 );
5896 :
5897 536930665 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5898 536930665 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5899 536930665 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5900 536930665 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5901 :
5902 536930665 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
5903 536930665 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
5904 536930665 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
5905 536930665 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
5906 536930665 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
5907 536930665 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
5908 536930665 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
5909 536930665 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
5910 536930665 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
5911 536930665 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
5912 536930665 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
5913 536930665 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
5914 536930665 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
5915 536930665 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
5916 536930665 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
5917 536930665 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
5918 : }
5919 : }
5920 : else
5921 : {
5922 31060138 : for ( i = 0; i < dim1; i++ )
5923 : {
5924 : {
5925 29799744 : x00 = x[2 * i + 2 * 0 * dim1];
5926 29799744 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5927 : };
5928 29799744 : if ( i == 0 )
5929 : {
5930 : {
5931 1260394 : x02 = x[2 * i + 2 * 1 * dim1];
5932 1260394 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5933 : };
5934 : {
5935 1260394 : x04 = x[2 * i + 2 * 2 * dim1];
5936 1260394 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5937 : };
5938 : {
5939 1260394 : x06 = x[2 * i + 2 * 3 * dim1];
5940 1260394 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5941 : };
5942 : {
5943 1260394 : x08 = x[2 * i + 2 * 4 * dim1];
5944 1260394 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5945 : };
5946 : {
5947 1260394 : x10 = x[2 * i + 2 * 5 * dim1];
5948 1260394 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5949 : };
5950 : {
5951 1260394 : x12 = x[2 * i + 2 * 6 * dim1];
5952 1260394 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5953 : };
5954 : {
5955 1260394 : x14 = x[2 * i + 2 * 7 * dim1];
5956 1260394 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5957 : };
5958 : }
5959 : else
5960 : {
5961 : {
5962 28539350 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] );
5963 28539350 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 - Woff] );
5964 : };
5965 : {
5966 28539350 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] );
5967 28539350 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 - Woff] );
5968 : };
5969 : {
5970 28539350 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] );
5971 28539350 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 - Woff] );
5972 : };
5973 : {
5974 28539350 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] );
5975 28539350 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 - Woff] );
5976 : };
5977 : {
5978 28539350 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] );
5979 28539350 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 - Woff] );
5980 : };
5981 : {
5982 28539350 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] );
5983 28539350 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 - Woff] );
5984 : };
5985 : {
5986 28539350 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] );
5987 28539350 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 - Woff] );
5988 : };
5989 : }
5990 :
5991 29799744 : t00 = ( x00 + x08 );
5992 29799744 : t02 = ( x00 - x08 );
5993 29799744 : t01 = ( x01 + x09 );
5994 29799744 : t03 = ( x01 - x09 );
5995 29799744 : t04 = ( x02 + x10 );
5996 29799744 : t06 = ( x02 - x10 );
5997 29799744 : t05 = ( x03 + x11 );
5998 29799744 : t07 = ( x03 - x11 );
5999 29799744 : t08 = ( x04 + x12 );
6000 29799744 : t10 = ( x04 - x12 );
6001 29799744 : t09 = ( x05 + x13 );
6002 29799744 : t11 = ( x05 - x13 );
6003 29799744 : t12 = ( x06 + x14 );
6004 29799744 : t14 = ( x06 - x14 );
6005 29799744 : t13 = ( x07 + x15 );
6006 29799744 : t15 = ( x07 - x15 );
6007 :
6008 29799744 : s00 = ( t00 + t08 );
6009 29799744 : s04 = ( t00 - t08 );
6010 29799744 : s01 = ( t01 + t09 );
6011 29799744 : s05 = ( t01 - t09 );
6012 29799744 : s08 = ( t02 - t11 );
6013 29799744 : s10 = ( t02 + t11 );
6014 29799744 : s09 = ( t03 + t10 );
6015 29799744 : s11 = ( t03 - t10 );
6016 29799744 : s02 = ( t04 + t12 );
6017 29799744 : s07 = ( t04 - t12 );
6018 29799744 : s03 = ( t05 + t13 );
6019 29799744 : s06 = ( t13 - t05 );
6020 :
6021 29799744 : t01 = ( t06 + t14 );
6022 29799744 : t02 = ( t06 - t14 );
6023 29799744 : t00 = ( t07 + t15 );
6024 29799744 : t03 = ( t07 - t15 );
6025 :
6026 29799744 : s12 = ( ( t00 + t02 ) * FFT_C81 );
6027 29799744 : s14 = ( ( t00 - t02 ) * FFT_C81 );
6028 29799744 : s13 = ( ( t03 - t01 ) * FFT_C81 );
6029 29799744 : s15 = ( ( t01 + t03 ) * FFT_C82 );
6030 :
6031 29799744 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
6032 29799744 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
6033 29799744 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
6034 29799744 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
6035 29799744 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
6036 29799744 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
6037 29799744 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
6038 29799744 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
6039 29799744 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
6040 29799744 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
6041 29799744 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
6042 29799744 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
6043 29799744 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
6044 29799744 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
6045 29799744 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
6046 29799744 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
6047 : }
6048 : }
6049 23841760 : break;
6050 : }
6051 :
6052 17935 : case 10:
6053 : {
6054 : float y[2 * 10];
6055 197285 : for ( j = 0; j < dim2; j++ )
6056 : {
6057 : {
6058 179350 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6059 179350 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6060 : };
6061 : }
6062 17935 : fft_len10( &y[0], &y[1], 2 );
6063 197285 : for ( j = 0; j < dim2; j++ )
6064 : {
6065 179350 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6066 179350 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6067 : }
6068 :
6069 358700 : for ( i = 1; i < dim1; i++ )
6070 : {
6071 : {
6072 340765 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6073 340765 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6074 : }
6075 :
6076 3407650 : for ( j = 1; j < dim2; j++ )
6077 : {
6078 : {
6079 3066885 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6080 3066885 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6081 : }
6082 : }
6083 340765 : fft_len10( &y[0], &y[1], 2 );
6084 3748415 : for ( j = 0; j < dim2; j++ )
6085 : {
6086 3407650 : re[sx * i + sx * j * dim1] = y[2 * j];
6087 3407650 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6088 : }
6089 : }
6090 17935 : break;
6091 : }
6092 :
6093 4412842 : case 16:
6094 : {
6095 : float y[2 * 16];
6096 75018314 : for ( j = 0; j < dim2; j++ )
6097 : {
6098 : {
6099 70605472 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6100 70605472 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6101 : };
6102 : }
6103 4412842 : fft_len16( &y[0], &y[1], 2 );
6104 75018314 : for ( j = 0; j < dim2; j++ )
6105 : {
6106 70605472 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6107 70605472 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6108 : }
6109 :
6110 115984150 : for ( i = 1; i < dim1; i++ )
6111 : {
6112 : {
6113 111571308 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6114 111571308 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6115 : }
6116 :
6117 1785140928 : for ( j = 1; j < dim2; j++ )
6118 : {
6119 : {
6120 1673569620 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6121 1673569620 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6122 : }
6123 : }
6124 111571308 : fft_len16( &y[0], &y[1], 2 );
6125 1896712236 : for ( j = 0; j < dim2; j++ )
6126 : {
6127 1785140928 : re[sx * i + sx * j * dim1] = y[2 * j];
6128 1785140928 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6129 : }
6130 : }
6131 4412842 : break;
6132 : }
6133 :
6134 35636 : case 20:
6135 : {
6136 : float y[2 * 20];
6137 748356 : for ( j = 0; j < dim2; j++ )
6138 : {
6139 : {
6140 712720 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6141 712720 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6142 : };
6143 : }
6144 35636 : fft_len20( &y[0], &y[1], 2 );
6145 748356 : for ( j = 0; j < dim2; j++ )
6146 : {
6147 712720 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6148 712720 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6149 : }
6150 :
6151 1013450 : for ( i = 1; i < dim1; i++ )
6152 : {
6153 : {
6154 977814 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6155 977814 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6156 : }
6157 : {
6158 977814 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6159 977814 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6160 : }
6161 :
6162 9778140 : for ( j = 2; j < dim2; j = j + 2 )
6163 : {
6164 : {
6165 8800326 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6166 8800326 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6167 : }
6168 : {
6169 8800326 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6170 8800326 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6171 : }
6172 : }
6173 977814 : fft_len20( &y[0], &y[1], 2 );
6174 20534094 : for ( j = 0; j < dim2; j++ )
6175 : {
6176 19556280 : re[sx * i + sx * j * dim1] = y[2 * j];
6177 19556280 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6178 : }
6179 : }
6180 35636 : break;
6181 : }
6182 :
6183 747942 : case 32:
6184 : {
6185 : float y[2 * 32];
6186 24682086 : for ( j = 0; j < dim2; j++ )
6187 : {
6188 : {
6189 23934144 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6190 23934144 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6191 : };
6192 : }
6193 747942 : fft_len32( &y[0], &y[1], 2 );
6194 24682086 : for ( j = 0; j < dim2; j++ )
6195 : {
6196 23934144 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6197 23934144 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6198 : }
6199 :
6200 19692040 : for ( i = 1; i < dim1; i++ )
6201 : {
6202 : {
6203 18944098 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6204 18944098 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6205 : }
6206 : {
6207 18944098 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6208 18944098 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6209 : }
6210 :
6211 303105568 : for ( j = 2; j < dim2; j = j + 2 )
6212 : {
6213 : {
6214 284161470 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6215 284161470 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6216 : }
6217 : {
6218 284161470 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6219 284161470 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6220 : }
6221 : }
6222 18944098 : fft_len32( &y[0], &y[1], 2 );
6223 625155234 : for ( j = 0; j < dim2; j++ )
6224 : {
6225 606211136 : re[sx * i + sx * j * dim1] = y[2 * j];
6226 606211136 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6227 : }
6228 : }
6229 747942 : break;
6230 : }
6231 : }
6232 :
6233 29056115 : return;
6234 : }
6235 :
6236 :
6237 : /*-----------------------------------------------------------------*
6238 : * fft()
6239 : *
6240 : * Complex-value FFT
6241 : *-----------------------------------------------------------------*/
6242 :
6243 29056115 : void fft(
6244 : float *re, /* i/o: real part */
6245 : float *im, /* i/o: imag part */
6246 : const int16_t length, /* i : length of fft */
6247 : const int16_t s /* i : sign */
6248 : )
6249 : {
6250 29056115 : switch ( length )
6251 : {
6252 0 : case 20:
6253 0 : fft_len20( re, im, s );
6254 0 : break;
6255 12742 : case 40:
6256 12742 : fft_lenN( re, im, FFT_RotVector_640, 640, 5, 8, s, 8, 40 );
6257 12742 : break;
6258 30960 : case 64:
6259 30960 : fft_lenN( re, im, FFT_RotVector_256, 256, 8, 8, s, 8, 64 );
6260 30960 : break;
6261 3996518 : case 80:
6262 3996518 : fft_lenN( re, im, FFT_RotVector_640, 640, 10, 8, s, 4, 40 );
6263 3996518 : break;
6264 0 : case 100:
6265 0 : fft_lenN( re, im, FFT_RotVector_400, 400, 10, 10, s, 4, 40 );
6266 0 : break;
6267 310069 : case 120:
6268 310069 : fft_lenN( re, im, FFT_RotVector_960, 960, 15, 8, s, 4, 60 );
6269 310069 : break;
6270 611864 : case 128:
6271 611864 : fft_lenN( re, im, FFT_RotVector_256, 256, 16, 8, s, 4, 64 );
6272 611864 : break;
6273 5561037 : case 160:
6274 5561037 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 8, s, 2, 40 );
6275 5561037 : break;
6276 17935 : case 200:
6277 17935 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 10, s, 2, 40 );
6278 17935 : break;
6279 12701000 : case 240:
6280 12701000 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 8, s, 2, 60 );
6281 12701000 : break;
6282 617570 : case 256:
6283 617570 : fft_lenN( re, im, FFT_RotVector_256, 256, 32, 8, s, 2, 64 );
6284 617570 : break;
6285 1640111 : case 320:
6286 1640111 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 16, s, 2, 40 );
6287 1640111 : break;
6288 5563 : case 400:
6289 5563 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 20, s, 2, 40 );
6290 5563 : break;
6291 2772731 : case 480:
6292 2772731 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 16, s, 2, 60 );
6293 2772731 : break;
6294 30073 : case 600:
6295 30073 : fft_lenN( re, im, FFT_RotVector_600, 600, 30, 20, s, 2, 60 );
6296 30073 : break;
6297 274622 : case 640:
6298 274622 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 32, s, 2, 40 );
6299 274622 : break;
6300 473320 : case 960:
6301 473320 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 32, s, 2, 60 );
6302 473320 : break;
6303 0 : default:
6304 0 : assert( !"fft length is not supported!" );
6305 : }
6306 :
6307 29056115 : return;
6308 : }
6309 :
6310 :
6311 : /*-----------------------------------------------------------------*
6312 : * rfft()
6313 : *
6314 : * Real-value FFT
6315 : *-----------------------------------------------------------------*/
6316 :
6317 992178 : void rfft(
6318 : float *x, /* i/o: values */
6319 : const float *w, /* i : window */
6320 : const int16_t length, /* i : length of fft */
6321 : const int16_t isign /* i : sign */
6322 : )
6323 : {
6324 : int16_t i, sizeOfFft2, sizeOfFft4;
6325 : float tmp, t1, t2, t3, t4, s1, s2;
6326 :
6327 992178 : sizeOfFft2 = length >> 1;
6328 992178 : sizeOfFft4 = length >> 2;
6329 992178 : s1 = 1.f / (float) sizeOfFft2;
6330 992178 : s2 = -1.f / (float) sizeOfFft2;
6331 :
6332 992178 : switch ( isign )
6333 : {
6334 :
6335 462469 : case -1:
6336 :
6337 462469 : fft( x, x + 1, sizeOfFft2, 2 );
6338 :
6339 462469 : tmp = x[0] + x[1];
6340 462469 : x[1] = x[0] - x[1];
6341 462469 : x[0] = tmp;
6342 :
6343 82204005 : for ( i = 1; i <= sizeOfFft4; i++ )
6344 : {
6345 81741536 : t1 = x[2 * i] - x[length - 2 * i];
6346 81741536 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6347 81741536 : t3 = w[i] * t1 - w[i + sizeOfFft4] * t2;
6348 81741536 : t4 = w[i + sizeOfFft4] * t1 + w[i] * t2;
6349 81741536 : t1 = x[2 * i] + x[length - 2 * i];
6350 81741536 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6351 :
6352 81741536 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6353 81741536 : x[2 * i + 1] = ( t2 - t4 ) * 0.5f;
6354 81741536 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6355 81741536 : x[length - 2 * i + 1] = -( t2 + t4 ) * 0.5f;
6356 : }
6357 :
6358 462469 : break;
6359 :
6360 529709 : case +1:
6361 :
6362 529709 : tmp = ( x[0] + x[1] ) * 0.5f;
6363 529709 : x[1] = ( x[1] - x[0] ) * 0.5f;
6364 529709 : x[0] = tmp;
6365 :
6366 111797085 : for ( i = 1; i <= sizeOfFft4; i++ )
6367 : {
6368 111267376 : t1 = x[2 * i] - x[length - 2 * i];
6369 111267376 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6370 111267376 : t3 = w[i] * t1 + w[i + sizeOfFft4] * t2;
6371 111267376 : t4 = -w[i + sizeOfFft4] * t1 + w[i] * t2;
6372 111267376 : t1 = x[2 * i] + x[length - 2 * i];
6373 111267376 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6374 :
6375 111267376 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6376 111267376 : x[2 * i + 1] = ( t4 - t2 ) * 0.5f;
6377 111267376 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6378 111267376 : x[length - 2 * i + 1] = ( t2 + t4 ) * 0.5f;
6379 : }
6380 :
6381 529709 : fft( x, x + 1, sizeOfFft2, 2 );
6382 :
6383 223064461 : for ( i = 0; i < length; i += 2 )
6384 : {
6385 222534752 : x[i] *= s1;
6386 222534752 : x[i + 1] *= s2;
6387 : }
6388 :
6389 529709 : break;
6390 : }
6391 :
6392 992178 : return;
6393 : }
6394 :
6395 :
6396 : #define WMC_TOOL_SKIP
6397 :
6398 : #define SCALEFACTOR8 ( 4 )
6399 : #define SCALEFACTOR64 ( 7 )
6400 : #define SCALEFACTORN2 ( 3 )
6401 :
6402 : #define SHC( x ) ( (Word16) x )
6403 : #define FFTC( x ) WORD322WORD16( (Word32) x )
6404 :
6405 : #define C81_FX ( FFTC( 0x5a82799a ) ) /* FL2WORD32( 7.071067811865475e-1) */
6406 : #define C82_FX ( FFTC( 0xa57d8666 ) ) /* FL2WORD32(-7.071067811865475e-1) */
6407 :
6408 : #define cplxMpy4_8_0( re, im, a, b, c, d ) \
6409 : re = L_shr( L_sub( Mpy_32_16( a, c ), Mpy_32_16( b, d ) ), 1 ); \
6410 : im = L_shr( L_add( Mpy_32_16( a, d ), Mpy_32_16( b, c ) ), 1 );
6411 :
6412 : #define cplxMpy4_8_1( re, im, a, b ) \
6413 : re = L_shr( a, 1 ); \
6414 : im = L_shr( b, 1 );
6415 :
6416 :
6417 : /**
6418 : * \brief Twiddle factors are unscaled
6419 : */
6420 : static const Word16 RotVector_256[2 * ( 256 - 32 )] = {
6421 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7ff6 ), SHC( 0xfcdc ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7fa7 ), SHC( 0xf695 ),
6422 : SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7e1e ), SHC( 0xea1e ),
6423 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7b5d ), SHC( 0xdddc ),
6424 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x798a ), SHC( 0xd7d9 ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x776c ), SHC( 0xd1ef ),
6425 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x7505 ), SHC( 0xcc21 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x7255 ), SHC( 0xc673 ),
6426 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6f5f ), SHC( 0xc0e9 ), SHC( 0x6dca ), SHC( 0xbe32 ), SHC( 0x6c24 ), SHC( 0xbb85 ),
6427 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x64e9 ), SHC( 0xb140 ),
6428 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x60ec ), SHC( 0xac65 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5cb4 ), SHC( 0xa7bd ),
6429 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7e9d ), SHC( 0xed38 ),
6430 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x7885 ), SHC( 0xd4e1 ),
6431 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6dca ), SHC( 0xbe32 ),
6432 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x5ed7 ), SHC( 0xaa0a ),
6433 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x55f6 ), SHC( 0xa129 ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x4c40 ), SHC( 0x9930 ),
6434 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x3c57 ), SHC( 0x8f1d ), SHC( 0x36ba ), SHC( 0x8c4a ),
6435 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x1f1a ), SHC( 0x83d6 ),
6436 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x12c8 ), SHC( 0x8163 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0648 ), SHC( 0x8027 ),
6437 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fa7 ), SHC( 0xf695 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ),
6438 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x776c ), SHC( 0xd1ef ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6439 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x64e9 ), SHC( 0xb140 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5843 ), SHC( 0xa34c ),
6440 : SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x49b4 ), SHC( 0x9759 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x398d ), SHC( 0x8dab ),
6441 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2827 ), SHC( 0x8676 ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x15e2 ), SHC( 0x81e2 ),
6442 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xf9b8 ), SHC( 0x8027 ), SHC( 0xf055 ), SHC( 0x80f6 ),
6443 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdddc ), SHC( 0x84a3 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xcc21 ), SHC( 0x8afb ),
6444 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xbb85 ), SHC( 0x93dc ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xac65 ), SHC( 0x9f14 ),
6445 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7a7d ), SHC( 0xdad8 ),
6446 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x62f2 ), SHC( 0xaecc ),
6447 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x3c57 ), SHC( 0x8f1d ),
6448 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0c8c ), SHC( 0x809e ),
6449 : SHC( 0x0000 ), SHC( 0x8000 ), SHC( 0xf374 ), SHC( 0x809e ), SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdad8 ), SHC( 0x8583 ),
6450 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb8e3 ), SHC( 0x9592 ), SHC( 0xaecc ), SHC( 0x9d0e ),
6451 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x9592 ), SHC( 0xb8e3 ), SHC( 0x8f1d ), SHC( 0xc3a9 ),
6452 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x8583 ), SHC( 0xdad8 ), SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x809e ), SHC( 0xf374 ),
6453 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x776c ), SHC( 0xd1ef ),
6454 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x539b ), SHC( 0x9f14 ),
6455 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x398d ), SHC( 0x8dab ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x1c0c ), SHC( 0x831c ),
6456 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xfcdc ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xdddc ), SHC( 0x84a3 ),
6457 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc0e9 ), SHC( 0x90a1 ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xa7bd ), SHC( 0xa34c ),
6458 : SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x93dc ), SHC( 0xbb85 ), SHC( 0x8c4a ), SHC( 0xc946 ), SHC( 0x8676 ), SHC( 0xd7d9 ),
6459 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8059 ), SHC( 0xf695 ), SHC( 0x8027 ), SHC( 0x0648 ), SHC( 0x81e2 ), SHC( 0x15e2 ),
6460 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8afb ), SHC( 0x33df ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9b17 ), SHC( 0x4ec0 ),
6461 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x73b6 ), SHC( 0xc946 ),
6462 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x41ce ), SHC( 0x9236 ),
6463 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xf9b8 ), SHC( 0x8027 ),
6464 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb3c0 ), SHC( 0x9930 ),
6465 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9930 ), SHC( 0xb3c0 ), SHC( 0x8f1d ), SHC( 0xc3a9 ), SHC( 0x877b ), SHC( 0xd4e1 ),
6466 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x809e ), SHC( 0x0c8c ), SHC( 0x83d6 ), SHC( 0x1f1a ),
6467 : SHC( 0x89be ), SHC( 0x30fc ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9d0e ), SHC( 0x5134 ), SHC( 0xaa0a ), SHC( 0x5ed7 ),
6468 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xc946 ), SHC( 0x73b6 ), SHC( 0xdad8 ), SHC( 0x7a7d ), SHC( 0xed38 ), SHC( 0x7e9d ),
6469 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e1e ), SHC( 0xea1e ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6470 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x539b ), SHC( 0x9f14 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x2e11 ), SHC( 0x8894 ),
6471 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xd7d9 ), SHC( 0x8676 ),
6472 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb140 ), SHC( 0x9b17 ), SHC( 0xa129 ), SHC( 0xaa0a ), SHC( 0x93dc ), SHC( 0xbb85 ),
6473 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x831c ), SHC( 0xe3f4 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x80f6 ), SHC( 0x0fab ),
6474 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8dab ), SHC( 0x398d ), SHC( 0x9930 ), SHC( 0x4c40 ), SHC( 0xa7bd ), SHC( 0x5cb4 ),
6475 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xcc21 ), SHC( 0x7505 ), SHC( 0xe0e6 ), SHC( 0x7c2a ), SHC( 0xf695 ), SHC( 0x7fa7 ),
6476 : SHC( 0x0c8c ), SHC( 0x7f62 ), SHC( 0x2224 ), SHC( 0x7b5d ), SHC( 0x36ba ), SHC( 0x73b6 ), SHC( 0x49b4 ), SHC( 0x68a7 )
6477 : };
6478 :
6479 : /*-----------------------------------------------------------------*
6480 : * BASOP_fft8()
6481 : *
6482 : * Function performs a complex 8-point FFT
6483 : * The FFT is performed inplace. The result of the FFT
6484 : * is scaled by SCALEFACTOR8 bits.
6485 : *
6486 : * WOPS with 32x16 bit multiplications: 108 cycles
6487 : *-----------------------------------------------------------------*/
6488 :
6489 663872 : static void BASOP_fft8(
6490 : Word32 *re,
6491 : Word32 *im,
6492 : Word16 s )
6493 : {
6494 : Word32 x00, x01, x02, x03, x04, x05, x06, x07;
6495 : Word32 x08, x09, x10, x11, x12, x13, x14, x15;
6496 : Word32 t00, t01, t02, t03, t04, t05, t06, t07;
6497 : Word32 t08, t09, t10, t11, t12, t13, t14, t15;
6498 : Word32 s00, s01, s02, s03, s04, s05, s06, s07;
6499 : Word32 s08, s09, s10, s11, s12, s13, s14, s15;
6500 :
6501 :
6502 : /* Pre-additions */
6503 :
6504 663872 : x00 = L_shr( re[s * 0], SCALEFACTOR8 );
6505 663872 : x01 = L_shr( im[s * 0], SCALEFACTOR8 );
6506 663872 : x02 = L_shr( re[s * 1], SCALEFACTOR8 );
6507 663872 : x03 = L_shr( im[s * 1], SCALEFACTOR8 );
6508 663872 : x04 = L_shr( re[s * 2], SCALEFACTOR8 );
6509 663872 : x05 = L_shr( im[s * 2], SCALEFACTOR8 );
6510 663872 : x06 = L_shr( re[s * 3], SCALEFACTOR8 );
6511 663872 : x07 = L_shr( im[s * 3], SCALEFACTOR8 );
6512 663872 : x08 = L_shr( re[s * 4], SCALEFACTOR8 );
6513 663872 : x09 = L_shr( im[s * 4], SCALEFACTOR8 );
6514 663872 : x10 = L_shr( re[s * 5], SCALEFACTOR8 );
6515 663872 : x11 = L_shr( im[s * 5], SCALEFACTOR8 );
6516 663872 : x12 = L_shr( re[s * 6], SCALEFACTOR8 );
6517 663872 : x13 = L_shr( im[s * 6], SCALEFACTOR8 );
6518 663872 : x14 = L_shr( re[s * 7], SCALEFACTOR8 );
6519 663872 : x15 = L_shr( im[s * 7], SCALEFACTOR8 );
6520 :
6521 663872 : t00 = L_add( x00, x08 );
6522 663872 : t02 = L_sub( x00, x08 );
6523 663872 : t01 = L_add( x01, x09 );
6524 663872 : t03 = L_sub( x01, x09 );
6525 663872 : t04 = L_add( x02, x10 );
6526 663872 : t06 = L_sub( x02, x10 );
6527 663872 : t05 = L_add( x03, x11 );
6528 663872 : t07 = L_sub( x03, x11 );
6529 663872 : t08 = L_add( x04, x12 );
6530 663872 : t10 = L_sub( x04, x12 );
6531 663872 : t09 = L_add( x05, x13 );
6532 663872 : t11 = L_sub( x05, x13 );
6533 663872 : t12 = L_add( x06, x14 );
6534 663872 : t14 = L_sub( x06, x14 );
6535 663872 : t13 = L_add( x07, x15 );
6536 663872 : t15 = L_sub( x07, x15 );
6537 :
6538 : /* Pre-additions and core multiplications */
6539 :
6540 663872 : s00 = L_add( t00, t08 );
6541 663872 : s04 = L_sub( t00, t08 );
6542 663872 : s01 = L_add( t01, t09 );
6543 663872 : s05 = L_sub( t01, t09 );
6544 663872 : s08 = L_sub( t02, t11 );
6545 663872 : s10 = L_add( t02, t11 );
6546 663872 : s09 = L_add( t03, t10 );
6547 663872 : s11 = L_sub( t03, t10 );
6548 663872 : s02 = L_add( t04, t12 );
6549 663872 : s07 = L_sub( t04, t12 );
6550 663872 : s03 = L_add( t05, t13 );
6551 663872 : s06 = L_sub( t13, t05 );
6552 :
6553 663872 : t01 = L_add( t06, t14 );
6554 663872 : t02 = L_sub( t06, t14 );
6555 663872 : t00 = L_add( t07, t15 );
6556 663872 : t03 = L_sub( t07, t15 );
6557 :
6558 663872 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6559 663872 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6560 663872 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6561 663872 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6562 :
6563 : /* Post-additions */
6564 :
6565 663872 : re[s * 0] = L_add( s00, s02 );
6566 663872 : move32();
6567 663872 : re[s * 4] = L_sub( s00, s02 );
6568 663872 : move32();
6569 663872 : im[s * 0] = L_add( s01, s03 );
6570 663872 : move32();
6571 663872 : im[s * 4] = L_sub( s01, s03 );
6572 663872 : move32();
6573 663872 : re[s * 2] = L_sub( s04, s06 );
6574 663872 : move32();
6575 663872 : re[s * 6] = L_add( s04, s06 );
6576 663872 : move32();
6577 663872 : im[s * 2] = L_sub( s05, s07 );
6578 663872 : move32();
6579 663872 : im[s * 6] = L_add( s05, s07 );
6580 663872 : move32();
6581 663872 : re[s * 3] = L_add( s08, s14 );
6582 663872 : move32();
6583 663872 : re[s * 7] = L_sub( s08, s14 );
6584 663872 : move32();
6585 663872 : im[s * 3] = L_add( s09, s15 );
6586 663872 : move32();
6587 663872 : im[s * 7] = L_sub( s09, s15 );
6588 663872 : move32();
6589 663872 : re[s * 1] = L_add( s10, s12 );
6590 663872 : move32();
6591 663872 : re[s * 5] = L_sub( s10, s12 );
6592 663872 : move32();
6593 663872 : im[s * 1] = L_add( s11, s13 );
6594 663872 : move32();
6595 663872 : im[s * 5] = L_sub( s11, s13 );
6596 663872 : move32();
6597 :
6598 663872 : return;
6599 : }
6600 :
6601 :
6602 : /*-----------------------------------------------------------------*
6603 : * fftN2()
6604 : *
6605 : * Combined FFT
6606 : *-----------------------------------------------------------------*/
6607 :
6608 82984 : static void BASOP_fftN2(
6609 : Word32 *re, /* i/o: real part */
6610 : Word32 *im, /* i/o: imag part */
6611 : const Word16 *W, /* i : rotation factor */
6612 : Word16 dim1, /* i : length of fft1 */
6613 : Word16 dim2, /* i : length of fft2 */
6614 : Word16 sx, /* i : stride real and imag part */
6615 : Word16 sc, /* i : stride phase rotation coefficients */
6616 : Word32 *x, /* tmp: 32-bit workbuffer */
6617 : Word16 Woff /* i : offset for addressing the rotation vector table */
6618 : )
6619 : {
6620 : Word16 i, j;
6621 : Word32 x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
6622 : Word32 t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
6623 : Word32 s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
6624 :
6625 746856 : FOR( i = 0; i < dim2; i++ )
6626 : {
6627 5974848 : FOR( j = 0; j < dim1; j++ )
6628 : {
6629 5310976 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
6630 5310976 : move32();
6631 5310976 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
6632 5310976 : move32();
6633 : }
6634 : }
6635 :
6636 : /* dim1 == 8 */
6637 746856 : FOR( i = 0; i < dim2; i++ )
6638 : {
6639 663872 : BASOP_fft8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
6640 : }
6641 :
6642 : /* dim2 == 8 */
6643 746856 : FOR( i = 0; i < dim1; i++ )
6644 : {
6645 663872 : cplxMpy4_8_1( x00, x01, x[2 * i + 2 * 0 * dim1], x[2 * i + 2 * 0 * dim1 + 1] );
6646 :
6647 663872 : IF( i == 0 )
6648 : {
6649 82984 : cplxMpy4_8_1( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1] );
6650 82984 : cplxMpy4_8_1( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1] );
6651 82984 : cplxMpy4_8_1( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1] );
6652 82984 : cplxMpy4_8_1( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1] );
6653 82984 : cplxMpy4_8_1( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1] );
6654 82984 : cplxMpy4_8_1( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1] );
6655 82984 : cplxMpy4_8_1( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1] );
6656 : }
6657 : ELSE
6658 : {
6659 580888 : cplxMpy4_8_0( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1], W[sc * i + sc * 1 * dim1 - Woff], W[sc * i + sc * 1 * dim1 + 1 - Woff] );
6660 580888 : cplxMpy4_8_0( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1], W[sc * i + sc * 2 * dim1 - Woff], W[sc * i + sc * 2 * dim1 + 1 - Woff] );
6661 580888 : cplxMpy4_8_0( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1], W[sc * i + sc * 3 * dim1 - Woff], W[sc * i + sc * 3 * dim1 + 1 - Woff] );
6662 580888 : cplxMpy4_8_0( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1], W[sc * i + sc * 4 * dim1 - Woff], W[sc * i + sc * 4 * dim1 + 1 - Woff] );
6663 580888 : cplxMpy4_8_0( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1], W[sc * i + sc * 5 * dim1 - Woff], W[sc * i + sc * 5 * dim1 + 1 - Woff] );
6664 580888 : cplxMpy4_8_0( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1], W[sc * i + sc * 6 * dim1 - Woff], W[sc * i + sc * 6 * dim1 + 1 - Woff] );
6665 580888 : cplxMpy4_8_0( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1], W[sc * i + sc * 7 * dim1 - Woff], W[sc * i + sc * 7 * dim1 + 1 - Woff] );
6666 : }
6667 663872 : t00 = L_shr( L_add( x00, x08 ), SCALEFACTORN2 - 1 );
6668 663872 : t02 = L_shr( L_sub( x00, x08 ), SCALEFACTORN2 - 1 );
6669 663872 : t01 = L_shr( L_add( x01, x09 ), SCALEFACTORN2 - 1 );
6670 663872 : t03 = L_shr( L_sub( x01, x09 ), SCALEFACTORN2 - 1 );
6671 663872 : t04 = L_shr( L_add( x02, x10 ), SCALEFACTORN2 - 1 );
6672 663872 : t06 = L_sub( x02, x10 );
6673 663872 : t05 = L_shr( L_add( x03, x11 ), SCALEFACTORN2 - 1 );
6674 663872 : t07 = L_sub( x03, x11 );
6675 663872 : t08 = L_shr( L_add( x04, x12 ), SCALEFACTORN2 - 1 );
6676 663872 : t10 = L_shr( L_sub( x04, x12 ), SCALEFACTORN2 - 1 );
6677 663872 : t09 = L_shr( L_add( x05, x13 ), SCALEFACTORN2 - 1 );
6678 663872 : t11 = L_shr( L_sub( x05, x13 ), SCALEFACTORN2 - 1 );
6679 663872 : t12 = L_shr( L_add( x06, x14 ), SCALEFACTORN2 - 1 );
6680 663872 : t14 = L_sub( x06, x14 );
6681 663872 : t13 = L_shr( L_add( x07, x15 ), SCALEFACTORN2 - 1 );
6682 663872 : t15 = L_sub( x07, x15 );
6683 :
6684 663872 : s00 = L_add( t00, t08 );
6685 663872 : s04 = L_sub( t00, t08 );
6686 663872 : s01 = L_add( t01, t09 );
6687 663872 : s05 = L_sub( t01, t09 );
6688 663872 : s08 = L_sub( t02, t11 );
6689 663872 : s10 = L_add( t02, t11 );
6690 663872 : s09 = L_add( t03, t10 );
6691 663872 : s11 = L_sub( t03, t10 );
6692 663872 : s02 = L_add( t04, t12 );
6693 663872 : s07 = L_sub( t04, t12 );
6694 663872 : s03 = L_add( t05, t13 );
6695 663872 : s06 = L_sub( t13, t05 );
6696 :
6697 663872 : t01 = L_shr( L_add( t06, t14 ), SCALEFACTORN2 - 1 );
6698 663872 : t02 = L_shr( L_sub( t06, t14 ), SCALEFACTORN2 - 1 );
6699 663872 : t00 = L_shr( L_add( t07, t15 ), SCALEFACTORN2 - 1 );
6700 663872 : t03 = L_shr( L_sub( t07, t15 ), SCALEFACTORN2 - 1 );
6701 :
6702 663872 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6703 663872 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6704 663872 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6705 663872 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6706 :
6707 663872 : re[sx * i + sx * 0 * dim1] = L_add( s00, s02 );
6708 663872 : move32();
6709 663872 : im[sx * i + sx * 0 * dim1] = L_add( s01, s03 );
6710 663872 : move32();
6711 663872 : re[sx * i + sx * 1 * dim1] = L_add( s10, s12 );
6712 663872 : move32();
6713 663872 : im[sx * i + sx * 1 * dim1] = L_add( s11, s13 );
6714 663872 : move32();
6715 663872 : re[sx * i + sx * 2 * dim1] = L_sub( s04, s06 );
6716 663872 : move32();
6717 663872 : im[sx * i + sx * 2 * dim1] = L_sub( s05, s07 );
6718 663872 : move32();
6719 663872 : re[sx * i + sx * 3 * dim1] = L_add( s08, s14 );
6720 663872 : move32();
6721 663872 : im[sx * i + sx * 3 * dim1] = L_add( s09, s15 );
6722 663872 : move32();
6723 663872 : re[sx * i + sx * 4 * dim1] = L_sub( s00, s02 );
6724 663872 : move32();
6725 663872 : im[sx * i + sx * 4 * dim1] = L_sub( s01, s03 );
6726 663872 : move32();
6727 663872 : re[sx * i + sx * 5 * dim1] = L_sub( s10, s12 );
6728 663872 : move32();
6729 663872 : im[sx * i + sx * 5 * dim1] = L_sub( s11, s13 );
6730 663872 : move32();
6731 663872 : re[sx * i + sx * 6 * dim1] = L_add( s04, s06 );
6732 663872 : move32();
6733 663872 : im[sx * i + sx * 6 * dim1] = L_add( s05, s07 );
6734 663872 : move32();
6735 663872 : re[sx * i + sx * 7 * dim1] = L_sub( s08, s14 );
6736 663872 : move32();
6737 663872 : im[sx * i + sx * 7 * dim1] = L_sub( s09, s15 );
6738 663872 : move32();
6739 : }
6740 :
6741 82984 : return;
6742 : }
6743 :
6744 :
6745 : /*-----------------------------------------------------------------*
6746 : * BASOP_cfft()
6747 : *
6748 : * Complex valued FFT
6749 : *-----------------------------------------------------------------*/
6750 :
6751 82984 : void BASOP_cfft(
6752 : Word32 *re, /* i/o: real part */
6753 : Word32 *im, /* i/o: imag part */
6754 : Word16 s, /* i : stride real and imag part */
6755 : Word16 *scale /* i : scalefactor */
6756 : )
6757 : {
6758 : Word32 x[2 * 64];
6759 :
6760 : /* FFT for len = FDNS_NPTS */
6761 82984 : BASOP_fftN2( re, im, RotVector_256, 8, 8, s, 8, x, 64 );
6762 82984 : s = add( *scale, SCALEFACTOR64 );
6763 :
6764 82984 : *scale = s;
6765 82984 : move16();
6766 :
6767 82984 : return;
6768 : }
6769 :
6770 : #undef WMC_TOOL_SKIP
|
