Line data Source code
1 : /******************************************************************************************************
2 :
3 : (C) 2022-2026 IVAS codec Public Collaboration with portions copyright Dolby International AB, Ericsson AB,
4 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
5 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
6 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
7 : contributors to this repository. All Rights Reserved.
8 :
9 : This software is protected by copyright law and by international treaties.
10 : The IVAS codec Public Collaboration consisting of Dolby International AB, Ericsson AB,
11 : Fraunhofer-Gesellschaft zur Foerderung der angewandten Forschung e.V., Huawei Technologies Co. LTD.,
12 : Koninklijke Philips N.V., Nippon Telegraph and Telephone Corporation, Nokia Technologies Oy, Orange,
13 : Panasonic Holdings Corporation, Qualcomm Technologies, Inc., VoiceAge Corporation, and other
14 : contributors to this repository retain full ownership rights in their respective contributions in
15 : the software. This notice grants no license of any kind, including but not limited to patent
16 : license, nor is any license granted by implication, estoppel or otherwise.
17 :
18 : Contributors are required to enter into the IVAS codec Public Collaboration agreement before making
19 : contributions.
20 :
21 : This software is provided "AS IS", without any express or implied warranties. The software is in the
22 : development stage. It is intended exclusively for experts who have experience with such software and
23 : solely for the purpose of inspection. All implied warranties of non-infringement, merchantability
24 : and fitness for a particular purpose are hereby disclaimed and excluded.
25 :
26 : Any dispute, controversy or claim arising under or in relation to providing this software shall be
27 : submitted to and settled by the final, binding jurisdiction of the courts of Munich, Germany in
28 : accordance with the laws of the Federal Republic of Germany excluding its conflict of law rules and
29 : the United Nations Convention on Contracts on the International Sales of Goods.
30 :
31 : *******************************************************************************************************/
32 :
33 : /*====================================================================================
34 : EVS Codec 3GPP TS26.443 Nov 04, 2021. Version 12.14.0 / 13.10.0 / 14.6.0 / 15.4.0 / 16.3.0
35 : ====================================================================================*/
36 :
37 : #include <assert.h>
38 : #include <stdint.h>
39 : #include "options.h"
40 : #ifdef DEBUGGING
41 : #include "debug.h"
42 : #endif
43 : #include <math.h>
44 : #include "cnst.h"
45 : #include "prot.h"
46 : #include "rom_com.h"
47 : #include "wmc_auto.h"
48 :
49 : #ifdef _MSC_VER
50 : #pragma warning( disable : 4310 )
51 : #endif
52 :
53 : /*-----------------------------------------------------------------*
54 : * Local constants
55 : *-----------------------------------------------------------------*/
56 :
57 : #define FFT_15PONIT_WNK1 0.55901699f /* EDCT & EMDCT constants */
58 : #define FFT_15PONIT_WNK2 0.95105652f /* EDCT & EMDCT constants */
59 : #define FFT_15PONIT_WNK3 0.58778525f /* EDCT & EMDCT constants */
60 : #define FFT_15PONIT_WNK4 0.86602540f /* EDCT & EMDCT constants */
61 : #define FFT_15PONIT_WNK5 0.25000000f /* EDCT & EMDCT constants */
62 :
63 : /* FFT constants */
64 : #define FFT_C31 -0.8660254037f
65 : #define FFT_C51 0.9510565195f
66 : #define FFT_C52 -1.5388417989f
67 : #define FFT_C53 -0.3632712597f
68 : #define FFT_C54 0.5590169895f
69 : #define FFT_C55 -1.2500000000f
70 : #define FFT_C61 0.8660254036f
71 : #define FFT_C81 0.7071067811f
72 : #define FFT_C82 -0.7071067811f
73 : #define FFT_C161 0.7071067811f
74 : #define FFT_C162 -0.7071067811f
75 : #define FFT_C163 0.9238795325f
76 : #define FFT_C164 -0.9238795325f
77 : #define FFT_C165 0.3826834323f
78 : #define FFT_C166 -0.3826834323f
79 :
80 :
81 : /*-----------------------------------------------------------------*
82 : * Local function prototypes
83 : *-----------------------------------------------------------------*/
84 :
85 : static void cdftForw( int16_t n, float *a, const int16_t *ip, const float *w );
86 : static void bitrv2_SR( int16_t n, const int16_t *ip, float *a );
87 : static void cftfsub( int16_t n, float *a, const float *w );
88 : static void cft1st( int16_t n, float *a, const float *w );
89 : static void cftmdl( int16_t n, int16_t l, float *a, const float *w );
90 : static void fft16( float *x, float *y, const int16_t *Idx );
91 : static void fft5_shift1( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
92 : static void fft8( float *x, float *y, const int16_t *Idx );
93 : static void fft15_shift2( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
94 : static void fft15_shift8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
95 : static void fft5_shift4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
96 : static void fft5_32( float *zRe, float *zIm, const int16_t *Idx );
97 : static void fft64( float *x, float *y, const int16_t *Idx );
98 : static void fft32_15( float *x, float *y, const int16_t *Idx );
99 : static void fft32_5( float *x, float *y, const int16_t *Idx );
100 : static void fft8_5( float *x, float *y, const int16_t *Idx );
101 : static void fft5_8( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
102 : static void fft4_5( float *x, float *y, const int16_t *Idx );
103 : static void fft5_4( int16_t n1, float *zRe, float *zIm, const int16_t *Idx );
104 :
105 13918080 : static float fmac( float a, float b, float c )
106 : {
107 13918080 : return ( ( ( a ) * ( b ) ) + ( c ) );
108 : }
109 :
110 51032960 : static float fnms( float a, float b, float c )
111 : {
112 51032960 : return ( ( c ) - ( ( a ) * ( b ) ) );
113 : }
114 :
115 : /*-----------------------------------------------------------------*
116 : * fft15_shift2()
117 : * 15-point FFT with 2-point circular shift
118 : *-----------------------------------------------------------------*/
119 :
120 27072 : static void fft15_shift2(
121 : int16_t n1, /* i : length of data */
122 : float *zRe, /* i/o: real part of input and output data */
123 : float *zIm, /* i/o: imaginary part of input and output data */
124 : const int16_t *Idx /* i : pointer of the address table */
125 : )
126 : {
127 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
128 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
129 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
130 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
131 : float f2i13, f2i14, f2i15, f2i16, f2i17, f2i18, f2i19, f2i20, f2i21, f2i22, f2i23, f2i24;
132 : float f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9, f3i10, f3i11, f3i12, f3i13, f3i14, f3i15;
133 : float f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
134 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, f4i16, f4i17, f4i18, f4i19, f4i20, fo1, fo2, fo3, fo4;
135 : float fo5, fo6, fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, fo16, fo17, fo18;
136 : float f2o1, f2o2, f2o3, f2o4, f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13;
137 : float f2o14, f2o15, f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11;
138 : float f3o12, f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6;
139 : float f4o7, f4o8, f4o9, f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f4o16, f4o17, f4o18, f4o19;
140 :
141 27072 : in0 = Idx[0];
142 27072 : in8 = Idx[n1];
143 27072 : in16 = Idx[n1 * 2];
144 27072 : in24 = Idx[n1 * 3];
145 27072 : in32 = Idx[n1 * 4];
146 27072 : in1 = Idx[n1 * 5];
147 27072 : in9 = Idx[n1 * 6];
148 27072 : in17 = Idx[n1 * 7];
149 27072 : in25 = Idx[n1 * 8];
150 27072 : in33 = Idx[n1 * 9];
151 27072 : in2 = Idx[n1 * 10];
152 27072 : in10 = Idx[n1 * 11];
153 27072 : in18 = Idx[n1 * 12];
154 27072 : in26 = Idx[n1 * 13];
155 27072 : in34 = Idx[n1 * 14];
156 :
157 27072 : f2i13 = zRe[in0];
158 27072 : f2i14 = zIm[in0];
159 27072 : f2i21 = zRe[in1];
160 27072 : f2i22 = zRe[in2];
161 27072 : f2i23 = zIm[in1];
162 27072 : f2i24 = zIm[in2];
163 :
164 27072 : f2i15 = f2i21 + f2i22;
165 27072 : f2i16 = FFT_15PONIT_WNK4 * ( f2i22 - f2i21 );
166 27072 : f2i17 = FFT_15PONIT_WNK4 * ( f2i23 - f2i24 );
167 27072 : f2i18 = f2i23 + f2i24;
168 27072 : fi1 = f2i13 + f2i15;
169 27072 : fi2 = f2i14 + f2i18;
170 :
171 27072 : f2i19 = fnms( 0.5f, f2i15, f2i13 );
172 27072 : f2i20 = fnms( 0.5f, f2i18, f2i14 );
173 27072 : fi3 = f2i19 - f2i17;
174 27072 : fi4 = f2i19 + f2i17;
175 27072 : fi5 = f2i16 + f2i20;
176 27072 : fi6 = f2i20 - f2i16;
177 :
178 27072 : f3i1 = zRe[in9];
179 27072 : f4i2 = zRe[in10];
180 27072 : f4i3 = zRe[in8];
181 27072 : f3i2 = f4i2 + f4i3;
182 27072 : f3i3 = fnms( 0.5f, f3i2, f3i1 );
183 27072 : f3i4 = FFT_15PONIT_WNK4 * ( f4i3 - f4i2 );
184 :
185 27072 : f3i5 = zIm[in9];
186 27072 : f4i4 = zIm[in10];
187 27072 : f4i5 = zIm[in8];
188 27072 : f3i6 = f4i4 + f4i5;
189 27072 : f3i7 = FFT_15PONIT_WNK4 * ( f4i4 - f4i5 );
190 27072 : f3i8 = fnms( 0.5f, f3i6, f3i5 );
191 :
192 27072 : f3i9 = zRe[in33];
193 27072 : f4i6 = zRe[in34];
194 27072 : f4i7 = zRe[in32];
195 27072 : f3i10 = f4i6 + f4i7;
196 27072 : f3i11 = fnms( 0.5f, f3i10, f3i9 );
197 27072 : f3i12 = FFT_15PONIT_WNK4 * ( f4i7 - f4i6 );
198 :
199 27072 : f3i13 = zIm[in33];
200 27072 : f4i8 = zIm[in34];
201 27072 : f4i9 = zIm[in32];
202 27072 : f3i14 = f4i8 + f4i9;
203 27072 : f3i15 = FFT_15PONIT_WNK4 * ( f4i8 - f4i9 );
204 27072 : f4i1 = fnms( 0.5f, f3i14, f3i13 );
205 :
206 27072 : fi7 = f3i1 + f3i2;
207 27072 : fi8 = f3i9 + f3i10;
208 27072 : fi9 = fi7 + fi8;
209 27072 : fi10 = f3i3 - f3i7;
210 27072 : fi11 = f3i11 - f3i15;
211 27072 : fi12 = fi10 + fi11;
212 27072 : fi13 = f3i5 + f3i6;
213 27072 : fi14 = f3i13 + f3i14;
214 27072 : fi15 = fi13 + fi14;
215 27072 : fi16 = f3i8 - f3i4;
216 27072 : fi17 = f4i1 - f3i12;
217 27072 : fi18 = fi16 + fi17;
218 27072 : fi19 = f3i4 + f3i8;
219 27072 : fi20 = f3i12 + f4i1;
220 27072 : fi21 = fi19 + fi20;
221 27072 : fi22 = f3i3 + f3i7;
222 27072 : fi23 = f3i11 + f3i15;
223 27072 : fi24 = fi22 + fi23;
224 :
225 27072 : f4i10 = zRe[in24];
226 27072 : fo6 = zRe[in25];
227 27072 : fo7 = zRe[in26];
228 27072 : f4i11 = fo6 + fo7;
229 27072 : f4i12 = fnms( 0.5f, f4i11, f4i10 );
230 27072 : f4i13 = FFT_15PONIT_WNK4 * ( fo7 - fo6 );
231 :
232 27072 : f4i14 = zIm[in24];
233 27072 : fo8 = zIm[in25];
234 27072 : fo9 = zIm[in26];
235 27072 : f4i15 = fo8 + fo9;
236 27072 : f4i16 = FFT_15PONIT_WNK4 * ( fo8 - fo9 );
237 27072 : f4i17 = fnms( 0.5f, f4i15, f4i14 );
238 :
239 27072 : f4i18 = zRe[in18];
240 27072 : f2o10 = zRe[in16];
241 27072 : f2o11 = zRe[in17];
242 27072 : f4i19 = f2o10 + f2o11;
243 27072 : f4i20 = fnms( 0.5f, f4i19, f4i18 );
244 27072 : fo1 = FFT_15PONIT_WNK4 * ( f2o11 - f2o10 );
245 :
246 27072 : fo2 = zIm[in18];
247 27072 : f2o12 = zIm[in16];
248 27072 : f2o13 = zIm[in17];
249 27072 : fo3 = f2o12 + f2o13;
250 27072 : fo4 = FFT_15PONIT_WNK4 * ( f2o12 - f2o13 );
251 27072 : fo5 = fnms( 0.5f, fo3, fo2 );
252 :
253 27072 : fi25 = f4i10 + f4i11;
254 27072 : fi26 = f4i18 + f4i19;
255 27072 : fi27 = fi25 + fi26;
256 27072 : fi28 = f4i12 - f4i16;
257 27072 : fi29 = f4i20 - fo4;
258 27072 : fi30 = fi28 + fi29;
259 27072 : f2i1 = f4i14 + f4i15;
260 27072 : f2i2 = fo2 + fo3;
261 27072 : f2i3 = f2i1 + f2i2;
262 27072 : f2i4 = f4i17 - f4i13;
263 27072 : f2i5 = fo5 - fo1;
264 27072 : f2i6 = f2i4 + f2i5;
265 27072 : f2i7 = f4i13 + f4i17;
266 27072 : f2i8 = fo1 + fo5;
267 27072 : f2i9 = f2i7 + f2i8;
268 27072 : f2i10 = f4i12 + f4i16;
269 27072 : f2i11 = f4i20 + fo4;
270 27072 : f2i12 = f2i10 + f2i11;
271 :
272 27072 : fo10 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
273 27072 : fo11 = fi27 + fi9;
274 27072 : fo12 = fnms( FFT_15PONIT_WNK5, fo11, fi1 );
275 27072 : fo15 = fi13 - fi14;
276 27072 : fo16 = f2i1 - f2i2;
277 27072 : fo13 = fnms( FFT_15PONIT_WNK3, fo16, FFT_15PONIT_WNK2 * fo15 );
278 27072 : fo14 = fmac( FFT_15PONIT_WNK2, fo16, FFT_15PONIT_WNK3 * fo15 );
279 :
280 27072 : zRe[in0] = fi1 + fo11;
281 27072 : fo17 = fo10 + fo12;
282 27072 : zRe[in18] = fo17 - fo14;
283 27072 : zRe[in24] = fo17 + fo14;
284 27072 : fo18 = fo12 - fo10;
285 27072 : zRe[in9] = fo18 - fo13;
286 27072 : zRe[in33] = fo18 + fo13;
287 :
288 27072 : f2o1 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
289 27072 : f2o2 = f2i3 + fi15;
290 27072 : f2o3 = fnms( FFT_15PONIT_WNK5, f2o2, fi2 );
291 27072 : f2o6 = fi7 - fi8;
292 27072 : f2o7 = fi25 - fi26;
293 27072 : f2o4 = fnms( FFT_15PONIT_WNK3, f2o7, FFT_15PONIT_WNK2 * f2o6 );
294 27072 : f2o5 = fmac( FFT_15PONIT_WNK2, f2o7, FFT_15PONIT_WNK3 * f2o6 );
295 27072 : zIm[in0] = fi2 + f2o2;
296 27072 : f2o8 = f2o1 + f2o3;
297 27072 : zIm[in24] = f2o8 - f2o5;
298 27072 : zIm[in18] = f2o5 + f2o8;
299 27072 : f2o9 = f2o3 - f2o1;
300 27072 : zIm[in33] = f2o9 - f2o4;
301 27072 : zIm[in9] = f2o4 + f2o9;
302 :
303 27072 : f2o14 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
304 27072 : f2o15 = fi30 + fi12;
305 27072 : f3o1 = fnms( FFT_15PONIT_WNK5, f2o15, fi3 );
306 27072 : f3o4 = fi16 - fi17;
307 27072 : f3o5 = f2i4 - f2i5;
308 27072 : f3o2 = fnms( FFT_15PONIT_WNK3, f3o5, FFT_15PONIT_WNK2 * f3o4 );
309 27072 : f3o3 = fmac( FFT_15PONIT_WNK2, f3o5, FFT_15PONIT_WNK3 * f3o4 );
310 27072 : zRe[in2] = fi3 + f2o15;
311 27072 : f3o6 = f2o14 + f3o1;
312 27072 : zRe[in17] = f3o6 - f3o3;
313 27072 : zRe[in26] = f3o6 + f3o3;
314 27072 : f3o7 = f3o1 - f2o14;
315 27072 : zRe[in8] = f3o7 - f3o2;
316 27072 : zRe[in32] = f3o7 + f3o2;
317 :
318 27072 : f3o8 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
319 27072 : f3o9 = f2i6 + fi18;
320 27072 : f3o10 = fnms( FFT_15PONIT_WNK5, f3o9, fi6 );
321 27072 : f3o13 = fi10 - fi11;
322 27072 : f3o14 = fi28 - fi29;
323 27072 : f3o11 = fnms( FFT_15PONIT_WNK3, f3o14, FFT_15PONIT_WNK2 * f3o13 );
324 27072 : f3o12 = fmac( FFT_15PONIT_WNK2, f3o14, FFT_15PONIT_WNK3 * f3o13 );
325 27072 : zIm[in2] = fi6 + f3o9;
326 27072 : f3o15 = f3o8 + f3o10;
327 27072 : zIm[in26] = f3o15 - f3o12;
328 27072 : zIm[in17] = f3o12 + f3o15;
329 27072 : f4o1 = f3o10 - f3o8;
330 27072 : zIm[in8] = f3o11 + f4o1;
331 27072 : zIm[in32] = f4o1 - f3o11;
332 :
333 27072 : f4o2 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
334 27072 : f4o3 = f2i9 + fi21;
335 27072 : f4o4 = fnms( FFT_15PONIT_WNK5, f4o3, fi5 );
336 27072 : f4o7 = f2i10 - f2i11;
337 27072 : f4o8 = fi22 - fi23;
338 27072 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o8 );
339 27072 : f4o6 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o8 );
340 27072 : zIm[in1] = fi5 + f4o3;
341 27072 : f4o9 = f4o4 - f4o2;
342 27072 : f4o10 = f4o2 + f4o4;
343 :
344 27072 : zIm[in10] = f4o6 + f4o9;
345 27072 : zIm[in34] = f4o9 - f4o6;
346 27072 : zIm[in25] = f4o10 - f4o5;
347 27072 : zIm[in16] = f4o5 + f4o10;
348 :
349 27072 : f4o11 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
350 27072 : f4o12 = f2i12 + fi24;
351 27072 : f4o13 = fnms( FFT_15PONIT_WNK5, f4o12, fi4 );
352 27072 : f4o16 = f2i7 - f2i8;
353 27072 : f4o17 = fi19 - fi20;
354 27072 : f4o14 = fmac( FFT_15PONIT_WNK2, f4o16, FFT_15PONIT_WNK3 * f4o17 );
355 27072 : f4o15 = fnms( FFT_15PONIT_WNK3, f4o16, FFT_15PONIT_WNK2 * f4o17 );
356 27072 : zRe[in1] = fi4 + f4o12;
357 27072 : f4o18 = f4o13 - f4o11;
358 27072 : f4o19 = f4o11 + f4o13;
359 :
360 27072 : zRe[in10] = f4o18 - f4o15;
361 27072 : zRe[in34] = f4o18 + f4o15;
362 27072 : zRe[in16] = f4o19 - f4o14;
363 27072 : zRe[in25] = f4o19 + f4o14;
364 :
365 27072 : return;
366 : }
367 :
368 : /*-----------------------------------------------------------------*
369 : * fft15_shift8()
370 : * 15-point FFT with 8-point circular shift
371 : *-----------------------------------------------------------------*/
372 :
373 2292608 : static void fft15_shift8(
374 : int16_t n1, /* i : length of data */
375 : float *zRe, /* i/o: real part of input and output data */
376 : float *zIm, /* i/o: imaginary part of input and output data */
377 : const int16_t *Idx /* i : pointer of the address table */
378 : )
379 : {
380 : int16_t in0, in8, in16, in24, in32, in1, in9, in17, in25, in33, in2, in10, in18, in26, in34;
381 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8, fi9, fi10, fi11, fi12, fi13, fi14, fi15;
382 : float fi16, fi17, fi18, fi19, fi20, fi21, fi22, fi23, fi24, fi25, fi26, fi27, fi28, fi29, fi30;
383 : float f2i1, f2i2, f2i3, f2i4, f2i5, f2i6, f2i7, f2i8, f2i9, f2i10, f2i11, f2i12;
384 : float f2i13, f2i14, f2i15, f3i1, f3i2, f3i3, f3i4, f3i5, f3i6, f3i7, f3i8, f3i9;
385 : float f3i10, f3i11, f3i12, f3i13, f3i14, f3i15, f4i1, f4i2, f4i3, f4i4, f4i5, f4i6, f4i7, f4i8, f4i9;
386 : float f4i10, f4i11, f4i12, f4i13, f4i14, f4i15, fo1, fo2, fo3, fo4, fo5, fo6;
387 : float fo7, fo8, fo9, fo10, fo11, fo12, fo13, fo14, fo15, f2o1, f2o2, f2o3, f2o4;
388 : float f2o5, f2o6, f2o7, f2o8, f2o9, f2o10, f2o11, f2o12, f2o13, f2o14, f2o15;
389 : float f3o1, f3o2, f3o3, f3o4, f3o5, f3o6, f3o7, f3o8, f3o9, f3o10, f3o11, f3o12;
390 : float f3o13, f3o14, f3o15, f4o1, f4o2, f4o3, f4o4, f4o5, f4o6, f4o7, f4o8, f4o9;
391 : float f4o10, f4o11, f4o12, f4o13, f4o14, f4o15, f5o1, f5o2, f5o3, f5o4, f5o5, f5o6, f5o7;
392 : float f5o8, f5o9, f5o10, f5o11, f5o12, f5o13, f5o14, f5o15, f5o16, f5o17, f5o18, f5o19, f5o21, f5o22;
393 :
394 2292608 : in0 = Idx[0];
395 2292608 : in8 = Idx[n1];
396 2292608 : in16 = Idx[n1 * 2];
397 2292608 : in24 = Idx[n1 * 3];
398 2292608 : in32 = Idx[n1 * 4];
399 2292608 : in1 = Idx[n1 * 5];
400 2292608 : in9 = Idx[n1 * 6];
401 2292608 : in17 = Idx[n1 * 7];
402 2292608 : in25 = Idx[n1 * 8];
403 2292608 : in33 = Idx[n1 * 9];
404 2292608 : in2 = Idx[n1 * 10];
405 2292608 : in10 = Idx[n1 * 11];
406 2292608 : in18 = Idx[n1 * 12];
407 2292608 : in26 = Idx[n1 * 13];
408 2292608 : in34 = Idx[n1 * 14];
409 :
410 2292608 : f2i13 = zRe[in0];
411 2292608 : f2i14 = zIm[in0];
412 2292608 : f3i6 = zRe[in1];
413 2292608 : f3i7 = zRe[in2];
414 2292608 : f3i8 = zIm[in1];
415 2292608 : f3i9 = zIm[in2];
416 :
417 2292608 : f2i15 = f3i6 + f3i7;
418 2292608 : f3i1 = FFT_15PONIT_WNK4 * ( f3i7 - f3i6 );
419 2292608 : f3i2 = FFT_15PONIT_WNK4 * ( f3i8 - f3i9 );
420 2292608 : f3i3 = f3i8 + f3i9;
421 :
422 2292608 : fi1 = f2i13 + f2i15;
423 2292608 : fi2 = f2i14 + f3i3;
424 2292608 : f3i4 = fnms( 0.5f, f2i15, f2i13 );
425 2292608 : fi3 = f3i4 - f3i2;
426 2292608 : fi4 = f3i4 + f3i2;
427 2292608 : f3i5 = fnms( 0.5f, f3i3, f2i14 );
428 2292608 : fi5 = f3i1 + f3i5;
429 2292608 : fi6 = f3i5 - f3i1;
430 :
431 2292608 : f3i10 = zRe[in9];
432 2292608 : f4i11 = zRe[in10];
433 2292608 : f4i12 = zRe[in8];
434 2292608 : f3i14 = zIm[in9];
435 2292608 : f4i13 = zIm[in10];
436 2292608 : f4i14 = zIm[in8];
437 2292608 : f4i3 = zRe[in33];
438 2292608 : f4i15 = zRe[in34];
439 2292608 : fo1 = zRe[in32];
440 2292608 : f4i7 = zIm[in33];
441 2292608 : fo2 = zIm[in34];
442 2292608 : fo3 = zIm[in32];
443 :
444 :
445 2292608 : f3i11 = f4i11 + f4i12;
446 2292608 : f3i12 = fnms( 0.5f, f3i11, f3i10 );
447 2292608 : f3i13 = FFT_15PONIT_WNK4 * ( f4i12 - f4i11 );
448 2292608 : f3i15 = f4i13 + f4i14;
449 2292608 : f4i1 = FFT_15PONIT_WNK4 * ( f4i13 - f4i14 );
450 2292608 : f4i2 = fnms( 0.5f, f3i15, f3i14 );
451 2292608 : f4i4 = f4i15 + fo1;
452 2292608 : f4i5 = fnms( 0.5f, f4i4, f4i3 );
453 2292608 : f4i6 = FFT_15PONIT_WNK4 * ( fo1 - f4i15 );
454 2292608 : f4i8 = fo2 + fo3;
455 2292608 : f4i9 = FFT_15PONIT_WNK4 * ( fo2 - fo3 );
456 2292608 : f4i10 = fnms( 0.5f, f4i8, f4i7 );
457 :
458 2292608 : fi7 = f3i10 + f3i11;
459 2292608 : fi8 = f4i3 + f4i4;
460 2292608 : fi9 = fi7 + fi8;
461 2292608 : fi10 = f3i12 - f4i1;
462 2292608 : fi11 = f4i5 - f4i9;
463 2292608 : fi12 = fi10 + fi11;
464 2292608 : fi13 = f3i14 + f3i15;
465 2292608 : fi14 = f4i7 + f4i8;
466 2292608 : fi15 = fi13 + fi14;
467 2292608 : fi16 = f4i2 - f3i13;
468 2292608 : fi17 = f4i10 - f4i6;
469 2292608 : fi18 = fi16 + fi17;
470 2292608 : fi19 = f3i13 + f4i2;
471 2292608 : fi20 = f4i6 + f4i10;
472 2292608 : fi21 = fi19 + fi20;
473 2292608 : fi22 = f3i12 + f4i1;
474 2292608 : fi23 = f4i5 + f4i9;
475 2292608 : fi24 = fi22 + fi23;
476 :
477 2292608 : fo4 = zRe[in24];
478 2292608 : f2o5 = zRe[in25];
479 2292608 : f2o6 = zRe[in26];
480 2292608 : fo8 = zIm[in24];
481 2292608 : f2o7 = zIm[in25];
482 2292608 : f2o8 = zIm[in26];
483 2292608 : fo12 = zRe[in18];
484 2292608 : f2o9 = zRe[in16];
485 2292608 : f2o10 = zRe[in17];
486 2292608 : f2o1 = zIm[in18];
487 2292608 : f2o11 = zIm[in16];
488 2292608 : f2o12 = zIm[in17];
489 :
490 :
491 2292608 : fo5 = f2o5 + f2o6;
492 2292608 : fo6 = fnms( 0.5f, fo5, fo4 );
493 2292608 : fo7 = FFT_15PONIT_WNK4 * ( f2o6 - f2o5 );
494 2292608 : fo9 = f2o7 + f2o8;
495 2292608 : fo10 = FFT_15PONIT_WNK4 * ( f2o7 - f2o8 );
496 2292608 : fo11 = fnms( 0.5f, fo9, fo8 );
497 2292608 : fo13 = f2o9 + f2o10;
498 2292608 : fo14 = fnms( 0.5f, fo13, fo12 );
499 2292608 : fo15 = FFT_15PONIT_WNK4 * ( f2o10 - f2o9 );
500 2292608 : f2o2 = f2o11 + f2o12;
501 2292608 : f2o3 = FFT_15PONIT_WNK4 * ( f2o11 - f2o12 );
502 2292608 : f2o4 = fnms( 0.5f, f2o2, f2o1 );
503 :
504 2292608 : fi25 = fo4 + fo5;
505 2292608 : fi26 = fo12 + fo13;
506 2292608 : fi27 = fi25 + fi26;
507 2292608 : fi28 = fo6 - fo10;
508 2292608 : fi29 = fo14 - f2o3;
509 2292608 : fi30 = fi28 + fi29;
510 2292608 : f2i1 = fo8 + fo9;
511 2292608 : f2i2 = f2o1 + f2o2;
512 2292608 : f2i3 = f2i1 + f2i2;
513 2292608 : f2i4 = fo11 - fo7;
514 2292608 : f2i5 = f2o4 - fo15;
515 2292608 : f2i6 = f2i4 + f2i5;
516 2292608 : f2i7 = fo7 + fo11;
517 2292608 : f2i8 = fo15 + f2o4;
518 2292608 : f2i9 = f2i7 + f2i8;
519 2292608 : f2i10 = fo6 + fo10;
520 2292608 : f2i11 = fo14 + f2o3;
521 2292608 : f2i12 = f2i10 + f2i11;
522 :
523 2292608 : f2o13 = FFT_15PONIT_WNK1 * ( fi27 - fi9 );
524 2292608 : f2o14 = fi27 + fi9;
525 2292608 : f2o15 = fnms( FFT_15PONIT_WNK5, f2o14, fi1 );
526 2292608 : f3o3 = fi13 - fi14;
527 2292608 : f3o4 = f2i1 - f2i2;
528 2292608 : f3o1 = fnms( FFT_15PONIT_WNK3, f3o4, FFT_15PONIT_WNK2 * f3o3 );
529 2292608 : f3o2 = fmac( FFT_15PONIT_WNK2, f3o4, FFT_15PONIT_WNK3 * f3o3 );
530 2292608 : zRe[in0] = fi1 + f2o14;
531 2292608 : f3o5 = f2o13 + f2o15;
532 2292608 : zRe[in24] = f3o5 - f3o2;
533 2292608 : zRe[in18] = f3o5 + f3o2;
534 2292608 : f3o6 = f2o15 - f2o13;
535 2292608 : zRe[in33] = f3o6 - f3o1;
536 2292608 : zRe[in9] = f3o6 + f3o1;
537 :
538 2292608 : f3o7 = FFT_15PONIT_WNK1 * ( f2i3 - fi15 );
539 2292608 : f3o8 = f2i3 + fi15;
540 2292608 : f3o9 = fnms( FFT_15PONIT_WNK5, f3o8, fi2 );
541 2292608 : f3o12 = fi7 - fi8;
542 2292608 : f3o13 = fi25 - fi26;
543 2292608 : f3o10 = fnms( FFT_15PONIT_WNK3, f3o13, FFT_15PONIT_WNK2 * f3o12 );
544 2292608 : f3o11 = fmac( FFT_15PONIT_WNK2, f3o13, FFT_15PONIT_WNK3 * f3o12 );
545 2292608 : zIm[in0] = fi2 + f3o8;
546 2292608 : f3o14 = f3o7 + f3o9;
547 2292608 : zIm[in18] = f3o14 - f3o11;
548 2292608 : zIm[in24] = f3o11 + f3o14;
549 2292608 : f3o15 = f3o9 - f3o7;
550 2292608 : zIm[in9] = f3o15 - f3o10;
551 2292608 : zIm[in33] = f3o10 + f3o15;
552 :
553 2292608 : f4o1 = FFT_15PONIT_WNK1 * ( fi30 - fi12 );
554 2292608 : f4o2 = fi30 + fi12;
555 2292608 : f4o3 = fnms( FFT_15PONIT_WNK5, f4o2, fi3 );
556 2292608 : f4o6 = fi16 - fi17;
557 2292608 : f4o7 = f2i4 - f2i5;
558 2292608 : f4o4 = fnms( FFT_15PONIT_WNK3, f4o7, FFT_15PONIT_WNK2 * f4o6 );
559 2292608 : f4o5 = fmac( FFT_15PONIT_WNK2, f4o7, FFT_15PONIT_WNK3 * f4o6 );
560 2292608 : zRe[in2] = fi3 + f4o2;
561 2292608 : f4o8 = f4o1 + f4o3;
562 2292608 : zRe[in26] = f4o8 - f4o5;
563 2292608 : zRe[in17] = f4o8 + f4o5;
564 2292608 : f4o9 = f4o3 - f4o1;
565 2292608 : zRe[in32] = f4o9 - f4o4;
566 2292608 : zRe[in8] = f4o9 + f4o4;
567 :
568 2292608 : f4o10 = FFT_15PONIT_WNK1 * ( f2i6 - fi18 );
569 2292608 : f4o11 = f2i6 + fi18;
570 2292608 : f4o12 = fnms( FFT_15PONIT_WNK5, f4o11, fi6 );
571 2292608 : f4o15 = fi10 - fi11;
572 2292608 : f5o1 = fi28 - fi29;
573 2292608 : f4o13 = fnms( FFT_15PONIT_WNK3, f5o1, FFT_15PONIT_WNK2 * f4o15 );
574 2292608 : f4o14 = fmac( FFT_15PONIT_WNK2, f5o1, FFT_15PONIT_WNK3 * f4o15 );
575 2292608 : zIm[in2] = fi6 + f4o11;
576 2292608 : f5o2 = f4o10 + f4o12;
577 2292608 : zIm[in17] = f5o2 - f4o14;
578 2292608 : zIm[in26] = f4o14 + f5o2;
579 2292608 : f5o3 = f4o12 - f4o10;
580 2292608 : zIm[in32] = f4o13 + f5o3;
581 2292608 : zIm[in8] = f5o3 - f4o13;
582 :
583 2292608 : f5o4 = FFT_15PONIT_WNK1 * ( f2i9 - fi21 );
584 2292608 : f5o5 = f2i9 + fi21;
585 2292608 : f5o6 = fnms( FFT_15PONIT_WNK5, f5o5, fi5 );
586 2292608 : f5o9 = f2i10 - f2i11;
587 2292608 : f5o10 = fi22 - fi23;
588 2292608 : f5o7 = fmac( FFT_15PONIT_WNK2, f5o9, FFT_15PONIT_WNK3 * f5o10 );
589 2292608 : f5o8 = fnms( FFT_15PONIT_WNK3, f5o9, FFT_15PONIT_WNK2 * f5o10 );
590 2292608 : zIm[in1] = fi5 + f5o5;
591 2292608 : f5o11 = f5o6 - f5o4;
592 2292608 : f5o12 = f5o4 + f5o6;
593 2292608 : zIm[in34] = f5o8 + f5o11;
594 2292608 : zIm[in10] = f5o11 - f5o8;
595 :
596 2292608 : zIm[in16] = f5o12 - f5o7;
597 2292608 : zIm[in25] = f5o7 + f5o12;
598 :
599 2292608 : f5o13 = FFT_15PONIT_WNK1 * ( f2i12 - fi24 );
600 2292608 : f5o14 = f2i12 + fi24;
601 2292608 : f5o15 = fnms( FFT_15PONIT_WNK5, f5o14, fi4 );
602 2292608 : f5o18 = f2i7 - f2i8;
603 2292608 : f5o19 = fi19 - fi20;
604 2292608 : f5o16 = fmac( FFT_15PONIT_WNK2, f5o18, FFT_15PONIT_WNK3 * f5o19 );
605 2292608 : f5o17 = fnms( FFT_15PONIT_WNK3, f5o18, FFT_15PONIT_WNK2 * f5o19 );
606 2292608 : zRe[in1] = fi4 + f5o14;
607 2292608 : f5o21 = f5o15 - f5o13;
608 2292608 : f5o22 = f5o13 + f5o15;
609 :
610 2292608 : zRe[in34] = f5o21 - f5o17;
611 2292608 : zRe[in10] = f5o21 + f5o17;
612 2292608 : zRe[in25] = f5o22 - f5o16;
613 2292608 : zRe[in16] = f5o22 + f5o16;
614 :
615 2292608 : return;
616 : }
617 :
618 : /*-----------------------------------------------------------------*
619 : * fft5_shift1()
620 : * 5-point FFT with 1-point circular shift
621 : *-----------------------------------------------------------------*/
622 :
623 1699808 : static void fft5_shift1(
624 : int16_t n1, /* i : length of data */
625 : float *zRe, /* i/o: real part of input and output data */
626 : float *zIm, /* i/o: imaginary part of input and output data */
627 : const int16_t *Idx /* i : pointer of the address table */
628 : )
629 : {
630 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
631 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
632 : int16_t in1, in2, in3, in4, in5;
633 :
634 1699808 : in1 = Idx[0];
635 1699808 : in2 = Idx[n1];
636 1699808 : in3 = Idx[n1 * 2];
637 1699808 : in4 = Idx[n1 * 3];
638 1699808 : in5 = Idx[n1 * 4];
639 :
640 1699808 : fi1 = zRe[in1];
641 1699808 : fi2 = zIm[in1];
642 1699808 : fo3 = zRe[in2];
643 1699808 : fo4 = zRe[in5];
644 1699808 : fo6 = zRe[in3];
645 1699808 : fo7 = zRe[in4];
646 :
647 1699808 : fo5 = fo3 + fo4;
648 1699808 : fo8 = fo6 + fo7;
649 1699808 : fi3 = fo5 + fo8;
650 1699808 : fi4 = fo6 - fo7;
651 1699808 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
652 1699808 : fi6 = fo3 - fo4;
653 :
654 1699808 : fo3 = zIm[in2];
655 1699808 : fo4 = zIm[in5];
656 1699808 : fo6 = zIm[in3];
657 1699808 : fo7 = zIm[in4];
658 :
659 1699808 : fo5 = fo3 + fo4;
660 1699808 : fo8 = fo6 + fo7;
661 1699808 : fi7 = fo3 - fo4;
662 1699808 : fi8 = fo5 + fo8;
663 1699808 : fo1 = fo6 - fo7;
664 1699808 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
665 :
666 1699808 : zRe[in1] = fi1 + fi3;
667 1699808 : zIm[in1] = fi2 + fi8;
668 :
669 1699808 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
670 1699808 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
671 1699808 : fo7 = fi1 - fi3 / 4;
672 1699808 : fo5 = fi5 + fo7;
673 1699808 : fo6 = fo7 - fi5;
674 :
675 1699808 : zRe[in2] = fo5 + fo3;
676 1699808 : zRe[in3] = fo6 - fo4;
677 1699808 : zRe[in4] = fo6 + fo4;
678 1699808 : zRe[in5] = fo5 - fo3;
679 :
680 1699808 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
681 1699808 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
682 1699808 : fo7 = fi2 - fi8 / 4;
683 1699808 : fo5 = fo2 + fo7;
684 1699808 : fo6 = fo7 - fo2;
685 :
686 1699808 : zIm[in2] = fo5 - fo3;
687 1699808 : zIm[in3] = fo4 + fo6;
688 1699808 : zIm[in4] = fo6 - fo4;
689 1699808 : zIm[in5] = fo3 + fo5;
690 :
691 1699808 : return;
692 : }
693 :
694 : /*-----------------------------------------------------------------*
695 : * fft5_shift4()
696 : * 5-point FFT with 4-point circular shift
697 : *-----------------------------------------------------------------*/
698 :
699 114160256 : static void fft5_shift4(
700 : int16_t n1, /* i : length of data */
701 : float *zRe, /* i/o: real part of input and output data */
702 : float *zIm, /* i/o: imaginary part of input and output data */
703 : const int16_t *Idx /* i : pointer of the address table */
704 : )
705 : {
706 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
707 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
708 : int16_t in1, in2, in3, in4, in5;
709 :
710 114160256 : in1 = Idx[0];
711 114160256 : in2 = Idx[n1];
712 114160256 : in3 = Idx[n1 * 2];
713 114160256 : in4 = Idx[n1 * 3];
714 114160256 : in5 = Idx[n1 * 4];
715 :
716 114160256 : fi1 = zRe[in1];
717 114160256 : fi2 = zIm[in1];
718 114160256 : fo3 = zRe[in2];
719 114160256 : fo4 = zRe[in5];
720 114160256 : fo6 = zRe[in3];
721 114160256 : fo7 = zRe[in4];
722 :
723 114160256 : fo5 = fo3 + fo4;
724 114160256 : fo8 = fo6 + fo7;
725 114160256 : fi3 = fo5 + fo8;
726 114160256 : fi4 = fo6 - fo7;
727 114160256 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
728 114160256 : fi6 = fo3 - fo4;
729 :
730 114160256 : fo3 = zIm[in2];
731 114160256 : fo4 = zIm[in5];
732 114160256 : fo6 = zIm[in3];
733 114160256 : fo7 = zIm[in4];
734 :
735 114160256 : fo5 = fo3 + fo4;
736 114160256 : fo8 = fo6 + fo7;
737 114160256 : fi7 = fo3 - fo4;
738 114160256 : fi8 = fo5 + fo8;
739 114160256 : fo1 = fo6 - fo7;
740 114160256 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
741 :
742 114160256 : zRe[in1] = fi1 + fi3;
743 114160256 : zIm[in1] = fi2 + fi8;
744 :
745 114160256 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
746 114160256 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
747 114160256 : fo7 = fi1 - fi3 / 4;
748 114160256 : fo5 = fi5 + fo7;
749 114160256 : fo6 = fo7 - fi5;
750 114160256 : zRe[in2] = fo5 - fo3;
751 114160256 : zRe[in4] = fo6 - fo4;
752 114160256 : zRe[in3] = fo6 + fo4;
753 114160256 : zRe[in5] = fo5 + fo3;
754 :
755 114160256 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
756 114160256 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
757 114160256 : fo7 = fi2 - fi8 / 4;
758 114160256 : fo5 = fo2 + fo7;
759 114160256 : fo6 = fo7 - fo2;
760 :
761 114160256 : zIm[in3] = fo6 - fo4;
762 114160256 : zIm[in2] = fo3 + fo5;
763 114160256 : zIm[in4] = fo4 + fo6;
764 114160256 : zIm[in5] = fo5 - fo3;
765 :
766 114160256 : return;
767 : }
768 :
769 : /*-----------------------------------------------------------------*
770 : * fft5_32()
771 : * 5-point FFT called for 32 times
772 : *-----------------------------------------------------------------*/
773 :
774 5658336 : static void fft5_32(
775 : float *zRe, /* i/o: real part of input and output data */
776 : float *zIm, /* i/o: imaginary part of input and output data */
777 : const int16_t *Idx /* i : pointer of the address table */
778 : )
779 : {
780 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
781 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
782 : int16_t in1, in2, in3, in4, in5;
783 :
784 5658336 : in1 = Idx[0];
785 5658336 : in2 = Idx[32];
786 5658336 : in3 = Idx[64];
787 5658336 : in4 = Idx[96];
788 5658336 : in5 = Idx[128];
789 :
790 5658336 : fi1 = zRe[in1];
791 5658336 : fi2 = zIm[in1];
792 5658336 : fo3 = zRe[in2];
793 5658336 : fo4 = zRe[in5];
794 5658336 : fo6 = zRe[in3];
795 5658336 : fo7 = zRe[in4];
796 :
797 5658336 : fo5 = fo3 + fo4;
798 5658336 : fo8 = fo6 + fo7;
799 5658336 : fi3 = fo5 + fo8;
800 5658336 : fi4 = fo6 - fo7;
801 5658336 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
802 5658336 : fi6 = fo3 - fo4;
803 :
804 5658336 : fo3 = zIm[in2];
805 5658336 : fo4 = zIm[in5];
806 5658336 : fo6 = zIm[in3];
807 5658336 : fo7 = zIm[in4];
808 :
809 5658336 : fo5 = fo3 + fo4;
810 5658336 : fo8 = fo6 + fo7;
811 5658336 : fi7 = fo3 - fo4;
812 5658336 : fi8 = fo5 + fo8;
813 5658336 : fo1 = fo6 - fo7;
814 5658336 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
815 :
816 5658336 : zRe[in1] = fi1 + fi3;
817 5658336 : zIm[in1] = fi2 + fi8;
818 :
819 5658336 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
820 5658336 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
821 5658336 : fo7 = fi1 - fi3 / 4;
822 5658336 : fo5 = fi5 + fo7;
823 5658336 : fo6 = fo7 - fi5;
824 :
825 5658336 : zRe[in2] = fo6 + fo4;
826 5658336 : zRe[in3] = fo5 + fo3;
827 5658336 : zRe[in4] = fo5 - fo3;
828 5658336 : zRe[in5] = fo6 - fo4;
829 :
830 5658336 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
831 5658336 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
832 5658336 : fo7 = fi2 - fi8 / 4;
833 5658336 : fo5 = fo2 + fo7;
834 5658336 : fo6 = fo7 - fo2;
835 :
836 5658336 : zIm[in2] = fo6 - fo4;
837 5658336 : zIm[in3] = fo5 - fo3;
838 5658336 : zIm[in4] = fo3 + fo5;
839 5658336 : zIm[in5] = fo4 + fo6;
840 :
841 5658336 : return;
842 : }
843 :
844 : /*-----------------------------------------------------------------*
845 : * fft64()
846 : * 64-point FFT
847 : *-----------------------------------------------------------------*/
848 :
849 8918770 : static void fft64(
850 : float *x, /* i/o: real part of input and output data */
851 : float *y, /* i/o: imaginary part of input and output data */
852 : const int16_t *Idx /* i : pointer of the address table */
853 : )
854 : {
855 : int16_t i, id, jd;
856 : float z[128];
857 579720050 : for ( i = 0; i < 64; i++ )
858 : {
859 570801280 : id = Idx[i];
860 570801280 : z[2 * i] = x[id];
861 570801280 : z[2 * i + 1] = y[id];
862 : }
863 :
864 8918770 : cdftForw( 128, z, Ip_fft64, w_fft64 );
865 :
866 579720050 : for ( i = 0; i < 64; i++ )
867 : {
868 570801280 : jd = Odx_fft64[i];
869 570801280 : id = Idx[jd];
870 570801280 : x[id] = z[2 * i];
871 570801280 : y[id] = z[2 * i + 1];
872 : }
873 :
874 8918770 : return;
875 : }
876 :
877 :
878 : /*-----------------------------------------------------------------*
879 : * fft32_15()
880 : * 32-point FFT called for 15 times
881 : *-----------------------------------------------------------------*/
882 :
883 1074660 : static void fft32_15(
884 : float *x, /* i/o: real part of input and output data */
885 : float *y, /* i/o: imaginary part of input and output data */
886 : const int16_t *Idx /* i : pointer of the address table */
887 : )
888 : {
889 : int16_t i, id, jd;
890 : float z[64];
891 :
892 35463780 : for ( i = 0; i < 32; i++ )
893 : {
894 34389120 : id = Idx[i];
895 34389120 : z[2 * i] = x[id];
896 34389120 : z[2 * i + 1] = y[id];
897 : }
898 :
899 1074660 : cdftForw( 64, z, Ip_fft32, w_fft32 );
900 :
901 35463780 : for ( i = 0; i < 32; i++ )
902 : {
903 34389120 : jd = Odx_fft32_15[i];
904 34389120 : id = Idx[jd];
905 34389120 : x[id] = z[2 * i];
906 34389120 : y[id] = z[2 * i + 1];
907 : }
908 :
909 1074660 : return;
910 : }
911 :
912 : /*-----------------------------------------------------------------*
913 : * fft32_5()
914 : * 32-point FFT called for 5 times
915 : *-----------------------------------------------------------------*/
916 :
917 884115 : static void fft32_5(
918 : float *x, /* i/o: real part of input and output data */
919 : float *y, /* i/o: imaginary part of input and output data */
920 : const int16_t *Idx /* i : pointer of the address table */
921 : )
922 : {
923 : int16_t i, id, jd;
924 : float z[64];
925 :
926 29175795 : for ( i = 0; i < 32; i++ )
927 : {
928 28291680 : id = Idx[i];
929 28291680 : z[2 * i] = x[id];
930 28291680 : z[2 * i + 1] = y[id];
931 : }
932 :
933 884115 : cdftForw( 64, z, Ip_fft32, w_fft32 );
934 :
935 29175795 : for ( i = 0; i < 32; i++ )
936 : {
937 28291680 : jd = Odx_fft32_5[i];
938 28291680 : id = Idx[jd];
939 28291680 : x[id] = z[2 * i];
940 28291680 : y[id] = z[2 * i + 1];
941 : }
942 :
943 884115 : return;
944 : }
945 :
946 : /*-----------------------------------------------------------------*
947 : * fft16()
948 : * 16-point FFT
949 : *-----------------------------------------------------------------*/
950 :
951 531190 : static void fft16(
952 : float *x, /* i/o: real part of input and output data */
953 : float *y, /* i/o: imaginary part of input and output data */
954 : const int16_t *Idx /* i : pointer of the address table */
955 : )
956 : {
957 : int16_t i, id, jd;
958 : float z[32];
959 :
960 9030230 : for ( i = 0; i < 16; i++ )
961 : {
962 8499040 : id = Idx[i];
963 8499040 : z[2 * i] = x[id];
964 8499040 : z[2 * i + 1] = y[id];
965 : }
966 :
967 531190 : cdftForw( 32, z, Ip_fft16, w_fft16 );
968 :
969 9030230 : for ( i = 0; i < 16; i++ )
970 : {
971 8499040 : jd = Odx_fft16[i];
972 8499040 : id = Idx[jd];
973 8499040 : x[id] = z[2 * i];
974 8499040 : y[id] = z[2 * i + 1];
975 : }
976 :
977 531190 : return;
978 : }
979 :
980 : /*-----------------------------------------------------------------*
981 : * fft8()
982 : * 8-point FFT
983 : *-----------------------------------------------------------------*/
984 :
985 50760 : static void fft8(
986 : float *x, /* i/o: real part of input and output data */
987 : float *y, /* i/o: imaginary part of input and output data */
988 : const int16_t *Idx /* i : pointer of the address table */
989 : )
990 : {
991 : int16_t i, id;
992 : float z[16];
993 :
994 456840 : for ( i = 0; i < 8; i++ )
995 : {
996 406080 : id = Idx[i];
997 406080 : z[2 * i] = x[id];
998 406080 : z[2 * i + 1] = y[id];
999 : }
1000 :
1001 50760 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1002 :
1003 456840 : for ( i = 0; i < 8; i++ )
1004 : {
1005 406080 : id = Idx[i];
1006 406080 : x[id] = z[2 * i];
1007 406080 : y[id] = z[2 * i + 1];
1008 : }
1009 :
1010 50760 : return;
1011 : }
1012 :
1013 : /*-----------------------------------------------------------------*
1014 : * fft8_5()
1015 : * 8-point FFT with shift 5
1016 : *-----------------------------------------------------------------*/
1017 :
1018 5080 : static void fft8_5(
1019 : float *x, /* i/o: real part of input and output data */
1020 : float *y, /* i/o: imaginary part of input and output data */
1021 : const int16_t *Idx /* i : pointer of the address table */
1022 : )
1023 : {
1024 : int16_t i, id, jd;
1025 : float z[16];
1026 :
1027 45720 : for ( i = 0; i < 8; i++ )
1028 : {
1029 40640 : id = Idx[i];
1030 40640 : z[2 * i] = x[id];
1031 40640 : z[2 * i + 1] = y[id];
1032 : }
1033 :
1034 5080 : cdftForw( 16, z, Ip_fft8, w_fft8 );
1035 :
1036 45720 : for ( i = 0; i < 8; i++ )
1037 : {
1038 40640 : jd = Odx_fft8_5[i];
1039 40640 : id = Idx[jd];
1040 40640 : x[id] = z[2 * i];
1041 40640 : y[id] = z[2 * i + 1];
1042 : }
1043 5080 : return;
1044 : }
1045 :
1046 : /*-----------------------------------------------------------------*
1047 : * fft5_8()
1048 : * 5-point FFT with shift 2
1049 : *-----------------------------------------------------------------*/
1050 :
1051 8128 : static void fft5_8(
1052 : int16_t n1, /* i : length of data */
1053 : float *zRe, /* i/o: real part of input and output data */
1054 : float *zIm, /* i/o: imaginary part of input and output data */
1055 : const int16_t *Idx /* i : pointer of the address table */
1056 : )
1057 : {
1058 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1059 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1060 : int16_t in1, in2, in3, in4, in5;
1061 :
1062 8128 : in1 = Idx[0];
1063 8128 : in2 = Idx[n1];
1064 8128 : in3 = Idx[n1 * 2];
1065 8128 : in4 = Idx[n1 * 3];
1066 8128 : in5 = Idx[n1 * 4];
1067 :
1068 8128 : fi1 = zRe[in1];
1069 8128 : fi2 = zIm[in1];
1070 8128 : fo3 = zRe[in2];
1071 8128 : fo4 = zRe[in5];
1072 8128 : fo6 = zRe[in3];
1073 8128 : fo7 = zRe[in4];
1074 :
1075 8128 : fo5 = fo3 + fo4;
1076 8128 : fo8 = fo6 + fo7;
1077 8128 : fi3 = fo5 + fo8;
1078 8128 : fi4 = fo6 - fo7;
1079 8128 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1080 8128 : fi6 = fo3 - fo4;
1081 :
1082 8128 : fo3 = zIm[in2];
1083 8128 : fo4 = zIm[in5];
1084 8128 : fo6 = zIm[in3];
1085 8128 : fo7 = zIm[in4];
1086 :
1087 8128 : fo5 = fo3 + fo4;
1088 8128 : fo8 = fo6 + fo7;
1089 8128 : fi7 = fo3 - fo4;
1090 8128 : fi8 = fo5 + fo8;
1091 8128 : fo1 = fo6 - fo7;
1092 8128 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1093 :
1094 8128 : zRe[in1] = fi1 + fi3;
1095 8128 : zIm[in1] = fi2 + fi8;
1096 :
1097 8128 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1098 8128 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1099 8128 : fo7 = fi1 - fi3 / 4;
1100 8128 : fo5 = fi5 + fo7;
1101 8128 : fo6 = fo7 - fi5;
1102 :
1103 8128 : zRe[in2] = fo6 - fo4;
1104 8128 : zRe[in3] = fo5 - fo3;
1105 8128 : zRe[in5] = fo6 + fo4;
1106 8128 : zRe[in4] = fo5 + fo3;
1107 :
1108 8128 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1109 8128 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1110 8128 : fo7 = fi2 - fi8 / 4;
1111 8128 : fo5 = fo2 + fo7;
1112 8128 : fo6 = fo7 - fo2;
1113 :
1114 8128 : zIm[in2] = fo4 + fo6;
1115 8128 : zIm[in3] = fo3 + fo5;
1116 8128 : zIm[in4] = fo5 - fo3;
1117 8128 : zIm[in5] = fo6 - fo4;
1118 :
1119 8128 : return;
1120 : }
1121 :
1122 : /*-----------------------------------------------------------------*
1123 : * fft4_5()
1124 : * 8-point FFT with shift 1
1125 : *-----------------------------------------------------------------*/
1126 :
1127 480 : static void fft4_5(
1128 : float *x, /* i/o: real part of input and output data */
1129 : float *y, /* i/o: imaginary part of input and output data */
1130 : const int16_t *Idx /* i : pointer of the address table */
1131 : )
1132 : {
1133 : int16_t i, id, jd;
1134 : float z[8];
1135 :
1136 2400 : for ( i = 0; i < 4; i++ )
1137 : {
1138 1920 : id = Idx[i];
1139 1920 : z[2 * i] = x[id];
1140 1920 : z[2 * i + 1] = y[id];
1141 : }
1142 :
1143 480 : cdftForw( 8, z, Ip_fft4, w_fft4 );
1144 :
1145 2400 : for ( i = 0; i < 4; i++ )
1146 : {
1147 1920 : jd = Odx_fft4_5[i];
1148 1920 : id = Idx[jd];
1149 1920 : x[id] = z[2 * i];
1150 1920 : y[id] = z[2 * i + 1];
1151 : }
1152 480 : return;
1153 : }
1154 :
1155 : /*-----------------------------------------------------------------*
1156 : * fft5_4()
1157 : * 5-point FFT with shift 4
1158 : *-----------------------------------------------------------------*/
1159 :
1160 384 : static void fft5_4(
1161 : int16_t n1,
1162 : float *zRe,
1163 : float *zIm,
1164 : const int16_t *Idx )
1165 : {
1166 : float fi1, fi2, fi3, fi4, fi5, fi6, fi7, fi8;
1167 : float fo1, fo2, fo3, fo4, fo5, fo6, fo7, fo8;
1168 : int16_t in1, in2, in3, in4, in5;
1169 :
1170 384 : in1 = Idx[0];
1171 384 : in2 = Idx[n1];
1172 384 : in3 = Idx[n1 * 2];
1173 384 : in4 = Idx[n1 * 3];
1174 384 : in5 = Idx[n1 * 4];
1175 :
1176 384 : fi1 = zRe[in1];
1177 384 : fi2 = zIm[in1];
1178 384 : fo3 = zRe[in2];
1179 384 : fo4 = zRe[in5];
1180 384 : fo6 = zRe[in3];
1181 384 : fo7 = zRe[in4];
1182 :
1183 384 : fo5 = fo3 + fo4;
1184 384 : fo8 = fo6 + fo7;
1185 384 : fi3 = fo5 + fo8;
1186 384 : fi4 = fo6 - fo7;
1187 384 : fi5 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1188 384 : fi6 = fo3 - fo4;
1189 :
1190 384 : fo3 = zIm[in2];
1191 384 : fo4 = zIm[in5];
1192 384 : fo6 = zIm[in3];
1193 384 : fo7 = zIm[in4];
1194 :
1195 384 : fo5 = fo3 + fo4;
1196 384 : fo8 = fo6 + fo7;
1197 384 : fi7 = fo3 - fo4;
1198 384 : fi8 = fo5 + fo8;
1199 384 : fo1 = fo6 - fo7;
1200 384 : fo2 = FFT_15PONIT_WNK1 * ( fo5 - fo8 );
1201 :
1202 384 : zRe[in1] = fi1 + fi3;
1203 384 : zIm[in1] = fi2 + fi8;
1204 :
1205 384 : fo3 = FFT_15PONIT_WNK2 * fi7 + FFT_15PONIT_WNK3 * fo1;
1206 384 : fo4 = FFT_15PONIT_WNK2 * fo1 - FFT_15PONIT_WNK3 * fi7;
1207 384 : fo7 = fi1 - fi3 / 4;
1208 384 : fo5 = fi5 + fo7;
1209 384 : fo6 = fo7 - fi5;
1210 :
1211 384 : zRe[in2] = fo5 - fo3;
1212 384 : zRe[in4] = fo6 - fo4;
1213 384 : zRe[in3] = fo6 + fo4;
1214 384 : zRe[in5] = fo5 + fo3;
1215 :
1216 384 : fo3 = FFT_15PONIT_WNK2 * fi6 + FFT_15PONIT_WNK3 * fi4;
1217 384 : fo4 = FFT_15PONIT_WNK2 * fi4 - FFT_15PONIT_WNK3 * fi6;
1218 384 : fo7 = fi2 - fi8 / 4;
1219 384 : fo5 = fo2 + fo7;
1220 384 : fo6 = fo7 - fo2;
1221 :
1222 384 : zIm[in2] = fo3 + fo5;
1223 384 : zIm[in3] = fo6 - fo4;
1224 384 : zIm[in4] = fo4 + fo6;
1225 384 : zIm[in5] = fo5 - fo3;
1226 :
1227 384 : return;
1228 : }
1229 :
1230 :
1231 : /*-----------------------------------------------------------------*
1232 : * DoRTFT80()
1233 : * a low complexity 2-dimensional DFT of 80 points
1234 : *-----------------------------------------------------------------*/
1235 :
1236 106238 : void DoRTFT80(
1237 : float *x, /* i/o: real part of input and output data */
1238 : float *y /* i/o: imaginary part of input and output data */
1239 : )
1240 : {
1241 : int16_t j;
1242 :
1243 : /* Applying 16-point FFT for 5 times based on the address table Idx_dortft80 */
1244 637428 : for ( j = 0; j < 5; j++ )
1245 : {
1246 531190 : fft16( x, y, Idx_dortft80 + 16 * j );
1247 : }
1248 :
1249 : /* Applying 5-point FFT for 16 times based on the address table Idx_dortft80 */
1250 1806046 : for ( j = 0; j < 16; j++ )
1251 : {
1252 1699808 : fft5_shift1( 16, x, y, Idx_dortft80 + j );
1253 : }
1254 :
1255 106238 : return;
1256 : }
1257 :
1258 : /*-----------------------------------------------------------------*
1259 : * DoRTFT120()
1260 : * a low complexity 2-dimensional DFT of 120 points
1261 : *-----------------------------------------------------------------*/
1262 :
1263 3384 : void DoRTFT120(
1264 : float *x, /* i/o: real part of input and output data */
1265 : float *y /* i/o: imaginary part of input and output data */
1266 : )
1267 : {
1268 : int16_t j;
1269 :
1270 : /* Applying 8-point FFT for 15 times based on the address table Idx_dortft120 */
1271 54144 : for ( j = 0; j < 15; j++ )
1272 : {
1273 50760 : fft8( x, y, Idx_dortft120 + 8 * j );
1274 : }
1275 :
1276 : /* Applying 15-point FFT for 8 times based on the address table Idx_dortft120 */
1277 30456 : for ( j = 0; j < 8; j++ )
1278 : {
1279 27072 : fft15_shift2( 8, x, y, Idx_dortft120 + j );
1280 : }
1281 :
1282 3384 : return;
1283 : }
1284 :
1285 : /*-----------------------------------------------------------------*
1286 : * DoRTFT160()
1287 : * a low complexity 2-dimensional DFT of 160 points
1288 : *-----------------------------------------------------------------*/
1289 :
1290 176823 : void DoRTFT160(
1291 : float x[], /* i/o: real part of input and output data */
1292 : float y[] /* i/o: imaginary part of input and output data */
1293 : )
1294 : {
1295 : int16_t j;
1296 :
1297 : /* Applying 32-point FFT for 5 times based on the address table Idx_dortft160 */
1298 1060938 : for ( j = 0; j < 5; j++ )
1299 : {
1300 884115 : fft32_5( x, y, Idx_dortft160 + 32 * j );
1301 : }
1302 :
1303 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1304 5835159 : for ( j = 0; j < 32; j++ )
1305 : {
1306 5658336 : fft5_32( x, y, Idx_dortft160 + j );
1307 : }
1308 :
1309 176823 : return;
1310 : }
1311 :
1312 : /*-----------------------------------------------------------------*
1313 : * DoRTFT320()
1314 : * a low complexity 2-dimensional DFT of 320 points
1315 : *-----------------------------------------------------------------*/
1316 :
1317 1783754 : void DoRTFT320(
1318 : float *x, /* i/o: real part of input and output data */
1319 : float *y /* i/o: imaginary part of input and output data */
1320 : )
1321 : {
1322 : int16_t j;
1323 :
1324 : /* Applying 64-point FFT for 5 times based on the address table Idx_dortft160 */
1325 10702524 : for ( j = 0; j < 5; j++ )
1326 : {
1327 8918770 : fft64( x, y, Idx_dortft320 + 64 * j );
1328 : }
1329 :
1330 : /* Applying 5-point FFT for 64 times based on the address table Idx_dortft160 */
1331 115944010 : for ( j = 0; j < 64; j++ )
1332 : {
1333 114160256 : fft5_shift4( 64, x, y, Idx_dortft320 + j );
1334 : }
1335 :
1336 1783754 : return;
1337 : }
1338 :
1339 : /*-----------------------------------------------------------------*
1340 : * DoRTFT480()
1341 : * a low complexity 2-dimensional DFT of 480 points
1342 : *-----------------------------------------------------------------*/
1343 :
1344 71644 : void DoRTFT480(
1345 : float *x, /* i/o: real part of input and output data */
1346 : float *y /* i/o: imaginary part of input and output data */
1347 : )
1348 : {
1349 : int16_t j;
1350 :
1351 : /* Applying 32-point FFT for 15 times based on the address table Idx_dortft160 */
1352 1146304 : for ( j = 0; j < 15; j++ )
1353 : {
1354 1074660 : fft32_15( x, y, Idx_dortft480 + 32 * j );
1355 : }
1356 :
1357 : /* Applying 5-point FFT for 32 times based on the address table Idx_dortft160 */
1358 2364252 : for ( j = 0; j < 32; j++ )
1359 : {
1360 2292608 : fft15_shift8( 32, x, y, Idx_dortft480 + j );
1361 : }
1362 :
1363 71644 : return;
1364 : }
1365 :
1366 : /*-----------------------------------------------------------------*
1367 : * DoRTFT40()
1368 : * a low complexity 2-dimensional DFT of 40 points
1369 : *-----------------------------------------------------------------*/
1370 :
1371 1016 : void DoRTFT40(
1372 : float *x, /* i/o: real part of input and output data */
1373 : float *y /* i/o: imaginary part of input and output data */
1374 : )
1375 : {
1376 : int16_t j;
1377 : /* Applying 8-point FFT for 5 times based on the address table Idx_dortft40 */
1378 6096 : for ( j = 0; j < 5; j++ )
1379 : {
1380 5080 : fft8_5( x, y, Idx_dortft40 + 8 * j );
1381 : }
1382 :
1383 : /* Applying 5-point FFT for 8 times based on the address table Idx_dortft40 */
1384 9144 : for ( j = 0; j < 8; j++ )
1385 : {
1386 8128 : fft5_8( 8, x, y, Idx_dortft40 + j );
1387 : }
1388 :
1389 1016 : return;
1390 : }
1391 :
1392 : /*-----------------------------------------------------------------*
1393 : * DoRTFT20()
1394 : * a low complexity 2-dimensional DFT of 20 points
1395 : *-----------------------------------------------------------------*/
1396 :
1397 96 : void DoRTFT20(
1398 : float *x, /* i/o: real part of input and output data */
1399 : float *y /* i/o: imaginary part of input and output data */
1400 : )
1401 : {
1402 : int16_t j;
1403 :
1404 : /* Applying 4-point FFT for 5 times based on the address table Idx_dortft20 */
1405 576 : for ( j = 0; j < 5; j++ )
1406 : {
1407 480 : fft4_5( x, y, Idx_dortft20 + 4 * j );
1408 : }
1409 :
1410 : /* Applying 5-point FFT for 4 times based on the address table Idx_dortft20 */
1411 480 : for ( j = 0; j < 4; j++ )
1412 : {
1413 384 : fft5_4( 4, x, y, Idx_dortft20 + j );
1414 : }
1415 :
1416 96 : return;
1417 : }
1418 :
1419 : /*-----------------------------------------------------------------*
1420 : * DoRTFT128()
1421 : * FFT with 128 points
1422 : *-----------------------------------------------------------------*/
1423 :
1424 5166267 : void DoRTFT128(
1425 : float *x, /* i/o: real part of input and output data */
1426 : float *y /* i/o: imaginary part of input and output data */
1427 : )
1428 : {
1429 :
1430 : int16_t i;
1431 : float z[256];
1432 :
1433 666448443 : for ( i = 0; i < 128; i++ )
1434 : {
1435 661282176 : z[2 * i] = x[i];
1436 661282176 : z[2 * i + 1] = y[i];
1437 : }
1438 :
1439 5166267 : cdftForw( 256, z, Ip_fft128, w_fft128 );
1440 :
1441 5166267 : x[0] = z[0];
1442 5166267 : y[0] = z[1];
1443 661282176 : for ( i = 1; i < 128; i++ )
1444 : {
1445 656115909 : x[128 - i] = z[2 * i];
1446 656115909 : y[128 - i] = z[2 * i + 1];
1447 : }
1448 :
1449 5166267 : return;
1450 : }
1451 :
1452 : /*-----------------------------------------------------------------*
1453 : * cdftForw()
1454 : * Main fuction of Complex Discrete Fourier Transform
1455 : *-----------------------------------------------------------------*/
1456 :
1457 35370409 : static void cdftForw(
1458 : int16_t n, /* i : data length of real and imag */
1459 : float *a, /* i/o: input/output data */
1460 : const int16_t *ip, /* i : work area for bit reversal */
1461 : const float *w /* i : cos/sin table */
1462 : )
1463 : {
1464 : /* bit reversal */
1465 35370409 : bitrv2_SR( n, ip + 2, a );
1466 :
1467 : /* Do FFT */
1468 35370409 : cftfsub( n, a, w );
1469 35370409 : }
1470 :
1471 : /*-----------------------------------------------------------------*
1472 : * bitrv2_SR()
1473 : * Bit reversal
1474 : *-----------------------------------------------------------------*/
1475 :
1476 35925519 : static void bitrv2_SR(
1477 : int16_t n, /* i : data length of real and imag */
1478 : const int16_t *ip, /* i/o: work area for bit reversal */
1479 : float *a /* i/o: input/output data */
1480 : )
1481 : {
1482 : int16_t j, j1, k, k1, m, m2;
1483 : int16_t l;
1484 : float xr, xi, yr, yi;
1485 :
1486 35925519 : if ( n == 64 )
1487 : {
1488 2513885 : m = 4;
1489 2513885 : l = -1;
1490 : }
1491 33411634 : else if ( n == 256 )
1492 : {
1493 5166282 : m = 8;
1494 5166282 : l = -1;
1495 : }
1496 28245352 : else if ( n == 16 )
1497 : {
1498 55840 : m = 2;
1499 55840 : l = -1;
1500 : }
1501 : else
1502 : {
1503 28189512 : l = n;
1504 28189512 : m = 1;
1505 :
1506 115281213 : while ( ( m << 3 ) < l )
1507 : {
1508 87091701 : l >>= 1;
1509 87091701 : m <<= 1;
1510 : }
1511 28189512 : l -= m * 8;
1512 : }
1513 :
1514 35925519 : m2 = 2 * m;
1515 :
1516 35925519 : if ( l == 0 )
1517 : {
1518 101891314 : for ( k = 0; k < m; k++ )
1519 : {
1520 313442576 : for ( j = 0; j < k; j++ )
1521 : {
1522 227201976 : j1 = 2 * j + ip[k];
1523 227201976 : k1 = 2 * k + ip[j];
1524 227201976 : xr = a[j1];
1525 227201976 : xi = a[j1 + 1];
1526 227201976 : yr = a[k1];
1527 227201976 : yi = a[k1 + 1];
1528 227201976 : a[j1] = yr;
1529 227201976 : a[j1 + 1] = yi;
1530 227201976 : a[k1] = xr;
1531 227201976 : a[k1 + 1] = xi;
1532 227201976 : j1 += m2;
1533 227201976 : k1 += 2 * m2;
1534 227201976 : xr = a[j1];
1535 227201976 : xi = a[j1 + 1];
1536 227201976 : yr = a[k1];
1537 227201976 : yi = a[k1 + 1];
1538 227201976 : a[j1] = yr;
1539 227201976 : a[j1 + 1] = yi;
1540 227201976 : a[k1] = xr;
1541 227201976 : a[k1 + 1] = xi;
1542 227201976 : j1 += m2;
1543 227201976 : k1 -= m2;
1544 227201976 : xr = a[j1];
1545 227201976 : xi = a[j1 + 1];
1546 227201976 : yr = a[k1];
1547 227201976 : yi = a[k1 + 1];
1548 227201976 : a[j1] = yr;
1549 227201976 : a[j1 + 1] = yi;
1550 227201976 : a[k1] = xr;
1551 227201976 : a[k1 + 1] = xi;
1552 227201976 : j1 += m2;
1553 227201976 : k1 += 2 * m2;
1554 227201976 : xr = a[j1];
1555 227201976 : xi = a[j1 + 1];
1556 227201976 : yr = a[k1];
1557 227201976 : yi = a[k1 + 1];
1558 227201976 : a[j1] = yr;
1559 227201976 : a[j1 + 1] = yi;
1560 227201976 : a[k1] = xr;
1561 227201976 : a[k1 + 1] = xi;
1562 : }
1563 :
1564 86240600 : j1 = 2 * k + m2 + ip[k];
1565 86240600 : k1 = j1 + m2;
1566 86240600 : xr = a[j1];
1567 86240600 : xi = a[j1 + 1];
1568 86240600 : yr = a[k1];
1569 86240600 : yi = a[k1 + 1];
1570 86240600 : a[j1] = yr;
1571 86240600 : a[j1 + 1] = yi;
1572 86240600 : a[k1] = xr;
1573 86240600 : a[k1 + 1] = xi;
1574 : }
1575 : }
1576 : else
1577 : {
1578 252118244 : for ( k = 1; k < m; k++ )
1579 : {
1580 1896294245 : for ( j = 0; j < k; j++ )
1581 : {
1582 1664450806 : j1 = 2 * j + ip[k];
1583 1664450806 : k1 = 2 * k + ip[j];
1584 1664450806 : xr = a[j1];
1585 1664450806 : xi = a[j1 + 1];
1586 1664450806 : yr = a[k1];
1587 1664450806 : yi = a[k1 + 1];
1588 1664450806 : a[j1] = yr;
1589 1664450806 : a[j1 + 1] = yi;
1590 1664450806 : a[k1] = xr;
1591 1664450806 : a[k1 + 1] = xi;
1592 1664450806 : j1 += m2;
1593 1664450806 : k1 += m2;
1594 1664450806 : xr = a[j1];
1595 1664450806 : xi = a[j1 + 1];
1596 1664450806 : yr = a[k1];
1597 1664450806 : yi = a[k1 + 1];
1598 1664450806 : a[j1] = yr;
1599 1664450806 : a[j1 + 1] = yi;
1600 1664450806 : a[k1] = xr;
1601 1664450806 : a[k1 + 1] = xi;
1602 : }
1603 : }
1604 : }
1605 :
1606 35925519 : return;
1607 : }
1608 :
1609 : /*-----------------------------------------------------------------*
1610 : * cftfsub()
1611 : * Complex Discrete Fourier Transform
1612 : *-----------------------------------------------------------------*/
1613 :
1614 35825524 : static void cftfsub(
1615 : int16_t n, /* i : data length of real and imag */
1616 : float *a, /* i/o: input/output data */
1617 : const float *w /* i : cos/sin table */
1618 : )
1619 : {
1620 : int16_t j, j1, j2, j3, l;
1621 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1622 :
1623 35825524 : l = 2;
1624 35825524 : if ( n > 8 )
1625 : {
1626 35825044 : cft1st( n, a, w );
1627 :
1628 35825044 : l = 8;
1629 107474167 : while ( ( l << 2 ) < n )
1630 : {
1631 71649123 : cftmdl( n, l, a, w );
1632 71649123 : l <<= 2;
1633 : }
1634 : }
1635 :
1636 35825524 : if ( ( l << 2 ) == n )
1637 : {
1638 556295266 : for ( j = 0; j < l; j += 2 )
1639 : {
1640 540644552 : j1 = j + l;
1641 540644552 : j2 = j1 + l;
1642 540644552 : j3 = j2 + l;
1643 540644552 : x0r = a[j] + a[j1];
1644 540644552 : x0i = a[j + 1] + a[j1 + 1];
1645 540644552 : x1r = a[j] - a[j1];
1646 540644552 : x1i = a[j + 1] - a[j1 + 1];
1647 540644552 : x2r = a[j2] + a[j3];
1648 540644552 : x2i = a[j2 + 1] + a[j3 + 1];
1649 540644552 : x3r = a[j2] - a[j3];
1650 540644552 : x3i = a[j2 + 1] - a[j3 + 1];
1651 540644552 : a[j] = x0r + x2r;
1652 540644552 : a[j + 1] = x0i + x2i;
1653 540644552 : a[j2] = x0r - x2r;
1654 540644552 : a[j2 + 1] = x0i - x2i;
1655 540644552 : a[j1] = x1r - x3i;
1656 540644552 : a[j1 + 1] = x1i + x3r;
1657 540644552 : a[j3] = x1r + x3i;
1658 540644552 : a[j3 + 1] = x1i - x3r;
1659 : }
1660 : }
1661 : else
1662 : {
1663 3599594746 : for ( j = 0; j < l; j += 2 )
1664 : {
1665 3579419936 : j1 = j + l;
1666 3579419936 : x0r = a[j] - a[j1];
1667 3579419936 : x0i = a[j + 1] - a[j1 + 1];
1668 3579419936 : a[j] += a[j1];
1669 3579419936 : a[j + 1] += a[j1 + 1];
1670 3579419936 : a[j1] = x0r;
1671 3579419936 : a[j1 + 1] = x0i;
1672 : }
1673 : }
1674 :
1675 35825524 : return;
1676 : }
1677 :
1678 : /*-----------------------------------------------------------------*
1679 : * cft1st()
1680 : * Subfunction of Complex Discrete Fourier Transform
1681 : *-----------------------------------------------------------------*/
1682 :
1683 35925039 : static void cft1st(
1684 : int16_t n, /* i : data length of real and imag */
1685 : float *a, /* i/o: input/output data */
1686 : const float *w /* i : cos/sin table */
1687 : )
1688 : {
1689 : int16_t j, k1, k2;
1690 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1691 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1692 :
1693 35925039 : x0r = a[0] + a[2];
1694 35925039 : x0i = a[1] + a[3];
1695 35925039 : x1r = a[0] - a[2];
1696 35925039 : x1i = a[1] - a[3];
1697 35925039 : x2r = a[4] + a[6];
1698 35925039 : x2i = a[5] + a[7];
1699 35925039 : x3r = a[4] - a[6];
1700 35925039 : x3i = a[5] - a[7];
1701 35925039 : a[0] = x0r + x2r;
1702 35925039 : a[1] = x0i + x2i;
1703 35925039 : a[4] = x0r - x2r;
1704 35925039 : a[5] = x0i - x2i;
1705 35925039 : a[2] = x1r - x3i;
1706 35925039 : a[3] = x1i + x3r;
1707 35925039 : a[6] = x1r + x3i;
1708 35925039 : a[7] = x1i - x3r;
1709 35925039 : wk1r = w[2];
1710 35925039 : x0r = a[8] + a[10];
1711 35925039 : x0i = a[9] + a[11];
1712 35925039 : x1r = a[8] - a[10];
1713 35925039 : x1i = a[9] - a[11];
1714 35925039 : x2r = a[12] + a[14];
1715 35925039 : x2i = a[13] + a[15];
1716 35925039 : x3r = a[12] - a[14];
1717 35925039 : x3i = a[13] - a[15];
1718 35925039 : a[8] = x0r + x2r;
1719 35925039 : a[9] = x0i + x2i;
1720 35925039 : a[12] = x2i - x0i;
1721 35925039 : a[13] = x0r - x2r;
1722 35925039 : x0r = x1r - x3i;
1723 35925039 : x0i = x1i + x3r;
1724 35925039 : a[10] = wk1r * ( x0r - x0i );
1725 35925039 : a[11] = wk1r * ( x0r + x0i );
1726 35925039 : x0r = x3i + x1r;
1727 35925039 : x0i = x3r - x1i;
1728 35925039 : a[14] = wk1r * ( x0i - x0r );
1729 35925039 : a[15] = wk1r * ( x0i + x0r );
1730 35925039 : k1 = 0;
1731 :
1732 1165577000 : for ( j = 16; j < n; j += 16 )
1733 : {
1734 1129651961 : k1 += 2;
1735 1129651961 : k2 = 2 * k1;
1736 1129651961 : wk2r = w[k1];
1737 1129651961 : wk2i = w[k1 + 1];
1738 1129651961 : wk1r = w[k2];
1739 1129651961 : wk1i = w[k2 + 1];
1740 1129651961 : wk3r = wk1r - 2 * wk2i * wk1i;
1741 1129651961 : wk3i = 2 * wk2i * wk1r - wk1i;
1742 1129651961 : x0r = a[j] + a[j + 2];
1743 1129651961 : x0i = a[j + 1] + a[j + 3];
1744 1129651961 : x1r = a[j] - a[j + 2];
1745 1129651961 : x1i = a[j + 1] - a[j + 3];
1746 1129651961 : x2r = a[j + 4] + a[j + 6];
1747 1129651961 : x2i = a[j + 5] + a[j + 7];
1748 1129651961 : x3r = a[j + 4] - a[j + 6];
1749 1129651961 : x3i = a[j + 5] - a[j + 7];
1750 1129651961 : a[j] = x0r + x2r;
1751 1129651961 : a[j + 1] = x0i + x2i;
1752 1129651961 : x0r -= x2r;
1753 1129651961 : x0i -= x2i;
1754 1129651961 : a[j + 4] = wk2r * x0r - wk2i * x0i;
1755 1129651961 : a[j + 5] = wk2r * x0i + wk2i * x0r;
1756 1129651961 : x0r = x1r - x3i;
1757 1129651961 : x0i = x1i + x3r;
1758 1129651961 : a[j + 2] = wk1r * x0r - wk1i * x0i;
1759 1129651961 : a[j + 3] = wk1r * x0i + wk1i * x0r;
1760 1129651961 : x0r = x1r + x3i;
1761 1129651961 : x0i = x1i - x3r;
1762 1129651961 : a[j + 6] = wk3r * x0r - wk3i * x0i;
1763 1129651961 : a[j + 7] = wk3r * x0i + wk3i * x0r;
1764 1129651961 : wk1r = w[k2 + 2];
1765 1129651961 : wk1i = w[k2 + 3];
1766 1129651961 : wk3r = wk1r - 2 * wk2r * wk1i;
1767 1129651961 : wk3i = 2 * wk2r * wk1r - wk1i;
1768 1129651961 : x0r = a[j + 8] + a[j + 10];
1769 1129651961 : x0i = a[j + 9] + a[j + 11];
1770 1129651961 : x1r = a[j + 8] - a[j + 10];
1771 1129651961 : x1i = a[j + 9] - a[j + 11];
1772 1129651961 : x2r = a[j + 12] + a[j + 14];
1773 1129651961 : x2i = a[j + 13] + a[j + 15];
1774 1129651961 : x3r = a[j + 12] - a[j + 14];
1775 1129651961 : x3i = a[j + 13] - a[j + 15];
1776 1129651961 : a[j + 8] = x0r + x2r;
1777 1129651961 : a[j + 9] = x0i + x2i;
1778 1129651961 : x0r -= x2r;
1779 1129651961 : x0i -= x2i;
1780 1129651961 : a[j + 12] = -wk2i * x0r - wk2r * x0i;
1781 1129651961 : a[j + 13] = -wk2i * x0i + wk2r * x0r;
1782 1129651961 : x0r = x1r - x3i;
1783 1129651961 : x0i = x1i + x3r;
1784 1129651961 : a[j + 10] = wk1r * x0r - wk1i * x0i;
1785 1129651961 : a[j + 11] = wk1r * x0i + wk1i * x0r;
1786 1129651961 : x0r = x1r + x3i;
1787 1129651961 : x0i = x1i - x3r;
1788 1129651961 : a[j + 14] = wk3r * x0r - wk3i * x0i;
1789 1129651961 : a[j + 15] = wk3r * x0i + wk3i * x0r;
1790 : }
1791 :
1792 35925039 : return;
1793 : }
1794 :
1795 : /*-----------------------------------------------------------------*
1796 : * cftmdl()
1797 : * Subfunction of Complex Discrete Fourier Transform
1798 : *-----------------------------------------------------------------*/
1799 :
1800 71749118 : static void cftmdl(
1801 : int16_t n, /* i : data length of real and imag */
1802 : int16_t l, /* i : initial shift for processing */
1803 : float *a, /* i/o: input/output data */
1804 : const float *w /* i : cos/sin table */
1805 : )
1806 : {
1807 : int16_t j, j1, j2, j3, k, k1, k2, m, m2;
1808 : float wk1r, wk1i, wk2r, wk2i, wk3r, wk3i;
1809 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1810 :
1811 71749118 : m = l << 2;
1812 1397737042 : for ( j = 0; j < l; j += 2 )
1813 : {
1814 1325987924 : j1 = j + l;
1815 1325987924 : j2 = j1 + l;
1816 1325987924 : j3 = j2 + l;
1817 1325987924 : x0r = a[j] + a[j1];
1818 1325987924 : x0i = a[j + 1] + a[j1 + 1];
1819 1325987924 : x1r = a[j] - a[j1];
1820 1325987924 : x1i = a[j + 1] - a[j1 + 1];
1821 1325987924 : x2r = a[j2] + a[j3];
1822 1325987924 : x2i = a[j2 + 1] + a[j3 + 1];
1823 1325987924 : x3r = a[j2] - a[j3];
1824 1325987924 : x3i = a[j2 + 1] - a[j3 + 1];
1825 1325987924 : a[j] = x0r + x2r;
1826 1325987924 : a[j + 1] = x0i + x2i;
1827 1325987924 : a[j2] = x0r - x2r;
1828 1325987924 : a[j2 + 1] = x0i - x2i;
1829 1325987924 : a[j1] = x1r - x3i;
1830 1325987924 : a[j1 + 1] = x1i + x3r;
1831 1325987924 : a[j3] = x1r + x3i;
1832 1325987924 : a[j3 + 1] = x1i - x3r;
1833 : }
1834 :
1835 71749118 : wk1r = w[2];
1836 1397737042 : for ( j = m; j < l + m; j += 2 )
1837 : {
1838 1325987924 : j1 = j + l;
1839 1325987924 : j2 = j1 + l;
1840 1325987924 : j3 = j2 + l;
1841 1325987924 : x0r = a[j] + a[j1];
1842 1325987924 : x0i = a[j + 1] + a[j1 + 1];
1843 1325987924 : x1r = a[j] - a[j1];
1844 1325987924 : x1i = a[j + 1] - a[j1 + 1];
1845 1325987924 : x2r = a[j2] + a[j3];
1846 1325987924 : x2i = a[j2 + 1] + a[j3 + 1];
1847 1325987924 : x3r = a[j2] - a[j3];
1848 1325987924 : x3i = a[j2 + 1] - a[j3 + 1];
1849 1325987924 : a[j] = x0r + x2r;
1850 1325987924 : a[j + 1] = x0i + x2i;
1851 1325987924 : a[j2] = x2i - x0i;
1852 1325987924 : a[j2 + 1] = x0r - x2r;
1853 1325987924 : x0r = x1r - x3i;
1854 1325987924 : x0i = x1i + x3r;
1855 1325987924 : a[j1] = wk1r * ( x0r - x0i );
1856 1325987924 : a[j1 + 1] = wk1r * ( x0r + x0i );
1857 1325987924 : x0r = x3i + x1r;
1858 1325987924 : x0i = x3r - x1i;
1859 1325987924 : a[j3] = wk1r * ( x0i - x0r );
1860 1325987924 : a[j3 + 1] = wk1r * ( x0i + x0r );
1861 : }
1862 :
1863 71749118 : k1 = 0;
1864 71749118 : m2 = 2 * m;
1865 371333909 : for ( k = m2; k < n; k += m2 )
1866 : {
1867 299584791 : k1 += 2;
1868 299584791 : k2 = 2 * k1;
1869 299584791 : wk2r = w[k1];
1870 299584791 : wk2i = w[k1 + 1];
1871 299584791 : wk1r = w[k2];
1872 299584791 : wk1i = w[k2 + 1];
1873 299584791 : wk3r = wk1r - 2 * wk2i * wk1i;
1874 299584791 : wk3i = 2 * wk2i * wk1r - wk1i;
1875 2023523295 : for ( j = k; j < l + k; j += 2 )
1876 : {
1877 1723938504 : j1 = j + l;
1878 1723938504 : j2 = j1 + l;
1879 1723938504 : j3 = j2 + l;
1880 1723938504 : x0r = a[j] + a[j1];
1881 1723938504 : x0i = a[j + 1] + a[j1 + 1];
1882 1723938504 : x1r = a[j] - a[j1];
1883 1723938504 : x1i = a[j + 1] - a[j1 + 1];
1884 1723938504 : x2r = a[j2] + a[j3];
1885 1723938504 : x2i = a[j2 + 1] + a[j3 + 1];
1886 1723938504 : x3r = a[j2] - a[j3];
1887 1723938504 : x3i = a[j2 + 1] - a[j3 + 1];
1888 1723938504 : a[j] = x0r + x2r;
1889 1723938504 : a[j + 1] = x0i + x2i;
1890 1723938504 : x0r -= x2r;
1891 1723938504 : x0i -= x2i;
1892 1723938504 : a[j2] = wk2r * x0r - wk2i * x0i;
1893 1723938504 : a[j2 + 1] = wk2r * x0i + wk2i * x0r;
1894 1723938504 : x0r = x1r - x3i;
1895 1723938504 : x0i = x1i + x3r;
1896 1723938504 : a[j1] = wk1r * x0r - wk1i * x0i;
1897 1723938504 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1898 1723938504 : x0r = x1r + x3i;
1899 1723938504 : x0i = x1i - x3r;
1900 1723938504 : a[j3] = wk3r * x0r - wk3i * x0i;
1901 1723938504 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1902 : }
1903 :
1904 299584791 : wk1r = w[k2 + 2];
1905 299584791 : wk1i = w[k2 + 3];
1906 299584791 : wk3r = wk1r - 2 * wk2r * wk1i;
1907 299584791 : wk3i = 2 * wk2r * wk1r - wk1i;
1908 2023523295 : for ( j = k + m; j < l + ( k + m ); j += 2 )
1909 : {
1910 1723938504 : j1 = j + l;
1911 1723938504 : j2 = j1 + l;
1912 1723938504 : j3 = j2 + l;
1913 1723938504 : x0r = a[j] + a[j1];
1914 1723938504 : x0i = a[j + 1] + a[j1 + 1];
1915 1723938504 : x1r = a[j] - a[j1];
1916 1723938504 : x1i = a[j + 1] - a[j1 + 1];
1917 1723938504 : x2r = a[j2] + a[j3];
1918 1723938504 : x2i = a[j2 + 1] + a[j3 + 1];
1919 1723938504 : x3r = a[j2] - a[j3];
1920 1723938504 : x3i = a[j2 + 1] - a[j3 + 1];
1921 1723938504 : a[j] = x0r + x2r;
1922 1723938504 : a[j + 1] = x0i + x2i;
1923 1723938504 : x0r -= x2r;
1924 1723938504 : x0i -= x2i;
1925 1723938504 : a[j2] = -wk2i * x0r - wk2r * x0i;
1926 1723938504 : a[j2 + 1] = -wk2i * x0i + wk2r * x0r;
1927 1723938504 : x0r = x1r - x3i;
1928 1723938504 : x0i = x1i + x3r;
1929 1723938504 : a[j1] = wk1r * x0r - wk1i * x0i;
1930 1723938504 : a[j1 + 1] = wk1r * x0i + wk1i * x0r;
1931 1723938504 : x0r = x1r + x3i;
1932 1723938504 : x0i = x1i - x3r;
1933 1723938504 : a[j3] = wk3r * x0r - wk3i * x0i;
1934 1723938504 : a[j3 + 1] = wk3r * x0i + wk3i * x0r;
1935 : }
1936 : }
1937 :
1938 71749118 : return;
1939 : }
1940 :
1941 99995 : static void cftbsub(
1942 : int16_t n,
1943 : float *a,
1944 : const float *w /* i : cos/sin table */
1945 : )
1946 : {
1947 : int16_t j, j1, j2, j3, l;
1948 : float x0r, x0i, x1r, x1i, x2r, x2i, x3r, x3i;
1949 :
1950 99995 : l = 2;
1951 99995 : if ( n > 8 )
1952 : {
1953 99995 : cft1st( n, a, w );
1954 99995 : l = 8;
1955 :
1956 199990 : while ( ( l << 2 ) < n )
1957 : {
1958 99995 : cftmdl( n, l, a, w );
1959 99995 : l <<= 2;
1960 : }
1961 : }
1962 :
1963 99995 : if ( ( l << 2 ) == n )
1964 : {
1965 0 : for ( j = 0; j < l; j += 2 )
1966 : {
1967 0 : j1 = j + l;
1968 0 : j2 = j1 + l;
1969 0 : j3 = j2 + l;
1970 0 : x0r = a[j] + a[j1];
1971 0 : x0i = -a[j + 1] - a[j1 + 1];
1972 0 : x1r = a[j] - a[j1];
1973 0 : x1i = -a[j + 1] + a[j1 + 1];
1974 0 : x2r = a[j2] + a[j3];
1975 0 : x2i = a[j2 + 1] + a[j3 + 1];
1976 0 : x3r = a[j2] - a[j3];
1977 0 : x3i = a[j2 + 1] - a[j3 + 1];
1978 0 : a[j] = x0r + x2r;
1979 0 : a[j + 1] = x0i - x2i;
1980 0 : a[j2] = x0r - x2r;
1981 0 : a[j2 + 1] = x0i + x2i;
1982 0 : a[j1] = x1r - x3i;
1983 0 : a[j1 + 1] = x1i - x3r;
1984 0 : a[j3] = x1r + x3i;
1985 0 : a[j3 + 1] = x1i + x3r;
1986 : }
1987 : }
1988 : else
1989 : {
1990 1699915 : for ( j = 0; j < l; j += 2 )
1991 : {
1992 1599920 : j1 = j + l;
1993 1599920 : x0r = a[j] - a[j1];
1994 1599920 : x0i = -a[j + 1] + a[j1 + 1];
1995 1599920 : a[j] += a[j1];
1996 1599920 : a[j + 1] = -a[j + 1] - a[j1 + 1];
1997 1599920 : a[j1] = x0r;
1998 1599920 : a[j1 + 1] = x0i;
1999 : }
2000 : }
2001 :
2002 99995 : return;
2003 : }
2004 :
2005 455115 : static void rftfsub(
2006 : int16_t n,
2007 : float *a,
2008 : int16_t nc,
2009 : const float *c )
2010 : {
2011 : int16_t j, k, kk, ks, m;
2012 : float wkr, wki, xr, xi, yr, yi;
2013 :
2014 455115 : m = n >> 1;
2015 455115 : ks = 2 * nc / m;
2016 455115 : kk = 0;
2017 7281840 : for ( j = 2; j < m; j += 2 )
2018 : {
2019 6826725 : k = n - j;
2020 6826725 : kk += ks;
2021 6826725 : wkr = 0.5f - c[nc - kk];
2022 6826725 : wki = c[kk];
2023 6826725 : xr = a[j] - a[k];
2024 6826725 : xi = a[j + 1] + a[k + 1];
2025 6826725 : yr = wkr * xr - wki * xi;
2026 6826725 : yi = wkr * xi + wki * xr;
2027 6826725 : a[j] -= yr;
2028 6826725 : a[j + 1] -= yi;
2029 6826725 : a[k] += yr;
2030 6826725 : a[k + 1] -= yi;
2031 : }
2032 :
2033 455115 : return;
2034 : }
2035 :
2036 :
2037 99995 : static void rftbsub(
2038 : int16_t n,
2039 : float *a,
2040 : int16_t nc,
2041 : const float *c )
2042 : {
2043 : int16_t j, k, kk, ks, m;
2044 : float wkr, wki, xr, xi, yr, yi;
2045 :
2046 99995 : a[1] = -a[1];
2047 99995 : m = n >> 1;
2048 99995 : ks = 2 * nc / m;
2049 99995 : kk = 0;
2050 1599920 : for ( j = 2; j < m; j += 2 )
2051 : {
2052 1499925 : k = n - j;
2053 1499925 : kk += ks;
2054 1499925 : wkr = 0.5f - c[nc - kk];
2055 1499925 : wki = c[kk];
2056 1499925 : xr = a[j] - a[k];
2057 1499925 : xi = a[j + 1] + a[k + 1];
2058 1499925 : yr = wkr * xr + wki * xi;
2059 1499925 : yi = wkr * xi - wki * xr;
2060 1499925 : a[j] -= yr;
2061 1499925 : a[j + 1] = yi - a[j + 1];
2062 1499925 : a[k] += yr;
2063 1499925 : a[k + 1] = yi - a[k + 1];
2064 : }
2065 99995 : a[m + 1] = -a[m + 1];
2066 :
2067 99995 : return;
2068 : }
2069 :
2070 :
2071 555110 : static void dctsub(
2072 : int16_t n,
2073 : float *a,
2074 : int16_t nc,
2075 : const float *c )
2076 : {
2077 : int16_t j, k, kk, ks, m;
2078 : float wkr, wki, xr;
2079 :
2080 555110 : m = n >> 1;
2081 555110 : ks = nc / n;
2082 555110 : kk = 0;
2083 17763520 : for ( j = 1; j < m; j++ )
2084 : {
2085 17208410 : k = n - j;
2086 17208410 : kk += ks;
2087 17208410 : wkr = c[kk] - c[nc - kk];
2088 17208410 : wki = c[kk] + c[nc - kk];
2089 17208410 : xr = wki * a[j] - wkr * a[k];
2090 17208410 : a[j] = wkr * a[j] + wki * a[k];
2091 17208410 : a[k] = xr;
2092 : }
2093 555110 : a[m] *= c[0];
2094 :
2095 555110 : return;
2096 : }
2097 :
2098 :
2099 : /*-----------------------------------------------------------------*
2100 : * edct2()
2101 : *
2102 : * Transformation of the signal to DCT domain
2103 : * OR Inverse EDCT-II for short frames
2104 : *-----------------------------------------------------------------*/
2105 :
2106 555110 : void edct2(
2107 : const int16_t n,
2108 : const int16_t isgn,
2109 : float *in,
2110 : float *a,
2111 : const int16_t *ip,
2112 : const float *w )
2113 : {
2114 : int16_t j, nw, nc;
2115 : float xr;
2116 :
2117 555110 : mvr2r( in, a, n );
2118 :
2119 555110 : nw = ip[0];
2120 555110 : if ( n > ( nw << 2 ) )
2121 : {
2122 0 : nw = n >> 2;
2123 : }
2124 :
2125 555110 : nc = ip[1];
2126 555110 : if ( n > nc )
2127 : {
2128 0 : nc = n;
2129 : }
2130 :
2131 555110 : if ( isgn < 0 )
2132 : {
2133 99995 : xr = a[n - 1];
2134 3199840 : for ( j = n - 2; j >= 2; j -= 2 )
2135 : {
2136 3099845 : a[j + 1] = a[j] - a[j - 1];
2137 3099845 : a[j] += a[j - 1];
2138 : }
2139 99995 : a[1] = a[0] - xr;
2140 99995 : a[0] += xr;
2141 :
2142 99995 : if ( n > 4 )
2143 : {
2144 99995 : rftbsub( n, a, nc, w + nw );
2145 99995 : bitrv2_SR( n, ip + 2, a );
2146 99995 : cftbsub( n, a, w );
2147 : }
2148 0 : else if ( n == 4 )
2149 : {
2150 0 : cftfsub( n, a, w );
2151 : }
2152 : }
2153 :
2154 555110 : if ( isgn >= 0 )
2155 : {
2156 455115 : a[0] *= 0.5f;
2157 : }
2158 :
2159 555110 : dctsub( n, a, nc, w + nw );
2160 :
2161 555110 : if ( isgn >= 0 )
2162 : {
2163 455115 : if ( n > 4 )
2164 : {
2165 455115 : bitrv2_SR( n, ip + 2, a );
2166 455115 : cftfsub( n, a, w );
2167 455115 : rftfsub( n, a, nc, w + nw );
2168 : }
2169 0 : else if ( n == 4 )
2170 : {
2171 0 : cftfsub( n, a, w );
2172 : }
2173 455115 : xr = a[0] - a[1];
2174 455115 : a[0] += a[1];
2175 14563680 : for ( j = 2; j < n; j += 2 )
2176 : {
2177 14108565 : a[j - 1] = a[j] - a[j + 1];
2178 14108565 : a[j] += a[j + 1];
2179 : }
2180 455115 : a[n - 1] = xr;
2181 :
2182 29582475 : for ( j = 0; j < n; j++ )
2183 : {
2184 29127360 : a[j] /= 32.0f;
2185 : }
2186 : }
2187 555110 : }
2188 :
2189 :
2190 18739087 : void DoRTFTn(
2191 : float *x, /* i/o: real part of input and output data */
2192 : float *y, /* i/o: imaginary part of input and output data */
2193 : const int16_t n /* i : size of the FFT up to 1024 */
2194 : )
2195 : {
2196 :
2197 : int16_t i;
2198 : float z[2048];
2199 :
2200 8021881551 : for ( i = 0; i < n; i++ )
2201 : {
2202 8003142464 : z[2 * i] = x[i];
2203 8003142464 : z[2 * i + 1] = y[i];
2204 : }
2205 :
2206 18739087 : switch ( n )
2207 : {
2208 16320 : case ( 16 ):
2209 16320 : cdftForw( 2 * n, z, Ip_fft16, w_fft16 );
2210 16320 : break;
2211 0 : case ( 32 ):
2212 0 : cdftForw( 2 * n, z, Ip_fft32, w_fft32 );
2213 0 : break;
2214 403 : case ( 64 ):
2215 403 : cdftForw( 2 * n, z, Ip_fft64, w_fft64 );
2216 403 : break;
2217 15 : case ( 128 ):
2218 15 : cdftForw( 2 * n, z, Ip_fft128, w_fft128 );
2219 15 : break;
2220 6183551 : case ( 256 ):
2221 6183551 : cdftForw( 2 * n, z, Ip_fft256, w_fft256 );
2222 6183551 : break;
2223 12538798 : case ( 512 ):
2224 12538798 : cdftForw( 2 * n, z, Ip_fft512, w_fft512 );
2225 12538798 : break;
2226 0 : default:
2227 0 : assert( 0 );
2228 : }
2229 :
2230 18739087 : x[0] = z[0];
2231 18739087 : y[0] = z[1];
2232 8003142464 : for ( i = 1; i < n; i++ )
2233 : {
2234 7984403377 : x[n - i] = z[2 * i];
2235 7984403377 : y[n - i] = z[2 * i + 1];
2236 : }
2237 :
2238 18739087 : return;
2239 : }
2240 :
2241 :
2242 1353 : void fft3(
2243 : const float X[],
2244 : float Y[],
2245 : const int16_t n )
2246 : {
2247 : float Z[PH_ECU_SPEC_SIZE];
2248 : float *Z0, *Z1, *Z2;
2249 : float *z0, *z1, *z2;
2250 : const float *x;
2251 1353 : const float *t_sin = sincos_t_rad3;
2252 : int16_t m, step, order;
2253 : int16_t i, j;
2254 : int16_t c1_ind, s1_ind, c2_ind, s2_ind;
2255 : int16_t c1_step, s1_step, c2_step, s2_step;
2256 : float *RY, *IY, *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2257 :
2258 : /* Determine the order of the transform, the length of decimated */
2259 : /* transforms m, and the step for the sine and cosine tables. */
2260 1353 : switch ( n )
2261 : {
2262 451 : case 1536:
2263 451 : order = 9;
2264 451 : m = 512;
2265 451 : step = 1;
2266 451 : break;
2267 902 : case 384:
2268 902 : order = 7;
2269 902 : m = 128;
2270 902 : step = 4;
2271 902 : break;
2272 0 : default:
2273 0 : order = 9;
2274 0 : m = 512;
2275 0 : step = 1;
2276 : }
2277 :
2278 : /* Compose decimated sequences X[3i], X[3i+1],X[3i+2] */
2279 : /* compute their FFT of length m. */
2280 1353 : Z0 = &Z[0];
2281 1353 : z0 = &Z0[0];
2282 1353 : Z1 = &Z0[m];
2283 1353 : z1 = &Z1[0]; /* Z1 = &Z[ m]; */
2284 1353 : Z2 = &Z1[m];
2285 1353 : z2 = &Z2[0]; /* Z2 = &Z[2m]; */
2286 1353 : x = &X[0];
2287 347721 : for ( i = 0; i < n / 3; i++ )
2288 : {
2289 346368 : *z0++ = *x++; /* Z0[i] = X[3i]; */
2290 346368 : *z1++ = *x++; /* Z1[i] = X[3i+1]; */
2291 346368 : *z2++ = *x++; /* Z2[i] = X[3i+2]; */
2292 : }
2293 :
2294 1353 : fft_rel( &Z0[0], m, order );
2295 1353 : fft_rel( &Z1[0], m, order );
2296 1353 : fft_rel( &Z2[0], m, order );
2297 :
2298 : /* Butterflies of order 3. */
2299 : /* pointer initialization */
2300 1353 : RY = &Y[0];
2301 1353 : IY = &Y[n];
2302 1353 : RZ0 = &Z0[0];
2303 1353 : IZ0 = &Z0[m];
2304 1353 : RZ1 = &Z1[0];
2305 1353 : IZ1 = &Z1[m];
2306 1353 : RZ2 = &Z2[0];
2307 1353 : IZ2 = &Z2[m];
2308 :
2309 1353 : c1_step = -step;
2310 1353 : s1_step = step;
2311 1353 : c2_step = -2 * step;
2312 1353 : s2_step = 2 * step;
2313 1353 : c1_ind = T_SIN_PI_2 + c1_step;
2314 1353 : s1_ind = s1_step;
2315 1353 : c2_ind = T_SIN_PI_2 + c2_step;
2316 1353 : s2_ind = s2_step;
2317 :
2318 : /* special case: i = 0 */
2319 1353 : RY[0] = RZ0[0] + RZ1[0] + RZ2[0];
2320 :
2321 : /* first 3/12 */
2322 129888 : for ( i = 1; i < 3 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind += c2_step, s2_ind += s2_step )
2323 : {
2324 128535 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] + RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2325 128535 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] + IZ2[-i] * t_sin[c2_ind];
2326 : }
2327 :
2328 : /* next 1/12 */
2329 44649 : for ( ; i < 4 * m / 8; i++, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2330 : {
2331 43296 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] + IZ1[-i] * t_sin[s1_ind] - RZ2[i] * t_sin[c2_ind] + IZ2[-i] * t_sin[s2_ind];
2332 43296 : IY[-i] = IZ0[-i] - RZ1[i] * t_sin[s1_ind] + IZ1[-i] * t_sin[c1_ind] - RZ2[i] * t_sin[s2_ind] - IZ2[-i] * t_sin[c2_ind];
2333 : }
2334 :
2335 : /* special case: i = m/2 i.e. 1/3 */
2336 1353 : RY[i] = RZ0[i] + RZ1[i] * t_sin[c1_ind] - RZ2[i] * t_sin[c2_ind];
2337 1353 : IY[-i] = -RZ1[i] * t_sin[s1_ind] - RZ2[i] * t_sin[s2_ind];
2338 1353 : i++;
2339 :
2340 1353 : c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step;
2341 :
2342 : /* next 2/12 */
2343 86592 : for ( j = i - 2; i < 6 * m / 8; i++, j--, c1_ind += c1_step, s1_ind += s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2344 : {
2345 85239 : RY[i] = RZ0[j] + RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2346 85239 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] - RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2347 : }
2348 :
2349 : /*--------------------------half--------------------------*/
2350 : /* next 2/12 */
2351 87945 : for ( ; i < 8 * m / 8; i++, j--, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2352 : {
2353 86592 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] + IZ2[-j] * t_sin[s2_ind];
2354 86592 : IY[-i] = -IZ0[-j] - RZ1[j] * t_sin[s1_ind] + IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2355 : }
2356 :
2357 : /* special case: i = m, i.e 2/3 */
2358 1353 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] - RZ2[j] * t_sin[c2_ind];
2359 1353 : IY[-i++] = -RZ1[j] * t_sin[s1_ind] + RZ2[j] * t_sin[s2_ind];
2360 1353 : c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step;
2361 :
2362 : /* next 1/12 */
2363 43296 : for ( j = 1; i < 9 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind += c2_step, s2_ind += s2_step )
2364 : {
2365 41943 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] - RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2366 41943 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] - IZ2[-j] * t_sin[c2_ind];
2367 : }
2368 :
2369 : /* last 3/12 */
2370 131241 : for ( ; i < 12 * m / 8; i++, j++, c1_ind -= c1_step, s1_ind -= s1_step, c2_ind -= c2_step, s2_ind -= s2_step )
2371 : {
2372 129888 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + IZ1[-j] * t_sin[s1_ind] + RZ2[j] * t_sin[c2_ind] - IZ2[-j] * t_sin[s2_ind];
2373 129888 : IY[-i] = IZ0[-j] - RZ1[j] * t_sin[s1_ind] - IZ1[-j] * t_sin[c1_ind] + RZ2[j] * t_sin[s2_ind] + IZ2[-j] * t_sin[c2_ind];
2374 : }
2375 :
2376 : /* special case: i = 3*m/2 */
2377 1353 : RY[i] = RZ0[j] - RZ1[j] * t_sin[c1_ind] + RZ2[j] * t_sin[c2_ind];
2378 :
2379 1353 : return;
2380 : }
2381 :
2382 941 : void ifft3(
2383 : const float Z[],
2384 : float X[],
2385 : const int16_t n )
2386 : {
2387 : float Y[PH_ECU_SPEC_SIZE];
2388 941 : const float *t_sin = sincos_t_rad3;
2389 : int16_t m, step, step2, order;
2390 : int16_t i;
2391 : int16_t c0_ind, s0_ind, c1_ind, s1_ind, c2_ind, s2_ind;
2392 : float scale;
2393 : const float *RZ0, *IZ0, *RZ1, *IZ1, *RZ2, *IZ2;
2394 : float *RY0, *IY0, *RY1, *IY1, *RY2, *IY2, *y0, *y1, *y2;
2395 :
2396 : /* Determine the order of the transform, the length of decimated */
2397 : /* transforms m, and the step for the sine and cosine tables. */
2398 941 : switch ( n )
2399 : {
2400 941 : case 1536:
2401 941 : order = 9;
2402 941 : m = 512;
2403 941 : step = 1;
2404 941 : break;
2405 0 : case 384:
2406 0 : order = 7;
2407 0 : m = 128;
2408 0 : step = 4;
2409 0 : break;
2410 0 : default:
2411 0 : order = 9;
2412 0 : m = 512;
2413 0 : step = 1;
2414 : }
2415 :
2416 : /* pointer initialization */
2417 941 : RY0 = &Y[0];
2418 941 : IY0 = &RY0[m];
2419 941 : RY1 = &RY0[m];
2420 941 : IY1 = &RY1[m];
2421 941 : RY2 = &RY1[m];
2422 941 : IY2 = &RY2[m];
2423 :
2424 941 : RZ0 = &Z[0];
2425 941 : RZ1 = RZ0 + m;
2426 941 : RZ2 = RZ0 + n / 2 - m / 2;
2427 941 : IZ0 = &Z[n];
2428 941 : IZ1 = IZ0 - m;
2429 941 : IZ2 = IZ0 - n / 2 + m / 2;
2430 :
2431 : /* Inverse butterflies of order 3. */
2432 :
2433 : /* Construction of Y0 */
2434 941 : RY0[0] = RZ0[0] + RZ1[0] + RZ2[0];
2435 240896 : for ( i = 1; i < m / 2; i++ )
2436 : {
2437 239955 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2438 239955 : IY0[-i] = IZ0[-i] + IZ1[-i] - IZ2[i];
2439 : }
2440 :
2441 : /* m/2 */
2442 941 : RY0[i] = RZ0[i] + RZ1[i] + RZ2[-i];
2443 :
2444 : /* Construction of Y1 */
2445 941 : c0_ind = T_SIN_PI_2;
2446 941 : s0_ind = 0;
2447 941 : c1_ind = T_SIN_PI_2 * 1 / 3;
2448 941 : s1_ind = T_SIN_PI_2 * 2 / 3;
2449 941 : c2_ind = T_SIN_PI_2 * 1 / 3;
2450 941 : s2_ind = T_SIN_PI_2 * 2 / 3;
2451 :
2452 941 : RY1[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] - IZ1[0] * t_sin[s1_ind] - IZ2[0] * t_sin[s2_ind];
2453 :
2454 941 : c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step;
2455 120448 : for ( i = 1; i < m / 4; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind -= step, s2_ind += step )
2456 : {
2457 119507 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2458 119507 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2459 : }
2460 :
2461 121389 : for ( ; i < m / 2; i++, c0_ind -= step, s0_ind += step, c1_ind += step, s1_ind -= step, c2_ind += step, s2_ind -= step )
2462 : {
2463 120448 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2464 120448 : IY1[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] - IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] + RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2465 : }
2466 :
2467 : /* m/2 */
2468 941 : RY1[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] + RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] - IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2469 :
2470 : /* Construction of Y2 */
2471 941 : c0_ind = T_SIN_PI_2;
2472 941 : s0_ind = 0;
2473 941 : c1_ind = T_SIN_PI_2 * 1 / 3;
2474 941 : s1_ind = T_SIN_PI_2 * 2 / 3;
2475 941 : c2_ind = T_SIN_PI_2 * 1 / 3;
2476 941 : s2_ind = T_SIN_PI_2 * 2 / 3;
2477 941 : step2 = 2 * step;
2478 941 : RY2[0] = RZ0[0] * t_sin[c0_ind] - RZ1[0] * t_sin[c1_ind] - RZ2[0] * t_sin[c2_ind] + IZ1[0] * t_sin[s1_ind] + IZ2[0] * t_sin[s2_ind];
2479 :
2480 941 : c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2;
2481 60224 : for ( i = 1; i < m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind -= step2, s1_ind += step2, c2_ind += step2, s2_ind -= step2 )
2482 : {
2483 59283 : RY2[i] = RZ0[i] * t_sin[c0_ind] - RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2484 59283 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] - IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2485 : }
2486 :
2487 61165 : for ( ; i < m / 4; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind += step2, s2_ind -= step2 )
2488 : {
2489 60224 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] + IZ2[i] * t_sin[s2_ind];
2490 60224 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] + RZ2[-i] * t_sin[s2_ind];
2491 : }
2492 :
2493 61165 : for ( ; i < 3 * m / 8; i++, c0_ind -= step2, s0_ind += step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2494 : {
2495 60224 : RY2[i] = RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2496 60224 : IY2[-i] = IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2497 : }
2498 :
2499 61165 : for ( ; i < m / 2; i++, c0_ind += step2, s0_ind -= step2, c1_ind += step2, s1_ind -= step2, c2_ind -= step2, s2_ind += step2 )
2500 : {
2501 60224 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2502 60224 : IY2[-i] = -IZ0[-i] * t_sin[c0_ind] + IZ1[-i] * t_sin[c1_ind] + IZ2[i] * t_sin[c2_ind] + RZ0[i] * t_sin[s0_ind] - RZ1[i] * t_sin[s1_ind] - RZ2[-i] * t_sin[s2_ind];
2503 : }
2504 :
2505 : /* m/2 */
2506 941 : RY2[i] = -RZ0[i] * t_sin[c0_ind] + RZ1[i] * t_sin[c1_ind] - RZ2[-i] * t_sin[c2_ind] - IZ0[-i] * t_sin[s0_ind] + IZ1[-i] * t_sin[s1_ind] - IZ2[i] * t_sin[s2_ind];
2507 :
2508 : /* Compute the inverse FFT for all 3 blocks. */
2509 941 : ifft_rel( RY0, m, order );
2510 941 : ifft_rel( RY1, m, order );
2511 941 : ifft_rel( RY2, m, order );
2512 :
2513 941 : y0 = RY0;
2514 941 : y1 = RY1;
2515 941 : y2 = RY2;
2516 :
2517 : /* Interlacing and scaling, scale = 1/3 */
2518 941 : scale = 1.0f / 3;
2519 482733 : for ( i = 0; i < n; )
2520 : {
2521 481792 : X[i++] = ( *y0++ ) * scale;
2522 481792 : X[i++] = ( *y1++ ) * scale;
2523 481792 : X[i++] = ( *y2++ ) * scale;
2524 : }
2525 :
2526 941 : return;
2527 : }
2528 :
2529 :
2530 1182283 : static void rfft_post(
2531 : const float *sine_table,
2532 : float *buf,
2533 : const int16_t len )
2534 : {
2535 : float tmp1, tmp2, tmp3, tmp4, s, c;
2536 1182283 : int16_t i = 0;
2537 :
2538 1182283 : tmp1 = buf[0] + buf[1];
2539 1182283 : buf[1] = buf[0] - buf[1];
2540 1182283 : buf[0] = tmp1;
2541 :
2542 190347563 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2543 : {
2544 189165280 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2545 189165280 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2546 :
2547 189165280 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2548 189165280 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2549 189165280 : tmp3 = s * tmp1 - c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2550 189165280 : tmp4 = c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2551 189165280 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2552 189165280 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2553 :
2554 189165280 : buf[2 * i] = 0.5f * ( tmp1 - tmp3 );
2555 189165280 : buf[2 * i + 1] = 0.5f * ( tmp2 - tmp4 );
2556 189165280 : buf[len - 2 * i] = 0.5f * ( tmp1 + tmp3 );
2557 189165280 : buf[len - 2 * i + 1] = -0.5f * ( tmp2 + tmp4 );
2558 : }
2559 1182283 : }
2560 :
2561 303554 : static void rfft_pre(
2562 : const float *sine_table,
2563 : float *buf,
2564 : const int16_t len )
2565 : {
2566 303554 : const float scale = 1.0f / len;
2567 : float tmp1, tmp2, tmp3, tmp4, s, c;
2568 303554 : int16_t i = 0;
2569 :
2570 303554 : tmp1 = buf[0] + buf[1];
2571 303554 : buf[1] = scale * ( buf[0] - buf[1] );
2572 303554 : buf[0] = scale * tmp1;
2573 :
2574 48872194 : for ( i = 1; i <= ( len + 2 ) / 4; i++ )
2575 : {
2576 48568640 : s = sine_table[i]; /* sin(pi*i/(len/2)) */
2577 48568640 : c = sine_table[i + len / 4]; /* cos(pi*i/(len/2)) */
2578 :
2579 48568640 : tmp1 = buf[2 * i] - buf[len - 2 * i];
2580 48568640 : tmp2 = buf[2 * i + 1] + buf[len - 2 * i + 1];
2581 48568640 : tmp3 = s * tmp1 + c * tmp2; /* real part of j*W(k,N)*[T(k) - T'(N-k)] */
2582 48568640 : tmp4 = -c * tmp1 + s * tmp2; /* imag part of j*W(k,N)*[T(k) - T'(N-k)] */
2583 48568640 : tmp1 = buf[2 * i] + buf[len - 2 * i];
2584 48568640 : tmp2 = buf[2 * i + 1] - buf[len - 2 * i + 1];
2585 :
2586 48568640 : buf[2 * i] = scale * ( tmp1 + tmp3 );
2587 48568640 : buf[2 * i + 1] = -scale * ( tmp2 + tmp4 );
2588 48568640 : buf[len - 2 * i] = scale * ( tmp1 - tmp3 );
2589 48568640 : buf[len - 2 * i + 1] = scale * ( tmp2 - tmp4 );
2590 : }
2591 :
2592 303554 : return;
2593 : }
2594 :
2595 3133853 : int16_t RFFTN(
2596 : float *data,
2597 : const float *sine_table,
2598 : const int16_t len,
2599 : const int16_t sign )
2600 : {
2601 3133853 : assert( len <= 640 && len > 0 );
2602 :
2603 3133853 : if ( len == 640 )
2604 : {
2605 : float x[320], y[320];
2606 : int16_t i;
2607 :
2608 1485837 : if ( sign != -1 )
2609 : {
2610 303554 : rfft_pre( sine_table, data, len );
2611 : }
2612 :
2613 476953677 : for ( i = 0; i < 320; i++ )
2614 : {
2615 475467840 : x[i] = data[2 * i];
2616 475467840 : y[i] = data[2 * i + 1];
2617 : }
2618 1485837 : DoRTFT320( x, y );
2619 476953677 : for ( i = 0; i < 320; i++ )
2620 : {
2621 475467840 : data[2 * i] = x[i];
2622 475467840 : data[2 * i + 1] = y[i];
2623 : }
2624 :
2625 1485837 : if ( sign == -1 )
2626 : {
2627 1182283 : rfft_post( sine_table, data, len );
2628 : }
2629 : }
2630 : else
2631 : {
2632 1648016 : if ( len == 512 )
2633 : {
2634 : int16_t i;
2635 1648016 : const int16_t log2 = 9;
2636 : float reordered_data[512];
2637 :
2638 1648016 : if ( sign == -1 )
2639 : {
2640 936867 : fft_rel( data, len, log2 );
2641 936867 : reordered_data[0] = data[0];
2642 936867 : reordered_data[1] = data[len / 2];
2643 239837952 : for ( i = 1; i < len / 2; i++ )
2644 : {
2645 238901085 : reordered_data[2 * i] = data[i];
2646 238901085 : reordered_data[2 * i + 1] = data[len - i];
2647 : }
2648 : }
2649 : else
2650 : {
2651 711149 : reordered_data[0] = data[0];
2652 711149 : reordered_data[len / 2] = data[1];
2653 182054144 : for ( i = 1; i < len / 2; i++ )
2654 : {
2655 181342995 : reordered_data[i] = data[2 * i];
2656 181342995 : reordered_data[len - i] = data[2 * i + 1];
2657 : }
2658 711149 : ifft_rel( reordered_data, len, log2 );
2659 : }
2660 1648016 : mvr2r( reordered_data, data, len );
2661 : }
2662 : else
2663 : {
2664 0 : assert( !"Not supported FFT length!" );
2665 : }
2666 : }
2667 :
2668 3133853 : return 0;
2669 : }
2670 :
2671 104896020 : static void butterfly(
2672 : const float a,
2673 : const float b,
2674 : float *aPlusb,
2675 : float *aMinusb )
2676 : {
2677 104896020 : *aPlusb = a + b;
2678 104896020 : *aMinusb = a - b;
2679 :
2680 104896020 : return;
2681 : }
2682 :
2683 69449680 : static void fft2(
2684 : float *pInOut )
2685 : {
2686 : /* FFT MATRIX:
2687 : 1.0000 1.0000
2688 : 1.0000 -1.0000
2689 : */
2690 : float re1, im1;
2691 : float re2, im2;
2692 :
2693 69449680 : re1 = pInOut[0];
2694 69449680 : im1 = pInOut[1];
2695 69449680 : re2 = pInOut[2];
2696 69449680 : im2 = pInOut[3];
2697 69449680 : pInOut[0] = re1 + re2;
2698 69449680 : pInOut[1] = im1 + im2;
2699 :
2700 69449680 : pInOut[2] = re1 - re2;
2701 69449680 : pInOut[3] = im1 - im2;
2702 :
2703 69449680 : return;
2704 : }
2705 :
2706 : static const float C31 = 0.5f; /* cos(PI/3); sin(2*PI/3) */
2707 : static const float C32 = 0.866025403784439f; /* cos(PI/3); sin(2*PI/3) */
2708 :
2709 46302120 : static void fft3_2(
2710 : float *pInOut )
2711 : {
2712 : float re1, im1;
2713 : float re2, im2;
2714 : float re3, im3;
2715 :
2716 : float tmp1, tmp2;
2717 : float tmp3, tmp4;
2718 :
2719 46302120 : re1 = pInOut[0];
2720 46302120 : im1 = pInOut[1];
2721 46302120 : re2 = pInOut[2];
2722 46302120 : im2 = pInOut[3];
2723 46302120 : re3 = pInOut[4];
2724 46302120 : im3 = pInOut[5];
2725 :
2726 : /* FFT MATRIX:
2727 : 1.0000 1.0000 1.0000
2728 : C31 C32
2729 : 1.0000 -0.5000 - 0.8660i -0.5000 + 0.8660i
2730 : 1.0000 -0.5000 + 0.8660i -0.5000 - 0.8660i
2731 : */
2732 46302120 : tmp1 = re2 + re3;
2733 46302120 : tmp3 = im2 + im3;
2734 46302120 : tmp2 = re2 - re3;
2735 46302120 : tmp4 = im2 - im3;
2736 46302120 : pInOut[0] = re1 + tmp1;
2737 46302120 : pInOut[1] = im1 + tmp3;
2738 46302120 : pInOut[2] = re1 - C31 * tmp1 + C32 * tmp4;
2739 46302120 : pInOut[4] = re1 - C31 * tmp1 - C32 * tmp4;
2740 :
2741 46302120 : pInOut[3] = im1 - C32 * tmp2 - C31 * tmp3;
2742 46302120 : pInOut[5] = im1 + C32 * tmp2 - C31 * tmp3;
2743 46302120 : }
2744 :
2745 :
2746 300 : static void fft4(
2747 : float *pInOut )
2748 : {
2749 : float re1, im1;
2750 : float re2, im2;
2751 : float re3, im3;
2752 : float re4, im4;
2753 :
2754 : float tmp1, tmp2;
2755 : float tmp3, tmp4;
2756 : float tmp5, tmp6;
2757 : float tmp7, tmp8;
2758 :
2759 300 : re1 = pInOut[0];
2760 300 : im1 = pInOut[1];
2761 300 : re2 = pInOut[2];
2762 300 : im2 = pInOut[3];
2763 300 : re3 = pInOut[4];
2764 300 : im3 = pInOut[5];
2765 300 : re4 = pInOut[6];
2766 300 : im4 = pInOut[7];
2767 :
2768 : /*
2769 : 1.0000 1.0000 1.0000 1.0000
2770 : 1.0000 -1.0000i -1.0000 1.0000i
2771 : 1.0000 -1.0000 1.0000 -1.0000
2772 : 1.0000 1.0000i -1.0000 -1.0000i
2773 : */
2774 300 : tmp1 = re1 + re3;
2775 300 : tmp3 = re2 + re4;
2776 300 : tmp5 = im1 + im3;
2777 300 : tmp7 = im2 + im4;
2778 300 : pInOut[0] = tmp1 + tmp3;
2779 300 : pInOut[4] = tmp1 - tmp3;
2780 :
2781 300 : pInOut[1] = tmp5 + tmp7;
2782 300 : pInOut[5] = tmp5 - tmp7;
2783 300 : tmp2 = re1 - re3;
2784 300 : tmp4 = re2 - re4;
2785 300 : tmp6 = im1 - im3;
2786 300 : tmp8 = im2 - im4;
2787 300 : pInOut[2] = tmp2 + tmp8;
2788 300 : pInOut[6] = tmp2 - tmp8;
2789 :
2790 300 : pInOut[3] = -tmp4 + tmp6;
2791 300 : pInOut[7] = tmp4 + tmp6;
2792 :
2793 300 : return;
2794 : }
2795 :
2796 : static const float C51 = 0.309016994374947f; /* cos(2*PI/5); */
2797 : static const float C52 = 0.951056516295154f; /* sin(2*PI/5); */
2798 : static const float C53 = 0.809016994374947f; /* cos( PI/5); */
2799 : static const float C54 = 0.587785252292473f; /* sin( PI/5); */
2800 :
2801 28212352 : static void fft5(
2802 : float *pInOut )
2803 : {
2804 : float re1, im1;
2805 : float re2, im2;
2806 : float re3, im3;
2807 : float re4, im4;
2808 : float re5, im5;
2809 :
2810 : float tmp1, tmp2;
2811 : float tmp3, tmp4;
2812 : float tmp5, tmp6;
2813 : float tmp7, tmp8;
2814 :
2815 :
2816 28212352 : re1 = pInOut[0];
2817 28212352 : im1 = pInOut[1];
2818 28212352 : re2 = pInOut[2];
2819 28212352 : im2 = pInOut[3];
2820 28212352 : re3 = pInOut[4];
2821 28212352 : im3 = pInOut[5];
2822 28212352 : re4 = pInOut[6];
2823 28212352 : im4 = pInOut[7];
2824 28212352 : re5 = pInOut[8];
2825 28212352 : im5 = pInOut[9];
2826 :
2827 : /*
2828 : 1.0000 1.0000 1.0000 1.0000 1.0000
2829 : C51 C52 C53 C54
2830 : 1.0000 0.3090 - 0.9511i -0.8090 - 0.5878i -0.8090 + 0.5878i 0.3090 + 0.9511i
2831 : 1.0000 -0.8090 - 0.5878i 0.3090 + 0.9511i 0.3090 - 0.9511i -0.8090 + 0.5878i
2832 : 1.0000 -0.8090 + 0.5878i 0.3090 - 0.9511i 0.3090 + 0.9511i -0.8090 - 0.5878i
2833 : 1.0000 0.3090 + 0.9511i -0.8090 + 0.5878i -0.8090 - 0.5878i 0.3090 - 0.9511i
2834 : */
2835 28212352 : tmp1 = re2 + re5;
2836 28212352 : tmp2 = re2 - re5;
2837 28212352 : tmp3 = im2 + im5;
2838 28212352 : tmp4 = im2 - im5;
2839 28212352 : tmp5 = re3 + re4;
2840 28212352 : tmp6 = re3 - re4;
2841 28212352 : tmp7 = im3 + im4;
2842 28212352 : tmp8 = im3 - im4;
2843 :
2844 :
2845 28212352 : pInOut[0] = re1 + tmp1 + tmp5;
2846 28212352 : pInOut[1] = im1 + tmp3 + tmp7;
2847 :
2848 28212352 : pInOut[2] = re1 + C51 * tmp1 - C53 * tmp5 + C52 * tmp4 + C54 * tmp8;
2849 28212352 : pInOut[8] = re1 + C51 * tmp1 - C53 * tmp5 - C52 * tmp4 - C54 * tmp8;
2850 28212352 : pInOut[3] = im1 - C52 * tmp2 - C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2851 28212352 : pInOut[9] = im1 + C52 * tmp2 + C54 * tmp6 + C51 * tmp3 - C53 * tmp7;
2852 28212352 : pInOut[4] = re1 - C53 * tmp1 + C51 * tmp5 + C54 * tmp4 - C52 * tmp8;
2853 28212352 : pInOut[6] = re1 - C53 * tmp1 + C51 * tmp5 - C54 * tmp4 + C52 * tmp8;
2854 28212352 : pInOut[5] = im1 - C54 * tmp2 + C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2855 28212352 : pInOut[7] = im1 + C54 * tmp2 - C52 * tmp6 - C53 * tmp3 + C51 * tmp7;
2856 :
2857 28212352 : return;
2858 : }
2859 :
2860 : static const float C81 = 0.707106781186548f; /* cos(PI/4); */
2861 :
2862 17482670 : static void fft8_2(
2863 : float *pInOut )
2864 : {
2865 : float re0, im0, re4, im4;
2866 :
2867 : float re1_7p, re1_7m;
2868 : float im1_7p, im1_7m;
2869 : float re2_6p, re2_6m;
2870 : float im2_6p, im2_6m;
2871 : float re3_5p, re3_5m;
2872 : float im3_5p, im3_5m;
2873 :
2874 17482670 : re0 = pInOut[0];
2875 17482670 : im0 = pInOut[1];
2876 17482670 : re4 = pInOut[8];
2877 17482670 : im4 = pInOut[9];
2878 17482670 : butterfly( pInOut[1 * 2], pInOut[7 * 2], &re1_7p, &re1_7m );
2879 17482670 : butterfly( pInOut[1 * 2 + 1], pInOut[7 * 2 + 1], &im1_7p, &im1_7m );
2880 17482670 : butterfly( pInOut[2 * 2], pInOut[6 * 2], &re2_6p, &re2_6m );
2881 17482670 : butterfly( pInOut[2 * 2 + 1], pInOut[6 * 2 + 1], &im2_6p, &im2_6m );
2882 17482670 : butterfly( pInOut[3 * 2], pInOut[5 * 2], &re3_5p, &re3_5m );
2883 17482670 : butterfly( pInOut[3 * 2 + 1], pInOut[5 * 2 + 1], &im3_5p, &im3_5m );
2884 :
2885 : /*
2886 : 0: 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i 1 + 0i
2887 : 1: 1 + 0i C81 - C81i 0 - 1i -C81 - C81i -1 - 0i -C81 + C81i - 0 + 1i C81 + C81i
2888 : 2: 1 + 0i 0 - 1i -1 - 0i - 0 + 1i 1 + 0i 0 - 1i - 1 - 0i - 0 + 1i
2889 : 3: 1 + 0i -C81 - C81i -0 + 1i C81 - C81i -1 - 0i C81 + C81i 0 - 1i -C81 + C81i
2890 : 4: 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i 1 + 0i - 1 - 0i
2891 : 5: 1 + 0i -C81 + C81i 0 - 1i C81 + C81i -1 - 0i C81 - C81i - 0 + 1i -C81 - C81i
2892 : 6: 1 + 0i - 0 + 1i -1 - 0i 0 - 1i 1 + 0i - 0 + 1i - 1 - 0i - 0 - 1i
2893 : 7: 1 + 0i C81 + C81i -0 + 1i -C81 + C81i -1 - 0i -C81 - C81i - 0 - 1i C81 - C81i
2894 : */
2895 17482670 : pInOut[0] = re0 + re4 + re1_7p + re2_6p + re3_5p;
2896 17482670 : pInOut[1] = im0 + im4 + im1_7p + im2_6p + im3_5p;
2897 :
2898 17482670 : pInOut[2] = re0 + C81 * ( re1_7p - re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) + im2_6m;
2899 17482670 : pInOut[3] = im0 + C81 * ( im1_7p - im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) - re2_6m;
2900 :
2901 17482670 : pInOut[4] = re0 - re2_6p + re4 + im1_7m - im3_5m;
2902 17482670 : pInOut[5] = im0 - im2_6p + im4 - re1_7m + re3_5m;
2903 :
2904 17482670 : pInOut[6] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 + C81 * ( im1_7m + im3_5m ) - im2_6m;
2905 17482670 : pInOut[7] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 - C81 * ( re1_7m + re3_5m ) + re2_6m;
2906 :
2907 17482670 : pInOut[8] = re0 - re1_7p + re2_6p - re3_5p + re4;
2908 17482670 : pInOut[9] = im0 - im1_7p + im2_6p - im3_5p + im4;
2909 :
2910 17482670 : pInOut[10] = re0 + C81 * ( -re1_7p + re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) + im2_6m;
2911 17482670 : pInOut[11] = im0 + C81 * ( -im1_7p + im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) - re2_6m;
2912 :
2913 17482670 : pInOut[12] = re0 - re2_6p + re4 - im1_7m + im3_5m;
2914 17482670 : pInOut[13] = im0 - im2_6p + im4 + re1_7m - re3_5m;
2915 :
2916 17482670 : pInOut[14] = re0 + C81 * ( re1_7p - re3_5p ) - re4 - C81 * ( im1_7m + im3_5m ) - im2_6m;
2917 17482670 : pInOut[15] = im0 + C81 * ( im1_7p - im3_5p ) - im4 + C81 * ( re1_7m + re3_5m ) + re2_6m;
2918 :
2919 17482670 : return;
2920 : }
2921 :
2922 17602260 : static void nextFFT(
2923 : float *x,
2924 : const int16_t length )
2925 : {
2926 17602260 : switch ( length )
2927 : {
2928 0 : case 2:
2929 0 : fft2( x );
2930 0 : break;
2931 0 : case 3:
2932 0 : fft3_2( x );
2933 0 : break;
2934 0 : case 4:
2935 0 : fft4( x );
2936 0 : break;
2937 239840 : case 5:
2938 239840 : fft5( x );
2939 239840 : break;
2940 17362420 : case 8:
2941 17362420 : fft8_2( x );
2942 17362420 : break;
2943 0 : default:
2944 0 : assert( !"length not supported" );
2945 : break;
2946 : }
2947 :
2948 17602260 : return;
2949 : }
2950 :
2951 : static const int16_t CTFFTfactors[] = { 9, 8, 7, 5, 4, 3, 2, 0 };
2952 :
2953 8729178 : static __inline int16_t findFactor(
2954 : const int16_t length )
2955 : {
2956 8729178 : int16_t i = 0;
2957 8729178 : int16_t factor = 0;
2958 :
2959 17554292 : while ( CTFFTfactors[i] != 0 )
2960 : {
2961 17554292 : if ( 0 == ( length % CTFFTfactors[i] ) )
2962 : {
2963 8729178 : factor = CTFFTfactors[i];
2964 8729178 : break;
2965 : }
2966 8825114 : i++;
2967 : }
2968 8729178 : return factor;
2969 : }
2970 :
2971 8729178 : static __inline void twiddle(
2972 : float *x,
2973 : const int16_t length,
2974 : const int16_t n1,
2975 : const int16_t n2 )
2976 : {
2977 : int16_t i, ii;
2978 8729178 : double pi = 4. * atan( 1. );
2979 : float sinValOrg, cosValOrg;
2980 8729178 : float sinVal = 0.f, cosVal = 1.f;
2981 8729178 : float twReal = 0.f, twImag = 1.f;
2982 :
2983 8729178 : cosValOrg = (float) cos( -2 * pi * 1. / (double) length );
2984 8729178 : sinValOrg = (float) sin( -2 * pi * 1. / (double) length );
2985 69689520 : for ( i = 1; i < n1; i++ )
2986 : {
2987 : float tmp;
2988 60960342 : twReal = 1.f;
2989 60960342 : twImag = 0.f;
2990 60960342 : tmp = cosVal * cosValOrg - sinVal * sinValOrg;
2991 60960342 : sinVal = sinVal * cosValOrg + cosVal * sinValOrg;
2992 60960342 : cosVal = tmp;
2993 122496300 : for ( ii = 1; ii < n2; ii++ )
2994 : {
2995 : float xRe, xIm, tmpReal;
2996 : /* cos(x+y) = cos(x)*cos(y) - sin(x)*sin(y); */
2997 : /* sin(x+y) = sin(x)*cos(y) + sin(y)*cos(x); */
2998 61535958 : tmpReal = twReal * cosVal - twImag * sinVal;
2999 61535958 : twImag = twImag * cosVal + sinVal * twReal;
3000 61535958 : twReal = tmpReal;
3001 61535958 : xRe = x[2 * ( i * n2 + ii )];
3002 61535958 : xIm = x[2 * ( i * n2 + ii ) + 1];
3003 61535958 : x[2 * ( i * n2 + ii )] = twReal * xRe - twImag * xIm;
3004 61535958 : x[2 * ( i * n2 + ii ) + 1] = twImag * xRe + twReal * xIm;
3005 : }
3006 60960342 : tmp = cosVal;
3007 : }
3008 :
3009 8729178 : return;
3010 : }
3011 :
3012 152574040 : static void cooleyTukeyFFT(
3013 : float *x,
3014 : const int16_t length,
3015 : float *scratch )
3016 : {
3017 : int16_t factor;
3018 : int16_t i, ii;
3019 : int16_t n1, n2;
3020 152574040 : int16_t cnt = 0;
3021 : float *src, *dest;
3022 :
3023 152574040 : switch ( length )
3024 : {
3025 0 : case 1:
3026 0 : break;
3027 69449680 : case 2:
3028 69449680 : fft2( x );
3029 69449680 : break;
3030 46302120 : case 3:
3031 46302120 : fft3_2( x );
3032 46302120 : break;
3033 300 : case 4:
3034 300 : fft4( x );
3035 300 : break;
3036 27972512 : case 5:
3037 27972512 : fft5( x );
3038 27972512 : break;
3039 120250 : case 8:
3040 120250 : fft8_2( x );
3041 120250 : break;
3042 8729178 : default:
3043 : {
3044 8729178 : factor = findFactor( length );
3045 8729178 : if ( factor > 0 && ( length / factor > 1 ) )
3046 : {
3047 8729178 : n1 = factor;
3048 8729178 : n2 = length / factor;
3049 :
3050 : /* DATA Resorting for stage1 */
3051 8729178 : dest = scratch;
3052 78418698 : for ( i = 0; i < 2 * n1; i += 2 )
3053 : {
3054 69689520 : src = x + i;
3055 209788080 : for ( ii = 0; ii < n2; ii++ )
3056 : {
3057 : /* *dest++ = x[2*(i+ii*n1)]; */
3058 : /* *dest++ = x[2*(i+ii*n1)+1]; */
3059 140098560 : *dest++ = *src;
3060 140098560 : *dest++ = *( src + 1 );
3061 140098560 : src += 2 * n1;
3062 : }
3063 : }
3064 8729178 : src = scratch;
3065 8729178 : dest = x;
3066 148827738 : for ( i = 0; i < length; i++ )
3067 : {
3068 140098560 : *dest++ = *src++;
3069 140098560 : *dest++ = *src++;
3070 : }
3071 : /* perform n1 ffts of length n2 */
3072 78418698 : for ( i = 0; i < n1; i++ )
3073 : {
3074 69689520 : cooleyTukeyFFT( x + 2 * i * n2, n2, scratch + 2 * i * n2 );
3075 : }
3076 : /*data twiddeling */
3077 8729178 : twiddle( x, length, n1, n2 );
3078 : /* DATA Resorting for stage2 */
3079 8729178 : cnt = 0;
3080 26331438 : for ( i = 0; i < n2; i++ )
3081 : {
3082 157700820 : for ( ii = 0; ii < n1; ii++ )
3083 : {
3084 140098560 : scratch[2 * cnt] = x[2 * ( i + ii * n2 )];
3085 140098560 : scratch[2 * cnt + 1] = x[2 * ( i + ii * n2 ) + 1];
3086 140098560 : cnt++;
3087 : }
3088 : }
3089 : /* perform n2 ffts of length n1 */
3090 26331438 : for ( i = 0; i < n2; i++ )
3091 : {
3092 17602260 : nextFFT( scratch + 2 * i * n1, n1 );
3093 : }
3094 8729178 : cnt = 0;
3095 78418698 : for ( i = 0; i < n1; i++ )
3096 : {
3097 209788080 : for ( ii = 0; ii < n2; ii++ )
3098 : {
3099 140098560 : x[2 * cnt] = scratch[2 * ( i + ii * n1 )];
3100 140098560 : x[2 * cnt + 1] = scratch[2 * ( i + ii * n1 ) + 1];
3101 140098560 : cnt++;
3102 : }
3103 : }
3104 : }
3105 : else
3106 : {
3107 0 : assert( !"length not supported" );
3108 : }
3109 : }
3110 : }
3111 :
3112 152574040 : return;
3113 : }
3114 :
3115 56243760 : static void pfaDFT(
3116 : float *x,
3117 : const int16_t length,
3118 : float *scratch1,
3119 : const int16_t numFactors,
3120 : const int16_t *factor )
3121 : {
3122 : int16_t i, ii;
3123 : int16_t cnt;
3124 :
3125 56243760 : if ( numFactors > 1 )
3126 : {
3127 9836715 : float *tmp = scratch1;
3128 9836715 : int16_t n1_inv = 1, n2_inv = 1;
3129 9836715 : int16_t n2 = factor[0 /*idx*/];
3130 9836715 : int16_t n1 = length / n2;
3131 : int16_t idx, incr;
3132 :
3133 27280811 : while ( ( ( n1_inv * n1 ) % n2 ) != 1 )
3134 : {
3135 17444096 : n1_inv++;
3136 : }
3137 19095784 : while ( ( ( n2_inv * n2 ) % n1 ) != 1 )
3138 : {
3139 9259069 : n2_inv++;
3140 : }
3141 9836715 : idx = 0;
3142 9836715 : incr = n1 * n1_inv;
3143 9836715 : cnt = 0;
3144 46314190 : for ( i = 0; i < n1; i++ )
3145 : {
3146 278768920 : for ( ii = 0; ii < n2 - 1; ii++ )
3147 : {
3148 242291445 : tmp[cnt++] = x[2 * idx];
3149 242291445 : tmp[cnt++] = x[2 * idx + 1];
3150 :
3151 242291445 : idx += incr;
3152 242291445 : if ( idx > length )
3153 : {
3154 159305715 : idx -= length;
3155 : }
3156 : }
3157 36477475 : tmp[cnt++] = x[2 * idx];
3158 36477475 : tmp[cnt++] = x[2 * idx + 1];
3159 36477475 : idx++;
3160 : }
3161 46314190 : for ( cnt = 0; cnt < length; cnt += n2 )
3162 : {
3163 36477475 : cooleyTukeyFFT( tmp + 2 * cnt, n2, x + 2 * cnt );
3164 : }
3165 46314190 : for ( cnt = 0; cnt < n1; cnt++ )
3166 : {
3167 315246395 : for ( i = 0; i < n2; i++ )
3168 : {
3169 278768920 : x[2 * ( cnt + i * n1 )] = tmp[2 * ( cnt * n2 + i )];
3170 278768920 : x[2 * ( cnt + i * n1 ) + 1] = tmp[2 * ( cnt * n2 + i ) + 1];
3171 : }
3172 : }
3173 65498109 : for ( cnt = 0; cnt < length; cnt += n1 )
3174 : {
3175 55661394 : pfaDFT( x + 2 * cnt, n1, tmp, numFactors - 1, &factor[1] );
3176 : }
3177 9836715 : idx = 0;
3178 9836715 : cnt = 0;
3179 65498109 : for ( i = 0; i < n2; i++ )
3180 : {
3181 55661394 : idx = i * n1;
3182 334430314 : for ( ii = 0; ii < n1; ii++ )
3183 : {
3184 278768920 : tmp[2 * idx] = x[cnt++];
3185 278768920 : tmp[2 * idx + 1] = x[cnt++];
3186 278768920 : idx += n2;
3187 278768920 : if ( idx > length )
3188 : {
3189 45824679 : idx -= length;
3190 : }
3191 : }
3192 : }
3193 288605635 : for ( cnt = 0; cnt < length; cnt++ )
3194 : {
3195 278768920 : x[2 * cnt] = tmp[2 * cnt];
3196 278768920 : x[2 * cnt + 1] = tmp[2 * cnt + 1];
3197 : }
3198 : }
3199 : else
3200 : {
3201 46407045 : cooleyTukeyFFT( x, length, scratch1 );
3202 : }
3203 :
3204 56243760 : return;
3205 : }
3206 :
3207 582366 : static void fftf_interleave(
3208 : float *re,
3209 : float *im,
3210 : float *out,
3211 : const int16_t len )
3212 : {
3213 582366 : int16_t i = 0;
3214 :
3215 140444926 : for ( i = 0; i < len; i++ )
3216 : {
3217 139862560 : *out++ = *re++;
3218 139862560 : *out++ = *im++;
3219 : }
3220 :
3221 582366 : return;
3222 : }
3223 :
3224 582366 : static void fftf_deinterleave(
3225 : float *in,
3226 : float *re,
3227 : float *im,
3228 : const int16_t len )
3229 : {
3230 582366 : int16_t i = 0;
3231 :
3232 140444926 : for ( i = 0; i < len; i++ )
3233 : {
3234 139862560 : *re++ = *in++;
3235 139862560 : *im++ = *in++;
3236 : }
3237 :
3238 582366 : return;
3239 : }
3240 :
3241 405 : static void DoRTFT600(
3242 : float *x, /* i/o: real part of input and output data */
3243 : float *y /* i/o: imaginary part of input and output data */
3244 : )
3245 : {
3246 : float scratch[1200], cmplx[1200];
3247 405 : const int16_t factors[3] = { 25, 8, 3 };
3248 :
3249 405 : fftf_interleave( x, y, cmplx, 600 );
3250 405 : pfaDFT( cmplx, 600, scratch, 3, factors );
3251 405 : fftf_deinterleave( cmplx, x, y, 600 );
3252 :
3253 405 : return;
3254 : }
3255 :
3256 590 : static void DoRTFT400(
3257 : float *x, /* i/o: real part of input and output data */
3258 : float *y /* i/o: imaginary part of input and output data */
3259 : )
3260 : {
3261 : float scratch[800], cmplx[800];
3262 590 : const int16_t factors[2] = { 25, 16 };
3263 :
3264 590 : fftf_interleave( x, y, cmplx, 400 );
3265 590 : pfaDFT( cmplx, 400, scratch, 2, factors );
3266 590 : fftf_deinterleave( cmplx, x, y, 400 );
3267 :
3268 :
3269 590 : return;
3270 : }
3271 :
3272 577764 : static void DoRTFT240(
3273 : float *x, /* i/o: real part of input and output data */
3274 : float *y /* i/o: imaginary part of input and output data */
3275 : )
3276 : {
3277 : float scratch[480], cmplx[480];
3278 577764 : const int16_t factors[3] = { 16, 5, 3 };
3279 :
3280 577764 : fftf_interleave( x, y, cmplx, 240 );
3281 577764 : pfaDFT( cmplx, 240, scratch, 3, factors );
3282 577764 : fftf_deinterleave( cmplx, x, y, 240 );
3283 :
3284 577764 : return;
3285 : }
3286 :
3287 3595 : static void DoRTFT200(
3288 : float *x, /* i/o: real part of input and output data */
3289 : float *y /* i/o: imaginary part of input and output data */
3290 : )
3291 : {
3292 : float scratch[400], cmplx[400];
3293 3595 : const int16_t factors[2] = { 25, 8 };
3294 :
3295 3595 : fftf_interleave( x, y, cmplx, 200 );
3296 3595 : pfaDFT( cmplx, 200, scratch, 2, factors );
3297 3595 : fftf_deinterleave( cmplx, x, y, 200 );
3298 :
3299 3595 : return;
3300 : }
3301 :
3302 12 : static void DoRTFT100(
3303 : float *x, /* i/o: real part of input and output data */
3304 : float *y /* i/o: imaginary part of input and output data */
3305 : )
3306 : {
3307 : float scratch[200], cmplx[200];
3308 12 : const int16_t factors[2] = { 25, 4 };
3309 :
3310 12 : fftf_interleave( x, y, cmplx, 100 );
3311 12 : pfaDFT( cmplx, 100, scratch, 2, factors );
3312 12 : fftf_deinterleave( cmplx, x, y, 100 );
3313 :
3314 12 : return;
3315 : }
3316 :
3317 :
3318 6409863 : void DoFFT(
3319 : float *re2,
3320 : float *im2,
3321 : const int16_t length )
3322 : {
3323 6409863 : switch ( length )
3324 : {
3325 405 : case 600:
3326 405 : DoRTFT600( re2, im2 );
3327 405 : break;
3328 71644 : case 480:
3329 71644 : DoRTFT480( re2, im2 );
3330 71644 : break;
3331 590 : case 400:
3332 590 : DoRTFT400( re2, im2 );
3333 590 : break;
3334 297917 : case 320:
3335 297917 : DoRTFT320( re2, im2 );
3336 297917 : break;
3337 3712 : case 256:
3338 3712 : DoRTFTn( re2, im2, 256 );
3339 3712 : break;
3340 577764 : case 240:
3341 577764 : DoRTFT240( re2, im2 );
3342 577764 : break;
3343 3595 : case 200:
3344 3595 : DoRTFT200( re2, im2 );
3345 3595 : break;
3346 176823 : case 160:
3347 176823 : DoRTFT160( re2, im2 );
3348 176823 : break;
3349 5166267 : case 128:
3350 5166267 : DoRTFT128( re2, im2 );
3351 5166267 : break;
3352 3384 : case 120:
3353 3384 : DoRTFT120( re2, im2 );
3354 3384 : break;
3355 12 : case 100:
3356 12 : DoRTFT100( re2, im2 );
3357 12 : break;
3358 106238 : case 80:
3359 106238 : DoRTFT80( re2, im2 );
3360 106238 : break;
3361 400 : case 64:
3362 400 : DoRTFTn( re2, im2, 64 );
3363 400 : break;
3364 1016 : case 40:
3365 1016 : DoRTFT40( re2, im2 );
3366 1016 : break;
3367 96 : case 20:
3368 96 : DoRTFT20( re2, im2 );
3369 96 : break;
3370 0 : default:
3371 0 : assert( !"fft is not supported!" );
3372 : }
3373 :
3374 6409863 : return;
3375 : }
3376 :
3377 : /*-----------------------------------------------------------------*
3378 : * Low-complexity implementation of FFT
3379 : *-----------------------------------------------------------------*/
3380 :
3381 4176816 : static void fft_len5(
3382 : float *re,
3383 : float *im,
3384 : const int16_t s )
3385 : {
3386 : float x0, x1, x2, x3, x4;
3387 : float r1, r2, r3, r4;
3388 : float s1, s2, s3, s4;
3389 : float t;
3390 :
3391 4176816 : x0 = re[s * 0];
3392 4176816 : x1 = re[s * 1];
3393 4176816 : x2 = re[s * 2];
3394 4176816 : x3 = re[s * 3];
3395 4176816 : x4 = re[s * 4];
3396 :
3397 4176816 : r1 = ( x1 + x4 );
3398 4176816 : r4 = ( x1 - x4 );
3399 4176816 : r3 = ( x2 + x3 );
3400 4176816 : r2 = ( x2 - x3 );
3401 4176816 : t = ( ( r1 - r3 ) * FFT_C54 );
3402 4176816 : r1 = ( r1 + r3 );
3403 4176816 : re[0] = ( x0 + r1 );
3404 :
3405 4176816 : r1 = ( re[0] + ( ( r1 * FFT_C55 ) ) );
3406 4176816 : r3 = ( r1 - t );
3407 4176816 : r1 = ( r1 + t );
3408 4176816 : t = ( ( r4 + r2 ) * FFT_C51 );
3409 :
3410 4176816 : r4 = ( t + ( r4 * FFT_C52 ) );
3411 4176816 : r2 = ( t + ( r2 * FFT_C53 ) );
3412 :
3413 4176816 : x0 = im[s * 0];
3414 4176816 : x1 = im[s * 1];
3415 4176816 : x2 = im[s * 2];
3416 4176816 : x3 = im[s * 3];
3417 4176816 : x4 = im[s * 4];
3418 :
3419 4176816 : s1 = ( x1 + x4 );
3420 4176816 : s4 = ( x1 - x4 );
3421 4176816 : s3 = ( x2 + x3 );
3422 4176816 : s2 = ( x2 - x3 );
3423 4176816 : t = ( ( s1 - s3 ) * FFT_C54 );
3424 4176816 : s1 = ( s1 + s3 );
3425 4176816 : im[0] = ( x0 + s1 );
3426 :
3427 4176816 : s1 = ( im[0] + ( s1 * FFT_C55 ) );
3428 4176816 : s3 = ( s1 - t );
3429 4176816 : s1 = ( s1 + t );
3430 4176816 : t = ( ( s4 + s2 ) * FFT_C51 );
3431 :
3432 4176816 : s4 = ( t + ( s4 * FFT_C52 ) );
3433 4176816 : s2 = ( t + ( s2 * FFT_C53 ) );
3434 :
3435 4176816 : re[s * 1] = ( r1 + s2 );
3436 4176816 : re[s * 4] = ( r1 - s2 );
3437 4176816 : re[s * 2] = ( r3 - s4 );
3438 4176816 : re[s * 3] = ( r3 + s4 );
3439 :
3440 4176816 : im[s * 1] = ( s1 - r2 );
3441 4176816 : im[s * 4] = ( s1 + r2 );
3442 4176816 : im[s * 2] = ( s3 + r4 );
3443 4176816 : im[s * 3] = ( s3 - r4 );
3444 :
3445 4176816 : return;
3446 : }
3447 :
3448 2229104 : static void fft_len8(
3449 : float *re,
3450 : float *im,
3451 : const int16_t s )
3452 : {
3453 : float x00, x01, x02, x03, x04, x05, x06, x07;
3454 : float x08, x09, x10, x11, x12, x13, x14, x15;
3455 : float t00, t01, t02, t03, t04, t05, t06, t07;
3456 : float t08, t09, t10, t11, t12, t13, t14, t15;
3457 : float s00, s01, s02, s03, s04, s05, s06, s07;
3458 : float s08, s09, s10, s11, s12, s13, s14, s15;
3459 :
3460 2229104 : x00 = re[s * 0];
3461 2229104 : x01 = im[s * 0];
3462 2229104 : x02 = re[s * 1];
3463 2229104 : x03 = im[s * 1];
3464 2229104 : x04 = re[s * 2];
3465 2229104 : x05 = im[s * 2];
3466 2229104 : x06 = re[s * 3];
3467 2229104 : x07 = im[s * 3];
3468 2229104 : x08 = re[s * 4];
3469 2229104 : x09 = im[s * 4];
3470 2229104 : x10 = re[s * 5];
3471 2229104 : x11 = im[s * 5];
3472 2229104 : x12 = re[s * 6];
3473 2229104 : x13 = im[s * 6];
3474 2229104 : x14 = re[s * 7];
3475 2229104 : x15 = im[s * 7];
3476 :
3477 2229104 : t00 = ( x00 + x08 );
3478 2229104 : t02 = ( x00 - x08 );
3479 2229104 : t01 = ( x01 + x09 );
3480 2229104 : t03 = ( x01 - x09 );
3481 2229104 : t04 = ( x02 + x10 );
3482 2229104 : t06 = ( x02 - x10 );
3483 2229104 : t05 = ( x03 + x11 );
3484 2229104 : t07 = ( x03 - x11 );
3485 2229104 : t08 = ( x04 + x12 );
3486 2229104 : t10 = ( x04 - x12 );
3487 2229104 : t09 = ( x05 + x13 );
3488 2229104 : t11 = ( x05 - x13 );
3489 2229104 : t12 = ( x06 + x14 );
3490 2229104 : t14 = ( x06 - x14 );
3491 2229104 : t13 = ( x07 + x15 );
3492 2229104 : t15 = ( x07 - x15 );
3493 :
3494 2229104 : s00 = ( t00 + t08 );
3495 2229104 : s04 = ( t00 - t08 );
3496 2229104 : s01 = ( t01 + t09 );
3497 2229104 : s05 = ( t01 - t09 );
3498 2229104 : s08 = ( t02 - t11 );
3499 2229104 : s10 = ( t02 + t11 );
3500 2229104 : s09 = ( t03 + t10 );
3501 2229104 : s11 = ( t03 - t10 );
3502 2229104 : s02 = ( t04 + t12 );
3503 2229104 : s07 = ( t04 - t12 );
3504 2229104 : s03 = ( t05 + t13 );
3505 2229104 : s06 = ( t13 - t05 );
3506 :
3507 2229104 : t01 = ( t06 + t14 );
3508 2229104 : t02 = ( t06 - t14 );
3509 2229104 : t00 = ( t07 + t15 );
3510 2229104 : t03 = ( t07 - t15 );
3511 :
3512 2229104 : s12 = ( ( t00 + t02 ) * FFT_C81 );
3513 2229104 : s14 = ( ( t00 - t02 ) * FFT_C81 );
3514 2229104 : s13 = ( ( t03 - t01 ) * FFT_C81 );
3515 2229104 : s15 = ( ( t01 + t03 ) * FFT_C82 );
3516 :
3517 2229104 : re[s * 0] = ( s00 + s02 );
3518 2229104 : re[s * 4] = ( s00 - s02 );
3519 2229104 : im[s * 0] = ( s01 + s03 );
3520 2229104 : im[s * 4] = ( s01 - s03 );
3521 2229104 : re[s * 2] = ( s04 - s06 );
3522 2229104 : re[s * 6] = ( s04 + s06 );
3523 2229104 : im[s * 2] = ( s05 - s07 );
3524 2229104 : im[s * 6] = ( s05 + s07 );
3525 2229104 : re[s * 3] = ( s08 + s14 );
3526 2229104 : re[s * 7] = ( s08 - s14 );
3527 2229104 : im[s * 3] = ( s09 + s15 );
3528 2229104 : im[s * 7] = ( s09 - s15 );
3529 2229104 : re[s * 1] = ( s10 + s12 );
3530 2229104 : re[s * 5] = ( s10 - s12 );
3531 2229104 : im[s * 1] = ( s11 + s13 );
3532 2229104 : im[s * 5] = ( s11 - s13 );
3533 :
3534 2229104 : return;
3535 : }
3536 :
3537 245195444 : static void fft_len10(
3538 : float *re,
3539 : float *im,
3540 : const int16_t s )
3541 : {
3542 : float t;
3543 : float x0, x1, x2, x3, x4;
3544 : float r1, r2, r3, r4;
3545 : float s1, s2, s3, s4;
3546 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3547 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3548 :
3549 245195444 : x0 = re[s * 0];
3550 245195444 : x1 = re[s * 2];
3551 245195444 : x2 = re[s * 4];
3552 245195444 : x3 = re[s * 6];
3553 245195444 : x4 = re[s * 8];
3554 :
3555 245195444 : r1 = ( x3 + x2 );
3556 245195444 : r4 = ( x3 - x2 );
3557 245195444 : r3 = ( x1 + x4 );
3558 245195444 : r2 = ( x1 - x4 );
3559 245195444 : t = ( ( r1 - r3 ) * FFT_C54 );
3560 245195444 : r1 = ( r1 + r3 );
3561 245195444 : y00 = ( x0 + r1 );
3562 245195444 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3563 245195444 : r3 = ( r1 - t );
3564 245195444 : r1 = ( r1 + t );
3565 245195444 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3566 245195444 : r4 = ( t + ( r4 * FFT_C52 ) );
3567 245195444 : r2 = ( t + ( r2 * FFT_C53 ) );
3568 :
3569 245195444 : x0 = im[s * 0];
3570 245195444 : x1 = im[s * 2];
3571 245195444 : x2 = im[s * 4];
3572 245195444 : x3 = im[s * 6];
3573 245195444 : x4 = im[s * 8];
3574 :
3575 245195444 : s1 = ( x3 + x2 );
3576 245195444 : s4 = ( x3 - x2 );
3577 245195444 : s3 = ( x1 + x4 );
3578 245195444 : s2 = ( x1 - x4 );
3579 245195444 : t = ( ( s1 - s3 ) * FFT_C54 );
3580 245195444 : s1 = ( s1 + s3 );
3581 245195444 : y01 = ( x0 + s1 );
3582 245195444 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3583 245195444 : s3 = ( s1 - t );
3584 245195444 : s1 = ( s1 + t );
3585 245195444 : t = ( ( s4 + s2 ) * FFT_C51 );
3586 245195444 : s4 = ( t + ( s4 * FFT_C52 ) );
3587 245195444 : s2 = ( t + ( s2 * FFT_C53 ) );
3588 :
3589 245195444 : y04 = ( r1 + s2 );
3590 245195444 : y16 = ( r1 - s2 );
3591 245195444 : y08 = ( r3 - s4 );
3592 245195444 : y12 = ( r3 + s4 );
3593 :
3594 245195444 : y05 = ( s1 - r2 );
3595 245195444 : y17 = ( s1 + r2 );
3596 245195444 : y09 = ( s3 + r4 );
3597 245195444 : y13 = ( s3 - r4 );
3598 :
3599 245195444 : x0 = re[s * 5];
3600 245195444 : x1 = re[s * 1];
3601 245195444 : x2 = re[s * 3];
3602 245195444 : x3 = re[s * 7];
3603 245195444 : x4 = re[s * 9];
3604 :
3605 245195444 : r1 = ( x1 + x4 );
3606 245195444 : r4 = ( x1 - x4 );
3607 245195444 : r3 = ( x3 + x2 );
3608 245195444 : r2 = ( x3 - x2 );
3609 245195444 : t = ( ( r1 - r3 ) * FFT_C54 );
3610 245195444 : r1 = ( r1 + r3 );
3611 245195444 : y02 = ( x0 + r1 );
3612 245195444 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
3613 245195444 : r3 = ( r1 - t );
3614 245195444 : r1 = ( r1 + t );
3615 245195444 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3616 245195444 : r4 = ( t + ( r4 * FFT_C52 ) );
3617 245195444 : r2 = ( t + ( r2 * FFT_C53 ) );
3618 :
3619 245195444 : x0 = im[s * 5];
3620 245195444 : x1 = im[s * 1];
3621 245195444 : x2 = im[s * 3];
3622 245195444 : x3 = im[s * 7];
3623 245195444 : x4 = im[s * 9];
3624 :
3625 245195444 : s1 = ( x1 + x4 );
3626 245195444 : s4 = ( x1 - x4 );
3627 245195444 : s3 = ( x3 + x2 );
3628 245195444 : s2 = ( x3 - x2 );
3629 245195444 : t = ( ( s1 - s3 ) * FFT_C54 );
3630 245195444 : s1 = ( s1 + s3 );
3631 245195444 : y03 = ( x0 + s1 );
3632 245195444 : s1 = ( y03 + ( s1 * FFT_C55 ) );
3633 245195444 : s3 = ( s1 - t );
3634 245195444 : s1 = ( s1 + t );
3635 245195444 : t = ( ( s4 + s2 ) * FFT_C51 );
3636 245195444 : s4 = ( t + ( s4 * FFT_C52 ) );
3637 245195444 : s2 = ( t + ( s2 * FFT_C53 ) );
3638 :
3639 245195444 : y06 = ( r1 + s2 );
3640 245195444 : y18 = ( r1 - s2 );
3641 245195444 : y10 = ( r3 - s4 );
3642 245195444 : y14 = ( r3 + s4 );
3643 :
3644 245195444 : y07 = ( s1 - r2 );
3645 245195444 : y19 = ( s1 + r2 );
3646 245195444 : y11 = ( s3 + r4 );
3647 245195444 : y15 = ( s3 - r4 );
3648 :
3649 245195444 : re[s * 0] = ( y00 + y02 );
3650 245195444 : im[s * 0] = ( y01 + y03 );
3651 245195444 : re[s * 5] = ( y00 - y02 );
3652 245195444 : im[s * 5] = ( y01 - y03 );
3653 :
3654 245195444 : re[s * 2] = ( y04 + y06 );
3655 245195444 : im[s * 2] = ( y05 + y07 );
3656 245195444 : re[s * 7] = ( y04 - y06 );
3657 245195444 : im[s * 7] = ( y05 - y07 );
3658 :
3659 245195444 : re[s * 4] = ( y08 + y10 );
3660 245195444 : im[s * 4] = ( y09 + y11 );
3661 245195444 : re[s * 9] = ( y08 - y10 );
3662 245195444 : im[s * 9] = ( y09 - y11 );
3663 :
3664 245195444 : re[s * 6] = ( y12 + y14 );
3665 245195444 : im[s * 6] = ( y13 + y15 );
3666 245195444 : re[s * 1] = ( y12 - y14 );
3667 245195444 : im[s * 1] = ( y13 - y15 );
3668 :
3669 245195444 : re[s * 8] = ( y16 + y18 );
3670 245195444 : im[s * 8] = ( y17 + y19 );
3671 245195444 : re[s * 3] = ( y16 - y18 );
3672 245195444 : im[s * 3] = ( y17 - y19 );
3673 :
3674 245195444 : return;
3675 : }
3676 :
3677 15142280 : static void fft_len15(
3678 : float *re,
3679 : float *im,
3680 : const int16_t s )
3681 : {
3682 : float t;
3683 : float r1, r2, r3, r4;
3684 : float s1, s2, s3, s4;
3685 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
3686 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
3687 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
3688 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
3689 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
3690 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
3691 :
3692 15142280 : x00 = re[s * 0];
3693 15142280 : x01 = im[s * 0];
3694 15142280 : x02 = re[s * 3];
3695 15142280 : x03 = im[s * 3];
3696 15142280 : x04 = re[s * 6];
3697 15142280 : x05 = im[s * 6];
3698 15142280 : x06 = re[s * 9];
3699 15142280 : x07 = im[s * 9];
3700 15142280 : x08 = re[s * 12];
3701 15142280 : x09 = im[s * 12];
3702 :
3703 15142280 : x10 = re[s * 5];
3704 15142280 : x11 = im[s * 5];
3705 15142280 : x12 = re[s * 8];
3706 15142280 : x13 = im[s * 8];
3707 15142280 : x14 = re[s * 11];
3708 15142280 : x15 = im[s * 11];
3709 15142280 : x16 = re[s * 14];
3710 15142280 : x17 = im[s * 14];
3711 15142280 : x18 = re[s * 2];
3712 15142280 : x19 = im[s * 2];
3713 :
3714 15142280 : x20 = re[s * 10];
3715 15142280 : x21 = im[s * 10];
3716 15142280 : x22 = re[s * 13];
3717 15142280 : x23 = im[s * 13];
3718 15142280 : x24 = re[s * 1];
3719 15142280 : x25 = im[s * 1];
3720 15142280 : x26 = re[s * 4];
3721 15142280 : x27 = im[s * 4];
3722 15142280 : x28 = re[s * 7];
3723 15142280 : x29 = im[s * 7];
3724 :
3725 15142280 : r1 = ( x02 + x08 );
3726 15142280 : r4 = ( x02 - x08 );
3727 15142280 : r3 = ( x04 + x06 );
3728 15142280 : r2 = ( x04 - x06 );
3729 15142280 : t = ( ( r1 - r3 ) * FFT_C54 );
3730 15142280 : r1 = ( r1 + r3 );
3731 15142280 : y00 = ( x00 + r1 );
3732 15142280 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
3733 15142280 : r3 = ( r1 - t );
3734 15142280 : r1 = ( r1 + t );
3735 15142280 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3736 15142280 : r4 = ( t + ( r4 * FFT_C52 ) );
3737 15142280 : r2 = ( t + ( r2 * FFT_C53 ) );
3738 :
3739 15142280 : s1 = ( x03 + x09 );
3740 15142280 : s4 = ( x03 - x09 );
3741 15142280 : s3 = ( x05 + x07 );
3742 15142280 : s2 = ( x05 - x07 );
3743 15142280 : t = ( ( s1 - s3 ) * FFT_C54 );
3744 15142280 : s1 = ( s1 + s3 );
3745 15142280 : y01 = ( x01 + s1 );
3746 15142280 : s1 = ( y01 + ( s1 * FFT_C55 ) );
3747 15142280 : s3 = ( s1 - t );
3748 15142280 : s1 = ( s1 + t );
3749 15142280 : t = ( ( s4 + s2 ) * FFT_C51 );
3750 15142280 : s4 = ( t + ( s4 * FFT_C52 ) );
3751 15142280 : s2 = ( t + ( s2 * FFT_C53 ) );
3752 :
3753 15142280 : y02 = ( r1 + s2 );
3754 15142280 : y08 = ( r1 - s2 );
3755 15142280 : y04 = ( r3 - s4 );
3756 15142280 : y06 = ( r3 + s4 );
3757 :
3758 15142280 : y03 = ( s1 - r2 );
3759 15142280 : y09 = ( s1 + r2 );
3760 15142280 : y05 = ( s3 + r4 );
3761 15142280 : y07 = ( s3 - r4 );
3762 :
3763 15142280 : r1 = ( x12 + x18 );
3764 15142280 : r4 = ( x12 - x18 );
3765 15142280 : r3 = ( x14 + x16 );
3766 15142280 : r2 = ( x14 - x16 );
3767 15142280 : t = ( ( r1 - r3 ) * FFT_C54 );
3768 15142280 : r1 = ( r1 + r3 );
3769 15142280 : y10 = ( x10 + r1 );
3770 15142280 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
3771 15142280 : r3 = ( r1 - t );
3772 15142280 : r1 = ( r1 + t );
3773 15142280 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3774 15142280 : r4 = ( t + ( r4 * FFT_C52 ) );
3775 15142280 : r2 = ( t + ( r2 * FFT_C53 ) );
3776 :
3777 15142280 : s1 = ( x13 + x19 );
3778 15142280 : s4 = ( x13 - x19 );
3779 15142280 : s3 = ( x15 + x17 );
3780 15142280 : s2 = ( x15 - x17 );
3781 15142280 : t = ( ( s1 - s3 ) * FFT_C54 );
3782 15142280 : s1 = ( s1 + s3 );
3783 15142280 : y11 = ( x11 + s1 );
3784 15142280 : s1 = ( y11 + ( s1 * FFT_C55 ) );
3785 15142280 : s3 = ( s1 - t );
3786 15142280 : s1 = ( s1 + t );
3787 15142280 : t = ( ( s4 + s2 ) * FFT_C51 );
3788 15142280 : s4 = ( t + ( s4 * FFT_C52 ) );
3789 15142280 : s2 = ( t + ( s2 * FFT_C53 ) );
3790 :
3791 15142280 : y12 = ( r1 + s2 );
3792 15142280 : y18 = ( r1 - s2 );
3793 15142280 : y14 = ( r3 - s4 );
3794 15142280 : y16 = ( r3 + s4 );
3795 :
3796 15142280 : y13 = ( s1 - r2 );
3797 15142280 : y19 = ( s1 + r2 );
3798 15142280 : y15 = ( s3 + r4 );
3799 15142280 : y17 = ( s3 - r4 );
3800 :
3801 15142280 : r1 = ( x22 + x28 );
3802 15142280 : r4 = ( x22 - x28 );
3803 15142280 : r3 = ( x24 + x26 );
3804 15142280 : r2 = ( x24 - x26 );
3805 15142280 : t = ( ( r1 - r3 ) * FFT_C54 );
3806 15142280 : r1 = ( r1 + r3 );
3807 15142280 : y20 = ( x20 + r1 );
3808 15142280 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
3809 15142280 : r3 = ( r1 - t );
3810 15142280 : r1 = ( r1 + t );
3811 15142280 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
3812 15142280 : r4 = ( t + ( r4 * FFT_C52 ) );
3813 15142280 : r2 = ( t + ( r2 * FFT_C53 ) );
3814 :
3815 15142280 : s1 = ( x23 + x29 );
3816 15142280 : s4 = ( x23 - x29 );
3817 15142280 : s3 = ( x25 + x27 );
3818 15142280 : s2 = ( x25 - x27 );
3819 15142280 : t = ( ( s1 - s3 ) * FFT_C54 );
3820 15142280 : s1 = ( s1 + s3 );
3821 15142280 : y21 = ( x21 + s1 );
3822 15142280 : s1 = ( y21 + ( s1 * FFT_C55 ) );
3823 15142280 : s3 = ( s1 - t );
3824 15142280 : s1 = ( s1 + t );
3825 15142280 : t = ( ( s4 + s2 ) * FFT_C51 );
3826 15142280 : s4 = ( t + ( s4 * FFT_C52 ) );
3827 15142280 : s2 = ( t + ( s2 * FFT_C53 ) );
3828 :
3829 15142280 : y22 = ( r1 + s2 );
3830 15142280 : y28 = ( r1 - s2 );
3831 15142280 : y24 = ( r3 - s4 );
3832 15142280 : y26 = ( r3 + s4 );
3833 :
3834 15142280 : y23 = ( s1 - r2 );
3835 15142280 : y29 = ( s1 + r2 );
3836 15142280 : y25 = ( s3 + r4 );
3837 15142280 : y27 = ( s3 - r4 );
3838 :
3839 15142280 : r1 = ( y10 + y20 );
3840 15142280 : r2 = ( ( y10 - y20 ) * FFT_C31 );
3841 15142280 : re[s * 0] = ( y00 + r1 );
3842 15142280 : r1 = ( y00 - r1 * 0.5f );
3843 :
3844 15142280 : s1 = ( y11 + y21 );
3845 15142280 : s2 = ( ( y11 - y21 ) * FFT_C31 );
3846 15142280 : im[s * 0] = ( y01 + s1 );
3847 15142280 : s1 = ( y01 - s1 * 0.5f );
3848 :
3849 15142280 : re[s * 10] = ( r1 - s2 );
3850 15142280 : re[s * 5] = ( r1 + s2 );
3851 15142280 : im[s * 10] = ( s1 + r2 );
3852 15142280 : im[s * 5] = ( s1 - r2 );
3853 :
3854 15142280 : r1 = ( y12 + y22 );
3855 15142280 : r2 = ( ( y12 - y22 ) * FFT_C31 );
3856 15142280 : re[s * 6] = ( y02 + r1 );
3857 15142280 : r1 = ( y02 - r1 * 0.5f );
3858 :
3859 15142280 : s1 = ( y13 + y23 );
3860 15142280 : s2 = ( ( y13 - y23 ) * FFT_C31 );
3861 15142280 : im[s * 6] = ( y03 + s1 );
3862 15142280 : s1 = ( y03 - s1 * 0.5f );
3863 :
3864 15142280 : re[s * 1] = ( r1 - s2 );
3865 15142280 : re[s * 11] = ( r1 + s2 );
3866 15142280 : im[s * 1] = ( s1 + r2 );
3867 15142280 : im[s * 11] = ( s1 - r2 );
3868 :
3869 15142280 : r1 = ( y14 + y24 );
3870 15142280 : r2 = ( ( y14 - y24 ) * FFT_C31 );
3871 15142280 : re[s * 12] = ( y04 + r1 );
3872 15142280 : r1 = ( y04 - r1 * 0.5f );
3873 :
3874 15142280 : s1 = ( y15 + y25 );
3875 15142280 : s2 = ( ( y15 - y25 ) * FFT_C31 );
3876 15142280 : im[s * 12] = ( y05 + s1 );
3877 15142280 : s1 = ( y05 - s1 * 0.5f );
3878 :
3879 15142280 : re[s * 7] = ( r1 - s2 );
3880 15142280 : re[s * 2] = ( r1 + s2 );
3881 15142280 : im[s * 7] = ( s1 + r2 );
3882 15142280 : im[s * 2] = ( s1 - r2 );
3883 :
3884 15142280 : r1 = ( y16 + y26 );
3885 15142280 : r2 = ( ( y16 - y26 ) * FFT_C31 );
3886 15142280 : re[s * 3] = ( y06 + r1 );
3887 15142280 : r1 = ( y06 - r1 * 0.5f );
3888 :
3889 15142280 : s1 = ( y17 + y27 );
3890 15142280 : s2 = ( ( y17 - y27 ) * FFT_C31 );
3891 15142280 : im[s * 3] = ( y07 + s1 );
3892 15142280 : s1 = ( y07 - s1 * 0.5f );
3893 :
3894 15142280 : re[s * 13] = ( r1 - s2 );
3895 15142280 : re[s * 8] = ( r1 + s2 );
3896 15142280 : im[s * 13] = ( s1 + r2 );
3897 15142280 : im[s * 8] = ( s1 - r2 );
3898 :
3899 15142280 : r1 = ( y18 + y28 );
3900 15142280 : r2 = ( ( y18 - y28 ) * FFT_C31 );
3901 15142280 : re[s * 9] = ( y08 + r1 );
3902 15142280 : r1 = ( y08 - r1 * 0.5f );
3903 :
3904 15142280 : s1 = ( y19 + y29 );
3905 15142280 : s2 = ( ( y19 - y29 ) * FFT_C31 );
3906 15142280 : im[s * 9] = ( y09 + s1 );
3907 15142280 : s1 = ( y09 - s1 * 0.5f );
3908 :
3909 15142280 : re[s * 4] = ( r1 - s2 );
3910 15142280 : re[s * 14] = ( r1 + s2 );
3911 15142280 : im[s * 4] = ( s1 + r2 );
3912 15142280 : im[s * 14] = ( s1 - r2 );
3913 :
3914 15142280 : return;
3915 : }
3916 :
3917 616126128 : static void fft_len16(
3918 : float *re,
3919 : float *im,
3920 : const int16_t s )
3921 : {
3922 : float x0, x1, x2, x3, x4, x5, x6, x7;
3923 : float t0, t1, t2, t3, t4, t5, t6, t7;
3924 : float y00, y01, y02, y03, y04, y05, y06, y07;
3925 : float y08, y09, y10, y11, y12, y13, y14, y15;
3926 : float y16, y17, y18, y19, y20, y21, y22, y23;
3927 : float y24, y25, y26, y27, y28, y29, y30, y31;
3928 :
3929 616126128 : x0 = re[s * 0];
3930 616126128 : x1 = im[s * 0];
3931 616126128 : x2 = re[s * 4];
3932 616126128 : x3 = im[s * 4];
3933 616126128 : x4 = re[s * 8];
3934 616126128 : x5 = im[s * 8];
3935 616126128 : x6 = re[s * 12];
3936 616126128 : x7 = im[s * 12];
3937 :
3938 616126128 : t0 = ( x0 + x4 );
3939 616126128 : t2 = ( x0 - x4 );
3940 616126128 : t1 = ( x1 + x5 );
3941 616126128 : t3 = ( x1 - x5 );
3942 616126128 : t4 = ( x2 + x6 );
3943 616126128 : t7 = ( x2 - x6 );
3944 616126128 : t5 = ( x7 + x3 );
3945 616126128 : t6 = ( x7 - x3 );
3946 :
3947 616126128 : y00 = ( t0 + t4 );
3948 616126128 : y01 = ( t1 + t5 );
3949 616126128 : y02 = ( t2 - t6 );
3950 616126128 : y03 = ( t3 - t7 );
3951 616126128 : y04 = ( t0 - t4 );
3952 616126128 : y05 = ( t1 - t5 );
3953 616126128 : y06 = ( t2 + t6 );
3954 616126128 : y07 = ( t3 + t7 );
3955 :
3956 616126128 : x0 = re[s * 1];
3957 616126128 : x1 = im[s * 1];
3958 616126128 : x2 = re[s * 5];
3959 616126128 : x3 = im[s * 5];
3960 616126128 : x4 = re[s * 9];
3961 616126128 : x5 = im[s * 9];
3962 616126128 : x6 = re[s * 13];
3963 616126128 : x7 = im[s * 13];
3964 :
3965 616126128 : t0 = ( x0 + x4 );
3966 616126128 : t2 = ( x0 - x4 );
3967 616126128 : t1 = ( x1 + x5 );
3968 616126128 : t3 = ( x1 - x5 );
3969 616126128 : t4 = ( x2 + x6 );
3970 616126128 : t7 = ( x2 - x6 );
3971 616126128 : t5 = ( x7 + x3 );
3972 616126128 : t6 = ( x7 - x3 );
3973 :
3974 616126128 : y08 = ( t0 + t4 );
3975 616126128 : y09 = ( t1 + t5 );
3976 616126128 : y10 = ( t2 - t6 );
3977 616126128 : y11 = ( t3 - t7 );
3978 616126128 : y12 = ( t0 - t4 );
3979 616126128 : y13 = ( t1 - t5 );
3980 616126128 : y14 = ( t2 + t6 );
3981 616126128 : y15 = ( t3 + t7 );
3982 :
3983 616126128 : x0 = re[s * 2];
3984 616126128 : x1 = im[s * 2];
3985 616126128 : x2 = re[s * 6];
3986 616126128 : x3 = im[s * 6];
3987 616126128 : x4 = re[s * 10];
3988 616126128 : x5 = im[s * 10];
3989 616126128 : x6 = re[s * 14];
3990 616126128 : x7 = im[s * 14];
3991 :
3992 616126128 : t0 = ( x0 + x4 );
3993 616126128 : t2 = ( x0 - x4 );
3994 616126128 : t1 = ( x1 + x5 );
3995 616126128 : t3 = ( x1 - x5 );
3996 616126128 : t4 = ( x2 + x6 );
3997 616126128 : t7 = ( x2 - x6 );
3998 616126128 : t5 = ( x7 + x3 );
3999 616126128 : t6 = ( x7 - x3 );
4000 :
4001 616126128 : y16 = ( t0 + t4 );
4002 616126128 : y17 = ( t1 + t5 );
4003 616126128 : y18 = ( t2 - t6 );
4004 616126128 : y19 = ( t3 - t7 );
4005 616126128 : y20 = ( t1 - t5 );
4006 616126128 : y21 = ( t4 - t0 );
4007 616126128 : y22 = ( t2 + t6 );
4008 616126128 : y23 = ( t3 + t7 );
4009 :
4010 616126128 : x0 = re[s * 3];
4011 616126128 : x1 = im[s * 3];
4012 616126128 : x2 = re[s * 7];
4013 616126128 : x3 = im[s * 7];
4014 616126128 : x4 = re[s * 11];
4015 616126128 : x5 = im[s * 11];
4016 616126128 : x6 = re[s * 15];
4017 616126128 : x7 = im[s * 15];
4018 :
4019 616126128 : t0 = ( x0 + x4 );
4020 616126128 : t2 = ( x0 - x4 );
4021 616126128 : t1 = ( x1 + x5 );
4022 616126128 : t3 = ( x1 - x5 );
4023 616126128 : t4 = ( x2 + x6 );
4024 616126128 : t7 = ( x2 - x6 );
4025 616126128 : t5 = ( x7 + x3 );
4026 616126128 : t6 = ( x7 - x3 );
4027 :
4028 616126128 : y24 = ( t0 + t4 );
4029 616126128 : y25 = ( t1 + t5 );
4030 616126128 : y26 = ( t2 - t6 );
4031 616126128 : y27 = ( t3 - t7 );
4032 616126128 : y28 = ( t0 - t4 );
4033 616126128 : y29 = ( t1 - t5 );
4034 616126128 : y30 = ( t2 + t6 );
4035 616126128 : y31 = ( t3 + t7 );
4036 :
4037 616126128 : x0 = ( y22 * FFT_C162 );
4038 616126128 : x1 = ( y23 * FFT_C162 );
4039 616126128 : y22 = ( x0 - x1 );
4040 616126128 : y23 = ( x0 + x1 );
4041 :
4042 616126128 : x0 = ( y28 * FFT_C162 );
4043 616126128 : x1 = ( y29 * FFT_C162 );
4044 616126128 : y28 = ( x0 - x1 );
4045 616126128 : y29 = ( x0 + x1 );
4046 :
4047 616126128 : x0 = ( y12 * FFT_C161 );
4048 616126128 : x1 = ( y13 * FFT_C161 );
4049 616126128 : y12 = ( x0 + x1 );
4050 616126128 : y13 = ( x1 - x0 );
4051 :
4052 616126128 : x0 = ( y18 * FFT_C161 );
4053 616126128 : x1 = ( y19 * FFT_C161 );
4054 616126128 : y18 = ( x0 + x1 );
4055 616126128 : y19 = ( x1 - x0 );
4056 :
4057 616126128 : x0 = ( y10 * FFT_C163 );
4058 616126128 : x1 = ( y11 * FFT_C166 );
4059 616126128 : x2 = ( y10 * FFT_C166 );
4060 616126128 : x3 = ( y11 * FFT_C163 );
4061 616126128 : y10 = ( x0 - x1 );
4062 616126128 : y11 = ( x2 + x3 );
4063 :
4064 616126128 : x0 = ( y14 * FFT_C165 );
4065 616126128 : x1 = ( y15 * FFT_C164 );
4066 616126128 : x2 = ( y14 * FFT_C164 );
4067 616126128 : x3 = ( y15 * FFT_C165 );
4068 616126128 : y14 = ( x0 - x1 );
4069 616126128 : y15 = ( x2 + x3 );
4070 :
4071 616126128 : x0 = ( y26 * FFT_C165 );
4072 616126128 : x1 = ( y27 * FFT_C164 );
4073 616126128 : x2 = ( y26 * FFT_C164 );
4074 616126128 : x3 = ( y27 * FFT_C165 );
4075 616126128 : y26 = ( x0 - x1 );
4076 616126128 : y27 = ( x2 + x3 );
4077 :
4078 616126128 : x0 = ( y30 * FFT_C164 );
4079 616126128 : x1 = ( y31 * FFT_C165 );
4080 616126128 : x2 = ( y30 * FFT_C165 );
4081 616126128 : x3 = ( y31 * FFT_C164 );
4082 616126128 : y30 = ( x0 - x1 );
4083 616126128 : y31 = ( x2 + x3 );
4084 :
4085 616126128 : t0 = ( y00 + y16 );
4086 616126128 : t2 = ( y00 - y16 );
4087 616126128 : t1 = ( y01 + y17 );
4088 616126128 : t3 = ( y01 - y17 );
4089 616126128 : t4 = ( y08 + y24 );
4090 616126128 : t7 = ( y08 - y24 );
4091 616126128 : t5 = ( y25 + y09 );
4092 616126128 : t6 = ( y25 - y09 );
4093 :
4094 616126128 : re[s * 0] = ( t0 + t4 );
4095 616126128 : im[s * 0] = ( t1 + t5 );
4096 616126128 : re[s * 4] = ( t2 - t6 );
4097 616126128 : im[s * 4] = ( t3 - t7 );
4098 616126128 : re[s * 8] = ( t0 - t4 );
4099 616126128 : im[s * 8] = ( t1 - t5 );
4100 616126128 : re[s * 12] = ( t2 + t6 );
4101 616126128 : im[s * 12] = ( t3 + t7 );
4102 :
4103 616126128 : t0 = ( y02 + y18 );
4104 616126128 : t2 = ( y02 - y18 );
4105 616126128 : t1 = ( y03 + y19 );
4106 616126128 : t3 = ( y03 - y19 );
4107 616126128 : t4 = ( y10 + y26 );
4108 616126128 : t7 = ( y10 - y26 );
4109 616126128 : t5 = ( y27 + y11 );
4110 616126128 : t6 = ( y27 - y11 );
4111 :
4112 616126128 : re[s * 1] = ( t0 + t4 );
4113 616126128 : im[s * 1] = ( t1 + t5 );
4114 616126128 : re[s * 5] = ( t2 - t6 );
4115 616126128 : im[s * 5] = ( t3 - t7 );
4116 616126128 : re[s * 9] = ( t0 - t4 );
4117 616126128 : im[s * 9] = ( t1 - t5 );
4118 616126128 : re[s * 13] = ( t2 + t6 );
4119 616126128 : im[s * 13] = ( t3 + t7 );
4120 :
4121 616126128 : t0 = ( y04 + y20 );
4122 616126128 : t2 = ( y04 - y20 );
4123 616126128 : t1 = ( y05 + y21 );
4124 616126128 : t3 = ( y05 - y21 );
4125 616126128 : t4 = ( y12 + y28 );
4126 616126128 : t7 = ( y12 - y28 );
4127 616126128 : t5 = ( y29 + y13 );
4128 616126128 : t6 = ( y29 - y13 );
4129 :
4130 616126128 : re[s * 2] = ( t0 + t4 );
4131 616126128 : im[s * 2] = ( t1 + t5 );
4132 616126128 : re[s * 6] = ( t2 - t6 );
4133 616126128 : im[s * 6] = ( t3 - t7 );
4134 616126128 : re[s * 10] = ( t0 - t4 );
4135 616126128 : im[s * 10] = ( t1 - t5 );
4136 616126128 : re[s * 14] = ( t2 + t6 );
4137 616126128 : im[s * 14] = ( t3 + t7 );
4138 :
4139 616126128 : t0 = ( y06 + y22 );
4140 616126128 : t2 = ( y06 - y22 );
4141 616126128 : t1 = ( y07 + y23 );
4142 616126128 : t3 = ( y07 - y23 );
4143 616126128 : t4 = ( y14 + y30 );
4144 616126128 : t7 = ( y14 - y30 );
4145 616126128 : t5 = ( y31 + y15 );
4146 616126128 : t6 = ( y31 - y15 );
4147 :
4148 616126128 : re[s * 3] = ( t0 + t4 );
4149 616126128 : im[s * 3] = ( t1 + t5 );
4150 616126128 : re[s * 7] = ( t2 - t6 );
4151 616126128 : im[s * 7] = ( t3 - t7 );
4152 616126128 : re[s * 11] = ( t0 - t4 );
4153 616126128 : im[s * 11] = ( t1 - t5 );
4154 616126128 : re[s * 15] = ( t2 + t6 );
4155 616126128 : im[s * 15] = ( t3 + t7 );
4156 :
4157 616126128 : return;
4158 : }
4159 :
4160 547720278 : static void fft_len20(
4161 : float *re,
4162 : float *im,
4163 : const int16_t s )
4164 : {
4165 : float r1, r2, r3, r4;
4166 : float s1, s2, s3, s4;
4167 : float x0, x1, x2, x3, x4;
4168 : float t, t0, t1, t2, t3, t4, t5, t6, t7;
4169 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4170 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4171 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4172 : float y30, y31, y32, y33, y34, y35, y36, y37, y38, y39;
4173 :
4174 547720278 : x0 = re[s * 0];
4175 547720278 : x1 = re[s * 16];
4176 547720278 : x2 = re[s * 12];
4177 547720278 : x3 = re[s * 8];
4178 547720278 : x4 = re[s * 4];
4179 :
4180 547720278 : r1 = ( x1 + x4 );
4181 547720278 : r4 = ( x1 - x4 );
4182 547720278 : r3 = ( x2 + x3 );
4183 547720278 : r2 = ( x2 - x3 );
4184 547720278 : t = ( ( r1 - r3 ) * FFT_C54 );
4185 547720278 : r1 = ( r1 + r3 );
4186 547720278 : y00 = ( x0 + r1 );
4187 547720278 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4188 547720278 : r3 = ( r1 - t );
4189 547720278 : r1 = ( r1 + t );
4190 547720278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4191 547720278 : r4 = ( t + ( r4 * FFT_C52 ) );
4192 547720278 : r2 = ( t + ( r2 * FFT_C53 ) );
4193 :
4194 547720278 : x0 = im[s * 0];
4195 547720278 : x1 = im[s * 16];
4196 547720278 : x2 = im[s * 12];
4197 547720278 : x3 = im[s * 8];
4198 547720278 : x4 = im[s * 4];
4199 :
4200 547720278 : s1 = ( x1 + x4 );
4201 547720278 : s4 = ( x1 - x4 );
4202 547720278 : s3 = ( x2 + x3 );
4203 547720278 : s2 = ( x2 - x3 );
4204 547720278 : t = ( ( s1 - s3 ) * FFT_C54 );
4205 547720278 : s1 = ( s1 + s3 );
4206 547720278 : y01 = ( x0 + s1 );
4207 547720278 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4208 547720278 : s3 = ( s1 - t );
4209 547720278 : s1 = ( s1 + t );
4210 547720278 : t = ( ( s4 + s2 ) * FFT_C51 );
4211 547720278 : s4 = ( t + ( s4 * FFT_C52 ) );
4212 547720278 : s2 = ( t + ( s2 * FFT_C53 ) );
4213 :
4214 547720278 : y08 = ( r1 + s2 );
4215 547720278 : y32 = ( r1 - s2 );
4216 547720278 : y16 = ( r3 - s4 );
4217 547720278 : y24 = ( r3 + s4 );
4218 :
4219 547720278 : y09 = ( s1 - r2 );
4220 547720278 : y33 = ( s1 + r2 );
4221 547720278 : y17 = ( s3 + r4 );
4222 547720278 : y25 = ( s3 - r4 );
4223 :
4224 547720278 : x0 = re[s * 5];
4225 547720278 : x1 = re[s * 1];
4226 547720278 : x2 = re[s * 17];
4227 547720278 : x3 = re[s * 13];
4228 547720278 : x4 = re[s * 9];
4229 :
4230 547720278 : r1 = ( x1 + x4 );
4231 547720278 : r4 = ( x1 - x4 );
4232 547720278 : r3 = ( x2 + x3 );
4233 547720278 : r2 = ( x2 - x3 );
4234 547720278 : t = ( ( r1 - r3 ) * FFT_C54 );
4235 547720278 : r1 = ( r1 + r3 );
4236 547720278 : y02 = ( x0 + r1 );
4237 547720278 : r1 = ( y02 + ( ( r1 * FFT_C55 ) ) );
4238 547720278 : r3 = ( r1 - t );
4239 547720278 : r1 = ( r1 + t );
4240 547720278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4241 547720278 : r4 = ( t + ( r4 * FFT_C52 ) );
4242 547720278 : r2 = ( t + ( r2 * FFT_C53 ) );
4243 :
4244 547720278 : x0 = im[s * 5];
4245 547720278 : x1 = im[s * 1];
4246 547720278 : x2 = im[s * 17];
4247 547720278 : x3 = im[s * 13];
4248 547720278 : x4 = im[s * 9];
4249 :
4250 547720278 : s1 = ( x1 + x4 );
4251 547720278 : s4 = ( x1 - x4 );
4252 547720278 : s3 = ( x2 + x3 );
4253 547720278 : s2 = ( x2 - x3 );
4254 547720278 : t = ( ( s1 - s3 ) * FFT_C54 );
4255 547720278 : s1 = ( s1 + s3 );
4256 547720278 : y03 = ( x0 + s1 );
4257 547720278 : s1 = ( y03 + ( s1 * FFT_C55 ) );
4258 547720278 : s3 = ( s1 - t );
4259 547720278 : s1 = ( s1 + t );
4260 547720278 : t = ( ( s4 + s2 ) * FFT_C51 );
4261 547720278 : s4 = ( t + ( s4 * FFT_C52 ) );
4262 547720278 : s2 = ( t + ( s2 * FFT_C53 ) );
4263 :
4264 547720278 : y10 = ( r1 + s2 );
4265 547720278 : y34 = ( r1 - s2 );
4266 547720278 : y18 = ( r3 - s4 );
4267 547720278 : y26 = ( r3 + s4 );
4268 :
4269 547720278 : y11 = ( s1 - r2 );
4270 547720278 : y35 = ( s1 + r2 );
4271 547720278 : y19 = ( s3 + r4 );
4272 547720278 : y27 = ( s3 - r4 );
4273 :
4274 547720278 : x0 = re[s * 10];
4275 547720278 : x1 = re[s * 6];
4276 547720278 : x2 = re[s * 2];
4277 547720278 : x3 = re[s * 18];
4278 547720278 : x4 = re[s * 14];
4279 :
4280 547720278 : r1 = ( x1 + x4 );
4281 547720278 : r4 = ( x1 - x4 );
4282 547720278 : r3 = ( x2 + x3 );
4283 547720278 : r2 = ( x2 - x3 );
4284 547720278 : t = ( ( r1 - r3 ) * FFT_C54 );
4285 547720278 : r1 = ( r1 + r3 );
4286 547720278 : y04 = ( x0 + r1 );
4287 547720278 : r1 = ( y04 + ( ( r1 * FFT_C55 ) ) );
4288 547720278 : r3 = ( r1 - t );
4289 547720278 : r1 = ( r1 + t );
4290 547720278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4291 547720278 : r4 = ( t + ( r4 * FFT_C52 ) );
4292 547720278 : r2 = ( t + ( r2 * FFT_C53 ) );
4293 :
4294 547720278 : x0 = im[s * 10];
4295 547720278 : x1 = im[s * 6];
4296 547720278 : x2 = im[s * 2];
4297 547720278 : x3 = im[s * 18];
4298 547720278 : x4 = im[s * 14];
4299 :
4300 547720278 : s1 = ( x1 + x4 );
4301 547720278 : s4 = ( x1 - x4 );
4302 547720278 : s3 = ( x2 + x3 );
4303 547720278 : s2 = ( x2 - x3 );
4304 547720278 : t = ( ( s1 - s3 ) * FFT_C54 );
4305 547720278 : s1 = ( s1 + s3 );
4306 547720278 : y05 = ( x0 + s1 );
4307 547720278 : s1 = ( y05 + ( s1 * FFT_C55 ) );
4308 547720278 : s3 = ( s1 - t );
4309 547720278 : s1 = ( s1 + t );
4310 547720278 : t = ( ( s4 + s2 ) * FFT_C51 );
4311 547720278 : s4 = ( t + ( s4 * FFT_C52 ) );
4312 547720278 : s2 = ( t + ( s2 * FFT_C53 ) );
4313 :
4314 547720278 : y12 = ( r1 + s2 );
4315 547720278 : y36 = ( r1 - s2 );
4316 547720278 : y20 = ( r3 - s4 );
4317 547720278 : y28 = ( r3 + s4 );
4318 :
4319 547720278 : y13 = ( s1 - r2 );
4320 547720278 : y37 = ( s1 + r2 );
4321 547720278 : y21 = ( s3 + r4 );
4322 547720278 : y29 = ( s3 - r4 );
4323 :
4324 547720278 : x0 = re[s * 15];
4325 547720278 : x1 = re[s * 11];
4326 547720278 : x2 = re[s * 7];
4327 547720278 : x3 = re[s * 3];
4328 547720278 : x4 = re[s * 19];
4329 :
4330 547720278 : r1 = ( x1 + x4 );
4331 547720278 : r4 = ( x1 - x4 );
4332 547720278 : r3 = ( x2 + x3 );
4333 547720278 : r2 = ( x2 - x3 );
4334 547720278 : t = ( ( r1 - r3 ) * FFT_C54 );
4335 547720278 : r1 = ( r1 + r3 );
4336 547720278 : y06 = ( x0 + r1 );
4337 547720278 : r1 = ( y06 + ( ( r1 * FFT_C55 ) ) );
4338 547720278 : r3 = ( r1 - t );
4339 547720278 : r1 = ( r1 + t );
4340 547720278 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4341 547720278 : r4 = ( t + ( r4 * FFT_C52 ) );
4342 547720278 : r2 = ( t + ( r2 * FFT_C53 ) );
4343 :
4344 547720278 : x0 = im[s * 15];
4345 547720278 : x1 = im[s * 11];
4346 547720278 : x2 = im[s * 7];
4347 547720278 : x3 = im[s * 3];
4348 547720278 : x4 = im[s * 19];
4349 :
4350 547720278 : s1 = ( x1 + x4 );
4351 547720278 : s4 = ( x1 - x4 );
4352 547720278 : s3 = ( x2 + x3 );
4353 547720278 : s2 = ( x2 - x3 );
4354 547720278 : t = ( ( s1 - s3 ) * FFT_C54 );
4355 547720278 : s1 = ( s1 + s3 );
4356 547720278 : y07 = ( x0 + s1 );
4357 547720278 : s1 = ( y07 + ( s1 * FFT_C55 ) );
4358 547720278 : s3 = ( s1 - t );
4359 547720278 : s1 = ( s1 + t );
4360 547720278 : t = ( ( s4 + s2 ) * FFT_C51 );
4361 547720278 : s4 = ( t + ( s4 * FFT_C52 ) );
4362 547720278 : s2 = ( t + ( s2 * FFT_C53 ) );
4363 :
4364 547720278 : y14 = ( r1 + s2 );
4365 547720278 : y38 = ( r1 - s2 );
4366 547720278 : y22 = ( r3 - s4 );
4367 547720278 : y30 = ( r3 + s4 );
4368 :
4369 547720278 : y15 = ( s1 - r2 );
4370 547720278 : y39 = ( s1 + r2 );
4371 547720278 : y23 = ( s3 + r4 );
4372 547720278 : y31 = ( s3 - r4 );
4373 :
4374 547720278 : t0 = ( y00 + y04 );
4375 547720278 : t2 = ( y00 - y04 );
4376 547720278 : t1 = ( y01 + y05 );
4377 547720278 : t3 = ( y01 - y05 );
4378 547720278 : t4 = ( y02 + y06 );
4379 547720278 : t7 = ( y02 - y06 );
4380 547720278 : t5 = ( y07 + y03 );
4381 547720278 : t6 = ( y07 - y03 );
4382 :
4383 547720278 : re[s * 0] = ( t0 + t4 );
4384 547720278 : im[s * 0] = ( t1 + t5 );
4385 547720278 : re[s * 5] = ( t2 - t6 );
4386 547720278 : im[s * 5] = ( t3 - t7 );
4387 547720278 : re[s * 10] = ( t0 - t4 );
4388 547720278 : im[s * 10] = ( t1 - t5 );
4389 547720278 : re[s * 15] = ( t2 + t6 );
4390 547720278 : im[s * 15] = ( t3 + t7 );
4391 :
4392 547720278 : t0 = ( y08 + y12 );
4393 547720278 : t2 = ( y08 - y12 );
4394 547720278 : t1 = ( y09 + y13 );
4395 547720278 : t3 = ( y09 - y13 );
4396 547720278 : t4 = ( y10 + y14 );
4397 547720278 : t7 = ( y10 - y14 );
4398 547720278 : t5 = ( y15 + y11 );
4399 547720278 : t6 = ( y15 - y11 );
4400 :
4401 547720278 : re[s * 4] = ( t0 + t4 );
4402 547720278 : im[s * 4] = ( t1 + t5 );
4403 547720278 : re[s * 9] = ( t2 - t6 );
4404 547720278 : im[s * 9] = ( t3 - t7 );
4405 547720278 : re[s * 14] = ( t0 - t4 );
4406 547720278 : im[s * 14] = ( t1 - t5 );
4407 547720278 : re[s * 19] = ( t2 + t6 );
4408 547720278 : im[s * 19] = ( t3 + t7 );
4409 :
4410 547720278 : t0 = ( y16 + y20 );
4411 547720278 : t2 = ( y16 - y20 );
4412 547720278 : t1 = ( y17 + y21 );
4413 547720278 : t3 = ( y17 - y21 );
4414 547720278 : t4 = ( y18 + y22 );
4415 547720278 : t7 = ( y18 - y22 );
4416 547720278 : t5 = ( y23 + y19 );
4417 547720278 : t6 = ( y23 - y19 );
4418 :
4419 547720278 : re[s * 8] = ( t0 + t4 );
4420 547720278 : im[s * 8] = ( t1 + t5 );
4421 547720278 : re[s * 13] = ( t2 - t6 );
4422 547720278 : im[s * 13] = ( t3 - t7 );
4423 547720278 : re[s * 18] = ( t0 - t4 );
4424 547720278 : im[s * 18] = ( t1 - t5 );
4425 547720278 : re[s * 3] = ( t2 + t6 );
4426 547720278 : im[s * 3] = ( t3 + t7 );
4427 :
4428 547720278 : t0 = ( y24 + y28 );
4429 547720278 : t2 = ( y24 - y28 );
4430 547720278 : t1 = ( y25 + y29 );
4431 547720278 : t3 = ( y25 - y29 );
4432 547720278 : t4 = ( y26 + y30 );
4433 547720278 : t7 = ( y26 - y30 );
4434 547720278 : t5 = ( y31 + y27 );
4435 547720278 : t6 = ( y31 - y27 );
4436 :
4437 547720278 : re[s * 12] = ( t0 + t4 );
4438 547720278 : im[s * 12] = ( t1 + t5 );
4439 547720278 : re[s * 17] = ( t2 - t6 );
4440 547720278 : im[s * 17] = ( t3 - t7 );
4441 547720278 : re[s * 2] = ( t0 - t4 );
4442 547720278 : im[s * 2] = ( t1 - t5 );
4443 547720278 : re[s * 7] = ( t2 + t6 );
4444 547720278 : im[s * 7] = ( t3 + t7 );
4445 :
4446 547720278 : t0 = ( y32 + y36 );
4447 547720278 : t2 = ( y32 - y36 );
4448 547720278 : t1 = ( y33 + y37 );
4449 547720278 : t3 = ( y33 - y37 );
4450 547720278 : t4 = ( y34 + y38 );
4451 547720278 : t7 = ( y34 - y38 );
4452 547720278 : t5 = ( y39 + y35 );
4453 547720278 : t6 = ( y39 - y35 );
4454 :
4455 547720278 : re[s * 16] = ( t0 + t4 );
4456 547720278 : im[s * 16] = ( t1 + t5 );
4457 547720278 : re[s * 1] = ( t2 - t6 );
4458 547720278 : im[s * 1] = ( t3 - t7 );
4459 547720278 : re[s * 6] = ( t0 - t4 );
4460 547720278 : im[s * 6] = ( t1 - t5 );
4461 547720278 : re[s * 11] = ( t2 + t6 );
4462 547720278 : im[s * 11] = ( t3 + t7 );
4463 :
4464 547720278 : return;
4465 : }
4466 :
4467 621968792 : static void fft_len30(
4468 : float *re,
4469 : float *im,
4470 : const int16_t s )
4471 : {
4472 : float t;
4473 : float r1, r2, r3, r4;
4474 : float s1, s2, s3, s4;
4475 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09;
4476 : float x10, x11, x12, x13, x14, x15, x16, x17, x18, x19;
4477 : float x20, x21, x22, x23, x24, x25, x26, x27, x28, x29;
4478 :
4479 : float y00, y01, y02, y03, y04, y05, y06, y07, y08, y09;
4480 : float y10, y11, y12, y13, y14, y15, y16, y17, y18, y19;
4481 : float y20, y21, y22, y23, y24, y25, y26, y27, y28, y29;
4482 :
4483 : float z00, z01, z02, z03, z04, z05, z06, z07, z08, z09;
4484 : float z10, z11, z12, z13, z14, z15, z16, z17, z18, z19;
4485 : float z20, z21, z22, z23, z24, z25, z26, z27, z28, z29;
4486 : float z30, z31, z32, z33, z34, z35, z36, z37, z38, z39;
4487 : float z40, z41, z42, z43, z44, z45, z46, z47, z48, z49;
4488 : float z50, z51, z52, z53, z54, z55, z56, z57, z58, z59;
4489 :
4490 : float *rel, *reh, *iml, *imh;
4491 :
4492 621968792 : rel = &re[s * 0];
4493 621968792 : reh = &re[s * 15];
4494 621968792 : iml = &im[s * 0];
4495 621968792 : imh = &im[s * 15];
4496 :
4497 621968792 : x00 = re[s * 0];
4498 621968792 : x01 = im[s * 0];
4499 621968792 : x02 = re[s * 18];
4500 621968792 : x03 = im[s * 18];
4501 621968792 : x04 = re[s * 6];
4502 621968792 : x05 = im[s * 6];
4503 621968792 : x06 = re[s * 24];
4504 621968792 : x07 = im[s * 24];
4505 621968792 : x08 = re[s * 12];
4506 621968792 : x09 = im[s * 12];
4507 :
4508 621968792 : x10 = re[s * 20];
4509 621968792 : x11 = im[s * 20];
4510 621968792 : x12 = re[s * 8];
4511 621968792 : x13 = im[s * 8];
4512 621968792 : x14 = re[s * 26];
4513 621968792 : x15 = im[s * 26];
4514 621968792 : x16 = re[s * 14];
4515 621968792 : x17 = im[s * 14];
4516 621968792 : x18 = re[s * 2];
4517 621968792 : x19 = im[s * 2];
4518 :
4519 621968792 : x20 = re[s * 10];
4520 621968792 : x21 = im[s * 10];
4521 621968792 : x22 = re[s * 28];
4522 621968792 : x23 = im[s * 28];
4523 621968792 : x24 = re[s * 16];
4524 621968792 : x25 = im[s * 16];
4525 621968792 : x26 = re[s * 4];
4526 621968792 : x27 = im[s * 4];
4527 621968792 : x28 = re[s * 22];
4528 621968792 : x29 = im[s * 22];
4529 :
4530 621968792 : r1 = ( x02 + x08 );
4531 621968792 : r4 = ( x02 - x08 );
4532 621968792 : r3 = ( x04 + x06 );
4533 621968792 : r2 = ( x04 - x06 );
4534 621968792 : t = ( ( r1 - r3 ) * FFT_C54 );
4535 621968792 : r1 = ( r1 + r3 );
4536 621968792 : y00 = ( x00 + r1 );
4537 621968792 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4538 621968792 : r3 = ( r1 - t );
4539 621968792 : r1 = ( r1 + t );
4540 621968792 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4541 621968792 : r4 = ( t + ( r4 * FFT_C52 ) );
4542 621968792 : r2 = ( t + ( r2 * FFT_C53 ) );
4543 :
4544 621968792 : s1 = ( x03 + x09 );
4545 621968792 : s4 = ( x03 - x09 );
4546 621968792 : s3 = ( x05 + x07 );
4547 621968792 : s2 = ( x05 - x07 );
4548 621968792 : t = ( ( s1 - s3 ) * FFT_C54 );
4549 621968792 : s1 = ( s1 + s3 );
4550 621968792 : y01 = ( x01 + s1 );
4551 621968792 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4552 621968792 : s3 = ( s1 - t );
4553 621968792 : s1 = ( s1 + t );
4554 621968792 : t = ( ( s4 + s2 ) * FFT_C51 );
4555 621968792 : s4 = ( t + ( s4 * FFT_C52 ) );
4556 621968792 : s2 = ( t + ( s2 * FFT_C53 ) );
4557 :
4558 621968792 : y02 = ( r1 + s2 );
4559 621968792 : y08 = ( r1 - s2 );
4560 621968792 : y04 = ( r3 - s4 );
4561 621968792 : y06 = ( r3 + s4 );
4562 :
4563 621968792 : y03 = ( s1 - r2 );
4564 621968792 : y09 = ( s1 + r2 );
4565 621968792 : y05 = ( s3 + r4 );
4566 621968792 : y07 = ( s3 - r4 );
4567 :
4568 621968792 : r1 = ( x12 + x18 );
4569 621968792 : r4 = ( x12 - x18 );
4570 621968792 : r3 = ( x14 + x16 );
4571 621968792 : r2 = ( x14 - x16 );
4572 621968792 : t = ( ( r1 - r3 ) * FFT_C54 );
4573 621968792 : r1 = ( r1 + r3 );
4574 621968792 : y10 = ( x10 + r1 );
4575 621968792 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4576 621968792 : r3 = ( r1 - t );
4577 621968792 : r1 = ( r1 + t );
4578 621968792 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4579 621968792 : r4 = ( t + ( r4 * FFT_C52 ) );
4580 621968792 : r2 = ( t + ( r2 * FFT_C53 ) );
4581 :
4582 621968792 : s1 = ( x13 + x19 );
4583 621968792 : s4 = ( x13 - x19 );
4584 621968792 : s3 = ( x15 + x17 );
4585 621968792 : s2 = ( x15 - x17 );
4586 621968792 : t = ( ( s1 - s3 ) * FFT_C54 );
4587 621968792 : s1 = ( s1 + s3 );
4588 621968792 : y11 = ( x11 + s1 );
4589 621968792 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4590 621968792 : s3 = ( s1 - t );
4591 621968792 : s1 = ( s1 + t );
4592 621968792 : t = ( ( s4 + s2 ) * FFT_C51 );
4593 621968792 : s4 = ( t + ( s4 * FFT_C52 ) );
4594 621968792 : s2 = ( t + ( s2 * FFT_C53 ) );
4595 :
4596 621968792 : y12 = ( r1 + s2 );
4597 621968792 : y18 = ( r1 - s2 );
4598 621968792 : y14 = ( r3 - s4 );
4599 621968792 : y16 = ( r3 + s4 );
4600 :
4601 621968792 : y13 = ( s1 - r2 );
4602 621968792 : y19 = ( s1 + r2 );
4603 621968792 : y15 = ( s3 + r4 );
4604 621968792 : y17 = ( s3 - r4 );
4605 :
4606 621968792 : r1 = ( x22 + x28 );
4607 621968792 : r4 = ( x22 - x28 );
4608 621968792 : r3 = ( x24 + x26 );
4609 621968792 : r2 = ( x24 - x26 );
4610 621968792 : t = ( ( r1 - r3 ) * FFT_C54 );
4611 621968792 : r1 = ( r1 + r3 );
4612 621968792 : y20 = ( x20 + r1 );
4613 621968792 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4614 621968792 : r3 = ( r1 - t );
4615 621968792 : r1 = ( r1 + t );
4616 621968792 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4617 621968792 : r4 = ( t + ( r4 * FFT_C52 ) );
4618 621968792 : r2 = ( t + ( r2 * FFT_C53 ) );
4619 :
4620 621968792 : s1 = ( x23 + x29 );
4621 621968792 : s4 = ( x23 - x29 );
4622 621968792 : s3 = ( x25 + x27 );
4623 621968792 : s2 = ( x25 - x27 );
4624 621968792 : t = ( ( s1 - s3 ) * FFT_C54 );
4625 621968792 : s1 = ( s1 + s3 );
4626 621968792 : y21 = ( x21 + s1 );
4627 621968792 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4628 621968792 : s3 = ( s1 - t );
4629 621968792 : s1 = ( s1 + t );
4630 621968792 : t = ( ( s4 + s2 ) * FFT_C51 );
4631 621968792 : s4 = ( t + ( s4 * FFT_C52 ) );
4632 621968792 : s2 = ( t + ( s2 * FFT_C53 ) );
4633 :
4634 621968792 : y22 = ( r1 + s2 );
4635 621968792 : y28 = ( r1 - s2 );
4636 621968792 : y24 = ( r3 - s4 );
4637 621968792 : y26 = ( r3 + s4 );
4638 :
4639 621968792 : y23 = ( s1 - r2 );
4640 621968792 : y29 = ( s1 + r2 );
4641 621968792 : y25 = ( s3 + r4 );
4642 621968792 : y27 = ( s3 - r4 );
4643 :
4644 621968792 : r1 = ( y10 + y20 );
4645 621968792 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4646 621968792 : z00 = ( y00 + r1 );
4647 621968792 : r1 = ( y00 - r1 * 0.5f );
4648 :
4649 621968792 : s1 = ( y11 + y21 );
4650 621968792 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4651 621968792 : z01 = ( y01 + s1 );
4652 621968792 : s1 = ( y01 - s1 * 0.5f );
4653 :
4654 621968792 : z20 = ( r1 - s2 );
4655 621968792 : z10 = ( r1 + s2 );
4656 621968792 : z21 = ( s1 + r2 );
4657 621968792 : z11 = ( s1 - r2 );
4658 :
4659 621968792 : r1 = ( y12 + y22 );
4660 621968792 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4661 621968792 : z12 = ( y02 + r1 );
4662 621968792 : r1 = ( y02 - r1 * 0.5f );
4663 :
4664 621968792 : s1 = ( y13 + y23 );
4665 621968792 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4666 621968792 : z13 = ( y03 + s1 );
4667 621968792 : s1 = ( y03 - s1 * 0.5f );
4668 :
4669 621968792 : z02 = ( r1 - s2 );
4670 621968792 : z22 = ( r1 + s2 );
4671 621968792 : z03 = ( s1 + r2 );
4672 621968792 : z23 = ( s1 - r2 );
4673 :
4674 621968792 : r1 = ( y14 + y24 );
4675 621968792 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4676 621968792 : z24 = ( y04 + r1 );
4677 621968792 : r1 = ( y04 - r1 * 0.5f );
4678 :
4679 621968792 : s1 = ( y15 + y25 );
4680 621968792 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4681 621968792 : z25 = ( y05 + s1 );
4682 621968792 : s1 = ( y05 - s1 * 0.5f );
4683 :
4684 621968792 : z14 = ( r1 - s2 );
4685 621968792 : z04 = ( r1 + s2 );
4686 621968792 : z15 = ( s1 + r2 );
4687 621968792 : z05 = ( s1 - r2 );
4688 :
4689 621968792 : r1 = ( y16 + y26 );
4690 621968792 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4691 621968792 : z06 = ( y06 + r1 );
4692 621968792 : r1 = ( y06 - r1 * 0.5f );
4693 :
4694 621968792 : s1 = ( y17 + y27 );
4695 621968792 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4696 621968792 : z07 = ( y07 + s1 );
4697 621968792 : s1 = ( y07 - s1 * 0.5f );
4698 :
4699 621968792 : z26 = ( r1 - s2 );
4700 621968792 : z16 = ( r1 + s2 );
4701 621968792 : z27 = ( s1 + r2 );
4702 621968792 : z17 = ( s1 - r2 );
4703 :
4704 621968792 : r1 = ( y18 + y28 );
4705 621968792 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4706 621968792 : z18 = ( y08 + r1 );
4707 621968792 : r1 = ( y08 - r1 * 0.5f );
4708 :
4709 621968792 : s1 = ( y19 + y29 );
4710 621968792 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4711 621968792 : z19 = ( y09 + s1 );
4712 621968792 : s1 = ( y09 - s1 * 0.5f );
4713 :
4714 621968792 : z08 = ( r1 - s2 );
4715 621968792 : z28 = ( r1 + s2 );
4716 621968792 : z09 = ( s1 + r2 );
4717 621968792 : z29 = ( s1 - r2 );
4718 :
4719 621968792 : x00 = re[s * 15];
4720 621968792 : x01 = im[s * 15];
4721 621968792 : x02 = re[s * 3];
4722 621968792 : x03 = im[s * 3];
4723 621968792 : x04 = re[s * 21];
4724 621968792 : x05 = im[s * 21];
4725 621968792 : x06 = re[s * 9];
4726 621968792 : x07 = im[s * 9];
4727 621968792 : x08 = re[s * 27];
4728 621968792 : x09 = im[s * 27];
4729 :
4730 621968792 : x10 = re[s * 5];
4731 621968792 : x11 = im[s * 5];
4732 621968792 : x12 = re[s * 23];
4733 621968792 : x13 = im[s * 23];
4734 621968792 : x14 = re[s * 11];
4735 621968792 : x15 = im[s * 11];
4736 621968792 : x16 = re[s * 29];
4737 621968792 : x17 = im[s * 29];
4738 621968792 : x18 = re[s * 17];
4739 621968792 : x19 = im[s * 17];
4740 :
4741 621968792 : x20 = re[s * 25];
4742 621968792 : x21 = im[s * 25];
4743 621968792 : x22 = re[s * 13];
4744 621968792 : x23 = im[s * 13];
4745 621968792 : x24 = re[s * 1];
4746 621968792 : x25 = im[s * 1];
4747 621968792 : x26 = re[s * 19];
4748 621968792 : x27 = im[s * 19];
4749 621968792 : x28 = re[s * 7];
4750 621968792 : x29 = im[s * 7];
4751 :
4752 621968792 : r1 = ( x02 + x08 );
4753 621968792 : r4 = ( x02 - x08 );
4754 621968792 : r3 = ( x04 + x06 );
4755 621968792 : r2 = ( x04 - x06 );
4756 621968792 : t = ( ( r1 - r3 ) * FFT_C54 );
4757 621968792 : r1 = ( r1 + r3 );
4758 621968792 : y00 = ( x00 + r1 );
4759 621968792 : r1 = ( y00 + ( ( r1 * FFT_C55 ) ) );
4760 621968792 : r3 = ( r1 - t );
4761 621968792 : r1 = ( r1 + t );
4762 621968792 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4763 621968792 : r4 = ( t + ( r4 * FFT_C52 ) );
4764 621968792 : r2 = ( t + ( r2 * FFT_C53 ) );
4765 :
4766 621968792 : s1 = ( x03 + x09 );
4767 621968792 : s4 = ( x03 - x09 );
4768 621968792 : s3 = ( x05 + x07 );
4769 621968792 : s2 = ( x05 - x07 );
4770 621968792 : t = ( ( s1 - s3 ) * FFT_C54 );
4771 621968792 : s1 = ( s1 + s3 );
4772 621968792 : y01 = ( x01 + s1 );
4773 621968792 : s1 = ( y01 + ( s1 * FFT_C55 ) );
4774 621968792 : s3 = ( s1 - t );
4775 621968792 : s1 = ( s1 + t );
4776 621968792 : t = ( ( s4 + s2 ) * FFT_C51 );
4777 621968792 : s4 = ( t + ( s4 * FFT_C52 ) );
4778 621968792 : s2 = ( t + ( s2 * FFT_C53 ) );
4779 :
4780 621968792 : y02 = ( r1 + s2 );
4781 621968792 : y08 = ( r1 - s2 );
4782 621968792 : y04 = ( r3 - s4 );
4783 621968792 : y06 = ( r3 + s4 );
4784 :
4785 621968792 : y03 = ( s1 - r2 );
4786 621968792 : y09 = ( s1 + r2 );
4787 621968792 : y05 = ( s3 + r4 );
4788 621968792 : y07 = ( s3 - r4 );
4789 :
4790 621968792 : r1 = ( x12 + x18 );
4791 621968792 : r4 = ( x12 - x18 );
4792 621968792 : r3 = ( x14 + x16 );
4793 621968792 : r2 = ( x14 - x16 );
4794 621968792 : t = ( ( r1 - r3 ) * FFT_C54 );
4795 621968792 : r1 = ( r1 + r3 );
4796 621968792 : y10 = ( x10 + r1 );
4797 621968792 : r1 = ( y10 + ( ( r1 * FFT_C55 ) ) );
4798 621968792 : r3 = ( r1 - t );
4799 621968792 : r1 = ( r1 + t );
4800 621968792 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4801 621968792 : r4 = ( t + ( r4 * FFT_C52 ) );
4802 621968792 : r2 = ( t + ( r2 * FFT_C53 ) );
4803 :
4804 621968792 : s1 = ( x13 + x19 );
4805 621968792 : s4 = ( x13 - x19 );
4806 621968792 : s3 = ( x15 + x17 );
4807 621968792 : s2 = ( x15 - x17 );
4808 621968792 : t = ( ( s1 - s3 ) * FFT_C54 );
4809 621968792 : s1 = ( s1 + s3 );
4810 621968792 : y11 = ( x11 + s1 );
4811 621968792 : s1 = ( y11 + ( s1 * FFT_C55 ) );
4812 621968792 : s3 = ( s1 - t );
4813 621968792 : s1 = ( s1 + t );
4814 621968792 : t = ( ( s4 + s2 ) * FFT_C51 );
4815 621968792 : s4 = ( t + ( s4 * FFT_C52 ) );
4816 621968792 : s2 = ( t + ( s2 * FFT_C53 ) );
4817 :
4818 621968792 : y12 = ( r1 + s2 );
4819 621968792 : y18 = ( r1 - s2 );
4820 621968792 : y14 = ( r3 - s4 );
4821 621968792 : y16 = ( r3 + s4 );
4822 :
4823 621968792 : y13 = ( s1 - r2 );
4824 621968792 : y19 = ( s1 + r2 );
4825 621968792 : y15 = ( s3 + r4 );
4826 621968792 : y17 = ( s3 - r4 );
4827 :
4828 621968792 : r1 = ( x22 + x28 );
4829 621968792 : r4 = ( x22 - x28 );
4830 621968792 : r3 = ( x24 + x26 );
4831 621968792 : r2 = ( x24 - x26 );
4832 621968792 : t = ( ( r1 - r3 ) * FFT_C54 );
4833 621968792 : r1 = ( r1 + r3 );
4834 621968792 : y20 = ( x20 + r1 );
4835 621968792 : r1 = ( y20 + ( ( r1 * FFT_C55 ) ) );
4836 621968792 : r3 = ( r1 - t );
4837 621968792 : r1 = ( r1 + t );
4838 621968792 : t = ( ( ( r4 + r2 ) ) * FFT_C51 );
4839 621968792 : r4 = ( t + ( r4 * FFT_C52 ) );
4840 621968792 : r2 = ( t + ( r2 * FFT_C53 ) );
4841 :
4842 621968792 : s1 = ( x23 + x29 );
4843 621968792 : s4 = ( x23 - x29 );
4844 621968792 : s3 = ( x25 + x27 );
4845 621968792 : s2 = ( x25 - x27 );
4846 621968792 : t = ( ( s1 - s3 ) * FFT_C54 );
4847 621968792 : s1 = ( s1 + s3 );
4848 621968792 : y21 = ( x21 + s1 );
4849 621968792 : s1 = ( y21 + ( s1 * FFT_C55 ) );
4850 621968792 : s3 = ( s1 - t );
4851 621968792 : s1 = ( s1 + t );
4852 621968792 : t = ( ( s4 + s2 ) * FFT_C51 );
4853 621968792 : s4 = ( t + ( s4 * FFT_C52 ) );
4854 621968792 : s2 = ( t + ( s2 * FFT_C53 ) );
4855 :
4856 621968792 : y22 = ( r1 + s2 );
4857 621968792 : y28 = ( r1 - s2 );
4858 621968792 : y24 = ( r3 - s4 );
4859 621968792 : y26 = ( r3 + s4 );
4860 :
4861 621968792 : y23 = ( s1 - r2 );
4862 621968792 : y29 = ( s1 + r2 );
4863 621968792 : y25 = ( s3 + r4 );
4864 621968792 : y27 = ( s3 - r4 );
4865 :
4866 621968792 : r1 = ( y10 + y20 );
4867 621968792 : r2 = ( ( y10 - y20 ) * FFT_C31 );
4868 621968792 : z30 = ( y00 + r1 );
4869 621968792 : r1 = ( y00 - r1 * 0.5f );
4870 :
4871 621968792 : s1 = ( y11 + y21 );
4872 621968792 : s2 = ( ( y11 - y21 ) * FFT_C31 );
4873 621968792 : z31 = ( y01 + s1 );
4874 621968792 : s1 = ( y01 - s1 * 0.5f );
4875 :
4876 621968792 : z50 = ( r1 - s2 );
4877 621968792 : z40 = ( r1 + s2 );
4878 621968792 : z51 = ( s1 + r2 );
4879 621968792 : z41 = ( s1 - r2 );
4880 :
4881 621968792 : r1 = ( y12 + y22 );
4882 621968792 : r2 = ( ( y12 - y22 ) * FFT_C31 );
4883 621968792 : z42 = ( y02 + r1 );
4884 621968792 : r1 = ( y02 - r1 * 0.5f );
4885 :
4886 621968792 : s1 = ( y13 + y23 );
4887 621968792 : s2 = ( ( y13 - y23 ) * FFT_C31 );
4888 621968792 : z43 = ( y03 + s1 );
4889 621968792 : s1 = ( y03 - s1 * 0.5f );
4890 :
4891 621968792 : z32 = ( r1 - s2 );
4892 621968792 : z52 = ( r1 + s2 );
4893 621968792 : z33 = ( s1 + r2 );
4894 621968792 : z53 = ( s1 - r2 );
4895 :
4896 621968792 : r1 = ( y14 + y24 );
4897 621968792 : r2 = ( ( y14 - y24 ) * FFT_C31 );
4898 621968792 : z54 = ( y04 + r1 );
4899 621968792 : r1 = ( y04 - r1 * 0.5f );
4900 :
4901 621968792 : s1 = ( y15 + y25 );
4902 621968792 : s2 = ( ( y15 - y25 ) * FFT_C31 );
4903 621968792 : z55 = ( y05 + s1 );
4904 621968792 : s1 = ( y05 - s1 * 0.5f );
4905 :
4906 621968792 : z44 = ( r1 - s2 );
4907 621968792 : z34 = ( r1 + s2 );
4908 621968792 : z45 = ( s1 + r2 );
4909 621968792 : z35 = ( s1 - r2 );
4910 :
4911 621968792 : r1 = ( y16 + y26 );
4912 621968792 : r2 = ( ( y16 - y26 ) * FFT_C31 );
4913 621968792 : z36 = ( y06 + r1 );
4914 621968792 : r1 = ( y06 - r1 * 0.5f );
4915 :
4916 621968792 : s1 = ( y17 + y27 );
4917 621968792 : s2 = ( ( y17 - y27 ) * FFT_C31 );
4918 621968792 : z37 = ( y07 + s1 );
4919 621968792 : s1 = ( y07 - s1 * 0.5f );
4920 :
4921 621968792 : z56 = ( r1 - s2 );
4922 621968792 : z46 = ( r1 + s2 );
4923 621968792 : z57 = ( s1 + r2 );
4924 621968792 : z47 = ( s1 - r2 );
4925 :
4926 621968792 : r1 = ( y18 + y28 );
4927 621968792 : r2 = ( ( y18 - y28 ) * FFT_C31 );
4928 621968792 : z48 = ( y08 + r1 );
4929 621968792 : r1 = ( y08 - r1 * 0.5f );
4930 :
4931 621968792 : s1 = ( y19 + y29 );
4932 621968792 : s2 = ( ( y19 - y29 ) * FFT_C31 );
4933 621968792 : z49 = ( y09 + s1 );
4934 621968792 : s1 = ( y09 - s1 * 0.5f );
4935 :
4936 621968792 : z38 = ( r1 - s2 );
4937 621968792 : z58 = ( r1 + s2 );
4938 621968792 : z39 = ( s1 + r2 );
4939 621968792 : z59 = ( s1 - r2 );
4940 :
4941 621968792 : r1 = z00;
4942 621968792 : r2 = z30;
4943 621968792 : r3 = z01;
4944 621968792 : r4 = z31;
4945 621968792 : *rel = ( r1 + r2 );
4946 621968792 : *reh = ( r1 - r2 );
4947 621968792 : *iml = ( r3 + r4 );
4948 621968792 : *imh = ( r3 - r4 );
4949 621968792 : rel += s, reh += s, iml += s;
4950 621968792 : imh += s;
4951 :
4952 621968792 : r1 = z16;
4953 621968792 : r2 = z46;
4954 621968792 : r3 = z17;
4955 621968792 : r4 = z47;
4956 621968792 : *reh = ( r1 + r2 );
4957 621968792 : *rel = ( r1 - r2 );
4958 621968792 : *imh = ( r3 + r4 );
4959 621968792 : *iml = ( r3 - r4 );
4960 621968792 : rel += s, reh += s, iml += s;
4961 621968792 : imh += s;
4962 :
4963 621968792 : r1 = z02;
4964 621968792 : r2 = z32;
4965 621968792 : r3 = z03;
4966 621968792 : r4 = z33;
4967 621968792 : *rel = ( r1 + r2 );
4968 621968792 : *reh = ( r1 - r2 );
4969 621968792 : *iml = ( r3 + r4 );
4970 621968792 : *imh = ( r3 - r4 );
4971 621968792 : rel += s, reh += s, iml += s;
4972 621968792 : imh += s;
4973 :
4974 621968792 : r1 = z18;
4975 621968792 : r2 = z48;
4976 621968792 : r3 = z19;
4977 621968792 : r4 = z49;
4978 621968792 : *reh = ( r1 + r2 );
4979 621968792 : *rel = ( r1 - r2 );
4980 621968792 : *imh = ( r3 + r4 );
4981 621968792 : *iml = ( r3 - r4 );
4982 621968792 : rel += s, reh += s, iml += s;
4983 621968792 : imh += s;
4984 :
4985 621968792 : r1 = z04;
4986 621968792 : r2 = z34;
4987 621968792 : r3 = z05;
4988 621968792 : r4 = z35;
4989 621968792 : *rel = ( r1 + r2 );
4990 621968792 : *reh = ( r1 - r2 );
4991 621968792 : *iml = ( r3 + r4 );
4992 621968792 : *imh = ( r3 - r4 );
4993 621968792 : rel += s, reh += s, iml += s;
4994 621968792 : imh += s;
4995 :
4996 621968792 : r1 = z20;
4997 621968792 : r2 = z50;
4998 621968792 : r3 = z21;
4999 621968792 : r4 = z51;
5000 621968792 : *reh = ( r1 + r2 );
5001 621968792 : *rel = ( r1 - r2 );
5002 621968792 : *imh = ( r3 + r4 );
5003 621968792 : *iml = ( r3 - r4 );
5004 621968792 : rel += s, reh += s, iml += s;
5005 621968792 : imh += s;
5006 :
5007 621968792 : r1 = z06;
5008 621968792 : r2 = z36;
5009 621968792 : r3 = z07;
5010 621968792 : r4 = z37;
5011 621968792 : *rel = ( r1 + r2 );
5012 621968792 : *reh = ( r1 - r2 );
5013 621968792 : *iml = ( r3 + r4 );
5014 621968792 : *imh = ( r3 - r4 );
5015 621968792 : rel += s, reh += s, iml += s;
5016 621968792 : imh += s;
5017 :
5018 621968792 : r1 = z22;
5019 621968792 : r2 = z52;
5020 621968792 : r3 = z23;
5021 621968792 : r4 = z53;
5022 621968792 : *reh = ( r1 + r2 );
5023 621968792 : *rel = ( r1 - r2 );
5024 621968792 : *imh = ( r3 + r4 );
5025 621968792 : *iml = ( r3 - r4 );
5026 621968792 : rel += s, reh += s, iml += s;
5027 621968792 : imh += s;
5028 :
5029 621968792 : r1 = z08;
5030 621968792 : r2 = z38;
5031 621968792 : r3 = z09;
5032 621968792 : r4 = z39;
5033 621968792 : *rel = ( r1 + r2 );
5034 621968792 : *reh = ( r1 - r2 );
5035 621968792 : *iml = ( r3 + r4 );
5036 621968792 : *imh = ( r3 - r4 );
5037 621968792 : rel += s, reh += s, iml += s;
5038 621968792 : imh += s;
5039 :
5040 621968792 : r1 = z24;
5041 621968792 : r2 = z54;
5042 621968792 : r3 = z25;
5043 621968792 : r4 = z55;
5044 621968792 : *reh = ( r1 + r2 );
5045 621968792 : *rel = ( r1 - r2 );
5046 621968792 : *imh = ( r3 + r4 );
5047 621968792 : *iml = ( r3 - r4 );
5048 621968792 : rel += s, reh += s, iml += s;
5049 621968792 : imh += s;
5050 :
5051 621968792 : r1 = z10;
5052 621968792 : r2 = z40;
5053 621968792 : r3 = z11;
5054 621968792 : r4 = z41;
5055 621968792 : *rel = ( r1 + r2 );
5056 621968792 : *reh = ( r1 - r2 );
5057 621968792 : *iml = ( r3 + r4 );
5058 621968792 : *imh = ( r3 - r4 );
5059 621968792 : rel += s, reh += s, iml += s;
5060 621968792 : imh += s;
5061 :
5062 621968792 : r1 = z26;
5063 621968792 : r2 = z56;
5064 621968792 : r3 = z27;
5065 621968792 : r4 = z57;
5066 621968792 : *reh = ( r1 + r2 );
5067 621968792 : *rel = ( r1 - r2 );
5068 621968792 : *imh = ( r3 + r4 );
5069 621968792 : *iml = ( r3 - r4 );
5070 621968792 : rel += s, reh += s, iml += s;
5071 621968792 : imh += s;
5072 :
5073 621968792 : r1 = z12;
5074 621968792 : r2 = z42;
5075 621968792 : r3 = z13;
5076 621968792 : r4 = z43;
5077 621968792 : *rel = ( r1 + r2 );
5078 621968792 : *reh = ( r1 - r2 );
5079 621968792 : *iml = ( r3 + r4 );
5080 621968792 : *imh = ( r3 - r4 );
5081 621968792 : rel += s, reh += s, iml += s;
5082 621968792 : imh += s;
5083 :
5084 621968792 : r1 = z28;
5085 621968792 : r2 = z58;
5086 621968792 : r3 = z29;
5087 621968792 : r4 = z59;
5088 621968792 : *reh = ( r1 + r2 );
5089 621968792 : *rel = ( r1 - r2 );
5090 621968792 : *imh = ( r3 + r4 );
5091 621968792 : *iml = ( r3 - r4 );
5092 621968792 : rel += s, reh += s, iml += s;
5093 621968792 : imh += s;
5094 :
5095 621968792 : r1 = z14;
5096 621968792 : r2 = z44;
5097 621968792 : r3 = z15;
5098 621968792 : r4 = z45;
5099 621968792 : *rel = ( r1 + r2 );
5100 621968792 : *reh = ( r1 - r2 );
5101 621968792 : *iml = ( r3 + r4 );
5102 621968792 : *imh = ( r3 - r4 );
5103 621968792 : rel += s, reh += s, iml += s;
5104 621968792 : imh += s;
5105 :
5106 621968792 : return;
5107 : }
5108 :
5109 94384174 : static void fft_len32(
5110 : float *re,
5111 : float *im,
5112 : const int16_t s )
5113 : {
5114 : float as, bs;
5115 : float x00, x01, x02, x03, x04, x05, x06, x07;
5116 : float x08, x09, x10, x11, x12, x13, x14, x15;
5117 : float t00, t01, t02, t03, t04, t05, t06, t07;
5118 : float t08, t09, t10, t11, t12, t13, t14, t15;
5119 : float s00, s01, s02, s03, s04, s05, s06, s07;
5120 : float s08, s09, s10, s11, s12, s13, s14, s15;
5121 :
5122 : float y00, y01, y02, y03, y04, y05, y06, y07;
5123 : float y08, y09, y10, y11, y12, y13, y14, y15;
5124 : float y16, y17, y18, y19, y20, y21, y22, y23;
5125 : float y24, y25, y26, y27, y28, y29, y30, y31;
5126 : float y32, y33, y34, y35, y36, y37, y38, y39;
5127 : float y40, y41, y42, y43, y44, y45, y46, y47;
5128 : float y48, y49, y50, y51, y52, y53, y54, y55;
5129 : float y56, y57, y58, y59, y60, y61, y62, y63;
5130 :
5131 94384174 : x00 = re[s * 0];
5132 94384174 : x01 = im[s * 0];
5133 94384174 : x02 = re[s * 4];
5134 94384174 : x03 = im[s * 4];
5135 94384174 : x04 = re[s * 8];
5136 94384174 : x05 = im[s * 8];
5137 94384174 : x06 = re[s * 12];
5138 94384174 : x07 = im[s * 12];
5139 94384174 : x08 = re[s * 16];
5140 94384174 : x09 = im[s * 16];
5141 94384174 : x10 = re[s * 20];
5142 94384174 : x11 = im[s * 20];
5143 94384174 : x12 = re[s * 24];
5144 94384174 : x13 = im[s * 24];
5145 94384174 : x14 = re[s * 28];
5146 94384174 : x15 = im[s * 28];
5147 :
5148 94384174 : t00 = ( x00 + x08 );
5149 94384174 : t02 = ( x00 - x08 );
5150 94384174 : t01 = ( x01 + x09 );
5151 94384174 : t03 = ( x01 - x09 );
5152 94384174 : t04 = ( x02 + x10 );
5153 94384174 : t06 = ( x02 - x10 );
5154 94384174 : t05 = ( x03 + x11 );
5155 94384174 : t07 = ( x03 - x11 );
5156 94384174 : t08 = ( x04 + x12 );
5157 94384174 : t10 = ( x04 - x12 );
5158 94384174 : t09 = ( x05 + x13 );
5159 94384174 : t11 = ( x05 - x13 );
5160 94384174 : t12 = ( x06 + x14 );
5161 94384174 : t14 = ( x06 - x14 );
5162 94384174 : t13 = ( x07 + x15 );
5163 94384174 : t15 = ( x07 - x15 );
5164 :
5165 94384174 : s00 = ( t00 + t08 );
5166 94384174 : s04 = ( t00 - t08 );
5167 94384174 : s01 = ( t01 + t09 );
5168 94384174 : s05 = ( t01 - t09 );
5169 94384174 : s08 = ( t02 - t11 );
5170 94384174 : s10 = ( t02 + t11 );
5171 94384174 : s09 = ( t03 + t10 );
5172 94384174 : s11 = ( t03 - t10 );
5173 94384174 : s02 = ( t04 + t12 );
5174 94384174 : s07 = ( t04 - t12 );
5175 94384174 : s03 = ( t05 + t13 );
5176 94384174 : s06 = ( t13 - t05 );
5177 94384174 : t01 = ( t06 + t14 );
5178 94384174 : t02 = ( t06 - t14 );
5179 94384174 : t00 = ( t07 + t15 );
5180 94384174 : t03 = ( t07 - t15 );
5181 :
5182 : {
5183 94384174 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5184 94384174 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5185 94384174 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5186 94384174 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5187 : };
5188 :
5189 94384174 : y00 = ( s00 + s02 );
5190 94384174 : y08 = ( s00 - s02 );
5191 94384174 : y01 = ( s01 + s03 );
5192 94384174 : y09 = ( s01 - s03 );
5193 94384174 : y04 = ( s04 - s06 );
5194 94384174 : y12 = ( s04 + s06 );
5195 94384174 : y05 = ( s05 - s07 );
5196 94384174 : y13 = ( s05 + s07 );
5197 94384174 : y06 = ( s08 + s14 );
5198 94384174 : y14 = ( s08 - s14 );
5199 94384174 : y07 = ( s09 + s15 );
5200 94384174 : y15 = ( s09 - s15 );
5201 94384174 : y02 = ( s10 + s12 );
5202 94384174 : y10 = ( s10 - s12 );
5203 94384174 : y03 = ( s11 + s13 );
5204 94384174 : y11 = ( s11 - s13 );
5205 :
5206 94384174 : x00 = re[s * 1];
5207 94384174 : x01 = im[s * 1];
5208 94384174 : x02 = re[s * 5];
5209 94384174 : x03 = im[s * 5];
5210 94384174 : x04 = re[s * 9];
5211 94384174 : x05 = im[s * 9];
5212 94384174 : x06 = re[s * 13];
5213 94384174 : x07 = im[s * 13];
5214 94384174 : x08 = re[s * 17];
5215 94384174 : x09 = im[s * 17];
5216 94384174 : x10 = re[s * 21];
5217 94384174 : x11 = im[s * 21];
5218 94384174 : x12 = re[s * 25];
5219 94384174 : x13 = im[s * 25];
5220 94384174 : x14 = re[s * 29];
5221 94384174 : x15 = im[s * 29];
5222 :
5223 94384174 : t00 = ( x00 + x08 );
5224 94384174 : t02 = ( x00 - x08 );
5225 94384174 : t01 = ( x01 + x09 );
5226 94384174 : t03 = ( x01 - x09 );
5227 94384174 : t04 = ( x02 + x10 );
5228 94384174 : t06 = ( x02 - x10 );
5229 94384174 : t05 = ( x03 + x11 );
5230 94384174 : t07 = ( x03 - x11 );
5231 94384174 : t08 = ( x04 + x12 );
5232 94384174 : t10 = ( x04 - x12 );
5233 94384174 : t09 = ( x05 + x13 );
5234 94384174 : t11 = ( x05 - x13 );
5235 94384174 : t12 = ( x06 + x14 );
5236 94384174 : t14 = ( x06 - x14 );
5237 94384174 : t13 = ( x07 + x15 );
5238 94384174 : t15 = ( x07 - x15 );
5239 :
5240 94384174 : s00 = ( t00 + t08 );
5241 94384174 : s04 = ( t00 - t08 );
5242 94384174 : s01 = ( t01 + t09 );
5243 94384174 : s05 = ( t01 - t09 );
5244 94384174 : s08 = ( t02 - t11 );
5245 94384174 : s10 = ( t02 + t11 );
5246 94384174 : s09 = ( t03 + t10 );
5247 94384174 : s11 = ( t03 - t10 );
5248 94384174 : s02 = ( t04 + t12 );
5249 94384174 : s07 = ( t04 - t12 );
5250 94384174 : s03 = ( t05 + t13 );
5251 94384174 : s06 = ( t13 - t05 );
5252 94384174 : t01 = ( t06 + t14 );
5253 94384174 : t02 = ( t06 - t14 );
5254 94384174 : t00 = ( t07 + t15 );
5255 94384174 : t03 = ( t07 - t15 );
5256 :
5257 : {
5258 94384174 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5259 94384174 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5260 94384174 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5261 94384174 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5262 : };
5263 :
5264 94384174 : y16 = ( s00 + s02 );
5265 94384174 : y24 = ( s00 - s02 );
5266 94384174 : y17 = ( s01 + s03 );
5267 94384174 : y25 = ( s01 - s03 );
5268 94384174 : y20 = ( s04 - s06 );
5269 94384174 : y28 = ( s04 + s06 );
5270 94384174 : y21 = ( s05 - s07 );
5271 94384174 : y29 = ( s05 + s07 );
5272 94384174 : y22 = ( s08 + s14 );
5273 94384174 : y30 = ( s08 - s14 );
5274 94384174 : y23 = ( s09 + s15 );
5275 94384174 : y31 = ( s09 - s15 );
5276 94384174 : y18 = ( s10 + s12 );
5277 94384174 : y26 = ( s10 - s12 );
5278 94384174 : y19 = ( s11 + s13 );
5279 94384174 : y27 = ( s11 - s13 );
5280 :
5281 94384174 : x00 = re[s * 2];
5282 94384174 : x01 = im[s * 2];
5283 94384174 : x02 = re[s * 6];
5284 94384174 : x03 = im[s * 6];
5285 94384174 : x04 = re[s * 10];
5286 94384174 : x05 = im[s * 10];
5287 94384174 : x06 = re[s * 14];
5288 94384174 : x07 = im[s * 14];
5289 94384174 : x08 = re[s * 18];
5290 94384174 : x09 = im[s * 18];
5291 94384174 : x10 = re[s * 22];
5292 94384174 : x11 = im[s * 22];
5293 94384174 : x12 = re[s * 26];
5294 94384174 : x13 = im[s * 26];
5295 94384174 : x14 = re[s * 30];
5296 94384174 : x15 = im[s * 30];
5297 :
5298 94384174 : t00 = ( x00 + x08 );
5299 94384174 : t02 = ( x00 - x08 );
5300 94384174 : t01 = ( x01 + x09 );
5301 94384174 : t03 = ( x01 - x09 );
5302 94384174 : t04 = ( x02 + x10 );
5303 94384174 : t06 = ( x02 - x10 );
5304 94384174 : t05 = ( x03 + x11 );
5305 94384174 : t07 = ( x03 - x11 );
5306 94384174 : t08 = ( x04 + x12 );
5307 94384174 : t10 = ( x04 - x12 );
5308 94384174 : t09 = ( x05 + x13 );
5309 94384174 : t11 = ( x05 - x13 );
5310 94384174 : t12 = ( x06 + x14 );
5311 94384174 : t14 = ( x06 - x14 );
5312 94384174 : t13 = ( x07 + x15 );
5313 94384174 : t15 = ( x07 - x15 );
5314 :
5315 94384174 : s00 = ( t00 + t08 );
5316 94384174 : s04 = ( t00 - t08 );
5317 94384174 : s01 = ( t01 + t09 );
5318 94384174 : s05 = ( t01 - t09 );
5319 94384174 : s08 = ( t02 - t11 );
5320 94384174 : s10 = ( t02 + t11 );
5321 94384174 : s09 = ( t03 + t10 );
5322 94384174 : s11 = ( t03 - t10 );
5323 94384174 : s02 = ( t04 + t12 );
5324 94384174 : s07 = ( t04 - t12 );
5325 94384174 : s03 = ( t05 + t13 );
5326 94384174 : s06 = ( t13 - t05 );
5327 94384174 : t01 = ( t06 + t14 );
5328 94384174 : t02 = ( t06 - t14 );
5329 94384174 : t00 = ( t07 + t15 );
5330 94384174 : t03 = ( t07 - t15 );
5331 :
5332 : {
5333 94384174 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5334 94384174 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5335 94384174 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5336 94384174 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5337 : };
5338 :
5339 94384174 : y32 = ( s00 + s02 );
5340 94384174 : y40 = ( s00 - s02 );
5341 94384174 : y33 = ( s01 + s03 );
5342 94384174 : y41 = ( s01 - s03 );
5343 94384174 : y36 = ( s04 - s06 );
5344 94384174 : y44 = ( s04 + s06 );
5345 94384174 : y37 = ( s05 - s07 );
5346 94384174 : y45 = ( s05 + s07 );
5347 94384174 : y38 = ( s08 + s14 );
5348 94384174 : y46 = ( s08 - s14 );
5349 94384174 : y39 = ( s09 + s15 );
5350 94384174 : y47 = ( s09 - s15 );
5351 94384174 : y34 = ( s10 + s12 );
5352 94384174 : y42 = ( s10 - s12 );
5353 94384174 : y35 = ( s11 + s13 );
5354 94384174 : y43 = ( s11 - s13 );
5355 :
5356 94384174 : x00 = re[s * 3];
5357 94384174 : x01 = im[s * 3];
5358 94384174 : x02 = re[s * 7];
5359 94384174 : x03 = im[s * 7];
5360 94384174 : x04 = re[s * 11];
5361 94384174 : x05 = im[s * 11];
5362 94384174 : x06 = re[s * 15];
5363 94384174 : x07 = im[s * 15];
5364 94384174 : x08 = re[s * 19];
5365 94384174 : x09 = im[s * 19];
5366 94384174 : x10 = re[s * 23];
5367 94384174 : x11 = im[s * 23];
5368 94384174 : x12 = re[s * 27];
5369 94384174 : x13 = im[s * 27];
5370 94384174 : x14 = re[s * 31];
5371 94384174 : x15 = im[s * 31];
5372 :
5373 94384174 : t00 = ( x00 + x08 );
5374 94384174 : t02 = ( x00 - x08 );
5375 94384174 : t01 = ( x01 + x09 );
5376 94384174 : t03 = ( x01 - x09 );
5377 94384174 : t04 = ( x02 + x10 );
5378 94384174 : t06 = ( x02 - x10 );
5379 94384174 : t05 = ( x03 + x11 );
5380 94384174 : t07 = ( x03 - x11 );
5381 94384174 : t08 = ( x04 + x12 );
5382 94384174 : t10 = ( x04 - x12 );
5383 94384174 : t09 = ( x05 + x13 );
5384 94384174 : t11 = ( x05 - x13 );
5385 94384174 : t12 = ( x06 + x14 );
5386 94384174 : t14 = ( x06 - x14 );
5387 94384174 : t13 = ( x07 + x15 );
5388 94384174 : t15 = ( x07 - x15 );
5389 :
5390 94384174 : s00 = ( t00 + t08 );
5391 94384174 : s04 = ( t00 - t08 );
5392 94384174 : s01 = ( t01 + t09 );
5393 94384174 : s05 = ( t01 - t09 );
5394 94384174 : s08 = ( t02 - t11 );
5395 94384174 : s10 = ( t02 + t11 );
5396 94384174 : s09 = ( t03 + t10 );
5397 94384174 : s11 = ( t03 - t10 );
5398 94384174 : s02 = ( t04 + t12 );
5399 94384174 : s07 = ( t04 - t12 );
5400 94384174 : s03 = ( t05 + t13 );
5401 94384174 : s06 = ( t13 - t05 );
5402 94384174 : t01 = ( t06 + t14 );
5403 94384174 : t02 = ( t06 - t14 );
5404 94384174 : t00 = ( t07 + t15 );
5405 94384174 : t03 = ( t07 - t15 );
5406 :
5407 : {
5408 94384174 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5409 94384174 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5410 94384174 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5411 94384174 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5412 : };
5413 :
5414 94384174 : y48 = ( s00 + s02 );
5415 94384174 : y56 = ( s00 - s02 );
5416 94384174 : y49 = ( s01 + s03 );
5417 94384174 : y57 = ( s01 - s03 );
5418 94384174 : y52 = ( s04 - s06 );
5419 94384174 : y60 = ( s04 + s06 );
5420 94384174 : y53 = ( s05 - s07 );
5421 94384174 : y61 = ( s05 + s07 );
5422 94384174 : y54 = ( s08 + s14 );
5423 94384174 : y62 = ( s08 - s14 );
5424 94384174 : y55 = ( s09 + s15 );
5425 94384174 : y63 = ( s09 - s15 );
5426 94384174 : y50 = ( s10 + s12 );
5427 94384174 : y58 = ( s10 - s12 );
5428 94384174 : y51 = ( s11 + s13 );
5429 94384174 : y59 = ( s11 - s13 );
5430 :
5431 :
5432 : {
5433 94384174 : as = y18;
5434 94384174 : bs = y19;
5435 94384174 : y18 = ( ( as * FFT_RotVector_32[2 * 0 + 0] ) - ( bs * FFT_RotVector_32[2 * 0 + 1] ) );
5436 94384174 : y19 = ( ( as * FFT_RotVector_32[2 * 0 + 1] ) + ( bs * FFT_RotVector_32[2 * 0 + 0] ) );
5437 : };
5438 : {
5439 94384174 : as = y20;
5440 94384174 : bs = y21;
5441 94384174 : y20 = ( ( as * FFT_RotVector_32[2 * 1 + 0] ) - ( bs * FFT_RotVector_32[2 * 1 + 1] ) );
5442 94384174 : y21 = ( ( as * FFT_RotVector_32[2 * 1 + 1] ) + ( bs * FFT_RotVector_32[2 * 1 + 0] ) );
5443 : };
5444 : {
5445 94384174 : as = y22;
5446 94384174 : bs = y23;
5447 94384174 : y22 = ( ( as * FFT_RotVector_32[2 * 2 + 0] ) - ( bs * FFT_RotVector_32[2 * 2 + 1] ) );
5448 94384174 : y23 = ( ( as * FFT_RotVector_32[2 * 2 + 1] ) + ( bs * FFT_RotVector_32[2 * 2 + 0] ) );
5449 : };
5450 : {
5451 94384174 : as = y24;
5452 94384174 : bs = y25;
5453 94384174 : y24 = ( ( as * FFT_RotVector_32[2 * 3 + 0] ) - ( bs * FFT_RotVector_32[2 * 3 + 1] ) );
5454 94384174 : y25 = ( ( as * FFT_RotVector_32[2 * 3 + 1] ) + ( bs * FFT_RotVector_32[2 * 3 + 0] ) );
5455 : };
5456 : {
5457 94384174 : as = y26;
5458 94384174 : bs = y27;
5459 94384174 : y26 = ( ( as * FFT_RotVector_32[2 * 4 + 0] ) - ( bs * FFT_RotVector_32[2 * 4 + 1] ) );
5460 94384174 : y27 = ( ( as * FFT_RotVector_32[2 * 4 + 1] ) + ( bs * FFT_RotVector_32[2 * 4 + 0] ) );
5461 : };
5462 : {
5463 94384174 : as = y28;
5464 94384174 : bs = y29;
5465 94384174 : y28 = ( ( as * FFT_RotVector_32[2 * 5 + 0] ) - ( bs * FFT_RotVector_32[2 * 5 + 1] ) );
5466 94384174 : y29 = ( ( as * FFT_RotVector_32[2 * 5 + 1] ) + ( bs * FFT_RotVector_32[2 * 5 + 0] ) );
5467 : };
5468 : {
5469 94384174 : as = y30;
5470 94384174 : bs = y31;
5471 94384174 : y30 = ( ( as * FFT_RotVector_32[2 * 6 + 0] ) - ( bs * FFT_RotVector_32[2 * 6 + 1] ) );
5472 94384174 : y31 = ( ( as * FFT_RotVector_32[2 * 6 + 1] ) + ( bs * FFT_RotVector_32[2 * 6 + 0] ) );
5473 : };
5474 : {
5475 94384174 : as = y34;
5476 94384174 : bs = y35;
5477 94384174 : y34 = ( ( as * FFT_RotVector_32[2 * 7 + 0] ) - ( bs * FFT_RotVector_32[2 * 7 + 1] ) );
5478 94384174 : y35 = ( ( as * FFT_RotVector_32[2 * 7 + 1] ) + ( bs * FFT_RotVector_32[2 * 7 + 0] ) );
5479 : };
5480 : {
5481 94384174 : as = y36;
5482 94384174 : bs = y37;
5483 94384174 : y36 = ( ( as * FFT_RotVector_32[2 * 8 + 0] ) - ( bs * FFT_RotVector_32[2 * 8 + 1] ) );
5484 94384174 : y37 = ( ( as * FFT_RotVector_32[2 * 8 + 1] ) + ( bs * FFT_RotVector_32[2 * 8 + 0] ) );
5485 : };
5486 : {
5487 94384174 : as = y38;
5488 94384174 : bs = y39;
5489 94384174 : y38 = ( ( as * FFT_RotVector_32[2 * 9 + 0] ) - ( bs * FFT_RotVector_32[2 * 9 + 1] ) );
5490 94384174 : y39 = ( ( as * FFT_RotVector_32[2 * 9 + 1] ) + ( bs * FFT_RotVector_32[2 * 9 + 0] ) );
5491 : };
5492 : {
5493 94384174 : as = y42;
5494 94384174 : bs = y43;
5495 94384174 : y42 = ( ( as * FFT_RotVector_32[2 * 10 + 0] ) - ( bs * FFT_RotVector_32[2 * 10 + 1] ) );
5496 94384174 : y43 = ( ( as * FFT_RotVector_32[2 * 10 + 1] ) + ( bs * FFT_RotVector_32[2 * 10 + 0] ) );
5497 : };
5498 : {
5499 94384174 : as = y44;
5500 94384174 : bs = y45;
5501 94384174 : y44 = ( ( as * FFT_RotVector_32[2 * 11 + 0] ) - ( bs * FFT_RotVector_32[2 * 11 + 1] ) );
5502 94384174 : y45 = ( ( as * FFT_RotVector_32[2 * 11 + 1] ) + ( bs * FFT_RotVector_32[2 * 11 + 0] ) );
5503 : };
5504 : {
5505 94384174 : as = y46;
5506 94384174 : bs = y47;
5507 94384174 : y46 = ( ( as * FFT_RotVector_32[2 * 12 + 0] ) - ( bs * FFT_RotVector_32[2 * 12 + 1] ) );
5508 94384174 : y47 = ( ( as * FFT_RotVector_32[2 * 12 + 1] ) + ( bs * FFT_RotVector_32[2 * 12 + 0] ) );
5509 : };
5510 : {
5511 94384174 : as = y50;
5512 94384174 : bs = y51;
5513 94384174 : y50 = ( ( as * FFT_RotVector_32[2 * 13 + 0] ) - ( bs * FFT_RotVector_32[2 * 13 + 1] ) );
5514 94384174 : y51 = ( ( as * FFT_RotVector_32[2 * 13 + 1] ) + ( bs * FFT_RotVector_32[2 * 13 + 0] ) );
5515 : };
5516 : {
5517 94384174 : as = y52;
5518 94384174 : bs = y53;
5519 94384174 : y52 = ( ( as * FFT_RotVector_32[2 * 14 + 0] ) - ( bs * FFT_RotVector_32[2 * 14 + 1] ) );
5520 94384174 : y53 = ( ( as * FFT_RotVector_32[2 * 14 + 1] ) + ( bs * FFT_RotVector_32[2 * 14 + 0] ) );
5521 : };
5522 : {
5523 94384174 : as = y54;
5524 94384174 : bs = y55;
5525 94384174 : y54 = ( ( as * FFT_RotVector_32[2 * 15 + 0] ) - ( bs * FFT_RotVector_32[2 * 15 + 1] ) );
5526 94384174 : y55 = ( ( as * FFT_RotVector_32[2 * 15 + 1] ) + ( bs * FFT_RotVector_32[2 * 15 + 0] ) );
5527 : };
5528 : {
5529 94384174 : as = y56;
5530 94384174 : bs = y57;
5531 94384174 : y56 = ( ( as * FFT_RotVector_32[2 * 16 + 0] ) - ( bs * FFT_RotVector_32[2 * 16 + 1] ) );
5532 94384174 : y57 = ( ( as * FFT_RotVector_32[2 * 16 + 1] ) + ( bs * FFT_RotVector_32[2 * 16 + 0] ) );
5533 : };
5534 : {
5535 94384174 : as = y58;
5536 94384174 : bs = y59;
5537 94384174 : y58 = ( ( as * FFT_RotVector_32[2 * 17 + 0] ) - ( bs * FFT_RotVector_32[2 * 17 + 1] ) );
5538 94384174 : y59 = ( ( as * FFT_RotVector_32[2 * 17 + 1] ) + ( bs * FFT_RotVector_32[2 * 17 + 0] ) );
5539 : };
5540 : {
5541 94384174 : as = y60;
5542 94384174 : bs = y61;
5543 94384174 : y60 = ( ( as * FFT_RotVector_32[2 * 18 + 0] ) - ( bs * FFT_RotVector_32[2 * 18 + 1] ) );
5544 94384174 : y61 = ( ( as * FFT_RotVector_32[2 * 18 + 1] ) + ( bs * FFT_RotVector_32[2 * 18 + 0] ) );
5545 : };
5546 : {
5547 94384174 : as = y62;
5548 94384174 : bs = y63;
5549 94384174 : y62 = ( ( as * FFT_RotVector_32[2 * 19 + 0] ) - ( bs * FFT_RotVector_32[2 * 19 + 1] ) );
5550 94384174 : y63 = ( ( as * FFT_RotVector_32[2 * 19 + 1] ) + ( bs * FFT_RotVector_32[2 * 19 + 0] ) );
5551 : };
5552 :
5553 94384174 : t00 = ( y00 + y32 );
5554 94384174 : t02 = ( y00 - y32 );
5555 94384174 : t01 = ( y01 + y33 );
5556 94384174 : t03 = ( y01 - y33 );
5557 94384174 : t04 = ( y16 + y48 );
5558 94384174 : t07 = ( y16 - y48 );
5559 94384174 : t05 = ( y49 + y17 );
5560 94384174 : t06 = ( y49 - y17 );
5561 :
5562 94384174 : re[s * 0] = ( t00 + t04 );
5563 94384174 : im[s * 0] = ( t01 + t05 );
5564 94384174 : re[s * 8] = ( t02 - t06 );
5565 94384174 : im[s * 8] = ( t03 - t07 );
5566 94384174 : re[s * 16] = ( t00 - t04 );
5567 94384174 : im[s * 16] = ( t01 - t05 );
5568 94384174 : re[s * 24] = ( t02 + t06 );
5569 94384174 : im[s * 24] = ( t03 + t07 );
5570 :
5571 94384174 : t00 = ( y02 + y34 );
5572 94384174 : t02 = ( y02 - y34 );
5573 94384174 : t01 = ( y03 + y35 );
5574 94384174 : t03 = ( y03 - y35 );
5575 94384174 : t04 = ( y18 + y50 );
5576 94384174 : t07 = ( y18 - y50 );
5577 94384174 : t05 = ( y51 + y19 );
5578 94384174 : t06 = ( y51 - y19 );
5579 :
5580 94384174 : re[s * 1] = ( t00 + t04 );
5581 94384174 : im[s * 1] = ( t01 + t05 );
5582 94384174 : re[s * 9] = ( t02 - t06 );
5583 94384174 : im[s * 9] = ( t03 - t07 );
5584 94384174 : re[s * 17] = ( t00 - t04 );
5585 94384174 : im[s * 17] = ( t01 - t05 );
5586 94384174 : re[s * 25] = ( t02 + t06 );
5587 94384174 : im[s * 25] = ( t03 + t07 );
5588 :
5589 94384174 : t00 = ( y04 + y36 );
5590 94384174 : t02 = ( y04 - y36 );
5591 94384174 : t01 = ( y05 + y37 );
5592 94384174 : t03 = ( y05 - y37 );
5593 94384174 : t04 = ( y20 + y52 );
5594 94384174 : t07 = ( y20 - y52 );
5595 94384174 : t05 = ( y53 + y21 );
5596 94384174 : t06 = ( y53 - y21 );
5597 :
5598 94384174 : re[s * 2] = ( t00 + t04 );
5599 94384174 : im[s * 2] = ( t01 + t05 );
5600 94384174 : re[s * 10] = ( t02 - t06 );
5601 94384174 : im[s * 10] = ( t03 - t07 );
5602 94384174 : re[s * 18] = ( t00 - t04 );
5603 94384174 : im[s * 18] = ( t01 - t05 );
5604 94384174 : re[s * 26] = ( t02 + t06 );
5605 94384174 : im[s * 26] = ( t03 + t07 );
5606 :
5607 94384174 : t00 = ( y06 + y38 );
5608 94384174 : t02 = ( y06 - y38 );
5609 94384174 : t01 = ( y07 + y39 );
5610 94384174 : t03 = ( y07 - y39 );
5611 94384174 : t04 = ( y22 + y54 );
5612 94384174 : t07 = ( y22 - y54 );
5613 94384174 : t05 = ( y55 + y23 );
5614 94384174 : t06 = ( y55 - y23 );
5615 :
5616 94384174 : re[s * 3] = ( t00 + t04 );
5617 94384174 : im[s * 3] = ( t01 + t05 );
5618 94384174 : re[s * 11] = ( t02 - t06 );
5619 94384174 : im[s * 11] = ( t03 - t07 );
5620 94384174 : re[s * 19] = ( t00 - t04 );
5621 94384174 : im[s * 19] = ( t01 - t05 );
5622 94384174 : re[s * 27] = ( t02 + t06 );
5623 94384174 : im[s * 27] = ( t03 + t07 );
5624 :
5625 94384174 : t00 = ( y08 + y41 );
5626 94384174 : t02 = ( y08 - y41 );
5627 94384174 : t01 = ( y09 - y40 );
5628 94384174 : t03 = ( y09 + y40 );
5629 94384174 : t04 = ( y24 + y56 );
5630 94384174 : t07 = ( y24 - y56 );
5631 94384174 : t05 = ( y57 + y25 );
5632 94384174 : t06 = ( y57 - y25 );
5633 :
5634 94384174 : re[s * 4] = ( t00 + t04 );
5635 94384174 : im[s * 4] = ( t01 + t05 );
5636 94384174 : re[s * 12] = ( t02 - t06 );
5637 94384174 : im[s * 12] = ( t03 - t07 );
5638 94384174 : re[s * 20] = ( t00 - t04 );
5639 94384174 : im[s * 20] = ( t01 - t05 );
5640 94384174 : re[s * 28] = ( t02 + t06 );
5641 94384174 : im[s * 28] = ( t03 + t07 );
5642 :
5643 94384174 : t00 = ( y10 + y42 );
5644 94384174 : t02 = ( y10 - y42 );
5645 94384174 : t01 = ( y11 + y43 );
5646 94384174 : t03 = ( y11 - y43 );
5647 94384174 : t04 = ( y26 + y58 );
5648 94384174 : t07 = ( y26 - y58 );
5649 94384174 : t05 = ( y59 + y27 );
5650 94384174 : t06 = ( y59 - y27 );
5651 :
5652 94384174 : re[s * 5] = ( t00 + t04 );
5653 94384174 : im[s * 5] = ( t01 + t05 );
5654 94384174 : re[s * 13] = ( t02 - t06 );
5655 94384174 : im[s * 13] = ( t03 - t07 );
5656 94384174 : re[s * 21] = ( t00 - t04 );
5657 94384174 : im[s * 21] = ( t01 - t05 );
5658 94384174 : re[s * 29] = ( t02 + t06 );
5659 94384174 : im[s * 29] = ( t03 + t07 );
5660 :
5661 94384174 : t00 = ( y12 + y44 );
5662 94384174 : t02 = ( y12 - y44 );
5663 94384174 : t01 = ( y13 + y45 );
5664 94384174 : t03 = ( y13 - y45 );
5665 94384174 : t04 = ( y28 + y60 );
5666 94384174 : t07 = ( y28 - y60 );
5667 94384174 : t05 = ( y61 + y29 );
5668 94384174 : t06 = ( y61 - y29 );
5669 :
5670 94384174 : re[s * 6] = ( t00 + t04 );
5671 94384174 : im[s * 6] = ( t01 + t05 );
5672 94384174 : re[s * 14] = ( t02 - t06 );
5673 94384174 : im[s * 14] = ( t03 - t07 );
5674 94384174 : re[s * 22] = ( t00 - t04 );
5675 94384174 : im[s * 22] = ( t01 - t05 );
5676 94384174 : re[s * 30] = ( t02 + t06 );
5677 94384174 : im[s * 30] = ( t03 + t07 );
5678 :
5679 94384174 : t00 = ( y14 + y46 );
5680 94384174 : t02 = ( y14 - y46 );
5681 94384174 : t01 = ( y15 + y47 );
5682 94384174 : t03 = ( y15 - y47 );
5683 94384174 : t04 = ( y30 + y62 );
5684 94384174 : t07 = ( y30 - y62 );
5685 94384174 : t05 = ( y63 + y31 );
5686 94384174 : t06 = ( y63 - y31 );
5687 :
5688 94384174 : re[s * 7] = ( t00 + t04 );
5689 94384174 : im[s * 7] = ( t01 + t05 );
5690 94384174 : re[s * 15] = ( t02 - t06 );
5691 94384174 : im[s * 15] = ( t03 - t07 );
5692 94384174 : re[s * 23] = ( t00 - t04 );
5693 94384174 : im[s * 23] = ( t01 - t05 );
5694 94384174 : re[s * 31] = ( t02 + t06 );
5695 94384174 : im[s * 31] = ( t03 + t07 );
5696 :
5697 94384174 : return;
5698 : }
5699 :
5700 154922623 : static void fft_lenN(
5701 : float *re,
5702 : float *im,
5703 : const float *W,
5704 : const int16_t len,
5705 : const int16_t dim1,
5706 : const int16_t dim2,
5707 : const int16_t sx,
5708 : const int16_t sc,
5709 : const int16_t Woff )
5710 : {
5711 : int16_t i, j;
5712 : float x[L_FRAME_MAX * 2];
5713 :
5714 1641826349 : for ( i = 0; i < dim2; i++ )
5715 : {
5716 35115028494 : for ( j = 0; j < dim1; j++ )
5717 : {
5718 33628124768 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
5719 33628124768 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
5720 : }
5721 : }
5722 :
5723 154922623 : switch ( dim1 )
5724 : {
5725 522102 : case 5:
5726 4698918 : for ( i = 0; i < dim2; i++ )
5727 : {
5728 4176816 : fft_len5( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5729 : }
5730 522102 : break;
5731 :
5732 278638 : case 8:
5733 2507742 : for ( i = 0; i < dim2; i++ )
5734 : {
5735 2229104 : fft_len8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5736 : }
5737 278638 : break;
5738 :
5739 30311863 : case 10:
5740 272806767 : for ( i = 0; i < dim2; i++ )
5741 : {
5742 242494904 : fft_len10( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5743 : }
5744 30311863 : break;
5745 :
5746 1892785 : case 15:
5747 17035065 : for ( i = 0; i < dim2; i++ )
5748 : {
5749 15142280 : fft_len15( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5750 : }
5751 1892785 : break;
5752 :
5753 3353911 : case 16:
5754 30185199 : for ( i = 0; i < dim2; i++ )
5755 : {
5756 26831288 : fft_len16( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5757 : }
5758 3353911 : break;
5759 :
5760 53870159 : case 20:
5761 597284917 : for ( i = 0; i < dim2; i++ )
5762 : {
5763 543414758 : fft_len20( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5764 : }
5765 53870159 : break;
5766 :
5767 60862442 : case 30:
5768 682831234 : for ( i = 0; i < dim2; i++ )
5769 : {
5770 621968792 : fft_len30( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5771 : }
5772 60862442 : break;
5773 :
5774 3830723 : case 32:
5775 34476507 : for ( i = 0; i < dim2; i++ )
5776 : {
5777 30645784 : fft_len32( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
5778 : }
5779 3830723 : break;
5780 : }
5781 :
5782 154922623 : switch ( dim2 )
5783 : {
5784 :
5785 128765127 : case 8:
5786 : {
5787 : float x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
5788 : float t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
5789 : float s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
5790 :
5791 128765127 : if ( dim1 == 30 || dim1 == 20 || dim1 == 15 || dim1 == 10 || dim1 == 5 )
5792 : {
5793 2698659920 : for ( i = 0; i < dim1; i++ )
5794 : {
5795 : {
5796 2577358065 : x00 = x[2 * i + 2 * 0 * dim1];
5797 2577358065 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5798 : };
5799 2577358065 : if ( i == 0 )
5800 : {
5801 : {
5802 121301855 : x02 = x[2 * i + 2 * 1 * dim1];
5803 121301855 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5804 : };
5805 : {
5806 121301855 : x04 = x[2 * i + 2 * 2 * dim1];
5807 121301855 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5808 : };
5809 : {
5810 121301855 : x06 = x[2 * i + 2 * 3 * dim1];
5811 121301855 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5812 : };
5813 : {
5814 121301855 : x08 = x[2 * i + 2 * 4 * dim1];
5815 121301855 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5816 : };
5817 : {
5818 121301855 : x10 = x[2 * i + 2 * 5 * dim1];
5819 121301855 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5820 : };
5821 : {
5822 121301855 : x12 = x[2 * i + 2 * 6 * dim1];
5823 121301855 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5824 : };
5825 : {
5826 121301855 : x14 = x[2 * i + 2 * 7 * dim1];
5827 121301855 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5828 : };
5829 : }
5830 : else
5831 : {
5832 : {
5833 2456056210 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] );
5834 2456056210 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 * 2 - Woff] );
5835 : };
5836 : {
5837 2456056210 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] );
5838 2456056210 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 * 2 - Woff] );
5839 : };
5840 : {
5841 2456056210 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] );
5842 2456056210 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 * 2 - Woff] );
5843 : };
5844 : {
5845 2456056210 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] );
5846 2456056210 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 * 2 - Woff] );
5847 : };
5848 : {
5849 2456056210 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] );
5850 2456056210 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 * 2 - Woff] );
5851 : };
5852 : {
5853 2456056210 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] );
5854 2456056210 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 * 2 - Woff] );
5855 : };
5856 : {
5857 2456056210 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] );
5858 2456056210 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 * 2 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 * 2 - Woff] );
5859 : };
5860 : }
5861 :
5862 2577358065 : t00 = ( x00 + x08 );
5863 2577358065 : t02 = ( x00 - x08 );
5864 2577358065 : t01 = ( x01 + x09 );
5865 2577358065 : t03 = ( x01 - x09 );
5866 2577358065 : t04 = ( x02 + x10 );
5867 2577358065 : t06 = ( x02 - x10 );
5868 2577358065 : t05 = ( x03 + x11 );
5869 2577358065 : t07 = ( x03 - x11 );
5870 2577358065 : t08 = ( x04 + x12 );
5871 2577358065 : t10 = ( x04 - x12 );
5872 2577358065 : t09 = ( x05 + x13 );
5873 2577358065 : t11 = ( x05 - x13 );
5874 2577358065 : t12 = ( x06 + x14 );
5875 2577358065 : t14 = ( x06 - x14 );
5876 2577358065 : t13 = ( x07 + x15 );
5877 2577358065 : t15 = ( x07 - x15 );
5878 :
5879 2577358065 : s00 = ( t00 + t08 );
5880 2577358065 : s04 = ( t00 - t08 );
5881 2577358065 : s01 = ( t01 + t09 );
5882 2577358065 : s05 = ( t01 - t09 );
5883 2577358065 : s08 = ( t02 - t11 );
5884 2577358065 : s10 = ( t02 + t11 );
5885 2577358065 : s09 = ( t03 + t10 );
5886 2577358065 : s11 = ( t03 - t10 );
5887 2577358065 : s02 = ( t04 + t12 );
5888 2577358065 : s07 = ( t04 - t12 );
5889 2577358065 : s03 = ( t05 + t13 );
5890 2577358065 : s06 = ( t13 - t05 );
5891 :
5892 2577358065 : t01 = ( t06 + t14 );
5893 2577358065 : t02 = ( t06 - t14 );
5894 2577358065 : t00 = ( t07 + t15 );
5895 2577358065 : t03 = ( t07 - t15 );
5896 :
5897 2577358065 : s12 = ( ( t00 + t02 ) * FFT_C81 );
5898 2577358065 : s14 = ( ( t00 - t02 ) * FFT_C81 );
5899 2577358065 : s13 = ( ( t03 - t01 ) * FFT_C81 );
5900 2577358065 : s15 = ( ( t01 + t03 ) * FFT_C82 );
5901 :
5902 2577358065 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
5903 2577358065 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
5904 2577358065 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
5905 2577358065 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
5906 2577358065 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
5907 2577358065 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
5908 2577358065 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
5909 2577358065 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
5910 2577358065 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
5911 2577358065 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
5912 2577358065 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
5913 2577358065 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
5914 2577358065 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
5915 2577358065 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
5916 2577358065 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
5917 2577358065 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
5918 : }
5919 : }
5920 : else
5921 : {
5922 185938088 : for ( i = 0; i < dim1; i++ )
5923 : {
5924 : {
5925 178474816 : x00 = x[2 * i + 2 * 0 * dim1];
5926 178474816 : x01 = x[2 * i + 2 * 0 * dim1 + 1];
5927 : };
5928 178474816 : if ( i == 0 )
5929 : {
5930 : {
5931 7463272 : x02 = x[2 * i + 2 * 1 * dim1];
5932 7463272 : x03 = x[2 * i + 2 * 1 * dim1 + 1];
5933 : };
5934 : {
5935 7463272 : x04 = x[2 * i + 2 * 2 * dim1];
5936 7463272 : x05 = x[2 * i + 2 * 2 * dim1 + 1];
5937 : };
5938 : {
5939 7463272 : x06 = x[2 * i + 2 * 3 * dim1];
5940 7463272 : x07 = x[2 * i + 2 * 3 * dim1 + 1];
5941 : };
5942 : {
5943 7463272 : x08 = x[2 * i + 2 * 4 * dim1];
5944 7463272 : x09 = x[2 * i + 2 * 4 * dim1 + 1];
5945 : };
5946 : {
5947 7463272 : x10 = x[2 * i + 2 * 5 * dim1];
5948 7463272 : x11 = x[2 * i + 2 * 5 * dim1 + 1];
5949 : };
5950 : {
5951 7463272 : x12 = x[2 * i + 2 * 6 * dim1];
5952 7463272 : x13 = x[2 * i + 2 * 6 * dim1 + 1];
5953 : };
5954 : {
5955 7463272 : x14 = x[2 * i + 2 * 7 * dim1];
5956 7463272 : x15 = x[2 * i + 2 * 7 * dim1 + 1];
5957 : };
5958 : }
5959 : else
5960 : {
5961 : {
5962 171011544 : x02 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 - Woff] ) - ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] );
5963 171011544 : x03 = ( x[2 * i + 2 * 1 * dim1] * W[sc * i + sc * 1 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 1 * dim1 + 1] * W[sc * i + sc * 1 * dim1 - Woff] );
5964 : };
5965 : {
5966 171011544 : x04 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 - Woff] ) - ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] );
5967 171011544 : x05 = ( x[2 * i + 2 * 2 * dim1] * W[sc * i + sc * 2 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 2 * dim1 + 1] * W[sc * i + sc * 2 * dim1 - Woff] );
5968 : };
5969 : {
5970 171011544 : x06 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 - Woff] ) - ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] );
5971 171011544 : x07 = ( x[2 * i + 2 * 3 * dim1] * W[sc * i + sc * 3 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 3 * dim1 + 1] * W[sc * i + sc * 3 * dim1 - Woff] );
5972 : };
5973 : {
5974 171011544 : x08 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 - Woff] ) - ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] );
5975 171011544 : x09 = ( x[2 * i + 2 * 4 * dim1] * W[sc * i + sc * 4 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 4 * dim1 + 1] * W[sc * i + sc * 4 * dim1 - Woff] );
5976 : };
5977 : {
5978 171011544 : x10 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 - Woff] ) - ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] );
5979 171011544 : x11 = ( x[2 * i + 2 * 5 * dim1] * W[sc * i + sc * 5 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 5 * dim1 + 1] * W[sc * i + sc * 5 * dim1 - Woff] );
5980 : };
5981 : {
5982 171011544 : x12 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 - Woff] ) - ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] );
5983 171011544 : x13 = ( x[2 * i + 2 * 6 * dim1] * W[sc * i + sc * 6 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 6 * dim1 + 1] * W[sc * i + sc * 6 * dim1 - Woff] );
5984 : };
5985 : {
5986 171011544 : x14 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 - Woff] ) - ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] );
5987 171011544 : x15 = ( x[2 * i + 2 * 7 * dim1] * W[sc * i + sc * 7 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * 7 * dim1 + 1] * W[sc * i + sc * 7 * dim1 - Woff] );
5988 : };
5989 : }
5990 :
5991 178474816 : t00 = ( x00 + x08 );
5992 178474816 : t02 = ( x00 - x08 );
5993 178474816 : t01 = ( x01 + x09 );
5994 178474816 : t03 = ( x01 - x09 );
5995 178474816 : t04 = ( x02 + x10 );
5996 178474816 : t06 = ( x02 - x10 );
5997 178474816 : t05 = ( x03 + x11 );
5998 178474816 : t07 = ( x03 - x11 );
5999 178474816 : t08 = ( x04 + x12 );
6000 178474816 : t10 = ( x04 - x12 );
6001 178474816 : t09 = ( x05 + x13 );
6002 178474816 : t11 = ( x05 - x13 );
6003 178474816 : t12 = ( x06 + x14 );
6004 178474816 : t14 = ( x06 - x14 );
6005 178474816 : t13 = ( x07 + x15 );
6006 178474816 : t15 = ( x07 - x15 );
6007 :
6008 178474816 : s00 = ( t00 + t08 );
6009 178474816 : s04 = ( t00 - t08 );
6010 178474816 : s01 = ( t01 + t09 );
6011 178474816 : s05 = ( t01 - t09 );
6012 178474816 : s08 = ( t02 - t11 );
6013 178474816 : s10 = ( t02 + t11 );
6014 178474816 : s09 = ( t03 + t10 );
6015 178474816 : s11 = ( t03 - t10 );
6016 178474816 : s02 = ( t04 + t12 );
6017 178474816 : s07 = ( t04 - t12 );
6018 178474816 : s03 = ( t05 + t13 );
6019 178474816 : s06 = ( t13 - t05 );
6020 :
6021 178474816 : t01 = ( t06 + t14 );
6022 178474816 : t02 = ( t06 - t14 );
6023 178474816 : t00 = ( t07 + t15 );
6024 178474816 : t03 = ( t07 - t15 );
6025 :
6026 178474816 : s12 = ( ( t00 + t02 ) * FFT_C81 );
6027 178474816 : s14 = ( ( t00 - t02 ) * FFT_C81 );
6028 178474816 : s13 = ( ( t03 - t01 ) * FFT_C81 );
6029 178474816 : s15 = ( ( t01 + t03 ) * FFT_C82 );
6030 :
6031 178474816 : re[sx * i + sx * 0 * dim1] = ( s00 + s02 );
6032 178474816 : im[sx * i + sx * 0 * dim1] = ( s01 + s03 );
6033 178474816 : re[sx * i + sx * 1 * dim1] = ( s10 + s12 );
6034 178474816 : im[sx * i + sx * 1 * dim1] = ( s11 + s13 );
6035 178474816 : re[sx * i + sx * 2 * dim1] = ( s04 - s06 );
6036 178474816 : im[sx * i + sx * 2 * dim1] = ( s05 - s07 );
6037 178474816 : re[sx * i + sx * 3 * dim1] = ( s08 + s14 );
6038 178474816 : im[sx * i + sx * 3 * dim1] = ( s09 + s15 );
6039 178474816 : re[sx * i + sx * 4 * dim1] = ( s00 - s02 );
6040 178474816 : im[sx * i + sx * 4 * dim1] = ( s01 - s03 );
6041 178474816 : re[sx * i + sx * 5 * dim1] = ( s10 - s12 );
6042 178474816 : im[sx * i + sx * 5 * dim1] = ( s11 - s13 );
6043 178474816 : re[sx * i + sx * 6 * dim1] = ( s04 + s06 );
6044 178474816 : im[sx * i + sx * 6 * dim1] = ( s05 + s07 );
6045 178474816 : re[sx * i + sx * 7 * dim1] = ( s08 - s14 );
6046 178474816 : im[sx * i + sx * 7 * dim1] = ( s09 - s15 );
6047 : }
6048 : }
6049 128765127 : break;
6050 : }
6051 :
6052 135027 : case 10:
6053 : {
6054 : float y[2 * 10];
6055 1485297 : for ( j = 0; j < dim2; j++ )
6056 : {
6057 : {
6058 1350270 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6059 1350270 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6060 : };
6061 : }
6062 135027 : fft_len10( &y[0], &y[1], 2 );
6063 1485297 : for ( j = 0; j < dim2; j++ )
6064 : {
6065 1350270 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6066 1350270 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6067 : }
6068 :
6069 2700540 : for ( i = 1; i < dim1; i++ )
6070 : {
6071 : {
6072 2565513 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6073 2565513 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6074 : }
6075 :
6076 25655130 : for ( j = 1; j < dim2; j++ )
6077 : {
6078 : {
6079 23089617 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6080 23089617 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6081 : }
6082 : }
6083 2565513 : fft_len10( &y[0], &y[1], 2 );
6084 28220643 : for ( j = 0; j < dim2; j++ )
6085 : {
6086 25655130 : re[sx * i + sx * j * dim1] = y[2 * j];
6087 25655130 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6088 : }
6089 : }
6090 135027 : break;
6091 : }
6092 :
6093 23461075 : case 16:
6094 : {
6095 : float y[2 * 16];
6096 398838275 : for ( j = 0; j < dim2; j++ )
6097 : {
6098 : {
6099 375377200 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6100 375377200 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6101 : };
6102 : }
6103 23461075 : fft_len16( &y[0], &y[1], 2 );
6104 398838275 : for ( j = 0; j < dim2; j++ )
6105 : {
6106 375377200 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6107 375377200 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6108 : }
6109 :
6110 589294840 : for ( i = 1; i < dim1; i++ )
6111 : {
6112 : {
6113 565833765 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6114 565833765 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6115 : }
6116 :
6117 9053340240 : for ( j = 1; j < dim2; j++ )
6118 : {
6119 : {
6120 8487506475 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 + 1 - Woff] );
6121 8487506475 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + sc * j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + sc * j * dim1 - Woff] );
6122 : }
6123 : }
6124 565833765 : fft_len16( &y[0], &y[1], 2 );
6125 9619174005 : for ( j = 0; j < dim2; j++ )
6126 : {
6127 9053340240 : re[sx * i + sx * j * dim1] = y[2 * j];
6128 9053340240 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6129 : }
6130 : }
6131 23461075 : break;
6132 : }
6133 :
6134 159114 : case 20:
6135 : {
6136 : float y[2 * 20];
6137 3341394 : for ( j = 0; j < dim2; j++ )
6138 : {
6139 : {
6140 3182280 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6141 3182280 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6142 : };
6143 : }
6144 159114 : fft_len20( &y[0], &y[1], 2 );
6145 3341394 : for ( j = 0; j < dim2; j++ )
6146 : {
6147 3182280 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6148 3182280 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6149 : }
6150 :
6151 4305520 : for ( i = 1; i < dim1; i++ )
6152 : {
6153 : {
6154 4146406 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6155 4146406 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6156 : }
6157 : {
6158 4146406 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6159 4146406 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6160 : }
6161 :
6162 41464060 : for ( j = 2; j < dim2; j = j + 2 )
6163 : {
6164 : {
6165 37317654 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6166 37317654 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6167 : }
6168 : {
6169 37317654 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6170 37317654 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6171 : }
6172 : }
6173 4146406 : fft_len20( &y[0], &y[1], 2 );
6174 87074526 : for ( j = 0; j < dim2; j++ )
6175 : {
6176 82928120 : re[sx * i + sx * j * dim1] = y[2 * j];
6177 82928120 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6178 : }
6179 : }
6180 159114 : break;
6181 : }
6182 :
6183 2402280 : case 32:
6184 : {
6185 : float y[2 * 32];
6186 79275240 : for ( j = 0; j < dim2; j++ )
6187 : {
6188 : {
6189 76872960 : y[2 * j] = x[2 * 0 + 2 * j * dim1];
6190 76872960 : y[2 * j + 1] = x[2 * 0 + 2 * j * dim1 + 1];
6191 : };
6192 : }
6193 2402280 : fft_len32( &y[0], &y[1], 2 );
6194 79275240 : for ( j = 0; j < dim2; j++ )
6195 : {
6196 76872960 : re[sx * 0 + sx * j * dim1] = y[2 * j];
6197 76872960 : im[sx * 0 + sx * j * dim1] = y[2 * j + 1];
6198 : }
6199 :
6200 63738390 : for ( i = 1; i < dim1; i++ )
6201 : {
6202 : {
6203 61336110 : y[2 * ( 0 + 0 )] = x[2 * i + 2 * ( 0 + 0 ) * dim1];
6204 61336110 : y[2 * ( 0 + 0 ) + 1] = x[2 * i + 2 * ( 0 + 0 ) * dim1 + 1];
6205 : }
6206 : {
6207 61336110 : y[2 * ( 0 + 1 )] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 - Woff] ) - ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 + 1 - Woff] );
6208 61336110 : y[2 * ( 0 + 1 ) + 1] = ( x[2 * i + 2 * ( 0 + 1 ) * dim1] * W[len + sc * i + 0 * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( 0 + 1 ) * dim1 + 1] * W[len + sc * i + 0 * dim1 - Woff] );
6209 : }
6210 :
6211 981377760 : for ( j = 2; j < dim2; j = j + 2 )
6212 : {
6213 : {
6214 920041650 : y[2 * ( j + 0 )] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 + 1 - Woff] );
6215 920041650 : y[2 * ( j + 0 ) + 1] = ( x[2 * i + 2 * ( j + 0 ) * dim1] * W[sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 0 ) * dim1 + 1] * W[sc * i + j * dim1 - Woff] );
6216 : }
6217 : {
6218 920041650 : y[2 * ( j + 1 )] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 - Woff] ) - ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 + 1 - Woff] );
6219 920041650 : y[2 * ( j + 1 ) + 1] = ( x[2 * i + 2 * ( j + 1 ) * dim1] * W[len + sc * i + j * dim1 + 1 - Woff] ) + ( x[2 * i + 2 * ( j + 1 ) * dim1 + 1] * W[len + sc * i + j * dim1 - Woff] );
6220 : }
6221 : }
6222 61336110 : fft_len32( &y[0], &y[1], 2 );
6223 2024091630 : for ( j = 0; j < dim2; j++ )
6224 : {
6225 1962755520 : re[sx * i + sx * j * dim1] = y[2 * j];
6226 1962755520 : im[sx * i + sx * j * dim1] = y[2 * j + 1];
6227 : }
6228 : }
6229 2402280 : break;
6230 : }
6231 : }
6232 :
6233 154922623 : return;
6234 : }
6235 :
6236 :
6237 : /*-----------------------------------------------------------------*
6238 : * fft()
6239 : *
6240 : * Complex-value FFT
6241 : *-----------------------------------------------------------------*/
6242 :
6243 154922623 : void fft(
6244 : float *re, /* i/o: real part */
6245 : float *im, /* i/o: imag part */
6246 : const int16_t length, /* i : length of fft */
6247 : const int16_t s /* i : sign */
6248 : )
6249 : {
6250 154922623 : switch ( length )
6251 : {
6252 0 : case 20:
6253 0 : fft_len20( re, im, s );
6254 0 : break;
6255 522102 : case 40:
6256 522102 : fft_lenN( re, im, FFT_RotVector_640, 640, 5, 8, s, 8, 40 );
6257 522102 : break;
6258 278638 : case 64:
6259 278638 : fft_lenN( re, im, FFT_RotVector_256, 256, 8, 8, s, 8, 64 );
6260 278638 : break;
6261 30311863 : case 80:
6262 30311863 : fft_lenN( re, im, FFT_RotVector_640, 640, 10, 8, s, 4, 40 );
6263 30311863 : break;
6264 0 : case 100:
6265 0 : fft_lenN( re, im, FFT_RotVector_400, 400, 10, 10, s, 4, 40 );
6266 0 : break;
6267 1892785 : case 120:
6268 1892785 : fft_lenN( re, im, FFT_RotVector_960, 960, 15, 8, s, 4, 60 );
6269 1892785 : break;
6270 3353911 : case 128:
6271 3353911 : fft_lenN( re, im, FFT_RotVector_256, 256, 16, 8, s, 4, 64 );
6272 3353911 : break;
6273 41401600 : case 160:
6274 41401600 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 8, s, 2, 40 );
6275 41401600 : break;
6276 135027 : case 200:
6277 135027 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 10, s, 2, 40 );
6278 135027 : break;
6279 47173505 : case 240:
6280 47173505 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 8, s, 2, 60 );
6281 47173505 : break;
6282 3830723 : case 256:
6283 3830723 : fft_lenN( re, im, FFT_RotVector_256, 256, 32, 8, s, 2, 64 );
6284 3830723 : break;
6285 11453741 : case 320:
6286 11453741 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 16, s, 2, 40 );
6287 11453741 : break;
6288 46790 : case 400:
6289 46790 : fft_lenN( re, im, FFT_RotVector_400, 400, 20, 20, s, 2, 40 );
6290 46790 : break;
6291 12007334 : case 480:
6292 12007334 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 16, s, 2, 60 );
6293 12007334 : break;
6294 112324 : case 600:
6295 112324 : fft_lenN( re, im, FFT_RotVector_600, 600, 30, 20, s, 2, 60 );
6296 112324 : break;
6297 833001 : case 640:
6298 833001 : fft_lenN( re, im, FFT_RotVector_640, 640, 20, 32, s, 2, 40 );
6299 833001 : break;
6300 1569279 : case 960:
6301 1569279 : fft_lenN( re, im, FFT_RotVector_960, 960, 30, 32, s, 2, 60 );
6302 1569279 : break;
6303 0 : default:
6304 0 : assert( !"fft length is not supported!" );
6305 : }
6306 :
6307 154922623 : return;
6308 : }
6309 :
6310 :
6311 : /*-----------------------------------------------------------------*
6312 : * rfft()
6313 : *
6314 : * Real-value FFT
6315 : *-----------------------------------------------------------------*/
6316 :
6317 5241802 : void rfft(
6318 : float *x, /* i/o: values */
6319 : const float *w, /* i : window */
6320 : const int16_t length, /* i : length of fft */
6321 : const int16_t isign /* i : sign */
6322 : )
6323 : {
6324 : int16_t i, sizeOfFft2, sizeOfFft4;
6325 : float tmp, t1, t2, t3, t4, s1, s2;
6326 :
6327 5241802 : sizeOfFft2 = length >> 1;
6328 5241802 : sizeOfFft4 = length >> 2;
6329 5241802 : s1 = 1.f / (float) sizeOfFft2;
6330 5241802 : s2 = -1.f / (float) sizeOfFft2;
6331 :
6332 5241802 : switch ( isign )
6333 : {
6334 :
6335 2618227 : case -1:
6336 :
6337 2618227 : fft( x, x + 1, sizeOfFft2, 2 );
6338 :
6339 2618227 : tmp = x[0] + x[1];
6340 2618227 : x[1] = x[0] - x[1];
6341 2618227 : x[0] = tmp;
6342 :
6343 373161747 : for ( i = 1; i <= sizeOfFft4; i++ )
6344 : {
6345 370543520 : t1 = x[2 * i] - x[length - 2 * i];
6346 370543520 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6347 370543520 : t3 = w[i] * t1 - w[i + sizeOfFft4] * t2;
6348 370543520 : t4 = w[i + sizeOfFft4] * t1 + w[i] * t2;
6349 370543520 : t1 = x[2 * i] + x[length - 2 * i];
6350 370543520 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6351 :
6352 370543520 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6353 370543520 : x[2 * i + 1] = ( t2 - t4 ) * 0.5f;
6354 370543520 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6355 370543520 : x[length - 2 * i + 1] = -( t2 + t4 ) * 0.5f;
6356 : }
6357 :
6358 2618227 : break;
6359 :
6360 2623575 : case +1:
6361 :
6362 2623575 : tmp = ( x[0] + x[1] ) * 0.5f;
6363 2623575 : x[1] = ( x[1] - x[0] ) * 0.5f;
6364 2623575 : x[0] = tmp;
6365 :
6366 490641415 : for ( i = 1; i <= sizeOfFft4; i++ )
6367 : {
6368 488017840 : t1 = x[2 * i] - x[length - 2 * i];
6369 488017840 : t2 = x[2 * i + 1] + x[length - 2 * i + 1];
6370 488017840 : t3 = w[i] * t1 + w[i + sizeOfFft4] * t2;
6371 488017840 : t4 = -w[i + sizeOfFft4] * t1 + w[i] * t2;
6372 488017840 : t1 = x[2 * i] + x[length - 2 * i];
6373 488017840 : t2 = x[2 * i + 1] - x[length - 2 * i + 1];
6374 :
6375 488017840 : x[2 * i] = ( t1 - t3 ) * 0.5f;
6376 488017840 : x[2 * i + 1] = ( t4 - t2 ) * 0.5f;
6377 488017840 : x[length - 2 * i] = ( t1 + t3 ) * 0.5f;
6378 488017840 : x[length - 2 * i + 1] = ( t2 + t4 ) * 0.5f;
6379 : }
6380 :
6381 2623575 : fft( x, x + 1, sizeOfFft2, 2 );
6382 :
6383 978659255 : for ( i = 0; i < length; i += 2 )
6384 : {
6385 976035680 : x[i] *= s1;
6386 976035680 : x[i + 1] *= s2;
6387 : }
6388 :
6389 2623575 : break;
6390 : }
6391 :
6392 5241802 : return;
6393 : }
6394 :
6395 :
6396 : #define WMC_TOOL_SKIP
6397 :
6398 : #define SCALEFACTOR8 ( 4 )
6399 : #define SCALEFACTOR64 ( 7 )
6400 : #define SCALEFACTORN2 ( 3 )
6401 :
6402 : #define SHC( x ) ( (Word16) x )
6403 : #define FFTC( x ) WORD322WORD16( (Word32) x )
6404 :
6405 : #define C81_FX ( FFTC( 0x5a82799a ) ) /* FL2WORD32( 7.071067811865475e-1) */
6406 : #define C82_FX ( FFTC( 0xa57d8666 ) ) /* FL2WORD32(-7.071067811865475e-1) */
6407 :
6408 : #define cplxMpy4_8_0( re, im, a, b, c, d ) \
6409 : re = L_shr( L_sub( Mpy_32_16( a, c ), Mpy_32_16( b, d ) ), 1 ); \
6410 : im = L_shr( L_add( Mpy_32_16( a, d ), Mpy_32_16( b, c ) ), 1 );
6411 :
6412 : #define cplxMpy4_8_1( re, im, a, b ) \
6413 : re = L_shr( a, 1 ); \
6414 : im = L_shr( b, 1 );
6415 :
6416 :
6417 : /**
6418 : * \brief Twiddle factors are unscaled
6419 : */
6420 : static const Word16 RotVector_256[2 * ( 256 - 32 )] = {
6421 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7ff6 ), SHC( 0xfcdc ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7fa7 ), SHC( 0xf695 ),
6422 : SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7e1e ), SHC( 0xea1e ),
6423 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7b5d ), SHC( 0xdddc ),
6424 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x798a ), SHC( 0xd7d9 ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x776c ), SHC( 0xd1ef ),
6425 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x7505 ), SHC( 0xcc21 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x7255 ), SHC( 0xc673 ),
6426 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6f5f ), SHC( 0xc0e9 ), SHC( 0x6dca ), SHC( 0xbe32 ), SHC( 0x6c24 ), SHC( 0xbb85 ),
6427 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x64e9 ), SHC( 0xb140 ),
6428 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x60ec ), SHC( 0xac65 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5cb4 ), SHC( 0xa7bd ),
6429 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fd9 ), SHC( 0xf9b8 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7e9d ), SHC( 0xed38 ),
6430 : SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x7885 ), SHC( 0xd4e1 ),
6431 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6dca ), SHC( 0xbe32 ),
6432 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x66d0 ), SHC( 0xb3c0 ), SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x5ed7 ), SHC( 0xaa0a ),
6433 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x55f6 ), SHC( 0xa129 ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x4c40 ), SHC( 0x9930 ),
6434 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x3c57 ), SHC( 0x8f1d ), SHC( 0x36ba ), SHC( 0x8c4a ),
6435 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x1f1a ), SHC( 0x83d6 ),
6436 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x12c8 ), SHC( 0x8163 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0648 ), SHC( 0x8027 ),
6437 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7fa7 ), SHC( 0xf695 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7ce4 ), SHC( 0xe3f4 ),
6438 : SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x776c ), SHC( 0xd1ef ), SHC( 0x73b6 ), SHC( 0xc946 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6439 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x64e9 ), SHC( 0xb140 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5843 ), SHC( 0xa34c ),
6440 : SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x49b4 ), SHC( 0x9759 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x398d ), SHC( 0x8dab ),
6441 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2827 ), SHC( 0x8676 ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x15e2 ), SHC( 0x81e2 ),
6442 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xf9b8 ), SHC( 0x8027 ), SHC( 0xf055 ), SHC( 0x80f6 ),
6443 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdddc ), SHC( 0x84a3 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xcc21 ), SHC( 0x8afb ),
6444 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xbb85 ), SHC( 0x93dc ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xac65 ), SHC( 0x9f14 ),
6445 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f62 ), SHC( 0xf374 ), SHC( 0x7d8a ), SHC( 0xe707 ), SHC( 0x7a7d ), SHC( 0xdad8 ),
6446 : SHC( 0x7642 ), SHC( 0xcf04 ), SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x62f2 ), SHC( 0xaecc ),
6447 : SHC( 0x5a82 ), SHC( 0xa57e ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x3c57 ), SHC( 0x8f1d ),
6448 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x2528 ), SHC( 0x8583 ), SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0c8c ), SHC( 0x809e ),
6449 : SHC( 0x0000 ), SHC( 0x8000 ), SHC( 0xf374 ), SHC( 0x809e ), SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xdad8 ), SHC( 0x8583 ),
6450 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb8e3 ), SHC( 0x9592 ), SHC( 0xaecc ), SHC( 0x9d0e ),
6451 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x9592 ), SHC( 0xb8e3 ), SHC( 0x8f1d ), SHC( 0xc3a9 ),
6452 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x8583 ), SHC( 0xdad8 ), SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x809e ), SHC( 0xf374 ),
6453 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7f0a ), SHC( 0xf055 ), SHC( 0x7c2a ), SHC( 0xe0e6 ), SHC( 0x776c ), SHC( 0xd1ef ),
6454 : SHC( 0x70e3 ), SHC( 0xc3a9 ), SHC( 0x68a7 ), SHC( 0xb64c ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x539b ), SHC( 0x9f14 ),
6455 : SHC( 0x471d ), SHC( 0x9592 ), SHC( 0x398d ), SHC( 0x8dab ), SHC( 0x2b1f ), SHC( 0x877b ), SHC( 0x1c0c ), SHC( 0x831c ),
6456 : SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xfcdc ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xdddc ), SHC( 0x84a3 ),
6457 : SHC( 0xcf04 ), SHC( 0x89be ), SHC( 0xc0e9 ), SHC( 0x90a1 ), SHC( 0xb3c0 ), SHC( 0x9930 ), SHC( 0xa7bd ), SHC( 0xa34c ),
6458 : SHC( 0x9d0e ), SHC( 0xaecc ), SHC( 0x93dc ), SHC( 0xbb85 ), SHC( 0x8c4a ), SHC( 0xc946 ), SHC( 0x8676 ), SHC( 0xd7d9 ),
6459 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8059 ), SHC( 0xf695 ), SHC( 0x8027 ), SHC( 0x0648 ), SHC( 0x81e2 ), SHC( 0x15e2 ),
6460 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8afb ), SHC( 0x33df ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9b17 ), SHC( 0x4ec0 ),
6461 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e9d ), SHC( 0xed38 ), SHC( 0x7a7d ), SHC( 0xdad8 ), SHC( 0x73b6 ), SHC( 0xc946 ),
6462 : SHC( 0x6a6e ), SHC( 0xb8e3 ), SHC( 0x5ed7 ), SHC( 0xaa0a ), SHC( 0x5134 ), SHC( 0x9d0e ), SHC( 0x41ce ), SHC( 0x9236 ),
6463 : SHC( 0x30fc ), SHC( 0x89be ), SHC( 0x1f1a ), SHC( 0x83d6 ), SHC( 0x0c8c ), SHC( 0x809e ), SHC( 0xf9b8 ), SHC( 0x8027 ),
6464 : SHC( 0xe707 ), SHC( 0x8276 ), SHC( 0xd4e1 ), SHC( 0x877b ), SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb3c0 ), SHC( 0x9930 ),
6465 : SHC( 0xa57e ), SHC( 0xa57e ), SHC( 0x9930 ), SHC( 0xb3c0 ), SHC( 0x8f1d ), SHC( 0xc3a9 ), SHC( 0x877b ), SHC( 0xd4e1 ),
6466 : SHC( 0x8276 ), SHC( 0xe707 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x809e ), SHC( 0x0c8c ), SHC( 0x83d6 ), SHC( 0x1f1a ),
6467 : SHC( 0x89be ), SHC( 0x30fc ), SHC( 0x9236 ), SHC( 0x41ce ), SHC( 0x9d0e ), SHC( 0x5134 ), SHC( 0xaa0a ), SHC( 0x5ed7 ),
6468 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xc946 ), SHC( 0x73b6 ), SHC( 0xdad8 ), SHC( 0x7a7d ), SHC( 0xed38 ), SHC( 0x7e9d ),
6469 : SHC( 0x7fff ), SHC( 0x0000 ), SHC( 0x7e1e ), SHC( 0xea1e ), SHC( 0x7885 ), SHC( 0xd4e1 ), SHC( 0x6f5f ), SHC( 0xc0e9 ),
6470 : SHC( 0x62f2 ), SHC( 0xaecc ), SHC( 0x539b ), SHC( 0x9f14 ), SHC( 0x41ce ), SHC( 0x9236 ), SHC( 0x2e11 ), SHC( 0x8894 ),
6471 : SHC( 0x18f9 ), SHC( 0x8276 ), SHC( 0x0324 ), SHC( 0x800a ), SHC( 0xed38 ), SHC( 0x8163 ), SHC( 0xd7d9 ), SHC( 0x8676 ),
6472 : SHC( 0xc3a9 ), SHC( 0x8f1d ), SHC( 0xb140 ), SHC( 0x9b17 ), SHC( 0xa129 ), SHC( 0xaa0a ), SHC( 0x93dc ), SHC( 0xbb85 ),
6473 : SHC( 0x89be ), SHC( 0xcf04 ), SHC( 0x831c ), SHC( 0xe3f4 ), SHC( 0x8027 ), SHC( 0xf9b8 ), SHC( 0x80f6 ), SHC( 0x0fab ),
6474 : SHC( 0x8583 ), SHC( 0x2528 ), SHC( 0x8dab ), SHC( 0x398d ), SHC( 0x9930 ), SHC( 0x4c40 ), SHC( 0xa7bd ), SHC( 0x5cb4 ),
6475 : SHC( 0xb8e3 ), SHC( 0x6a6e ), SHC( 0xcc21 ), SHC( 0x7505 ), SHC( 0xe0e6 ), SHC( 0x7c2a ), SHC( 0xf695 ), SHC( 0x7fa7 ),
6476 : SHC( 0x0c8c ), SHC( 0x7f62 ), SHC( 0x2224 ), SHC( 0x7b5d ), SHC( 0x36ba ), SHC( 0x73b6 ), SHC( 0x49b4 ), SHC( 0x68a7 )
6477 : };
6478 :
6479 : /*-----------------------------------------------------------------*
6480 : * BASOP_fft8()
6481 : *
6482 : * Function performs a complex 8-point FFT
6483 : * The FFT is performed inplace. The result of the FFT
6484 : * is scaled by SCALEFACTOR8 bits.
6485 : *
6486 : * WOPS with 32x16 bit multiplications: 108 cycles
6487 : *-----------------------------------------------------------------*/
6488 :
6489 3655504 : static void BASOP_fft8(
6490 : Word32 *re,
6491 : Word32 *im,
6492 : Word16 s )
6493 : {
6494 : Word32 x00, x01, x02, x03, x04, x05, x06, x07;
6495 : Word32 x08, x09, x10, x11, x12, x13, x14, x15;
6496 : Word32 t00, t01, t02, t03, t04, t05, t06, t07;
6497 : Word32 t08, t09, t10, t11, t12, t13, t14, t15;
6498 : Word32 s00, s01, s02, s03, s04, s05, s06, s07;
6499 : Word32 s08, s09, s10, s11, s12, s13, s14, s15;
6500 :
6501 :
6502 : /* Pre-additions */
6503 :
6504 3655504 : x00 = L_shr( re[s * 0], SCALEFACTOR8 );
6505 3655504 : x01 = L_shr( im[s * 0], SCALEFACTOR8 );
6506 3655504 : x02 = L_shr( re[s * 1], SCALEFACTOR8 );
6507 3655504 : x03 = L_shr( im[s * 1], SCALEFACTOR8 );
6508 3655504 : x04 = L_shr( re[s * 2], SCALEFACTOR8 );
6509 3655504 : x05 = L_shr( im[s * 2], SCALEFACTOR8 );
6510 3655504 : x06 = L_shr( re[s * 3], SCALEFACTOR8 );
6511 3655504 : x07 = L_shr( im[s * 3], SCALEFACTOR8 );
6512 3655504 : x08 = L_shr( re[s * 4], SCALEFACTOR8 );
6513 3655504 : x09 = L_shr( im[s * 4], SCALEFACTOR8 );
6514 3655504 : x10 = L_shr( re[s * 5], SCALEFACTOR8 );
6515 3655504 : x11 = L_shr( im[s * 5], SCALEFACTOR8 );
6516 3655504 : x12 = L_shr( re[s * 6], SCALEFACTOR8 );
6517 3655504 : x13 = L_shr( im[s * 6], SCALEFACTOR8 );
6518 3655504 : x14 = L_shr( re[s * 7], SCALEFACTOR8 );
6519 3655504 : x15 = L_shr( im[s * 7], SCALEFACTOR8 );
6520 :
6521 3655504 : t00 = L_add( x00, x08 );
6522 3655504 : t02 = L_sub( x00, x08 );
6523 3655504 : t01 = L_add( x01, x09 );
6524 3655504 : t03 = L_sub( x01, x09 );
6525 3655504 : t04 = L_add( x02, x10 );
6526 3655504 : t06 = L_sub( x02, x10 );
6527 3655504 : t05 = L_add( x03, x11 );
6528 3655504 : t07 = L_sub( x03, x11 );
6529 3655504 : t08 = L_add( x04, x12 );
6530 3655504 : t10 = L_sub( x04, x12 );
6531 3655504 : t09 = L_add( x05, x13 );
6532 3655504 : t11 = L_sub( x05, x13 );
6533 3655504 : t12 = L_add( x06, x14 );
6534 3655504 : t14 = L_sub( x06, x14 );
6535 3655504 : t13 = L_add( x07, x15 );
6536 3655504 : t15 = L_sub( x07, x15 );
6537 :
6538 : /* Pre-additions and core multiplications */
6539 :
6540 3655504 : s00 = L_add( t00, t08 );
6541 3655504 : s04 = L_sub( t00, t08 );
6542 3655504 : s01 = L_add( t01, t09 );
6543 3655504 : s05 = L_sub( t01, t09 );
6544 3655504 : s08 = L_sub( t02, t11 );
6545 3655504 : s10 = L_add( t02, t11 );
6546 3655504 : s09 = L_add( t03, t10 );
6547 3655504 : s11 = L_sub( t03, t10 );
6548 3655504 : s02 = L_add( t04, t12 );
6549 3655504 : s07 = L_sub( t04, t12 );
6550 3655504 : s03 = L_add( t05, t13 );
6551 3655504 : s06 = L_sub( t13, t05 );
6552 :
6553 3655504 : t01 = L_add( t06, t14 );
6554 3655504 : t02 = L_sub( t06, t14 );
6555 3655504 : t00 = L_add( t07, t15 );
6556 3655504 : t03 = L_sub( t07, t15 );
6557 :
6558 3655504 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6559 3655504 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6560 3655504 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6561 3655504 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6562 :
6563 : /* Post-additions */
6564 :
6565 3655504 : re[s * 0] = L_add( s00, s02 );
6566 3655504 : move32();
6567 3655504 : re[s * 4] = L_sub( s00, s02 );
6568 3655504 : move32();
6569 3655504 : im[s * 0] = L_add( s01, s03 );
6570 3655504 : move32();
6571 3655504 : im[s * 4] = L_sub( s01, s03 );
6572 3655504 : move32();
6573 3655504 : re[s * 2] = L_sub( s04, s06 );
6574 3655504 : move32();
6575 3655504 : re[s * 6] = L_add( s04, s06 );
6576 3655504 : move32();
6577 3655504 : im[s * 2] = L_sub( s05, s07 );
6578 3655504 : move32();
6579 3655504 : im[s * 6] = L_add( s05, s07 );
6580 3655504 : move32();
6581 3655504 : re[s * 3] = L_add( s08, s14 );
6582 3655504 : move32();
6583 3655504 : re[s * 7] = L_sub( s08, s14 );
6584 3655504 : move32();
6585 3655504 : im[s * 3] = L_add( s09, s15 );
6586 3655504 : move32();
6587 3655504 : im[s * 7] = L_sub( s09, s15 );
6588 3655504 : move32();
6589 3655504 : re[s * 1] = L_add( s10, s12 );
6590 3655504 : move32();
6591 3655504 : re[s * 5] = L_sub( s10, s12 );
6592 3655504 : move32();
6593 3655504 : im[s * 1] = L_add( s11, s13 );
6594 3655504 : move32();
6595 3655504 : im[s * 5] = L_sub( s11, s13 );
6596 3655504 : move32();
6597 :
6598 3655504 : return;
6599 : }
6600 :
6601 :
6602 : /*-----------------------------------------------------------------*
6603 : * fftN2()
6604 : *
6605 : * Combined FFT
6606 : *-----------------------------------------------------------------*/
6607 :
6608 456938 : static void BASOP_fftN2(
6609 : Word32 *re, /* i/o: real part */
6610 : Word32 *im, /* i/o: imag part */
6611 : const Word16 *W, /* i : rotation factor */
6612 : Word16 dim1, /* i : length of fft1 */
6613 : Word16 dim2, /* i : length of fft2 */
6614 : Word16 sx, /* i : stride real and imag part */
6615 : Word16 sc, /* i : stride phase rotation coefficients */
6616 : Word32 *x, /* tmp: 32-bit workbuffer */
6617 : Word16 Woff /* i : offset for addressing the rotation vector table */
6618 : )
6619 : {
6620 : Word16 i, j;
6621 : Word32 x00, x01, x02, x03, x04, x05, x06, x07, x08, x09, x10, x11, x12, x13, x14, x15;
6622 : Word32 t00, t01, t02, t03, t04, t05, t06, t07, t08, t09, t10, t11, t12, t13, t14, t15;
6623 : Word32 s00, s01, s02, s03, s04, s05, s06, s07, s08, s09, s10, s11, s12, s13, s14, s15;
6624 :
6625 4112442 : FOR( i = 0; i < dim2; i++ )
6626 : {
6627 32899536 : FOR( j = 0; j < dim1; j++ )
6628 : {
6629 29244032 : x[2 * i * dim1 + 2 * j] = re[sx * i + sx * j * dim2];
6630 29244032 : move32();
6631 29244032 : x[2 * i * dim1 + 2 * j + 1] = im[sx * i + sx * j * dim2];
6632 29244032 : move32();
6633 : }
6634 : }
6635 :
6636 : /* dim1 == 8 */
6637 4112442 : FOR( i = 0; i < dim2; i++ )
6638 : {
6639 3655504 : BASOP_fft8( &x[i * 2 * dim1], &x[i * 2 * dim1 + 1], 2 );
6640 : }
6641 :
6642 : /* dim2 == 8 */
6643 4112442 : FOR( i = 0; i < dim1; i++ )
6644 : {
6645 3655504 : cplxMpy4_8_1( x00, x01, x[2 * i + 2 * 0 * dim1], x[2 * i + 2 * 0 * dim1 + 1] );
6646 :
6647 3655504 : IF( i == 0 )
6648 : {
6649 456938 : cplxMpy4_8_1( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1] );
6650 456938 : cplxMpy4_8_1( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1] );
6651 456938 : cplxMpy4_8_1( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1] );
6652 456938 : cplxMpy4_8_1( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1] );
6653 456938 : cplxMpy4_8_1( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1] );
6654 456938 : cplxMpy4_8_1( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1] );
6655 456938 : cplxMpy4_8_1( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1] );
6656 : }
6657 : ELSE
6658 : {
6659 3198566 : cplxMpy4_8_0( x02, x03, x[2 * i + 2 * 1 * dim1], x[2 * i + 2 * 1 * dim1 + 1], W[sc * i + sc * 1 * dim1 - Woff], W[sc * i + sc * 1 * dim1 + 1 - Woff] );
6660 3198566 : cplxMpy4_8_0( x04, x05, x[2 * i + 2 * 2 * dim1], x[2 * i + 2 * 2 * dim1 + 1], W[sc * i + sc * 2 * dim1 - Woff], W[sc * i + sc * 2 * dim1 + 1 - Woff] );
6661 3198566 : cplxMpy4_8_0( x06, x07, x[2 * i + 2 * 3 * dim1], x[2 * i + 2 * 3 * dim1 + 1], W[sc * i + sc * 3 * dim1 - Woff], W[sc * i + sc * 3 * dim1 + 1 - Woff] );
6662 3198566 : cplxMpy4_8_0( x08, x09, x[2 * i + 2 * 4 * dim1], x[2 * i + 2 * 4 * dim1 + 1], W[sc * i + sc * 4 * dim1 - Woff], W[sc * i + sc * 4 * dim1 + 1 - Woff] );
6663 3198566 : cplxMpy4_8_0( x10, x11, x[2 * i + 2 * 5 * dim1], x[2 * i + 2 * 5 * dim1 + 1], W[sc * i + sc * 5 * dim1 - Woff], W[sc * i + sc * 5 * dim1 + 1 - Woff] );
6664 3198566 : cplxMpy4_8_0( x12, x13, x[2 * i + 2 * 6 * dim1], x[2 * i + 2 * 6 * dim1 + 1], W[sc * i + sc * 6 * dim1 - Woff], W[sc * i + sc * 6 * dim1 + 1 - Woff] );
6665 3198566 : cplxMpy4_8_0( x14, x15, x[2 * i + 2 * 7 * dim1], x[2 * i + 2 * 7 * dim1 + 1], W[sc * i + sc * 7 * dim1 - Woff], W[sc * i + sc * 7 * dim1 + 1 - Woff] );
6666 : }
6667 3655504 : t00 = L_shr( L_add( x00, x08 ), SCALEFACTORN2 - 1 );
6668 3655504 : t02 = L_shr( L_sub( x00, x08 ), SCALEFACTORN2 - 1 );
6669 3655504 : t01 = L_shr( L_add( x01, x09 ), SCALEFACTORN2 - 1 );
6670 3655504 : t03 = L_shr( L_sub( x01, x09 ), SCALEFACTORN2 - 1 );
6671 3655504 : t04 = L_shr( L_add( x02, x10 ), SCALEFACTORN2 - 1 );
6672 3655504 : t06 = L_sub( x02, x10 );
6673 3655504 : t05 = L_shr( L_add( x03, x11 ), SCALEFACTORN2 - 1 );
6674 3655504 : t07 = L_sub( x03, x11 );
6675 3655504 : t08 = L_shr( L_add( x04, x12 ), SCALEFACTORN2 - 1 );
6676 3655504 : t10 = L_shr( L_sub( x04, x12 ), SCALEFACTORN2 - 1 );
6677 3655504 : t09 = L_shr( L_add( x05, x13 ), SCALEFACTORN2 - 1 );
6678 3655504 : t11 = L_shr( L_sub( x05, x13 ), SCALEFACTORN2 - 1 );
6679 3655504 : t12 = L_shr( L_add( x06, x14 ), SCALEFACTORN2 - 1 );
6680 3655504 : t14 = L_sub( x06, x14 );
6681 3655504 : t13 = L_shr( L_add( x07, x15 ), SCALEFACTORN2 - 1 );
6682 3655504 : t15 = L_sub( x07, x15 );
6683 :
6684 3655504 : s00 = L_add( t00, t08 );
6685 3655504 : s04 = L_sub( t00, t08 );
6686 3655504 : s01 = L_add( t01, t09 );
6687 3655504 : s05 = L_sub( t01, t09 );
6688 3655504 : s08 = L_sub( t02, t11 );
6689 3655504 : s10 = L_add( t02, t11 );
6690 3655504 : s09 = L_add( t03, t10 );
6691 3655504 : s11 = L_sub( t03, t10 );
6692 3655504 : s02 = L_add( t04, t12 );
6693 3655504 : s07 = L_sub( t04, t12 );
6694 3655504 : s03 = L_add( t05, t13 );
6695 3655504 : s06 = L_sub( t13, t05 );
6696 :
6697 3655504 : t01 = L_shr( L_add( t06, t14 ), SCALEFACTORN2 - 1 );
6698 3655504 : t02 = L_shr( L_sub( t06, t14 ), SCALEFACTORN2 - 1 );
6699 3655504 : t00 = L_shr( L_add( t07, t15 ), SCALEFACTORN2 - 1 );
6700 3655504 : t03 = L_shr( L_sub( t07, t15 ), SCALEFACTORN2 - 1 );
6701 :
6702 3655504 : s12 = Mpy_32_16( L_add( t00, t02 ), C81_FX );
6703 3655504 : s14 = Mpy_32_16( L_sub( t00, t02 ), C81_FX );
6704 3655504 : s13 = Mpy_32_16( L_sub( t03, t01 ), C81_FX );
6705 3655504 : s15 = Mpy_32_16( L_add( t01, t03 ), C82_FX );
6706 :
6707 3655504 : re[sx * i + sx * 0 * dim1] = L_add( s00, s02 );
6708 3655504 : move32();
6709 3655504 : im[sx * i + sx * 0 * dim1] = L_add( s01, s03 );
6710 3655504 : move32();
6711 3655504 : re[sx * i + sx * 1 * dim1] = L_add( s10, s12 );
6712 3655504 : move32();
6713 3655504 : im[sx * i + sx * 1 * dim1] = L_add( s11, s13 );
6714 3655504 : move32();
6715 3655504 : re[sx * i + sx * 2 * dim1] = L_sub( s04, s06 );
6716 3655504 : move32();
6717 3655504 : im[sx * i + sx * 2 * dim1] = L_sub( s05, s07 );
6718 3655504 : move32();
6719 3655504 : re[sx * i + sx * 3 * dim1] = L_add( s08, s14 );
6720 3655504 : move32();
6721 3655504 : im[sx * i + sx * 3 * dim1] = L_add( s09, s15 );
6722 3655504 : move32();
6723 3655504 : re[sx * i + sx * 4 * dim1] = L_sub( s00, s02 );
6724 3655504 : move32();
6725 3655504 : im[sx * i + sx * 4 * dim1] = L_sub( s01, s03 );
6726 3655504 : move32();
6727 3655504 : re[sx * i + sx * 5 * dim1] = L_sub( s10, s12 );
6728 3655504 : move32();
6729 3655504 : im[sx * i + sx * 5 * dim1] = L_sub( s11, s13 );
6730 3655504 : move32();
6731 3655504 : re[sx * i + sx * 6 * dim1] = L_add( s04, s06 );
6732 3655504 : move32();
6733 3655504 : im[sx * i + sx * 6 * dim1] = L_add( s05, s07 );
6734 3655504 : move32();
6735 3655504 : re[sx * i + sx * 7 * dim1] = L_sub( s08, s14 );
6736 3655504 : move32();
6737 3655504 : im[sx * i + sx * 7 * dim1] = L_sub( s09, s15 );
6738 3655504 : move32();
6739 : }
6740 :
6741 456938 : return;
6742 : }
6743 :
6744 :
6745 : /*-----------------------------------------------------------------*
6746 : * BASOP_cfft()
6747 : *
6748 : * Complex valued FFT
6749 : *-----------------------------------------------------------------*/
6750 :
6751 456938 : void BASOP_cfft(
6752 : Word32 *re, /* i/o: real part */
6753 : Word32 *im, /* i/o: imag part */
6754 : Word16 s, /* i : stride real and imag part */
6755 : Word16 *scale /* i : scalefactor */
6756 : )
6757 : {
6758 : Word32 x[2 * 64];
6759 :
6760 : /* FFT for len = FDNS_NPTS */
6761 456938 : BASOP_fftN2( re, im, RotVector_256, 8, 8, s, 8, x, 64 );
6762 456938 : s = add( *scale, SCALEFACTOR64 );
6763 :
6764 456938 : *scale = s;
6765 456938 : move16();
6766 :
6767 456938 : return;
6768 : }
6769 :
6770 : #undef WMC_TOOL_SKIP
|