Wibbles to perf tests
[ghc.git] / testsuite / tests / perf / compiler / all.T
1 def no_lint(name, opts):
2    opts.compiler_always_flags = \
3        filter(lambda opt: opt != '-dcore-lint' and opt != '-dcmm-lint', opts.compiler_always_flags)
4
5 setTestOpts(no_lint)
6
7
8 test('T1969',
9      [compiler_stats_num_field('peak_megabytes_allocated',
10           [(wordsize(32), 14, 1),
11              # 2010-05-17 14 (x86/Windows)
12              #            15 (x86/OS X)
13              #            19 (x86/OS X)
14              # 2013-02-10 13 (x86/Windows)
15              # 2013-02-10 14 (x86/OSX)
16            (wordsize(64), 27, 10)]),
17              #            28 (amd64/Linux)
18              #            34 (amd64/Linux)
19              # 2012-09-20 23 (amd64/Linux)
20              # 2012-10-03 25 (amd64/Linux if .hi exists)
21              # 2013-02-13 23, but unstable so increased to 10% range
22              # 2013-02-13 27, very unstable!
23       compiler_stats_num_field('max_bytes_used',
24           [(platform('i386-unknown-mingw32'), 5094914, 2),
25                                  # 2010-05-17 5717704 (x86/Windows)
26                                  # 2013-02-10 5159748 (x86/Windows)
27                                  # 2013-02-10 5030080 (x86/Windows)
28            (wordsize(32), 6149572, 1),
29              #            6707308 (x86/OS X)
30              # 2009-12-31 6149572 (x86/Linux)
31            (wordsize(64), 9000000, 20)]),
32                # looks like the peak is around 10M, but we're
33                # unlikely to GC exactly on the peak.
34                # varies quite a lot with CLEANUP and BINDIST,
35                # hence 10% range.
36       compiler_stats_num_field('bytes allocated',
37           [(platform('i386-unknown-mingw32'), 310633884, 1),
38                                  #            215582916 (x86/Windows)
39                                  # 2012-10-29 298921816 (x86/Windows)
40                                  # 2013-02-10 310633884 (x86/Windows)
41            (wordsize(32), 322937684, 1),
42              #            221667908 (x86/OS X)
43              #            274932264 (x86/Linux)
44              # 2012-10-08 303930948 (x86/Linux, new codegen)
45              # 2013-02-10 322937684 (x86/OSX)
46            (wordsize(64), 658786936, 5)]),
47              # 17/11/2009 434845560 (amd64/Linux)
48              # 08/12/2009 459776680 (amd64/Linux)
49              # 17/05/2010 519377728 (amd64/Linux)
50              # 05/08/2011 561382568 (amd64/OS X)
51              # 16/07/2012 589168872 (amd64/Linux)
52              # 20/07/2012 595936240 (amd64/Linux)
53              # 23/08/2012 606230880 (amd64/Linux)
54              # 29/08/2012 633334184 (amd64/Linux)
55              #            (^ new codegen)
56              # 18/09/2012 641959976 (amd64/Linux)
57              # 19/10/2012 661832592 (amd64/Linux)
58              #            (^ -fPIC turned on)
59              # 23/10/2012 642594312 (amd64/Linux)
60              #            (^ -fPIC turned off again)
61              # 12/11/2012 658786936 (amd64/Linux)
62              #            (^ UNKNOWN REASON )
63              # 17/1/13:   667160192 (x86_64/Linux)
64              #            (^ new demand analyser)
65       only_ways(['normal']),
66
67       extra_hc_opts('-dcore-lint -static')
68           # Leave -dcore-lint on for this one test, so that we have something
69           # that will catch a regression in -dcore-lint performance.
70       ],
71      compile,
72      [''])
73
74 # This one tests for the space leak in the native code generator,
75 # where it holds onto the entire asm output until the end.  The space
76 # leak reappears from time to time, so it's a good idea to have a test
77 # for it.  The residency of this test will jump by 10MB to 40MB or so
78 # on x86-64 if the space leak appears.
79
80 # Only run this one if we have an NCG:
81 if 'optasm' in config.compile_ways:
82    conf_3294 = only_ways(['normal'])
83 else:
84    conf_3294 = skip
85
86 test('T3294',
87      [
88       compiler_stats_num_field('max_bytes_used',
89           [(wordsize(32), 20712280, 1),
90              #            17725476 (x86/OS X)
91              #            14593500 (Windows)
92              # 2013-02-10 20651576 (x86/Windows)
93              # 2013-02-10 20772984 (x86/OSX)
94            (wordsize(64), 43224080, 15)]),
95         # prev:           25753192 (amd64/Linux)
96         # 29/08/2012:     37724352 (amd64/Linux)
97         #  (increase due to new codegen, see #7198)
98         # 13/13/2012:     44894544 (amd64/Linux)
99         #  (reason for increase unknown)
100         # 15/5/2013:      36904752  (amd64/Linux)
101         #  (reason for decrease unknown)
102         # 29/5/2013:      43224080  (amd64/Linux)
103         #  (reason for increase back to earlier value unknown)
104       compiler_stats_num_field('bytes allocated',
105           [(wordsize(32), 1373514844, 5),
106            # previous:     815479800  (x86/Linux)
107            # (^ increase due to new codegen, see #7198)
108            # 2012-10-08:  1373514844 (x86/Linux)
109            (wordsize(64), 2901451552, 5)]),
110             # old:        1357587088 (amd64/Linux)
111             # 29/08/2012: 2961778696 (amd64/Linux)
112             # (^ increase due to new codegen, see #7198)
113             # 18/09/2012: 2717327208 (amd64/Linux)
114             # 08/06/2013: 2901451552 (amd64/Linux)
115             # (^ reason unknown)
116       conf_3294
117       ],
118      compile,
119      [''])
120
121 test('T4801',
122      [ # expect_broken(5224),
123        # temporarily unbroken (#5227)
124       compiler_stats_num_field('peak_megabytes_allocated',
125           [(platform('x86_64-apple-darwin'), 58, 1),
126                            # expected value: 58 (amd64/OS X)
127            (wordsize(32), 30, 20),
128            (wordsize(64), 49, 20)]),
129             # prev:       50 (amd64/Linux)
130             # 19/10/2012: 64 (amd64/Linux)
131             #                (^ REASON UNKNOWN!)
132             # 12/11/2012: 49 (amd64/Linux)
133             #                (^ REASON UNKNOWN!)
134
135       compiler_stats_num_field('bytes allocated',
136           [(platform('x86_64-apple-darwin'), 510938976, 5),
137                            # expected value: 510938976 (amd64/OS X):
138
139            (wordsize(32), 185669232, 10),
140         # expected value: 228286660 (x86/OS X)
141
142            (wordsize(64), 392409984, 10)]),
143             # prev:       360243576 (amd64/Linux)
144             # 19/10/2012: 447190832 (amd64/Linux) (-fPIC turned on)
145             # 19/10/2012: 392409984 (amd64/Linux) (-fPIC turned off)
146
147       compiler_stats_num_field('max_bytes_used',
148           [(platform('x86_64-apple-darwin'), 21657520, 5),
149            (wordsize(32), 11139444, 1),
150              #             9651948 (x86/OSX)
151              #            10290952 (windows)
152              # 2013-02-10 11071060 (x86/Windows)
153              # 2013-02-10 11207828 (x86/OSX)
154            (wordsize(64), 21657520, 15)]),
155                 # prev:       20486256 (amd64/OS X)
156                 # 30/08/2012: 17305600--20391920 (varies a lot)
157                 # 19/10/2012: 26882576 (-fPIC turned on)
158                 # 19/10/2012: 18619912 (-fPIC turned off)
159                 # 24/12/2012: 21657520 (perhaps gc sampling time wibbles?)
160        only_ways(['normal']),
161        extra_hc_opts('-static')
162       ],
163      compile,
164      [''])
165
166 test('T3064',
167      [# expect_broken( 3064 ),
168       compiler_stats_num_field('peak_megabytes_allocated',
169           [(wordsize(32), 14, 1),
170         # expected value: 14 (x86/Linux 28-06-2012):
171            (wordsize(64), 26, 20)]),
172             # (amd64/Linux):            18
173             # (amd64/Linux) 2012-02-07: 26
174             # (amd64/Linux) 2013-02-12: 23; increased range to 10%
175             # (amd64/Linux) 2013-04-03: 26
176             # Increased range to 20%.  peak-usage varies from 22 to 26, 
177             #  depending on whether the old .hi file exists
178
179       compiler_stats_num_field('bytes allocated',
180           [(wordsize(32), 111189536, 10),
181          # expected value: 56380288 (x86/Linux) (28/6/2011)
182          #                111189536 (x86/Windows) (30/10/12)
183            (wordsize(64), 224798696, 5)]),
184             # (amd64/Linux) (28/06/2011):  73259544
185             # (amd64/Linux) (07/02/2013): 224798696
186
187       compiler_stats_num_field('max_bytes_used',
188           [(wordsize(32), 5511604, 20),
189         # expected value: 2247016 (x86/Linux) (28/6/2011):
190            (wordsize(64), 9397488, 10)]),
191             # (amd64/Linux, intree) (28/06/2011):  4032024
192             # (amd64/Linux, intree) (07/02/2013):  9819288
193             # (amd64/Linux)         (14/02/2013):  8687360
194             # (amd64/Linux)         (18/02/2013):  9397488
195        only_ways(['normal'])
196       ],
197      compile,
198      [''])
199
200 test('T4007',
201      normal,
202      run_command,
203      ['$MAKE -s --no-print-directory T4007'])
204
205 test('T5030',
206      [compiler_stats_num_field('bytes allocated',
207           [(wordsize(32), 259547660, 10),
208            # previous:    196457520
209            # 2012-10-08:  259547660 (x86/Linux, new codegen)
210            (wordsize(64), 538467496, 10)]),
211              # Previously 530000000 (+/- 10%)
212              # 17/1/13:   602993184  (x86_64/Linux)
213              #            (new demand analyser)
214              # 2013-06-08 538467496  (x86_64/Linux)
215              # ^ reason unknown
216    
217        only_ways(['normal'])
218       ],
219      compile,
220      ['-fcontext-stack=300'])
221
222 test('T5631',
223      [compiler_stats_num_field('bytes allocated',
224           [(wordsize(32), 392904228, 10),
225         # expected value: 392904228 (x86/Linux)
226            (wordsize(64), 774595008, 5)]),
227         # expected value: 774595008 (amd64/Linux):
228        only_ways(['normal'])
229       ],
230      compile,
231      [''])
232
233 test('parsing001',
234      [compiler_stats_num_field('bytes allocated',
235           [(wordsize(32), 274000576, 10),
236            (wordsize(64), 587079016, 5)]),
237         # expected value: 587079016 (amd64/Linux)
238        only_ways(['normal']),
239       ],
240      compile_fail, [''])
241
242
243 test('T783',
244      [ only_ways(['normal']),  # no optimisation for this one
245       # expected value: 175,569,928 (x86/Linux)
246       compiler_stats_num_field('bytes allocated',
247           [(wordsize(32), 333833658, 2),
248             # 2012-10-08: 226907420 (x86/Linux)
249             # 2013-02-10: 329202116 (x86/Windows)
250             # 2013-02-10: 338465200 (x86/OSX)
251            (wordsize(64), 640324528, 10)]),
252             # prev:       349263216 (amd64/Linux)
253             # 07/08/2012: 384479856 (amd64/Linux)
254             # 29/08/2012: 436927840 (amd64/Linux)
255             # 12/11/2012: 640324528 (amd64/Linux)
256             #   (OldCmm removed: not sure why this got worse, the
257             #    other perf tests remained about the same)
258       extra_hc_opts('-static')
259       ],
260       compile,[''])
261
262 test('T5321Fun',
263      [ only_ways(['normal']),  # no optimisation for this one
264        compiler_stats_num_field('bytes allocated',
265            [(wordsize(32), 344416344, 10),
266              # prev:       300000000
267              # 2012-10-08: 344416344 x86/Linux
268              #  (increase due to new codegen)
269             (wordsize(64), 694019152, 10)])
270              # prev:       585521080
271              # 29/08/2012: 713385808
272              #  (increase due to new codegen)
273              # 15/05/2013: 628341952 
274              #  (reason for decrease unknown)
275              # 24/06/2013: 694019152 
276              #  (reason for re-increase unknown)
277       ],
278       compile,[''])
279
280 test('T5321FD',
281      [ only_ways(['normal']),  # no optimisation for this one
282       compiler_stats_num_field('bytes allocated',
283           [(wordsize(32), 240302920, 10),
284             # prev:       213380256
285             # 2012-10-08: 240302920 (x86/Linux)
286             #  (increase due to new codegen)
287            (wordsize(64), 476497048, 10)])
288             # prev:       418306336
289             # 29/08/2012: 492905640
290             #  (increase due to new codegen)
291             # 15/05/2013: 406039584 
292             #  (reason for decrease unknown)
293             # 08/06/2013: 476497048 
294             #  (reason for increase unknown)
295       ],
296       compile,[''])
297
298 test('T5642',
299      [ only_ways(['normal']),
300        compiler_stats_num_field('bytes allocated',
301            [(wordsize(32), 650000000, 10),
302                      # sample from x86/Linux
303             (wordsize(64), 1300000000, 10)])
304       ],
305       compile,['-O'])
306
307 test('T5837',
308      [ only_ways(['normal']),
309       compiler_stats_num_field('bytes allocated',
310           [(wordsize(32), 40000000, 10),
311           # sample from x86/Linux
312            (wordsize(64), 81879216, 10)])
313               # sample: 3926235424 (amd64/Linux, 15/2/2012)
314              # 2012-10-02 81879216
315              # 2012-09-20 87254264 amd64/Linux
316       ],
317       compile_fail,['-fcontext-stack=50'])
318
319 test('T6048',
320      [ only_ways(['optasm']),
321       compiler_stats_num_field('bytes allocated',
322           [(wordsize(32), 48887164, 10),
323             # prev:       38000000 (x86/Linux)
324             # 2012-10-08: 48887164 (x86/Linux)
325            (wordsize(64), 97247032, 10)])
326              # 18/09/2012 97247032 amd64/Linux
327       ],
328       compile,[''])