Fold template-haskell.git into ghc.git (re #8545)
[ghc.git] / testsuite / tests / perf / compiler / all.T
1 def no_lint(name, opts):
2    opts.compiler_always_flags = \
3        filter(lambda opt: opt != '-dcore-lint' and opt != '-dcmm-lint', opts.compiler_always_flags)
4
5 setTestOpts(no_lint)
6
7
8 # Note [residency]
9 #
10 # Residency (peak_megabytes_allocated and max_bytes_used) is sensitive
11 # to when the major GC runs, which makes it inherently inaccurate.
12 # Sometime an innocuous change somewhere can shift things around such
13 # that the samples occur at a different time, and the residency
14 # appears to change (up or down) when the underlying profile hasn't
15 # really changed.
16 #
17 # However, please don't just ignore changes in residency.  If you see
18 # a change in one of these figures, please check whether it is real or
19 # not as follows:
20 #
21 #  * Run the test with old and new compilers, adding +RTS -h -i0.01
22 #    (you don't need to compile anything for profiling or enable profiling
23 #    libraries to get a heap profile).
24 #  * view the heap profiles, read off the maximum residency.  If it has
25 #    really changed, then you know there's an issue.
26
27 test('T1969',
28      [compiler_stats_num_field('peak_megabytes_allocated', # Note [residency]
29           [(wordsize(32), 17, 15),
30              # 2010-05-17 14 (x86/Windows)
31              #            15 (x86/OS X)
32              #            19 (x86/OS X)
33              # 2013-02-10 13 (x86/Windows)
34              # 2013-02-10 14 (x86/OSX)
35              # 2013-11-13 17 (x86/Windows, 64bit machine)
36            (wordsize(64), 30, 15)]),
37              #            28 (amd64/Linux)
38              #            34 (amd64/Linux)
39              # 2012-09-20 23 (amd64/Linux)
40              # 2012-10-03 25 (amd64/Linux if .hi exists)
41              # 2013-02-13 23, but unstable so increased to 10% range
42              # 2013-02-13 27, very unstable!
43              # 2013-09-11 30 (amd64/Linux)
44       compiler_stats_num_field('max_bytes_used',
45           [(platform('i386-unknown-mingw32'), 7295012, 20),
46                                  # 2010-05-17 5717704 (x86/Windows)
47                                  # 2013-02-10 5159748 (x86/Windows)
48                                  # 2013-02-10 5030080 (x86/Windows)
49                                  # 2013-11-13 7295012 (x86/Windows, 64bit machine)
50            (wordsize(32), 6429864, 1),
51              #            6707308 (x86/OS X)
52              # 2009-12-31 6149572 (x86/Linux)
53              # 2014-01-22 6429864 (x86/Linux)
54            (wordsize(64), 11000000, 20)]),
55                # looks like the peak is around ~10M, but we're
56                # unlikely to GC exactly on the peak.
57                # varies quite a lot with CLEANUP and BINDIST,
58                # hence 10% range.
59                # See Note [residency] to get an accurate view.
60       compiler_stats_num_field('bytes allocated',
61           [(platform('i386-unknown-mingw32'), 301784492, 5),
62                                  #            215582916 (x86/Windows)
63                                  # 2012-10-29 298921816 (x86/Windows)
64                                  # 2013-02-10 310633884 (x86/Windows)
65                                  # 2013-11-13 317975916 (x86/Windows, 64bit machine)
66                                  # 2014-04-04 301784492 (x86/Windows, 64bit machine)
67            (wordsize(32), 316103268, 1),
68              #            221667908 (x86/OS X)
69              #            274932264 (x86/Linux)
70              # 2012-10-08 303930948 (x86/Linux, new codegen)
71              # 2013-02-10 322937684 (x86/OSX)
72              # 2014-01-22 316103268 (x86/Linux)
73            (wordsize(64), 660922376, 5)]),
74              # 17/11/2009 434845560 (amd64/Linux)
75              # 08/12/2009 459776680 (amd64/Linux)
76              # 17/05/2010 519377728 (amd64/Linux)
77              # 05/08/2011 561382568 (amd64/OS X)
78              # 16/07/2012 589168872 (amd64/Linux)
79              # 20/07/2012 595936240 (amd64/Linux)
80              # 23/08/2012 606230880 (amd64/Linux)
81              # 29/08/2012 633334184 (amd64/Linux) new codegen
82              # 18/09/2012 641959976 (amd64/Linux)
83              # 19/10/2012 661832592 (amd64/Linux) -fPIC turned on
84              # 23/10/2012 642594312 (amd64/Linux) -fPIC turned off again
85              # 12/11/2012 658786936 (amd64/Linux) UNKNOWN REASON
86              # 17/1/13:   667160192 (x86_64/Linux) new demand analyser
87              # 18/10/2013 698612512 (x86_64/Linux) fix for #8456
88              # 10/02/2014 660922376 (x86_64/Linux) call artiy analysis
89       only_ways(['normal']),
90
91       extra_hc_opts('-dcore-lint -static')
92           # Leave -dcore-lint on for this one test, so that we have something
93           # that will catch a regression in -dcore-lint performance.
94       ],
95      compile,
96      [''])
97
98 # This one tests for the space leak in the native code generator,
99 # where it holds onto the entire asm output until the end.  The space
100 # leak reappears from time to time, so it's a good idea to have a test
101 # for it.  The residency of this test will jump by 10MB to 40MB or so
102 # on x86-64 if the space leak appears.
103
104 # Only run this one if we have an NCG:
105 if 'optasm' in config.compile_ways:
106    conf_3294 = only_ways(['normal'])
107 else:
108    conf_3294 = skip
109
110 test('T3294',
111      [
112       compiler_stats_num_field('max_bytes_used', # Note [residency]
113           [(wordsize(32), 24009436, 15),
114              #            17725476 (x86/OS X)
115              #            14593500 (Windows)
116              # 2013-02-10 20651576 (x86/Windows)
117              # 2013-02-10 20772984 (x86/OSX)
118              # 2013-11-13 24009436 (x86/Windows, 64bit machine)
119            (wordsize(64), 43224080, 15)]),
120              # prev:           25753192 (amd64/Linux)
121              # 29/08/2012:     37724352 (amd64/Linux)
122              #  (increase due to new codegen, see #7198)
123              # 13/13/2012:     44894544 (amd64/Linux)
124              #  (reason for increase unknown)
125              # 15/5/2013:      36904752  (amd64/Linux)
126              #  (reason for decrease unknown)
127              # 29/5/2013:      43224080  (amd64/Linux)
128              #  (reason for increase back to earlier value unknown)
129
130       compiler_stats_num_field('bytes allocated',
131           [(wordsize(32), 1377050640, 5),
132            # previous:     815479800  (x86/Linux)
133            # (^ increase due to new codegen, see #7198)
134            # 2012-10-08:  1373514844 (x86/Linux)
135            # 2013-11-13: 1478325844  (x86/Windows, 64bit machine)
136            # 2014-01-12: 1565185140  (x86/Linux)
137            # 2013-04-04: 1377050640  (x86/Windows, 64bit machine)
138            (wordsize(64), 2705289664, 5)]),
139             # old:        1357587088 (amd64/Linux)
140             # 29/08/2012: 2961778696 (amd64/Linux)
141             # (^ increase due to new codegen, see #7198)
142             # 18/09/2012: 2717327208 (amd64/Linux)
143             # 08/06/2013: 2901451552 (amd64/Linux) (reason unknown)
144             # 12/12/2013: 3083825616 (amd64/Linux) (reason unknown)
145             # 18/02/2014: 2897630040 (amd64/Linux) (call arity improvements)
146             # 12/03/2014: 2705289664 (amd64/Linux) (more call arity improvements)
147       conf_3294
148       ],
149      compile,
150      [''])
151
152 test('T4801',
153      [ # expect_broken(5224),
154        # temporarily unbroken (#5227)
155       compiler_stats_num_field('peak_megabytes_allocated',# Note [residency]
156           [(platform('x86_64-apple-darwin'), 70, 1),
157                            # expected value: 58 (amd64/OS X)
158                            # 13/01/2014 - 70
159            (wordsize(32), 30, 20),
160            (wordsize(64), 60, 20)]),
161             # prev:       50 (amd64/Linux)
162             # 19/10/2012: 64 (amd64/Linux)
163             #                (^ REASON UNKNOWN!)
164             # 12/11/2012: 49 (amd64/Linux)
165             #                (^ REASON UNKNOWN!)
166             # 28/8/13:    60 (amd64/Linux)
167             #                (^ REASON UNKNOWN!)
168
169       compiler_stats_num_field('bytes allocated',
170           [(platform('x86_64-apple-darwin'), 464872776, 5),
171                            # expected value: 510938976 (amd64/OS X):
172
173            (wordsize(32), 211198056, 10),
174            # prev:        185669232 (x86/OSX)
175            # 2014-01-22:  211198056 (x86/Linux)
176            (wordsize(64), 392409984, 10)]),
177             # prev:       360243576 (amd64/Linux)
178             # 19/10/2012: 447190832 (amd64/Linux) (-fPIC turned on)
179             # 19/10/2012: 392409984 (amd64/Linux) (-fPIC turned off)
180
181       compiler_stats_num_field('max_bytes_used',
182           [(platform('x86_64-apple-darwin'), 25145320, 5),
183            (wordsize(32), 11829000, 15),
184              #              9651948 (x86/OSX)
185              #              10290952 (windows)
186              # 2013-02-10   11071060 (x86/Windows)
187              # 2013-02-10:  11207828 (x86/OSX)
188              # (some date): 11139444
189              # 2013-11-13:  11829000 (x86/Windows, 64bit machine)
190            (wordsize(64), 25002136, 10)]),
191                 # prev:       20486256 (amd64/OS X)
192                 # 30/08/2012: 17305600--20391920 (varies a lot)
193                 # 19/10/2012: 26882576 (-fPIC turned on)
194                 # 19/10/2012: 18619912 (-fPIC turned off)
195                 # 24/12/2012: 21657520 (perhaps gc sampling time wibbles?)
196                 # 10/01/2014: 25166280 
197                 # 13/01/2014: 22646000 (mostly due to #8647)
198                 # 18/02/2014: 25002136 (call arity analysis changes)
199        only_ways(['normal']),
200        extra_hc_opts('-static')
201       ],
202      compile,
203      [''])
204
205 test('T3064',
206      [# expect_broken( 3064 ),
207       compiler_stats_num_field('peak_megabytes_allocated',# Note [residency]
208           [(wordsize(32), 23, 20),
209             # expected value: 14 (x86/Linux 28-06-2012):
210             # 2013-11-13:     18 (x86/Windows, 64bit machine)
211             # 2014-01-22:     23 (x86/Linux)
212            (wordsize(64), 42, 20)]),
213             # (amd64/Linux):            18
214             # (amd64/Linux) 2012-02-07: 26
215             # (amd64/Linux) 2013-02-12: 23; increased range to 10%
216             # (amd64/Linux) 2013-04-03: 26
217             # (amd64/Linux) 2013-09-11: 30; result of AMP patch
218             # Increased range to 20%.  peak-usage varies from 22 to 26,
219             #  depending on whether the old .hi file exists
220             # (amd64/Linux) 2013-09-11: 37; better arity analysis (weird)
221
222       compiler_stats_num_field('bytes allocated',
223           [(wordsize(32), 162457940, 10),
224             # 2011-06-28: 56380288  (x86/Linux)
225             # 2012-10-30: 111189536 (x86/Windows)
226             # 2013-11-13: 146626504 (x86/Windows, 64bit machine)
227             # 2014-01-22: 162457940 (x86/Linux)
228            (wordsize(64), 308422280, 5)]),
229             # (amd64/Linux) (28/06/2011):  73259544
230             # (amd64/Linux) (07/02/2013): 224798696
231             # (amd64/Linux) (02/08/2013): 236404384, increase from roles
232             # (amd64/Linux) (11/09/2013): 290165632, increase from AMP warnings
233             # (amd64/Linux) (22/11/2013): 308300448, GND via Coercible and counters for constraints solving
234                 # (amd64/Linux) (02/12/2013): 329795912, Coercible refactor
235             # (amd64/Linux) (11/02/2014): 308422280, optimize Coercions in simpleOptExpr
236
237       compiler_stats_num_field('max_bytes_used',
238           [(wordsize(32), 11202304, 20),
239             # 2011-06-28:  2247016 (x86/Linux) (28/6/2011):
240             #(some date):  5511604
241             # 2013-11-13:  7218200 (x86/Windows, 64bit machine)
242             # 2014-04-04: 11202304 (x86/Windows, 64bit machine)
243            (wordsize(64), 19821544, 20)]),
244             # (amd64/Linux, intree) (28/06/2011):  4032024
245             # (amd64/Linux, intree) (07/02/2013):  9819288
246             # (amd64/Linux)         (14/02/2013):  8687360
247             # (amd64/Linux)         (18/02/2013):  9397488
248             # (amd64/Linux)         (02/08/2013): 10742536, increase from roles
249             # (amd64/Linux)         (19/08/2013): 9211816,  decrease apparently from better eta reduction
250             # (amd64/Linux)         (11/09/2013): 12000480, increase from AMP warnings
251             #                                     933cdf15a2d85229d3df04b437da31fdfbf4961f
252             # (amd64/Linux)         (22/11/2013): 16266992, GND via Coercible and counters for constraints solving
253             # (amd64/Linux)         (12/12/2013): 19821544, better One shot analysis
254        only_ways(['normal'])
255       ],
256      compile,
257      [''])
258
259 test('T4007',
260      normal,
261      run_command,
262      ['$MAKE -s --no-print-directory T4007'])
263
264 test('T5030',
265      [compiler_stats_num_field('bytes allocated',
266           [(wordsize(32), 198573456, 10),
267            # previous:    196457520
268            # 2012-10-08:  259547660 (x86/Linux, new codegen)
269            # 2013-11-21:  198573456 (x86 Windows, 64 bit machine)
270            (wordsize(64), 397672152, 10)]),
271              # Previously 530000000 (+/- 10%)
272              # 17/1/13:   602993184  (x86_64/Linux)
273              #            (new demand analyser)
274              # 2013-06-08 538467496  (x86_64/Linux)
275              # ^ reason unknown
276              # 2013-08-02 454498592  (amd64/Linux)
277              # decrease from more aggressive coercion optimisations from roles
278              # 2013-11-12 397672152  (amd64/Linux)
279              # big decrease following better CSE and arity
280
281        only_ways(['normal'])
282       ],
283      compile,
284      ['-fcontext-stack=300'])
285
286 test('T5631',
287      [compiler_stats_num_field('bytes allocated',
288           [(wordsize(32), 346389856, 10),
289         # expected value: 392904228 (x86/Linux)
290         # 2014-04-04:     346389856 (x86 Windows, 64 bit machine)
291            (wordsize(64), 690742040, 5)]),
292         # expected value: 774595008 (amd64/Linux):
293         # expected value: 735486328 (amd64/Linux) 2012/12/12:
294         # expected value: 690742040 (amd64/Linux) Call Arity improvements
295        only_ways(['normal'])
296       ],
297      compile,
298      [''])
299
300 test('parsing001',
301      [compiler_stats_num_field('bytes allocated',
302           [(wordsize(32), 274000576, 10),
303            (wordsize(64), 587079016, 5)]),
304         # expected value: 587079016 (amd64/Linux)
305        only_ways(['normal']),
306       ],
307      compile_fail, [''])
308
309
310 test('T783',
311      [ only_ways(['normal']),  # no optimisation for this one
312       # expected value: 175,569,928 (x86/Linux)
313       compiler_stats_num_field('bytes allocated',
314           [(wordsize(32), 319179104, 5),
315             # 2012-10-08: 226907420 (x86/Linux)
316             # 2013-02-10: 329202116 (x86/Windows)
317             # 2013-02-10: 338465200 (x86/OSX)
318             # 2014-04-04: 319179104 (x86 Windows, 64 bit machine)
319            (wordsize(64), 654804144, 10)]),
320             # prev:       349263216 (amd64/Linux)
321             # 07/08/2012: 384479856 (amd64/Linux)
322             # 29/08/2012: 436927840 (amd64/Linux)
323             # 12/11/2012: 640324528 (amd64/Linux)
324             #   (OldCmm removed: not sure why this got worse, the
325             #    other perf tests remained about the same)
326             # 18/10/2013: 734038080 (amd64/Linux)
327             #   (fix for #8456)
328             # 24/10/2013: 654804144 (amd64/Linux)
329             #   (fix previous fix for #8456)
330       extra_hc_opts('-static')
331       ],
332       compile,[''])
333
334 test('T5321Fun',
335      [ only_ways(['normal']),  # no optimisation for this one
336        compiler_stats_num_field('bytes allocated',
337            [(wordsize(32), 344416344, 10),
338              # prev:       300000000
339              # 2012-10-08: 344416344 x86/Linux
340              #  (increase due to new codegen)
341             (wordsize(64), 694019152, 10)])
342              # prev:       585521080
343              # 29/08/2012: 713385808
344              #  (increase due to new codegen)
345              # 15/05/2013: 628341952
346              #  (reason for decrease unknown)
347              # 24/06/2013: 694019152
348              #  (reason for re-increase unknown)
349       ],
350       compile,[''])
351
352 test('T5321FD',
353      [ only_ways(['normal']),  # no optimisation for this one
354       compiler_stats_num_field('bytes allocated',
355           [(wordsize(32), 240302920, 10),
356             # prev:       213380256
357             # 2012-10-08: 240302920 (x86/Linux)
358             #  (increase due to new codegen)
359            (wordsize(64), 476497048, 10)])
360             # prev:       418306336
361             # 29/08/2012: 492905640
362             #  (increase due to new codegen)
363             # 15/05/2013: 406039584
364             #  (reason for decrease unknown)
365             # 08/06/2013: 476497048
366             #  (reason for increase unknown)
367       ],
368       compile,[''])
369
370 test('T5642',
371      [ only_ways(['normal']),
372        compiler_stats_num_field('bytes allocated',
373            [(wordsize(32), 650000000, 10),
374                      # sample from x86/Linux
375             (wordsize(64), 1300000000, 10)])
376       ],
377       compile,['-O'])
378
379 test('T5837',
380      [ only_ways(['normal']),
381       compiler_stats_num_field('bytes allocated',
382           [(wordsize(32), 45520936 , 10),
383              # 40000000 (x86/Linux)
384              # 2013-11-13: 45520936 (x86/Windows, 64bit machine)
385            (wordsize(64), 86795752, 10)])
386              # sample: 3926235424 (amd64/Linux, 15/2/2012)
387              # 2012-10-02 81879216
388              # 2012-09-20 87254264 amd64/Linux
389              # 2013-09-18 90587232 amd64/Linux
390              # 2013-11-21 86795752 amd64/Linux, GND via Coercible and counters
391              #                                  for constraints solving
392       ],
393       compile_fail,['-ftype-function-depth=50'])
394
395 test('T6048',
396      [ only_ways(['optasm']),
397       compiler_stats_num_field('bytes allocated',
398           [(wordsize(32), 62618072, 10),
399             # prev:       38000000 (x86/Linux)
400             # 2012-10-08: 48887164 (x86/Linux)
401             # 2014-04-04: 62618072 (x86 Windows, 64 bit machine)
402            (wordsize(64), 110646312, 10)])
403              # 18/09/2012 97247032 amd64/Linux
404              # 16/01/2014 108578664 amd64/Linux (unknown, likely foldl-via-foldr)
405              # 18/01/2014 95960720 amd64/Linux Call Arity improvements
406              # 28/02/2014 105556793 amd64/Linux (unknown, tweak in base/4d9e7c9e3 resulted in change)
407              # 05/03/2014 110646312 amd64/Linux Call Arity became more elaborate
408       ],
409       compile,[''])