Updates perf numbers after #8503 implementation
[ghc.git] / testsuite / tests / perf / compiler / all.T
1 def no_lint(name, opts):
2    opts.compiler_always_flags = \
3        filter(lambda opt: opt != '-dcore-lint' and opt != '-dcmm-lint', opts.compiler_always_flags)
4
5 setTestOpts(no_lint)
6
7
8 test('T1969',
9      [compiler_stats_num_field('peak_megabytes_allocated',
10           [(wordsize(32), 14, 1),
11              # 2010-05-17 14 (x86/Windows)
12              #            15 (x86/OS X)
13              #            19 (x86/OS X)
14              # 2013-02-10 13 (x86/Windows)
15              # 2013-02-10 14 (x86/OSX)
16            (wordsize(64), 30, 15)]),
17              #            28 (amd64/Linux)
18              #            34 (amd64/Linux)
19              # 2012-09-20 23 (amd64/Linux)
20              # 2012-10-03 25 (amd64/Linux if .hi exists)
21              # 2013-02-13 23, but unstable so increased to 10% range
22              # 2013-02-13 27, very unstable!
23              # 2013-09-11 30 (amd64/Linux)
24       compiler_stats_num_field('max_bytes_used',
25           [(platform('i386-unknown-mingw32'), 5094914, 2),
26                                  # 2010-05-17 5717704 (x86/Windows)
27                                  # 2013-02-10 5159748 (x86/Windows)
28                                  # 2013-02-10 5030080 (x86/Windows)
29            (wordsize(32), 6149572, 1),
30              #            6707308 (x86/OS X)
31              # 2009-12-31 6149572 (x86/Linux)
32            (wordsize(64), 11000000, 20)]),
33                # looks like the peak is around ~10M, but we're
34                # unlikely to GC exactly on the peak.
35                # varies quite a lot with CLEANUP and BINDIST,
36                # hence 10% range.
37       compiler_stats_num_field('bytes allocated',
38           [(platform('i386-unknown-mingw32'), 310633884, 1),
39                                  #            215582916 (x86/Windows)
40                                  # 2012-10-29 298921816 (x86/Windows)
41                                  # 2013-02-10 310633884 (x86/Windows)
42            (wordsize(32), 322937684, 1),
43              #            221667908 (x86/OS X)
44              #            274932264 (x86/Linux)
45              # 2012-10-08 303930948 (x86/Linux, new codegen)
46              # 2013-02-10 322937684 (x86/OSX)
47            (wordsize(64), 698612512, 5)]),
48              # 17/11/2009 434845560 (amd64/Linux)
49              # 08/12/2009 459776680 (amd64/Linux)
50              # 17/05/2010 519377728 (amd64/Linux)
51              # 05/08/2011 561382568 (amd64/OS X)
52              # 16/07/2012 589168872 (amd64/Linux)
53              # 20/07/2012 595936240 (amd64/Linux)
54              # 23/08/2012 606230880 (amd64/Linux)
55              # 29/08/2012 633334184 (amd64/Linux)
56              #            (^ new codegen)
57              # 18/09/2012 641959976 (amd64/Linux)
58              # 19/10/2012 661832592 (amd64/Linux)
59              #            (^ -fPIC turned on)
60              # 23/10/2012 642594312 (amd64/Linux)
61              #            (^ -fPIC turned off again)
62              # 12/11/2012 658786936 (amd64/Linux)
63              #            (^ UNKNOWN REASON )
64              # 17/1/13:   667160192 (x86_64/Linux)
65              #            (^ new demand analyser)
66              # 18/10/2013 698612512 (x86_64/Linux)
67              #            (fix for #8456)
68       only_ways(['normal']),
69
70       extra_hc_opts('-dcore-lint -static')
71           # Leave -dcore-lint on for this one test, so that we have something
72           # that will catch a regression in -dcore-lint performance.
73       ],
74      compile,
75      [''])
76
77 # This one tests for the space leak in the native code generator,
78 # where it holds onto the entire asm output until the end.  The space
79 # leak reappears from time to time, so it's a good idea to have a test
80 # for it.  The residency of this test will jump by 10MB to 40MB or so
81 # on x86-64 if the space leak appears.
82
83 # Only run this one if we have an NCG:
84 if 'optasm' in config.compile_ways:
85    conf_3294 = only_ways(['normal'])
86 else:
87    conf_3294 = skip
88
89 test('T3294',
90      [
91       compiler_stats_num_field('max_bytes_used',
92           [(wordsize(32), 20712280, 1),
93              #            17725476 (x86/OS X)
94              #            14593500 (Windows)
95              # 2013-02-10 20651576 (x86/Windows)
96              # 2013-02-10 20772984 (x86/OSX)
97            (wordsize(64), 43224080, 15)]),
98         # prev:           25753192 (amd64/Linux)
99         # 29/08/2012:     37724352 (amd64/Linux)
100         #  (increase due to new codegen, see #7198)
101         # 13/13/2012:     44894544 (amd64/Linux)
102         #  (reason for increase unknown)
103         # 15/5/2013:      36904752  (amd64/Linux)
104         #  (reason for decrease unknown)
105         # 29/5/2013:      43224080  (amd64/Linux)
106         #  (reason for increase back to earlier value unknown)
107       compiler_stats_num_field('bytes allocated',
108           [(wordsize(32), 1373514844, 5),
109            # previous:     815479800  (x86/Linux)
110            # (^ increase due to new codegen, see #7198)
111            # 2012-10-08:  1373514844 (x86/Linux)
112            (wordsize(64), 2901451552, 5)]),
113             # old:        1357587088 (amd64/Linux)
114             # 29/08/2012: 2961778696 (amd64/Linux)
115             # (^ increase due to new codegen, see #7198)
116             # 18/09/2012: 2717327208 (amd64/Linux)
117             # 08/06/2013: 2901451552 (amd64/Linux)
118             # (^ reason unknown)
119       conf_3294
120       ],
121      compile,
122      [''])
123
124 test('T4801',
125      [ # expect_broken(5224),
126        # temporarily unbroken (#5227)
127       compiler_stats_num_field('peak_megabytes_allocated',
128           [(platform('x86_64-apple-darwin'), 58, 1),
129                            # expected value: 58 (amd64/OS X)
130            (wordsize(32), 30, 20),
131            (wordsize(64), 60, 20)]),
132             # prev:       50 (amd64/Linux)
133             # 19/10/2012: 64 (amd64/Linux)
134             #                (^ REASON UNKNOWN!)
135             # 12/11/2012: 49 (amd64/Linux)
136             #                (^ REASON UNKNOWN!)
137             # 28/8/13:    60 (amd64/Linux)
138             #                (^ REASON UNKNOWN!)
139
140       compiler_stats_num_field('bytes allocated',
141           [(platform('x86_64-apple-darwin'), 510938976, 5),
142                            # expected value: 510938976 (amd64/OS X):
143
144            (wordsize(32), 185669232, 10),
145         # expected value: 228286660 (x86/OS X)
146
147            (wordsize(64), 392409984, 10)]),
148             # prev:       360243576 (amd64/Linux)
149             # 19/10/2012: 447190832 (amd64/Linux) (-fPIC turned on)
150             # 19/10/2012: 392409984 (amd64/Linux) (-fPIC turned off)
151
152       compiler_stats_num_field('max_bytes_used',
153           [(platform('x86_64-apple-darwin'), 21657520, 5),
154            (wordsize(32), 11139444, 1),
155              #             9651948 (x86/OSX)
156              #            10290952 (windows)
157              # 2013-02-10 11071060 (x86/Windows)
158              # 2013-02-10 11207828 (x86/OSX)
159            (wordsize(64), 21657520, 15)]),
160                 # prev:       20486256 (amd64/OS X)
161                 # 30/08/2012: 17305600--20391920 (varies a lot)
162                 # 19/10/2012: 26882576 (-fPIC turned on)
163                 # 19/10/2012: 18619912 (-fPIC turned off)
164                 # 24/12/2012: 21657520 (perhaps gc sampling time wibbles?)
165        only_ways(['normal']),
166        extra_hc_opts('-static')
167       ],
168      compile,
169      [''])
170
171 test('T3064',
172      [# expect_broken( 3064 ),
173       compiler_stats_num_field('peak_megabytes_allocated',
174           [(wordsize(32), 14, 1),
175         # expected value: 14 (x86/Linux 28-06-2012):
176            (wordsize(64), 37, 20)]),
177             # (amd64/Linux):            18
178             # (amd64/Linux) 2012-02-07: 26
179             # (amd64/Linux) 2013-02-12: 23; increased range to 10%
180             # (amd64/Linux) 2013-04-03: 26
181             # (amd64/Linux) 2013-09-11: 30; result of AMP patch
182             # Increased range to 20%.  peak-usage varies from 22 to 26,
183             #  depending on whether the old .hi file exists
184             # (amd64/Linux) 2013-09-11: 37; better arity analysis (weird)
185
186       compiler_stats_num_field('bytes allocated',
187           [(wordsize(32), 111189536, 10),
188          # expected value: 56380288 (x86/Linux) (28/6/2011)
189          #                111189536 (x86/Windows) (30/10/12)
190            (wordsize(64), 308300448, 5)]),
191             # (amd64/Linux) (28/06/2011):  73259544
192             # (amd64/Linux) (07/02/2013): 224798696
193             # (amd64/Linux) (02/08/2013): 236404384, increase from roles
194             # (amd64/Linux) (11/09/2013): 290165632, increase from AMP warnings
195             # (amd64/Linux) (22/11/2013): 308300448, GND via Coercible and counters for constraints solving
196       compiler_stats_num_field('max_bytes_used',
197           [(wordsize(32), 5511604, 20),
198         # expected value: 2247016 (x86/Linux) (28/6/2011):
199            (wordsize(64), 16266992, 20)]),
200             # (amd64/Linux, intree) (28/06/2011):  4032024
201             # (amd64/Linux, intree) (07/02/2013):  9819288
202             # (amd64/Linux)         (14/02/2013):  8687360
203             # (amd64/Linux)         (18/02/2013):  9397488
204             # (amd64/Linux)         (02/08/2013): 10742536, increase from roles
205             # (amd64/Linux)         (19/08/2013): 9211816,  decrease apparently from better eta reduction
206             # (amd64/Linux)         (11/09/2013): 12000480, increase from AMP warnings
207             #                                     933cdf15a2d85229d3df04b437da31fdfbf4961f
208             # (amd64/Linux)         (22/11/2013): 16266992, GND via Coercible and counters for constraints solving
209        only_ways(['normal'])
210       ],
211      compile,
212      [''])
213
214 test('T4007',
215      normal,
216      run_command,
217      ['$MAKE -s --no-print-directory T4007'])
218
219 test('T5030',
220      [compiler_stats_num_field('bytes allocated',
221           [(wordsize(32), 259547660, 10),
222            # previous:    196457520
223            # 2012-10-08:  259547660 (x86/Linux, new codegen)
224            (wordsize(64), 397672152, 10)]),
225              # Previously 530000000 (+/- 10%)
226              # 17/1/13:   602993184  (x86_64/Linux)
227              #            (new demand analyser)
228              # 2013-06-08 538467496  (x86_64/Linux)
229              # ^ reason unknown
230              # 2013-08-02 454498592  (amd64/Linux)
231              # decrease from more aggressive coercion optimisations from roles
232              # 2013-11-12 397672152  (amd64/Linux)
233              # big decrease following better CSE and arity
234
235        only_ways(['normal'])
236       ],
237      compile,
238      ['-fcontext-stack=300'])
239
240 test('T5631',
241      [compiler_stats_num_field('bytes allocated',
242           [(wordsize(32), 392904228, 10),
243         # expected value: 392904228 (x86/Linux)
244            (wordsize(64), 774595008, 5)]),
245         # expected value: 774595008 (amd64/Linux):
246        only_ways(['normal'])
247       ],
248      compile,
249      [''])
250
251 test('parsing001',
252      [compiler_stats_num_field('bytes allocated',
253           [(wordsize(32), 274000576, 10),
254            (wordsize(64), 587079016, 5)]),
255         # expected value: 587079016 (amd64/Linux)
256        only_ways(['normal']),
257       ],
258      compile_fail, [''])
259
260
261 test('T783',
262      [ only_ways(['normal']),  # no optimisation for this one
263       # expected value: 175,569,928 (x86/Linux)
264       compiler_stats_num_field('bytes allocated',
265           [(wordsize(32), 333833658, 2),
266             # 2012-10-08: 226907420 (x86/Linux)
267             # 2013-02-10: 329202116 (x86/Windows)
268             # 2013-02-10: 338465200 (x86/OSX)
269            (wordsize(64), 654804144, 10)]),
270             # prev:       349263216 (amd64/Linux)
271             # 07/08/2012: 384479856 (amd64/Linux)
272             # 29/08/2012: 436927840 (amd64/Linux)
273             # 12/11/2012: 640324528 (amd64/Linux)
274             #   (OldCmm removed: not sure why this got worse, the
275             #    other perf tests remained about the same)
276             # 18/10/2013: 734038080 (amd64/Linux)
277             #   (fix for #8456)
278             # 24/10/2013: 654804144 (amd64/Linux)
279             #   (fix previous fix for #8456)
280       extra_hc_opts('-static')
281       ],
282       compile,[''])
283
284 test('T5321Fun',
285      [ only_ways(['normal']),  # no optimisation for this one
286        compiler_stats_num_field('bytes allocated',
287            [(wordsize(32), 344416344, 10),
288              # prev:       300000000
289              # 2012-10-08: 344416344 x86/Linux
290              #  (increase due to new codegen)
291             (wordsize(64), 694019152, 10)])
292              # prev:       585521080
293              # 29/08/2012: 713385808
294              #  (increase due to new codegen)
295              # 15/05/2013: 628341952
296              #  (reason for decrease unknown)
297              # 24/06/2013: 694019152
298              #  (reason for re-increase unknown)
299       ],
300       compile,[''])
301
302 test('T5321FD',
303      [ only_ways(['normal']),  # no optimisation for this one
304       compiler_stats_num_field('bytes allocated',
305           [(wordsize(32), 240302920, 10),
306             # prev:       213380256
307             # 2012-10-08: 240302920 (x86/Linux)
308             #  (increase due to new codegen)
309            (wordsize(64), 476497048, 10)])
310             # prev:       418306336
311             # 29/08/2012: 492905640
312             #  (increase due to new codegen)
313             # 15/05/2013: 406039584
314             #  (reason for decrease unknown)
315             # 08/06/2013: 476497048
316             #  (reason for increase unknown)
317       ],
318       compile,[''])
319
320 test('T5642',
321      [ only_ways(['normal']),
322        compiler_stats_num_field('bytes allocated',
323            [(wordsize(32), 650000000, 10),
324                      # sample from x86/Linux
325             (wordsize(64), 1300000000, 10)])
326       ],
327       compile,['-O'])
328
329 test('T5837',
330      [ only_ways(['normal']),
331       compiler_stats_num_field('bytes allocated',
332           [(wordsize(32), 40000000, 10),
333           # sample from x86/Linux
334            (wordsize(64), 86795752, 10)])
335               # sample: 3926235424 (amd64/Linux, 15/2/2012)
336              # 2012-10-02 81879216
337              # 2012-09-20 87254264 amd64/Linux
338              # 2013-09-18 90587232 amd64/Linux
339              # 2013-11-21 86795752 amd64/Linux, GND via Coercible and counters
340              #                                  for constraints solving
341       ],
342       compile_fail,['-ftype-function-depth=50'])
343
344 test('T6048',
345      [ only_ways(['optasm']),
346       compiler_stats_num_field('bytes allocated',
347           [(wordsize(32), 48887164, 10),
348             # prev:       38000000 (x86/Linux)
349             # 2012-10-08: 48887164 (x86/Linux)
350            (wordsize(64), 97247032, 10)])
351              # 18/09/2012 97247032 amd64/Linux
352       ],
353       compile,[''])