Bump T3064 perf values
[ghc.git] / testsuite / tests / perf / compiler / all.T
1 def no_lint(name, opts):
2    opts.compiler_always_flags = \
3        filter(lambda opt: opt != '-dcore-lint' and opt != '-dcmm-lint', opts.compiler_always_flags)
4
5 setTestOpts(no_lint)
6
7
8 # Note [residency]
9 #
10 # Residency (peak_megabytes_allocated and max_bytes_used) is sensitive
11 # to when the major GC runs, which makes it inherently inaccurate.
12 # Sometime an innocuous change somewhere can shift things around such
13 # that the samples occur at a different time, and the residency
14 # appears to change (up or down) when the underlying profile hasn't
15 # really changed.
16 #
17 # However, please don't just ignore changes in residency.  If you see
18 # a change in one of these figures, please check whether it is real or
19 # not as follows:
20 #
21 #  * Run the test with old and new compilers, adding +RTS -h -i0.01
22 #    (you don't need to compile anything for profiling or enable profiling
23 #    libraries to get a heap profile).
24 #  * view the heap profiles, read off the maximum residency.  If it has
25 #    really changed, then you know there's an issue.
26
27 test('T1969',
28      [compiler_stats_num_field('peak_megabytes_allocated', # Note [residency]
29           [(wordsize(32), 14, 1),
30              # 2010-05-17 14 (x86/Windows)
31              #            15 (x86/OS X)
32              #            19 (x86/OS X)
33              # 2013-02-10 13 (x86/Windows)
34              # 2013-02-10 14 (x86/OSX)
35            (wordsize(64), 30, 15)]),
36              #            28 (amd64/Linux)
37              #            34 (amd64/Linux)
38              # 2012-09-20 23 (amd64/Linux)
39              # 2012-10-03 25 (amd64/Linux if .hi exists)
40              # 2013-02-13 23, but unstable so increased to 10% range
41              # 2013-02-13 27, very unstable!
42              # 2013-09-11 30 (amd64/Linux)
43       compiler_stats_num_field('max_bytes_used',
44           [(platform('i386-unknown-mingw32'), 5094914, 2),
45                                  # 2010-05-17 5717704 (x86/Windows)
46                                  # 2013-02-10 5159748 (x86/Windows)
47                                  # 2013-02-10 5030080 (x86/Windows)
48            (wordsize(32), 6149572, 1),
49              #            6707308 (x86/OS X)
50              # 2009-12-31 6149572 (x86/Linux)
51            (wordsize(64), 11000000, 20)]),
52                # looks like the peak is around ~10M, but we're
53                # unlikely to GC exactly on the peak.
54                # varies quite a lot with CLEANUP and BINDIST,
55                # hence 10% range.
56                # See Note [residency] to get an accurate view.
57       compiler_stats_num_field('bytes allocated',
58           [(platform('i386-unknown-mingw32'), 310633884, 1),
59                                  #            215582916 (x86/Windows)
60                                  # 2012-10-29 298921816 (x86/Windows)
61                                  # 2013-02-10 310633884 (x86/Windows)
62            (wordsize(32), 322937684, 1),
63              #            221667908 (x86/OS X)
64              #            274932264 (x86/Linux)
65              # 2012-10-08 303930948 (x86/Linux, new codegen)
66              # 2013-02-10 322937684 (x86/OSX)
67            (wordsize(64), 698612512, 5)]),
68              # 17/11/2009 434845560 (amd64/Linux)
69              # 08/12/2009 459776680 (amd64/Linux)
70              # 17/05/2010 519377728 (amd64/Linux)
71              # 05/08/2011 561382568 (amd64/OS X)
72              # 16/07/2012 589168872 (amd64/Linux)
73              # 20/07/2012 595936240 (amd64/Linux)
74              # 23/08/2012 606230880 (amd64/Linux)
75              # 29/08/2012 633334184 (amd64/Linux)
76              #            (^ new codegen)
77              # 18/09/2012 641959976 (amd64/Linux)
78              # 19/10/2012 661832592 (amd64/Linux)
79              #            (^ -fPIC turned on)
80              # 23/10/2012 642594312 (amd64/Linux)
81              #            (^ -fPIC turned off again)
82              # 12/11/2012 658786936 (amd64/Linux)
83              #            (^ UNKNOWN REASON )
84              # 17/1/13:   667160192 (x86_64/Linux)
85              #            (^ new demand analyser)
86              # 18/10/2013 698612512 (x86_64/Linux)
87              #            (fix for #8456)
88       only_ways(['normal']),
89
90       extra_hc_opts('-dcore-lint -static')
91           # Leave -dcore-lint on for this one test, so that we have something
92           # that will catch a regression in -dcore-lint performance.
93       ],
94      compile,
95      [''])
96
97 # This one tests for the space leak in the native code generator,
98 # where it holds onto the entire asm output until the end.  The space
99 # leak reappears from time to time, so it's a good idea to have a test
100 # for it.  The residency of this test will jump by 10MB to 40MB or so
101 # on x86-64 if the space leak appears.
102
103 # Only run this one if we have an NCG:
104 if 'optasm' in config.compile_ways:
105    conf_3294 = only_ways(['normal'])
106 else:
107    conf_3294 = skip
108
109 test('T3294',
110      [
111       compiler_stats_num_field('max_bytes_used', # Note [residency]
112           [(wordsize(32), 20712280, 1),
113              #            17725476 (x86/OS X)
114              #            14593500 (Windows)
115              # 2013-02-10 20651576 (x86/Windows)
116              # 2013-02-10 20772984 (x86/OSX)
117            (wordsize(64), 43224080, 15)]),
118         # prev:           25753192 (amd64/Linux)
119         # 29/08/2012:     37724352 (amd64/Linux)
120         #  (increase due to new codegen, see #7198)
121         # 13/13/2012:     44894544 (amd64/Linux)
122         #  (reason for increase unknown)
123         # 15/5/2013:      36904752  (amd64/Linux)
124         #  (reason for decrease unknown)
125         # 29/5/2013:      43224080  (amd64/Linux)
126         #  (reason for increase back to earlier value unknown)
127       compiler_stats_num_field('bytes allocated',
128           [(wordsize(32), 1373514844, 5),
129            # previous:     815479800  (x86/Linux)
130            # (^ increase due to new codegen, see #7198)
131            # 2012-10-08:  1373514844 (x86/Linux)
132            (wordsize(64), 2901451552, 5)]),
133             # old:        1357587088 (amd64/Linux)
134             # 29/08/2012: 2961778696 (amd64/Linux)
135             # (^ increase due to new codegen, see #7198)
136             # 18/09/2012: 2717327208 (amd64/Linux)
137             # 08/06/2013: 2901451552 (amd64/Linux)
138             # (^ reason unknown)
139       conf_3294
140       ],
141      compile,
142      [''])
143
144 test('T4801',
145      [ # expect_broken(5224),
146        # temporarily unbroken (#5227)
147       compiler_stats_num_field('peak_megabytes_allocated',# Note [residency]
148           [(platform('x86_64-apple-darwin'), 58, 1),
149                            # expected value: 58 (amd64/OS X)
150            (wordsize(32), 30, 20),
151            (wordsize(64), 60, 20)]),
152             # prev:       50 (amd64/Linux)
153             # 19/10/2012: 64 (amd64/Linux)
154             #                (^ REASON UNKNOWN!)
155             # 12/11/2012: 49 (amd64/Linux)
156             #                (^ REASON UNKNOWN!)
157             # 28/8/13:    60 (amd64/Linux)
158             #                (^ REASON UNKNOWN!)
159
160       compiler_stats_num_field('bytes allocated',
161           [(platform('x86_64-apple-darwin'), 510938976, 5),
162                            # expected value: 510938976 (amd64/OS X):
163
164            (wordsize(32), 185669232, 10),
165         # expected value: 228286660 (x86/OS X)
166
167            (wordsize(64), 392409984, 10)]),
168             # prev:       360243576 (amd64/Linux)
169             # 19/10/2012: 447190832 (amd64/Linux) (-fPIC turned on)
170             # 19/10/2012: 392409984 (amd64/Linux) (-fPIC turned off)
171
172       compiler_stats_num_field('max_bytes_used',
173           [(platform('x86_64-apple-darwin'), 21657520, 5),
174            (wordsize(32), 11139444, 1),
175              #             9651948 (x86/OSX)
176              #            10290952 (windows)
177              # 2013-02-10 11071060 (x86/Windows)
178              # 2013-02-10 11207828 (x86/OSX)
179            (wordsize(64), 21657520, 15)]),
180                 # prev:       20486256 (amd64/OS X)
181                 # 30/08/2012: 17305600--20391920 (varies a lot)
182                 # 19/10/2012: 26882576 (-fPIC turned on)
183                 # 19/10/2012: 18619912 (-fPIC turned off)
184                 # 24/12/2012: 21657520 (perhaps gc sampling time wibbles?)
185        only_ways(['normal']),
186        extra_hc_opts('-static')
187       ],
188      compile,
189      [''])
190
191 test('T3064',
192      [# expect_broken( 3064 ),
193       compiler_stats_num_field('peak_megabytes_allocated',# Note [residency]
194           [(wordsize(32), 14, 1),
195         # expected value: 14 (x86/Linux 28-06-2012):
196            (wordsize(64), 37, 20)]),
197             # (amd64/Linux):            18
198             # (amd64/Linux) 2012-02-07: 26
199             # (amd64/Linux) 2013-02-12: 23; increased range to 10%
200             # (amd64/Linux) 2013-04-03: 26
201             # (amd64/Linux) 2013-09-11: 30; result of AMP patch
202             # Increased range to 20%.  peak-usage varies from 22 to 26,
203             #  depending on whether the old .hi file exists
204             # (amd64/Linux) 2013-09-11: 37; better arity analysis (weird)
205
206       compiler_stats_num_field('bytes allocated',
207           [(wordsize(32), 111189536, 10),
208          # expected value: 56380288 (x86/Linux) (28/6/2011)
209          #                111189536 (x86/Windows) (30/10/12)
210            (wordsize(64), 329795912, 5)]),
211             # (amd64/Linux) (28/06/2011):  73259544
212             # (amd64/Linux) (07/02/2013): 224798696
213             # (amd64/Linux) (02/08/2013): 236404384, increase from roles
214             # (amd64/Linux) (11/09/2013): 290165632, increase from AMP warnings
215             # (amd64/Linux) (22/11/2013): 308300448, GND via Coercible and counters for constraints solving
216             # (amd64/Linux) (02/12/2013): 329795912, Coercible refactor
217       compiler_stats_num_field('max_bytes_used',
218           [(wordsize(32), 5511604, 20),
219         # expected value: 2247016 (x86/Linux) (28/6/2011):
220            (wordsize(64), 16266992, 20)]),
221             # (amd64/Linux, intree) (28/06/2011):  4032024
222             # (amd64/Linux, intree) (07/02/2013):  9819288
223             # (amd64/Linux)         (14/02/2013):  8687360
224             # (amd64/Linux)         (18/02/2013):  9397488
225             # (amd64/Linux)         (02/08/2013): 10742536, increase from roles
226             # (amd64/Linux)         (19/08/2013): 9211816,  decrease apparently from better eta reduction
227             # (amd64/Linux)         (11/09/2013): 12000480, increase from AMP warnings
228             #                                     933cdf15a2d85229d3df04b437da31fdfbf4961f
229             # (amd64/Linux)         (22/11/2013): 16266992, GND via Coercible and counters for constraints solving
230        only_ways(['normal'])
231       ],
232      compile,
233      [''])
234
235 test('T4007',
236      normal,
237      run_command,
238      ['$MAKE -s --no-print-directory T4007'])
239
240 test('T5030',
241      [compiler_stats_num_field('bytes allocated',
242           [(wordsize(32), 259547660, 10),
243            # previous:    196457520
244            # 2012-10-08:  259547660 (x86/Linux, new codegen)
245            (wordsize(64), 397672152, 10)]),
246              # Previously 530000000 (+/- 10%)
247              # 17/1/13:   602993184  (x86_64/Linux)
248              #            (new demand analyser)
249              # 2013-06-08 538467496  (x86_64/Linux)
250              # ^ reason unknown
251              # 2013-08-02 454498592  (amd64/Linux)
252              # decrease from more aggressive coercion optimisations from roles
253              # 2013-11-12 397672152  (amd64/Linux)
254              # big decrease following better CSE and arity
255
256        only_ways(['normal'])
257       ],
258      compile,
259      ['-fcontext-stack=300'])
260
261 test('T5631',
262      [compiler_stats_num_field('bytes allocated',
263           [(wordsize(32), 392904228, 10),
264         # expected value: 392904228 (x86/Linux)
265            (wordsize(64), 774595008, 5)]),
266         # expected value: 774595008 (amd64/Linux):
267        only_ways(['normal'])
268       ],
269      compile,
270      [''])
271
272 test('parsing001',
273      [compiler_stats_num_field('bytes allocated',
274           [(wordsize(32), 274000576, 10),
275            (wordsize(64), 587079016, 5)]),
276         # expected value: 587079016 (amd64/Linux)
277        only_ways(['normal']),
278       ],
279      compile_fail, [''])
280
281
282 test('T783',
283      [ only_ways(['normal']),  # no optimisation for this one
284       # expected value: 175,569,928 (x86/Linux)
285       compiler_stats_num_field('bytes allocated',
286           [(wordsize(32), 333833658, 2),
287             # 2012-10-08: 226907420 (x86/Linux)
288             # 2013-02-10: 329202116 (x86/Windows)
289             # 2013-02-10: 338465200 (x86/OSX)
290            (wordsize(64), 654804144, 10)]),
291             # prev:       349263216 (amd64/Linux)
292             # 07/08/2012: 384479856 (amd64/Linux)
293             # 29/08/2012: 436927840 (amd64/Linux)
294             # 12/11/2012: 640324528 (amd64/Linux)
295             #   (OldCmm removed: not sure why this got worse, the
296             #    other perf tests remained about the same)
297             # 18/10/2013: 734038080 (amd64/Linux)
298             #   (fix for #8456)
299             # 24/10/2013: 654804144 (amd64/Linux)
300             #   (fix previous fix for #8456)
301       extra_hc_opts('-static')
302       ],
303       compile,[''])
304
305 test('T5321Fun',
306      [ only_ways(['normal']),  # no optimisation for this one
307        compiler_stats_num_field('bytes allocated',
308            [(wordsize(32), 344416344, 10),
309              # prev:       300000000
310              # 2012-10-08: 344416344 x86/Linux
311              #  (increase due to new codegen)
312             (wordsize(64), 694019152, 10)])
313              # prev:       585521080
314              # 29/08/2012: 713385808
315              #  (increase due to new codegen)
316              # 15/05/2013: 628341952
317              #  (reason for decrease unknown)
318              # 24/06/2013: 694019152
319              #  (reason for re-increase unknown)
320       ],
321       compile,[''])
322
323 test('T5321FD',
324      [ only_ways(['normal']),  # no optimisation for this one
325       compiler_stats_num_field('bytes allocated',
326           [(wordsize(32), 240302920, 10),
327             # prev:       213380256
328             # 2012-10-08: 240302920 (x86/Linux)
329             #  (increase due to new codegen)
330            (wordsize(64), 476497048, 10)])
331             # prev:       418306336
332             # 29/08/2012: 492905640
333             #  (increase due to new codegen)
334             # 15/05/2013: 406039584
335             #  (reason for decrease unknown)
336             # 08/06/2013: 476497048
337             #  (reason for increase unknown)
338       ],
339       compile,[''])
340
341 test('T5642',
342      [ only_ways(['normal']),
343        compiler_stats_num_field('bytes allocated',
344            [(wordsize(32), 650000000, 10),
345                      # sample from x86/Linux
346             (wordsize(64), 1300000000, 10)])
347       ],
348       compile,['-O'])
349
350 test('T5837',
351      [ only_ways(['normal']),
352       compiler_stats_num_field('bytes allocated',
353           [(wordsize(32), 40000000, 10),
354           # sample from x86/Linux
355            (wordsize(64), 86795752, 10)])
356               # sample: 3926235424 (amd64/Linux, 15/2/2012)
357              # 2012-10-02 81879216
358              # 2012-09-20 87254264 amd64/Linux
359              # 2013-09-18 90587232 amd64/Linux
360              # 2013-11-21 86795752 amd64/Linux, GND via Coercible and counters
361              #                                  for constraints solving
362       ],
363       compile_fail,['-ftype-function-depth=50'])
364
365 test('T6048',
366      [ only_ways(['optasm']),
367       compiler_stats_num_field('bytes allocated',
368           [(wordsize(32), 48887164, 10),
369             # prev:       38000000 (x86/Linux)
370             # 2012-10-08: 48887164 (x86/Linux)
371            (wordsize(64), 97247032, 10)])
372              # 18/09/2012 97247032 amd64/Linux
373       ],
374       compile,[''])