Add two small optimizations. (#11196)
[ghc.git] / testsuite / tests / perf / compiler / all.T
1 # Tests that call 'compiler_stats_num_field' are skipped when debugging is on.
2 # See testsuite/driver/testlib.py.
3
4 def no_lint(name, opts):
5    opts.compiler_always_flags = \
6        [opt for opt in opts.compiler_always_flags if opt != '-dcore-lint' and opt != '-dcmm-lint']
7
8 setTestOpts(no_lint)
9
10
11 # Note [residency]
12 #
13 # Residency (peak_megabytes_allocated and max_bytes_used) is sensitive
14 # to when the major GC runs, which makes it inherently inaccurate.
15 # Sometime an innocuous change somewhere can shift things around such
16 # that the samples occur at a different time, and the residency
17 # appears to change (up or down) when the underlying profile hasn't
18 # really changed.
19 #
20 # However, please don't just ignore changes in residency.  If you see
21 # a change in one of these figures, please check whether it is real or
22 # not as follows:
23 #
24 #  * Run the test with old and new compilers, adding +RTS -h -i0.01
25 #    (you don't need to compile anything for profiling or enable profiling
26 #    libraries to get a heap profile).
27 #  * view the heap profiles, read off the maximum residency.  If it has
28 #    really changed, then you know there's an issue.
29
30 test('T1969',
31      [compiler_stats_num_field('peak_megabytes_allocated', # Note [residency]
32           [(wordsize(32), 21, 15),
33              # 2010-05-17 14 (x86/Windows)
34              #            15 (x86/OS X)
35              #            19 (x86/OS X)
36              # 2013-02-10 13 (x86/Windows)
37              # 2013-02-10 14 (x86/OSX)
38              # 2013-11-13 17 (x86/Windows, 64bit machine)
39              # 2015-07-11 21 (x86/Linux, 64bit machine) use +RTS -G1
40            (wordsize(64), 55, 20)]),
41              #            28 (amd64/Linux)
42              #            34 (amd64/Linux)
43              # 2012-09-20 23 (amd64/Linux)
44              # 2012-10-03 25 (amd64/Linux if .hi exists)
45              # 2013-02-13 23, but unstable so increased to 10% range
46              # 2013-02-13 27, very unstable!
47              # 2014-09-10 29 (amd64/Linux) post-AMP-cleanup
48              # 2013-09-11 30, 10 (amd64/Linux)
49              # 2013-09-11 30, 15 (adapt to Phab CI)
50              # 2015-06-03 41, (amd64/Linux) use +RTS -G1
51              # 2015-10-28 55, (amd64/Linux) emit Typeable at definition site
52       compiler_stats_num_field('max_bytes_used',
53           [(platform('i386-unknown-mingw32'), 5719436, 20),
54                                  # 2010-05-17 5717704 (x86/Windows)
55                                  # 2013-02-10 5159748 (x86/Windows)
56                                  # 2013-02-10 5030080 (x86/Windows)
57                                  # 2013-11-13 7295012 (x86/Windows, 64bit machine)
58                                  # 2014-04-24 5719436 (x86/Windows, 64bit machine)
59            (wordsize(32), 6241108, 1),
60              #            6707308 (x86/OS X)
61              # 2009-12-31 6149572 (x86/Linux)
62              # 2014-01-22 6429864 (x86/Linux)
63              # 2014-06-29 5949188 (x86/Linux)
64              # 2015-07-11 6241108 (x86/Linux, 64bit machine) use +RTS -G1
65            (wordsize(64), 15017528, 15)]),
66              # 2014-09-10 10463640, 10  # post-AMP-update (somewhat stabelish)
67                # looks like the peak is around ~10M, but we're
68                # unlikely to GC exactly on the peak.
69                # varies quite a lot with CLEANUP and BINDIST,
70                # hence 10% range.
71                # See Note [residency] to get an accurate view.
72              # 2014-09-14  9684256, 10 # try to lower it a bit more to match Phab's CI
73              # 2014-11-03 10584344,    # ghcspeed reports higher numbers consistently
74              # 2015-07-11 11670120 (amd64/Linux)
75              # 2015-10-28 15017528 (amd64/Linux) emit typeable at definition site
76       compiler_stats_num_field('bytes allocated',
77           [(platform('i386-unknown-mingw32'), 301784492, 5),
78                                  #            215582916 (x86/Windows)
79                                  # 2012-10-29 298921816 (x86/Windows)
80                                  # 2013-02-10 310633884 (x86/Windows)
81                                  # 2013-11-13 317975916 (x86/Windows, 64bit machine)
82                                  # 2014-04-04 301784492 (x86/Windows, 64bit machine)
83            (wordsize(32), 288699104, 1),
84              #            221667908 (x86/OS X)
85              #            274932264 (x86/Linux)
86              # 2012-10-08 303930948 (x86/Linux, new codegen)
87              # 2013-02-10 322937684 (x86/OSX)
88              # 2014-01-22 316103268 (x86/Linux)
89              # 2014-06-29 303300692 (x86/Linux)
90              # 2015-07-11 288699104 (x86/Linux, 64-bit machine) use +RTS -G1
91            (wordsize(64), 695430728, 5)]),
92              # 17/11/2009 434845560 (amd64/Linux)
93              # 08/12/2009 459776680 (amd64/Linux)
94              # 17/05/2010 519377728 (amd64/Linux)
95              # 05/08/2011 561382568 (amd64/OS X)
96              # 16/07/2012 589168872 (amd64/Linux)
97              # 20/07/2012 595936240 (amd64/Linux)
98              # 23/08/2012 606230880 (amd64/Linux)
99              # 29/08/2012 633334184 (amd64/Linux) new codegen
100              # 18/09/2012 641959976 (amd64/Linux)
101              # 19/10/2012 661832592 (amd64/Linux) -fPIC turned on
102              # 23/10/2012 642594312 (amd64/Linux) -fPIC turned off again
103              # 12/11/2012 658786936 (amd64/Linux) UNKNOWN REASON
104              # 17/1/13:   667160192 (x86_64/Linux) new demand analyser
105              # 18/10/2013 698612512 (x86_64/Linux) fix for #8456
106              # 10/02/2014 660922376 (x86_64/Linux) call arity analysis
107              # 17/07/2014 651626680 (x86_64/Linux) roundabout update
108              # 10/09/2014 630299456 (x86_64/Linux) post-AMP-cleanup
109              # 03/06/2015 581460896 (x86_64/Linux) use +RTS -G1
110              # 28/10/2015 695430728 (x86_64/Linux) emit Typeable at definition site
111       only_ways(['normal']),
112
113       extra_hc_opts('-dcore-lint -static'),
114           # Leave -dcore-lint on for this one test, so that we have something
115           # that will catch a regression in -dcore-lint performance.
116
117       # Use `+RTS -G1` for more stable residency measurements. Note [residency].
118       extra_hc_opts('+RTS -G1 -RTS')
119       ],
120      compile,
121      [''])
122
123 # This one tests for the space leak in the native code generator,
124 # where it holds onto the entire asm output until the end.  The space
125 # leak reappears from time to time, so it's a good idea to have a test
126 # for it.  The residency of this test will jump by 10MB to 40MB or so
127 # on x86-64 if the space leak appears.
128
129 # Only run this one if we have an NCG:
130 if 'optasm' in config.compile_ways:
131    conf_3294 = only_ways(['normal'])
132 else:
133    conf_3294 = skip
134
135 test('T3294',
136      [
137       compiler_stats_num_field('max_bytes_used', # Note [residency]
138           [(wordsize(32), 43196344, 15),
139              #            17725476 (x86/OS X)
140              #            14593500 (Windows)
141              # 2013-02-10 20651576 (x86/Windows)
142              # 2013-02-10 20772984 (x86/OSX)
143              # 2013-11-13 24009436 (x86/Windows, 64bit machine)
144              # 2014-04-24 19882188 (x86/Windows, 64bit machine)
145              # 2014-12-22 26525384 (x86/Windows) Increase due to silent superclasses?
146              # 2015-07-11 43196344 (x86/Linux, 64-bit machine) use +RTS -G1
147
148            (wordsize(64), 50367248, 20)]),
149              # prev:           25753192 (amd64/Linux)
150              # 29/08/2012:     37724352 (amd64/Linux)
151              #  (increase due to new codegen, see #7198)
152              # 13/13/2012:     44894544 (amd64/Linux)
153              #  (reason for increase unknown)
154              # 15/5/2013:      36904752  (amd64/Linux)
155              #  (reason for decrease unknown)
156              # 29/5/2013:      43224080  (amd64/Linux)
157              #  (reason for increase back to earlier value unknown)
158              # 2014-07-14:     36670800  (amd64/Linux)
159              #  (reason unknown, setting expected value somewhere in between)
160              # 2015-01-22:     45000000  (amd64/Linux)
161              #  varies between 40959592 and 52914488... increasing to +-20%
162              # 2015-10-28:     50367248  (amd64/Linux)
163              #  D757: emit Typeable instances at site of type definition
164
165       compiler_stats_num_field('bytes allocated',
166           [(wordsize(32), 1377050640, 5),
167            # previous:     815479800  (x86/Linux)
168            # (^ increase due to new codegen, see #7198)
169            # 2012-10-08:  1373514844 (x86/Linux)
170            # 2013-11-13: 1478325844  (x86/Windows, 64bit machine)
171            # 2014-01-12: 1565185140  (x86/Linux)
172            # 2013-04-04: 1377050640  (x86/Windows, 64bit machine)
173            (wordsize(64), 2709595808, 5)]),
174             # old:        1357587088 (amd64/Linux)
175             # 29/08/2012: 2961778696 (amd64/Linux)
176             # (^ increase due to new codegen, see #7198)
177             # 18/09/2012: 2717327208 (amd64/Linux)
178             # 08/06/2013: 2901451552 (amd64/Linux) (reason unknown)
179             # 12/12/2013: 3083825616 (amd64/Linux) (reason unknown)
180             # 18/02/2014: 2897630040 (amd64/Linux) (call arity improvements)
181             # 12/03/2014: 2705289664 (amd64/Linux) (more call arity improvements)
182             # 2014-17-07: 2671595512 (amd64/Linux) (round-about update)
183             # 2014-09-10: 2709595808 (amd64/Linux) post-AMP cleanup
184       conf_3294,
185
186       # Use `+RTS -G1` for more stable residency measurements. Note [residency].
187       extra_hc_opts('+RTS -G1 -RTS')
188       ],
189      compile,
190      [''])
191
192 test('T4801',
193      [ # expect_broken(5224),
194        # temporarily unbroken (#5227)
195 ###################################
196 # deactivated for now, as this metric became too volatile recently
197 #      compiler_stats_num_field('peak_megabytes_allocated',# Note [residency]
198 #          [(platform('x86_64-apple-darwin'), 70, 1),
199 #                           # expected value: 58 (amd64/OS X)
200 #                           # 13/01/2014 - 70
201 #           (wordsize(32), 30, 20),
202 #           (wordsize(64), 48, 20)]),
203 #            # prev:       50 (amd64/Linux)
204 #            # 19/10/2012: 64 (amd64/Linux)
205 #            #                (^ REASON UNKNOWN!)
206 #            # 12/11/2012: 49 (amd64/Linux)
207 #            #                (^ REASON UNKNOWN!)
208 #            # 28/8/13:    60 (amd64/Linux)
209 #            #                (^ REASON UNKNOWN!)
210 #            # 2014-09-10: 55 post-AMP-cleanup
211 #            # 2014-10-08: 62 (jumps between 55 and 71 observed -- GC tipping point?)
212 #            # 2014-10-13: 48 stricter seqDmdType
213
214       compiler_stats_num_field('bytes allocated',
215           [(platform('x86_64-apple-darwin'), 465653312, 10),
216            # prev:       510938976 (amd64/OS X):
217            # 2015-12-11: 465653312 (amd64/OS X) Update, bump tolerance to +/-10%
218
219            (wordsize(32), 203962148, 10),
220            # prev:        185669232 (x86/OSX)
221            # 2014-01-22:  211198056 (x86/Linux)
222            # 2014-09-03:  185242032 (Windows laptop)
223            # 2014-12-01:  203962148 (Windows laptop)
224            (wordsize(64), 434278248, 10)]),
225             # prev:       360243576 (amd64/Linux)
226             # 19/10/2012: 447190832 (amd64/Linux) (-fPIC turned on)
227             # 19/10/2012: 392409984 (amd64/Linux) (-fPIC turned off)
228             # 2014-04-08: 362939272 (amd64/Linux) cumulation of various smaller improvements over recent commits
229             # 2014-10-08: 382056344 (amd64/Linux) stricter foldr2 488e95b
230             # 2015-10-28: 434278248 (amd64/Linux) emit Typeable at definition site
231
232 ###################################
233 # deactivated for now, as this metric became too volatile recently
234 #
235 #     compiler_stats_num_field('max_bytes_used',
236 #         [(platform('x86_64-apple-darwin'), 25145320, 5),
237 #          (wordsize(32), 11829000, 15),
238 #            #              9651948 (x86/OSX)
239 #            #              10290952 (windows)
240 #            # 2013-02-10   11071060 (x86/Windows)
241 #            # 2013-02-10:  11207828 (x86/OSX)
242 #            # (some date): 11139444
243 #            # 2013-11-13:  11829000 (x86/Windows, 64bit machine)
244 #          (wordsize(64), 19296544, 15)]),
245 #               # prev:       20486256 (amd64/OS X)
246 #               # 30/08/2012: 17305600--20391920 (varies a lot)
247 #               # 19/10/2012: 26882576 (-fPIC turned on)
248 #               # 19/10/2012: 18619912 (-fPIC turned off)
249 #               # 24/12/2012: 21657520 (perhaps gc sampling time wibbles?)
250 #               # 10/01/2014: 25166280
251 #               # 13/01/2014: 22646000 (mostly due to #8647)
252 #               # 18/02/2014: 25002136 (call arity analysis changes)
253 #               # 12/05/2014: 25002136 (specialisation and inlining changes)
254 #               # 10/09/2014: 19296544, 10 (post-AMP-cleanup)
255 #               # 14/09/2014: 19585456, 15 (adapt to Phab CI env)
256        only_ways(['normal']),
257        extra_hc_opts('-static'),
258
259        # Use `+RTS -G1` for more stable residency measurements. Note [residency].
260        extra_hc_opts('+RTS -G1 -RTS')
261        ],
262      compile,
263      [''])
264
265 test('T3064',
266      [compiler_stats_num_field('peak_megabytes_allocated',# Note [residency]
267           [(wordsize(32), 28, 20),
268             # expected value: 14 (x86/Linux 28-06-2012):
269             # 2013-11-13:     18 (x86/Windows, 64bit machine)
270             # 2014-01-22:     23 (x86/Linux)
271             # 2014-12-22:     23 (x86/Linux) death to silent superclasses
272             # 2015-07-11      28 (x86/Linux, 64-bit machine) use +RTS -G1
273            (wordsize(64), 54, 20)]),
274             # (amd64/Linux):            18
275             # (amd64/Linux) 2012-02-07: 26
276             # (amd64/Linux) 2013-02-12: 23; increased range to 10%
277             # (amd64/Linux) 2013-04-03: 26
278             # (amd64/Linux) 2013-09-11: 30; result of AMP patch
279             # Increased range to 20%.  peak-usage varies from 22 to 26,
280             #  depending on whether the old .hi file exists
281             # (amd64/Linux) 2013-09-11: 37; better arity analysis (weird)
282             # (amd64/Linux) (09/09/2014): 42, AMP changes (larger interfaces, more loading)
283             # (amd64/Linux) 2014-10-13: 38: Stricter seqDmdType
284             # (amd64/Linux) 2014-12-22: 27: death to silent superclasses
285             # (amd64/Linux) 2015-01-22: 32: Varies from 30 to 34, at least here.
286             # (amd64/Linux) 2015-06-03: 54: use +RTS -G1
287
288       compiler_stats_num_field('bytes allocated',
289           [(wordsize(32), 122836340, 10),
290             # 2011-06-28: 56380288  (x86/Linux)
291             # 2012-10-30: 111189536 (x86/Windows)
292             # 2013-11-13: 146626504 (x86/Windows, 64bit machine)
293             # 2014-01-22: 162457940 (x86/Linux)
294             # 2014-12-01: 162457940 (Windows)
295             # 2014-12-22: 122836340 (Windows) Death to silent superclasses
296
297            (wordsize(64), 304344936, 5)]),
298             # (amd64/Linux) (28/06/2011):  73259544
299             # (amd64/Linux) (07/02/2013): 224798696
300             # (amd64/Linux) (02/08/2013): 236404384, increase from roles
301             # (amd64/Linux) (11/09/2013): 290165632, increase from AMP warnings
302             # (amd64/Linux) (22/11/2013): 308300448, GND via Coercible and counters for constraints solving
303             # (amd64/Linux) (02/12/2013): 329795912, Coercible refactor
304             # (amd64/Linux) (11/02/2014): 308422280, optimize Coercions in simpleOptExpr
305             # (amd64/Linux) (23/05/2014): 324022680, unknown cause
306             # (amd64/Linux) (2014-07-17): 332702112, general round of updates
307             # (amd64/Linux) (2014-08-29): 313638592, w/w for INLINABLE things
308             # (amd64/Linux) (09/09/2014): 407416464, AMP changes (larger interfaces, more loading)
309             # (amd64/Linux) (14/09/2014): 385145080, BPP changes (more NoImplicitPrelude in base)
310             # (amd64/Linux) (10/12/2014): 363103840, improvements in constraint solver
311             # (Mac)         (18/12/2014): 350418600, improvements to flattener
312             # (amd64/Linux) (22/12/2014): 243670824, Ha! Death to superclass constraints, makes
313             #                                        much less code for Monad instances
314             # (amd64/Linux) (01/12/2015): 264952256, Regression due to Simon's wildcard refactor
315             #                                        Tracked as #11151.
316             # (amd64/Linux) (11/12/2015): 304344936, Regression due to TypeInType
317             #                                        Tracked as #11196
318
319 ###################################
320 # deactivated for now, as this metric became too volatile recently
321 #
322 #      compiler_stats_num_field('max_bytes_used',
323 #          [(wordsize(32), 11202304, 20),
324 #            # 2011-06-28:  2247016 (x86/Linux) (28/6/2011):
325 #            #(some date):  5511604
326 #            # 2013-11-13:  7218200 (x86/Windows, 64bit machine)
327 #            # 2014-04-04: 11202304 (x86/Windows, 64bit machine)
328 #           (wordsize(64), 13251728, 20)]),
329 #            # (amd64/Linux, intree) (28/06/2011):  4032024
330 #            # (amd64/Linux, intree) (07/02/2013):  9819288
331 #            # (amd64/Linux)         (14/02/2013):  8687360
332 #            # (amd64/Linux)         (18/02/2013):  9397488
333 #            # (amd64/Linux)         (02/08/2013): 10742536, increase from roles
334 #            # (amd64/Linux)         (19/08/2013): 9211816,  decrease apparently from better eta reduction
335 #            # (amd64/Linux)         (11/09/2013): 12000480, increase from AMP warnings
336 #            #                                     933cdf15a2d85229d3df04b437da31fdfbf4961f
337 #            # (amd64/Linux)         (22/11/2013): 16266992, GND via Coercible and counters for constraints solving
338 #            # (amd64/Linux)         (12/12/2013): 19821544, better One shot analysis
339 #            # (amd64/Linux)         (09/09/2014): 24357392, AMP changes (larger interfaces, more loading)
340 #            # (amd64/Linux)         (14/09/2014): 16053888, BPP changes (more NoImplicitPrelude in base)
341 #            # (amd64/Linux)         (19/09/2014): 18744992, unknown
342 #            # (amd64/Linux)         2014-10-13:   13251728, Stricter seqDmdType
343
344        only_ways(['normal']),
345
346        # Use `+RTS -G1` for more stable residency measurements. Note [residency].
347        extra_hc_opts('+RTS -G1 -RTS')
348       ],
349      compile,
350      [''])
351
352 test('T4007',
353      normal,
354      run_command,
355      ['$MAKE -s --no-print-directory T4007'])
356
357 test('T5030',
358      [compiler_stats_num_field('bytes allocated',
359           [(wordsize(32), 201882912, 10),
360            # previous:    196457520
361            # 2012-10-08:  259547660 (x86/Linux, new codegen)
362            # 2013-11-21:  198573456 (x86 Windows, 64 bit machine)
363            # 2014-12-10:  227205560 constraint solver got worse again; more aggressive solving
364            #                        of family-applications leads to less sharing, I think
365            # 2015-07-11:  201882912 reason unknown
366
367            (wordsize(64), 342331936, 10)]),
368              # Previously 530000000 (+/- 10%)
369              # 17/1/13:   602993184  (x86_64/Linux)
370              #            (new demand analyser)
371              # 2013-06-08 538467496  (x86_64/Linux)
372              # ^ reason unknown
373              # 2013-08-02 454498592  (amd64/Linux)
374              # decrease from more aggressive coercion optimisations from roles
375              # 2013-11-12 397672152  (amd64/Linux)
376              # big decrease following better CSE and arity
377              # 2014-07-17 409314320  (amd64/Linux)
378              # general round of updates
379              # 2014-09-10 385152728  post-AMP-cleanup
380              # 2014-12-08 340969128  constraint solver perf improvements (esp kick-out)
381              # 2014-12-10 449042120  constraint solver got worse again; more aggressive solving
382              #                          of family-applications leads to less sharing, I think
383              # 2015-03-17 403932600  tweak to solver algorithm
384              # 2015-12-11 653710960  TypeInType (see #11196)
385              # 2016-03-14 342331936  unify type families eagerly
386
387        only_ways(['normal'])
388       ],
389      compile,
390      ['-freduction-depth=300'])
391
392 test('T5631',
393      [compiler_stats_num_field('bytes allocated',
394           [(wordsize(32), 390199244, 10),
395         # expected value: 392904228 (x86/Linux)
396         # 2014-04-04:     346389856 (x86 Windows, 64 bit machine)
397         # 2014-12-01:     390199244 (Windows laptop)
398            (wordsize(64), 1124068664, 5)]),
399         # expected value: 774595008 (amd64/Linux):
400         # expected value: 735486328 (amd64/Linux) 2012/12/12:
401         # expected value: 690742040 (amd64/Linux) Call Arity improvements
402         # 2014-09-09:     739704712 (amd64/Linux) AMP changes
403         # 2014-11-04:     776121120 (amd64/Linux) new-flatten-skolems
404         # 2015-06-01:     812288344 (amd64/Linux) unknown cause
405         # 2015-12-11:     1128828928 (amd64/Linux) TypeInType (see #11196)
406         # 2015-12-21:     1198327544 (Mac) TypeApplications (will fix with #11196)
407         # 2015-03-18:     1124068664 (Mac) optimize Unify & zonking
408        only_ways(['normal'])
409       ],
410      compile,
411      [''])
412
413 test('parsing001',
414      [compiler_stats_num_field('bytes allocated',
415           [(wordsize(32), 274000576, 10),
416            (wordsize(64), 587079016, 5)]),
417         # expected value: 587079016 (amd64/Linux)
418        only_ways(['normal']),
419       ],
420      compile_fail, [''])
421
422
423 test('T783',
424      [ only_ways(['normal']),  # no optimisation for this one
425       # expected value: 175,569,928 (x86/Linux)
426       compiler_stats_num_field('bytes allocated',
427           [(wordsize(32), 235002220, 5),
428             # 2012-10-08: 226907420 (x86/Linux)
429             # 2013-02-10: 329202116 (x86/Windows)
430             # 2013-02-10: 338465200 (x86/OSX)
431             # 2014-04-04: 319179104 (x86 Windows, 64 bit machine)
432             # 2014-09-03: 223377364 (Windows) better specialisation, raft of core-to-core optimisations
433             # 2014-12-22: 235002220 (Windows) not sure why
434
435            (wordsize(64), 488592288, 10)]),
436             # prev:       349263216 (amd64/Linux)
437             # 07/08/2012: 384479856 (amd64/Linux)
438             # 29/08/2012: 436927840 (amd64/Linux)
439             # 12/11/2012: 640324528 (amd64/Linux)
440             #   (OldCmm removed: not sure why this got worse, the
441             #    other perf tests remained about the same)
442             # 18/10/2013: 734038080 (amd64/Linux)
443             #   (fix for #8456)
444             # 24/10/2013: 654804144 (amd64/Linux)
445             #   (fix previous fix for #8456)
446             # 2014-07-17: 640031840 (amd64/Linux)
447             #   (general round of updates)
448             # 2014-08-29: 441932632 (amd64/Linux)
449             #   (better specialisation, raft of core-to-core optimisations)
450             # 2014-08-29: 719814352 (amd64/Linux)
451             #   (changed order of cmm block causes analyses to allocate much more,
452             #      but the changed order is slighly better in terms of runtime, and
453             #      this test seems to be an extreme outlier.)
454             # 2015-05-16: 548288760 (amd64/Linux)
455             #   (improved sequenceBlocks in nativeCodeGen, #10422)
456             # 2015-08-07: 470738808 (amd64/Linux)
457             #   (simplifying the switch plan code path for simple checks, #10677)
458             # 2015-08-28: 526230456 (amd64/Linux)
459             #    (D757: Emit Typeable instances at site of type definition)
460             # 2015-12-04: 1134085384 (amd64/Linux)
461             #    (D1535: Major overhaul of pattern match checker, #11162)
462             # 2016-02-03: 488592288 (amd64/Linux)
463             #    (D1795: Another overhaul of pattern match checker, #11374)
464       extra_hc_opts('-static')
465       ],
466       compile,[''])
467
468 test('T5321Fun',
469      [ only_ways(['normal']),  # no optimisation for this one
470        compiler_stats_num_field('bytes allocated',
471            [(wordsize(32), 206406188, 10),
472              # prev:       300000000
473              # 2012-10-08: 344416344 x86/Linux
474              #  (increase due to new codegen)
475              # 2014-09-03: 299656164     (specialisation and inlining)
476              # 10/12/2014: 206406188     #  Improvements in constraint solver
477             (wordsize(64), 565883176, 10)])
478              # prev:       585521080
479              # 29/08/2012: 713385808     #  (increase due to new codegen)
480              # 15/05/2013: 628341952     #  (reason for decrease unknown)
481              # 24/06/2013: 694019152     #  (reason for re-increase unknown)
482              # 12/05/2014: 614409344     #  (specialisation and inlining changes)
483              # 10/09/2014: 601629032     #  post-AMP-cleanup
484              # 06/11/2014: 541287000     #  Simon's flat-skol changes to the constraint solver
485              # 10/12/2014: 408110888     #  Improvements in constraint solver
486              # 16/12/2014: 429921312     #  Flattener parameterized over roles
487              # 10/08/2015: 509921312
488              #  (undefined now takes an implicit parameter and GHC -O0 does
489              #  not recognize that the application is bottom)
490              # 11/12/2015: 565883176     #  TypeInType (see #11196)
491       ],
492       compile,[''])
493
494 test('T5321FD',
495      [ only_ways(['normal']),  # no optimisation for this one
496       compiler_stats_num_field('bytes allocated',
497           [(wordsize(32), 211699816, 10),
498             # prev:       213380256
499             # 2012-10-08: 240302920 (x86/Linux)
500             #  (increase due to new codegen)
501             # 2014-07-31: 211699816 (Windows) (-11%)
502             #  (due to better optCoercion, 5e7406d9, #9233)
503            (wordsize(64), 532365376, 10)])
504             # prev:       418306336
505             # 29/08/2012: 492905640
506             #  (increase due to new codegen)
507             # 15/05/2013: 406039584
508             #  (reason for decrease unknown)
509             # 08/06/2013: 476497048
510             #  (reason for increase unknown)
511             # before 2014-07-17: 441997096
512             #  (with -8%, still in range, hence cause not known)
513             # 2014-07-17: 426960992 (-11% of previous value)
514             #  (due to better optCoercion, 5e7406d9, #9233)
515             # 2014-10-08  410895536
516             #  (various changes; biggest improvements due to 949ad67 and FastString package ids)
517             # 2015-08-10: 470895536
518             #  (undefined now takes an implicit parameter and GHC -O0 does
519             #  not recognize that the application is bottom)
520             # 2015-10-28: 532365376
521             #  D757: emit Typeable instances at site of type definition
522       ],
523       compile,[''])
524
525 test('T5642',
526      [ only_ways(['normal']),
527        normal,
528        compiler_stats_num_field('bytes allocated',
529            [(wordsize(32), 641085256, 10),
530                      # sample from x86/Linux
531             # prev:        650000000
532             # 2014-09-03:  753045568
533             # 2014-12-10:  641085256 Improvements in constraints solver
534
535             (wordsize(64), 950004816, 10)])
536             # prev:        1300000000
537             # 2014-07-17:  1358833928 (general round of updates)
538             # 2014-08-07:  1402242360 (caused by 1fc60ea)
539 # Watch out for:
540             # 23/05/2014:  1452688392 (More aggressive specialisation means we get
541             #                          specialised copies of imported functions that
542             #                          are ultimately discarded by trimAutoRules
543             #                          It's a bizarre program with LOTS of data types)
544             # 2014-09-10:  1536924976 post-AMP-cleanup
545             # 2014-12-10:  1282916024 Improvements in constraints solver
546             # 2015-10-28:  1412808976 Emit Typeable at definition site
547             # 2015-11-22:  1071915072 Use TypeLits in the metadata encoding
548             # 2016-02-08:  950004816  Pattern match checker re-rework
549       ],
550       compile,['-O'])
551
552 test('T5837',
553      [ only_ways(['normal']),
554       compiler_stats_num_field('bytes allocated',
555           [(wordsize(32), 115905208, 10),
556              # 40000000 (x86/Linux)
557              # 2013-11-13:  45520936 (x86/Windows, 64bit machine)
558              # 2014-09-03:  37096484 (Windows laptop, w/w for INLINABLE things
559              # 2014-12-01: 135914136 (Windows laptop, regression see below)
560              # 2014-12-08  115905208  Constraint solver perf improvements (esp kick-out)
561
562            (wordsize(64), 48507272, 10)])
563              # sample: 3926235424 (amd64/Linux, 15/2/2012)
564              # 2012-10-02 81879216
565              # 2012-09-20 87254264 amd64/Linux
566              # 2013-09-18 90587232 amd64/Linux
567              # 2013-11-21 86795752 amd64/Linux, GND via Coercible and counters
568              #                                  for constraints solving
569              # 2014-08-29 73639840 amd64/Linux, w/w for INLINABLE things
570              # 2014-10-08 73639840 amd64/Linux, Burning Bridges and other small changes
571              # 2014-11-06 271028976       Linux, Accept big regression;
572              #   See Note [An alternative story for the inert substitution] in TcFlatten
573              # 2014-12-08 234790312 Constraint solver perf improvements (esp kick-out)
574              # 2014-12-16 231155640 Mac  Flattener parameterized over roles;
575              #                           some optimization
576              # 2015-03-17 53424304  Mac  Better depth checking; fails earlier
577              # 2015-06-09 38834096  Better "improvement"; I'm not sure whey it improves things
578              # 2015-12-11 43877520  amd64/Linux, TypeInType (see #11196)
579              # 2016-03-18 48507272  Mac, accept small regression in exchange
580              #                           for other optimisations
581       ],
582       compile_fail,['-freduction-depth=50'])
583
584 test('T6048',
585      [ only_ways(['optasm']),
586       compiler_stats_num_field('bytes allocated',
587           [(wordsize(32), 49987836, 10),
588             # prev:       38000000 (x86/Linux)
589             # 2012-10-08: 48887164 (x86/Linux)
590             # 2014-04-04: 62618072 (x86 Windows, 64 bit machine)
591             # 2014-09-03: 56315812 (x86 Windows, w/w for INLINEAVBLE)
592             # 2014-12-01: 49987836 (x86 Windows)
593
594            (wordsize(64),  108225624, 12)])
595              # 18/09/2012  97247032 amd64/Linux
596              # 16/01/2014 108578664 amd64/Linux (unknown, likely foldl-via-foldr)
597              # 18/01/2014  95960720 amd64/Linux Call Arity improvements
598              # 28/02/2014 105556793 amd64/Linux (unknown, tweak in base/4d9e7c9e3 resulted in change)
599              # 05/03/2014 110646312 amd64/Linux Call Arity became more elaborate
600              # 14/07/2014 125431448 amd64/Linux unknown reason. Even worse in GHC-7.8.3. *shurg*
601              # 29/08/2014 108354472 amd64/Linux w/w for INLINABLE things
602              # 14/09/2014  88186056 amd64/Linux BPP part1 change (more NoImplicitPreludes in base)
603              # 08/01/2014  95946688 amd64/Linux Mostly 4c834fd. Occasional spikes to 103822120!
604              # 11/03/2016 108225624 amd64/Linux unknown reason sadly; likely gradual creep.
605       ],
606       compile,[''])
607
608 test('T9020',
609      [ only_ways(['optasm']),
610       compiler_stats_num_field('bytes allocated',
611           [(wordsize(32), 343005716, 10),
612            # Original:    381360728
613            # 2014-07-31:  343005716 (Windows) (general round of updates)
614            (wordsize(64), 698401736, 10)])
615            # prev:        795469104
616            # 2014-07-17:  728263536 (general round of updates)
617            # 2014-09-10:  785871680 post-AMP-cleanup
618            # 2014-11-03:  680162056 Further Applicative and Monad adjustments
619            # 2015-10-21:  786189008 Make stronglyConnCompFromEdgedVertices deterministic
620            # 2016-01-26:  698401736 improvement from using ExpTypes instead of ReturnTvs
621       ],
622       compile,[''])
623
624 test('T9675',
625      [ only_ways(['optasm']),
626        compiler_stats_num_field('max_bytes_used', # Note [residency]
627           [(wordsize(64), 30837312, 15),
628           # 2014-10-13    29596552
629           # 2014-10-13    26570896   seq the DmdEnv in seqDmdType as well
630           # 2014-10-13    18582472   different machines giving different results..
631           # 2014-10-13    22220552   use the mean
632           # 2015-06-21    28056344   switch to `+RTS -G1`, tighten bound to 15%
633           # 2015-10-28    23776640   emit Typeable at definition site
634           # 2015-12-11    30837312   TypeInType (see #11196)
635            (wordsize(32), 15341228, 15)
636           # 2015-07-11    15341228   (x86/Linux, 64-bit machine) use +RTS -G1
637           ]),
638        compiler_stats_num_field('peak_megabytes_allocated', # Note [residency]
639           [(wordsize(64), 113, 15),
640           # 2014-10-13    66
641           # 2014-10-13    58         seq the DmdEnv in seqDmdType as well
642           # 2014-10-13    49         different machines giving different results...
643           # 2014-10-13    53         use the mean
644           # 2015-06-15    44         reduced for some reason
645           # 2015-06-21    105        switch to `+RTS -G1`
646           # 2015-12-04    88         new pattern checker (D1535)
647           # 2015-12-11    113        TypeInType (see #11196)
648             (wordsize(32), 56, 15)
649           # 2015-07-11    56         (x86/Linux, 64-bit machine) use +RTS -G1
650           ]),
651        compiler_stats_num_field('bytes allocated',
652           [(wordsize(64), 608284152, 10)
653           # 2014-10-13    544489040
654           # 2015-10-28    608284152  emit Typeable at definition site
655           ,(wordsize(32), 279480696, 10)
656           # 2015-07-11    279480696  (x86/Linux, 64-bit machine) use +RTS -G1
657           ]),
658
659        # Use `+RTS -G1` for more stable residency measurements. Note [residency].
660        extra_hc_opts('+RTS -G1 -RTS')
661       ],
662      compile,
663      [''])
664
665 test('T9872a',
666      [ only_ways(['normal']),
667        compiler_stats_num_field('bytes allocated',
668           [(wordsize(64), 3581500440, 5),
669           # 2014-12-10    5521332656    Initally created
670           # 2014-12-16    5848657456    Flattener parameterized over roles
671           # 2014-12-18    2680733672    Reduce type families even more eagerly
672           # 2015-12-11    3581500440    TypeInType (see #11196)
673            (wordsize(32), 1325592896, 5)
674           ]),
675       ],
676      compile_fail,
677      [''])
678
679 test('T9872b',
680      [ only_ways(['normal']),
681        compiler_stats_num_field('bytes allocated',
682           [(wordsize(64), 4918990352, 5),
683           # 2014-12-10    6483306280    Initally created
684           # 2014-12-16    6892251912    Flattener parameterized over roles
685           # 2014-12-18    3480212048    Reduce type families even more eagerly
686           # 2015-12-11    5199926080    TypeInType (see #11196)
687           # 2016-02-08    4918990352    Improved a bit by tyConRolesRepresentational
688            (wordsize(32), 1700000000, 5)
689           ]),
690       ],
691      compile_fail,
692      [''])
693 test('T9872c',
694      [ only_ways(['normal']),
695        compiler_stats_num_field('bytes allocated',
696           [(wordsize(64), 4454071184, 5),
697           # 2014-12-10    5495850096    Initally created
698           # 2014-12-16    5842024784    Flattener parameterized over roles
699           # 2014-12-18    2963554096    Reduce type families even more eagerly
700           # 2015-12-11    4723613784    TypeInType (see #11196)
701           # 2016-02-08    4454071184    Improved a bit by tyConRolesRepresentational
702            (wordsize(32), 1500000000, 5)
703           ]),
704       ],
705      compile_fail,
706      [''])
707 test('T9872d',
708      [ only_ways(['normal']),
709        compiler_stats_num_field('bytes allocated',
710           [(wordsize(64), 506691240, 5),
711           # 2014-12-18    796071864   Initally created
712           # 2014-12-18    739189056   Reduce type families even more eagerly
713           # 2015-01-07    687562440   TrieMap leaf compression
714           # 2015-03-17    726679784   tweak to solver; probably flattens more
715           # 2016-02-08    534693648   Improved a bit by tyConRolesRepresentational
716           # 2016-03-18    506691240   optimize Unify & zonking
717            (wordsize(32), 59651432, 5)
718           # some date     328810212
719           # 2015-07-11    350369584
720           # 2015-12-11    566134504   TypeInType; see #11196
721           ]),
722       ],
723      compile,
724      [''])
725
726 test('T9961',
727      [ only_ways(['normal']),
728        compiler_stats_num_field('bytes allocated',
729           [(wordsize(64), 519436672, 5),
730           # 2015-01-12    807117816   Initally created
731           # 2015-spring   772510192   Got better
732           # 2015-05-22    663978160   Fix for #10370 improves it more
733           # 2015-10-28    708680480   x86_64/Linux   Emit Typeable at definition site
734           # 2015-12-17    745044392   x86_64/Darwin  Creep upwards
735           # 2016-03-20    519436672   x64_64/Linux   Don't use build desugaring for large lists (D2007)
736            (wordsize(32), 375647160, 5)
737           ]),
738       ],
739      compile,
740      ['-O'])
741
742 test('T9233',
743     [ only_ways(['normal']),
744       compiler_stats_num_field('bytes allocated',
745         [(wordsize(64), 999826288, 5),
746                  # 999826288   4 Aug 2015   initial value
747          (wordsize(32), 1, 5)   # Put in your value here if you hit this
748         ]),
749       extra_clean(['T9233a.hi', 'T9233a.o'])
750     ],
751     multimod_compile,
752     ['T9233', '-v0 -O2 -fno-spec-constr'])
753
754 test('T10370',
755      [ only_ways(['optasm']),
756        compiler_stats_num_field('max_bytes_used', # Note [residency]
757           [(wordsize(64), 22823976, 15),
758           # 2015-10-22    19548720
759           # 2016-02-24    22823976   Changing Levity to RuntimeRep; not sure why this regresses though, even after some analysis
760            (wordsize(32), 11371496, 15),
761           # 2015-10-22    11371496
762           ]),
763        compiler_stats_num_field('peak_megabytes_allocated', # Note [residency]
764           [(wordsize(64), 76, 15),
765           # 2015-10-22    76
766            (wordsize(32), 39, 15),
767           # 2015-10-22    39
768           ]),
769        # Use `+RTS -G1` for more stable residency measurements. Note [residency].
770        extra_hc_opts('+RTS -G1 -RTS')
771      ],
772      compile,
773      [''])