Make the demand on a binder compatible with type (fixes Trac #8569)
authorSimon Peyton Jones <simonpj@microsoft.com>
Thu, 6 Mar 2014 11:31:47 +0000 (11:31 +0000)
committerSimon Peyton Jones <simonpj@microsoft.com>
Thu, 6 Mar 2014 11:59:15 +0000 (11:59 +0000)
commit4b355cd21a190e3d2c2d3a830ba2337d1c442dfe
treef25059c9ee4faaabe79a41e68020e896ec3764c2
parenteeb1400a0ca9ba7d1831f8ec0b221f632dec9f68
Make the demand on a binder compatible with type (fixes Trac #8569)

Because of GADTs and casts we were getting binders whose
demand annotation was more deeply nested than made sense
for its type.

See Note [Trimming a demand to a type], in Demand.lhs,
which I reproduce here:

   Note [Trimming a demand to a type]
   ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
   Consider this:

     f :: a -> Bool
     f x = case ... of
             A g1 -> case (x |> g1) of (p,q) -> ...
             B    -> error "urk"

   where A,B are the constructors of a GADT.  We'll get a U(U,U) demand
   on x from the A branch, but that's a stupid demand for x itself, which
   has type 'a'. Indeed we get ASSERTs going off (notably in
   splitUseProdDmd, Trac #8569).

   Bottom line: we really don't want to have a binder whose demand is more
   deeply-nested than its type.  There are various ways to tackle this.
   When processing (x |> g1), we could "trim" the incoming demand U(U,U)
   to match x's type.  But I'm currently doing so just at the moment when
   we pin a demand on a binder, in DmdAnal.findBndrDmd.
compiler/basicTypes/Demand.lhs
compiler/stranal/DmdAnal.lhs
compiler/stranal/WwLib.lhs