Home My Page Projects Code Snippets Project Openings SML/NJ
Summary Activity Forums Tracker Lists Tasks Docs Surveys News SCM Files

SCM Repository

[smlnj] Diff of /sml/trunk/src/cm/stable/stabilize.sml
ViewVC logotype

Diff of /sml/trunk/src/cm/stable/stabilize.sml

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 308, Wed Jun 2 01:26:19 1999 UTC revision 398, Wed Aug 25 15:36:43 1999 UTC
# Line 1  Line 1 
1  structure Stablize = struct  (*
2     * Reading, generating, and writing stable groups.
3     *
4     * (C) 1999 Lucent Technologies, Bell Laboratories
5     *
6     * Author: Matthias Blume (blume@kurims.kyoto-u.ac.jp)
7     *)
8    local
9      structure DG = DependencyGraph      structure DG = DependencyGraph
10      structure GG = GroupGraph      structure GG = GroupGraph
11      structure EM = GenericVC.ErrorMsg      structure EM = GenericVC.ErrorMsg
12        structure PP = PrettyPrint
13        structure SM = GenericVC.SourceMap
14        structure GP = GeneralParams
15        structure E = GenericVC.Environment
16        structure Pid = GenericVC.PersStamps
17        structure P = PickMod
18        structure UP = UnpickMod
19        structure E = GenericVC.Environment
20    
21        type recomp = GP.info -> GG.group -> bool
22        type pid = Pid.persstamp
23    in
24    
25    signature STABILIZE = sig
26    
27        val loadStable :
28            GP.info -> { getGroup: SrcPath.t -> GG.group option,
29                         anyerrors: bool ref }
30            -> SrcPath.t -> GG.group option
31    
32        val stabilize :
33            GP.info -> { group: GG.group, anyerrors: bool ref } -> GG.group option
34    end
35    
36    functor StabilizeFn (val transfer_state : SmlInfo.info * BinInfo.info -> unit
37                         val writeBFC: BinIO.outstream -> SmlInfo.info -> unit
38                         val sizeBFC: SmlInfo.info -> int
39                         val getII:  SmlInfo.info -> IInfo.info
40                         val recomp : recomp) :> STABILIZE = struct
41    
42        structure SSMap = BinaryMapFn
43            (struct
44                 type ord_key = SymbolSet.set
45                 val compare = SymbolSet.compare
46            end)
47    
48      datatype pitem =      structure SNMap = BinaryMapFn
49          PSS of SymbolSet.set          (struct
50        | PS of Symbol.symbol               type ord_key = DG.snode
51        | PSN of DG.snode               fun compare (DG.SNODE n, DG.SNODE n') =
       | PAP of AbsPath.t  
   
     datatype uitem =  
         USS of SymbolSet.set  
       | US of Symbol.symbol  
       | UBN of DG.bnode  
       | UAP of AbsPath.t  
   
     fun compare (PS s, PS s') = SymbolOrdKey.compare (s, s')  
       | compare (PS _, _) = GREATER  
       | compare (_, PS _) = LESS  
       | compare (PSS s, PSS s') = SymbolSet.compare (s, s')  
       | compare (PSS _, _) = GREATER  
       | compare (_, PSS _) = LESS  
       | compare (PSN (DG.SNODE n), PSN (DG.SNODE n')) =  
52          SmlInfo.compare (#smlinfo n, #smlinfo n')          SmlInfo.compare (#smlinfo n, #smlinfo n')
       | compare (PSN _, _) = GREATER  
       | compare (_, PSN _) = LESS  
       | compare (PAP p, PAP p') = AbsPath.compare (p, p')  
   
     structure Map =  
         BinaryMapFn (struct  
                          type ord_key = pitem  
                          val compare = compare  
53          end)          end)
54    
55      fun genStableInfoMap (exports, group) = let      structure PU = PickleUtil
56          (* find all the exported bnodes that are in the same group: *)      structure UU = UnpickleUtil
         fun add (((_, DG.SB_BNODE (n as DG.BNODE b)), _), m) = let  
             val i = #bininfo b  
         in  
             if AbsPath.compare (BinInfo.group i, group) = EQUAL then  
                 IntBinaryMap.insert (m, BinInfo.offset i, n)  
             else m  
         end  
           | add (_, m) = m  
     in  
         SymbolMap.foldl add IntBinaryMap.empty exports  
     end  
57    
58      fun stabilize gp (g as GG.GROUP grec, binSizeOf, copyBin, outs) =      type map = { ss: PU.id SSMap.map, sn: PU.id SNMap.map, pm: P.map }
         case #stableinfo grec of  
             GG.STABLE _ => g  
           | GG.NONSTABLE granted => let  
59    
60                  (* this needs to be refined (perhaps) *)      val emptyMap = { ss = SSMap.empty, sn = SNMap.empty, pm = P.emptyMap }
61                  val grpSrcInfo = (EM.defaultConsumer (), ref false)  
62        val lifter =
63            { extract = fn (m: map) => #pm m,
64              patchback = fn (m: map, pm) => { ss = #ss m, sn = #sn m, pm = pm } }
65    
66        infix 3 $
67        infixr 4 &
68        val op & = PU.&
69        val % = PU.%
70    
71        (* type info *)
72        val (BN, SN, SBN, SS, SI, FSBN, IMPEXP, SHM) = (1, 2, 3, 4, 5, 6, 7, 8)
73    
74        val SSs =
75            { find = fn (m: map, k) => SSMap.find (#ss m, k),
76              insert = fn ({ ss, sn, pm }, k, v) =>
77                           { sn = sn, ss = SSMap.insert (ss, k, v), pm = pm } }
78        val SNs =
79            { find = fn (m: map, k) => SNMap.find (#sn m, k),
80              insert = fn ({ ss, sn, pm }, k, v) =>
81                           { ss = ss, sn = SNMap.insert (sn, k, v), pm = pm } }
82    
83        fun stabilize gp { group = g as GG.GROUP grec, anyerrors } = let
84    
85            val primconf = #primconf (#param gp)
86            val policy = #fnpolicy (#param gp)
87            val pervasive = #pervasive (#param gp)
88    
                 val exports = #exports grec  
                 val islib = #islib grec  
                 val required = StringSet.difference (#required grec,  
                                                      granted)  
89                  val grouppath = #grouppath grec                  val grouppath = #grouppath grec
90                  val subgroups = #subgroups grec  
91            fun doit wrapped = let
92    
93                val _ =
94                    if StringSet.isEmpty wrapped then ()
95                    else
96                        Say.say ("$Stabilize: wrapping the following privileges:\n"
97                                 :: map (fn s => ("  " ^ s ^ "\n"))
98                                        (StringSet.listItems wrapped))
99    
100                val grpSrcInfo = (#errcons gp, anyerrors)
101    
102                val exports = #exports grec
103                val required = StringSet.difference (#required grec, wrapped)
104                val sublibs = #sublibs grec
105    
106                  (* The format of a stable archive is the following:                  (* The format of a stable archive is the following:
107                   *  - It starts with the size s of the pickled dependency                   *  - It starts with the size s of the pickled dependency
108                   *    graph. This size itself is written as four-byte string.                   *    graph. This size itself is written as four-byte string.
109                 *  - The size t of the pickled environment for the entire
110                 *    library (using the pickleEnvN interface of the pickler)
111                 *    in the same format as s.
112                   *  - The pickled dependency graph.  This graph contains                   *  - The pickled dependency graph.  This graph contains
113                   *    integer offsets of the binfiles for the individual ML                   *    integer offsets of the binfiles for the individual ML
114                   *    members. These offsets need to be adjusted by adding                   *    members. These offsets need to be adjusted by adding
115                   *    s + 4. The pickled dependency graph also contains integer               *    s + t + 8. The pickled dependency graph also contains integer
116                   *    offsets relative to other stable groups.  These offsets                   *    offsets relative to other stable groups.  These offsets
117                   *    need no further adjustment.                   *    need no further adjustment.
118                   *  - Individual binfile contents (concatenated).               *  - The pickled environment (list).  To be unpickled using
119                 *    unpickleEnvN.
120                 *  - Individual binfile contents (concatenated) but without
121                 *    their static environments.
122                   *)                   *)
123    
124                (* Here we build a mapping that maps each BNODE to a number
125                 * representing the sub-library that it came from and a
126                 * representative symbol that can be used to find the BNODE
127                 * within the exports of that library *)
128                fun oneB i (sy, ((_, DG.SB_BNODE (DG.BNODE n, _)), _), m) =
129                    StableMap.insert (m, #bininfo n, (i, sy))
130                  | oneB i (_, _, m) = m
131                fun oneSL ((g as GG.GROUP { exports, ... }), (m, i)) =
132                    (SymbolMap.foldli (oneB i) m exports, i + 1)
133                val inverseMap = #1 (foldl oneSL (StableMap.empty, 0) sublibs)
134    
135                  val members = ref []                  val members = ref []
136                  val (registerOffset, getOffset) = let                  val (registerOffset, getOffset) = let
137                      val dict = ref SmlInfoMap.empty                      val dict = ref SmlInfoMap.empty
# Line 92  Line 149 
149                      (reg, get)                      (reg, get)
150                  end                  end
151    
152                  fun w_list w_item [] k m =              (* Collect all BNODEs and PNODEs that we see and build
153                      "0" :: k m               * a context suitable for P.envPickler. *)
154                    | w_list w_item [a] k m =              fun mkContext () = let
155                      "1" :: w_item a k m                  fun lst f [] k s = k s
156                    | w_list w_item [a, b] k m =                    | lst f (h :: t) k s = f h (lst f t k) s
157                      "2" :: w_item a (w_item b k) m  
158                    | w_list w_item [a, b, c] k m =                  fun sbn n k (s as (prims, bnodes, snodes)) =
159                      "3" :: w_item a (w_item b (w_item c k)) m                      case n of
160                    | w_list w_item [a, b, c, d] k m =                          DG.SB_BNODE (DG.PNODE p, { statenv, ... }) => let
161                      "4" :: w_item a (w_item b (w_item c (w_item d k))) m                              val str = String.str (Primitive.toIdent primconf p)
162                    | w_list w_item (a :: b :: c :: d :: e :: r) k m =                              val prims' = StringMap.insert (prims, str, statenv)
163                      "5" :: w_item a (w_item b (w_item c (w_item d (w_item e                          in
164                                                        (w_list w_item r k))))) m                              k (prims', bnodes, snodes)
165                            end
166                  fun w_option w_item NONE k m = "n" :: k m                        | DG.SB_BNODE (DG.BNODE { bininfo = i, ... }, ii) => let
167                    | w_option w_item (SOME i) k m = "s" :: w_item i k m                              val { statenv, ... } = ii
168                                val nsy = valOf (StableMap.find (inverseMap, i))
169                  fun int_encode i = let                              val bnodes' =
170                      (* this is the same mechanism that's also used in                                  StableMap.insert (bnodes, i, (nsy, statenv))
171                       * TopLevel/batch/binfile.sml (maybe we should share it) *)                          in
172                      val n = Word32.fromInt i                              k (prims, bnodes', snodes)
173                      val // = LargeWord.div                          end
174                      val %% = LargeWord.mod                        | DG.SB_SNODE n => sn n k s
175                      val !! = LargeWord.orb  
176                      infix // %% !!                  and sn (DG.SNODE n) k (prims, bnodes, snodes) = let
177                      val toW8 = Word8.fromLargeWord                      val i = #smlinfo n
178                      fun r (0w0, l) = Word8Vector.fromList l                      val li = #localimports n
179                        | r (n, l) =                      val gi = #globalimports n
180                          r (n // 0w128, toW8 ((n %% 0w128) !! 0w128) :: l)                  in
181                  in                      if SmlInfoSet.member (snodes, i) then
182                      Byte.bytesToString (r (n // 0w128, [toW8 (n %% 0w128)]))                          k (prims, bnodes, snodes)
183                  end                      else let
184                            val snodes' = SmlInfoSet.add (snodes, i)
185                  fun w_int i k m = int_encode i :: k m                      in
186                            lst sn li (lst fsbn gi k) (prims, bnodes, snodes')
187                  fun w_share w C v k (i, m) =                      end
188                      case Map.find (m, C v) of                  end
189                          SOME i' => "o" :: w_int i' k (i, m)  
190                        | NONE => "n" :: w v k (i + 1, Map.insert (m, C v, i))                  and fsbn (_, n) k s = sbn n k s
191    
192                  fun w_symbol_raw s k m = let                  fun impexp (n, _) k s = fsbn n k s
193                      val ns = case Symbol.nameSpace s of  
194                          Symbol.SIGspace => "'"                  val (prims, bnodes) =
195                        | Symbol.FCTspace => "("                      lst impexp (SymbolMap.listItems exports)
196                        | Symbol.FSIGspace => ")"                          (fn (prims, bnodes, _) => (prims, bnodes))
197                        | Symbol.STRspace => ""                          (StringMap.empty, StableMap.empty, SmlInfoSet.empty)
198                        | _ => GenericVC.ErrorMsg.impossible "stabilize:w_symbol"  
199                  in                  val priml = StringMap.listItemsi prims
200                      ns :: Symbol.name s :: "." :: k m                  val bnodel = StableMap.listItems bnodes
201                  end  
202                    fun cvt lk id = let
203                  val w_symbol = w_share w_symbol_raw PS                      fun nloop [] = NONE
204                          | nloop ((k, ge) :: t) =
205                  val w_ss = w_share (w_list w_symbol o SymbolSet.listItems) PSS                          (case lk (ge ()) id of
206                                 SOME _ => SOME (P.NodeKey k)
207                  val w_filter = w_option w_ss                             | NONE => nloop t)
208                        fun ploop [] = nloop bnodel
209                  fun w_string s k m = let                        | ploop ((k, ge) :: t) =
210                      fun esc #"\\" = "\\\\"                          (case lk (ge ()) id of
211                        | esc #"\"" = "\\\""                               SOME _ => SOME (P.PrimKey k)
212                        | esc c = String.str c                             | NONE => ploop t)
213                    in
214                  in                      case lk (E.staticPart pervasive) id of
215                      String.translate esc s :: "\"" :: k m                          NONE => ploop priml
216                  end                        | SOME _ => SOME (P.PrimKey "pv")
217                    end
218                  fun w_sharing NONE k m = "n" :: k m              in
219                    | w_sharing (SOME true) k m = "t" :: k m                  { lookSTR = cvt GenericVC.CMStaticEnv.lookSTR,
220                    | w_sharing (SOME false) k m = "f" :: k m                    lookSIG = cvt GenericVC.CMStaticEnv.lookSIG,
221                      lookFCT = cvt GenericVC.CMStaticEnv.lookFCT,
222                  fun w_si i k = let                    lookFSIG = cvt GenericVC.CMStaticEnv.lookFSIG,
223                      val spec = AbsPath.spec (SmlInfo.sourcepath i)                    lookTYC = cvt GenericVC.CMStaticEnv.lookTYC,
224                      lookEENV = cvt GenericVC.CMStaticEnv.lookEENV }
225                end
226    
227                (* make the picklers for static and symbolic environments;
228                 * lift them so we can use them here... *)
229                val envContext = mkContext ()
230                val env_orig = P.envPickler envContext
231                val env = PU.lift_pickler lifter env_orig
232                val symenv_orig = P.symenvPickler
233                val symenv = PU.lift_pickler lifter symenv_orig
234                val lazy_env = PU.w_lazy env
235                val lazy_symenv = PU.w_lazy symenv
236    
237                val int = PU.w_int
238                val symbol = PickleSymPid.w_symbol
239                val pid = PickleSymPid.w_pid
240                val share = PU.ah_share
241                val option = PU.w_option
242                val list = PU.w_list
243                val string = PU.w_string
244                val bool = PU.w_bool
245                val int = PU.w_int
246    
247                fun symbolset ss = let
248                    val op $ = PU.$ SS
249                    fun raw_ss ss = "s" $ list symbol (SymbolSet.listItems ss)
250                in
251                    share SSs raw_ss ss
252                end
253    
254                val filter = option symbolset
255    
256                fun shm (Sharing.SHARE true) = %SHM "a"
257                  | shm (Sharing.SHARE false) = %SHM "b"
258                  | shm Sharing.DONTSHARE = %SHM "c"
259    
260                fun si i = let
261                    (* FIXME: this is not a technical flaw, but perhaps one
262                     * that deserves fixing anyway:  If we only look at spec,
263                     * then we are losing information about sub-grouping
264                     * within libraries.  However, the spec in BinInfo.info
265                     * is only used for diagnostics and has no impact on the
266                     * operation of CM itself. *)
267                    val spec = SrcPath.specOf (SmlInfo.sourcepath i)
268                      val locs = SmlInfo.errorLocation gp i                      val locs = SmlInfo.errorLocation gp i
269                      val offset = registerOffset (i, binSizeOf i)                  val offset = registerOffset (i, sizeBFC i)
270                    val sh_mode = SmlInfo.sh_mode i
271                    val op $ = PU.$ SI
272                  in                  in
273                      w_string spec                  "s" $ string spec & string locs & int offset & shm sh_mode
                         (w_string locs  
                             (w_int offset  
                                  (w_sharing (SmlInfo.share i) k)))  
274                  end                  end
275    
276                  fun w_primitive p k m = String.str (Primitive.toIdent p) :: k m              fun primitive p =
277                    string (String.str (Primitive.toIdent primconf p))
                 fun w_abspath_raw p k m =  
                     w_list w_string (AbsPath.pickle p) k m  
278    
279                  val w_abspath = w_share w_abspath_raw PAP              fun warn_relabs p abs = let
280                    val relabs = if abs then "absolute" else "relative"
281                  fun w_bn (DG.PNODE p) k m = "p" :: w_primitive p k m                  fun ppb pps =
282                    | w_bn (DG.BNODE { bininfo = i, ... }) k m =                      (PP.add_newline pps;
283                      "b" :: w_abspath (BinInfo.group i)                       PP.add_string pps (SrcPath.descr p);
284                                (w_int (BinInfo.offset i) k) m                       PP.add_newline pps;
285                         PP.add_string pps
286                  fun w_sn_raw (DG.SNODE n) k =      "(This means that in order to be able to use the result of stabilization";
287                      w_si (#smlinfo n)                       PP.add_newline pps;
288                          (w_list w_sn (#localimports n)                       PP.add_string pps "the library must be in the same ";
289                                (w_list w_fsbn (#globalimports n) k))                       PP.add_string pps relabs;
290                         PP.add_string pps " location as it is now.)";
291                         PP.add_newline pps)
292                in
293                    EM.errorNoFile (#errcons gp, anyerrors) SM.nullRegion
294                        EM.WARN
295                        (concat [SrcPath.descr grouppath,
296                                 ": library referred to by ", relabs,
297                                 " pathname:"])
298                        ppb
299                end
300    
301                  and w_sn n = w_share w_sn_raw PSN n              fun abspath p = let
302                    val pp = SrcPath.pickle (warn_relabs p) (p, grouppath)
303                in
304                    list string pp
305                end
306    
307                  and w_sbn (DG.SB_BNODE n) k m = "b" :: w_bn n k m              fun sn n = let
308                    | w_sbn (DG.SB_SNODE n) k m = "s" :: w_sn n k m                  val op $ = PU.$ SN
309                    fun raw_sn (DG.SNODE n) =
310                        "a" $ si (#smlinfo n) & list sn (#localimports n) &
311                        list fsbn (#globalimports n)
312                in
313                    share SNs raw_sn n
314                end
315    
316                  and w_fsbn (f, n) k = w_filter f (w_sbn n k)              (* Here we ignore the interface info because we will not
317                 * need it anymore when we unpickle. *)
318                and sbn x = let
319                    val op $ = PU.$ SBN
320                in
321                    case x of
322                        DG.SB_BNODE (DG.PNODE p, { statenv = getE, ... }) =>
323                            "1" $ primitive p
324                      | DG.SB_BNODE (DG.BNODE { bininfo = i, ... }, _) => let
325                            val (n, sy) = valOf (StableMap.find (inverseMap, i))
326                        in
327                            "2" $ int n & symbol sy
328                        end
329                      | DG.SB_SNODE n => "3" $ sn n
330                end
331    
332                  fun w_impexp (s, (n, _)) k = w_symbol s (w_fsbn n k)              and fsbn (f, n) = let
333                    val op $ = PU.$ FSBN
334                in
335                    "f" $ filter f & sbn n
336                end
337    
338                  fun w_exports e = w_list w_impexp (SymbolMap.listItemsi e)              (* Here is the place where we need to write interface info. *)
339                fun impexp (s, (n, _)) = let
340                    val op $ = PU.$ IMPEXP
341                    val { statenv, symenv, statpid, sympid } =
342                        case n of
343                            (_, DG.SB_BNODE (_, ii)) => ii
344                          | (_, DG.SB_SNODE (DG.SNODE { smlinfo, ... })) =>
345                                getII smlinfo
346                in
347                    "i" $ symbol s & fsbn n &
348                          lazy_env (GenericVC.CoerceEnv.es2bs o statenv) &
349                          lazy_symenv symenv &
350                          pid statpid &
351                          pid sympid
352                end
353    
354                  fun w_bool true k m = "t" :: k m              fun w_exports e = list impexp (SymbolMap.listItemsi e)
                   | w_bool false k m = "f" :: k m  
355    
356                  fun w_privileges p = w_list w_string (StringSet.listItems p)              fun privileges p = list string (StringSet.listItems p)
357    
358                  fun pickle_group () = let              fun group () = let
359                      fun w_sg (GG.GROUP g) = w_abspath (#grouppath g)                  fun sg (GG.GROUP { grouppath, ... }) = abspath grouppath
                     fun k0 m = []  
                     val m0 = (0, Map.empty)  
360                  in                  in
361                      concat                  (* Pickle the sublibs first because we need to already
362                         (w_exports exports                   * have them back when we unpickle BNODEs. *)
363                             (w_bool islib                  list sg sublibs & w_exports exports & privileges required
                               (w_privileges required  
                                     (w_list w_sg subgroups k0))) m0)  
364                  end                  end
365    
366                  val pickle = pickle_group ()              val dg_pickle =
367                  val sz = size pickle                  Byte.stringToBytes (PU.pickle emptyMap (group ()))
368                  val offset_adjustment = sz + 4              val dg_sz = Word8Vector.length dg_pickle
369    
370                  fun mkStableGroup () = let              val offset_adjustment = dg_sz + 4
371    
372                fun mkStableGroup mksname = let
373                      val m = ref SmlInfoMap.empty                      val m = ref SmlInfoMap.empty
374                      fun sn (DG.SNODE (n as { smlinfo, ... })) =                      fun sn (DG.SNODE (n as { smlinfo, ... })) =
375                          case SmlInfoMap.find (!m, smlinfo) of                          case SmlInfoMap.find (!m, smlinfo) of
# Line 231  Line 378 
378                                  val li = map sn (#localimports n)                                  val li = map sn (#localimports n)
379                                  val gi = map fsbn (#globalimports n)                                  val gi = map fsbn (#globalimports n)
380                                  val sourcepath = SmlInfo.sourcepath smlinfo                                  val sourcepath = SmlInfo.sourcepath smlinfo
381                                  val spec = AbsPath.spec sourcepath                              (* FIXME: see the comment near the other
382                                 * occurence of SrcPath.spec... *)
383                                val spec = SrcPath.specOf sourcepath
384                                  val offset =                                  val offset =
385                                      getOffset smlinfo + offset_adjustment                                      getOffset smlinfo + offset_adjustment
386                                  val share = SmlInfo.share smlinfo                              val sh_mode = SmlInfo.sh_mode smlinfo
387                                  val locs = SmlInfo.errorLocation gp smlinfo                                  val locs = SmlInfo.errorLocation gp smlinfo
388                                  val error = EM.errorNoSource grpSrcInfo locs                                  val error = EM.errorNoSource grpSrcInfo locs
389                                  val i = BinInfo.new { group = grouppath,                                  val i = BinInfo.new { group = grouppath,
390                                                      mkStablename = mksname,
391                                                        spec = spec,                                                        spec = spec,
392                                                        offset = offset,                                                        offset = offset,
393                                                        share = share,                                                    sh_mode = sh_mode,
394                                                        error = error }                                                        error = error }
395                                  val n = DG.BNODE { bininfo = i,                                  val n = DG.BNODE { bininfo = i,
396                                                     localimports = li,                                                     localimports = li,
397                                                     globalimports = gi }                                                     globalimports = gi }
398                              in                              in
399                                transfer_state (smlinfo, i);
400                                  m := SmlInfoMap.insert (!m, smlinfo, n);                                  m := SmlInfoMap.insert (!m, smlinfo, n);
401                                  n                                  n
402                              end                              end
403    
404                      and sbn (DG.SB_SNODE n) = sn n                  and sbn (DG.SB_SNODE (n as DG.SNODE { smlinfo = i, ... })) =
405                        | sbn (DG.SB_BNODE n) = n                      let val ii = getII i
406                        in
407                            (sn n, ii)
408                        end
409                      | sbn (DG.SB_BNODE (n, ii)) = (n, ii)
410    
411                      and fsbn (f, n) = (f, sbn n)                  and fsbn (f, n) = (f, #1 (sbn n))
412    
413                      fun impexp ((f, n), e) = ((f, DG.SB_BNODE (sbn n)), e)                      fun impexp ((f, n), e) = ((f, DG.SB_BNODE (sbn n)), e)
414    
415                      val exports = SymbolMap.map impexp (#exports grec)                      val exports = SymbolMap.map impexp (#exports grec)
                     val simap = genStableInfoMap (exports, grouppath)  
416                  in                  in
417                      GG.GROUP { exports = exports,                      GG.GROUP { exports = exports,
418                                 islib = islib,                             kind = GG.STABLELIB,
419                                 required = required,                                 required = required,
420                                 grouppath = grouppath,                                 grouppath = grouppath,
421                                 subgroups = subgroups,                             sublibs = sublibs }
                                stableinfo = GG.STABLE simap }  
422                  end                  end
423    
424                  fun writeInt32 (s, i) = let                  fun writeInt32 (s, i) = let
# Line 274  Line 427 
427                  in                  in
428                      BinIO.output (s, Word8Array.extract (a, 0, NONE))                      BinIO.output (s, Word8Array.extract (a, 0, NONE))
429                  end                  end
430              in              val memberlist = rev (!members)
                 writeInt32 (outs, sz);  
                 BinIO.output (outs, Byte.stringToBytes pickle);  
                 app (copyBin outs) (rev (!members));  
                 mkStableGroup ()  
             end  
431    
432      fun g (getGroup, bn2env, group, s) = let              val gpath = #grouppath grec
433                fun mksname () = FilenamePolicy.mkStableName policy gpath
434          (* we don't care about errors... (?) *)              fun work outs =
435          val grpSrcInfo = (EM.defaultConsumer (), ref false)                  (Say.vsay ["[stabilizing ", SrcPath.descr gpath, "]\n"];
436                     writeInt32 (outs, dg_sz);
437          exception Format                   BinIO.output (outs, dg_pickle);
438                     app (writeBFC outs) memberlist;
439          (* for getting sharing right... *)                   mkStableGroup mksname)
440          val m = ref IntBinaryMap.empty          in
441          val next = ref 0              SOME (SafeIO.perform { openIt = AutoDir.openBinOut o mksname,
442                                       closeIt = BinIO.closeOut,
443                                       work = work,
444                                       cleanup = fn () =>
445                                        (OS.FileSys.remove (mksname ())
446                                         handle _ => ()) })
447                handle exn => NONE
448            end
449        in
450            case #kind grec of
451                GG.STABLELIB => SOME g
452              | GG.NOLIB => EM.impossible "stabilize: no library"
453              | GG.LIB wrapped =>
454                    if not (recomp gp g) then
455                        (anyerrors := true; NONE)
456                    else let
457                        fun notStable (GG.GROUP { kind, ... }) =
458                            case kind of GG.STABLELIB => false | _ => true
459                    in
460                        case List.filter notStable (#sublibs grec) of
461                            [] => doit wrapped
462                          | l => let
463                                val grammar = case l of [_] => " is" | _ => "s are"
464                                fun ppb pps = let
465                                    fun loop [] = ()
466                                      | loop (GG.GROUP { grouppath, ... } :: t) =
467                                        (PP.add_string pps
468                                            (SrcPath.descr grouppath);
469                                         PP.add_newline pps;
470                                         loop t)
471                                in
472                                    PP.add_newline pps;
473                                    PP.add_string pps
474                                        (concat ["because the following sub-group",
475                                                 grammar, " not stable:"]);
476                                    PP.add_newline pps;
477                                    loop l
478                                end
479                                val errcons = #errcons gp
480                                val gdescr = SrcPath.descr (#grouppath grec)
481                            in
482                                EM.errorNoFile (errcons, anyerrors) SM.nullRegion
483                                   EM.COMPLAIN
484                                   (gdescr ^ " cannot be stabilized")
485                                   ppb;
486                                NONE
487                            end
488                    end
489        end
490    
491        fun loadStable gp { getGroup, anyerrors } group = let
492    
493            val errcons = #errcons (gp: GeneralParams.info)
494            val grpSrcInfo = (errcons, anyerrors)
495            val gdescr = SrcPath.descr group
496            fun error l = EM.errorNoFile (errcons, anyerrors) SM.nullRegion
497                EM.COMPLAIN (concat ("(stable) " :: gdescr :: ": " :: l))
498                EM.nullErrorBody
499    
500            exception Format = UU.Format
501    
502            val pcmode = #pcmode (#param gp)
503            val policy = #fnpolicy (#param gp)
504            val primconf = #primconf (#param gp)
505            val pervasive = #pervasive (#param gp)
506    
507            fun mksname () = FilenamePolicy.mkStableName policy group
508    
509            fun work s = let
510    
511                fun getGroup' p =
512                    case getGroup p of
513                        SOME g => g
514                      | NONE => (error ["unable to find ", SrcPath.descr p];
515                                 raise Format)
516    
517          fun bytesIn n = let          fun bytesIn n = let
518              val bv = BinIO.inputN (s, n)              val bv = BinIO.inputN (s, n)
# Line 299  Line 521 
521              else raise Format              else raise Format
522          end          end
523    
524          val sz = LargeWord.toIntX (Pack32Big.subVec (bytesIn 4, 0))              val dg_sz = LargeWord.toIntX (Pack32Big.subVec (bytesIn 4, 0))
525          val pickle = bytesIn sz              val dg_pickle = Byte.bytesToString (bytesIn dg_sz)
526          val offset_adjustment = sz + 4              val offset_adjustment = dg_sz + 4
527                val session = UU.mkSession (UU.stringGetter dg_pickle)
528          val rd = let  
529              val pos = ref 0              fun list m r = UU.r_list session m r
530              fun rd () = let              val string = UU.r_string session
531                  val p = !pos              val stringListM = UU.mkMap ()
532              in              val stringlist = list stringListM string
533                  pos := p + 1;  
534                  Byte.byteToChar (Word8Vector.sub (pickle, p))              fun abspath () =
535                    SrcPath.unpickle pcmode (stringlist (), group)
536                    handle SrcPath.Format => raise Format
537                         | SrcPath.BadAnchor a =>
538                           (error ["configuration anchor \"", a, "\" undefined"];
539                            raise Format)
540    
541                fun sg () = getGroup' (abspath ())
542                val sgListM = UU.mkMap ()
543                val sublibs = list sgListM sg ()
544    
545                (* Now that we have the list of sublibs, we can build the
546                 * environment for unpickling the environment list.
547                 * We will need the environment list when unpickling the
548                 * export list (making SB_BNODES). *)
549                fun prim_context "pv" = SOME (E.staticPart pervasive)
550                  | prim_context s =
551                    SOME (E.staticPart (Primitive.env primconf
552                                        (valOf (Primitive.fromIdent primconf
553                                                (String.sub (s, 0))))))
554                    handle _ => NONE
555                fun node_context (n, sy) = let
556                    val GG.GROUP { exports = slexp, ... } = List.nth (sublibs, n)
557                in
558                    case SymbolMap.find (slexp, sy) of
559                        SOME ((_, DG.SB_BNODE (_, { statenv = ge, ... })), _) =>
560                            SOME (ge ())
561                      | _ => NONE
562                end handle _ => NONE
563    
564                val { symenv, env, symbol, symbollist } =
565                    UP.mkUnpicklers session
566                        { prim_context = prim_context,
567                          node_context = node_context }
568    
569                val lazy_symenv = UU.r_lazy session symenv
570                val lazy_env = UU.r_lazy session env
571    
572                fun option m r = UU.r_option session m r
573                val int = UU.r_int session
574                fun share m r = UU.share session m r
575                fun nonshare r = UU.nonshare session r
576                val bool = UU.r_bool session
577                val pid = UnpickleSymPid.r_pid string
578    
579                val stringListM = UU.mkMap ()
580                val ssM = UU.mkMap ()
581                val ssoM = UU.mkMap ()
582                val boolOptionM = UU.mkMap ()
583                val siM = UU.mkMap ()
584                val snM = UU.mkMap ()
585                val snListM = UU.mkMap ()
586                val sbnM = UU.mkMap ()
587                val fsbnM = UU.mkMap ()
588                val fsbnListM = UU.mkMap ()
589                val impexpM = UU.mkMap ()
590                val impexpListM = UU.mkMap ()
591    
592                fun symbolset () = let
593                    fun s #"s" = SymbolSet.addList (SymbolSet.empty, symbollist ())
594                      | s _ = raise Format
595                in
596                    share ssM s
597                end
598    
599                val filter = option ssoM symbolset
600    
601                fun primitive () =
602                    valOf (Primitive.fromIdent primconf
603                              (String.sub (string (), 0)))
604                  handle _ => raise Format                  handle _ => raise Format
             end  
         in  
             rd  
         end  
   
         fun r_list r () =  
             case rd () of  
                 #"0" => []  
               | #"1" => [r ()]  
               | #"2" => [r (), r ()]  
               | #"3" => [r (), r (), r ()]  
               | #"4" => [r (), r (), r (), r ()]  
               | #"5" => r () :: r () :: r () :: r () :: r () :: r_list r ()  
               | _ => raise Format  
   
         fun r_bool () =  
             case rd () of  
                 #"t" => true  
               | #"f" => false  
               | _ => raise Format  
605    
606          fun r_option r_item () =              fun shm () = let
607              case rd () of                  fun s #"a" = Sharing.SHARE true
608                  #"n" => NONE                    | s #"b" = Sharing.SHARE false
609                | #"s" => SOME (r_item ())                    | s #"c" = Sharing.DONTSHARE
610                | _ => raise Format                    | s _ = raise Format
611                in
612          fun r_int () = let                  nonshare s
             fun loop n = let  
                 val w8 = Byte.charToByte (rd ())  
                 val n' = n * 0w128 + Word8.toLargeWord (Word8.andb (w8, 0w127))  
             in  
                 if Word8.andb (w8, 0w128) = 0w0 then n' else loop n'  
             end  
         in  
             LargeWord.toIntX (loop 0w0)  
613          end          end
614    
615          fun r_share r_raw C unC () =              fun si () = let
616              case rd () of                  fun s #"s" =
617                  #"o" => (case IntBinaryMap.find (!m, r_int ()) of                      let val spec = string ()
618                               SOME x => unC x                          val locs = string ()
619                             | NONE => raise Format)                          val offset = int () + offset_adjustment
620                | #"n" => let                          val sh_mode = shm ()
621                      val i = !next                          val error = EM.errorNoSource grpSrcInfo locs
                     val _ = next := i + 1  
                     val v = r_raw ()  
622                  in                  in
623                      m := IntBinaryMap.insert (!m, i, C v);                          BinInfo.new { group = group,
624                      v                                        mkStablename = mksname,
625                                          error = error,
626                                          spec = spec,
627                                          offset = offset,
628                                          sh_mode = sh_mode }
629                  end                  end
630                | _ => raise Format                    | s _ = raise Format
   
         fun r_string () = let  
             fun loop l =  
                 case rd () of  
                     #"\"" => String.implode (rev l)  
                   | #"\\" => loop (rd () :: l)  
                   | c => loop (c :: l)  
631          in          in
632              loop []                  share siM s
633          end          end
634    
635          val r_abspath = let              (* this is the place where what used to be an
636              fun r_abspath_raw () =               * SNODE changes to a BNODE! *)
637                  case AbsPath.unpickle (r_list r_string ()) of              fun sn () = let
638                      SOME p => p                  fun sn' #"a" =
639                    | NONE => raise Format                      DG.BNODE { bininfo = si (),
640              fun unUAP (UAP x) = x                                 localimports = snlist (),
641                | unUAP _ = raise Format                                 globalimports = fsbnlist () }
642                      | sn' _ = raise Format
643          in          in
644              r_share r_abspath_raw UAP unUAP                  share snM sn'
645          end          end
646    
647          val r_symbol = let              and snlist () = list snListM sn ()
648              fun r_symbol_raw () = let  
649                  val (ns, first) =              (* this one changes from farsbnode to plain farbnode *)
650                      case rd () of              and sbn () = let
651                          #"`" => (Symbol.sigSymbol, rd ())                  fun sbn' #"1" = DG.PNODE (primitive ())
652                        | #"(" => (Symbol.fctSymbol, rd ())                    | sbn' #"2" = let
653                        | #")" => (Symbol.fsigSymbol, rd ())                          val n = int ()
654                        | c => (Symbol.strSymbol, c)                          val sy = symbol ()
655                  fun loop (#".", l) = String.implode (rev l)                          val GG.GROUP { exports = slexp, ... } =
656                    | loop (c, l) = loop (rd (), c :: l)                              List.nth (sublibs, n) handle _ => raise Format
657              in              in
658                  ns (loop (first, []))                          case SymbolMap.find (slexp, sy) of
659                                SOME ((_, DG.SB_BNODE (n as DG.BNODE _, _)), _) =>
660                                    n
661                              | _ => raise Format
662              end              end
663              fun unUS (US x) = x                    | sbn' #"3" = sn ()
664                | unUS _ = raise Format                    | sbn' _ = raise Format
665          in          in
666              r_share r_symbol_raw US unUS                  share sbnM sbn'
667          end          end
668    
669          val r_ss = let              and fsbn () = let
670              fun r_ss_raw () =                  fun f #"f" = (filter (), sbn ())
671                  SymbolSet.addList (SymbolSet.empty, r_list r_symbol ())                    | f _ = raise Format
             fun unUSS (USS s) = s  
               | unUSS _ = raise Format  
672          in          in
673              r_share r_ss_raw USS unUSS                  share fsbnM f
674          end          end
675    
676          val r_filter = r_option r_ss              and fsbnlist () = list fsbnListM fsbn ()
   
         fun r_primitive () =  
             case Primitive.fromIdent (rd ()) of  
                 NONE => raise Format  
               | SOME p => p  
677    
678          fun r_sharing () =              fun impexp () = let
679              case rd () of                  fun ie #"i" =
680                  #"n" => NONE                      let val sy = symbol ()
681                | #"t" => SOME true                          val (f, n) = fsbn () (* really reads farbnodes! *)
682                | #"f" => SOME false                          val ge = lazy_env ()
683                | _ => raise Format                          val ii = { statenv = GenericVC.CoerceEnv.bs2es o ge,
684                                       symenv = lazy_symenv (),
685          fun r_si () = let                                     statpid = pid (),
686              val spec = r_string ()                                     sympid = pid () }
687              val locs = r_string ()                          val e = Statenv2DAEnv.cvtMemo ge
688              val offset = r_int () + offset_adjustment                          (* put a filter in front to avoid having the FCTENV
689              val share = r_sharing ()                           * being queried needlessly (this avoids spurious
690              val error = EM.errorNoSource grpSrcInfo locs                           * module loadings) *)
691                            val e' = DAEnv.FILTER (SymbolSet.singleton sy, e)
692          in          in
693              BinInfo.new { group = group,                          (sy, ((f, DG.SB_BNODE (n, ii)), e'))
                           error = error,  
                           spec = spec,  
                           offset = offset,  
                           share = share }  
694          end          end
695                      | ie _ = raise Format
696          fun r_bn () =              in
697              case rd () of                  share impexpM ie
                 #"p" => DG.PNODE (r_primitive ())  
               | #"b" => let  
                     val p = r_abspath ()  
                     val os = r_int ()  
                     val GG.GROUP { stableinfo, ... } = getGroup p  
                 in  
                     case stableinfo of  
                         GG.NONSTABLE _ => raise Format  
                       | GG.STABLE im =>  
                             (case IntBinaryMap.find (im, os) of  
                                  NONE => raise Format  
                                | SOME n => n)  
698                  end                  end
               | _ => raise Format  
   
         (* this is the place where what used to be an  
          * SNODE changes to a BNODE! *)  
         fun r_sn_raw () =  
             DG.BNODE { bininfo = r_si (),  
                        localimports = r_list r_sn (),  
                        globalimports = r_list r_fsbn () }  
699    
700          and r_sn () =              val impexplist = list impexpListM impexp
             r_share r_sn_raw UBN (fn (UBN n) => n | _ => raise Format) ()  
701    
702          (* this one changes from farsbnode to plain farbnode *)              fun r_exports () = let
703          and r_sbn () =                  val iel = impexplist ()
             case rd () of  
                 #"b" => r_bn ()  
               | #"s" => r_sn ()  
               | _ => raise Format  
   
         and r_fsbn () = (r_filter (), r_sbn ())  
   
         fun r_impexp () = let  
             val sy = r_symbol ()  
             val (f, n) = r_fsbn ()      (* really reads farbnodes! *)  
             val e = bn2env n  
704          in          in
705              (sy, ((f, DG.SB_BNODE n), e)) (* coerce to farsbnodes *)                  foldl SymbolMap.insert' SymbolMap.empty iel
706          end          end
707    
708          fun r_exports () =              val stringlist = list stringListM string
             foldl SymbolMap.insert' SymbolMap.empty (r_list r_impexp ())  
709    
710          fun r_privileges () =              fun privileges () =
711              StringSet.addList (StringSet.empty, r_list r_string ())                  StringSet.addList (StringSet.empty, stringlist ())
712    
         fun unpickle_group () = let  
713              val exports = r_exports ()              val exports = r_exports ()
714              val islib = r_bool ()              val required = privileges ()
             val required = r_privileges ()  
             val subgroups = r_list (getGroup o r_abspath) ()  
             val simap = genStableInfoMap (exports, group)  
715          in          in
716              GG.GROUP { exports = exports,              GG.GROUP { exports = exports,
717                         islib = islib,                         kind = GG.STABLELIB,
718                         required = required,                         required = required,
719                         grouppath = group,                         grouppath = group,
720                         subgroups = subgroups,                         sublibs = sublibs }
                        stableinfo = GG.STABLE simap }  
721          end          end
722      in      in
723          SOME (unpickle_group ()) handle Format => NONE          SOME (SafeIO.perform { openIt = BinIO.openIn o mksname,
724                                   closeIt = BinIO.closeIn,
725                                   work = work,
726                                   cleanup = fn () => () })
727            handle Format => NONE
728                 | IO.Io _ => NONE
729      end      end
730  end  end
731    
732    end (* local *)

Legend:
Removed from v.308  
changed lines
  Added in v.398

root@smlnj-gforge.cs.uchicago.edu
ViewVC Help
Powered by ViewVC 1.0.0