Home My Page Projects Code Snippets Project Openings SML/NJ
Summary Activity Forums Tracker Lists Tasks Docs Surveys News SCM Files

SCM Repository

[smlnj] Diff of /sml/trunk/src/cm/stable/stabilize.sml
ViewVC logotype

Diff of /sml/trunk/src/cm/stable/stabilize.sml

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 307, Tue Jun 1 09:38:28 1999 UTC revision 403, Tue Aug 31 07:44:29 1999 UTC
# Line 1  Line 1 
1  structure Stablize = struct  (*
2     * Reading, generating, and writing stable groups.
3     *
4     * (C) 1999 Lucent Technologies, Bell Laboratories
5     *
6     * Author: Matthias Blume (blume@kurims.kyoto-u.ac.jp)
7     *)
8    local
9      structure DG = DependencyGraph      structure DG = DependencyGraph
10      structure GG = GroupGraph      structure GG = GroupGraph
11      structure EM = GenericVC.ErrorMsg      structure EM = GenericVC.ErrorMsg
12        structure PP = PrettyPrint
13        structure SM = GenericVC.SourceMap
14        structure GP = GeneralParams
15        structure E = GenericVC.Environment
16        structure Pid = GenericVC.PersStamps
17        structure P = PickMod
18        structure UP = UnpickMod
19        structure E = GenericVC.Environment
20    in
21    
22    signature STABILIZE = sig
23    
24        val loadStable :
25            GP.info -> { getGroup: SrcPath.t -> GG.group option,
26                         anyerrors: bool ref }
27            -> SrcPath.t -> GG.group option
28    
29        val stabilize :
30            GP.info -> { group: GG.group, anyerrors: bool ref } -> GG.group option
31    end
32    
33    functor StabilizeFn (val destroy_state : GP.info -> SmlInfo.info -> unit
34                         structure MachDepVC : MACHDEP_VC
35                         val recomp : GP.info -> GG.group ->
36                             (SmlInfo.info -> MachDepVC.Binfile.bfContent) option
37                         val getII : SmlInfo.info -> IInfo.info) :> STABILIZE =
38    struct
39    
40        structure BF = MachDepVC.Binfile
41    
42        structure SSMap = BinaryMapFn
43            (struct
44                 type ord_key = SymbolSet.set
45                 val compare = SymbolSet.compare
46            end)
47    
48      datatype pitem =      structure SNMap = BinaryMapFn
49          PSS of SymbolSet.set          (struct
50        | PS of Symbol.symbol               type ord_key = DG.snode
51        | PSN of DG.snode               fun compare (DG.SNODE n, DG.SNODE n') =
       | PAP of AbsPath.t  
   
     datatype uitem =  
         USS of SymbolSet.set  
       | US of Symbol.symbol  
       | UBN of DG.bnode  
       | UAP of AbsPath.t  
   
     fun compare (PS s, PS s') = SymbolOrdKey.compare (s, s')  
       | compare (PS _, _) = GREATER  
       | compare (_, PS _) = LESS  
       | compare (PSS s, PSS s') = SymbolSet.compare (s, s')  
       | compare (PSS _, _) = GREATER  
       | compare (_, PSS _) = LESS  
       | compare (PSN (DG.SNODE n), PSN (DG.SNODE n')) =  
52          SmlInfo.compare (#smlinfo n, #smlinfo n')          SmlInfo.compare (#smlinfo n, #smlinfo n')
       | compare (PSN _, _) = GREATER  
       | compare (_, PSN _) = LESS  
       | compare (PAP p, PAP p') = AbsPath.compare (p, p')  
   
     structure Map =  
         BinaryMapFn (struct  
                          type ord_key = pitem  
                          val compare = compare  
53          end)          end)
54    
55      fun stabilize (g as GG.GROUP grec, binSizeOf, binCopy, gp) =      structure PU = PickleUtil
56          case #stableinfo grec of      structure UU = UnpickleUtil
57              GG.STABLE _ => g  
58            | GG.NONSTABLE granted => let      type map = { ss: PU.id SSMap.map, sn: PU.id SNMap.map, pm: P.map }
59    
60        val emptyMap = { ss = SSMap.empty, sn = SNMap.empty, pm = P.emptyMap }
61    
62        val lifter =
63            { extract = fn (m: map) => #pm m,
64              patchback = fn (m: map, pm) => { ss = #ss m, sn = #sn m, pm = pm } }
65    
66        infix 3 $
67        infixr 4 &
68        val op & = PU.&
69        val % = PU.%
70    
71        (* type info *)
72        val (BN, SN, SBN, SS, SI, FSBN, IMPEXP, SHM) = (1, 2, 3, 4, 5, 6, 7, 8)
73    
74        val SSs =
75            { find = fn (m: map, k) => SSMap.find (#ss m, k),
76              insert = fn ({ ss, sn, pm }, k, v) =>
77                           { sn = sn, ss = SSMap.insert (ss, k, v), pm = pm } }
78        val SNs =
79            { find = fn (m: map, k) => SNMap.find (#sn m, k),
80              insert = fn ({ ss, sn, pm }, k, v) =>
81                           { ss = ss, sn = SNMap.insert (sn, k, v), pm = pm } }
82    
83        fun stabilize gp { group = g as GG.GROUP grec, anyerrors } = let
84    
85            val primconf = #primconf (#param gp)
86            val policy = #fnpolicy (#param gp)
87            val pervasive = #pervasive (#param gp)
88    
89            val grouppath = #grouppath grec
90    
91            fun doit (wrapped, getBFC) = let
92    
93                fun writeBFC s i = BF.write { stream = s,
94                                              content = getBFC i,
95                                              nopickle = true }
96                fun sizeBFC i = BF.size { content = getBFC i, nopickle = true }
97    
98                val _ =
99                    Say.vsay ["[stabilizing ", SrcPath.descr grouppath, "]\n"]
100    
101                val _ =
102                    if StringSet.isEmpty wrapped then ()
103                    else
104                        Say.say ("$Stabilize: wrapping the following privileges:\n"
105                                 :: map (fn s => ("  " ^ s ^ "\n"))
106                                        (StringSet.listItems wrapped))
107    
108                val grpSrcInfo = (#errcons gp, anyerrors)
109    
110                  val exports = #exports grec                  val exports = #exports grec
111                val required = StringSet.difference (#required grec, wrapped)
112                val sublibs = #sublibs grec
113    
114                  (* The format of a stable archive is the following:                  (* The format of a stable archive is the following:
115                   *  - It starts with the size s of the pickled dependency                   *  - It starts with the size s of the pickled dependency
116                   *    graph. This size itself is written as four-byte string.                   *    graph. This size itself is written as four-byte string.
117                 *  - The size t of the pickled environment for the entire
118                 *    library (using the pickleEnvN interface of the pickler)
119                 *    in the same format as s.
120                   *  - The pickled dependency graph.  This graph contains                   *  - The pickled dependency graph.  This graph contains
121                   *    integer offsets of the binfiles for the individual ML                   *    integer offsets of the binfiles for the individual ML
122                   *    members. These offsets need to be adjusted by adding                   *    members. These offsets need to be adjusted by adding
123                   *    s + 4. The pickled dependency graph also contains integer               *    s + t + 8. The pickled dependency graph also contains integer
124                   *    offsets relative to other stable groups.  These offsets                   *    offsets relative to other stable groups.  These offsets
125                   *    need no further adjustment.                   *    need no further adjustment.
126                   *  - Individual binfile contents (concatenated).               *  - The pickled environment (list).  To be unpickled using
127                 *    unpickleEnvN.
128                 *  - Individual binfile contents (concatenated) but without
129                 *    their static environments.
130                   *)                   *)
131    
132                  val offsetDict = ref SmlInfoMap.empty              (* Here we build a mapping that maps each BNODE to a number
133                 * representing the sub-library that it came from and a
134                 * representative symbol that can be used to find the BNODE
135                 * within the exports of that library *)
136                fun oneB i (sy, ((_, DG.SB_BNODE (DG.BNODE n, _)), _), m) =
137                    StableMap.insert (m, #bininfo n, (i, sy))
138                  | oneB i (_, _, m) = m
139                fun oneSL ((g as GG.GROUP { exports, ... }), (m, i)) =
140                    (SymbolMap.foldli (oneB i) m exports, i + 1)
141                val inverseMap = #1 (foldl oneSL (StableMap.empty, 0) sublibs)
142    
143                  val members = ref []                  val members = ref []
144                  val registerOffset = let              val (registerOffset, getOffset) = let
145                    val dict = ref SmlInfoMap.empty
146                      val cur = ref 0                      val cur = ref 0
147                      fun reg (i, sz) = let                      fun reg (i, sz) = let
148                          val os = !cur                          val os = !cur
149                      in                      in
150                          cur := os + sz;                          cur := os + sz;
151                          offsetDict := SmlInfoMap.insert (!offsetDict, i, os);                      dict := SmlInfoMap.insert (!dict, i, os);
152                          members := i :: (!members);                          members := i :: (!members);
153                          os                          os
154                      end                      end
155                    fun get i = valOf (SmlInfoMap.find (!dict, i))
156                  in                  in
157                      reg                  (reg, get)
158                  end                  end
159    
160                  fun w_list w_item [] k m =              (* Collect all BNODEs and PNODEs that we see and build
161                      "0" :: k m               * a context suitable for P.envPickler. *)
162                    | w_list w_item [a] k m =              fun mkContext () = let
163                      "1" :: w_item a k m                  fun lst f [] k s = k s
164                    | w_list w_item [a, b] k m =                    | lst f (h :: t) k s = f h (lst f t k) s
                     "2" :: w_item a (w_item b k) m  
                   | w_list w_item [a, b, c] k m =  
                     "3" :: w_item a (w_item b (w_item c k)) m  
                   | w_list w_item [a, b, c, d] k m =  
                     "4" :: w_item a (w_item b (w_item c (w_item d k))) m  
                   | w_list w_item (a :: b :: c :: d :: e :: r) k m =  
                     "5" :: w_item a (w_item b (w_item c (w_item d (w_item e  
                                                       (w_list w_item r k))))) m  
   
                 fun w_option w_item NONE k m = "n" :: k m  
                   | w_option w_item (SOME i) k m = "s" :: w_item i k m  
165    
166                  fun int_encode i = let                  fun sbn n k (s as (prims, bnodes, snodes)) =
167                      (* this is the same mechanism that's also used in                      case n of
168                       * TopLevel/batch/binfile.sml (maybe we should share it) *)                          DG.SB_BNODE (DG.PNODE p, { statenv, ... }) => let
169                      val n = Word32.fromInt i                              val str = String.str (Primitive.toIdent primconf p)
170                      val // = LargeWord.div                              val prims' = StringMap.insert (prims, str, statenv)
                     val %% = LargeWord.mod  
                     val !! = LargeWord.orb  
                     infix // %% !!  
                     val toW8 = Word8.fromLargeWord  
                     fun r (0w0, l) = Word8Vector.fromList l  
                       | r (n, l) =  
                         r (n // 0w128, toW8 ((n %% 0w128) !! 0w128) :: l)  
171                  in                  in
172                      Byte.bytesToString (r (n // 0w128, [toW8 (n %% 0w128)]))                              k (prims', bnodes, snodes)
173                  end                  end
174                          | DG.SB_BNODE (DG.BNODE { bininfo = i, ... }, ii) => let
175                                val { statenv, ... } = ii
176                                val nsy = valOf (StableMap.find (inverseMap, i))
177                                val bnodes' =
178                                    StableMap.insert (bnodes, i, (nsy, statenv))
179                            in
180                                k (prims, bnodes', snodes)
181                            end
182                          | DG.SB_SNODE n => sn n k s
183    
184                  fun w_int i k m = int_encode i :: k m                  and sn (DG.SNODE n) k (prims, bnodes, snodes) = let
185                        val i = #smlinfo n
186                  fun w_share w C v k (i, m) =                      val li = #localimports n
187                      case Map.find (m, C v) of                      val gi = #globalimports n
                         SOME i' => "o" :: w_int i' k (i, m)  
                       | NONE => "n" :: w v k (i + 1, Map.insert (m, C v, i))  
   
                 fun w_symbol_raw s k m = let  
                     val ns = case Symbol.nameSpace s of  
                         Symbol.SIGspace => "'"  
                       | Symbol.FCTspace => "("  
                       | Symbol.FSIGspace => ")"  
                       | Symbol.STRspace => ""  
                       | _ => GenericVC.ErrorMsg.impossible "stabilize:w_symbol"  
188                  in                  in
189                      ns :: Symbol.name s :: "." :: k m                      if SmlInfoSet.member (snodes, i) then
190                            k (prims, bnodes, snodes)
191                        else let
192                            val snodes' = SmlInfoSet.add (snodes, i)
193                        in
194                            lst sn li (lst fsbn gi k) (prims, bnodes, snodes')
195                        end
196                  end                  end
197    
198                  val w_symbol = w_share w_symbol_raw PS                  and fsbn (_, n) k s = sbn n k s
199    
200                  val w_ss = w_share (w_list w_symbol o SymbolSet.listItems) PSS                  fun impexp (n, _) k s = fsbn n k s
201    
202                  val w_filter = w_option w_ss                  val (prims, bnodes) =
203                        lst impexp (SymbolMap.listItems exports)
204                            (fn (prims, bnodes, _) => (prims, bnodes))
205                            (StringMap.empty, StableMap.empty, SmlInfoSet.empty)
206    
207                  fun w_string s k m = let                  val priml = StringMap.listItemsi prims
208                      fun esc #"\\" = "\\\\"                  val bnodel = StableMap.listItems bnodes
                       | esc #"\"" = "\\\""  
                       | esc c = String.str c  
209    
210                    fun cvt lk id = let
211                        fun nloop [] = NONE
212                          | nloop ((k, ge) :: t) =
213                            (case lk (ge ()) id of
214                                 SOME _ => SOME (P.NodeKey k)
215                               | NONE => nloop t)
216                        fun ploop [] = nloop bnodel
217                          | ploop ((k, ge) :: t) =
218                            (case lk (ge ()) id of
219                                 SOME _ => SOME (P.PrimKey k)
220                               | NONE => ploop t)
221                  in                  in
222                      String.translate esc s :: "\"" :: k m                      case lk (E.staticPart pervasive) id of
223                            NONE => ploop priml
224                          | SOME _ => SOME (P.PrimKey "pv")
225                  end                  end
   
                 fun w_sharing NONE k m = "n" :: k m  
                   | w_sharing (SOME true) k m = "t" :: k m  
                   | w_sharing (SOME false) k m = "f" :: k m  
   
                 fun w_si i k = let  
                     val spec = AbsPath.spec (SmlInfo.sourcepath i)  
                     val locs = SmlInfo.errorLocation gp i  
                     val offset = registerOffset (i, binSizeOf i)  
226                  in                  in
227                      w_string spec                  { lookSTR = cvt GenericVC.CMStaticEnv.lookSTR,
228                          (w_string locs                    lookSIG = cvt GenericVC.CMStaticEnv.lookSIG,
229                              (w_int offset                    lookFCT = cvt GenericVC.CMStaticEnv.lookFCT,
230                                   (w_sharing (SmlInfo.share i) k)))                    lookFSIG = cvt GenericVC.CMStaticEnv.lookFSIG,
231                      lookTYC = cvt GenericVC.CMStaticEnv.lookTYC,
232                      lookEENV = cvt GenericVC.CMStaticEnv.lookEENV }
233                  end                  end
234    
235                  fun w_primitive p k m = String.str (Primitive.toIdent p) :: k m              (* make the picklers for static and symbolic environments;
236                 * lift them so we can use them here... *)
237                  fun w_abspath_raw p k m =              val envContext = mkContext ()
                     w_list w_string (AbsPath.pickle p) k m  
   
                 val w_abspath = w_share w_abspath_raw PAP  
238    
239                  fun w_bn (DG.PNODE p) k m = "p" :: w_primitive p k m              val env_orig = P.envPickler envContext
240                    | w_bn (DG.BNODE { bininfo = i, ... }) k m =              val env = PU.lift_pickler lifter env_orig
241                      "b" :: w_abspath (BinInfo.group i)              val symenv_orig = P.symenvPickler
242                                (w_int (BinInfo.offset i) k) m              val symenv = PU.lift_pickler lifter symenv_orig
243                val lazy_env = PU.w_lazy env
244                val lazy_symenv = PU.w_lazy symenv
245    
246                  fun w_sn_raw (DG.SNODE n) k =              val int = PU.w_int
247                      w_si (#smlinfo n)              val symbol = PickleSymPid.w_symbol
248                          (w_list w_sn (#localimports n)              val pid = PickleSymPid.w_pid
249                                (w_list w_fsbn (#globalimports n) k))              val share = PU.ah_share
250                val option = PU.w_option
251                val list = PU.w_list
252                val string = PU.w_string
253                val bool = PU.w_bool
254                val int = PU.w_int
255    
256                  and w_sn n = w_share w_sn_raw PSN n              fun symbolset ss = let
257                    val op $ = PU.$ SS
258                  and w_sbn (DG.SB_BNODE n) k m = "b" :: w_bn n k m                  fun raw_ss ss = "s" $ list symbol (SymbolSet.listItems ss)
259                    | w_sbn (DG.SB_SNODE n) k m = "s" :: w_sn n k m              in
260                    share SSs raw_ss ss
261                  and w_fsbn (f, n) k = w_filter f (w_sbn n k)              end
262    
263                  fun w_impexp (s, (n, _)) k = w_symbol s (w_fsbn n k)              val filter = option symbolset
264    
265                  fun w_exports e = w_list w_impexp (SymbolMap.listItemsi e)              fun shm (Sharing.SHARE true) = %SHM "a"
266                  | shm (Sharing.SHARE false) = %SHM "b"
267                  | shm Sharing.DONTSHARE = %SHM "c"
268    
269                  fun w_bool true k m = "t" :: k m              fun si i = let
270                    | w_bool false k m = "f" :: k m                  (* FIXME: this is not a technical flaw, but perhaps one
271                     * that deserves fixing anyway:  If we only look at spec,
272                     * then we are losing information about sub-grouping
273                     * within libraries.  However, the spec in BinInfo.info
274                     * is only used for diagnostics and has no impact on the
275                     * operation of CM itself. *)
276                    val spec = SrcPath.specOf (SmlInfo.sourcepath i)
277                    val locs = SmlInfo.errorLocation gp i
278                    val offset = registerOffset (i, sizeBFC i)
279                    val sh_mode = SmlInfo.sh_mode i
280                    val op $ = PU.$ SI
281                in
282                    "s" $ string spec & string locs & int offset & shm sh_mode
283                end
284    
285                  fun w_privileges p = w_list w_string (StringSet.listItems p)              fun primitive p =
286                    string (String.str (Primitive.toIdent primconf p))
287    
288                  fun pickle_group (GG.GROUP g, granted) = let              fun warn_relabs p abs = let
289                      fun w_sg (GG.GROUP g) = w_abspath (#grouppath g)                  val relabs = if abs then "absolute" else "relative"
290                      val req' = StringSet.difference (#required g, granted)                  fun ppb pps =
291                      fun k0 m = []                      (PP.add_newline pps;
292                      val m0 = (0, Map.empty)                       PP.add_string pps (SrcPath.descr p);
293                         PP.add_newline pps;
294                         PP.add_string pps
295        "(This means that in order to be able to use the result of stabilization";
296                         PP.add_newline pps;
297                         PP.add_string pps "the library must be in the same ";
298                         PP.add_string pps relabs;
299                         PP.add_string pps " location as it is now.)";
300                         PP.add_newline pps)
301                  in                  in
302                      concat                  EM.errorNoFile (#errcons gp, anyerrors) SM.nullRegion
303                         (w_exports (#exports g)                      EM.WARN
304                            (w_bool (#islib g)                      (concat [SrcPath.descr grouppath,
305                                (w_privileges req'                               ": library referred to by ", relabs,
306                                     (w_abspath (#grouppath g)                               " pathname:"])
307                                           (w_list w_sg (#subgroups g) k0)))) m0)                      ppb
308                  end                  end
309                  val pickle = pickle_group (g, granted)  
310                  val sz = size pickle              fun abspath p = let
311                    val pp = SrcPath.pickle (warn_relabs p) (p, grouppath)
312              in              in
313                  Dummy.f ()                  list string pp
314              end              end
315    
316      fun g (getGroup, bn2env, grpSrcInfo, group, s) = let              fun sn n = let
317                    val op $ = PU.$ SN
318          exception Format                  fun raw_sn (DG.SNODE n) =
319                        "a" $ si (#smlinfo n) & list sn (#localimports n) &
320          (* for getting sharing right... *)                      list fsbn (#globalimports n)
         val m = ref IntBinaryMap.empty  
         val next = ref 0  
   
         fun bytesIn n = let  
             val bv = BinIO.inputN (s, n)  
321          in          in
322              if n = Word8Vector.length bv then bv                  share SNs raw_sn n
             else raise Format  
323          end          end
324    
325          val sz = LargeWord.toIntX (Pack32Big.subVec (bytesIn 4, 0))              (* Here we ignore the interface info because we will not
326          val pickle = bytesIn sz               * need it anymore when we unpickle. *)
327          val offset_adjustment = sz + 4              and sbn x = let
328                    val op $ = PU.$ SBN
         val rd = let  
             val pos = ref 0  
             fun rd () = let  
                 val p = !pos  
329              in              in
330                  pos := p + 1;                  case x of
331                  Byte.byteToChar (Word8Vector.sub (pickle, p))                      DG.SB_BNODE (DG.PNODE p, { statenv = getE, ... }) =>
332                  handle _ => raise Format                          "1" $ primitive p
333                      | DG.SB_BNODE (DG.BNODE { bininfo = i, ... }, _) => let
334                            val (n, sy) = valOf (StableMap.find (inverseMap, i))
335                        in
336                            "2" $ int n & symbol sy
337                        end
338                      | DG.SB_SNODE n => "3" $ sn n
339              end              end
340    
341                and fsbn (f, n) = let
342                    val op $ = PU.$ FSBN
343          in          in
344              rd                  "f" $ filter f & sbn n
345          end          end
346    
347          fun r_list r () =              (* Here is the place where we need to write interface info. *)
348              case rd () of              fun impexp (s, (n, _)) = let
349                  #"0" => []                  val op $ = PU.$ IMPEXP
350                | #"1" => [r ()]                  val { statenv, symenv, statpid, sympid } =
351                | #"2" => [r (), r ()]                      case n of
352                | #"3" => [r (), r (), r ()]                          (_, DG.SB_BNODE (_, ii)) => ii
353                | #"4" => [r (), r (), r (), r ()]                        | (_, DG.SB_SNODE (DG.SNODE { smlinfo, ... })) =>
354                | #"5" => r () :: r () :: r () :: r () :: r () :: r_list r ()                              getII smlinfo
355                | _ => raise Format              in
356                    "i" $ symbol s & fsbn n &
357                          lazy_env (GenericVC.CoerceEnv.es2bs o statenv) &
358                          lazy_symenv symenv &
359                          pid statpid &
360                          pid sympid
361                end
362    
363          fun r_bool () =              fun w_exports e = list impexp (SymbolMap.listItemsi e)
             case rd () of  
                 #"t" => true  
               | #"f" => false  
               | _ => raise Format  
364    
365          fun r_option r_item () =              fun privileges p = list string (StringSet.listItems p)
             case rd () of  
                 #"n" => NONE  
               | #"s" => SOME (r_item ())  
               | _ => raise Format  
366    
367          fun r_int () = let              fun group () = let
368              fun loop n = let                  fun sg (GG.GROUP { grouppath, ... }) = abspath grouppath
                 val w8 = Byte.charToByte (rd ())  
                 val n' = n * 0w128 + Word8.toLargeWord (Word8.andb (w8, 0w127))  
369              in              in
370                  if Word8.andb (w8, 0w128) = 0w0 then n' else loop n'                  (* Pickle the sublibs first because we need to already
371              end                   * have them back when we unpickle BNODEs. *)
372          in                  list sg sublibs & w_exports exports & privileges required
             LargeWord.toIntX (loop 0w0)  
373          end          end
374    
375          fun r_share r_raw C unC () =              val dg_pickle =
376              case rd () of                  Byte.stringToBytes (PU.pickle emptyMap (group ()))
377                  #"o" => (case IntBinaryMap.find (!m, r_int ()) of  
378                               SOME x => unC x              val dg_sz = Word8Vector.length dg_pickle
379                             | NONE => raise Format)  
380                | #"n" => let              val offset_adjustment = dg_sz + 4
381                      val i = !next  
382                      val _ = next := i + 1              fun mkStableGroup mksname = let
383                      val v = r_raw ()                  val m = ref SmlInfoMap.empty
384                    fun sn (DG.SNODE (n as { smlinfo, ... })) =
385                        case SmlInfoMap.find (!m, smlinfo) of
386                            SOME n => n
387                          | NONE => let
388                                val li = map sn (#localimports n)
389                                val gi = map fsbn (#globalimports n)
390                                val sourcepath = SmlInfo.sourcepath smlinfo
391                                (* FIXME: see the comment near the other
392                                 * occurence of SrcPath.spec... *)
393                                val spec = SrcPath.specOf sourcepath
394                                val offset =
395                                    getOffset smlinfo + offset_adjustment
396                                val sh_mode = SmlInfo.sh_mode smlinfo
397                                val locs = SmlInfo.errorLocation gp smlinfo
398                                val error = EM.errorNoSource grpSrcInfo locs
399                                val i = BinInfo.new { group = grouppath,
400                                                      mkStablename = mksname,
401                                                      spec = spec,
402                                                      offset = offset,
403                                                      sh_mode = sh_mode,
404                                                      error = error }
405                                val n = DG.BNODE { bininfo = i,
406                                                   localimports = li,
407                                                   globalimports = gi }
408                  in                  in
409                      m := IntBinaryMap.insert (!m, i, C v);                              destroy_state gp smlinfo;
410                      v                              m := SmlInfoMap.insert (!m, smlinfo, n);
411                                n
412                  end                  end
               | _ => raise Format  
413    
414          fun r_string () = let                  and sbn (DG.SB_SNODE (n as DG.SNODE { smlinfo = i, ... })) =
415              fun loop l =                      let val ii = getII i
                 case rd () of  
                     #"\"" => String.implode (rev l)  
                   | #"\\" => loop (rd () :: l)  
                   | c => loop (c :: l)  
416          in          in
417              loop []                          (sn n, ii)
418          end          end
419                      | sbn (DG.SB_BNODE (n, ii)) = (n, ii)
420    
421                    and fsbn (f, n) = (f, #1 (sbn n))
422    
423          val r_abspath = let                  fun impexp ((f, n), e) = ((f, DG.SB_BNODE (sbn n)), e)
424              fun r_abspath_raw () =  
425                  case AbsPath.unpickle (r_list r_string ()) of                  val exports = SymbolMap.map impexp (#exports grec)
                     SOME p => p  
                   | NONE => raise Format  
             fun unUAP (UAP x) = x  
               | unUAP _ = raise Format  
426          in          in
427              r_share r_abspath_raw UAP unUAP                  GG.GROUP { exports = exports,
428                               kind = GG.STABLELIB,
429                               required = required,
430                               grouppath = grouppath,
431                               sublibs = sublibs }
432          end          end
433    
434          val r_symbol = let              fun writeInt32 (s, i) = let
435              fun r_symbol_raw () = let                  val a = Word8Array.array (4, 0w0)
436                  val (ns, first) =                  val _ = Pack32Big.update (a, 0, LargeWord.fromInt i)
437                      case rd () of              in
438                          #"`" => (Symbol.sigSymbol, rd ())                  BinIO.output (s, Word8Array.extract (a, 0, NONE))
439                        | #"(" => (Symbol.fctSymbol, rd ())              end
440                        | #")" => (Symbol.fsigSymbol, rd ())              val memberlist = rev (!members)
441                        | c => (Symbol.strSymbol, c)  
442                  fun loop (#".", l) = String.implode (rev l)              fun mksname () = FilenamePolicy.mkStableName policy grouppath
443                    | loop (c, l) = loop (rd (), c :: l)              fun work outs =
444              in                  (writeInt32 (outs, dg_sz);
445                  ns (loop (first, []))                   BinIO.output (outs, dg_pickle);
446                     app (writeBFC outs) memberlist;
447                     mkStableGroup mksname)
448            in
449                SOME (SafeIO.perform { openIt = AutoDir.openBinOut o mksname,
450                                       closeIt = BinIO.closeOut,
451                                       work = work,
452                                       cleanup = fn () =>
453                                        (OS.FileSys.remove (mksname ())
454                                         handle _ => ()) })
455                handle exn => NONE
456            end
457        in
458            case #kind grec of
459                GG.STABLELIB => SOME g
460              | GG.NOLIB => EM.impossible "stabilize: no library"
461              | GG.LIB wrapped =>
462                 (case recomp gp g of
463                      NONE => (anyerrors := true; NONE)
464                    | SOME bfc_acc => let
465                          fun notStable (GG.GROUP { kind, ... }) =
466                              case kind of GG.STABLELIB => false | _ => true
467                      in
468                        case List.filter notStable (#sublibs grec) of
469                            [] => doit (wrapped, bfc_acc)
470                          | l => let
471                                val grammar = case l of [_] => " is" | _ => "s are"
472                                fun ppb pps = let
473                                    fun loop [] = ()
474                                      | loop (GG.GROUP { grouppath, ... } :: t) =
475                                        (PP.add_string pps
476                                            (SrcPath.descr grouppath);
477                                         PP.add_newline pps;
478                                         loop t)
479                                in
480                                    PP.add_newline pps;
481                                    PP.add_string pps
482                                        (concat ["because the following sub-group",
483                                                 grammar, " not stable:"]);
484                                    PP.add_newline pps;
485                                    loop l
486                                end
487                                val errcons = #errcons gp
488                                val gdescr = SrcPath.descr (#grouppath grec)
489                            in
490                                EM.errorNoFile (errcons, anyerrors) SM.nullRegion
491                                   EM.COMPLAIN
492                                   (gdescr ^ " cannot be stabilized")
493                                   ppb;
494                                NONE
495              end              end
496              fun unUS (US x) = x                    end)
               | unUS _ = raise Format  
         in  
             r_share r_symbol_raw US unUS  
497          end          end
498    
499          val r_ss = let      fun loadStable gp { getGroup, anyerrors } group = let
500              fun r_ss_raw () =  
501                  SymbolSet.addList (SymbolSet.empty, r_list r_symbol ())          val errcons = #errcons (gp: GeneralParams.info)
502              fun unUSS (USS s) = s          val grpSrcInfo = (errcons, anyerrors)
503                | unUSS _ = raise Format          val gdescr = SrcPath.descr group
504            fun error l = EM.errorNoFile (errcons, anyerrors) SM.nullRegion
505                EM.COMPLAIN (concat ("(stable) " :: gdescr :: ": " :: l))
506                EM.nullErrorBody
507    
508            exception Format = UU.Format
509    
510            val pcmode = #pcmode (#param gp)
511            val policy = #fnpolicy (#param gp)
512            val primconf = #primconf (#param gp)
513            val pervasive = #pervasive (#param gp)
514    
515            fun mksname () = FilenamePolicy.mkStableName policy group
516    
517            fun work s = let
518    
519                fun getGroup' p =
520                    case getGroup p of
521                        SOME g => g
522                      | NONE => (error ["unable to find ", SrcPath.descr p];
523                                 raise Format)
524    
525                fun bytesIn n = let
526                    val bv = BinIO.inputN (s, n)
527          in          in
528              r_share r_ss_raw USS unUSS                  if n = Word8Vector.length bv then bv
529                    else raise Format
530          end          end
531    
532          val r_filter = r_option r_ss              val dg_sz = LargeWord.toIntX (Pack32Big.subVec (bytesIn 4, 0))
533                val dg_pickle = Byte.bytesToString (bytesIn dg_sz)
534          fun r_primitive () =              val offset_adjustment = dg_sz + 4
535              case Primitive.fromIdent (rd ()) of              val session = UU.mkSession (UU.stringGetter dg_pickle)
536                  NONE => raise Format  
537                | SOME p => p              fun list m r = UU.r_list session m r
538                val string = UU.r_string session
539                val stringListM = UU.mkMap ()
540                val stringlist = list stringListM string
541    
542                fun abspath () =
543                    SrcPath.unpickle pcmode (stringlist (), group)
544                    handle SrcPath.Format => raise Format
545                         | SrcPath.BadAnchor a =>
546                           (error ["configuration anchor \"", a, "\" undefined"];
547                            raise Format)
548    
549                fun sg () = getGroup' (abspath ())
550                val sgListM = UU.mkMap ()
551                val sublibs = list sgListM sg ()
552    
553                (* Now that we have the list of sublibs, we can build the
554                 * environment for unpickling the environment list.
555                 * We will need the environment list when unpickling the
556                 * export list (making SB_BNODES). *)
557                fun prim_context "pv" = SOME (E.staticPart pervasive)
558                  | prim_context s =
559                    SOME (E.staticPart (Primitive.env primconf
560                                        (valOf (Primitive.fromIdent primconf
561                                                (String.sub (s, 0))))))
562                    handle _ => NONE
563                fun node_context (n, sy) = let
564                    val GG.GROUP { exports = slexp, ... } = List.nth (sublibs, n)
565                in
566                    case SymbolMap.find (slexp, sy) of
567                        SOME ((_, DG.SB_BNODE (_, { statenv = ge, ... })), _) =>
568                            SOME (ge ())
569                      | _ => NONE
570                end handle _ => NONE
571    
572                val { symenv, env, symbol, symbollist } =
573                    UP.mkUnpicklers session
574                        { prim_context = prim_context,
575                          node_context = node_context }
576    
577                val lazy_symenv = UU.r_lazy session symenv
578                val lazy_env = UU.r_lazy session env
579    
580                fun option m r = UU.r_option session m r
581                val int = UU.r_int session
582                fun share m r = UU.share session m r
583                fun nonshare r = UU.nonshare session r
584                val bool = UU.r_bool session
585                val pid = UnpickleSymPid.r_pid string
586    
587                val stringListM = UU.mkMap ()
588                val ssM = UU.mkMap ()
589                val ssoM = UU.mkMap ()
590                val boolOptionM = UU.mkMap ()
591                val siM = UU.mkMap ()
592                val snM = UU.mkMap ()
593                val snListM = UU.mkMap ()
594                val sbnM = UU.mkMap ()
595                val fsbnM = UU.mkMap ()
596                val fsbnListM = UU.mkMap ()
597                val impexpM = UU.mkMap ()
598                val impexpListM = UU.mkMap ()
599    
600                fun symbolset () = let
601                    fun s #"s" = SymbolSet.addList (SymbolSet.empty, symbollist ())
602                      | s _ = raise Format
603                in
604                    share ssM s
605                end
606    
607                val filter = option ssoM symbolset
608    
609                fun primitive () =
610                    valOf (Primitive.fromIdent primconf
611                              (String.sub (string (), 0)))
612                    handle _ => raise Format
613    
614          fun r_sharing () =              fun shm () = let
615              case rd () of                  fun s #"a" = Sharing.SHARE true
616                  #"n" => NONE                    | s #"b" = Sharing.SHARE false
617                | #"t" => SOME true                    | s #"c" = Sharing.DONTSHARE
618                | #"f" => SOME false                    | s _ = raise Format
619                | _ => raise Format              in
620                    nonshare s
621                end
622    
623          fun r_si () = let              fun si () = let
624              val spec = r_string ()                  fun s #"s" =
625              val locs = r_string ()                      let val spec = string ()
626              val offset = r_int () + offset_adjustment                          val locs = string ()
627              val share = r_sharing ()                          val offset = int () + offset_adjustment
628                            val sh_mode = shm ()
629              val error = EM.errorNoSource grpSrcInfo locs              val error = EM.errorNoSource grpSrcInfo locs
630          in          in
631              BinInfo.new { group = group,              BinInfo.new { group = group,
632                                          mkStablename = mksname,
633                            error = error,                            error = error,
634                            spec = spec,                            spec = spec,
635                            offset = offset,                            offset = offset,
636                            share = share }                                        sh_mode = sh_mode }
637          end          end
638                      | s _ = raise Format
639          fun r_bn () =              in
640              case rd () of                  share siM s
                 #"p" => DG.PNODE (r_primitive ())  
               | #"b" => let  
                     val p = r_abspath ()  
                     val os = r_int ()  
                     val GG.GROUP { stableinfo, ... } = getGroup p  
                 in  
                     case stableinfo of  
                         GG.NONSTABLE _ => raise Format  
                       | GG.STABLE im =>  
                             (case IntBinaryMap.find (im, os) of  
                                  NONE => raise Format  
                                | SOME n => n)  
641                  end                  end
               | _ => raise Format  
642    
643          (* this is the place where what used to be an          (* this is the place where what used to be an
644           * SNODE changes to a BNODE! *)           * SNODE changes to a BNODE! *)
645          fun r_sn_raw () =              fun sn () = let
646              DG.BNODE { bininfo = r_si (),                  fun sn' #"a" =
647                         localimports = r_list r_sn (),                      DG.BNODE { bininfo = si (),
648                         globalimports = r_list r_fsbn () }                                 localimports = snlist (),
649                                   globalimports = fsbnlist () }
650                      | sn' _ = raise Format
651                in
652                    share snM sn'
653                end
654    
655          and r_sn () =              and snlist () = list snListM sn ()
             r_share r_sn_raw UBN (fn (UBN n) => n | _ => raise Format) ()  
656    
657          (* this one changes from farsbnode to plain farbnode *)          (* this one changes from farsbnode to plain farbnode *)
658          and r_sbn () =              and sbn () = let
659              case rd () of                  fun sbn' #"1" = DG.PNODE (primitive ())
660                  #"b" => r_bn ()                    | sbn' #"2" = let
661                | #"s" => r_sn ()                          val n = int ()
662                            val sy = symbol ()
663                            val GG.GROUP { exports = slexp, ... } =
664                                List.nth (sublibs, n) handle _ => raise Format
665                        in
666                            case SymbolMap.find (slexp, sy) of
667                                SOME ((_, DG.SB_BNODE (n as DG.BNODE _, _)), _) =>
668                                    n
669                | _ => raise Format                | _ => raise Format
670                        end
671                      | sbn' #"3" = sn ()
672                      | sbn' _ = raise Format
673                in
674                    share sbnM sbn'
675                end
676    
677          and r_fsbn () = (r_filter (), r_sbn ())              and fsbn () = let
678                    fun f #"f" = (filter (), sbn ())
679                      | f _ = raise Format
680                in
681                    share fsbnM f
682                end
683    
684                and fsbnlist () = list fsbnListM fsbn ()
685    
686                fun impexp () = let
687                    fun ie #"i" =
688                        let val sy = symbol ()
689                            val (f, n) = fsbn () (* really reads farbnodes! *)
690                            val ge = lazy_env ()
691                            val ii = { statenv = GenericVC.CoerceEnv.bs2es o ge,
692                                       symenv = lazy_symenv (),
693                                       statpid = pid (),
694                                       sympid = pid () }
695                            val e = Statenv2DAEnv.cvtMemo ge
696                            (* put a filter in front to avoid having the FCTENV
697                             * being queried needlessly (this avoids spurious
698                             * module loadings) *)
699                            val e' = DAEnv.FILTER (SymbolSet.singleton sy, e)
700                        in
701                            (sy, ((f, DG.SB_BNODE (n, ii)), e'))
702                        end
703                      | ie _ = raise Format
704                in
705                    share impexpM ie
706                end
707    
708                val impexplist = list impexpListM impexp
709    
710          fun r_impexp () = let              fun r_exports () = let
711              val sy = r_symbol ()                  val iel = impexplist ()
             val (f, n) = r_fsbn ()      (* really reads farbnodes! *)  
             val e = bn2env n  
712          in          in
713              (sy, ((f, DG.SB_BNODE n), e)) (* coerce to farsbnodes *)                  foldl SymbolMap.insert' SymbolMap.empty iel
714          end          end
715    
716          fun r_exports () =              val stringlist = list stringListM string
             foldl SymbolMap.insert' SymbolMap.empty (r_list r_impexp ())  
717    
718          fun r_privileges () =              fun privileges () =
719              StringSet.addList (StringSet.empty, r_list r_string ())                  StringSet.addList (StringSet.empty, stringlist ())
720    
         fun unpickle_group () = let  
721              val exports = r_exports ()              val exports = r_exports ()
722              val islib = r_bool ()              val required = privileges ()
             val required = r_privileges ()  
             val grouppath = r_abspath ()  
             val subgroups = r_list (getGroup o r_abspath) ()  
             (* find all the exported bnodes that are in the same group: *)  
             fun add (((_, DG.SB_BNODE (n as DG.BNODE b)), _), m) = let  
                     val i = #bininfo b  
                 in  
                     if AbsPath.compare (BinInfo.group i, group) = EQUAL then  
                         IntBinaryMap.insert (m, BinInfo.offset i, n)  
                     else m  
                 end  
               | add (_, m) = m  
             val simap = SymbolMap.foldl add IntBinaryMap.empty exports  
723          in          in
724              GG.GROUP { exports = exports,              GG.GROUP { exports = exports,
725                         islib = islib,                         kind = GG.STABLELIB,
726                         required = required,                         required = required,
727                         grouppath = grouppath,                         grouppath = group,
728                         subgroups = subgroups,                         sublibs = sublibs }
                        stableinfo = GG.STABLE simap }  
729          end          end
730      in      in
731          SOME (unpickle_group ()) handle Format => NONE          SOME (SafeIO.perform { openIt = BinIO.openIn o mksname,
732                                   closeIt = BinIO.closeIn,
733                                   work = work,
734                                   cleanup = fn () => () })
735            handle Format => (error ["file is corrupted (old version?)"];
736                              NONE)
737                 | IO.Io _ => NONE
738      end      end
739  end  end
740    
741    end (* local *)

Legend:
Removed from v.307  
changed lines
  Added in v.403

root@smlnj-gforge.cs.uchicago.edu
ViewVC Help
Powered by ViewVC 1.0.0