Home My Page Projects Code Snippets Project Openings SML/NJ
Summary Activity Forums Tracker Lists Tasks Docs Surveys News SCM Files

SCM Repository

[smlnj] Diff of /sml/trunk/src/cm/parse/parse.sml
ViewVC logotype

Diff of /sml/trunk/src/cm/parse/parse.sml

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 277, Mon May 17 09:13:26 1999 UTC revision 666, Fri Jun 16 08:27:00 2000 UTC
# Line 5  Line 5 
5   *   *
6   * Author: Matthias Blume (blume@kurims.kyoto-u.ac.jp)   * Author: Matthias Blume (blume@kurims.kyoto-u.ac.jp)
7   *)   *)
8  signature CMPARSE = sig  signature PARSE = sig
9      val parse : AbsPath.t -> CMSemant.group option      val parse : { load_plugin: SrcPath.dir -> string -> bool,
10                      gr: GroupReg.groupreg,
11                      param: GeneralParams.param,
12                      stabflag: bool option,
13                      group: SrcPath.file,
14                      init_group: CMSemant.group,
15                      paranoid: bool }
16            -> (CMSemant.group * GeneralParams.info) option
17        val reset : unit -> unit
18        val listLibs : unit -> SrcPath.file list
19        val dropPickles : unit -> unit
20        val dismissLib : SrcPath.file -> unit
21  end  end
22    
23  structure CMParse :> CMPARSE = struct  functor ParseFn (val pending : unit -> DependencyGraph.impexp SymbolMap.map
24                     val evictStale : unit -> unit
25                     structure StabModmap : STAB_MODMAP
26                     structure Stabilize : STABILIZE) :> PARSE = struct
27    
28        structure VerifyStable = VerStabFn (structure Stabilize = Stabilize)
29    
30      val lookAhead = 30      val lookAhead = 30
31    
32      structure S = GenericVC.Source      structure S = GenericVC.Source
33      structure EM = GenericVC.ErrorMsg      structure EM = GenericVC.ErrorMsg
34      structure SM = GenericVC.SourceMap      structure SM = GenericVC.SourceMap
35      structure P = GenericVC.Control.Print      structure GG = GroupGraph
36        structure DG = DependencyGraph
37    
38      structure CMLrVals = CMLrValsFun (structure Token = LrParser.Token)      structure CMLrVals = CMLrValsFun (structure Token = LrParser.Token)
39      structure CMLex = CMLexFun (structure Tokens = CMLrVals.Tokens)      structure CMLex = CMLexFun (structure Tokens = CMLrVals.Tokens)
# Line 25  Line 42 
42                       structure Lex = CMLex                       structure Lex = CMLex
43                       structure LrParser = LrParser)                       structure LrParser = LrParser)
44    
45      fun parse' (group, groupstack) = let      (* the "stable group cache" *)
46        val sgc = ref (SrcPathMap.empty: CMSemant.group SrcPathMap.map)
47        fun reset () = sgc := SrcPathMap.empty
48    
49        fun majorGC () = SMLofNJ.Internals.GC.doGC 7
50    
51        fun cachedStable (p, ig as GG.GROUP { grouppath, ... }) =
52            if SrcPath.compare (p, grouppath) = EQUAL then SOME ig
53            else SrcPathMap.find (!sgc, p)
54          | cachedStable (_, GG.ERRORGROUP) = NONE
55    
56        (* When an entry A vanishes from the stable cache (this only happens in
57         * paranoid mode), then all the other ones that refer to A must
58         * vasish, too.  They might still be valid themselves, but if they
59         * had been unpickled before A became invalid they will point to
60         * invalid data.  By removing them from the cache we force them to
61         * be re-read and re-unpickled.  This restores sanity. *)
62        fun delCachedStable (p, GG.GROUP { grouppath = igp, ... }) =
63            let val changed = ref true
64                fun canStay GG.ERRORGROUP = true (* doesn't matter *)
65                  | canStay (GG.GROUP { sublibs, ... }) = let
66                        fun goodSublib (p, gth, _) =
67                            case gth () of
68                                GG.GROUP { kind = GG.LIB { kind = GG.STABLE _,
69                                                           ... }, ... } =>
70                                SrcPath.compare (p, igp) = EQUAL orelse
71                                SrcPathMap.inDomain (!sgc, p)
72                              | _ => true
73                        val cs = List.all goodSublib sublibs
74                    in
75                        if cs then () else changed := true;
76                        cs
77                    end
78            in
79                (sgc := #1 (SrcPathMap.remove (!sgc, p)))
80                handle LibBase.NotFound => ();
81                while !changed do
82                   (changed := false; sgc := SrcPathMap.filter canStay (!sgc))
83            end
84          | delCachedStable (_, GG.ERRORGROUP) = ()
85    
86          val currentDir = AbsPath.dir group      fun listLibs () = map #1 (SrcPathMap.listItemsi (!sgc))
         val context = AbsPath.relativeContext (AbsPath.dir group)  
         val filename = AbsPath.name group  
         val _ = Say.vsay (concat ["[scanning ", filename, "]\n"])  
         val stream = TextIO.openIn filename  
         val errcons =  
             { linewidth = !P.linewidth, flush = P.flush, consumer = P.say }  
         val source = S.newSource (filename, 1, stream, false, errcons)  
         val sourceMap = #sourceMap source  
         fun error' region m b = EM.error source region EM.COMPLAIN m b  
         fun error region m = error' region m EM.nullErrorBody  
87    
88          (* recParse returns a group (not an option)      fun dropPickles () = let
89           * and re-raises LrParser.ParseError.          fun drop (GG.GROUP { kind = GG.LIB { kind = GG.STABLE dropper,
90           * This exception will be handled by the surrounding                                               ... }, ... }) = dropper ()
91           * call to parse.            | drop _ = ()
92           * This function is used to parse aliases and sub-groups. *)      in
93          fun recParse (p1, p2) p =          SrcPathMap.app drop (!sgc)
94              case parse' (p, (group, (source, p1, p2)) :: groupstack) of      end
95                  NONE => (#anyErrors source := true; CMSemant.emptyGroup)  
96                | SOME res => res      fun dismissLib l =
97            (StabModmap.reset ();
98             sgc := #1 (SrcPathMap.remove (!sgc, l)))
99            handle LibBase.NotFound => ()
100    
101        fun parse args = let
102            val { load_plugin, gr, param, stabflag, group,
103                  init_group, paranoid } = args
104    
105            val { grouppath = init_gname, ... } =
106                case init_group of
107                    GG.GROUP x => x
108                  | GG.ERRORGROUP =>
109                    EM.impossible "parse.sml: parse: bad init group"
110    
111            val stabthis = isSome stabflag
112            val staball = stabflag = SOME true
113    
114            val groupreg = gr
115            val errcons = EM.defaultConsumer ()
116            val ginfo0 = { param = param, groupreg = groupreg, errcons = errcons }
117            val keep_going = #keep_going param
118    
119            (* The "group cache" -- we store "group options";  having
120             * NONE registered for a group means that a previous attempt
121             * to parse it had failed.
122             * This registry is primed with the "init" group because it is
123             * "special" and cannot be parsed directly. *)
124            val gc = ref (SrcPathMap.singleton (init_gname, SOME init_group))
125    
126            val em = ref StableMap.empty
127    
128            fun update_em (GG.GROUP ns_g, GG.GROUP s_g) =
129                let val s_e = #exports s_g
130                    fun add (sy, (snth, _, _)) =
131                        case snth () of
132                            (_ , DG.SB_SNODE (DG.SNODE sn)) =>
133                            (case SymbolMap.find (s_e, sy) of
134                                 NONE => ()
135                               | SOME (bnth, _, _) =>
136                                 (case bnth () of
137                                      (_, DG.SB_BNODE (DG.BNODE bn, _)) =>
138                                      em := StableMap.insert (!em, #bininfo bn,
139                                                              #smlinfo sn)
140                                    | _ => ()))
141                          | _ => ()
142                in
143                    SymbolMap.appi add (#exports ns_g)
144                end
145              | update_em _ = ()
146    
147          fun doMember (p, p1, p2, c, e) =          fun registerNewStable (p, g) =
148              CMSemant.member (recParse (p1, p2))              (sgc := SrcPathMap.insert (!sgc, p, g);
149                              { sourcepath = p,               SrcPathSet.app (SmlInfo.cleanGroup true) (Reachable.groupsOf g);
150                                group = group,               evictStale ();
151                                class = c,               (gc := #1 (SrcPathMap.remove (!gc, p));
152                                error = e }                (* ... and for good measure, do a major GC... *)
153                  majorGC ())
154                 handle LibBase.NotFound => ())
155    
156            fun hasCycle (group, groupstack) = let
157          (* checking for cycles among groups and printing them nicely *)          (* checking for cycles among groups and printing them nicely *)
         val _ = let  
158              fun findCycle ([], _) = []              fun findCycle ([], _) = []
159                | findCycle ((h as (g, (s, p1, p2))) :: t, cyc) =                | findCycle ((h as (g, (s, p1, p2))) :: t, cyc) =
160                  if AbsPath.compare (g, group) = EQUAL then rev (h :: cyc)                  if SrcPath.compare (g, group) = EQUAL then rev (h :: cyc)
161                  else findCycle (t, h :: cyc)                  else findCycle (t, h :: cyc)
162              fun report ((g, (s, p1, p2)), hist) = let              fun report ((g, (s, p1, p2)), hist) = let
163                  fun pphist pps = let                  fun pphist pps = let
# Line 68  Line 165 
165                        | loop (g0, (g, (s, p1, p2)) :: t) = let                        | loop (g0, (g, (s, p1, p2)) :: t) = let
166                              val s = EM.matchErrorString s (p1, p2)                              val s = EM.matchErrorString s (p1, p2)
167                          in                          in
                             PrettyPrint.add_string pps s;  
                             PrettyPrint.add_string pps ": ";  
                             PrettyPrint.add_string pps (AbsPath.spec g0);  
168                              PrettyPrint.add_newline pps;                              PrettyPrint.add_newline pps;
169                                PrettyPrint.add_string pps s;
170                                PrettyPrint.add_string pps ": importing ";
171                                PrettyPrint.add_string pps (SrcPath.descr g0);
172                              loop (g, t)                              loop (g, t)
173                          end                          end
174                  in                  in
                     PrettyPrint.add_newline pps;  
175                      loop (g, hist)                      loop (g, hist)
176                  end                  end
177              in              in
178                  EM.error s (p1, p2) EM.COMPLAIN                  EM.error s (p1, p2) EM.COMPLAIN
179                     ("group hierarchy forms a cycle with " ^ AbsPath.spec group)                             ("group hierarchy forms a cycle with " ^
180                     pphist;                              SrcPath.descr group)
181                  raise LrParser.ParseError                             pphist
182              end              end
183          in          in
184              case findCycle (groupstack, []) of              case findCycle (groupstack, []) of
185                  [] => ()                  h :: t => (report (h, t); true)
186                | h :: t => report (h, t)                | [] => false
187            end
188    
189            fun mparse args = let
190                val (group, vers, groupstack, pErrFlag, stabthis, curlib,
191                     ginfo, rb) = args
192                fun getStable stablestack (ginfo, gpath, vers, rb) = let
193                    (* This is a separate "findCycle" routine that detects
194                     * cycles among stable libraries.  These cycles should
195                     * never occur unless someone purposefully renames
196                     * stable library files in a bad way. *)
197                    fun findCycle ([], _) = NONE
198                      | findCycle (h :: t, cyc) =
199                        if SrcPath.compare (h, gpath) = EQUAL then SOME (h :: cyc)
200                        else findCycle (t, h :: cyc)
201                    fun report cyc = let
202                        fun pphist pps = let
203                            fun loop [] = ()
204                              | loop (h :: t) =
205                                (PrettyPrint.add_newline pps;
206                                 PrettyPrint.add_string pps (SrcPath.descr h);
207                                 loop t)
208                        in
209                            loop (rev cyc)
210                        end
211                    in
212                        EM.errorNoFile (errcons, pErrFlag) SM.nullRegion
213                          EM.COMPLAIN
214                          ("stable libraries form a cycle with " ^
215                           SrcPath.descr gpath)
216                          pphist
217                    end
218                    fun load () = let
219                        val go = Stabilize.loadStable
220                            { getGroup = getStable (gpath :: stablestack),
221                              anyerrors = pErrFlag }
222                            (ginfo, gpath, vers, rb)
223                    in
224                        case go of
225                            NONE => NONE
226                          | SOME g =>
227                                (registerNewStable (gpath, g);
228                                 Say.vsay ["[library ", SrcPath.descr gpath,
229                                           " is stable]\n"];
230                                 SOME g)
231                    end
232                in
233                    case findCycle (stablestack, []) of
234                        NONE => (case cachedStable (gpath, init_group) of
235                                     SOME g => SOME g
236                                   | NONE => load ())
237                      | SOME cyc => (report cyc; NONE)
238          end          end
239    
240                fun stabilize NONE = NONE
241                  | stabilize (SOME g) =
242                    (case g of
243                         GG.ERRORGROUP => NONE
244                       | GG.GROUP { kind = GG.LIB _, ... } => let
245                             val go = Stabilize.stabilize ginfo
246                                 { group = g, anyerrors = pErrFlag }
247                         in
248                             case go of
249                                 NONE => NONE
250                               | SOME g' =>
251                                     (registerNewStable (group, g'); SOME g')
252                         end
253                       | _ => SOME g)
254            in
255                case SrcPathMap.find (!gc, group) of
256                    SOME gopt => gopt
257                  | NONE => let
258                        fun try_s () = getStable [] (ginfo, group, vers, rb)
259                        fun try_n () =
260                            parse' (group, groupstack, pErrFlag, curlib, ginfo, rb)
261                        fun reg gopt =
262                            (gc := SrcPathMap.insert (!gc, group, gopt); gopt)
263                        fun proc_n gopt =
264                            reg (if stabthis then stabilize gopt
265                                 else (SmlInfo.cleanGroup false group; gopt))
266                    in
267                        if paranoid then
268                            case try_n () of
269                                NONE => reg NONE
270                              | SOME g => let
271                                    val gopt' =
272                                        if VerifyStable.verify ginfo (!em) g then
273                                            reg (case try_s () of
274                                                     NONE => SOME g
275                                                   | SOME g' => SOME g')
276                                        else (delCachedStable (group, init_group);
277                                              proc_n (SOME g))
278                                in
279                                    case gopt' of
280                                        NONE => NONE
281                                      | SOME g' => (update_em (g, g'); SOME g')
282                                end
283                        else case try_s () of
284                            SOME g => reg (SOME g)
285                          | NONE => proc_n (try_n ())
286                    end
287            end
288    
289            (* Parse' is used when we are sure that we don't want to load
290             * a stable library. *)
291            and parse' (group, groupstack, pErrFlag, curlib, ginfo, rb) = let
292    
293                val ginfo = GeneralParams.bind ginfo rb
294    
295                (* normal processing -- used when there is no cycle to report *)
296                fun normal_processing () = let
297                    val _ = Say.vsay ["[scanning ", SrcPath.descr group, "]\n"]
298    
299                    val context = SrcPath.dir group
300    
301                    fun work stream = let
302                        val source =
303                            S.newSource (SrcPath.osstring group,
304                                         1, stream, false, errcons)
305                        val sourceMap = #sourceMap source
306                        val _ = GroupReg.register groupreg (group, source)
307    
308                        (* We can hard-wire the source into this
309                         * error function because the function is only for
310                         * immediate use and doesn't get stored into persistent
311                         * data structures. *)
312                        fun error r m =
313                            EM.error source r EM.COMPLAIN m EM.nullErrorBody
314                        fun obsolete r =
315                            if #get StdConfig.warn_obsolete () then
316                                EM.error source r EM.WARN
317                                  "old-style operator (obsolete)" EM.nullErrorBody
318                            else ()
319    
320                        (* recParse returns a group (not an option).
321                         * This function is used to parse sub-groups.
322                         * Errors are propagated by explicitly setting the
323                         * "anyErrors" flag of the parent group. *)
324                        fun recParse (p1, p2) curlib (p, v, rb) = let
325                            val gs' = (group, (source, p1, p2)) :: groupstack
326                            (* my error flag *)
327                            val mef = #anyErrors source
328                        in
329                            (* unless we are in keep-going mode we do no further
330                             * recursive traversals once there was an error on
331                             * this group. *)
332                            if !mef andalso not keep_going then GG.ERRORGROUP
333                            else case mparse (p, v, gs', mef, staball,
334                                              curlib, ginfo, rb) of
335                                     NONE => (mef := true; GG.ERRORGROUP)
336                                   | SOME res => res
337                        end
338                        handle exn as IO.Io _ =>
339                            (error (p1, p2) (General.exnMessage exn);
340                             GG.ERRORGROUP)
341    
342                        fun doMember ({ name, mkpath }, p1, p2, c, oto) =
343                            CMSemant.member { gp = ginfo,
344                                              rparse = recParse (p1, p2),
345                                              load_plugin = load_plugin }
346                                            { name = name, mkpath = mkpath,
347                                              class = c, tooloptions = oto,
348                                              group = (group, (p1, p2)),
349                                              context = context }
350    
351                        (* Build the argument for the lexer; the lexer's local
352                         * state is encapsulated here to make sure the parser
353                         * is re-entrant. *)
354          val lexarg = let          val lexarg = let
355              (* local state *)              (* local state *)
356              val depth = ref 0              val depth = ref 0
357              val curstring = ref []              val curstring = ref []
358              val startpos = ref 0              val startpos = ref 0
359              val instring = ref NONE                          val instring = ref false
360              (* handling comments *)              (* handling comments *)
361              fun enterC () = depth := !depth + 1              fun enterC () = depth := !depth + 1
362              fun leaveC () = let val d = !depth - 1 in depth := d; d = 0 end                          fun leaveC () = let
363                                val d = !depth - 1
364                            in
365                                depth := d;
366                                d = 0
367                            end
368              (* handling strings *)              (* handling strings *)
369              fun newS (pos, kind) =                          fun newS pos =
370                  (instring := SOME kind;                              (instring := true;
371                   curstring := [];                   curstring := [];
372                   startpos := pos)                   startpos := pos)
373              fun addS c = curstring := c :: !curstring              fun addS c = curstring := c :: !curstring
374              fun addSC (s, offs) = addS (chr (ord (String.sub (s, 2)) - offs))                          fun addSC (s, offs) =
375                                addS (chr (ord (String.sub (s, 2)) - offs))
376              fun addSN (s, pos) = let              fun addSN (s, pos) = let
377                  val ns = substring (s, 1, 3)                  val ns = substring (s, 1, 3)
378                  val n = Int.fromString ns                  val n = Int.fromString ns
# Line 116  Line 383 
383                        ("illegal decimal char spec: " ^ ns)                        ("illegal decimal char spec: " ^ ns)
384              end              end
385              fun getS (pos, tok) =              fun getS (pos, tok) =
386                  (instring := NONE;                              (instring := false;
387                   tok (implode (rev (!curstring)), !startpos, pos))                   tok (implode (rev (!curstring)), !startpos, pos))
388              (* handling EOF *)              (* handling EOF *)
389              fun handleEof () = let              fun handleEof () = let
390                  val pos = SM.lastChange sourceMap                  val pos = SM.lastChange sourceMap
391              in              in
392                  if !depth > 0 then                  if !depth > 0 then
                     error (pos, pos) "unexpected end of input in comment"  
                 else if isSome (!instring) then  
393                      error (pos, pos)                      error (pos, pos)
394                       ("unexpected end of input in " ^ valOf (!instring))                                         "unexpected end of input in comment"
395                                else if !instring then
396                                    error (pos, pos)
397                                           "unexpected end of input in string"
398                  else ();                  else ();
399                  pos                  pos
400              end              end
401              (* handling line breaks *)              (* handling line breaks *)
402              fun newline pos = SM.newline sourceMap pos              fun newline pos = SM.newline sourceMap pos
403                            (* handling #line directives *)
404                            fun sync (p, t) = let
405                                fun sep c = c = #"#" orelse Char.isSpace c
406                                fun cvt s = getOpt (Int.fromString s, 0)
407                                fun r (line, col, file) = SM.resynch sourceMap
408                                    (p, { fileName = file,
409                                          line = line, column = col })
410                            in
411                                case String.tokens sep t of
412                                    [_, line] =>
413                                        r (cvt line, NONE, NONE)
414                                  | [_, line, file] =>
415                                        r (cvt line, NONE, SOME file)
416                                  | [_, line, col, file] =>
417                                        r (cvt line, SOME (cvt col), SOME file)
418                                  | _ => error (p, p + size t)
419                                        "illegal #line directive"
420                            end
421          in          in
422              { enterC = enterC,              { enterC = enterC,
423                leaveC = leaveC,                leaveC = leaveC,
# Line 142  Line 428 
428                getS = getS,                getS = getS,
429                handleEof = handleEof,                handleEof = handleEof,
430                newline = newline,                newline = newline,
431                error = error }                            obsolete = obsolete,
432                              error = error,
433                              sync = sync}
434          end          end
435    
436          fun inputc k =                      fun inputc k = TextIO.input stream
             TextIO.input stream  
437    
438          val lexer = CMLex.makeLexer inputc lexarg                      val tokenStream = CMParse.makeLexer inputc lexarg
         val tokenStream = LrParser.Stream.streamify lexer  
439          val (parseResult, _) =          val (parseResult, _) =
440              CMParse.parse (lookAhead, tokenStream,              CMParse.parse (lookAhead, tokenStream,
441                             fn (s,p1,p2) => error (p1, p2) s,                             fn (s,p1,p2) => error (p1, p2) s,
442                             (context, error', error, recParse, doMember))                                         (group, context, obsolete, error,
443                                            doMember, curlib, ginfo, init_group))
444      in      in
         TextIO.closeIn stream;  
445          if !(#anyErrors source) then NONE          if !(#anyErrors source) then NONE
446          else SOME parseResult          else SOME parseResult
447      end      end
448                    fun openIt () = TextIO.openIn (SrcPath.osstring group)
449                in
450                    SafeIO.perform { openIt = openIt,
451                                     closeIt = TextIO.closeIn,
452                                     work = work,
453                                     cleanup = fn _ => () }
454                end
455      handle LrParser.ParseError => NONE      handle LrParser.ParseError => NONE
456           | Cycle => NONE          in
457                if hasCycle (group, groupstack) then NONE
458      fun parse group = parse' (group, [])              else normal_processing ()
459            end
460        in
461            SmlInfo.newGeneration ();
462            case mparse (group, NONE, [], ref false, stabthis, NONE, ginfo0, []) of
463                NONE => NONE
464              | SOME g => SOME (g, ginfo0)
465        end
466  end  end

Legend:
Removed from v.277  
changed lines
  Added in v.666

root@smlnj-gforge.cs.uchicago.edu
ViewVC Help
Powered by ViewVC 1.0.0