Home My Page Projects Code Snippets Project Openings SML/NJ
Summary Activity Forums Tracker Lists Tasks Docs Surveys News SCM Files

SCM Repository

[smlnj] Diff of /sml/trunk/src/cm/parse/parse.sml
ViewVC logotype

Diff of /sml/trunk/src/cm/parse/parse.sml

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 275, Sat May 15 09:54:52 1999 UTC revision 588, Fri Mar 31 09:00:02 2000 UTC
# Line 5  Line 5 
5   *   *
6   * Author: Matthias Blume (blume@kurims.kyoto-u.ac.jp)   * Author: Matthias Blume (blume@kurims.kyoto-u.ac.jp)
7   *)   *)
8  signature CMPARSE = sig  signature PARSE = sig
9      val parse : AbsPath.t -> CMSemant.group option      val parse : { load_plugin: SrcPath.context -> string -> bool,
10                      gr: GroupReg.groupreg,
11                      param: GeneralParams.param,
12                      stabflag: bool option,
13                      group: SrcPath.t,
14                      init_group: CMSemant.group,
15                      paranoid: bool }
16            -> (CMSemant.group * GeneralParams.info) option
17        val reset : unit -> unit
18        val listLibs : unit -> SrcPath.t list
19        val dropPickles : unit -> unit
20        val dismissLib : SrcPath.t -> unit
21  end  end
22    
23  structure CMParse :> CMPARSE = struct  functor ParseFn (val pending : unit -> DependencyGraph.impexp SymbolMap.map
24                     val evictStale : unit -> unit
25                     structure StabModmap : STAB_MODMAP
26                     structure Stabilize : STABILIZE) :> PARSE = struct
27    
28        structure VerifyStable = VerStabFn (structure Stabilize = Stabilize)
29    
30      val lookAhead = 30      val lookAhead = 30
31    
32      structure S = GenericVC.Source      structure S = GenericVC.Source
33      structure EM = GenericVC.ErrorMsg      structure EM = GenericVC.ErrorMsg
34      structure SM = GenericVC.SourceMap      structure SM = GenericVC.SourceMap
35      structure P = GenericVC.Control.Print      structure GG = GroupGraph
36        structure DG = DependencyGraph
37    
38      structure CMLrVals = CMLrValsFun (structure Token = LrParser.Token)      structure CMLrVals = CMLrValsFun (structure Token = LrParser.Token)
39      structure CMLex = CMLexFun (structure Tokens = CMLrVals.Tokens)      structure CMLex = CMLexFun (structure Tokens = CMLrVals.Tokens)
# Line 25  Line 42 
42                       structure Lex = CMLex                       structure Lex = CMLex
43                       structure LrParser = LrParser)                       structure LrParser = LrParser)
44    
45      fun parse' (group, groupstack) = let      (* the "stable group cache" *)
46        val sgc = ref (SrcPathMap.empty: CMSemant.group SrcPathMap.map)
47        fun reset () = sgc := SrcPathMap.empty
48    
49        fun majorGC () = SMLofNJ.Internals.GC.doGC 7
50    
51        fun cachedStable (p, ig as GG.GROUP { grouppath, ... }) =
52            if SrcPath.compare (p, grouppath) = EQUAL then SOME ig
53            else SrcPathMap.find (!sgc, p)
54          | cachedStable (_, GG.ERRORGROUP) = NONE
55    
56        (* When an entry A vanishes from the stable cache (this only happens in
57         * paranoid mode), then all the other ones that refer to A must
58         * vasish, too.  They might still be valid themselves, but if they
59         * had been unpickled before A became invalid they will point to
60         * invalid data.  By removing them from the cache we force them to
61         * be re-read and re-unpickled.  This restores sanity. *)
62        fun delCachedStable (p, GG.GROUP { grouppath = igp, ... }) =
63            let val changed = ref true
64                fun canStay GG.ERRORGROUP = true (* doesn't matter *)
65                  | canStay (GG.GROUP { sublibs, ... }) = let
66                      fun goodSublib (p, GG.GROUP { kind = GG.STABLELIB _, ... }) =
67                          SrcPath.compare (p, igp) = EQUAL orelse
68                          SrcPathMap.inDomain (!sgc, p)
69                        | goodSublib _ = true
70                      val cs = List.all goodSublib sublibs
71                    in
72                        if cs then () else changed := true;
73                        cs
74                    end
75            in
76                (sgc := #1 (SrcPathMap.remove (!sgc, p)))
77                handle LibBase.NotFound => ();
78                while !changed do
79                   (changed := false; sgc := SrcPathMap.filter canStay (!sgc))
80            end
81          | delCachedStable (_, GG.ERRORGROUP) = ()
82    
83          val currentDir = AbsPath.dir group      fun listLibs () = map #1 (SrcPathMap.listItemsi (!sgc))
         val context = AbsPath.relativeContext (AbsPath.dir group)  
         val filename = AbsPath.name group  
         val _ = Say.vsay (concat ["[scanning ", filename, "]\n"])  
         val stream = TextIO.openIn filename  
         val errcons =  
             { linewidth = !P.linewidth, flush = P.flush, consumer = P.say }  
         val source = S.newSource (filename, 1, stream, false, errcons)  
         val sourceMap = #sourceMap source  
         fun error region m =  
             EM.error source region EM.COMPLAIN m EM.nullErrorBody  
84    
85          (* recParse returns a group (not an option)      fun dropPickles () = let
86           * and re-raises LrParser.ParseError.          fun drop (GG.GROUP { kind = GG.STABLELIB dropper, ... }) = dropper ()
87           * This exception will be handled by the surrounding            | drop _ = ()
88           * call to parse.      in
89           * This function is used to parse aliases and sub-groups. *)          SrcPathMap.app drop (!sgc)
90          fun recParse (p1, p2) p =      end
91              case parse' (p, (group, (source, p1, p2)) :: groupstack) of  
92                  NONE => (#anyErrors source := true; CMSemant.emptyGroup)      fun dismissLib l =
93                | SOME res => res          (StabModmap.reset ();
94             sgc := #1 (SrcPathMap.remove (!sgc, l)))
95            handle LibBase.NotFound => ()
96    
97        fun parse args = let
98            val { load_plugin, gr, param, stabflag, group,
99                  init_group, paranoid } = args
100    
101            val { grouppath = init_gname, ... } =
102                case init_group of
103                    GG.GROUP x => x
104                  | GG.ERRORGROUP =>
105                    EM.impossible "parse.sml: parse: bad init group"
106    
107            val stabthis = isSome stabflag
108            val staball = stabflag = SOME true
109    
110            val groupreg = gr
111            val errcons = EM.defaultConsumer ()
112            val ginfo = { param = param, groupreg = groupreg, errcons = errcons }
113            val keep_going = #keep_going param
114    
115            (* The "group cache" -- we store "group options";  having
116             * NONE registered for a group means that a previous attempt
117             * to parse it had failed.
118             * This registry is primed with the "init" group because it is
119             * "special" and cannot be parsed directly. *)
120            val gc = ref (SrcPathMap.singleton (init_gname, SOME init_group))
121    
122            val em = ref StableMap.empty
123    
124            fun update_em (GG.GROUP ns_g, GG.GROUP s_g) =
125                let val s_e = #exports s_g
126                    fun add (sy, ((_ , DG.SB_SNODE (DG.SNODE sn)), _)) =
127                        (case SymbolMap.find (s_e, sy) of
128                             SOME ((_, DG.SB_BNODE (DG.BNODE bn, _)), _) =>
129                             em := StableMap.insert (!em, #bininfo bn, #smlinfo sn)
130                           | _ => ())
131                      | add _ = ()
132                in
133                    SymbolMap.appi add (#exports ns_g)
134                end
135              | update_em _ = ()
136    
137          fun doMember (p, p1, p2, c, e) =          fun registerNewStable (p, g) =
138              CMSemant.member (recParse (p1, p2)) { sourcepath = p,              (sgc := SrcPathMap.insert (!sgc, p, g);
139                                                    group = group,               SrcPathSet.app (SmlInfo.cleanGroup true) (Reachable.groupsOf g);
140                                                    class = c,               evictStale ();
141                                                    error = e }               (gc := #1 (SrcPathMap.remove (!gc, p));
142                  (* ... and for good measure, do a major GC... *)
143                  majorGC ())
144                 handle LibBase.NotFound => ())
145    
146            fun hasCycle (group, groupstack) = let
147          (* checking for cycles among groups and printing them nicely *)          (* checking for cycles among groups and printing them nicely *)
         val _ = let  
148              fun findCycle ([], _) = []              fun findCycle ([], _) = []
149                | findCycle ((h as (g, (s, p1, p2))) :: t, cyc) =                | findCycle ((h as (g, (s, p1, p2))) :: t, cyc) =
150                  if AbsPath.compare (g, group) = EQUAL then rev (h :: cyc)                  if SrcPath.compare (g, group) = EQUAL then rev (h :: cyc)
151                  else findCycle (t, h :: cyc)                  else findCycle (t, h :: cyc)
152              fun report ((g, (s, p1, p2)), hist) = let              fun report ((g, (s, p1, p2)), hist) = let
153                  fun pphist pps = let                  fun pphist pps = let
# Line 67  Line 155 
155                        | loop (g0, (g, (s, p1, p2)) :: t) = let                        | loop (g0, (g, (s, p1, p2)) :: t) = let
156                              val s = EM.matchErrorString s (p1, p2)                              val s = EM.matchErrorString s (p1, p2)
157                          in                          in
                             PrettyPrint.add_string pps s;  
                             PrettyPrint.add_string pps ": ";  
                             PrettyPrint.add_string pps (AbsPath.spec g0);  
158                              PrettyPrint.add_newline pps;                              PrettyPrint.add_newline pps;
159                                PrettyPrint.add_string pps s;
160                                PrettyPrint.add_string pps ": importing ";
161                                PrettyPrint.add_string pps (SrcPath.specOf g0);
162                              loop (g, t)                              loop (g, t)
163                          end                          end
164                  in                  in
                     PrettyPrint.add_newline pps;  
165                      loop (g, hist)                      loop (g, hist)
166                  end                  end
167              in              in
168                  EM.error s (p1, p2) EM.COMPLAIN                  EM.error s (p1, p2) EM.COMPLAIN
169                     ("group hierarchy forms a cycle with " ^ AbsPath.spec group)                             ("group hierarchy forms a cycle with " ^
170                     pphist;                              SrcPath.specOf group)
171                  raise LrParser.ParseError                             pphist
172              end              end
173          in          in
174              case findCycle (groupstack, []) of              case findCycle (groupstack, []) of
175                  [] => ()                  h :: t => (report (h, t); true)
176                | h :: t => report (h, t)                | [] => false
177            end
178    
179            fun mparse (group, groupstack, pErrFlag, stabthis, curlib) = let
180                fun getStable stablestack gpath = let
181                    (* This is a separate "findCycle" routine that detects
182                     * cycles among stable libraries.  These cycles should
183                     * never occur unless someone purposefully renames
184                     * stable library files in a bad way. *)
185                    fun findCycle ([], _) = NONE
186                      | findCycle (h :: t, cyc) =
187                        if SrcPath.compare (h, gpath) = EQUAL then SOME (h :: cyc)
188                        else findCycle (t, h :: cyc)
189                    fun report cyc = let
190                        fun pphist pps = let
191                            fun loop [] = ()
192                              | loop (h :: t) =
193                                (PrettyPrint.add_newline pps;
194                                 PrettyPrint.add_string pps (SrcPath.descr h);
195                                 loop t)
196                        in
197                            loop (rev cyc)
198                        end
199                    in
200                        EM.errorNoFile (errcons, pErrFlag) SM.nullRegion
201                          EM.COMPLAIN
202                          ("stable libraries form a cycle with " ^
203                           SrcPath.descr gpath)
204                          pphist
205                    end
206                    fun load () = let
207                        val go = Stabilize.loadStable ginfo
208                            { getGroup = getStable (gpath :: stablestack),
209                              anyerrors = pErrFlag }
210                            gpath
211                    in
212                        case go of
213                            NONE => NONE
214                          | SOME g =>
215                                (registerNewStable (gpath, g);
216                                 Say.vsay ["[library ", SrcPath.descr gpath,
217                                           " is stable]\n"];
218                                 SOME g)
219                    end
220                in
221                    case findCycle (stablestack, []) of
222                        NONE => (case cachedStable (gpath, init_group) of
223                                     SOME g => SOME g
224                                   | NONE => load ())
225                      | SOME cyc => (report cyc; NONE)
226          end          end
227    
228                fun stabilize NONE = NONE
229                  | stabilize (SOME g) =
230                    (case g of
231                         GG.ERRORGROUP => NONE
232                       | GG.GROUP { kind = GG.LIB _, ... } => let
233                             val go = Stabilize.stabilize ginfo
234                                 { group = g, anyerrors = pErrFlag }
235                         in
236                             case go of
237                                 NONE => NONE
238                               | SOME g' =>
239                                     (registerNewStable (group, g'); SOME g')
240                         end
241                       | _ => SOME g)
242            in
243                case SrcPathMap.find (!gc, group) of
244                    SOME gopt => gopt
245                  | NONE => let
246                        fun try_s () = getStable [] group
247                        fun try_n () = parse' (group, groupstack, pErrFlag, curlib)
248                        fun reg gopt =
249                            (gc := SrcPathMap.insert (!gc, group, gopt); gopt)
250                        fun proc_n gopt =
251                            reg (if stabthis then stabilize gopt
252                                 else (SmlInfo.cleanGroup false group; gopt))
253                    in
254                        if paranoid then
255                            case try_n () of
256                                NONE => reg NONE
257                              | SOME g => let
258                                    val gopt' =
259                                        if VerifyStable.verify ginfo (!em) g then
260                                            reg (case try_s () of
261                                                     NONE => SOME g
262                                                   | SOME g' => SOME g')
263                                        else (delCachedStable (group, init_group);
264                                              proc_n (SOME g))
265                                in
266                                    case gopt' of
267                                        NONE => NONE
268                                      | SOME g' => (update_em (g, g'); SOME g')
269                                end
270                        else case try_s () of
271                            SOME g => reg (SOME g)
272                          | NONE => proc_n (try_n ())
273                    end
274            end
275    
276            (* Parse' is used when we are sure that we don't want to load
277             * a stable library. *)
278            and parse' (group, groupstack, pErrFlag, curlib) = let
279    
280                (* normal processing -- used when there is no cycle to report *)
281                fun normal_processing () = let
282                    val _ = Say.vsay ["[scanning ", SrcPath.descr group, "]\n"]
283    
284                    val context = SrcPath.sameDirContext group
285    
286                    fun work stream = let
287                        val source =
288                            S.newSource (SrcPath.osstring group,
289                                         1, stream, false, errcons)
290                        val sourceMap = #sourceMap source
291                        val _ = GroupReg.register groupreg (group, source)
292    
293                        (* We can hard-wire the source into this
294                         * error function because the function is only for
295                         * immediate use and doesn't get stored into persistent
296                         * data structures. *)
297                        fun error r m =
298                            EM.error source r EM.COMPLAIN m EM.nullErrorBody
299                        fun obsolete r =
300                            if #get StdConfig.warn_obsolete () then
301                                EM.error source r EM.WARN
302                                  "old-style operator (obsolete)" EM.nullErrorBody
303                            else ()
304    
305                        (* recParse returns a group (not an option).
306                         * This function is used to parse sub-groups.
307                         * Errors are propagated by explicitly setting the
308                         * "anyErrors" flag of the parent group. *)
309                        fun recParse (p1, p2) curlib p = let
310                            val gs' = (group, (source, p1, p2)) :: groupstack
311                            (* my error flag *)
312                            val mef = #anyErrors source
313                        in
314                            (* unless we are in keep-going mode we do no further
315                             * recursive traversals once there was an error on
316                             * this group. *)
317                            if !mef andalso not keep_going then GG.ERRORGROUP
318                            else case mparse (p, gs', mef, staball, curlib) of
319                                     NONE => (mef := true; GG.ERRORGROUP)
320                                   | SOME res => res
321                        end
322                        handle exn as IO.Io _ =>
323                            (error (p1, p2) (General.exnMessage exn);
324                             GG.ERRORGROUP)
325    
326                        fun doMember ({ name, mkpath }, p1, p2, c, oto) =
327                            CMSemant.member (ginfo, recParse (p1, p2), load_plugin)
328                              { name = name, mkpath = mkpath,
329                                class = c, tooloptions = oto,
330                                group = (group, (p1, p2)),
331                                context = context }
332    
333                        (* Build the argument for the lexer; the lexer's local
334                         * state is encapsulated here to make sure the parser
335                         * is re-entrant. *)
336          val lexarg = let          val lexarg = let
337              (* local state *)              (* local state *)
338              val depth = ref 0              val depth = ref 0
339              val curstring = ref []              val curstring = ref []
340              val startpos = ref 0              val startpos = ref 0
341              val instring = ref NONE                          val instring = ref false
342              (* handling comments *)              (* handling comments *)
343              fun enterC () = depth := !depth + 1              fun enterC () = depth := !depth + 1
344              fun leaveC () = let val d = !depth - 1 in depth := d; d = 0 end                          fun leaveC () = let
345                                val d = !depth - 1
346                            in
347                                depth := d;
348                                d = 0
349                            end
350              (* handling strings *)              (* handling strings *)
351              fun newS (pos, kind) =                          fun newS pos =
352                  (instring := SOME kind;                              (instring := true;
353                   curstring := [];                   curstring := [];
354                   startpos := pos)                   startpos := pos)
355              fun addS c = curstring := c :: !curstring              fun addS c = curstring := c :: !curstring
356              fun addSC (s, offs) = addS (chr (ord (String.sub (s, 2)) - offs))                          fun addSC (s, offs) =
357                                addS (chr (ord (String.sub (s, 2)) - offs))
358              fun addSN (s, pos) = let              fun addSN (s, pos) = let
359                  val ns = substring (s, 1, 3)                  val ns = substring (s, 1, 3)
360                  val n = Int.fromString ns                  val n = Int.fromString ns
# Line 115  Line 365 
365                        ("illegal decimal char spec: " ^ ns)                        ("illegal decimal char spec: " ^ ns)
366              end              end
367              fun getS (pos, tok) =              fun getS (pos, tok) =
368                  (instring := NONE;                              (instring := false;
369                   tok (implode (rev (!curstring)), !startpos, pos))                   tok (implode (rev (!curstring)), !startpos, pos))
370              (* handling EOF *)              (* handling EOF *)
371              fun handleEof () = let              fun handleEof () = let
372                  val pos = SM.lastChange sourceMap                  val pos = SM.lastChange sourceMap
373              in              in
374                  if !depth > 0 then                  if !depth > 0 then
                     error (pos, pos) "unexpected end of input in comment"  
                 else if isSome (!instring) then  
375                      error (pos, pos)                      error (pos, pos)
376                       ("unexpected end of input in " ^ valOf (!instring))                                         "unexpected end of input in comment"
377                                else if !instring then
378                                    error (pos, pos)
379                                           "unexpected end of input in string"
380                  else ();                  else ();
381                  pos                  pos
382              end              end
383              (* handling line breaks *)              (* handling line breaks *)
384              fun newline pos = SM.newline sourceMap pos              fun newline pos = SM.newline sourceMap pos
385                            (* handling #line directives *)
386                            fun sync (p, t) = let
387                                fun sep c = c = #"#" orelse Char.isSpace c
388                                fun cvt s = getOpt (Int.fromString s, 0)
389                                fun r (line, col, file) = SM.resynch sourceMap
390                                    (p, { fileName = file,
391                                          line = line, column = col })
392                            in
393                                case String.tokens sep t of
394                                    [_, line] =>
395                                        r (cvt line, NONE, NONE)
396                                  | [_, line, file] =>
397                                        r (cvt line, NONE, SOME file)
398                                  | [_, line, col, file] =>
399                                        r (cvt line, SOME (cvt col), SOME file)
400                                  | _ => error (p, p + size t)
401                                        "illegal #line directive"
402                            end
403          in          in
404              { enterC = enterC,              { enterC = enterC,
405                leaveC = leaveC,                leaveC = leaveC,
# Line 141  Line 410 
410                getS = getS,                getS = getS,
411                handleEof = handleEof,                handleEof = handleEof,
412                newline = newline,                newline = newline,
413                error = error }                            obsolete = obsolete,
414                              error = error,
415                              sync = sync}
416          end          end
417    
418          fun inputc k =                      fun inputc k = TextIO.input stream
             TextIO.input stream  
419    
420          val lexer = CMLex.makeLexer inputc lexarg          val lexer = CMLex.makeLexer inputc lexarg
421          val tokenStream = LrParser.Stream.streamify lexer          val tokenStream = LrParser.Stream.streamify lexer
422          val (parseResult, _) =          val (parseResult, _) =
423              CMParse.parse (lookAhead, tokenStream,              CMParse.parse (lookAhead, tokenStream,
424                             fn (s,p1,p2) => error (p1, p2) s,                             fn (s,p1,p2) => error (p1, p2) s,
425                             (context, error, recParse, doMember))                                         (group, context, obsolete, error,
426                                            doMember, curlib, ginfo, init_group))
427      in      in
         TextIO.closeIn stream;  
428          if !(#anyErrors source) then NONE          if !(#anyErrors source) then NONE
429          else SOME parseResult          else SOME parseResult
430      end      end
431                    fun openIt () = TextIO.openIn (SrcPath.osstring group)
432                in
433                    SafeIO.perform { openIt = openIt,
434                                     closeIt = TextIO.closeIn,
435                                     work = work,
436                                     cleanup = fn _ => () }
437                end
438      handle LrParser.ParseError => NONE      handle LrParser.ParseError => NONE
439           | Cycle => NONE          in
440                if hasCycle (group, groupstack) then NONE
441      fun parse group = parse' (group, [])              else normal_processing ()
442            end
443        in
444            SmlInfo.newGeneration ();
445            case mparse (group, [], ref false, stabthis, NONE) of
446                NONE => NONE
447              | SOME g => SOME (g, ginfo)
448        end
449  end  end

Legend:
Removed from v.275  
changed lines
  Added in v.588

root@smlnj-gforge.cs.uchicago.edu
ViewVC Help
Powered by ViewVC 1.0.0