Home My Page Projects Code Snippets Project Openings diderot
Summary Activity Tracker Tasks SCM

SCM Repository

[diderot] Annotation of /branches/vis15/src/compiler/basis/basis-vars.sml
ViewVC logotype

Annotation of /branches/vis15/src/compiler/basis/basis-vars.sml

Parent Directory Parent Directory | Revision Log Revision Log


Revision 3585 - (view) (download)

1 : jhr 3391 (* basis-vars.sml
2 :     *
3 :     * This code is part of the Diderot Project (http://diderot-language.cs.uchicago.edu)
4 :     *
5 :     * COPYRIGHT (c) 2015 The University of Chicago
6 :     * All rights reserved.
7 :     *
8 :     * This module defines the AST variables for the built in operators and functions.
9 :     *)
10 :    
11 :     structure BasisVars =
12 :     struct
13 :     local
14 :     structure N = BasisNames
15 :     structure Ty = Types
16 :     structure MV = MetaVar
17 :    
18 :     fun --> (tys, ty) = Ty.T_Fun(tys, ty)
19 :     infix -->
20 :    
21 :     val N2 = Ty.DimConst 2
22 :     val N3 = Ty.DimConst 3
23 :    
24 :     (* short names for kinds *)
25 :     val TK : unit -> Ty.meta_var = Ty.TYPE o MV.newTyVar
26 :     fun DK () : Ty.meta_var = Ty.DIFF(MV.newDiffVar 0)
27 :     val SK : unit -> Ty.meta_var = Ty.SHAPE o MV.newShapeVar
28 :     val NK : unit -> Ty.meta_var = Ty.DIM o MV.newDimVar
29 :    
30 :     fun ty t = ([], t)
31 :     fun all (kinds, mkTy : Ty.meta_var list -> Ty.ty) = let
32 :     val tvs = List.map (fn mk => mk()) kinds
33 :     in
34 :     (tvs, mkTy tvs)
35 :     end
36 :     fun allNK mkTy = let
37 :     val tv = MV.newDimVar()
38 :     in
39 :     ([Ty.DIM tv], mkTy tv)
40 :     end
41 :    
42 :     fun field (k, d, dd) = Ty.T_Field{diff=k, dim=d, shape=dd}
43 :     fun field' (k, d, dd) = field(k, Ty.DimConst d, Ty.Shape(List.map Ty.DimConst dd))
44 :     fun tensor ds = Ty.T_Tensor(Ty.Shape ds)
45 :     fun matrix d = tensor[d,d]
46 : jhr 3398 fun dynSeq ty = Ty.T_Sequence(ty, NONE)
47 : jhr 3391
48 : jhr 3398 fun monoVar (name, ty) = Var.new (name, Error.UNKNOWN, AST.BasisVar, ty)
49 : jhr 3407 fun polyVar arg = Var.newBasis arg
50 : jhr 3391 in
51 :    
52 :     (* overloaded operators; the naming convention is to use the operator name followed
53 :     * by the argument type signature, where
54 :     * i -- int
55 :     * b -- bool
56 :     * r -- real (tensor[])
57 :     * t -- tensor[shape]
58 : jhr 3392 * I -- image(d)[shape]
59 : jhr 3391 * f -- field#k(d)[shape]
60 :     * s -- field#k(d)[]
61 :     * d -- ty{}
62 :     * T -- ty
63 :     *)
64 :    
65 :     (* concatenation of sequences *)
66 :     val at_dT = polyVar (N.op_at, all([TK],
67 :     fn [Ty.TYPE tv] => let
68 : jhr 3398 val seqTyc = dynSeq(Ty.T_Var tv)
69 : jhr 3391 in
70 :     [seqTyc, Ty.T_Var tv] --> seqTyc
71 :     end))
72 :     val at_Td = polyVar (N.op_at, all([TK],
73 :     fn [Ty.TYPE tv] => let
74 : jhr 3398 val seqTyc = dynSeq(Ty.T_Var tv)
75 : jhr 3391 in
76 :     [Ty.T_Var tv, seqTyc] --> seqTyc
77 :     end))
78 :     val at_dd = polyVar (N.op_at, all([TK],
79 :     fn [Ty.TYPE tv] => let
80 : jhr 3398 val seqTyc = dynSeq(Ty.T_Var tv)
81 : jhr 3391 in
82 :     [seqTyc, seqTyc] --> seqTyc
83 :     end))
84 :    
85 :     val add_ii = monoVar(N.op_add, [Ty.T_Int, Ty.T_Int] --> Ty.T_Int)
86 :     val add_tt = polyVar(N.op_add, all([SK], fn [Ty.SHAPE dd] => let
87 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
88 :     in
89 :     [t, t] --> t
90 :     end))
91 :     val add_ff = polyVar(N.op_add, all([DK,NK,SK],
92 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
93 :     val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
94 :     in
95 :     [f, f] --> f
96 :     end))
97 :     val add_ft = polyVar(N.op_add, all([DK,NK,SK], (* field + scalar *)
98 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
99 :     val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
100 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
101 :     in
102 :     [f, t] --> f
103 :     end))
104 :     val add_tf = polyVar(N.op_add, all([DK,NK,SK], (* scalar + field *)
105 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
106 :     val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
107 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
108 :     in
109 :     [t, f] --> f
110 :     end))
111 :    
112 :     val sub_ii = monoVar(N.op_sub, [Ty.T_Int, Ty.T_Int] --> Ty.T_Int)
113 :     val sub_tt = polyVar(N.op_sub, all([SK], fn [Ty.SHAPE dd] => let
114 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
115 :     in
116 :     [t, t] --> t
117 :     end))
118 :     val sub_ff = polyVar(N.op_sub, all([DK,NK,SK],
119 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
120 :     val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
121 :     in
122 :     [f, f] --> f
123 :     end))
124 :     val sub_ft = polyVar(N.op_sub, all([DK,NK,SK], (* field - scalar *)
125 :     fn [Ty.DIFF k, Ty.DIM d,Ty.SHAPE dd] => let
126 :     val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
127 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
128 :     in
129 :     [f, t] --> f
130 :     end))
131 :     val sub_tf = polyVar(N.op_sub, all([DK,NK,SK], (* scalar - field *)
132 :     fn [Ty.DIFF k, Ty.DIM d,Ty.SHAPE dd] => let
133 :     val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
134 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
135 :     in
136 :     [t, f] --> f
137 :     end))
138 :    
139 :     (* note that we assume that operators are tested in the order defined here, so that mul_rr
140 :     * takes precedence over mul_rt and mul_tr!
141 :     *)
142 :     val mul_ii = monoVar(N.op_mul, [Ty.T_Int, Ty.T_Int] --> Ty.T_Int)
143 :     val mul_rr = monoVar(N.op_mul, [Ty.realTy, Ty.realTy] --> Ty.realTy)
144 :     val mul_rt = polyVar(N.op_mul, all([SK], fn [Ty.SHAPE dd] => let
145 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
146 :     in
147 :     [Ty.realTy, t] --> t
148 :     end))
149 :     val mul_tr = polyVar(N.op_mul, all([SK], fn [Ty.SHAPE dd] => let
150 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
151 :     in
152 :     [t, Ty.realTy] --> t
153 :     end))
154 :     val mul_rf = polyVar(N.op_mul, all([DK,NK,SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
155 :     val t = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
156 :     in
157 :     [Ty.realTy, t] --> t
158 :     end))
159 :     val mul_fr = polyVar(N.op_mul, all([DK,NK,SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
160 :     val t = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
161 :     in
162 :     [t, Ty.realTy] --> t
163 :     end))
164 :     val mul_st = polyVar(N.op_mul, all([DK,NK,SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
165 : jhr 3392 val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.Shape[]}
166 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
167 :     val g = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
168 :     in
169 :     [f, t] --> g
170 :     end))
171 : jhr 3391 val mul_ts = polyVar(N.op_mul, all([DK,NK,SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
172 : jhr 3392 val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.Shape[]}
173 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
174 :     val g = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
175 :     in
176 :     [t, f] --> g
177 :     end))
178 : jhr 3391 val mul_ss = polyVar(N.op_mul, all([DK,NK], fn [Ty.DIFF k, Ty.DIM d] => let
179 : jhr 3392 val t = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.Shape []}
180 :     in
181 :     [t, t] --> t
182 :     end))
183 : jhr 3391 val mul_sf = polyVar(N.op_mul, all([DK,NK,SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
184 : jhr 3392 val a = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.Shape []}
185 :     val b = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
186 :     in
187 :     [a, b] --> b
188 :     end))
189 : jhr 3391 val mul_fs = polyVar(N.op_mul, all([DK,NK,SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
190 : jhr 3392 val a = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.Shape []}
191 :     val b = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
192 :     in
193 :     [b, a] --> b
194 :     end))
195 : jhr 3391
196 :     val div_ii = monoVar(N.op_div, [Ty.T_Int, Ty.T_Int] --> Ty.T_Int)
197 :     val div_rr = monoVar(N.op_div, [Ty.realTy, Ty.realTy] --> Ty.realTy)
198 :     val div_tr = polyVar(N.op_div, all([SK], fn [Ty.SHAPE dd] => let
199 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
200 :     in
201 :     [t, Ty.realTy] --> t
202 :     end))
203 :     val div_fr = polyVar(N.op_div, all([DK,NK,SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
204 :     val t = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
205 :     in
206 :     [t, Ty.realTy] --> t
207 :     end))
208 :     val div_ss = polyVar(N.op_mul, all([DK,NK], fn [Ty.DIFF k, Ty.DIM d] => let
209 :     val t = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.Shape []}
210 :     in
211 : jhr 3392 [t, t] --> t
212 : jhr 3391 end))
213 :     val div_fs = polyVar(N.op_div, all([DK,DK,NK,SK], fn [Ty.DIFF k, Ty.DIFF k2, Ty.DIM d, Ty.SHAPE dd] => let
214 :     val f = Ty.T_Field{diff = Ty.DiffVar(k, 0), dim = Ty.DimVar d, shape = Ty.ShapeVar dd}
215 :     val s = Ty.T_Field{diff = Ty.DiffVar(k2, 0), dim = Ty.DimVar d, shape = Ty.Shape []}
216 :     in
217 : jhr 3392 [f, s] --> f
218 : jhr 3391 end))
219 :    
220 : jhr 3482 (* power; we distinguish between integer and real exponents to allow x^2 to be compiled
221 :     * as x*x. The power operation of fields is restricted by the typechecker to constant
222 :     * integer arguments.
223 : jhr 3391 *)
224 : jhr 3482 val pow_ri = monoVar(N.op_pow, [Ty.realTy, Ty.T_Int] --> Ty.realTy)
225 :     val pow_rr = monoVar(N.op_pow, [Ty.realTy, Ty.realTy] --> Ty.realTy)
226 :     val pow_si = polyVar (N.op_pow, all([DK, NK], fn [Ty.DIFF k, Ty.DIM d] => let
227 : jhr 3519 val k = Ty.DiffVar(k, 0)
228 :     val d = Ty.DimVar d
229 :     val fld = field(k, d, Ty.Shape[])
230 :     in
231 :     [fld, Ty.T_Int] --> fld
232 :     end))
233 : jhr 3391
234 :     val convolve_vk = polyVar (N.op_convolve, all([DK, NK, SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
235 : jhr 3519 val k = Ty.DiffVar(k, 0)
236 :     val d = Ty.DimVar d
237 :     val dd = Ty.ShapeVar dd
238 :     in
239 :     [Ty.T_Image{dim=d, shape=dd}, Ty.T_Kernel k] --> field(k, d, dd)
240 :     end))
241 : jhr 3391 val convolve_kv = polyVar (N.op_convolve, all([DK, NK, SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
242 : jhr 3519 val k = Ty.DiffVar(k, 0)
243 :     val d = Ty.DimVar d
244 :     val dd = Ty.ShapeVar dd
245 :     in
246 :     [Ty.T_Kernel k, Ty.T_Image{dim=d, shape=dd}] --> field(k, d, dd)
247 :     end))
248 : jhr 3391
249 :     (* curl on 2d and 3d vector fields *)
250 :     local
251 :     val diff0 = Ty.DiffConst 0
252 :     fun field' (k, d, dd) = field(k, Ty.DimConst d, Ty.Shape(List.map Ty.DimConst dd))
253 :     in
254 :     val curl2D = polyVar (N.op_curl, all([DK], fn [Ty.DIFF k] => let
255 : jhr 3519 val km1 = Ty.DiffVar(k, ~1)
256 :     in
257 :     [field' (Ty.DiffVar(k, 0), 2, [2])] --> field' (km1, 2, [])
258 :     end))
259 : jhr 3391 val curl3D = polyVar (N.op_curl, all([DK], fn [Ty.DIFF k] =>let
260 : jhr 3519 val km1 = Ty.DiffVar(k, ~1)
261 :     in
262 :     [field' (Ty.DiffVar(k, 0), 3, [3])] --> field' (km1, 3, [3])
263 :     end))
264 : jhr 3391 end (* local *)
265 :    
266 :     val lt_ii = monoVar(N.op_lt, [Ty.T_Int, Ty.T_Int] --> Ty.T_Bool)
267 :     val lt_rr = monoVar(N.op_lt, [Ty.realTy, Ty.realTy] --> Ty.T_Bool)
268 :     val lte_ii = monoVar(N.op_lte, [Ty.T_Int, Ty.T_Int] --> Ty.T_Bool)
269 :     val lte_rr = monoVar(N.op_lte, [Ty.realTy, Ty.realTy] --> Ty.T_Bool)
270 :     val gte_ii = monoVar(N.op_gte, [Ty.T_Int, Ty.T_Int] --> Ty.T_Bool)
271 :     val gte_rr = monoVar(N.op_gte, [Ty.realTy, Ty.realTy] --> Ty.T_Bool)
272 :     val gt_ii = monoVar(N.op_gt, [Ty.T_Int, Ty.T_Int] --> Ty.T_Bool)
273 :     val gt_rr = monoVar(N.op_gt, [Ty.realTy, Ty.realTy] --> Ty.T_Bool)
274 :    
275 :     val equ_bb = monoVar(N.op_equ, [Ty.T_Bool, Ty.T_Bool] --> Ty.T_Bool)
276 :     val equ_ii = monoVar(N.op_equ, [Ty.T_Int, Ty.T_Int] --> Ty.T_Bool)
277 :     val equ_ss = monoVar(N.op_equ, [Ty.T_String, Ty.T_String] --> Ty.T_Bool)
278 :     val equ_rr = monoVar(N.op_equ, [Ty.realTy, Ty.realTy] --> Ty.T_Bool)
279 :     val neq_bb = monoVar(N.op_neq, [Ty.T_Bool, Ty.T_Bool] --> Ty.T_Bool)
280 :     val neq_ii = monoVar(N.op_neq, [Ty.T_Int, Ty.T_Int] --> Ty.T_Bool)
281 :     val neq_ss = monoVar(N.op_neq, [Ty.T_String, Ty.T_String] --> Ty.T_Bool)
282 :     val neq_rr = monoVar(N.op_neq, [Ty.realTy, Ty.realTy] --> Ty.T_Bool)
283 :    
284 :     val neg_i = monoVar(N.op_neg, [Ty.T_Int] --> Ty.T_Int)
285 : jhr 3482 val neg_t = polyVar(N.op_neg, all([SK], fn [Ty.SHAPE dd] => let
286 : jhr 3519 val t = Ty.T_Tensor(Ty.ShapeVar dd)
287 :     in
288 :     [t] --> t
289 :     end))
290 : jhr 3482 val neg_f = polyVar(N.op_neg, all([DK, NK, SK], fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
291 : jhr 3519 val k = Ty.DiffVar(k, 0)
292 :     val d = Ty.DimVar d
293 :     val dd = Ty.ShapeVar dd
294 :     in
295 :     [field(k, d, dd)] --> field(k, d, dd)
296 :     end))
297 : jhr 3391
298 :     (* clamp is overloaded at scalars and vectors *)
299 :     val clamp_rrr = monoVar(N.fn_clamp, [Ty.realTy, Ty.realTy, Ty.realTy] --> Ty.realTy)
300 :     val clamp_vvv = polyVar (N.fn_clamp, allNK(fn tv => let
301 :     val t = tensor[Ty.DimVar tv]
302 :     in
303 :     [t, t, t] --> t
304 :     end))
305 :    
306 : jhr 3482 val lerp3 = polyVar(N.fn_lerp, all([SK], fn [Ty.SHAPE dd] => let
307 : jhr 3519 val t = Ty.T_Tensor(Ty.ShapeVar dd)
308 :     in
309 :     [t, t, Ty.realTy] --> t
310 :     end))
311 : jhr 3482 val lerp5 = polyVar(N.fn_lerp, all([SK], fn [Ty.SHAPE dd] => let
312 : jhr 3519 val t = Ty.T_Tensor(Ty.ShapeVar dd)
313 :     in
314 :     [t, t, Ty.realTy, Ty.realTy, Ty.realTy] --> t
315 :     end))
316 : jhr 3391
317 :     (* Eigenvalues/vectors of a matrix; we only support this operation on 2x2 and 3x3 matrices, so
318 :     * we overload the function.
319 :     *)
320 :     local
321 : jhr 3398 fun evals d = monoVar (N.fn_evals, [matrix d] --> Ty.T_Sequence(Ty.realTy, SOME d))
322 :     fun evecs d = monoVar (N.fn_evecs, [matrix d] --> Ty.T_Sequence(tensor[d], SOME d))
323 : jhr 3391 in
324 :     val evals2x2 = evals(Ty.DimConst 2)
325 :     val evecs2x2 = evecs(Ty.DimConst 2)
326 :     val evals3x3 = evals(Ty.DimConst 3)
327 :     val evecs3x3 = evecs(Ty.DimConst 3)
328 : jhr 3398 end (* local *)
329 : jhr 3391
330 :     (***** non-overloaded operators, etc. *****)
331 :    
332 :     (* integer modulo *)
333 :     val op_mod = monoVar(N.op_mod, [Ty.T_Int, Ty.T_Int] --> Ty.T_Int)
334 :    
335 :     (* pseudo-operator for probing a field *)
336 :     val op_probe = polyVar (N.op_at, all([DK, NK, SK],
337 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
338 : jhr 3392 val k = Ty.DiffVar(k, 0)
339 :     val d = Ty.DimVar d
340 :     val dd = Ty.ShapeVar dd
341 :     in
342 :     [field(k, d, dd), tensor[d]] --> Ty.T_Tensor dd
343 :     end))
344 : jhr 3391
345 :     (* differentiation of scalar fields *)
346 :     val op_D = polyVar (N.op_D, all([DK, NK],
347 :     fn [Ty.DIFF k, Ty.DIM d] => let
348 : jhr 3392 val k0 = Ty.DiffVar(k, 0)
349 :     val km1 = Ty.DiffVar(k, ~1)
350 :     val d = Ty.DimVar d
351 :     in
352 :     [field(k0, d, Ty.Shape[])] --> field(km1, d, Ty.Shape[d])
353 :     end))
354 : jhr 3391
355 :     (* differentiation of higher-order tensor fields *)
356 :     val op_Dotimes = polyVar (N.op_Dotimes, all([DK, NK, SK, NK],
357 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd, Ty.DIM d'] => let
358 : jhr 3392 val k0 = Ty.DiffVar(k, 0)
359 :     val km1 = Ty.DiffVar(k, ~1)
360 :     val d = Ty.DimVar d
361 :     val d' = Ty.DimVar d'
362 :     val dd = Ty.ShapeVar dd
363 :     in
364 :     [field(k0, d, Ty.ShapeExt(dd, d'))]
365 :     --> field(km1, d, Ty.ShapeExt(Ty.ShapeExt(dd, d'), d))
366 :     end))
367 : jhr 3391
368 :     (* divergence differentiation of higher-order tensor fields *)
369 :     val op_Ddot = polyVar (N.op_Ddot, all([DK, NK, SK, NK],
370 : jhr 3392 fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd, Ty.DIM d'] => let
371 :     val k0 = Ty.DiffVar(k, 0)
372 :     val km1 = Ty.DiffVar(k, ~1)
373 :     val d = Ty.DimVar d
374 :     val d' = Ty.DimVar d'
375 :     val dd' = Ty.ShapeVar dd
376 :     in
377 :     [field(k0, d, Ty.ShapeExt(dd', d'))] --> field(k0, d, dd')
378 :     end))
379 : jhr 3391
380 :     val op_norm_t = polyVar (N.op_norm, all([SK],
381 :     fn [Ty.SHAPE dd] => [Ty.T_Tensor(Ty.ShapeVar dd)] --> Ty.realTy))
382 :     val op_norm_f = polyVar (N.op_norm, all([DK, NK, SK], fn [Ty.DIFF k,Ty.DIM d, Ty.SHAPE dd1] => let
383 : jhr 3392 val k = Ty.DiffVar(k, 0)
384 :     val d = Ty.DimVar d
385 :     val f1 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd1}
386 :     val f2 = Ty.T_Field{diff = k, dim = d, shape = Ty.Shape []}
387 :     in
388 :     [f1] --> f2
389 :     end))
390 : jhr 3391
391 : jhr 3464 (* boolean operators; 'and' and 'or' are used to implement reductions *)
392 :     val op_and = monoVar (Atom.atom "$and", [Ty.T_Bool, Ty.T_Bool] --> Ty.T_Bool)
393 :     val op_or = monoVar (Atom.atom "$or", [Ty.T_Bool, Ty.T_Bool] --> Ty.T_Bool)
394 : jhr 3391 val op_not = monoVar (N.op_not, [Ty.T_Bool] --> Ty.T_Bool)
395 :    
396 :     (* cross product *)
397 :     local
398 :     val crossTy = let
399 :     val t = tensor[N3]
400 :     in
401 :     [t, t] --> t
402 :     end
403 :     val crossTy2 = let
404 :     val t = tensor[N2]
405 :     in
406 :     [t, t] --> Ty.realTy
407 :     end
408 :     in
409 :     val op_cross2_tt = monoVar (N.op_cross, crossTy2)
410 :     val op_cross3_tt = monoVar (N.op_cross, crossTy)
411 : jhr 3398 end (* local *)
412 : jhr 3391
413 :     val op_cross2_ff = polyVar (N.op_cross, all([DK], fn [Ty.DIFF k] => let
414 : jhr 3392 fun field' (k, d, dd) = field(k, Ty.DimConst d, Ty.Shape(List.map Ty.DimConst dd))
415 :     val k0 = Ty.DiffVar(k, 0)
416 :     val f = field' (k0, 2, [2])
417 :     val t1 = field' (k0, 2, [])
418 :     in
419 :     [f, f] --> t1
420 :     end))
421 : jhr 3391
422 :     val op_cross3_ff = polyVar (N.op_cross, all([DK], fn [Ty.DIFF k] => let
423 : jhr 3392 fun field' (k, d, dd) = field(k, Ty.DimConst d, Ty.Shape(List.map Ty.DimConst dd))
424 :     val f = field' (Ty.DiffVar(k, 0), 3, [3])
425 :     in
426 :     [f, f] --> f
427 :     end))
428 : jhr 3391
429 :     (* the inner product operator (including dot product) is treated as a special case in the
430 :     * typechecker. It is not included in the basis environment, but we define its type scheme
431 :     * here. There is an implicit constraint on its type to have the following scheme:
432 :     *
433 :     * ALL[sigma1, d1, sigma2] . tensor[sigma1, d1] * tensor[d1, sigma2] -> tensor[sigma1, sigma2]
434 :     *)
435 :     val op_inner_tt = polyVar (N.op_dot, all([SK,SK,SK],
436 : jhr 3392 fn [Ty.SHAPE s1, Ty.SHAPE s2, Ty.SHAPE s3] =>
437 :     [Ty.T_Tensor(Ty.ShapeVar s1), Ty.T_Tensor(Ty.ShapeVar s2)]
438 :     --> Ty.T_Tensor(Ty.ShapeVar s3)))
439 : jhr 3518 val op_inner_tf = polyVar (N.op_dot, all([DK, NK, SK, SK, SK],
440 : jhr 3391 fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd1, Ty.SHAPE dd2, Ty.SHAPE dd3] => let
441 :     val k = Ty.DiffVar(k, 0)
442 :     val d = Ty.DimVar d
443 :     val t1 = Ty.T_Tensor(Ty.ShapeVar dd1)
444 :     val t2 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd2}
445 :     val t3 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd3}
446 :     in
447 :     [t1, t2] --> t3
448 :     end))
449 : jhr 3518 val op_inner_ft = polyVar (N.op_dot, all([DK, NK, SK, SK, SK],
450 : jhr 3391 fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd1, Ty.SHAPE dd2, Ty.SHAPE dd3] => let
451 :     val k = Ty.DiffVar(k, 0)
452 :     val d = Ty.DimVar d
453 :     val t1 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd1}
454 :     val t2 = Ty.T_Tensor(Ty.ShapeVar dd2)
455 :     val t3 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd3}
456 :     in
457 :     [t1, t2] --> t3
458 :     end))
459 : jhr 3518 val op_inner_ff = polyVar (N.op_dot, all([DK, DK, NK, SK, SK, SK],
460 : jhr 3391 fn [Ty.DIFF k1,Ty.DIFF k2, Ty.DIM d, Ty.SHAPE dd1, Ty.SHAPE dd2, Ty.SHAPE dd3] => let
461 :     val k1 = Ty.DiffVar(k1, 0)
462 :     val k2 = Ty.DiffVar(k2, 0)
463 :     val d = Ty.DimVar d
464 :     val t1 = Ty.T_Field{diff = k1, dim = d, shape = Ty.ShapeVar dd1}
465 :     val t2 = Ty.T_Field{diff = k2, dim = d, shape = Ty.ShapeVar dd2}
466 :     val t3 = Ty.T_Field{diff = k1, dim = d, shape = Ty.ShapeVar dd3}
467 :     in
468 :     [t1, t2] --> t3
469 :     end))
470 :    
471 : jhr 3518 (* outer product *)
472 :     val op_outer_tt = polyVar (N.op_outer, all([SK, SK, SK],
473 : jhr 3519 fn [Ty.SHAPE s1, Ty.SHAPE s2, Ty.SHAPE s3] =>
474 : jhr 3518 [Ty.T_Tensor(Ty.ShapeVar s1), Ty.T_Tensor(Ty.ShapeVar s2)]
475 : jhr 3585 --> Ty.T_Tensor(Ty.ShapeVar s3)))
476 : cchiw 3514 val op_outer_tf = polyVar (N.op_outer, all([DK,NK,SK,SK,SK],
477 : jhr 3519 fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd1, Ty.SHAPE dd2, Ty.SHAPE dd3] => let
478 : cchiw 3514 val k = Ty.DiffVar(k, 0)
479 :     val d = Ty.DimVar d
480 :     val t1 = Ty.T_Tensor(Ty.ShapeVar dd1)
481 :     val t2 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd2}
482 :     val t3 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd3}
483 :     in
484 : jhr 3519 [t1, t2] --> t3
485 : cchiw 3514 end))
486 : jhr 3518 val op_outer_ft = polyVar (N.op_outer, all([DK, NK, SK, SK, SK],
487 : jhr 3519 fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd1, Ty.SHAPE dd2, Ty.SHAPE dd3] => let
488 :     val k = Ty.DiffVar(k, 0)
489 :     val d = Ty.DimVar d
490 :     val t1 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd1}
491 :     val t2 = Ty.T_Tensor(Ty.ShapeVar dd2)
492 :     val t3 = Ty.T_Field{diff = k, dim = d, shape = Ty.ShapeVar dd3}
493 :     in
494 :     [t1, t2] --> t3
495 :     end))
496 : jhr 3518 val op_outer_ff = polyVar (N.op_outer, all([DK, DK, NK, SK, SK, SK],
497 : jhr 3519 fn [Ty.DIFF k1,Ty.DIFF k2, Ty.DIM d, Ty.SHAPE dd1, Ty.SHAPE dd2, Ty.SHAPE dd3] => let
498 :     val k1 = Ty.DiffVar(k1, 0)
499 :     val k2 = Ty.DiffVar(k2, 0)
500 :     val d = Ty.DimVar d
501 :     val t1 = Ty.T_Field{diff = k1, dim = d, shape = Ty.ShapeVar dd1}
502 :     val t2 = Ty.T_Field{diff = k2, dim = d, shape = Ty.ShapeVar dd2}
503 :     val t3 = Ty.T_Field{diff = k1, dim = d, shape = Ty.ShapeVar dd3}
504 :     in
505 :     [t1, t2] --> t3
506 :     end))
507 : cchiw 3514
508 : jhr 3391 (* the colon (or double-dot) product operator is treated as a special case in the
509 :     * typechecker. It is not included in the basis environment, but we define its type
510 :     * scheme here. There is an implicit constraint on its type to have the following scheme:
511 :     *
512 :     * ALL[sigma1, d1, d2, sigma2] .
513 :     * tensor[sigma1, d1, d2] * tensor[d1, d2, sigma2] -> tensor[sigma1, sigma2]
514 :     *)
515 :     val op_colon_tt = polyVar (N.op_colon, all([SK,SK,SK],
516 : jhr 3392 fn [Ty.SHAPE s1, Ty.SHAPE s2, Ty.SHAPE s3] =>
517 :     [Ty.T_Tensor(Ty.ShapeVar s1), Ty.T_Tensor(Ty.ShapeVar s2)]
518 :     --> Ty.T_Tensor(Ty.ShapeVar s3)))
519 : jhr 3391 val op_colon_ff = polyVar (N.op_colon, all([DK,SK,NK,SK,SK],
520 : jhr 3398 fn [Ty.DIFF k,Ty.SHAPE dd1, Ty.DIM d, Ty.SHAPE dd2,Ty.SHAPE dd3] => let
521 : jhr 3392 val k0 = Ty.DiffVar(k, 0)
522 :     val d' = Ty.DimVar d
523 :     val t1 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd1}
524 :     val t2 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd2}
525 :     val t3 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd3}
526 :     in
527 :     [t1,t2] --> t3
528 :     end))
529 : jhr 3391 val op_colon_ft = polyVar (N.op_colon, all([DK,SK,NK,SK,SK],
530 : jhr 3398 fn [Ty.DIFF k,Ty.SHAPE dd1, Ty.DIM d, Ty.SHAPE s2,Ty.SHAPE dd3] => let
531 : jhr 3392 val k0 = Ty.DiffVar(k, 0)
532 :     val d' = Ty.DimVar d
533 :     val t1 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd1}
534 :     val t2 = Ty.T_Tensor(Ty.ShapeVar s2)
535 :     val t3 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd3}
536 :     in
537 :     [t1, t2] --> t3
538 :     end))
539 : jhr 3391 val op_colon_tf = polyVar (N.op_colon, all([DK,SK,NK,SK,SK],
540 : jhr 3398 fn [Ty.DIFF k,Ty.SHAPE s1, Ty.DIM d, Ty.SHAPE dd2,Ty.SHAPE dd3] => let
541 : jhr 3392 val k0 = Ty.DiffVar(k, 0)
542 :     val d' = Ty.DimVar d
543 :     val t1 = Ty.T_Tensor(Ty.ShapeVar s1)
544 :     val t2 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd2}
545 :     val t3 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd3}
546 :     in
547 :     [t1,t2] --> t3
548 :     end))
549 : jhr 3391
550 :     (* image size operation *)
551 :     val fn_size = polyVar (N.fn_size, all([NK, SK],
552 : jhr 3392 fn [Ty.DIM d, Ty.SHAPE dd] => let
553 : jhr 3391 val d = Ty.DimVar d
554 :     val dd = Ty.ShapeVar dd
555 :     in
556 : jhr 3398 [Ty.T_Image{dim=d, shape=dd}] --> Ty.T_Sequence(Ty.T_Int, SOME d)
557 : jhr 3391 end))
558 :    
559 :     (* functions that handle the boundary behavior of an image *)
560 :     local
561 :     fun img2img f = polyVar (f, all([NK, SK],
562 : jhr 3392 fn [Ty.DIM d, Ty.SHAPE dd] => let
563 :     val imgTy = Ty.T_Image{dim=Ty.DimVar d, shape=Ty.ShapeVar dd}
564 : jhr 3391 in
565 :     [imgTy] --> imgTy
566 :     end))
567 :     in
568 :     val image_border = polyVar (N.fn_border, all([NK, SK],
569 : jhr 3392 fn [Ty.DIM d, Ty.SHAPE dd] => let
570 : jhr 3391 val d = Ty.DimVar d
571 :     val dd = Ty.ShapeVar dd
572 :     in
573 :     [Ty.T_Image{dim=d, shape=dd}, Ty.T_Tensor dd]
574 : jhr 3392 --> Ty.T_Image{dim=d, shape=dd}
575 : jhr 3391 end))
576 :     val image_clamp = img2img N.fn_clamp
577 :     val image_mirror = img2img N.fn_mirror
578 :     val image_wrap = img2img N.fn_wrap
579 :     end (* local *)
580 :    
581 :     (* is a point inside the domain of a field? *)
582 :     val fn_inside = polyVar (N.fn_inside, all([DK, NK, SK],
583 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd] => let
584 :     val k = Ty.DiffVar(k, 0)
585 :     val d = Ty.DimVar d
586 :     val dd = Ty.ShapeVar dd
587 :     in
588 :     [Ty.T_Tensor(Ty.Shape[d]), field(k, d, dd)]
589 :     --> Ty.T_Bool
590 :     end))
591 :    
592 :     (* load image from nrrd *)
593 :     val fn_image = polyVar (N.fn_image, all([NK, SK],
594 :     fn [Ty.DIM d, Ty.SHAPE dd] => let
595 :     val d = Ty.DimVar d
596 :     val dd = Ty.ShapeVar dd
597 :     in
598 :     [Ty.T_String] --> Ty.T_Image{dim=d, shape=dd}
599 :     end))
600 :    
601 :     (* load dynamic sequence from nrrd *)
602 :     val fn_load = polyVar (N.fn_load, all([TK],
603 : jhr 3398 fn [Ty.TYPE tv] => [Ty.T_String] --> dynSeq(Ty.T_Var tv)))
604 : jhr 3391
605 :     val fn_length = polyVar (N.fn_length, all([TK],
606 : jhr 3398 fn [Ty.TYPE tv] => [dynSeq(Ty.T_Var tv)] --> Ty.T_Int))
607 : jhr 3391
608 : jhr 3482 val fn_abs_i = monoVar (N.fn_abs, [Ty.T_Int] --> Ty.T_Int)
609 :     val fn_abs_r = monoVar (N.fn_abs, [Ty.realTy] --> Ty.realTy)
610 :     val fn_max_i = monoVar (N.fn_max, [Ty.T_Int, Ty.T_Int] --> Ty.T_Int)
611 :     val fn_max_r = monoVar (N.fn_max, [Ty.realTy, Ty.realTy] --> Ty.realTy)
612 :     val fn_min_i = monoVar (N.fn_min, [Ty.T_Int, Ty.T_Int] --> Ty.T_Int)
613 :     val fn_min_r = monoVar (N.fn_min, [Ty.realTy, Ty.realTy] --> Ty.realTy)
614 : jhr 3391
615 :     val fn_modulate = polyVar (N.fn_modulate, all([NK],
616 : jhr 3392 fn [Ty.DIM d] => let
617 :     val t = Ty.T_Tensor(Ty.Shape[Ty.DimVar d])
618 :     in
619 :     [t, t] --> t
620 :     end))
621 : jhr 3391
622 : jhr 3478 val fn_normalize_t = polyVar (N.fn_normalize, all([SK],
623 :     fn [Ty.SHAPE dd] => let
624 :     val t = Ty.T_Tensor(Ty.ShapeVar dd)
625 : jhr 3392 in
626 :     [t] --> t
627 :     end))
628 : jhr 3391 val fn_normalize_f = polyVar (N.fn_normalize, all([DK,NK,SK],
629 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd1] => let
630 : jhr 3392 val k0 = Ty.DiffVar(k, 0)
631 :     val d' = Ty.DimVar d
632 :     val f1 = Ty.T_Field{diff = k0, dim = d', shape = Ty.ShapeVar dd1}
633 :     in
634 :     [f1] --> f1
635 :     end))
636 : jhr 3391
637 :     val fn_principleEvec = polyVar (N.fn_principleEvec, all([NK],
638 :     fn [Ty.DIM d] => let
639 :     val d = Ty.DimVar d
640 :     in
641 :     [matrix d] --> tensor[d]
642 :     end))
643 :    
644 :     val fn_trace_t = polyVar (N.fn_trace, all([NK],
645 :     fn [Ty.DIM d] => [matrix(Ty.DimVar d)] --> Ty.realTy))
646 :     val fn_trace_f = polyVar (N.fn_trace, all([DK,NK,SK],
647 :     fn [Ty.DIFF k, Ty.DIM d, Ty.SHAPE dd1] => let
648 :     val k' = Ty.DiffVar(k, 0)
649 :     val d' = Ty.DimVar d
650 :     val d1 = Ty.ShapeVar dd1
651 :     val f = field(k', d', Ty.ShapeExt(Ty.ShapeExt(d1, d'), d'))
652 :     val h = field(k', d', d1)
653 :     in
654 :     [f] --> h
655 :     end))
656 :    
657 :     val fn_transpose_t = polyVar (N.fn_transpose, all([NK, NK],
658 :     fn [Ty.DIM d1, Ty.DIM d2] =>
659 :     [tensor[Ty.DimVar d1, Ty.DimVar d2]] --> tensor[Ty.DimVar d2, Ty.DimVar d1]))
660 :     val fn_transpose_f = polyVar (N.fn_transpose, all([DK,NK,NK,NK],
661 :     fn [Ty.DIFF k, Ty.DIM d,Ty.DIM a, Ty.DIM b] => let
662 :     val k0 = Ty.DiffVar(k, 0)
663 :     val d' = Ty.DimVar d
664 :     val a' = Ty.DimVar a
665 :     val b' = Ty.DimVar b
666 :     val f = field(k0, d', Ty.Shape[a',b'])
667 :     val h = field(k0, d', Ty.Shape[b',a'])
668 :     in
669 :     [f] --> h
670 :     end))
671 :    
672 :     (* determinant: restrict to 2x2 and 3x3*)
673 :     val fn_det2_t = monoVar (N.fn_det, [matrix N2] --> Ty.realTy)
674 :     val fn_det3_t = monoVar (N.fn_det, [matrix N3] --> Ty.realTy)
675 :     val fn_det2_f = polyVar (N.fn_det, all([DK], fn [Ty.DIFF k] => let
676 : jhr 3392 fun field' (k, d, dd) = field(k, Ty.DimConst d, Ty.Shape(List.map Ty.DimConst dd))
677 :     val k0 = Ty.DiffVar(k, 0)
678 :     val f = field' (k0, 2, [2,2])
679 :     val s = field' (k0, 2, [])
680 :     in
681 :     [f] --> s
682 :     end))
683 : jhr 3391 val fn_det3_f = polyVar (N.fn_det, all([DK], fn [Ty.DIFF k] => let
684 : jhr 3392 fun field' (k, d, dd) = field(k, Ty.DimConst d, Ty.Shape(List.map Ty.DimConst dd))
685 :     val k0 = Ty.DiffVar(k, 0)
686 :     val f = field' (k0, 3, [3,3])
687 :     val s = field' (k0, 3, [])
688 :     in
689 :     [f] --> s
690 :     end))
691 : jhr 3391
692 : jhr 3482 (* lifted unary math functions; these have both real and scalar-field forms *)
693 : jhr 3478 local
694 : jhr 3482 fun fn_r name = monoVar (name, [Ty.realTy] --> Ty.realTy)
695 :     fun fn_s name = polyVar (N.fn_sqrt, all([DK,NK], fn [Ty.DIFF k, Ty.DIM d] => let
696 : jhr 3519 val k' = Ty.DiffVar(k, 0)
697 :     val d' = Ty.DimVar d
698 :     val f = field(k', d', Ty.Shape[])
699 :     in
700 :     [f] --> f
701 :     end))
702 : jhr 3478 in
703 : jhr 3482 val fn_sqrt_r = fn_r N.fn_sqrt
704 :     val fn_sqrt_s = fn_s N.fn_sqrt
705 :     val fn_cos_r = fn_r N.fn_cos
706 :     val fn_cos_s = fn_s N.fn_cos
707 :     val fn_acos_r = fn_r N.fn_acos
708 :     val fn_acos_s = fn_s N.fn_acos
709 :     val fn_sin_r = fn_r N.fn_sin
710 :     val fn_sin_s = fn_s N.fn_sin
711 :     val fn_asin_r = fn_r N.fn_asin
712 :     val fn_asin_s = fn_s N.fn_asin
713 :     val fn_tan_r = fn_r N.fn_tan
714 :     val fn_tan_s = fn_s N.fn_tan
715 :     val fn_atan_r = fn_r N.fn_atan
716 :     val fn_atan_s = fn_s N.fn_atan
717 :     val fn_exp_r = fn_r N.fn_exp
718 :     val fn_exp_s = fn_s N.fn_exp
719 : jhr 3478 end (* local *)
720 : jhr 3391
721 : jhr 3398 (* Math functions that have not yet been lifted to work on fields *)
722 :     local
723 :     fun mk (name, n) =
724 : jhr 3519 monoVar(name, List.tabulate(n, fn _ => Ty.realTy) --> Ty.realTy)
725 : jhr 3398 in
726 : jhr 3482 val fn_atan2_rr = mk(N.fn_atan2, 2)
727 :     val fn_ceil_r = mk(N.fn_ceil, 1)
728 :     val fn_floor_r = mk(N.fn_floor, 1)
729 :     val fn_fmod_rr = mk(N.fn_fmod, 2)
730 :     val fn_erf_r = mk(N.fn_erf, 1)
731 :     val fn_erfc_r = mk(N.fn_erfc, 1)
732 :     val fn_log_r = mk(N.fn_log, 1)
733 :     val fn_log10_r = mk(N.fn_log10, 1)
734 :     val fn_log2_r = mk(N.fn_log2, 1)
735 : jhr 3511 val fn_pow_rr = mk(N.fn_pow, 2)
736 : jhr 3398 end (* local *)
737 :    
738 : jhr 3392 (* Query functions *)
739 :     local
740 : jhr 3398 val implicit = fn [Ty.TYPE tv] => [Ty.realTy] --> dynSeq(Ty.T_Var tv)
741 :     val realTy = fn [Ty.TYPE tv] => [Ty.realTy, Ty.realTy] --> dynSeq(Ty.T_Var tv)
742 : jhr 3392 val vec2Ty = let
743 :     val t = tensor[N2]
744 :     in
745 : jhr 3398 fn [Ty.TYPE tv] => [t, Ty.realTy] --> dynSeq(Ty.T_Var tv)
746 : jhr 3392 end
747 :     val vec3Ty = let
748 :     val t = tensor[N3]
749 :     in
750 : jhr 3398 fn [Ty.TYPE tv] => [t, Ty.realTy] --> dynSeq(Ty.T_Var tv)
751 : jhr 3392 end
752 :     in
753 :     val fn_sphere_im = polyVar (N.fn_sphere, all([TK], implicit))
754 :     val fn_sphere1_r = polyVar (N.fn_sphere, all([TK], realTy))
755 :     val fn_sphere2_t = polyVar (N.fn_sphere, all([TK], vec2Ty))
756 :     val fn_sphere3_t = polyVar (N.fn_sphere, all([TK], vec3Ty))
757 :     end (* local *)
758 :    
759 : jhr 3484 (* vector distance function *)
760 :     local
761 :     val vec2Ty = let
762 :     val t = tensor[N2]
763 :     in
764 :     [t, t] --> Ty.realTy
765 :     end
766 :     val vec3Ty = let
767 :     val t = tensor[N3]
768 :     in
769 :     [t, t] --> Ty.realTy
770 :     end
771 :     in
772 :     val dist2_t = monoVar (N.fn_dist, vec2Ty)
773 :     val dist3_t = monoVar (N.fn_dist, vec3Ty)
774 :     end (* local *)
775 :    
776 : jhr 3431 (* Sets of strands *)
777 :     local
778 :     fun mkSetFn name = polyVar (name, all([TK], fn [Ty.TYPE tv] => [] --> dynSeq(Ty.T_Var tv)))
779 :     in
780 :     val set_active = mkSetFn N.set_active
781 : jhr 3463 val set_all = mkSetFn N.set_all
782 : jhr 3431 val set_stable = mkSetFn N.set_stable
783 :     end
784 :    
785 : jhr 3392 (* reduction operators *)
786 :     local
787 :     fun reduction (name, elemTy) =
788 : jhr 3519 monoVar (name, [dynSeq elemTy] --> elemTy)
789 : jhr 3392 in
790 : jhr 3519 val red_all = reduction (N.fn_all, Ty.T_Bool)
791 :     val red_exists = reduction (N.fn_exists, Ty.T_Bool)
792 : jhr 3482 (* FIXME: allow max on integers *)
793 : jhr 3519 val red_max = reduction (N.fn_max, Ty.realTy)
794 :     val red_mean = reduction (N.fn_mean, Ty.realTy)
795 : jhr 3482 (* FIXME: allow min on integers *)
796 : jhr 3519 val red_min = reduction (N.fn_min, Ty.realTy)
797 :     val red_product = reduction (N.fn_product, Ty.realTy)
798 : jhr 3464 (* FIXME: allow sum on int and tensor types *)
799 : jhr 3519 val red_sum = reduction (N.fn_sum, Ty.realTy)
800 :     val red_variance = reduction (N.fn_variance, Ty.realTy)
801 : jhr 3392 end (* local *)
802 :    
803 : jhr 3391 (* kernels *)
804 :     (* FIXME: we should really get the continuity info from the kernels themselves *)
805 :     val kn_bspln3 = monoVar (N.kn_bspln3, Ty.T_Kernel(Ty.DiffConst 2))
806 :     val kn_bspln5 = monoVar (N.kn_bspln5, Ty.T_Kernel(Ty.DiffConst 4))
807 :     val kn_c4hexic = monoVar (N.kn_c4hexic, Ty.T_Kernel(Ty.DiffConst 4))
808 :     val kn_ctmr = monoVar (N.kn_ctmr, Ty.T_Kernel(Ty.DiffConst 1))
809 :     val kn_tent = monoVar (N.kn_tent, Ty.T_Kernel(Ty.DiffConst 0))
810 :    
811 :     (***** internal variables *****)
812 :    
813 :     (* integer to real conversion *)
814 :     val i2r = monoVar (Atom.atom "$i2r", [Ty.T_Int] --> Ty.realTy)
815 :    
816 :     (* identity matrix *)
817 :     val identity = polyVar (Atom.atom "$id", allNK (fn dv => [] --> matrix(Ty.DimVar dv)))
818 :    
819 :     (* zero tensor *)
820 :     val zero = polyVar (Atom.atom "$zero", all ([SK],
821 : jhr 3392 fn [Ty.SHAPE dd] => [] --> Ty.T_Tensor(Ty.ShapeVar dd)))
822 : jhr 3391
823 :     (* NaN tensor *)
824 :     val nan = polyVar (Atom.atom "$nan", all ([SK],
825 : jhr 3392 fn [Ty.SHAPE dd] => [] --> Ty.T_Tensor(Ty.ShapeVar dd)))
826 : jhr 3391
827 :     (* sequence subscript *)
828 :     val subscript = polyVar (Atom.atom "$sub", all ([TK, NK],
829 : jhr 3392 fn [Ty.TYPE tv, Ty.DIM d] =>
830 : jhr 3398 [Ty.T_Sequence(Ty.T_Var tv, SOME(Ty.DimVar d)), Ty.T_Int] --> Ty.T_Var tv))
831 : jhr 3391
832 :     val dynSubscript = polyVar (Atom.atom "$dynsub", all ([TK],
833 : jhr 3398 fn [Ty.TYPE tv] => [dynSeq(Ty.T_Var tv), Ty.T_Int] --> Ty.T_Var tv))
834 : jhr 3391
835 :     (* range expressions *)
836 : jhr 3398 val range = monoVar (Atom.atom "$range", [Ty.T_Int, Ty.T_Int] --> dynSeq Ty.T_Int)
837 : jhr 3391
838 :     end (* local *)
839 :     end

root@smlnj-gforge.cs.uchicago.edu
ViewVC Help
Powered by ViewVC 1.0.0