b94bc4acd7fc7577e5c8e0bc432d01df0ca6001f
[swftools.git] / lib / modules / swftools.c
1 /* swftools.c
2
3    Math and matrix functions, misc tools
4
5    Extension module for the rfxswf library.
6    Part of the swftools package.
7
8    Copyright (c) 2000, 2001 Rainer Böhme <rfxswf@reflex-studio.de>
9  
10    This file is distributed under the GPL, see file COPYING for details 
11
12 */
13
14 // Matrix & Math tools for SWF files
15
16 #define S64 long long
17 SFIXED RFXSWF_SP(SFIXED a1,SFIXED a2,SFIXED b1,SFIXED b2)
18 { S64 a;
19   a = (S64)a1*(S64)b1+(S64)a2*(S64)b2;
20   return (SFIXED)(a>>16);
21 }
22 SFIXED RFXSWF_QFIX(int zaehler,int nenner) // bildet Quotient von zwei INTs in SFIXED
23 { S64 z = zaehler<<16;
24   S64 a = z/(S64)nenner;
25   return (SFIXED)a;
26 }
27 #undef S64
28
29 MATRIX * swf_MatrixJoin(MATRIX * d,MATRIX * s1,MATRIX * s2)
30 {        
31   if (!d) return NULL;
32   if (!s1) return (s2)?(MATRIX *)memcpy(d,s2,sizeof(MATRIX)):NULL;
33   if (!s2) return (MATRIX *)memcpy(d,s1,sizeof(MATRIX));
34   
35   d->tx = s1->tx + s2->tx;
36   d->ty = s1->ty + s2->ty;
37   
38   d->sx = RFXSWF_SP(s1->sx,s1->r1,s2->sx,s2->r0);
39   d->sy = RFXSWF_SP(s1->r0,s1->sy,s2->r1,s2->sy);
40   d->r0 = RFXSWF_SP(s1->r0,s1->sy,s2->sx,s2->r0);
41   d->r1 = RFXSWF_SP(s1->sx,s1->r1,s2->r1,s2->sy);
42
43   //DumpMatrix(NULL,d);
44   
45   return d;
46 }
47
48 MATRIX * swf_MatrixMapTriangle(MATRIX * m,int dx,int dy,int x0,int y0,
49                                int x1,int y1,int x2,int y2)
50 { int dx1 = x1 - x0;
51   int dy1 = y1 - y0;
52   int dx2 = x2 - x0;
53   int dy2 = y2 - y0;
54   
55   if (!m) return NULL;
56   if ((!dx)||(!dy)) return NULL; // check DIV by zero
57
58   m->tx = x0;
59   m->ty = y0;
60   m->sx = RFXSWF_QFIX(dx1,dx);
61   m->sy = RFXSWF_QFIX(dy2,dy);
62   m->r0 = RFXSWF_QFIX(dy1,dx);
63   m->r1 = RFXSWF_QFIX(dx2,dy);
64   
65   return m;
66 }
67
68 void swf_SetDefineID(TAG * tag, U16 newid)
69 {
70   int oldlen = tag->len;
71   tag->len = 0;
72   swf_SetU16(tag, newid); /* set defining ID */
73   tag->len = oldlen;
74 }
75
76 U16 swf_GetDefineID(TAG * t)
77 // up to SWF 4.0
78 { U32 oldTagPos;
79   U16 id = 0;
80
81   oldTagPos = swf_GetTagPos(t);
82   swf_SetTagPos(t,0);
83
84   switch (swf_GetTagID(t))
85   { case ST_DEFINESHAPE:
86     case ST_DEFINESHAPE2:
87     case ST_DEFINESHAPE3:
88     case ST_DEFINEMORPHSHAPE:
89     case ST_DEFINEEDITTEXT:
90     case ST_DEFINEBITS:
91     case ST_DEFINEBITSJPEG2:
92     case ST_DEFINEBITSJPEG3:
93     case ST_DEFINEBITSLOSSLESS:
94     case ST_DEFINEBITSLOSSLESS2:
95     case ST_DEFINEBUTTON:
96     case ST_DEFINEBUTTON2:
97     case ST_DEFINEBUTTONCXFORM: //pseudodefine
98     case ST_DEFINEBUTTONSOUND: //pseudodefine
99     case ST_DEFINEFONT:
100     case ST_DEFINEFONT2:
101     case ST_DEFINEFONTINFO: //pseudodefine
102     case ST_DEFINETEXT:
103     case ST_DEFINETEXT2:
104     case ST_DEFINESOUND:
105     case ST_DEFINESPRITE:
106     case ST_NAMECHARACTER: //pseudodefine
107       id = swf_GetU16(t);
108       break;
109   }
110
111   swf_SetTagPos(t,oldTagPos);
112
113   return id;
114 }
115
116 U16 swf_GetPlaceID(TAG * t)
117 // up to SWF 4.0
118 { U32 oldTagPos;
119   U16 id = 0;
120
121   oldTagPos = swf_GetTagPos(t);
122   swf_SetTagPos(t,0);
123
124   switch (swf_GetTagID(t))
125   { case ST_PLACEOBJECT:
126     case ST_REMOVEOBJECT:
127     case ST_FREECHARACTER:
128     case ST_STARTSOUND:
129       id = swf_GetU16(t);
130       break;
131
132     case ST_PLACEOBJECT2:
133     { U8 flags = swf_GetU8(t);
134       U16 d = swf_GetU16(t);
135       id = (flags&PF_CHAR)?swf_GetU16(t):id;
136     } break;
137
138   }
139
140   swf_SetTagPos(t,oldTagPos);
141
142   return id;
143 }
144
145 static int swf_definingtagids[] =
146 {ST_DEFINESHAPE,
147  ST_DEFINESHAPE2,
148  ST_DEFINESHAPE3,
149  ST_DEFINEMORPHSHAPE,
150  ST_DEFINEFONT,
151  ST_DEFINEFONT2,
152  ST_DEFINETEXT,
153  ST_DEFINETEXT2,
154  ST_DEFINEEDITTEXT,
155  ST_DEFINEBITS,
156  ST_DEFINEBITSJPEG2,
157  ST_DEFINEBITSJPEG3,
158  ST_DEFINEBITSLOSSLESS,
159  ST_DEFINEBITSLOSSLESS2,
160  ST_DEFINEMOVIE,
161  ST_DEFINESPRITE,
162  ST_DEFINEBUTTON,
163  ST_DEFINEBUTTON2,
164  ST_DEFINESOUND,
165  -1
166 };
167
168 // tags which may be used inside a sprite definition
169 static int swf_spritetagids[] =
170 {ST_SHOWFRAME,
171  ST_PLACEOBJECT,
172  ST_PLACEOBJECT2,
173  ST_REMOVEOBJECT,
174  ST_REMOVEOBJECT2, //?
175  ST_DOACTION,
176  ST_STARTSOUND,
177  ST_FRAMELABEL,
178  ST_SOUNDSTREAMHEAD,
179  ST_SOUNDSTREAMHEAD2,
180  ST_SOUNDSTREAMBLOCK,
181  ST_END,
182  -1
183 };
184
185 static int swf_pseudodefiningtagids[] = 
186 {
187  ST_DEFINEFONTINFO,
188  ST_DEFINEBUTTONCXFORM,
189  ST_DEFINEBUTTONSOUND,
190  ST_NAMECHARACTER,
191  -1
192 };
193
194 U8 swf_isAllowedSpriteTag(TAG * tag)
195 {
196     int id = tag->id;
197     int t=0;
198     while(swf_spritetagids[t]>=0)
199     {
200         if(swf_spritetagids[t] == id) 
201             return 1;
202         t++;
203     }
204     return 0; 
205 }
206
207 U8 swf_isDefiningTag(TAG * tag)
208 {
209     int id = tag->id;
210     int t=0;
211     while(swf_definingtagids[t]>=0)
212     {
213         if(swf_definingtagids[t] == id) 
214             return 1;
215         t++;
216     }
217     return 0; 
218 }
219
220 U8 swf_isPseudoDefiningTag(TAG * tag)
221 {
222     int id = tag->id;
223     int t=0;
224     while(swf_pseudodefiningtagids[t]>=0)
225     {
226         if(swf_pseudodefiningtagids[t] == id) 
227             return 1;
228         t++;
229     }
230     return 0; 
231 }
232
233 U16 swf_GetDepth(TAG * t)
234 // up to SWF 4.0
235
236   U16 depth = 0;
237   U32 oldTagPos;
238   oldTagPos = swf_GetTagPos(t);
239   swf_SetTagPos(t,0);
240
241   switch (swf_GetTagID(t))
242   { case ST_PLACEOBJECT:
243     case ST_REMOVEOBJECT:
244       swf_GetU16(t); //id
245       depth = swf_GetU16(t);
246       break;
247     case ST_REMOVEOBJECT2:
248       depth = swf_GetU16(t);
249       break;
250     case ST_PLACEOBJECT2:
251     { U8 flags = swf_GetU8(t);
252       depth = swf_GetU16(t);
253     } break;
254   }
255   swf_SetTagPos(t,oldTagPos);
256   return depth;
257 }
258
259 char* swf_GetName(TAG * t)
260 {
261     char* name = 0;
262     U32 oldTagPos;
263     MATRIX m;
264     CXFORM c;
265     oldTagPos = swf_GetTagPos(t);
266     swf_SetTagPos(t,0);
267     switch(swf_GetTagID(t))
268     {
269         case ST_FRAMELABEL:
270             name = &t->data[swf_GetTagPos(t)];
271         break;
272         case ST_PLACEOBJECT2: {   
273             U8 flags = swf_GetU8(t);
274             swf_GetU16(t); //depth;
275             if(flags&PF_CHAR) 
276               swf_GetU16(t); //id
277             if(flags&PF_MATRIX)
278               swf_GetMatrix(t, &m);
279             if(flags&PF_CXFORM)
280               swf_GetCXForm(t, &c, 1);
281             if(flags&PF_RATIO)
282               swf_GetU16(t);
283             if(flags&PF_NAME) {
284               swf_ResetReadBits(t);
285               name = &t->data[swf_GetTagPos(t)];
286             }
287         }
288         break;
289     }
290     swf_SetTagPos(t,oldTagPos);
291     return name;
292 }
293
294 #define DEBUG_ENUMERATE if(0)
295
296 static void enumerateUsedIDs_styles(TAG * tag, void (*callback)(TAG*, int, void*), void*callback_data, int num)
297 {
298     U16 count;
299     int t;
300     count = swf_GetU8(tag);
301     if(count == 0xff && num>1) // defineshape2,3 only
302         count = swf_GetU16(tag);
303
304     for(t=0;t<count;t++)
305     {
306         int type;
307         U8*pos;
308         swf_ResetReadBits(tag);
309         type = swf_GetU8(tag); //type
310         if(type == 0) {
311             if(num == 3)
312                 swf_GetRGBA(tag, NULL);
313             else 
314                 swf_GetRGB(tag, NULL);
315         }
316         else if(type == 0x10 || type == 0x12)
317         {
318             swf_ResetReadBits(tag);
319             swf_GetMatrix(tag, NULL);
320             swf_ResetReadBits(tag);
321             swf_GetGradient(tag, NULL, /*alpha*/ num>=3?1:0);
322         }
323         else if(type == 0x40 || type == 0x41)
324         {
325             swf_ResetReadBits(tag);
326             // we made it.
327             if(tag->data[tag->pos] != 0xff ||
328                tag->data[tag->pos+1] != 0xff)
329             (callback)(tag, tag->pos, callback_data);
330
331             swf_GetU16(tag);
332             swf_ResetReadBits(tag);
333             swf_GetMatrix(tag, NULL);
334         }
335         else {
336             fprintf(stderr, "rfxswf:swftools.c Unknown fillstyle:0x%02x\n",type);
337         }
338     }
339     swf_ResetReadBits(tag);
340     count = swf_GetU8(tag); // line style array
341     if(count == 0xff)
342         count = swf_GetU16(tag);
343     for(t=0;t<count;t++) 
344     {
345         swf_GetU16(tag);
346         if(num == 3)
347             swf_GetRGBA(tag, NULL);
348         else
349             swf_GetRGB(tag, NULL);
350     }
351 }
352
353 void enumerateUsedIDs(TAG * tag, int base, void (*callback)(TAG*, int, void*), void*callback_data)
354 {
355     int num = 1;
356     swf_ResetReadBits(tag);
357     tag->pos = 0;
358     switch(tag->id)
359     {
360         case ST_DEFINEBUTTONCXFORM: {
361             int t;
362             callback(tag, tag->pos + base, callback_data);
363             for(t=0;t<4;t++) {
364                 int flags;
365                 callback(tag, tag->pos + base, callback_data);
366                 swf_GetU16(tag); //sound id
367                 flags = swf_GetU8(tag);
368                 if(flags&1)
369                     swf_GetU32(tag); // in point
370                 if(flags&2)
371                     swf_GetU32(tag); // out points
372                 if(flags&4)
373                     swf_GetU16(tag); // loop count
374                 if(flags&8)
375                 {
376                     int npoints = swf_GetU8(tag);
377                     int s;
378                     for(s=0;s<npoints;s++)
379                     {
380                         swf_GetU32(tag);
381                         swf_GetU16(tag);
382                         swf_GetU16(tag);
383                     }
384                 }
385             }
386         } break;
387         case ST_DEFINEBUTTONSOUND:
388             callback(tag, tag->pos + base, callback_data); //button id
389         break;
390         case ST_PLACEOBJECT:
391             callback(tag, tag->pos + base, callback_data);
392         break;
393         case ST_PLACEOBJECT2:
394             // only if placeflaghascharacter
395             if(!(tag->data[0]&2))
396                 break;
397             callback(tag, 3 + base, callback_data);
398         break;
399         case ST_REMOVEOBJECT:
400             callback(tag, tag->pos + base, callback_data);
401         break;
402         case ST_STARTSOUND:
403             callback(tag, tag->pos + base, callback_data);
404         break;
405         case ST_DEFINESPRITE: {
406             if(tag->len <= 4)
407                 break; // sprite is expanded
408
409             swf_GetU16(tag); // id
410             swf_GetU16(tag); // framenum
411
412             while(1) {
413                 U16 flags = swf_GetU16(tag);
414                 U32 len;
415                 U16 id = flags>>6;
416                 TAG *tag2 = swf_InsertTag(NULL, id);
417                 len = flags&0x3f;
418                 if(len == 63)
419                     len = swf_GetU32(tag);
420                 if(id == ST_END)
421                     break;
422                 tag2->len = tag2->memsize = len;
423                 tag2->data = malloc(len);
424                 memcpy(tag2->data, &tag->data[tag->pos], len);
425                 /* I never saw recursive sprites, but they are (theoretically) 
426                    possible, so better add base here again */
427                 enumerateUsedIDs(tag2, tag->pos + base, callback, callback_data);
428                 swf_DeleteTag(tag2);
429                 swf_GetBlock(tag, NULL, len);
430             }
431         } 
432         break;
433         case ST_DEFINEBUTTON2: // has some font ids in the button records
434             num++; 
435         //fallthrough
436         case ST_DEFINEBUTTON: {
437             swf_GetU16(tag); //button id
438             if(num>1)
439             { 
440                 int offset;
441                 swf_GetU8(tag); //flag
442                 offset = swf_GetU16(tag); //offset
443             }
444             while(1)
445             {
446                 U16 charid;
447                 if(!swf_GetU8(tag)) //flags
448                     break; 
449                 callback(tag, tag->pos + base, callback_data);
450                 swf_GetU16(tag); //char
451                 swf_GetU16(tag); //layer
452                 swf_ResetReadBits(tag);
453                 swf_GetMatrix(tag, NULL);
454                 if(num>1) {
455                   swf_ResetReadBits(tag);
456                   swf_GetCXForm(tag, NULL, 1);
457                 }
458             }
459             // ...
460         }
461         break;
462         case ST_DEFINEEDITTEXT:  {
463             U8 flags1,flags2;
464             swf_GetU16(tag); //id
465             swf_GetRect(tag, NULL); //bounding box
466             swf_ResetReadBits(tag);
467             flags1 = swf_GetU8(tag);
468             flags2 = swf_GetU8(tag);
469             if(flags1 & 1)
470                 callback(tag, tag->pos + base, callback_data);
471         }
472         break;
473         case ST_DEFINETEXT2:
474             num ++;
475         case ST_DEFINETEXT: { 
476             int glyphbits, advancebits;
477             int id;
478             id = swf_GetU16(tag); //id
479             swf_GetRect(tag, NULL); //bounding box
480             swf_ResetReadBits(tag);
481             swf_GetMatrix(tag, NULL); //matrix
482             swf_ResetReadBits(tag);
483             glyphbits = swf_GetU8(tag); //glyphbits
484             advancebits = swf_GetU8(tag); //advancebits
485             while(1) {
486                 U16 flags;
487                 swf_ResetReadBits(tag);
488                 flags = swf_GetBits(tag, 8);
489                 if(!flags) break;
490                 if(flags & 128) // text style record
491                 {
492                     swf_ResetReadBits(tag);
493                     if(flags & 8) { // hasfont
494                         callback(tag, tag->pos + base, callback_data);
495                         id = swf_GetU16(tag);
496                     }
497                     if(flags & 4) { // hascolor
498                         if(num==1) swf_GetRGB(tag, NULL);
499                         else       swf_GetRGBA(tag, NULL);
500                     }
501                     if(flags & 2) { //has x offset
502                         swf_ResetReadBits(tag);
503                         swf_GetU16(tag);
504                     }
505                     if(flags & 1) { //has y offset
506                         swf_ResetReadBits(tag);
507                         swf_GetU16(tag);
508                     }
509                     if(flags & 8) { //has height
510                         swf_ResetReadBits(tag);
511                         swf_GetU16(tag);
512                     }
513                 } else { // glyph record
514                     int t;
515                     swf_ResetReadBits(tag);
516                     for(t=0;t<flags;t++) {
517                         swf_GetBits(tag, glyphbits);
518                         swf_GetBits(tag, advancebits);
519                     }
520                 }
521             }
522             break;
523         }
524         case ST_DEFINEFONTINFO:
525             callback(tag, tag->pos + base, callback_data);
526         break;
527
528         case ST_DEFINESHAPE3: // these thingies might have bitmap ids in their fillstyles
529         num++; //fallthrough
530         case ST_DEFINESHAPE2:
531         num++; //fallthrough
532         case ST_DEFINESHAPE: {
533             int fillbits;
534             int linebits;
535             int id; 
536             id = swf_GetU16(tag); // id;
537             swf_GetRect(tag, NULL); // bounds
538     
539             DEBUG_ENUMERATE printf("Tag:%d Name:%s ID:%d\n", tag->id, swf_TagGetName(tag), id);
540
541             enumerateUsedIDs_styles(tag, callback, callback_data, num);
542             DEBUG_ENUMERATE printf("-------\n");
543             fillbits = swf_GetBits(tag, 4);
544             linebits = swf_GetBits(tag, 4);
545             DEBUG_ENUMERATE printf("%d %d\n", fillbits, linebits);
546             swf_ResetReadBits(tag);
547             while(1) {
548                 int flags;
549                 flags = swf_GetBits(tag, 1);
550                 if(!flags) { //style change
551                     flags = swf_GetBits(tag, 5);
552                     if(!flags)
553                         break;
554                     if(flags&1) { //move
555                         int n = swf_GetBits(tag, 5); 
556                         int x,y;
557                         x = swf_GetBits(tag, n); //x
558                         y = swf_GetBits(tag, n); //y
559                         DEBUG_ENUMERATE printf("move %f %f\n",x/20.0,y/20.0);
560                     }
561                     if(flags&2) { //fill0
562                         int fill0;
563                         fill0 = swf_GetBits(tag, fillbits); 
564                         DEBUG_ENUMERATE printf("fill0 %d\n", fill0);
565                     }
566                     if(flags&4) { //fill1
567                         int fill1;
568                         fill1 = swf_GetBits(tag, fillbits); 
569                         DEBUG_ENUMERATE printf("fill1 %d\n", fill1);
570                     }
571                     if(flags&8) { //linestyle
572                         int line;
573                         line = swf_GetBits(tag, linebits); 
574                         DEBUG_ENUMERATE printf("linestyle %d\n",line);
575                     }
576                     if(flags&16) {
577                         DEBUG_ENUMERATE printf("more fillstyles\n");
578                         enumerateUsedIDs_styles(tag, callback, callback_data, num);
579                         fillbits = swf_GetBits(tag, 4);
580                         linebits = swf_GetBits(tag, 4);
581                     }
582                 } else {
583                     flags = swf_GetBits(tag, 1);
584                     if(flags) { //straight edge
585                         int n = swf_GetBits(tag, 4) + 2;
586                         if(swf_GetBits(tag, 1)) { //line flag
587                             int x,y;
588                             x = swf_GetSBits(tag, n); //delta x
589                             y = swf_GetSBits(tag, n); //delta y
590                             DEBUG_ENUMERATE printf("line %f %f\n",x/20.0,y/20.0);
591                         } else {
592                             int v=swf_GetBits(tag, 1);
593                             int d;
594                             d = swf_GetSBits(tag, n); //vert/horz
595                             DEBUG_ENUMERATE printf("%s %f\n",v?"vertical":"horizontal", d/20.0);
596                         }
597                     } else { //curved edge
598                         int n = swf_GetBits(tag, 4) + 2;
599                         int x1,y1,x2,y2;
600                         x1 = swf_GetSBits(tag, n);
601                         y1 = swf_GetSBits(tag, n);
602                         x2 = swf_GetSBits(tag, n);
603                         y2 = swf_GetSBits(tag, n);
604                         DEBUG_ENUMERATE printf("curve %f %f %f %f\n", x1/20.0, y1/20.0, x2/20.0, y2/20.0);
605                     }
606                 }
607             }
608         }
609         break;
610         default:
611         break;
612     }
613 }
614
615 void callbackCount(TAG * t,int pos, void*ptr)
616 {
617     (*(int*)ptr)++;
618     DEBUG_ENUMERATE printf("callback(%d) %d\n", pos, *(U16*)&t->data[pos]);
619 }
620
621 void callbackFillin(TAG * t,int pos, void*ptr)
622 {
623     **(int**)ptr = pos;
624     (*(int**)ptr)++;
625     DEBUG_ENUMERATE printf("callback(%d) %d\n", pos, *(U16*)&t->data[pos]);
626 }
627
628 int swf_GetNumUsedIDs(TAG * t)
629 {
630     int num = 0;
631     enumerateUsedIDs(t, 0, callbackCount, &num);
632     return num;
633 }
634
635 void swf_GetUsedIDs(TAG * t, int * positions)
636 {
637     int * ptr = positions;
638     enumerateUsedIDs(t, 0, callbackFillin, &ptr);
639 }
640
641 void swf_Relocate (SWF*swf, char*bitmap)
642 {
643     TAG*tag;
644     int slaveids[65536];
645     memset(slaveids, -1, sizeof(slaveids));
646     tag = swf->firstTag;
647     while(tag)
648     {
649         int num; 
650         int *ptr;
651         int t;
652
653         if(swf_isDefiningTag(tag))
654         {
655             int newid;
656             int id;
657             
658             id = swf_GetDefineID(tag); //own id
659
660             if(!bitmap[id]) { //free
661                 newid = id;
662             }
663             else {
664                 newid = 0;
665                 for (t=1;t<65536;t++)
666                 {
667                     if(!bitmap[t])
668                     {
669                         newid = t;
670                         break;
671                     }
672                 }
673             }
674             bitmap[newid] = 1;
675             slaveids[id] = newid;
676
677             swf_SetDefineID(tag, newid);
678         } 
679         
680         num = swf_GetNumUsedIDs(tag);
681         ptr = malloc(sizeof(int)*num);
682         swf_GetUsedIDs(tag, ptr);
683
684         for(t=0;t<num;t++) {
685             int id = GET16(&tag->data[ptr[t]]);
686             if(slaveids[id]<0) {
687                 fprintf(stderr, "swf_Relocate: Mapping id never encountered before: %d\n", id);
688                 return ;
689             }
690             id = slaveids[id];
691             PUT16(&tag->data[ptr[t]], id);
692         }
693         tag=tag->next;
694     }
695 }
696