fixed a wraparound bug for negative bitmap coordinates.
[swftools.git] / src / swfbbox.c
1 /* swfbbox.c
2    Tool for playing around with SWF bounding boxes.
3
4    Part of the swftools package.
5    
6    Copyright (c) 2003 Matthias Kramm <kramm@quiss.org>
7  
8    This program is free software; you can redistribute it and/or modify
9    it under the terms of the GNU General Public License as published by
10    the Free Software Foundation; either version 2 of the License, or
11    (at your option) any later version.
12
13    This program is distributed in the hope that it will be useful,
14    but WITHOUT ANY WARRANTY; without even the implied warranty of
15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16    GNU General Public License for more details.
17
18    You should have received a copy of the GNU General Public License
19    along with this program; if not, write to the Free Software
20    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
21
22 #include "../config.h"
23 #include <stdio.h>
24 #include <stdarg.h>
25 #include <assert.h>
26 #include <unistd.h>
27 #include <fcntl.h>
28 #include "../lib/rfxswf.h"
29 #include "../lib/args.h"
30 #include "../lib/log.h"
31
32 static char * filename = 0;
33 static char * outfilename = "output.swf";
34 static int optimize = 0;
35 static int swifty = 0;
36 static int verbose = 0;
37 static int showbbox = 0;
38 static int showorigbbox = 1;
39 static int expand = 0;
40 static int clip = 0;
41
42 static struct options_t options[] = {
43 {"h", "help"},
44 {"b", "bbox"},
45 {"B", "newbbox"},
46 {"e", "expand"},
47 {"O", "optimize"},
48 {"S", "swifty"},
49 {"o", "output"},
50 {"v", "verbose"},
51 {"c", "clip"},
52 {"V", "version"},
53 {0,0}
54 };
55
56 int args_callback_option(char*name,char*val)
57 {
58     if(!strcmp(name, "V")) {
59         printf("swfbbox - part of %s %s\n", PACKAGE, VERSION);
60         exit(0);
61     } 
62     else if(!strcmp(name, "b")) {
63         showorigbbox = 2;
64         if(showbbox == 1) showbbox = 0;
65         return 0;
66     } 
67     else if(!strcmp(name, "B")) {
68         showbbox = 2;
69         return 0;
70     } 
71     else if(!strcmp(name, "O")) {
72         optimize = 1;
73         if(showorigbbox == 1) showorigbbox = 0;
74         return 0;
75     } 
76     else if(!strcmp(name, "S")) {
77         swifty = 1;
78         if(showorigbbox == 1) showorigbbox = 0;
79         return 0;
80     } 
81     else if(!strcmp(name, "c")) {
82         if(showorigbbox == 1) showorigbbox = 0;
83         optimize = 1;
84         clip = 1;
85         return 0;
86     } 
87     else if(!strcmp(name, "v")) {
88         verbose ++;
89         return 0;
90     } 
91     else if(!strcmp(name, "q")) {
92         verbose --;
93         return 0;
94     } 
95     else if(!strcmp(name, "e")) {
96         expand = 1;
97         return 0;
98     } 
99     else if(!strcmp(name, "o")) {
100         outfilename = val;
101         return 1;
102     } 
103     else {
104         printf("Unknown option: -%s\n", name);
105         exit(1);
106     }
107
108     return 0;
109 }
110 int args_callback_longoption(char*name,char*val)
111 {
112     return args_long2shortoption(options, name, val);
113 }
114 void args_callback_usage(char *name)
115 {
116     printf("\n");
117     printf("Usage: %s [-OS] file.swf\n", name);
118     printf("\n");
119     printf("-h , --help                    Print help and exit\n");
120     printf("-b , --bbox                    Show movie bounding box (default)\n");
121     printf("-B , --newbbox                 Show recalculated (optimized/expanded) bounding box\n");
122     printf("-e , --expand                  Write out a new file using the recalculated bounding box\n");
123     printf("-O , --optimize                Recalculate bounding boxes\n");
124     printf("-S , --swifty                  Print out transformed bounding boxes\n");
125     printf("-o , --output <filename>       Set output filename to <filename> (for -O)\n");
126     printf("-v , --verbose                 Be more verbose\n");
127     printf("-V , --version                 Print program version and exit\n");
128     printf("\n");
129 }
130 int args_callback_command(char*name,char*val)
131 {
132     if(filename) {
133         fprintf(stderr, "Only one file allowed. You supplied at least two. (%s and %s)\n",
134                  filename, name);
135     }
136     filename = name;
137     return 0;
138 }
139
140 #define swf_ResetReadBits(tag)   if (tag->readBit)  { tag->pos++; tag->readBit = 0; }
141
142 void swf_Shape2Optimize(SHAPE2*shape)
143 {
144     if(!shape->bbox)
145         shape->bbox = malloc(sizeof(SRECT));
146     *(shape->bbox) = swf_GetShapeBoundingBox(shape);
147 }
148
149 /*
150    {char {x1 y1 x2 y2 x3 y3 x4 y4]]
151 */
152
153 SRECT bboxes[65536];
154 U16 depth2id[65536];
155 char*depth2name[65536];
156
157 int hasid(TAG*tag)
158 {
159     if(tag->id == ST_PLACEOBJECT)
160         return 1;
161     if(tag->id == ST_PLACEOBJECT2 && (tag->data[0] & 2))
162         return 1;
163     return 0;
164 }
165
166 int hasname(TAG*tag)
167 {
168     if(tag->id == ST_PLACEOBJECT)
169         return 0;
170     if(tag->id == ST_PLACEOBJECT2 && (tag->data[0] & 0x20))
171         return 1;
172     return 0;
173 }
174
175 char* getname(TAG*tag)
176 {
177     if(tag->id == ST_PLACEOBJECT)
178         return 0;
179     if(tag->id == ST_PLACEOBJECT2 && (tag->data[0] & 0x20)) {
180         SWFPLACEOBJECT o;
181         tag->pos = 0;tag->readBit = 0;
182         swf_GetPlaceObject(tag, &o);
183         return o.name;
184     }
185     return 0;
186 }
187
188 MATRIX getmatrix(TAG*tag)
189 {
190     SWFPLACEOBJECT o;
191     tag->pos = 0;tag->readBit = 0;
192     swf_GetPlaceObject(tag, &o);
193     return o.matrix;
194 }
195
196
197 static int fontnum = -1;
198 static SWFFONT**fonts;
199 static SWF*c_swf;
200 static void fontcallback1(void*self, U16 id,U8 * name)
201 { fontnum++;
202 }
203 static void fontcallback2(void*self, U16 id,U8 * name)
204
205     fonts[fontnum] = 0;
206     swf_FontExtract(c_swf,id,&fonts[fontnum]);
207     if(verbose) {
208         if(fonts[fontnum]) printf("Extracting font %d (%s)\n", id, name);
209         else               printf("Extracting font %d (%s) failed\n", id, name);
210         fflush(stdout);
211     }
212     fontnum++;
213 }
214 typedef struct _textbounds
215 {
216     SRECT r;
217     MATRIX m; // character transform matrix
218 } textbounds_t;
219
220 typedef struct _placement
221 {
222     SWFPLACEOBJECT* po;
223     int num;
224 } placement_t;
225
226 static placement_t* placements;
227
228 static placement_t* readPlacements(SWF*swf)
229 {
230     placement_t* p = (placement_t*)rfx_calloc(sizeof(placement_t)*65536);
231     TAG*tag = swf->firstTag;
232     while(tag) {
233         if(tag->id == ST_PLACEOBJECT || tag->id == ST_PLACEOBJECT2) {
234             SWFPLACEOBJECT*po = rfx_alloc(sizeof(SWFPLACEOBJECT));
235             swf_GetPlaceObject(tag, po);
236             int id = po->id;
237             if(po->move) {
238                 fprintf(stderr, "MOVE tags not supported with -c");
239             }
240             p[id].po = po;
241             p[id].num++;
242         }
243         tag = tag->next;
244     }
245
246     return p;
247 }
248
249 static void freePlacements(placement_t*p)
250 {
251     int t;
252     for(t=0;t<65536;t++) {
253         if(p[t].po) {
254             swf_PlaceObjectFree(p[t].po); p[t].po = 0;
255         }
256     }
257     rfx_free(p);
258 }
259
260 SRECT swf_ClipRect(SRECT border, SRECT r)
261 {
262     if(r.xmax > border.xmax) r.xmax = border.xmax;
263     if(r.ymax > border.ymax) r.ymax = border.ymax;
264     if(r.xmax < border.xmin) r.xmax = border.xmin;
265     if(r.ymax < border.ymin) r.ymax = border.ymin;
266     
267     if(r.xmin > border.xmax) r.xmin = border.xmax;
268     if(r.ymin > border.ymax) r.ymin = border.ymax;
269     if(r.xmin < border.xmin) r.xmin = border.xmin;
270     if(r.ymin < border.ymin) r.ymin = border.ymin;
271     return r;
272 }
273
274 static SRECT clipBBox(TAG*tag, SRECT mbbox, SRECT r)
275 {
276     int id = swf_GetDefineID(tag);
277     MATRIX m;
278     if(!placements[id].po) {
279         if(verbose)
280             printf("Id %d is never set\n", id);
281         return r;
282     }
283     if(placements[id].num>1) {
284         if(verbose)
285             printf("Id %d is set more than once\n", id);
286         return r;
287     }
288     m = placements[id].po->matrix;
289     if(m.r0 || m.r1)  {
290         fprintf(stderr, "Rotating PLACEOBJECTS are not supported with -c\n");
291         return r;
292     }
293
294     printf("ID %d\n", id);
295     swf_DumpMatrix(stdout, &m);
296     mbbox.xmin -= m.tx;
297     mbbox.ymin -= m.ty;
298     mbbox.xmax -= m.tx;
299     mbbox.ymax -= m.ty;
300     mbbox.xmin *= 65536.0/m.sx;
301     mbbox.xmax *= 65536.0/m.sx;
302     mbbox.ymin *= 65536.0/m.sy;
303     mbbox.ymax *= 65536.0/m.sy;
304     
305     printf("border: %f/%f/%f/%f - rect: %f/%f/%f/%f\n",
306             mbbox.xmin /20.0,
307             mbbox.ymin /20.0,
308             mbbox.xmax /20.0,
309             mbbox.ymax /20.0,
310             r.xmin /20.0,
311             r.ymin /20.0,
312             r.xmax /20.0,
313             r.ymax /20.0);
314     
315
316     r = swf_ClipRect(mbbox, r);
317     
318     printf("new rect: %f/%f/%f/%f\n",
319             r.xmin /20.0,
320             r.ymin /20.0,
321             r.xmax /20.0,
322             r.ymax /20.0);
323
324     return r;
325 }
326
327
328 static void textcallback(void*self, int*chars, int*xpos, int nr, int fontid, int fontsize, 
329                     int xstart, int ystart, RGBA* color)
330 {
331     textbounds_t * bounds = (textbounds_t*)self;
332     SWFFONT*font = 0;
333     int t;
334     for(t=0;t<fontnum;t++) {
335         if(fonts[t]->id == fontid) {
336             font = fonts[t];
337             break;
338         }
339     }
340     if(!font) {
341         fprintf(stderr, "Font %d unknown\n", fontid);
342         exit(1);
343     }
344     if(!font->layout) {
345         /* This is an expensive operation- but what should we do, we
346            need the glyph's bounding boxes */
347         swf_FontCreateLayout(font);
348     }
349
350     if(verbose)
351         printf("%d chars, font %d, size %d, at (%d,%d)\n", nr, fontid, fontsize, xstart, ystart);
352
353     for(t=0;t<nr;t++) {
354         /* not tested yet- the matrix/fontsize calculation is probably all wrong */
355         int x = xstart + xpos[t];
356         int y = ystart;
357         int ch;
358         SRECT newglyphbbox, glyphbbox = font->layout->bounds[chars[t]];
359         MATRIX m = bounds->m;
360         SPOINT p;
361
362         if(chars[t] < font->numchars && font->glyph2ascii) {
363             ch = font->glyph2ascii[chars[t]];
364         }
365
366         p.x = x; p.y = y;
367         p = swf_TurnPoint(p, &m);
368
369         m.sx = (m.sx * fontsize) / 1024;
370         m.sy = (m.sy * fontsize) / 1024;
371         m.r0 = (m.r0 * fontsize) / 1024;
372         m.r1 = (m.r1 * fontsize) / 1024;
373
374         m.tx += p.x;
375         m.ty += p.y;
376         newglyphbbox = swf_TurnRect(glyphbbox, &m);
377
378         if(ch<32) ch='?';
379             
380         swf_ExpandRect2(&(bounds->r), &newglyphbbox);
381         if(verbose >= 2) {
382             printf("%5d %c, %d %d %d %d (%d %d %d %d) -> %d %d %d %d\n", 
383                 xpos[t], ch, 
384                 glyphbbox.xmin, glyphbbox.ymin, glyphbbox.xmax, glyphbbox.ymax,
385                 newglyphbbox.xmin, newglyphbbox.ymin, newglyphbbox.xmax, newglyphbbox.ymax,
386                 bounds->r.xmin, bounds->r.ymin, bounds->r.xmax, bounds->r.ymax);
387         }
388
389     }
390 }
391
392 static void swf_OptimizeBoundingBoxes(SWF*swf)
393 {
394     TAG* tag = swf->firstTag;
395     
396     while (tag) {
397         if (tag->id == ST_DEFINESHAPE ||
398             tag->id == ST_DEFINESHAPE2 ||
399             tag->id == ST_DEFINESHAPE3) {
400             SHAPE2 s;
401             if(verbose) printf("%s\n", swf_TagGetName(tag));
402             swf_ParseDefineShape(tag, &s);
403             swf_Shape2Optimize(&s);
404             tag->len = 2;
405             tag->pos = 0;
406             if(!s.bbox) {
407                 fprintf(stderr, "Internal error (5)\n");
408                 exit(1);
409             }
410             if(clip) {
411                 *s.bbox = clipBBox(tag, swf->movieSize, *s.bbox);
412             }
413             swf_SetShape2(tag, &s);
414         }
415         if (tag->id == ST_DEFINETEXT || tag->id == ST_DEFINETEXT2) {
416             SRECT oldbox;
417             int matrix_offset;
418             int len;
419             U8*data;
420             textbounds_t bounds;
421             if(verbose) printf("%s\n", swf_TagGetName(tag));
422             if(fontnum < 0) {
423                 if(verbose) printf("Extracting fonts...\n");
424                 c_swf = swf;
425                 fontnum = 0;
426                 swf_FontEnumerate(swf,&fontcallback1,0);
427                 fonts = (SWFFONT**)malloc(fontnum*sizeof(SWFFONT*));
428                 memset(fonts, 0, fontnum*sizeof(SWFFONT*));
429                 fontnum = 0;
430                 swf_FontEnumerate(swf,&fontcallback2,0);
431             }
432
433             memset(&bounds, 0, sizeof(bounds));
434
435             swf_SetTagPos(tag, 0);
436             swf_GetU16(tag);
437             swf_GetRect(tag,&oldbox);
438             swf_ResetReadBits(tag);
439             matrix_offset = tag->pos;
440             swf_GetMatrix(tag,&bounds.m);
441             swf_ParseDefineText(tag, textcallback, &bounds);
442             if(verbose) {
443                 printf("\n");
444                 swf_DumpMatrix(stdout, &bounds.m);
445                 printf("old: %d %d %d %d\n", oldbox.xmin, oldbox.ymin, oldbox.xmax, oldbox.ymax);
446                 printf("new: %d %d %d %d\n", bounds.r.xmin, bounds.r.ymin, bounds.r.xmax, bounds.r.ymax);
447             }
448             if(clip) {
449                 bounds.r = clipBBox(tag, swf->movieSize, bounds.r);
450             }
451             
452             /* now comes the tricky part: 
453                we have to fiddle the data back in 
454                thank heavens that the bbox is follow by a matrix
455                struct, which always starts on a byte boundary.
456              */
457             len = tag->len - matrix_offset;
458             data = malloc(len);
459             memcpy(data, &tag->data[matrix_offset], len);
460             tag->writeBit = 0;
461             tag->len = 2;
462             swf_SetRect(tag, &bounds.r);
463             swf_SetBlock(tag, data, len);
464             free(data);
465             tag->pos = tag->readBit = 0;
466         }
467         tag = tag->next;
468     }
469 }
470
471 static void showSwiftyOutput(SWF*swf) 
472 {
473     TAG*tag = swf->firstTag;
474     int frame=0;
475     printf("{\n\t{frame %d}\n", frame++);
476
477     while (tag) {
478         if (tag->id == ST_SHOWFRAME) {
479             printf("}\n{\n\t{frame %d}\n", frame++);
480         }
481         if (tag->id == ST_PLACEOBJECT || tag->id == ST_PLACEOBJECT2) {
482             if(hasid(tag)) {
483                 depth2id[swf_GetDepth(tag)] = swf_GetPlaceID(tag);
484             }
485             if(hasname(tag)) {
486                 depth2name[swf_GetDepth(tag)] = getname(tag);
487             }
488         }
489         if (tag->id == ST_PLACEOBJECT || tag->id == ST_PLACEOBJECT2) {
490             MATRIX m = getmatrix(tag);
491             U16 id = depth2id[swf_GetDepth(tag)];
492             char*name = depth2name[swf_GetDepth(tag)];
493             char buf[40];
494             SRECT bbox = bboxes[id];
495             SPOINT p1,p2,p3,p4;
496             p1.x = bbox.xmin; p1.y = bbox.ymin;
497             p2.x = bbox.xmax; p2.y = bbox.ymin;
498             p3.x = bbox.xmin; p3.y = bbox.ymax;
499             p4.x = bbox.xmax; p4.y = bbox.ymax;
500             p1 = swf_TurnPoint(p1, &m);
501             p2 = swf_TurnPoint(p2, &m);
502             p3 = swf_TurnPoint(p3, &m);
503             p4 = swf_TurnPoint(p4, &m);
504             if(!name) {
505                 sprintf(buf, "ID%d", id);name = buf;
506             }
507             //printf("\t#%.4f %.4f %.4f %.4f | %.4f %.4f\n", m.sx/65536.0, m.r1/65536.0, m.r0/65536.0, m.sy/65536.0, m.tx/20.0, m.ty/20.0);
508             printf("\t{%s {%.2f %.2f %.2f %.2f %.2f %.2f %.2f %.2f}}\n", name, 
509                     p1.x/20.0, p1.y/20.0, p2.x/20.0, p2.y/20.0,
510                     p3.x/20.0, p3.y/20.0, p4.x/20.0, p4.y/20.0);
511         }
512         tag = tag->next;
513     }
514     printf("}\n");
515 }
516 static SRECT getMovieClipBBox(TAG*tag) 
517 {
518     //TAG*tag = swf->firstTag;
519     int frame=0;
520     SRECT movieSize;
521     U16 depth2id[65536];
522     memset(depth2id, 0, sizeof(depth2id));
523
524     memset(&movieSize,0,sizeof(SRECT));
525
526     while (tag->id != ST_END) {
527         if (tag->id == ST_PLACEOBJECT || tag->id == ST_PLACEOBJECT2) {
528             if(hasid(tag)) {
529                 depth2id[swf_GetDepth(tag)] = swf_GetPlaceID(tag);
530             }
531         }
532         if (tag->id == ST_PLACEOBJECT || tag->id == ST_PLACEOBJECT2) {
533             MATRIX m = getmatrix(tag);
534             U16 id = depth2id[swf_GetDepth(tag)];
535             SRECT bbox = bboxes[id];
536             
537             SRECT tbbox = swf_TurnRect(bbox, &m);
538             swf_ExpandRect2(&movieSize, &tbbox);
539         }
540         tag = tag->next;
541     }
542     return movieSize;
543 }
544
545 static SRECT getSWFBBox(SWF*swf)
546 {
547     SRECT movieSize = getMovieClipBBox(swf->firstTag);
548     
549     return movieSize;
550 }
551
552 int main (int argc,char ** argv)
553
554     TAG*tag;
555     SWF swf;
556     int fi;
557     SRECT oldMovieSize;
558     SRECT newMovieSize;
559     memset(bboxes, 0, sizeof(bboxes));
560     memset(depth2name, 0, sizeof(depth2name));
561
562     processargs(argc, argv);
563     initLog(0,0,0,0,0,verbose?LOGLEVEL_DEBUG:LOGLEVEL_WARNING);
564
565     if(!filename) {
566         fprintf(stderr, "You must supply a filename.\n");
567         return 1;
568     }
569
570     fi = open(filename,O_RDONLY|O_BINARY);
571
572     if (fi<0)
573     { 
574         perror("Couldn't open file: ");
575         exit(1);
576     }
577     if FAILED(swf_ReadSWF(fi,&swf))
578     { 
579         fprintf(stderr, "%s is not a valid SWF file or contains errors.\n",filename);
580         close(fi);
581         exit(1);
582     }
583     close(fi);
584
585     swf_OptimizeTagOrder(&swf);
586
587     if(clip) {
588         placements = readPlacements(&swf);
589     }
590
591     swf_FoldAll(&swf);
592
593     /* Optimize bounding boxes in case -O flag was set */
594     if(optimize) {
595         swf_OptimizeBoundingBoxes(&swf);
596     }
597     
598     /* Create an ID to Bounding Box table */
599     tag = swf.firstTag;
600     while (tag) {
601         if(swf_isDefiningTag(tag)) {
602             int id = swf_GetDefineID(tag);
603             if(tag->id != ST_DEFINESPRITE) {
604                 bboxes[id] = swf_GetDefineBBox(tag);
605             } else {
606                 swf_UnFoldSprite(tag);
607                 bboxes[id] = getMovieClipBBox(tag);
608                 swf_FoldSprite(tag);
609                 if(verbose) {
610                     printf("sprite %d is %.2fx%.2f\n", id, 
611                             (bboxes[id].xmax - bboxes[id].xmin)/20.0,
612                             (bboxes[id].ymax - bboxes[id].ymin)/20.0);
613                 }
614             }
615         }
616         tag = tag->next;
617     }
618     
619     /* Create an ID->Bounding Box table for all bounding boxes */
620     if(swifty) {
621         showSwiftyOutput(&swf);
622     }
623
624     oldMovieSize = swf.movieSize;
625     newMovieSize = getSWFBBox(&swf);
626
627     if(optimize || expand) {
628
629         if(expand)
630             swf.movieSize = newMovieSize;
631
632         fi = open(outfilename, O_BINARY | O_RDWR | O_CREAT | O_TRUNC, 0666);
633         if(swf_WriteSWF(fi, &swf) < 0) {
634             fprintf(stderr, "Error writing file %s", outfilename);
635             close(fi);
636             exit(1);
637         }
638         close(fi);
639     }
640     
641     if(showbbox) {
642         if(verbose>=0)
643             printf("Real Movie Size: ");
644         printf("%.2f x %.2f :%.2f :%.2f\n", 
645                 (newMovieSize.xmax-newMovieSize.xmin)/20.0,
646                 (newMovieSize.ymax-newMovieSize.ymin)/20.0,
647                 (newMovieSize.xmin)/20.0,
648                 (newMovieSize.ymin)/20.0
649                 );
650     }
651     if(showorigbbox) {
652         if(verbose>=0)
653             printf("Original Movie Size: ");
654         printf("%.2f x %.2f :%.2f :%.2f\n", 
655                 (oldMovieSize.xmax-oldMovieSize.xmin)/20.0,
656                 (oldMovieSize.ymax-oldMovieSize.ymin)/20.0,
657                 (oldMovieSize.xmin)/20.0,
658                 (oldMovieSize.ymin)/20.0
659                 );
660     }
661
662     swf_FreeTags(&swf);
663
664     if(placements) {
665         freePlacements(placements);
666     }
667     return 0;
668 }