Brought up to date
[swftools.git] / src / swfbbox.c
1 /* swfbbox.c
2    Tool for playing around with SWF bounding boxes.
3
4    Part of the swftools package.
5    
6    Copyright (c) 2003 Matthias Kramm <kramm@quiss.org>
7  
8    This program is free software; you can redistribute it and/or modify
9    it under the terms of the GNU General Public License as published by
10    the Free Software Foundation; either version 2 of the License, or
11    (at your option) any later version.
12
13    This program is distributed in the hope that it will be useful,
14    but WITHOUT ANY WARRANTY; without even the implied warranty of
15    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16    GNU General Public License for more details.
17
18    You should have received a copy of the GNU General Public License
19    along with this program; if not, write to the Free Software
20    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
21
22 #include "../config.h"
23 #include <stdio.h>
24 #include <stdarg.h>
25 #include <assert.h>
26 #include <unistd.h>
27 #include <fcntl.h>
28 #include "../lib/rfxswf.h"
29 #include "../lib/args.h"
30 #include "../lib/log.h"
31
32 static char * filename = 0;
33 static char * outfilename = "output.swf";
34 static int optimize = 0;
35 static int swifty = 0;
36 static int verbose = 0;
37
38 static struct options_t options[] = {
39 {"h", "help"},
40 {"O", "optimize"},
41 {"S", "swifty"},
42 {"o", "output"},
43 {"v", "verbose"},
44 {"V", "version"},
45 {0,0}
46 };
47
48 int args_callback_option(char*name,char*val)
49 {
50     if(!strcmp(name, "V")) {
51         printf("swfbbox - part of %s %s\n", PACKAGE, VERSION);
52         exit(0);
53     } 
54     else if(!strcmp(name, "O")) {
55         optimize = 1;
56         return 0;
57     } 
58     else if(!strcmp(name, "S")) {
59         swifty = 1;
60         return 0;
61     } 
62     else if(!strcmp(name, "v")) {
63         verbose ++;
64         return 0;
65     } 
66     else if(!strcmp(name, "o")) {
67         outfilename = val;
68         return 1;
69     } 
70     else {
71         printf("Unknown option: -%s\n", name);
72         exit(1);
73     }
74
75     return 0;
76 }
77 int args_callback_longoption(char*name,char*val)
78 {
79     return args_long2shortoption(options, name, val);
80 }
81 void args_callback_usage(char *name)
82 {
83     printf("\n");
84     printf("Usage: %s [-OS] file.swf\n", name);
85     printf("\n");
86     printf("-h , --help                    Print help and exit\n");
87     printf("-O , --optimize                Recalculate bounding boxes\n");
88     printf("-S , --swifty                  Print out transformed bounding boxes\n");
89     printf("-o , --output <filename>       Set output filename to <filename> (for -O)\n");
90     printf("-v , --verbose                 Be more verbose\n");
91     printf("-V , --version                 Print program version and exit\n");
92     printf("\n");
93 }
94 int args_callback_command(char*name,char*val)
95 {
96     if(filename) {
97         fprintf(stderr, "Only one file allowed. You supplied at least two. (%s and %s)\n",
98                  filename, name);
99     }
100     filename = name;
101     return 0;
102 }
103
104 #define swf_ResetReadBits(tag)   if (tag->readBit)  { tag->pos++; tag->readBit = 0; }
105
106 void swf_Shape2Optimize(SHAPE2*shape)
107 {
108     if(!shape->bbox)
109         shape->bbox = malloc(sizeof(SRECT));
110     *(shape->bbox) = swf_GetShapeBoundingBox(shape);
111 }
112
113 /*
114    {char {x1 y1 x2 y2 x3 y3 x4 y4]]
115 */
116
117 SRECT bboxes[65536];
118 U16 depth2id[65536];
119 char*depth2name[65536];
120
121 int hasid(TAG*tag)
122 {
123     if(tag->id == ST_PLACEOBJECT)
124         return 1;
125     if(tag->id == ST_PLACEOBJECT2 && (tag->data[0] & 2))
126         return 1;
127     return 0;
128 }
129
130 int hasname(TAG*tag)
131 {
132     if(tag->id == ST_PLACEOBJECT)
133         return 0;
134     if(tag->id == ST_PLACEOBJECT2 && (tag->data[0] & 0x20))
135         return 1;
136     return 0;
137 }
138
139 char* getname(TAG*tag)
140 {
141     if(tag->id == ST_PLACEOBJECT)
142         return 0;
143     if(tag->id == ST_PLACEOBJECT2 && (tag->data[0] & 0x20)) {
144         SWFPLACEOBJECT o;
145         tag->pos = 0;tag->readBit = 0;
146         swf_GetPlaceObject(tag, &o);
147         return o.name;
148     }
149     return 0;
150 }
151
152 MATRIX getmatrix(TAG*tag)
153 {
154     SWFPLACEOBJECT o;
155     tag->pos = 0;tag->readBit = 0;
156     swf_GetPlaceObject(tag, &o);
157     return o.matrix;
158 }
159
160
161 static int fontnum = -1;
162 static SWFFONT**fonts;
163 static SWF*c_swf;
164 static void fontcallback1(U16 id,U8 * name)
165 { fontnum++;
166 }
167 static void fontcallback2(U16 id,U8 * name)
168
169     fonts[fontnum] = 0;
170     swf_FontExtract(c_swf,id,&fonts[fontnum]);
171     if(verbose) {
172         if(fonts[fontnum]) printf("Extracting font %d (%s)\n", id, name);
173         else               printf("Extracting font %d (%s) failed\n", id, name);
174         fflush(stdout);
175     }
176     fontnum++;
177 }
178 typedef struct _textbounds
179 {
180     SRECT r;
181     MATRIX m; // character transform matrix
182 } textbounds_t;
183
184 static void textcallback(void*self, int*chars, int*xpos, int nr, int fontid, int fontsize, 
185                     int xstart, int ystart, RGBA* color)
186 {
187     textbounds_t * bounds = (textbounds_t*)self;
188     SWFFONT*font = 0;
189     int t;
190     for(t=0;t<fontnum;t++) {
191         if(fonts[t]->id == fontid) {
192             font = fonts[t];
193             break;
194         }
195     }
196     if(!font) {
197         fprintf(stderr, "Font %d unknown\n", fontid);
198         exit(1);
199     }
200     if(!font->layout) {
201         /* This is an expensive operation- but what should we do, we
202            need the glyph's bounding boxes */
203         swf_FontCreateLayout(font);
204     }
205
206     if(verbose)
207         printf("%d chars, font %d, size %d, at (%d,%d)\n", nr, fontid, fontsize, xstart, ystart);
208
209     for(t=0;t<nr;t++) {
210         /* not tested yet- the matrix/fontsize calculation is probably all wrong */
211         int x = xstart + xpos[t];
212         int y = ystart;
213         int ch;
214         SRECT newglyphbbox, glyphbbox = font->layout->bounds[chars[t]];
215         MATRIX m = bounds->m;
216         
217         if(ch < font->numchars && font->glyph2ascii) {
218             ch = font->glyph2ascii[ch];
219         }
220
221         m.sx = (m.sx * fontsize) / 1024;
222         m.sy = (m.sy * fontsize) / 1024;
223         m.r0 = (m.r0 * fontsize) / 1024;
224         m.r1 = (m.r1 * fontsize) / 1024;
225
226         m.tx += x;
227         m.ty += y;
228         newglyphbbox = swf_TurnRect(glyphbbox, &m);
229
230         if(ch<32) ch='?';
231             
232         swf_ExpandRect2(&(bounds->r), &newglyphbbox);
233         if(verbose >= 2) {
234             printf("%5d %c, %d %d %d %d (%d %d %d %d) -> %d %d %d %d\n", 
235                 xpos[t], ch, 
236                 glyphbbox.xmin, glyphbbox.ymin, glyphbbox.xmax, glyphbbox.ymax,
237                 newglyphbbox.xmin, newglyphbbox.ymin, newglyphbbox.xmax, newglyphbbox.ymax,
238                 bounds->r.xmin, bounds->r.ymin, bounds->r.xmax, bounds->r.ymax);
239         }
240
241     }
242 }
243
244 static void swf_OptimizeBoundingBoxes(SWF*swf)
245 {
246     TAG* tag = swf->firstTag;
247     
248     while (tag) {
249         if (tag->id == ST_DEFINESHAPE ||
250             tag->id == ST_DEFINESHAPE2 ||
251             tag->id == ST_DEFINESHAPE3) {
252             SHAPE2 s;
253             if(verbose) printf("%s\n", swf_TagGetName(tag));
254             swf_ParseDefineShape(tag, &s);
255             swf_Shape2Optimize(&s);
256             tag->len = 2;
257             tag->pos = 0;
258             swf_SetShape2(tag, &s);
259         }
260         if (tag->id == ST_DEFINETEXT || tag->id == ST_DEFINETEXT2) {
261             SRECT oldbox;
262             int matrix_offset;
263             int len;
264             U8*data;
265             textbounds_t bounds;
266             if(verbose) printf("%s\n", swf_TagGetName(tag));
267             if(fontnum < 0) {
268                 if(verbose) printf("Extracting fonts...\n");
269                 c_swf = swf;
270                 fontnum = 0;
271                 swf_FontEnumerate(swf,&fontcallback1);
272                 fonts = (SWFFONT**)malloc(fontnum*sizeof(SWFFONT*));
273                 memset(fonts, 0, fontnum*sizeof(SWFFONT*));
274                 fontnum = 0;
275                 swf_FontEnumerate(swf,&fontcallback2);
276             }
277
278             memset(&bounds, 0, sizeof(bounds));
279
280             swf_SetTagPos(tag, 0);
281             swf_GetU16(tag);
282             swf_GetRect(tag,&oldbox);
283             swf_ResetReadBits(tag);
284             matrix_offset = tag->pos;
285             swf_GetMatrix(tag,&bounds.m);
286             swf_ParseDefineText(tag, textcallback, &bounds);
287             if(verbose) {
288                 printf("\n");
289                 swf_DumpMatrix(stdout, &bounds.m);
290                 printf("old: %d %d %d %d\n", oldbox.xmin, oldbox.ymin, oldbox.xmax, oldbox.ymax);
291                 printf("new: %d %d %d %d\n", bounds.r.xmin, bounds.r.ymin, bounds.r.xmax, bounds.r.ymax);
292             }
293             
294             /* now comes the tricky part: 
295                we have to fiddle the data back in 
296                thank heavens that the bbox is follow by a matrix
297                struct, which always starts on a byte boundary.
298              */
299             len = tag->len - matrix_offset;
300             data = malloc(len);
301             memcpy(data, &tag->data[matrix_offset], len);
302             tag->writeBit = 0;
303             tag->len = 2;
304             swf_SetRect(tag, &bounds.r);
305             swf_SetBlock(tag, data, len);
306             free(data);
307             tag->pos = tag->readBit = 0;
308         }
309         tag = tag->next;
310     }
311 }
312
313 static void showSwiftyOutput(SWF*swf) 
314 {
315     TAG*tag = swf->firstTag;
316     int frame=0;
317     printf("{\n\t{frame %d}\n", frame++);
318
319     while (tag) {
320         if (tag->id == ST_SHOWFRAME) {
321             printf("}\n{\n\t{frame %d}\n", frame++);
322         }
323         if (tag->id == ST_PLACEOBJECT || tag->id == ST_PLACEOBJECT2) {
324             if(hasid(tag)) {
325                 depth2id[swf_GetDepth(tag)] = swf_GetPlaceID(tag);
326             }
327             if(hasname(tag)) {
328                 depth2name[swf_GetDepth(tag)] = getname(tag);
329             }
330         }
331         if (tag->id == ST_PLACEOBJECT || tag->id == ST_PLACEOBJECT2) {
332             MATRIX m = getmatrix(tag);
333             U16 id = depth2id[swf_GetDepth(tag)];
334             char*name = depth2name[swf_GetDepth(tag)];
335             char buf[40];
336             SRECT bbox = bboxes[id];
337             SPOINT p1,p2,p3,p4;
338             p1.x = bbox.xmin; p1.y = bbox.ymin;
339             p2.x = bbox.xmax; p2.y = bbox.ymin;
340             p3.x = bbox.xmin; p3.y = bbox.ymax;
341             p4.x = bbox.xmax; p4.y = bbox.ymax;
342             p1 = swf_TurnPoint(p1, &m);
343             p2 = swf_TurnPoint(p2, &m);
344             p3 = swf_TurnPoint(p3, &m);
345             p4 = swf_TurnPoint(p4, &m);
346             if(!name) {
347                 sprintf(buf, "ID%d", id);name = buf;
348             }
349             //printf("\t#%.4f %.4f %.4f %.4f | %.4f %.4f\n", m.sx/65536.0, m.r1/65536.0, m.r0/65536.0, m.sy/65536.0, m.tx/20.0, m.ty/20.0);
350             printf("\t{%s {%.2f %.2f %.2f %.2f %.2f %.2f %.2f %.2f}}\n", name, 
351                     p1.x/20.0, p1.y/20.0, p2.x/20.0, p2.y/20.0,
352                     p3.x/20.0, p3.y/20.0, p4.x/20.0, p4.y/20.0);
353         }
354         tag = tag->next;
355     }
356     printf("}\n");
357 }
358
359     
360 int main (int argc,char ** argv)
361
362     TAG*tag;
363     SWF swf;
364     int fi;
365     memset(bboxes, 0, sizeof(bboxes));
366     memset(depth2name, 0, sizeof(depth2name));
367
368     processargs(argc, argv);
369     initLog(0,0,0,0,0,verbose?LOGLEVEL_DEBUG:LOGLEVEL_WARNING);
370
371     if(!filename) {
372         fprintf(stderr, "You must supply a filename.\n");
373         return 1;
374     }
375
376     fi = open(filename,O_RDONLY|O_BINARY);
377
378     if (fi<0)
379     { 
380         perror("Couldn't open file: ");
381         exit(1);
382     }
383     if FAILED(swf_ReadSWF(fi,&swf))
384     { 
385         fprintf(stderr, "%s is not a valid SWF file or contains errors.\n",filename);
386         close(fi);
387         exit(1);
388     }
389     close(fi);
390
391     swf_OptimizeTagOrder(&swf);
392     swf_FoldAll(&swf);
393
394     /* Optimize bounding boxes in case -O flag was set */
395     if(optimize) {
396         swf_OptimizeBoundingBoxes(&swf);
397     }
398     
399     /* Create an ID to Bounding Box table */
400     tag = swf.firstTag;
401     while (tag) {
402         if(swf_isDefiningTag(tag) && tag->id != ST_DEFINESPRITE) {
403             bboxes[swf_GetDefineID(tag)] = swf_GetDefineBBox(tag);
404         }
405         tag = tag->next;
406     }
407     
408     /* Create an ID->Bounding Box table for all bounding boxes */
409     if(swifty) {
410         showSwiftyOutput(&swf);
411     }
412
413     if(optimize) {
414         fi = open(outfilename, O_BINARY | O_RDWR | O_CREAT | O_TRUNC, 0666);
415         if(swf_WriteSWF(fi, &swf) < 0) {
416             fprintf(stderr, "Error writing file %s", outfilename);
417             close(fi);
418             exit(1);
419         }
420         close(fi);
421     }
422
423     swf_FreeTags(&swf);
424     return 0;
425 }