gcc 2.95.* fixes.
[swftools.git] / lib / rfxswf.c
1 /* vi: set sts=2 sw=2 :*/
2 /* rfxswf.c 
3
4    Library for creating and reading SWF files or parts of it.
5    There's a module directory which provides some extended functionality.
6    Most modules are included at the bottom of this file.
7
8    Part of the swftools package.
9
10    Copyright (c) 2000-2003 Rainer Böhme <rfxswf@reflex-studio.de>
11    Copyright (c) 2003 Matthias Kramm <kramm@quiss.org> 
12
13    This program is free software; you can redistribute it and/or modify
14    it under the terms of the GNU General Public License as published by
15    the Free Software Foundation; either version 2 of the License, or
16    (at your option) any later version.
17
18    This program is distributed in the hope that it will be useful,
19    but WITHOUT ANY WARRANTY; without even the implied warranty of
20    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
21    GNU General Public License for more details.
22
23    You should have received a copy of the GNU General Public License
24    along with this program; if not, write to the Free Software
25    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
26
27 #include "rfxswf.h"
28
29 #ifdef HAVE_JPEGLIB
30 #define HAVE_BOOLEAN
31 #include <jpeglib.h>
32 #endif // HAVE_JPEGLIB
33
34 #ifdef HAVE_ZLIB
35 #include <zlib.h>
36 #endif // HAVE_ZLIB
37
38 #ifndef RFXSWF_DISABLESOUND
39 #ifdef HAVE_LAME
40 #include "lame/lame.h"
41 #endif
42 #endif
43
44 #ifdef HAVE_TIME_H
45 #include <time.h>
46 #endif
47
48 #include "./bitio.h"
49 #include "./MD5.h"
50
51 // internal constants
52
53 #define MALLOC_SIZE     128
54 #define INSERT_RFX_TAG
55
56 #define MEMSIZE(l) (((l/MALLOC_SIZE)+1)*MALLOC_SIZE)
57
58
59 // inline wrapper functions
60
61 TAG * swf_NextTag(TAG * t) { return t->next; }
62 TAG * swf_PrevTag(TAG * t) { return t->prev; }
63 U16   swf_GetTagID(TAG * t)    { return t->id; }
64 U32   swf_GetTagLen(TAG * t) { return t->len; }
65 U8*   swf_GetTagLenPtr(TAG * t) { return &(t->data[t->len]); }
66 U32   swf_GetTagPos(TAG * t)   { return t->pos; }
67
68 // Basic Data Access Functions
69
70 #define swf_ResetReadBits(tag)   if (tag->readBit)  { tag->pos++; tag->readBit = 0; }
71 #define swf_ResetWriteBits(tag)  if (tag->writeBit) { tag->writeBit = 0; }
72
73 // for future purpose: avoid high level lib functions to change tagpos/bitpos
74
75 #define swf_SaveTagPos(tag)
76 #define swf_RestoreTagPos(tag)
77
78 void swf_SetTagPos(TAG * t,U32 pos)
79 { swf_ResetReadBits(t);
80   if (pos<=t->len) t->pos = pos;
81   else { 
82 #ifdef DEBUG_RFXSWF
83     fprintf(stderr,"SetTagPos(%d) out of bounds: TagID = %i\n",pos, t->id);
84 #endif
85   }
86 }
87
88 char* swf_GetString(TAG*t)
89 {
90     char* str = ((char*)(&(t)->data[(t)->pos]));
91     while(swf_GetU8(t));
92     return str;
93 }
94
95 U8 swf_GetU8(TAG * t)
96 { swf_ResetReadBits(t);
97   #ifdef DEBUG_RFXSWF
98     if (t->pos>=t->len) 
99     { fprintf(stderr,"GetU8() out of bounds: TagID = %i\n",t->id);
100       return 0;
101     }
102   #endif
103   return t->data[t->pos++];
104 }
105
106 U16 swf_GetU16(TAG * t)
107 { U16 res;
108   swf_ResetReadBits(t);
109   #ifdef DEBUG_RFXSWF
110     if (t->pos>(t->len-2)) 
111     { fprintf(stderr,"GetU16() out of bounds: TagID = %i\n",t->id);
112       return 0;
113     }
114   #endif
115   res = t->data[t->pos] | (t->data[t->pos+1]<<8);
116   t->pos+=2;
117   return res;
118 }
119
120 U32 swf_GetU32(TAG * t)
121 { U32 res;
122   swf_ResetReadBits(t);
123   #ifdef DEBUG_RFXSWF
124     if (t->pos>(t->len-4)) 
125     { fprintf(stderr,"GetU32() out of bounds: TagID = %i\n",t->id);
126       return 0;
127     }
128   #endif
129   res = t->data[t->pos]        | (t->data[t->pos+1]<<8) | 
130        (t->data[t->pos+2]<<16) | (t->data[t->pos+3]<<24);
131   t->pos+=4;
132   return res;
133 }
134
135 int swf_GetBlock(TAG * t,U8 * b,int l)
136 // returns number of bytes written (<=l)
137 // b = NULL -> skip data
138 { swf_ResetReadBits(t);
139   if ((t->len-t->pos)<l) l=t->len-t->pos;
140   if (b && l) memcpy(b,&t->data[t->pos],l);
141   t->pos+=l;
142   return l;
143 }
144
145 int swf_SetBlock(TAG * t,U8 * b,int l)
146 // Appends Block to the end of Tagdata, returns size
147 { U32 newlen = t->len + l;
148   swf_ResetWriteBits(t);
149   if (newlen>t->memsize)
150   { U32  newmem  = MEMSIZE(newlen);  
151     U8 * newdata = (U8*)((t->data)?realloc(t->data,newmem):malloc(newmem));
152     if (!newdata)
153     {
154       #ifdef DEBUG_RFXSWF
155         fprintf(stderr,"Fatal Error: malloc()/realloc() failed (1). (%d bytes)\n", newmem);
156         *(int*)0=0;
157       #endif
158       return 0;
159     }
160     t->memsize = newmem;
161     t->data    = newdata;
162   }
163   if (b) memcpy(&t->data[t->len],b,l);
164   else memset(&t->data[t->len],0x00,l);
165   t->len+=l;
166   return l;
167 }
168
169 int swf_SetU8(TAG * t,U8 v)
170 { swf_ResetWriteBits(t);
171   if ((t->len+1)>t->memsize) return (swf_SetBlock(t,&v,1)==1)?0:-1;
172   t->data[t->len++] = v;
173   return 0;
174 }
175
176 int swf_SetU16(TAG * t,U16 v)
177 { U8 a[2];
178   a[0] = v&0xff;
179   a[1] = v>>8;
180   
181   swf_ResetWriteBits(t);
182   if ((t->len+2)>t->memsize) return (swf_SetBlock(t,a,2)==2)?0:-1;
183   t->data[t->len++] = a[0];
184   t->data[t->len++] = a[1];
185   return 0;
186 }
187
188 int swf_SetU32(TAG * t,U32 v)
189 { U8 a[4];
190   a[0] = v&0xff;        // to ensure correct handling of non-intel byteorder
191   a[1] = (v>>8)&0xff;
192   a[2] = (v>>16)&0xff;
193   a[3] = (v>>24)&0xff;
194   
195   swf_ResetWriteBits(t);
196   if ((t->len+4)>t->memsize) return (swf_SetBlock(t,a,4)==4)?0:-1;
197   t->data[t->len++] = a[0];
198   t->data[t->len++] = a[1];
199   t->data[t->len++] = a[2];
200   t->data[t->len++] = a[3];
201   return 0;
202 }
203
204 U32 swf_GetBits(TAG * t,int nbits)
205 { U32 res = 0;
206   if (!nbits) return 0;
207   if (!t->readBit) t->readBit = 0x80;
208   while (nbits)
209   { res<<=1;
210     if (t->data[t->pos]&t->readBit) res|=1;
211     t->readBit>>=1;
212     nbits--;
213     if (!t->readBit)
214     { if (nbits) t->readBit = 0x80;
215       #ifdef DEBUG_RFXSWF
216       if (t->pos>=t->len) 
217       { fprintf(stderr,"GetBits() out of bounds: TagID = %i\n",t->id);
218         return res;
219       }
220       #endif
221       t->pos++;
222     }
223   }
224   return res;
225 }
226
227 S32 swf_GetSBits(TAG * t,int nbits)
228 { U32 res = swf_GetBits(t,nbits);
229   if (res&(1<<(nbits-1))) res|=(0xffffffff<<nbits);  
230   return (S32)res;
231 }
232
233 U32 reader_GetBits(struct reader_t*reader, int nbits)
234 { return reader_readbits(reader, nbits);
235 }
236 S32 reader_GetSBits(struct reader_t*reader, int nbits)
237 { U32 res = reader_readbits(reader, nbits);
238   if (res&(1<<(nbits-1))) res|=(0xffffffff<<nbits);  
239   return (S32)res;
240 }
241
242 int swf_SetBits(TAG * t,U32 v,int nbits)
243 { U32 bm = 1<<(nbits-1);
244
245   while (nbits)
246   { if (!t->writeBit)
247     { if (FAILED(swf_SetU8(t,0))) return -1;
248       t->writeBit = 0x80;
249     }
250     if (v&bm) t->data[t->len-1] |= t->writeBit;
251     bm>>=1;
252     t->writeBit>>=1;
253     nbits--;
254   }
255   return 0;
256 }
257
258 // Advanced Data Access Functions
259
260 int swf_SetRGB(TAG * t,RGBA * col)
261 { if (!t) return -1;
262   if (col)
263   { swf_SetU8(t,col->r);
264     swf_SetU8(t,col->g);
265     swf_SetU8(t,col->b);
266   } else swf_SetBlock(t,NULL,3);
267   return 0;
268 }
269 void swf_GetRGB(TAG * t, RGBA * col)
270 {
271     RGBA dummy;
272     if(!col)
273         col = &dummy;
274     col->r = swf_GetU8(t);
275     col->g = swf_GetU8(t);
276     col->b = swf_GetU8(t);
277     col->a = 255;
278 }
279
280 int swf_SetRGBA(TAG * t,RGBA * col)
281 { if (!t) return -1;
282   if (col)
283   { swf_SetU8(t,col->r);
284     swf_SetU8(t,col->g);
285     swf_SetU8(t,col->b);
286     swf_SetU8(t,col->a);
287   } else swf_SetBlock(t,NULL,4);
288   return 0;
289 }
290 void swf_GetRGBA(TAG * t, RGBA * col)
291 {
292     RGBA dummy;
293     if(!col)
294         col = &dummy;
295     col->r = swf_GetU8(t);
296     col->g = swf_GetU8(t);
297     col->b = swf_GetU8(t);
298     col->a = swf_GetU8(t);
299 }
300
301 void swf_GetGradient(TAG * tag, GRADIENT * gradient, char alpha)
302 {
303     GRADIENT dummy;
304     int t;
305     if(!tag) {
306       memset(gradient, 0, sizeof(GRADIENT));
307       return;
308     }
309     if(!gradient)
310         gradient = &dummy;
311     gradient->num = swf_GetU8(tag);
312     for(t=0;t<gradient->num;t++)
313     {
314         int s=t;
315         if(s>=8) //FIXME
316             s=7;
317         gradient->ratios[t] = swf_GetU8(tag);
318         if(!alpha)
319             swf_GetRGB(tag, &gradient->rgba[t]);
320         else
321             swf_GetRGBA(tag, &gradient->rgba[t]);
322     }
323 }
324
325 void swf_SetGradient(TAG * tag, GRADIENT * gradient, char alpha)
326 {
327     int t;
328     if(!tag) {
329       memset(gradient, 0, sizeof(GRADIENT));
330       return;
331     }
332     swf_SetU8(tag, gradient->num);
333     for(t=0; t<8 && t<gradient->num; t++)
334     {
335         swf_SetU8(tag, gradient->ratios[t]);
336         if(!alpha)
337             swf_SetRGB(tag, &gradient->rgba[t]);
338         else
339             swf_SetRGBA(tag, &gradient->rgba[t]);
340     }
341 }
342
343 int swf_CountUBits(U32 v,int nbits)
344 { int n = 32;
345   U32 m = 0x80000000;
346   if(v == 0x00000000) n = 0; 
347   else
348     while (!(v&m))
349     { n--;
350       m>>=1;
351     } 
352   return (n>nbits)?n:nbits;
353 }
354
355 int swf_CountBits(U32 v,int nbits)
356 { int n = 33;
357   U32 m = 0x80000000;
358   if (v&m)
359   { if(v == 0xffffffff) n = 1;
360     else 
361     while (v&m)
362     { n--;
363       m>>=1;
364     } 
365   }
366   else
367   { if(v == 0x00000000) n = 0; 
368     else
369     while (!(v&m))
370     { n--;
371       m>>=1;
372     } 
373   }
374   return (n>nbits)?n:nbits;
375 }
376
377 int swf_GetRect(TAG * t,SRECT * r)
378 { int nbits;
379   SRECT dummy;
380   if(!t) {r->xmin=r->xmax=r->ymin=r->ymax=0;return 0;}
381   if (!r) r = &dummy;
382   nbits = (int) swf_GetBits(t,5);
383   r->xmin = swf_GetSBits(t,nbits);
384   r->xmax = swf_GetSBits(t,nbits);
385   r->ymin = swf_GetSBits(t,nbits);
386   r->ymax = swf_GetSBits(t,nbits);
387   return 0;
388 }
389
390 int reader_GetRect(struct reader_t*reader,SRECT * r)
391 { int nbits;
392   SRECT dummy;
393   if (!r) r = &dummy;
394   nbits = (int) reader_GetBits(reader,5);
395   r->xmin = reader_GetSBits(reader,nbits);
396   r->xmax = reader_GetSBits(reader,nbits);
397   r->ymin = reader_GetSBits(reader,nbits);
398   r->ymax = reader_GetSBits(reader,nbits);
399   return 0;
400 }
401
402 int swf_SetRect(TAG * t,SRECT * r)
403 { int nbits;
404     
405   nbits = swf_CountBits(r->xmin,0);
406   nbits = swf_CountBits(r->xmax,nbits);
407   nbits = swf_CountBits(r->ymin,nbits);
408   nbits = swf_CountBits(r->ymax,nbits);
409   if(nbits>=32) {
410     fprintf(stderr, "rfxswf: Warning: num_bits overflow in swf_SetRect\n");
411     nbits=31;
412   }
413
414   swf_SetBits(t,nbits,5);
415   swf_SetBits(t,r->xmin,nbits);
416   swf_SetBits(t,r->xmax,nbits);
417   swf_SetBits(t,r->ymin,nbits);
418   swf_SetBits(t,r->ymax,nbits);
419
420   return 0;
421 }
422
423 void swf_ExpandRect(SRECT*src, SPOINT add)
424 {
425     if(add.x < src->xmin)
426         src->xmin = add.x;
427     if(add.x > src->xmax)
428         src->xmax = add.x;
429     if(add.y < src->ymin)
430         src->ymin = add.y;
431     if(add.y > src->ymax)
432         src->ymax = add.y;
433 }
434 void swf_ExpandRect2(SRECT*src, SRECT*add)
435 {
436     if((add->xmin | add->ymin | add->xmax | add->ymax)==0)
437         return;
438     if((src->xmin | src->ymin | src->xmax | src->ymax)==0)
439         *src = *add;
440     if(add->xmin < src->xmin)
441         src->xmin = add->xmin;
442     if(add->ymin < src->ymin)
443         src->ymin = add->ymin;
444     if(add->xmax > src->xmax)
445         src->xmax = add->xmax;
446     if(add->ymax > src->ymax)
447         src->ymax = add->ymax;
448 }
449 SPOINT swf_TurnPoint(SPOINT p, MATRIX* m)
450 {
451     SPOINT r;
452     r.x = (int)(m->sx*(1/65536.0)*p.x + m->r1*(1/65536.0)*p.y + 0.5) + m->tx;
453     r.y = (int)(m->r0*(1/65536.0)*p.x + m->sy*(1/65536.0)*p.y + 0.5) + m->ty;
454     return r;
455 }
456 SRECT swf_TurnRect(SRECT r, MATRIX* m)
457 {
458     SRECT g;
459     SPOINT p1,p2,p3,p4,pp1,pp2,pp3,pp4;
460     p1.x = r.xmin;p1.y = r.ymin;
461     p2.x = r.xmax;p2.y = r.ymin;
462     p3.x = r.xmin;p3.y = r.ymax;
463     p4.x = r.xmax;p4.y = r.ymax;
464     pp1 = swf_TurnPoint(p1, m);
465     pp2 = swf_TurnPoint(p2, m);
466     pp3 = swf_TurnPoint(p3, m);
467     pp4 = swf_TurnPoint(p4, m);
468     g.xmin = g.xmax = pp1.x;
469     g.ymin = g.ymax = pp1.y;
470     swf_ExpandRect(&g, pp2);
471     swf_ExpandRect(&g, pp3);
472     swf_ExpandRect(&g, pp4);
473     return g;
474 }
475         
476
477 int swf_GetMatrix(TAG * t,MATRIX * m)
478 { MATRIX dummy;
479   int nbits;
480     
481   if (!m) m = &dummy;
482   
483   if (!t)
484   { m->sx = m->sy = 0x10000;
485     m->r0 = m->r1 = 0;
486     m->tx = m->ty = 0;
487     return -1;
488   }
489
490   swf_ResetReadBits(t);
491   
492   if (swf_GetBits(t,1))
493   { nbits = swf_GetBits(t,5);
494     m->sx = swf_GetSBits(t,nbits);
495     m->sy = swf_GetSBits(t,nbits);
496   }
497   else m->sx = m->sy = 0x10000;
498   
499   if (swf_GetBits(t,1))
500   { nbits = swf_GetBits(t,5);
501     m->r0 = swf_GetSBits(t,nbits);
502     m->r1 = swf_GetSBits(t,nbits);
503   }
504   else m->r0 = m->r1 = 0x0;
505
506   nbits = swf_GetBits(t,5);
507   m->tx = swf_GetSBits(t,nbits);
508   m->ty = swf_GetSBits(t,nbits);
509   
510   return 0;
511 }
512
513 int swf_SetMatrix(TAG * t,MATRIX * m)
514 { int nbits;
515   MATRIX ma;
516
517   if (!m)
518   { m = &ma;
519     ma.sx = ma.sy = 0x10000;
520     ma.r0 = ma.r1 = 0;
521     ma.tx = ma.ty = 0;
522   }
523
524   swf_ResetWriteBits(t);
525
526   if ((m->sx==0x10000)&&(m->sy==0x10000)) swf_SetBits(t,0,1);
527   else
528   { swf_SetBits(t,1,1);
529     nbits = swf_CountBits(m->sx,0);
530     nbits = swf_CountBits(m->sy,nbits);
531     if(nbits>=32) {
532         fprintf(stderr,"rfxswf: Error: matrix values too large\n");
533         nbits = 31;
534     }
535     swf_SetBits(t,nbits,5);
536     swf_SetBits(t,m->sx,nbits);
537     swf_SetBits(t,m->sy,nbits);
538   }
539
540   if ((!m->r0)&&(!m->r1)) swf_SetBits(t,0,1);
541   else
542   { swf_SetBits(t,1,1);
543     nbits = swf_CountBits(m->r0,0);
544     nbits = swf_CountBits(m->r1,nbits);
545     if(nbits>=32) {
546         fprintf(stderr,"rfxswf: Error: matrix values too large\n");
547         nbits = 31;
548     }
549     swf_SetBits(t,nbits,5);
550     swf_SetBits(t,m->r0,nbits);
551     swf_SetBits(t,m->r1,nbits);
552   }
553
554   nbits = swf_CountBits(m->tx,0);
555   nbits = swf_CountBits(m->ty,nbits);
556   if(nbits>=32) {
557       fprintf(stderr,"rfxswf: Error: matrix values too large\n");
558       nbits = 31;
559   }
560   swf_SetBits(t,nbits,5);
561   swf_SetBits(t,m->tx,nbits);
562   swf_SetBits(t,m->ty,nbits);
563
564   return 0;
565 }
566
567 int swf_GetCXForm(TAG * t,CXFORM * cx,U8 alpha) //FIXME: alpha should be type bool
568 { CXFORM cxf;
569   int hasadd;
570   int hasmul;
571   int nbits;
572     
573   if (!cx) cx = &cxf;
574   
575   cx->a0 = cx->r0 = cx->g0 = cx->b0 = 256;
576   cx->a1 = cx->r1 = cx->g1 = cx->b1 = 0;
577
578   if (!t) return 0;
579   
580   swf_ResetReadBits(t);
581   hasadd = swf_GetBits(t,1);
582   hasmul = swf_GetBits(t,1);
583   nbits  = swf_GetBits(t,4);
584
585   if (hasmul)
586   { cx->r0 = (S16)swf_GetSBits(t,nbits);
587     cx->g0 = (S16)swf_GetSBits(t,nbits);
588     cx->b0 = (S16)swf_GetSBits(t,nbits);
589     if (alpha)
590       cx->a0 = (S16)swf_GetSBits(t,nbits);
591   }
592
593   if (hasadd)
594   { cx->r1 = (S16)swf_GetSBits(t,nbits);
595     cx->g1 = (S16)swf_GetSBits(t,nbits);
596     cx->b1 = (S16)swf_GetSBits(t,nbits);
597     if (alpha)
598       cx->a1 = (S16)swf_GetSBits(t,nbits);
599   }
600   
601   return 0;
602 }
603
604 int swf_SetCXForm(TAG * t,CXFORM * cx,U8 alpha)
605 { CXFORM cxf;
606   int hasadd;
607   int hasmul;
608   int nbits;
609     
610   if (!cx)
611   { cx = &cxf;
612     cx->a0 = cx->r0 = cx->g0 = cx->b0 = 256;
613     cx->a1 = cx->r1 = cx->g1 = cx->b1 = 0;
614   }
615
616   if (!alpha)
617   { cx->a0 = 256;
618     cx->a1 = 0;
619   }
620
621   nbits = 0;
622
623   hasmul = (cx->a0!=256)||(cx->r0!=256)||(cx->g0!=256)||(cx->b0!=256);
624   hasadd = cx->a1|cx->r1|cx->g1|cx->b1;
625
626   if (hasmul)
627   { if (alpha) nbits = swf_CountBits((S32)cx->a0,nbits);
628     nbits = swf_CountBits((S32)cx->r0,nbits);
629     nbits = swf_CountBits((S32)cx->g0,nbits);
630     nbits = swf_CountBits((S32)cx->b0,nbits);
631   }
632
633   if (hasadd)
634   { if (alpha) nbits = swf_CountBits((S32)cx->a1,nbits);
635     nbits = swf_CountBits((S32)cx->r1,nbits);
636     nbits = swf_CountBits((S32)cx->g1,nbits);
637     nbits = swf_CountBits((S32)cx->b1,nbits);
638   }
639   
640   swf_ResetWriteBits(t);
641   swf_SetBits(t,hasadd?1:0,1);
642   swf_SetBits(t,hasmul?1:0,1);
643   swf_SetBits(t,nbits,4);
644
645   if (hasmul)
646   { swf_SetBits(t,cx->r0,nbits);
647     swf_SetBits(t,cx->g0,nbits);
648     swf_SetBits(t,cx->b0,nbits);
649     if (alpha) swf_SetBits(t,cx->a0,nbits);
650   }
651
652   if (hasadd)
653   { swf_SetBits(t,cx->r1,nbits);
654     swf_SetBits(t,cx->g1,nbits);
655     swf_SetBits(t,cx->b1,nbits);
656     if (alpha) swf_SetBits(t,cx->a1,nbits);
657   }
658   
659   return 0;
660 }
661
662 //int swf_GetPoint(TAG * t,SPOINT * p) { return 0; }
663 //int swf_SetPoint(TAG * t,SPOINT * p) { return 0; }
664
665 void  swf_SetPassword(TAG * t, const char * password)
666 {
667     /* WARNING: crypt_md5 is not reentrant */
668     char salt[3];
669     char* md5string;
670
671 #if defined(HAVE_LRAND48) && defined(HAVE_SRAND48) && defined(HAVE_TIME_H) && defined(HAVE_TIME)
672     srand48(time(0));
673     salt[0] = "abcdefghijklmnopqrstuvwxyz0123456789"[lrand48()%36];
674     salt[1] = "abcdefghijklmnopqrstuvwxyz0123456789"[lrand48()%36];
675 #else
676     salt[0] = 'l';
677     salt[1] = '8';
678     fprintf(stderr, "rfxswf: Warning- no usable random generator found\n");
679     fprintf(stderr, "Your password will be vulnerable to dictionary attacks\n");
680 #endif
681     
682     md5string = crypt_md5(password, salt);
683
684     swf_SetU16(t,0);
685     swf_SetString(t, md5string);
686 }
687
688 int swf_VerifyPassword(TAG * t, const char * password)
689 {
690     char*md5string1, *md5string2;
691     char*x;
692     char*md5, *salt;
693     int n;
694
695     if(t->len >= 5 && t->pos==0 && 
696        t->data[0] == 0 &&
697        t->data[1] == 0) {
698       swf_GetU16(t);
699     } else {
700       printf("%d %d %d %d\n", t->len, t->pos, t->data[0], t->data[1]);
701     }
702
703     md5string1 = swf_GetString(t);
704
705     if(strncmp(md5string1, "$1$",3 )) {
706         fprintf(stderr, "rfxswf: no salt in pw string\n");
707         return 0;
708     }
709     x = strchr(md5string1+3, '$');
710     if(!x) {
711         fprintf(stderr, "rfxswf: invalid salt format in pw string\n");
712         return 0;
713     }
714     n = x-(md5string1+3);
715     salt = (char*)malloc(n+1);
716     memcpy(salt, md5string1+3, n);
717     salt[n] = 0;
718
719     md5string2 = crypt_md5(password, salt);
720     free(salt);
721     if(strcmp(md5string1, md5string2) != 0)
722         return 0;
723     return 1;
724 }
725
726 // Tag List Manipulating Functions
727
728 TAG * swf_InsertTag(TAG * after,U16 id)
729 { TAG * t;
730
731   t = (TAG *)malloc(sizeof(TAG));
732   if (t)
733   { memset(t,0x00,sizeof(TAG));
734     t->id = id;
735     
736     if (after)
737     {
738       t->prev  = after;
739       t->next  = after->next;
740       after->next = t;
741       if (t->next) t->next->prev = t;
742     }
743   }
744   return t;
745 }
746
747 TAG * swf_InsertTagBefore(SWF* swf, TAG * before,U16 id)
748 { TAG * t;
749
750   t = (TAG *)malloc(sizeof(TAG));
751   if (t)
752   { memset(t,0x00,sizeof(TAG));
753     t->id = id;
754     
755     if (before)
756     {
757       t->next  = before;
758       t->prev  = before->prev;
759       before->prev = t;
760       if (t->prev) t->prev->next = t;
761     }
762   }
763   if(swf && swf->firstTag == before) {
764     swf->firstTag = t;
765   }
766   return t;
767 }
768
769 void swf_ClearTag(TAG * t)
770 {
771   if (t->data) free(t->data);
772   t->data = 0;
773   t->pos = 0;
774   t->len = 0;
775   t->readBit = 0;
776   t->writeBit = 0;
777   t->memsize = 0;
778 }
779
780 void swf_ResetTag(TAG*tag, U16 id)
781 {
782     tag->len = tag->pos = tag->readBit = tag->writeBit = 0;
783     tag->id = id;
784 }
785
786 int swf_DeleteTag(TAG * t)
787 { if (!t) return -1;
788
789   if (t->prev) t->prev->next = t->next;
790   if (t->next) t->next->prev = t->prev;
791
792   if (t->data) free(t->data);
793   free(t);
794   return 0;
795 }
796
797 TAG * swf_ReadTag(struct reader_t*reader, TAG * prev)
798 { TAG * t;
799   U16 raw;
800   U32 len;
801   int id;
802
803   if (reader->read(reader, &raw, 2) !=2 ) return NULL;
804   raw = SWAP16(raw);
805
806   len = raw&0x3f;
807   id  = raw>>6;
808
809   if (len==0x3f)
810   {
811       if (reader->read(reader, &len, 4) != 4) return NULL;
812       len = SWAP32(len);
813   }
814
815   if (id==ST_DEFINESPRITE) len = 2*sizeof(U16);
816   // Sprite handling fix: Flatten sprite tree
817
818   t = (TAG *)malloc(sizeof(TAG));
819   
820   if (!t)
821   {
822     #ifdef DEBUG_RFXSWF
823       fprintf(stderr,"Fatal Error: malloc()/realloc() failed (2). (%d bytes)\n", sizeof(TAG));
824     #endif
825     return NULL;
826   }
827
828   memset(t,0x00,sizeof(TAG));
829   
830   t->len = len;
831   t->id  = id;
832
833   if (t->len)
834   { t->data = (U8*)malloc(t->len);
835     if (!t->data)
836     {
837       #ifdef DEBUG_RFXSWF
838         fprintf(stderr,"Fatal Error: malloc()/realloc() failed (3). (%d bytes)\n", t->len);
839       #endif
840       return NULL;
841     }
842     t->memsize = t->len;
843     if (reader->read(reader, t->data, t->len) != t->len) return NULL;
844   }
845
846   if (prev)
847   {
848     t->prev  = prev;
849     prev->next = t;
850   }
851
852   return t;
853 }
854
855 int swf_DefineSprite_GetRealSize(TAG * t);
856
857 int swf_WriteTag2(struct writer_t*writer, TAG * t)
858 // returns tag length in bytes (incl. Header), -1 = Error
859 // writer = 0 -> no output
860 { U16 raw[3];
861   U32 len;
862   int short_tag;
863
864   if (!t) return -1;
865
866   len = (t->id==ST_DEFINESPRITE)?swf_DefineSprite_GetRealSize(t):t->len;
867
868   short_tag = len<0x3f;
869
870   if (writer)
871   { if (short_tag)
872     { raw[0] = SWAP16(len|((t->id&0x3ff)<<6));
873       if (writer->write(writer,raw,2)!=2)
874       {
875         #ifdef DEBUG_RFXSWF
876           fprintf(stderr,"WriteTag() failed: Short Header.\n");
877         #endif
878         return -1;
879       }
880     }
881     else
882     {
883       raw[0] = SWAP16((t->id<<6)|0x3f);
884       if (writer->write(writer,raw,2)!=2)
885       {
886 #ifdef DEBUG_RFXSWF
887           fprintf(stderr,"WriteTag() failed: Long Header (1).\n");
888 #endif
889           return -1;
890       }
891       
892       len = SWAP32(len);
893       if (writer->write(writer,&len,4)!=4)
894       {
895         #ifdef DEBUG_RFXSWF
896           fprintf(stderr,"WriteTag() failed: Long Header (2).\n");
897         #endif
898         return -1;
899       }
900     }
901     
902     if (t->data)
903     { if (writer->write(writer,t->data,t->len)!=t->len)
904       {
905         #ifdef DEBUG_RFXSWF
906           fprintf(stderr,"WriteTag() failed: Data.\n");
907         #endif
908         return -1;
909       }
910     }
911     #ifdef DEBUG_RFXSWF
912       else if (t->len) fprintf(stderr,"WriteTag(): Tag Data Error, id=%i\n",t->id);
913     #endif
914   }
915
916   return t->len+(short_tag?2:6);
917 }
918
919 int swf_WriteTag(int handle, TAG * t)
920 {
921   struct writer_t writer;
922   int len = 0;
923   if(handle<0)
924     return swf_WriteTag2(0, t);
925   writer_init_filewriter(&writer, handle);
926   len = swf_WriteTag2(&writer, t);
927   writer.finish(&writer);
928   return len;
929 }
930
931 int swf_DefineSprite_GetRealSize(TAG * t)
932 // Sprite Handling: Helper function to pack DefineSprite-Tag
933 { U32 len = t->len;
934   if(len>4) { // folded sprite
935       return t->len;
936   }
937   do
938   { t = swf_NextTag(t);
939     if (t && t->id!=ST_DEFINESPRITE) len += swf_WriteTag(-1, t);
940     else t = NULL;
941   } while (t&&(t->id!=ST_END));
942   return len;
943 }
944
945 void swf_UnFoldSprite(TAG * t)
946 {
947   U16 id,tmp;
948   U32 len;
949   TAG*next = t;
950   U16 spriteid,spriteframes;
951   int level;
952   if(t->id!=ST_DEFINESPRITE)
953     return;
954   if(t->len<=4) // not folded
955     return;
956
957   swf_SetTagPos(t,0);
958
959   spriteid = swf_GetU16(t); //id
960   spriteframes = swf_GetU16(t); //frames
961
962   level = 1;
963
964   while(1)
965   {
966     TAG*it = 0;
967     tmp = swf_GetU16(t);
968     len = tmp&0x3f;
969     id  = tmp>>6;
970     if(id == ST_END)
971         level--;
972     if(id == ST_DEFINESPRITE && len<=4)
973         level++;
974
975     if (len==0x3f)
976         len = swf_GetU32(t);
977     it = swf_InsertTag(next, id);
978     next = it;
979     it->len = len;
980     it->id  = id;
981     if (it->len)
982     { it->data = (U8*)malloc(it->len);
983       it->memsize = it->len;
984       swf_GetBlock(t, it->data, it->len);
985     }
986
987     if(!level)
988         break;
989   }
990   
991   free(t->data); t->data = 0;
992   t->memsize = t->len = t->pos = 0;
993
994   swf_SetU16(t, spriteid);
995   swf_SetU16(t, spriteframes);
996 }
997
998 void swf_FoldSprite(TAG * t)
999 {
1000   TAG*sprtag=t,*tmp;
1001   U16 id,frames,tmpid;
1002   int level;
1003   if(t->id!=ST_DEFINESPRITE)
1004       return;
1005   if(!t->len) {
1006       fprintf(stderr, "Error: Sprite has no ID!");
1007       return;
1008   }
1009   if(t->len>4) {
1010     /* sprite is already folded */
1011       return;
1012   }
1013
1014   t->pos = 0;
1015   id = swf_GetU16(t);
1016   free(t->data);
1017   t->len = t->pos = t->memsize = 0;
1018   t->data = 0;
1019
1020   frames = 0;
1021
1022   t = swf_NextTag(sprtag);
1023   level = 1;
1024
1025   do 
1026   { 
1027     if(t->id==ST_SHOWFRAME) frames++;
1028     if(t->id == ST_DEFINESPRITE && t->len<=4)
1029         level++;
1030     if(t->id == ST_END)
1031         level--;
1032     t = swf_NextTag(t);
1033   } while(t && level);
1034   if(level)
1035     fprintf(stderr, "rfxswf error: sprite doesn't end(1)\n");
1036
1037   swf_SetU16(sprtag, id);
1038   swf_SetU16(sprtag, frames);
1039
1040   t = swf_NextTag(sprtag);
1041   level = 1;
1042
1043   do
1044   { 
1045     if(t->len<0x3f) {
1046         swf_SetU16(sprtag,t->len|(t->id<<6));
1047     } else {
1048         swf_SetU16(sprtag,0x3f|(t->id<<6));
1049         swf_SetU32(sprtag,t->len);
1050     }
1051     if(t->len)
1052         swf_SetBlock(sprtag,t->data, t->len);
1053     tmp = t;
1054     if(t->id == ST_DEFINESPRITE && t->len<=4)
1055         level++;
1056     if(t->id == ST_END)
1057         level--;
1058     t = swf_NextTag(t);
1059     swf_DeleteTag(tmp);
1060   } 
1061   while (t && level);
1062   if(level)
1063     fprintf(stderr, "rfxswf error: sprite doesn't end(2)\n");
1064
1065 //  sprtag->next = t;
1066 //  t->prev = sprtag;
1067 }
1068
1069 int swf_IsFolded(TAG * t)
1070 {
1071     return (t->id == ST_DEFINESPRITE && t->len>4);
1072 }
1073
1074 void swf_FoldAll(SWF*swf)
1075 {
1076     TAG*tag = swf->firstTag;
1077     //swf_DumpSWF(stdout, swf);
1078     while(tag) {
1079         if(tag->id == ST_DEFINESPRITE) {
1080             swf_FoldSprite(tag);
1081             //swf_DumpSWF(stdout, swf);
1082         }
1083         tag = swf_NextTag(tag);
1084     }
1085 }
1086
1087 void swf_UnFoldAll(SWF*swf)
1088 {
1089     TAG*tag = swf->firstTag;
1090     while(tag) {
1091         if(tag->id == ST_DEFINESPRITE)
1092             swf_UnFoldSprite(tag);
1093         tag = tag->next;
1094     }
1095 }
1096
1097 void swf_OptimizeTagOrder(SWF*swf)
1098 {
1099   TAG*tag,*next;
1100   TAG*level0;
1101   int level;
1102   int changes;
1103   swf_UnFoldAll(swf);
1104   /* at the moment, we don't actually do optimizing,
1105      only fixing of non-spec-conformant things like
1106      sprite tags */
1107
1108   do {
1109     changes = 0;
1110     level = 0;
1111     level0 = 0;
1112     tag = swf->firstTag;
1113     while(tag) {
1114       next = tag->next;
1115       if(tag->id == ST_DEFINESPRITE) {
1116         if(tag->len>4) {
1117           /* ??? all sprites are supposed to be unfolded */
1118           fprintf(stderr, "librfxswf error - internal error in OptimizeTagOrder/UnfoldAll\n");
1119         }
1120         level++;
1121         if(level==1) {
1122           level0 = tag;
1123           tag = next;
1124           continue;
1125         }
1126       }
1127       if(level>=1) {
1128         /* move non-sprite tags out of sprite */
1129         if(!swf_isAllowedSpriteTag(tag) || level>=2) {
1130           /* remove tag from current position */
1131           tag->prev->next = tag->next;
1132           if(tag->next)
1133             tag->next->prev = tag->prev;
1134
1135           /* insert before tag level0 */
1136           tag->next = level0;
1137           tag->prev = level0->prev;
1138           level0->prev = tag;
1139           tag->prev->next = tag;
1140           changes = 1;
1141         }
1142       }
1143       if(tag->id == ST_END) {
1144         level--;
1145       }
1146
1147       tag = next;
1148     }
1149   } while(changes);
1150 }
1151
1152 // Movie Functions
1153
1154 int swf_ReadSWF2(struct reader_t*reader, SWF * swf)   // Reads SWF to memory (malloc'ed), returns length or <0 if fails
1155 {     
1156   if (!swf) return -1;
1157   memset(swf,0x00,sizeof(SWF));
1158
1159   { char b[32];                         // read Header
1160     int len;
1161     TAG * t;
1162     TAG t1;
1163     struct reader_t zreader;
1164     
1165     if ((len = reader->read(reader ,b,8))<8) return -1;
1166
1167     if (b[0]!='F' && b[0]!='C') return -1;
1168     if (b[1]!='W') return -1;
1169     if (b[2]!='S') return -1;
1170     swf->fileVersion = b[3];
1171     swf->compressed  = (b[0]=='C')?1:0;
1172     swf->fileSize    = GET32(&b[4]);
1173     
1174     if(swf->compressed) {
1175         reader_init_zlibinflate(&zreader, reader);
1176         reader = &zreader;
1177     }
1178
1179     reader_GetRect(reader, &swf->movieSize);
1180     reader->read(reader, &swf->frameRate, 2);
1181     swf->frameRate = SWAP16(swf->frameRate);
1182     reader->read(reader, &swf->frameCount, 2);
1183     swf->frameCount = SWAP16(swf->frameCount);
1184
1185     /* read tags and connect to list */
1186     t = &t1;
1187     while (t) t = swf_ReadTag(reader,t);
1188     swf->firstTag = t1.next;
1189     t1.next->prev = NULL;
1190   }
1191   
1192   return reader->pos;
1193 }
1194
1195 int swf_ReadSWF(int handle, SWF * swf)
1196 {
1197   struct reader_t reader;
1198   reader_init_filereader(&reader, handle);
1199   return swf_ReadSWF2(&reader, swf);
1200 }
1201
1202 int  swf_WriteSWF2(struct writer_t*writer, SWF * swf)     // Writes SWF to file, returns length or <0 if fails
1203 { U32 len;
1204   TAG * t;
1205   int frameCount=0;
1206   struct writer_t zwriter;
1207   int fileSize = 0;
1208   int inSprite = 0;
1209   int writer_lastpos = 0;
1210   int ret;
1211     
1212   if (!swf) return -1;
1213   if (!writer) return -1; // the caller should provide a nullwriter, not 0, for querying SWF size
1214
1215   if(writer) writer_lastpos = writer->pos;
1216
1217   // Insert REFLEX Tag
1218
1219 #ifdef INSERT_RFX_TAG
1220
1221   if (swf->firstTag && swf_NextTag(swf->firstTag))
1222     if (swf_GetTagID(swf_NextTag(swf->firstTag))!=ST_REFLEX)
1223       swf_SetBlock(swf_InsertTagBefore(swf, swf->firstTag,ST_REFLEX),"rfx",3);
1224
1225 #endif // INSERT_RFX_TAG
1226
1227   // Count Frames + File Size
1228
1229   len = 0;
1230   t = swf->firstTag;
1231   frameCount = 0;
1232
1233   while(t) {
1234       len += swf_WriteTag(-1,t);
1235       if(t->id == ST_DEFINESPRITE) inSprite++;
1236       else if(t->id == ST_END && inSprite) inSprite--;
1237       else if(t->id == ST_SHOWFRAME && !inSprite) frameCount++;
1238       t = swf_NextTag(t);
1239   }
1240   
1241   { TAG t1;
1242     char b[64],b4[4];
1243     U32 l;
1244
1245     memset(&t1,0x00,sizeof(TAG));
1246     t1.data    = (U8*)b;
1247     t1.memsize = 64;
1248     
1249     { // measure header file size
1250       TAG t2;
1251       char b2[64];
1252       memset(&t2,0x00,sizeof(TAG));
1253       t2.data    = (U8*)b2;
1254       t2.memsize = 64;
1255       swf_SetRect(&t2, &swf->movieSize);
1256       swf_SetU16(&t2, swf->frameRate);
1257       swf_SetU16(&t2, swf->frameCount);
1258       l = swf_GetTagLen(&t2)+8;
1259     }
1260     if(swf->compressed == 8) {
1261       l -= 8;
1262     }
1263
1264     fileSize = l+len;
1265     if(len) {// don't touch headers without tags
1266         swf->fileSize = fileSize;
1267         swf->frameCount = frameCount;
1268     }
1269
1270     if(swf->compressed != 8) {
1271     /* compressed flag set to 8 means "skip first 8 
1272        header bytes". This is necessary if the caller wants to
1273        create compressed SWFs himself .
1274        It also means that we don't initialize our own zlib
1275        writer, but assume the caller provided one.
1276      */
1277       if(swf->compressed) {
1278         char*id = "CWS";
1279         writer->write(writer, id, 3);
1280       }
1281       else {
1282         char*id = "FWS";
1283         writer->write(writer, id, 3);
1284       }
1285
1286       writer->write(writer, &swf->fileVersion, 1);
1287       PUT32(b4, swf->fileSize);
1288       writer->write(writer, b4, 4);
1289       
1290       if(swf->compressed) {
1291         writer_init_zlibdeflate(&zwriter, writer);
1292         writer = &zwriter;
1293       }
1294     }
1295
1296     swf_SetRect(&t1,&swf->movieSize);
1297     swf_SetU16(&t1,swf->frameRate);
1298     swf_SetU16(&t1,swf->frameCount);
1299
1300     ret = writer->write(writer,b,swf_GetTagLen(&t1));
1301     if (ret!=swf_GetTagLen(&t1))
1302     {
1303       #ifdef DEBUG_RFXSWF
1304         fprintf(stderr, "ret:%d\n",ret);
1305         perror("write:");
1306         fprintf(stderr,"WriteSWF() failed: Header.\n");
1307       #endif
1308       return -1;
1309     }
1310
1311     t = swf->firstTag;
1312     while (t)
1313     { if (swf_WriteTag2(writer, t)<0) return -1;
1314       t = swf_NextTag(t);
1315     }
1316     if(swf->compressed) {
1317       if(swf->compressed != 8) {
1318         zwriter.finish(&zwriter);
1319         return writer->pos - writer_lastpos;
1320       }
1321       return (int)fileSize;
1322     } else {
1323       return (int)fileSize;
1324     }
1325   }
1326 }
1327
1328 int  swf_WriteSWF(int handle, SWF * swf)     // Writes SWF to file, returns length or <0 if fails
1329 {
1330   struct writer_t writer;
1331   int len = 0;
1332   swf->compressed = 0;
1333   
1334   if(handle<0) {
1335     writer_init_nullwriter(&writer);
1336     len = swf_WriteSWF2(&writer, swf);
1337   }
1338   writer_init_filewriter(&writer, handle);
1339   len = swf_WriteSWF2(&writer, swf);
1340   writer.finish(&writer);
1341   return len;
1342 }
1343
1344 int  swf_WriteSWC(int handle, SWF * swf)     // Writes SWF to file, returns length or <0 if fails
1345 {
1346   struct writer_t writer;
1347   int len = 0;
1348   swf->compressed = 1;
1349
1350   if(handle<0) {
1351     writer_init_nullwriter(&writer);
1352     len = swf_WriteSWF2(&writer, swf);
1353   }
1354   writer_init_filewriter(&writer, handle);
1355   len = swf_WriteSWF2(&writer, swf);
1356   writer.finish(&writer);
1357   return len;
1358 }
1359
1360 int swf_WriteHeader2(struct writer_t*writer,SWF * swf)
1361 {
1362   SWF myswf;
1363   memcpy(&myswf,swf,sizeof(SWF));
1364   myswf.firstTag = 0;
1365   return swf_WriteSWF2(writer, &myswf);
1366 }
1367
1368 int swf_WriteHeader(int handle,SWF * swf)
1369 {
1370   SWF myswf;
1371   memcpy(&myswf,swf,sizeof(SWF));
1372   myswf.firstTag = 0;
1373   return swf_WriteSWF(handle, &myswf);
1374 }
1375
1376 int swf_WriteCGI(SWF * swf)
1377 { int len;
1378   char s[1024];
1379     
1380   len = swf_WriteSWF(-1,swf);
1381
1382   if (len<0) return -1;
1383
1384   sprintf(s,"Content-type: application/x-shockwave-flash\n"
1385             "Accept-Ranges: bytes\n"
1386             "Content-Length: %lu\n"
1387             "Expires: Thu, 13 Apr 2000 23:59:59 GMT\n"
1388             "\n",len);
1389             
1390   write(fileno(stdout),s,strlen(s));
1391   return swf_WriteSWF(fileno(stdout),swf);
1392 }
1393
1394 void swf_FreeTags(SWF * swf)                 // Frees all malloc'ed memory for tags
1395 { TAG * t = swf->firstTag;
1396
1397   while (t)
1398   { TAG * tnew = t->next;
1399     if (t->data) free(t->data);
1400     free(t);
1401     t = tnew;
1402   }
1403   swf->firstTag = 0;
1404 }
1405
1406 // include advanced functions
1407
1408 #include "modules/swfdump.c"
1409 #include "modules/swfshape.c"
1410 #include "modules/swftext.c"
1411 #include "modules/swffont.c"
1412 #include "modules/swfobject.c"
1413 #include "modules/swfbutton.c"
1414 #include "modules/swftools.c"
1415 #include "modules/swfcgi.c"
1416 #include "modules/swfbits.c"
1417 #include "modules/swfaction.c"
1418 #include "modules/swfsound.c"
1419 #include "modules/swfdraw.c"