added swf_ExtractImage() function.
[swftools.git] / lib / modules / swfbits.c
index a1110e3..a687ffb 100644 (file)
@@ -7,9 +7,19 @@
 
    Copyright (c) 2000, 2001 Rainer Böhme <rfxswf@reflex-studio.de>
  
-   This file is distributed under the GPL, see file COPYING for details 
+   This program is free software; you can redistribute it and/or modify
+   it under the terms of the GNU General Public License as published by
+   the Free Software Foundation; either version 2 of the License, or
+   (at your option) any later version.
 
-*/
+   This program is distributed in the hope that it will be useful,
+   but WITHOUT ANY WARRANTY; without even the implied warranty of
+   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
+   GNU General Public License for more details.
+
+   You should have received a copy of the GNU General Public License
+   along with this program; if not, write to the Free Software
+   Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
 
 #define OUTBUFFER_SIZE 0x8000
 
@@ -25,14 +35,14 @@ typedef struct _JPEGDESTMGR
 
 // Destination manager callbacks
 
-void RFXSWF_init_destination(j_compress_ptr cinfo) 
+static void RFXSWF_init_destination(j_compress_ptr cinfo) 
 { JPEGDESTMGR * dmgr = (JPEGDESTMGR *)cinfo->dest;
   dmgr->buffer = (JOCTET*)malloc(OUTBUFFER_SIZE);
   dmgr->mgr.next_output_byte = dmgr->buffer;
   dmgr->mgr.free_in_buffer = OUTBUFFER_SIZE;
 }
 
-boolean RFXSWF_empty_output_buffer(j_compress_ptr cinfo)
+static boolean RFXSWF_empty_output_buffer(j_compress_ptr cinfo)
 { JPEGDESTMGR * dmgr = (JPEGDESTMGR *)cinfo->dest;
   swf_SetBlock(dmgr->t,(U8*)dmgr->buffer,OUTBUFFER_SIZE);
   dmgr->mgr.next_output_byte = dmgr->buffer;
@@ -40,7 +50,7 @@ boolean RFXSWF_empty_output_buffer(j_compress_ptr cinfo)
   return TRUE;
 }
 
-void RFXSWF_term_destination(j_compress_ptr cinfo) 
+static void RFXSWF_term_destination(j_compress_ptr cinfo) 
 { JPEGDESTMGR * dmgr = (JPEGDESTMGR *)cinfo->dest;
   swf_SetBlock(dmgr->t,(U8*)dmgr->buffer,OUTBUFFER_SIZE-dmgr->mgr.free_in_buffer);
   free(dmgr->buffer);
@@ -128,6 +138,26 @@ void swf_SetJPEGBits2(TAG * tag,U16 width,U16 height,RGBA* bitmap, int quality)
   swf_SetJPEGBitsFinish(jpeg);
 }
 
+void swf_GetJPEGSize(char * fname, int*width, int*height)
+{ struct jpeg_decompress_struct cinfo;
+  struct jpeg_error_mgr jerr;
+  FILE * fi;
+  *width = 0;
+  *height = 0;
+  cinfo.err = jpeg_std_error(&jerr);
+  jpeg_create_decompress(&cinfo); 
+  if ((fi=fopen(fname,"rb"))==NULL) {
+      fprintf(stderr, "rfxswf: file open error\n");
+      return;
+  }
+  jpeg_stdio_src(&cinfo, fi);
+  jpeg_read_header(&cinfo, TRUE);
+  *width = cinfo.image_width;
+  *height = cinfo.image_height;
+  jpeg_destroy_decompress(&cinfo);
+  fclose(fi);
+}
+
 int swf_SetJPEGBits(TAG * t,char * fname,int quality)
 { struct jpeg_decompress_struct cinfo;
   struct jpeg_error_mgr jerr;
@@ -184,9 +214,8 @@ int swf_SetJPEGBits(TAG * t,char * fname,int quality)
              int y = js[x*3+0];
              int u = js[x*3+1];
              int v = js[x*3+1];
-             // untested:
              js[x*3+0] = y + ((360*(v-128))>>8);
-             js[x*3+1] = y - ((88*(u-128)-183*(v-128))>>8);
+             js[x*3+1] = y - ((88*(u-128)+183*(v-128))>>8);
              js[x*3+2] = y + ((455 * (u-128))>>8);
          }
        }
@@ -219,6 +248,108 @@ int swf_SetJPEGBits(TAG * t,char * fname,int quality)
   return 0;
 }
 
+/*  jpeg_source_mgr functions */
+static void tag_init_source(struct jpeg_decompress_struct *cinfo)
+{
+    TAG*tag = (TAG*)cinfo->client_data;
+    swf_SetTagPos(tag, 2);
+    cinfo->src->bytes_in_buffer = 0;
+}
+static boolean tag_fill_input_buffer(struct jpeg_decompress_struct *cinfo)
+{
+    TAG*tag = (TAG*)cinfo->client_data;
+    if(tag->data[tag->pos+0] == 0xff &&
+       tag->data[tag->pos+1] == 0xd9 &&
+       tag->data[tag->pos+2] == 0xff &&
+       tag->data[tag->pos+3] == 0xd8) {
+        printf("Skip\n");
+        tag->pos += 4;
+    }
+    if(tag->pos >= tag->len) {
+        cinfo->src->next_input_byte = 0;
+        cinfo->src->bytes_in_buffer = 0;
+        return 0;
+    }
+    cinfo->src->next_input_byte = &tag->data[tag->pos];
+    cinfo->src->bytes_in_buffer = 1;//tag->len - tag->pos;
+    tag->pos += 1;
+    return 1;
+}
+static void tag_skip_input_data(struct jpeg_decompress_struct *cinfo, long count)
+{
+    TAG*tag = (TAG*)cinfo->client_data;
+    cinfo->src->next_input_byte = 0;
+    cinfo->src->bytes_in_buffer = 0;
+    tag->pos += count;
+}
+static boolean tag_resync_to_restart(struct jpeg_decompress_struct *cinfo, int desired)
+{
+    return jpeg_resync_to_restart(cinfo, desired);
+}
+static void tag_term_source(struct jpeg_decompress_struct *cinfo)
+{
+    TAG*tag = (TAG*)cinfo->client_data;
+}
+RGBA* swf_JPEG2TagToImage(TAG*tag, int*width, int*height)
+{
+    struct jpeg_decompress_struct cinfo;
+    struct jpeg_error_mgr jerr;
+    struct jpeg_source_mgr mgr;
+    RGBA * dest;
+    *width = 0;
+    *height = 0;
+
+    if(tag->id == ST_DEFINEBITSJPEG) {
+        fprintf(stderr, "rfxswf: extracting from definebitsjpeg not yet supported");
+        return 0;
+    }
+    if(tag->id == ST_DEFINEBITSJPEG3) {
+        fprintf(stderr, "rfxswf: extracting from definebitsjpeg3 not yet supported");
+        return 0;
+    }
+
+    cinfo.err = jpeg_std_error(&jerr);
+    jpeg_create_decompress(&cinfo); 
+
+    cinfo.client_data = (void*)tag;
+    cinfo.src = &mgr;
+    cinfo.src->init_source = tag_init_source;
+    cinfo.src->fill_input_buffer = tag_fill_input_buffer;
+    cinfo.src->skip_input_data = tag_skip_input_data;
+    cinfo.src->resync_to_restart = jpeg_resync_to_restart;
+    cinfo.src->term_source = tag_term_source;
+    cinfo.out_color_space = JCS_RGB;
+
+    jpeg_read_header(&cinfo, TRUE);
+    *width = cinfo.image_width;
+    *height = cinfo.image_height;
+    dest = malloc(sizeof(RGBA)*cinfo.image_width*cinfo.image_height);
+    
+    jpeg_start_decompress(&cinfo);
+    int y;
+    for (y=0;y<cinfo.output_height;y++) {
+        RGBA* line = &dest[y*cinfo.image_width];
+        U8* to = (U8*)line;
+        int x;
+        jpeg_read_scanlines(&cinfo,&to,1);
+        for(x=cinfo.output_width-1;x>=0;--x) {
+            int b = to[x*3+0];
+            int g = to[x*3+1];
+            int r = to[x*3+2];
+            line[x].r = r;
+            line[x].g = g;
+            line[x].b = b;
+            line[x].a = 255;
+        }
+    }
+
+    jpeg_finish_decompress(&cinfo);
+
+    jpeg_destroy_decompress(&cinfo);
+    return dest;
+}
+
+
 #endif // HAVE_JPEGLIB
 
 // Lossless compression texture based on zlib
@@ -320,25 +451,12 @@ int swf_SetLosslessBits(TAG * t,U16 width,U16 height,void * bitmap,U8 bitmap_fla
       
     } else res = -3; // zlib error
   }
-
-  while(t->len < 64) { /* actually, 63 and above is o.k., but let's stay on the safe side */
-
-      /* Flash players up to MX crash or do strange things if they encounter a 
-        DefineLossless Tag with a payload of less than 63 bytes. They also
-        substitute the whole bitmap by a red rectangle.
-
-        This loop fills up the tag with zeroes so that this doesn't happen.
-      */
-      swf_SetU8(t, 0);
-  }
-  
   return res;
 }
 
 int swf_SetLosslessBitsIndexed(TAG * t,U16 width,U16 height,U8 * bitmap,RGBA * palette,U16 ncolors)
 { RGBA * pal = palette;
   int bps = BYTES_PER_SCANLINE(width);
-  U8 * data;
   int res = 0;
     
   if (!pal)     // create default palette for grayscale images
@@ -413,12 +531,9 @@ int swf_SetLosslessBitsIndexed(TAG * t,U16 width,U16 height,U8 * bitmap,RGBA * p
 
         deflateEnd(&zs);
 
-        if (zs.next_out>data) swf_SetBlock(t,data,zs.next_out-data);
-
         free(zpal);
       } else res = -2; // memory error
     } else res = -3; // zlib error
-    free(data);
   }
   
   if (!palette) free(pal);
@@ -430,6 +545,106 @@ int swf_SetLosslessBitsGrayscale(TAG * t,U16 width,U16 height,U8 * bitmap)
 { return swf_SetLosslessBitsIndexed(t,width,height,bitmap,NULL,256);
 }
 
+RGBA* swf_DefineLosslessBitsTagToImage(TAG*tag, int*dwidth, int*dheight)
+{
+    int id,format,height, width, pos;
+    U32 datalen, datalen2;
+    int error;
+    int bpp=1;
+    int cols=0;
+    int pos2=0;
+    char alpha = tag->id == ST_DEFINEBITSLOSSLESS2;
+    int t,x,y;
+    RGBA*palette;
+    U8*data,*data2;
+    RGBA*dest;
+    if(tag->id != ST_DEFINEBITSLOSSLESS &&
+       tag->id != ST_DEFINEBITSLOSSLESS2) {
+       fprintf(stderr, "rfxswf: Object %d is not a PNG picture!\n",GET16(tag->data));
+        return 0;
+    }
+    swf_SetTagPos(tag, 0);
+    id =swf_GetU16(tag);
+    format = swf_GetU8(tag);
+    if(format == 3) bpp = 8;
+    if(format == 4) bpp = 16;
+    if(format == 5) bpp = 32;
+    if(format!=3 && format!=5) {
+       if(format==4)
+           fprintf(stderr, "rfxswf: Can't handle 16-bit palette images yet (image %d)\n",id);
+       else 
+           fprintf(stderr, "rfxswf: Unknown image type %d in image %d\n", format, id);
+       return 0;
+    }
+    *dwidth = width = swf_GetU16(tag);
+    *dheight = height = swf_GetU16(tag);
+    
+    dest = malloc(sizeof(RGBA)*width*height);
+
+    if(format == 3) cols = swf_GetU8(tag) + 1;
+    else            cols = 0;
+
+    data = 0;
+    datalen = (width*height*bpp/8+cols*8);
+    do {
+       if(data)
+           free(data);
+       datalen+=4096;
+       data = malloc(datalen);
+       error = uncompress (data, &datalen, &tag->data[tag->pos], tag->len-tag->pos);
+    } while(error == Z_BUF_ERROR);
+    if(error != Z_OK) {
+       fprintf(stderr, "rfxswf: Zlib error %d (image %d)\n", error, id);
+       return 0;
+    }
+    pos = 0;
+    
+    palette = (RGBA*)malloc(cols*sizeof(RGBA));
+    for(t=0;t<cols;t++) {
+       palette[t].r = data[pos++];
+       palette[t].g = data[pos++];
+       palette[t].b = data[pos++];
+       if(alpha) {
+           palette[t].a = data[pos++];
+       }
+    }
+
+    for(y=0;y<height;y++) {
+       int srcwidth = width * (bpp/8);
+       if(bpp==32) {
+           if(!alpha) {
+               // 32 bit to 24 bit "conversion"
+               for(x=0;x<width;x++) {
+                   dest[pos2].r=data[pos+1];
+                   dest[pos2].g=data[pos+2];
+                   dest[pos2].b=data[pos+3];
+                   dest[pos2].a=255;
+                   pos2++;
+                   pos+=4; //ignore padding byte
+               }
+           } else {
+               for(x=0;x<width;x++) {
+                   dest[pos2].r=data[pos+1];
+                   dest[pos2].g=data[pos+2];
+                   dest[pos2].b=data[pos+3];
+                   dest[pos2].a=data[pos+0]; //alpha
+                   pos2++;
+                   pos+=4;
+               }
+           }
+       } else {
+           for(x=0;x<srcwidth;x++) {
+               dest[pos2]=palette[data[pos++]];
+               pos2++;
+           }
+       }
+       pos+=((srcwidth+3)&~3)-srcwidth; //align
+    }
+    if(palette)
+        free(palette);
+    free(data);
+    return dest;
+}
 
 #endif // HAVE_ZLIB
 
@@ -518,5 +733,31 @@ int swf_SetJPEGBits3(TAG * tag,U16 width,U16 height,RGBA* bitmap, int quality)
 }
 #endif
 
+RGBA* swf_ExtractImage(TAG*tag, int*dwidth, int*dheight)
+{
+    RGBA*img;
+    if(tag->id == ST_DEFINEBITSJPEG ||
+       tag->id == ST_DEFINEBITSJPEG2 ||
+       tag->id == ST_DEFINEBITSJPEG3) {
+#ifdef HAVE_JPEGLIB
+        return swf_JPEG2TagToImage(tag, dwidth, dheight);
+#else
+        fprintf(stderr, "rfxswf: Error: No JPEG library compiled in");
+        return 0;
+#endif
+    }
+    if(tag->id == ST_DEFINEBITSLOSSLESS ||
+       tag->id == ST_DEFINEBITSLOSSLESS2) {
+#ifdef HAVE_ZLIB
+        return swf_DefineLosslessBitsTagToImage(tag, dwidth, dheight);
+#else
+        fprintf(stderr, "rfxswf: Error: No JPEG library compiled in");
+        return 0;
+#endif
+    }
+    fprintf(stderr, "rfxswf: Error: Invalid tag (%d, %s)", tag->id, swf_TagGetName(tag));
+    return 0;
+}
+
 #undef OUTBUFFER_SIZE