handle NULL (errorneous) polygons
[swftools.git] / lib / devices / polyops.c
1 /* polyops.c
2
3    Part of the swftools package.
4
5    Copyright (c) 2008 Matthias Kramm <kramm@quiss.org> 
6  
7    This program is free software; you can redistribute it and/or modify
8    it under the terms of the GNU General Public License as published by
9    the Free Software Foundation; either version 2 of the License, or
10    (at your option) any later version.
11
12    This program is distributed in the hope that it will be useful,
13    but WITHOUT ANY WARRANTY; without even the implied warranty of
14    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15    GNU General Public License for more details.
16
17    You should have received a copy of the GNU General Public License
18    along with this program; if not, write to the Free Software
19    Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA */
20
21 #include <stdlib.h>
22 #include <stdio.h>
23 #include <stdarg.h>
24 #ifndef WIN32
25 #include <unistd.h>
26 #endif
27 #include <memory.h>
28 #include <assert.h>
29 #include <string.h>
30 #include <math.h>
31 #include "../mem.h"
32 #include "../gfxdevice.h"
33 #include "../gfxtools.h"
34 #include "../gfxpoly.h"
35 #include "../log.h"
36 #include "polyops.h"
37
38 typedef struct _clip {
39     gfxpoly_t*poly;
40     int openclips;
41     struct _clip*next;
42 } clip_t;
43
44 typedef struct _internal {
45     gfxdevice_t*out;
46     clip_t*clip;
47     gfxpoly_t*polyunion;
48 } internal_t;
49
50 static int verbose = 0;
51
52 static void dbg(char*format, ...)
53 {
54     if(!verbose)
55         return;
56     char buf[1024];
57     int l;
58     va_list arglist;
59     va_start(arglist, format);
60     vsprintf(buf, format, arglist);
61     va_end(arglist);
62     l = strlen(buf);
63     while(l && buf[l-1]=='\n') {
64         buf[l-1] = 0;
65         l--;
66     }
67     printf("(device-polyops) %s\n", buf);
68     fflush(stdout);
69 }
70
71 int polyops_setparameter(struct _gfxdevice*dev, const char*key, const char*value)
72 {
73     dbg("polyops_setparameter");
74     internal_t*i = (internal_t*)dev->internal;
75     if(i->out) return i->out->setparameter(i->out,key,value);
76     else return 0;
77 }
78
79 void polyops_startpage(struct _gfxdevice*dev, int width, int height)
80 {
81     dbg("polyops_startpage");
82     internal_t*i = (internal_t*)dev->internal;
83     if(i->out) i->out->startpage(i->out,width,height);
84 }
85
86 void polyops_startclip(struct _gfxdevice*dev, gfxline_t*line)
87 {
88     dbg("polyops_startclip");
89     internal_t*i = (internal_t*)dev->internal;
90
91     gfxpoly_t* oldclip = i->clip?i->clip->poly:0;
92     gfxpoly_t* poly = gfxpoly_fillToPoly(line);
93     gfxpoly_t* currentclip = 0;
94     int type = 0;
95
96     /* we can't rely on gfxpoly actually being able to convert
97        a gfxline into a gfxpoly- for polygons which are too
98        complex or just degenerate, this might fail. So handle
99        all the cases where polygon conversion or intersection
100        might fail */
101     if(!poly && !oldclip) {
102         i->out->startclip(i->out,line);
103         currentclip = 0;
104         type = 1;
105     } else if(!poly && oldclip) {
106         gfxline_t*oldclipline = gfxpoly_to_gfxline(oldclip);
107         i->out->startclip(i->out,oldclipline);
108         i->out->startclip(i->out,line);
109         currentclip = 0;
110         type = 2;
111     } else if(poly && oldclip) {
112         gfxpoly_t*intersection = gfxpoly_intersect(poly, oldclip);
113         if(intersection) {
114             // this case is what usually happens 
115             gfxpoly_free(poly);poly=0;
116             currentclip = intersection;
117             type = 0;
118         } else {
119             gfxline_t*oldclipline = gfxpoly_to_gfxline(oldclip);
120             i->out->startclip(i->out, oldclipline);
121             currentclip = poly;
122             type = 1;
123         }
124     } else if(poly && !oldclip) {
125         currentclip = poly;
126         type = 0;
127     }
128
129     clip_t*n = i->clip;
130     i->clip = (clip_t*)rfx_calloc(sizeof(clip_t));
131     i->clip->next = n;
132     i->clip->poly = currentclip;
133     i->clip->openclips = type;
134 }
135
136 void polyops_endclip(struct _gfxdevice*dev)
137 {
138     dbg("polyops_endclip");
139     internal_t*i = (internal_t*)dev->internal;
140
141     if(!i->clip) {
142         msg("<error> endclip without startclip (in: polyops)\n");
143         return;
144     }
145
146     clip_t*old = i->clip;
147     i->clip = i->clip->next;
148     if(old->poly) {
149         gfxpoly_free(old->poly);old->poly = 0;
150     }
151     int t;
152     for(t=0;t<old->openclips;t++)
153         i->out->endclip(i->out);
154
155     old->next = 0;free(old);
156 }
157
158 static void addtounion(struct _gfxdevice*dev, gfxpoly_t*poly)
159 {
160     internal_t*i = (internal_t*)dev->internal;
161     if(poly && i->polyunion) {
162         gfxpoly_t*old = i->polyunion;
163         gfxpoly_t*newpoly = gfxpoly_union(poly,i->polyunion);
164         i->polyunion = newpoly;
165         gfxpoly_free(old);
166     }
167 }
168
169 gfxline_t* handle_poly(gfxdevice_t*dev, gfxpoly_t*poly)
170 {
171     internal_t*i = (internal_t*)dev->internal;
172     if(i->clip && i->clip->poly) {
173         gfxpoly_t*old = poly;
174         if(poly) {
175             poly = gfxpoly_intersect(poly, i->clip->poly);
176             gfxpoly_free(old);
177         }
178     }
179     addtounion(dev, poly);
180     gfxline_t*gfxline = 0;
181     if(poly) {
182         // this is the case where everything went right
183         gfxline_t*line = gfxpoly_to_gfxline(poly);
184         gfxpoly_free(poly);
185         return line;
186     } else {
187         if(i->clip && i->clip->poly) {
188             /* convert current clipping from a polygon to an
189                actual "startclip" written to the output */
190             assert(i->clip->openclips <= 1);
191             gfxline_t*clipline = gfxpoly_to_gfxline(i->clip->poly);
192             i->out->startclip(i->out, clipline);
193             gfxline_free(clipline);
194             gfxpoly_free(i->clip->poly);i->clip->poly = 0;
195             i->clip->openclips++;
196             return 0;
197         } else {
198             return 0;
199         }
200     }
201 }
202
203 void polyops_stroke(struct _gfxdevice*dev, gfxline_t*line, gfxcoord_t width, gfxcolor_t*color, gfx_capType cap_style, gfx_joinType joint_style, gfxcoord_t miterLimit)
204 {
205     dbg("polyops_stroke");
206     internal_t*i = (internal_t*)dev->internal;
207
208     gfxpoly_t* poly = gfxpoly_strokeToPoly(line, width, cap_style, joint_style, miterLimit);
209     gfxline_t*line2 = handle_poly(dev, poly);
210
211     if(line2) {
212         if(i->out) i->out->fill(i->out, line2, color);
213         gfxline_free(line2);
214     } else {
215         if(i->out) i->out->stroke(i->out, line, width, color, cap_style, joint_style, miterLimit);
216     }
217 }
218
219 void polyops_fill(struct _gfxdevice*dev, gfxline_t*line, gfxcolor_t*color)
220 {
221     dbg("polyops_fill");
222     internal_t*i = (internal_t*)dev->internal;
223
224     gfxpoly_t*poly = gfxpoly_fillToPoly(line);
225     gfxline_t*line2 = handle_poly(dev, poly);
226
227     if(line2) {
228         if(i->out) i->out->fill(i->out, line2, color);
229         gfxline_free(line2);
230     } else {
231         if(i->out) i->out->fill(i->out, line, color);
232     }
233 }
234
235 void polyops_fillbitmap(struct _gfxdevice*dev, gfxline_t*line, gfximage_t*img, gfxmatrix_t*matrix, gfxcxform_t*cxform)
236 {
237     dbg("polyops_fillbitmap");
238     internal_t*i = (internal_t*)dev->internal;
239     
240     gfxpoly_t*poly = gfxpoly_fillToPoly(line);
241     gfxline_t*line2 = handle_poly(dev, poly);
242
243     if(line2) {
244         if(i->out) i->out->fillbitmap(i->out, line2, img, matrix, cxform);
245         gfxline_free(line2);
246     } else {
247         if(i->out) i->out->fillbitmap(i->out, line, img, matrix, cxform);
248     }
249 }
250
251 void polyops_fillgradient(struct _gfxdevice*dev, gfxline_t*line, gfxgradient_t*gradient, gfxgradienttype_t type, gfxmatrix_t*matrix)
252 {
253     dbg("polyops_fillgradient");
254     internal_t*i = (internal_t*)dev->internal;
255     
256     gfxpoly_t*poly = gfxpoly_fillToPoly(line);
257     gfxline_t*line2 = handle_poly(dev, poly);
258
259     if(line2) {
260         if(i->out) i->out->fillgradient(i->out, line2, gradient, type, matrix);
261         gfxline_free(line2);
262     } else {
263         if(i->out) i->out->fillgradient(i->out, line, gradient, type, matrix);
264     }
265 }
266
267 void polyops_addfont(struct _gfxdevice*dev, gfxfont_t*font)
268 {
269     dbg("polyops_addfont");
270     internal_t*i = (internal_t*)dev->internal;
271     if(i->out) i->out->addfont(i->out, font);
272 }
273
274 void polyops_drawchar(struct _gfxdevice*dev, gfxfont_t*font, int glyphnr, gfxcolor_t*color, gfxmatrix_t*matrix)
275 {
276     dbg("polyops_drawchar");
277     if(!font)
278         return;
279     internal_t*i = (internal_t*)dev->internal;
280     gfxline_t*glyph = gfxline_clone(font->glyphs[glyphnr].line);
281     gfxline_transform(glyph, matrix);
282
283     if(i->clip && i->clip->poly) {
284         gfxbbox_t bbox = gfxline_getbbox(glyph);
285         gfxpoly_t*dummybox = gfxpoly_createbox(bbox.xmin,bbox.ymin,bbox.xmax,bbox.ymax);
286
287         gfxline_t*gfxline = handle_poly(dev, dummybox);
288         if(gfxline) {
289             gfxbbox_t bbox2 = gfxline_getbbox(gfxline);
290             double w = bbox2.xmax - bbox2.xmin;
291             double h = bbox2.ymax - bbox2.ymin;
292             if(w < 0.001 || h < 0.001) /* character was clipped completely */ {
293             } else if(fabs((bbox.xmax - bbox.xmin) - w) > 0.05 ||
294                       fabs((bbox.ymax - bbox.ymin) - h) > 0.05) {
295                 /* notable change in character size: character was clipped 
296                    TODO: how to deal with diagonal cuts?
297                  */
298                 polyops_fill(dev, glyph, color);
299             } else {
300                 if(i->out) i->out->drawchar(i->out, font, glyphnr, color, matrix);
301             }
302         } else {
303             if(i->out) i->out->drawchar(i->out, font, glyphnr, color, matrix);
304         }
305     } else {
306         if(i->out) i->out->drawchar(i->out, font, glyphnr, color, matrix);
307     }
308     
309     gfxline_free(glyph);
310 }
311
312 void polyops_drawlink(struct _gfxdevice*dev, gfxline_t*line, const char*action)
313 {
314     dbg("polyops_drawlink");
315     internal_t*i = (internal_t*)dev->internal;
316     if(i->out) i->out->drawlink(i->out, line, action);
317 }
318
319 void polyops_endpage(struct _gfxdevice*dev)
320 {
321     dbg("polyops_endpage");
322     internal_t*i = (internal_t*)dev->internal;
323     if(i->out) i->out->endpage(i->out);
324 }
325
326 gfxresult_t* polyops_finish(struct _gfxdevice*dev)
327 {
328     dbg("polyops_finish");
329     internal_t*i = (internal_t*)dev->internal;
330
331     if(i->polyunion) {
332         gfxpoly_free(i->polyunion);i->polyunion=0;
333     }
334     if(i->out) {
335         return i->out->finish(i->out);
336     } else {
337         return 0;
338     }
339 }
340
341 gfxline_t*gfxdevice_union_getunion(struct _gfxdevice*dev)
342 {
343     internal_t*i = (internal_t*)dev->internal;
344     return gfxpoly_to_gfxline(i->polyunion);
345 }
346
347 void gfxdevice_removeclippings_init(gfxdevice_t*dev, gfxdevice_t*out)
348 {
349     dbg("gfxdevice_removeclippings_init");
350     internal_t*i = (internal_t*)rfx_calloc(sizeof(internal_t));
351     memset(dev, 0, sizeof(gfxdevice_t));
352     
353     dev->name = "removeclippings";
354
355     dev->internal = i;
356
357     dev->setparameter = polyops_setparameter;
358     dev->startpage = polyops_startpage;
359     dev->startclip = polyops_startclip;
360     dev->endclip = polyops_endclip;
361     dev->stroke = polyops_stroke;
362     dev->fill = polyops_fill;
363     dev->fillbitmap = polyops_fillbitmap;
364     dev->fillgradient = polyops_fillgradient;
365     dev->addfont = polyops_addfont;
366     dev->drawchar = polyops_drawchar;
367     dev->drawlink = polyops_drawlink;
368     dev->endpage = polyops_endpage;
369     dev->finish = polyops_finish;
370
371     i->out = out;
372     i->polyunion = 0;
373 }
374
375 void gfxdevice_union_init(gfxdevice_t*dev,gfxdevice_t*out)
376 {
377     dbg("gfxdevice_getunion_init");
378     internal_t*i = (internal_t*)rfx_calloc(sizeof(internal_t));
379     memset(dev, 0, sizeof(gfxdevice_t));
380     
381     dev->name = "union";
382
383     dev->internal = i;
384
385     dev->setparameter = polyops_setparameter;
386     dev->startpage = polyops_startpage;
387     dev->startclip = polyops_startclip;
388     dev->endclip = polyops_endclip;
389     dev->stroke = polyops_stroke;
390     dev->fill = polyops_fill;
391     dev->fillbitmap = polyops_fillbitmap;
392     dev->fillgradient = polyops_fillgradient;
393     dev->addfont = polyops_addfont;
394     dev->drawchar = polyops_drawchar;
395     dev->drawlink = polyops_drawlink;
396     dev->endpage = polyops_endpage;
397     dev->finish = polyops_finish;
398
399     i->out = out;
400     i->polyunion = gfxpoly_strokeToPoly(0, 0, gfx_capButt, gfx_joinMiter, 0);
401 }
402