moved out- the functions in here used to be in swfvideo.c.
[swftools.git] / lib / h.263 / dct.c
1 int zigzagtable[64] = {
2     0, 1, 5, 6, 14, 15, 27, 28,
3     2, 4, 7, 13, 16, 26, 29, 42,
4     3, 8, 12, 17, 25, 30, 41, 43,
5     9, 11, 18, 24, 31, 40, 44, 53,
6     10, 19, 23, 32, 39, 45, 52, 54,
7     20, 22, 33, 38, 46, 51, 55, 60,
8     21, 34, 37, 47, 50, 56, 59, 61,
9     35, 36, 48, 49, 57, 58, 62, 63};
10
11 static double table[8][8] =
12 {
13 {0.707106781186548,0.707106781186548,0.707106781186548,0.707106781186548,0.707106781186548,0.707106781186548,0.707106781186548,0.707106781186548},
14 {0.980785280403230,0.831469612302545,0.555570233019602,0.195090322016128,-0.195090322016128,-0.555570233019602,-0.831469612302545,-0.980785280403230},
15 {0.923879532511287,0.382683432365090,-0.382683432365090,-0.923879532511287,-0.923879532511287,-0.382683432365090,0.382683432365090,0.923879532511287},
16 {0.831469612302545,-0.195090322016128,-0.980785280403230,-0.555570233019602,0.555570233019602,0.980785280403230,0.195090322016129,-0.831469612302545},
17 {0.707106781186548,-0.707106781186547,-0.707106781186548,0.707106781186547,0.707106781186548,-0.707106781186547,-0.707106781186547,0.707106781186547},
18 {0.555570233019602,-0.980785280403230,0.195090322016128,0.831469612302545,-0.831469612302545,-0.195090322016128,0.980785280403231,-0.555570233019602},
19 {0.382683432365090,-0.923879532511287,0.923879532511287,-0.382683432365090,-0.382683432365091,0.923879532511287,-0.923879532511286,0.382683432365090},
20 {0.195090322016128,-0.555570233019602,0.831469612302545,-0.980785280403231,0.980785280403230,-0.831469612302545,0.555570233019602,-0.195090322016129}
21 };
22
23 void dct(int*src)
24 {
25     double tmp[64];
26     int x,y,u,v,t;
27
28     for(v=0;v<8;v++)
29     for(u=0;u<8;u++)
30     {
31         double c = 0;
32         for(x=0;x<8;x++)
33         {
34             c+=table[u][x]*src[v*8+x];
35         }
36         tmp[v*8+u] = c;
37     }
38     for(u=0;u<8;u++)
39     for(v=0;v<8;v++)
40     {
41         double c = 0;
42         for(y=0;y<8;y++)
43         {
44             c+=table[v][y]*tmp[y*8+u];
45         }
46         src[v*8+u] = (int)(c*0.25+0.5);
47     }
48 }
49
50 void idct(int*src)
51 {
52     double tmp[64];
53     int x,y,u,v;
54     for(y=0;y<8;y++)
55     for(x=0;x<8;x++)
56     {
57         double c = 0;
58         for(u=0;u<8;u++)
59         {
60             c+=table[u][x]*src[y*8+u];
61         }
62         tmp[y*8+x] = c;
63     }
64     for(y=0;y<8;y++)
65     for(x=0;x<8;x++)
66     {
67         double c = 0;
68         for(v=0;v<8;v++)
69         {
70             c+=table[v][y]*tmp[v*8+x];
71         }
72         src[y*8+x] = (int)(c*0.25+0.5);
73     }
74 }
75
76 static double c[8] = {1.0,
77 0.980785280403230, // cos(Pi*1/16), sin(Pi*7/16)
78 0.923879532511287, // cos(Pi*2/16), sin(Pi*6/16)
79 0.831469612302545, // cos(Pi*3/16), sin(Pi*5/16)
80 0.707106781186548, // cos(Pi*4/16), sin(Pi*4/16), 1/sqrt(2)
81 0.555570233019602, // cos(Pi*5/16), sin(Pi*3/16)
82 0.382683432365090, // cos(Pi*6/16), sin(Pi*2/16)
83 0.195090322016128 // cos(Pi*7/16), sin(Pi*1/16)
84 };
85
86 static double cc[8];
87 static int ccquant = -1;
88
89 void preparequant(int quant)
90 {
91     if(ccquant == quant)
92         return;
93     cc[0] = c[0]/(quant*2*4);
94     cc[1] = c[1]/(quant*2*4);
95     cc[2] = c[2]/(quant*2*4);
96     cc[3] = c[3]/(quant*2*4);
97     cc[4] = c[4]/(quant*2*4);
98     cc[5] = c[5]/(quant*2*4);
99     cc[6] = c[6]/(quant*2*4);
100     cc[7] = c[7]/(quant*2*4);
101     ccquant = quant;
102 }
103
104 inline static void innerdct(const double*a,double*b, const double*c)
105 {
106     // c1*c7*2 = c6
107     // c2*c6*2 = c4
108     // c3*c5*2 = c2
109     // c4*c4*2 = 1
110
111      //{  1,  3,  5,  7, -7, -5, -3, -1},
112      //{  3, -7, -1, -5,  5,  1,  7, -3},
113      //{  5, -1,  7,  3, -3, -7,  1, -5},
114      //{  7, -5,  3, -1,  1, -3,  5, -7}
115     double b0,b1,b2,b3,b4,b5;
116     b2 = (a[0]+a[7]);
117     b3 = (a[1]+a[6]);
118     b4 = (a[2]+a[5]);
119     b5 = (a[3]+a[4]);
120
121     b0 = (b2+b5)*c[4];
122     b1 = (b3+b4)*c[4];
123     b[0*8] = b0 + b1;
124     b[4*8] = b0 - b1;
125     b[2*8] = (b2-b5)*c[2] + (b3-b4)*c[6];
126     b[6*8] = (b2-b5)*c[6] + (b4-b3)*c[2];
127
128     b0 = (a[0]-a[7]);
129     b1 = (a[1]-a[6]);
130     b2 = (a[2]-a[5]);
131     b3 = (a[3]-a[4]);
132
133     b[1*8] = b0*c[1] + b1*c[3] + b2*c[5] + b3*c[7];
134     b[3*8] = b0*c[3] - b1*c[7] - b2*c[1] - b3*c[5];
135     b[5*8] = b0*c[5] - b1*c[1] + b2*c[7] + b3*c[3];
136     b[7*8] = b0*c[7] - b1*c[5] + b2*c[3] - b3*c[1];
137 }
138
139 void dct2(int*src, int*dest)
140 {
141     double tmp[64], tmp2[64];
142     double*p;
143     int u,x,v,t;
144
145     for(t=0;t<64;t++)
146         tmp2[t] = src[t];
147
148     for(v=0;v<8;v++)
149     {
150         double* a=&tmp2[v*8];
151         double* b=&tmp[v];
152         innerdct(a,b,c);
153     }
154     for(v=0;v<8;v++)
155     {
156         double* a=&tmp[v*8];
157         double* b=&tmp2[v];
158         innerdct(a,b,cc);
159     }
160     for(t=0;t<64;t++) {
161         int v = (int)(tmp2[t]);
162         dest[zigzagtable[t]] = v;
163     }
164 }
165
166
167 void zigzag(int*src)
168 {
169     int tmp[64];
170     int t;
171     for(t=0;t<64;t++) {
172         tmp[zigzagtable[t]] = src[t];
173     }
174     memcpy(src, tmp, sizeof(int)*64);
175 }
176
177