lib/as3/code.c

   1 #include <assert.h>
   2 #include "code.h"
   3 #include "pool.h"
   4
   5 #define OP_REGISTER 1
   6 #define OP_STACK_ARGS 2
   7 #define OP_STACK_NS 4
   8 #define OP_SET_DXNS 8
   9 #define OP_RETURN 16
  10 #define OP_THROW 32
  11 #define OP_BRANCH 64
  12 #define OP_JUMP 128
  13 #define OP_LABEL 256
  14 #define OP_LOOKUPSWITCH 512
  15 #define OP_NEED_ACTIVATION 1024
  16 #define OP_STACK_ARGS2 2048
  17
  18 /* 2 = u30 index into multiname
  19    m = u30 index into method
  20    n = u30 number of params
  21    i = u30 index into method info
  22    b = byte
  23    s = short
  24    c = u30 index into class
  25    s = string (u30 index into strings)
  26    S = switch
  27    u = u30
  28    r = register
  29 */
  30
  31 opcode_t opcodes[]={
  32 {0xa0, "add", "",              -2, 1, 0, 0},
  33 {0xc5, "add_i", "",            -2, 1, 0, 0},
  34 {0x86, "astype", "2",          -1, 1, 0, 0},
  35 {0x87, "astypelate", "",       -2, 1, 0, 0},
  36 {0xA8, "bitand", "",           -2, 1, 0, 0},
  37 {0x97, "bitnot", "",           -1, 1, 0, 0},
  38 {0xa9, "bitor", "",            -2, 1, 0, 0},
  39 {0xaa, "bitxor", "",           -2, 1, 0, 0},
  40 {0x41, "call", "n",            -2, 1, 0, OP_STACK_ARGS},
  41 {0x43, "callmethod", "mn",     -1, 1, 0, OP_STACK_ARGS},
  42 {0x4c, "callproplex", "2n",    -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  43 {0x46, "callproperty", "2n",   -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  44 {0x4f, "callpropvoid", "2n",   -1, 0, 0, OP_STACK_ARGS|OP_STACK_NS},
  45 {0x44, "callstatic", "in",     -1, 1, 0, OP_STACK_ARGS},
  46 {0x45, "callsuper", "2n",      -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  47 {0x4e, "callsupervoid", "2n",  -1, 0, 0, OP_STACK_ARGS|OP_STACK_NS},
  48 {0x78, "checkfilter", "",      -1, 1, 0, 0},
  49 {0x80, "coerce", "2",          -1, 1, 0, 0},
  50 {0x82, "coerce_a", "",         -1, 1, 0, 0},
  51 {0x85, "coerce_s", "",         -1, 1, 0, 0},
  52 {0x42, "construct", "n",       -1, 1, 0, OP_STACK_ARGS},
  53 {0x4a, "constructprop", "2n",  -1, 1, 0, OP_STACK_ARGS|OP_STACK_NS},
  54 {0x49, "constructsuper", "n",  -1, 0, 0, OP_STACK_ARGS},
  55 {0x76, "convert_b", "",        -1, 1, 0, 0},
  56 {0x73, "convert_i", "",        -1, 1, 0, 0},
  57 {0x75, "convert_d", "",        -1, 1, 0, 0},
  58 {0x77, "convert_o", "",        -1, 1, 0, 0},
  59 {0x74, "convert_u", "",        -1, 1, 0, 0},
  60 {0x70, "convert_s", "",        -1, 1, 0, 0},
  61 {0xef, "debug", "D",            0, 0, 0, 0},
  62 {0xf1, "debugfile", "s",        0, 0, 0, 0},
  63 {0xf0, "debugline", "u",        0, 0, 0, 0},
  64 {0x94, "declocal", "r",         0, 0, 0, OP_REGISTER},
  65 {0xc3, "declocal_i", "r",       0, 0, 0, OP_REGISTER},
  66 {0x93, "decrement", "",        -1, 1, 0, 0},
  67 {0xc1, "decrement_i", "",      -1, 1, 0, 0},
  68 {0x6a, "deleteproperty", "2",  -1, 1, 0, OP_STACK_NS},
  69 {0xa3, "divide", "",           -2, 1, 0, 0},
  70 {0x2a, "dup", "",              -1, 2, 0, 0},
  71 {0x06, "dxns", "s",             0, 0, 0, OP_SET_DXNS},
  72 {0x07, "dxnslate", "",         -1, 0, 0, OP_SET_DXNS},
  73 {0xab, "equals", "",           -2, 1, 0, 0},
  74 {0x72, "esc_xattr", "",        -1, 1, 0, 0},
  75 {0x71, "esc_xelem", "",        -1, 1, 0, 0},
  76 {0x5e, "findproperty", "2",     0, 1, 0, OP_STACK_NS},
  77 {0x5d, "findpropstrict", "2",   0, 1, 0, OP_STACK_NS},
  78 {0x59, "getdescendants", "2",  -1, 1, 0, OP_STACK_NS},
  79 {0x64, "getglobalscope", "",    0, 1, 0, 0},
  80 {0x6e, "getglobalslot", "u",    0, 1, 0, 0},
  81 {0x60, "getlex", "2",           0, 1, 0, 0}, //multiname may not be runtime
  82 {0x62, "getlocal", "r",         0, 1, 0, OP_REGISTER},
  83 {0xd0, "getlocal_0", "",        0, 1, 0, OP_REGISTER},
  84 {0xd1, "getlocal_1", "",        0, 1, 0, OP_REGISTER},
  85 {0xd2, "getlocal_2", "",        0, 1, 0, OP_REGISTER},
  86 {0xd3, "getlocal_3", "",        0, 1, 0, OP_REGISTER},
  87 {0x66, "getproperty", "2",     -1, 1, 0, OP_STACK_NS},
  88 {0x65, "getscopeobject", "u",   0, 1, 0, 0}, // u = index into scope stack
  89 {0x6c, "getslot", "u",         -1, 1, 0, 0},
  90 {0x04, "getsuper", "2",        -1, 1, 0, OP_STACK_NS},
  91 {0xaf, "greaterthan", "",      -2, 1, 0, 0},
  92 {0xb0, "greaterequals", "",    -2, 1, 0, 0},
  93 {0x1f, "hasnext", "",          -2, 1, 0, 0},
  94 {0x32, "hasnext2", "rr",        0, 1, 0, OP_REGISTER},
  95 {0x13, "ifeq", "j",            -2, 0, 0, OP_BRANCH},
  96 {0x12, "iffalse", "j",         -1, 0, 0, OP_BRANCH},
  97 {0x18, "ifge", "j",            -2, 0, 0, OP_BRANCH},
  98 {0x17, "ifgt", "j",            -2, 0, 0, OP_BRANCH},
  99 {0x16, "ifle", "j",            -2, 0, 0, OP_BRANCH},
 100 {0x15, "iflt", "j",            -2, 0, 0, OP_BRANCH},
 101 {0x0f, "ifnge", "j",           -2, 0, 0, OP_BRANCH},
 102 {0x0e, "ifngt", "j",           -2, 0, 0, OP_BRANCH},
 103 {0x0d, "ifnle", "j",           -2, 0, 0, OP_BRANCH},
 104 {0x0c, "ifnlt", "j",           -2, 0, 0, OP_BRANCH},
 105 {0x14, "ifne", "j",            -2, 0, 0, OP_BRANCH},
 106 {0x19, "ifstricteq", "j",      -2, 0, 0, OP_BRANCH},
 107 {0x1a, "ifstrictne", "j",      -2, 0, 0, OP_BRANCH},
 108 {0x11, "iftrue", "j",          -1, 0, 0, OP_BRANCH},
 109 {0xb4, "in", "",               -2, 1, 0, 0},
 110 {0x92, "inclocal", "r",         0, 0, 0, OP_REGISTER},
 111 {0xc2, "inclocal_i", "r",       0, 0, 0, OP_REGISTER},
 112 {0x91, "increment", "",        -1, 1, 0, 0},
 113 {0xc0, "increment_i", "",      -1, 1, 0, 0},
 114 {0x68, "initproperty", "2",    -2, 0, 0, OP_STACK_NS},
 115 {0xb1, "instanceof", "",       -2, 1, 0, 0},
 116 {0xb2, "istype", "2",          -1, 1, 0, 0}, // may not be a runtime multiname
 117 {0xb3, "istypelate", "",       -2, 1, 0, 0},
 118 {0x10, "jump", "j",             0, 0, 0, OP_JUMP},
 119 {0x08, "kill", "r",             0, 0, 0, OP_REGISTER},
 120 {0x09, "label", "",             0, 0, 0, OP_LABEL},
 121 {0xae, "lessequals", "",       -2, 1, 0, 0},
 122 {0xad, "lessthan", "",         -2, 1, 0, 0},
 123 {0x1b, "lookupswitch", "S",    -1, 0, 0, OP_LOOKUPSWITCH},
 124 {0xa5, "lshift", "",           -2, 1, 0, 0},
 125 {0xa4, "modulo", "",           -2, 1, 0, 0},
 126 {0xa2, "multiply", "",         -2, 1, 0, 0},
 127 {0xc7, "multiply_i", "",       -2, 1, 0, 0},
 128 {0x90, "negate", "",           -1, 1, 0, 0},
 129 {0xc4, "negate_i", "",         -1, 1, 0, 0},
 130 {0x57, "newactivation", "",     0, 1, 0, OP_NEED_ACTIVATION},
 131 {0x56, "newarray", "n",         0, 1, 0, OP_STACK_ARGS},
 132 {0x5a, "newcatch", "u",         0, 1, 0, 0}, //u = index into exception_info
 133 {0x58, "newclass", "c",        -1, 1, 0, 0}, //c = index into class_info
 134 {0x40, "newfunction", "m",      0, 1, 0, 0}, //i = index into method_info
 135 {0x55, "newobject", "n",        0, 1, 0, OP_STACK_ARGS2},
 136 {0x1e, "nextname", "",         -2, 1, 0, 0},
 137 {0x23, "nextvalue", "",        -2, 1, 0, 0},
 138 {0x02, "nop", "",               0, 0, 0, 0},
 139 {0x96, "not", "",              -1, 1, 0 ,0},
 140 {0x29, "pop", "",              -1, 0, 0, 0},
 141 {0x1d, "popscope", "",          0, 0,-1, 0},
 142 {0x24, "pushbyte", "b",         0, 1, 0, 0},
 143 {0x2f, "pushdouble", "u",       0, 1, 0, 0}, //index into floats
 144 {0x27, "pushfalse", "",         0, 1, 0, 0},
 145 {0x2d, "pushint", "u",          0, 1, 0, 0}, //index into ints
 146 {0x31, "pushnamespace", "u",    0, 1, 0, 0}, //index into namespace
 147 {0x28, "pushnan", "",           0, 1, 0, 0},
 148 {0x20, "pushnull", "",          0, 1, 0, 0},
 149 {0x30, "pushscope", "",        -1, 0, 1, 0},
 150 {0x25, "pushshort", "u",        0, 1, 0, 0},
 151 {0x2c, "pushstring", "s",       0, 1, 0, 0},
 152 {0x26, "pushtrue", "",          0, 1, 0, 0},
 153 {0x2e, "pushuint", "u",         0, 1, 0, 0}, //index into uints
 154 {0x21, "pushundefined", "",     0, 1, 0, 0},
 155 {0x1c, "pushwith", "",         -1, 0, 1, 0},
 156 {0x48, "returnvalue", "",      -1, 0, 0, OP_RETURN},
 157 {0x47, "returnvoid", "",        0, 0, 0, OP_RETURN},
 158 {0xa6, "rshift", "",           -2, 1, 0, 0},
 159 {0x63, "setlocal", "r",        -1, 0, 0, OP_REGISTER},
 160 {0xd4, "setlocal_0", "",       -1, 0, 0, OP_REGISTER},
 161 {0xd5, "setlocal_1", "",       -1, 0, 0, OP_REGISTER},
 162 {0xd6, "setlocal_2", "",       -1, 0, 0, OP_REGISTER},
 163 {0xd7, "setlocal_3", "",       -1, 0, 0, OP_REGISTER},
 164 {0x6f, "setglobalslot", "u",   -1, 0, 0, 0},
 165 {0x61, "setproperty", "2",     -2, 0, 0, OP_STACK_NS},
 166 {0x6d, "setslot", "2",         -2, 0, 0, 0},
 167 {0x05, "setsuper", "2",        -2, 0, 0, OP_STACK_NS},
 168 {0xac, "strictequals", "",     -2, 1, 0, 0},
 169 {0xa1, "subtract", "",         -2, 1, 0, 0},
 170 {0xc6, "subtract_i", "",       -2, 1, 0, 0},
 171 {0x2b, "swap", "",             -2, 2, 0, 0},
 172 {0x03, "throw", "",            -1, 0, 0, OP_THROW},
 173 {0x95, "typeof", "",           -1, 1, 0, 0},
 174 {0xa7, "urshift", "",          -2, 1, 0, 0},
 175 };
 176
 177 static U8 op2index[256] = {254};
 178
 179 opcode_t* opcode_get(U8 op)
 180 {
 181     int t;
 182     if(op2index[0]==254) {
 183         memset(op2index, 255, sizeof(op2index));
 184         for(t=0;t<sizeof(opcodes)/sizeof(opcodes[0]);t++) {
 185             op2index[opcodes[t].opcode] = t;
 186         }
 187     }
 188     if(op2index[op]!=255)
 189         return &opcodes[op2index[op]];
 190     return 0;
 191 }
 192
 193 static code_t*pos2code(code_t**bytepos, code_t*c, int pos, int len)
 194 {
 195     if(c) {
 196         pos+=c->pos;
 197     }
 198     if(pos < 0 ||
 199        pos > len ||
 200       (pos!=len && !bytepos[pos])) {
 201         /* flex likes to generate these. yuck. */
 202         if(c) {
 203             opcode_t*op = opcode_get(c->opcode);
 204             fprintf(stderr, "Warning: Invalid jump instruction \"%s\" from %d to %d (%d)\n", op->name, c->pos, pos, len);
 205         } else {
 206             fprintf(stderr, "Warning: Invalid jump to %d (%d)\n", pos, len);
 207         }
 208         return 0;
 209     } else {
 210         if(pos==len) {
 211             //opcode_t*op = opcode_get(c->opcode);
 212             //fprintf(stderr, "Warning: jump beyond end of code in instruction %s at position %d\n", op->name, c->pos);
 213             return 0;
 214         } else {
 215             return bytepos[pos];
 216         }
 217     }
 218 }
 219 code_t* code_atposition(codelookup_t*l, int pos)
 220 {
 221     return pos2code(l->bytepos, 0, pos, l->len);
 222 }
 223
 224 void lookupswitch_print(lookupswitch_t*l)
 225 {
 226     printf("default: %08x\n", l->def);
 227     code_list_t*t = l->targets;
 228     while(t) {
 229         printf("target: %08x\n", t->code);
 230         t = t->next;
 231     }
 232 }
 233
 234 code_t*code_parse(TAG*tag, int len, abc_file_t*file, pool_t*pool, codelookup_t**codelookup)
 235 {
 236     code_t*head=0;
 237     code_t*code=0;
 238     int start=tag->pos;
 239     int end=tag->pos+len;
 240     //printf("-->\n");fflush(stdout);
 241
 242     code_t**bytepos = rfx_calloc(sizeof(code_t*)*len);
 243
 244     while(tag->pos<end) {
 245         int codepos = tag->pos-start;
 246         U8 opcode = swf_GetU8(tag);
 247         opcode_t*op = opcode_get(opcode);
 248         if(!op) {
 249             fprintf(stderr, "Can't parse opcode %02x\n", opcode);
 250             return head;
 251         }
 252         //printf("%s\n", op->name);fflush(stdout);
 253         NEW(code_t,c);
 254         c->pos = codepos;
 255
 256         bytepos[codepos] = c;
 257
 258         if(!head) {
 259             head = code = c;
 260         } else {
 261             code->next = c;
 262             code = c;
 263         }
 264
 265         c->opcode = opcode;
 266
 267         char*p = op->params;
 268         int pos = 0;
 269         while(*p) {
 270             void*data = 0;
 271             if(*p == 'n') { // number
 272                 data = (void*)(ptroff_t)swf_GetU30(tag);
 273             } else if(*p == '2') { //multiname
 274                 data = multiname_clone(pool_lookup_multiname(pool, swf_GetU30(tag)));
 275             } else if(*p == 'm') { //method
 276                 data = array_getvalue(file->methods, swf_GetU30(tag));
 277             } else if(*p == 'c') { //classinfo
 278                 data = array_getvalue(file->classes, swf_GetU30(tag));
 279             } else if(*p == 'i') {
 280                 data = array_getvalue(file->method_bodies, swf_GetU30(tag));
 281             } else if(*p == 'u') { // generic integer
 282                 data = (void*)(ptroff_t)swf_GetU30(tag);
 283             } else if(*p == 'r') { // local register
 284                 data = (void*)(ptroff_t)swf_GetU30(tag);
 285             } else if(*p == 'b') { // byte
 286                 data = (void*)(ptroff_t)swf_GetU8(tag);
 287             } else if(*p == 'j') { // jump
 288                 int j = swf_GetS24(tag);
 289                 data = (void*)(ptroff_t)j;
 290             } else if(*p == 's') { // string
 291                 data = strdup((char*)pool_lookup_string(pool, swf_GetU30(tag)));
 292             } else if(*p == 'D') { // debug
 293                 /*type, usually 1*/
 294                 U8 type = swf_GetU8(tag);
 295                 if(type!=1)
 296                     fprintf(stderr, "Unknown debug type: %02x\n", type);
 297                 /*register name*/
 298                 code->data[0] = strdup((char*)pool_lookup_string(pool, swf_GetU30(tag)));
 299                 /*register index*/
 300                 code->data[1] = (void*)(ptroff_t)swf_GetU8(tag);
 301                 /*unused*/
 302                 swf_GetU30(tag);
 303             } else if(*p == 'S') { // switch statement
 304                 lookupswitch_t*l = malloc(sizeof(lookupswitch_t));
 305                 l->def = (code_t*)(ptroff_t)swf_GetS24(tag);
 306                 l->targets = list_new();
 307                 int num = swf_GetU30(tag)+1;
 308                 int t;
 309                 for(t=0;t<num;t++)
 310                     list_append(l->targets, (code_t*)(ptroff_t)swf_GetS24(tag));
 311                 data = l;
 312             } else {
 313                 printf("Can't parse opcode param type \"%c\" (for op %02x %s).\n", *p, code->opcode, op->name);
 314                 return 0;
 315             }
 316             if(data)
 317                 code->data[pos++] = data;
 318             p++;
 319         }
 320     }
 321
 322 //#define DEBUG_BYTES
 323 #ifdef DEBUG_BYTES
 324     int t;
 325     for(t=0;t<len;t++) {
 326         code_t*c = bytepos[t];
 327         if(c) {
 328             opcode_t*op = opcode_get(c->opcode);
 329             if(op->flags & (OP_JUMP|OP_BRANCH)) {
 330                 printf("%5d) %02x %s %d\n", t, tag->data[start+t], op->name, c->data[0]);
 331             } else {
 332                 printf("%5d) %02x %s\n", t, tag->data[start+t], op->name);
 333             }
 334         } else {
 335             printf("%5d) %02x\n", t, tag->data[start+t]);
 336         }
 337     }
 338     //printf("%5d) %02x\n", t, tag->data[start+t]);
 339 #endif
 340
 341     code_t*c = head;
 342     while(c) {
 343         opcode_t*op = opcode_get(c->opcode);
 344         if(op->flags & (OP_JUMP|OP_BRANCH)) {
 345             int j = ((int)(ptroff_t)c->data[0]);
 346             c->branch = pos2code(bytepos,c,j+4,len);
 347         } else if(op->flags & (OP_LOOKUPSWITCH)) {
 348             lookupswitch_t*l = (lookupswitch_t*)c->data[0];
 349             int offset = 0;
 350             l->def = pos2code(bytepos,c,(ptroff_t)l->def+offset,len);
 351             code_list_t*t=l->targets;
 352             while(t) {
 353                 t->code = pos2code(bytepos,c,(ptroff_t)t->code+offset,len);
 354                 t = t->next;
 355             }
 356         }
 357         c = c->next;
 358     }
 359
 360     if(codelookup) {
 361         (*codelookup) = malloc(sizeof(codelookup_t));
 362         (*codelookup)->bytepos = bytepos;
 363         (*codelookup)->len = len;
 364     } else {
 365         free(bytepos);
 366     }
 367
 368     return head;
 369 }
 370
 371 void codelookup_free(codelookup_t*codelookup)
 372 {
 373     free(codelookup->bytepos);codelookup->bytepos=0;
 374     free(codelookup);
 375 }
 376
 377 code_t*code_find_start(code_t*c)
 378 {
 379     while(c->prev)
 380         c=c->prev;
 381     return c;
 382 }
 383
 384 void code_free(code_t*c)
 385 {
 386     c = code_find_start(c);
 387     while(c) {
 388         code_t*next = c->next;
 389         opcode_t*op = opcode_get(c->opcode);
 390         char*p = op?op->params:"";
 391         int pos=0;
 392         while(*p) {
 393             void*data = c->data[pos];
 394             if(*p == '2') { //multiname
 395                 multiname_destroy(data);
 396             } else if(strchr("sD", *p)) {
 397                 free(data);
 398             } else if(strchr("S", *p)) {
 399                 lookupswitch_t*l = (lookupswitch_t*)data;
 400                 list_free(l->targets);l->targets=0;
 401                 free(l);
 402             }
 403             c->data[pos]=0;
 404             p++;pos++;
 405         }
 406         memset(c, 0, sizeof(c));
 407         free(c);
 408         c = next;
 409     }
 410 }
 411
 412 static int opcode_write(TAG*tag, code_t*c, pool_t*pool, abc_file_t*file, int length)
 413 {
 414     opcode_t*op = opcode_get(c->opcode);
 415     char*p = op->params;
 416     int pos = 0;
 417     int len = 0;
 418
 419     if(tag)
 420         swf_SetU8(tag, c->opcode);
 421     len++;
 422
 423     while(*p) {
 424         void*data = c->data[pos++];
 425         assert(pos<=2);
 426         if(*p == 'n') { // number
 427             len += swf_SetU30(tag, (ptroff_t)data);
 428         } else if(*p == '2') { //multiname
 429             multiname_t*m = (multiname_t*)data;
 430             len += swf_SetU30(tag, pool_register_multiname(pool, m));
 431         } else if(*p == 'm') { //method
 432             abc_method_t*m = (abc_method_t*)data;
 433             len += swf_SetU30(tag, m->index);
 434         } else if(*p == 'c') { //classinfo
 435             abc_class_t*cls = (abc_class_t*)data;
 436             len += swf_SetU30(tag, cls->index);
 437         } else if(*p == 'i') { //methodbody
 438             abc_method_body_t*m = (abc_method_body_t*)data;
 439             len += swf_SetU30(tag, m->index);
 440         } else if(*p == 'u') { // integer
 441             len += swf_SetU30(tag, (ptroff_t)data);
 442         } else if(*p == 'r') { // integer
 443             len += swf_SetU30(tag, (ptroff_t)data);
 444         } else if(*p == 'b') { // byte
 445             if(tag)
 446                 swf_SetU8(tag, (ptroff_t)data);
 447             len++;
 448         } else if(*p == 'j') { // jump
 449             int skip = length-c->pos-4;
 450             if(c->branch)
 451                 skip = (c->branch->pos) - c->pos - 4;
 452             len += swf_SetS24(tag, skip);
 453         } else if(*p == 's') { // string
 454             int index = pool_register_string(pool, data);
 455             len += swf_SetU30(tag, index);
 456         } else if(*p == 'D') { // debug statement
 457             if(tag)
 458                 swf_SetU8(tag, 1);
 459             len++;
 460             len+=swf_SetU30(tag, pool_register_string(pool,c->data[0]));
 461             if(tag)
 462                 swf_SetU8(tag, (ptroff_t)c->data[1]);
 463             len++;
 464             len+=swf_SetU30(tag, 0);
 465         } else if(*p == 'S') { // switch statement
 466             lookupswitch_t*l = (lookupswitch_t*)data;
 467             int offset = 0;
 468             len+=swf_SetS24(tag, l->def->pos-c->pos+offset); //default
 469             code_list_t*t = l->targets;
 470             if(list_length(t)) {
 471                 len+=swf_SetU30(tag, list_length(t)-1); //nr-1
 472                 code_list_t*t = l->targets;
 473                 while(t) {
 474                     len+=swf_SetS24(tag, t->code->pos - c->pos+offset);
 475                     t = t->next;
 476                 }
 477             } else {
 478                 len+=swf_SetU30(tag, 0); //nr-1
 479                 len+=swf_SetS24(tag, l->def->pos-c->pos+offset);
 480             }
 481         } else {
 482             printf("Can't parse opcode param type \"%c\"\n", *p);
 483         }
 484         p++;
 485     }
 486     return len;
 487 }
 488
 489 void code_write(TAG*tag, code_t*code, pool_t*pool, abc_file_t*file)
 490 {
 491     code = code_find_start(code);
 492     int pos = 0;
 493     int length = 0;
 494     code_t*c = code;
 495     while(c) {
 496         c->pos = pos;
 497         pos += opcode_write(0, c, pool, file, 0);
 498         c = c->next;
 499     }
 500     length = pos;
 501     swf_SetU30(tag, pos);
 502     int start = tag->len;
 503     c = code;
 504     pos = 0;
 505     while(c) {
 506         opcode_t*op = opcode_get(code->opcode);
 507         if(op->flags&(OP_BRANCH|OP_JUMP)) {
 508             int skip = 0;
 509         }
 510         pos += opcode_write(tag, c, pool, file, length);
 511         c = c->next;
 512     }
 513     assert(tag->len - start == pos);
 514 }
 515
 516 typedef struct {
 517     int stackpos;
 518     int scopepos;
 519     code_t*code;
 520     char seen;
 521 } stackpos_t;
 522
 523 typedef struct {
 524     stackpos_t*stack;
 525     int num;
 526     int maxlocal;
 527     int maxstack;
 528     int maxscope;
 529     int flags;
 530 } currentstats_t;
 531
 532 static int stack_minus(code_t*c)
 533 {
 534     opcode_t*op = opcode_get(c->opcode);
 535     if(op->stack_minus>0) {
 536         fprintf(stderr, "Invalid opcode entry %02x %s\n", c->opcode, op->name);
 537     }
 538     int stack = op->stack_minus;
 539     if(op->flags&OP_STACK_NS) {
 540         multiname_t*m = (multiname_t*)c->data[0];
 541         if(multiname_late_namespace(m))
 542             stack--;
 543         if(multiname_late_name(m))
 544             stack--;
 545     }
 546     if(op->flags&OP_STACK_ARGS || op->flags&OP_STACK_ARGS2) {
 547         assert(strchr(op->params, 'n'));
 548         int nr = (ptroff_t)(op->params[0]=='n'?c->data[0]:c->data[1]);
 549         stack-=nr;
 550         if(op->flags&OP_STACK_ARGS2)
 551             stack-=nr;
 552     }
 553     return stack;
 554 }
 555 static void handleregister(currentstats_t*stats, int reg)
 556 {
 557     if(reg+1 > stats->maxlocal)
 558         stats->maxlocal = reg+1;
 559 }
 560
 561 static void dumpstack(currentstats_t*stats)
 562 {
 563     int t;
 564     for(t=0;t<stats->num;t++) {
 565         code_t*c = stats->stack[t].code;
 566         opcode_t*op = opcode_get(c->opcode);
 567         printf("%5d) %c %d:%d %s", t, stats->stack[t].seen?'x':'|',
 568                                stats->stack[t].stackpos,
 569                                stats->stack[t].scopepos,
 570                                op->name);
 571
 572         if(op->flags&(OP_BRANCH|OP_JUMP)) {
 573             if(c->branch)
 574                 printf(" ->%d\n", c->branch->pos);
 575             else
 576                 printf(" 00000000\n");
 577         }
 578         if(op->params[0]=='2') {
 579             printf(" %s", multiname_to_string(c->data[0]));
 580         }
 581         printf("\n");
 582     }
 583 }
 584
 585 static char callcode(currentstats_t*stats, int pos, int stack, int scope)
 586 {
 587     while(pos<stats->num) {
 588         if(stats->stack[pos].seen) {
 589             if(stats->stack[pos].stackpos != stack ||
 590                stats->stack[pos].scopepos != scope) {
 591                 dumpstack(stats);
 592                 fprintf(stderr, "Stack mismatch at pos %d\n", pos);
 593                 fprintf(stderr, "Should be: %d:%d, is: %d:%d\n", stack, scope,
 594                     stats->stack[pos].stackpos, stats->stack[pos].scopepos);
 595                 return 0;
 596             }
 597             return 1;
 598         }
 599
 600         stats->stack[pos].seen = 1;
 601         stats->stack[pos].stackpos = stack;
 602         stats->stack[pos].scopepos = scope;
 603
 604         code_t*c = stats->stack[pos].code;
 605         opcode_t*op = opcode_get(c->opcode);
 606
 607         //printf("Walking %s at position %d, stack=%d, scope=%d\n", op->name, pos, stack, scope);
 608
 609         stack += stack_minus(c);
 610
 611         if(stack<0) {
 612             fprintf(stderr, "error: stack underflow at %d (%s)\n", pos, op->name);
 613             printf("error: stack underflow at %d (%s)\n", pos, op->name);exit(0);
 614             return 0;
 615         }
 616
 617         stack += op->stack_plus;
 618         scope += op->scope_stack_plus;
 619
 620         if(stack > stats->maxstack)
 621             stats->maxstack = stack;
 622         if(scope > stats->maxscope)
 623             stats->maxscope = scope;
 624
 625         if(op->flags & OP_SET_DXNS)
 626             stats->flags |= FLAGS_SET_DXNS;
 627         if(op->flags & OP_NEED_ACTIVATION)
 628             stats->flags |= FLAGS_ACTIVATION;
 629
 630         if(op->flags & OP_REGISTER) {
 631             char*p = op->params;
 632             int pos = 0;
 633             char ok=0;
 634             while(*p) {
 635                 if(*p=='r') {
 636                     handleregister(stats, (ptroff_t)c->data[pos]);
 637                     ok = 1;
 638                 }
 639                 p++;
 640             }
 641             if(!ok) {
 642                 handleregister(stats, c->opcode&3);
 643             }
 644         }
 645         if(op->flags&OP_RETURN) {
 646             if(OP_RETURN==0x48/*returnvalue*/) {
 647                 if(stack!=1)
 648                     fprintf(stderr, "return(value) with stackposition %d\n", stack);
 649             } else if(OP_RETURN==0x47) {
 650                 if(stack!=0)
 651                     fprintf(stderr, "return(void) with stackposition %d\n", stack);
 652             }
 653         }
 654         if(op->flags & (OP_THROW|OP_RETURN))
 655             return 1;
 656         if(op->flags & OP_JUMP) {
 657             if(!c->branch) {
 658                 fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d.\n", op->name, pos);
 659                 return 0;
 660             }
 661             c = c->branch;
 662             pos = c->pos;
 663             continue;
 664         }
 665         if(op->flags & OP_BRANCH) {
 666             if(!c->branch) {
 667                 fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d\n", op->name, pos);
 668                 return 0;
 669             }
 670             int newpos = c->branch->pos;
 671             if(!callcode(stats, newpos, stack, scope))
 672                 return 0;
 673         }
 674         if(op->flags & OP_LOOKUPSWITCH) {
 675             lookupswitch_t*l = c->data[0];
 676             if(!l->def) {
 677                 fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d\n", op->name, pos);
 678                 return 0;
 679             }
 680             if(!callcode(stats, l->def->pos, stack, scope))
 681                 return 0;
 682             code_list_t*t = l->targets;
 683             while(t) {
 684                 if(!t->code) {
 685                     fprintf(stderr, "Error: Invalid jump target in instruction %s at position %d\n", op->name, pos);
 686                     return 0;
 687                 }
 688                 if(!callcode(stats, t->code->pos, stack, scope))
 689                     return 0;
 690                 t = t->next;
 691             }
 692         }
 693
 694         pos++;
 695         if(pos<stats->num) {
 696             assert(c->next == stats->stack[pos].code);
 697         }
 698     }
 699     return 1;
 700 }
 701
 702 static currentstats_t* code_get_stats(code_t*code, exception_list_t*exceptions)
 703 {
 704     code = code_find_start(code);
 705     int num = 0;
 706     code_t*c = code;
 707     while(c) {
 708         num++;
 709         c = c->next;
 710     }
 711     currentstats_t* current = malloc(sizeof(currentstats_t));
 712     current->stack = rfx_calloc(sizeof(stackpos_t)*num);
 713     current->maxlocal = 0;
 714     current->maxstack = 0;
 715     current->maxscope = 0;
 716     current->num = num;
 717     current->flags = 0;
 718
 719 //#define DEBUG_BYTES
 720 #ifdef DEBUG_BYTES
 721     int t;
 722     c = code;
 723     for(t=0;t<num;t++) {
 724         opcode_t*op = opcode_get(c->opcode);
 725         if(op->flags & (OP_JUMP|OP_BRANCH)) {
 726             printf("%5d) %s %08x\n", t, op->name, c->branch);
 727         } else if(op->params[0]=='2') {
 728             printf("%5d) %s %s\n", t, op->name, multiname_to_string(c->data[0]));
 729         } else {
 730             printf("%5d) %s\n", t, op->name);
 731         }
 732         c = c->next;
 733     }
 734     //printf("%5d) %02x\n", t, tag->data[start+t]);
 735 #endif
 736
 737     num = 0;
 738     c = code;
 739     while(c) {
 740         //crosslink
 741         current->stack[num].code = c;
 742         c->pos = num;
 743         num++;
 744         c = c->next;
 745     }
 746
 747     if(!callcode(current, 0, 0, 0)) {
 748         free(current);
 749         return 0;
 750     }
 751     exception_list_t*e = exceptions;
 752     while(e) {
 753         if(e->exception->target)
 754             callcode(current, e->exception->target->pos, 1, 0);
 755         e = e->next;
 756     }
 757
 758     return current;
 759 }
 760
 761 void stats_free(currentstats_t*stats)
 762 {
 763     free(stats->stack);stats->stack=0;
 764     free(stats);
 765 }
 766
 767 int code_dump(code_t*c, exception_list_t*exceptions, abc_file_t*file, char*prefix, FILE*fo)
 768 {
 769     exception_list_t*e = exceptions;
 770     c = code_find_start(c);
 771     currentstats_t*stats =  code_get_stats(c, exceptions);
 772
 773     int pos = 0;
 774     while(c) {
 775         U8 opcode = c->opcode;
 776         char found = 0;
 777         opcode_t*op = opcode_get(opcode);
 778
 779         e = exceptions;
 780         while(e) {
 781             if(c==e->exception->from)
 782                 fprintf(fo, "%s   TRY {\n", prefix);
 783             if(c==e->exception->target) {
 784                 char*s1 = multiname_to_string(e->exception->exc_type);
 785                 char*s2 = multiname_to_string(e->exception->var_name);
 786                 fprintf(fo, "%s   CATCH(%s %s)\n", prefix, s1, s2);
 787                 free(s1);
 788                 free(s2);
 789             }
 790             e = e->next;
 791         }
 792
 793         if(!op) {
 794             fprintf(stderr, "Can't parse opcode %02x.\n", opcode);
 795             return 0;
 796         } else {
 797             char*p = op->params;
 798             char first = 1;
 799             int i=0;
 800
 801             fprintf(fo, "%s%5d) %c %d:%d %s ", prefix, c->pos, stats->stack[c->pos].seen?'x':'|',
 802                                    stats->stack[c->pos].stackpos,
 803                                    stats->stack[c->pos].scopepos,
 804                                    op->name);
 805
 806             while(*p) {
 807                 void*data = c->data[i];
 808                 if(i>0)
 809                     printf(", ");
 810
 811                 if(*p == 'n') {
 812                     int n = (ptroff_t)data;
 813                     fprintf(fo, "%d params", n);
 814                 } else if(*p == '2') {
 815                     multiname_t*n = (multiname_t*)data;
 816                     char* m = multiname_to_string(n);
 817                     fprintf(fo, "%s", m);
 818                     free(m);
 819                 } else if(*p == 'm') {
 820                     abc_method_t*m = (abc_method_t*)data;
 821                     fprintf(fo, "[method %s]", m->name);
 822                 } else if(*p == 'c') {
 823                     abc_class_t*cls = (abc_class_t*)data;
 824                     char*classname = multiname_to_string(cls->classname);
 825                     fprintf(fo, "[classinfo %s]", classname);
 826                     free(classname);
 827                 } else if(*p == 'i') {
 828                     abc_method_body_t*b = (abc_method_body_t*)data;
 829                     fprintf(fo, "[methodbody]");
 830                 } else if(*p == 'u') {
 831                     int n = (ptroff_t)data;
 832                     fprintf(fo, "%d", n);
 833                 } else if(*p == 'r') {
 834                     int n = (ptroff_t)data;
 835                     fprintf(fo, "r%d", n);
 836                 } else if(*p == 'b') {
 837                     int b = (ptroff_t)data;
 838                     fprintf(fo, "%02x", b);
 839                 } else if(*p == 'j') {
 840                     if(c->branch)
 841                         fprintf(fo, "->%d", c->branch->pos);
 842                     else
 843                         fprintf(fo, "%08x", c->branch);
 844                 } else if(*p == 's') {
 845                     fprintf(fo, "\"%s\"", data);
 846                 } else if(*p == 'D') {
 847                     fprintf(fo, "[register %02x=%s]", (ptroff_t)c->data[1], (char*)c->data[0]);
 848                 } else if(*p == 'S') {
 849                     lookupswitch_t*l = c->data[0];
 850                     fprintf(fo, "[");
 851                     if(l->def)
 852                         fprintf(fo, "default->%d", l->def->pos);
 853                     else
 854                         fprintf(fo, "default->00000000", l->def->pos);
 855                     code_list_t*t = l->targets;
 856                     while(t) {
 857                         if(t->code)
 858                             fprintf(fo, ",->%d", t->code->pos);
 859                         else
 860                             fprintf(fo, ",->00000000");
 861                         t = t->next;
 862                     }
 863                     fprintf(fo, "]");
 864                 } else {
 865                     fprintf(stderr, "Can't parse opcode param type \"%c\"\n", *p);
 866                     return 0;
 867                 }
 868                 p++;
 869                 i++;
 870                 first = 0;
 871             }
 872             fprintf(fo, "\n");
 873         }
 874
 875         e = exceptions;
 876         while(e) {
 877             if(c==e->exception->to) {
 878                 if(e->exception->target)
 879                     fprintf(fo, "%s   } // END TRY (HANDLER: %d)\n", prefix, e->exception->target->pos);
 880                 else
 881                     fprintf(fo, "%s   } // END TRY (HANDLER: 00000000)\n", prefix);
 882             }
 883             e = e->next;
 884         }
 885
 886         pos++;
 887         c = c->next;
 888     }
 889     stats_free(stats);
 890     return 1;
 891 }
 892
 893 codestats_t* code_get_statistics(code_t*code, exception_list_t*exceptions)
 894 {
 895     currentstats_t*current = code_get_stats(code, exceptions);
 896     if(!current)
 897         return 0;
 898     codestats_t*stats = rfx_calloc(sizeof(codestats_t));
 899     stats->local_count = current->maxlocal;
 900     stats->max_stack = current->maxstack;
 901     stats->init_scope_depth = 0;
 902     stats->max_scope_depth = current->maxscope;
 903     stats->flags = current->flags;
 904
 905     stats_free(current);current=0;
 906     return stats;
 907 }
 908
 909 void codestats_free(codestats_t*s)
 910 {
 911     free(s);
 912 }
 913
 914 code_t* add_opcode(code_t*atag, U8 op)
 915 {
 916     code_t*tmp = (code_t*)rfx_calloc(sizeof(code_t));
 917     tmp->opcode = op;
 918     tmp->next = 0;
 919     if(atag) {
 920         tmp->prev = atag;
 921         atag->next = tmp;
 922     } else {
 923         tmp->prev = 0;
 924     }
 925     return tmp;
 926 }
 927
 928 void codestats_print(codestats_t*stats)
 929 {
 930     printf("max_stack: %d\n", stats->max_stack);
 931     printf("local_count: %d\n", stats->local_count);
 932     printf("init_scope_depth: %d\n", stats->init_scope_depth);
 933     printf("max_scope_depth: %d\n", stats->max_scope_depth);
 934 }
 935