detect ruby in configure script
[swftools.git] / m4 / ruby.m4
1 AC_DEFUN([RFX_CHECK_RUBY],
2 [
3 AC_PATH_PROG([RUBY], [ruby],,)
4
5 RUBY_CPPFLAGS=""
6 RUBY_LDFLAGS=""
7 RUBY_LIBS=""
8
9 rubylib=ruby18
10
11 AC_MSG_CHECKING([for ruby's include directory])
12 if test "x$RUBY" '!=' "x";then
13     rubyinc=`$RUBY -e 'require "rbconfig";puts Config::expand(Config::CONFIG.send("\x5b\x5d", "archdir"))' 2>/dev/null`
14     if test -d $rubyinc;then
15         AC_MSG_RESULT($rubyinc)
16
17         # If we got a sensible archdir, we also ask ruby to supply us with CPPFLAGS
18         # and LDFLAGS.
19         AC_MSG_CHECKING([for ruby's cpp flags])
20         rubycpp=`$RUBY -e 'require "rbconfig";puts Config::expand(Config::CONFIG.send("\x5b\x5d", "CPPFLAGS"))' 2>/dev/null`
21         AC_MSG_RESULT($rubycpp)
22         
23         AC_MSG_CHECKING([for ruby's ld flags])
24         rubyld=`$RUBY -e 'require "rbconfig";puts Config::expand(Config::CONFIG.send("\x5b\x5d", "LIBRUBYARG_SHARED"))' 2>/dev/null`
25         AC_MSG_RESULT($rubyld)
26         
27         AC_MSG_CHECKING([for ruby library name])
28         rubylib=`$RUBY -e 'require "rbconfig";puts Config::expand(Config::CONFIG.send("\x5b\x5d", "RUBY_SO_NAME"))' 2>/dev/null`
29         AC_MSG_RESULT($rubylib)
30
31         RUBY_CPPFLAGS="$rubycpp -I$rubyinc $RUBY_CPPFLAGS"
32         RUBY_LDFLAGS="$rubyld $RUBY_LDFLAGS"
33     else
34         AC_MSG_RESULT('unknown')
35     fi
36 else
37     AC_MSG_RESULT('unknown')
38 fi
39
40 #OLDLDFLAGS="$LDFLAGS"
41 #LDFLAGS="$LDFLAGS $RUBY_LDFLAGS"
42 #AC_CHECK_LIB($rubylib, rb_define_method, HAVE_RUBY_LIB=1,)
43 #LDFLAGS="$OLDLDFLAGS"
44
45 OLDCPPFLAGS="$CPPFLAGS"
46 CPPFLAGS="$CPPFLAGS $RUBY_CPPFLAGS"
47 AC_CHECK_HEADERS([ruby.h],[HAVE_RUBY_H=1])
48 CPPFLAGS="$OLDCPPFLAGS"
49
50 AC_MSG_CHECKING([whether we should compile the ruby module])
51 if test "x${HAVE_RUBY_H}" '!=' "x";then
52     #RUBY_LIBS="$RUBY_LIBS -l$rubylib"
53
54     cat > conftest.c << EOF
55 #include <ruby.h>
56 static VALUE foobar;
57 VALUE foobar_set_foo(VALUE module, VALUE _key, VALUE _value)
58 {
59     return Qnil;
60 }
61 int Init_foobar()
62 {
63     foobar = rb_define_module("foobar");
64     rb_define_module_function(foobar, "set_foo", foobar_set_foo, 2);
65 }
66 int main() {return 0;}
67 EOF
68     ac_link='$CC $SHARED $CPPFLAGS $RUBY_CPPFLAGS $CFLAGS conftest.c $LDFLAGS $RUBY_LDFLAGS $LIBS $RUBY_LIBS -o conftest${ac_exeext}'
69     if { (eval echo ruby.m4: \"$ac_link\") 1>&5; (eval $ac_link) 2>&5; } && test -s conftest${ac_exeext}; then
70         RUBY_OK=yes
71     else
72         echo "configure: failed program was:" >&5
73         cat conftest.c >&5
74     fi
75     rm -f conftest*
76 fi
77
78 if test "x${RUBY_OK}" '=' "xyes"; then 
79     AC_MSG_RESULT([yes])
80     AC_SUBST(RUBY_LIBS)
81     AC_SUBST(RUBY_CPPFLAGS)
82     AC_SUBST(RUBY_LDFLAGS)
83 else
84     AC_MSG_RESULT([no])
85     RUBY_CPPFLAGS=""
86     RUBY_LDFLAGS=""
87     RUBY_LIBS=""
88 fi
89 ])