日本語については解決しました。
お騒がせしました。
念のため
UTeX20110725をダウンロードしてインストール
（一応AddMacTeX2011もダウンロードしてインストール）
確かTeXShop-64もインストール。
（でいろいろ試行錯誤）
（結局、文字コードがよくわかっていなかった、多分今も）
で、TeXShop起動して環境設定開いて
まず「書類」のエンコーディングをJapanese(EUC)
次に「内部設定」の［パス設定］で
(pdf)TeXのところ（デフォルトは/use/texbin）を
/Applications/UpTeX.app/teTeX/bin
に変更
TeX+dvips+distillerのLaTeXのところを
Xtexshop
に変更
すれば以下のファイルがちゃんと処理できました。
ありがとうございました。
¥documentclass{article}
¥usepackage[dvipdfm]{graphicx}
¥begin{document}
¥[ ¥int_0^3 (¥sin¥theta+¥theta)d¥theta ¥]
これでちゃんとできるかな？
¥end{document}