> 「漢字ファイル名を使えるようにした」
↑の記述は p(la)tex で処理するファイルについて対応したということなんじゃないかと思います．TeX Q & A 掲示板でも，platex -jobname=漢字 漢字.tex とすれば日本語ファイル名が通るという話題はあったと思います．
エラーメッセージを見ると，jBibTeX は，main.aux の中の \bibdata{} を参照して .bib ファイルを探しに行くようです．その段階の文字コードが気になります．aux ファイル全体の文字コードを変えるのは，次の platex での処理に問題を生じるので避けたいです．
エラーメッセージ (肝部分) は以下のような感じです．
I couldn't open database file 教科書文献参照.bib
---line 4 of file texfaq95.aux
: \bibdata{教科書文献参照
: }
I'm skipping whatever remains of this command