訂正です。
> (set-language-environment "Japanese")
> だけにして試すとうまく行くのではないでしょうか。
と書きましたが、これだとエラーは出ずに platex の実行は正しく行きますが、platex からのコンソール出力は文字化けするみたいですね。数年前から、platex のコンソール出力は、emacs 内部で実行する場合のように、他のプロセスに向けて送り出す場合は utf-8 になるようになっているみたいで、それが原因です。（https://texwiki.texjp.org/?W32TeX#qc9f2e7d で platex の「コンソール出力」の所を見ると「パイプ」だと UTF-8 になっている）
YaTeX は使っていないのですが、ざっと見た感じ、(set-language-environment "Japanese") に追加して
(setq latex-message-kanji-code 4) ; 当初1と書きましたが4です
とすると、その文字化けもしなくなるだろうと思います（prefer-coding-system 等は使わずに）。
※ 宇治さんの書かれるように、cp932 と utf-8 が混在する出力だともうどうしようもないですが。
> (set-language-environment "Japanese")
> だけにして試すとうまく行くのではないでしょうか。
と書きましたが、これだとエラーは出ずに platex の実行は正しく行きますが、platex からのコンソール出力は文字化けするみたいですね。数年前から、platex のコンソール出力は、emacs 内部で実行する場合のように、他のプロセスに向けて送り出す場合は utf-8 になるようになっているみたいで、それが原因です。（https://texwiki.texjp.org/?W32TeX#qc9f2e7d で platex の「コンソール出力」の所を見ると「パイプ」だと UTF-8 になっている）
YaTeX は使っていないのですが、ざっと見た感じ、(set-language-environment "Japanese") に追加して
(setq latex-message-kanji-code 4) ; 当初1と書きましたが4です
とすると、その文字化けもしなくなるだろうと思います（prefer-coding-system 等は使わずに）。
※ 宇治さんの書かれるように、cp932 と utf-8 が混在する出力だともうどうしようもないですが。