少し前のSolarisの場合、日本語ロケールは以下の3種類が可能のようです。
- ja もしくは ja_JP.eucJP (EUC)
- ja_JP.PCK (Shift_JIS)
- ja_JP.UTF-8 (UTF-8)
私の意図では以下が動くようになっているはずです。
ロケールがEUCの場合
ptex --kanji=euc 日本語.tex
platex --kanji=euc 日本語.tex
ロケールがUTF-8の場合
ptex --kanji=utf8 日本語.tex
platex --kanji=utf8 日本語.tex
ロケールがEUCの場合はずっと以前から使えているはずです。
ロケールがUTF-8の場合は TeX Live 2019 から使えるようになっているはずです。但し、日本語文字種はJIS第一、第二水準までの対応です。
LyX はよく知りません。ロケールを EUC-JP にしていると動かないかも知れません。
蛇足ですが、
ロケールがShift_JISの場合は、Windows版と異なり駄目文字対策をしていないので以下のような例では動かないような気がします。
ptex --kanji=sjis 表題.tex