＞LuaTeX にこのような仕組みが用意されているということは、「演算子の前での改行」という方向も、
＞TeX の仕組みとして考えられているのだと思います。
逆です．そのようなことは TeX 自身としては考えていないため，LuaTeX が独自に（あるいは勝手に）
追加しているのです．
どうしてもやりたければ，大雑把なやり方でよければ二項演算子・関係演算子を出力するコマンドを
再定義して（単一の文字の場合には \mathcode を "8000 にして，アクティブにした文字を定義），
前側に適当な penalty を追加するという手が考えられるでしょう．
# もっとも，「a\ (> 0)」なんて記述の「(」「>」の間での行分割も起こりかねないので，
# まともにやるには数式を改めて解析して penalty を挿入する位置を割り出すことになるでしょうけれども．