クローズの件、了解しました。
なんとなく malloc 関連と思われるので、
debian の派生系以外の RHEL 系などでは発生しないかもしれませんね。
現状分かりかけていること ...
この現象は 4/29 に投入された LuaTeX 1.17.0 から発生しているようです。
この修正までをチャラにして、1.16.1 に戻すと、発生しなくなります。
ソースの追跡は行わない予定でしたが ...
本家？の方に報告できるよう、 gdb のデバッグ方法忘れてしまったので
適宜デバッグコードを挟み込んだり strace での追跡などで奮闘中！！