私は、全て Rocky 上でtexlive も vscode も動かしているのだと思っていましたが、どうやら違うようですね。
Code-Server は概ね理解はしましたが、
ローカルにインストールした texlive をリモート？サーバー側で動かすのかな？
Rockyも docker で動かしているのかな？
そこに texlive 入れて ... とかして... 遠隔側から Code-Server で Rocky の texlive 経由で動かそうとしているのかな？
Code-Server でターミナルコンソール開けるなら、そこで texlive が動くかどうか試してみれば良いと思います。
推測ですが、Code-Server が起動された時、その時点では、変更した .bashrc などは取り込んでいないので、懸念される「Error: Recipe terminated with fatal error ....」となっているのだと思います。
そうであれば settings.json で env に PATH と PERL5LIB は必要になるかもしれません。
あるいは、/etc/profile.d/ があれば、Code-Server 用に .sh を付与した
設定ファイルを新設すればいいのではと思います。
いずれにしても、現時点ではこれ以上の検証はできそうにありません。