一般フォーラム

回答にはならないと思いますが

macOS をご利用とのことなのでターミナルにて以下のようにすることで \bar の定義されている箇所を探すことができます。

1) ログファイルが 79 文字で改行されてしまうのを防ぐための前処理

export max_print_line=1000
export error_line=254
export half_error_line=238

参考URL
[https://tex.stackexchange.com/questions/52988/avoid-linebreaks-in-latex-console-log-output-or-increase-columns-in-terminal
Avoid linebreaks in LaTeX console / log output (or increase columns in terminal)

2) lualatex で再コンパイルしログを取り直し

lualatex -halt-on-error -interaction=nonstopmode -file-line-error a.tex

3) ログファイルから読み込んだファイルリストを抜き出しそれらについて bar という文字列検索(多少エラーメッセージが出ますが無視 :-) )

cat a.log | tr '() ' '\n' | grep -e /usr/local -e hoge.sty | xargs grep -w bar

4) 結果から見ると　/usr/local/texlive/2018/texmf-dist/tex/latex/fontspec/fontspec-luatex.sty で

\DeclareMathAccent{\bar} {\mathalpha}{legacymaths}{22}

という定義があるのでこれに引っかかったのではないのかしら？

ちなみに少なくとも 2014 年から定義されていましたので念のため試してみた結果は以下の通り。

2014 ... Package keyval Error: lualatex undefined.
2015 ... luaotfload | db: .... のところで abort
2016 / 2017 は今回の症状と同じメッセージでエラー

根本的な原因は「独自の再定義とfontspecが衝突している」ことです。次のソースで同じ現象が起こります。

\documentclass{article}
\usepackage{fontspec} % no-math無し
\renewcommand{\bar}[1]{\overline{#1}}
\begin{document}
\end{document}

要するに、「fotnspecの既定動作は、数式フォント関連の拡張と衝突を起こしやすい」（参考記事）わけです。

そして、LuaLaTeXで動作するBXjsclsは、クラスオプションの設定を実現するためにfontspecを読み込む仕様であるため、このfontspecの特質の影響を受けるわけです。（ltjs系クラスはfontspecを読み込まない。）

次のいずれかの方法で回避できます。

1. fontspecにno-mathオプションを渡す（前掲の記事を参考）ために、クラスオプションにno-mathを付ける。

   \documentclass[lualatex,a4paper,ja=standard,no-math]{bxjsarticle}

2. \barの再定義を、文書本体開始時まで遅延させる。つまり、hoge.sty内の記述を以下のように修正します。

   \AtBeginDocument{%
     \renewcommand{\bar}[1]{\overline{#1}}}

---

既定（no-math無し）のfontspecは「数式英字フォントをテキスト用フォントに追随させる」という機能をもちます。これを実現するため、fontspecはLaTeXの数式英字フォントを再設定するのですが、その際にいくつかの数式記号（\barが含まれます）の定義を修正しています。

ところが、この「追随」の動作は、数式フォント用のパッケージ（newtxmath等）を利用している場合はユーザの意図に合いません。そのため、fontspecは、「再設定」の実行を文書本体開始時まで遅延させて、そこで「数式フォント用のパッケージが読み込まれているか」を検査し、読み込まれている場合は再設定を抑止します。

従って、プレアンブル中で\bar等が再定義されると、fontspec側の再定義が失敗して、文書本体開始時にエラーになる、ということのようです。こういう場合は、no-mathを指定して手動で「再設定」を抑止する必要があるわけです。

あるいは、\bar の独自の再設定を \AtBeginDocument で遅延させる（かつそれをfontspecの読込の後で行う）ことにすれば、独自の再設定はfontspecの処理が終わった後で行われるので正常に実行できます。