dvipdfmx.def を CTAN から入手してソースと同じディレクトリに置いた
ところ、Akira Kakuto さんのソースが通りました。
（つまり "a b.xbb" が存在すればそれを読み込み、存在しなければ
ソース中に書いた \write18 が restricted shell escape で正しく起動）
\IfFileExists{"a b.xbb"}{}{\immediate\write18{extractbb "a b.pdf"}}
を書かなければ失敗するのは、当然ながら従来と同じです。