単純に数式中で直前のノードを取得すれば泥縄式でいけるのかもしれません.
「+」の直前が mathopen である場合に,メッセージを出してみます.
\documentclass{jarticle}
\expandafter\def\csname prebinoppenalty@mathsubtype8\endcsname{\mbox{penalty!}}
%%%見やすいように文字にした:8 は mathopen
%%% 0から19まで頑張る
\DeclareMathSymbol{\plussymbol}{\mathbin}{operators}{"2B}
{%
\catcode`\+=\active
\gdef+{\csname prebinoppenalty@mathsubtype\the\lastnodesubtype\endcsname
\plussymbol}
}%
\mathcode`\+="8000\relax
\begin{document}
$a + b$
$a (+ b$
\end{document}