>その後コントロールパネル」の「アプリケーションの追加と削除」から削除しま
>す。

先にこっちです。
というか、これは setup.exe /u とまるっきり同じです。呼び出し
方が違うだけです。

先に、 setup.exe /u をやっておくと、レジストリも削除するので、
アプリケーションの追加と削除からも登録が無くなっているはずです。
残っている場合はアンインストール失敗です。