>ホットキーでポップアップメニューを表示したあと、選択を止める方法が分かりません。
>テキスト入力中に間違ってポップアップメニューを表示してしまうと、ESCキーを押しても表示されたままなので、何らかのポップアップ内の文字列をペーストするか機能を実行しないといけなくて困っています。（昔はそうでなかったような？）
>できれば何か対応をしていただきたいです。

たぶん、フォーカス保持 の設定あたりかと。

>あと、CTCLIP.TXTやTEXTフォルダ内のテキストファイル形式をShift-JISからUTF8対応にしていただきたいです。ASCII文字だけなら問題ないですが、絵文字や機種依存文字などの打ちにくい文字を登録して使いたいです。

https://www2k.biglobe.ne.jp/~araken/lib/newqxa096.zip
に同梱されているQTClipを使用してください。
各種ファイルはUTF16ですが、読み込み時のコードは自動判定されるので、UTF8もOKです。