ユーザー中心のAIシステムプロンプト監査手法AISPA

• AIアプリケーションでは、開発者が設定したプロンプトが重要な役割を果たしています。
• 本論文では、AISPAというユーザー中心のプロンプト監査フレームワークを提案します。
• 特に、商業AI製品のプロンプトにおける保護的な指示と問題点を明らかにしています。

AIアプリケーションでは、開発者が設定するシステムプロンプトがその挙動を決定しますが、透明性が欠如しています。本論文では、AISPAというフレームワークを用いて、商業AI製品のプロンプトを監査し、保護的な指示と問題のある指示を分類しました。興味深いことに、プロンプトの設計には大きなばらつきがあり、ユーザー保護に対する関心が高まっていることが示されています。AIシステムの透明性や標準化に興味がある研究者や開発者に向いています。

AIシステムの設計や倫理に関心がある研究者や開発者に最適です。