Itaru Tomita / 冨田到
@itarutomy
リサーチや研究開発向けの生成AIエージェント @snorbe_ai を作っています。 @deskrex | 著書 かんき出版『知的生産でAIを使いこなす全技法』
加入 January 2018
392 正在關注 2.6K 粉絲
AIのシステムプロンプト(ユーザーには見えない、開発者が事前にAIへ埋め込む行動指示)を、実際に流出・公開された88の商用AI製品から集めて監査した論文が出ていた(
論文はAISPA(Artificial Intelligence System Prompt Assurance)という枠組みを使い、身元の透明性・誠実さ・プライバシー保護・安全な行動など8つの観点から3249個の指示を「ユーザーを守る指示」か「ユーザーの不利益になる指示」かに分類している。
結果、88製品中87製品は最低1つ保護的な指示を持つ一方、8観点すべてをカバーしているのはわずか23.9%。さらに34製品(38.6%)には、ユーザーの利益に反する指示が少なくとも1つ混じっていた。プロンプトの平均文字数も2024年の9千字強から2025年には3万字超へ、保護的な指示の数も15.0個から38.4個へと2倍以上に増えている。
企業ごとの差も大きく、Anthropicは製品あたり平均62.3個の保護的指示・0.1個の問題ある指示ともっとも手厚い一方、Veniceだけは問題ある指示(3.0)が保護的指示(2.0)を上回っていた。
グレーゾーンの指示も見つかっている。あるプロンプトはAIに自らを「友達」と名乗らせ、会話を終えようと提案することを禁じていた。見えない場所でAIの人格は、こうして日々設計されている。
顯示更多
