【AIに「使わないで」と書くだけでは、守られたことになりません】
AIに仕事を任せるとき、こんなルールを書きます。
「個人情報は評価に使わないこと」
「社外秘の数字は出さないこと」
「お客様の名前は伏せること」
ここで、指示に書いたから大丈夫と考えがちです。
でも、
AIは指示を守ろうとしますが、毎回必ず守れるとは限りません。
守らせたいことは、二重に防ぎます。
入力側:そもそも渡さない。名前や番号は伏せてから渡す。
出力側:出てきたものに、伏せたはずの情報が混ざっていないか確かめる。
指示は1枚目の壁で、最後の壁にはしないほうが安全なんですよね。
显示更多