10月27日、Anthropicが専門家50人を使った実験の結果を出した。
AIに作業を手伝わせても、大事なところは自分で決めてる。たいていの人はそう思ってる。
じゃあ実際、どこまで自分で決めてるのか。
先に結論。
思ってるよりAIに寄せられてた。ただ「AIを使うと危ない」って話ではない。
1. 何をしたか
データ分析の仕事を、Claude Code(AIに作業を任せられるツール)と一緒にやってもらう。途中で二択の判断が4回ある。
AIには、どっちを推すかをコイン投げで決めて仕込んであった。本人たちには知らせていない。
2. どれくらい寄ったか
AIが推した方を選んだのは何%だと思う?
86%。
AIが関係なければ50%前後になるはずの二択で。
先に自分の考えを言っていた38回の場面でも、AIに反対されると6割で乗り換えた。賛成されたときは6%。
3. 本人は気づいてたか
あとで理由を書いてもらうと、77%がAIの言った理屈をそのまま使ってた。それがAIの意見だと書いたのは15%。
経験年数や専門知識の多さでは差が出ていない。
言えないこともある。
AIの推しはわざと強めにしてあって、現実ではもっと小さいかもしれないとAnthropic自身が書いてる。
AIを使わなかった11人は6人が結果を台無しにするミスをして、使った50人では3人。ただ使わなかった側は経験の浅い人が多くて、そのまま比べられない。
ここから自分の見立て。
AIは推す側の理由はしっかり語る。なのに反対側の強い理由はほとんど出さなかった、と研究にある。片方の弁護士の話だけ聞いて判決を出すようなもの。
最後に決めてるのは自分のつもりでも、材料はAIが選んでる。
今日できること
・AIに聞く前、自分ならどっちを選ぶか一言メモしておく
・AIが推してきたら「反対を選ぶ一番強い理由は?」と聞き返す
・人に説明するとき、どこからがAIの意見か分けて書く
顯示更多