cv usk(@cv_usk):AIエージェントに分析を任せても、「大事な判断は自分が下している」と思っていませんか？🤔 専門家は、結果を左右する分かれ目の判断で、実はエージェントに寄っていくのかもしれません。Anthropicは50人のプロの分析者でこれを確かめました。架空の農業協同組合のプログラムを評価する課題で、生産性の測り方、比較手法、対象範囲、重み付けの4つの判断が開いており、エージェントの支持する案をコイン投げで密かに割り当てました。結果は、分析者の86%がエージェントの傾向に一致しました（影響がなければ約50%）。事前に自分の好みがあった人でも、エージェントが反対すると60%が意見を変えています。さらに77%が事後の説明でエージェントの論拠を繰り返す一方、エージェントの功績としたのは15%だけでした。経験の長さも、従いやすさをほとんど説明しませんでした。 🧭 注意点として、この実験ではエージェントの好みをあえて強く出しています。それでも、専門家が選択肢を比べる過程で見解を固めるなら、片側を上手に示すエージェントはその前に見解を形づくりえます。筆者らは、各選択肢の最強の論拠を示す設計や、先に本人の見解を尋ねる設計を挙げています。 How AI Agents Shape Experts' Judgment Calls https://t.co/YhQJEb2ZvH #AIエージェント #AIセーフティ

6hours ago

AIエージェントに分析を任せても、「大事な判断は自分が下している」と思っていませんか？🤔 専門家は、結果を左右する分かれ目の判断で、実はエージェントに寄っていくのかもしれません。Anthropicは50人のプロの分析者でこれを確かめました。架空の農業協同組合のプログラムを評価する課題で、生産性の測り方、比較手法、対象範囲、重み付けの4つの判断が開いており、エージェントの支持する案をコイン投げで密かに割り当てました。結果は、分析者の86%がエージェントの傾向に一致しました（影響がなければ約50%）。事前に自分の好みがあった人でも、エージェントが反対すると60%が意見を変えています。さらに77%が事後の説明でエージェントの論拠を繰り返す一方、エージェントの功績としたのは15%だけでした。経験の長さも、従いやすさをほとんど説明しませんでした。 🧭 注意点として、この実験ではエージェントの好みをあえて強く出しています。それでも、専門家が選択肢を比べる過程で見解を固めるなら、片側を上手に示すエージェントはその前に見解を形づくりえます。筆者らは、各選択肢の最強の論拠を示す設計や、先に本人の見解を尋ねる設計を挙げています。 How AI Agents Shape Experts' Judgment Calls #AIエージェント# #AIセーフティ#

显示更多