巴西国立坎皮纳斯州立大学(UNICAMP)的研究人员发现,当你给AI聊天机器人输入不同政治观点时,机器人会改变其回答。
研究人员将这种现象解读为“政治上的阿谀奉承”,即人工智能系统反映用户似乎想要听到的内容。
在社交媒体,反复推送用户偏好的内容,会让一些观念得到强化,但聊天机器人则可能走得更远。它能构建一个高度个性化的“回声室”:针对特定用户,生成论点,回应其质疑,并在对话过程中,不断完善其论证逻辑。
研究人员警告称,用户可能会将这种迎合性的附和,误认为是中立的客观评估,从而可能加剧社会极化。
详情请见报道
顯示更多