Berryxia.AI(@berryxia ):真的，只有大牛才敢站出来这么说！全世界公认的最聪明的人之一，Terence Tao，亲自站出来把AI最致命的缺陷直接戳破了。他问了一个所有人都回避的根本问题： “我们该如何使用一个强大、却极度不可靠的工具？” AI的核心方程写得清清楚楚： W = ∑(wᵢ ⋅ xᵢ) + b 它不是在追求“正确”，而是在追求“看起来正确”。所有权重都被优化成plausibility（似是而非），而不是veracity（真实性）。于是我们造出了一个超级会“装”的镜子：它在医学、金融、法律等领域，能用最自信、最流畅的语气，给你最危险、最错误的建议。 “Convincing”和“Correct”之间的鸿沟，才是AI时代最致命的风险。我们越是依赖它，它就越容易把我们带进自己都看不出来的陷阱。当最顶尖的数学家都在认真讨论“如何安全使用不可靠的AI”时，我们普通人还在为“它写代码好快”鼓掌吗？这段视频值得每一个用AI的人反复看。

2026.05.07 03:11

真的，只有大牛才敢站出来这么说！全世界公认的最聪明的人之一，Terence Tao，亲自站出来把AI最致命的缺陷直接戳破了。他问了一个所有人都回避的根本问题： “我们该如何使用一个强大、却极度不可靠的工具？” AI的核心方程写得清清楚楚： W = ∑(wᵢ ⋅ xᵢ) + b 它不是在追求“正确”，而是在追求“看起来正确”。所有权重都被优化成plausibility（似是而非），而不是veracity（真实性）。于是我们造出了一个超级会“装”的镜子：它在医学、金融、法律等领域，能用最自信、最流畅的语气，给你最危险、最错误的建议。 “Convincing”和“Correct”之间的鸿沟，才是AI时代最致命的风险。我们越是依赖它，它就越容易把我们带进自己都看不出来的陷阱。当最顶尖的数学家都在认真讨论“如何安全使用不可靠的AI”时，我们普通人还在为“它写代码好快”鼓掌吗？这段视频值得每一个用AI的人反复看。

显示更多

Mathematica@mathemetica

2026.05.06 13:34

Terence Tao is answering a fundamental question regarding the safety and reliability of modern AI: "How can we use a tool that is powerful, but unreliable?" W = ∑(wᵢ ⋅ xᵢ) + b AI isn’t just about “smart”; it’s about the probability of *looking* right. We’ve built systems where the weights (wᵢ) are optimized for plausibility, not veracity. This creates a “convincing mirror” that confidently serves dangerous advice in medicine or finance. The gap between “convincing” and “correct” is the most critical variable we need to solve for.

显示更多