Register and share your invite link to earn from video plays and referrals.

ETHPanda
@ETHPanda_Org
ETHPanda, a group of Ethereum builders dedicated to facilitating Chinese-speaking network to deliver support for Ethereum. Telegram:
Joined March 2024
334 Following    8.4K Followers
一旦 AI 跨过能够独立延续文明的 AGI 门槛,世界不再依赖人类就能继续演进,人类主导地位就从必然变成历史偶然。 在本帖中,Vitalik 发表了对 AI 最新的看法,希望技术以“60 km/h,而不是 200 km/h”穿过这条狭窄走廊,为保留人类能动性、多元秩序和选择权争取时间。主要内容如下: 1. 机器能力经历了三轮扩张 - 工业革命:重复执行标准动作; - 计算机:完成可被逻辑精确定义的任务; - LLM:完成可以通过大量样例定义的认知与物理任务。 2. 最大的不确定性 LLM + Agent 是否已经是能覆盖全部能力的“最终范式”,还是仍会像过去的技术浪潮一样,在创造力、情商、高层战略等领域遇到长期瓶颈?如果存在瓶颈,AI 会让“每个士兵成为管理者、每个管理者成为将军”;如果不存在,人类的比较优势可能最终消失。 3. 他对 AGI 的定义更严格 AGI 是:把 AI 放进机器人身体,即使人类突然消失,它也能独立延续文明。这个节点之所以危险,是因为此后人类掌握地球不再源于不可替代的能力,只剩产权、制度和武力控制形成的暂时优势。 4. 相对理想的路径 通过更深的人机协作乃至脑机接口,让“人 + 机器”持续优于纯机器;同时保持政治经济多元,避免单一公司或国家取得决定性优势,并允许个人选择升级自己或保持原有生活方式。 5. 为什么倾向减速 VB 明确说这是“一条狭窄走廊”:纯 AI 过强、权力集中、毁灭性技术扩散,以及人机融合反而消解人性,都可能让路径失控。因此他对 slowdown / pause 提案持温和支持态度,也期待开放权重 LLM 可能通过削弱前沿模型的资本投入形成市场化减速。
Show more
Thread: how I think about the growth of AI capabilities and what it means for us as they keep getting stronger. I think the right model for comparing humans and AI is not any single dimension like intelligence or aggregate performance on economic tasks. Rather, I view both humans and machines as having a whole range of capabilities. This includes both physical (eg. doing things with our hands, walking) and mental (eg. strategic thinking, mental math, emotional intelligence). For most of human history, machines have only exceeded us in very few areas, eg. a strong early example is water and windmills. So we can look at the situation in 1500 like this:
Show more