注册并分享邀请链接,可获得视频播放与邀请奖励。

小隐新十年(Feng Wang)
@wangfeng_0128
机器漫步AI实验室/蓝港互动集团(8267 HK);@element_market:@Marsbit2022 ;Asset @Lkventure ;Ex-SVP /Kingsoft Group;PKU…
加入 June 2020
6.7K 正在关注    91K 粉丝
随想/具身智能的基础模型已经四大流派。 两位科学家、一个企业巨头和明星创业公司。李飞飞的世界模型,强调仿真和数据,英伟达前半场信奉VLM从感知到理解,如今直奔仿真流的WAM、后面的几篇论文有直接抛弃VLM+ACT路径的意思,毕竟要卖软件和算力。只有可爱的PI,坚持了OpenVLM的感知-理解-行动的经典流派,在确定场景中拿数据集作验证和逐步泛化。 却唯独杨(LeCun)的JEPA很另类,更像纯粹的牛顿物理AI。 这几天思考,这哥们敢于提出把真实世界压缩为高维度空间的“潜在表示”。以前听到介绍JEPA中反复提及的用“抽象表征”总是心里各种不适应,在理科生的眼中,表征等于外在表现或者肤浅的表面。其实英文Abstract Representative,原意是“抽象的再次复现”,更容易理解。“表征”是哲学中译词汇,文科生可能更懂。今天的计算机论文翻译者,大概需要哲学或者心理学PDH。 也想起来以前看那本西瓜书《机器学习》教材的时候,听到辛顿“反向传播理论“的别扭。反向可能是倒着推算吧,可是提到传播理论四个字,还以为串课到了传媒大学新闻系。其实这个该死的词汇,只是复合函数偏微分中常用的“链式法则”,那个公式简单极了,一句话,Loss损失函数(也是一种复合函数)中的一个权重自变量向上一个函数的递归式逐级偏微分连乘。你不知道我高中多讨厌语文。 LLM的计算,超级黑盒。 从I/O之间的有如无限大的张量线性叠加的隐藏层。 如今,具身智能则要计算从Encode到Decode的复杂几何倍数于LLM的“隐空间”。 超级大黑盒。 资本希望的趋势,VLM的黑盒套在LLM的黑盒上。别让我的钱白烧。 无论是Hidden Layer还是今天的latent Space,中文翻译都用了一个隐字。很喜欢。 想起自己五年前的起名ID,简直是为AI而生。以后直接叫我,隐。《边水往事》的导演,我朋友,当年第一部创作我们参与过投资,他的名字叫做算。别忘了,请以后叫我,隐。 比起李飞飞的Sim to Real结合Dateset出发的世界模型,杨的视角里,完全不关心像素、纹理、阴影和光照。杨更关心的“抽象的潜在表征”,比如预测”被遮挡的区域形态,时间的后续状态”。 三位都说自己的模型、数据和工具如何,针对创业者、商业和落地预言。唯独杨的提出,是绝世独立的一套抽象架构。今天,主流从业者似乎没人理会杨。我感觉,但愿是错觉,在Meta杨像一个Loser,但是杨的JEPA,所谓的“联合嵌入预测架构”,让我想起最初的谷歌提出Transformer和注意力机制,也只是从一套理论架构开始,其实也被一度冷落。 做学术研究的,往往结局是一条路走到黑,从黑天开始走。无论价值还是审美,都没错。想起刚拿奖的两位数学家的样子,都美,都很优雅。扯远了。已经文非所题。 杨更像是一位物理学家。
显示更多
0
90
50
1
转发到社区