가입 후 초대 링크를 공유하면 동영상 재생 및 초대 보상을 받을 수 있습니다.

夜谈
@gntalktalk
提示词咒语工程师,神经网络病患者,ai硅基带路党
가입 January 2011
1.7K 팔로잉 중    2.8K
AGI没有尽头,因为现实世界本身没有尽头 市场上有一个错误的观点认为,只要AGI实现,AI最终就能自动完成从科学研究到芯片设计再到工业制造的一切事情。 而届时AI所需的算力、存储、通信等资源消耗需求就会放缓甚至减少。 这低估了现实世界本身的复杂度。 语言、代码、图片、视频,本质上都属于“高压缩度信息”。token本身就是现实世界经过压缩后的表达。重要的是,现实世界并不是token。真正困难的部分,可能不是语言智能,而是现实世界状态空间本身。 先进制程就是最典型的例子。 有人认为,未来AGI可以通过大世界模型,完整模拟整个先进制程,从而快速迭代芯片、材料、能源系统,最终实现真正意义上的自我递归升级。 但先进制程可能并不是一个能够被完全压缩的系统。 一个现代先进Fab,本质上是一个极端高维、强耦合、连续动态的现实系统。里面同时存在光学、量子效应、热力学、流体、等离子体、材料缺陷、化学反应、机械振动、电网波动、供应链扰动、腔体老化、温度漂移、人工经验。这些系统不仅动态变化,而且跨越多个时间尺度与空间尺度。很多变量甚至无法完整观测。 今天即使TCAD和流程模拟已经极其先进,真正决定良率的,依然是大量经验调参与真实实验。重要的是,先进制程更像天气系统,而不是围棋。围棋是完全规则、完全可观测、离散化的世界。先进制程则是连续、混沌、存在hidden variables,而且误差会不断放大。 有些系统天然存在 computational irreducibility(计算不可约性),这意味着不存在真正的计算捷径。你无法跳过真实演化过程,直接得到最终结果。很多复杂系统,最短描述本身就接近系统本体。 这就是柯尔莫哥洛夫复杂度:如果一个系统无法被大幅压缩,那么想完整模拟它,所需要的信息量和计算量,可能会接近现实系统本身。 这意味着,AI若想真正实现包括模型、芯片、能源系统在内的完全自我迭代,其所需算力,很可能远远超过今天行业的想象。重要的是,这可能不是10倍、100倍的问题,而是多个数量级的问题。因为AI真正困难的部分是现实世界的状态空间。 AGI真正的边界,是现实世界本身。 而现实世界本身,没有尽头。
더 보기