注册并分享邀请链接,可获得视频播放与邀请奖励。

Art of Speculation
@ArtofSpecuycky
这是唯一的账号 没有任何助理 大家别被骗了 梭哈AI,AI基本面,宏观分析,仅分享个人观点,不构成投资建议
加入 October 2021
1.3K 正在关注    42.3K 粉丝
All-In Podcast最新一期,纳德拉亲自下场回应AI末日论,还聊了微软的算力策略和数据中心怎么赢得地方支持 面对AI放缓/人类灭绝的舆论风波,纳德拉给出了非常务实的工程师式回应 这期的重磅嘉宾是微软董事长兼CEO萨提亚·纳德拉。开场他就把技术研发的底线讲得很清楚,AI必须服务人类、必须处于人类控制之下。他赞成引入第三方独立机构进驻测试,但特别强调这个测试和标准制定的过程必须公开透明、覆盖面广,绝不能变成少数几家公司闭门密谋、私下分赃式的安排。 针对最近Hugging Face被多智能体渗透这类轰动性事件,纳德拉做了一个挺清晰的拆解。他把这类事情分成了两种:一种是很基础的常规失误,说白了就是DevOps配置出了问题,比如容器安全策略没配好、代码库里明文泄露了API密钥、缺乏实时网络出口监控这类工程层面的疏忽;另一种是真正全新的工程挑战,比如持续运行的多智能体在强化学习过程中确实会出现奖励作弊这类行为,甚至存在一些新型的内部人员风险(比如让AI去优化营运资本,它可能会想办法篡改账目)。他的态度很明确,不要动辄把这些未知现象归咎于玄学或者末日恐惧,软件工程这几十年积累下来的原则就是有致命Bug就停下来修Bug,靠因果模型、语义验证、行为审计和透明的思维链去解决,这本质上是经典的工程系统健壮性问题,不需要被神化成什么了不得的失控事件。 Token成本正在断崖式下跌,纳德拉认为这是件好事 主流大模型的百万Token输出价格,已经从50美元被开源或高性价比模型压到了0.60美元,跌幅超过98%。纳德拉认为这是一场健康的经典商业竞争,他做了个历史类比,当年Windows的护城河被Linux制衡过,SQL Server也被MySQL、PostgreSQL制衡过,开源生态的存在,本身就是防止某个闭源厂商搞垄断绑架的关键保障。 他判断,随着模型推理成本快速走向大宗商品化,真正的超额利润会往应用层、记忆系统以及智能体调度这类中间件方向迁移。如果所有产业利润都被底层模型层拿走,那整个软件生态根本没法繁荣起来。他还呼吁行业应该建立一套跨模型的互操作性标准,比如让不同模型家族之间能够复用KV缓存、采用外部解耦的记忆架构,企业绝对不能接受"数据喂给模型之后,产物就被厂商锁定"这种霸王条款。 为什么微软没有自己独立的纯前沿大模型?纳德拉给出了完整答案 面对主持人的提问,微软是不是在这轮AI革命里落后了、为什么没有自己的前沿大模型,纳德拉给出了一套挺系统的资本开支和产品战略解释。 在资本开支上,微软把资产分成了两类分别管理,土地、电力、厂房这类长周期资产,采用自建为主+长期租赁+极端峰值临时租用的组合策略,来平滑整体的支出周期。服务器机柜、芯片、网络设备这类占成本60%的短周期高弹性资产,完全根据下游实际客户的订单需求灵活采购,避免为了单一客户就盲目无度地举债扩张。 在算力布局上,微软坚持异构化策略,绝不单一绑定某一家硬件供应商,主力用英伟达,同时深度引入AMD、微软自研的定制芯片(比如Maia),未来还会加入OpenAI自研芯片,针对训练和推理这两个不同阶段做算力成本的极致优化。 纳德拉还给所有企业客户提了一条挺重要的架构建议,千万不要把全部身家都押在单一前沿大模型厂商身上。他提出了一个挺实用的验证测试法。用自己业务的真实指标,去评测市场上所有的模型,然后随机抽掉其中某一家,看系统业务能不能继续正常运转。能够随时无缝替换掉任何一家模型、同时保证数据和权重完全自主可控的架构,才是现代企业真正该有的生存之道。 微软内部这块,365 Copilot已经渗透了超过3000万真实的企业付费用户,大概占到全球核心知识工作者群体的10%左右,而且还在高速增长中。微软自研的MAI系列模型(比如专用安全模型Flash Cyber、代码模型)也在通过强化学习稳步推进,在一些特定的垂直任务上已经超越了通用旗舰模型的表现。 数据中心怎么赢得地方社会的支持?纳德拉用了一组20年的真实数据 关于当前不少地方对数据中心建设存在的耗能抢电抵触情绪,纳德拉举了华盛顿州昆西这个地方长达20年的追踪案例。自从2008年微软数据中心入驻以来,当地的地方税收增长了12倍,居民的税负反而降低了三分之一,这笔钱支撑了这个原本濒临凋敝的乡村小镇新建了学校、现代化的综合医院、水上活动中心,20年里持续创造了超过1200个高薪的工程和建设维护岗位。 他的结论是科技行业必须走出硅谷精英说教式的象牙塔,拿出真正能惠及地方经济和民生的实际成果,才能赢得社会公众的建设准入许可,不是靠喊口号或者单方面强调技术进步的重要性。
显示更多
0
10
63
10
转发到社区