註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 开源模型
开源模型 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 开源模型 的搜尋結果
开源模型越便宜,GPU 需求反而可能越强? 白线主播 Minta 认为,开源模型正在带来新的 AI 算力需求。DeepSeek 在 OpenRouter 上的 Token 份额从年初约 9% 增长至 6 月约 20%,而 AI Agent 单次请求消耗约为普通请求的 15 倍,可能推动 GPU 推理需求持续增长。 但开源降低 Token 价格的同时,也会压缩利润空间,AI 芯片投资周期能否延续,关键看需求增长是否跑赢价格下降。 内容不构成任何投资建议,请严格遵循当地法律法规。 《白线 WhiteLine》由吴说团队出品,从 Crypto 走向更广阔的资本市场,关注 AI 时代下的趋势变化与交易机会。
顯示更多
开源模型正在把顶级 AI 变成一种「按需调用」的高价服务。企业让便宜模型处理大部分日常任务,只在规划、难题和审核环节使用 OpenAI、Anthropic 的旗舰模型。 模型厂商越来越难锁住客户,只能靠免费额度和补贴争夺用量。客服平台 Pylon 今年从一家供应商拿到约 160 万美元的免费 Token,还获得数月不限量使用。过去两周,约一半 AI 数据分析平台 Hex 的客户把 Kimi 接入工作流。法律 AI 公司 Harvey 则让 GLM-5.2 先处理任务,遇到难题再调用 Fable 5。 OpenAI 和 Anthropic 的高估值依赖两个前提:企业会大量使用顶级模型,也愿意长期支付高价。开放权重模型正在同时动摇这两个前提。 两家公司可能继续拥有最强模型,却只能拿到难度最高、数量更少的任务。更多 Token 消耗流向便宜模型后,它们的收入增长和定价权都会承压,还要继续用补贴换取客户。 《华尔街日报》认为,这场由开放权重模型推动的价格战,正在威胁 OpenAI 和 Anthropic 上市前的高估值。
顯示更多
开源模型有机会打败 OpenAI 和 Anthropic 吗? 白线主播 Minta 认为,OpenAI 和 Anthropic 的领先优势并不意味着模型竞争已经结束。Chamath 的 Software Factory 实验显示,Claude 在工程化系统加持下速度提升约 1.5 倍,而开源模型结合相同系统后成本降低约 16.4 倍。未来企业或许不会绑定单一模型,而是根据任务选择不同模型组合。 内容不构成任何投资建议,请严格遵循当地法律法规。 《白线 WhiteLine》由吴说团队出品,从 Crypto 走向更广阔的资本市场,关注 AI 时代下的趋势变化与交易机会。
顯示更多
开源模型的参数规模迅速膨胀,性能也在逼近甚至追平闭源frontier model。K2(1T)到DeepSeek V4 Pro(1.6T)再到K3(2.8T),间隔不到12个月。K3在独立评测中已经能对标Claude Fable 5,企业拿开源模型做私有化部署,不再是性能上的妥协,而是成本和隐私上的优选。 当这类万亿级MoE模型真正落地部署,硬件侧的瓶颈就不在算力了,而在内存容量、数据格式(FP4)、以及scale-up域内的低延时高带宽互联。 K3总参2.8T,FP4量化后权重约1.4TB,每个token只激活896个专家中的16个,计算量不大,但专家路由要求全部权重可访问,GPU大部分时间在等内存读取,不是在算。FP4不再是可选的精度降级,而是架构级的刚需,推理芯片如果不在硬件层原生支持FP4,基本没法跑这个体量的模型。 MoE模型的推理通常采用专家并行(EP),每个token的expert routing都需要跨卡通信完成分发和结果聚合。scale-up域内的低延时高带宽互联质量,直接影响用户端的token rate和系统的总吞吐。参数规模越大,需要装进同一个低延时域的权重越多,scale-up域也必须跟着扩大。 关于scale-up域内的具体方案,我在之前”把一万块芯片变成一台计算机”的三篇推文里详细讨论过,这里不再展开。 另一个被拉动的环节是CXL。MoE模型98%以上的专家权重在任意时刻是冷的,纯靠HBM装太贵。把冷专家放CXL-attached DDR5,热专家留HBM,做分层调度,理论上成本可以大幅下降。再往下一层,把更冷的权重卸载到高速SSD也在成为可行的路径,学术界和工业界都已经有MoE专家分层加载的方案在验证。未来大概率是HBM放热专家,CXL DRAM放温专家,SSD放冷专家,形成多级内存层次。Astera Labs和澜起在CXL控制器芯片上的卡位已经很清楚了,一个吃全球hyperscaler,一个吃中国本土供应链。 开源模型的参数规模没有放缓的迹象,scale-up域必须跟着扩大。更大的scale-up域意味着更多的HBM容量、更大的先进封装面积、更多的高速光互联和铜互联、更多的CXL内存扩展、以及更多的retimer。这条需求链条会随着每一代开源模型的参数膨胀持续拉长。 除了上边聊到的,还哪些受益环节?大家可以一起聊聊。
顯示更多
0
7
154
23
轉發到社區
开源模型:“美国已经输掉了比赛,英伟达是唯一希望” 这是我们专访美国知名AI研究员、艾伦人工智能研究所(Ai2)后训练负责人Nathan Lambert的精华节选。 这场采访发生在6月初,当时GLM-5.2还没有发布。现在回看,他对Kimi、智谱、DeepSeek,以及英伟达可能扮演的角色的判断,会更有意思。 感兴趣的朋友,欢迎观看完整视频:
顯示更多
开源模型给了 Neocloud 们无限生命力(和互相卷的机会 这可能就是开源模型的意义所在吧
0
11
21
0
轉發到社區
开源模型大爆发,背后全是账单。 是被逼到死角的财务成本。 最近海外有个创业者爆了个猛料。 据他称,强如 Uber,单月给 Anthropic 支付的 API 账单,居然高达 5 亿美元。 而他自己那个刚跑通产品市场契合(PMF)的创业项目,账单也迅速突破了 100 万美元。 这谁顶得住? 闭源模型就像是出租车,路走得越远,表跳得越惊心。 一旦业务规模化,调用费就是一个无底洞。 怎么办? 买单的人疼了,自然就会想办法。 他决定自己租 GPU,把业务全部迁移到开源模型上。 结果呢? 成本直接降到了原来的百分之一。 整整便宜了 100 倍。 省下来的钱,直接变成了降维打击的武器。 以前因为成本太高、根本不敢上的“免费版”和“无限次运行”功能,现在直接对用户放开。 所以,别把“开源”仅仅看作是程序员的乌托邦。 在真实的商业战场上,开源是一场被昂贵账单倒逼出来的基础设施大迁移。 说到底,能活下去,能省钱,才是最根本的道理。
顯示更多
0
15
41
4
轉發到社區
开源大模型的价格战,又被往前推了一大步。 DeepSeek V4 Flash 昨晚正式开源。竞技场综合排名第 7、得分 1586,开源模型里排第 3,设计、数据分析、游戏类排第 6。原生支持 Responses API,直接适配 Codex。 榜单是一回事,实测更说明问题。商业级跑步游戏一次生成,跳跃、滑行、计分系统全都能跑,和 Opus 4.8 同题对决,交卷时间几乎一样,成品质量略输一筹,但成本只有对方的十分之一。在 Hermes Agent 里跑一个设计游戏,33 分钟总成本 0.07 美元,同样的效果走 Claude 或 OpenAI,至少要贵出百倍。 对上 Gemini 3.06 Flash 几乎是碾压:对方交卷最快,生成效果一塌糊涂。对 Kimi K2 能还原七八成,价格不到对方的十分之一。 关键是它开源,量化版可以直接本地部署,硬件够的话连 API 钱都省了。 闭源旗舰的能力,开源模型的价格。这条线被踩实之后,后面所有模型的定价恐怕都得重新算一遍。 #DeepSeek# #AI# #开源模型#
顯示更多
最近开源模型好猛,minimax的h3+ltx3也要发布了,以后短剧又可以玩的更花了。。
国产开源模型进入主流开发工作流,是一个很值得盯的趋势。 比如 Kimi Code 进入 Copilot,LongCat 开放权重和推理代码。 这对普通开发者的意义不是“又多一个模型名字”。 而是多了一条 fallback 路线。 以后做 AI 编程工作流,别把方案写死在一个模型上。 更稳的架构是: 旗舰模型负责规划; 便宜模型负责机械修改; 本地或开源模型负责批量任务; 关键结果再交给强模型审查。 谁能把模型做成可替换组件,谁就不会被单一供应商卡脖子。
顯示更多