注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 Scheduling
Scheduling 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 Scheduling 的推特
👁️ 一个 35B 的多模态模型,现在能直接装进手机里看图、看视频,MiniCPM-V 4.7 的 35B-A3B 版本把这件事做成了。 MiniCPM-V 4.7 在 Hugging Face 上拿了 1033 个赞,10 月 19 日上了 Hugging Face 的热门趋势,Apache 2.0 许可证。 以前想在手机或者边缘设备上跑多模态模型,基本只能挑 1B、2B 这种小个子,看图能说个大概,细节一问就露怯;想要 30B 这个级别的理解力,就得把图片传到服务器上去。35B-A3B 是这个系列第一个混合专家模型,每次只激活一小部分专家,开发团队称它是第一个能在设备端流畅跑起来、又不掉性能的开源 MoE 模型,靠的是一套叫 Lookahead Expert Scheduling 的专家调度、分层量化和 DSpark 推测采样。官方给的数字是在 iPhone 17 Pro Max 上约 3GB 内存、每秒 13 个 token 以上的解码速度。 视觉这头的省法也直接:沿用 LLaVA-UHD v4 的思路,在视觉编码器内部就把视觉 token 提前压掉,混合压缩比有 4 倍和 16 倍两档,所以单图、多图到视频都吃得下。开发团队自己测的结果里,Instruct 模式下它比 Qwen3.6 35B-A3B 用更短的推理时间拿到了更高的综合得分。 落地这块也没为难人:iOS、Android、鸿蒙都能部署,Rockchip、Intel、AMD、Arm 这几家芯片平台都做了支持;SGLang、vLLM、llama.cpp、Ollama 这些推理框架都能直接用,权重给了 BF16 和 GGUF,另外还有 AWQ、GPTQ、FP8 几种量化版,GGUF 那份能走 CPU 推理。嫌 35B 还是大的,同一批还放了一个 1B 的版本。 多模态模型过去是云上的事,现在开始往手机里挪了。 Hugging Face:
显示更多
一个加密执行网络,为什么需要 ARX? 最近看到很多朋友关注 @Arcium 项目,TGE前的热度也挺高,但我想换个角度跟大家聊聊 $ARX 绝大多数用户听到 token TGE,第一想法就是预期开盘价格或者短期如何炒作营销。但在我看来,$ARX 的真正的落地价值,不在于价格波动和二级收益,而在于它在 Arcium 网络里的作用。 Arcium 本质上是一个加密执行网络:机密计算、隐私 AI、多方协作都在这个网络里运行。而 $ARX 并不是简单的治理代币,它和网络的核心功能紧密绑定: · Network Fees:网络使用时支付费用,形成激励闭环; · Staking / Delegation:节点质押保证网络安全,同时参与计算调度; · Node Security:网络安全依赖节点质押和行为约束; · Compute Scheduling:加密计算任务的分配和执行,需要 $ARX 作为激励和权限载体; · Governance:社区可以通过 $ARX 参与决策,优化网络资源、升级协议和参数。 简单说,如果网络活跃、计算任务增长,$ARX 的价值叙事就会围绕费用、质押、安全和调度展开。 但最终,网络使用量和生态落地才是决定性因素,不是单纯拥有 token 就能自动产生价值。 CoinList 社区轮 100% unlocked at TGE 是一个值得关注的结构性特点。 当然,这并不意味着市场不会出现波动,也不意味着不存在短期抛压。但相比许多低流通、高 FDV 项目,这种发行方式至少让市场能够更早完成价格发现。 不过从长期视角来看,发行结构只是起点。 ARX 最终能否建立起可持续的价值支撑,仍然取决于 Arcium 网络的真实使用情况,包括计算需求增长、节点参与度、开发者采用以及生态扩张速度。 我观察到几个信号: 1. 网络功能落地:Umbra Web、ReFi Hub 和 Explorer 已经展示了机密计算的真实应用。 2. 节点激励和安全:$ARX 将绑定计算调度和节点质押,让网络运行和安全形成闭环。 3. 长期价值逻辑:$ARX 的 utility 越丰富,生态参与者越多,底层基础设施才更稳固。 总体来说 - 的价值不在于短期 TGE 热度,而在于它能让 Arcium 的机密计算网络真正运转。如果你关注 AI + 隐私计算 + Solana 生态,这才是我认为值得关注的关键点。 短期看,TGE 会带来市场关注度和热度,但长期真正能体现价值的,是网络活跃度、节点安全、任务调度和生态落地。 换句话说,$ARX 不只是一个 token,它是网络运行的血液,是加密执行环境可持续发展的核心工具。 顺便提醒一下,之前参与过测试网、任务活动或者生态交互的UU们,记得去查查自己有没有空投资格。祝大家都能吃上猪脚饭~
显示更多
0
103
77
1
转发到社区
今天芯片圈最大的新闻,莫过于Gerard在创立Nuvia CPU被高通收购五年之后,重新出发,新创立了ARM CPU公司,名字也跟之前非常像,叫Nuvacore 现在这个时间点做数据中心CPU,确实是赶上了CPU十年来最好的时代: AI agent带来CPU短缺潮已经经隐隐浮现,AWS多个客户都提出要包揽所有Graviton ARM CPU产能 ------------ 这个消息对硅谷的芯片打工人吸引力是巨大的,Nuvacore这次的阵容都是功成名就的明星阵容,以前Nuvia创始团队重新集合,拿了红衫的投资,做面向 AI 基础设施/agentic computing 的通用ARM CPU。当年还是一个尚未完全被验证的大方向都能大获成功,而现在ARM CPU服务器正在风口浪尖上,前景和想象力和2019年Nuvia比起来大了太多了 上一次Gerard把Google,苹果platform architecture组的架构大佬挖了好多过去,这次的号召力只会强得多,240m的融资,已经验证过的路径和创始团队,肉眼可见的下一个增长风口,一定会让Nuvacore成为湾区最热门最受追捧的芯片startup,没有之一。毕竟这是一个肉眼可见能财富自由而且风险收益比极好的机会 ---------- 遥想当年Nuvia第一代CPU的发布赶上苹果M2时代,还是挺震撼的,Nuvia让高通在一年的时间CPU跑分进步了整整三代,单核跑分从2300变成3200,竟然超过了苹果M2 max一大截 可惜Nuvia Phoenix core从发布到最后上市拖了太久太久,中间苹果把牙膏挤爆了连着上市了M3/M4,于是Nuvia CPU上市之后从跟M2比较变成了跟M4比较,从期待中的C位变成背景板了 当年Nuvia的眼光非常超前,在2019年ARM CPU服务器市场占有率几乎为零的情况下,就是想从零开始打通这个市场,2021年被高通14亿美元收购之后,高通也给了无限的资源支持,扩招力度很大,给的薪水都是市面上最高一档的。 可惜大环境在2022年恶化的很快,加上高通的管理层战略眼光实在太差太短视,在业界ARM服务器生态都开始有起色的时候,为了股价节约开支,竟然再一次把自家的Nuvia CPU 服务器团队解散了(算上2015年已经解散过一次ARM服务器团队) 直到2025年,Nvidia的Grace ARM CPU都已经发布四年了,Vera ARM CPU都已经自研好久了,Amazon的ARM CPU Graviton都快占据CPU服务器新出货的50%了,高通才后知后觉谨慎的重启ARM服务器项目 所以这次Gerard从高通的高管位置把之前的创始团队拉出来自己干,可能是因为高通高层战略眼光实在太差屡屡错过机会,上次Nuvia想做ARM服务器,高通的承诺也因为大环境恶化没做数,结果被收购之后被高通取消了项目直接改做了laptop芯片和手机芯片 加上高通今年在手机销量上因为内存和存储历史级的巨额涨价,可以预见要受到重创(市场萎缩30%),能拿出的扩张预算有限,在高通能拿到的资源是受到掣肘的 而在创业公司里比在 Qualcomm 这种大平台里更容易拿到足够快的决策速度、团队纯度、产品定义权和资本叙事,于是选择在窗口已经被验证时重新集结老班底 但更可能因为,AI时代的CPU前景想象力真的太广阔了,完全值得重新投入一次,不是Gerard变了,而是外部市场变了 ------------------------ 进入2025年之后,AI agent的出现,隐隐让CPU重新变成了瓶颈 CPU服务器重新步入增长轨道,而且潜力巨大,有好几个因素: 1. 随着推理时代的到来,GPU演化到针对推理的系统级新架构,CPU 是永远在忙的总指挥orchestrator, 因为要追求token throughput,所以异构计算阶段变多 + 批处理数量batch越来越大,scheduling/routing/data flow复杂度变高,对orchestration要求也变高 所以在系统级异构推理架构里,AI加速器和GPU在CPU:GPU的配比上,也变得更为激进,从以前的1:4到Grace Blackwell的1:2,以后是很有希望达到1:1的比例的。Google TPU配Axion,Amazon Tranium配Graviton,Nvidia Rubin配自家Vera CPU 这条在我的去年11月半导体年终回顾写过,基本上在2026年成为了共识,虽然这部分主要是各家AI 芯片自研,并不是纯粹的CPU服务器,其实不算是外部CPU服务器的机会 2. 也是同一篇年终回顾里写到的: 从CPU视角去看agentic workload,routing和工具处理都在CPU上,如果把常用的agentic框架做profiling,比如SWE-Agent, LangChain, Toolformer,CPU最长可以占到90%的E2E端到端延迟,throughput瓶颈也更多的卡在CPU,CPU甚至能耗也超过了总能耗的40% Agentic AI目前是一个CPU瓶颈更多的事情,Agent管理很多个CPU,再加上agent经常要开sandbox,很可能会成就CPU需求的新一波回暖 现在回看去年写的这个逻辑,潜力是非常大的。但其实年初可能并没有很大规模发生,年初的CPU增长和各家渲染的CPU短缺潮和这个逻辑暂时关系不大,更多可能是前几年的capex投入GPU的比例太大,造成传统CPU服务器投入不够,所以需求上升是一个回补之前传统服务器投入不够的部分。 但到了下半年甚至2027,agent会开始更广泛的铺开,比如智能导购和客服,已经占到了Amazon去年年底100万CPU采购的相当部分比例,这部分的增长是很快的 前两个逻辑,基本上是今年主流叙事在讲CPU潜力的共识,但是我的感悟是,还有另外两个逻辑被低估了: 3. 造成CPU服务器潜力更大,更长线的主逻辑,可能和agent本身没有直接关系,而是code agent带来的副产物: coding门槛和速度的大幅优化,让“构建软件 + 连接软件 + 调用软件 + 自动化软件”这整件事便宜了一个数量级,Jevons 悖论在software供给端的展开,最终把世界推向更高的软件密度和 API 密度,这直接带来了CPU传统workload的线性上升 从2025年年底开始,coding agent迎来了质变,Claude code迎来了爆发式增长,三个月的token营收增长了三倍,那么导致的下一步必然是Code量的十倍增长,以及App数量的巨量增长 即便是在大厂,每天1m token消耗只能算是个平均水平,人均coding量必然是翻倍的(小厂就是翻十倍了),code供给量暴增,不会只停留在 repo 里,而会逐步变成更多长期运行的软件资产,长期存活的feature变多,product变多,microservice变多,API变多 长线来看,App/API所有的生产成本和生产周期会变成原来的10%,API实现极大富足。那么API的Usage就会大量的上升,这就会造成传统CPU Workload或者说CPU Seconds大量的上升,这甚至和agentic没有直接关系 时间维度上,这个逻辑并不是短期性质,Claude code的爆炸是这几个月刚发生的事情,那么产品上线,microservice,api上线,可能都要向后延迟。当软件变便宜,社会不会少用软件,只会把更多事情软件化 所以也许到下半年甚至更久才会看到,传统cpu云的需求又莫名其妙增加了,表面上看,甚至和AI agent没有直接关系 4. CPU是一个技术上很难通缩的东西,不像内存/存储有很多压缩算法会降低单任务对存储的用量,CPU workload增长转化成硬件需求增长是实打实的 比如说kvcache其实每年都有各种压缩技术出现,老的压缩技术比如kvcache的multi-head它会share一个head(GQV),这个大概会相当于4倍的压缩,再比如说去年turboquant这个技术也会新带来几倍的压缩。然后加上数据精度从FP16到现在的下一步要到FP4,精度的下降都会带来kvcache的压缩,从而带来存储方面的技术通缩。 但CPU是一个技术层面上通缩量很小的事情,目前任何的agentic的cpu workload(CPU seconds)增长都是硬件需求增长,它通缩的方面只有每年每一代跑分提高的10%到15%。如果说另外通缩因素,比如云的五倍六倍的超卖会不会影响?不会,因为它一直是超卖的,所以说超卖/利用率低这个CPU技术通缩的因素不会继续扩大了,每个增长的CPU seconds都是不怎么带打折的硬件线性增长 ARM的指引是CPU的供需缺口可能会到30%以上,这几个原因的叠加,加上AI服务器对CPU服务器产能和订单的挤压,可能会让缺口更大,各个hyperscaler的反应可能是会滞后的 ------------------ CPU整体需求潜力增长的同时,ARM服务器CPU也赶上了历史上最好的时代: Hyperscaler为了节省成本,接近50%的新增传统server CPU都是ARM,Google的Axion,Amazon的Graviton,Microsoft的Cobolt,Graviton甚至2026年的产能已经全部卖完,瓶颈成了产能 Google TPU配Axion,Amazon Tranium配Graviton,Nvidia Rubin配自家Vera CPU,这部分CPU为什么会集体转向ARM,除了成本因素之外,也因为推理系统为了追求token throughput,batch越来越高越做越复杂,自研ARM CPU以及系统性软件硬件的co-design会更方便,比如Nvidia是Dynamo去控制Vera和Rubin之间的协同 Nuvacore的规划上来看,不仅仅满足于做IP,也要做成品,因为在招聘网站上出现了validation engineer的职位 但是这次Nuvacore面临的挑战也不小:起步太晚了,无论是市场上,还是技术上,竞争都激烈了很多。CPU服务器和七年前比,已经复杂了很多,已经不再是单片CPU的竞争,而是rack系统级别的复杂度 现在开始做2028~2029年上市的CPU,要做到rack级别有竞争力,规模要大很多,基本上要几十个chiplet,500+个core拼起来,还要考虑如何适配AI agentic workload,工作量比以前明显要大的多,对一个startup的挑战比七年前也大得多 ---------------- 上次Nuvia在成立两年之后成功的以14亿美元出售,这次市场热度比五年前高了一个数量级,Nuvacore之后的路会怎么走呢? 如果是被收购路线,其实买家可能比五年前比并没有更多,这五年里,Google有了Axion,微软有了Cobalt,Amazon有了Graviton,Nvidia自研的Vera CPU已经成型,连ARM也打破了35年来只做IP的常规,开始做自己的AGI CPU芯片 最有可能的是Softbank系,softbank已经在ARM CPU服务器生态上布局深耕了多年,65亿美元收购了Ampere,再收购Nuvacore是很正常的事情,这个市场想象力足够大 其他的选择也可能是Meta,因为几家互联网公司里,只有Meta的silicon house没有稳定可靠的CPU服务器,有限的资源在MTIA都做AI加速器去了 但是Meta的问题在于稳定性极低,决策每个月都在变化,注意力非常短期化,项目随时取消,对Nuvacore来说完全无法兑现潜力,是一个非常糟糕的买家 但总体来说,Nuvacore的选择肯定比五年前宽了太多了,对ARM CPU服务器的潜力大家的共识都很明确,融资的难度要小很多,自己运营扩张起来,阻力比以前小很多,合作伙伴的配合程度上也因为未来预期,会容易很多 完全可以自己做大到比Nuvia当年更大的规模再考虑出路,根本不着急卖
显示更多
0
28
486
97
转发到社区
Obsidian 作者这两条推很有意思。 Markdown 文件已经事实上成为了当前 AI 文件交互的一个 Schelling point。 大家都默契地选择将自己的文本文件系统变为 Markdown 格式后再进行其他工作。 Markdown 赢得了 AI 时代文本格式的战争。基本上,现在 AI 时代的文本格式和内容展示被局限在了 HTML 和 Markdown 两个部分: 我们最近经常看到圈子里的朋友在发送文本的时候用 Markdown。 在进行演示的时候用的是 HTML(包括最近层出不穷的 PPT Skills 也都是以网页的形式去推广的)。 既然 Markdown 已经成为了事实上的基准,那我们就应该进行下一步了。 Markdown 本身的展示目前非常死板,市场想要更多、更独特的方式来和现有的 Markdown 文件去交互。 当 6 年前 Obsidian 把本地文件夹、双向链接和知识图谱跟 Markdown 结合起来的时候,很多人不太理解这个产品,觉得很难用。 但现在它不仅是个人知识管理的常态,也是 AI 内容管理非常重要的一种方式。 例如我的 CodePilot 里面没有复杂的 memory 机制,所有的 memory 其实都是靠 MD 文件完成的。所以目前需要跳出文本编辑器的思路: 最近很多人在做 Markdown 编辑器,但其实应该跳出这个思路。 将 Markdown 作为一个数据去使用,构建更加跳脱常规的人机交互体验。 比如我的 CodePilot 里的 widget,它可以支持让 AI 用你本地的 memory 和 Markdown 文件作为数据来源。 当你的本地文件发生变化时,你的 widget 组件也会随之发生变化。
显示更多
Weird isn't just visual. Weird is whatever strays from the norm. Weird is relative to the current state of the world. You can have weird principles. They should be things people can legitimately disagree with. You have to remember Obsidian was very weird when it launched six years ago. Local files, malleability, backlinks, graph, even Markdown syntax... these were not as widely understood and accepted as they are today. That's why I spent so much time writing essays like "File over app" to try and explain our choices. The goal was to describe why our weird ideas should be normal, and it worked! Now the world has somewhat caught up and accepted those choices, so it's time to find the next frontier of weirdness.
显示更多
0
15
68
4
转发到社区
Web3 远程工作汇总(5.19) 发布招聘/求职请前往官网,我们会为您推广。 中文工作电报频道:DeJob_official 1️⃣ BitBaby - 运维工程师 2⃣ AlphaAI - 人力主管 - 大客户经理 3⃣ Ju. com - 风控战略分析师 4⃣ Deepcoin - 运维工程师(中高级) - 数据分析师(运营数据分析) 5⃣ HOTCOIN - 交易员 - 视频剪辑师 6⃣ Eather - 客服(英文区) - 用户增长运营实习生 7⃣ Bitunix - 支付运营 - 社媒运营 - AI应用工程师 - 会计(总账) - AI工程师 8⃣ DZMM - 产品经理 9⃣ Luffa AI - PR总监(增长) 🔟Bonnie - 生态负责人 1⃣1⃣ Talentverse - 产品经理(理财或对冲方向) 1⃣2⃣ Schelling Lab - 测试工程师 1⃣3⃣ DODO - 产品经理(高级) 1⃣4⃣ HTX - 市场经理 - SEO 1⃣5⃣ 88EX - UIUX交互设计师 1⃣6⃣ OneBullEx - 风控战略分析师 1⃣7⃣ ApeX Protocol - 区块链工程师(高级,TEE方向) 1⃣8⃣ Y Strategy - 运营助理 1⃣9⃣ XXKK - SEO 2⃣0⃣ AstroX - 安全工程师 Global job Telegram channel: DeJob_Global 1️⃣ Coinflow Labs - Security Engineer 2️⃣ VeryAI - Marketing Lead 3️⃣ Squads - Marketing Manager (Events) 4⃣ Bullish - Senior Product Designer 5⃣ Bitunix - Accounting Associate - Payment Operation - Social Media Manager 6⃣ Flipster - Business Development 7⃣ Pionex - Business Development (Latin America Crypto Payment Card) 8⃣ Ooble Studio - Growth Lead 9⃣ Fermah - Senior Rust Engineer
显示更多
Web3 远程工作汇总(5.11) 发布招聘/求职请前往官网,我们会为您推广。 中文工作电报频道:@DeJob_official 1️⃣ Viabtc - 联盟经理 2⃣ Matrixport - 增长经理 - BD - 增长运营(SEO/GEO,海外方向) 3⃣ BOT - 社媒运营 - 产品经理 4⃣ Eather - 平面设计师 - 风控专员 - 广告投放 - 客服 5⃣ BitBaby - BD(现货) - BD(合约) 6⃣ Marisa - 客服 - 实习生 7⃣ Bitunix - 风控专员 - 风控运营 8⃣ Schelling Lab - 研究分析师 9⃣ HOTCOIN - BD(现货) 🔟88EX - UIUX交互设计师 1⃣1⃣ OneBullEx - PMO负责人(技术与产品方向) - BD 1⃣2⃣ AstroX - 项目经理(高级) 1⃣3⃣ ApeX Protocol - 风控经理 (金融合约产品方向) 1⃣4⃣ Eileen - BD 1⃣5⃣ AlphaAI - 大客户经理 1⃣6⃣ Principia Labs - 市场负责人 Global job Telegram channel: @DeJob_Global 1️⃣ BitBaby - Business Development (Spot) - Business Development (Futures) 2️⃣ HOTCOIN - Business Development Specialist (Spot) 3️⃣ Perena - Marketing Lead 4⃣ General Catalyst - Events Specialist 5⃣ Eileen - Business Development 6⃣ OneBullEx - Business Development
显示更多
2024年的时候,浙江大学的恩师说的一句话,影响了我这两年所有的阅读内容。 他说,你要去看2022年之前的经典书和经典论文,那是没有被AI数据污染的净土。 品味的答案,持续学习的答案,在那里。 其实的确如此,在2022年生成式AI和LLM大爆发之后,整个互联网的数据生态发生了不可逆的质变。互联网,迅速演变成了AI生成内容的自循环反刍池。 我怀念,没有Token泛滥的膨胀感。 作者写下每一个字,都是在有限的注意力与精力下,对复杂现实进行的极高密度压缩。 毕竟,品味的根基在于第一性原理。科学审美、理论框架、以及对真问题的敏感度几乎全部孕育在那个没有被Synthetic Data掩埋的时代。 后来来到美国之后,和俄亥俄州立大学的老师也探讨过这个问题。 我得到了一个新的认识。 其实,对于AI文本,感觉的强度和实际的密度是两回事。毕竟,AI文本有很强的signature,那几个词、那个三段式、句句都平的节奏所以它的可识别性远高于它的占比。 这里,我想还有个筛选偏差。 就是我能认出来的AI文本,都是写得差的那部分。而被人改过一遍、重写过一遍的,我都很难注意的到、识别的到。 在这个过程中,我认为分布也极不均匀。 从2015年后,SEO内容、自出版、评论区、通稿,基本饱和了。 但浙大的恩师指的是经典书和经典论文,恰好应该算污染最轻的那一类。 其实现在,我觉得恩师低估的是另一个方向。 污染或许不只在语料里,也在写作者身上。 一个2026年的人类作者,泡在被生成文本浸过的语言环境里,写的时候旁边有补全,考核看产量。即使他一个字都不让AI写,句子也已经在往均值上靠拢。 这个东西,日期很难切掉,因为它是从人往回传的,会传进经典的重印、选本、导读和推荐序。也许,在退化的是人类写作的方差,并非机器文本的占比。 2022看似已经是个schelling point,未污染语料正在被定价、被抢购。 所有人都在退守的净土,很快就不是净土。
显示更多
0
61
304
43
转发到社区