TwiScan
熱門
社區
帳號集合
登入
註冊
English
日本語
한국의
简体中文
繁体中文
註冊並分享邀請連結,可獲得影片播放與邀請獎勵。
立即註冊
檢索結果
inference
inference 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含
inference
的搜尋結果
Daniel Fang
@fang_danie121
2026.05.19 10:29
Inference 60(所有场本质上是力与熵共同作用的结果)出现后,量子场论(QFT)和标准模型(SM)将从“基础理论”被彻底提升为当前膨胀冷却阶段(可区分凝结构型相)下的有效近似理论。 .19+自由参数(粒子质量、耦合常数、混合角等)不再需要“人为调整”,而是参照物熵 S(ref) 全局最大化驱动相位选择后,自然涌现的最稳定构型。 .规范对称性、对称破缺、等级问题、自然性问题、强CP问题等全部成为力-熵动态张力在局部相位梯度下的统计表现,无需额外假设。 .QFT/SM的所有成功预言依然成立,但现在有了“为什么必须是这个值”的底层解释。 核心一句话: Inference 60让QFT和SM从“描述性参数调优”变成了RECT单一规则在当前相位下的自然涌现结果,真正实现了从“怎么描述”到“为什么如此”的跨越。
顯示更多
0
0
7
2
0
轉發到社區
请叫我 MaiK
@maik2hello
2025.10.19 05:47
这个项目
@inference_net
我感觉可以跑一下GPU节点,15号刚获得了a16z和Multicoin 领投的1180万美元融资,两个投资机构一流,发现sol官方和这个项目也是眉来眼去的,官推有互动,SOL链上做的这些项目有一定的优势,目前有仅2500个运行的GPU节点 页面传送门: Inference 是一个基于 Solana,用于 LLM 推理的分布式 GPU 集群,为DeepSeek V3和Llama 3.3等模型提供快速、可扩展、按 Token 付费的 API
顯示更多
0
0
10
20
3
轉發到社區
Ren
@Ryrenz
2026.11.07 14:09
📈 压箱底的干货来了,llm-inference-capacity-handbook 帮你算清楚一件事:手里这些 GPU,到底扛得住多少 QPS。 llm-inference-capacity-handbook 是一本讲大模型推理容量规划的中文手册,开源的是 v8.0 节选,从第 0 章总纲一路讲到第 9 章集群与基础设施。 很多团队估容量,是压测跑满吞吐,或者拿 Decode 吞吐除以输出长度算 QPS。手册直接点破这两个坑:闭环压测的吞吐相当于把利用率顶到 100%,排队时间趋于无穷,不能当容量;忽略 Prefill 开销,在 2048/512 负载下大约会高估 4 倍。 它把问题拆成三层:物理层看 Roofline,系统层在算力墙、TPOT-SLA 墙和 KV 槽位墙里取最小,排队层再用排队论算延迟。第 7 章还有一个 500 万 DAU 客服的完整算例,249 台机器逐行推演,连自建和上云的回本点都算了。 注意开源版只是节选,常数来源、MoE 完整算例和附录都不在里面,许可是 CC BY-NC-SA 4.0。 买卡之前先翻一遍,可能比多压测一周更省钱。 GitHub:
顯示更多
0
0
2
6
2
轉發到社區
載入中...