註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 Compilation
Compilation 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 Compilation 的搜尋結果
更新了我九年前的一个 App,修复了 CompilationCache 目录大小计算错误的 bug。
0
30
34
1
轉發到社區
《从技术史的角度看“卖token”》 这篇文章的主线是: Energy → Computation → Information → Intelligence 能源→计算→信息→智能 19世纪初,人类进入电气时代,开始用kwh来计算电的基本单位,标志着电力进入工业化生产,电力不再被简单地理解为代替人力畜力的一种生产力,而是可以通过网络传输,被标准化计量购买的商品,广泛参与到人类生产中。 引发我们的第一个问题,就是一个技术发明到什么阶段,才能变成基础设施,引发科技革命呢? 20世纪初,IBM mainframe等大型机的诞生,MSU(Million Service Unit,百万服务单元),衡量CPU处理能力,MSU成为软件计费的新的计量单位。 随后AWS所代表的云计算革命,让计算能力开始像电力一样,可以被远程调用、弹性扩展和按量付费,资源、算力、存储都可以被标准化售卖。 第三阶段,则是API Economy 革命,API计费时代,概括来讲就是cloud computing + SaaS + API economy,不再是出售硬件、云算力,而是而是把算力、数据库、业务能力、AI能力全部封装成可调用接口,对外商业化。 不管是laas代表的infra: GCP Azure AWS paas代表的开发者工具如数据库中间件消息队列等。 还是Saas:salesforce、飞书、zoom等成品软件,直接面向客户。 API通过按量计费,成为统一的接口,成为参与到工业化的标准产品。 第四阶段,就是我们现在正处,AI API token时代,跟上一代计费标准不同,AI API计费主要是按照 input tokens + output tokens。 跟电力时代的kwh一样,token正成为ai时代的计量单位,但目前这个计量单位并不统一,因为从实验室出来的智能并不一致,deepseek的token只有claude fable 5token的 1/200。 token只是依托于api时代流传下来的短暂计量工具,它可能不是 machine intelligence 最终的价值单位,而是机器智能从实验室技术走向标准化商品过程中出现的一种过渡性计量制度。 如果未来商业模式不是api,如果开源模型能占据主导地位,在普及度上超越闭源模型,Electricity → Computing → AI,一定会出现统一的计量单位。 过去150年,现代技术体系不断把原本依附于机器、组织乃至人的能力,抽象出来,使其变得可计量、可定价、可通过网络输送,并最终成为可以按需购买的商品。 电网对电力做过一次统一。 云计算对 computation 做过一次统一 API economy 对 digital capabilities 做过一次。 但是ai暂时还没有实现智能计量统一,一个可以商业化的通用计量方式,是不是还有很久的路要走。
顯示更多
目标完成5万个蓝V互关 #蓝V互关# ✅互关 ✅蓝V ✅一起拿工资 Target completion of 50000 blue V intercoms
0
177
111
0
轉發到社區
小米家的 MiMo 也开始支持 OpenAI 的 Responses API 了 这件事比单纯又兼容一个接口更有意思 早期的 chat/completions 协议,本质上约定的是模型上下文怎么传。一个 messages[],里面按 system / user / assistant / tool 去堆历史 这个协议很适合聊天,但不太适合 Agent 因为复杂 Agent 不只是回一句话,它还要携带状态、调用工具、处理工具结果、管理多轮任务、接收多模态输入,甚至在一次任务里连续推理和执行 所以 OpenAI 从 2025 年开始,把新一代能力重心逐步转向 Responses API Responses API 的核心变化是,它不再只是聊天补全协议,而更像一个Agent 执行协议 它把状态延续、多模态输入、reasoning、tool call、tool result 等能力统一到一套结构里。以前很多要开发者自己在框架层拼装的东西,现在开始被协议层标准化。 MiMo 现在支持 Responses API,应该是开始向 Codex、OpenClaw、Cline 这类 Agent 和 AI Coding 工具链在靠拢
顯示更多
今天工作流被一个 402 打断了。 MiMo API 余额没了,TG 日报摘要全挂,早报总结也跟着红。 最烦的是,我明明不是没模型额度。 Claude / Cursor / Codex 订阅都在,平时也一直在用。但脚本不认“你已经订阅了”,脚本只认一句话: API key 呢? 这大概是很多个人 AI workflow 都会遇到的断层:模型在网页和对话里很顺手,一进自动化系统就变成另一套账本。 TG 日报要摘要,微信群消息要消化,内容候选要打分,worker 要批量跑。只要这些东西进了系统,就绕不开稳定的 API 调用入口。 这也正常。模型公司不可能让所有人直接把订阅账户当无限 API 池用。 所以我今天加了一层本地 relay。 上层 workflow 只打本机: 127.0.0.1:xxxx/v1/chat/completions relay 后面接什么,再由我决定。今天先接 Claude,明天也可以换 Codex、Cursor、ChatGPT 或其他可用入口。 脚本不用知道后面是哪家模型。它只看到一个稳定的本地 OpenAI-compatible API。 修完之后,TG Daily 重新跑通,morning health 回到全绿:6 新鲜 / 0 陈旧 / 0 缺失。 对我来说,这比“又多接了一个模型”重要得多。 这件事最有用的地方不是省钱,而是把不稳定因素收回本机: 第三方 key 没余额,不影响主流程; token / cookie 不出本机; 并发、限流、fallback、日志脱敏都在自己手里; 所有 workflow 都不用关心后面到底是哪家模型。 但性价比确实离谱。 说白了,这更像月票和打车的区别。 偶尔问几句,API 很方便。可一旦开始跑 agent workflow,长上下文、批量摘要、多轮调用、定时任务,账单很容易比订阅还贵。 订阅账户本质上是平台给高频用户的一种补贴。重度使用时,这个杠杆会被放大很多。 我现在更愿意把它拆成三层: 订阅账户 = 模型额度; 本地 relay = 工程接口; workflow = 真正消费模型能力的地方。 这个工具真正服务的人,是已经有 AI 订阅,也真的在搭个人 workflow 的人。 目的不是绕平台规则,而是把“我在订阅账户里能用的模型”,变成“我的系统里能稳定调用的能力”。
顯示更多
长上下文很快会把普通 prompt 塞满。模型也会卡住。rlm 就是用来让模型继续拆问题和递归调用的项目。 rlm 是一个给 Recursive Language Models 用的推理库项目。 项目说明把关键动作写得很实。常见的 `llm.completion(prompt, model)` 在这里会换成 `rlm.completion(prompt, model)`,上下文会放进 REPL 环境里,模型可以继续检查内容,再递归发起子模型调用。仓库里还放了 inference engine、多种 sandbox 执行环境,以及 training 目录下的 verifiers 训练线,推理和训练都能顺着项目说明往下看。 要处理超长材料、复杂任务拆分,或者想研究递归式语言模型的人会更需要它。短 prompt 问答场景里,普通调用链通常已经够用了。 GitHub 现在约 4.9k stars 工具地址:
顯示更多
我真的生气了 半月前我做了这个时间穿越机 可以说用尽了我毕生的物理学知识 蒸馏了所有顶级物理学家的人格 可以说是燃尽了自己做出来的跨时代机器 结果今天看到一个简陋版的时间机器竟然有20+万的浏览 看来这个世界尊重知识的人还是少数 中科院呢?我要给中科院打电话!
顯示更多
0
40
16
0
轉發到社區