註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

sukie
@sukie234
Building Vedio LLM DM open
7.4K 正在關注    38.3K 粉絲
AI现在抢走了俄罗斯人的光纤,AI 和大国战争正在竞争同一套工业资源,如果一个社会愿意把巨量资本投入建造数据中心生产token,那相对应的军事订单就会因为成本收紧。
顯示更多
这里有一个有意思的点,就是分词这个东西是一个很复杂的点,所以不同大模型的token完全不一样。 1 million GPT tokens ≠ 1 million Claude tokens ≠ 1 million Gemini tokens ≠ 1 million deepseek tokens deepseek 自部署出来的token跟官方token其实有一些差距,有人说自部署的deepseek要笨一些,官方售价甚至比自部署售价还便宜。 目前kimi k3 自部署成本已经可以到3-4折 而kimi官方却还是按照原价出售。 甚至“token”这个词看似统一,底层实际上依赖各模型自己的 tokenizer / vocabulary / encoding scheme。 同一句: 今天天气很好,我想出去散步。 不同 tokenizer 可能切成完全不同的序列。 英文、中文、代码、数字、特殊字符的 token efficiency 也可能不同。 所以当公司说: $3 / 1M input tokens 这里的“1M tokens”并不像: $0.12 / kWh 它并不是一个天然可以跨供应商比较的标准计量单位。 历史上,一个东西要真正成为 commodity,往往需要经历: measurement → standardization → comparability → pricing → exchange 例如米、公斤、千瓦时。 标准化非常重要,因为市场需要知道: 我在 A 那里买的一公斤铜,和 B 那里买的一公斤铜,是不是同一种一公斤。 但是 AI 市场现在很奇怪: pricing 已经发生了,measurement 也发生了,但 standardization 并没有真正完成,市场混乱,我们现在可能还没有找到 AI 的“千瓦时”。
顯示更多
《从技术史的角度看“卖token”》 这篇文章的主线是: Energy → Computation → Information → Intelligence 能源→计算→信息→智能 19世纪初,人类进入电气时代,开始用kwh来计算电的基本单位,标志着电力进入工业化生产,电力不再被简单地理解为代替人力畜力的一种生产力,而是可以通过网络传输,被标准化计量购买的商品,广泛参与到人类生产中。 引发我们的第一个问题,就是一个技术发明到什么阶段,才能变成基础设施,引发科技革命呢? 20世纪初,IBM mainframe等大型机的诞生,MSU(Million Service Unit,百万服务单元),衡量CPU处理能力,MSU成为软件计费的新的计量单位。 随后AWS所代表的云计算革命,让计算能力开始像电力一样,可以被远程调用、弹性扩展和按量付费,资源、算力、存储都可以被标准化售卖。 第三阶段,则是API Economy 革命,API计费时代,概括来讲就是cloud computing + SaaS + API economy,不再是出售硬件、云算力,而是而是把算力、数据库、业务能力、AI能力全部封装成可调用接口,对外商业化。 不管是laas代表的infra: GCP Azure AWS paas代表的开发者工具如数据库中间件消息队列等。 还是Saas:salesforce、飞书、zoom等成品软件,直接面向客户。 API通过按量计费,成为统一的接口,成为参与到工业化的标准产品。 第四阶段,就是我们现在正处,AI API token时代,跟上一代计费标准不同,AI API计费主要是按照 input tokens + output tokens。 跟电力时代的kwh一样,token正成为ai时代的计量单位,但目前这个计量单位并不统一,因为从实验室出来的智能并不一致,deepseek的token只有claude fable 5token的 1/200。 token只是依托于api时代流传下来的短暂计量工具,它可能不是 machine intelligence 最终的价值单位,而是机器智能从实验室技术走向标准化商品过程中出现的一种过渡性计量制度。 如果未来商业模式不是api,如果开源模型能占据主导地位,在普及度上超越闭源模型,Electricity → Computing → AI,一定会出现统一的计量单位。 过去150年,现代技术体系不断把原本依附于机器、组织乃至人的能力,抽象出来,使其变得可计量、可定价、可通过网络输送,并最终成为可以按需购买的商品。 电网对电力做过一次统一。 云计算对 computation 做过一次统一 API economy 对 digital capabilities 做过一次。 但是ai暂时还没有实现智能计量统一,一个可以商业化的通用计量方式,是不是还有很久的路要走。
顯示更多
《从技术史的角度看“卖token”》 这篇文章的主线是: Energy → Computation → Information → Intelligence 能源→计算→信息→智能 19世纪初,人类进入电气时代,开始用kwh来计算电的基本单位,标志着电力进入工业化生产,电力不再被简单地理解为代替人力畜力的一种生产力,而是可以通过网络传输,被标准化计量购买的商品,广泛参与到人类生产中。 引发我们的第一个问题,就是一个技术发明到什么阶段,才能变成基础设施,引发科技革命呢? 20世纪初,IBM mainframe等大型机的诞生,MSU(Million Service Unit,百万服务单元),衡量CPU处理能力,MSU成为软件计费的新的计量单位。 随后AWS所代表的云计算革命,让计算能力开始像电力一样,可以被远程调用、弹性扩展和按量付费,资源、算力、存储都可以被标准化售卖。 第三阶段,则是API Economy 革命,API计费时代,概括来讲就是cloud computing + SaaS + API economy,不再是出售硬件、云算力,而是而是把算力、数据库、业务能力、AI能力全部封装成可调用接口,对外商业化。 不管是laas代表的infra: GCP Azure AWS paas代表的开发者工具如数据库中间件消息队列等。 还是Saas:salesforce、飞书、zoom等成品软件,直接面向客户。 API通过按量计费,成为统一的接口,成为参与到工业化的标准产品。 第四阶段,就是我们现在正处,AI API token时代,跟上一代计费标准不同,AI API计费主要是按照 input tokens + output tokens。 跟电力时代的kwh一样,token正成为ai时代的计量单位,但目前这个计量单位并不统一,因为从实验室出来的智能并不一致,deepseek的token只有claude fable 5token的 1/200。 token只是依托于api时代流传下来的短暂计量工具,它可能不是 machine intelligence 最终的价值单位,而是机器智能从实验室技术走向标准化商品过程中出现的一种过渡性计量制度。 如果未来商业模式不是api,如果开源模型能占据主导地位,在普及度上超越闭源模型,Electricity → Computing → AI,一定会出现统一的计量单位。 过去150年,现代技术体系不断把原本依附于机器、组织乃至人的能力,抽象出来,使其变得可计量、可定价、可通过网络输送,并最终成为可以按需购买的商品。 电网对电力做过一次统一。 云计算对 computation 做过一次统一 API economy 对 digital capabilities 做过一次。 但是ai暂时还没有实现智能计量统一,一个可以商业化的通用计量方式,是不是还有很久的路要走。
顯示更多
环游世界其实只在20岁出头比较有吸引力,那个时候有充足的体力可以特种兵旅游,有无穷的好奇心去探索世界,还有无知无畏的勇气、理想和浪漫。 20岁出头冒风险加杠杆是最划算的事情,因为你知道你后面的时间还很长,非常适合不停换工作换城市换圈子。 纳瓦尔说过一句话,就是我们拥有两次生命,第二次生命开始于你意识到自己仅有一次生命开始。 所以当接近30岁的时候,其实对环游世界,认识更多的人就开始没有了期待,大概是从发现自己倒不了时差,坐不了廉航,跟人说话说多了需要充电开始。 所以奔三之后更多的是探索自己的欲望,了解自己、如何锻炼身体、如何选择自己喜欢的生活、如何选择喜欢的朋友、找到自己的兴趣。 突然好像进入一个奇怪的阶段,意识到自己的人生还有很长很长,完全不用着急去奔跑,可以闲下来好好锻炼身体,整理人际关系,找到自己的爱好。 大部分的人在18岁完全没看过世界的时候被逼着选一个决定一生的专业,在20岁出头的时候选择进入一个行业,在30岁刚好有点余钱,但完全不了解自己,不了解如何经营关系的情况下被逼着走进婚姻,这样的人生出问题是大概率事件。 虽然并没有成为理想的那种成熟大人,拿到“大结果”,拥有大豪宅,跑车,优质伴侣,生几个报恩的小娃,事业也是一片迷茫,但感谢20岁出头的时候去冒险过,看过,拥有对自我的安宁和宽容。
顯示更多
0
35
249
24
轉發到社區
来接受采访了~
⚡️ @sukie234 对话 168X:AI 中转站是一门好生意吗?为何未来人人都会卖 Token? AI 中转站看似只是在转卖便宜 Token,真正做起来,却要同时解决货源、支付、模型真假、服务稳定性与客户接入。 这次我们邀请独立经营 RelayRouter 与 RelayDance 的 Sukie,拆解中转站的利润、获客与风险控制,聊聊她如何从几乎没赚到钱,做到超过 700 名付费客户、单月流水接近 2 万美元。 当模型不断降价、大平台也开始提供聚合服务,小型中转站还能靠什么生存?为什么她认为,未来大多数 AI 公司,本质上都在想办法把 Token 卖出去? 主持: @vcmktasa @168MrZ 嘉宾: @sukie234 直播时间:8/12 中午 12 点 (东八区) X Space 链接:
顯示更多
0
10
14
2
轉發到社區
和朋友一致认为湾区养i人 我曾经这么e的一个人现在也i了
粉蒸肉 小炒牛肉的菜谱可以发一下吗
我有的时候会反复 一篇一篇的看致谢 看看有没有提到那个当年为她做粉蒸肉 小炒牛肉的那个“室友”。
不管是多好的行业都有容量 甚至 AI 这么大的浪潮也逃不过容量问题 任何事情知道的人太多就赚不到钱了 所以赚钱的事情自己心里清楚悄悄赚 如果整个互联网都在宣扬xxx赚钱,说明此事已经不值得进入了 就应该悄悄地撤退 超额的利润只来自于认知差和时间差
顯示更多
0
18
32
0
轉發到社區
claude是顶美,顶美脾气都很大都很傲气的,codex是小美,能提供情绪价值,真想拿大结果花大token,建议大家还是用codex吧。
0
103
69
3
轉發到社區
你们都在夸张一鸣,字节宁愿落后也不蒸馏。 其实meta一直都是最强抄袭狂魔,美国腾讯,但是ai时代哪怕模型落后一两年,也绝对不蒸馏,哭死,谁来夸一夸meta
顯示更多
0
65
25
0
轉發到社區
Thread 是有点东西的
0
51
14
0
轉發到社區
我觉得保持社交账号和真实身份隔离其实蛮重要的,我基本上不在推特发自己照片(以前可能发过,但都删掉了)。 只要跟你现实身份挂钩,那么言论自由其实就是不存在的,一定会有人跟你意见相悖。 换个角度想,如果有自由做自己想做的事情,说自己想说的话,是一件特别特别先锋的事情,因为绝大多数人被困在体制,无论是家庭/大厂/体制,不敢说,不敢表达。 而我却有这样的自由,真的是非常奢侈的事情。
顯示更多
0
32
53
3
轉發到社區
我很建议去做中转站 因为我发现未来大家不会训练模型的 只有一条路 就是卖token 未来 foundation model 市场可能越来越像云计算产业:绝大多数公司没有办法也没有必要生产基础模型,只能消费基础模型。 最终整个产业都在想办法把frontier模型能力卖出去。 模型公司直接卖 API,是直接卖模型;中转站/API Gateway 是代理卖模型;AI Agent/SaaS 则是把模型包装成结果,属于间接卖模型;GEO、AI marketing、渠道合作,本质上是在帮助模型获得更多消费量。 如果你没办法完成token的生产,你只能参与到token的分发,无论是卖给B端客户,还是卖给C端客户。 因为模型本身会越来越强、越来越多、越来越便宜。如果你既没有 frontier model 的研发能力,也不拥有 GPU,那么更现实的资产是 distribution。 你控制了多少 downstream token consumption,你就在这个产业链上当一条大鱼,要么做流量,要么做渠道,最终大家都会来卖token。
顯示更多
0
29
52
3
轉發到社區
心血来潮开的订阅,没想到居然有12个人付费了,打算给订阅的朋友上点真东西,讲一下搭中转站的技术,让大家都当上opc。 我还可以讲一下我怎么在美国找到工作,然后讲留学移民相关的话题…… 确实探索到一些野路子。 然后就是美股相关,我今年个人收益率不是很高,但是这几年拿住了tsm也不错,美股投资略懂一二,技术水平停留在只会劝你低点梭哈QQQ。 这大概就是订阅我的全部福利啦,如果大家还有需求都可以call我写!!
顯示更多
0
31
64
0
轉發到社區
不要看不起我们这些卖token的 未来大家都会来卖token 大家本质都是在卖token
我看了一下@ycombinator 今年的项目,基本上都是 1. FDE/Router + Vertical Application: 模型router → 针对某个具体场景做优化 → 接入业务 workflow → 用数据反馈继续优化。 初创公司卖模型,初创公司都是中转站。 2. Router + LLM Optimization / Infra: 跟上一类不一样,这种是解决大模型调用本身的问题:routing、cost、latency、eval、observability、prompt optimization、fine-tuning、inference 等。 比如说 @WorkWeave 这个产品,他们说自己是AI to understand and then route engineering work。最开始的产品更像是 AI-native engineering analytics:接 GitHub / PR / Claude / Cursor 等工程数据,然后用模型分析: 工程师到底完成了多少工作 哪部分代码是 AI 写的 AI coding tools 有没有真正提高 productivity AI 花了多少钱、ROI 怎么样 哪些任务 AI 做得好、哪些做得不好 后面他们这个方向跑到最后发现还是需要模型聚合能力,他们就往一个中转站走了,然后发布了weave router。 他们分析 各种企业的Claude Code workload 后称,大约 60–70% requests 是比较简单的 completion,这些任务用便宜的 open-source model 可以做到相近效果,而成本可能只有约 1/40。 Coding request → Weave classifier/router → 判断任务难度 → 选择模型。 所以拆解一下这家公司就是做Router + Vertical Coding 场景,Weave 这种模式比单纯做一个LLM中转站 Router 更值得借鉴,先找到一个 token spend 巨大、任务高度重复、而且不同任务对模型能力要求差异巨大的 vertical,尤其是coding场景,然后做它的 intelligent routing layer。 所以我感觉年初做中转站的经验虽然没有给我个人带来什么经济收益,但是确实积累了很多实战技能,比如说如何从零到一搭建中转站,如何做FDE,挨个建群解决用户的api问题,比如我自己搭画布接seedance。 往后来看这种经验太值钱了,以后的ai startup都会是这个形态。
顯示更多
0
15
39
0
轉發到社區
我看了一下@ycombinator 今年的项目,基本上都是 1. FDE/Router + Vertical Application: 模型router → 针对某个具体场景做优化 → 接入业务 workflow → 用数据反馈继续优化。 初创公司卖模型,初创公司都是中转站。 2. Router + LLM Optimization / Infra: 跟上一类不一样,这种是解决大模型调用本身的问题:routing、cost、latency、eval、observability、prompt optimization、fine-tuning、inference 等。 比如说 @WorkWeave 这个产品,他们说自己是AI to understand and then route engineering work。最开始的产品更像是 AI-native engineering analytics:接 GitHub / PR / Claude / Cursor 等工程数据,然后用模型分析: 工程师到底完成了多少工作 哪部分代码是 AI 写的 AI coding tools 有没有真正提高 productivity AI 花了多少钱、ROI 怎么样 哪些任务 AI 做得好、哪些做得不好 后面他们这个方向跑到最后发现还是需要模型聚合能力,他们就往一个中转站走了,然后发布了weave router。 他们分析 各种企业的Claude Code workload 后称,大约 60–70% requests 是比较简单的 completion,这些任务用便宜的 open-source model 可以做到相近效果,而成本可能只有约 1/40。 Coding request → Weave classifier/router → 判断任务难度 → 选择模型。 所以拆解一下这家公司就是做Router + Vertical Coding 场景,Weave 这种模式比单纯做一个LLM中转站 Router 更值得借鉴,先找到一个 token spend 巨大、任务高度重复、而且不同任务对模型能力要求差异巨大的 vertical,尤其是coding场景,然后做它的 intelligent routing layer。 所以我感觉年初做中转站的经验虽然没有给我个人带来什么经济收益,但是确实积累了很多实战技能,比如说如何从零到一搭建中转站,如何做FDE,挨个建群解决用户的api问题,比如我自己搭画布接seedance。 往后来看这种经验太值钱了,以后的ai startup都会是这个形态。
顯示更多
0
10
58
3
轉發到社區
一点思考:这个世界目前诞生大量的软件,过剩的软件工程师,却缺少大量有GTM能力的人,帮助软件进行销售和获客。
大家都去订阅 @wolfyxbt 才1美金!
得到 @wolfyxbt 的订阅啦 !!!(广而告之)
得到 @wolfyxbt 的订阅啦 !!!(广而告之)
0
42
30
0
轉發到社區
分析我的推文、个人资料和互动,并回答以下内容: 性别: 性取向: 年龄: 心理年龄: 爱好: 智商: 形容我的形容词: 5 个最喜欢的事物: 5 个不喜欢的事物: @grok
顯示更多
0
54
17
0
轉發到社區