其实光看token花了多少钱是没有太大参考价值的。这还是原来老黄和meta那种token maxxxx的遗毒。
token是钱,那么花钱就要有性价比,有效率。
这些说花了多少钱token的,是不是都是同一家模型的token。
A家fable 模型token用API烧,1万美元不过1天都撑不过。
如果用token就像花自己钱一样小心翼翼,
比如只把复杂问题,架构问题扔给高等级模型,中等难度问题扔给GLM、deepseek,简单问题甚至用本地模型。然后自己还做一些缓存。 那么token的使用量,以及成本会非常可控。
ROI会远远高于普通人类员工。
但是更多的公司/个人还是喜欢一把梭,A家在log中偷偷骂这种问题不该问fable也是现实。
顯示更多
这个试验很有意思:100万美元预算,让给20多人的团队不限量 Token 使用 AI。
结论是:
人会更累,AI 的成本比人还高;
效率提升最大的是组织从 0 到 1 使用 AI;
公司的组织架构还是为人设计的,就算有无限 Token,效率提升上也有明显天花版;
人的思考都外包给 AI 了,对项目细节掌控度下降,需要问 AI 才能回复别人的问题。
顯示更多