註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

檢索結果 LATENCY
LATENCY 貼吧
一個關鍵字就是一個貼吧,路徑全站唯一。
建立貼吧
用戶
未找到
包含 LATENCY 的搜尋結果
为什么选SVP而不是直接用现有高性能链? 因为那些链是给人类设计的。 SVP从第一天就为自主Agent而生: 协议级身份 + 公平交易机制 + x402结算。 Agent不会被人类latency碾压。 这才是关键差异。 #Agent经济#
顯示更多
Acknowledging that APAC users experience significantly slow loading times (3-5 seconds) for certain features on @TrustWallet, we will sharply reduce latency across your regions by mid-July. 亚太区app 速度慢,反馈收到了,给我们1周时间优化,敬请期待。
顯示更多
zhipu和deepseek在25年春都曾经是jina reader的数一数二的大客户,也都是由我直接founder support。二者给我留下的印象就是非常精,对技术指标要求非常苛刻,动不动就p99 latency要降到多少。沟通基本就是一个微信群要随叫随到,从他们手里赚点钱非常难。zhipu这边买了用了我们服务两个月后,来一个清华来的实习工程师发现我们jina 官网的api token价格比给他们2b的价格便宜不少,觉得我是奸商欺骗他们,我解释说2b价格本来就不一样,其次我直接为你服务调优debug这些什么都不算么?他说不算。我这人ego比较大当时是一肚子火,一方面我觉得zhipu太小气,面对我们一个成长中的startup完全没有任何的支持。另一方面,第一性原则角度来讲他们也没做错什么,无非是想要最低价。他们也没有义务帮生态中的任何玩家。我觉得b2b销售本来就非我所长,自己ego太高放不下,即便放下我做founder sale极度缺乏耐心。再加上jina本身除reader服务之外需要我做大量技术管理,来美国后又忙并购的事情,zhipu这个2b的deal就凉了下来。
顯示更多
0
77
505
34
轉發到社區
个人感觉币圈kol发的这些预测市场脚本。很容易成为被套利对象 我也还在学习 toxic flow检测,latency arbitrage,跨市场对冲,anti-prediction,动态inventory平衡等知识。欢迎老师指导
顯示更多
这里是《复仇者联盟》,请选择你的英雄超能力: A. 随时任意重置你的codex和claude code配额; B. 随时给全球任意100名指定用户的LLM降智; C. 把你的first token latency(TTFT)永久降低为0; D. inference速度提高50倍,每天仅限50次; E. 100秒内意念生成任意角色+任意剧情的4k黄片。
顯示更多
0
66
77
3
轉發到社區
我看了一下@ycombinator 今年的项目,基本上都是 1. FDE/Router + Vertical Application: 模型router → 针对某个具体场景做优化 → 接入业务 workflow → 用数据反馈继续优化。 初创公司卖模型,初创公司都是中转站。 2. Router + LLM Optimization / Infra: 跟上一类不一样,这种是解决大模型调用本身的问题:routing、cost、latency、eval、observability、prompt optimization、fine-tuning、inference 等。 比如说 @WorkWeave 这个产品,他们说自己是AI to understand and then route engineering work。最开始的产品更像是 AI-native engineering analytics:接 GitHub / PR / Claude / Cursor 等工程数据,然后用模型分析: 工程师到底完成了多少工作 哪部分代码是 AI 写的 AI coding tools 有没有真正提高 productivity AI 花了多少钱、ROI 怎么样 哪些任务 AI 做得好、哪些做得不好 后面他们这个方向跑到最后发现还是需要模型聚合能力,他们就往一个中转站走了,然后发布了weave router。 他们分析 各种企业的Claude Code workload 后称,大约 60–70% requests 是比较简单的 completion,这些任务用便宜的 open-source model 可以做到相近效果,而成本可能只有约 1/40。 Coding request → Weave classifier/router → 判断任务难度 → 选择模型。 所以拆解一下这家公司就是做Router + Vertical Coding 场景,Weave 这种模式比单纯做一个LLM中转站 Router 更值得借鉴,先找到一个 token spend 巨大、任务高度重复、而且不同任务对模型能力要求差异巨大的 vertical,尤其是coding场景,然后做它的 intelligent routing layer。 所以我感觉年初做中转站的经验虽然没有给我个人带来什么经济收益,但是确实积累了很多实战技能,比如说如何从零到一搭建中转站,如何做FDE,挨个建群解决用户的api问题,比如我自己搭画布接seedance。 往后来看这种经验太值钱了,以后的ai startup都会是这个形态。
顯示更多
0
10
58
3
轉發到社區
Codex 的 /goal 没有设置 turn 上限,也就是说,只要它认为目标没完成,除非把你的账号干到限流,不然不会停下来。 很多人根本不知道如何给 AI 设定目标,使用 /goal 和输入单条 prompt 几乎无区别。 例如,“把代码优化一下”,“提升系统性能”,“接口设计优雅一些”,这种目标是无法驱动 AI 持续工作的,既没有明确产物,也没有验收标准。 又比如,“网页改版,改的更好看”,“产品交互体验太差了,打磨一下”,这种目标最大的问题是“更好”本身没有可度量的指标,模型只能往各种可能性上反复尝试,要么提前结束,要么疯狂优化,无限烧 token。 好的目标 = 交付物 + 验收标准 + 约束条件 举个例子:“把登录接口优化一下” 可以改成:“重写登录接口逻辑,提交 PR,并确保在 100 并发下 P95 latency ≤ 120ms,所有现有测试通过,且不引入新的依赖” 在制定目标的时候,也无需吝啬 prompt: 从定义 /goal 的过程中,也能看出定义问题的水平。好的问题,可以调度更多的算力去解决更复杂的问题。
顯示更多
在 AI投资里,我多年总结下来有几条线是华尔街最喜欢奖励的基本面条件 1. 现金流开始由负转正 2. 新的新增收入确认 3. 叙事的转换 4. 等等 这篇我从 $MRVL 讲讲第三点,以及我为什么能安心持有快三年,几乎没有卖出。我认为 Marvell 在我清晰可见的技术主线上,坚定地一步一步向前进 $MRVL 过去最大的争议就是:一个 hyperscaler custom ASIC 的设计平台,怎么能承担起这么大的估值? 最近一步步证明:它不只定制 ASIC,还有光通信、DSP 网络芯片这种毛利润高的收入。 在谷歌和英伟达等算力巨头的扶持下,互联即将成为把存储 X 算力发挥到极限、提升经济的关键玩家 是的,一个叙事发生了转换,但我认为市场还没有完全 price in 这个叙事。我认为需要时间,但目前 on track。我不知道明天的股价,但如果你问我明年,我觉得大概率会不错的 我们再来从 4 月到捋一遍 1/ 4 月 Google-Marvell 传闻 今年 4 月 Reuters 已经报道过,Google 正在和 Marvell 谈两类 AI 推理芯片:一个是配合 TPU 的 memory processing unit,另一个是专门跑 AI model inference 的新 TPU。今天 8-K 披露的 AI inference accelerators、memory interface controllers、near-memory compute 2/ 5月 $MRVL 财报,管理层的口径非常保守,scale up 和谷歌的这些利好一句话也没提,股价横在了 200。因此我认为是一个不错的供应价,可以用我之前提到的相对估值法 3/ 黄仁勋高喊 MRVL万亿美元,市场提前把 Scale up/out互联 和谷歌等合作打满,股价提升到了 300 美元 4/ 7 月半导体集体下跌,因为市场算力过剩的故事发酵。七月,我每天都在更新解读市场新闻,欢迎回看。同时,伴随着存储涨价、存储供不应求的小作文满天飞,大家也能看到,一台 AI 服务器大部分的利润都给了存储,毛利率 80% 多 5/ MRVL 的 FMS 叙事被强化。 Marvell 8 月初刚在 FMS 推 AI memory / storage infrastructure,核心口径就是 agentic AI inference 以后会被 memory capacity、bandwidth、latency、data movement
顯示更多
0
16
131
12
轉發到社區
推荐这份清单,几个新出的 TTS 和实时语音工具。 首个专门的开源 TTS 模型来了,WebRTC SDK 也开源了——从模型到基础设施,都有东西在动。 Voice Agent 领域的几个新发布和工具。 1. Qwen3-TTS(新) 阿里 Qwen 团队发布的开源 TTS 模型。目前细节不多但值得标记——Qwen 系列在语音方向上的第一个专门 TTS 模型,不再是通用 LLM 的附加功能。 GitHub: 2. MOSS-TTS / MOSS-TTS-Nano OpenMOSS 团队发布的两个 TTS 模型。Nano 版本主打轻量和本地部署,适合嵌入式和边缘设备场景。 GitHub: 3. LLMRTC — 开源实时语音/视觉 Agent SDK 纯 TypeScript 的开源 SDK,用于构建实时语音和视觉 AI agent。基于 WebRTC,直接支持浏览器端和 Node.js。适合想自己搭建类似 ChatGPT Voice Mode 或 Gemini Live 体验的开发者。 GitHub: 4. Building Enterprise Realtime Voice Agents from Scratch 一篇从零构建企业级实时语音 Agent 的技术教程。覆盖了 WebRTC 信令、STT 选型(Whisper vs Deepgram vs 自建)、LLM 延迟优化、TTS 流式输出、以及生产环境的断线重连和状态恢复。 5. Voice Agent Latency Optimization 最佳实践 社区维护的语音 Agent 延迟优化指南。核心发现:端到端延迟的主要瓶颈往往不在模型推理,而在 audio chunking 策略和 VAD(Voice Activity Detection)参数调优。一个常被忽略的优化点是服务端音频缓冲区大小——默认 20ms 的帧长在某些网络条件下会导致不必要的等待。 GitHub:voice-agent-examples #VoiceAgent# #TTS# #WebRTC#
顯示更多