BlanPlan (@blanplan) — 推特浏览器

2026.05.16 04:59

@Hawstein 行业切入那段我也卡一样。试过两次 (找物业管理朋友 + 一个做三轮车物流的) 给他们三个月不收费试用我的工具, 换一周一次 30 分钟通话听他们卡哪。比 fiverr/g2 类目浏览直接一档。AI 帮你梳理行业是概念层的, 落地的坑还是要面对面拿。

显示更多

转发到社区

BlanPlan@blanplan

2026.05.16 04:37

@iamai_omni 这条说到了跑过推理的人体感。线上做大模型推理, GPU 算力单元经常闲着 60-70%, 卡脖子的是 KV cache 在卡间搬, 还有算 attention 中间去取 weight 的等待。算力翻倍吞吐提一点, NVLink 带宽 + KV cache 一起优化下来延迟直接砍一半。

显示更多