LLM 不只在污染我们读到的文字，也在重塑我们写的文字，进而腐蚀人和人之间的信任。 最近读 Armin Ronacher 的一篇 blog，他是 Flask 的作者，python 圈很老的人了。 Armin 这篇 blog 叫《Content for Content's Sake》，大概意思是：LLM 不只是在污染我们读到的东西，它正在改写我们自己怎么写、怎么说话，最终腐蚀掉人和人之间最底层的信任。 他扒了自己过去 90 天的 AI 会话记录，把中频词的使用频率跟 wordfreq（一个历史词频基准）对了一下。结果capability、substrate 这种词在 AI 给他的回复里出现的频率，远远高于历史正常水平。 也就是说，AI 已经有一套自己独特的语言指纹。 这只是第一层。 第二层是这些指纹正在渗透回人类。Armin 说，他上推特、刷 HN 的时候发现，越来越多回复读起来像 LLM，但发帖人不少是他认识的真人。他自己也察觉到了，读了太多机器生成的文本之后，人会无意识地吸收那种腔调。 不是 AI 模仿他，是他在变成 AI。 这个我也有同感，很多时候，即使是我自己写的东西，我看着也像 AI 写的东西…… 然后是第三层。信任被腐蚀。 系统层面已经在崩：欧盟的投诉系统被 AI 批量投诉搞到接近瘫痪；开源项目的 GitHub issue 区被 AI 生成的伪 bug 报告冲烂；已经有公司专做“自动化发送 LLM 内容”的服务。 但最贴身的崩坏不是这些，比如他的一个朋友，现在跟陌生人聊几句就会强制对方打电话过来，只为了确认对面是个活人。 结尾更有意思 Armin 承认，这篇文章里的表，是他让 AI agent 帮他做的，爬 Google Trends 数据的代码也是 AI 写的。 他用来论证“AI 在污染我们”的图表和数据，本身就是 AI 帮他生成的。 整篇博客就是在说：我们已经被卷进这个漩涡里了，保持清醒已经很难，保持干净几乎不可能。 感觉是时候写一篇论文了：人与 AI 如何和谐共生😂