忒修斯的船板
@Arcadia_Bao
前记者，研究故事写作 & AI。
X平台狗屎AI和不说人话LLM首席抱怨官（
가입 July 2017
728 팔로잉 중 1.5K 팬
用LLM写出自己满意的文章（是直接写出，不是自己去改到满意）本质上是让AI训练自己，把自己训成一个小语言模型。
如果我们的语言和思维保持活力，保持多样性，是永远不可能到达对LLM的文章「完全满意」的状态。
你试想一下就知道，如果一个模型写出来的东西总是和你想的一模一样，用了半年之后，你觉得它还是和你想象的一模一样，这不可怕吗？
这不是说明你在这几个月之间，脑回路已经彻底凝固了吗？
正常人除非是直接冬眠了半年醒来，否则一定会觉得大模型有些跟不上自己了。
这就是为什么我们总在用了一个模型一阵子之后觉得它的语言似乎变弱了，降智了。其实未必是降智了。只是你看得多了，你进步了，对之前的固定模式不满足了。
所以，让LLM和人同步，相对于人类自己的思维模式和语言模式是一种妥妥的降维。
即使是最不善言辞和写作的人，这样的训练也是对自己的严重折损。
더 보기
Stripe创始人帕特里克：“我仍然坚持自己写作。无论是从理念上，还是从实质内容上，我都不太喜欢模型生成的文本。
这很有意思，对吧？因为这些模型甚至能证明 雅可比猜想(Jacobian Conjecture)之类的高深难题，它们具备完成这些壮举的能力。但不知为何，我至今还没读过一篇让我觉得极具说服力的、由大语言模型(LLM)撰写的文章。现在很难在这个领域对它们进行强化学习(Reinforcement Learning, RL)，因为效用函数(Utility Function)之类的东西很难定义。
我认为写作与人际沟通是人类最基础的能力，它让我们能够在现实的多维空间中进行理性的推演，在某种难以言喻的层面上，我觉得模型在这方面依然有所欠缺。”
哇，帕特里克的体感和我完全一致，AI可以解决高深的数学难题，写出牛掰的代码，但很难写出令自己十分满意的文章
더 보기
