登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。

Mr Panda
@PandaTalk8
程序员
参加 July 2017
4.8K フォロー中    78.2K ファン
我越来越明显地感受到:AI 加快了任务的完成速度,也让审查和验收成为工作中更突出的瓶颈。 过去,我们需要花大量时间编写代码、实现功能。现在,AI 可以快速交出一个看起来已经完成的结果,但我们仍然需要逐项检查:交互逻辑是否合理,功能是否完整,不同模块的行为是否一致,异常情况是否得到处理,以及这次改动有没有破坏原有功能。 即使某个编码环节获得了十倍的效率提升,也不意味着整个交付流程能提速十倍。代码生成之后,理解、验证、集成和返工依然需要时间。当 AI 完成任务的速度超过团队验收任务的速度,工单就会堆积在审查环节。 这让我觉得,科研人员和工程师正在面对一个相似的问题:生成候选成果的成本迅速下降,把这些成果确认为可靠结果的成本,却未必同步下降。 在科研中,即使我们能够通过增加算力、并行运行大量智能体,生成成批的推导和论文,也仍然需要回答:推理是否成立,前提有没有遗漏,结果是否具有原创性,又是否值得研究。这些判断,无法仅凭论文写得完整、论证看起来流畅就得出。 当然,软件工程和数学研究的验证方式并不完全一样。代码可以通过测试、实际运行和用户反馈来检验;数学证明如果被完整地形式化,也可以交给证明检查器验证。但测试是否覆盖了真实需求,形式化命题是否准确表达了原问题,以及一个结果究竟有什么价值,仍然需要额外判断。 因此,我对 AI 审查的顾虑,主要在于:我们能否把它的审查结论,当成足以验收的依据? AI 可以帮助发现漏洞、寻找反例、检查遗漏,也可以承担一部分初筛工作。但如果生成与审查依赖相似的模型、相同的上下文和同一套错误假设,它们就可能共同漏掉问题。多个智能体一致认可一个结果,也不自动意味着这个结果可靠。 而且,人类验收同样会出错。面对大量看似合理的产出,审查者可能因为疲劳、时间压力,或者过度信任 AI,把验收变成形式上的确认。仅仅规定“最后由人把关”,并不能解决问题。 所以,我认为接下来值得投入的,是让验证能力跟上生成能力:提前明确验收标准,让 AI 提交结果时同时提供测试、证据和已知限制,再把人的注意力集中在高风险、难判断的部分。 对于需要可靠交付的工作,AI 带来的挑战已经延伸到了整个流程:我们可以更快地产出多少东西,又有能力以多快的速度确认,其中哪些真正值得接受。
もっと見る
I know many PhD students are questioning what their paths mean as AI accelerates scientific discovery. That anxiety deserves to be taken seriously. I wrote some reflections in a recent blog post. My students found them helpful, so I’m sharing them more widely. I hope it offers a little light as we navigate this strange time. Please share it with someone who might need it.
もっと見る