让 AI 证明代码没改错,可以不信它的判断。
最近有篇叫 R2C2 的论文,研究的是把老程序从 C 搬到 Rust。大模型能把代码翻译出来,接手的人还有个麻烦:测试全绿了,那些没跑到的情况,新版还会按老规矩办吗?
研究者把新旧程序都编译成同一种中间表示(LLVM IR),这样就能用同一套规则对账。验收条件很具体:新版可能出现的每一种行为,旧版都得允许。
这个条件也有边界。旧版本来就把一笔账算错了,新版照样算错,也能通过。它证明的是迁移没引入旧版不允许的行为。
费劲的是怎么找到证明。研究者把不同程序都能用的部分提前证好,每翻译一个程序,只剩下跟它有关的那一段要证。
这段交给 AI 去想,想出来的每一步,再由独立的证明检查器 Rocq 按规则核对。AI 漏了一步,解释得再像那么回事,这份证明也过不了。
519 个由大模型翻译的测试程序里,486 个拿到了证明,不用给程序的执行步数设上限。另有 3 个确实译错了,研究者给出了以往工具没找到的反例。剩下 30 个还没定论。
我觉得这给用 AI 做项目提了个醒:验收条件写得足够清楚,找证据的苦活也能交给 AI,人不用陪它把整道题重做一遍。
下次估迁移工期,我得把「代码写完」和「我敢签字」分两行报。省得第二行又成了免费赠送。
显示更多