注册并分享邀请链接,可获得视频播放与邀请奖励。

DataDan|AI Consultant + Builder
@ba_niu80557
Independent Forward Deployed AI Engineer. I embed and ship AI into production—agents, pipelines, the parts that actually work. EN / 中文 / 日本語. DMs open.
加入 March 2024
351 正在关注    4.1K 粉丝
DeepMind 这周干了件挺狠的事,用 AI agent 把 Signal 加密库的核心安全性质给形式化证明了,而且是证到编译后的机器码那一层 以前这种活专家团队要搞好几年,这次四周 我觉得大家关注点有点偏,都在说 AI 好厉害 真正值得看的是分工:安全规格是人在 AI 帮助下写的,写完人工审一遍,然后才交给 agent 去生成证明,最后 Lean 来检查对不对 也就是说"什么叫正确"这件事,还是人定的 这跟我平时给客户做项目一模一样。模型干活越来越快,最卡的永远是第一步:你到底想要什么结果,怎么判断它做对了 说不清这个,eval 写不出来,证明也写不出来 顺便泼点冷水,这次证的范围其实挺窄的,是特定版本的库编出来的一个命令行测试程序,不是整个 Signal app,有些底层密码运算也还是按假设来的 但方向是对的,以前形式化验证贵到没几家用得起,现在突然变成了能算账的东西
显示更多