注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 FormalVerification
FormalVerification 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 FormalVerification 的推特
⚡️看完 V 神的最新奶文《A shallow dive into formal verification》,我又忍不住加仓了 $ETH ! 可以很明显感觉到,V 神 @VitalikButerin 现在几乎所有长期思考,最后都会落到同一个核心: 如何在能力越来越强的同时,依然保留验证、约束、退出与个人主权。 这也是我觉得 ETH 和很多 AI 项目最大的区别,总是有一个很纯粹的东西打动你! 这篇其实已经不只是技术文章了,而是在重新回答一个很cypherpunk的现实问题: 当 AI 开始大规模写代码之后,人类还能不能继续信任软件? 尤其 Crypto、ZK、跨链、AI Agent、自动化金融协议这些东西叠在一起之后,系统复杂度已经开始超出人类审计上限。 这其实也是我觉得全文最有意思的地方: 很多人觉得 AI 会强化去中心化,因为 AI 降低了创造门槛; 但 Vitalik 看到的,恰恰是另一面—— AI 也会极大强化中心化,如果最后所有的安全都只能依赖公司托管、黑盒AI,那 cypherpunk 那套东西就结束了。 所以他本质上是在给 AI 时代重新寻找可信中立层。 而他最后找到的答案,其实和以太坊这些年一直在做的是同一件事: 不追求效率最大化,而是追求“可验证”,AI + Formal Verification,其实就像 Blockchain + ZK。 👉原文在这:
显示更多
0
15
43
6
转发到社区
据 Cryptobriefing,以太坊基金会研究员 Justin Drake 宣布,专用于聚合后量子哈希签名(leanXMSS)的轻量级零知识虚拟机 leanVM 已完成端到端形式化验证(formal verification),每秒可处理超 1,000 次聚合,未来将替代验证者当前的 BLS 签名。此外,以太坊全面向后量子安全过渡的调整目标时间定为 2028 年 12 月,以预留多轮硬分叉升级时间。整个后量子防御体系依托 leanVM、leanXMSS 与 leanSpec 三大开源基石推进,旨在通过数学证明确保底层代码与技术规范严格一致,抵御潜在的量子计算破解威胁。
显示更多
聚焦在现有工作上用coding Agent去解决,是一条错误道路,人类已经把能吃的红利吃差不多了, 接下来就是无尽的人指令-agent执行-人指令-agent执行的iteration中逐渐迭代工作,很难把人从这种小幅度高强度反复的iteration中解放出来。 因为现有codebase不仅高度复杂,而且人的大部分命令都是高度模糊、 高度开放、高度自由、无法验证的命令, 场景也是高度开放、高度自由、无法在containers中直接测试跑一跑,必须在真实世界中获得反馈才能继续修改工作。 所以我最近半年一直坚持反复告诉大家: 1. 在现有所有大型科技互联网软硬件移动外包平台coding agent的红利很快就吃完,现有人类像唱山歌一样和claude code高强度一问一答的模式,就是短期内的最优解——像full self coding一样大量agent并行完成coding工作,不会带来更多的收益; 2. 在coding agent很快增长和红利消失的大前提下,人类如果想继续把AI Agent和multi agent的红利吃干抹净,必须持续找到有价值的新领域、新方向、新问题: A. 同时满足问题定义简单干净、环境封闭、非常非常易于verify、问题解决方案搜索空间巨大的复杂问题,让goal-driven( 前提是易于verify,必须用很低的成本去verify最终输出是否正确,保持持续验证这个criteria,给予正确的反馈和无限工作循环的核心条件,直到完整完成工作; B. 能够把multi agent的并行度吃干抹净,一次性1000个agent大批量初始化和启动,在一些setup中持续活跃,保持multi agent的可观测性, 除了openclaw时代就臭大街的各种爬虫以外,还有行为经济学、社会学、心理学、教育学、法学等等大规模试验,不由分说充足token,先初始化1000个agent模拟跑几天,观察一些初步结论; C. 就像我半年前说的价值10万刀的策略:把一切人类社会中遇到的所有问题,整理成文档、表格、图片、文字、structured data,让一些富有经验、富有memory的coding agent(就是claude code和codex本人)进行一步步解决, 你始终要明白,现阶段的头部coding agent已经足够复杂、 足够高级、机制足够完善,AI Agent已经经历了4~5轮工业革命,完善到整个industry其他任何生态和框架继续手搓的任何agent都像一个玩具,只要一个claude code/codex一个文件夹+一个docker/kubernete,就是未来一切企业和流程中的general agent; 3. 有一点几乎被所有人忽略,也是我近几个月意识到的问题。 在经典deep learning时代,一些产业对于经典neural network和baysian model有天然的不信任感和敌意,他们会非常激进、偏执地要求一切machine learning的模型尽可能地跟随可解释性、AI伦理、因果推断等等方向。 在AI Agent时代,越是激进使用的人,越是对AI Agent产出的代码、报告、分析、数据、结论产生严重的怀疑, 因此不只是GPT model需要superalignment,LLM Agent本身更需要superalignment,在Agent时代,superalignment的重要性会越来越高, 而且AI Agent产出和workflow的可解释性需求也会越来越高,最最基础浅表的就是各种问答chatbot的来源引用,今后其他越来越复杂的工作,包括coding本身,都会有可解释性的大量问题涌现, 一种方式是尽可能用formal verification或者prover的形式来自动化验证, 一种是用agentical的验证方式,就像人一样去用一个或者多个agent来反复review和challenge一项工作; 4. 还有一点很多人没想到,就是AI Agent会对人施加反过来的影响。 比如office出现后,普通人要求用office三件套来完成工作,office重塑了人类办公的基本流程和规范, 比如出现了google之后的早期,普通人要学会正确输入搜索关键词,把想问的问题拆分成正确的关键词,以获得正确query的结果(后来google反复做了优化,这个技能也逐渐不重要), 比如social network出现之后,人们学会了全新的交友方式、social network的交友礼仪、聊天方式, 所以在AI Agent时代,人最重要的技能,没有之一,就是如何正确使用AI Agent、挑选正确的模型、使用正确的工具、组建正确的prompt、描述正确的问题、输入充足完备的信息、如何用goal-driven去构建一套dual-agent的简单无休止infinite-loop workflow, 一个不会正确定义问题、不会正确输入足够多的信息、不能让AI Agent在一个边界清晰的闭包问题中正确工作、持续工作的人,天天拿AI Agent当成无所不知的万能神、百宝箱、随机神、超人,除了问弱智问题,就是玩猜猜看、问宏大开放的无异议问题, 这种人大概率会被这个时代逐渐淘汰掉。
显示更多
0
12
128
21
转发到社区