注册并分享邀请链接,可获得视频播放与邀请奖励。

搜索结果 VerifiableAI
VerifiableAI 贴吧
一个关键词就是一个贴吧,路径全站唯一。
创建贴吧
用户
未找到
包含 VerifiableAI 的推特
以后AI Agent替我们交易、管理金库甚至执行企业付款,最大的风险可能不是它偶尔判断错。 而是它告诉你: “我查过价格了。” “我执行了风控。” “我完全按照授权流程操作。” 但你没有办法证明它到底做没做。 AI Agent天然存在不确定性。同样的输入,可能产生不同的决定。普通运行日志又可以删改,Agent甚至可能跳过预言机和风控步骤,直接返回一个看起来合理的结果。 这也是我最近重新研究 @primus_labs 时,发现一个很少有人展开的方向: Primus正在把验证范围从数据,扩展到状态和行动。 官方现在把统一验证层分为三部分: Verify Data:验证链上、链下数据和API返回结果 Verify State:验证余额、活动和授权状态 Verify Actions:验证交易、Agent行为和现实工作流 举个最实际的例子: 机构要求一个交易Agent必须先查询指定预言机,再调用模型分析,确认风险条件符合后才能下单。 这些中间步骤,本质上大多是通过TLS连接完成的API请求。 Primus的zkTLS可以为关键请求生成密码学证明,证明Agent确实访问了指定接口、收到特定结果,并按照规定顺序完成操作。 API Key、完整会话内容和机构内部策略不需要全部公开。 最终,用户或协议验证的不再是Agent写下的一份“工作总结”,而是一条能够核验的执行轨迹: 它调用了什么、得到什么结果、先做了哪一步、最后执行了什么行动。 当然,这不能保证Agent做出的每个判断都正确。 但至少可以证明它有没有遵守授权,有没有跳过风控,有没有完成自己声称执行过的步骤。 我觉得这会成为Agent真正管理资金之前,必须补上的一层基础设施。 AI Agent拥有钱包只是起点。 它每一次动用资金,都应该留下能够验证、又不泄露策略的执行证明。 这也是Primus从“验证数据”继续走向“验证行动”的真正价值。 了解Primus并体验官方验证任务: #Primus# #AIAgent# #zkTLS# #VerifiableAI#
显示更多
0
125
98
2
转发到社区
在AI概念横行的时代,想找找有没有稍微有些差异化的项目,发现了最近新上币安现货的 $OPG ,简单了解了一下发现Verifiable AI这个赛道还真是有一定可行性。 OpenGradient 称为“面向可验证AI的网络”,目标是把高性能的 AI 计算上链以实现推理的可验证性与透明性,支持在链上托管模型、运行可验证推理并部署智能体/应用。 不要让“黑箱”决定关键业务,在决策成本高昂的时代,信任不是口号,而是必须的证据。OpenGradient 将 AI 推理带上链,用可验证证明与机密计算保障每一次推理的完整性与可审计性。无论是金融风控、医疗诊断,还是合规审计,OpenGradient 都能让模型输出可追溯、可验证、可控。 开发者可通过 Python SDK 和 Model Hub 快速接入,利用 MemSync 实现长期记忆与个性化服务,企业可在 testnet 上低成本试验并在链上记录使用凭证。 数据,结论不是黑盒的凭空而出,token不是没有记录的凭空消耗,链上的证据和可验证性记录了一切,这就是OpenGradient在做的事。 一样,这次总量4%的代币给了bnbholder,
显示更多
Binance 安全事件背后:AI 正在加速渗透,但AI信任基础设施仍远远落后 AI Is Everywhere. But Where Is the Trust Infrastructure? Binance 披露的重大安全事件揭示了一个值得整个 AI 行业警惕的问题: AI 的未来,不仅取决于机器能够做什么,更取决于我们能否证明它有权这么做。 根据初步调查,攻击者通过恶意软件感染员工设备,并利用内部 AI 工具进行横向移动,最终获取关键基础设施的访问权限,导致约 63.4 亿美元数字资产受到影响。 虽然不能将此次攻击简单归因于 AI 权限过高,但它暴露了一个正在被低估的风险: AI 正在获得越来越强大的执行能力,而针对 AI 权限、行为验证和工作透明度的基础设施,却远远没有跟上。 从 AI 工具到 AI Agent:能力与风险同步扩张 今天,AI 已经渗透到软件开发、企业运营、金融交易及基础设施管理等各个领域。 它不再只是生成内容或提供建议,而是能够自主调用 API、执行代码、访问内部系统,甚至管理资金与数字资产。 AI 正在从 Information Layer 进入 Execution Layer。这意味着安全问题发生了根本变化。 过去,我们需要担心 AI 是否给出了错误答案;现在,我们更需要担心 AI 是否执行了未经授权的操作。 然而,现有的安全体系主要围绕人类用户和传统软件设计,难以充分应对 AI Agent 自主规划任务、跨系统调用工具所带来的新风险。 一个 AI 拥有访问某个系统的能力,并不意味着它在任何任务中都有权使用这项能力。 Capability is not Authorization. 从 Verifiable Inference 到 Verifiable Work 随着 AI 开始参与真实世界的经济活动,我们需要验证的,不再只是 AI 生成了什么,而是它实际做了什么,以及它是否获得了相应授权。 这正是 Verifiable Work 的核心价值。未来可信的 AI 基础设施,需要能够验证 Agent 的身份、任务权限、执行环境和关键操作,并确保敏感行为在执行前受到独立的安全约束。 透明化也不意味着公开所有数据,而是在保护隐私的前提下,让关键行为能够被验证、审计和追溯。 Don’t just verify what AI says. Verify what AI does. AI 时代需要新的信任基础设施 这也是 0G 所探索的 Verifiable AI 基础设施的重要意义。 通过 Verifiable Compute、可信执行环境、去中心化存储以及 Agentic ID,0G 正在构建 AI 可信计算与身份验证的基础能力。未来,这些能力有望进一步结合任务级权限管理与可验证执行机制,从 Verifiable Inference 延伸至 Verifiable Actions 和 Verifiable Work。 随着 Agentic Economy 的发展,越来越多 AI 将拥有独立身份、自主调用资源,并参与真实的商业交易。 如果我们无法验证 AI 的身份、权限和行为,就难以真正放心地将关键业务和资产交给 AI。 Binance 事件再次提醒我们: 我们已经投入巨大的资源,让 AI 变得更聪明、更高效、更自主。现在,也必须投入相应的资源,让 AI 的行为更加透明、可控、可验证。 Intelligence needs Trust. Autonomy needs Verification.
显示更多
以后真让 AI Agent 帮我盯盘、查数据,甚至自动执行交易,我估计还是会忍不住问一句:你刚才看的数据,到底靠不靠谱? 毕竟涉及真金白银,AI 给出的答案再漂亮,如果最初获取的信息就有问题,后面的判断也很难让人放心。 刚好今天 @primus_labs 公布了与 @CournotProtocol 的新合作,我觉得这次更新还挺有意思,也让我对 Primus 的 zkTLS 有了更多理解。 / 先说 Cournot,这是一个 AI 原生的预言机协议,能够分析现实世界的事件信息,为预测市场等链上应用提供可审计的判断结果。 但这里有个问题。 比如一个预测市场需要判断某项经济数据是否达到预期,AI 可以分析新闻、查询网站、调用 API,但这些信息究竟来自哪里?有没有被修改过? 这就轮到 Primus @primus_labs 发挥作用了。 通过 zkTLS,Primus 可以为来自网站或 API 的数据提供真实性证明,同时减少敏感信息的暴露。 双方这次合作的分工也比较清晰:Primus 负责验证链下证据来源,Cournot 再根据这些证据进行分析,形成可审计的判断结果。 我觉得这个组合挺值得关注的。 毕竟预测市场最终涉及真实资金结算,数据来源的可靠性非常重要。 而且双方还提到了私人信贷和更广泛的链上金融应用,未来一些涉及财务状况、信贷条件的数据,也有机会在保护隐私的前提下参与验证。 当然,这部分目前还是探索方向,后续能落地到什么程度,还得继续观察。 / 其实 Primus @primus_labs 此前已经在类似场景中积累了一些经验。 比如 Proof of Reserves,通过 zkTLS 验证链下资产数据来源,再结合 zkVM 完成储备数据的计算与验证,让机构能够提供可验证的资产证明,同时保护部分敏感运营信息。 另外,Primus 官方 Docs 还专门提到了 Verifiable AI Agent Execution。 当 Agent 调用外部 API、查询数据或者执行金融任务时,可以针对关键交互生成 zkTLS 证明,让部分执行过程有据可查。 这里我觉得有个细节需要注意。 证明数据来自真实来源,并不意味着 AI 的判断一定正确。Primus 解决的是整个决策过程里非常重要的证据可信问题。 / 从储备金验证,到 AI Agent,再到今天与 Cournot 合作拓展预测市场,Primus 的应用方向正在不断延伸。 而且它不需要重新搭建一条公链,可以直接将验证和隐私能力接入现有生态。 我个人挺看好这种基础设施的发展方向。 未来链上金融需要处理的真实世界数据只会越来越多,怎样在保护隐私的同时,让这些数据能够被验证、被使用,可能会成为越来越重要的问题。 而 Primus,正在这条路上持续推进。
显示更多
0
104
79
1
转发到社区
据 Nada News 报道,Sui 开发团队 Mysten Labs 宣布与 Google Cloud 达成联合开发合作,共同构建名为“Verifiable Agent Arbiter(VAA)”的去中心化验证基础设施,用于证明 AI Agent 严格在授权权限内执行操作。VAA 将敏感的详细操作记录存储于客户掌控的 Google Cloud 私有存储中,而将对应的密码学证明锚定在去中心化存储协议 Walrus 并通过 Sui 区块链进行协调验证,从而在保障企业隐私的同时实现防篡改审计。此外,VAA 还将接入基于 Sui 的“x402”支付标准,允许 AI Agent 自主寻找外部服务并直接完成结算,全程通过加密方式记录支付权限与执行链路,以支持 B2B 自动化交易对账与异常行为追溯。
显示更多
TapeAPI 是 TapeOut 的开放服务层,让 Circuit、Container、应用与 Agent 通过可验证服务协作。 TapeAPI is TapeOut’s open service layer, enabling Circuits, Containers, apps, and agents to collaborate through verifiable services.
显示更多
你还没参加 @quipnetwork 推出的 Quantum Echoes 活动吗? 说真的,这两天我刷到很多项目,基本都是一眼看完就划走。不是我冷淡,是现在 Web3 里“新概念”太多了,很多东西包装得很热闹,最后发现还是老一套:白名单、任务、冲数据、等开奖。 但 @quipnetwork 这个 Quantum Echoes,我是越看越觉得不一样。 一开始我以为它只是一个 NFT 活动,后来才发现重点根本不止 NFT。Quantum Echoes 是一个由真实量子硬件驱动的 NFT collection,每一次 mint 都会被 quantum verifiable randomness 影响,也就是说,它不是那种随便写个随机数、再套一层稀有度的玩法,而是把“真实量子随机性”放到了链上场景里。 这点挺打动我的。 因为我们平时在币圈讲“公平”“随机”“透明”,但很多时候还是要信平台、信项目方、信后台规则。可如果随机性本身能被更可信的方式生成,那它未来能用的地方就不只是 NFT 了,像 provably fair gaming、oracles、安全密钥生成,这些都可能延伸出去。 而且这次 Quantum Echoes 还是 free open edition mint on Ethereum,并且会在 OpenSea 上线。更有意思的是 Eigen Keys,只有 1,000 个,拿到以后可以解锁 rare traits。获取方式也不是单纯拼手速,而是看你有没有真实参与:Mindshare leaderboard、Points auction、Nucleus reputation、社区合作、Discord 活跃度等等。 我反而喜欢这种机制。 它不像那种“谁机器人多谁赢”的活动,而是更偏向奖励真正关注、真正互动、真正留在生态里的人。你在 X 上讨论 NFT,你有链上交易历史,你持有相关资产,你愿意进社区交流,这些都可能变成你的机会。 我现在的感觉是,Quantum Echoes 可能不是一个只看图的 NFT,而更像是 Quip Network 生态早期参与者的一个身份标记。等以后大家再回头看,也许会发现这类“量子随机性 + 链上应用”的尝试,其实是一个很早的信号。 所以如果你还没参加 @quipnetwork 的 Quantum Echoes,我真建议你去看看。 不用一上来就 FOMO,先了解项目,进社区,做任务,看看 Eigen Keys 怎么拿。很多机会不是突然砸到你脸上的,而是你比别人早一步认真看了两眼。 @QuipNetwork 这次,我不想只当围观的人。兄弟们不想当看客的就点击链接加入
显示更多
Andrej Karpathy发表评论表示: 因为人们对大语言模型(LLM)能力的认知鸿沟正在进一步扩大。 现在的情况已经不再只是“两群人在各说各话”,而更像是一个急剧收窄的漏斗。 - 约60亿人(全球人口的75%):粗略估算,这些人几乎从未真正接触过LLM。 - 约10亿至20亿人(约20%):他们是ChatGPT等免费产品的轻度、低频用户。这群人接触到的往往是一些略显笨拙的聊天机器人,将其当作功能更强的谷歌搜索、写作辅助工具等等。偶尔也许会有一个AI Agent尝试帮你预订机票。我有一些非科技行业的朋友认为AI对他们几乎没什么用处,而我觉得这种看法完全可以理解。即使是数学和编程领域之外的许多专业人士,也仍然处于这一层级。例如,企业高管和许多其他职能岗位的员工,大部分时间都在与人沟通。因此,尽管他们在理性上理解AI正在发生什么变化,但这种认识仍然来自间接体验,多少有些抽象。 - 约2000万人(0.2%):接下来是那些在数学和编程领域专业使用前沿LLM的人。这些人已经亲眼见证:过去需要几周甚至几个月才能完成的大型复杂项目,现在只需要给AI Agent一个Prompt,就能由它完成。开发应用、复制应用、迁移应用、从二进制文件中反编译应用……这一切都发生得极其迅速,而且就在最近。不到一年前,我还在亲手编写代码,在代码编辑器里逐字逐符地敲入那些记在脑海里的编程指令,偶尔按一下Tab键,让自动补全帮我生成一小段代码。 - 约5000人(0.00006%):最后,是那些能够在内部接触最前沿AI系统的人。外部世界目前看到的,只不过是一个预览版本。真正的前沿能力可能是这样的:成千上万个AI Agent组成集群,连续数周协作,完成超大型软件工程项目;发现零日漏洞;以机器速度发动和防御网络攻击;发现新的科学知识;推进数学研究的最前沿。这些任务过去可能需要业内顶尖专业人士花费数年才能完成。与此同时,人类的审查能力和理解能力已经开始跟不上AI的发展速度。例如,人们至今仍在对数月前的OpenAI-HF事件进行所谓的“考古式研究”。而数学家们可能还需要花费很长时间,才能仔细研究那722篇关于前沿数学的论文手稿。 造成这种漏斗式分化的,是以下几个因素共同作用的结果: 1. AI带来的影响,随着目标的雄心、问题规模和任务时间跨度的增加而扩大。 一个只需要一段文字就能回答的问题,几乎无法触及这些系统的能力上限。你必须拥有大量真正关心、规模庞大且难度极高的问题,才能充分发挥AI的能力。 这一因素主要解释了为什么普通消费者和专业用户之间会出现如此巨大的体验差异。 2. AI能力分布的不均匀性(Jaggedness)。 关于这一点,我此前已经写过很多。 AI能力的高峰集中出现在那些数字化程度高、结果可验证,而且具有明确经济价值的领域。 这是因为LLM的能力很大程度上来自基于可验证奖励的强化学习(Reinforcement Learning on Verifiable Rewards,RLVR),而训练环境的组合经过精心筛选,其选择又受到潜在商业收入的驱动。 这一因素主要解释了为什么不同专业领域之间会产生如此巨大的能力差异,例如数学和编程领域为何尤其突出。 3. 使用权限(Access)。 免费版本、付费版本,以及仅供内部使用的前沿系统,所提供的能力存在显著差异。 这就是我们所处时代的奇特之处。 绝大多数普通人几乎没有真正接触过这些AI系统。即便接触过,他们看到的也只是一个有点笨拙的聊天机器人。 大多数专业人士目前感受到的,也只是相对有限的生产力提升。 然而,极少数专业人士正在亲身经历另一种截然不同的现实:AI能力曲线突然变得近乎垂直向上,他们正体验着这种指数级跃升所带来的眩晕感。 而这一切,正在同一个时代、同一个时刻,同时发生。
显示更多
0
11
57
6
转发到社区