蚂蚁3万多名员工背后,已经在跑着10万多个AI智能体,华为也把成千上万个智能体塞进了研发和运维业务线。很多人还在讨论智能体能不能落地,现实中企业后台早就被它们接管了。但这波狂飙带来的安全窟窿比想象中大得多。
蚂蚁集团技术安全官韦韬在CNCC大会上透露,现在很多公司借助AI写代码,代码产出速度暴涨,一个月产生的漏洞量直接相当于过去一整年,防守团队的修复速度完全跟不上。前几天知名数据库全面爆雷,接着PHP和NodeJS被曝高危,就连大模型圈广泛用的LiteLLM网关也被人投毒。更要命的是底层的控制逻辑。
大家以前习惯用自然语言去加安全防护栏,但自然语言本身模糊、边界不清,全是逻辑跳转,反而成了黑客最容易渗透的靶子。现在国内正紧急推行强制标准,给每个智能体发唯一身份号码,没身份标识以后甚至不准上线。当AI生成代码的效率成百倍压垮安全防御,原先几十年前跑下来的防护体系其实已经全线承压了。
顯示更多