外汇交易员
@fxtrader
盯紧市场，把握时机。理性客观，利益永恒。
가입 November 2018
508 팔로잉 중 406.7K 팬
玉渊谭天：中美推动AI方面合作的可能性，相比数月前已经更为乐观。政策窗口已经打开，双方都有意愿，关键是怎么去做。
具体来看，至少存在三个现实推进方向：
第一，共同探讨AI风险分类和分级标准。
双方需要先把底层问题谈清楚：什么样的情形才算重大风险？哪些模型行为属于严重失控？这些问题看起来基础，却是后续讨论更加复杂规则的前提。如果连“重大风险”的定义都不一致，后续的协同就无从谈起。
第二，敲定AI风险事件通报范围、流程与要求。
一旦出现模型失控、逃逸事件，中美双方都需要第一时间掌握事件情况、判断风险等级。中美同意建立人工智能事件的沟通渠道，是补上这个缺口的第一步。但这套机制不能停留在口头约定上。哪些事件需要上报、多久之内完成通报、哪些信息要共享，以及不落实通报要求如何处置，都要有相应约束。
没有通报机制，就没法留存风险案例；而没有案例积累，就摸不清风险演变的规律，管控也就无从谈起。
第三，将AI治理置于更广泛的中美交流框架中。
人工智能讨论应该让中方充分参与，让更多国家的声音被听到。模型可能影响公共安全，深度伪造可能冲击社会信任，这些后果最终将由全社会共同承担。
더 보기
