Jun (xhigh)
@junairez
Building security engine @GoPlusSecurity | opinions on my own
Joined February 2018
339 Following 3.5K Followers
这一段时间两大头部 AI lab 的模型发布似乎侧面印证了在现在的架构上没法做到智力与安全对齐的平衡。
opus 4.7 4.8 也许都是 用 mythos 作为 teacher 模型微调出来的稍小模型，同时加入更多安全对齐手段，可惜从目前情况来看效果并不如人意。
但某种程度上这也许又是好事，有能力限制那就有空间去解决问题，还不至于让大家都饿死 🤪
Show more
