🐶 @SentientAGI Dobby 探索之旅第五画 🐶
绵酱和短鸟老师 @wanghebbf 带着Dobby 在天台看到发光的信封在天空飞舞，他们用金色线勾住了一封失控的信，在老钟楼里绵酱用相机包修复好了那封信后，满天流星落了下来。。。🌠
这次和短鸟老师着实浪漫了一把哈哈哈哈
〰️〰️〰️〰️
昨晚 @SentientAGI 在 @NeurIPSConf 发布了 OML 1.0。
研究了一下他们的 「 可扩展LLM指纹技术 」论文，发现这个方案确实解决了开源模型的一个核心痛点——如何在保持开放的同时保护模型所有权。
▪️传统的模型指纹识别最多只能嵌入100个指纹，再多就会互相冲突，模型性能直接拉胯
▪️但 OML 1.0 直接在 Llama-3.1-8B 里塞进了 24,576 个指纹，性能几乎零损失
关键在于他们的 Perinucleus 采样技术——从模型概率分布的“ 边缘地带 ” 生成指纹，既自然又不冲突。
这样的指纹能抗住：监督微调和风格训练 / 模型蒸馏和融合/ 联合攻击和密钥搜索
验证方式是挑战-响应：给模型一个秘密密钥，它会返回绑定的响应；没有密钥就正常表现。
最牛的是，嵌入的指纹越多，检测概率越高，这意味着可以在实际应用中进行大规模审计。
〰️〰️〰️〰️
好了，其实以上都是用 AI 查的 copy 的，毕竟太深奥太技术了我也不懂，总之牛逼就完事了！🤔
Show more
0
0
1
2
0
