AI 自我进化还在探索,围绕它的数据和训练服务,已经开始落地了。
最近看了一些做 RSI 的团队,发现它们选择的切入口很具体:训练数据、供 AI 练习的环境,以及判断表现好坏的评估服务。
我觉得这条路挺务实。想让 AI 持续进步,总得先把练习和反馈的条件搭好。
不过,这也让我更好奇,「帮助 AI 进步」到「AI 更会改进自己」,中间还有多远?
模型成绩提高了,可能是教材更好、老师更强,也可能是多跑了几轮实验。要看清自我改进的作用,还需要把这些贡献分开。
比如,花同样的钱,始终用最初那套系统,和让升级后的系统继续探索,最后会差多少?
数据和训练服务的价值已经很具体。我更期待接下来的实验能告诉我们:上一轮积累的能力,是否真的让 AI 更擅长找到下一次改进的方法。
顯示更多