Jev 常常被归进分类器这一类,这个标签漏掉了它真正的新东西。
过去的编码器式分类模型是专用件,一个任务配一套数据与训练目标,换个任务就重来一轮。
突破点在泛化范围。同一套权重跨过的任务类型,比上一代专用件宽出一大截。
把这项进展记在训练算法上,多半找错了变量。
真正稀缺的是足够宽的数据面,以及一层调用方不必理解模型内部结构的接口。
接口那一层常被当成附赠品,它决定了这套东西被接进现有流水线的速度。
优势既然长在数据面上,护城河也落在数据面。谁的素材更贴近真实工作,谁就更难被替换。
选型该多看一层,它在没见过的任务类型上还剩多少表现,比榜单名次更有参考价值。
泛化也有边界。数据里没出现过的任务类型,它的表现会掉回专用件的水平。
顯示更多