註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

不游
@fengbuyou
世界和平 | 做人类观察
加入 November 2023
1K 正在關注    4.3K 粉絲
我最近训练了一些迷你模型,发现了什么呢? 1. 如果使用场景只是需要语义输入,然后主要逻辑是某种超多参数的复杂函数,梯度下降就是你最好的朋友,得到的结果比手写逻辑要好的多。 2. 训不明白的话,if/else也不错的。 3. 如果语义就是主要功能,那不如直接用qwen0.5B,在logits层上做文章。
顯示更多