不游(@fengbuyou):我最近训练了一些迷你模型，发现了什么呢？ 1. 如果使用场景只是需要语义输入，然后主要逻辑是某种超多参数的复杂函数，梯度下降就是你最好的朋友，得到的结果比手写逻辑要好的多。 2. 训不明白的话，if/else也不错的。 3. 如果语义就是主要功能，那不如直接用qwen0.5B，在logits层上做文章。

2026.09.01 08:50

我最近训练了一些迷你模型，发现了什么呢？ 1. 如果使用场景只是需要语义输入，然后主要逻辑是某种超多参数的复杂函数，梯度下降就是你最好的朋友，得到的结果比手写逻辑要好的多。 2. 训不明白的话，if/else也不错的。 3. 如果语义就是主要功能，那不如直接用qwen0.5B，在logits层上做文章。

显示更多