Vincent
@Vincent_AINotes
AI
参加 November 2024
367 フォロー中 58.1K ファン
我发现，人类其实就是一种本地小模型，参数量非常小，大概只有 2B。
虽然我们拥有 860 亿个神经元，但日常真正调用的只是其中很少一部分。算力峰值忽高忽低，非常不稳定。
可以瞬间分析出今天谁想害你，但让你计算 12345 × 54321，哈哈哈，直接就卡机了。
预训练通常无法收敛。今天相信科学，明天求神拜佛；早上说要自律，晚上却躺平刷剧，永远在收敛和发散之间反复横跳。
多任务并行？人类应该是真正意义上的单核单线程吧。
嘴上说能一边听歌、一边做事、一边回消息，实际上只是注意力在疯狂进行上下文切换，切换的时候还经常丢包。
联网搜索？哦，没有这个能力。属于纯本地、离线推理模型，主要依赖静态知识库。
不过，语言、书籍和互联网可以算是我们的外挂，只是延迟通常比较高，很多时候还需要通过问别人来完成路由。
至于思维链，通常又长又容易跑偏。经常通过发散性思维进行路径探索，同时还夹杂着大量噪声分支。
微调成本高得离谱，而且特别容易失败。食物、睡眠和情绪价值都可能影响微调效果。有时还会过拟合某一句鸡汤，然后在很长一段时间里，把它当成人生哲理。
知识截止日期？没有明确的截止日期，而且每天都在接收新的垃圾信息。
比如刷到的无脑短视频、和朋友聊的八卦，以及论坛里的各种帖子。每天接收到的信息中，有效内容可能连 1% 都不到。
能耗管理采用的是极端省电模式，代价是每天必须强制关机 4～8 个小时来清理缓存，否则很可能直接黑屏。
这样说起来，人类似乎确实不太好用啊。
もっと見る
