Register and share your invite link to earn from video plays and referrals.

Vincent
@Vincent_AINotes
AI
Joined November 2024
367 Following    58.1K Followers
我发现,人类其实就是一种本地小模型,参数量非常小,大概只有 2B。 虽然我们拥有 860 亿个神经元,但日常真正调用的只是其中很少一部分。算力峰值忽高忽低,非常不稳定。 可以瞬间分析出今天谁想害你,但让你计算 12345 × 54321,哈哈哈,直接就卡机了。 预训练通常无法收敛。今天相信科学,明天求神拜佛;早上说要自律,晚上却躺平刷剧,永远在收敛和发散之间反复横跳。 多任务并行?人类应该是真正意义上的单核单线程吧。 嘴上说能一边听歌、一边做事、一边回消息,实际上只是注意力在疯狂进行上下文切换,切换的时候还经常丢包。 联网搜索?哦,没有这个能力。属于纯本地、离线推理模型,主要依赖静态知识库。 不过,语言、书籍和互联网可以算是我们的外挂,只是延迟通常比较高,很多时候还需要通过问别人来完成路由。 至于思维链,通常又长又容易跑偏。经常通过发散性思维进行路径探索,同时还夹杂着大量噪声分支。 微调成本高得离谱,而且特别容易失败。食物、睡眠和情绪价值都可能影响微调效果。有时还会过拟合某一句鸡汤,然后在很长一段时间里,把它当成人生哲理。 知识截止日期?没有明确的截止日期,而且每天都在接收新的垃圾信息。 比如刷到的无脑短视频、和朋友聊的八卦,以及论坛里的各种帖子。每天接收到的信息中,有效内容可能连 1% 都不到。 能耗管理采用的是极端省电模式,代价是每天必须强制关机 4~8 个小时来清理缓存,否则很可能直接黑屏。 这样说起来,人类似乎确实不太好用啊。
Show more