AI少年
@aehyok
全栈独立开发者，CEO， 喜欢编程和爱折腾AI
我的个人网站：
我的武器库:
我的公众号: 那个曾经的AI少年。
Joined December 2014
381 Following 9.2K Followers
大家都讲烂的 Transformer，内部到底装了什么？
Left 写了一篇大模型底层参数的科普文，尝试用最接地气的大白话把这套架构彻底讲透。
1.Embedding 层： 怎么把文字变成有语义的“数字坐标
2.注意力层： QKV 之间如何上演老和尚和小和尚的暗号对接
3.FFN 层： 几十层网络如何进行高维的知识库加工
4.归一层： 怎么给语义做动态保本，防止传话游戏偏到姥姥家
5.输出层： 最后的翻译官，怎么通过概率计算完成临门一脚？
这可能是你今年能看懂的最通俗的大模型入门拆解，如果你也对Transformer架构感兴趣，那么这篇文章值得一读
Show more
