AI 是怎么“听懂”人类语言的?它其实根本不懂文字,它只认数字。
把文字变成数字的魔法,就叫「词嵌入(Word Embedding)」🧠。用 3 个比喻带你瞬间秒懂:
1️⃣ 传统老办法:独热编码(One-Hot)
就像给全班同学每人发一个座位号:苹果是 [1, 0, 0],香蕉是 [0, 1, 0]。
❌ 缺点:数字之间毫无关系,AI 无法理解“苹果”和“香蕉”都是水果,空间直接爆炸。
2️⃣ 词嵌入的本质:给词语办一张「多维身份证」
AI 把每个词扔进一个高维数学空间里。在这里,字面毫无关系的词,会被赋予一串坐标(比如:[0.25, -0.88, 1.42...])。
✨ 神奇之处:意思相近的词,在空间里的距离就贴得极近。
3️⃣ 经典名场面:向量的加减法
AI 不仅能对齐距离,还能做数学运算:
👉 「国王 (King) - 男人 (Man) + 女人 (Woman) = 女王 (Queen)」
这就是语义空间的降维打击。
💡 总结一句话:
词嵌入把冷冰冰的文本,转化成了带有丰富“语义关系”的数字坐标。无论是 RAG 检索、大模型理解还是推荐系统,底层全靠它在后台默默连线。机器不是变聪明了,是数学变懂人心了。
🤖 #
AI# #
机器学习# #
LLM# #
干货#