学习一个课程的最好状态就是你大概知道怎么回事,但是你说不出来。
今天学 CS336,整理笔记时写下 LLM 的 evaluation 为什么要分 internal 和 external、为什么要砸这些资源,怎么砸;LLM 的 perplexity 就像 vision 的 CAM 一样 是为了侧面理解 AI。写完的瞬间才发现自己其实已经大概懂了,之前只是说不出来。
而只有做到能说出来,才能和非技术背景的 key stakeholder 沟通好 convince audience,才能推进决策,也就是 impact without authority
顯示更多
斯坦福 CS336 Language Modeling from Scratch 可能是我目前看到讲 LLM最好的课了。
从 pretrain 到 fine tune、tokenizer,到GPT、open-weight model、DeepSeek 的工作,RLHF 等等,全是实战,跟日常工作内容直接相关。面 Research Engineer / MLE/ Technical Staff 面试照着刷就行。
建议直接跟着2026 年春天的版本,录屏、作业教授都放出来了。
顯示更多