刚下飞机，聊聊概率与建模的书单。 在讨论建模时，很多人容易陷入调参、拟合或者机械套用公式的误区。 但我认为，建模本质上是用数学结构去压缩世界不确定性，或者寻找复杂系统背后的底层守恒与极值律。 如果你不想只做工具调优者，想建立第一性原理式的概率直觉与建模思维，这几本值得深度看一看。 1. 《Probability Theory: The Logic of Science》 — E. T. Jaynes 这是我在香港的图书馆读的一本书，那时候是2023年。Jaynes 用极具批判性和理论美感的方式，从信息熵与贝叶斯推断出发，重新解释了概率的本质。 读完它，你会意识到概率是知识状态的表征。对于理解 AI 的推理与推断机制极其有益。 2. 《Information Theory, Inference and Learning Algorithms》 — David J.C. MacKay 这算是MacKay 的代表作了，极度兼具物理直觉与数学严谨。 它没有把机器学习当作堆叠代码的黑盒，从概率建模、编码理论与统计物理的交界处入手，我认为这本书是建立现代概率建模大局观的必读书。 你会看到MCMC，变分推断，特别有意思。 这本书，是在浙江大学导师推荐给我的书，好早的版本。而且他还把书送我了。 3. 《High-Dimensional Probability》 — Roman Vershynin 我认为，这本书是进入现代 AI、高维数据分析或复杂网络建模的数学基石。 高维空间里，很多低维的直觉会完全失效。例如Concentration of Measure。 这本书其实用用非常清晰的形式化语言，解释了高维数据为什么能被有效压缩与表征。 4. 《Statistical Mechanics: Entropy, Order Parameters, and Complexity》 — James P. Sethna 其实，建模不仅仅是拟合数据，更是理解系统随时间与尺度的演化。 Sethna 将统计力学的思想完美映射到复杂系统、信息论与随机建模上。读懂统计力学，你对Diffusion Models和自回归动态系统的理解会提升一个维度。 这本书算是我经历一次奇遇才知晓的。故事很长，就不细说了。但是很感谢推荐这本书的师姐，祝她博士毕业后一切顺利。