大模型原理入门：从 Token 到 Transformer
这是一套面向开发者的电子书式课程。它不教你从零训练大模型，也不把你带进复杂的论文推导，而是帮助你建立一套足够可靠的底层认知：大模型为什么能工作，为什么会出错，为什么看起来会推理，为什么又不能被当成事实机器。
如果基础版和进阶版关注“如何做 AI 应用”，这一版关注的是“模型本身为什么会这样表现”。读完之后，你应该能更从容地理解 Token、Embedding、Attention、Transformer、预训练、对齐、采样、上下文窗口和幻觉这些概念背后的机制。
适合谁阅读
这本电子书默认你有一定开发经验，熟悉 API、数据结构、状态、工程系统这些概念，但不默认你学过机器学习、深度学习或自然语言处理。
它尤其适合这些读者：
- 已经做过 AI 应用，但想理解模型底层机制的开发者。
- 读过 Prompt、RAG、Agent 工程内容，但觉得大模型内部仍然像黑盒的开发者。
- 想判断模型能力边界，而不是只背概念名词的技术负责人。
- 希望继续学习模型部署、推理优化或论文阅读，但需要先补齐基础直觉的人。
这本书不讲什么
为了和已有基础版、进阶版保持清晰边界，本书刻意不展开这些内容：
- 不讲 API 调用和应用接入。
- 不讲 Prompt 工程技巧。
- 不讲 RAG 系统搭建。
- 不讲 Agent 工程实践。
- 不讲从零训练大模型。
- 不讲复杂数学推导和论文复现。
它会尽量用开发者熟悉的方式解释模型原理，但不会把原理课写成工程实战课。
阅读路线
第一部分：语言模型的起点
目标：先理解大模型是什么，它如何把文字变成模型能处理的对象，以及“预测下一个 Token”为什么是整套系统的起点。
第二部分：模型如何学习和理解上下文
目标：补齐最小必要的神经网络直觉，再进入序列建模、Attention 和 Transformer 结构。
第三部分：大模型能力从哪里来
目标：理解预训练、指令微调、对齐和推理生成过程，知道模型能力不是凭空出现的。
第四部分：模型的边界
目标：理解上下文窗口、模型记忆、幻觉和错误边界，建立对大模型能力的理性判断。
推荐读法
每一章都可以独立阅读，但更推荐按顺序读。前面的概念会不断在后面复用：Token 会影响生成，Embedding 会影响表示，Attention 会影响上下文理解，预训练和采样会影响模型为什么既强大又不稳定。
不要急着记术语。更重要的是在每章结束时问自己三个问题：
- 这个机制解决了什么问题？
- 它为什么会带来新的能力？
- 它同时制造了什么边界或风险？
能回答这三个问题，就说明你已经不只是“知道名词”，而是在建立模型级别的理解。