Part 4: 推理流程

从 token 输入到 token 输出：RoPE 位置编码、prefill/decode 两阶段、线程池并行。本主题追踪一次完整的推理循环。

涵盖内容

章节	核心主题
1. rope 与推理循环	旋转位置编码、yarn 扩展、prefill vs decode、自回归生成
2. 线程池	pthread、mutex/condvar、TLS 防嵌套并行

核心概念

• rope — 旋转位置编码
• yarn — YaRN 上下文扩展
• kv-cache — prefill 填充、decode 追加
• rmsnorm — 每层前向中的归一化

前置知识

• Part 3: 模型架构（Attention、MoE、量化）

学习路径

读完本主题后，你将理解：

1. RoPE 如何在 Q/K 向量中编码位置信息
2. prefill（批量消化上下文）和 decode（逐 token 生成）的区别
3. 线程池如何并行化 43 层的计算

→ 下一步：Part 5: 服务层