从大模型核心算法到 AI 应用部署的全栈学习路径,分领域、分梯度精选论文、代码与教程。
本项目完全由 AI Agent(Claude Code)通过 Exa 搜索引擎自动生成。
所有资源均由 Agent 自主搜索、筛选和整理。我没有逐条核对资料的准确性、时效性和质量——可能存在以下问题:
- 论文链接失效或版本过时
- 对资源重要性的判断有偏差
- 遗漏了该领域的经典工作
- 对中文社区资源的覆盖不够全面
如果你发现任何错误、遗漏或不合适的推荐,欢迎提 Issue 或 PR 指正! 你的反馈对这个项目至关重要。
这是一份 AI 全栈学习资源清单,覆盖从理论到工程的全链路:
AI 全栈
├── Batch 1: 核心算法层
│ ├── 01 基础模型算法 (KV Cache / 注意力变种 / 位置编码 / 长上下文 / 投机解码 / Norm&激活)
│ ├── 02 模型结构 (Transformer演进 / MoE / SSM / 新架构 / 压缩)
│ └── 03 预训练 (Scaling Laws / 数据策略 / 稳定性 / 高效训练 / 长上下文PT / 目标函数)
│
├── Batch 2: 训练与优化层
│ ├── 04 后训练 (SFT / RLHF / DPO / 指令微调 / 偏好对齐)
│ ├── 05 分布式训练 (DP / TP / PP / ZeRO / 3D并行 / 通信优化)
│ └── 06 AI Infra (训练框架 / 推理引擎 / 算子优化 / 编译器 / 集群调度)
│
├── Batch 3: 部署与应用层
│ ├── 07 推理 (推理优化 / 量化 / 服务化 / PD分离 / Speculative)
│ ├── 08 AI 应用 (Agent / RAG / Coding / 工具调用 / Harness)
│ └── 09 评测与基准 (Benchmark / 评测框架 / 自动化评测 / 多维度)
│
└── Batch 4: 扩展领域
├── 10 多模态与视觉语言 (VLM / 视觉生成 / 语音 / 跨模态)
├── 11 数据工程与治理 (数据清洗 / 合成数据 / 数据配比 / 去重去污染)
└── 12 AI 安全与对齐 (RLHF / 红队 / 价值观对齐 / 幻觉 / 越狱 / 可解释性)
AI-FullStack-Roadmap/
├── README.md # 本文件
│
├── batch-1-core/ # 丰富版 - Batch 1: 核心算法层
│ ├── 01-基础模型算法.md
│ ├── 02-模型结构.md
│ └── 03-预训练.md
│
├── batch-2-post/ # 丰富版 - Batch 2: 训练与优化层
│ ├── 04-后训练.md
│ ├── 05-分布式训练.md
│ └── 06-AI-Infra.md
│
├── batch-3-deploy/ # 丰富版 - Batch 3: 部署与应用层
│ ├── 07-推理.md
│ ├── 08-AI应用.md
│ └── 09-评测与基准.md
│
├── batch-4-extended/ # 丰富版 - Batch 4: 扩展领域
│ ├── 10-多模态与视觉语言模型.md
│ ├── 11-数据工程与治理.md
│ └── 12-AI安全与对齐.md
│
└── lean/ # 精简版 v2.0(零基重写,独立闭环)
├── 01-基础模型算法-精简版.md
├── 02-模型结构-精简版.md
├── ...
└── 12-AI安全与对齐-精简版.md
| 版本 | 目录 | 定位 | 资源密度 |
|---|---|---|---|
| 丰富版 | batch-*/ |
大而全,尽可能覆盖子方向所有优质资源 | 每阶段 5-8 项 |
| 精简版 v2.0 | lean/ |
零基重选,独立闭环,只看"不看就血亏"的资源 | 每阶段 ≤3 项 |
精简版完全独立,不依赖丰富版——所有条目完整自足,零"参见丰富版"引用。
每个子方向的资源按三个梯度组织:
| 梯度 | 定位 | 前置条件 | 完成后水平 |
|---|---|---|---|
| 🟢 初级 | 子方向入门 | CS336 级别的大模型系统通识 | 能读懂论文引言、跑通基础实验 |
| 🟡 进阶 | 子方向深入 | 已完成初级入门 | 能独立复现关键方法、达到实习面试要求 |
| 🔴 资深 | 子方向专家 | 已完成进阶深入 | 能独立开展研究/工程、达到正式岗位面试要求 |
| 图例 | 类型 |
|---|---|
| 📄 | 学术论文 |
| 💻 | 开源代码库 |
| 📘 | 技术文档 & 教程 |
| ✍️ | 技术博客/专栏 |
| 🎓 | 课程 |
所有 12 个领域均已覆盖,丰富版 + 精简版共计约 370 项资源。
| 批次 | 领域 | 状态 |
|---|---|---|
| Batch 1 | 01 基础模型算法 | ✅ |
| Batch 1 | 02 模型结构 | ✅ |
| Batch 1 | 03 预训练 | ✅ |
| Batch 2 | 04 后训练 | ✅ |
| Batch 2 | 05 分布式训练 | ✅ |
| Batch 2 | 06 AI Infra | ✅ |
| Batch 3 | 07 推理 | ✅ |
| Batch 3 | 08 AI 应用 | ✅ |
| Batch 3 | 09 评测与基准 | ✅ |
| Batch 4 | 10 多模态与视觉语言模型 | ✅ |
| Batch 4 | 11 数据工程与治理 | ✅ |
| Batch 4 | 12 AI 安全与对齐 | ✅ |
如果你满足以下条件之一,可能会觉得有用:
- 刚学完 CS336 或类似课程,想深入某个子方向
- 准备 AI/ML 实习或正式岗位面试,需要系统性地补课
- 想了解大模型全栈技术栈的整体图景
- 快速浏览 / 面试冲刺 → 先看精简版(
lean/),每阶段最多 3 项 - 深入研究 / 学术调研 → 看丰富版(
batch-*/),覆盖更全面
因为这是 AI Agent 自动整理的,不是人工筛选的 😅。如果你觉得某篇论文值得加入,欢迎提 PR!
这个项目非常需要你的帮助!以下方式都可以:
- 🐛 纠错:论文链接失效、分类错误、信息过时 → 提 Issue 或 PR
- ➕ 补充:发现遗漏的重要资源 → 提 PR 添加到对应文件
- 💬 讨论:对路线图结构、梯度划分有建议 → 发 Issue 讨论
- ⭐ Star:觉得有用的话,点个 Star 支持一下~
提交 PR 前请先看看现有的资源格式,保持风格一致即可。
本项目通过以下流程自动化生成:
- Claude Code Agent 针对每个子领域规划搜索策略
- 调用 Exa Search 进行多轮语义搜索,覆盖学术论文、GitHub 仓库、技术博客等
- Agent 对搜索结果进行去重、分类、分级和格式整理
- 人工(我)进行目录级别的顶层规划,其余内容全部由 Agent 创作
没有经过人工逐条审核。 这就是为什么你的反馈特别重要!
MIT © 2026
Made with 🤖 + ❤️ | Read the disclaimer