AI大模型工程知识体系总览与导论

本文是「AI知识成长体系」系列的开篇，为全系列8篇文章提供路线图与认知框架。无论你是刚接触大模型的初学者，还是已有工程经验的开发者，都可以从这篇文章找到适合自己的学习路径。

一、为什么需要这套知识体系

2026年，AI Agent开发的浪潮已经席卷整个互联网行业。不仅是AI算法、AI应用工程师这些「天生AI」的岗位，连后端开发、前端开发、数据开发这些原本跟AI隔了一道墙的岗位，面试官也开始问起AI题了：

• 「你的项目里有没有用过LLM？怎么用的？」
• 「假如让你做一个Agent，你会怎么设计？」
• 「RAG工作流程是怎样的？」
• 「MCP和Skills有什么区别？」
• 「Claude Code的源码架构你了解吗？」
• 「Harness Engineering是什么？Agent怎么越用越聪明？」

这些问题已经悄悄出现在各种岗位的面试里。AI时代，每个工程师都得懂点大模型，不然很容易掉队。

但问题在于，大模型领域的知识碎片化严重。网上有无数的教程、博客、视频，但大多数只覆盖某个点——要么只讲Prompt工程，要么只讲RAG，要么只讲Agent——缺乏一条从底层原理到工程实践、从概念到落地的完整知识链路。

这套系列文章的目标，就是把大模型工程领域的核心知识，按照一条清晰的认知主线串联起来，形成一套既有深度、又能让初学者入门、还能让有经验者增进的完整知识成长体系。

二、知识体系的六大支柱

经过对大模型工程领域系统性的梳理（覆盖7大板块、97篇深度文章），我们将整个知识体系划分为六大核心主题，它们之间存在明确的依赖关系和演进逻辑：

┌─────────────────────────────────────────────────────────────┐
│                    AI大模型工程知识体系                          │
├─────────────────────────────────────────────────────────────┤
│                                                             │
│  支柱一：大模型工程基础（LLM Fundamentals）                      │
│  ├── Transformer架构与注意力机制                               │
│  ├── 训练三阶段（预训练→SFT→对齐）                             │
│  ├── 推理优化（KV Cache、量化、解码策略）                        │
│  ├── Prompt工程与CoT                                         │
│  └── 部署与评测                                               │
│         │                                                   │
│         ▼                                                   │
│  支柱二：RAG检索增强生成（Retrieval-Augmented Generation）       │
│  ├── 文档切割与Embedding                                      │
│  ├── 向量数据库与索引                                          │
│  ├── 检索优化（Query改写、多路召回、Rerank）                    │
│  ├── 高级范式（Self-RAG、CRAG、GraphRAG/LightRAG）            │
│  └── 生产落地（评估、动态更新、幻觉规避）                        │
│         │                                                   │
│         ▼                                                   │
│  支柱三：LLM工具调用（Tool Use / Function Calling）            │
│  ├── Function Calling原理与训练                               │
│  ├── MCP协议（标准化工具封装与发现）                            │
│  ├── Skill（任务流程知识化）                                  │
│  ├── A2A协议（Agent间协作）                                  │
│  └── 通信协议与LLM网关                                        │
│         │                                                   │
│         ▼                                                   │
│  支柱四：LangChain框架（LLM应用开发框架）                      │
│  ├── 核心组件（Model I/O、Chains、Memory、Agents）            │
│  ├── LCEL表达式语言                                          │
│  ├── LangGraph多Agent编排                                   │
│  ├── LangSmith调试与监控                                     │
│  └── 框架选型与工程实践                                        │
│         │                                                   │
│         ▼                                                   │
│  支柱五：Agent智能体（Autonomous AI Agent）                   │
│  ├── 核心架构（感知→规划→行动→反思）                          │
│  ├── 设计范式（ReAct、Plan-and-Execute、Reflection）          │
│  ├── 记忆机制与任务拆分                                       │
│  ├── Harness Engineering & Loop Engineering                  │
│  ├── 多Agent协作与通信                                       │
│  └── OpenClaw与手搓Agent                                     │
│         │                                                   │
│         ▼                                                   │
│  支柱六：Claude Code实战（AI Coding Engineering）             │
│  ├── 基础使用与CLAUDE.md项目记忆                               │
│  ├── Skill机制与SDD规约驱动开发                               │
│  ├── 源码架构（Query Loop/Compact/grep/Memory/SubAgent）     │
│  ├── 系统提示词工程（Fable 5泄漏分析）                         │
│  └── AI编程方法论（grill-me/expertise over coding）           │
│                                                             │
└─────────────────────────────────────────────────────────────┘

为什么是这个顺序？

这六大支柱不是随意排列的，而是一条从底层到上层、从原理到应用、从概念到落地的认知演进路线：

1. 大模型工程基础是地基。不懂Transformer、不懂训练流程、不懂推理优化，后面的一切都是空中楼阁。
2. RAG是大模型最成熟的应用模式。它解决了大模型「知识被冻结」的核心问题，是绝大多数企业AI落地的第一步。GraphRAG和LightRAG进一步引入图结构，解决复杂关系推理。
3. 工具调用是大模型从「说话」变成「做事」的关键。没有工具调用，大模型只是一个聊天机器人；有了工具调用，它才可能成为真正的Agent。
4. LangChain框架是工程化的加速器。当你理解了原理，框架帮你把各种组件标准化组合，快速构建应用。
5. Agent是终极形态。Agent = LLM + RAG + 工具调用 + 记忆 + 规划 + 反思，它是前面所有知识的集大成者。Harness Engineering和Loop Engineering代表了Agent工程的最新演进。
6. Claude Code实战是AI工程的前沿阵地。通过拆解Claude Code的源码架构和系统提示词，你能看到一个工业级AI Coding Agent是如何设计的——这是Agent理论在真实产品中的最佳实践。

三、系列文章目录与阅读指南

本系列共8篇文章，建议按顺序阅读，但也可以根据自身情况跳读：

不同读者的推荐阅读路径

初学者路径（0基础入门）：

00（导论）→ 01（大模型基础，重点看概念部分）→ 02（RAG，重点看流程）
→ 07（学习路径指南）→ 按需深入03/04/05/06

后端/前端工程师路径（想快速应用）：

00（导论）→ 01（快速浏览原理）→ 02（RAG实战）→ 04（LangChain框架）
→ 06（Claude Code，AI编程提效）→ 05（Agent概念）→ 03（工具调用，按需）

AI应用工程师路径（系统深入）：

00 → 01 → 02 → 03 → 04 → 05 → 06 → 07（全部完整阅读）

面试冲刺路径（高频考点）：

00 → 01（Transformer/训练/推理优化）→ 02（RAG全流程）
→ 03（MCP vs FC vs Skill）→ 05（Agent范式/多Agent/Harness Engineering）
→ 06（Claude Code源码/系统提示词）→ 07（查漏补缺）

AI编程方向路径（想用好AI Coding工具）：

00 → 06（Claude Code完整阅读）→ 05（Agent理论支撑）
→ 03（Skill/MCP理解）→ 01（模型理解，按需）

四、核心认知框架：理解大模型工程的三个层次

在深入各个主题之前，先建立一个贯穿全系列的核心认知框架。大模型工程可以理解为三个层次：

第一层：模型层（Model）——「大脑」

这是最底层的物理基础，关注的是模型本身是怎么构成的、怎么训练出来的、怎么推理的。

核心问题：

• Transformer架构为什么有效？Self-Attention的数学原理是什么？
• 大模型是怎么从海量文本中「学」到知识的？预训练、SFT、对齐三个阶段分别做什么？
• 推理时怎么加速？KV Cache、量化、MoE各解决什么问题？
• 为什么大模型会「幻觉」？能消除吗？

这一层对应系列第01篇。

第二层：能力层（Capability）——「技能」

模型本身只是一个「会接续文本的大脑」，要让它在真实场景中有用，需要给它叠加两层能力：

知识能力（RAG）： 大模型的知识被冻结在训练数据里，无法获取实时信息或私有数据。RAG通过外接知识库，让模型在生成前先「查资料」，解决了知识时效性和私有化问题。GraphRAG和LightRAG进一步引入图结构，解决复杂关系推理。

行动能力（工具调用）： 大模型本质上只是文本生成器，不能发邮件、不能查数据库、不能执行代码。Function Calling → MCP → Skill 这一套递进机制，让模型能调用外部工具，从「说话」变成「做事」。

这一层对应系列第02篇（RAG）和第03篇（工具调用）。

第三层：应用层（Application）——「产品」

有了模型、有了知识、有了工具，还需要一个框架把这些组件编排起来，形成一个完整的AI应用。这就是LangChain、Agent和Claude Code的领域。

LangChain框架： 提供标准化的组件抽象（Model I/O、Chains、Memory、Agents、Retrievers），让开发者像搭积木一样构建LLM应用。LangGraph进一步提供了多Agent编排能力。

Agent智能体： 终极应用形态。Agent = LLM + 工具 + 记忆 + 规划 + 反思，能自主感知环境、制定计划、调用工具、执行行动、反思纠错，形成闭环。Harness Engineering让Agent越用越聪明，Loop Engineering把编程范式从Prompt推向Loop。

Claude Code实战： 一个工业级AI Coding Agent的完整拆解。从基础使用到源码架构，从系统提示词到多Agent机制，展示了Agent理论如何在真实产品中落地。

这一层对应系列第04篇（LangChain）、第05篇（Agent）和第06篇（Claude Code）。

┌──────────────────────────────────────────┐
│           第三层：应用层（产品）              │
│   LangChain框架 / Agent / Claude Code     │
├──────────────────────────────────────────┤
│           第二层：能力层（技能）              │
│      RAG（知识）  +  工具调用（行动）       │
├──────────────────────────────────────────┤
│           第一层：模型层（大脑）              │
│      LLM（Transformer/训练/推理）          │
└──────────────────────────────────────────┘

理解了这三个层次，你就理解了整套知识体系的内在逻辑：从大脑（模型）到技能（RAG+工具）到产品（框架+Agent+Claude Code），每一层都建立在前一层之上。

五、贯穿全系列的十条核心原则

在阅读后续文章时，你会发现以下原则反复出现。它们是大模型工程领域的「元认知」，理解了它们，很多具体的技术选型和设计决策都能自己推导出来：

原则1：模型是大脑，代码是身体

大模型永远只是「决策者」，不亲自执行任何操作。无论是Function Calling、MCP还是Agent，核心设计都是决策和执行分离——模型决定做什么，代码负责怎么做。Claude Code的源码完美体现了这一点：模型的Query Loop负责决策，工具执行在代码层完成。

原则2：知识在数据里，不在参数里

大模型的知识被冻结在训练数据中。要让模型知道新知识，有两条路：RAG（外接知识库，推理时查）和微调（改参数，训练时学）。绝大多数场景下，RAG是更经济、更灵活的选择——因为知识更新只需要更新数据库，不需要重新训练模型。GraphRAG进一步证明了：用图结构组织知识，比纯向量检索更能捕捉实体间的复杂关系。

原则3：复杂任务必须拆分

一个大模型调用做不完复杂任务。无论是Agent的任务拆分、RAG的文档切割、还是LangChain的Chain组合、Claude Code的SubAgent机制，核心思想都是把大问题分解为小步骤，每一步让模型做它最擅长的事。

原则4：检索质量决定生成质量

RAG系统里，Garbage In Garbage Out。如果检索到的文档不相关，模型再强也生成不出好答案。这就是为什么RAG系列会花大量篇幅讲Chunking策略、Embedding选型、Query改写、多路召回、Rerank精排——全都在优化检索质量。有趣的是，Claude Code在代码检索场景下选择了grep而非RAG——因为代码检索有精确匹配需求，这反过来说明：没有最好的检索方式，只有最适合场景的检索方式。

原则5：记忆是Agent的连续性

没有记忆的Agent就像金鱼，每次对话都从零开始。短期记忆（context window）保持当前任务上下文，长期记忆（CLAUDE.md/向量数据库）保持跨任务的项目规范和历史。Claude Code的记忆机制设计尤其精妙：它不用向量数据库做长期记忆，而是用CLAUDE.md文件——因为代码项目的「记忆」是结构化的、可版本控制的，文件比向量更适合。

原则6：反思让Agent从错误中学习

优秀的Agent不是不犯错，而是犯了错能感知、能分析、能纠正。Reflection机制让Agent在每步行动后检查结果，发现异常就调整策略。Claude Code的grill-me方法论把这种反思前置——写代码前先让AI审问你的需求，这本质上是把Reflection从「事后纠错」升级为「事前预防」。

原则7：框架是加速器，不是依赖

LangChain、LlamaIndex等框架能帮你快速起步，但在复杂场景下框架的抽象可能成为限制。有经验的工程师知道什么时候用框架、什么时候手搓——这个判断力来自于对底层原理的理解。Claude Code本身就是一个「手搓」的Agent——它没有用LangChain，而是自己实现了Query Loop、Compact压缩、SubAgent等机制，因为通用框架无法满足AI Coding的特殊需求。

原则8：评估是工程化的前提

没有评估就没有改进。无论是RAG的检索质量评估（Hit@K、RAGAs）、还是大模型的能力评测（Benchmark+业务测试集）、还是Agent的端到端评估，量化评估是把AI从「Demo」推向「生产」的关键一环。Anthropic对40万次Claude Code会话的研究发现：用好AI编程的关键不是会写代码，而是会表达专业意图——这本身就是一种大规模评估驱动的洞察。

原则9：Harness Engineering让Agent越用越聪明

Agent不是一次性的工具，而是一个可以持续优化的系统。Harness Engineering的核心是：通过不断优化Agent的外围框架（Prompt模板、工具定义、记忆策略、反思机制），让同一个底层模型展现出越来越强的能力。Claude Code的CLAUDE.md、Skill机制、grill-me都是Harness Engineering的具体实践。

原则10：从Prompt到Loop是编程范式的转变

传统编程是「人写代码，机器执行」。AI编程的新范式是「人描述意图，AI生成代码，人审查反馈，AI修改迭代」——这是一个Loop。Loop Engineering不是简单的「让AI写代码」，而是重新定义了人机协作的编程流程：规约驱动开发（SDD）、需求审问（grill-me）、多Agent协作，都是Loop Engineering的具体模式。

六、本系列的知识来源与方法论

本系列文章的素材来源于对小林面试笔记（xiaolinnote.com）七大板块共97篇深度文章的系统性遍历和完整提取：

所有题目均来自字节、阿里、快手、腾讯等大厂真实面经，每道题都从根子上讲透原理。所有文章均通过带cookie的完整抓取获取，确保内容无截断。

在此基础上，我们进行了以下改写和重构：

1. 从面试题到知识体系：不再以「题」为单位，而是以「知识主题」为单位，把分散的面试题重新组织成有逻辑的知识链路。
2. 从问答到教程：不是Q&A形式，而是教程式叙述，从概念引入到原理剖析到工程实践，循序渐进。
3. 从碎片到体系：六大主题之间建立明确的关联关系，形成完整的认知框架。
4. 从入门到进阶：每篇文章都兼顾初学者（概念清晰、类比生动）和有经验者（原理深入、工程细节、坑点提示）。
5. 整合图解系列：将图解Agent和图解Claude Code的深度内容融入相应主题，使理论有实践支撑。

七、阅读建议

1. 不要跳过基础。即使你已经有Agent开发经验，第01篇的Transformer原理、训练流程、推理优化也值得回顾——很多工程问题的根源就在底层原理。
2. 动手实践。每篇文章中的代码示例都可以直接运行，建议边读边跑，加深理解。
3. 关注关联。注意每篇文章末尾的「与其他主题的关联」部分，这是把碎片知识串联成体系的关键。
4. 带着问题读。每篇文章开头都有「核心问题」，读完之后检查自己能否回答这些问题。
5. 迭代学习。第一遍快速通读建立框架，第二遍深入细节，第三遍结合实践查漏补缺。
6. 特别关注Claude Code篇。即使你不做AI Coding，Claude Code的源码架构和系统提示词也是理解工业级Agent设计的最佳教材。

八、术语速查表

下一篇：01 大模型基础与工程化实践

我们将从Transformer架构出发，一路讲到训练三阶段、推理优化、Prompt工程和部署评测，建立对大模型本身的最底层理解。

本文是「AI知识成长体系」系列第00篇。全系列共8篇，形成完整的大模型工程知识成长体系。