第7章 AI技术基础与工具选型
本章导读
第4章扫盲了术语,本章把术语背后的技术逻辑讲透,并落到FDE最实际的决策——工具选型。FDE不必写底层代码,但必须懂技术原理,才能判断"什么场景用什么工具"。本章图解大模型调用、Prompt工程、RAG检索、工作流编排四项核心技术的原理;盘点主流工具;给出以落地效果为核心的选型方法论。读完本章,你应当能根据业务场景,快速匹配合适的工具组合。
§7.1 FDE要懂的技术深度
先校准一个认知:FDE要懂技术,但不必要懂到能写底层算法。
FDE的技术深度标准是**“能判断、能配置、能排查”**:
- 能判断:知道什么场景该用什么技术、什么技术做不了什么。
- 能配置:能在零代码平台配置Prompt、RAG、工作流。
- 能排查:出问题能定位是Prompt、数据、还是接口的问题。
不要求"能开发"——开发底层是算法工程师与平台团队的事。FDE的技术价值在应用层判断,不在底层实现。
§7.2 核心技术逻辑图解
7.2.1 大模型调用
原理:FDE通过API向大模型发送一段文本(Prompt),模型返回生成的文本(Response)。整个过程是"输入文本→模型预测→输出文本"。
图7-1:大模型调用流程 (建议呈现:横向流程图。Prompt组装→API请求→模型推理→Response返回→结果解析。)
FDE要懂的关键点:
- Token计费:输入与输出都按Token计费,长Prompt成本高。
- 上下文窗口:超过窗口的输入会被截断,影响效果。
- 温度(Temperature):控制输出随机性,0最确定、1较随机。事实性任务用低温度,创意性任务用高温度。
- 超时与重试:API可能超时或失败,调用逻辑要设计重试。
7.2.2 Prompt工程
原理:Prompt是给大模型的指令。同样的模型,不同Prompt效果天差地别。Prompt工程就是设计能稳定产出预期结果的指令。
核心要素:
- 角色设定:告诉模型"你是谁"(“你是一位资深客服主管”)。
- 任务描述:明确要做什么(“请根据以下客户问题,生成回复”)。
- 约束条件:限定输出(“不超过200字"“不承诺具体赔偿”)。
- 输出格式:指定结构(JSON、表格、Markdown)。
- Few-Shot示例:给几个输入输出范例,引导模型学习模式。
方法论框7-1:Prompt五要素检查 写完一个Prompt,逐项检查:
- 角色设定了吗?
- 任务说清了吗?
- 约束给了吗?
- 输出格式定了吗?
- 需要Few-Shot吗? 五项想清楚再写,比写完返工快。
7.2.3 RAG检索
原理:见第4章§4.5。RAG的核心是"先检索相关片段,再让模型基于片段回答”。
FDE要懂的调优点:
- 切片策略:文档怎么切(按段落、按字数、按语义)影响检索质量。
- 向量模型选择:不同向量模型对中文、专业术语的支持不同。
- 检索Top-K:每次取几条最相似片段,太少漏信息、太多噪声多。
- 重排序(Rerank):对检索结果二次排序,提升相关性。
- 混合检索:向量检索+关键词检索结合,兼顾语义与精确匹配。
图7-2:RAG调优关键点 (建议呈现:流程图,在标准RAG流程上标注切片、向量模型、Top-K、Rerank、混合检索五个调优点。)
7.2.4 工作流编排
原理:把复杂任务拆成多个节点,每个节点用一个AI能力或工具,按顺序/条件串联,自动完成。
节点类型:
- 大模型节点:调用LLM做生成/分析/分类。
- 工具节点:调用API、查数据库、发邮件。
- 条件节点:根据上游输出分支。
- 循环节点:对列表数据逐条处理。
图7-3:工作流编排示例 (建议呈现:节点流程图。输入→LLM分类→条件分支(A/B)→A分支调工具+LLM生成→B分支直接LLM生成→合并输出。)
FDE要懂的设计点:
- 节点粒度:每个节点做一件事,不要塞太多逻辑。
- 错误处理:每个节点都可能失败,要有降级方案。
- 数据流转:上游节点的输出如何作为下游输入,要设计清楚。
§7.3 主流工具盘点
说明:工具市场变化快,本节盘点为撰写时主流选择,读者应以最新市场情况为准。本书不替任何工具背书,仅做分类参考。
7.3.1 大模型平台
提供模型调用能力。选型关注:能力、价格、稳定性、合规性。
- 海外:GPT系列、Claude系列、Gemini系列(国内使用需注意合规)。
- 国内:通义、文心、智谱、月之暗面、DeepSeek、豆包等,各有侧重。
FDE建议至少熟悉2-3个,因为不同模型在不同任务上表现差异大。
7.3.2 零代码Agent搭建平台
提供Agent/Skill/工作流的可视化搭建。选型关注:易用性、扩展性、生态、价格。
主流方向:
- 大厂生态平台:与自家模型深度集成,适合深度用户。
- 独立Agent平台:支持多家模型,灵活度高。
- 工作流自动化平台:偏自动化集成,适合跨系统串联。
7.3.3 工作流自动化工具
用于跨系统串联、触发与执行。关注:连接器丰富度、稳定性、触发方式。
7.3.4 数据处理工具
用于清洗、转换、分析数据。关注:处理量、易用性、与AI能力的衔接。
§7.4 工具选型方法论
工具多到眼花,FDE怎么选?核心原则一句话:以落地效果为核心,不是以技术先进性为核心。
选型四步法
方法论框7-2:工具选型四步法
- 先定场景:要解决什么业务问题?输出什么效果?
- 再定能力:完成这个场景需要哪些AI能力(生成/检索/分类/编排)?
- 匹配工具:哪些工具能提供这些能力?列候选清单。
- 实测对比:用真实数据测2-3个候选,选效果最好且成本可控的。
选型的常见误区
误区一:追新。 新工具层出不穷,追新会陷入"工具焦虑"。原则:能用现有工具解决的,不换新。
误区二:贪全。 想用一个工具解决所有问题。现实是每个工具都有强项弱项,组合使用更合理。
误区三:只看Demo。 工具Demo都很漂亮,真实业务数据下表现可能差很多。必须用客户真实数据测。
误区四:忽视成本。 光看效果不看成本,上线后发现Token费用爆表。选型必须算成本。
误区五:忽视合规。 客户数据敏感度不同,选型要考虑私有化部署、数据脱敏、合规通道。
选型决策表
建议FDE维护一张自己的选型决策表,每次选型填一遍:
| 维度 | 权重 | 候选A | 候选B | 候选C |
|---|---|---|---|---|
| 效果(实测) | 30% | |||
| 成本 | 20% | |||
| 稳定性 | 15% | |||
| 易用性 | 10% | |||
| 合规性 | 15% | |||
| 生态扩展 | 10% | |||
| 加权总分 |
填完表,选型决策有据可依,不再是拍脑袋。
§7.5 场景与工具的匹配速查
把四类典型场景(第4章§4.9)与工具匹配,给一张速查表。
| 场景类型 | 核心能力 | 推荐工具组合 | 关键调优点 |
|---|---|---|---|
| 信息整理 | 分类/摘要 | 大模型 + Prompt | Prompt约束输出格式 |
| 内容生成 | 生成 | 大模型 + Prompt + Few-Shot | 角色设定与Few-Shot |
| 知识问答 | 检索+生成 | 大模型 + RAG + 向量库 | 切片与Top-K |
| 流程自动化 | 编排+集成 | 工作流平台 + 大模型 + 工具 | 节点粒度与错误处理 |
这张表是入门速查,复杂场景需组合多种能力,第三篇会深入。
本章小结
- 技术深度标准:能判断、能配置、能排查,不要求能开发底层。
- 四项核心技术:大模型调用、Prompt工程、RAG检索、工作流编排,各有调优点。
- 工具盘点:大模型平台、Agent平台、工作流工具、数据处理工具四类。
- 选型方法论:先定场景→再定能力→匹配工具→实测对比,以落地效果为核心。
- 选型误区:追新、贪全、只看Demo、忽视成本、忽视合规。
- 场景速查:四类场景对应不同工具组合与调优点。
思考题
- 选一个你熟悉的工作任务,判断它属于四类场景的哪类,匹配对应工具组合。
- 用方法论框7-2,为这个任务做一次工具选型,填出选型决策表。
- 找两个大模型,用同一组Prompt测试同一任务,对比效果差异并分析原因。
- 用零代码平台搭一个简单RAG,调整切片策略与Top-K,观察检索效果变化。
延伸阅读
- 本书第8章深入Prompt工程与Skill搭建,是本章7.2.2的延伸。
- 第9章讲工作流自动化落地,是7.2.4的延伸。
- 各工具官方文档(用于刷新能力边界与最新功能)。