🧠 LLM 基础知识
LLM(Large Language Model)大语言模型
是基于Transformer架构、通过海量文本训练的AI模型,能够理解和生成人类语言。代表产品:GPT-4、Claude、文心一言、通义千问等。
🎯 核心概念
1. Transformer 架构
为什么Transformer重要?
- 自注意力机制(Self-Attention):让模型理解词与词之间的关系
- 并行计算:比RNN快得多,可以大规模训练
- 上下文理解:能处理长文本,理解上下文
💡 面试要点:Transformer是现代LLM的基础架构,GPT、BERT、Claude都基于此
2. 关键参数解释
| 参数 |
含义 |
影响 |
| Temperature |
控制输出随机性(0-2) |
低=确定性高,高=创造性高 |
| Top-P |
核采样概率阈值 |
控制候选词范围 |
| Max Tokens |
最大输出长度 |
限制回答长度 |
| Context Window |
上下文窗口大小 |
能处理的最大文本长度 |
| Frequency Penalty |
频率惩罚 |
减少重复内容 |
3. 主流LLM对比
| 模型 |
厂商 |
上下文 |
特点 |
| GPT-4o |
OpenAI |
128K |
综合最强,多模态 |
| Claude 3.5 |
Anthropic |
200K |
长文本、安全、代码强 |
| DeepSeek-V3 |
深度求索 |
64K |
国产最强,性价比高 |
| Qwen2.5 |
阿里 |
128K |
国产开源,中文强 |
| Gemini 2.0 |
Google |
2M |
超长上下文,多模态 |
📊 LLM能力边界
✅ 擅长的
- 文本生成、改写、总结
- 代码编写、解释、debug
- 翻译、问答、对话
- 创意写作、头脑风暴
- 分类、提取、格式化
❌ 不擅长的
- 精确数学计算
- 实时信息(训练截止后)
- 私有/专业领域知识
- 复杂逻辑推理(需CoT)
- 100%避免幻觉
🤖 AI Agent(智能体)
AI Agent = LLM + 记忆 + 规划 + 工具使用
Agent是具有自主决策能力的AI系统,能够感知环境、制定计划、调用工具、完成任务。不同于简单的"问答",Agent可以自主完成复杂的多步骤任务。
🎯 Agent vs 普通LLM对话
| 维度 |
普通LLM对话 |
AI Agent |
| 交互模式 |
一问一答 |
自主执行多步骤 |
| 能力范围 |
仅文本生成 |
可调用工具、API、执行操作 |
| 记忆 |
有限上下文 |
长期记忆+短期记忆 |
| 规划能力 |
无 |
任务拆解、自主规划 |
| 典型场景 |
问答、写作 |
自动化任务、复杂工作流 |
🔧 Agent核心组件
🧠 大脑 (LLM)
→
📝 记忆系统
→
🎯 规划模块
→
🛠️ 工具调用
→
✅ 执行反馈
1️⃣ 大脑(LLM)
Agent的核心决策引擎,负责理解任务、生成计划、选择工具、解析结果。
选型考虑:推理能力、工具调用能力、上下文长度、成本
2️⃣ 记忆系统
记忆类型
- 短期记忆:当前对话的上下文(Context Window)
- 长期记忆:向量数据库存储的历史交互、知识
- 工作记忆:任务执行过程中的中间状态
实现方式:对话历史 + 向量检索(RAG)+ 结构化存储
3️⃣ 规划模块
规划能力是Agent的核心!
将复杂任务拆解为子任务,按顺序或并行执行。
主要方法:
- Task Decomposition:任务拆解(如"写报告"→"搜集资料→写大纲→写正文→校对")
- ReAct:Reasoning + Acting,交替推理和行动
- Reflection:自我反思,检查结果是否正确
4️⃣ 工具调用(Function Calling)
常用工具类型
- 搜索工具:联网搜索、知识库检索
- 数据处理:数据库查询、文件读写、数据分析
- API调用:发送邮件、创建工单、调用第三方服务
- 代码执行:Python解释器、沙箱执行
- 多模态:图像生成、语音识别、OCR
🔄 Agent工作流程
1. 用户输入任务
2. LLM理解任务,生成计划
3. 选择合适的工具执行
4. 获取执行结果
5. 判断是否完成
- 未完成:更新状态,继续执行
- 已完成:返回结果
6. (可选)自我反思,优化结果
📋 智能体类型与应用场景
🎯 按能力划分
📊 主流Agent模式
1. ReAct Agent
Reasoning + Acting
模型交替进行"思考"和"行动",每一步都显式推理。
流程:Thought → Action → Observation → Thought → ...
优点:可解释性强,错误易定位
代表:LangChain ReAct Agent
2. Plan-and-Execute Agent
先规划,后执行
第一步:LLM生成完整计划(Plan)
第二步:按计划逐步执行(Execute)
优点:适合复杂任务,全局规划
代表:LangChain Plan-and-Execute
3. Multi-Agent System
多智能体协作
多个Agent协作完成任务,每个Agent扮演不同角色。
- CrewAI:角色扮演式协作(研究员、写作员、编辑...)
- AutoGen:微软开源,多Agent对话协作
- MetaGPT:软件公司模式(产品经理、架构师、程序员...)
4. Reflection Agent
自我反思型Agent
执行任务后,让LLM检查结果,发现问题后重新执行。
流程:执行 → 反思 → 改进 → 再执行
优点:提高任务成功率
🏢 实际应用场景
| 场景 |
Agent类型 |
具体应用 |
| 智能客服 |
简单Agent + RAG |
自动回答问题、查询订单、转人工 |
| 数据分析 |
代码执行Agent |
自动生成SQL、数据可视化、报告生成 |
| 研究助手 |
ReAct + 搜索 |
搜集资料、整理报告、文献综述 |
| 编程助手 |
代码执行Agent |
写代码、debug、代码审查 |
| 自动化运营 |
Multi-Agent |
内容创作、社媒运营、数据分析 |
| 个人助理 |
工具调用Agent |
日程管理、邮件处理、信息整理 |
🛠️ 主流Agent框架与工具
🔧 开发框架
| 框架 |
特点 |
适用场景 |
学习曲线 |
| LangChain |
最流行,生态完善,组件丰富 |
通用Agent开发 |
中等 |
| LlamaIndex |
RAG能力强,数据索引友好 |
知识库Agent |
中等 |
| AutoGen |
微软开源,多Agent协作 |
复杂协作任务 |
较高 |
| CrewAI |
角色扮演式多Agent |
团队协作场景 |
简单 |
| MetaGPT |
软件公司模式 |
软件开发自动化 |
较高 |
| AgentScope |
阿里开源,多模态Agent |
多模态应用 |
中等 |
📊 Agent平台(无代码/低代码)
🌐 国际平台
- OpenAI GPTs:自定义GPT,支持知识库
- Coze(扣子):字节出品,可视化搭建
- Dify:开源LLM应用平台
- Chaindesk:无代码Agent构建
🇨🇳 国内平台
- 百度千帆:AppBuilder平台
- 阿里百炼:智能体构建平台
- 腾讯混元:智能体平台
- 讯飞星火:智能体助手
⚡ Function Calling(工具调用)
Function Calling是Agent调用工具的核心机制
LLM输出结构化的函数调用指令,由系统执行后返回结果。
// Function Calling 示例
{
"name": "get_weather",
"description": "获取指定城市的天气信息",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市名称"
}
},
"required": ["city"]
}
}
// LLM输出
{
"function_call": {
"name": "get_weather",
"arguments": "{\"city\": \"北京\"}"
}
}
支持Function Calling的模型
GPT-4/3.5
Claude 3
DeepSeek
Qwen
GLM-4
文心一言
📝 Prompt Engineering(提示工程)
Prompt Engineering是设计、优化提示词的技术
好的Prompt能让模型输出质量提升数倍,是AI产品经理的核心技能之一。
🎯 核心技巧
1. 角色设定(Role Playing)
你是一位资深的AI产品经理,拥有10年互联网产品经验。
请从产品角度分析以下需求:
[需求内容]
2. Few-Shot Learning(少样本学习)
请按以下格式回答:
示例1:
问题:什么是RAG?
回答:RAG是检索增强生成,是一种结合检索和生成的AI技术。
示例2:
问题:什么是Agent?
回答:Agent是智能体,是具有自主决策能力的AI系统。
现在请回答:
问题:什么是LLM?
3. Chain-of-Thought(思维链)
让模型一步步思考,提高复杂推理任务的准确率
请一步步思考并回答:
1. 首先,分析问题的核心是什么
2. 然后,列出需要考虑的关键因素
3. 接着,逐一分析每个因素
4. 最后,给出综合结论
问题:[具体问题]
4. 结构化输出
请以JSON格式输出分析结果:
{
"summary": "一句话总结",
"key_points": ["要点1", "要点2"],
"recommendations": ["建议1", "建议2"],
"confidence": 0.85
}
5. 约束与规则
常用约束
- "只使用提供的信息回答,不要添加外部知识"
- "如果不确定,请明确说'不知道'"
- "回答控制在200字以内"
- "用简洁的要点列表形式回答"
- "不要使用markdown格式"
📊 Prompt模板设计
优秀Prompt模板结构
- 角色定义:你是什么角色,有什么能力
- 任务描述:需要完成什么任务
- 输入说明:输入内容的格式和含义
- 输出要求:输出格式、约束、示例
- 参考示例:Few-shot示例(可选)
⚡ 高级技巧
🔸 Self-Consistency
多次生成答案,取最一致的结论
适合需要高准确率的场景
🔸 Tree of Thoughts
让模型探索多个推理路径,选择最优
适合复杂决策问题
📚 RAG 知识要点速览
RAG = Retrieval + Generation
先检索相关文档,再让LLM基于文档生成答案。解决LLM知识过时和幻觉问题。
🔄 核心流程
📄 文档
→
✂️ 分块
→
🔢 向量化
→
💾 存储
→
🔍 检索
→
🤖 生成
📊 关键技术点
| 环节 |
关键技术 |
注意事项 |
| 分块 |
固定长度/语义分块 |
300-800字符,保留重叠 |
| 向量化 |
BGE、OpenAI Embedding |
中文选BGE,多语言选OpenAI |
| 向量存储 |
Pinecone、Milvus、Chroma |
按数据量和预算选择 |
| 检索 |
向量检索+关键词检索 |
混合检索效果最佳 |
| 重排序 |
Cohere Rerank、BGE Reranker |
提升检索精度20%+ |
📈 效果评估(RAGAS)
Faithfulness(忠实度)
Answer Relevancy(相关性)
Context Precision(精确度)
Context Recall(召回率)
💼 AI产品经理核心思维
🎯 如何评估AI产品效果?
📊 量化指标
- 准确率、召回率
- 响应时间
- 用户满意度评分
- 任务完成率
- Token消耗成本
📝 定性评估
- 人工抽检(每天20条)
- Badcase分析
- 用户反馈收集
- A/B测试
- 竞品对比
💰 成本优化策略
成本构成与优化
- LLM调用:用更便宜的模型(GPT-3.5 vs GPT-4)
- Embedding:用开源模型替代(BGE)
- 缓存:热门问题缓存答案
- Prompt压缩:减少Token消耗
- 批量处理:减少API调用次数
🔒 安全与合规
- 数据不出域:私有化部署或企业版API
- 访问控制:按角色/部门过滤数据
- 内容安全:敏感词过滤、内容审核
- 日志审计:记录所有操作
- 合规声明:用户协议、数据使用声明
🔄 产品迭代方法论
第一阶段:MVP验证
用最简单的方案上线,验证需求真实存在
第二阶段:数据驱动优化
建立评估体系,收集Badcase,针对性优化
第三阶段:能力扩展
增加工具、优化Agent能力、提升自动化程度
第四阶段:规模化
成本优化、性能优化、用户体验优化
🎯 AI产品决策框架
技术选型决策树:
- 需要实时知识? → RAG
- 需要执行操作? → Agent + Function Calling
- 需要特定风格/能力? → Fine-tuning
- 简单任务? → Prompt Engineering
🎤 面试高频问答
Q1: 什么是AI Agent?和普通LLM对话有什么区别?
定义:AI Agent是具有自主决策能力的AI系统,包含LLM(大脑)、记忆、规划、工具调用四大组件。
区别:
- 普通LLM:一问一答,只能生成文本
- AI Agent:自主执行多步骤任务,可调用工具、API
Agent = LLM + Memory + Planning + Tools
💡 举例:问"北京天气",LLM只能说"我不知道",Agent可以调用天气API返回真实数据
Q2: Agent如何实现任务规划?
主要方法:
- ReAct:Thought(思考)→ Action(行动)→ Observation(观察),循环执行
- Plan-and-Execute:先生成完整计划,再逐步执行
- Task Decomposition:将复杂任务拆解为子任务
- Reflection:执行后自我反思,优化结果
💡 面试加分:提到ReAct是目前最主流的Agent模式
Q3: 如何设计一个Agent的记忆系统?
三层记忆架构:
- 短期记忆:当前对话上下文(Context Window内)
- 长期记忆:向量数据库存储历史交互、知识(RAG检索)
- 工作记忆:任务执行过程中的中间状态、变量
实现方式:
- 对话历史 + 滑动窗口
- 重要信息提取 + 向量化存储
- 结构化存储(JSON/数据库)记录任务状态
Q4: RAG和Agent有什么关系?如何选择?
关系:RAG是Agent的"知识获取"能力,是Agent记忆系统的重要组成部分。
选择逻辑:
- 只需要问答,不需要执行操作 → 纯RAG
- 需要执行多步骤任务、调用工具 → Agent + RAG
- 需要自主规划、复杂决策 → Agent(必选)
Agent = RAG(知识)+ Tools(能力)+ Planning(决策)
💡 大部分企业场景:RAG就够了;复杂自动化场景:需要Agent
Q5: Agent执行任务失败怎么办?如何提高成功率?
失败原因分析:
- 理解错误:任务目标理解偏了
- 规划错误:子任务拆解不合理
- 工具调用失败:参数错误、API异常
- 结果解析失败:返回格式不符合预期
优化策略:
- Retry机制:失败后自动重试
- Reflection:让LLM自我检查结果
- Human-in-the-loop:关键节点人工确认
- Fallback:失败时降级到简单方案
Q6: 如何评估Agent的效果?
评估维度:
- 任务完成率:多少比例的任务能成功完成
- 步骤准确率:每个步骤是否正确执行
- 工具调用准确率:选对工具、参数正确
- 平均步骤数:完成任务的效率
- Token消耗:成本考量
评估方法:
- 构建测试集:准备100个任务+预期结果
- 人工评估:抽检执行过程
- 自动评估:LLM评估LLM(如GPT-4评估GPT-3.5)
Q7: Function Calling是如何工作的?
工作流程:
- 开发者定义函数(名称、描述、参数schema)
- LLM根据用户输入,决定是否调用函数
- LLM输出结构化的函数调用(函数名+参数)
- 系统执行函数,返回结果
- LLM基于结果继续生成回答
关键点:
- 函数描述要清晰,让LLM理解何时调用
- 参数schema要完整,包含类型和描述
- 执行结果要能被LLM理解
Q8: Multi-Agent系统是什么?有什么应用?
定义:多个Agent协作完成任务,每个Agent扮演不同角色。
主流框架:
- CrewAI:角色扮演式(研究员、写作员、编辑...)
- AutoGen:微软开源,Agent对话协作
- MetaGPT:软件公司模式(PM、架构师、程序员...)
应用场景:
- 内容生产:研究员搜集资料→写作员写稿→编辑审核
- 软件开发:PM写需求→架构师设计→程序员编码
- 投资分析:分析师研究→风险评估→报告撰写
💡 面试加分:提到"分工协作"是Multi-Agent的核心思想
Q9: 如何控制Agent的成本?
成本构成:
- LLM调用:每次推理的Token费用
- Embedding:文档向量化
- 向量存储:数据库费用
优化策略:
- 模型选择:简单任务用GPT-3.5,复杂任务用GPT-4
- Prompt优化:减少不必要的Token
- 缓存:热门问题缓存答案,避免重复调用
- 步骤控制:限制Agent最大步骤数
- 开源模型:用本地部署的Qwen/DeepSeek替代
Q10: 你如何看待AI Agent的未来发展?
短期趋势(1-2年):
- 更多低代码/无代码平台,降低开发门槛
- Multi-Agent协作成为常态
- 垂直领域Agent(法律、医疗、金融)爆发
长期趋势(3-5年):
- Agent自主能力更强,能完成更复杂任务
- 人机协作模式成熟
- Agent成为个人/企业的"数字员工"
挑战:
- 可靠性:任务成功率需要更高
- 安全性:防止Agent被滥用
- 成本:大规模部署的成本控制
💡 这个问题展示你的行业洞察力,要有自己的观点
📋 面试准备清单
✅ 必须掌握
- LLM基础概念和能力边界
- Agent四大组件:大脑、记忆、规划、工具
- RAG核心流程和技术点
- Prompt Engineering核心技巧
- 主流框架:LangChain、Dify
⭐ 加分项
- 有实际Agent开发经验
- 了解Multi-Agent协作
- 能讲清楚技术选型逻辑
- 有成本优化、效果评估思路
- 有产品视角的思考和洞察
核心公式:
🤖 Agent = LLM(大脑)+ Memory(记忆)+ Planning(规划)+ Tools(工具)
📚 RAG = Chunking → Embedding → Retrieval → Generation
🎯 AI产品质量 = 数据质量 × 模型能力 × Prompt设计 × 工程实现