外观
工程选择:规则、Workflow、LLM 与 Agent
这份附录汇总学习过程中出现的几个关键判断。
能否先匹配关键词,直接调用工具
可以,但关键词只是最低成本的意图识别方式。
正在绘制流程图…
以下表达都包含“天气”,意图却不同:
- 杭州天气怎么样?
- 天气为什么影响人的情绪?
- 写一首关于天气的诗。
- 天气这么差,我的航班会取消吗?
因此生产系统通常采用明确入口、规则、分类器和模型兜底的组合。
工具结果是否必须再次交给模型
不必须。
直接模板更适合:
- 温度、余额、订单状态等简单事实;
- 输出格式固定;
- 高并发和低延迟;
- 不允许模型重新解释精确数据。
再次调用模型更适合:
- 多份搜索结果总结;
- 多个工具结果综合;
- 根据事实给出建议或规划;
- 工具失败后的重试和替代决策;
- 根据对话上下文调整表达。
Workflow 是否必须包含 Agent
不需要。Workflow 只是步骤、分支和循环的组织结构。
正在绘制流程图…
这个流程可以完全没有模型。
消息记忆是否每次携带全部历史
最基础的教学实现会携带全部相关消息。真实系统会根据长度和相关性裁剪、摘要或检索。
原则是:
模型本身不会自动拥有上一轮的信息,应用必须把当前任务所需的历史重新提供给它。
什么时候拆成多 Agent
适合拆分:
- 工具和领域明显不同;
- 专家需要不同权限、模型或要求;
- 单个 Agent 的上下文已经过大;
- 需要独立测试和审计每个角色。
不适合拆分:
- 任务很简单;
- 只有少量工具;
- 多 Agent 带来的额外调用和协调成本大于收益。
总体原则
text
明确、稳定、可枚举 → 普通代码或 Workflow
需要理解和生成 → LLM
需要自主选择行动 → Agent
需要领域隔离 → 多 Agent