上一篇我们完成了MCP服务集成与配置排错,Agent已经能通过标准协议调用外部工具。但当Agent从Demo走向生产,一个更前置的问题必须回答:面对具体业务场景,该选哪种类型的Agent?伦理与安全约束又该在架构的哪一层落地?本篇从感知-决策-行动循环出发,给出类型选型与架构分层的决策参考。
一、回到感知-决策-行动循环
资料中反复出现的Agent工作模式是:感知环境、做出决策、执行行动,三者构成闭环。这个循环是理解Agent类型差异的基准线。
- 感知模块负责从环境获取信息,包括用户输入、工具返回、系统状态等。
- 决策模块基于感知结果选择下一步动作。
- 行动模块执行决策并改变环境,结果又成为下一轮感知的输入。
不同Agent类型的区别,本质上在于决策模块如何利用感知信息:是查表、用模型推理,还是从经验中学习。
二、三类Agent的选型取舍
资料明确给出三种类型:反应式Agent、基于模型的Agent、学习型Agent。
反应式Agent基于简单规则运作,感知到什么就触发什么。它的优势是确定性强、延迟低、行为可预测,适合规则边界清晰、对实时性要求高的场景,例如固定流程的工单分类或阈值告警。缺点是缺乏内部状态,无法处理需要上下文推理的任务。
基于模型的Agent维护内部模型,能对环境和自身状态建模,从而在感知不完整时做出推断。它适合需要多步规划、状态跟踪的场景,例如订单履约中的异常处理。代价是模型本身需要维护,模型与现实不一致时会产生系统性偏差。
学习型Agent基于经验运作,资料中以Q-learning为例说明其学习过程。它适合环境复杂、规则难以穷举的场景,例如个性化推荐。但学习型Agent的行为边界更难预先验证,训练数据中的偏差会被带入决策。
工程上的取舍不是三选一,而是分层组合:用反应式规则兜底安全边界,用基于模型的规划处理主流程,用学习型策略优化局部决策。
三、把伦理与安全作为架构约束
资料指出,AI Agent在伦理上的挑战包括算法公平性、隐私安全、透明性和责任归属。这些不应是上线前的事后讨论,而应成为架构约束,落到具体分层。
隐私约束落在感知层。 感知模块是数据入口,应在这一层完成最小化采集与脱敏,避免原始敏感数据流入决策模块。
公平性约束落在决策层。 决策模块需要可审计的输入输出记录,便于检测规则或模型是否对特定群体产生系统性偏差。
透明性约束贯穿全链路。 每个决策应能追溯到触发它的感知输入和所依据的规则或模型版本,否则无法向用户解释Agent为何采取某个行动。
责任归属约束落在行动层与治理层。 行动模块应记录谁授权、执行了什么、影响范围多大;高风险行动需要人工确认或回滚机制。
四、面向落地的架构决策清单
结合系列此前覆盖的Runtime、Tool Calling、Memory、Checkpoint与治理能力,选型时可依次确认:
- 业务场景的规则是否可穷举?可穷举优先反应式,不可穷举再考虑基于模型或学习型。
- 决策是否需要跨轮次状态?需要则引入内部模型与Checkpoint。
- 是否存在高风险行动?存在则在行动层加人工确认与回滚。
- 数据是否涉及个人隐私?涉及则在感知层做最小化与脱敏。
- 是否需要向用户或监管解释决策?需要则保证全链路可追溯。
五、边界与失败模式
类型选型最常见的失败是“用学习型Agent处理本该用规则兜底的场景”,导致行为不可预测且难以归因。另一类失败是伦理约束只写在文档里,没有落到具体模块,上线后无法验证。
需要明确的是,资料并未给出各类型Agent在生产环境中的量化对比数据,上述取舍属于工程分析,实际选型仍需结合自身场景验证。
下一篇将进入Agent评测与可观测性,讨论如何用指标验证选型与约束是否真正生效。