MCP Server新增工具后客户端一直看不到?ttlMs、cacheScope与listChanged缓存排查

文章摘要

MCP 2026-07-28为工具、资源和Prompt列表增加了缓存语义。客户端可以根据ttlMs缓存tools/list结果,并根据cacheScope决定是否允许共享。新机制能够减少频繁列表请求,但也带来新问题:服务端新增工具后客户端长期不可见、权限撤销后旧工具仍显示、不同租户获得错误工具列表。本文给出缓存键、TTL、listChanged通知、权限隔离和灰度更新的完整排查方法。

一、典型现象

服务端新增:

order_refund

服务端日志显示工具已经注册。

直接调用服务端tools/list也能看到。

但业务Agent仍然只看到旧工具:

order_query
order_cancel

重启客户端后新工具突然出现。

这通常说明:

客户端工具列表缓存没有失效

二、为什么要缓存工具列表

大型MCP Server可能暴露数百个工具。

如果每次模型请求前都执行:

tools/list

会造成:

  • 网络请求增加;
  • JSON Schema传输成本;
  • 服务端动态计算压力;
  • 客户端启动变慢;
  • 多个Agent重复发现工具;
  • 网关日志膨胀。

因此新规范允许列表响应提供缓存提示。

三、ttlMs表示什么

示意:

{
  "tools": [],
  "ttlMs": 300000,
  "cacheScope": "private"
}

300000毫秒等于5分钟。

客户端可以在5分钟内继续使用当前列表,不必重新调用。

注意:

ttlMs是缓存新鲜度提示
不是服务端保证工具五分钟内绝不变化

如果工具权限发生紧急撤销,不能只等待TTL自然过期。

四、cacheScope为什么重要

public

列表内容对不同用户相同,可以在更大范围共享。

适合:

  • 公共天气工具;
  • 公共计算工具;
  • 不区分租户的只读能力。

private

列表与用户、租户或授权有关,不应跨身份共享。

适合:

  • 订单工具;
  • 财务工具;
  • 管理员工具;
  • 客户专属工具;
  • 按Scope动态返回的工具。

错误配置:

不同租户工具不同
但cacheScope=public

可能导致工具存在性泄露,甚至让模型尝试调用无权工具。

五、缓存键必须包含什么

错误缓存键:

serverUrl

所有用户共享同一列表。

推荐缓存键至少包含:

server_identity
protocol_version
authorization_subject
tenant_id
scope_hash
client_capabilities
locale

示例:

public record ToolListCacheKey(
        String serverId,
        String protocolVersion,
        String subjectId,
        String tenantId,
        String scopeHash
) {
}

不要直接把完整Access Token放进缓存键和日志。

六、listChanged通知的作用

服务端工具列表发生变化时,可以发送变化通知。

客户端收到后:

立即标记缓存失效
→ 下一次使用时重新调用tools/list

理想流程:

工具发布
→ Server发送listChanged
→ Client清除缓存
→ Client重新发现

如果使用Stateless服务端,部分主动通知能力可能受限,需要使用:

  • 更短TTL;
  • 发布事件总线;
  • 配置版本号;
  • 客户端定时刷新;
  • 管理接口主动清除缓存。

七、新工具不可见的排查顺序

第一步:服务端原始列表

绕过业务客户端,直接确认:

tools/list是否包含新工具

如果没有,问题在服务端注册。

第二步:检查响应缓存字段

记录:

ttlMs
cacheScope
listVersion

第三步:检查客户端缓存命中

cache_key
cache_hit
cached_at
expires_at

第四步:检查listChanged

服务端是否发送
网关是否允许
客户端是否注册处理器
处理后是否真正删除缓存

第五步:检查工具过滤

重新获取列表后,新工具也可能被过滤。

八、旧权限撤销后工具仍显示更危险

新工具暂时不可见只是可用性问题。

已经撤销权限的工具仍留在缓存中,则是安全问题。

例如:

用户原有refund:order
→ 权限被撤销
→ 客户端仍显示order_refund

即使最终调用会被服务端拒绝,也会:

  • 暴露工具存在;
  • 误导模型计划;
  • 增加失败调用;
  • 泄露参数Schema;
  • 造成用户困惑。

权限变化应主动使缓存失效。

九、工具列表与执行权限必须双重校验

不能因为工具出现在列表中,就认为执行一定允许。

工具调用时仍必须检查:

当前Token
当前Scope
当前租户
当前用户
当前资源归属
当前风险策略

列表是发现机制,不是最终授权。

十、动态工具列表如何设计

部分企业工具按角色动态返回:

普通用户
→ query_order

客服主管
→ query_order、cancel_order

财务人员
→ refund_order

服务端生成列表时,应该基于认证上下文。

但动态程度越高,缓存越复杂。

建议:

工具定义总体稳定
+调用权限在执行阶段校验

对于极高敏感工具,可以在列表阶段隐藏。

十一、使用版本号简化失效

可以维护:

tool_catalog_version

例如:

2026.07.30.3

缓存记录:

{
  "serverId": "order-mcp",
  "catalogVersion": "2026.07.30.3",
  "expiresAt": "..."
}

发布后版本变化,客户端可以快速判断失效。

版本号不是协议强制字段时,可以通过:

  • 服务元数据;
  • 管理API;
  • 配置中心;
  • 自定义响应元数据;
  • 事件总线;

实现。

十二、合理TTL怎么设置

静态公共工具

30分钟到数小时

普通企业工具

5到15分钟

权限频繁变化

1分钟以内
+主动失效

高风险工具

可以:

短TTL
+执行时强校验
+审批

TTL越短,实时性越好,但服务端压力更高。

十三、多实例客户端缓存一致性

客户端应用有10个实例:

实例1收到listChanged
实例2—10没有收到

工具列表会不一致。

推荐共享失效通道:

Redis Pub/Sub
Kafka
Spring Cloud Bus
配置中心版本

处理:

任一实例发现变化
→ 发布ToolCatalogChangedEvent
→ 全部实例清除对应缓存

十四、灰度发布新工具

新工具不应一次性对所有模型开放。

可以按:

租户
用户组
客户端版本
模型版本
环境

灰度。

缓存键必须包含灰度维度,否则:

测试用户获取新工具
→ 缓存被普通用户共享

十五、缓存实现示例

public record CachedToolList(
        List tools,
        Instant cachedAt,
        Instant expiresAt,
        String cacheScope
) {
    public boolean expired(Clock clock) {
        return clock.instant().isAfter(expiresAt);
    }
}

读取:

public List getTools(
        ToolListCacheKey key
) {
    CachedToolList cached = cache.get(key);

    if (cached != null && !cached.expired(clock)) {
        return cached.tools();
    }

    ToolListResult remote = mcpClient.listTools();
    cache.put(key, fromRemote(remote));
    return remote.tools();
}

十六、监控指标

mcp_tool_list_request_count
mcp_tool_list_cache_hit_rate
mcp_tool_list_cache_miss_rate
mcp_tool_list_refresh_failure
mcp_tool_list_changed_event_count
mcp_tool_catalog_version
mcp_stale_tool_call_count
mcp_unauthorized_cached_tool_count

重点告警:

权限撤销后仍有旧工具调用

十七、排查清单

□ 服务端tools/list包含新工具
□ 客户端是否命中旧缓存
□ ttlMs是否过长
□ cacheScope是否正确
□ 缓存键是否包含用户与租户
□ listChanged是否发送和处理
□ 多实例是否同步失效
□ 工具过滤是否排除新工具
□ 权限变化是否触发失效
□ 执行阶段是否再次鉴权

总结

MCP工具列表缓存解决了重复发现成本,但也把工具治理从一次请求变成了缓存一致性问题。

生产系统必须同时处理:

ttlMs
+cacheScope
+精确缓存键
+listChanged
+多实例失效
+执行阶段重新授权

尤其要记住:工具列表可以缓存,工具权限不能缓存为永久信任。

延伸阅读

如果你正在关注企业级 AI 应用、Spring AI、RAG、Agent 与 MCP 工程化落地,欢迎访问 智元界

https://www.zyentor.com/

智元界将持续分享可运行的技术实战、架构设计、问题排查与企业应用案例。