{ "title": "Switchcraft:工具调用路由才是LLM降本增效的真正突破口", "content": "近期arXiv上关于Switchcraft的论文引起了我的注意。它提出了一种针对智能工具调用场景的模型路由选择器,而非传统的对话补全路由。从技术角度看,其核心创新在于“内联运行”与“正确性保证”的平衡。传统路由通常基于输入文本的语义相似度或成本阈值做硬切分,但工具调用涉及参数结构、API依赖链和返回值校验,简单复用对话路由会导致高失败率。Switchcraft通过在线评估工具调用的上下文复杂度来动态分配模型,这实际上是在推理预算与任务准确率之间做了一个自适应帕累托优化。\n\