By Unbug 
Anuj Sadani和Deepak Kumar的论文《Tool Attention Is All You Need》，提出了一种名为Tool Attention的中间件方案，通过动态工具门控和惰性模式加载，将MCP协议中每轮推理的隐藏token开销降低95%。论文指出，Model Context Protocol（MCP）已成为LLM智能体连接外部工具的主流接口，但其无状态、急切（eager）的schema注入机制导致每轮推理产生约10k至60k tokens的隐藏开销，作者称之为MCP Tax或Tools Tax。
MCP Tax 的问题
MCP协议要求在每个推理轮次中向LLM注入所有注册工具的JSON schema。这种全量注入策略在工具数量较多时产生严重问题：
- 膨胀key-value cache，降低缓存命中率，增加推理延迟
- 当上下文利用率接近70%的公认拐点时，推理能力显著退化
- 将token预算直接转化为持续性运营成本
- 限制了可扩展智能体系统的规模上限
论文的核心论点是：协议层面的效率，而非原始上下文长度，才是可扩展智能体系统的瓶颈约束。这一观点在MCP生态快速成熟的当下具有紧迫性。
Tool Attention 机制
Tool Attention 的核心思想是将Transformer中的自注意力机制从token级别推广到tool级别，实现gated attention over tools。具体工作流程分为四个步骤：
- 意图-模式重叠评分（ISO）：通过句子嵌入计算用户意图与工具schema的语义重叠度，作为工具选择的量化指标，替代传统的名称/描述匹配
- 状态感知门控：对候选工具进行预筛选，排除不满足前置条件（preconditions）或超出访问范围（access scopes）的工具
- 惰性schema加载：将紧凑的schema摘要池（summary pool）保持在上下文中，仅对top-k门控工具加载完整JSON schema
- 精简上下文推理：将筛选后的上下文送入LLM进行推理
关键设计决策包括：ISO分数作为工具相关性度量、惰性加载将schema payload从全量注入改为按需加载、门控函数确保安全性防止越权工具调用。
实验结果与局限
实验在模拟的120工具、6服务器基准上进行，每服务器token计数校准自真实MCP部署的公开审计数据。关键结果：
- 每轮工具tokens直接减少95.0%（47.3k降至2.4k）
- 有效上下文利用率从24%提升至91%
需要指出的是，端到端指标（任务成功率、延迟、成本、推理质量）为基于token计数与公开部署遥测数据的投影值（projected），非真实LLM智能体的测量结果。实验基于模拟环境，未在真实部署中验证。
评价
该论文的创新性体现在将注意力机制从token推广到tool的范式迁移，以及ISO评分和状态感知门控提供的可操作工程方案。作为中间件可集成到现有MCP基础设施，95%的token节省在真实部署中可能带来显著成本节约。
主要局限在于：ISO分数依赖句子嵌入质量，对领域特定工具可能不够精确；top-k参数需要调优，缺乏自适应机制的详细说明；门控函数的状态管理本身也消耗token，未给出净收益的精确分析；未讨论与现有工具选择方案（如ReAct、Toolformer等）的对比。
