ProvenanceGuard:面向 MCP 智能体的来源感知事实核验
ProvenanceGuard 为基于 MCP 的大语言模型智能体提供来源感知的事实核验,在逐条检查事实支持关系的同时核对答案所指向的来源。研究使用 281 条医疗智能体轨迹和 361 个声明进行测试,正确拦截了专家判定不应通过的 139 个声明中的 138 个,但也将 67 个受支持声明送交复核或修复。
ProvenanceGuard 为基于 MCP 的大语言模型智能体提供来源感知的事实核验,在逐条检查事实支持关系的同时核对答案所指向的来源。研究使用 281 条医疗智能体轨迹和 361 个声明进行测试,正确拦截了专家判定不应通过的 139 个声明中的 138 个,但也将 67 个受支持声明送交复核或修复。
Google Research 在 ACL 2026 介绍 ToolGrad,通过先生成经验证的工具调用链,再标注对应用户查询,迭代构建更复杂的工具调用数据。基于 ToolBench 的 16k+ APIs,ToolGrad 以更低成本和更高通过率生成数据;使用 ToolGrad-500 微调的 Gemma-3-12B 在 BFCL 上取得 83.1 分。
推荐理由:文章清楚拆解了从工具链生成、执行筛选到查询更新的流程,并用 BFCL 结果展示该方案的训练效果与成本取舍。