Hugging Face Blog·· 1 天前AI 评分57
ProvenanceGuard:面向 MCP 智能体的来源感知事实核验
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
ProvenanceGuard 为基于 MCP 的大语言模型智能体提供来源感知的事实核验,在逐条检查事实支持关系的同时核对答案所指向的来源。研究使用 281 条医疗智能体轨迹和 361 个声明进行测试,正确拦截了专家判定不应通过的 139 个声明中的 138 个,但也将 67 个受支持声明送交复核或修复。
来源:Hugging Face Blog · huggingface.co