跳到正文
原文
Hugging Face Blog·· 1 天前AI 评分57

ProvenanceGuard:面向 MCP 智能体的来源感知事实核验

Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents

AI 导读

ProvenanceGuard 为基于 MCP 的大语言模型智能体提供来源感知的事实核验,在逐条检查事实支持关系的同时核对答案所指向的来源。研究使用 281 条医疗智能体轨迹和 361 个声明进行测试,正确拦截了专家判定不应通过的 139 个声明中的 138 个,但也将 67 个受支持声明送交复核或修复。

来源:Hugging Face Blog · huggingface.co