ProvenanceGuard:让 MCP 智能体的事实核查不只靠"证据池"
Hugging Face 发布 ProvenanceGuard,一种面向 MCP 智能体的来源感知事实验证层。该工作针对跨源混淆问题:声明在证据中存在却被归因到错误来源时,传统盲查方法会放行,而 Proven性核查会在保留每条声明对应 MCP 工具来源身份的前提下逐一核验,并最终给出允许/拦截决策。
Hugging Face 发布 ProvenanceGuard,一种面向 MCP 智能体的来源感知事实验证层。该工作针对跨源混淆问题:声明在证据中存在却被归因到错误来源时,传统盲查方法会放行,而 Proven性核查会在保留每条声明对应 MCP 工具来源身份的前提下逐一核验,并最终给出允许/拦截决策。
Mistral 提出使用 LLM as a Judge 评估检索增强生成(RAG)系统,确保回答准确且相关。该方案结合 RAG Triad 框架,通过上下文相关性、接地性和答案相关性三个维度验证模型表现,并配合 API 推出的自定义结构化输出功能,使评估结果具备机器可读性与一致性。