groundedness

有据性

有据性是衡量AI模型输出是否确实以所给文档或上下文为依据的一种评估属性。

1篇文章最近提及

有据性(groundedness)指大语言模型(LLM)生成内容中的论断,在多大程度上确实能由提供给模型的资料所支撑,例如检索到的文档、参考手册或对话上下文。它与模型凭空生成资料中不存在内容的幻觉(hallucination)相对,与忠实性(faithfulness)几乎同义。

有据性是评估检索增强生成(RAG)等依赖外部文档作答的系统质量的核心指标。评估通常将回答拆分为单个论断,再由另一个模型判断每条论断能否在资料中得到验证,常用LLM-as-a-judge方式或自然语言推理模型实现自动化。与关注陈述是否符合客观事实的事实性(factuality)不同,有据性只考察与所给资料是否一致。

在心理学中,该词也用于描述稳定、脚踏实地的心理状态。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 产品经理40分钟用Claude Code搭出客户回访智能体AI应用 ·

    对面向客户的智能体来说,最重要的评估是事实依据(groundedness):回复中的每一个说法,是否都能追溯到帮助中心、规则文件等经批准的文档?

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。