Lost in the Middle

《Lost in the Middle》是斯坦福大学研究人员2023年发表的论文,指出语言模型能很好利用长输入开头和结尾的信息,却容易忽略中间的信息。

1篇文章最近提及

《Lost in the Middle: How Language Models Use Long Contexts》是斯坦福大学Nelson F. Liu等人于2023年发表的论文。在给模型多篇文档并要求其找出答案的实验中,当相关信息位于输入的开头或结尾时语言模型的准确率较高,而位于中间时则大幅下降,呈U形性能曲线。支持长上下文窗口的模型也表现出同样的倾向。

这一现象被称为“lost in the middle”,在RAG(检索增强生成)中文档的排列顺序、长提示词的组织、以及把给智能体的指令放在上下文首尾的设计等LLM应用实践中被频繁引用。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • EXACT工作流:先写示例再让AI写代码,正确率从27%升至94%AI应用 ·

    随着上下文窗口变长,性能出现下降,团队把这一现象与斯坦福大学的论文《Lost in the Middle: How Language Models Use Long Contexts》联系起来。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。