Spotlighting是一种防御间接提示注入的技术,通过对输入大语言模型的不可信外部数据进行显式标示,使模型不会把其中夹带的文字误认为用户指令而执行。该方法由微软研究人员在2024年发表的论文中提出。
它主要有三种方式:分隔(delimiting)用明确的边界标记包裹外部数据;数据标记(datamarking)在数据全文中穿插特殊字符;编码(encoding)将外部数据转换为base64等格式并告知模型。三者都以系统提示要求模型只把被标示的内容当作数据而非指令为前提。
Spotlighting主要用于读取网页、文档、用户生成内容等来源不可控数据的AI智能体和检索增强生成系统。