人在回路human-in-the-loop

人在回路（human-in-the-loop，HITL）指在机器处理流程的特定环节加入人的判断。在机器学习中，它指由人为数据打标签或评估模型输出，并把结果反馈到训练中；在自动化系统中，它指重要操作执行前由人确认并批准的步骤。

在AI智能体的设计中，它被用作一种安全机制，在付款、删除数据、向外部发送信息等难以撤销的操作之前要求人工批准。系统无需人参与、自行处理的方式称为人在回路外（human-out-of-the-loop），由人监控、仅在必要时介入的方式则称为人在回路上（human-on-the-loop）。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。