ヒューマン・イン・ザ・ループhuman-in-the-loop

ヒューマン・イン・ザ・ループ（HITL）は、機械が処理する流れの決まった段階に人の判断を組み込む方式を指す。機械学習では、人がデータにラベルを付けたりモデルの出力を評価したりして学習に反映させる工程を意味し、自動化システムでは、重要な操作を実行する前に人が確認して承認する手順を意味する。

AIエージェントの設計では、決済、データの削除、外部への送信のように取り消しにくい操作の前に人の承認を挟む安全策として用いられる。人が関与せずにシステムが自ら処理する方式はヒューマン・アウト・オブ・ザ・ループ、人が監視して必要なときだけ介入する方式はヒューマン・オン・ザ・ループと呼ばれる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。