動的サンプリングdynamic sampling

動的サンプリングは、標本の難易度やモデルの性能に応じて、学習に使うデータを学習中に選び直す手法で、標本を事前に固定する方法とは異なる。大規模言語モデルの強化学習では、2025年にByteDanceなどが発表したアルゴリズムDAPOの構成要素として知られ、モデルがすべて正解する、またはすべて不正解となるプロンプトを除外して、学習信号のない標本を減らす。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。