Bitter Lesson
The Bitter Lessonは、計算資源とともにスケールする汎用的な手法が最終的に人間の知識に頼る手法を上回るというリッチ・サットンの主張である。
記事1本
最終言及 The Bitter Lessonは、強化学習の研究者リッチ・サットンが2019年に書いた短いエッセイと、その主張を指す。数十年にわたるAI研究を振り返ると、探索や学習のように計算資源が増えるほど性能が上がる汎用的な手法が、研究者が人間の知識を直接組み込んで設計した手法を最終的に上回ってきたという内容である。
この主張は、モデル、データ、計算量を拡大するアプローチを支持する根拠としてよく引用され、人間が設計した仮定（帰納バイアス）をどこまでモデルに組み込むべきかをめぐる議論でも基準点となっている。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。