苦涩的教训Bitter Lesson

《苦涩的教训》（The Bitter Lesson）是强化学习研究者理查德·萨顿于2019年撰写的一篇短文，也指文中提出的观点。文章回顾数十年的AI研究后指出，搜索和学习等随算力增长而不断提升的通用方法，最终都胜过了研究人员手工融入人类知识而设计的方法。

这一观点常被用来支持扩大模型、数据和算力规模的路线，在讨论应把多少人为设计的假设（归纳偏置）放进模型时，也常被当作参照。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。