Attention Is All You Need
Attention Is All You Needは、Transformerアーキテクチャを初めて提案した2017年のGoogleの研究者らによる論文である。
記事1本
最終言及 Attention Is All You Needは、2017年にGoogleの研究者らが発表した機械翻訳の論文である。再帰型ニューラルネットワークを使わず、アテンション機構だけで文章を処理するTransformerアーキテクチャを提案した。
Transformerはその後、大規模言語モデルをはじめとする生成AIモデルの多くの基盤となり、この論文はAI分野で最も多く引用される論文の一つとされる。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。