nanoGPT
nanoGPT是安德烈·卡帕西发布的用于训练GPT类语言模型的精简开源代码库。
1篇文章
最近提及 nanoGPT是安德烈·卡帕西在GitHub上发布的开源项目,用简短易读的Python和PyTorch代码实现了中等规模GPT模型的训练与微调,并包含从零训练、复现1.24亿参数GPT-2模型的示例。
由于代码精简,它被广泛用于学习语言模型的训练原理,也常作为实验的起点。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
nanoGPT是安德烈·卡帕西发布的用于训练GPT类语言模型的精简开源代码库。
nanoGPT是安德烈·卡帕西在GitHub上发布的开源项目,用简短易读的Python和PyTorch代码实现了中等规模GPT模型的训练与微调,并包含从零训练、复现1.24亿参数GPT-2模型的示例。
由于代码精简,它被广泛用于学习语言模型的训练原理,也常作为实验的起点。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
AIPOST是一家报道AI应用方法、AI安全、性能、创业、健康、伦理与行业资讯的AI专业媒体。无需注册即可使用,个人信息的处理方式请参阅隐私政策。