VRAMビデオメモリ

VRAMはGPUが使用するメモリで、主に独立したグラフィックカードに搭載される。画像表示用のデータに加え、GPU上で動くAIモデルの重みや推論中のデータも保持する。コンピューターの一般的なシステムメモリとは区別される。

ローカル環境でAIを動かす場合、利用可能なVRAM容量は、一度に保持できるモデルやデータの量に影響する。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。