NVIDIA T4

NVIDIAが2018年に発表したTuringアーキテクチャ採用のデータセンター向けGPUで、低消費電力の推論処理向けに設計されている。

記事1本最終言及

NVIDIA T4は、NVIDIAが2018年に発表したデータセンター向けGPUである。Turingアーキテクチャを基盤に16GBのGDDR6メモリとTensorコアを備え、消費電力70Wのシングルスロットカードとして設計されているため、サーバーに複数枚を搭載しやすい。発売時の名称はTesla T4で、大規模な学習よりも推論、映像処理、仮想デスクトップなどの用途を狙っている。

Google CloudやAWSなど主要クラウドで広く提供されており、Google Colabの無料枠で割り当てられるGPUとしても知られる。最新GPUに比べて性能は低いが、数十億パラメータ規模のオープンウェイトモデルを読み込んで推論したり小規模な実験を行うには十分で、教育用途でよく使われる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • LLMはどう作られるか、事前学習・SFT・GRPOの3段階を基礎から解説AI性能 ·

    Alibaba CloudのQwen2-0.5Bは5億パラメータのオープンウェイトモデルで、無料のGoogle ColabノートブックのNVIDIA T4 GPU上で、Hugging Face Transformersのpipelineを通じて読み込めます。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。