NVIDIA T4

NVIDIA가 2018년 발표한 Turing 아키텍처 기반 데이터센터용 GPU로, 저전력 추론 작업에 맞춰 설계됐다.

기사 1편최근 언급

NVIDIA T4는 NVIDIA가 2018년 발표한 데이터센터용 GPU다. Turing 아키텍처를 바탕으로 16GB GDDR6 메모리와 Tensor Core를 갖추고, 소비 전력 70W의 단일 슬롯 카드로 만들어져 서버에 여러 장을 넣기 쉽다. 출시 당시 이름은 Tesla T4였으며, 대규모 학습보다는 추론과 영상 처리, 가상 데스크톱 같은 작업을 겨냥했다.

Google Cloud, AWS 등 주요 클라우드에서 널리 제공되며, Google Colab 무료 등급에서 할당되는 GPU로도 알려져 있다. 최신 GPU에 비해 성능은 낮지만, 수십억 parameter 규모의 공개 weight 모델을 불러 추론하거나 소규모 실험을 하는 데는 충분해 교육용으로 자주 쓰인다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • LLM 성능은 어디서 갈리나: pre-training, SFT, RL 3단계AI 성능 ·

    유료 구독 없이 NVIDIA T4 GPU가 붙은 기본 Google Colab 환경에서 공개 weight를 내려받아 돌리면 됩니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.