GPU图形处理器
GPU是处理图形和大规模并行计算的处理器，也用于AI模型的训练和推理。
GPU即图形处理器，是为同时执行大量计算而设计的处理器。与承担多种通用任务的CPU相比，它更适合并行计算，因此既用于图形处理，也用于AI模型训练和推理。
运行大型语言模型时，GPU的显存容量和带宽是重要的硬件条件。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
因此装进16GB或24GB的消费级GPU后，仍有充足空间留给上下文，也就是模型工作时持续参考的文本。
而且，与用数千块GPU训练前沿模型不同，构建harness就是普通的软件工程，独立开发者同样可以参与。
Gemma 4采用宽松的Apache 2.0许可证发布，共有五种规格，从小到可以装进手机的2B模型，到单张GPU即可容纳的31B模型。
cmux基于libghostty构建，后者是支持GPU加速的Ghostty终端所用的库；cmux采用原生Swift和AppKit编写，而非Electron。
公司最初提供的是未用于自身模型训练的旧款英伟达GPU。
Flux和Z-Image等开源模型可以在性能足够的本地硬件或租用的GPU上运行，其权重可以下载和定制。
借助RunPod Flash，开发者无需编写自定义Dockerfile即可部署Python模型代码，并在GPU worker闲置时将其关闭，从而有望降低图像生成服务的运行成本。
两者都可以提出代码修改、向共享GPU集群提交训练任务、读取生成的日志，并决定下一步尝试什么。
埃隆·马斯克表示，xAI位于孟菲斯的Colossus 2设施已部署55万块英伟达GB200和GB300图形处理器（GPU），这类专用芯片用于AI工作负载。
选择硬件前，先检查其高速内存：独立 GPU 的 VRAM，即显存；或 Apple Silicon Mac 可使用的共享统一内存。
两台机器均有 80 个 GPU 核心。