#显存

本地 AI 硬件怎么选：显存、带宽与三级预算指南

高速内存容量决定能装下多大的模型，带宽决定生成速度。二手 RTX 3060 约 $300 至 $400，运行 8B 模型每秒 40 至 50 个词元。高要求开发和本地编程智能体，宜从可运行 27B 模型的中档起步。运行约 120B 模型需约 128GB 高速内存，一项测试中 DGX Spark 每秒约 40 个词元。没有严格隐私要求时，每月 $20 至 $60 的云端订阅可能更强、更省事。