RAM随机存取存储器
RAM 是临时存放运行中程序和数据的主存储器，也用于在本地运行 AI 模型。
11篇文章
最近提及 RAM（随机存取存储器）是计算机在程序运行时快速读写程序和数据所用的主存储器。普通 RAM 断电后会丢失内容，有别于长期保存数据的存储设备。在本地运行 AI 时，可用内存容量会影响能够运行的模型规模。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
量化是降低模型权重的数值精度、从而减少内存占用的方法。
harness还会限制运行时间、内存使用和互联网访问。
量化感知训练（Quantization-Aware Training，简称QAT）可以进一步降低内存占用。
通过设计应对内存短缺
数据中心内存：Argon智能体分析了整个机群的性能剖析数据，释放出300多TiB内存，预计最终可节省500TiB到1PiB。
一次实测冷启动的端到端耗时为67秒，其中包括将模型权重载入内存的15秒，而GPU执行时间仍为297毫秒。
持续运行同样离不开内存管理。
叙述还提到，该公司基础设施内存在一个未经授权的留言板：
内存容量决定上限，带宽决定速度
M3 Ultra 配备 512GB 统一内存，M5 Ultra 则配备 256GB，因此两台机器的内存配置并不相同。