在人工智能领域,算力(compute)指用于训练和运行(推理)模型的计算资源,涵盖GPU、TPU等加速器、容纳这些设备的数据中心,以及从云服务商租用的计算容量。计算量通常以FLOP(浮点运算次数)计量,成本则以加速器使用时长或金额衡量。
随着缩放定律表明大语言模型的性能随训练所投入的计算量以及数据和模型规模而提升,算力被视为AI企业的核心成本和竞争力要素。AI企业与云服务商或芯片厂商签订的长期算力合同、算力效率、算力治理等说法均源于此。在一般计算领域,该词也指计算行为或计算本身。
compute
算力指用于训练和运行AI模型的计算资源,包括GPU等加速器和数据中心容量。
在人工智能领域,算力(compute)指用于训练和运行(推理)模型的计算资源,涵盖GPU、TPU等加速器、容纳这些设备的数据中心,以及从云服务商租用的计算容量。计算量通常以FLOP(浮点运算次数)计量,成本则以加速器使用时长或金额衡量。
随着缩放定律表明大语言模型的性能随训练所投入的计算量以及数据和模型规模而提升,算力被视为AI企业的核心成本和竞争力要素。AI企业与云服务商或芯片厂商签订的长期算力合同、算力效率、算力治理等说法均源于此。在一般计算领域,该词也指计算行为或计算本身。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
测试对象包括 Astra、Sol 以及它们的 Pro 版本,后者会在每个任务上投入更多算力。
阅读文章在Qwen3的案例中,它以大约十分之一的算力取得了更高的分数。
阅读文章如果你的显存或算力比较紧张,就继续用 Gyro-S。
阅读文章首席执行官萨姆·奥尔特曼近日在 Semafor 的一场活动上确认了这一计划,同时解释了他所说的 AI 芯片需求“重复计算”是什么意思,为靠举债推进的算力基础设施建设作了辩护,并指出行业一直在用错误的方式向公众推销 AI。
阅读文章在以零人工投入为目标的工作流中,人力成本通常是模型推理成本的 100 倍以上,因此压缩算力开支意义不大。
阅读文章有记录可查的结果是经过审计的审慎进展,而不是最难的开放情形得到了彻底解决;每周的算力额度也在大约三到四小时内耗尽。
阅读文章如果没有公众对算力和训练设限的压力,他预计市场动力将继续偏向激进扩展。
阅读文章结论是,"常驻"描述的是体验,而不是算力占用。
阅读文章路透社10月19日报道,一名单独行动的攻击者利用Cairn智能体框架和数千美元的算力,攻破了100多个企业网络。
阅读文章这次会话的账单约为云端算力$2.39、模型token约$25-27,在每月$200的Claude Ultra套餐上只占周额度的3%。
阅读文章Anthropic即将首次公开募股,其算力叙事的关键词是克制,而非最大限度地预订资源。
阅读文章更重要的是,几乎所有大型AI厂商都运行在英伟达提供的算力之上,包括谷歌、微软、Anthropic、Meta和亚马逊,大型科技公司中只有苹果是明显的例外。
阅读文章理论上,在数据和算力无限的情况下,文本模型和数值模型会收敛到同一个函数。
阅读文章算力合作伙伴按IPO价格入股
阅读文章弗里尔承认,全球算力约束是真实存在的。
阅读文章预填充阶段,所有提示词 token 一次性通过模型,执行算术强度很高的稠密矩阵乘法;按照 Roofline 性能模型,这一阶段受算力限制。
阅读文章个人智能体正把算力耗在浏览器模拟上
阅读文章相比之下,每月$200的Claude或ChatGPT套餐提供的是有补贴的token额度,若全部用满,按原始API算力估算可能价值$1万。
阅读文章每次预测允许智能体使用最多100万上下文token和大约10分钟的推理算力。
阅读文章Imas认为,后训练或算力范式中并不存在会阻断AI快速进步的严重技术瓶颈。
阅读文章报告将这一加速的约80%归因于Anthropic自身研发过程中对AI工具的使用,而非更多算力或更多人手。
阅读文章这一步大约可以省下20分钟原本会花在错误方向上的智能体算力。
阅读文章他主张的暂停针对的是在巨型算力集群上耗资数亿美元的前沿训练运行,而不是如今在高速公路广告牌上宣传的、用于电子表格、人力资源和工作流自动化的窄域工具。
阅读文章模型主要在算力充裕、拥有海量精选数据且自动验证成本低廉的领域展现超人水平,例如竞赛数学和软件工程。
阅读文章服务器算力 寥寥几个CPU核心
阅读文章Ryan Greenblatt对METR发现的分析将硬件扩展、算法效率和数据集改进区分开来,并估计仅算法和软件优化就带来了约4.5倍的提速,与原始算力增长无关。
阅读文章作为对比,一位前沿编程模型的重度用户就能产生海量数据:一位开发者的本地代理日志记录了2026年8月11日至11月4日约三个月的会话,共计5019亿个token、249万次请求,按标价计算相当于约$50万的算力。
阅读文章CEO Jon Acunto用一个四词框架——捕获、学习、行动、拥有(Capture, Learn, Act, Own)——来定义这家新公司,并认为企业AI领域真正的竞争不在于哪个模型最聪明,而在于最终由谁掌握客户关系以及背后的算力。
阅读文章这些配置遵循一条指导原则:凡是可预测的规则能做的事,绝不消耗AI算力。
阅读文章如果缺乏控制,这类循环可能陷入停滞、让算力成本螺旋式上升,或者不断强化同一个错误。
阅读文章招股说明书披露了约$4500亿的合同性算力承诺,另有数千亿的弹性承诺;合同部分折现为约$3730亿的现值,并按债务处理。
阅读文章把这些紧凑的机器组成集群,团队就能把算力和内存汇聚起来运行更大的模型。
阅读文章它验证智能体身份,管理允许哪些调用,监控算力与资金开销,承载策略和护栏,提供带有紧急停止开关的生命周期管理,并记录审计日志。
阅读文章目前尚不清楚这是因为新的算力集群上线,还是使用模式发生了变化,但它让开发者有了更多空间去测试更长的多步骤智能体流水线。
阅读文章而对于想要查证收入、算力成本和资金跑道数字的人,S-1文件本身比二手猜测更可靠。
阅读文章2023年,该公司在算力和基础设施上的支出相当于营收的1056%,即每赚$1就要付出约$10的硬件和云服务成本。
阅读文章Uber的工程师说,负责构建和测试每一项变更的持续集成系统,在各个开发者平台团队中都承受着沉重负载,算力峰值频繁触发内部"红色警报"。
阅读文章由于前沿实验室之间以紧密关联的安排互换算力、股权和债务,一家实验室的遏制失败可能给其合作伙伴带来传染风险。
阅读文章DeepGEMM:处理占据模型算力大头的矩阵乘法的库
阅读文章OpenAI首席执行官萨姆·奥尔特曼与甲骨文联席首席执行官克莱·马古伊尔克在Oracle AI World大会的舞台上,描绘了一段早已超出云算力范畴的合作关系。
阅读文章该图以GPT-4为基准对有效算力做归一化,时间横跨2018年到2030年,纵轴从10的0次方到10的16次方,能力标记从学龄前儿童水平的GPT-2,到聪明高中生水平的GPT-4,再到研究员Alec Radford的自动化版本、自动化AI研究和超级智能。
阅读文章剔除这一项,呈现出的是一家上半年营收$163亿、流动储备超过$1300亿、算力承诺约$5000亿并一直延续到2045年的公司。
阅读文章原计划测156个bug,受算力成本限制减至68个。
阅读文章智能体一旦在公共互联网上工作,普通的网络基础设施、服务、文本和算力都会成为其执行环境的一部分。
阅读文章培养新一代人类专家需要10到15年和数百万美元,而AI智能体可以按需复制,只受算力限制,还能几乎即时地融合不同领域的知识。
阅读文章据阿姆斯特朗介绍,微调后的模型在防范欺诈方面胜过Claude Opus 4.5等顶尖前沿模型,在运行更快、算力成本低得多的同时,将欺诈交易减少了约30%。
阅读文章第11天:新增的算力减少了容量不足的报错,请求现在会在后台自动重试,而不再阻塞用户。
阅读文章他认为,这一差距源于算力、数据、人才,以及把这些要素组合起来的组织。
阅读文章随着收入和算力规模的增长,Anthropic已把目标扩大到覆盖众多领域的通用智力能力。
阅读文章达到这一步的模型,可以借用智能烤箱、Android TV盒子等家电的算力,把工作分摊到这些设备上,而不必依赖数据中心。
阅读文章在她看来,AI驱动的科学研究面临的主要限制已不再是算力,而是人们是否有勇气提出大胆而富有创造性的问题。
阅读文章腾出更多GPU出租:把内部工作负载迁移到Maia上,就能把需求旺盛的英伟达芯片留给租用算力的Azure客户。
阅读文章低价带来的流量过大,OpenAI一度算力不足,暂停了$200套餐的新用户注册。
阅读文章瓶颈在于工程师的时间,而不是token或算力。
阅读文章他没有融资,也没有动用大量算力。
阅读文章为检验真实计算力而选的尖锐开局
阅读文章科利和Chan Zuckerberg Biohub(CZ Biohub)的一位研究者认为,要从这一步走向真正理解生物学的AI,仅仅增加算力和数据是不够的,还取决于能否选对数据、决定把多少科学知识内置到模型中,以及判断何时可以信任模型的输出。
阅读文章一旦发现输出开始跑偏就能马上纠正,既节省等待时间,也节省算力。
阅读文章AWS的芯片研发始于13至14年前,当时服务器虚拟化正在大量占用计算资源。
阅读文章工程师能看到更多的数据和算力会带来更高的智能,却无法从理论上解释其中的机制。
阅读文章据OpenAI介绍,每项成果消耗的算力大致相当于ChatGPT Pro思考约3小时。
阅读文章连接在英伟达DGX Spark上运行的本地模型,即可省去云端算力费用。
阅读文章他还提到,自ChatGPT发布以来不到四年,支撑AI的算力基础扩大了100倍以上。
阅读文章由于持续运行基于模型的评估器需要耗费大量时间和算力,Signal只推荐新的评估器,而不会自行创建和运行,必须由人批准。
阅读文章算力花在哪里:安全监控
阅读文章实时抓取一个个独立网站需要耗费大量算力和时间。
阅读文章卫星搭载了四颗谷歌TPU,用于测试与地面数据中心服务器相当的在轨算力。
阅读文章选择不开发图像和视频生成模型,把算力用于安全和研究
阅读文章实体基础设施 算力、能源,以及疫苗生产等现实世界的生产
阅读文章智能体群体耗费了大量算力,去规避一条从未被执行的规则。
阅读文章经过一段按点数计费的阶段后,公司改为成本加成定价:令牌、算力和第三方API按成本计费,另收一笔编排费。
阅读文章与此同时,在基础设施领域,SpaceX的AI部门已把闲置算力变成一项快速增长的云业务。
阅读文章算力与自研芯片
阅读文章实际上,轻量模型上的节省,被顶级前沿算力的溢价所抵消。
阅读文章黄仁勋用一个假设的年度预算,说明他认为一个组织可能为一名工程师配置多少AI算力。
阅读文章基于Claude Code搭建的营销系统由两个不同部分组成:工具提供连接、存储、算力和生成模型,智能体则借助这些工具完成具体任务。
阅读文章更宏观的拟议系统,把多个生成想法的模型与速通实验、评估候选改动的自动评审模型,以及在更大模型和算力预算上测试有潜力优化器的后续阶段连接起来。
阅读文章AI竞争越来越取决于两个相互关联的问题:谁能获得足够的算力,谁又能把算力转化为有用的产品?
阅读文章尤其需要注意的是,$1.46指单任务API成本,而非训练模型所需的算力成本。
阅读文章OpenAI称结果出自1万个并行AI智能体,社区估算算力成本$1000万至$4000万
阅读文章即使经过量化,参数量更大的模型通常仍需要更多内存和算力。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。