来自Databricks、谷歌地图、福特、Uber和Instacart的工程负责人在Android Dev Summit的一场专题讨论上,交流了各自在智能体编程方面的经验。所谓智能体编程,是指让AI智能体在有限的人工逐步指导下自行编写、运行并修复代码。他们的共同结论是:代码产出量已经爆炸式增长,但把一项功能送到用户面前所需的时间变化远没有那么大,因为软件交付中真正缓慢的环节从来都不是敲代码。由此呈现出一幅具体的图景:大型组织如何衡量收益、流水线在哪里堵塞,以及它们如今如何限制这些工具的开销。

产出上去了,成果却更难证明

Databricks一位负责AI工具的工程经理表示,公司过去六个月推送的代码量,超过了此前跨度长得多的时期。拉取请求数量和代码行数增长之快,使得存储和代码仓库管理本身都成了扩展难题。但正是这种规模迫使管理层去寻找成果指标,而不是为原始数字欢呼;而业界至今仍缺少一种标准方法,把AI生成的代码量与业务价值挂钩。

这位负责人还谈到,顶尖开发者与中位数工程师之间始终存在5到10倍的生产力差距。Databricks选择把AI举措瞄准中位数群体,抬高整个组织的下限,而不是让最快的人更快。

Uber移动开发者平台的一位首席工程师给出了最惊人的数字:在全新项目(即没有历史包袱的新代码)上,开发者一旦熟练掌握现有工具,个人每天最多可以产出100个拉取请求。而在既有平台上的工作,一个失误就可能破坏关键基础设施,仍然需要谨慎的人工判断。Uber过去一年一直在研究更快的编码是否真的加快了面向客户的功能交付,早期迹象是积极的,但问题尚无定论。

消防水管难题

Instacart的一位首席工程师描述了多阶段流水线中某一环节突然快上许多倍时会发生什么:一股冲垮下游一切的消防水管式洪流。在旧模式下,人类工程师逐个把每项变更护送到生产环境;如今智能体涌入的,是按人类节奏设计容量的流水线。

谷歌地图的一位工程经理把交付拆成三个阶段:编码、生产就绪(例如隐私和法务审查)和上线。按这个框架,只加速第一阶段,就像在高速公路上狂奔,结果只是更早抵达下一个堵点。服务器端服务可以持续发布,但消费级应用在变更触达所有用户之前,需要做实验、验证遥测数据并分阶段灰度发布。

俯瞰视角:高速公路通向排着车队的收费站,再经狭窄匝道进入一家商店

▲ 交付三阶段:编码、就绪、上线

Uber的那位工程师补充了一个有用的视角:自主权。掌控从想法到发布全生命周期的内部工具团队,借助AI的交付速度大幅提升。而构建对外产品的团队必须经过设计交接、产品评审和应用商店的发布排期,这限制了编码提速最终能保留下来的比例。

福特负责车辆订阅和客户忠诚度平台的高级工程总监提出了一个重塑整场讨论的观点:即便在AI出现之前,工程也很少是瓶颈。上游需求和跨职能争论占据了日历上的大部分时间;一旦产品和设计定案,实现往往就是把已知方案适配过来。福特看到速度大幅提升的地方,是合规和维护类工作,例如升级Spring Boot版本。而构思真正新功能的时间表几乎没有变化。

收益集中在哪里

工作类型 AI智能体的实际效果
全新项目和内部工具 加速最明显;Uber提到每位开发者每天最多100个拉取请求
框架和依赖升级 收益显著;福特以Spring Boot升级为例
遗留平台代码 有限;仍需人工判断
面向消费者的新功能 变化不大;受规格、评审和商店发布流程制约

把代码审查重新理解为验证问题

既然最慢的环节决定了整个组织的速度,而对多数公司来说这个环节就是人工代码审查,那么核心问题就变成:对100%的拉取请求都做审查是否仍有意义。

Databricks的负责人把审查从根本上界定为一个可以被重新设计的验证问题。审查有两个目的:确认正确性,以及让团队了解正在发生的变化。一位与会者估计,如今大约70%的审查只是流于表面的"看起来没问题"式批准,而非真正的设计把关。与其假装每次审查都在检查架构模式,组织不如训练智能体识别哪些特征意味着可以例行批准,并把这些情况交给它处理。给出的预期是,最终"很高的两位数百分比"的拉取请求可以在没有完整人工审查的情况下合入,但永远不会是全部。

Instacart的工程师提出按风险分级审查:已有强测试覆盖的自动化重构和机械性变更可以跳过强制同行评审,而关键架构路径则保留评审。他提醒说,当一个缺陷可能造成数百万美元损失并惊动CEO时,人工检查仍不可或缺。一个半开玩笑的例子勾勒出了这个光谱:重构Uber应用里的一个Android模块属于中等风险;而一个让所有Android开发者免费乘车的缺陷,则需要CEO级别的签字。

与此相关的几个想法也浮现出来:

  • 把审查从逐行看语法转向验证意图。随着前沿模型犯下的底层技术错误越来越少,风险转移到了误读业务需求或产品意图上。
  • 用可视化产物、测试输出和前后对比来取代阅读差异,让审查者评判的是行为而非语法。
  • 把审查视为"良性摩擦"。目标是减轻审查者负担,而不是取消这道保障。
  • 在上游投入。详细的规格说明和明确的架构提示词能产出明显更好的代码;模糊的输入则产出一位与会者所说的"垃圾"。更好的输入直接减少下游的审查负荷。

为什么移动端比后端更难

安全地合入自动生成代码所需的工具其实已经存在:功能开关、蓝绿部署、事故跟踪和分布式追踪。一位发言者认为,缺失的一环是遥测和可观测性数据分散在彼此割裂的孤岛里。把它们整合成一个统一的工程上下文服务,才能让有把握的自动合并成为可能。

移动端还多了一个不对称的约束。后端团队可以借助内部可观测性实时热修复或回滚,而移动端的修复必须通过Play商店审核,然后等用户更新。这种延迟使移动端有理由比服务器端更加谨慎,也解释了为什么消费级应用团队从智能体编程中获得的收益小于后端同行。

基础设施压力与成本清算

成千上万个自动化拉取请求会带来实实在在的物理后果。Uber的工程师说,负责构建和测试每一项变更的持续集成系统,在各个开发者平台团队中都承受着沉重负载,算力峰值频繁触发内部"红色警报"。应对措施包括Bazel远程构建执行、分布式缓存、自愈式CI流水线和自动化测试分诊。

一位与会者敦促团队在故障逼迫之前,就按10倍增长的轨迹审视基础设施。他转述了另一家公司CEO的一句话:谷歌用了大约20到28年才积累起数十亿行代码,而AI的加速将让普通公司在几年内达到相当的规模,却没有谷歌级别的内部平台来支撑。

开发者盯着成本仪表,一旁的路由器盒将请求分配到小、中、大三种机器,旁边有一条绊线

▲ 模型路由与支出绊线

成本的故事走出了一条清晰的弧线。一位工程负责人把去年称为实验之年,当时鼓励工程师在不受财务约束的情况下把AI用在一切事情上。今年上半年,预期转向合理使用;到了9月,她所在的组织正式实施令牌上限,并配以追踪健康会话指标和每次交互轮次的监测工具。目的在于教育:工程师需要真正意识到,一次AI查询是要花真金白银的。她把这类比为AWS早期,当时工程师随手启动不必要的ECS实例,把云账单越滚越高。如今的对应情形,是花$5调用一次模型去切换Git分支,而不是敲一条命令。

另一位与会者认为,这些限制对架构是健康的。早期,工程师把整个代码库丢给语言模型,期待奇迹发生;账单促使人们重新思考。他主张对标准UI组件和单元测试样板代码使用确定性生成器,而不是实时模型推理。Instacart的工程师也认同,这方面的限制是为了卫生习惯而非限流:没有人需要用前沿模型去查看系统时间,一个脚本就能永远免费做到。

各公司如何治理支出

机制 运作方式
成本可见 团队在工作环境中直接看到当前会话成本和模型用量
令牌阈值加一键申请 开发者触及标准上限后,向直属经理发送申请以获取更多额度
每日绊线 软性上限,用于阻止夜间失控的测试或基准循环;工程师在内部门户一键自行解锁
每月前沿模型预算 对尖端模型给予宽裕额度,超出部分由经理特批
模型路由器 以程序化方式把任务类型映射到合适的模型层级,让工程师不再手动选择模型

两条设计原则格外突出。第一,上限是绊线而不是阻断:目的是拦住那些本会在一夜之间累积数千美元的自动化循环,同时让人留在环路中。第二,平台团队刻意避免充当守门人,预算决策留给了解业务背景的工程经理。与会者指出,在供应商竞争之下令牌价格正在下降,但他们认为无论如何开发者的自律管理都是必要的,并把自动模型路由视为长期上为个人卸下这一负担的途径。

一位发言者把企业按令牌付费的现实与按固定订阅销售的消费级工具作了对比,预测固定费率模式最终将不得不面对按令牌计费的经济账。至于谷歌自身的内部令牌预算,谷歌地图的那位经理只给出了一个提醒:这么大的公司有无数个互不相同的子预算,所以不存在单一答案。

为AI就绪腾出时间

拥有庞大既有代码库的团队,很少能获得三个月的停顿期来为AI重构架构。给出的建议是像对待技术债一样对待AI就绪:划出一个固定的周期性份额,例如从通常20%的技术债配额中拿出5%,用于打磨提示词和调优上下文。许多工程师仍把模型当作神秘的黑箱,从不配置提示词,也不提供足够的上下文。讨论认为,提升团队技能是管理层的职责,要让开发者把模型当作可配置的工程系统来对待。

培训不能是一次性活动。只办一个专门的培训周,一年之内团队就会被远远甩在后面,因为能力演进太快。团队是在"边飞边造飞机",随着模型进步不断调整护栏;在大型企业里,平台团队扮演蒸馏过滤器的角色,把快速涌现的进展提炼成可用的内部指南。

可以带走的结论

五家大型工程组织传递出一致的信息:智能体编程带来了真实、可衡量的收益,但主要集中在整个生命周期都在一个团队内部、工作偏机械性的地方:内部工具、全新项目、框架升级和合规杂务。对于面向用户的产品,限制因素是规格质量、审查能力、发布流水线,以及移动端的应用商店分发。

对于正在权衡是否采用的团队:

  1. 衡量成果而非拉取请求数量,瞄准中位数开发者而非明星。
  2. 先让智能体承担升级、迁移和内部工具,这些地方自主权高、风险可控。
  3. 在放松人工关卡之前,先转向按风险分级的审查和意图验证,并以强测试、功能开关和统一的可观测性作支撑。
  4. 按变更量增长10倍的情形压力测试CI和构建基础设施。
  5. 把成本遥测摆在开发者面前,设置绊线而非硬性阻断,让预算决策留在经理手中,并对一切重复性工作使用确定性脚本。
  6. 为提示词、上下文和持续学习预留一份固定的工程时间,而不是等待专门的现代化窗口期。

这一切并不会让工具变得不那么有用,只是把工作挪了位置:从编写代码,转向把它规定清楚、高效地验证它,并有意识地为它付费。