AlphaFold 2改变蛋白质结构预测已大约五年,但“蛋白质折叠问题已经解决”的流行说法忽略了这个问题的大部分内容。Google DeepMind的普什米特·科利强调,AlphaFold学会预测的,是科学家早已测定并存入蛋白质数据库(Protein Data Bank,PDB,一个收录实验所得蛋白质结构的公共档案库)的静态结构。至于蛋白质在活细胞中究竟如何运动、如何在不同形态之间转换,目前仍在很大程度上是未知的。科利和Chan Zuckerberg Biohub(CZ Biohub)的一位研究者认为,要从这一步走向真正理解生物学的AI,仅仅增加算力和数据是不够的,还取决于能否选对数据、决定把多少科学知识内置到模型中,以及判断何时可以信任模型的输出。

AlphaFold真正解决了什么

不少新闻标题都曾宣称蛋白质结构预测已经完成。但一线的结构生物学家和生物物理学家并不这么看。在他们眼中,蛋白质动力学、蛋白质可能呈现的不同形态(构象状态)、蛋白质功能,以及从零开始创造全新蛋白质的从头设计(de novo设计),在很大程度上仍是悬而未决的问题。

科利解释说,科学突破通常是从复杂系统中分离出一个简化的侧面,使进展可以被衡量和复现。AlphaFold选取的侧面,是存入PDB的结晶蛋白质的静态坐标。预测这些快照在药物研发和生物学研究中确实非常有用。但预测一张定格的照片,与理解蛋白质随时间如何变化,并不是一回事。

  • 蛋白质并不是坚硬的积木,而是形状随细胞内条件变化的柔性分子。
  • 许多蛋白质含有完全没有固定形状的内在无序区域。
  • 蛋白质在不同生物环境中实际呈现怎样的结构范围,研究人员和模型都还不清楚。

因此,科利提醒资助方和科学家,不要因为误以为底层生物物理问题已经解决,就从结构与动力学研究中撤出资源。在他看来,生物学研究才刚刚触及皮毛。

底座上如晶体般凝固的蛋白质模型,旁边是同一蛋白质在细胞内改变形状

▲ 静态结构与运动中的蛋白质

在生物学领域,规模能决定一切吗

AI研究人员经常引用理查德·萨顿的文章《苦涩的教训》(The Bitter Lesson)。文章认为,随算力扩展的通用方法最终会胜过依赖人工设计规则的方法。由此自然引出一个问题:类似的规律是否也适用于生物学数据?

CZ Biohub的这位研究者提醒,不要以为扩展定律,即模型、数据和算力增长带来的稳定性能提升,会在每个领域自动出现。实际研究的很大一部分工作,是找到能让扩展开始见效的具体模型设计和数据条件。只有找到这一区间之后,改进模型才会成为可管理的工程流程。他说,拥有合适的数据分布,是任何模型实现泛化的前提。

蛋白质语言模型提供了一个很有说服力的例子。研究人员没有只用干净、完整的全长蛋白质序列进行训练,而是投入了大量零碎、不完整的宏基因组序列,也就是从环境中的混合微生物样本采集到的遗传数据。尽管这些数据杂乱,它们却大幅提升了模型设计新蛋白质的能力。反过来的陷阱同样存在:仅仅因为容易生成就堆积合成数据或低价值数据,可能会走进死胡同。他还指出,建模人员往往直接使用现成的公开数据集,而不去追问问题真正需要什么数据。

萨顿就这篇文章在DeepMind内部做讲座时,科利正在DeepMind工作,他对这一教训有不同的解读。在他看来,这与其说是关于数据的狭义主张,不如说是对教条主义的警告。只把自己定位为建模者或实验数据生产者的研究人员,最终会在科学意义不大的基准上反复调整算法。应该由问题来选择方法,而不是反过来。

项目 数据状况 选择
AlphaFold 无法通过实验获得十倍于现有数量的结构 用现有PDB结构训练
单细胞生物学与“虚拟细胞” 公共数据库的数据从根本上不足 把资源转向生成新的生物学数据

应该把多少人类知识放进模型

AlphaFold等早期突破性系统,几乎每个组件都包含精心的人工设计。而机器学习的整体趋势,已转向依靠大量算力和数据的通用方法。两位科学家对这一取舍的看法略有不同。

科利从第一性原理出发,认为融入生物物理学和生物化学知识绝非偶然。如果了解氨基酸残基之间如何发生物理作用,就可以把这种理解编码为归纳偏置,即预先内置在模型架构中的假设。这样一来,模型不必从零重新学习基础物理,在数据效率上获得“不公平的优势”。他还补充说,筛选数据集本身就是一门技艺。同样的数据只是堆量收效甚微,进步取决于数据的多样性和覆盖面。

CZ Biohub的这位研究者同意在数据稀缺时归纳偏置必不可少,但他指出存在一个转折点。随着数据集变大,模型可以发现科学家未曾预料的复杂模式,而错误或过于僵化的假设可能阻碍这种发现,给性能设下上限。他也反对把扩展视为无需动脑的工作。要可靠地扩展生物学基础模型,需要深厚的算法和系统工程能力,包括改造标准Transformer,使其适应生物学结构并高效运行。

下一个数据前沿:冷冻电镜原始图像

至于什么能推动蛋白质动力学研究取得突破,具有计算机视觉背景的科利指向了冷冻电子显微镜(cryo-EM)拍摄的原始显微图像。冷冻电镜是一种用电子束对冷冻分子成像的技术。如今的模型针对每种蛋白质只从一个经过处理的PDB结构中学习。直接用包含多种状态的冷冻电镜原始图像训练,或许能让模型捕捉到蛋白质所呈现形态的完整图景,以及形态之间的转换。

CZ Biohub的这位研究者补充说,当前的静态结构预测工具在基于结构的设计等任务中非常有用,但它们只覆盖了生物学中很薄的一片。他打了个比方:这就像精确模拟自行车车轮上的一根辐条,而生物学家最终需要的是能够设计和评估整辆自行车,甚至像皮卡这样复杂的交通工具的模型。

理查德·费曼的名言“我不能创造的,我就不理解”在这里有了新的含义。如今,AI系统可以在没有人完全理解其机制的情况下,生成能够发挥功能的蛋白质设计。

灰度电子显微镜颗粒图像,上方是重建出的立体蛋白质形状

▲ 从冷冻电镜原始图像中学习

黑箱就足够了吗

如果一个模型能一步设计出结合力极强的蛋白质,没人知道它是如何做到的,这要紧吗?CZ Biohub的这位研究者指出,早在现代AI出现之前,生物工程师就一直在使用黑箱式的设计方法。尽管如此,他认为从模型中提炼出真正的理解仍然重要。蛋白质语言模型不只是生成有效的序列,还吸收了结构约束、物理动力学和进化信息;对其内部表征的分析已经揭示出功能位点和形态变化。他把这类模型描述为压缩了进化历史的世界模型,其中蕴含着研究人员尚未破解的信息。

科利把可解释性分为两类:一类是解释模型的内部机制,另一类是刻画模型的行为,即它在哪里有效、在哪里失效。他更看重后者,并以AlphaFold 2为例。

  • AlphaFold 2首次发布时,在衡量预测结构与真实结构接近程度的全局距离测试(GDT)中得分约为90。
  • 即便有一个假想的模型得分达到95,如果其逐个预测的置信度分数pLDDT没有经过校准,它仍然危险且不可用。
  • 如果置信度校准有误,实验室可能会花上几个月甚至一年,去追查一个看似确定却错误的预测。
  • 由于AlphaFold 2的置信度校准良好,科学家能够信任它,研究界后来还发现了一项计划之外的用途:识别内在无序区域。

科利还认为,可解释性取决于由谁来解释。人类的工作记忆有限,而跨越多个尺度的生物学可能难以用人类直觉来解释。他提出,未来的前沿AI模型有可能检查专用模型的内部层,并提出超出人类能力范围的机制假说。两位科学家都认为,充分了解模型的能力与局限,对于避免把实验资源投向错误方向至关重要。

距离临床还有多远

科利认为,追问AI何时会改变临床结果,这个问题本身就有些不恰当,因为AI和机器学习已经在临床前药物发现的每个阶段发挥作用。他区分的是当前的渐进式应用,与让靶点发现、先导化合物优化和毒理学评估加快10倍到100倍的变革。他认为,这种飞跃不会来自优化现有的狭窄实验,而是来自借助全面的基础模型解决细胞生物学和疾病机制的根本问题。

CZ Biohub的这位研究者借用了他在谷歌学到的一条工程经验:瞄准10倍的提升,往往比追求10%的改进更容易实现、影响也更大,因为这会迫使人放弃错误的假设,从第一性原理重新思考问题。CZ Biohub公开表示的目标是帮助治愈、预防或管理人类疾病,他说,这需要兼顾近期的实际成果和长期的飞跃。

这些变化发生在研究流程中,并不是用于个人诊断或治疗的工具。任何健康方面的决定都应交由医疗专业人员。

要点总结

AlphaFold解决了蛋白质生物学的一个侧面:预测静态结构。理解蛋白质的运动、功能乃至整个细胞,才刚刚起步。对于从事生物学AI的研究人员和工程师,上述要点可以归纳为一份实用清单:

  1. 在选择架构之前,先明确生物学问题和具体的里程碑。
  2. 尽早判断取得进展需要的是更多算力、更大的模型容量还是新的实验数据,并迅速放弃前景不佳的方向。
  3. 重视数据的多样性和覆盖面,而不是单纯的数量,并尝试宏基因组序列这类杂乱的自然数据。
  4. 数据稀缺时把物理知识融入模型,数据增多后重新审视僵化的假设。
  5. 在实验室中信任模型之前,先确认置信度分数与实际准确度相符,并摸清模型会在哪些情况下失效。
  6. 不要只盯着静态结构档案库,也要关注冷冻电镜这类一手实验数据。