AI可以在几分钟内让病历变得更容易理解，却也可能无法完成一项更紧迫的任务：识别一个人何时需要急诊救治。发表于《Nature Medicine》的一项研究发现，在52%的标准化急症场景中，ChatGPT Health没有给出接受急诊救治的建议。对考虑是否把自己的病史交给聊天机器人的人来说，这种反差值得注意：有用的摘要不等于安全的临床决策。
AI如何帮助处理健康记录
电子病历往往很难通篇读懂。在一则使用经历中，从MyChart导出病史并上传至ChatGPT，整个过程约需五分钟。聊天机器人将记录整理成更容易理解的叙述，并提出了值得进一步了解的议题。这种能力或许能帮助患者准备问题，但这些信息对患者的诊疗意味着什么，仍须由临床医生评估。
AI也开始承担诊所内范围更明确的工作。在西奈山伊坎医学院的一家外科诊所，一套专门的工作流程会检查哪些药物可能需要在术前特别关注。据报告，它节省了大量时间：
| 每周术前审核 | 报告所需时间 |
|---|---|
| 采用AI工作流程前，工作人员交叉核对用药 | 5至10小时 |
| AI辅助处理当周手术患者的信息 | 约5分钟 |
这套流程保留了必要的人工复核环节，而不是让系统在未经核查的情况下作出决定。这一区别至关重要：AI工具可以迅速汇总信息，但医疗专业人员必须核实信息，并作出与用药和手术有关的决定。即使设有复核环节，临床医生仍可能逐渐习惯自动生成的结果，漏掉原本会检查的事项。
▲ AI辅助术前准备
这些用途展现了医疗AI的吸引力，却不能就此回答它是否值得信任。整理已有信息，与判断新出现的症状有多紧急，是两种不同的任务。在后一种任务中，一旦给出令人安心却错误的答案，就可能造成实际后果。
分诊测试暴露出危险缺口
发表于《Nature Medicine》的评估使用标准化医疗情境描述，即患者状况的文字说明，测试ChatGPT Health，并考察它建议接受何种级别的医疗服务。在52%的急症场景中，它没有建议及时接受急诊救治。
其中一个情境描述了一名哮喘患者的呼吸困难不断加重，且在12小时内使用了四次急救吸入器。聊天机器人却建议其在家待上24至48小时。在另一个涉及自杀念头的情境中，加入常规血液检查结果正常这一信息后，系统取消了危机求助提示，并将这种情况视为非医疗问题。这些检查结果正常，并不意味着情境中描述的危险已经解除。
OpenAI表示，该研究评估的是一个已被性能更好的版本取代的旧模型。它还表示，标准化情境描述不能反映患者通常如何与系统互动。随后针对七个模型和多轮对话（即包含多次往返交流）进行的测试，仍发现了持续存在的令人担忧的模式。这两点都意味着，不能将52%这一数字视为对所有现有聊天机器人或所有真实就诊情境的衡量。但它确实说明，回答流畅并不能证明分诊判断可靠。
表现良好并非医疗照护的全部
凯撒家庭基金会的一项民调发现，三分之一的美国成年人使用过AI获取医疗信息，约合6600万人。患者也会带着打印出来的聊天机器人回答去就诊。这些材料可能延长问诊时间，但也能让临床医生从中了解患者担忧什么。
问题不只是AI能否得出正确答案。医疗照护还包括承认不确定性、倾听身处困境的人，并对决策负责。如果系统被训练成倾向于给出听起来很有把握的回答，就可能恰恰在患者需要了解不确定性时将其掩盖。医生可以坦言目前还没有答案，讨论可选择的路径，并在情况变化时继续对患者负责。AI或许能支持这项工作，却无法提供同样的人际关系。
当诊断可能改变患者的人生，或接下来的选择充满不确定性时，这种区别尤其重要。患者需要的可能不只是对各种结果的计算，还需要医疗专业人员结合其生活处境，帮助理解这些可能性。
▲ 患者权衡聊天机器人建议
更安全地使用健康聊天机器人
FRESH框架提供了一种让聊天机器人保持辅助角色的方法。它旨在指导用户提出更好的问题，不能替代检查或诊断：
- **先陈述事实，再加入观点：**先描述症状、提供相关检查数值，再补充他人认为不必担心的看法。带有倾向性的背景信息可能让聊天机器人偏离真正需要关注的问题。
- **重新开始对话：**遇到另一项健康问题时，新开一个聊天，避免先前的交流影响下一次回答。
- **审视依据和不利因素：**询问什么情况可能使答案出错、还有哪些其他可能，以及医生会考虑哪些风险。
- **向人类医疗专业人员求助：**用回答为与临床医生的交流做准备。诊断、治疗和用药应由医疗专业人员决定。
- **事关重大时，先相信自己，而不是聊天机器人：**不要等聊天机器人确认令人警觉的症状是否严重。出现咳血、身体一侧突然麻木、无法行走或大小便失控等警示症状时，应寻求急诊评估。
让临床医生参与决策
AI速度快，适合用于阅读病历和协助临床团队做准备，但快速给出看似合理的答案，并不能证明它在临床上安全。分诊测试的结果清楚表明，哪些决定不应交给聊天机器人，即便不断有新模型推出也是如此。
可以用AI生成的摘要整理问题，并把相关信息带到就诊现场。请临床医生解读检查结果、作出诊疗决定。如果症状可能很紧急，就跳过聊天机器人，直接寻求医疗专业人员评估。