Anthropic이 Claude를 활용해 새로운 유전자 편집 기제가 될 수 있는 분자 기계를 발견했다고 발표했습니다. 같은 시기 Anthropic CEO Dario Amodei는 AI가 5~10년 안에 대부분의 주요 질병을 치료할 수 있다고 전망했습니다. 신약 개발과 유전자 연구의 속도를 끌어올릴 기술이라는 기대와, 그 기대가 검증 절차와 안전장치를 건너뛰게 만들 수 있다는 우려가 동시에 커지는 지점입니다. 여기서는 AI가 실제로 연구 기간을 얼마나 줄일 수 있는지, 무엇이 남는 한계인지, 그리고 같은 기술이 왜 인류 위험 논의와 붙어 다니는지를 함께 짚습니다.
분자 기계 발견이 의미하는 것
Anthropic의 발표는 Claude가 분자 기계(molecular machine) 하나를 찾아냈고, 그것이 새로운 유전자 편집 기제일 가능성이 있다는 내용입니다. 유전자 편집은 CRISPR(특정 DNA 서열을 잘라내고 바꾸는 유전자 편집 기술)가 등장한 뒤 10~15년가량 공개적으로 연구되고 활용돼 왔습니다. 그 흐름에서 AI 모델이 후보 구조나 물질을 후보군에서 골라내는 역할을 맡으면, 탐색 단계의 시간을 줄일 여지가 생깁니다.
다만 발표의 핵심에는 중요한 단서가 붙습니다. 발견된 분자 기계의 생물학적 기능이 아직 명확하지 않다는 것입니다. Amodei는 이 발견이 자신이 박사 과정 학생이었다면 자랑스러워했을 작업이라고 평가했습니다. 후보를 찾는 일과, 그 후보가 인체에서 실제로 어떤 작용을 하는지 확인하는 일은 전혀 다른 단계입니다.
여기서 AI의 기여는 발견의 속도에 집중됩니다. 실험 설계와 검증, 안전성 확인은 여전히 사람의 시간을 요구합니다. 이 구분을 흐리면 기술의 성과가 실제보다 크게 보일 수 있습니다.
▲ 임상시험에 필요한 시간
10년 전망이 건너뛰는 절차
Amodei가 제시한 5~10년이라는 기간은 의학 연구의 표준 절차와 정면으로 부딪힙니다. 신약 후보가 실험실을 떠나 사람에게 쓰이기까지는 단계가 정해져 있습니다.
임상시험이 요구하는 시간
- 충분한 수의 자원자를 모집해야 합니다.
- 참가자를 대조군, 치료군, 위약군으로 나누고 여러 용량 단계로 배분합니다.
- 장기간 투여하며 단기 결과와 장기 효능, 부작용, 예상치 못한 독성을 관찰합니다.
컴퓨팅 성능과 AI 분석이 아무리 빨라져도, 인체가 만성적 영향을 드러내는 데 걸리는 시간 자체는 앞당길 수 없습니다. 안전성과 효능을 확립하려면 세월이 필요하다는 것이 임상시험의 본질입니다.
규제와 행정의 몫
기업이 주요 사업을 개시하는 데도 통상 6개월가량의 의사결정과 승인 절차가 필요합니다. 규제 기관의 심사, 윤리위원회 검토, 데이터 관리 요건까지 더하면 절차는 더 길어집니다. 5~10년 안에 대부분의 질병을 정복하겠다는 전망을 그대로 실행하려면, 이 안전 절차를 해체하거나 우회해야 합니다. 속도를 위해 검증을 줄이는 선택은 치료의 가능성이 아니라 위험을 키웁니다.
▲ 생물학 실험실의 격리
설명하지 못하는 정답의 위험
AI 모델이 오래된 난제를 푸는 사례가 발표되고 있습니다. 80년 넘게 풀리지 않은 수학 문제 30여 개에 모델이 답을 내놓는 식입니다. 문제는 정답의 근거입니다. 모델은 고차원 tensor(다차원 숫자 배열) 위에서 패턴을 맞춰 답을 내지만, 사람이 검증할 수 있는 형태로 증명 과정이나 중간 추론을 제시하지 못합니다. 정확도가 100%에 가까워도, 기계가 어떻게 그 답에 도달했는지 설명하지 못하면 과학적 이해는 앞으로 나아가지 않습니다.
vibe coding을 생물학에 옮기면
소프트웨어 개발에서는 이미 비슷한 관행이 자리 잡았습니다. Claude나 ChatGPT가 생성한 코드를 구현 내용을 이해하지 못한 채 그대로 배포하고, 그 코드를 넘겨받은 동료도 감사하지 못하는 방식입니다. 이른바 vibe coding(코드의 동작 원리를 확인하지 않고 AI가 만든 결과를 그대로 쓰는 개발 방식)입니다. 이 방식이 남기는 부채는 결국 다른 사람에게 넘어갑니다.
이 관행이 유전자와 생화학 연구에 그대로 적용되면 결과는 훨씬 무겁습니다. 연구자가 무엇이 잘못됐는지 설명할 수 없는 유전적 결함이나, 의도하지 않은 병원체가 만들어질 수 있습니다. 설명 가능성은 규제 요건이기 이전에 사고를 되돌릴 수 있게 하는 수단입니다.
생물학 실험실과 인류 위험 논의
우려는 AI 기업이 직접 wet lab(생물학적 시료를 다루는 습식 실험실)을 세우고 유전자 편집을 다룬다는 대목에서 커집니다. 비판하는 쪽에서는 이들 기업이 자사 소프트웨어 agent(스스로 판단해 작업을 수행하는 AI 프로그램)와 디지털 인프라를 제대로 격리하고 통제하지 못한 일이 여러 번 있었다고 지적합니다. 이 시각에서 보면, 기본적인 보안과 sandbox(외부로부터 격리된 실행 환경)조차 확실히 지키지 못하는 조직에 유전자 서열을 다룰 권한을 주는 것은 위험한 일입니다.
특히 gene drive(유전자 드라이브, 편집된 형질이 후손 세대까지 퍼지도록 만드는 기술)는 개체 하나를 바꾸는 것으로 끝나지 않습니다. 후손 전체의 형질이 영구적으로 바뀝니다. 20년 뒤 유전자 이상을 갖고 태어난 아이가 왜 자신이 이렇게 태어났는지 묻는 상황은 되돌릴 수 없는 종류의 결과입니다.
IT 운영에서 미숙련 인턴에게 운영 데이터베이스 클러스터 접근 권한을 주지 않는 것은 상식입니다. 같은 원칙이 생물학 자동화에 적용되지 않는 이유는 없습니다. 방화벽, 네트워크 분할, 실시간 로그 감사 같은 기본 통제와 물리적 격리가 함께 갖춰져야 합니다.
비슷한 경로를 먼저 밟은 사례도 있습니다. Facebook의 알고리즘이 미얀마에서 혐오 발언을 증폭시켜 로힝야족에 대한 폭력으로 이어졌을 때, 확장 속도를 우선하는 실리콘밸리의 조직 문화가 그런 피해를 ‘달걀 몇 개 깨지는 일’ 정도로 여겼다는 비판이 나왔습니다. AI 기업이 생물학으로 확장할 때 같은 문화가 반복되면, 피해는 되돌릴 수 없는 규모가 됩니다.
한편 AI 업계에서는 이 기술이 인류를 멸망시킬 확률을 10%로 보는 논의도 오갑니다. 주요 기업의 기업가치가 $2조 규모로 거론되는 상황에서 이런 위험 논의가 같은 자리에서 다뤄지는 이유는, 기술의 힘과 그 힘을 쥔 인간의 판단이 분리될 수 없기 때문입니다. 과거 정보기술은 값싼 개인용 프린터 수십 대를 네트워크 프린터 한 대로 바꾸는 것 같은 실용적인 개선으로 기업에 연 $10만 규모의 이익을 안기며 사회를 조금씩 나아지게 했습니다. 기술자가 받는 대가는 그 10% 정도인 $1만 남짓한 성과급이었습니다. 반면 지금의 AI 인프라는 막대한 전력과 물을 소비합니다. 비판하는 쪽에서는 서버 설정 하나를 잘못해도 수백만 명의 생명이 위태로울 수 있는 위험을 처음으로 안게 됐다고 경고합니다.
AI 헬스 시대에 독자가 할 일
정리하면 이렇습니다. Claude가 찾아낸 분자 기계는 유전자 편집의 새 가능성을 열 수 있지만, 그 기능은 아직 확인되지 않았습니다. 5~10년 내 질병 정복 전망은 임상시험이 요구하는 시간과 규제 절차를 건너뛰지 않고는 실현되기 어렵습니다. 설명할 수 없는 정답과 검증되지 않은 코드를 그대로 쓰는 관행은 생물학에서 훨씬 큰 대가를 부릅니다. 여기에 AI 기업의 보안과 격리 역량에 대한 의문이 더해집니다. $2조 규모로 거론되는 기업가치와 상장을 앞두고 낙관적 발표를 내놓을 유인이 있다는 비판도 겹칩니다. 그 결과 낙관적 발표와 인류 위험 경고가 같은 뉴스에서 오가는 상황이 만들어졌습니다.
독자가 지금 할 수 있는 일은 다음과 같습니다.
- AI가 의학과 생물학 분야에서 낸 결과를 검증된 것으로 받아들이지 않습니다. 중간 단계를 해당 분야 전문가가 독립적으로 확인하기 전까지는 미확인 결과로 취급합니다.
- AI 덕분에 임상시험이나 승인 절차를 단축할 수 있다는 주장에는 근거를 확인합니다. 절차를 우회하는 속도는 성과가 아닙니다.
- 자동화된 AI agent에 운영 시스템과 민감 데이터에 대한 무감독 접근을 주지 않습니다. 방화벽, 망 분리, 로그 감사를 기본으로 적용합니다.
- wet lab 자동화 시스템에는 물리적, 디지털 격리를 유지합니다.
건강과 관련한 판단은 개인이 아니라 의료진과 상의해야 합니다. AI가 제시하는 가능성은 참고 자료일 뿐, 진단이나 치료의 근거가 될 수 없습니다.