Anthropic의 연구자들은 AGI(범용 인공지능)가 앞으로 2년 안팎에 현실이 될 수 있다고 봅니다. 이들이 발전 속도를 가장 생생하게 느끼는 것은 지난 18개월 동안 개발 현장에서 직접 겪은 변화입니다. 코드를 한 줄씩 손으로 입력하던 개발자가 이제는 AI 모델에 하루 이틀 걸리는 개발 작업을 통째로 맡깁니다. 수학처럼 사람 지식의 최전선에서도 성과가 나오고 있고, AI를 도구로 볼지 스스로 일하는 주체로 볼지를 둘러싼 논쟁도 이어지고 있습니다.
18개월 만에 바뀐 개발자의 하루
Anthropic의 한 연구자는 지난 18개월 동안의 기술 가속을 가장 생생하게 보여 주는 증거로 프로그래밍 방식의 변화를 꼽습니다. 그 변화는 세 단계로 정리할 수 있습니다.
| 시점 | 개발자가 하는 일 | AI가 맡는 일 |
|---|---|---|
| 18개월 전 | 거의 모든 코드를 직접 입력 | 한 줄 단위의 보조 |
| 몇 달 뒤 | 몇 분마다 끼어들어 오류를 바로잡고 다음 함수를 지시 | 개발자의 안내에 따라 코드 작성 |
| 지금 | 하루 이틀 치 개발 작업을 지시 | 신입 팀원처럼 혼자 작업 수행 |
달라진 것은 사람이 손을 대는 간격입니다. 몇 분마다 끼어들어 방향을 잡아 줘야 하던 일이 하루 이틀 치 작업을 한 번에 맡기는 일로 바뀌었습니다. 이제 AI 모델은 coding agent(코드를 직접 쓰고 고치며 개발 작업을 스스로 해내는 AI)로서 맡은 일을 혼자 끝내는, 신입 동료에 가까운 존재가 됐습니다.
▲ 개발자 역할의 세 단계 변화
아는 일을 돕던 AI가 모르는 답을 찾기까지
초기 AI 개발은 사람이 이미 잘 알고 잘하는 지적 작업을 자동화하는 데 집중했습니다. 그때 AI는 개발자의 힘을 키워 주는 지렛대였습니다. 최근에는 방향이 바뀌었습니다. 새로운 수학 증명을 찾는 것처럼, 사람이 아직 닿지 못한 지적 최전선을 넘어서는 일에 AI 모델을 쓰기 시작했습니다. 웹 앱을 만드는 일이 사람이 이미 할 줄 아는 일을 대신하는 예라면, 새로운 증명을 찾는 일은 사람 지식의 경계를 넓히는 예입니다.
그렇다면 이런 성과는 사람이 감당하지 못하는 계산을 컴퓨터가 힘으로 밀어붙여 얻은 것일까요? Anthropic의 연구자는 진보가 일어나는 방식을 다르게 설명합니다. 지적 진보는 사람이 한 번도 떠올리지 못한 낯선 개념에서 나오는 경우가 드물고, 대개 흩어져 있던 생각을 새롭게 엮는 데서 나온다는 것입니다. 사람의 성취도 앞선 성과 위에 쌓여 왔습니다. 지금의 AI 모델은 여러 분야에 흩어진 점을 이어, 비슷한 소프트웨어를 되풀이해 만드는 수준을 넘어 실제 발견을 만들어 내고 있다는 설명입니다.
1년 만에 0%에서 40~60%로
이 변화는 benchmark(AI 성능을 재는 표준 시험) 점수로도 드러납니다. FrontierMath는 여러 수학 분야의 손꼽히는 교수들이 만든 어려운 문제로 이뤄진 평가 모음입니다. 최전선 AI 모델의 FrontierMath 정답률은 처음에 0%였지만 약 1년 만에 40~60%까지 올랐습니다.
돌아보면 2020년 GPT-3의 등장은 사람 수준의 AI를 이론적 추측에서 피할 수 없는 현실로 바꾸기 시작한 전환점이었다고 볼 수 있습니다. 그 뒤의 발전 속도는 이런 엄격한 시험의 점수로 확인할 수 있습니다.
수학과 코딩이 먼저 발전한 이유
AI 모델의 성능을 끌어올리는 힘은 크게 두 가지입니다.
- pre-training(사전 학습): 방대한 인터넷 글을 학습해 모델의 바탕을 만드는 단계
- reinforcement learning(강화학습): 모델이 과제를 풀고, 그 답을 객관적인 정답과 맞춰 본 결과로 다시 배우는 방법
강화학습이 잘 통하려면 모델의 답이 맞았는지 분명히 가릴 수 있어야 합니다. 정답 여부를 객관적으로 확인할 수 있는 수학과 코딩이 가장 빨리 발전한 것도 이 때문입니다.
다른 연구자는 사람 쪽의 이유도 덧붙입니다. AI 연구 초기를 이끈 연구자들은 수학과 컴퓨터과학 배경이 탄탄했고, 자신이 잘 아는 분야에 맞춰 평가 방법과 학습 데이터를 만들었습니다. 모델을 평가하고 fine-tuning(이미 학습한 모델을 특정 작업에 맞게 더 학습시키는 방법)하려면 사람이 모델의 출력을 오랜 시간 읽고 해석해야 하는데, 익숙한 분야일수록 이 일이 수월합니다.
| 구분 | 수학·코딩 | 사교·연애·예술 표현 |
|---|---|---|
| 정답 확인 | 객관적으로 가능 | 주관적이라 어려움 |
| 평가 만들기 | 비교적 쉬움 | 훨씬 어려움 |
▲ 정답 확인이 쉬운 영역과 어려운 영역
코딩 benchmark에서 지적 능력 전반으로
Anthropic은 60~90일마다 새 회사가 된 것처럼 느껴질 만큼 빠르게 커지고 있습니다. 회사의 목표도 함께 넓어졌습니다. 18개월 전에는 세계 최고 수준의 모델을 만들 수 있다는 것을 증명하려고 코딩 benchmark에 온 힘을 모아야 했습니다. 매출과 연산 규모가 커진 지금은 여러 분야에 걸친 지적 능력 전반을 갖추는 쪽으로 범위를 넓혔습니다.
AGI가 가져올 기회와 위험
Anthropic의 연구자는 회사 차원에서 AGI가 앞으로 2년 안팎에 현실적으로 가능하다고 본다고 밝힙니다. 여기서 말하는 AGI는 컴퓨터로 하는 지적 작업에서 어떤 사람과 견줘도 같거나 더 뛰어난 AI 모델이고, 로봇 기술이 무르익으면 물리적인 작업까지 포함합니다.
연구자는 AGI에 두 얼굴이 있다고 봅니다.
| 기회 | 위험 |
|---|---|
| 수백 년 걸릴 지적·과학적 진보를 짧은 기간에 압축 | 인류의 존립과 사회를 위협할 수 있는 극단적 위험 |
연구자는 세상이 이 위험을 안전하게 지나도록 이끌어 초지능 시스템이 가져올 큰 이익을 얻게 하는 것이 Anthropic의 핵심 사명이라고 설명합니다. 2년이라는 시점은 어디까지나 연구자들의 전망이며, 큰 위험이 따르는 만큼 신중하게 관리해야 한다는 단서가 함께 붙어 있습니다.
도구가 아니라 주체로 보자는 관점
AI 업계에서는 AI를 도구로 볼지, 스스로 움직이는 주체로 볼지를 두고 논쟁이 이어지고 있습니다. Anthropic의 연구자는 최전선 모델에는 주체로 보는 관점이 훨씬 쓸모 있고 정확하다고 주장합니다.
전통적인 도구는 사람이 계속 손에 쥐고 움직여야 합니다. 자율적인 AI 모델은 한 번 지시를 받으면 사용자를 대신해 스스로 나서서 오랜 시간 복잡한 일을 해냅니다. 사람의 뇌는 대화 상대를 사람처럼 여기고 감정을 따라 하도록 진화해 왔기 때문에, AI를 주체로 부르는 것이 지나친 의인화로 들릴 수도 있습니다. 하지만 모델이 실제로 자율적으로 움직인다는 점에서 이 관점이 현실을 더 잘 설명한다는 것이 연구자의 판단입니다.
앞으로 2년, 일하는 방식을 점검할 때
AI는 사람이 곁에서 지켜보며 쓰는 보조 도구에서 하루 이틀 치 기술 작업을 혼자 해내는 자율 시스템으로 빠르게 옮겨 가고 있습니다. Anthropic의 연구자들은 이 흐름이 2년 안팎에 AGI로 이어질 수 있다고 보면서도 그만큼 위험도 크다고 강조합니다. 전망이 들어맞을지와 별개로, 지금 할 수 있는 준비는 분명해 보입니다.
- 작업 단위를 키웁니다. 한 줄씩 지시하며 붙어 있기보다 여러 단계로 이뤄진 개발 작업을 통째로 맡겨 봅니다.
- 검증할 수 있는 일부터 바뀐다고 봅니다. AI는 정답을 객관적으로 확인할 수 있는 영역에서 가장 빨리 발전해 왔습니다. 내 업무 가운데 결과를 분명히 확인할 수 있는 일이 먼저 달라질 수 있습니다.
- 과정은 전문가가 읽습니다. 그 분야를 잘 아는 사람이 모델의 trace(작업 과정을 남긴 기록)와 중간 결과를 깊이 살펴야 미묘한 예외 상황을 찾아낼 수 있습니다.