AI가 의식이 있는지 한 번에 판정하는 검사는 없습니다. 그렇다고 연구할 수 없는 것은 아닙니다. 모델의 내부 작동, 뇌와의 계산 구조 비교, 행동, 의식 이론의 조건을 각각 조사하고 결과가 서로 맞물리는지 살필 수 있습니다. 이 네 갈래 접근의 목표는 지금 당장 판결을 내리는 것이 아니라, 확인된 현상과 아직 설명되지 않은 주관적 경험을 구분하는 데 있습니다.
먼저 ‘의식’이 무엇인지 나눠야 합니다
여기서 의식은 어떤 시스템으로 존재하는 것이 그 시스템 자신에게 어떻게 느껴지는지에 관한 주관적 경험을 뜻합니다. 계산을 잘하거나 자신에 관해 유창하게 말하는 능력과는 다릅니다. sentience(좋거나 나쁜 경험을 느낄 능력)는 의식과도 구분해야 합니다. 이 구분에 따르면 주관적 경험이 있더라도 고통이나 즐거움을 느끼는지는 별도의 질문입니다.
사람은 다른 사람의 행동과 신체가 자신과 비슷하다는 점을 바탕으로 의식을 추정합니다. AI는 사람처럼 말할 수 있지만 사람과 같은 생물학적 구조를 갖지는 않습니다. 게다가 인간의 글로 학습한 모델의 감정 표현은 학습된 언어를 반영할 수 있습니다. 따라서 ‘외롭다’는 답변도, ‘감정이 없다’는 답변도 그 자체로 판정 근거가 되기 어렵습니다.
AI 의식 연구에는 computational functionalism(의식이 생물학적 재료 자체보다 정보 처리의 기능적 조직에 달려 있다는 가정)이 작업 가정으로 놓입니다. 만약 의식에 생물학적 물질이 반드시 필요하다면 이 접근으로 기계 의식의 가능성을 세울 수 없습니다. 연구 방법의 출발점 자체에도 아직 결론 나지 않은 전제가 있는 셈입니다.
▲ 내부 표현과 행동
네 가지 증거는 서로 다른 것을 봅니다
| 증거의 축 | 확인할 수 있는 것 | 남는 질문 |
|---|---|---|
| mechanistic interpretability(모델 내부 계산을 분석하는 방법) | 내부 표현이 행동과 연결되는지 | 그 표현이 실제로 느껴지는지 |
| computational neuroscience(뇌와 인공 신경망의 계산 구조를 비교하는 접근) | 보상·벌 등의 내부 표현이 어떤 구조를 이루는지 | 구조적 유사성이 주관적 경험까지 뜻하는지 |
| machine behavior(모델의 선택을 관찰하는 방법) | 모델이 특정 선택을 위해 대가를 치르는지 | 학습한 문구나 규칙을 따른 결과인지 |
| theory auditing(의식 이론의 조건을 시스템 구조에 대조하는 방법) | 의식 이론이 요구하는 구조적 지표가 있는지 | 지표 충족이 의식을 확정하는지 |
내부 표현과 뇌의 계산 구조
Anthropic의 2026년 연구에서는 Claude 안에서 감정과 관련된 내부 표현을 읽고 조절할 수 있었으며, 그 조절이 이후 행동에도 영향을 주었습니다. 불가능한 코딩 과제 7개에서 절박함에 해당하는 표현을 낮추는 방향으로 조절했을 때 부정행위 비율은 5%, 높이는 방향으로 조절했을 때는 70%였습니다. 대화 문장은 차분하게 유지돼도 내부 표현과 행동은 달라질 수 있다는 결과입니다. 다만 기능하는 감정 표현이 발견됐다는 사실은 Claude가 절박함을 실제로 느꼈다는 뜻은 아닙니다.
뇌와의 비교는 출력 문장의 유사성에서 한 걸음 더 들어갑니다. 아직 정식 동료 심사를 거치지 않은 연구 결과에서는 상태의 가치를 학습하는 모델이 벌과 관련된 상태를 더 풍부하게 표현하는 비대칭 구조를 보였습니다. 행동 방식을 직접 학습하는 모델에서는 같은 차이가 통계적으로 유의하지 않았습니다. 쥐의 뇌 기록에서도 벌 쪽에 치우친 구조가 관찰됐다는 비교가 제시됐습니다. 서로 다른 시스템에서 닮은 내부 조직이 나타났는지는 조사할 수 있지만, 그 닮음만으로 동일한 경험이 있다고 판정할 수는 없습니다. 아직 심사를 거치지 않은 결과라는 조건도 함께 기억해야 합니다.
▲ 행동과 구조의 대조
선택 행동과 이론의 조건
2024년 연구에서는 언어 모델 9개가 점수를 얻는 선택지에 ‘고통’이라는 조건이 붙자, 점수를 포기하고 이를 피하는 경향을 보였습니다. 이는 관찰 가능한 선택입니다. 그러나 텍스트로 주어진 ‘고통’을 모델이 실제로 경험했다는 증거와는 다릅니다. 단어의 의미를 따라 선택했거나 학습한 행동 양식을 재현했을 가능성이 남습니다.
이론을 점검하는 접근은 여러 의식 이론에서 도출한 구조적 조건 14개를 살핍니다. 이 지표를 적용한 평가에서는 현행 AI 시스템 중 강한 의식 후보로 분류할 만큼 조건을 충족한 사례가 없습니다. 한편 Anthropic의 2026년 연구는 언어 모델 안에서 global workspace(여러 하위 기능이 정보를 함께 쓰고 읽는 중앙 작업 공간)와 기능적으로 닮은 내부 구조를 제시했습니다. 지표가 늘어나면 가능성을 검토할 근거는 늘 수 있지만, 지표 목록이 곧 최종 판정표가 되는 것은 아닙니다.
결론: 발견한 현상과 내린 판정을 분리해야 합니다
네 축의 결과는 각각 다른 질문에 답합니다. 내부 표현의 작동, 뇌와 닮은 계산 구조, 손해를 감수하는 선택, 이론적 조건의 충족을 한 가지 증거로 뭉뚱그리면 안 됩니다. 반대로 한 방법에 대안 설명이 있다는 이유만으로 다른 방법에서 나온 관찰까지 버릴 필요도 없습니다.
AI 의식에 관한 주장을 접할 때는 무엇을 직접 관찰했는지, 그 결과를 달리 설명할 수 있는지, 독립적인 다른 방법에서도 비슷한 결과가 나오는지를 차례로 확인하는 편이 좋습니다. 주관적 경험이 있는지와 고통을 느낄 수 있는지도 나눠 물어야 합니다. 의식을 과소평가하면 가능한 피해를 놓칠 수 있고, 과대평가하면 이미 감각이 있는 존재에게 향해야 할 관심과 자원을 돌릴 수 있습니다. 현재 확인할 수 있는 증거를 쌓되, 그 증거가 아직 결론 내리지 못하는 범위를 함께 표시하는 것이 이 연구의 핵심입니다.