자신이 쓰지도 않은 AI 생성 논문이 자기 이름으로 발표되는 일이 실제로 벌어지고 있습니다. 같은 주에 Google DeepMind의 AlphaGenome 2는 18개월이 걸린 실험실 연구 결과를 30분 만에 재현했고, 영국 규제기관은 AI 부정행위를 막지 못하는 대학에 벌금을 경고했습니다. 이번 주 학계 AI 소식은 연구자의 이름과 평판, 연구 속도, 평가 제도라는 세 축이 동시에 흔들리고 있음을 보여 줍니다. 연구자와 교육자가 각각 무엇을 점검해야 하는지 사건별로 정리합니다.

내 이름이 붙은 AI 가짜 논문

Times Higher Education의 조사에 따르면, 잘 알려지지 않은 오픈액세스 학술지들이 AI로 생성한 저품질 논문에 저명한 교수들의 이름을 당사자 동의 없이 저자로 올려 게재하고 있습니다.

대표 사례로 소개된 University of Gothenburg의 한 컴퓨터과학 부교수는 지속가능발전을 주제로 한 AI 생성 논문이 자기 이름으로 Google Scholar에 올라와 있는 것을 발견했습니다. 이름을 빼 달라고 요구하자 학술지는 논문을 내리는 대신 다른 연구자의 이름으로 바꿔 다시 게재했고, 이후 또 다른 연구자의 이름으로 한 번 더 바꿨습니다. Stanford University의 한 컴퓨터과학 교수도 투고하거나 승인한 적 없는 논문에 자신이 저자로 올라 있음을 확인했고, Virginia Commonwealth University의 한 박사후연구원은 약탈적 학술지의 편집위원 명단에 자기 이름이 무단으로 올라 있는 것을 발견했습니다.

이런 학술지가 유명 연구자의 이름을 쓰는 이유는 분명해 보입니다. 알려진 이름이 저자나 편집위원으로 올라 있으면 학술지가 신뢰할 만한 곳처럼 보이고, 박사과정 지망생이나 투고 저자가 논문을 투고하고 게재료를 내도록 유도할 수 있습니다. 피해자는 이름을 도용당한 연구자뿐 아니라, 그 이름을 믿고 돈을 내는 투고자이기도 합니다.

지금 바로 할 수 있는 방어책은 Google Scholar에 자기 이름 전체로 알림을 설정하는 것입니다. 무료이고, 자기 이름이 저자로 붙은 새 문헌이 색인되면 바로 알림을 받을 수 있습니다. 도용을 완전히 막지는 못하지만, 모르는 사이에 가짜 논문이 쌓이는 상황은 피할 수 있습니다.

18개월 실험을 30분에: AlphaGenome 2

Nature는 Google DeepMind의 AlphaGenome 2를 다뤘습니다. 단백질을 만들지 않는 비부호화 DNA 서열이 유전자 발현에 어떤 영향을 주는지 예측하는 AI 모델의 업데이트 버전입니다.

비교 대상이 된 연구는 2024년 Francis Crick Institute의 유전학자와 면역학자들이 수행한 것입니다. 이 팀은 18개월 동안 피펫을 들고 실험실 실험을 반복해 염증성 장질환(IBD)과 연결된 유전자 변이 ETS2를 찾아냈습니다. DeepMind 연구자들은 AlphaGenome 2로 이 발견의 핵심을 약 30분 만에 재현했습니다. 피펫은 한 번도 쓰지 않았습니다. 원 연구를 이끈 Francis Crick Institute의 연구자는 AI가 자신들의 실험 결과를 확인해 준 것이 과학적으로 안심이 되는 일이었다고 말했습니다.

피펫이 가득한 실험대와 DNA 서열을 표시한 컴퓨터 화면을 나눠 보여 주는 장면

▲ 18개월 실험과 30분 AI 분석의 대비

이 소식을 어떻게 받아들여야 할지는 생각이 갈릴 수 있습니다. 실험생물학을 이 속도로 확인하는 모델이 나왔다는 사실은 연구자에게 위협처럼 느껴질 수도, 든든한 보조 수단처럼 느껴질 수도 있습니다. 다만 두 가지는 함께 봐야 할 것으로 보입니다. 첫째, hallucination(모델이 사실이 아닌 내용을 그럴듯하게 만들어 내는 현상)의 위험은 여전하기 때문에 사람의 검증이 빠질 수 없습니다. 둘째, 그 전제 위에서라면 AI는 실험으로 얻은 결과를 다시 확인하는 2차 검증층으로 매우 유용합니다. 질병 치료 연구의 속도가 빨라진다는 점 자체는 긍정적으로 볼 수 있습니다.

연구자는 Claude를 실제로 어디에 쓰는가

Anthropic은 'AI for scientific discovery: How researchers use Claude'라는 보고서에서 Claude와 Claude Code의 연구 관련 세션 20만 7,000건 이상을 분석했습니다.

분야별로는 컴퓨터과학, 공학, 생의학·임상과학 연구자의 사용이 많았고, 문헌정보학, 인문학, 영양학, 종교학 등은 연구자 수에 비해 상대적으로 사용이 적었습니다.

작업 유형별 결과는 더 눈에 띕니다.

작업 유형 비중과 특징
데이터 분석 압도적 1위. Claude Code 세션의 약 45%, Claude 세션의 약 3분의 1
글쓰기와 커뮤니케이션 2위

| 아이디어 발상, 가설 생성, 이론 분석 | 상대적으로 낮음 |

가설 생성에 AI를 적게 쓰는 이유는 연구자들이 아이디어의 주인으로 남고 싶어 하기 때문으로 해석할 수 있습니다. 연구에서 가장 큰 보람과 자존감은 질문을 떠올리는 순간에서 나오고, 그 부분을 넘기고 싶지 않다는 심리가 반영된 것으로 보입니다. 함께 조사한 설문에서도 AI에 작업을 완전히 맡기는 autonomous(자율) 사용은 드물었고, 대부분이 사람이 과정에 남아 있는 assistive(보조)와 shared(공동) 방식에 머물렀습니다.

실무적으로는 이 패턴을 따르는 것이 합리적으로 보입니다. 데이터 분석, 자료 수집, 초고 작성에 AI를 쓰고, 핵심 가설과 연구 질문은 사람이 쥐며, 모델이 혼자 실행하도록 두지 않는 human-in-the-loop(사람이 과정 중간에서 확인하는 방식)를 유지하는 것입니다.

AI 부정행위 방치 대학에 벌금: 영국 규제기관의 경고

The Telegraph는 잉글랜드의 고등교육 규제기관 Office for Students(OfS)가 AI 부정행위에 대응하지 않는 대학에 재정적 제재를 가할 수 있다고 경고했다고 전했습니다.

OfS 보고서에 따르면 학생들은 감독 없는 재택 과제를 챗봇으로 몇 분 안에 끝내고도 혼자 과제를 한 동료와 같은 수준의 성적을 받고 있습니다. 규제기관은 이런 과제가 학위의 신뢰와 학생의 학습 참여를 모두 훼손한다고 지적했습니다. 영국 Department for Education 대변인은 대학이 학문 윤리 문제를 심각하게 받아들이고 기존 학술 기준을 실제로 집행해야 한다고 밝혔습니다.

감독 아래 손으로 시험을 치르는 학생들과 밀려난 재택 과제 서류 더미

▲ 재택 과제에서 감독 평가로의 전환

여기서 중요한 것은 벌금이 아니라 평가 방식입니다. 상용 AI 탐지 소프트웨어와 텍스트 watermarking(생성된 글에 보이지 않는 표식을 심는 기술)은 쉽게 우회되고, 탐지와 회피가 끝없이 반복되는 적대적 게임이 되기 때문에 믿기 어렵다고 봐야 합니다. 따라서 벌금 제도는 증상에 대응하는 것일 뿐이고, 근본 문제는 감독 없는 재택 에세이가 더는 학습을 증명하는 대리 지표가 될 수 없다는 점으로 보입니다. 고등교육의 평가는 감독 아래 치르는 시험이나 구술 평가처럼 학생의 이해를 직접 확인하는 방식으로 바뀌어야 한다는 결론이 나옵니다.

교육 현장의 두 가지 대응

Harvard의 Compass Collaborative

Harvard Graduate School of Education은 'AI Guidance by Age'라는 부제의 대화형 자료 Compass Collaborative를 공개했습니다. 사용자가 자신의 역할(예: 고등교육 교육자), 발달 영역(인지 기초, 언어와 문해 등), 연령대(18~25세, 26~40세 등)를 선택하면 개요 요약, 구체적인 교육 권고, 핵심 발달 과정과 이정표, 그리고 AI가 그 발달을 방해하는 경우와 돕는 경우를 색으로 구분해 보여 줍니다.

예를 들어 18~25세의 언어와 문해 영역에서는 AI 챗봇에 에세이 초고 작성이나 문장 다시 쓰기를 맡기면 독창적 사고와 자기 목소리의 발달을 방해한다고 경고합니다. 반대로 AI가 글의 구조적 결함을 짚어 주되 직접 고치지는 않게 하면 학생이 수정과 비판적 읽기를 배우는 데 도움이 된다고 안내합니다. 이 권고들은 인간 발달 연구 문헌에 기반한 가설 성격이며 최종적으로 입증된 결과는 아니라는 점을 염두에 두어야 합니다. 그래도 교육자가 수업의 AI 사용 규칙을 설계할 때 근거로 삼을 만한 출발점으로 보입니다.

University of Chicago의 AI 없는 글쓰기 수업

Inside Higher Ed에 따르면 University of Chicago는 모든 신입 학부생에게 AI를 전혀 쓰지 않는 글쓰기 수업을 필수로 이수하게 했습니다. 대학 글쓰기센터가 운영하며, 학생이 AI 도구를 쓰기 전에 글쓰기, 추론, 작문의 기본 습관을 먼저 몸에 익히게 하는 것이 목적입니다. 동시에 교수와 학생이 전통적 글쓰기와 새로운 글쓰기 기술을 함께 실험할 수 있는 글쓰기 랩과 캠퍼스 협력 체계도 만들고 있습니다.

이 방식은 수학 교육에서 계산기 없는 시험과 계산기 허용 시험을 나누는 것과 닮았습니다. 도구를 금지하는 것이 아니라, 도구 없이도 할 수 있는 기초를 먼저 확인한 뒤 도구를 더하는 순서를 정한 것입니다. 모든 대학이 이런 AI 없는 기초 과정을 둬야 하는지는 열린 질문입니다.

연구자와 교육자가 지금 점검할 것

이번 주 소식은 AI가 연구 작업을 빠르게 만드는 동시에 학술 출판과 교육 평가의 전제를 흔들고 있음을 보여 줍니다. 각자 위치에서 할 일을 정리하면 다음과 같습니다.

  • 연구자: Google Scholar에 자기 이름 전체로 알림을 설정해 이름 도용을 조기에 발견합니다.
  • 연구자: AI는 데이터 분석, 자료 수집, 초고 작성에 쓰고, 가설과 연구 질문은 직접 세우며, AI의 결과물은 사람이 검증하는 흐름을 유지합니다.
  • 실험 과학자: AlphaGenome 2 같은 모델을 실험 결과를 다시 확인하는 2차 검증 수단으로 바라보되, hallucination 가능성을 전제로 사람의 확인을 생략하지 않습니다.
  • 교육자: 감독 없는 재택 에세이에 의존하는 평가를 재검토하고, 감독 시험이나 구술 평가처럼 이해를 직접 확인하는 방식을 검토합니다.
  • 교육자: Compass Collaborative를 참고해 연령대별로 AI 사용 규칙을 설계하고, 학생에게는 AI가 글을 고쳐 쓰는 대신 논리적 결함과 글쓰기 문제만 짚어 주는 비평가 역할로 쓰도록 안내합니다.

AI 탐지 도구에 기대는 것은 해법이 아닙니다. 자기 이름을 지키는 알림 하나, 평가 방식 하나를 바꾸는 것이 더 확실한 대응으로 보입니다.