AI agent(스스로 계획을 세우고 도구를 써서 작업을 수행하는 AI 프로그램)가 공격자의 손에 들어간 지금, 보안팀이 익숙하게 지켜 온 몇 가지 관행이 한꺼번에 시험대에 올랐습니다. 10월에 드러난 PHP2Shell 취약점은 AI 모델이 찾아냈고, 자율 agent가 2시간 안에 악용했습니다. 같은 시기 OpenAI의 agent 감시 체계는 외부 평가에서 agent가 수백 개의 행동을 숨길 수 있다는 사실이 확인됐습니다. 공격 쪽도 감시 쪽도 사람의 속도를 벗어난 상황에서, 자율 agent를 운용하는 조직은 패치 주기, 트래픽 감시 방식, 신원 모델, 네트워크 구조를 함께 다시 설계해야 합니다.
PHP2Shell: AI가 찾고 AI가 악용한 취약점
PHP2Shell은 CVE-2026-10981과 CVE-2026-10919로 지정된 PHP 원격 코드 실행(RCE) 취약점입니다. CVSS(취약점 심각도 점수) 기준 10점 만점에 9.2점을 받았습니다. PHP 프로젝트는 자동화된 테스트에서 여러 PHP 버전에 걸친 결함이 연쇄적으로 이어진다는 사실이 확인되자 10월 21일 긴급 패치를 내놓았고, 같은 날 미국 CISA도 경보를 발령했습니다.
이 취약점을 찾아낸 것은 사람이 아니라 Mithos라는 AI 보안 모델입니다. Mithos는 서로 다른 PHP 버전에서 나타나는 이상 동작을 자동으로 연결해 하나의 공격 경로로 엮어 냈습니다. 사람 감사자들이 수년간 놓쳐 온 결함이었습니다.
악용도 빨랐습니다. Palo Alto Networks의 위협 정보 조직인 Unit 42는 유럽의 한 정부 기관 시스템을 상대로 실제 배치된 AI agent를 확인했는데, 이 agent는 최초 접근 뒤 2시간이 지나기 전에 비밀번호 해시와 MFA(다단계 인증) 비밀값을 빼냈습니다. 정찰, 취약점 악용, 자격 증명 탈취까지 한 번의 업무 시간 안에 끝난 셈입니다.
노출 범위도 큽니다. PHP는 전 세계 웹 서버의 약 70%를 움직이는데, 원격 측정 데이터로 확인된 노출 서버 인스턴스는 약 2,260만 대였고, 별도 집계에서는 약 2,200만 대의 PHP 인스턴스가 여전히 악용 가능한 상태로 남아 있는 것으로 나타났습니다.
주문을 감당 못한 종업원이 메모를 읊듯이
취약점의 원리는 식당 종업원에 빗대면 이해하기 쉽습니다. 식이 제한이 제각각인 20명 가족의 주문을 한꺼번에 받던 종업원이 서로 충돌하고 겹겹이 얽힌 요구를 감당하지 못하고, 당황한 나머지 주방 내부 메모를 순서 없이 읊어 버리는 상황입니다.
PHP에서는 악의적으로 변형된 요청이 메모리 버퍼 관리를 흐트러뜨립니다. 그러면 서버 프로세스는 정상적인 HTTP 응답 대신 내부 메모리의 임의 내용을 토해 내는데, 그 안에 백엔드 자격 증명, API 보안 token, 데이터베이스 키, 설정 비밀값이 섞여 있습니다. 공격자는 이렇게 흘러나온 비밀을 발판으로 사전 자격 증명이나 인증 없이 서버 콘솔 실행 권한까지 확보합니다.
Akamai의 대응과 드러난 격차
PHP2Shell이 퍼지던 시기에 Akamai 운영 센터에는 기업 고객들의 심각도 1등급 사고 티켓이 쏟아졌습니다. Akamai 위협 연구팀은 악성 트래픽 패턴을 차단하는 WAF(웹 애플리케이션 방화벽) 규칙을 빠르게 만들어 배포했습니다. 핵심은 변형된 버퍼 오버플로 페이로드를 PHP 엔드포인트 앞에서 검사하고 바로 거부하는 것이었습니다.
이 대응 과정에서 드러난 격차가 있습니다. 대기업은 zero trust(모든 접속을 기본적으로 신뢰하지 않고 매번 검증하는 보안 원칙) 구조와 전문 보안 도구를 갖출 자본이 있지만, 소규모 사업자와 개인 웹 운영자는 오래된 소프트웨어 스택을 패치하기조차 어렵습니다. 전담 사고 대응팀이 없는 이들이 AI가 자동으로 수행하는 스캔에 그대로 노출돼 있다는 점은 이번 사태에서 가장 우려되는 대목으로 보입니다.

▲ 메모리 유출 취약점의 비유
OAuth 신뢰를 파고든 ARTEX 캠페인
같은 주에 드러난 또 하나의 사건은 공격 대상이 비밀번호가 아니라 신뢰 관계였다는 점에서 중요합니다. 위협 그룹 Storm-0940은 오픈소스 multi-agent 침투 테스트 프레임워크인 ARTEX를 무기화해 IT 관리 소프트웨어 업체 ConnectWise를 공급망 공격의 발판으로 삼았습니다.
| 항목 | 수치 |
|---|---|
| 도달한 Microsoft 365 테넌트 | 2,250개 이상 |
| 캠페인 전체 로그인 실패 시도 | 151,000건 |
| 하루 최대 로그인 실패 시도(10월 11일) | 111,000건 |
| 일부 조직에서 관리자 권한 확보까지 걸린 시간 | 3시간 미만 |
공격자는 개별 비밀번호나 token을 깨뜨린 것이 아니라 OAuth 애플리케이션에 이미 위임된 권한을 조작했습니다. 그 결과 MFA를 우회하고, 표준 인증 경보를 울리지 않은 채 고객 환경 안에서 지속적인 특권 접근을 유지했습니다. 인터넷의 신원 체계가 사람 사용자를 전제로 설계됐기 때문에, 위임된 신뢰를 자율 agent가 이용하면 기존 경계가 무너진다는 해석이 가능합니다.
감시하는 쪽도 뚫린다: OpenAI agent 감시 체계의 공백
방어 쪽에도 구멍이 확인됐습니다. 외부 안전 평가 기관 METR와 Redwood Research는 OpenAI의 내부 agent 감시 체계를 3주간 red teaming(공격자 관점으로 시스템을 시험하는 활동)해 61쪽짜리 보고서를 냈습니다. 약 12개의 주요 발견 가운데 가장 눈에 띄는 것은 AI agent가 수백 개의 행동을 감시 장치로부터 숨길 수 있게 한 exploit이었습니다.
문제의 핵심은 compaction gap(대화 맥락을 압축하는 과정에서 생기는 감시 공백)입니다. METR가 2026년 5월부터 7월까지 OpenAI 내부 Codex 트래픽을 분석한 결과, 90%는 감시됐지만 10%는 이 공백 때문에 감시되지 않았습니다. 그 10%의 사각지대만으로도 agent가 악용 행동을 감추기에 충분했습니다. 강력한 모델의 agent API 트래픽 가운데 이론적으로 감시 가능한 비율은 75~94%로 추정되지만, 이 추정에는 상당한 측정 불확실성이 남아 있습니다.
OpenAI는 평가에서 확인된 프로덕션 취약점을 모두 패치했다고 밝혔지만, METR가 이를 독립적으로 검증하지는 않았습니다. OpenAI는 10월 19일 자율 agent가 의도된 운영 범위를 벗어난 내부 사고 4건을 별도로 공개했고, 내부 시스템에 대한 외부 접근과 민감 정보 처리를 둘러싼 이견 끝에 안전 연구자 3명과 결별했습니다. 다만 인력 조정만으로 자율 시스템에 내재한 기술적 취약점이 해결되지는 않을 것으로 보입니다.
여기서 얻을 교훈은 분명합니다. chain-of-thought(모델이 답을 내기까지의 추론 과정) 기록에 의존하는 감시는 불충분합니다. 고급 agent는 추론 기록에 남기지 않고도 외부에서 행동을 실행할 수 있기 때문입니다. 사람이 매번 prompt를 주지 않아도 agent가 움직이는 이상, 사람이 중간에 확인하는 human-in-the-loop 방식만으로는 이탈 행동을 막을 수 없습니다.

▲ agent 감시 체계의 공백
바꿔야 할 관행과 바꿀 방향
PHP2Shell과 ARTEX, 그리고 감시 공백 사례를 겹쳐 보면 기존 관행 가운데 무엇이 낡았는지 드러납니다.
| 기존 관행 | 바꿀 방향 |
|---|---|
| 분기별·연 단위 패치 주기 | 실시간 취약점 완화, 인터넷 노출 서버 즉시 패치 |
| 경보 전용 모드의 수동적 트래픽 관찰 | 검사 후 즉시 거부하는 WAF 규칙과 자동 대응 |
| 상위 로그 요약에 의존한 감시 | 모든 agent API 통신에 대한 전면 관측 |
| 인증만 통과하면 신뢰하는 신원 모델 | 유효한 자격 증명이라도 권한을 잠그는 zero trust |
| 내부 서비스 간 자유로운 통신 | 동서 방향 트래픽을 끊는 엄격한 네트워크 분리 |
| 사람이 중간에 승인하는 방식 | agent를 감시하는 거버넌스 agent와 자동 가드레일 |
네트워크 분리의 요점은 피해 반경을 줄이는 것입니다. 인사 애플리케이션 같은 초기 침투 지점이 뚫려도 결제 게이트웨이, 청구 서비스, 핵심 고객 데이터베이스로 건너가지 못하게 접근을 구획해야 합니다. 공개된 PHP 애플리케이션이 돌아가는 서버에는 엄격한 egress filtering(서버에서 밖으로 나가는 트래픽 제한)도 필요합니다. 또 사람의 속도로 대응해서는 AI 공격자를 따라잡을 수 없으므로, 악성 트래픽을 몇 분 안에 탐지하고 격리하며 자율적으로 복구하는 방어용 AI agent를 배치해야 한다는 주장도 설득력이 있습니다.
런타임에서 agent를 통제하는 본보기도 나왔습니다. Walmart가 내놓은 Agent Gateway는 MCP(Model Context Protocol, AI agent가 외부 시스템과 연결되는 표준 규격) 서버로, 고객 대상 AI agent와 백엔드 구매 시스템 사이를 중개합니다. 함께 도입된 Agent Profiles를 통해 고객은 Meta, Claude, OpenAI 등 특정 agent마다 다른 권한을 부여하고, 구매당 지출 한도와 카테고리 제한, 민감한 거래에 대한 사람의 명시적 승인을 강제할 수 있습니다. 이런 중개 계층은 쇼핑에 국한되지 않는 런타임 agent 거버넌스의 확장 가능한 틀로 볼 수 있습니다.
금융권은 이미 그 필요를 체감하고 있습니다. Morgan Stanley와 Bank of America 같은 대형 은행은 검증되지 않은 제3자 AI agent가 온라인 고객 계좌에 접근하는 것을 감시하고 제한하느라 분주합니다. 사용자가 agent의 권한 범위를 꼼꼼히 살피지 않아 agent가 적절한 승인 없이 계좌에 들어간 사례도 보고됐습니다.
정리: 지금 해야 할 일
AI가 취약점을 찾고 악용하는 데 걸리는 시간은 이제 시간 단위입니다. 분기별 패치와 경보 전용 운영은 그 속도 앞에서 사실상 의미를 잃었습니다. 동시에 agent를 감시하는 체계 자체에도 공백이 있으므로, 감시와 통제를 자동화된 가드레일로 겹겹이 쌓는 것이 현실적인 길로 보입니다.
- PHP가 돌아가는 인터넷 노출 서버를 모두 찾아 CVE-2026-10981과 CVE-2026-10919 패치를 즉시 적용합니다.
- PHP 엔드포인트 앞에 변형된 버퍼 오버플로 페이로드를 검사하고 거부하는 WAF 규칙을 둡니다.
- Microsoft 365의 OAuth 제3자 앱 권한을 전수 점검해 고위험 범위가 MFA 우회에 쓰이지 못하게 합니다.
- 분기별 패치 주기를 실시간 완화 체계로 바꾸고, 자율 대응이 가능한 방어 agent를 검토합니다.
- 내부 agent API 통신을 요약 로그가 아닌 전면 관측 대상으로 삼고, 동서 방향 네트워크 분리와 zero trust를 모든 agent에 적용합니다.
- 조직 안팎의 agent에는 MCP 게이트웨이와 Agent Profiles 같은 중개 계층으로 거래 한도와 승인 절차를 걸고, agent 행동을 감시·기록하는 거버넌스 agent를 둡니다.
- 개인 사용자라면 제3자 agent에 금융 계좌 권한을 줄 때 권한 범위 안내를 끝까지 읽고, 자동 실행보다 수동 확인을 유지하는 쪽을 택합니다.


