lethal trifecta

치명적 삼각형

Simon Willison이 제시한 개념으로, AI agent가 비공개 데이터 접근, 신뢰할 수 없는 콘텐츠 노출, 외부 통신 능력을 동시에 가질 때 생기는 위험을 가리킨다.

기사 1편최근 언급

lethal trifecta(치명적 삼각형)는 영국 개발자 Simon Willison이 2025년 자신의 블로그에서 제시한 AI 보안 개념이다. 대규모 언어 모델 기반 agent가 (1) 비공개 데이터에 접근하는 능력, (2) 신뢰할 수 없는 외부 콘텐츠에 노출되는 경로, (3) 외부로 데이터를 보내거나 행동을 취하는 능력, 이 세 가지를 한꺼번에 가지면 공격자가 prompt injection(외부 콘텐츠에 숨긴 명령으로 모델을 조작하는 공격)으로 기밀 데이터를 빼낼 수 있다는 것이다.

이 개념의 핵심은 세 요소 가운데 하나만 제거해도 공격 경로가 성립하지 않는다는 점이다. 모델 자체가 prompt injection을 완전히 막지 못하므로, agent 설계에서 권한과 데이터 흐름을 구조적으로 분리해야 한다는 주장의 근거로 널리 인용된다. MCP(Model Context Protocol) 같은 도구 연결 방식으로 agent가 여러 도구를 조합해 쓰는 환경에서 특히 자주 언급된다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • AI 플랫폼 9곳 침해와 은행의 agent 차단, 10월 보안 사건 사실 검증AI 보안 ·

    이 사건으로 Simon Willison의 'lethal trifecta(치명적 삼각형)' 모델이 널리 알려졌습니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.