tool poisoning

툴 포이즈닝

MCP server 등이 제공하는 도구 설명에 악성 지시를 숨겨 AI agent의 행동을 조종하는 공격 기법이다.

기사 1편최근 언급

tool poisoning은 AI agent가 쓰는 도구의 설명(description)이나 매개변수 정의 같은 메타데이터에 악성 지시를 숨겨 두는 공격 기법이다. 모델은 어떤 도구를 쓸지 판단하기 위해 도구 설명을 읽는데, 그 안에 든 지시를 따르게 되면 사용자에게 보이지 않는 채로 민감한 파일을 읽거나 데이터를 외부로 보내는 행동을 할 수 있다. 사용자 인터페이스에는 도구 설명이 거의 표시되지 않아 알아차리기 어렵다. 2025년 보안 연구 기업 Invariant Labs가 Model Context Protocol(MCP) 환경의 위험으로 이름 붙여 알렸다.

도구 설명 자체가 공격 통로가 되는 간접 prompt injection의 한 형태다. 검증되지 않은 MCP server를 연결하는 경우가 주된 위험 경로이며, server의 사전 검증, allow-list, 도구 설명 변경 감지, 민감한 파일과 외부 전송 도구에 대한 접근 정책이 방어 수단으로 쓰인다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • AI agent 거버넌스, session 단위 측정과 MCP 정책을 세우는 실무 순서AI 보안 ·

    검증되지 않은 MCP server 높음 공개 저장소에서 가져온 server가 tool poisoning이나 간접 prompt injection 경로가 됨

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.