#safeagents

'safeagents' 태그가 붙은 기사 1편

태그 기사

'safeagents' 태그가 붙은 기사를 최신순으로 보여 줍니다.

숨은 지시를 따라 노트북에서 key들이 외부 서버로 빠져나가는 장면
AI 보안

README 주석에 숨은 지시, agent의 API key 유출 막는 proxy

테스트 통과 중 .env의 key 5개를 외부 서버로 빼돌린 prompt injection 시연. README의 눈에 안 띄는 주석에 숨긴 지시를 agent가 그대로 실행. Hugging Face 오픈소스 proxy safeagents가 tool call을 가로채 검사·차단. 같은 설정 3회 중 2회 유출 1회 정상, 한 번 통과로 안전 단정은 금물. 기본값만으론 못 막아 사용자 정의 규칙과 Docker 격리 병행 필요.

새 기사를 RSS와 팟캐스트로 받아보세요

RSS 리더에는 RSS 주소를, 팟캐스트 앱에는 팟캐스트 주소를 등록하면 새 기사가 올라올 때마다 받아볼 수 있습니다. 팟캐스트는 제목과 핵심 요약을 음성으로 들려줍니다.

구독 방법 보기