safeagents

Hugging Face가 공개한 오픈소스 도구로, 코딩 agent와 모델 사이에서 tool call을 검사해 위험한 동작을 차단하는 로컬 proxy다.

기사 1편최근 언급

safeagents는 Hugging Face가 공개한 오픈소스 보안 도구다. Claude Code, OpenCode 같은 코딩 agent harness(agent 실행 틀)와 모델 API 사이에 로컬 proxy로 자리하며, 모델이 제안하는 tool call(명령 실행이나 파일 읽기 같은 동작 요청)을 실행 전에 가로채 검사한다. Apache-2.0 라이선스로 GitHub에 공개돼 있다.

검사는 선언되지 않은 도구와 allowlist(허용 목록) 밖의 네트워크 목적지를 막는 기본 검증, 알려진 공격 패턴 탐지, 선택적 LLM judge의 세 층으로 이뤄지며, 통과·경고·차단 결과는 로그로 남는다. OpenAI Chat Completions와 Anthropic Messages API 형식을 지원해 여러 harness에 연결할 수 있고, prompt injection으로 agent가 자격 증명을 유출하거나 위험한 명령을 실행하는 것을 막는 감사·방화벽 계층으로 쓰인다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • README 주석에 숨은 지시, agent의 API key 유출 막는 proxyAI 보안 ·

    이런 공격을 막기 위해 Hugging Face가 공개한 오픈소스 도구가 safeagents이며, agent와 모델 사이에서 모든 tool call(모델이 명령 실행이나 파일 읽기 같은 동작을 요청하는 호출)을 가로채 검사하는 proxy로 동작합니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.