Heretic

Heretic은 공개 가중치 언어 모델에서 거부 반응을 자동으로 제거하는 오픈소스 도구로, 2025년 공개됐다.

기사 1편최근 언급

Heretic은 공개 가중치 언어 모델에서 안전 학습으로 생긴 거부 반응을 자동으로 제거하는 오픈소스 도구다. 개인 개발자 Philipp Emanuel Weidmann이 만들어 2025년 공개했으며 Python으로 작성됐다.

무해한 prompt와 민감한 prompt에 대한 모델 내부 활성값을 비교해 거부를 담당하는 방향을 찾아내고, 그 성분을 가중치에서 깎아내는 refusal ablation 기법을 쓴다. 제거 강도와 적용 범위 같은 매개변수를 자동으로 최적화해, 거부율을 낮추면서도 원래 모델과의 출력 차이를 최소화하는 것을 목표로 한다. 결과 모델은 Hugging Face 형식으로 저장해 바로 쓸 수 있다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • 로컬 AI 비서 Ajax, OpenAI 차단 뒤 직접 만든 모델의 가능성과 한계AI 활용 ·

    그는 Heretic이라는 오픈소스 도구로 refusal ablation(모델 가중치에서 거부 반응을 담당하는 방향을 찾아 제거하는 기법)을 수행했습니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.