Hereticは、オープンウェイトの言語モデルから安全性学習によって生じた拒否反応を自動的に除去するオープンソースツールである。個人開発者のPhilipp Emanuel Weidmannが開発して2025年に公開し、Pythonで書かれている。
無害なプロンプトと機微なプロンプトに対するモデル内部の活性値を比較して拒否を担う方向を特定し、その成分を重みから差し引くrefusal ablation(拒否除去)の手法を用いる。介入の強さや適用範囲などのパラメータを自動で最適化し、拒否率を下げつつ元のモデルとの出力の差を最小限に抑えることを目指す。生成されたモデルはHugging Face形式で保存され、そのまま利用できる。