Heretic

Hereticはオープンウェイトの言語モデルから拒否反応を自動的に除去するオープンソースツールで、2025年に公開された。

記事1本最終言及

Hereticは、オープンウェイトの言語モデルから安全性学習によって生じた拒否反応を自動的に除去するオープンソースツールである。個人開発者のPhilipp Emanuel Weidmannが開発して2025年に公開し、Pythonで書かれている。

無害なプロンプトと機微なプロンプトに対するモデル内部の活性値を比較して拒否を担う方向を特定し、その成分を重みから差し引くrefusal ablation(拒否除去)の手法を用いる。介入の強さや適用範囲などのパラメータを自動で最適化し、拒否率を下げつつ元のモデルとの出力の差を最小限に抑えることを目指す。生成されたモデルはHugging Face形式で保存され、そのまま利用できる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • PewDiePieが自作AIモデル「Ajax」を公開、ローカルAIの可能性と限界AI活用 ·

    Ajaxは「方向性アブレーション」と呼ばれる手法で「無検閲化」されており、その処理はHereticというオープンソースツールで自動化されています。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。