Heretic

Heretic是一款2025年发布的开源工具,可自动去除开放权重语言模型中的拒绝行为。

1篇文章最近提及

Heretic是一款开源工具,可自动去除开放权重语言模型中由安全训练产生的拒绝行为。它由独立开发者Philipp Emanuel Weidmann开发,于2025年发布,使用Python编写。

该工具采用拒绝消融(refusal ablation)方法:比较模型对无害提示词和敏感提示词的内部激活值,找出负责拒绝的方向,再从权重中减去该分量。它会自动优化干预强度和作用范围等参数,目标是在降低拒绝率的同时,尽量减小与原模型输出的差异。生成的模型以Hugging Face格式保存,可直接使用。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • PewDiePie自制本地AI助手Ajax:开发者怎么看AI应用 ·

    Ajax通过一种叫“方向性消融”的技术实现了“无审查”,由一款名为Heretic的开源工具自动完成。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。