Heretic是一款开源工具,可自动去除开放权重语言模型中由安全训练产生的拒绝行为。它由独立开发者Philipp Emanuel Weidmann开发,于2025年发布,使用Python编写。
该工具采用拒绝消融(refusal ablation)方法:比较模型对无害提示词和敏感提示词的内部激活值,找出负责拒绝的方向,再从权重中减去该分量。它会自动优化干预强度和作用范围等参数,目标是在降低拒绝率的同时,尽量减小与原模型输出的差异。生成的模型以Hugging Face格式保存,可直接使用。
Heretic是一款2025年发布的开源工具,可自动去除开放权重语言模型中的拒绝行为。
Heretic是一款开源工具,可自动去除开放权重语言模型中由安全训练产生的拒绝行为。它由独立开发者Philipp Emanuel Weidmann开发,于2025年发布,使用Python编写。
该工具采用拒绝消融(refusal ablation)方法:比较模型对无害提示词和敏感提示词的内部激活值,找出负责拒绝的方向,再从权重中减去该分量。它会自动优化干预强度和作用范围等参数,目标是在降低拒绝率的同时,尽量减小与原模型输出的差异。生成的模型以Hugging Face格式保存,可直接使用。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
Ajax通过一种叫“方向性消融”的技术实现了“无审查”,由一款名为Heretic的开源工具自动完成。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。