p-e-w GitHub avatar

heretic

Python
大模型行为编辑工具p-e-w最近推送 2026年11月17日
训练与微调AGPL-3.042.0k5,15268 issues7 天 +1,679

AI 分析 · 由大模型根据 README 与仓库数据生成 · 2026年11月17日

无需训练即可修改语言模型行为,默认去除拒答审查。

Heretic 是一个训练无关的语言模型修改工具,通过数学方法基于对比示例提示和评分器来引导模型行为。默认动作是抑制拒答/去除审查,也可通过配置文件减少冗余表达、降低幽默感、减少迎合倾向、调整情绪对齐或缩短回复长度。

推荐指数

4.0

对想低成本修改开源模型行为的开发者很实用,但需注意配置兼容性和使用边界。

近 7 天

+1,679

新增 Star

总 Star 排名

#136

雷达追踪的 3,958 个 AI 仓库中

创建于

2025

2025年9月21日

核心亮点

  • 1无需训练

    不进行昂贵训练,用数学技术引导模型行为。

  • 2默认去审查

    默认配置执行拒答抑制,即去除审查。

  • 3多种预设

    提供减少冗余、幽默、迎合、调整情绪等配置文件。

  • 4插件式评分

    可编写自定义评分器插件控制优化目标。

  • 5硬件友好

    支持 4-bit 量化,降低显存需求。

适用场景

  • 研究模型拒答行为

    例如:用默认配置处理 Qwen3-4B,观察拒答率变化。

  • 调整模型表达风格

    例如:使用 config.terse.toml 让模型回复更简短。

  • 减少迎合倾向

    例如:应用 config.nosyco.toml 降低模型讨好式回答。

  • 自定义行为优化

    例如:编写评分器插件,针对特定指标优化模型输出。

它是怎么工作的

  1. 第 1 步

    加载模型

    读取目标模型并准备运行环境。

  2. 第 2 步

    对比提示

    使用对比示例提示和匹配评分器计算行为分数。

  3. 第 3 步

    优化引导

    通过数学技术调整模型内部参数以优化评分。

  4. 第 4 步

    输出结果

    保存修改后的模型、上传或直接测试对话。

快速上手

  1. 1

    准备环境

    安装 Python 3.10+ 和 PyTorch 2.6+。

  2. 2

    安装工具

    通过 pip 安装 heretic-llm。

    pip install -U heretic-llm
  3. 3

    运行处理

    指定模型,默认执行去审查。

    heretic Qwen/Qwen3-4B-Instruct-2507

适合谁

  • 想修改开源模型行为的开发者
  • 研究模型拒答和推理机制的研究者
  • 有本地 GPU 的 AI 爱好者

不太适合

  • 需要开箱即用聊天产品的普通用户
  • 没有合适硬件或不愿配置环境的人

成熟度

  • 活跃度近期持续更新,star 数很高。
  • 文档README 详细,有配置说明和迁移指南。
  • 社区有 Discord、Matrix 和大量社区模型。
  • 上手难度命令行一键运行,但需配置 Python 和 PyTorch 环境。

使用前注意

  • · AGPL-3.0 许可证,商用或分发需注意开源义务。
  • · Heretic 1.x 配置文件与 2.x 不兼容,需按迁移指南调整。
  • · 处理效果取决于模型和配置,需实际测试验证。
  • · 去除审查可能涉及平台政策或法律风险,使用者需自行判断。

主题标签

abliterationllmtransformercensorship-resistancecensorshipanti-censorshipanticensorship