Qwen 3.5 去审查版:含义与托管选项

Qwen 去审查版构建是社区修改的开放权重检查点,不再拒绝大多数请求。本页面解释了该方法、权衡,以及何时托管接口是更简单的选择。
要点
- 去审查从权重中移除学习到的拒绝方向;它不是新的训练运行。
- 自行运行修改后的检查点需要足够的 GPU 内存和推理栈。
- 托管的 OpenAI 兼容接口省去了硬件成本,并按 token 收费。
- 本网站是一个独立服务,并非官方 Qwen API。
人们所说的 qwen 3.5 去审查版
当有人搜索 qwen 3.5 去审查版时,他们通常想要以下两者之一:一个已移除拒绝行为的 Qwen 模型下载检查点,或者一种无需拥有 GPU 即可与该模型对话的方式。这两个目标都很合理,但会导致不同的设置,因此尽早将它们区分开来很有帮助。
Qwen 是由阿里巴巴发布的一系列开放权重语言模型。基础版和指令版模型经过训练,会拒绝某些请求。“去审查”是社区上传者用于标记那些事后经过手术式减少拒绝行为的变体的标签。该名称是“消融”和“消除”的结合,并沿用至今。
关于版本号的注意事项。模型家族经常发布新版本,上传者会根据其起始的基础模型命名文件。我们不追踪哪个确切构建是最新的,本页面也不声称我们的托管模型是任何特定的 Qwen 检查点。我们可以准确描述的是该技术、实际权衡以及我们运行的服务。
消融的工作原理
研究聊天模型中拒绝行为的研究人员发现,拒绝倾向可以很好地近似为模型内部激活空间中的一个单一方向。向模型输入一组它拒绝的提示词和一组它接受的提示词,比较隐藏状态,差异指向一个“拒绝方向”。
去审查获取该方向并编辑权重矩阵,使模型无法再沿该方向生成。该编辑是对保存的权重应用的一次投影。没有针对大型数据集的梯度下降,因此一个人只需一台机器,即可在基础模型发布后数小时内发布修改后的检查点。
与微调的区别
微调通过在新示例上训练来改变行为。它可以教授风格、人格或格式。去审查仅移除行为;它不添加任何内容。经过去审查的模型以与原始模型相同的语气写作,并保留相同的知识,只是去除了大部分犹豫。
许多发布的“无审查”模型结合了这两个步骤:先去审查,然后轻微微调以修复质量损失。如果模型卡片未说明使用了哪种方法,请假设你无法得知。
质量成本
编辑权重并非没有代价。一些经过 Abliteration 的检查点在推理或指令遵循方面会损失少量准确性,少数在长对话中会变得重复或偏离角色。质量因上传者、移除方向的激进程度以及你下载的量化格式而异。将每个构建视为其自己的模型,并在你自己的提示词上对其进行测试。
为何该标签并非质量保证
Abliteration 上传的模型卡片由个人编写,而非由具有发布流程的实验室编写。诸如“无拒绝”或“与原始模型质量相同”的主张通常基于少数提示词。这对于业余爱好来说没问题,但对于你打算依赖的任何事物来说,证据都很薄弱。
在任何构建之前进行合理检查:编写来自你实际用例的二十个提示词,包括原始指令模型可能会拒绝的几个,运行它们并阅读答案。注意模型保持任务专注的频率、处理长系统提示词的方式,以及是否保持 JSON 等格式。这个小测试比排行榜数字告诉你的更多。
自行运行去审查版构建
如果你希望完全控制,本地推理是一条合法的路径。你下载权重,选择量化格式,并使用 llama.cpp、Ollama 或 vLLM 等运行时进行服务。权重不会离开你的机器,你可以随时更换检查点。
成本是实际而非概念性的:
- 内存。模型及其 KV 缓存必须适合 VRAM 或快速系统 RAM。较大的 Qwen 变体需要工作站级硬件,长上下文会急剧增加缓存大小。
- 设置时间。选择量化、聊天模板和采样器设置需要试错。仅错误的聊天模板就足以让一个好模型看起来损坏。
- 速度。与针对吞吐量优化的服务器相比,消费级 GPU 和 CPU 卸载生成 token 的速度较慢,这对批处理作业很重要。
- 维护。新检查点不断出现,因此你最终会重新下载和重新测试。
对于拥有备用显卡的爱好者来说,这是一个有趣的周末项目。对于需要在应用程序内部获得稳定接口的团队来说,这是一个与主要项目竞争的副项目。
托管替代方案
我们为那些想要该行为但不想拥有硬件的人提供托管 API。它提供一个开放权重模型,由独立提供商运行,并针对合法成人用途进行调优,使其在回答时不拒绝内容。你可以通过 OpenAI 兼容的接口调用 uncensored。
清楚了解它是什么以及不是什么。它不是官方的 Qwen API,也不是转发到阿里巴巴或任何其他供应商的路由器。我们没有发布声称特定 Qwen 版本的模型卡片,因此不要将其视为某个命名检查点的即插即用替代品。如果你需要那个确切的构建版本及其确切的特性,请在本地运行。
如果你需要一个每天行为方式相同的无审查聊天模型,并且拥有稳定的 URL,托管更简单。相关事实:
- 方法:
POST /v1/chat/completions和GET /v1/models。 - 支持流式输出、函数调用和 JSON 模式。
- 100,000 token 上下文窗口,包含提示词和补全。
- 仅文本。无图像、音频、视频、嵌入或微调。
- 提示词不用于训练。
- 一个硬性限制:禁止涉及未成年人的性内容。
API 文档 列出了所有支持的参数,比较指南 详细介绍了按 token 付费的托管与其他获取 Qwen 风格模型的方式的对比。
五行代码试用
由于接口遵循 OpenAI 模式,在更改基础 URL 和密钥后,任何 OpenAI SDK 都可以使用。以下是使用 Python 的最短有效示例:
from openai import OpenAI
client = OpenAI(
base_url="https://api.qwenabliterated.top/v1",
api_key="YOUR_API_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)
使用 curl 的相同调用:
curl https://api.qwenabliterated.top/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'
要列出密钥可以访问的内容,请调用 GET /v1/models。在 API 密钥页面 创建密钥。新账户可以一键领取 $0.50 的免费试用额度,有效期 7 天,无需信用卡,足以进行几百次简短测试请求。
本地与托管:决策列表
选择本地推理时:
- 你必须将所有提示词保留在自己的机器上,完全不进行网络调用。
- 你需要一个特定的社区检查点、量化或 LoRA。
- 你已经拥有合适的 GPU,并且喜欢调整技术栈。
选择托管接口时:
- 你想部署应用或机器人,并需要一个在你从事其他工作时保持在线的 URL。
- 你需要长上下文而无需为此购买内存。
- 你的使用是突发性的,因此按 token 付费比拥有闲置硬件更划算。
- 你想重用现有的 OpenAI 风格客户端代码。
混合方法很常见:在托管 API 上原型化提示词,然后决定是否值得投入精力进行本地构建。由于两者都可以使用相同的聊天格式,在它们之间移动主要意味着更改基础 URL。
费用说明
价格为每 1M 输入 token $0.15,每 1M 输出 token $0.50,从预付额度扣除,无订阅。失败或被拒绝的请求不收费,且额度不会过期。
一个计算示例:3,000 token 的提示词加上 700 token 的回答,输入费用为 3,000 x $0.15 / 1M = $0.00045,输出费用为 700 x $0.50 / 1M = $0.00035,总计 $0.0008。一千次此类调用总计 $0.80。
充值金额可以是 $20 至 $500 之间的任意整数,满 $50 赠 5%,满 $100 赠 10%,满 $200 赠 15%。支持加密货币(TRC20 链上的 USDT、Base 链上的 USDC)支付。定价页面有当前价格表。
更多指南
问答
这是官方的 Qwen API 吗?
不是。这是一个独立服务,运行来自独立供应商的一个开放权重模型。它不由阿里巴巴或任何其他模型供应商运营。
托管模型是 Qwen 3.5 版本吗?
我们不声称特定的 Qwen 发布版本。你将其作为 uncensored 调用,并应在你自己的提示词上测试,以查看它是否适合你的用途。
Abliteration 会让模型更聪明吗?
不会。它移除了拒绝行为,并未增加知识。质量可能保持不变或略有下降,具体取决于构建版本。
我可以将其与现有的 OpenAI 代码一起使用吗?
可以。更改基础 URL 和密钥,将模型设置为 uncensored,标准的 chat completions 调用即可正常工作,包括流式输出和函数调用。
哪些内容不被允许?
该服务专为合法的成人用途构建。严禁涉及未成年人的性内容。