Qwen 3.5 Abliterated:含義與託管選項

Abliterated Qwen 版本是社群修改的開放權重檢查點,不再拒絕大多數請求。本頁說明該方法、取捨,以及何時託管端點是更簡單的選擇。
重點摘要
- Abliteration 從權重中移除學習到的拒絕方向;它不是新的訓練過程。
- 自行運行修改後的檢查點需要足夠的 GPU 記憶體和服務堆疊。
- 託管的 OpenAI 相容端點跳過硬體需求,並按 token 計費。
- 本站為獨立服務,並非官方 Qwen API。
人們所指的 qwen 3.5 abliterated
當有人搜尋 qwen 3.5 abliterated 時,通常想要其中一項:下載已移除拒絕行為的 Qwen 模型檢查點,或在不擁有 GPU 的情況下與此類模型對話。兩者皆為合理目標,且會導致不同的設定,因此早期區分它們很有幫助。
Qwen 是由阿里巴巴發布的開放權重語言模型系列。基礎版與指令版經過訓練,會拒絕某些請求。「Abliterated」是社群上傳者用於標記已事後手術式減少拒絕行為變體的標籤。該名稱結合了「ablative(切除)」與「obliterated(抹除)」,因而流傳下來。
關於版本號碼的一項警告。模型系列經常發布新版本,上傳者會根據其起始基礎模型來命名檔案。我們不追蹤哪個版本最新,且本頁並未聲稱我們的託管模型是任何特定的 Qwen 檢查點。我們能準確描述的是該技術、實際取捨以及我們運行的服務。
Abliteration 的運作方式
研究聊天模型拒絕行為的研究人員發現,拒絕傾向可以很好地近似為模型內部激活空間中的一個單一方向。向模型輸入一組它會拒絕的提示詞和一組它會接受的提示詞,比較隱藏狀態,差異會指向「拒絕方向」。
Abliteration 取該方向並編輯權重矩陣,使模型無法沿該方向寫入。該編輯是應用於儲存權重的一次投影。沒有對大型資料集的梯度下降,因此一個人只需一台機器,即可在基礎模型出現後數小時內發布修改後的檢查點。
與微調的差異
微調透過訓練新範例來改變行為。它可以教導風格、人格或格式。Abliteration 僅移除行為;它不新增任何內容。經過 Abliteration 的模型以與原始模型相同的語調寫入,並保留相同的知識,僅剩少數猶豫。
許多發布的「uncensored」模型結合了兩個步驟:先 Abliteration,然後輕度微調以修復品質損失。如果模型說明卡未說明使用了哪種方法,請假設你無法得知。
品質成本
編輯權重並非免費。某些 Abliterated 檢查點在推理或指令遵循方面會損失少量準確性,少數在長對話中會變得重複或偏離角色。品質因上傳者、移除方向的積極程度以及你下載的量化方式而異。將每個版本視為獨立模型,並在自身提示詞上進行測試。
為何該標籤並非品質保證
Abliterated 上傳的模型說明卡由個人撰寫,而非由具有發布流程的實驗室撰寫。「無拒絕」或「與原始品質相同」等聲明通常基於少數提示詞。這對於愛好者來說沒問題,但對於你打算依賴的用途來說,證據過於薄弱。
在任何版本上構建前的合理檢查:撰寫來自你實際用例的二十個提示詞,包括幾個原始指令模型會拒絕的提示詞,運行它們並閱讀答案。注意模型保持任務專注的頻率、處理長系統提示詞的方式,以及是否保持 JSON 等格式。該小型測試比排行榜數字更具參考價值。
運行 Abliterated 版本
如果你想要完全控制,本地推理是一條可行的路徑。你下載權重,選擇量化格式,並使用 llama.cpp、Ollama 或 vLLM 等運行時進行服務。數據不會離開你的機器,你可以隨時更換檢查點。
成本是實際的而非概念性的:
- 記憶體。 模型及其 KV 快取必須適合 VRAM 或快速系統記憶體。較大的 Qwen 變體需要工作站級硬體,長上下文會大幅增加快取大小。
- 設定時間。 選擇量化、聊天模板和取樣器設定需要反覆試驗。僅錯誤的聊天模板就可能讓一個好模型看起來壞掉。
- 速度。 與針對吞吐量調整的伺服器相比,消費級 GPU 和 CPU 卸載產生 token 的速度較慢,這對於批處理作業很重要。
- 維護。 新檢查點不斷出現,因此你最終會重新下載並重新測試。
對於擁有閒置顯卡的愛好者來說,這是有趣的週末活動。對於需要在應用程式內擁有穩定端點的團隊來說,這是一個與主要專案競爭的副專案。
託管替代方案
我們為想要該行為但無需硬體的人運行託管 API。它服務一個開放權重模型,由獨立供應商運行並調整以在合法成人用途下無內容拒絕地回答。你透過 OpenAI 相容介面將其作為 uncensored 呼叫。
清楚了解這是什麼以及不是什麼。這不是官方 Qwen API,也不是將請求轉發至阿里巴巴或任何其他供應商的路由器。我們不發布聲稱特定 Qwen 版本的模型說明卡,因此不要將該服務視為特定檢查點的即插即用替代品。如果你需要確切的版本及其確切的行為特徵,請在本地運行。
如果你需要每天行為一致的 uncensored 聊天模型,並擁有穩定的 URL,託管更簡單。相關事實:
- 方法:
POST /v1/chat/completions和GET /v1/models。 - 支援串流輸出、函式呼叫和 JSON 模式。
- 100,000 token 上下文視窗,包含提示詞與補全。
- 僅支援文字。不支援圖片、音訊、影片、嵌入或微調。
- 提示詞不會用於訓練。
- 一個硬性限制:禁止涉及未成年人的性內容。
API 文件 列出了所有支援的參數,比較指南 逐步檢視了按 token 付費的託管與其他獲取 Qwen 風格模型的方式相比較的情況。
五行程式碼即可試用
由於介面遵循 OpenAI 架構,更改 base URL 和金鑰後,任何 OpenAI SDK 均可使用。以下是 Python 的最短有用範例:
from openai import OpenAI
client = OpenAI(
base_url="https://api.qwenabliterated.top/v1",
api_key="YOUR_API_KEY",
)
reply = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)
使用 curl 的相同呼叫:
curl https://api.qwenabliterated.top/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'
若要列出該金鑰可存取的資源,請呼叫 GET /v1/models。前往 API 金鑰頁面建立金鑰。新帳戶可一鍵領取 $0.50 的免費試用額度,有效期 7 天且無需綁定信用卡,足以進行數百次短測試請求。
本地或託管:決策清單
選擇本地推理時:
- 你必須將每個提示詞保留在自己的機器上,完全不進行網路呼叫。
- 你需要特定的社群檢查點、量化或 LoRA。
- 你已經擁有合適的 GPU 並享受調整堆疊。
選擇託管端點時:
- 你想發布應用程式或機器人,並需要一個在你處理其他事情時保持上線的 URL。
- 你需要長上下文而無需購買記憶體。
- 你的使用量是爆發性的,因此按 token 付費比擁有閒置硬體更划算。
- 你想重用現有的 OpenAI 風格客戶端程式碼。
混合方法很常見:在託管 API 上原型設計提示詞,然後決定本地版本是否值得努力。由於兩者都能使用相同的聊天格式,在它們之間切換主要意味著更改 base URL。
費用說明
定價為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,從預付額度扣款且無訂閱費。失敗或被拒絕的請求不會扣款,且額度不會過期。
一個實作範例:3,000 token 的提示詞搭配 700 token 的回答,輸入費用為 3,000 x $0.15 / 1M = $0.00045,輸出費用為 700 x $0.50 / 1M = $0.00035,總計 $0.0008。執行一千次此類請求的費用為 $0.80。
儲值金額為 $20 至 $500 的整數金額,達到 $50 贈送 5%,達到 $100 贈送 10%,達到 $200 贈送 15%。你可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)支付。定價頁面 有當前表格。
更多指南
問答
這是官方的 Qwen API 嗎?
否。這是一項獨立服務,運行來自獨立供應商的單一開放權重模型。它並非由阿里巴巴或任何其他模型供應商營運。
託管模型是 Qwen 3.5 版本嗎?
我們並未宣稱特定的 Qwen 版本。你將其視為 uncensored 呼叫,並應在自身的提示詞上進行測試,以確認其是否適合你的用途。
Abliteration 會讓模型變得更聰明嗎?
否。它移除了拒絕行為,並未增加知識。根據版本的不同,品質可能維持不變或略微下降。
我可以使用現有的 OpenAI 程式碼嗎?
可以。只需更改基礎 URL 和金鑰,將模型設定為 uncensored,標準的聊天完成請求即可運作,包括串流輸出和函式呼叫。
哪些內容不被允許?
此服務專為合法的成人用途設計。涉及未成年人的性內容一律禁止。