繁中 ▾

Qwen 3.5 Abliterated:含義與託管選項

神經網路區塊的等距插圖,其中一層被高亮顯示並移除,並連結至伺服器

更新

Abliterated Qwen 版本是社群修改的開放權重檢查點,不再拒絕大多數請求。本頁說明該方法、取捨,以及何時託管端點是更簡單的選擇。

重點摘要

  • Abliteration 從權重中移除學習到的拒絕方向;它不是新的訓練過程。
  • 自行運行修改後的檢查點需要足夠的 GPU 記憶體和服務堆疊。
  • 託管的 OpenAI 相容端點跳過硬體需求,並按 token 計費。
  • 本站為獨立服務,並非官方 Qwen API。

人們所指的 qwen 3.5 abliterated

當有人搜尋 qwen 3.5 abliterated 時,通常想要其中一項:下載已移除拒絕行為的 Qwen 模型檢查點,或在不擁有 GPU 的情況下與此類模型對話。兩者皆為合理目標,且會導致不同的設定,因此早期區分它們很有幫助。

Qwen 是由阿里巴巴發布的開放權重語言模型系列。基礎版與指令版經過訓練,會拒絕某些請求。「Abliterated」是社群上傳者用於標記已事後手術式減少拒絕行為變體的標籤。該名稱結合了「ablative(切除)」與「obliterated(抹除)」,因而流傳下來。

關於版本號碼的一項警告。模型系列經常發布新版本,上傳者會根據其起始基礎模型來命名檔案。我們不追蹤哪個版本最新,且本頁並未聲稱我們的託管模型是任何特定的 Qwen 檢查點。我們能準確描述的是該技術、實際取捨以及我們運行的服務。

Abliteration 的運作方式

研究聊天模型拒絕行為的研究人員發現,拒絕傾向可以很好地近似為模型內部激活空間中的一個單一方向。向模型輸入一組它會拒絕的提示詞和一組它會接受的提示詞,比較隱藏狀態,差異會指向「拒絕方向」。

Abliteration 取該方向並編輯權重矩陣,使模型無法沿該方向寫入。該編輯是應用於儲存權重的一次投影。沒有對大型資料集的梯度下降,因此一個人只需一台機器,即可在基礎模型出現後數小時內發布修改後的檢查點。

與微調的差異

微調透過訓練新範例來改變行為。它可以教導風格、人格或格式。Abliteration 僅移除行為;它不新增任何內容。經過 Abliteration 的模型以與原始模型相同的語調寫入,並保留相同的知識,僅剩少數猶豫。

許多發布的「uncensored」模型結合了兩個步驟:先 Abliteration,然後輕度微調以修復品質損失。如果模型說明卡未說明使用了哪種方法,請假設你無法得知。

品質成本

編輯權重並非免費。某些 Abliterated 檢查點在推理或指令遵循方面會損失少量準確性,少數在長對話中會變得重複或偏離角色。品質因上傳者、移除方向的積極程度以及你下載的量化方式而異。將每個版本視為獨立模型,並在自身提示詞上進行測試。

為何該標籤並非品質保證

Abliterated 上傳的模型說明卡由個人撰寫,而非由具有發布流程的實驗室撰寫。「無拒絕」或「與原始品質相同」等聲明通常基於少數提示詞。這對於愛好者來說沒問題,但對於你打算依賴的用途來說,證據過於薄弱。

在任何版本上構建前的合理檢查:撰寫來自你實際用例的二十個提示詞,包括幾個原始指令模型會拒絕的提示詞,運行它們並閱讀答案。注意模型保持任務專注的頻率、處理長系統提示詞的方式,以及是否保持 JSON 等格式。該小型測試比排行榜數字更具參考價值。

運行 Abliterated 版本

如果你想要完全控制,本地推理是一條可行的路徑。你下載權重,選擇量化格式,並使用 llama.cpp、Ollama 或 vLLM 等運行時進行服務。數據不會離開你的機器,你可以隨時更換檢查點。

成本是實際的而非概念性的:

  • 記憶體。 模型及其 KV 快取必須適合 VRAM 或快速系統記憶體。較大的 Qwen 變體需要工作站級硬體,長上下文會大幅增加快取大小。
  • 設定時間。 選擇量化、聊天模板和取樣器設定需要反覆試驗。僅錯誤的聊天模板就可能讓一個好模型看起來壞掉。
  • 速度。 與針對吞吐量調整的伺服器相比,消費級 GPU 和 CPU 卸載產生 token 的速度較慢,這對於批處理作業很重要。
  • 維護。 新檢查點不斷出現,因此你最終會重新下載並重新測試。

對於擁有閒置顯卡的愛好者來說,這是有趣的週末活動。對於需要在應用程式內擁有穩定端點的團隊來說,這是一個與主要專案競爭的副專案。

託管替代方案

我們為想要該行為但無需硬體的人運行託管 API。它服務一個開放權重模型,由獨立供應商運行並調整以在合法成人用途下無內容拒絕地回答。你透過 OpenAI 相容介面將其作為 uncensored 呼叫。

清楚了解這是什麼以及不是什麼。這不是官方 Qwen API,也不是將請求轉發至阿里巴巴或任何其他供應商的路由器。我們不發布聲稱特定 Qwen 版本的模型說明卡,因此不要將該服務視為特定檢查點的即插即用替代品。如果你需要確切的版本及其確切的行為特徵,請在本地運行。

如果你需要每天行為一致的 uncensored 聊天模型,並擁有穩定的 URL,託管更簡單。相關事實:

  • 方法:POST /v1/chat/completions 和 GET /v1/models。
  • 支援串流輸出、函式呼叫和 JSON 模式。
  • 100,000 token 上下文視窗,包含提示詞與補全。
  • 僅支援文字。不支援圖片、音訊、影片、嵌入或微調。
  • 提示詞不會用於訓練。
  • 一個硬性限制:禁止涉及未成年人的性內容。

API 文件 列出了所有支援的參數,比較指南 逐步檢視了按 token 付費的託管與其他獲取 Qwen 風格模型的方式相比較的情況。

五行程式碼即可試用

由於介面遵循 OpenAI 架構,更改 base URL 和金鑰後,任何 OpenAI SDK 均可使用。以下是 Python 的最短有用範例:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.qwenabliterated.top/v1",
    api_key="YOUR_API_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)

使用 curl 的相同呼叫:

curl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

若要列出該金鑰可存取的資源,請呼叫 GET /v1/models。前往 API 金鑰頁面建立金鑰。新帳戶可一鍵領取 $0.50 的免費試用額度,有效期 7 天且無需綁定信用卡,足以進行數百次短測試請求。

本地或託管:決策清單

選擇本地推理時:

  • 你必須將每個提示詞保留在自己的機器上,完全不進行網路呼叫。
  • 你需要特定的社群檢查點、量化或 LoRA。
  • 你已經擁有合適的 GPU 並享受調整堆疊。

選擇託管端點時:

  • 你想發布應用程式或機器人,並需要一個在你處理其他事情時保持上線的 URL。
  • 你需要長上下文而無需購買記憶體。
  • 你的使用量是爆發性的,因此按 token 付費比擁有閒置硬體更划算。
  • 你想重用現有的 OpenAI 風格客戶端程式碼。

混合方法很常見:在託管 API 上原型設計提示詞,然後決定本地版本是否值得努力。由於兩者都能使用相同的聊天格式,在它們之間切換主要意味著更改 base URL。

費用說明

定價為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,從預付額度扣款且無訂閱費。失敗或被拒絕的請求不會扣款,且額度不會過期。

一個實作範例:3,000 token 的提示詞搭配 700 token 的回答,輸入費用為 3,000 x $0.15 / 1M = $0.00045,輸出費用為 700 x $0.50 / 1M = $0.00035,總計 $0.0008。執行一千次此類請求的費用為 $0.80。

儲值金額為 $20 至 $500 的整數金額,達到 $50 贈送 5%,達到 $100 贈送 10%,達到 $200 贈送 15%。你可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)支付。定價頁面 有當前表格。

問答

這是官方的 Qwen API 嗎?

否。這是一項獨立服務,運行來自獨立供應商的單一開放權重模型。它並非由阿里巴巴或任何其他模型供應商營運。

託管模型是 Qwen 3.5 版本嗎?

我們並未宣稱特定的 Qwen 版本。你將其視為 uncensored 呼叫,並應在自身的提示詞上進行測試,以確認其是否適合你的用途。

Abliteration 會讓模型變得更聰明嗎?

否。它移除了拒絕行為,並未增加知識。根據版本的不同,品質可能維持不變或略微下降。

我可以使用現有的 OpenAI 程式碼嗎?

可以。只需更改基礎 URL 和金鑰,將模型設定為 uncensored,標準的聊天完成請求即可運作,包括串流輸出和函式呼叫。

哪些內容不被允許?

此服務專為合法的成人用途設計。涉及未成年人的性內容一律禁止。

只需填寫表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰