Qwen 3.5 Abliterated: Was das bedeutet und gehostete Optionen

Was man unter qwen 3.5 abliterated versteht

Wenn jemand nach qwen 3.5 abliterated sucht, will er meist eines von zwei Dingen: einen herunterladbaren Checkpoint eines Qwen-Modells, bei dem das Abwehrverhalten entfernt wurde, oder die Möglichkeit, mit einem solchen Modell zu kommunizieren, ohne eine GPU zu besitzen. Beide Ziele sind vernünftig, führen aber zu unterschiedlichen Setups, daher ist es hilfreich, sie früh zu trennen.

Qwen ist eine Familie von Open-Weight-Sprachmodellen, die von Alibaba veröffentlicht wurde. Die Basis- und Instruct-Versionen sind darauf trainiert, bestimmte Anfragen abzulehnen. „Ablitiert“ ist die Bezeichnung, die Community-Uploader auf eine Variante anwenden, bei der dieses Ablehnungsverhalten nachträglich chirurgisch reduziert wurde. Der Name ist eine Mischung aus „Ablation“ und „obliterated“ und hat sich durchgesetzt.

Ein Hinweis zu Versionsnummern. Modellfamilien erhalten oft neue Releases, und Uploaders benennen ihre Dateien nach der Basis, von der sie ausgegangen sind. Wir verfolgen nicht, welche Build genau die neueste ist, und nichts auf dieser Seite behauptet, dass unser gehostetes Modell ein bestimmter Qwen-Checkpoint ist. Was wir präzise beschreiben können, ist die Technik, die praktischen Kompromisse und der von uns betriebene Dienst.

So funktioniert Abliteration

Forscher, die das Ablehnungsverhalten in Chat-Modellen untersuchen, fanden heraus, dass die Tendenz zur Ablehnung in guter Näherung als eine einzige Richtung im internen Aktivierungsraum des Modells zusammengefasst werden kann. Füttere das Modell mit einer Menge von Prompts, die es ablehnt, und einer Menge, die es akzeptiert, vergleiche die Hidden States, und die Differenz zeigt in eine „Ablehnungsrichtung“.

Abliteration nimmt diese Richtung und bearbeitet die Gewichtsmatrizen, sodass das Modell nicht mehr entlang dieser Richtung schreiben kann. Die Bearbeitung ist eine einmalige Projektion auf die gespeicherten Gewichte. Es gibt keinen Gradient Descent über einen großen Datensatz, weshalb eine Person mit einem einzigen Computer innerhalb von Stunden einen modifizierten Checkpoint nach dem Erscheinen eines Basismodells veröffentlichen kann.

Unterschied zum Fine-Tuning

Ein Fine-Tuning ändert das Verhalten durch Training an neuen Beispielen. Es kann einen Stil, eine Persona oder ein Format lehren. Abliteration entfernt nur ein Verhalten; sie fügt nichts hinzu. Ein ablitiertes Modell schreibt in derselben Stimme wie das Original und behält das gleiche Wissen bei, abzüglich der meisten Zögerlichkeiten.

Viele veröffentlichte „unzensierte“ Modelle kombinieren beide Schritte: zuerst abliterieren, dann leicht fine-tunen, um die Qualitätsverluste zu reparieren. Wenn eine Modellkarte nicht angibt, welche Methode verwendet wurde, gehe davon aus, dass du es nicht wissen kannst.

Die Qualitätskosten

Das Bearbeiten von Gewichten ist nicht kostenlos. Einige ablitierte Checkpoints verlieren etwas an Genauigkeit bei der Logik oder der Befehlsausführung, und einige werden in langen Chats repetitiv oder verlieren den Charakter. Die Qualität variiert je nach Uploader, wie aggressiv die Richtung entfernt wurde, und nach der heruntergeladenen Quantisierung. Betrachte jedes Build als eigenes Modell und teste es an deinen eigenen Prompts.

Warum die Bezeichnung keine Qualitätsgarantie ist

Modellkarten für ablitierte Uploads werden von Einzelpersonen und nicht von einem Labor mit einem Release-Prozess verfasst. Behauptungen wie „keine Ablehnungen“ oder „gleiche Qualität wie das Original“ basieren meist auf einer Handvoll Prompts. Das ist für ein Hobby in Ordnung, aber es ist schwache Evidenz für etwas, von dem du abhängen möchtest.

Eine vernünftige Prüfung, bevor du auf einem Build aufbaust: Schreibe zwanzig Prompts aus deinem echten Use Case, einschließlich einiger, die das ursprüngliche Instruct-Modell abgelehnt hätte, führe sie aus und lies die Antworten. Notiere, wie oft das Modell bei der Aufgabe bleibt, wie es mit einem langen System-Prompt umgeht und ob es ein Format wie JSON einhält. Dieser kleine Test sagt dir mehr als eine Leaderboard-Zahl.

Ein ablitiertes Build selbst betreiben

Wenn du volle Kontrolle willst, ist lokale Inferenz ein legitimer Weg. Du lädst die Gewichte herunter, wählst ein quantisiertes Format und stellst sie mit einer Laufzeitumgebung wie llama.cpp, Ollama oder vLLM bereit. Nichts verlässt deine Maschine, und du kannst Checkpoints jederzeit austauschen.

Die Kosten sind praktischer als konzeptioneller Natur:

• Speicher. Das Modell und sein KV-Cache müssen in VRAM oder schnellem System-RAM passen. Größere Qwen-Varianten benötigen Hardware auf Workstation-Niveau, und lange Kontexte erhöhen die Cache-Größe stark.
• Einrichtung. Die Auswahl einer Quantisierung, Chat-Vorlage und Sampler-Einstellungen erfordert Ausprobieren. Allein eine falsche Chat-Vorlage kann ein gutes Modell kaputt aussehen lassen.
• Geschwindigkeit. Consumer-GPUs und CPU-Offloading erzeugen Tokens langsam im Vergleich zu einem Server, der auf Durchsatz optimiert ist, was für Batch-Jobs wichtig ist.
• Wartung. Neue Checkpoints erscheinen ständig, sodass du am Ende immer wieder herunterladen und testen musst.

Für einen Hobbyisten mit einer freien Grafikkarte ist das ein lustiges Wochenende. Für ein Team, das einen stabilen Endpunkt in einer Anwendung benötigt, ist es ein Nebenprojekt, das mit dem eigentlichen Projekt konkurriert.

Die gehostete Alternative

Wir betreiben eine gehostete API für Leute, die das Verhalten ohne die Hardware wollen. Sie bedient ein Open-Weight-Modell, das von einem unabhängigen Anbieter betrieben und darauf abgestimmt ist, ohne Inhaltsablehnungen für die rechtmäßige Nutzung durch Erwachsene zu antworten. Du rufst es als uncensored über eine OpenAI-kompatible Schnittstelle auf.

Sei klar darüber, was das ist und was nicht. Es ist nicht die offizielle Qwen-API, und es ist kein Router, der an Alibaba oder einen anderen Anbieter weiterleitet. Wir veröffentlichen keine Modellkarte, die ein bestimmtes Qwen-Release behauptet, also behandle den Dienst nicht als sofort einsetzbare Ersatzlösung für einen bestimmten Checkpoint. Wenn du diesen exakten Build mit seinen exakten Eigenheiten brauchst, betreibe ihn lokal.

Wenn du ein unzensiertes Chat-Modell brauchst, das jeden Tag gleich funktioniert, mit einer stabilen URL, ist Hosting einfacher. Die relevanten Fakten:

• Methoden: POST /v1/chat/completions und GET /v1/models.
• Streaming, Function Calling und JSON-Modus werden unterstützt.
• Kontextfenster von 100.000 Token, Prompt plus Vervollständigung.
• Nur Text. Keine Bilder, Audio, Videos, Einbettungen oder Feinabstimmung.
• Prompts werden nicht zum Training verwendet.
• Eine harte Grenze: keine sexuellen Inhalte, die Minderjährige betreffen.

Die API-Dokumentation listet alle unterstützten Parameter auf, und der Vergleichsleitfaden geht durch, wie sich die Token-basierte Abrechnung im Hosting im Vergleich zu anderen Wegen, ein Qwen-ähnliches Modell zu erhalten, verhält.

In fünf Zeilen ausprobieren

Da die Schnittstelle dem OpenAI-Schema folgt, funktioniert jedes OpenAI SDK nach Änderung der Base URL und des Schlüssels. Hier ist das kürzeste nützliche Beispiel mit Python:

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.qwenabliterated.top/v1",
    api_key="YOUR_API_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)

Der gleiche Aufruf mit curl:

Copycurl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

Um aufzulisten, worauf der Schlüssel Zugriff hat, rufe GET /v1/models auf. Erstelle einen Schlüssel auf der API-Schlüssel-Seite. Neue Konten können $0,50 Testguthaben mit einem Klick beanspruchen, gültig für 7 Tage und ohne Kartenangabe, was für ein paar hundert kurze Testanfragen ausreicht.

Lokal oder gehostet: eine Entscheidungsliste

Wähle lokale Inferenz, wenn:

• Du jeden Prompt auf deiner eigenen Maschine behalten musst, ohne jeglichen Netzwerkaufruf.
• Du benötigst einen bestimmten Community-Checkpoint, eine Quantisierung oder ein LoRA.
• Du bereits eine geeignete GPU besitzt und das Tunen des Stacks magst.

Wähle den gehosteten Endpunkt, wenn:

• Du eine App oder einen Bot veröffentlichen willst und eine URL brauchst, die online bleibt, während du an etwas anderem arbeitest.
• Du langen Kontext brauchst, ohne dafür Speicher kaufen zu müssen.
• Deine Nutzung ist sprunghaft, daher ist die Bezahlung pro Token besser als der Besitz von Hardware, die im Leerlauf ist.
• Du bestehenden OpenAI-ähnlichen Client-Code wiederverwenden willst.

Ein gemischter Ansatz ist üblich: Prompts auf der gehosteten API prototypisch testen, dann entscheiden, ob sich eine lokale Build lohnt. Da beide dasselbe Chat-Format unterstützen, bedeutet der Wechsel meist nur die Änderung der Base URL.

Was es kostet

Die Preise liegen bei 0,15 $ pro 1 Mio. Eingabe-Token und 0,50 $ pro 1 Mio. Ausgabe-Token, aus Prepaid-Guthaben ohne Abonnement. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, und Guthaben verfällt nie.

Ein durchgerechnetes Beispiel: Ein Prompt mit 3.000 Token und eine Antwort mit 700 Token kostet 3.000 x 0,15 $ / 1 Mio. = 0,00045 $ für die Eingabe plus 700 x 0,50 $ / 1 Mio. = 0,00035 $ für die Ausgabe, also insgesamt 0,0008 $. Tausend solche Aufrufe ergeben 0,80 $.

Aufladungen sind beliebige ganze Beträge von $20 bis $500, mit einem Bonus von 5 % ab $50, 10 % ab $100 und 15 % ab $200. Du kannst mit Mit Krypto (USDT auf TRC20, USDC auf Base) bezahlen. Die Preisseite enthält die aktuelle Tabelle.

Weitere Anleitungen

• Qwen Abliterated API: Ein gehostetes Modell aufrufen, keine GPU erforderlich
• Qwen Abliterated Roleplay: Einstellungen und API-Einrichtung
• Unzensierte API-Alternative