Qwen 3.5 Abliterated : ce que cela signifie et les options d’hébergement

Ce que les gens entendent par qwen 3.5 abliterated

Lorsque quelqu’un recherche qwen 3.5 abliterated, il cherche généralement l’une des deux choses suivantes : un checkpoint téléchargeable d’un modèle Qwen dont le comportement de refus a été supprimé, ou un moyen de dialoguer avec ce modèle sans posséder de GPU. Les deux objectifs sont légitimes et conduisent à des configurations différentes, il est donc utile de les distinguer dès le début.

Qwen est une famille de modèles de langage à poids ouverts publiée par Alibaba. Les versions de base et instruct sont entraînées à décliner certaines requêtes. « Abliterated » est l’étiquette que les contributeurs de la communauté apposent sur une variante où ce comportement de refus a été réduit de manière chirurgicale après coup. Le nom est un mélange de « ablation » et « obliterated », et il est resté.

Une mise en garde sur les numéros de version. Les familles de modèles reçoivent souvent de nouvelles versions, et les contributeurs nomment leurs fichiers en fonction du modèle de base à partir duquel ils ont commencé. Nous ne suivons pas quelle version exacte est la plus récente, et rien sur cette page ne prétend que notre modèle hébergé est un checkpoint Qwen particulier. Ce que nous pouvons décrire avec précision, c’est la technique, les compromis pratiques et le service que nous proposons.

Comment fonctionne l'ablation

Les chercheurs étudiant le refus dans les modèles de chat ont constaté que la tendance à refuser peut être résumée, avec une bonne approximation, comme une seule direction dans l’espace d’activation interne du modèle. Alimentez le modèle avec un ensemble de prompts qu’il refuse et un ensemble qu’il accepte, comparez les états cachés, et la différence pointe dans une « direction de refus ».

L’abliteration prend cette direction et modifie les matrices de poids afin que le modèle ne puisse plus écrire le long de celle-ci. La modification est une projection appliquée une fois aux poids sauvegardés. Il n’y a pas de descente de gradient sur un grand jeu de données, ce qui explique pourquoi une personne avec une seule machine peut publier un checkpoint modifié en quelques heures après la sortie d’un modèle de base.

En quoi cela diffère du fine-tuning

Un fine-tune modifie le comportement en entraînant le modèle sur de nouveaux exemples. Il peut enseigner un style, un persona ou un format. L’ablation supprime uniquement un comportement ; elle n’ajoute rien. Un modèle qui a été ablaté s’exprime dans la même voix que l’original et conserve les mêmes connaissances, à part la plupart des hésitations.

De nombreux modèles publiés comme « uncensored » combinent les deux étapes : ablation d’abord, puis fine-tuning léger pour réparer la perte de qualité. Si une fiche modèle ne précise pas laquelle a été utilisée, supposez que vous ne pouvez pas le savoir.

Ce que cela coûte en qualité

Modifier les poids n’est pas gratuit. Certains checkpoints abliterated perdent un peu en précision sur le raisonnement ou le respect des instructions, et certains deviennent répétitifs ou sortent du personnage dans les longues conversations. La qualité varie selon le contributeur, la manière dont la direction a été supprimée et la quantisation que vous téléchargez. Traitez chaque build comme son propre modèle et testez-le avec vos propres prompts.

Pourquoi l’étiquette n’est pas une garantie de qualité

Les fiches modèles pour les modèles publiés ablatés sont rédigées par des individus, pas par un laboratoire avec un processus de sortie. Les affirmations telles que « aucun refus » ou « même qualité que l’original » sont généralement basées sur une poignée de prompts. Cela convient pour un hobby, mais c’est une preuve mince pour tout ce sur quoi vous comptez.

Une vérification sensée avant de construire sur n’importe quelle version : rédigez vingt prompts issus de votre cas d’usage réel, incluant quelques-uns que le modèle instruct original aurait refusés, exécutez-les et lisez les réponses. Notez à quelle fréquence le modèle reste sur la tâche, comment il gère un long prompt système et s’il conserve un format tel que JSON. Ce petit test vous en apprendra plus qu’un chiffre de classement.

Exécuter une version ablatée vous-même

Si vous voulez un contrôle total, l’inférence locale est une voie légitime. Vous téléchargez les poids, choisissez un format quantifié et les servez avec un moteur d'exécution tel que llama.cpp, Ollama ou vLLM. Rien ne quitte votre machine, et vous pouvez échanger les checkpoints quand vous le souhaitez.

Les coûts sont pratiques plutôt que conceptuels :

• Mémoire. Le modèle et son cache KV doivent tenir dans la VRAM ou la RAM système rapide. Les variantes Qwen plus grandes nécessitent du matériel de classe workstation, et les longs contextes augmentent fortement la taille du cache.
• Temps de configuration. Choisir une quantisation, un template de chat et les paramètres de l’échantillonneur demande des essais et erreurs. Un seul template de chat incorrect peut faire paraître un bon modèle cassé.
• Vitesse. Les GPU grand public et le déchargement sur CPU produisent des tokens lentement par rapport à un serveur optimisé pour le débit, ce qui compte pour les travaux par lots.
• Maintenance. De nouveaux modèles apparaissent constamment, ce qui vous amène à les retélécharger et à les retester.

Pour un passionné avec une carte de rechange, c’est un week-end amusant. Pour une équipe qui a besoin d’un endpoint stable dans une application, c’est un projet secondaire qui concurrence le projet principal.

L’alternative hébergée

Nous proposons une API hébergée pour ceux qui veulent le comportement sans le matériel. Nous servons un seul modèle à poids ouverts, fourni par un fournisseur indépendant et ajusté pour répondre sans refus de contenu pour un usage adulte légal. Appelez-le en utilisant l'identifiant du modèle uncensored via une interface compatible OpenAI.

Soyez clair sur ce que c’est et ce que ce n’est pas. Ce n’est pas l’API officielle Qwen, et ce n’est pas un routeur qui transfère vers Alibaba ou tout autre fournisseur. Nous ne publions pas de fiche modèle affirmant une version Qwen spécifique, donc ne traitez pas le service comme un remplacement prêt à l’emploi pour un checkpoint nommé. Si vous avez besoin de cette version exacte, avec ses particularités exactes, faites-le tourner localement.

Si vous avez besoin d’un modèle de chat uncensored qui se comporte de la même manière chaque jour, avec une URL stable, l’hébergement est plus simple. Les faits pertinents :

• Méthodes : POST /v1/chat/completions et GET /v1/models.
• Le streaming, l'appel de fonctions et le mode JSON sont pris en charge.
• Fenêtre de contexte de 100 000 tokens, prompt plus complétion.
• Texte uniquement. Pas d'images, audio, vidéo, embeddings ou fine-tuning.
• Les prompts ne sont pas utilisés pour l'entraînement.
• Une limite stricte : pas de contenu sexuel impliquant des mineurs.

La documentation de l’API liste tous les paramètres pris en charge, et le guide de comparaison passe en revue comment l’hébergement au token se compare aux autres façons d’obtenir un modèle de style Qwen.

Essayez-le en cinq lignes

Comme l’interface suit le format OpenAI, n’importe quel SDK OpenAI fonctionne après avoir modifié l'URL de base et la clé. Voici l’exemple le plus court utile avec Python :

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.qwenabliterated.top/v1",
    api_key="YOUR_API_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)

Le même appel avec curl :

Copycurl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

Pour lister ce à quoi la clé peut accéder, appelez GET /v1/models. Créez une clé sur la page Clé API. Les nouveaux comptes peuvent obtenir 0,50 $ de crédit d'essai en un clic, valable 7 jours et sans carte nécessaire, ce qui suffit pour quelques centaines de requêtes de test courtes.

Local ou hébergé : une liste de décision

Choisissez l’inférence locale lorsque :

• Vous devez garder chaque prompt sur votre propre machine, sans aucune requête réseau.
• Vous avez besoin d’un checkpoint communautaire spécifique, d’une quantification ou d’un LoRA.
• Vous possédez déjà un GPU adapté et aimez ajuster la pile.

Choisissez l’endpoint hébergé lorsque :

• Vous voulez déployer une application ou un bot et avez besoin d’une URL qui reste en ligne pendant que vous travaillez sur autre chose.
• Vous avez besoin d’un long contexte sans acheter de mémoire pour cela.
• Votre utilisation est par rafales, donc payer par token vaut mieux que posséder du matériel inactif.
• Vous voulez réutiliser du code client de style OpenAI existant.

Une approche mixte est courante : prototypez les prompts sur l’API hébergée, puis décidez si une version locale vaut l’effort. Comme les deux peuvent parler le même format de chat, passer de l’un à l’autre signifie principalement changer une URL de base.

Ce que cela coûte

La tarification est de 0,15 $ par 1 M de tokens d'entrée et de 0,50 $ par 1 M de tokens de sortie, à partir de crédit prépayé sans abonnement. Les requêtes échouées ou refusées ne sont pas facturées, et le crédit n'expire pas.

Un exemple détaillé : un prompt de 3 000 tokens avec une réponse de 700 tokens coûte 3 000 x 0,15 $ / 1 M = 0,00045 $ pour l'entrée plus 700 x 0,50 $ / 1 M = 0,00035 $ pour la sortie, soit 0,0008 $ au total. Un millier de ces appels coûtent 0,80 $.

Les recharges correspondent à tout montant entier de 20 $ à 500 $, avec un bonus de 5 % à partir de 50 $, 10 % à partir de 100 $ et 15 % à partir de 200 $. Vous pouvez payer avec de la crypto (USDT sur TRC20, USDC sur Base). La page de tarification présente le tableau actuel.

Plus de guides

• API Qwen Abliterated : Appeler un modèle hébergé, sans GPU
• Jeu de rôle Qwen Abliterated : Paramètres et configuration API
• Alternative à l'API sans censure