Jeu de rôle Qwen Abliterated : paramètres et configuration de l'API

Pourquoi les utilisateurs du jeu de rôle cherchent des modèles sans censure

Les utilisateurs recherchant jeu de rôle Qwen Abliterated veulent un modèle qui reste dans le personnage. Les modèles de chat standard sont ajustés pour sortir d'une scène, ajouter des avertissements ou refuser des thèmes courants dans la fiction : guerre, deuil, méchants, horreur, narrateurs ambigus. Les versions abliterated et autres modèles sans censure existent car ces interruptions détruisent l'immersion.

Cet article concerne l'exécution de ce type de session via une API plutôt qu'un fichier local. Le modèle hébergé ici est un modèle à poids ouverts d'un fournisseur indépendant, ajusté pour répondre sans refus de contenu pour un usage adulte légal. Ce n'est pas l'API officielle Qwen et nous n'affirmons pas qu'il s'agit d'un checkpoint Qwen abliterated spécifique. Traitez-le comme son propre modèle et jugez-le sur vos propres personnages.

Une seule limite s'applique sans exception : aucun contenu sexuel impliquant des mineurs. Les personnages doivent être des adultes. Le reste de cette page se tient du côté technique, qui est le même quel que soit le genre que vous écrivez.

Connecter SillyTavern

SillyTavern peut communiquer avec n'importe quel endpoint compatible OpenAI. Les noms de menu varient selon les versions, mais le chemin reste le même : ouvrez le panneau de connexion API, choisissez la source Chat Completion et sélectionnez l'option personnalisée ou compatible OpenAI.

1. Créez une clé sur la page des clés API. Les nouveaux comptes peuvent réclamer 0,50 $ de crédit d'essai en un clic, valable 7 jours et sans carte.
2. Dans SillyTavern, sélectionnez Chat Completion puis la source personnalisée.
3. Définissez l'URL de l'endpoint sur https://api.qwenabliterated.top/v1.
4. Collez la clé dans le champ clé API.
5. Saisissez uncensored comme ID de modèle, ou sélectionnez-le dans la liste si le bouton de connexion en récupère un.
6. Appuyez sur connecter et envoyez un court message de test.

Si le test échoue avec une erreur 401, revérifiez la clé. Si l'erreur est 404, assurez-vous que l'URL se termine par /v1 et n'a pas de chemin supplémentaire après. La page de documentation liste les endpoints.

Utilisation de votre propre script

Si vous écrivez votre propre interface ou un bot, les mêmes paramètres sont intégrés au SDK. Une boucle minimale qui conserve l'historique :

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": open("character.txt").read()}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    out = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.85,
        top_p=0.9,
        frequency_penalty=0.3,
        max_tokens=500,
    )
    text = out.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    print(text)

Un prompt système qui maintient un personnage

Le message système fait la majeure partie du travail. Gardez-le court, concret et rédigé comme des instructions sur le comportement, et non comme une biographie. Un schéma qui fonctionne bien :

CopyYou are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.

Notes sur la raison de chaque ligne. Un objectif de longueur empêche les réponses de déborder. La règle interdisant de parler au nom du personnage de l'utilisateur est la correction la plus courante. La dernière ligne règle le paramètre pour que le modèle n'invente pas un contexte différent deux tours plus tard. Les faits sur le personnage qui comptent, comme une cicatrice, une dette ou une habitude, appartiennent à quelques lignes du même prompt, et non à une page de contexte.

Si le modèle dérive du personnage dans une longue conversation, répétez les règles clés près de la fin de l'historique sous forme de message de rappel court plutôt que d'allonger le prompt d'ouverture.

Valeurs d'échantillonnage de départ

L'API transmet la température, le top_p, le stop, la seed et les pénalités. Ce sont les paramètres que vous avez ; d'autres échantillonneurs présents dans les outils locaux peuvent ne pas être disponibles, donc ne comptez pas dessus.

Modifiez une valeur à la fois et jouez quelques tours avant de juger. Si vous voulez comparer deux configurations équitablement, définissez seed sur un nombre fixe pour que le même prompt donne le même point de départ.

Messages d'ouverture et accroches de scène

Le premier message d'une conversation définit le ton plus que n'importe quelle instruction. S'il s'agit de deux lignes de dialogue sans description, les réponses seront courtes. S'il s'agit d'un paragraphe complet de mise en scène dans le style que vous souhaitez, le modèle copiera cette longueur et ce registre. Rédigez l'ouverture comme un exemple de ce que vous voulez lire en retour.

Donnez à la scène un point de tension. Une équipe naufragée avec un système de support vie défaillant produit des tours plus intéressants qu'une équipe assise dans un bar, car le modèle a toujours quelque chose sur quoi appuyer. Lorsqu'une scène s'essouffle, ajoutez un événement de votre côté : un message arrive, une porte s'ouvre, une décision est imposée. La plupart des jeux de rôle plats manquent d'enjeux, pas de problèmes de modèle.

Pour plusieurs personnages, nommez chacun d'eux dans le prompt système avec une seule ligne sur la voix, par exemple « Docteur Imre : sec, précis, ne jure jamais ». Des habitudes de parole distinctes aident le modèle à garder les voix distinctes sur un long historique, et facilitent pour vous de repérer quand deux se sont mélangées.

Gestion de la fenêtre de contexte de 100k

La fenêtre de contexte est de 100 000 tokens, prompt et complétion confondus, donc une scène peut durer très longtemps avant qu'un élément ne soit coupé. Long ne signifie pas automatiquement meilleur. Les modèles de chat prêtent moins attention aux détails enfouis au milieu d'une longue histoire, et chaque tour renvoie tout le texte, que vous payez en entrée.

Habitudes pratiques :

• Définissez la taille de la fenêtre de contexte dans votre interface front-end à environ 16 000 ou 32 000 tokens et laissez les anciens tours tomber.
• De temps en temps, demandez au modèle un court résumé des événements et de l'état des personnages, puis collez-le dans le prompt système et effacez les anciens tours de conversation.
• Gardez une liste de "faits qui doivent rester vrais" dans le message système pour les noms, lieux et promesses.
• Utilisez des séquences d'arrêt et une limite de longueur pour que les réponses ne grossissent pas.

N'oubliez pas non plus qu'il s'agit d'un modèle textuel. Il ne produit pas d'images ou de voix, donc les avatars et l'audio dans une application d'accompagnement nécessitent d'autres outils.

Coût d'une session

La tarification est de 0,15 $ par 1M de tokens d'entrée et 0,50 $ par 1M de tokens de sortie. Prenons une longue scène où l'historique a atteint 30 000 tokens et chaque réponse fait environ 400 tokens. Un tour coûte 30 000 x 0,15 $ / 1M = 0,0045 $ pour l'entrée et 400 x 0,50 $ / 1M = 0,0002 $ pour la sortie, soit 0,0047 $. Cent tours de ce type coûtent 0,47 $.

La même session avec une fenêtre de 12 000 tokens coûte 12 000 x 0,15 $ / 1M = 0,0018 $ plus 0,0002 $, soit 0,002 $ par tour et 0,20 $ pour cent tours. Réduire le contexte est l'économie la plus facile à obtenir.

Il n'y a pas d'abonnement. Vous prépayez n'importe quel montant entier de $20 à $500, avec +5% de $50, +10% de $100 et +15% de $200, et le crédit n'expire jamais. Payez par crypto (USDT sur TRC20, USDC sur Base). Les requêtes échouées ou refusées ne sont pas facturées. Les détails sont sur la page de tarification.

Problèmes courants

• Les réponses deviennent répétitives. Augmentez légèrement frequency_penalty, coupez les tours anciens ou réduisez la taille du contexte.
• Le modèle écrit vos lignes. Ajoutez la règle au prompt système et définissez une séquence d'arrêt sur le nom de votre personnage.
• HTTP 429 en plein milieu de la scène. Vous atteignez une limite : 8 requêtes concurrentes et 300 par minute sur une clé complète, 2 et 60 sur une clé d'essai. Attendez la valeur Retry-After et renvoyez. Le streaming maintient un créneau de concurrence jusqu'à sa fin, donc fermez les streams que vous abandonnez.
• Les personnages oublient les détails. Déplacez les faits clés dans le prompt système et résumez les anciens tours de conversation.

Les prompts ne sont pas utilisés pour l'entraînement. Pour comparer les autres options de paiement par token, le guide de comparaison en contient plus.

Plus de guides

• Qwen 3.5 Abliterated : ce que cela signifie et les options d'hébergement
• API Qwen Abliterated : appelez un modèle hébergé, sans GPU
• Alternative à l'API sans censure