PL ▾

Qwen Abliterated Roleplay: Ustawienia i konfiguracja API

Scena z dymkami czatu i maskami ilustrującymi odgrywanie ról z modelem tekstowym

Zaktualizowano

W odgrywaniu ról najbardziej przeszkadza mechanizm odmowy, bo jedno niepotrzebne ostrzeżenie psuje scenę. Oto działająca konfiguracja do opowiadań i czatów towarzyskich z endpointem bez cenzury, w tym wartościami próbkowania i kosztami.

Kluczowe punkty

  • W SillyTavern dodaj niestandardowe źródło zgodne z OpenAI, używając URL-a /v1 strony i modelu uncensored.
  • Zacznij od temperatury 0,8 i top_p 0,9, a następnie zmieniaj jedną wartość naraz.
  • Długa scena wysyła historię w każdej turze, więc skróć kontekst, aby kontrolować koszty.
  • Model obsługuje tylko tekst; wyłącznie do zgodnego z prawem użytku dorosłych, bez treści z udziałem nieletnich.

Dlaczego użytkownicy odgrywający role szukają modeli bez cenzury

Użytkownicy szukający qwen abliterated roleplay chcą modelu, który trzyma się roli. Standardowe modele czatu są nastawione na wychodzenie z sceny, dodawanie zastrzeżeń lub odmawianie tematów powszechnych w literaturze: wojny, żałoby, złoczyńcy, horror, moralnie szare narracje. Abliterated i inne modele bez cenzury istnieją, ponieważ te przerwy niszczą immersję.

Artykuł dotyczy prowadzenia takiej sesji przez API zamiast pliku lokalnego. Hostowany model to jeden z modeli o otwartych wagach od niezależnego dostawcy, dostrojony do odpowiadania bez odmów treści dla użytku dorosłego. To nie jest oficjalne API Qwen i nie twierdzimy, że to konkretny checkpoint abliterated Qwen. Traktuj go jako osobny model i oceń go na podstawie własnych postaci.

Jedno ograniczenie obowiązuje bez wyjątku: brak treści seksualnych z udziałem nieletnich. Postacie muszą być pełnoletnie. Reszta tej strony skupia się na aspekcie technicznym, który jest taki sam niezależnie od gatunku.

Połącz z SillyTavern

SillyTavern może łączyć się z dowolnym endpointem zgodnym z OpenAI. Nazwy menu różnią się w zależności od wersji, ale ścieżka zawsze prowadzi do tego samego: otwórz panel połączenia API, wybierz źródło Chat Completion i wybierz opcję niestandardową lub zgodną z OpenAI.

  1. Utwórz klucz na stronie klucza API. Nowe konta mogą odebrać $0.50 kredytu próbnego jednym kliknięciem, ważny przez 7 dni i bez karty.
  2. W SillyTavern wybierz Chat Completion, a następnie źródło niestandardowe.
  3. Ustaw URL endpointu na https://api.qwenabliterated.top/v1.
  4. Wklej klucz w pole klucza API.
  5. Wpisz uncensored jako identyfikator modelu lub wybierz go z listy, jeśli przycisk połączenia go pobiera.
  6. Naciśnij Połącz i wyślij krótką wiadomość testową.

Jeśli test zakończy się błędem 401, sprawdź klucz ponownie. Jeśli zakończy się błędem 404, upewnij się, że URL kończy się na /v1 i nie ma po nim dodatkowej ścieżki. Na stronie dokumentacji znajdziesz listę endpointów.

Używanie własnego skryptu

Jeśli tworzysz własny interfejs lub bota, te same ustawienia wchodzą do SDK. Minimalna pętla zachowująca historię:

from openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": open("character.txt").read()}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    out = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.85,
        top_p=0.9,
        frequency_penalty=0.3,
        max_tokens=500,
    )
    text = out.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    print(text)

System prompt, który utrzymuje postać

Wiadomość systemowa wykonuje większość pracy. Powinna być krótka, konkretna i napisana jako instrukcje dotyczące zachowania, a nie jako biografia. Sprawdzony schemat:

You are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.

Uwagi, dlaczego każda linia tam jest. Cel długości zapobiega rozdmuchiwaniu się odpowiedzi. Zasada mówienia za postać użytkownika to najczęstsza korekta, jaką ludzie wprowadzają. Ostatnia linia naprawia ustawienie, aby model nie wymyślił innego ustawienia dwa tury później. Fakty o postaci, które mają znaczenie, takie jak blizna, dług czy nawyk, należy umieścić w kilku liniach tego samego promptu, a nie na stronie tła fabularnego.

Jeśli model traci rolę w długim czacie, powtórz kluczowe zasady bliżej końca historii jako krótką wiadomość przypominającą, zamiast wydłużać początkowy prompt.

Wartości próbkowania do rozpoczęcia

API przekazuje temperaturę, top_p, stop, seed i kary. To są pokrętła, które masz; inne algorytmy próbkowania dostępne w narzędziach lokalnych mogą nie być dostępne, więc nie licz na nie.

ParametrWartość startowaCo to zmienia
temperatura0,8 do 1,0Wyższa wartość daje bardziej zróżnicowane sformułowania; powyżej 1,1 spodziewaj się niezrozumiałości.
top_p0.9Odsiewa mało prawdopodobne opcje słów.
frequency_penalty0,2 do 0,5Zapobiega powtarzaniu tych samych słów i fraz.
presence_penalty0 do 0,3Skłania model do poruszania nowych tematów.
max_tokens300 do 600Ogranicza długość odpowiedzi; opcjonalne.
stopNazwa Twojej postaci plus dwukropekZapobiega pisaniu przez model Twojej kolejnej linii.

Zmieniaj jedną wartość naraz i zagraj kilka tur przed oceną. Jeśli chcesz uczciwie porównać dwa ustawienia, ustaw seed na stałą liczbę, aby ten sam prompt dawał ten sam punkt startowy.

Wiadomości początkowe i wciągnięcie w scenę

Pierwsza wiadomość w czacie wyznacza ton bardziej niż jakakolwiek instrukcja. Jeśli to dwie linie dialogu bez opisu, odpowiedzi będą krótkie. Jeśli to pełny akapit w stylu, jaki chcesz, model skopiuje tę długość i rejestr. Napisz wstęp jako przykład tego, co chcesz przeczytać.

Nadaj scenariuszowi punkt napięcia. Załoga uwięziona w systemie podtrzymywania życia, który zaczyna zawodzić, generuje ciekawsze tury niż załoga siedząca w barze, ponieważ model zawsze ma coś, na czym może naciskać. Gdy scena utknęła, dodaj wydarzenie ze swojej strony: przychodzi wiadomość, otwiera się drzwi, decyzja jest wymuszona. Większość płaskiej gry fabularnej to brak stawki, a nie problem modelu.

Dla kilku postaci nazwij każdą w promptcie systemowym jedną linią dotyczącą głosu, np. "Doktor Imre: suchy, precyzyjny, nigdy nie przeklina". Różne nawyki mowy ułatwiają modelowi rozróżnianie głosów w długiej historii i Tobie zauważenie, gdy się zlały.

Zarządzanie oknem kontekstu 100k

Okno kontekstu ma 100 000 tokenów, prompt i uzupełnienie razem, więc scena może trwać bardzo długo, zanim coś zostanie ucięte. Długie nie oznacza automatycznie lepszego. Modele czatu mniej skupiają się na szczegółach zakopanych w środku ogromnej historii, a każda tura przesyła cały transkrypt, za który płacisz jako dane wejściowe.

Praktyczne nawyki:

  • Ustaw rozmiar kontekstu w interfejsie na około 16 000–32 000 tokenów i pozwól starszym turom odpadać.
  • Od czasu do czasu poproś model o krótkie podsumowanie wydarzeń i stanu postaci, wklej je do promptu systemowego i wyczyść stare tury.
  • Przechowuj listę „faktów, które muszą pozostać prawdziwe” w wiadomości systemowej dla imion, miejsc i obietnic.
  • Używaj sekwencji stop i limitu długości, aby odpowiedzi nie rosły niekontrolowanie.

Pamiętaj też, że to model tekstowy. Nie generuje obrazów ani głosu, więc awatary i audio w aplikacji towarzyszej wymagają innych narzędzi.

Koszt sesji

Cennik to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Weź długą scenę, gdzie historia osiągnęła 30 000 tokenów, a każda odpowiedź ma około 400 tokenów. Jedna tura kosztuje 30 000 x $0,15 / 1M = $0,0045 za tokeny wejściowe i 400 x $0,50 / 1M = $0,0002 za tokeny wyjściowe, czyli łącznie $0,0047. Sto takich tur kosztuje $0,47.

Ta sama sesja z oknem 12 000 tokenów kosztuje 12 000 x $0,15 / 1M = $0,0018 plus $0,0002, czyli $0,002 za turę i $0,20 za sto tur. Skracanie kontekstu to najprostsza oszczędność.

Nie ma subskrypcji. Płacisz z góry dowolną kwotę od $20 do $500, z +5% od $50, +10% od $100 i +15% od $200, a kredyt nigdy nie wygasa. Płać kryptowalutami (USDT w sieci TRC20, USDC na Base). Nieudane lub odrzucone zapytania nie są rozliczane. Szczegóły znajdziesz na stronie z cenami.

Typowe problemy

  • Odpowiedzi stają się powtarzalne. Zwiększ frequency_penalty, skróć stare tury lub zmniejsz rozmiar kontekstu.
  • Model pisze Twoje linie. Dodaj zasadę do promptu systemowego i ustaw sekwencję stop na nazwę swojej postaci.
  • HTTP 429 w trakcie sceny. Przekroczyłeś limit: 8 równoległych zapytań i 300 na minutę przy pełnym kluczu, 2 i 60 przy kluczu próbnym. Poczekaj na wartość Retry-After i wyślij ponownie. Strumieniowanie zajmuje miejsce w limicie współbieżności, aż do zakończenia, więc zamykaj strumienie, które porzucisz.
  • Postacie zapominają szczegóły. Przenieś kluczowe fakty do promptu systemowego i podsumuj poprzednie tury.

Prompty nie są używane do trenowania. Aby porównać inne opcje płatności za token, zapoznaj się z przewodnikiem porównawczym.

Pytania i odpowiedzi

Czy mogę użyć tego z SillyTavern?

Tak. Wybierz źródło Chat Completion z niestandardowym endpointem kompatybilnym z OpenAI, wpisz URL /v1 strony, swój klucz i identyfikator modelu uncensored.

Jaka temperatura najlepiej sprawdza się w roleplay?

Większość osób zaczyna od wartości 0,8–1,0 przy top_p bliskim 0,9. Zmieniaj jedną wartość na raz i testuj przez kilka tur.

Czy model generuje obrazy lub głos?

Nie. Obsługuje tylko tekst, więc do obrazów, audio i wideo potrzebne są osobne narzędzia.

Czy istnieją limity treści?

Model jest przeznaczony do użytku dorosłych w ramach prawa, a wszystkie postacie muszą być osobami pełnoletnimi. Treści seksualne z udziałem nieletnich są zawsze zabronione.

Ile kosztuje długa gra fabularna?

Przy historii 30 000 tokenów i odpowiedziach po 400 tokenów koszt wynosi około $0,0047 za turę, czyli $0,47 za sto tur. Krótszy kontekst obniża koszt.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API