Qwen Abliterated: Zmień klienta w trzech krokach

Uwierzytelnianie i URL bazowy

Nasze API jest zgodne ze standardowym formatem OpenAI. Potrzebujesz tylko dwóch rzeczy: bazowego URL i ważnego klucza API. Bazowy URL to https://api.qwenabliterated.top/v1. Nie musisz importować specjalnych bibliotek ani zmieniać struktury kodu. Po prostu zaktualizuj konfigurację klienta, aby wskazywała na ten URL, i podaj klucz wygenerowany na stronie Pobierz klucz API. System używa standardowej autoryzacji za pomocą tokena nośnikowego, więc każde istniejące SDK kompatybilne z OpenAI działa od razu.

Kopiujcurl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Chroń swój klucz. W przeciwieństwie do niektórych dostawców, nie śledzimy Twojej tożsamości poza e-mailem użytym do zalogowania się. Prompty nie są używane do danych szkoleniowych. Jeśli zgubisz klucz, wygeneruj nowy; zastąpi on natychmiast stary aktywny klucz.

Pierwsze zapytanie o uzupełnienie

Wyślij swoją pierwszą wiadomość, używając standardowego endpointu /v1/chat/completions. Przekaż identyfikator modelu jako "uncensored". Ten model jest o otwartych wagach, dostrojony do surowego wyjścia i nie stosuje typowych odmów znanych w modelach ogólnego przeznaczenia. Obsługuje tematy dorosłe, kontrowersyjne lub techniczne bez dodatkowego szumu, pod warunkiem że treść nie dotyczy małoletnich.

Kopiujfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Odpowiedź zwraca wygenerowany tekst w polu choices[0].message.content. Jeśli zapytanie nie powiedzie się z powodu nieprawidłowego klucza, otrzymasz błąd 401. Jeśli Twój przedpłacony kredyt zostanie wyczerpany, otrzymasz błąd 402. Błędy nie zużywają salda tokenów, więc możesz ponowić próbę bez kary.

Odpowiedzi strumieniowe

W aplikacjach w czasie rzeczywistym włącz strumieniowanie, ustawiając stream: true. API zwraca strumień Server-Sent Events (SSE). Każdy fragment zawiera częściowy token. Ostatni fragment zawiera całkowite użycie tokenów dla zapytania, pozwalając na dokładne śledzenie kosztów. Jest to idealne dla interfejsów czatu lub narzędzi opartych na terminalu, gdzie liczy się opóźnienie.

Kopiujstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Strumieniowanie nie zmienia zachowania modelu ani okna kontekstu. Dotyczy tylko sposobu dostarczania odpowiedzi. Upewnij się, że Twój klient poprawnie obsługuje strumień, aby uniknąć wycieków pamięci. Model bez cenzury dobrze radzi sobie ze strumieniowaniem, dostarczając spójny tekst bez typowych przerw w środku zdania obserwowanych w modelach filtrowanych.

Tryb JSON

Gdy potrzebujesz danych strukturalnych, użyj response_format: {"type": "json_object"}. Model jest instruowany do wyjścia w formacie JSON. Jest to przydatne do parsowania konfiguracji, generowania struktur kodu lub przekazywania danych do usług downstreamowych. Choć nie jest gwarantowana doskonałość, model bez cenzury radzi sobie lepiej ze złożonymi strukturami niż standardowe modele, które mogą odmówić wyjścia surowego JSON ze względów bezpieczeństwa.

Kopiujimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenabliterated.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Zawsze waliduj wyjście po swojej stronie. Jeśli JSON jest niepoprawny, API nie ponawia automatycznie. Możesz dostosować temperaturę, aby wpłynąć na spójność. Niższe temperatury dają bardziej przewidywalne struktury JSON, podczas gdy wyższe temperatury wprowadzają więcej kreatywności, ale niosą ryzyko błędów formatowania.

Wywoływanie funkcji

Wsparcie dla narzędzi jest wbudowane. Zdefiniuj swoje funkcje w parametrze tools i ustaw tool_choice zgodnie z potrzebami. Model zwróci tablicę tool_calls, jeśli zdecyduje się wywołać funkcję. Musisz wykonać funkcję i przekazać wynik z powrotem w kolejnej wiadomości z role: "tool". To odpowiada standardowemu wzorcowi używania narzędzi OpenAI.

Ta funkcja działa z każdym SDK kompatybilnym z OpenAI. Model bez cenzury jasno obsługuje definicje narzędzi, bez odmowy wyjścia nazw funkcji z powodu filtrów treści. Jest odpowiedni do budowania agentów lub automatyzacji przepływów pracy wymagających wywołań zewnętrznych API.

Parametry, limity i błędy

Okno kontekstu wynosi 100,000 tokenów, w tym zarówno prompt, jak i completion. Nie ma osobnego limitu outputu (jeśli max_tokens nie jest ustawione, odpowiedź może sięgać do końca okna). Możesz kontrolować generowanie za pomocą temperature, top_p, stop, seed oraz parametrów kary.

Limity zapytań to 300 zapytań na minutę i 8 równoległych zapytań na klucz. Jeśli przekroczysz te limity, otrzymasz błąd 429. Ciała zapytań muszą być mniejsze niż 8 MB. Limity te zapewniają stabilną wydajność dla użytkowników o dużym wolumenie. Nie ma ukrytych ograniczeń co do rodzaju generowanej treści, z wyjątkiem twardego limitu treści seksualnych z udziałem małoletnich.