RU ▾

Ролевая игра Qwen Abliterated: настройки и API

Сцена с пузырями чата и масками, иллюстрирующими ролевую игру с текстовой моделью

Обновлено

Ролевые игры сильнее всего страдают от отказов модели, так как одно случайное предупреждение разрывает сцену. Ниже приведена рабочая настройка для художественных текстов и общения с компаньоном с использованием uncensored-эндпоинта, включая параметры сэмплинга и стоимость.

Ключевые моменты

  • В SillyTavern добавьте пользовательский источник, совместимый с OpenAI, указав URL /v1 сайта и модель uncensored.
  • Начните с температуры около 0,8 и top_p 0,9, затем изменяйте одно значение за раз.
  • Длинная сцена каждый ход отправляет историю заново, поэтому сократите контекст, чтобы контролировать расходы.
  • Модель работает только с текстом; только законное использование взрослыми, и никаких материалов с участием несовершеннолетних.

Почему пользователи ролевых игр ищут модели без цензуры

Пользователи, ищущие qwen abliterated roleplay, хотят модель, которая сохраняет роль. Стандартные чат-модели настроены так, чтобы выходить из сцены, добавлять оговорки или отказываться от тем, обычных в художественной литературе: война, горе, злодеи, ужасы, морально неоднозначные рассказчики. Abliterated и другие uncensored-сборки существуют именно потому, что эти прерывания разрушают погружение.

Эта статья о запуске таких сессий через API, а не через локальный файл. Размещённая здесь модель — одна из моделей с открытыми весами от независимого провайдера, настроенная на ответы без отказов по контенту для законного использования взрослыми. Это не официальный API Qwen, и мы не утверждаем, что это конкретный чекпоинт Qwen Abliterated. Относитесь к ней как к отдельной модели и оценивайте на своих персонажах.

Одно ограничение действует без исключений: никакого сексуального контента с участием несовершеннолетних. Персонажи должны быть взрослыми. Остальная часть этой страницы посвящена технической стороне, которая одинакова независимо от жанра, который вы пишете.

Подключение SillyTavern

SillyTavern может работать с любым OpenAI-совместимым эндпоинтом. Названия меню могут меняться в разных версиях, но путь всегда одинаковый: откройте панель подключения API, выберите источник Chat Completion и выберите пользовательский или OpenAI-совместимый вариант.

  1. Создайте ключ на странице API-ключ. Новые аккаунты могут получить $0,50 пробного баланса в один клик, действительный в течение 7 дней без привязки карты.
  2. В SillyTavern выберите Chat Completion и затем пользовательский источник.
  3. Установите URL эндпоинта в https://api.qwenabliterated.top/v1.
  4. Вставьте ключ в поле API-ключа.
  5. Введите uncensored как идентификатор модели или выберите его из списка, если кнопка подключения запрашивает его.
  6. Нажмите подключение и отправьте короткое тестовое сообщение.

Если тест завершился ошибкой 401, перепроверьте ключ. Если ошибкой 404, убедитесь, что URL заканчивается на /v1 и не содержит дополнительных путей. Страница документации перечисляет эндпоинты.

Использование собственного скрипта

Если вы пишете собственный интерфейс или бота, те же настройки передаются в SDK. Минимальный цикл, сохраняющий историю:

from openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": open("character.txt").read()}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    out = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.85,
        top_p=0.9,
        frequency_penalty=0.3,
        max_tokens=500,
    )
    text = out.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    print(text)

Системный промпт, удерживающий персонажа

Системное сообщение выполняет большую часть работы. Держите его коротким, конкретным и написанным как инструкции по поведению, а не как биографию. Паттерн, который хорошо работает:

You are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.

Примечания о том, зачем нужна каждая строка. Целевая длина предотвращает раздувание ответов. Правило не говорить за персонажа пользователя — самое распространённое исправление, которое делают люди. Последняя строка фиксирует настройку, чтобы модель не изобрела другую через два хода. Факты о персонаже, имеющие значение, такие как шрам, долг или привычка, должны быть в нескольких строках того же промпта, а не на странице предыстории.

Если модель выходит из характера в длинном чате, повторите ключевые правила ближе к концу истории в виде короткого сообщения-напоминания, а не увеличивайте вступительный промпт.

Начальные значения сэмплинга

API передаёт temperature, top_p, stop, seed и штрафы. Это ваши регуляторы; другие сэмплеры, существующие в локальных инструментах, могут быть недоступны, поэтому не рассчитывайте на них.

ПараметрНачальное значениеЧто это меняет
temperature0,8–1,0Более высокие значения дают более разнообразную формулировку; выше примерно 1,1 ожидайте бессвязности.
top_p0.9Отсекает маловероятные варианты слов.
frequency_penalty0,2–0,5Предотвращает повторение одних и тех же слов и фраз.
presence_penalty0–0,3Стимулирует модель переходить к новым темам.
max_tokens300–600Ограничивает длину ответа; необязательно.
stopимя вашего персонажа плюс двоеточиеПредотвращает написание моделью вашей следующей строки.

Изменяйте одно значение за раз и проведите несколько ходов перед оценкой. Если вы хотите справедливо сравнить две настройки, установите значение seed на фиксированное число, чтобы тот же промпт давал одинаковую начальную точку.

Вступительные сообщения и завязки сцен

Первое сообщение в чате задаёт тон сильнее любой инструкции. Если это две строки диалога без описания, ответы будут короткими. Если это полный абзац описания сцены в нужном вам стиле, модель скопирует эту длину и регистр. Напишите вступление как пример того, что вы хотите прочитать.

Дайте сцене точку напряжения. Экипаж на безлюдной планете с отказывающей системой жизнеобеспечения создаёт более интересные ходы, чем экипаж, сидящий в баре, потому что у модели всегда есть за что зацепиться. Когда сцена замирает, добавьте событие с вашей стороны: приходит сообщение, открывается дверь, принимается решение. Большинство плоских ролевых сессий — это отсутствие ставок, а не проблема модели.

Для нескольких персонажей назовите каждого в системном сообщении одной строкой о голосе, например: "Доктор Имре: сухой, точный, никогда не ругается". Различные речевые привычки облегчают модели различать голоса в длинной истории и вам легче замечать, когда два голоса смешались.

Управление контекстом на 100k

Контекстное окно составляет 100 000 токенов, промпт и генерация вместе, поэтому сцена может длиться очень долго до того, как что-то будет обрезано. Длинное не означает автоматически лучшее. Чат-модели меньше внимания уделяют деталям, скрытым в середине огромной истории, и каждый ход отправляет весь транскрипт заново, за который вы платите как за ввод.

Практические привычки:

  • Установите размер контекста в вашем интерфейсе на уровне 16 000–32 000 токенов и позвольте старым ходам удаляться.
  • Иногда просите модель сделать краткое резюме событий и состояния персонажа, затем вставьте его в системный промпт и очистите старые ходы.
  • Храните список «фактов, которые должны оставаться верными» в системном сообщении для имён, мест и обещаний.
  • Используйте последовательности остановки и ограничение длины, чтобы ответы не увеличивались.

Также помните, что это текстовая модель. Она не генерирует изображения или голос, поэтому аватары и аудио в приложении-компаньоне требуют других инструментов.

Стоимость сессии

Цены: $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов. Возьмите длинную сцену, где история достигла 30 000 токенов, а каждый ответ составляет около 400 токенов. Один ход стоит 30 000 x $0,15 / 1M = $0,0045 за ввод и 400 x $0,50 / 1M = $0,0002 за вывод, итого $0,0047. Сто таких ходов стоят $0,47.

Такая же сессия с окном в 12 000 токенов стоит 12 000 x $0,15 / 1M = $0,0018 плюс $0,0002, то есть $0,002 за ход и $0,20 за сто ходов. Сокращение контекста — самое простое доступное снижение расходов.

Подписки нет. Вы предоплачиваете любую сумму от $20 до $500, с бонусом +5% от $50, +10% от $100 и +15% от $200, и кредит не сгорает. Оплатите криптовалютой (USDT в сети TRC20, USDC в сети Base). За неудачные или отклонённые запросы не списываются средства. Подробности на странице с ценами.

Распространённые проблемы

  • Ответы становятся повторяющимися. Немного увеличьте frequency_penalty, обрежьте старые ходы или уменьшите размер контекста.
  • Модель пишет ваши строки. Добавьте правило в системный промпт и установите последовательность остановки на имя вашего персонажа.
  • HTTP 429 в середине сцены. Вы достигли лимита: 8 одновременных запросов и 300 в минуту для полного ключа, 2 и 60 для пробного ключа. Подождите значение Retry-After и отправьте запрос повторно. Потоковая передача удерживает слот одновременных запросов до завершения, поэтому закрывайте потоки, которые вы бросили.
  • Персонажи забывают детали. Перенесите ключевые факты в системный промпт и суммируйте старые реплики.

Промпты не используются для обучения. О том, как сравниваются другие варианты оплаты за токен, читайте в сопоставительном руководстве.

Вопросы и ответы

Можно ли использовать это с SillyTavern?

Да. Выберите источник Chat Completion с пользовательским OpenAI-совместимым эндпоинтом, введите URL сайта /v1, ваш ключ и идентификатор модели uncensored.

Какая температура лучше всего подходит для ролевой игры?

Большинство пользователей начинают с диапазона от 0,8 до 1,0 при значении top_p около 0,9. Изменяйте одно значение за раз и тестируйте в течение нескольких ходов.

Генерирует ли модель изображения или голос?

Нет. Это только текст, поэтому для изображений, аудио и видео требуются отдельные инструменты.

Есть ли ограничения по контенту?

Она предназначена для законного использования взрослыми, и все персонажи должны быть совершеннолетними. Сексуальный контент с участием несовершеннолетних никогда не допускается.

Сколько стоит длинная ролевая игра?

При истории в 30 000 токенов и ответах по 400 токенов это около $0,0047 за реплику или $0,47 за сто реплик. Уменьшение контекстного окна снижает стоимость.

Ваш ключ — в одном шаге от вас

Создайте аккаунт, скопируйте ключ, измените базовый URL. Вот и вся настройка.

Получить API-ключ