Qwen Abliterated 역할극: 설정 및 API 설정

역할극에서는 거부 행위가 가장 큰 문제를 일으킵니다. 한 번의 잘못된 경고가 장면을 망칠 수 있기 때문입니다. 여기 무검열 엔드포인트를 사용한 픽션 및 동반자 채팅을 위한 작동하는 설정이 있습니다. 샘플러 값과 비용이 포함됩니다.
주요 포인트
- SillyTavern에서 사이트의 /v1 URL과 모델 uncensored가 있는 커스텀 OpenAI 호환 소스를 추가하세요.
- temperature 0.8과 top_p 0.9 근처에서 시작한 후 한 번에 하나의 값을 변경하세요.
- 긴 장면은 매 턴마다 히스토리를 다시 전송하므로 비용을 통제하기 위해 컨텍스트를 다듬어야 합니다.
- 모델은 텍스트 전용이며 합법적인 성인용으로만 사용해야 하며 미성년자가 관련된 내용은 금지됩니다.
역할극 사용자가 무검열 모델을 찾는 이유
qwen abliterated roleplay을 찾는 사용자는 캐릭터를 유지하는 모델을 원합니다. 일반적인 채팅 모델은 장면에서 벗어나거나 면책 조항을 추가하거나 소설에서 흔한 주제(전쟁, 슬픔, 악당, 공포, 도덕적으로 회색적인 화자 등)를 거부하도록 조정됩니다. 이러한 방해가 몰입을 해치기 때문에 Abliterated 및 기타 무검열 빌드가 존재합니다.
이 기사는 로컬 파일 대신 API를 통해 이러한 세션을 실행하는 것에 관한 것입니다. 여기서 호스팅된 모델은 독립적인 제공업체의 오픈 웨이트 모델 중 하나로, 합법적인 성인용으로 콘텐츠 거부 없이 응답하도록 조정되었습니다. 공식 Qwen API가 아니며 특정 abliterated Qwen 체크포인트라고 주장하지 않습니다. 자체 모델로 취급하고 자체 캐릭터로 판단하세요.
예외 없이 적용되는 한 가지 경계가 있습니다: 미성년자가 관련된 성적 콘텐츠는 금지됩니다. 캐릭터는 성인이어야 합니다. 이 페이지의 나머지는 장르에 관계없이 동일한 기술적인 측면에 집중합니다.
SillyTavern 연결
SillyTavern은 모든 OpenAI 호환 엔드포인트와 통신할 수 있습니다. 메뉴 이름은 버전마다 다르지만 개념적인 단계는 항상 동일합니다: API 연결 패널을 열고 Chat Completion 소스를 선택한 다음 커스텀 또는 OpenAI 호환 옵션을 선택하세요.
- API 키 페이지에서 키를 생성하세요. 신규 계정은 카드 없이 7일 동안 유효한 $0.50의 무료 체험 크레딧을 한 번의 클릭으로 청구할 수 있습니다.
- SillyTavern에서 Chat Completion을 선택한 다음 커스텀 소스를 선택하세요.
- 엔드포인트 URL을
https://api.qwenabliterated.top/v1로 설정하세요. - API 키 필드에 키를 붙여넣으세요.
- 모델 ID로
uncensored를 입력하거나 연결 버튼이 목록을 가져오면 선택하세요. - 연결을 누르고 짧은 테스트 메시지를 보내세요.
테스트가 401 오류로 실패하면 키를 다시 확인하세요. 404 오류로 실패하면 URL이 /v1로 끝나고 그 뒤에 추가 경로가 없는지 확인하세요. 문서 페이지에는 엔드포인트가 나열되어 있습니다.
자체 스크립트 사용
자체 프론트 엔드나 봇을 작성하는 경우 동일한 설정이 SDK에 들어갑니다. 히스토리를 유지하는 최소한의 루프:
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")
history = [{"role": "system", "content": open("character.txt").read()}]
while True:
user = input("> ")
history.append({"role": "user", "content": user})
out = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.85,
top_p=0.9,
frequency_penalty=0.3,
max_tokens=500,
)
text = out.choices[0].message.content
history.append({"role": "assistant", "content": text})
print(text)캐릭터를 유지하는 시스템 프롬프트
시스템 메시지가 대부분의 작업을 수행합니다. 짧고 구체적으로 작성하며, 전기보다는 행동에 대한 지침 형식으로 작성하세요. 잘 유지되는 패턴:
You are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.
각 줄이 있는 이유에 대한 참고 사항. 길이 목표는 응답이 불어나는 것을 방지합니다. 사용자 캐릭터를 대신해서 말하지 않는 규칙은 사람들이 가장 흔히 수정하는 부분입니다. 마지막 줄은 모델이 두 턴 후에 다른 설정을 발명하지 않도록 설정을 고정합니다. 흉터, 빚 또는 습관과 같이 캐릭터에 중요한 사실은 배경 설명 페이지가 아닌 프롬프트의 몇 줄에 속합니다.
긴 채팅에서 모델이 캐릭터에서 벗어나면 시작 프롬프트를 길게 늘리기보다는 히스토리의 끝에 가까운 곳에 짧은 리마인더 메시지로 주요 규칙을 반복하세요.
시작할 샘플러 값
API는 temperature, top_p, stop, seed 및 penalties를 그대로 전달합니다. 사용자가 조정할 수 있는 값은 이뿐이며 로컬 도구에서 존재하는 다른 샘플러는 사용되지 않을 수 있으므로 이를 기대하지 마십시오.
| 항목 | 시작 값 | 변경 사항 |
|---|---|---|
| temperature | 0.8 ~ 1.0 | 높을수록 어휘가 더 다양해집니다. 1.1 이상에서는 비일관성이 예상됩니다. |
| top_p | 0.9 | 희귀한 단어 선택의 꼬리 부분을 잘라냅니다. |
| frequency_penalty | 0.2 ~ 0.5 | 같은 단어와 구문을 반복하는 것을 억제합니다. |
| presence_penalty | 0 ~ 0.3 | 모델을 새로운 주제로 유도합니다. |
| max_tokens | 300~600 | 응답 길이를 제한합니다. 선택 사항입니다. |
| 정지 | 캐릭터 이름 뒤에 콜론(:) | 모델이 당신의 다음 줄을 작성하는 것을 방지합니다. |
판단하기 전에 한 번에 하나의 값을 변경하고 몇 턴을 플레이하세요. 두 설정을 공정하게 비교하려면 seed을 고정 숫자로 설정하여 동일한 프롬프트가 동일한 시작 지점을 제공하도록 하세요.
시작 메시지 및 장면 훅
채팅의 첫 번째 메시지가 어떤 지시문보다 분위기를 조성하는 데 더 큰 영향을 미칩니다. 설명 없이 대화 두 줄로만 이루어져 있으면 응답이 짧아집니다. 원하는 스타일로 장면을 설정하는 전체 단락으로 시작하면 모델이 그 길이와 어조를 복사합니다. 읽고 싶은 내용을 예시로 들어 첫 메시지를 작성하십시오.
장면에 압력 지점을 제공하세요. 수명이 다하는 생명 유지 시스템이 있는 표류하는 팀은 바에 앉아 있는 팀보다 더 흥미로운 턴을 생성합니다. 모델이 항상 밀고 나갈 무언가가 있기 때문입니다. 장면이 정체될 때 메시지 도착, 문 열림, 강제 결정 등 사용자 측에서 이벤트를 추가하세요. 대부분의 평범한 역할극은 모델 문제가 아니라 스테이크 부족입니다.
여러 캐릭터의 경우 시스템 프롬프트에서 각 캐릭터의 이름과 목소리에 대한 단일 줄을 포함하세요. "Doctor Imre: 건조하고 정확하며 결코 욕하지 않음"과 같습니다. 독특한 말버릇은 모델이 긴 히스토리 전반에 걸쳐 목소리를 구분하고 두 목소리가 섞였을 때 당신이 발견하기 쉽게 만듭니다.
100k 컨텍스트 관리
컨텍스트 창은 100,000 토큰이며 프롬프트와 생성된 응답이 함께 포함되므로 잘리기 전에 매우 긴 장면이 진행될 수 있습니다. 하지만 길다고 해서 항상 더 좋은 것은 아닙니다. 채팅 모델은 거대한 이력 중간에 숨겨진 세부 사항에 덜 집중하며, 모든 턴에서 전체 대본이 다시 전송되므로 입력으로 지불하는 금액이 늘어납니다.
실용적인 습관:
- 프론트 엔드에서 컨텍스트 크기를 16,000에서 32,000 토큰 정도로 설정하고 오래된 턴이 떨어지도록 하세요.
- 때때로 모델에게 이벤트 및 캐릭터 상태의 짧은 요약을 요청한 다음 시스템 프롬프트에 붙여넣고 오래된 턴을 지우세요.
- 이름, 장소 및 약속에 대해 "변경되지 않아야 하는 사실" 목록을 시스템 메시지에 유지하세요.
- 응답 크기가 증가하지 않도록 스톱 시퀀스와 길이 캡을 사용하세요.
또한 이것이 텍스트 모델임을 기억하세요. 이미지나 음성을 생성하지 않으므로 동반자 앱의 아바타와 오디오에는 다른 도구가 필요합니다.
세션 비용
가격은 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50입니다. 히스토리가 30,000 토큰에 도달하고 각 응답이 약 400 토큰인 긴 장면을 고려하세요. 한 턴의 비용은 입력에 대해 30,000 x $0.15 / 1M = $0.0045, 출력에 대해 400 x $0.50 / 1M = $0.0002이므로 $0.0047입니다. 100턴의 비용은 $0.47입니다.
12,000 토큰 창이 있는 동일한 세션은 12,000 x $0.15 / 1M = $0.0018 + $0.0002이므로 턴당 $0.002, 100턴당 $0.20이 듭니다. 컨텍스트 트리밍이 가장 쉬운 절약 방법입니다.
구독제는 없습니다. $20에서 $500까지 전액 선불 크레딧을 충전할 수 있으며, $50 이상은 +5%, $100 이상은 +10%, $200 이상은 +15%의 추가 크레딧을 제공하며 크레딧은 만료되지 않습니다. 암호화폐(TRC20의 USDT, Base의 USDC)로 결제하십시오. 실패하거나 거부된 요청은 청구되지 않습니다. 자세한 내용은 가격 페이지에서 확인하십시오.
자주 발생하는 문제
- 응답이 반복됩니다. frequency_penalty를 약간 높이거나 오래된 턴을 정리하거나 컨텍스트 크기를 줄이세요.
- 모델이 당신의 대사를 작성합니다. 시스템 프롬프트에 규칙을 추가하고 캐릭터 이름에 중지 시퀀스를 설정하세요.
- 장면 중 HTTP 429 오류 발생. 속도 제한에 도달했습니다: 전체 키의 경우 동시 요청 8개 및 분당 300개, 체험 키의 경우 동시 요청 2개 및 분당 60개입니다.
Retry-After값을 기다렸다가 다시 전송하세요. 스트리밍은 종료될 때까지 동시 요청 슬롯을 유지하므로, 중단한 스트림은 닫으세요. - 캐릭터가 세부 사항을 잊어버립니다. 핵심 사실을 시스템 프롬프트에 넣고 오래된 턴을 요약하세요.
프롬프트는 학습에 사용되지 않습니다. 다른 토큰 기반 결제 옵션과의 비교가 필요하면 비교 가이드를 참조하세요.
더 많은 가이드
질문과 답변
SillyTavern과 함께 사용할 수 있나요?
네. 커스텀 OpenAI 호환 엔드포인트를 선택하고, 사이트의 /v1 URL, API 키, 모델 ID uncensored를 입력하세요.
롤플레이에 가장 적합한 temperature 값은 무엇인가요?
대부분의 사용자는 top_p를 0.9 근처로 설정하고 temperature를 0.8에서 1.0 사이로 시작합니다. 한 번에 하나의 값만 변경하고 여러 턴에 걸쳐 테스트하세요.
모델이 이미지나 음성을 생성합니까?
아니요. 텍스트 전용 모델이므로 이미지, 오디오, 비디오는 별도 도구를 통해 생성해야 합니다.
콘텐츠 제한이 있나요?
합법적인 성인용 사용용으로 설계되었으며, 모든 캐릭터는 성인이어야 합니다. 미성년자가 포함된 성적 콘텐츠는 절대 허용되지 않습니다.
긴 역할극은 비용이 얼마나 들까요?
30,000토큰의 히스토리, 400토큰의 응답 기준, 턴당 약 $0.0047 또는 100턴당 $0.47입니다. 컨텍스트 창을 줄이면 비용이 더 낮아집니다.