TR ▾

Qwen Abliterated Rol Yapma: Ayarlar ve API Kurulumu

Metin modeliyle rol yapmayı gösteren sohbet balonları ve maskeler içeren sahne

Güncellendi

Rol yapmada reddetme davranışı en çok zarar verir çünkü tek bir rastgele uyarı sahneyi bozar. İşte sansürsüz bir uç nokta ile kurgu ve arkadaş sohbetleri için çalışan bir kurulum, örnekleme değerleri ve maliyetler dahil.

Temel noktalar

  • SillyTavern'de sitenin /v1 URL'si ve uncensored modeli ile özel OpenAI uyumlu bir kaynak ekleyin.
  • Sıcaklık 0.8 ve top_p 0.9 civarında başlayın, ardından bir değeri tek tek değiştirin.
  • Uzun bir sahne her turda geçmişi yeniden gönderir, bu yüzden maliyeti kontrol etmek için bağlamı kısaltın.
  • Model sadece metin üretir; yalnızca yasal yetişkin kullanımı ve reşit olmayanlar içermeyen içerikler.

Neden rol yapma kullanıcıları uncensored modeller arıyor

qwen abliterated roleplay arayanlar, karakterini koruyan bir model ister. Standart sohbet modelleri, sahneden çıkmak, açıklama eklemek veya kurguda sıradan olan temaları (savaş, yas, kötü karakterler, korku, ahlaki açıdan gri anlatıcılar) reddetmek üzere ayarlanmıştır. Abliterated ve diğer sansürsüz yapılar, bu kesintilerin atmosferi bozması nedeniyle mevcuttur.

Bu makale, bu tür bir oturumu yerel bir dosya yerine bir API üzerinden çalıştırmak hakkındadır. Burada barındırılan model, bağımsız bir sağlayıcıdan gelen bir açık ağırlıklı modeldir ve yasal yetişkin kullanım için içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır. Bu resmi Qwen API'si değildir ve belirli bir abliterated Qwen checkpoint'ı olduğunu iddia etmiyoruz. Onu kendi modeli olarak değerlendirin ve karakterleriniz üzerinde yargılayın.

İstisnasız bir sınır vardır: reşit olmayanlar içeren cinsel içerik yok. Karakterler yetişkin olmalıdır. Sayfanın geri kalanı teknik tarafa odaklanır; bu, yazdığınız türden bağımsız olarak aynıdır.

SillyTavern'i bağlayın

SillyTavern herhangi bir OpenAI uyumlu uç noktaya bağlanabilir. Menü adları sürümler arasında değişse de yol her zaman aynı yaklaşımı temsil eder: API bağlantı panelini açın, Chat Completion kaynağını seçin ve özel veya OpenAI uyumlu seçeneği belirleyin.

  1. API anahtarı sayfasında bir anahtar oluşturun. Yeni hesaplar, 7 gün geçerli ve kart gerektirmeyen tek tıkla $0.50 deneme kredisi talep edebilir. Bakiye yüklemeleri yalnızca kripto (USDT TRC20, USDC Base) ile yapılır.
  2. SillyTavern'de Chat Completion'u ve ardından özel kaynağı seçin.
  3. Uç nokta URL'sini https://api.qwenabliterated.top/v1 olarak ayarlayın.
  4. Anahtarı API anahtarı alanına yapıştırın.
  5. Model kimliği olarak uncensored girin veya bağlan butonu bir model getirirse listeden seçin.
  6. Bağlan'a basın ve kısa bir test mesajı gönderin.

Test 401 hatası verirse anahtarı yeniden kontrol edin. 404 hatası verirse URL'nin /v1 ile bittiğinden ve ardından ekstra yol içermediğinden emin olun. dokümantasyon sayfası uç noktaları listeler.

Kendi betiğinizi kullanma

Kendi ön yüzünüzü veya bir botu yazıyorsanız, aynı ayarlar SDK'ya uygulanır. Geçmişi koruyan minimal bir döngü:

from openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": open("character.txt").read()}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    out = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.85,
        top_p=0.9,
        frequency_penalty=0.3,
        max_tokens=500,
    )
    text = out.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    print(text)

Bir karakteri koruyan sistem istemi

Sistem mesajı işin çoğunu halleder. Kısa, somut ve biyografi gibi değil, davranış hakkında talimatlar içerecek şekilde yazın. İyi sonuç veren bir kalıp:

You are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.

Her satırın neden orada olduğuna dair notlar. Bir uzunluk hedefi, yanıtların şişmesini engeller. Kullanıcının karakteri için konuşmama kuralı, insanların yaptığı en yaygın düzeltmedir. Son satır, modelin iki dönüş sonra farklı bir ayar uydurmaması için ortamı düzeltir. Bir yara, borç veya alışkanlık gibi karakter için önemli gerçekler, bir geri hikaye sayfasında değil, aynı istemin birkaç satırında yer almalıdır.

Model uzun bir sohbette karakterden uzaklaşırsa, açılış istemini uzatmak yerine ana kuralları geçmişin sonuna yakın bir hatırlatma mesajı olarak tekrarlayın.

Başlangıç olarak kullanılacak örnekleme değerleri

API sıcaklık, top_p, stop, seed ve ceza parametrelerini geçirir. Bunlar sahip olduğunuz ayar düğmeleridir; yerel araçlarda bulunan diğer örnekleyiciler mevcut olmayabilir, bu yüzden onlara güvenmeyin.

ÖğeBaşlangıç değeriNeyi değiştirir
sıcaklık0,8 ile 1,0Daha yüksek değer daha çeşitli sözcükler verir; yaklaşık 1.1'in üzerinde tutarsızlık bekleyin.
top_p0.9Sözcük seçimlerinin düşük olasılıklı kuyruğunu kısaltır.
frequency_penalty0,2 ile 0,5Aynı sözcük ve kalıpların tekrarlanmasını engeller.
presence_penalty0 ile 0.3Modeli yeni konulara doğru iter.
max_tokens300 ile 600Yanıt uzunluğunu sınırlar; isteğe bağlıdır.
durdurKarakterinizin adı ve iki noktaModelin sizin bir sonraki satırınızı yazmasını engeller.

Bir değeri değiştirin ve yargılamadan önce birkaç dönüş oynayın. İki ayarı adil bir şekilde karşılaştırmak istiyorsanız, aynı istemin aynı başlangıç noktası vermesi için seed'i sabit bir sayıya ayarlayın.

Açılış mesajları ve sahne kancaları

Sohbetteki ilk mesaj, herhangi bir talimattan daha fazla ton belirler. İki satır diyalog ve açıklama yoksa yanıtlar kısa olur. İstediğiniz stilde sahne kurma ile dolu bir paragraf verirse model o uzunluğu ve üslubu kopyalar. İstediğiniz geri dönüşü örnekleyen bir açılış yazın.

Sahneye bir baskı noktası verin. Yaşam desteği sistemi bozulan bir ekip, bir barda oturan bir ekibden daha ilginç turlar üretir çünkü model üzerinde duracak bir şey her zaman vardır. Sahne tıkanırsa kendi tarafınızdan bir olay ekleyin: bir mesaj gelir, bir kapı açılır, bir karar verilmesi gerekir. Çoğu düz rol yapma bir model sorunu değil, bir risk eksikliğidir.

Birden fazla karakter için, sistem isteminde her birini ses tonu hakkında tek bir satırla adlandırın, örneğin "Doktor İmre: kuru, kesin, asla küfür etmez". Ayrı konuşma alışkanlıkları, modelin uzun bir geçmiş boyunca sesleri ayırt etmesini ve sizin de iki sesin karıştığını fark etmenizi kolaylaştırır.

100k bağlamın yönetimi

Bağlam penceresi 100.000 tokenlık olup, istem ve tamamlama birlikte çalışır, bu nedenle bir sahne kesilmeden önce çok uzun sürebilir. Ancak uzun olması otomatik olarak daha iyi olduğu anlamına gelmez. Sohbet modelleri, büyük bir geçmişin ortasına gömülen detaylara daha az dikkat eder ve her dönüş tüm konuşma geçmişini yeniden gönderir, bu da girdi olarak ödediğiniz bir şeydir.

Pratik alışkanlıklar:

  • Ön yüzünüzde bağlam boyutunu 16.000 ile 32.000 token gibi bir değere ayarlayın ve eski turların kaybolmasına izin verin.
  • Bazen modelten olayların ve karakter durumunun kısa bir özetini isteyin, sonra bunu sistem istemine yapıştırın ve eski turları temizleyin.
  • Sistem mesajında isimler, yerler ve vaatler için "doğru kalması gereken gerçekler" listesi tutun.
  • Yanıtların kademeli olarak büyümemesi için durma dizileri ve uzunluk sınırı kullanın.

Ayrıca bunun bir metin modeli olduğunu unutmayın. Resim veya ses üretmez; bu nedenle bir arkadaş uygulamasındaki avatarlar ve ses için diğer araçlara ihtiyaç vardır.

Bir oturumun maliyeti

Fiyatlandırma 1M girdi token başına $0,15 ve 1M çıktı token başına $0,50'dir. Geçmiş 30.000 tokena ulaşmış ve her yanıt yaklaşık 400 token uzunluğunda olan uzun bir sahne düşünün. Bir tur maliyeti girdi için 30.000 x $0,15 / 1M = $0,0045 ve çıktı için 400 x $0,50 / 1M = $0,0002'dir; toplam $0,0047 eder. Yüz böyle tur $0,47 eder.

12.000 tokenlık pencere ile aynı oturum 12.000 x $0,15 / 1M = $0,0018 artı $0,0002, yani tur başına $0,002 ve yüz tur için $0,20 eder. Bağlamı kısaltmak en kolay tasarruf yöntemidir.

Abonelik yoktur. $20 ile $500 arasında herhangi bir tam miktarı peşin ödersiniz, $50'den itibaren +%5, $100'den itibaren +%10 ve $200'den itibaren +%15 eklenir ve kredi asla sona ermez. Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapın. Başarısız veya reddedilen istekler için ücret alınmaz. Detaylar fiyatlandırma sayfasında yer alır.

Yaygın sorunlar

  • Yanıtlar tekrarlı hale gelir. frequency_penalty değerini biraz artırın, eski turları kısaltın veya bağlam boyutunu düşürün.
  • Model sizin satırlarınızı yazar. Kuralı sistem istemine ekleyin ve karakterinizin adına bir durma dizisi ayarlayın.
  • HTTP 429 sahne sırasında. Bir limite ulaştınız: tam anahtar için 8 eşzamanlı istek ve dakikada 300, deneme anahtarı için 2 ve 60. Retry-After değerini bekleyin ve yeniden gönderin. Akış, sona erene kadar bir eşzamanlılık slotu tutar, bu yüzden terk ettiğiniz akışları kapatın.
  • Karakterler detayları unutur. Önemli gerçekleri sistem istemine taşıyın ve eski dönüşleri özetleyin.

İstemler eğitim için kullanılmaz. Diğer token başına ödeme seçeneklerinin nasıl karşılaştırıldığı hakkında daha fazla bilgi için karşılaştırma kılavuzu mevcuttur.

Sorular ve cevaplar

Bunu SillyTavern ile kullanabilir miyim?

Evet. Özel bir OpenAI uyumlu uç nokta ile Chat Completion kaynağını seçin, sitenin /v1 URL'sini, anahtarınızı ve uncensored model kimliğini girin.

Rol yapma için en iyi sıcaklık nedir?

Çoğu kişi top_p 0.9 civarında 0.8 ile 1.0 arasında başlar. Bir değeri bir seferde değiştirin ve birkaç dönüş boyunca test edin.

Model ses oluşturur mu?

Hayır. Sadece metindir, bu nedenle resimler, sesler ve videolar için ayrı araçlar gerekir.

İçerik sınırlamaları var mı?

Yasal yetişkin kullanım için tasarlanmıştır ve tüm karakterler yetişkin olmalıdır. Reşit olmayanlar içeren cinsel içerik asla izin verilmez.

Uzun bir rol yapma oyunu ne kadar tutar?

30.000 tokenlık geçmiş ve 400 tokenlık yanıtlarla, dönüş başına yaklaşık $0.0047 veya yüz dönüş için $0.47. Daha kısa bağlam bunu düşürür.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al