Roleplay Qwen Abliterated: Pengaturan dan Setup API

Mengapa pengguna roleplay mencari model tanpa sensor

Orang yang mencari roleplay qwen abliterated menginginkan model yang tetap dalam karakter. Model obrolan standar disesuaikan untuk keluar dari adegan, menambahkan peringatan, atau menolak tema yang biasa dalam fiksi: perang, duka, penjahat, horor, narator abu-abu moral. Versi abliterated dan model tanpa sensor lainnya ada karena gangguan tersebut merusak imersi.

Artikel ini tentang menjalankan sesi semacam itu melalui API daripada file lokal. Model yang di-host di sini adalah satu model bobot terbuka dari penyedia independen, disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API Qwen resmi, dan kami tidak mengklaim ini adalah checkpoint Qwen abliterated tertentu. Anggap ini sebagai modelnya sendiri dan nilai berdasarkan karakter Anda sendiri.

Satu batas berlaku tanpa pengecualian: tidak ada konten seksual yang melibatkan anak di bawah umur. Karakter harus dewasa. Sisa halaman ini berfokus pada sisi teknis, yang sama apa pun genre yang Anda tulis.

Hubungkan SillyTavern

SillyTavern dapat terhubung ke endpoint apa pun yang kompatibel dengan OpenAI. Nama menu berubah antar versi, tetapi alurnya selalu sama: buka panel koneksi API, pilih sumber Chat Completion, dan pilih opsi kustom atau kompatibel OpenAI.

1. Buat kunci di halaman kunci API. Akun baru dapat mengklaim $0,50 kredit uji coba dengan satu klik, berlaku selama 7 hari tanpa kartu.
2. Di SillyTavern, pilih Chat Completion lalu sumber kustom.
3. Atur URL endpoint ke https://api.qwenabliterated.top/v1.
4. Tempelkan kunci ke bidang kunci API.
5. Masukkan uncensored sebagai ID model, atau pilih dari daftar jika tombol koneksi mengambil salah satu.
6. Tekan sambungkan dan kirim pesan uji singkat.

Jika pengujian gagal dengan 401, periksa kembali kunci Anda. Jika gagal dengan 404, pastikan URL berakhir dengan /v1 dan tidak ada jalur tambahan setelahnya. Halaman dokumentasi mencantumkan endpoint.

Menggunakan skrip Anda sendiri

Jika Anda menulis antarmuka depan atau bot sendiri, pengaturan yang sama masuk ke SDK. Loop minimal yang menjaga riwayat:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": open("character.txt").read()}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    out = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.85,
        top_p=0.9,
        frequency_penalty=0.3,
        max_tokens=500,
    )
    text = out.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    print(text)

Sistem prompt yang mempertahankan karakter

Pesan sistem melakukan sebagian besar pekerjaan. Buat singkat, konkret, dan ditulis sebagai instruksi tentang perilaku, bukan sebagai biografi. Pola yang bertahan dengan baik:

CopyYou are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.

Catatan tentang mengapa setiap baris ada. Target panjang menghentikan balasan menjadi besar. Aturan tidak berbicara untuk karakter pengguna adalah koreksi paling umum yang dilakukan orang. Baris terakhir memperbaiki pengaturan agar model tidak menemukan pengaturan berbeda dua giliran kemudian. Fakta tentang karakter yang penting, seperti bekas luka, utang, atau kebiasaan, masuk ke beberapa baris prompt yang sama, bukan halaman latar belakang.

Jika model menyimpang dari karakter dalam obrolan panjang, ulangi aturan kunci di dekat akhir riwayat sebagai pesan pengingat singkat daripada memperpanjang prompt pembuka.

Nilai sampling untuk memulai

API meneruskan temperature, top_p, stop, seed, dan penalti. Itu adalah pengaturan yang Anda miliki; sampler lain yang ada di alat lokal mungkin tidak tersedia, jadi jangan mengandalkan mereka.

Ubah satu nilai pada satu waktu dan mainkan beberapa giliran sebelum menilai. Jika Anda ingin membandingkan dua pengaturan secara adil, atur seed ke angka tetap agar prompt yang sama memberikan titik awal yang sama.

Pesan pembuka dan kait adegan

Pesan pertama dalam obrolan menetapkan nada lebih dari instruksi apa pun. Jika itu dua baris dialog tanpa deskripsi, balasan akan pendek. Jika itu paragraf lengkap pengaturan adegan dengan gaya yang Anda inginkan, model menyalin panjang dan register itu. Tulis pembuka sebagai contoh apa yang ingin Anda baca kembali.

Berikan adegan titik tekanan. Awak kapal yang terdampar dengan sistem pendukung kehidupan yang gagal menghasilkan giliran yang lebih menarik daripada awak yang duduk di bar, karena model selalu memiliki sesuatu untuk didorong. Ketika adegan macet, tambahkan peristiwa dari sisi Anda: pesan tiba, pintu terbuka, keputusan dipaksakan. Sebagian besar roleplay datar adalah kurangnya taruhan, bukan masalah model.

Untuk beberapa karakter, beri nama masing-masing dalam prompt sistem dengan satu baris tentang suara, seperti "Dokter Imre: kering, tepat, tidak pernah bersumpah". Kebiasaan bicara yang berbeda membuatnya lebih mudah bagi model untuk menjaga suara tetap terpisah sepanjang riwayat panjang, dan lebih mudah bagi Anda untuk melihat kapan dua telah menyatu.

Mengelola konteks 100k

Jendela konteks adalah 100.000 token, prompt dan respon bersama-sama, sehingga adegan dapat berjalan sangat lama sebelum ada yang dipotong. Panjang tidak otomatis berarti lebih baik. Model obrolan memberikan perhatian lebih sedikit pada detail yang terkubur di tengah riwayat yang sangat besar, dan setiap giliran mengirim ulang seluruh transkrip, yang Anda bayar sebagai input.

Kebiasaan praktis:

• Atur ukuran konteks di antarmuka depan Anda menjadi sekitar 16.000 hingga 32.000 token dan biarkan giliran lama dibuang.
• Setiap kali minta model untuk ringkasan singkat peristiwa dan status karakter, lalu tempelkan ke prompt sistem dan hapus giliran lama.
• Simpan daftar "fakta yang harus tetap benar" dalam pesan sistem untuk nama, tempat, dan janji.
• Gunakan urutan berhenti dan batas panjang agar balasan tidak bertambah ukurannya.

Ingat juga bahwa ini adalah model teks. Ini tidak menghasilkan gambar atau suara, jadi avatar dan audio di aplikasi teman memerlukan alat lain.

Biaya sesi

Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output. Ambil adegan panjang di mana riwayat telah mencapai 30.000 token dan setiap balasan adalah sekitar 400 token. Satu giliran biaya 30.000 x $0,15 / 1M = $0,0045 untuk input dan 400 x $0,50 / 1M = $0,0002 untuk output, jadi $0,0047. Seratus giliran seperti itu biaya $0,47.

Sesi yang sama dengan jendela 12.000 token biaya 12.000 x $0,15 / 1M = $0,0018 ditambah $0,0002, jadi $0,002 per giliran dan $0,20 untuk seratus giliran. Memangkas konteks adalah penghematan termudah yang tersedia.

Tidak ada langganan. Anda membayar sebelumnya jumlah bulat apa pun dari $20 hingga $500, dengan +5% dari $50, +10% dari $100 dan +15% dari $200, dan kredit tidak pernah kedaluwarsa. Bayar dengan kripto (USDT di TRC20, USDC di Base). Permintaan yang gagal atau ditolak tidak dikenakan biaya. Detail ada di halaman harga.

Masalah umum

• Balasan menjadi berulang. Tingkatkan frequency_penalty sedikit, pangkas giliran lama, atau turunkan ukuran konteks.
• Model menulis baris Anda. Tambahkan aturan ke prompt sistem dan atur urutan hentikan pada nama karakter Anda.
• HTTP 429 di tengah adegan. Anda mencapai batas: 8 permintaan paralel dan 300 per menit pada kunci API penuh, serta 2 dan 60 pada kunci uji coba. Tunggu nilai Retry-After dan kirim ulang. Streaming menahan slot konkurensi hingga berakhir, jadi tutup stream yang Anda tinggalkan.
• Karakter lupa detail. Pindahkan fakta kunci ke dalam prompt sistem dan ringkas putaran lama.

Prompt tidak digunakan untuk pelatihan. Untuk membandingkan opsi lain berbasis token, panduan perbandingan memiliki lebih banyak informasi.

Panduan lainnya

• Qwen 3.5 Abliterated: Apa Artinya dan Opsi yang Di-host
• API Qwen Abliterated: Panggil Model yang Dihosting, Tanpa GPU
• Alternatif API Tanpa Sensor