ID ▾

Qwen 3.5 Abliterated: Maknanya dan Opsi Terhost

Ilustrasi isometrik blok jaringan saraf dengan satu lapisan yang disorot dihapus, terhubung ke server

Diperbarui

Build Qwen abliterated adalah checkpoint bobot terbuka modifikasi komunitas yang tidak lagi menolak sebagian besar permintaan. Halaman ini menjelaskan metode, trade-off, dan kapan endpoint terhost adalah rute yang lebih mudah.

Poin utama

  • Abliteration menghapus arah penolakan yang dipelajari dari bobot; ini bukan pelatihan ulang.
  • Menjalankan checkpoint modifikasi sendiri membutuhkan memori GPU yang cukup dan tumpukan server.
  • Endpoint kompatibel OpenAI terhost menghilangkan kebutuhan perangkat keras dan mengenakan biaya per token.
  • Situs ini adalah layanan independen, bukan API Qwen resmi.

Apa yang dimaksud dengan qwen 3.5 abliterated

Ketika seseorang mencari qwen 3.5 abliterated, mereka biasanya menginginkan salah satu dari dua hal: checkpoint yang dapat diunduh dari model Qwen yang perilaku penolakannya telah dihapus, atau cara untuk berbicara dengan model tersebut tanpa memiliki GPU. Keduanya adalah tujuan yang wajar, dan keduanya mengarah pada setup yang berbeda, jadi penting untuk memisahkannya sejak awal.

Qwen adalah keluarga model bahasa bobot terbuka yang diterbitkan oleh Alibaba. Rilis base dan instruct dilatih untuk menolak permintaan tertentu. "Abliterated" adalah label yang diberikan oleh uploader komunitas pada varian di mana perilaku penolakan tersebut telah dikurangi secara bedah setelah fakta. Nama ini merupakan gabungan dari "ablation" dan "obliterated", dan nama ini melekat.

Satu peringatan tentang nomor versi. Keluarga model sering mendapatkan rilis baru, dan uploader menamai file mereka berdasarkan base mana yang mereka mulai dari. Kami tidak melacak build mana yang paling baru, dan tidak ada di halaman ini yang mengklaim bahwa model terhost kami adalah checkpoint Qwen tertentu. Yang bisa kami jelaskan dengan akurat adalah tekniknya, trade-off praktisnya, dan layanan yang kami jalankan.

Cara kerja abliteration

Peneliti yang mempelajari penolakan pada model obrolan menemukan bahwa kecenderungan untuk menolak dapat diringkas, dengan perkiraan yang baik, sebagai satu arah dalam ruang aktivasi internal model. Berikan model himpunan prompt yang ditolaknya dan himpunan yang diterimanya, bandingkan state tersembunyi, dan perbedaannya menunjukkan arah "penolakan".

Abliterasi mengambil arah tersebut dan mengedit matriks bobot sehingga model tidak lagi dapat menulis sepanjang arah itu. Edit tersebut adalah proyeksi yang diterapkan sekali pada bobot yang disimpan. Tidak ada penurunan gradien pada dataset besar, itulah mengapa satu orang dengan satu mesin dapat menerbitkan checkpoint yang dimodifikasi dalam hitungan jam setelah model dasar muncul.

Perbedaannya dengan fine-tuning

Fine-tune mengubah perilaku dengan melatih pada contoh baru. Fine-tune dapat mengajarkan gaya, persona, atau format. Abliterasi hanya menghapus perilaku; tidak ada yang ditambahkan. Model yang telah diabliterasi menulis dengan suara yang sama seperti aslinya dan mempertahankan pengetahuan yang sama, kecuali sebagian besar keragu-raguan.

Banyak model "tanpa sensor" yang diterbitkan menggabungkan kedua langkah: abliterasi terlebih dahulu, lalu fine-tune ringan untuk memperbaiki kehilangan kualitas. Jika kartu model tidak menyebutkan mana yang digunakan, anggap Anda tidak dapat mengetahuinya.

Dampaknya terhadap kualitas

Mengedit bobot tidak gratis. Beberapa checkpoint yang diabliterasi kehilangan sedikit akurasi pada penalaran atau pemenuhan instruksi, dan beberapa menjadi repetitif atau menyimpang dari karakter dalam obrolan panjang. Kualitas bervariasi berdasarkan pengunggah, seberapa agresif arah dihapus, dan kuantisasi yang Anda unduh. Perlakukan setiap build sebagai modelnya sendiri dan ujikan pada prompt Anda sendiri.

Mengapa label ini bukan jaminan kualitas

Kartu model untuk unggahan yang diabliterasi ditulis oleh individu, bukan oleh laboratorium dengan proses rilis. Klaim seperti "tanpa penolakan" atau "kualitas sama seperti aslinya" biasanya didasarkan pada sejumlah kecil prompt. Itu cukup untuk hobi, tetapi itu adalah bukti tipis untuk apa pun yang ingin Anda andalkan.

Pemeriksaan yang masuk akal sebelum Anda membangun di atas build apa pun: tulis dua puluh prompt dari kasus penggunaan nyata Anda, termasuk beberapa yang akan ditolak oleh model instruksi asli, jalankan, dan baca jawabannya. Perhatikan seberapa sering model tetap pada tugas, bagaimana menangani prompt sistem panjang, dan apakah mempertahankan format seperti JSON. Tes kecil ini memberi tahu Anda lebih banyak daripada angka papan peringkat.

Menjalankan build yang diabliterasi sendiri

Jika Anda menginginkan kontrol penuh, inferensi lokal adalah jalur yang sah. Anda mengunduh bobotnya, memilih format kuantisasi, dan menyajikannya dengan runtime seperti llama.cpp, Ollama, atau vLLM. Tidak ada yang keluar dari mesin Anda, dan Anda dapat mengganti checkpoint kapan saja Anda suka.

Biaya-biaya ini praktis, bukan konseptual:

  • Memori. Model dan cache KV-nya harus muat dalam VRAM atau RAM sistem cepat. Varian Qwen yang lebih besar membutuhkan perangkat keras kelas workstation, dan konteks panjang meningkatkan ukuran cache secara tajam.
  • Waktu penyiapan. Memilih kuantisasi, template obrolan, dan pengaturan sampler membutuhkan trial and error. Template obrolan yang salah saja dapat membuat model yang baik terlihat rusak.
  • Kecepatan. GPU konsumen dan offload CPU menghasilkan token secara lambat dibandingkan dengan server yang disesuaikan untuk throughput, yang penting untuk pekerjaan batch.
  • Pemeliharaan. Checkpoint baru muncul terus-menerus, sehingga Anda akhirnya mengunduh ulang dan menguji ulang.

Untuk seorang penghobi dengan kartu cadangan, itu adalah akhir pekan yang menyenangkan. Untuk tim yang membutuhkan endpoint stabil di dalam aplikasi, itu adalah proyek sampingan yang bersaing dengan proyek utama.

Alternatif terhost

Kami menjalankan API terhosting untuk orang yang menginginkan perilaku tanpa perangkat keras. Kami melayani satu model bobot terbuka, dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Anda memanggilnya sebagai uncensored melalui antarmuka yang kompatibel dengan OpenAI.

Pahami dengan jelas apa ini dan apa bukan. Ini bukan API Qwen resmi, dan ini bukan router yang meneruskan ke Alibaba atau vendor lain. Kami tidak menerbitkan kartu model yang mengklaim rilis Qwen tertentu, jadi jangan perlakukan layanan ini sebagai pengganti langsung untuk checkpoint bernama tertentu. Jika Anda membutuhkan build tersebut, dengan keanehan persisnya, jalankan secara lokal.

Jika Anda membutuhkan model obrolan tanpa sensor yang berperilaku sama setiap hari, dengan URL stabil, hosting lebih sederhana. Fakta yang relevan:

  • Metode: POST /v1/chat/completions dan GET /v1/models.
  • Streaming, pemanggilan fungsi, dan mode JSON didukung.
  • Jendela konteks 100.000 token, prompt plus penyelesaian.
  • Teks saja. Tidak ada gambar, audio, video, embedding, atau fine-tuning.
  • Prompt tidak digunakan untuk pelatihan.
  • Satu batas keras: tidak ada konten seksual yang melibatkan anak di bawah umur.

Dokumentasi API mencantumkan setiap parameter yang didukung, dan panduan perbandingan membahas bagaimana hosting bayar-per-token dibandingkan dengan cara lain untuk mendapatkan model gaya Qwen.

Coba dalam lima baris

Karena antarmuka mengikuti skema OpenAI, SDK OpenAI apa pun berfungsi setelah mengubah base URL dan kunci. Berikut adalah contoh terpendek yang berguna dengan Python:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.qwenabliterated.top/v1",
    api_key="YOUR_API_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)

Panggilan yang sama dengan curl:

curl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

Untuk mencantumkan apa yang dapat diakses oleh kunci, panggil GET /v1/models. Buat kunci di halaman kunci API. Akun baru dapat mengklaim $0,50 kredit uji coba dengan satu klik, berlaku selama 7 hari dan tanpa perlu kartu, yang cukup untuk beberapa ratus permintaan uji pendek.

Lokal atau terhost: daftar keputusan

Pilih inferensi lokal ketika:

  • Anda harus menyimpan setiap prompt di mesin Anda sendiri, tanpa panggilan jaringan sama sekali.
  • Anda membutuhkan satu checkpoint komunitas, kuantisasi, atau LoRA tertentu.
  • Anda sudah memiliki GPU yang sesuai dan menikmati penyetelan tumpukan teknologi.

Pilih endpoint terhosting ketika:

  • Anda ingin meluncurkan aplikasi atau bot dan membutuhkan URL yang tetap aktif sementara Anda mengerjakan sesuatu yang lain.
  • Anda membutuhkan konteks panjang tanpa membeli memori untuk itu.
  • Penggunaan Anda bersifat lonjakan, sehingga membayar per token lebih baik daripada memiliki perangkat keras yang menganggur.
  • Anda ingin menggunakan kembali kode klien gaya OpenAI yang ada.

Pendekatan campuran umum: prototipe prompt pada API terhosting, lalu putuskan apakah build lokal layak dilakukan. Karena keduanya menggunakan format obrolan yang sama, berpindah di antara keduanya sebagian besar berarti mengubah base URL.

Biaya yang dikeluarkan

Biaya: $0,15 per 1M token input dan $0,50 per 1M token output, dari saldo prabayar tanpa langganan. Permintaan yang gagal atau ditolak tidak dikenakan biaya, dan saldo tidak kedaluwarsa.

Contoh perhitungan: prompt 3.000 token dengan jawaban 700 token biayanya 3.000 x $0,15 / 1M = $0,00045 untuk input ditambah 700 x $0,50 / 1M = $0,00035 untuk output, total $0,0008. Seribu panggilan seperti itu menjadi $0,80.

Top-up adalah jumlah bulat apa pun dari $20 hingga $500, dengan bonus 5% dari $50, 10% dari $100 dan 15% dari $200. Anda hanya dapat membayar dengan kripto (USDT di TRC20, USDC di Base). halaman harga memiliki tabel saat ini.

Tanya jawab

Apakah ini API Qwen resmi?

Tidak. Ini adalah layanan independen yang menjalankan satu model bobot terbuka dari penyedia independen. Layanan ini tidak dioperasikan oleh Alibaba atau vendor model lainnya.

Apakah model yang dihosting adalah versi Qwen 3.5?

Kami tidak mengklaim rilis Qwen tertentu. Anda memanggilnya sebagai uncensored, dan Anda harus mengujinya pada prompt Anda sendiri untuk melihat apakah itu sesuai dengan penggunaan Anda.

Apakah abliteration membuat model lebih cerdas?

Tidak. Ini menghapus perilaku penolakan dan tidak menambah pengetahuan. Kualitas bisa tetap sama atau turun sedikit tergantung pada versi pembangunannya.

Dapatkah saya menggunakannya dengan kode OpenAI yang ada?

Ya. Ubah base URL dan kuncinya, atur model menjadi uncensored, dan panggilan penyelesaian obrolan standar akan berfungsi, termasuk streaming dan pemanggilan fungsi.

Konten apa saja yang tidak diizinkan?

Layanan ini dirancang untuk penggunaan dewasa yang sah. Konten seksual yang melibatkan anak di bawah umur tidak pernah diizinkan.

Kunci Anda hanya membutuhkan satu formulir lagi

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API