Bu resmi Qwen API'si mi?

Hayır. Bağımsız bir sağlayıcıdan tek bir açık ağırlıklı model çalıştıran bağımsız bir servistir. Alibaba veya başka bir model satıcısı tarafından işletilmez.

Barındırılan model bir Qwen 3.5 yapısı mı?

Belirli bir Qwen sürümünü iddia etmiyoruz. Onu sansürsüz olarak çağırırsınız ve kendi istemlerinizle kullanımınıza uygun olup olmadığını test etmelisiniz.

Abliteration modeli daha zeki yapar mı?

Hayır. Bir reddetme davranışını kaldırır ve bilgi eklemez. Kalite, yapısına bağlı olarak aynı kalabilir veya biraz düşebilir.

Mevcut OpenAI koduyla kullanabilir miyim?

Evet. Base URL'yi ve anahtarı değiştirin, modeli uncensored olarak ayarlayın; akış ve fonksiyon çağırma dahil standart sohbet tamamlama istekleri çalışır.

Hangi içeriklere izin verilmez?

Servis yasal yetişkin kullanımı için tasarlanmıştır. Reşit olmayanlar içeren cinsel içerik asla izin verilmez.

Qwen 3.5 Abliterate Edilmiş: Anlamı ve Barındırılan Seçenekler

Abliterate edilmiş Qwen yapıları, çoğu isteği reddetmeyen topluluk tarafından değiştirilmiş açık ağırlıklı kontrol noktalarıdır. Bu sayfa yöntemi, artı-eksileri ve daha kolay bir yol olan barındırılan uç noktayı açıklar.

Qwen 3.5 abliterate ile kastedilen

Birisi qwen 3.5 abliterated araması yaptığında genellikle iki şeyden birini ister: Reddetme davranışı kaldırılmış bir Qwen modelinin indirilebilir kontrol noktası veya GPU sahibi olmadan böyle bir modelle iletişim kurma yolu. Her iki hedef de makuldür ve farklı kurulumlara yol açar, bu yüzden bunları erken ayırmak faydalıdır.

Qwen, Alibaba tarafından yayınlanan açık ağırlıklı dil modelleri ailesidir. Temel ve talimat sürümleri belirli istekleri reddetmek üzere eğitilmiştir. "Abliterated" (abliterate edilmiş), bu reddedici davranışın sonradan cerrahi olarak azaltıldığı bir varyant için topluluk yükleyicilerinin koyduğu etikettir. Adı "ablation" ve "obliterated" kelimelerinin birleşimidir ve yerleşmiştir.

Sürüm numaraları hakkında bir uyarı. Model aileleri sık sık yeni sürümler çıkarır ve yükleyiciler dosyalarını başladıkları temel sürüme göre adlandırırlar. En güncel yapının hangisi olduğunu takip etmiyoruz ve bu sayfadaki hiçbir şey barındırılan modelimizin belirli bir Qwen kontrol noktası olduğunu iddia etmiyor. Doğru bir şekilde açıklayabileceğimiz şey yöntem, pratik artı-eksiler ve çalıştırdığımız servistir.

Abliteration nasıl çalışır

Sohbet modellerindeki reddetmeyi inceleyen araştırmacılar, reddetme eğiliminin modelin içsel aktivasyon uzayındaki tek bir yön olarak özetlenebileceğini buldu. Modeli reddettiği bir istem seti ve kabul ettiği bir istem seti ile besleyin, gizli durumları karşılaştırın ve fark bir "reddetme yönü" boyunca işaret eder.

Abliteration bu yönü alır ve modelin artık bu yönde yazamaması için ağırlık matrislerini düzenler. Düzenleme, kaydedilmiş ağırlıklara tek seferde uygulanan bir projeksiyondur. Büyük bir veri kümesi üzerinde gradyan inişi olmadığı için, tek bir makinesi olan bir kişinin temel model ortaya çıktıktan saatler içinde değiştirilmiş bir kontrol noktası yayınlaması mümkündür.

Fine-tuning'dan farkı

İnce ayar, yeni örnekler üzerinde eğitim yaparak davranışı değiştirir. Bir tarz, bir kişilik veya bir format öğretebilir. Abliteration sadece bir davranışı kaldırır; hiçbir şey eklemez. Abliterate edilmiş bir model, orijinalinin aynı ses tonunda yazar ve aynı bilgiye sahiptir, ancak çoğu tereddüt eksiktir.

Çoğu yayımlanan "sansürsüz" model her iki adımı da birleştirir: önce abliterate edilir, ardından kalite kaybı gidermek için hafifçe fine-tune edilir. Bir model kartında hangisinin kullanıldığı belirtilmiyorsa, bunu bilemeyeceğinizi varsayın.

Kalitede neye mal olur

Ağırlıkları düzenlemek ücretsiz değildir. Bazı abliterate edilmiş checkpoint'ler mantık yürütme veya talimat takibinde biraz hassasiyet kaybeder ve uzun sohbetlerde bazıları tekrarlayan hale gelebilir veya karakterden kopabilir. Kalite; yükleyiciye, yönün ne kadar agresif şekilde kaldırıldığına ve indirdiğiniz quantizasyona göre değişir. Her derlemayı kendi başına bir model olarak ele alın ve kendi istemlerinizle test edin.

Etiket bir kalite garantisi değildir

Abliterate edilmiş yüklemeler için model kartları bir laboratuvar tarafından değil, bireyler tarafından yazılır. "Reddetme yok" veya "orijinaliyle aynı kalite" gibi iddialar genellikle birkaç isteme dayanır. Bu bir hobi için iyidir, ancak güvenmek istediğiniz herhangi bir şey için ince kanıttır.

Herhangi bir yapıya ekleme yapmadan önce mantıklı bir kontrol: Gerçek kullanım durumunuzdan yirmi istem yazın, orijinal talimat modelinin reddedeceği birkaç tane dahil edin, çalıştırın ve cevapları okuyun. Modelin görevde ne sıklıkla kaldığını, uzun bir sistem istemini nasıl ele aldığını ve JSON gibi bir formatı koruyup korumadığını not edin. Bu küçük test, bir liderlik tablosu numarasından daha fazla şey söyler.

Abliterate edilmiş yapıyı kendi başınıza çalıştırma

Tam kontrol istiyorsanız, yerel çıkarım geçerli bir yoldur. Ağırlıkları indirirsiniz, bir nicemleme formatı seçersiniz ve bunları llama.cpp, Ollama veya vLLM gibi bir çalışma zamanıyla sunarsınız. Hiçbir şey makinenizden ayrılmaz ve istediğiniz zaman kontrol noktalarını değiştirebilirsiniz.

Maliyetler kavramsal değil pratiktir:

Bellek. Model ve KV önbelleği VRAM veya hızlı sistem RAM'e sığmalıdır. Daha büyük Qwen varyantları iş istasyonu sınıfı donanım gerektirir ve uzun bağlamlar önbellek boyutunu keskin şekilde artırır.
Kurulum süresi. Bir niceleme, sohbet şablonu ve örnekleme ayarları seçmek deneme-yanılma gerektirir. Yanlış bir sohbet şablonu bile iyi bir modelin bozuk görünmesine neden olabilir.
Hız. Tüketici GPU'ları ve CPU offload, verimlilik için ayarlanmış bir sunucuya kıyasla yavaş token üretir; bu da toplu işler için önemlidir.
Bakım. Yeni kontrol noktaları sürekli ortaya çıktığı için, yeniden indirmek ve yeniden test etmekle uğraşırsınız.

Yedek kartı olan bir hobi sahibi için bu eğlenceli bir hafta sonu projesidir. Bir uygulama içinde kararlı bir uç nokta gerektiren bir ekip için ise gerçek projeye rakip olan bir yan projedir.

Barındırılan alternatif

Donanım olmadan davranışı isteyenler için barındırılan bir API çalıştırıyoruz. Bağımsız bir sağlayıcı tarafından çalıştırılan ve yasal yetişkin kullanımı için içerik reddetmeleri olmadan cevap verecek şekilde ayarlanmış tek bir açık ağırlıklı modeli sunar. Onu OpenAI uyumlu bir arayüz üzerinden uncensored olarak çağırırsınız.

Bunun ne olduğunu ve ne olmadığını netleştirin. Resmi Qwen API'si değildir ve Alibaba veya başka bir satıcıya yönlendirme yapan bir yönlendirici değildir. Belirli bir Qwen sürümünü iddia eden bir model kartı yayınlamıyoruz, bu yüzden servisi tek bir adlandırılmış kontrol noktasının yerini alan bir şey olarak görmeyin. Tam olarak bu yapıyı, tam olarak o tuhaflıklarıyla istiyorsanız, yerel olarak çalıştırın.

Her gün aynı şekilde davranan bir sansürsüz sohbet modeli istiyorsanız, kararlı bir URL ile barındırma daha basittir. İlgili gerçekler:

Yöntemler: POST /v1/chat/completions ve GET /v1/models.
Akış, fonksiyon çağırma ve JSON modu desteklenir.
100,000 token bağlam penceresi, istem ve tamamlama.
Sadece metin. Resim, ses, video, gömme veya ince ayar yok.
İstemler eğitim için kullanılmaz.
Tek bir sert sınır: reşit olmayanlar içeren cinsel içerik yok.

API belgeleri desteklenen her parametreyi listeler ve karşılaştırma kılavuzu token başına ödemeli barındırmanın bir Qwen tarzı model elde etmenin diğer yollarına göre nasıl karşılaştığını inceler.

Beş satırda deneyin

Arayüz OpenAI şemasını takip ettiği için, base URL ve anahtar değiştirildikten sonra herhangi bir OpenAI SDK çalışır. Python ile en kısa kullanışlı örnek şudur:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.qwenabliterated.top/v1",
    api_key="YOUR_API_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)

curl ile aynı çağrı:

curl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

Anahtarın erişebileceğini listelemek için GET /v1/models çağırın. Anahtarı API anahtarı sayfasında oluşturun. Yeni hesaplar tek tıkla 7 gün geçerli ve kart gerekmeden geçerli olan $0.50 deneme kredisi talep edebilir; bu, birkaç yüz kısa test isteği için yeterlidir.

Yerel mi barındırılan mı: Karar listesi

Şunlar için yerel çıkarım seçin:

Tüm istemleri kendi makinenizde tutmanız gerekir, hiç ağ çağrısı olmadan.
Belirli bir topluluk kontrol noktasına, nicelemeye veya LoRA'ya ihtiyacınız var.
Zaten uygun bir GPU'ya sahipsiniz ve yığını ayarlamaktan keyif alıyorsunuz.

Şu durumlarda barındırılan uç noktayı seçin:

Bir uygulama veya bot göndermek istiyorsunuz ve başka bir şeyle uğraşırken bile çalışır durumda kalacak bir URL'ye ihtiyacınız var.
Bunun için bellek satın almadan uzun bağlam desteğine ihtiyacınız var.
Kullanımınız dalgalı, bu yüzden boşta donanım sahibi olmaktan daha çok token başına ödeme yapmak daha iyi.
Mevcut OpenAI tarzı istemci kodunu yeniden kullanmak istiyorsunuz.

Karışık bir yaklaşım yaygındır: istemleri barındırılan API'de prototipleyin, ardından yerel bir yapının çabaya değip değmeyeceğine karar verin. İkisi de aynı sohbet formatını konuşabildiği için, aralarında geçiş yapmak çoğunlukla bir base URL değiştirmeyi içerir.

Maliyet nedir

Fiyatlandırma, ön ödemeli kredi ile, abonelik olmadan, 1M girdi token başına $0.15 ve 1M çıktı token başına $0.50'dir. Başarısız veya reddedilen istekler için ücret alınmaz ve kredi süresi dolmaz.

Bir işlenmiş örnek: 3.000 tokenlık bir istem ve 700 tokenlık bir yanıt, girdi için 3.000 x $0.15 / 1M = $0.00045 ve çıktı için 700 x $0.50 / 1M = $0.00035 maliyetine sahiptir; toplam $0.0008 eder. Bin böyle çağrı $0.80 eder.

Bakiye yüklemeleri $20 ile $500 arasında herhangi bir tam miktardadır, $50'den itibaren %5, $100'den itibaren %10 ve $200'den itibaren %15 bonus vardır. Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. fiyatlandırma sayfası mevcut tabloyu içerir.