Qwen 3.5 アブリラテッド：意味とホスティングオプション

qwen 3.5 アブリラテッドが意味するもの

qwen 3.5 アブリラテッドを検索する人は、通常、拒否動作が除去されたQwenモデルのダウンロード可能なチェックポイント、またはGPUを所有せずにそのようなモデルと対話する方法のいずれかを求めています。どちらも理にかなった目標ですが、異なるセットアップにつながるため、早期に区別することが役立ちます。

QwenはAlibabaによって公開されたオープンウェイト言語モデルのファミリーです。ベースおよびインストラクトリリースは、特定のリクエストを拒否するようにトレーニングされています。「アブリラテッド」は、拒否動作が後から手術的に軽減されたバリエーションに、コミュニティのアップローダーが付けるラベルです。この名前は「ablation（アブレーション）」と「obliterated（消去）」の組み合わせであり、定着しました。

バージョン番号に関する注意。モデルファミリーは頻繁に新しいリリースを出し、アップローダーはベースとしたバージョンにちなんでファイルに名前を付けます。最新のビルドが何かを追跡しておらず、このページのどこにも、ホスト済みモデルが特定のQwenチェックポイントであると主張するものはありません。私たちが正確に説明できるのは、手法、実用的なトレードオフ、および実行しているサービスです。

abliterationの仕組み

チャットモデルの拒否を研究した研究者たちは、拒否する傾向がモデルの内部活性化空間における単一の方向として、かなり正確に要約できることを発見しました。モデルが拒否するプロンプトのセットと受け入れるプロンプトのセットを入力し、隠れ状態を比較すると、その差は「拒否方向」に沿って現れます。

アブリラテーションは、その方向を取得し、モデルがその方向に沿って書けなくなるように重み行列を編集します。この編集は、保存された重みに一度適用される射影です。大規模なデータセットに対する勾配降下法がないため、1人の人が単一のマシンで、ベースモデルの公開から数時間以内に修正済みチェックポイントを公開できます。

ファインチューニングとの違い

ファインチューニングは新しい例で訓練することで動作を変更します。スタイル、ペルソナ、またはフォーマットを教えることができます。アブリレーションは動作を削除するだけで、何も追加しません。アブリレーションされたモデルは元のモデルと同じ口調で書き、同じ知識を保持しますが、ほとんどためらいがありません。

公開されている「無検閲」モデルの多くは、両方のステップを組み合わせています。まずアブリラテッドにし、その後品質の低下を修復するために軽くファインチューニングします。モデルカードにどちらを使用したか記載されていない場合は、不明であると想定してください。

品質へのコスト

重みの編集は無料ではありません。いくつかのアブリレーション済みチェックポイントは、推論や指示の遵守においてわずかに精度が低下し、長文のチャットでは反復的になったり、キャラクターから外れたりすることがあります。品質はアップローダー、方向の削除の積極度、およびダウンロードする量子化によって異なります。各ビルドを独自のモデルとして扱い、独自のプロンプトでテストしてください。

ラベルが品質保証ではない理由

アブリラテッドアップロードのモデルカードは、リリースプロセスを持つラボではなく個人によって書かれています。「拒否なし」や「元の品質と同じ」といった主張は、通常、数個のプロンプトに基づいています。これは趣味には問題ありませんが、依存しようとするものには証拠が薄すぎます。

ビルドを利用する前に賢明なチェック：実際のユースケースからの20個のプロンプト、元のインストラクトモデルが拒否していたいくつかのものを含めて書き、実行して回答を読み取ってください。モデルがタスクに集中している頻度、長文のシステムプロンプトの扱い方、JSONなどのフォーマットを維持するかどうかをメモしてください。この小さなテストは、リーダーボードの数値よりも多くのことを教えてくれます。

アブリラテッドビルドを自分で実行する

完全な制御を望む場合は、ローカル推論が正当な選択肢です。重みをダウンロードし、量子化されたフォーマットを選択し、llama.cpp、Ollama、vLLM などのランタイムで提供します。データはすべてお使いのマシン内に留まり、チェックポイントはいつでも入れ替えることができます。

コストは概念的ではなく実用的です：

• メモリ。モデルとそのKVキャッシュは、VRAMまたは高速システムRAMに収まる必要があります。大きなQwenバリアントにはワークステーションクラスのハードウェアが必要で、長いコンテキストはキャッシュサイズを急激に増加させます。
• セットアップ時間。量子化、チャットテンプレート、サンプラー設定の選択には試行錯誤が必要です。間違ったチャットテンプレートだけでも、良いモデルが壊れているように見えることがあります。
• 速度。消費者向けGPUとCPUオフロードは、スループット向けに調整されたサーバーと比較してトークンを低速で生成し、バッチジョブではこれが重要になります。
• メンテナンス。新しいチェックポイントが絶えず登場するため、再ダウンロードと再テストを繰り返すことになります。

予備のカードを持つホビイストにとっては楽しい週末になりますが、アプリケーション内に安定したエンドポイントが必要なチームにとっては、本業と競合するサイドプロジェクトになります。

ホスティングの代替手段

私たちは、ハードウェアなしでその動作を望む人のためにホスト済みAPIを実行しています。これは独立したプロバイダーが実行する1つのオープンウェイトモデルを提供し、法的な成人向けにコンテンツ拒否なしで応答するように調整されています。OpenAI互換インターフェースを通じて uncensored として呼び出します。

これが何で、何ではないかを明確にしてください。これは公式のQwen APIではなく、Alibabaやその他のベンダーにリクエストを転送するルーターでもありません。特定のQwenリリースを主張するモデルカードを公開していないため、このサービスを特定のチェックポイントのそのまま置き換え可能な代替として扱わないでください。その正確なビルドと特有の挙動が必要な場合は、ローカルで実行してください。

毎日同じ方法で動作する無検閲チャットモデルが必要な場合、安定したURLを持つホスティングの方が簡単です。関連する事実：

• メソッド：POST /v1/chat/completions および GET /v1/models。
• ストリーミング、ツール呼び出し、JSONモードに対応しています。
• コンテキストウィンドウは100,000トークン（プロンプトと補完の合計）。
• テキストのみです。画像、オーディオ、ビデオ、埋め込み、ファインチューニングには対応していません。
• プロンプトはトレーニングに使用されません。
• 一つの厳格な制限：未成年者を含む性的コンテンツは禁止されています。

APIドキュメントにはサポートされているパラメータがすべて記載されており、比較ガイドでは、トークン課金のホスティングがQwenスタイルのモデルを取得するための他の方法と比べてどうなるかを詳しく解説しています。

5行で試す

インターフェースがOpenAIスキーマに従っているため、ベースURLとキーを変更すれば、任意のOpenAI SDKが機能します。Pythonでの最短の有用な例を以下に示します：

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.qwenabliterated.top/v1",
    api_key="YOUR_API_KEY",
)

reply = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise the idea of abliteration in two sentences."}],
)
print(reply.choices[0].message.content)

curlでの同じ呼び出し：

Copycurl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'

キーがアクセスできるものをリストするには、GET /v1/modelsを呼び出します。APIキーページでキーを作成してください。新規アカウントは1クリックで$0.50の無料トライアルクレジットを取得でき、カード不要で7日間有効で、数百件の短いテストリクエストに十分な量です。

ローカルかホストか：判断リスト

ローカル推論を選択する場合：

• すべてのプロンプトをネットワーク呼び出しなしで独自のマシンに保持する必要があります。
• 特定のコミュニティチェックポイント、量子化、またはLoRAが必要です。
• 適切なGPUをすでに所有しており、スタックの調整を楽しんでいます。

ホスト済みエンドポイントを選択する場合：

• アプリまたはボットをリリースする必要があり、他の作業をしている間にURLが稼働し続けることを必要としています。
• メモリを追加で購入することなく、長いコンテキストの処理が必要です。
• 使用量がバースト状であるため、アイドル状態のハードウェアを所有するよりもトークンごとの支払いが優れています。
• 既存のOpenAIスタイルのクライアントコードを再利用したい場合です。

混合アプローチが一般的です。ホスト済みAPIでプロンプトをプロトタイプ作成し、ローカルビルドがその労力に見合うかどうかを判断します。両方が同じチャットフォーマットで通信できるため、それらの間を移動するのは主にベースURLの変更を意味します。

コスト

料金は、前払いクレジットから、入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50です。サブスクリプションはありません。失敗または拒否されたリクエストは課金されず、クレジットは期限切れになりません。

計算例：3,000トークンのプロンプトと700トークンの回答の場合、入力は 3,000 x $0.15 / 1M = $0.00045、出力は 700 x $0.50 / 1M = $0.00035 となり、合計は$0.0008です。このような呼び出しを1,000回行うと、合計$0.80になります。

チャージは$20から$500までの任意の整数額で、$50から5%、$100から10%、$200から15%のボーナスが付きます。暗号資産（TRC20上のUSDT、Base上のUSDC）で支払いできます。料金ページに現在の表が掲載されています。

その他のガイド

• Qwen Abliterated API：ホストされたモデルを呼び出し、GPU不要
• Qwen Abliteratedロールプレイ：設定とAPIセットアップ
• 無検閲APIの代替案