Qwen Abliterated: เปลี่ยนไคลเอนต์ของคุณในสามบรรทัด

การตรวจสอบสิทธิ์และ URL พื้นฐาน

API ของเราใช้รูปแบบมาตรฐานของ OpenAI คุณมีเพียงสองสิ่งที่ต้องใช้: Base URL และคีย์ API ที่ถูกต้อง Base URL คือ https://api.qwenabliterated.top/v1 คุณไม่จำเป็นต้องนำเข้าไลบรารีพิเศษหรือเปลี่ยนโครงสร้างโค้ด เพียงอัปเดตการตั้งค่าไคลเอนต์ของคุณให้ชี้ไปที่ URL นี้และระบุคีย์ที่คุณสร้างในหน้า Get API key ระบบใช้การตรวจสอบสิทธิ์แบบ bearer token มาตรฐาน ดังนั้น SDK ที่เข้ากันได้กับ OpenAI ที่มีอยู่จึงใช้งานได้ทันที

คัดลอกcurl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

รักษาความปลอดภัยของคีย์ของคุณ ต่างจากผู้ให้บริการบางราย เราไม่ติดตามตัวตนของคุณนอกเหนือจากอีเมลที่คุณใช้เพื่อเข้าสู่ระบบ พรอมต์ไม่ถูกใช้สำหรับข้อมูลการฝึกสอน หากคุณทำคีย์หาย ให้สร้างคีย์ใหม่ มันจะแทนที่คีย์ใช้งานเก่าทันที

คำขอการสร้างผลลัพธ์ครั้งแรก

ส่งข้อความแรกของคุณโดยใช้เอนด์พอยต์มาตรฐาน /v1/chat/completions ส่งผ่านโมเดล ID เป็น "uncensored" โมเดลนี้เป็นโมเดลแบบเปิดน้ำหนัก ปรับแต่งสำหรับการผลิตเนื้อหาดิบ และไม่ใช้การปฏิเสธทั่วไปที่พบในโมเดลทั่วไป จัดการกับหัวข้อผู้ใหญ่ โต้แย้ง หรือทางเทคนิคได้โดยไม่มีความรบกวนเพิ่มเติม โดยที่เนื้อหาไม่เกี่ยวข้องกับเด็ก

คัดลอกfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การตอบกลับจะส่งคืนข้อความที่สร้างขึ้นในฟิลด์ choices[0].message.content หากคำขอล้มเหลวเนื่องจากคีย์ไม่ถูกต้อง คุณจะรับข้อผิดพลาด 401 หากเครดิตแบบเติมเงินล่วงหน้าของคุณหมด คุณจะรับข้อผิดพลาด 402 ข้อผิดพลาดไม่ใช้ยอดโทเคนของคุณ ดังนั้นคุณสามารถลองใหม่ได้โดยไม่มีการลงโทษ

การตอบแบบสตรีมมิง

สำหรับแอปพลิเคชันแบบเรียลไทม์ ให้เปิดใช้งานสตรีมมิงโดยการตั้งค่า stream: true API จะส่งคืนสตรีมเหตุการณ์ที่ส่งโดยเซิร์ฟเวอร์ (SSE) แต่ละชิ้นประกอบด้วยโทเคนบางส่วน ชิ้นสุดท้ายรวมถึงการใช้งานโทเคนทั้งหมดสำหรับคำขอ ทำให้คุณสามารถติดตามต้นทุนได้อย่างแม่นยำ สิ่งนี้เหมาะสำหรับส่วนติดต่อแชทหรือเครื่องมือที่ทำงานบนเทอร์มินัลซึ่งความหน่วงสำคัญ

คัดลอกstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

สตรีมมิงไม่เปลี่ยนพฤติกรรมของโมเดลหรือหน้าต่างบริบท มีผลเพียงวิธีการส่งการตอบกลับเท่านั้น ตรวจสอบให้แน่ใจว่าไคลเอนต์ของคุณจัดการสตรีมได้อย่างถูกต้องเพื่อหลีกเลี่ยงการรั่วไหลของหน่วยความจำ โมเดลแบบไม่เซ็นเซอร์ทำงานได้ดีภายใต้สตรีมมิง ส่งมอบข้อความที่สอดคล้องกันโดยไม่มีการตัดกลางประโยคทั่วไปที่พบในโมเดลที่ผ่านการกรอง

โหมด JSON

เมื่อคุณต้องการข้อมูลที่มีโครงสร้าง ให้ใช้ response_format: {"type": "json_object"} โมเดลได้รับคำสั่งให้ส่งออก JSON ที่ถูกต้อง สิ่งนี้มีประโยชน์สำหรับการวิเคราะห์การกำหนดค่า การสร้างโครงสร้างโค้ด หรือป้อนข้อมูลไปยังบริการต่อเนื่อง แม้ว่าจะไม่รับประกันว่าสมบูรณ์แบบ แต่โมเดลแบบไม่เซ็นเซอร์จัดการโครงสร้างที่ซับซ้อนได้ดีกว่าโมเดลมาตรฐานที่อาจปฏิเสธที่จะส่งออก JSON ดิบเนื่องจากเหตุผลด้านความปลอดภัย

คัดลอกimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenabliterated.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ตรวจสอบผลลัพธ์เสมอที่ฝั่งของคุณ หาก JSON ผิดรูปแบบ API จะไม่ลองใหม่โดยอัตโนมัติ คุณสามารถปรับอุณหภูมิเพื่อส่งผลต่อความสม่ำเสมอ อุณหภูมิต่ำให้โครงสร้าง JSON ที่คาดเดาได้มากขึ้น ในขณะที่อุณหภูมิสูงเพิ่มความคิดสร้างสรรค์แต่มีความเสี่ยงต่อข้อผิดพลาดในการจัดรูปแบบ

การเรียกใช้ฟังก์ชัน

การสนับสนุนเครื่องมือมีอยู่แล้ว กำหนดฟังก์ชันของคุณในพารามิเตอร์ tools และตั้งค่า tool_choice ตามต้องการ โมเดลจะส่งคืนอาร์เรย์ tool_calls หากตัดสินใจเรียกใช้ฟังก์ชัน คุณต้องเรียกใช้ฟังก์ชันและส่งผลลัพธ์กลับในข้อความถัดไปด้วย role: "tool" สิ่งนี้ปฏิบัติตามรูปแบบการใช้งานเครื่องมือมาตรฐานของ OpenAI

คุณสมบัตินี้ทำงานกับ OpenAI-compatible SDK ใดก็ได้ โมเดลแบบไม่เซ็นเซอร์จัดการคำจำกัดความเครื่องมือได้อย่างชัดเจน โดยไม่ปฏิเสธที่จะส่งออกชื่อฟังก์ชันเนื่องจากตัวกรองเนื้อหา เหมาะสำหรับสร้างเอเจนต์หรือทำให้เวิร์กโฟลว์อัตโนมัติที่ต้องการการเรียก API ภายนอก

พารามิเตอร์ ขีดจำกัด และข้อผิดพลาด

หน้าต่างบริบทมีขนาด 100,000 โทเคน รวมถึงทั้งพรอมต์และการเสร็จสิ้น ไม่มีขีดจำกัดผลลัพธ์แยกต่างหาก (หาก max_tokens ไม่ถูกกำหนด การตอบกลับสามารถดำเนินไปจนสุดหน้าต่างบริบท) คุณสามารถควบคุมการสร้างด้วย temperature, top_p, stop, seed และพารามิเตอร์ค่าปรับ

ขีดจำกัดอัตราคือ 300 คำขอต่อนาทีและ 8 คำขอพร้อมกันต่อคีย์ หากคุณเกินเหล่านี้ คุณจะรับข้อผิดพลาด 429 ร่างคำขอต้องไม่เกิน 8 MB ขีดจำกัดเหล่านี้รับประกันประสิทธิภาพที่เสถียรสำหรับผู้ใช้ปริมาณสูง ไม่มีข้อจำกัดที่ซ่อนอยู่เกี่ยวกับประเภทเนื้อหาที่คุณสามารถผลิตได้ ยกเว้นขีดจำกัดแข็งเกี่ยวกับเนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก