การสวมบทบาท Qwen Abliterated: การตั้งค่าและการตั้งค่า API

เหตุผลที่ผู้ใช้การสวมบทบาทมองหาโมเดลแบบไม่เซ็นเซอร์

ผู้คนที่ค้นหา qwen abliterated roleplay ต้องการโมเดลที่คงคาแรคเตอร์ไว้ โมเดลแชทมาตรฐานถูกปรับให้หลุดจากฉาก เพิ่มคำเตือน หรือปฏิเสธธีมที่ถือเป็นเรื่องปกติในนิยาย: สงคราม ความโศกเศร้า ตัวร้าย สยองขวัญ และตัวเล่าเรื่องที่มีจริยธรรมคลุมเครือ โมเดลแบบ abliterated และการสร้างแบบไม่เซ็นเซอร์อื่นๆ มีอยู่เพราะการขัดจังหวะเหล่านี้ทำลายความสมจริง

บทความนี้เกี่ยวกับการรันเซสชันแบบนั้นผ่าน API แทนที่จะเป็นไฟล์ท้องถิ่น โมเดลที่โฮสต์ที่นี่เป็นโมเดลแบบเปิดน้ำหนักหนึ่งตัวจากผู้ให้บริการอิสระ ซึ่งปรับแต่งให้ตอบโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย นี่ไม่ใช่ API ของ Qwen อย่างเป็นทางการ และเราไม่ได้อ้างว่าเป็นจุดตรวจสอบ Qwen แบบ abliterated เฉพาะแบบหนึ่ง ถือว่าเป็นโมเดลของตัวเองและตัดสินด้วยตัวละครของคุณเอง

มีขอบเขตหนึ่งที่ใช้โดยไม่มีการยกเว้น: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ ตัวละครต้องเป็นผู้ใหญ่ เนื้อหาที่เหลือของหน้านี้เน้นด้านเทคนิค ซึ่งเป็นสิ่งเดียวกันไม่ว่าคุณจะเขียนแนวใด

เชื่อมต่อ SillyTavern

SillyTavern สามารถเชื่อมต่อกับเอนด์พอยต์ที่เข้ากันได้กับ OpenAI ได้ ชื่อเมนูอาจเปลี่ยนไปตามเวอร์ชัน แต่ขั้นตอนและตรรกะจะเหมือนกันเสมอ: เปิดแผงเชื่อมต่อ API เลือกแหล่งที่มาของ Chat Completion และเลือกตัวเลือกแบบกำหนดเองหรือที่เข้ากันได้กับ OpenAI

1. สร้างคีย์บน หน้าคีย์ API บัญชีใหม่สามารถรับเครดิตทดลองใช้ฟรี $0.50 ได้ด้วยการคลิกหนึ่งครั้ง ใช้ได้เป็นเวลา 7 วันและไม่ต้องใช้บัตร
2. ใน SillyTavern ให้เลือก Chat Completion แล้วเลือกแหล่งที่มาแบบกำหนดเอง
3. ตั้งค่า URL ของเอนด์พอยต์เป็น https://api.qwenabliterated.top/v1
4. วางคีย์ลงในช่องคีย์ API
5. ใส่ uncensored เป็นรหัสโมเดล หรือเลือกจากรายการหากปุ่มเชื่อมต่อดึงค่ามา
6. กดเชื่อมต่อและส่งข้อความทดสอบสั้นๆ

หากการทดสอบล้มเหลวด้วย 401 ให้ตรวจสอบคีย์อีกครั้ง หากล้มเหลวด้วย 404 ให้ตรวจสอบให้แน่ใจว่า URL ลงท้ายด้วย /v1 และไม่มีเส้นทางเพิ่มเติมหลังจากนั้น หน้าเอกสาร docs แสดงรายการเอนด์พอยต์

การใช้สคริปต์ของคุณเองแทน

หากคุณเขียนส่วนหน้าหรือบอทของตัวเอง การตั้งค่าเดียวกันนี้จะถูกนำไปใช้ใน SDK ลูปอย่างง่ายที่เก็บประวัติไว้:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": open("character.txt").read()}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    out = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.85,
        top_p=0.9,
        frequency_penalty=0.3,
        max_tokens=500,
    )
    text = out.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    print(text)

พรอมต์ระบบที่กำหนดตัวละคร

ข้อความระบบทำหน้าที่ส่วนใหญ่ เก็บให้สั้น ชัดเจน และเขียนเป็นคำแนะนำเกี่ยวกับพฤติกรรม ไม่ใช่ชีวประวัติ รูปแบบที่ใช้งานได้ดี:

CopyYou are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.

หมายเหตุเกี่ยวกับเหตุผลของแต่ละบรรทัด เป้าหมายความยาวช่วยหยุดการขยายตัวของคำตอบ กฎที่ไม่ให้พูดแทนตัวละครของผู้ใช้คือการแก้ไขที่พบบ่อยที่สุด บรรทัดสุดท้ายแก้ไขการตั้งค่าเพื่อให้โมเดลไม่สร้างการตั้งค่าอื่นสองเทิร์นต่อมา ข้อเท็จจริงเกี่ยวกับตัวละครที่สำคัญ เช่น รอยแผล หนี้ หรือนิสัย ควรอยู่ในไม่กี่บรรทัดของพรอมต์เดียวกัน ไม่ใช่หน้าของประวัติพื้นหลัง

หากโมเดลหลุดจากคาแรคเตอร์ในการแชทที่ยาวนาน ให้ทำซ้ำกฎสำคัญใกล้กับส่วนท้ายของประวัติเป็นข้อความเตือนสั้นๆ แทนที่จะเพิ่มความยาวของพรอมต์เริ่มต้น

ค่าการสุ่มตัวอย่างเพื่อเริ่มต้น

API ส่งผ่าน temperature, top_p, stop, seed และค่าปรับ นั่นคือปุ่มที่คุณมี; ตัวสุ่มอื่นๆ ที่มีในเครื่องมือท้องถิ่นอาจไม่พร้อมใช้งาน ดังนั้นอย่าหวังว่าจะใช้ได้

เปลี่ยนค่าทีละค่าแล้วเล่นสักสองสามเทิร์นก่อนตัดสิน หากต้องการเปรียบเทียบการตั้งค่าสองอย่างอย่างเป็นธรรม ให้ตั้งค่า seed เป็นตัวเลขคงที่เพื่อให้พรอมต์เดียวกันให้จุดเริ่มต้นเดียวกัน

ข้อความเปิดและจุดเริ่มต้นที่น่าสนใจ

ข้อความแรกในแชทกำหนดโทนเรื่องมากกว่าคำสั่งใดๆ หากเป็นบทสนทนาสองบรรทัดโดยไม่มีคำบรรยาย การตอบกลับจะสั้น หากเป็นย่อหน้าเต็มของการบรรยายฉากตามสไตล์ที่คุณต้องการ โมเดลจะคัดลอกความยาวและระดับภาษาตามนั้น เขียนข้อความเปิดเป็นตัวอย่างของสิ่งที่คุณต้องการอ่านกลับ

สร้างจุดกดดันให้กับฉาก ลูกเรือที่ติดอยู่พร้อมระบบสนับสนุนชีวิตที่ล้มเหลวจะสร้างเทิร์นที่น่าสนใจกว่าลูกเรือที่นั่งอยู่ในบาร์ เพราะโมเดลจะมีจุดที่ยังสามารถขับเคลื่อนเรื่องราวได้เสมอ เมื่อฉากหยุดนิ่ง ให้เพิ่มเหตุการณ์จากฝั่งของคุณ: มีข้อความเข้ามา, ประตูเปิดออก, หรือมีการบังคับตัดสินใจ บทบาทสมมติที่แบนราบส่วนใหญ่เกิดจากการขาดความสำคัญ ไม่ใช่ปัญหาของโมเดล

สำหรับตัวละครหลายตัว ให้ตั้งชื่อแต่ละตัวในพรอมต์ระบบด้วยบรรทัดเดียวเกี่ยวกับน้ำเสียง เช่น "Doctor Imre: แห้ง, แม่นยำ, ไม่ด่าทอ" นิสัยการพูดที่แตกต่างกันทำให้โมเดลรักษาเสียงให้แตกต่างกันตลอดประวัติการสนทนาที่ยาวนานได้ง่ายขึ้น และทำให้คุณตรวจจับเมื่อสองเสียงเบลอเข้าหากันได้ง่ายขึ้น

การจัดการหน้าต่างบริบทขนาด 100k

หน้าต่างบริบทมีขนาด 100,000 โทเคน รวมพรอมต์และการสร้างข้อความ ดังนั้นฉากจึงสามารถดำเนินไปได้นานมากก่อนที่ข้อมูลจะถูกตัดออก ความยาวไม่ได้หมายความว่าดีกว่าเสมอไป แม้กระนั้นก็ตาม โมเดลแชทให้ความสนใจกับรายละเอียดที่ซ่อนอยู่ตรงกลางประวัติที่ยาวนานน้อยกว่า และทุกเทิร์นจะส่งสำเนาบทสนทนาทั้งหมดอีกครั้ง ซึ่งคุณต้องจ่ายเป็นค่าอินพุต

นิสัยการใช้งานที่ปฏิบัติได้จริง:

• ตั้งค่าขนาดหน้าต่างบริบทในอินเทอร์เฟซผู้ใช้ของคุณไว้ที่ประมาณ 16,000 ถึง 32,000 โทเคน และปล่อยให้เทิร์นเก่าหลุดออกไป
• เป็นระยะๆ ให้โมเดลสรุปเหตุการณ์และสถานะตัวละครแบบสั้นๆ แล้ววางลงในพรอมต์ระบบพร้อมล้างเทิร์นเก่าออก
• รักษา "รายการข้อเท็จจริงที่ต้องเป็นจริง" ไว้ในข้อความระบบสำหรับชื่อ สถานที่ และคำสัญญา
• ใช้ลำดับหยุดและขีดจำกัดความยาวเพื่อไม่ให้ขนาดการตอบกลับเพิ่มขึ้นเรื่อยๆ

นอกจากนี้โปรดจำไว้ว่านี่คือโมเดลข้อความ มันไม่สร้างภาพหรือเสียง ดังนั้นอวาตาร์และเสียงในแอปเพื่อนคู่ใจจึงต้องใช้เครื่องมืออื่น

ราคาของเซสชัน

ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต ลองพิจารณาฉากยาวที่มีประวัติถึง 30,000 โทเคน และการตอบกลับแต่ละครั้งมีขนาดประมาณ 400 โทเคน เทิร์นหนึ่งๆ มีค่าใช้จ่ายอินพุต 30,000 x $0.15 / 1M = $0.0045 และเอาต์พุต 400 x $0.50 / 1M = $0.0002 รวมเป็น $0.0047 เทิร์นดังกล่าว 100 เทิร์นมีค่าใช้จ่าย $0.47

เซสชันเดียวกันที่มีหน้าต่างบริบทขนาด 12,000 โทเคน มีค่าใช้จ่าย 12,000 x $0.15 / 1M = $0.0018 บวก $0.0002 ดังนั้น $0.002 ต่อเทิร์น และ $0.20 สำหรับ 100 เทิร์น การตัดหน้าต่างบริบทออกเป็นการประหยัดที่ง่ายที่สุดที่มีอยู่

ไม่มีบริการแบบสมาชิก คุณเติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 พร้อมเพิ่ม 5% จาก $50, เพิ่ม 10% จาก $100 และเพิ่ม 15% จาก $200 และเครดิตไม่หมดอายุ จ่ายด้วยคริปโต (USDT บน TRC20, USDC บน Base) คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน รายละเอียดอยู่ที่หน้า ราคา

ปัญหาทั่วไป

• การตอบกลับซ้ำซาก เพิ่ม frequency_penalty เล็กน้อย ตัดเทิร์นเก่าออก หรือลดขนาดหน้าต่างบริบท
• โมเดลเขียนบทพูดของคุณ เพิ่มกฎลงในพรอมต์ระบบ และตั้งค่าลำดับหยุดบนชื่อตัวละครของคุณ
• HTTP 429 ระหว่างฉาก คุณชนขีดจำกัด: 8 คำขอพร้อมกันและ 300 ต่อนาทีบนคีย์เต็ม, 2 และ 60 บนคีย์ทดลอง รอค่า Retry-After แล้วส่งใหม่ การสตรีมจะครอบครองช่องความพร้อมใช้งานไปจนกว่าจะเสร็จสิ้น ดังนั้นให้ปิดสตรีมที่คุณละทิ้ง
• ตัวละครลืมรายละเอียด ย้ายข้อเท็จสำคัญเข้าไปในพรอมต์ระบบ และสรุปเทิร์นเก่า

พรอมต์ไม่ถูกใช้ในการฝึกสอน สำหรับวิธีการเปรียบเทียบตัวเลือกอื่นแบบจ่ายตามโทเคน คู่มือการเปรียบเทียบ มีข้อมูลเพิ่มเติม

คู่มือเพิ่มเติม

• Qwen 3.5 Abliterated: ความหมายและตัวเลือกโฮสต์
• Qwen Abliterated API: เรียกใช้โมเดลที่โฮสต์ ไม่ต้องใช้ GPU
• ทางเลือก API แบบไม่เซ็นเซอร์