Qwen Abliterated Roleplay: Cài đặt và thiết lập API

Tại sao người dùng nhập vai tìm kiếm mô hình không kiểm duyệt

Những người tìm kiếm qwen abliterated roleplay muốn một mô hình giữ vững tính cách. Các mô hình trò chuyện tiêu chuẩn được tinh chỉnh để rời khỏi cảnh, thêm thông báo miễn trừ hoặc từ chối các chủ đề bình thường trong truyện: chiến tranh, nỗi buồn, kẻ phản diện, kinh dị, người kể chuyện có đạo đức xám. Các bản dựng abliterated và các bản không kiểm duyệt khác tồn tại vì những gián đoạn này phá vỡ sự đắm chìm.

Bài viết này nói về việc chạy loại phiên đó thông qua API thay vì tệp cục bộ. Mô hình được lưu trữ ở đây là một mô hình trọng số mở từ nhà cung cấp độc lập, được tinh chỉnh để trả lời mà không từ chối nội dung cho người trưởng thành hợp pháp. Đây không phải là API Qwen chính thức và chúng tôi không tuyên bố đó là một điểm kiểm tra Qwen abliterated cụ thể. Hãy coi nó là một mô hình riêng và đánh giá nó dựa trên các nhân vật của bạn.

Một ranh giới áp dụng không ngoại lệ: không có nội dung tình dục liên quan đến người chưa thành niên. Các nhân vật phải là người trưởng thành. Phần còn lại của trang này tập trung vào khía cạnh kỹ thuật, giống nhau bất kể thể loại bạn viết.

Kết nối SillyTavern

SillyTavern có thể giao tiếp với bất kỳ endpoint tương thích OpenAI nào. Tên menu thay đổi giữa các phiên bản, nhưng đường dẫn luôn là cùng một ý tưởng: mở bảng kết nối API, chọn nguồn Chat Completion và chọn tùy chọn tùy chỉnh hoặc tương thích OpenAI.

1. Tạo khóa trên trang khóa API. Tài khoản mới có thể nhận $0,50 tín dụng dùng thử chỉ với một cú nhấp chuột, có giá trị trong 7 ngày và không cần thẻ.
2. Trong SillyTavern, chọn Chat Completion và sau đó nguồn tùy chỉnh.
3. Đặt URL endpoint thành https://api.qwenabliterated.top/v1.
4. Dán khóa vào trường khóa API.
5. Nhập uncensored làm ID mô hình, hoặc chọn nó từ danh sách nếu nút kết nối lấy về một mô hình.
6. Nhấn kết nối và gửi một tin nhắn kiểm tra ngắn.

Nếu kiểm tra thất bại với mã 401, hãy kiểm tra lại khóa. Nếu thất bại với mã 404, hãy đảm bảo URL kết thúc bằng /v1 và không có đường dẫn bổ sung nào sau đó. Trang tài liệu liệt kê các endpoint.

Sử dụng script của riêng bạn

Nếu bạn viết giao diện người dùng hoặc bot riêng, các cài đặt tương tự sẽ được đưa vào SDK. Một vòng lặp tối thiểu giữ lịch sử:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")

history = [{"role": "system", "content": open("character.txt").read()}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    out = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.85,
        top_p=0.9,
        frequency_penalty=0.3,
        max_tokens=500,
    )
    text = out.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    print(text)

Một system prompt giữ vai trò nhân vật

Tin nhắn hệ thống thực hiện hầu hết công việc. Hãy giữ nó ngắn gọn, cụ thể và được viết dưới dạng hướng dẫn về hành vi, không phải tiểu sử. Một mẫu giữ vững tốt:

CopyYou are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.

Ghi chú về lý do cho mỗi dòng. Một mục tiêu về độ dài ngăn phản hồi phình to. Quy tắc không nói thay nhân vật của người dùng là điều chỉnh phổ biến nhất mà mọi người thực hiện. Dòng cuối cùng sửa thiết lập để mô hình không tự tạo ra một thiết lập khác sau hai lượt. Các sự thật về nhân vật quan trọng, như một vết sẹo, khoản nợ hoặc thói quen, nên được đặt trong vài dòng của cùng prompt đó, chứ không phải một trang tiểu sử.

Nếu mô hình lạc khỏi tính cách trong một cuộc trò chuyện dài, hãy lặp lại các quy tắc chính gần cuối lịch sử dưới dạng tin nhắn nhắc nhở ngắn thay vì làm dài prompt mở đầu.

Giá trị lấy mẫu để bắt đầu

API truyền qua temperature, top_p, stop, seed và các khoản phạt. Đó là các nút điều chỉnh bạn có; các bộ lấy mẫu khác tồn tại trong các công cụ cục bộ có thể không khả dụng, vì vậy đừng dựa vào chúng.

Thay đổi một giá trị tại một thời điểm và chơi vài lượt trước khi đánh giá. Nếu bạn muốn so sánh công bằng hai cài đặt, hãy đặt seed thành một số cố định để cùng một prompt tạo ra cùng điểm bắt đầu.

Tin nhắn mở đầu và móc cảnh

Tin nhắn đầu tiên trong một cuộc trò chuyện thiết lập tông giọng nhiều hơn bất kỳ hướng dẫn nào. Nếu nó là hai dòng hội thoại không có mô tả, phản hồi sẽ ngắn. Nếu đó là một đoạn văn đầy đủ thiết lập bối cảnh theo phong cách bạn muốn, mô hình sẽ sao chép độ dài và văn phong đó. Hãy viết tin nhắn mở đầu như một ví dụ về những gì bạn muốn đọc lại.

Đặt cho bối cảnh một điểm áp lực. Một phi hành đoàn mắc kẹt với hệ thống hỗ trợ sự sống đang hỏng sẽ tạo ra các lượt thú vị hơn một phi hành đoàn ngồi trong quán bar, vì mô hình luôn có thứ gì đó để đẩy mạnh. Khi một bối cảnh bị tắc, hãy thêm một sự kiện từ phía bạn: một tin nhắn đến, một cánh cửa mở, một quyết định bị bắt buộc. Hầu hết các kịch bản nhập vai tẻ nhạt là do thiếu mức độ quan trọng, không phải vấn đề của mô hình.

Đối với nhiều nhân vật, hãy đặt tên mỗi nhân vật trong prompt hệ thống với một dòng về giọng văn, chẳng hạn như "Bác sĩ Imre: khô khan, chính xác, không bao giờ chửi thề". Thói quen nói khác biệt giúp mô hình dễ dàng giữ giọng nói riêng biệt qua lịch sử dài và dễ dàng cho bạn phát hiện khi hai giọng đã hòa lẫn vào nhau.

Quản lý ngữ cảnh 100k

Cửa sổ ngữ cảnh là 100.000 token, bao gồm prompt và completion cùng nhau, vì vậy một cảnh có thể chạy rất lâu trước khi bất cứ thứ gì bị cắt. Tuy nhiên, dài không tự động có nghĩa là tốt hơn. Các mô hình trò chuyện ít chú ý hơn đến các chi tiết bị chôn vùi ở giữa lịch sử khổng lồ, và mỗi lượt gửi lại toàn bộ bản ghi, điều mà bạn phải trả tiền dưới dạng đầu vào.

Thói quen thực tế:

• Đặt kích thước ngữ cảnh trong giao diện người dùng của bạn thành khoảng 16.000 đến 32.000 token và để các lượt cũ rơi ra.
• Thỉnh thoảng yêu cầu mô hình tóm tắt ngắn gọn các sự kiện và trạng thái nhân vật, sau đó dán nó vào prompt hệ thống và xóa các lượt cũ.
• Giữ danh sách "sự thật phải luôn đúng" trong tin nhắn hệ thống cho tên, địa điểm và lời hứa.
• Sử dụng trình tự dừng và giới hạn chiều dài để phản hồi không tăng kích thước.

Ngoài ra hãy nhớ rằng đây là mô hình văn bản. Nó không tạo ra hình ảnh hoặc giọng nói, vì vậy avatar và âm thanh trong ứng dụng đồng hành cần các công cụ khác.

Chi phí cho một phiên

Giá là $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra. Hãy lấy một cảnh dài nơi lịch sử đã đạt 30.000 token và mỗi phản hồi là khoảng 400 token. Một lượt tốn 30.000 x $0,15 / 1M = $0,0045 cho đầu vào và 400 x $0,50 / 1M = $0,0002 cho đầu ra, vậy $0,0047. Một trăm lượt như vậy tốn $0,47.

Cùng phiên với cửa sổ 12.000 token tốn 12.000 x $0,15 / 1M = $0,0018 cộng $0,0002, vậy $0,002 mỗi lượt và $0,20 cho một trăm lượt. Cắt giảm ngữ cảnh là khoản tiết kiệm dễ nhất có sẵn.

Không có đăng ký. Bạn trả trước bất kỳ số tiền nguyên nào từ $20 đến $500, với +5% từ $50, +10% từ $100 và +15% từ $200, và tín dụng không bao giờ hết hạn. Thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Các yêu cầu thất bại hoặc bị từ chối không bị tính phí. Chi tiết có trên trang giá cả.

Các vấn đề thường gặp

• Phản hồi trở nên lặp lại. Tăng frequency_penalty một chút, cắt các lượt cũ hoặc giảm kích thước ngữ cảnh.
• Mô hình viết các dòng của bạn. Thêm quy tắc vào prompt hệ thống và đặt trình tự dừng trên tên nhân vật của bạn.
• HTTP 429 giữa chừng. Bạn đã chạm giới hạn: 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút với khóa đầy đủ, 2 và 60 với khóa dùng thử. Hãy đợi giá trị Retry-After rồi gửi lại yêu cầu. Truyền phát (streaming) chiếm một slot độ đồng thời cho đến khi kết thúc, vì vậy hãy đóng các stream bạn bỏ dở.
• Các ký tự quên chi tiết. Chuyển các sự kiện quan trọng vào prompt hệ thống và tóm tắt các lượt hội thoại cũ.

Các prompt không được dùng để huấn luyện. Để so sánh các tùy chọn trả theo token khác, hướng dẫn so sánh có thêm thông tin.

Hướng dẫn khác

• Qwen 3.5 Abliterated: Ý nghĩa và Tùy chọn Lưu trữ
• API Qwen Abliterated: Gọi mô hình được lưu trữ, không cần GPU
• API không kiểm duyệt thay thế