Qwen Abliterated: Chuyển đổi client của bạn trong ba dòng

Xác thực và URL cơ sở

API của chúng tôi tuân theo định dạng OpenAI tiêu chuẩn. Bạn chỉ cần hai thứ: base URL và một khóa API hợp lệ. Base URL là https://api.qwenabliterated.top/v1. Bạn không cần nhập các thư viện đặc biệt hoặc thay đổi cấu trúc mã của mình. Chỉ cần cập nhật cấu hình khách hàng của bạn để trỏ đến URL này và cung cấp khóa bạn đã tạo trên trang Get API key. Hệ thống sử dụng xác thực token bearer tiêu chuẩn, vì vậy bất kỳ SDK tương thích OpenAI nào cũng hoạt động ngay lập tức.

Sao chépcurl https://api.qwenabliterated.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Giữ khóa của bạn an toàn. Không giống như một số nhà cung cấp, chúng tôi không theo dõi danh tính của bạn ngoài email bạn sử dụng để đăng nhập. Các prompt không được sử dụng cho dữ liệu huấn luyện. Nếu bạn mất khóa, hãy tạo một khóa mới; nó thay thế khóa hoạt động cũ ngay lập tức.

Yêu cầu hoàn thành đầu tiên

Gửi tin nhắn đầu tiên của bạn bằng cách sử dụng endpoint /v1/chat/completions tiêu chuẩn. Truyền ID mô hình dưới dạng "uncensored". Mô hình này là mô hình trọng số mở, được tinh chỉnh cho đầu ra thô và không áp dụng các từ chối điển hình được tìm thấy trong các mô hình mục đích chung. Nó xử lý các chủ đề người lớn, gây tranh cãi hoặc kỹ thuật mà không có thêm nhiễu, miễn là nội dung không liên quan đến trẻ vị thành niên.

Sao chépfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Phản hồi trả về văn bản được tạo trong trường choices[0].message.content. Nếu yêu cầu thất bại do khóa không hợp lệ, bạn sẽ nhận được lỗi 401. Nếu tín dụng trả trước của bạn đã hết, bạn sẽ nhận được lỗi 402. Lỗi không tiêu thụ số dư token của bạn, vì vậy bạn có thể thử lại mà không bị phạt.

Phản hồi truyền phát

Đối với các ứng dụng thời gian thực, hãy bật truyền phát bằng cách đặt stream: true. API trả về luồng Sự kiện được gửi bởi máy chủ (SSE). Mỗi chunk chứa một token một phần. Chunk cuối cùng bao gồm tổng mức sử dụng token cho yêu cầu, cho phép bạn theo dõi chi phí chính xác. Điều này rất lý tưởng cho các giao diện trò chuyện hoặc công cụ dựa trên terminal nơi độ trễ quan trọng.

Sao chépstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Truyền phát không thay đổi hành vi của mô hình hoặc cửa sổ ngữ cảnh. Nó chỉ ảnh hưởng đến cách phản hồi được cung cấp. Đảm bảo khách hàng của bạn xử lý luồng đúng cách để tránh rò rỉ bộ nhớ. Mô hình không kiểm duyệt hoạt động tốt dưới chế độ truyền phát, cung cấp văn bản mạch lạc mà không có các lỗi cắt ngang giữa câu điển hình được thấy trong các mô hình được lọc.

Chế độ JSON

Khi bạn cần dữ liệu có cấu trúc, hãy sử dụng response_format: {"type": "json_object"}. Mô hình được hướng dẫn để xuất JSON hợp lệ. Điều này hữu ích cho việc phân tích cú pháp cấu hình, tạo cấu trúc mã hoặc cung cấp dữ liệu cho các dịch vụ hạ lưu. Mặc dù không được đảm bảo là hoàn hảo, mô hình không kiểm duyệt xử lý các cấu trúc phức tạp tốt hơn các mô hình tiêu chuẩn có thể từ chối xuất JSON thô vì lý do an toàn.

Sao chépimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenabliterated.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Luôn xác thực đầu ra ở phía bạn. Nếu JSON bị lỗi, API không tự động thử lại. Bạn có thể điều chỉnh nhiệt độ để ảnh hưởng đến tính nhất quán. Nhiệt độ thấp hơn tạo ra các cấu trúc JSON dễ dự đoán hơn, trong khi nhiệt độ cao hơn đưa ra nhiều sáng tạo hơn nhưng rủi ro lỗi định dạng.

Gọi hàm

Hỗ trợ công cụ được tích hợp sẵn. Xác định các hàm của bạn trong tham số tools và đặt tool_choice khi cần. Mô hình sẽ trả về một mảng tool_calls nếu nó quyết định gọi một hàm. Bạn phải thực thi hàm và truyền kết quả lại trong một thông báo tiếp theo với role: "tool". Điều này tuân theo mẫu sử dụng công cụ OpenAI tiêu chuẩn.

Tính năng này hoạt động với bất kỳ SDK tương thích OpenAI nào. Mô hình không kiểm duyệt xử lý rõ ràng các định nghĩa công cụ, mà không từ chối xuất tên hàm do bộ lọc nội dung. Nó phù hợp để xây dựng các đại lý hoặc tự động hóa các quy trình yêu cầu các lệnh gọi API bên ngoài.

Tham số, Giới hạn và Lỗi

Cửa sổ ngữ cảnh là 100,000 token, bao gồm cả prompt và completion. Không có giới hạn đầu ra riêng (nếu max_tokens không được đặt, phản hồi có thể chạy đến hết cửa sổ). Bạn có thể kiểm soát quá trình tạo với temperature, top_p, stop, seed và các tham số phạt.

Giới hạn tốc độ là 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Nếu bạn vượt quá các giới hạn này, bạn sẽ nhận được lỗi 429. Thân yêu cầu phải dưới 8 MB. Các giới hạn này đảm bảo hiệu suất ổn định cho người dùng khối lượng lớn. Không có hạn chế ẩn nào về loại nội dung bạn có thể tạo, ngoại trừ giới hạn cứng về nội dung tình dục liên quan đến trẻ vị thành niên.