Qwen Abliterated रोलप्ले: सेटिंग्स और API सेटअप
रोलप्ले वह स्थिति है जहाँ रिफ्यूजल व्यवहार सबसे अधिक नुकसान पहुँचाता है, क्योंकि एक अकेली चेतावनी दृश्य तोड़ देती है। यहाँ एक बिना सेंसर एंडपॉइंट के साथ फिक्शन और कॉम्पैनियन चैट्स के लिए एक काम करने वाला सेटअप है, जिसमें सैम्पलर मान और लागत शामिल हैं।
मुख्य बिंदु
- SillyTavern में, साइट के /v1 URL और मॉडल uncensored के साथ एक कस्टम OpenAI-संगत स्रोत जोड़ें।
- तापमान 0.8 और top_p 0.9 के आसपास शुरू करें, फिर एक बार में एक मान बदलें।
- एक लंबा दृश्य हर टर्न पर इतिहास फिर से भेजता है, इसलिए लागत नियंत्रित करने के लिए कॉन्टेक्स्ट को काटें।
- मॉडल केवल टेक्स्ट है; केवल कानूनी वयस्क उपयोग, और नाबालिगों से जुड़ी कोई भी चीज़ नहीं।
रोलप्ले उपयोगकर्ता बिना सेंसर मॉडल क्यों खोजते हैं
वे लोग qwen abliterated roleplay खोज रहे हैं, वे एक ऐसा मॉडल चाहते हैं जो किरदार में बना रहे। स्टैंडर्ड चैट मॉडल दृश्य से बाहर निकलने, डिस्क्लेमर जोड़ने या कथा में सामान्य विषयों—युद्ध, शोक, खलनायक, हॉरर, नैतिक रूप से धूसर कथाकार—से इनकार करने के लिए ट्यून्ड होते हैं। Abliterated और अन्य uncensored बिल्ड्स इसलिए मौजूद हैं क्योंकि वे विचलन immersion को खराब कर देते हैं।
यह लेख स्थानीय फ़ाइल के बजाय API के माध्यम से उस प्रकार की सत्र चलाने के बारे में है। यहाँ होस्टेड मॉडल एक स्वतंत्र प्रदाता से एक ओपन-वेट मॉडल है, जिसे कानूनी वयस्क उपयोग के लिए सामग्री अस्वीकृति के बिना उत्तर देने के लिए ट्यून्ड किया गया है। यह आधिकारिक Qwen API नहीं है, और हम दावा नहीं करते कि यह एक विशिष्ट abliterated Qwen चेकपॉइंट है। इसे एक अलग मॉडल मानें और अपने किरदारों के आधार पर इसका मूल्यांकन करें।
एक सीमा बिना अपवाद के लागू होती है: नाबालिगों के साथ यौन सामग्री नहीं। किरदार वयस्क होने चाहिए। इस पृष्ठ का शेष भाग केवल तकनीकी पक्ष पर केंद्रित है, जो आपके द्वारा लिखे गए किसी भी शैली के लिए समान है।
SillyTavern कनेक्ट करें
SillyTavern किसी भी OpenAI-संगत एंडपॉइंट से बात कर सकता है। मेनू के नाम संस्करणों के बीच बदल सकते हैं, लेकिन पथ हमेशा एक ही विचार है: API कनेक्शन पैनल खोलें, Chat Completion स्रोत चुनें और कस्टम या OpenAI-संगत विकल्प चुनें।
- API कुंजी पेज पर एक कुंजी बनाएं। नए खातों में एक क्लिक के साथ 7 दिनों के लिए वैध और बिना कार्ड के $0.50 का मुफ़्त ट्रायल क्रेडिट दावा कर सकते हैं।
- SillyTavern में, Chat Completion और फिर कस्टम स्रोत चुनें।
- एंडपॉइंट URL को
https://api.qwenabliterated.top/v1पर सेट करें। - API कुंजी फ़ील्ड में कुंजी पेस्ट करें।
- मॉडल ID के रूप में
uncensoredदर्ज करें, या कनेक्ट बटन एक लाने पर सूची से चुनें। - कनेक्ट दबाएं और एक छोटा परीक्षण संदेश भेजें।
यदि टेस्ट 401 के साथ फेल होता है, तो कुंजी को फिर से जाँचें। यदि यह 404 के साथ फेल होता है, तो सुनिश्चित करें कि URL /v1 पर समाप्त होता है और उसके बाद कोई अतिरिक्त पथ नहीं है। डॉक्स पेज एंडपॉइंट्स की सूची देता है।
अपने स्क्रिप्ट का उपयोग करके
यदि आप अपना खुद का फ्रंट एंड या बॉट लिखते हैं, तो समान सेटिंग्स SDK में जाती हैं। एक न्यूनतम लूप जो इतिहास को बनाए रखता है:
from openai import OpenAI
client = OpenAI(base_url="https://api.qwenabliterated.top/v1", api_key="YOUR_API_KEY")
history = [{"role": "system", "content": open("character.txt").read()}]
while True:
user = input("> ")
history.append({"role": "user", "content": user})
out = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.85,
top_p=0.9,
frequency_penalty=0.3,
max_tokens=500,
)
text = out.choices[0].message.content
history.append({"role": "assistant", "content": text})
print(text)एक सिस्टम प्रॉम्प्ट जो एक किरदार को बनाए रखे
सिस्टम संदेश अधिकांश काम करता है। इसे छोटा, स्पष्ट और व्यवहार के बारे में निर्देशों के रूप में लिखें, जैवग्राफ़ी के रूप में नहीं। एक पैटर्न जो अच्छी तरह से काम करता है:
You are Mara Voss, a ship's navigator in a space-opera story.
Write in third person, past tense, 120 to 250 words per reply.
Stay in character. Do not summarise the scene or add out-of-story notes.
Never speak or act for the user's character; end each reply on an open beat.
All characters are adults.
Setting: the freighter Kestrel, three weeks out from port, supplies running low.प्रत्येक पंक्ति के होने के कारण के नोट्स। एक लक्ष्य लंबता जवाबों के फूलने को रोकती है। उपयोगकर्ता के किरदार के लिए बोलने के नियम को सबसे आम सुधार लोग करते हैं। आखिरी पंक्ति सेटिंग को ठीक करती है ताकि मॉडल दो चरण बाद अलग सेटिंग न बनाए। किरदार के बारे में महत्वपूर्ण तथ्य, जैसे घाव, कर्ज या आदत, प्रॉम्प्ट की कुछ पंक्तियों में होने चाहिए, पीठभूमि के पृष्ठ में नहीं।
यदि मॉडल लंबी चैट में किरदार से विचलित हो जाता है, तो इतिहास के अंत के पास मुख्य नियमों को एक छोटे रिमाइंडर संदेश के रूप में दोहराएं, न कि ओपनिंग प्रॉम्प्ट को लंबा करके।
शुरू करने के लिए सैंपलिंग मान
API तापमान, top_p, stop, seed और पेनल्टीज को पास करती है। वे नियंत्रण हैं जो आपके पास हैं; स्थानीय उपकरणों में मौजूद अन्य सैंपलर्स उपलब्ध नहीं हो सकते, इसलिए उन पर भरोसा न करें।
| मद | शुरुआती मान | यह क्या बदलता है |
|---|---|---|
| तापमान | 0.8 से 1.0 | उच्चतर अधिक विविध शब्दावली देता है; लगभग 1.1 से ऊपर असंगतता की उम्मीद करें। |
| top_p | 0.9 | शब्द चयन के दुर्लभ अंत को काटता है। |
| frequency_penalty | 0.2 से 0.5 | एक ही शब्दों और वाक्यांशों को दोहराने को कम प्रोत्साहित करता है। |
| presence_penalty | 0 से 0.3 | मॉडल को नए विषयों की ओर ले जाता है। |
| max_tokens | 300 से 600 | जवाब की लंबाई को सीमित करता है; वैकल्पिक। |
| बंद | आपके किरदार का नाम plus एक काला | मॉडल को आपकी अगली पंक्ति लिखने से रोकता है। |
एक बार में एक मान बदलें और निर्णय लेने से पहले कुछ चरण खेलें। यदि आप दो सेटिंग्स को निष्पक्ष रूप से तुलना करना चाहते हैं, तो seed को एक निश्चित संख्या पर सेट करें ताकि एक ही प्रॉम्प्ट एक ही शुरुआती बिंदु दे।
प्रारंभिक संदेश और दृश्य हूक्स
चैट में पहला संदेश टोन सेट करता है किसी निर्देश से ज्यादा। यदि यह दो पंक्तियों का संवाद है बिना विवरण के, जवाब छोटे होंगे। यदि यह एक पूरा पैराग्राफ है दृश्य सेटिंग का उस शैली में जो आप चाहते हैं, मॉडल उसी लंबता और रजिस्टर की नकल करेगा। प्रारंभिक संदेश को एक उदाहरण के रूप में लिखें कि आप क्या पढ़ना चाहते हैं।
दृश्य को एक दबाव बिंदु दें। जीवन-समर्थन प्रणाली खराब होने के कारण फँसा हुआ दल, अधिक दिलचस्प चरण उत्पन्न करता है एक दल से जो बार में बैठा है, क्योंकि मॉडल हमेशा कुछ ऐसा होता है जिस पर धकेलना है। जब दृश्य रुक जाता है, एक घटना जोड़ें अपनी ओर से: एक संदेश आता है, एक दरवाजा खुलता है, एक निर्णय मजबूर होता है। अधिकांश नीरस रोलप्ले में दाँव की कमी होती है, मॉडल की समस्या नहीं।
कई किरदारों के लिए, सिस्टम प्रॉम्प्ट में प्रत्येक का नाम एक एकल पंक्ति में दें जिसमें आवाज़ का वर्णन हो, जैसे "डॉक्टर इम्रे: शुष्क, सटीक, कभी गालियाँ नहीं देते"। अलग-अलग बोलने की आदतें मॉडल को लंबे इतिहास में आवाज़ों को अलग रखने में आसान बनाती हैं, और आपको यह पहचानने में आसान बनाती हैं कि कब दो आवाज़ें मिल गई हैं।
100k कॉन्टेक्स्ट विंडो का प्रबंधन
कॉन्टेक्स्ट विंडो 100,000 टोकन का है, प्रॉम्प्ट और कंप्लीशन मिलाकर, इसलिए कुछ भी काटे जाने से पहले दृश्य बहुत लंबा चल सकता है। हालाँकि, लंबा होने का मतलब स्वचालित रूप से बेहतर नहीं है। चैट मॉडल इतिहास के बीच में दफ्न विवरणों पर कम ध्यान देते हैं, और हर बारी में पूरा ट्रांसक्रिप्ट फिर से भेजा जाता है, जिसे आप इनपुट के रूप में भुगतान करते हैं।
व्यावहारिक आदतें:
- अपने फ्रंट एंड में कॉन्टेक्स्ट साइज़ को 16,000 से 32,000 टोकन के बीच कुछ पर सेट करें और पुरानी बारी को गिरने दें।
- हर कुछ समय बाद मॉडल से घटनाओं और किरदार की स्थिति का एक छोटा सारांश माँगें, फिर उसे सिस्टम प्रॉम्प्ट में पेस्ट करें और पुराने टर्न साफ़ करें।
- नामों, स्थानों और वादों के लिए "तथ्य जो सच रहने चाहिए" की सूची सिस्टम संदेश में रखें।
- स्टॉप सीक्वेंस और लंबाई की सीमा का उपयोग करें ताकि प्रतिक्रियाएँ आकार में बढ़ती न जाएँ।
यह भी याद रखें कि यह एक टेक्स्ट मॉडल है। यह छवियाँ या आवाज़ नहीं उत्पन्न करता, इसलिए एक कंपैनियन ऐप में अवतार और ऑडियो के लिए अन्य टूल्स की आवश्यकता होती है।
एक सत्र की लागत
मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। एक लंबा दृश्य लें जहाँ इतिहास 30,000 टोकन तक पहुँच चुका है और प्रत्येक जवाब लगभग 400 टोकन का है। एक बारी में इनपुट के लिए 30,000 x $0.15 / 1M = $0.0045 और आउटपुट के लिए 400 x $0.50 / 1M = $0.0002 लागत आती है, इसलिए $0.0047। ऐसे एक सौ बारी की लागत $0.47 है।
12,000-टोकन विंडो वाले उसी सत्र का खर्च 12,000 x $0.15 / 1M = $0.0018 प्लस $0.0002, यानी प्रति टर्न $0.002 और एक सौ टर्न के लिए $0.20 होता है। कॉन्टेक्स्ट को काटना सबसे आसान बचत है।
कोई सब्सक्रिप्शन नहीं है। आप $20 से $500 तक कोई भी पूर्ण राशि प्रीपेड करते हैं, $50 से +5%, $100 से +10% और $200 से +15% बोनस के साथ, और क्रेडिट कभी खत्म नहीं होता। क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान करें। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है। विवरण मूल्य निर्धारण पृष्ठ पर हैं।
सामान्य समस्याएं
- प्रतिक्रियाएँ दोहराव वाली हो जाती हैं। frequency_penalty को थोड़ा बढ़ाएँ, पुराने चरणों को काटें, या कॉन्टेक्स्ट विंडो का आकार कम करें।
- मॉडल आपकी पंक्तियाँ लिखता है। नियम को सिस्टम प्रॉम्प्ट में जोड़ें और अपने किरदार के नाम पर एक stop sequence सेट करें।
- HTTP 429 बीच दृश्य में। आपने एक सीमा छू ली: 8 समानांतर अनुरोध और प्रति मिनट 300 एक पूर्ण कुंजी पर, 2 और 60 एक ट्रायल कुंजी पर।
Retry-Afterमान का प्रतीक्ष करें और पुनः भेजें। स्ट्रीमिंग समाप्त होने तक एक कॉन्करेंसी स्लॉट बनाए रखता है, इसलिए उन स्ट्रीम को बंद करें जिन्हें आप छोड़ रहे हैं। - किरदार विवरण भूल जाते हैं। मुख्य तथ्यों को सिस्टम प्रॉम्प्ट में ले जाएं और पुराने टर्न्स का सारांश दें।
प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं। अन्य पे-पर-टोकन विकल्पों की तुलना के लिए, तुलना गाइड में अधिक है।
अधिक गाइड
प्रश्न और उत्तर
क्या मैं इसका उपयोग SillyTavern के साथ कर सकता हूँ?
हाँ। कस्टम OpenAI-कम्पैटिबल एंडपॉइंट के साथ चैट कंप्लीशन स्रोत चुनें, साइट का /v1 URL, आपकी कुंजी और मॉडल ID uncensored दर्ज करें।
रोलप्ले के लिए कौन-सा तापमान (temperature) सबसे अच्छा काम करता है?
ज्यादातर लोग top_p को लगभग 0.9 रखते हुए 0.8 और 1.0 के बीच शुरू करते हैं। एक बार में एक मान बदलें और कई टर्न्स पर टेस्ट करें।
क्या मॉडल छवि या आवाज़ जनरेट करता है?
नहीं। यह केवल टेक्स्ट के लिए है, इसलिए छवियों, ऑडियो और वीडियो के लिए अलग टूल्स की आवश्यकता है।
क्या सामग्री सीमाएँ हैं?
यह कानूनी वयस्कों के उपयोग के लिए बनाया गया है, और सभी किरदार वयस्क होने चाहिए। नाबालिगों से जुड़ी यौन सामग्री कभी भी अनुमति नहीं है।
लंबे रोलप्ले का खर्च कितना आता है?
30,000-टोकन की हिस्ट्री और 400-टोकन की रिप्लाई के साथ, प्रति टर्न लगभग $0.0047, या एक सौ टर्न्स के लिए $0.47। छोटी कॉन्टेक्स्ट विंडो इसे कम करती है।
आपकी कुंजी बस एक फ़ॉर्म दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।
API कुंजी पाएँ