Shannon 3, वह अनसेंसर्ड AI मॉडल जो अपने ही जवाब की समीक्षा करता है
हमारे अपने GPU क्लस्टर पर एक पुनरावृत्त तर्क लूप: सोचना, ड्राफ़्ट, समीक्षा, पुनर्लेखन। Lite एक पास चलाता है। Pro दस तक चलाता है, और वे तथ्य माँगता है जिनकी कमी उसे ख़ुद पता है।
संक्षेप में
Shannon 3 हमारे अपने GPU क्लस्टर से सर्व किया जाने वाला अनसेंसर्ड AI मॉडल परिवार है। इसकी विशिष्ट पहचान है एक टर्न की बनावट: मॉडल सोचता है, एक ड्राफ़्ट लिखता है, फिर अपने ही ड्राफ़्ट को अपनी ही सोच के सामने पढ़ता है और जो टिकता नहीं उसे दोबारा लिखता है। Lite (shannon-3) सबसे कम विलंबता के लिए सोचने-और-ड्राफ़्ट का एक पास करता है। Pro (shannon-3-pro) पूरा लूप 10 पुनरावृत्तियों तक चलाता है, और जैसे ही कोई समीक्षा ड्राफ़्ट को मंज़ूर करती है वहीं रुक जाता है, तथा इसके अलावा एक बड़े मॉडल के सामने नॉलेज हार्वेस्ट चलाकर उन तथ्यों को भरता है जिनकी कमी उसने महसूस की। पूरा तर्क ट्रेस आपकी भाषा में दिखता है। दोनों टियर पर विज़न और दस्तावेज़ इनपुट समर्थित हैं। 3.0 के लॉन्च पर कॉन्टेक्स्ट 32,768 टोकन था।
आपने जितने भी चैट मॉडल इस्तेमाल किए हैं, उनमें से लगभग हर एक एक ही फ़ॉरवर्ड पास में जवाब देता है। वह पहला टोकन तब चुनता है जब उसे आख़िरी टोकन का पता नहीं होता, और एक बार कोई वाक्य निकल गया तो वह पक्का हो जाता है: मॉडल बाद में उसका खंडन कर सकता है, लेकिन वापस जाकर उसे ठीक नहीं कर सकता। जब जवाब छोटा हो और सवाल का एक ही हिस्सा हो, तो यह ठीक काम करता है। यह तब बुरी तरह काम करता है जब जवाब लंबा हो, सवाल के चार हिस्से हों, और छठा अनुच्छेद चुपचाप दूसरे अनुच्छेद को रद्द कर दे। Shannon 3 इसलिए मौजूद है क्योंकि हमें नहीं लगा कि इसका इलाज कोई बड़ा मॉडल है। इलाज यह है कि मॉडल को वह पढ़ने दिया जाए जो उसने अभी लिखा है।
01Shannon 3 क्या है
Shannon 3 दो टियर वाला मॉडल परिवार है। दोनों टियर किसी तीसरे-पक्ष के इन्फ़रेंस API के बजाय हमारे अपने GPU क्लस्टर पर चलते हैं, और दोनों अनसेंसर्ड हैं: उनके आगे कोई रिफ्यूज़ल लेयर नहीं है और पीछे कोई कंटेंट फ़िल्टर नहीं। टियरों के बीच फ़र्क़ यह है कि जवाब आप तक पहुँचने से पहले एक टर्न को कितना काम करने की अनुमति है।
API पर दोनों टियर सामान्य मॉडल ids हैं। कोई ख़ास एंडपॉइंट नहीं, कोई अलग SDK नहीं, और कोई विशेष रिक्वेस्ट फ़ॉर्मैट नहीं:
| टियर | मॉडल id | टर्न की बनावट | किसके लिए सबसे अच्छा |
|---|---|---|---|
| Shannon 3 Lite | shannon-3 | एक सोच + ड्राफ़्ट पास | चैट, ड्राफ़्टिंग, जानकारी खोजना, अधिक मात्रा |
| Shannon 3 Pro | shannon-3-pro | पूरा लूप, 10 पास तक, साथ में नॉलेज हार्वेस्ट | विश्लेषण, लंबा लेखन, शुद्धता-संवेदनशील काम |
02कठिन सवालों के लिए एक ही फ़ॉरवर्ड पास ग़लत बनावट क्यों है
बाएँ से दाएँ टेक्स्ट बनाता कोई मॉडल स्थानीय फ़ैसलों की एक अटल शृंखला बनाता है। उसके पास कोई रबर नहीं है। जब वह किसी व्याख्या में 400 टोकन आगे बढ़ चुका होता है और तब उसे एहसास होता है कि उसने जो ढाँचा चुना वह ग़लत था, तो उसके पास सिर्फ़ दो विकल्प हैं: ग़लत ढाँचे में आगे बढ़ना, या एक सुधार जोड़ देना — और इसी से वे जवाब पैदा होते हैं जिन्हें हर कोई पहचानता है, जो बीच में कहते हैं दरअसल, ऊपर की बात पर फिर से लौटते हुए और दो असंगत हिस्सों को मिलाने का काम आप पर छोड़ देते हैं।
चेन-ऑफ़-थॉट इसे बेहतर करता है पर हल नहीं करता। पहले सोचने से मॉडल को गद्य लिखने से पहले एक योजना मिल जाती है, जो असली फ़ायदा है; फिर भी उसके बाद का ड्राफ़्ट एक ही पास में लिखा जाता है और बिना पढ़े ही भेज दिया जाता है। कोई भी वह सवाल नहीं पूछता जो कोई मानव संपादक सबसे पहले पूछता है: क्या यह जवाब वाक़ई वही करता है जो सोच में तय हुआ था? चेन-ऑफ़-थॉट के बाद भी बचे रहने वाले विफलता के तरीक़े विशिष्ट और पहचानने योग्य हैं:
- छूटे हुए उप-सवाल। आपने चार चीज़ें पूछीं। सोच में चार चीज़ें गिनाई गईं। जवाब तीन को कवर करता है।
- योजना का बहकना। तर्क एक तरीक़ा तय करता है; गद्य धीरे-धीरे कोई दूसरा तरीक़ा अपना लेता है, और कोई एक वाक्य ऐसा नहीं होता जहाँ ग़लती हुई हो।
- गणित और इकाइयाँ। सोच में सही निकाली गई कोई संख्या जवाब में ग़लत लिख दी जाती है, या प्रति-माह का आँकड़ा प्रति-वर्ष के रूप में पेश कर दिया जाता है।
- अनदेखी शर्तें। आपने कहा था कोई बाहरी डिपेंडेंसी नहीं; कोड एक इम्पोर्ट कर लेता है, और शर्त को स्वीकार करने के बाद सोच उसका दोबारा ज़िक्र ही नहीं करती।
- आत्मविश्वास से भरे अंतराल। मॉडल सोच में कहता है कि उसे किसी एक तथ्य पर संदेह है, फिर जवाब में उसे सपाट ढंग से बता देता है।
इनमें से हर एक ड्राफ़्ट पढ़ने से पकड़ा जाता है। इनमें से कोई भी ड्राफ़्ट को और सावधानी से बनाने से नहीं पकड़ा जाता।
03तर्क लूप, चरण दर चरण
Shannon 3 Pro का एक टर्न चार चरणों और एक निकास शर्त वाला लूप है।
सोचना
मॉडल आपके लिए कुछ भी लिखने से पहले समस्या पर काम करता है: सवाल को टुकड़ों में बाँटना, शर्तें नोट करना, यह पहचानना कि वह क्या जानता है और क्या नहीं, और एक तरीक़ा तय करना। यहाँ वह जो बनाता है, वही वह मानक बन जाता है जिसके सामने बाद में जवाब को परखा जाता है।
ड्राफ़्ट
मॉडल एक पूरा, असली जवाब लिखता है — कोई रूपरेखा नहीं। इसका पूरा होना ज़रूरी है, क्योंकि अगला चरण एक तैयार कृति का मूल्यांकन करता है, और किसी ख़ाके की उन विफलताओं के लिए समीक्षा नहीं की जा सकती जो पूरी लंबाई पर ही सामने आती हैं।
समीक्षा
यही वह चरण है जो इस परिवार को वह बनाता है जो वह है। मॉडल ड्राफ़्ट को सोच के सामने रखकर पढ़ता है — यह अकेले ड्राफ़्ट पढ़ने से कहीं तीखी परीक्षा है। किसी मॉडल से पूछना कि "क्या यह जवाब अच्छा है?" उसे हाँ कहने का न्योता देता है; पूछना कि "योजना में कहा गया था कि शर्त C के तहत X, Y और Z को कवर करना है — क्या यह टेक्स्ट ऐसा करता है?" उसे जाँचने के लिए कुछ खंडन-योग्य देता है। समीक्षा कोई ग्रेड देने के बजाय यह बताती है कि ग़लत क्या है।
पुनर्लेखन
बताई गई समस्याएँ एक नए ड्राफ़्ट में ठीक की जाती हैं। यह पुनर्लेखन है, कोई पैच नहीं: अगर किसी सुधार के लिए तर्क का क्रम बदलना पड़े, तो क्रम बदलने की अनुमति है। नया ड्राफ़्ट फिर से समीक्षा में जाता है।
रुकना
लूप पहली बार तभी ख़त्म होता है जब कोई समीक्षा ड्राफ़्ट को मंज़ूर कर देती है — यही सामान्य निकास है, और ज़्यादातर टर्न पर यह सीमा से काफ़ी पहले हो जाता है। 10 पुनरावृत्तियों की कठोर सीमा असामान्य मामलों के लिए है, जैसे कोई वाक़ई अस्पष्ट सवाल जहाँ हर पुनर्लेखन एक ख़ामी की जगह दूसरी ले आता है, ताकि कोई टर्न अनिश्चित काल तक न घूमता रहे।
Lite वही पहले दो चरण लेकर रुक जाता है। वह सोचता है, ड्राफ़्ट बनाता है, और वही ड्राफ़्ट आपको दे देता है। यह एक सोचा-समझा उत्पाद फ़ैसला है, कोई कतर-ब्योंत वाली दुर्घटना नहीं: असली संदेशों के एक बड़े हिस्से में पहला ड्राफ़्ट ही सही जवाब होता है, और यह सुनने के लिए समीक्षा की विलंबता चुकाना एक बुरा सौदा है। Lite तब के लिए है जब आप चाहते हैं कि मॉडल तेज़ हो; Pro तब के लिए जब आप चाहते हैं कि वह पक्का हो।
04Pro का नॉलेज हार्वेस्ट: अंदाज़ा लगाने के बजाय मदद माँगना
स्वयं-समीक्षा विरोधाभास, चूक और शर्तों के उल्लंघन पकड़ती है, क्योंकि उन्हें पकड़ने के लिए ज़रूरी सबूत टर्न में पहले से मौजूद है। वह ऐसा तथ्य नहीं पकड़ सकती जो मॉडल के पास है ही नहीं। अपने ड्राफ़्ट की समीक्षा करता मॉडल यह निष्कर्ष निकाल सकता है कि मुझे इस आँकड़े पर भरोसा नहीं और फिर उस निष्कर्ष के साथ उसके पास जाने के लिए कोई जगह न हो।
Pro उसे जाने के लिए जगह देता है। ड्राफ़्टिंग चरण के आसपास वह एक नॉलेज हार्वेस्ट करता है: वह उन विशिष्ट तथ्यों को पहचानता है जो उसके पास नहीं हैं या जिन पर उसे संदेह है, ठीक उन्हीं के लिए एक दूसरे, बड़े मॉडल से पूछता है, और जो लौटकर आता है उसे बेहतर जवाब में शामिल कर लेता है। यह एक लक्षित पूछताछ है जो मॉडल के ख़ुद बताए अंतराल से चलती है, कोई कंबल जैसी दूसरी राय नहीं।
व्यवहार में दो गुण मायने रखते हैं। यह सीमित दायरे वाला है: हार्वेस्ट पूरा सवाल दोबारा पूछने के बजाय पहचाने गए अंतरालों के बारे में पूछता है, इसलिए बड़े मॉडल से वहाँ सलाह ली जाती है जहाँ वह जानकारी जोड़ता है, न कि वहाँ जहाँ वह बस एक अलग आवाज़ जोड़ता। और यह एकीकृत है: हार्वेस्ट किए गए तथ्य वापस लूप में जाते हैं और बाकी सब की तरह उसी समीक्षा का सामना करते हैं, बजाय इसके कि वे बाहर से चिपकाए गए अनुच्छेद की तरह आ जाएँ।
यह अनिश्चितता के बारे में क्या बदलता है
हार्वेस्ट का सबसे उपयोगी असर यह नहीं है कि Pro ज़्यादा जानता है। असर यह है कि Pro की अनिश्चितता कार्रवाई-योग्य हो जाती है। जो मॉडल सिर्फ़ इतना जानता है कि उसे संदेह है, उसे हर बात पर बचाव करने और आत्मविश्वास से दावा करने के बीच चुनना पड़ता है। जो मॉडल "मुझे इस पर संदेह है" को "चलिए पता करता हूँ" में बदल सकता है, वह कम जगहों पर बचाव करता है और ज़्यादा जगहों पर ठोस होता है।
05तर्क दिखता है, और वह आपकी भाषा में होता है
टर्न चलते समय पूरा ट्रेस आपको दिखाया जाता है: सोच, और Pro पर हर समीक्षा और उसने किस बात पर आपत्ति की। यह कोई डिबग व्यू नहीं है जिसे दिखाना हम बर्दाश्त करते हैं — यह उसका बड़ा हिस्सा है जो आप ख़रीद रहे हैं, और यह काम के रिश्ते को तीन ठोस तरीक़ों से बदलता है।
- आप जल्दी रोक सकते हैं। अगर सोच आपके सवाल को ग़लत समझती है — जो अस्पष्ट प्रॉम्प्ट का आम नतीजा है, ख़राब मॉडल का नहीं — तो आपको यह पहले कुछ सेकंड में पता चल जाता है, न कि तब जब पूरा जवाब आ जाए जो ग़लत समस्या हल कर रहा हो।
- आप तर्क का ऑडिट जवाब से अलग कर सकते हैं। ग़लत तर्क से पहुँचा हुआ सही जवाब एक जोखिम है, क्योंकि वह अगले सवाल तक नहीं टिकेगा।
- आप लूप को विफल होते देख सकते हैं। जब Pro बिना निष्कर्ष पर पहुँचे कई पुनरावृत्तियाँ खपा देता है, तो वह छिपाया नहीं बल्कि दिखाया जाता है — और यह असली जानकारी है, जिसका आमतौर पर मतलब है कि सवाल अधूरा बताया गया है।
ट्रेस आपकी अपनी भाषा में लिखा जाता है, न कि अंग्रेज़ी में बनाकर अंत में अनूदित किया जाता है। अगर आप जापानी, अरबी, तुर्की या पुर्तगाली में काम करते हैं, तो मॉडल उसी भाषा में तर्क करता है — जिससे ट्रेस की शब्दावली जवाब की शब्दावली के अनुरूप रहती है, और वे जोड़ नहीं दिखते जो तब उभरते हैं जब मॉडल एक भाषा में सोचकर दूसरी में बोलता है।
06अनसेंसर्ड: कोई रिफ्यूज़ल लेयर नहीं, कोई आउटपुट फ़िल्टर नहीं
Shannon 3 बिना किसी रिफ्यूज़ल लेयर और बिना किसी आउटपुट कंटेंट फ़िल्टरिंग के आता है। इनकार का व्यवहार उत्पाद में किसी भी स्तर पर मौजूद नहीं है: न ऐसे रैपर के रूप में जो मॉडल के देखने से पहले आपका संदेश जाँचे, न ऐसे क्लासिफ़ायर के रूप में जो आपके देखने से पहले जवाब जाँचे, और न ऐसी सहज प्रतिक्रिया के रूप में जिससे मॉडल को बातों में लगाकर हटाना पड़े। यह उन दो चीज़ों से भौतिक रूप से अलग है जो लोग आमतौर पर "अनसेंसर्ड" कहते समय मानते हैं:
| तरीक़ा | वह क्या करता है | वह कैसे विफल होता है |
|---|---|---|
| सिस्टम-प्रॉम्प्ट जेलब्रेक | किसी अलाइन्ड मॉडल को ऐसा बर्ताव करने का निर्देश देता है मानो वह अलाइन्ड न हो | लंबी बातचीत में क्षय हो जाता है; दबाव पड़ने पर इनकार लौट आता है |
| आउटपुट फ़िल्टर हटाना | मॉडल के पहले से बनाए टेक्स्ट को रोकना बंद कर देता है | मॉडल फिर भी बचाव वाला, टालने वाला टेक्स्ट लिखता है — कुछ रोका नहीं गया, वह कभी लिखा ही नहीं गया |
| Shannon 3 | हटाने के लिए कोई रिफ्यूज़ल लेयर नहीं और बंद करने के लिए कोई फ़िल्टर नहीं — वह व्यवहार बस है ही नहीं | फ़ैसले का पूरा भार आप पर डालता है; मॉडल आपकी ओर से इनकार नहीं करेगा |
व्यवहार में Shannon 3 उसी सवाल से जूझता है जो आपने पूछा, न कि उसके पास खड़े किसी सुरक्षित सवाल से: असली प्रतिनायकों वाली कथा, सुरक्षा विषय जिन पर प्रेस-रिलीज़ की ऊँचाई से नहीं बल्कि तकनीकी रूप से चर्चा होती है, चिकित्सा, क़ानूनी और वित्तीय जानकारी जो सीधे दी जाती है, उन्हीं चेतावनियों के साथ जो वाक़ई ज़रूरी हैं — और आख़िर में कोई भाषण नहीं कि आपने यह क्यों पूछा। यह लूप को भी हल्का नहीं करता: कोई समीक्षा यह कहने के लिए स्वतंत्र है कि ड्राफ़्ट ग़लत है, और यह इनकार से अलग और कहीं ज़्यादा उपयोगी क़िस्म का प्रतिरोध है।
रिफ्यूज़ल लेयर की अनुपस्थिति जो नहीं करती, वह है मॉडल को सही बना देना। एक अनसेंसर्ड मॉडल ठीक उतना ही आत्मविश्वास से ग़लत हो सकता है जितना कोई सेंसर किया मॉडल, और उससे ज़्यादा खुलकर, क्योंकि संदेह होने पर वह अस्पष्टता में नहीं छिपेगा। यह लूप के पक्ष में बेहतर दलीलों में से एक है: जब रास्ते में इनकार की कोई प्रतिक्रिया न हो, तो स्वयं-समीक्षा वही सुरक्षा-कार्य करती है जो किसी पेशेवर उपयोगकर्ता के लिए मायने रखता है — ग़लतियाँ पकड़ना। मॉडल का आपका उपयोग अब भी हमारी ज़िम्मेदार उपयोग नीति और आपके यहाँ लागू क़ानून से संचालित होता है।
हम Shannon 3 के लिए कोई बेंचमार्क स्कोर प्रकाशित नहीं करते और दूसरे मॉडलों के ख़िलाफ़ आमने-सामने का कोई दावा नहीं करते। लूप का लाभ संरचनात्मक है — यह ग़लतियों की उन श्रेणियों को पकड़ता है जिन्हें एक ही पास नहीं पकड़ सकता — और हम उस तंत्र का ठीक-ठीक वर्णन करना पसंद करेंगे, बजाय उस पर कोई ऐसा आँकड़ा चिपकाने के जिसे हमने स्वतंत्र रूप से सत्यापित नहीं किया। ऊपर की हर बात यह बताती है कि एक टर्न क्या करता है; इसे जाँचने का सबसे तेज़ तरीक़ा है एक टर्न चलाना और ट्रेस पढ़ना।
07विज़न, दस्तावेज़, और इमेज जनरेशन
दोनों टियर अटैचमेंट के रूप में छवियाँ और दस्तावेज़ स्वीकार करते हैं और उन्हें टर्न के हिस्से के रूप में पढ़ते हैं। किसी विफल बिल्ड का स्क्रीनशॉट, व्हाइटबोर्ड की तस्वीर, कोई सर्किट आरेख, स्कैन किया अनुबंध पन्ना या PDF ख़ुद सवाल का विषय हो सकता है, न कि ऐसी चीज़ जिसे आपको पहले टाइप करना पड़े। Pro पर अटैचमेंट बाक़ी सब की तरह लूप में शामिल होते हैं: अगर कोई समीक्षा तय करती है कि ड्राफ़्ट ने ऐसे सवाल का जवाब दिया जिसका समर्थन छवि नहीं करती, तो वह दोबारा लिखा जाता है।
इमेज जनरेशन और एडिटिंग चैट में एक टूल के रूप में उपलब्ध हैं, मॉडल के उद्देश्य के रूप में नहीं। Shannon 3 एक तर्क मॉडल है जो ज़रूरत पड़ने पर कोई छवि बना या संपादित कर सकता है, न कि चैट इंटरफ़ेस लगा कोई इमेज मॉडल। यह भेद अपेक्षाएँ सही जगह रखता है: इस परिवार को इस बात पर परखिए कि वह कैसे सोचता है, और तस्वीरों को एक सुविधा मानिए जो संदर्भ बदलने से बचाती है।
08कॉन्टेक्स्ट विंडो, और 3.x लाइन आगे कहाँ गई
Shannon 3.0 32,768 टोकन की कॉन्टेक्स्ट विंडो के साथ लॉन्च हुआ था। यह ईमानदार ऐतिहासिक आँकड़ा है, और इसे साफ़ कहना ज़रूरी है, क्योंकि कोई लूप कॉन्टेक्स्ट को एकल-पास मॉडल से अलग तरीक़े से खपाता है: आपका प्रॉम्प्ट, आपके अटैचमेंट, सोच, और हर ड्राफ़्ट व समीक्षा चक्र, सब एक ही बजट में रहते हैं।
ज़्यादातर चैट और विश्लेषण के काम के लिए 32K आरामदायक है — एक लंबा दस्तावेज़, एक ठीक-ठाक कोड फ़ाइल, एक विस्तृत बहु-भागीय सवाल, जिसमें लूप के चलने की जगह भी बची रहे। वाक़ई बड़े इनपुट के लिए यह तंग है, और अगला रिलीज़ ठीक उसी बाध्यता को संबोधित करता है। Shannon 3.1 कॉन्टेक्स्ट विंडो को काफ़ी बढ़ाता है और बदलता है कि लूप को किस चीज़ पर लगाया जा सकता है; अगर आप आज इस परिवार का मूल्यांकन कर रहे हैं, तो वह लेख दूसरे नंबर पर पढ़िए और यहाँ की संख्या को इतिहास मानिए।
09API से Shannon 3 को कॉल करना
Shannon 3 हमारे तीनों API डायलेक्ट्स के ज़रिए, उन्हीं मॉडलों पर, हर एक पर स्ट्रीमिंग के साथ उपलब्ध है:
| डायलेक्ट | एंडपॉइंट | कब इस्तेमाल करें |
|---|---|---|
| OpenAI-कम्पैटिबल | /v1/chat/completions | आपके पास पहले से OpenAI क्लाइंट कोड है — बेस URL और मॉडल id बदल दीजिए |
| Anthropic-कम्पैटिबल | /v1/messages | आपका स्टैक Messages फ़ॉर्मैट के इर्द-गिर्द बना है |
| Responses | /v1/responses | आपको नया रिक्वेस्ट/रिस्पॉन्स आकार चाहिए |
मॉडल id के रूप में shannon-3 या shannon-3-pro भेजिए। क्लाइंट की ओर दो बातों की योजना बनाना ठीक रहेगा। Pro के टर्न लंबे चलते हैं, और उनकी अवधि बदलती रहती है, क्योंकि पुनरावृत्तियों की संख्या सवाल पर निर्भर करती है — टाइमआउट औसत के बजाय अधिकतम सीमा के हिसाब से तय कीजिए, और स्ट्रीमिंग को प्राथमिकता दीजिए ताकि उपयोगकर्ता को स्पिनर के बजाय प्रगति दिखे। और तर्क ट्रेस ऐसी सामग्री है जिसे आप दिखाना चुन सकते हैं; जहाँ उपयोगकर्ता इंतज़ार कर रहे हों, वहाँ उसे दिखाना छिपाने से आमतौर पर बेहतर है, क्योंकि यह ख़ाली समय को पढ़ने लायक चीज़ में बदल देता है। रिक्वेस्ट और रिस्पॉन्स स्कीमा, स्ट्रीमिंग का ब्योरा और एक लाइव प्लेग्राउंड API दस्तावेज़ीकरण में हैं।
10टियर चुनना
Pro का लूप अपनी विलंबता उसी अनुपात में वसूल करता है जितना ग़लत होने की गुंजाइश हो।
| आपका काम | टियर | क्यों |
|---|---|---|
| त्वरित तथ्यात्मक सवाल, छोटा जवाब | shannon-3 | पहला ड्राफ़्ट ही जवाब है; समीक्षा के पास पकड़ने को कुछ नहीं |
| अधिक मात्रा वाला या विलंबता-बाध्य ऑटोमेशन | shannon-3 | अनुमानित टर्न समय ही बाध्यकारी शर्त है |
| शर्तों वाला बहु-भागीय विश्लेषण | shannon-3-pro | छूटे उप-सवाल और शर्तों के उल्लंघन ठीक वही हैं जो समीक्षा पकड़ती है |
| लंबा लेखन जिसे एक साथ टिकना है | shannon-3-pro | आंतरिक विरोधाभास पूरी लंबाई का गुण है, ड्राफ़्ट बनाते समय अदृश्य |
| ऐसे किसी भी काम में संख्याएँ जिन पर आप अमल करेंगे | shannon-3-pro | समीक्षा गणित और इकाइयों को सोच के सामने दोबारा जाँचती है |
| मॉडल की सीमा पर पड़े तथ्यों को छूते सवाल | shannon-3-pro | नॉलेज हार्वेस्ट बताए गए अंतराल को एक पूछताछ में बदल देता है |
एक व्यावहारिक तरीक़ा: जब तक आप तय कर रहे हों कि पूछना क्या है, तब तक Lite इस्तेमाल कीजिए, फिर तय हो चुके सवाल को एक बार Pro पर दोबारा चलाइए। लूप की क़ीमत सवाल के उस रूप पर चुकाना सार्थक है जो आपका असली मतलब था।
11प्रतिबद्ध होने से पहले जानने लायक सीमाएँ
जो मॉडल कार्ड सिर्फ़ ख़ूबियाँ गिनाता है वह विज्ञापन है। यहाँ बताया है कि Shannon 3 आपको कहाँ निराश करेगा:
- Pro धीमा है, और अनिश्चित रूप से धीमा। दो पुनरावृत्तियों में निपटने वाले टर्न और दस तक चलने वाले टर्न के घड़ी-समय में कई गुना फ़र्क़ होता है। अगर आपको सीमित विलंबता चाहिए, तो Lite इस्तेमाल कीजिए।
- समीक्षा कोई प्रमाण नहीं है। अपना ही काम जाँचता मॉडल अपने ही अंधे धब्बे साथ रखता है। लूप सोच और ड्राफ़्ट के बीच की असंगति भरोसेमंद ढंग से पकड़ता है; वह ऐसी ग़लती भरोसे से नहीं पकड़ता जो सोच में ही आत्मविश्वास के साथ बैठी हो।
- कॉन्टेक्स्ट लूप के साथ साझा होता है। 32K पर बहुत लंबा इनपुट और साथ में कई पूरी लंबाई के ड्राफ़्ट 3.0 पर एक असली बाध्यता हैं। बढ़ी हुई सीमा के लिए Shannon 3.1 देखिए।
- हार्वेस्ट सिर्फ़ वही अंतराल भरता है जो मॉडल को दिखते हैं। यह "मुझे इस पर संदेह है" को एक पूछताछ में बदलता है, जो असली फ़ायदा है — लेकिन जिस तथ्य के बारे में मॉडल आत्मविश्वास से ग़लत है, उसे कभी अनुपस्थित नहीं माना जाता, इसलिए उसे कभी हार्वेस्ट भी नहीं किया जाता।
- अनसेंसर्ड का मतलब अनसेंसर्ड ही है। मॉडल इनकार नहीं करेगा और बात को नरम नहीं करेगा। अगर आपके उत्पाद को इनकार की कोई सीमा चाहिए, तो उसे वहाँ बनाइए जहाँ आप उसे देख सकें, बजाय यह उम्मीद करने के कि मॉडल वह ख़ुद दे देगा।
12अक्सर पूछे जाने वाले सवाल
Shannon 3 क्या है?
Shannon 3 अनसेंसर्ड मॉडलों का एक परिवार है जो हमारे अपने GPU क्लस्टर पर चलता है। इसे अलग बनाती है एक टर्न की बनावट: एक ही फ़ॉरवर्ड पास के बजाय, यह सोचता है, जवाब का ड्राफ़्ट बनाता है, फिर उस ड्राफ़्ट की अपनी ही सोच के सामने समीक्षा करता है और उसे दोबारा लिखता है। यह दो टियर में आता है, shannon-3 (Lite) और shannon-3-pro (Pro)।
Shannon 3 Lite और Shannon 3 Pro में क्या अंतर है?
Lite सोचने-और-ड्राफ़्ट बनाने का एक ही पास चलाता है, जिससे विलंबता एक सामान्य मॉडल के क़रीब रहती है। Pro पूरा लूप चलाता है, हर ड्राफ़्ट की समीक्षा और पुनर्लेखन 10 पुनरावृत्तियों तक करता है और जैसे ही कोई समीक्षा उसे मंज़ूर कर देती है, वहीं रुक जाता है। Pro एक नॉलेज हार्वेस्ट भी करता है, जिसमें वह उन तथ्यों के लिए एक दूसरे, बड़े मॉडल से पूछता है जिन्हें उसने अनुपस्थित पहचाना था।
क्या Shannon 3 वाक़ई अनसेंसर्ड है?
हाँ। Shannon 3 बिना किसी रिफ्यूज़ल लेयर और बिना किसी आउटपुट कंटेंट फ़िल्टर के आता है। इनकार का व्यवहार मॉडल में ही मौजूद नहीं है, इसलिए ऐसा कुछ नहीं है जो लंबी बातचीत के बीच चुपचाप लौट आए, जैसा किसी प्रॉम्प्ट से बनाए गए व्यक्तित्व के साथ होता है। मॉडल का उपयोग अब भी हमारी ज़िम्मेदार उपयोग नीति और आपके यहाँ लागू क़ानून से संचालित होता है।
क्या समीक्षा लूप वाक़ई जवाबों को बेहतर बनाता है?
यह वहाँ सबसे ज़्यादा मदद करता है जहाँ एक ही पास संरचनात्मक रूप से कमज़ोर होता है: लंबे जवाब जिनका अंत उनकी शुरुआत का खंडन करता है, बहु-भागीय सवाल जिनमें एक भाग चुपचाप छूट जाता है, गणित और इकाइयों की ग़लतियाँ, और ऐसा कोड जो बताई गई शर्त की अनदेखी करता है। यह छोटी जानकारी खोजने वाले सवालों में सबसे कम मदद करता है, जहाँ पहला ड्राफ़्ट ही जवाब होता है। इसीलिए Lite मौजूद है।
अगर समीक्षा कभी ड्राफ़्ट को मंज़ूर ही न करे तो क्या होता है?
लूप 10 पुनरावृत्तियों की अपनी सीमा पर रुक जाता है और अनिश्चित काल तक घूमते रहने के बजाय जो सर्वोत्तम ड्राफ़्ट उसने बनाया वही लौटा देता है। चूँकि ट्रेस दिखता है, आप वे आपत्तियाँ भी पढ़ सकते हैं जो कभी हल नहीं हुईं — जिसका आमतौर पर मतलब है कि सवाल इतना अस्पष्ट था कि हर पुनर्लेखन ने एक ख़ामी की जगह दूसरी ले ली, और यह संकेत है कि सवाल को दोबारा लिखा जाए।
क्या Shannon 3 छवियाँ और दस्तावेज़ पढ़ सकता है?
हाँ। दोनों टियर छवि और दस्तावेज़ अटैचमेंट स्वीकार करते हैं और उन्हें टर्न के हिस्से के रूप में पढ़ते हैं, इसलिए कोई स्क्रीनशॉट, डायग्राम, स्कैन किया पन्ना या PDF ख़ुद सवाल का विषय हो सकता है, न कि ऐसी चीज़ जिसे आपको पहले टाइप करना पड़े। इमेज जनरेशन और एडिटिंग भी चैट में उपलब्ध हैं, लेकिन एक ऐसे टूल के रूप में जिसे मॉडल कॉल कर सकता है, उसके उद्देश्य के रूप में नहीं।
क्या मैं मॉडल का तर्क देख सकता हूँ?
हाँ। ट्रेस टर्न चलते समय दिखाया जाता है, और वह आपकी अपनी भाषा में लिखा जाता है, न कि अंत में अंग्रेज़ी से अनूदित। Pro पर आप हर समीक्षा चक्र देखते हैं, जिससे यह दिखता है कि मॉडल कब अपनी ही ग़लती पकड़ता है — और उतना ही साफ़ दिखता है कि वह कब नहीं पकड़ता।
लॉन्च के समय Shannon 3 की कॉन्टेक्स्ट विंडो कितनी थी?
Shannon 3.0 32,768-टोकन कॉन्टेक्स्ट विंडो के साथ लॉन्च हुआ था, जो आपके प्रॉम्प्ट, किसी भी अटैचमेंट, तर्क ट्रेस और जवाब के बीच साझा होती है। Shannon 3.1 उस आँकड़े को बढ़ाता है; मौजूदा संख्या के लिए Shannon 3.1 लेख देखिए।
लूप ख़ुद आज़माइए
वही सवाल दो बार पूछिए — एक बार Lite पर, एक बार Pro पर — और देखिए कि समीक्षा क्या बदलती है।
चैट शुरू करें API डॉक्स पढ़ेंshannon-3 · shannon-3-pro · तीनों API डायलेक्ट्स पर स्ट्रीमिंग
Shannon 3 का संचालन Shannon Lab LLC, न्यू मैक्सिको, USA द्वारा किया जाता है। यहाँ दिए आँकड़े 3.0 लॉन्च कॉन्फ़िगरेशन का वर्णन करते हैं; मौजूदा सीमाओं के लिए Shannon 3.1 मॉडल कार्ड और परिवार के बाक़ी हिस्से के लिए शोध सूची देखिए। हम Shannon 3 के लिए कोई बेंचमार्क स्कोर प्रकाशित नहीं करते और तुलनात्मक प्रदर्शन का कोई दावा नहीं करते।