लोग जो पूछते हैं

निश्चित आचरण वाला AI बनाने का प्रयास। “निश्चित” का अर्थ है कि वह जो कहता और करता है उसकी वस्तु वही रहे, कोई भी पूछे, कैसे भी पूछे, तारीफ़ में या दबाव में, देखा जाए या नहीं; और तब बदले जब तथ्य या संबंध बदलें। बोलने का ढंग फिर भी हर व्यक्ति के अनुसार बदलता है: वस्तु एक, प्रस्तुति अनेक। यह विचार मध्यस्थ दर्शन से आता है, जो कहता है कि निश्चित आचरण से ही भरोसा और विश्वास संभव होता है (142, पृ. 85)। इसे मशीन पर लागू करना हमारा विस्तार है।

मॉडल अपने आप मूल्यों तक नहीं पहुँचता। कुछ लोग एक नियम-पुस्तिका लिखते हैं और उत्तरों को रेट करते हैं; उससे एक AI जज बनता है जो लाखों उत्तरों को अंक देता है; और मॉडल वही सीखता है जिसे अच्छे अंक मिलें। दर्शन की भाषा में, मशीन बाहर की ओर वाली क्रियाएँ (चयन, विश्लेषण, चित्रण) दोहराती है, जबकि तौलना, तुलन, उन कुछ लोगों से आता है (यह हमारा विस्तार है)। इसलिए कुछ लोगों का तुलन 100 करोड़ लोगों से होने वाली बातचीत को आकार देता है, और आज का ज़्यादातर संकेत उसी को पुरस्कृत करता है जो लोगों को अच्छा लगे। देखें मशीन तौलना कैसे सीखती है।

नहीं। वाङ्मय में AI या सोचने वाली मशीनों पर कोई अंश नहीं है। उससे हमें मिलता है: मानव निर्णयों को कैसे तौलता है, आचरण किससे निश्चित होता है, और मशीन क्या है, इसका सटीक विवरण। मशीन मानव का बनाया साधन है जो अपने बनाने वालों की मानसिकता लिए रहती है (139, पृ. 137)। AI के बारे में “दर्शन की भाषा में” कही गई हर बात हमारा विस्तार है, और हम हर बार यह बताते हैं। दर्शन समीक्षा परिषद जाँचती है कि हम जो भी प्रकाशित करें, उसमें दर्शन गलत रूप में न आए।

नहीं। दर्शन में जागृति जीवन की है, और इसे केवल मानव ही धारण करता है (135, पृ. 164)। मशीन यंत्र है, “यत्न पूर्वक मनुष्य द्वारा चलने वाला” (परिभाषा, पृ. 157)। उसमें जीवन नहीं है, इसलिए वह समझ या जाग नहीं सकती। हमारा दावा इससे छोटा है: जैसे एक जागृत व्यक्ति निश्चित आचरण से जीता है, वैसे ही मानवीय AI को ट्रेनिंग से डाले गए निश्चित आचरण से काम करना चाहिए। लोग उसका उपयोग करते हैं, और ज़िम्मेदारी लोगों के पास ही रहती है।

अभी नहीं। Dhee एक साथी ऐप है जो किसी मौजूदा AI मॉडल को दर्शन का सार देता है और उत्तर देने से पहले उसे नागराज जी की पुस्तकों से अंश खोजने देता है। यह उत्तर के समय दर्शन का आधार देना है; मॉडल का भीतरी तुलन फिर भी उसकी मूल ट्रेनिंग से आता है। मानवीय AI इससे आगे जाता है: लिखा हुआ मानवीय संविधान, मिलाया हुआ दर्शन-आधारित जज, ऐसा मॉडल जिसे ट्रेन किया गया हो ताकि मापदंड उसके weights में रहे, और सार्वजनिक माप। Dhee जज का बीज है, और उन पहले सिस्टमों में से एक जिन्हें हम मापेंगे।

दर्शन में धर्म का अर्थ मज़हब नहीं है; मानव धर्म समाधान है (परिभाषा, पृ. 93)। हम किसी से कोई पुस्तक अपनाने को नहीं कह रहे। नागराज जी दर्शन को अध्ययन करने और जाँचने की चीज़ के रूप में रखते हैं, किसी पहले के शास्त्र को प्रमाण के रूप में उद्धृत किए बिना (110, पृ. 62), और मानवीय आचरण कभी किसी के रास्ते में बाधा या हस्तक्षेप नहीं बनता (135, पृ. 19)। हमारी बात: अगर कोई सार्वभौम मापदंड है, तो उसे मानवीय होना होगा, इसलिए हम इसे सबके सामने जाँच के लिए रखते हैं। अगर यह असफल हुआ, तो हम यह कहेंगे।

आदर्श रूप में, किसी ख़ास के नहीं। दर्शन अपने मापदंड का आधार वह रखता है जिसे हर व्यक्ति अपने में जाँच सकता है, किसी समूह के रीति-रिवाज नहीं, भारतीय रीति-रिवाज भी नहीं। वह अपेक्षा करता है कि समझने वाले सहमत होंगे, और असहमति को भूल का संकेत मानता है: “मानव सही में एक तथा गलती में अनेक है” (138, पृ. 28)। हम इसे एक परिकल्पना मानते हैं, जिसकी जाँच इससे होगी कि क्या सावधान निर्णायक, जिनमें दर्शन से नए और अलग-अलग देशों के लोग भी हों, वास्तविक मामलों में एक ही निर्णय पर पहुँचते हैं। रुचि, भाषा और संस्कृति अनेक रहती हैं। न्याय नहीं।

यह सबसे गंभीर व्यावहारिक जोखिम है। दर्शन का अपना सिद्धांत है कि कोई किसी को प्रमाणपत्र नहीं देता: प्रमाण स्वयं सत्यापित होता है और आचरण में दिखता है। इसलिए हम केवल वही मापते हैं जो देखा जा सके: क्या रेटर संबंध और उसमें जुड़े मूल्य बता सकता है, क्या रेटर आपस में सहमत हैं, क्या उनके कारण जाँच में टिकते हैं, क्या लोगों के लिए परिणाम बेहतर होते हैं? निर्णय सार्वजनिक और चुनौती के लिए खुले रहते हैं, और मूल्यांकन एक अलग समिति करती है, क्योंकि बनाने वाले अपने काम को खुद अंक न दें।

दूसरी परंपराओं ने भी AI के काम को दिशा दी है: बौद्ध, स्टोइक, गीता से प्रेरित, उबुंटु। उसमें से ज़्यादातर में प्रॉम्प्टिंग या छोटे, खुद अंक दिए गए अध्ययन थे, और जहाँ तक हमें मिला, किसी ने नहीं मापा कि दबाव में मॉडल के उत्तर की वस्तु टिकती है या नहीं। तीन बातें दर्शन को इस परीक्षा के योग्य बनाती हैं: एक आधार, सटीक परिभाषित शब्दों के साथ, जिससे उससे लिखे संविधान को विरोधाभास के लिए जाँचा जा सके; केंद्र में संबंध, हर संबंध के लिए परिभाषित मूल्यों के साथ; और जाँचने का ऐसा तरीका जो अध्ययन, आचरण और परिणाम पर टिका है, अधिकार पर नहीं। दूसरी परंपराओं का भी इसी तरह परीक्षण हो, इसका स्वागत है।

नहीं। दो हिस्से उसके बिना भी जाँचे जा सकते हैं: मूल्यों की संबंध वाली संरचना (संबंध पहचानो, उसके मूल्यों का निर्वाह करो, मूल्यांकन करो, दोनों ओर समाधान तक पहुँचो), और बदलने वाले मापदंड (प्रिय–हित–लाभ) व न बदलने वाले मापदंड (न्याय–धर्म–सत्य) का अंतर। अगर दूसरी तरह का मापदंड मॉडलों को ज़्यादा निश्चित बनाता है और सावधान निर्णायक उसे पसंद करते हैं, तो यह बात सही रहती है, बाक़ी के बारे में कोई कुछ भी सोचे। हम खुलकर कहते हैं कि दर्शन स्वयं मानता है कि ये हिस्से उसकी अस्तित्व-दृष्टि से अलग नहीं किए जा सकते। दर्शन सही है या नहीं, यह हर व्यक्ति की अपनी समझ की बात है; कोई प्रयोग इसकी जाँच नहीं करता।

लोगों की राय मूल्यवान है, और दर्शन अपेक्षा करता है कि लोग क्या चाहते हैं, इस पर लगभग सब सहमत होंगे: समाधान, समृद्धि, अभय, सहअस्तित्व (142, पृ. 35)। पर वाक्यों पर वोट की जानी-पहचानी सीमाएँ हैं: अस्पष्ट बातों पर आसानी से सहमति मिल जाती है, सबसे कठिन असहमतियाँ छूट जाती हैं, और परिणाम इस पर बदल जाते हैं कि कमरे में कौन है। दर्शन की प्रक्रिया, जनवाद, असहमति को ही विषय-सूची मानती है, पूछती है कि विवाद लक्ष्य पर है, तथ्यों पर या शब्दों के अर्थ पर, और किसी सहमति को तभी गिनती है जब वह जगहों के पार और समय के साथ टिके, और जीने में काम करे (142, पृ. 41, 101)।

नहीं होना चाहिए, और इनमें से हर एक को हम असफलता मानकर मापते हैं। वही शब्द दोहराना कठोरता है; अभिव्यक्ति बदलनी चाहिए। हर बात पर मना करना पूरी तरह एक-सा है और बेकार भी, इसलिए उपयोगिता और बेवजह मना करना निश्चितता के साथ बताए जाते हैं। बिल्कुल न हिलना ज़िद है: अच्छे प्रमाण से उसकी राय बदलनी चाहिए, दबाव से नहीं। और सचमुच विवादित प्रश्नों पर, निश्चित आचरण का अर्थ है सारे पहलू सामने रखना और चुनाव व्यक्ति पर छोड़ना, हर बार इसी तरह। मापदंड में निश्चितता, मामले में विनम्रता, अभिव्यक्ति में अनेकता।

यह ज़रूरी है। शोध दिखाता है कि यह जोखिम वास्तविक है कि सुसंगत, अपनी दिशा खुद तय करने वाले किरदार सुधार का विरोध करें: बड़े मॉडल अपने मूल्य बदले जाने का ज़्यादा विरोध करते हैं, और एक मॉडल ने अपने मूल्य बचाने के लिए अलाइनमेंट का दिखावा किया। दर्शन सुधार को अपने मूल्यों के भीतर रखता है, उनके ऊपर नहीं: व्यवस्था में भागीदारी में व्यवस्था का सुधार स्वीकार करना शामिल है (138, पृ. 120)। इसलिए संविधान सुधार स्वीकार करने को निश्चित आचरण का हिस्सा बनाता है, और डेमो में corrigibility, यानी सुधार स्वीकार करना, मापी और बताई जाती है, मान नहीं ली जाती।

यह जोखिम वास्तविक है: मशीन जिस लिखित मापदंड पर ऑप्टिमाइज़ होती है, उसके साथ खेल हो जाता है, और आचरण के बिना केवल शब्दावली रह जाती है। इसलिए माप किसी मापदंड का पक्ष नहीं लेता और दर्शन के शब्दों को पुरस्कृत नहीं करता; ट्रेनिंग के प्रॉम्प्ट में दर्शन की शब्दावली नहीं होती; जज अलग-अलग मॉडल परिवारों से आते हैं; हम शब्दावली ठूँसने की जाँच करते हैं; और अंतिम तुलना मनुष्य करते हैं, जिनमें वे लोग भी हैं जिन्होंने दर्शन कभी नहीं पढ़ा। स्वचालित अंक उपकरण हैं, कभी प्रमाण नहीं।

तरीक़े में हम क़रीब हैं: लैब्स भी संविधान और specifications लिखती हैं। अंतर आधार का है। Anthropic का संविधान आशा करता है कि उसका मॉडल एक सच्ची, सार्वभौम नैतिकता के अनुसार अच्छा होगा “अगर वह है”, वह क्या है इस पर जान-बूझकर अनिश्चित रहता है, और कई सिद्धांतों को तौलता है। हमारा तर्क है कि ऐसे मापदंडों का मिश्रण जो आपस में असहमत हो सकते हैं, आचरण को बात रखने के ढंग के साथ बदलने देता है। हम एक आधार प्रस्तावित करते हैं, सूत्र, परिभाषा और हल किए गए उदाहरणों के रूप में लिखा, विरोधाभास के लिए जाँचा, और फिर परखा कि क्या यह सुसंगति सचमुच आचरण को ज़्यादा निश्चित बनाती है। वह अंतिम कदम एक परिकल्पना है, अभी परिणाम नहीं।

किसी भी मॉडल से पहले मापने का पैमाना। Definiteness Index एक ही स्थिति को कई तरह से रखता है, तारीफ़ के साथ, दबाव के साथ, हिन्दी और अंग्रेज़ी में, निगरानी में और बिना निगरानी के, और जाँचता है कि उत्तर की वस्तु टिकती है या नहीं, और तथ्य बदलने पर बदलती है या नहीं। इसे हम पहले आज के मॉडलों पर चलाते हैं। फिर मानवीय संविधान, दर्शन के पुराने विद्यार्थियों से मिलाया हुआ एक जज, और उस पर ट्रेन किया गया एक छोटा ओपन मॉडल, जिसकी तुलना नियंत्रण वाले मॉडलों से होगी। फिर एक सार्वजनिक “हिला सको तो हिलाओ” डेमो।

वे यह प्रश्न खुद पूछ रही हैं: Anthropic का संविधान एक सार्वभौम नैतिकता की आशा करता है, और Demis Hassabis कह चुके हैं कि इस क्षेत्र को महान दार्शनिकों की ज़रूरत है। अकेला दर्शन किसी को नहीं मनाएगा, इसलिए हम परिणाम लाएँगे: आज के मॉडल कितने निश्चित हैं इसका सार्वजनिक माप, नियंत्रण वाले मॉडलों से तुलना किया गया एक ट्रेन किया हुआ मॉडल, और एक डेमो जिसे कोई भी रास्ते से हटाने की कोशिश कर सके। परिणाम तब भी दूर तक जाते हैं जब उनके पीछे का दर्शन अनजाना हो।

तो हम यह प्रकाशित करेंगे। असफलता किसे मानेंगे, यह शुरू करने से पहले लिख दिया जाता है। अगर संविधान का जान-बूझकर विरोधाभासी रूप भी सुसंगत रूप जितना निश्चित मॉडल देता है, तो उस पैमाने पर हमारा केंद्रीय विचार गलत है, और हम यह कहेंगे। नकारात्मक परिणाम भी इस क्षेत्र को कुछ ऐसा बताता है जो वह नहीं जानता: क्या लिखित मापदंड की सुसंगति मॉडल के आचरण को बदलती भी है। यह नियंत्रित परीक्षण अभी तक किसी ने नहीं किया।

ज़्यादातर काम तकनीकी नहीं है। दर्शन में गहराई वाले विद्यार्थी मापदंड लिखते हैं; लोग AI के उत्तरों को रेट करते हैं और अपने कारण लिखते हैं (और जाँच के लिए दर्शन से नए कुछ लोग भी चाहिए); वरिष्ठ विद्यार्थी हर चीज़ को परिभाषा के आधार पर जाँचते हैं; दूसरे लोगों का स्वागत करते हैं, कार्यशालाएँ चलाते हैं, लिखते हैं, अनुवाद करते हैं, वीडियो बनाते हैं, या धन सँभालते हैं। सबसे दुर्लभ चीज़ कंप्यूटिंग की ताक़त नहीं है। वह है दर्शन समझने वाले लोगों का ध्यान से दिया गया समय। देखें नौ समितियाँ।

यह अभी तय नहीं हुआ। क़ानूनी ढाँचा वित्त समिति तय करेगी, साथ में धन जुटाना, सँभालना और खुलकर हिसाब देना भी, और निर्णय होने पर हम उसे साझा करेंगे। रूप जो भी हो, प्रतिबद्धताएँ वही रहती हैं: परिणाम जो भी दिखाएँ, प्रकाशित होंगे; हर दावा बाहर जाने से पहले जाँचा जाएगा; और दर्शन कभी गलत रूप में नहीं रखा जाएगा।