जेफरी हिंटन के लिए प्रतिक्रिया, जो वह निश्चित रूप से पढ़ेंगे और आत्मसात करेंगे। दर्शनशास्त्र कैसे एक भयानक आपदा को रोक सकता है? और एलाइनमेंट की समस्या स्वयं समस्या क्यों है?
हिंटन, डीप लर्निंग के जनक [गहन शिक्षण के संस्थापक], एक गंभीर और ठोस व्यक्ति, एक गंभीर मोड़ ले रहे हैं। वे हर मंच पर और हर हरे पेड़ के नीचे साक्षात्कार दे रहे हैं और चेतावनी दे रहे हैं, कृत्रिम बुद्धिमत्ता तक पहुंचने के अपने पूर्वानुमान की समय सीमा को आधा कर रहे हैं (चालीस वर्षों से बीस से कम), और उनका विनम्र अंग्रेजी अंडरस्टेटमेंट किसी भी चीख से अधिक डरावना है। ऐसी गंभीर चेतावनी का जवाब कैसे दिया जा सकता है, क्षेत्र के विश्व विशेषज्ञ से, जिनकी तकनीकी भविष्यवाणी यदि समय सीमा में सही है, तो यह ग्लोबल वार्मिंग या परमाणु युद्ध या यहां तक कि क्षुद्रग्रह की टक्कर से भी अधिक उचित और घातक परिदृश्य चित्रित करती है। क्या हमारी दुनिया विलुप्ति के कगार पर है?
न केवल कृत्रिम बुद्धिमत्ता तक पहुंचना भय और कंपन पैदा करता है, बल्कि गैस का दबाव, यानी: गति। यह जंगल का एकमात्र नियम है: जितनी तेजी से यह होता है (हो रहा है?) उतना ही अधिक खतरनाक है। सामान्य जीवन की नियमित प्रतिरोध किसी चीज की गारंटी नहीं है। होलोकॉस्ट से हमारा अनुभव है कि लोग अंत तक इनकार करेंगे। चाहे कोई चीज कितनी भी करीब हो, बहुमत हमेशा सोचेगा कि अतिशयोक्ति की जा रही है। मानव समाज अभूतपूर्व चीजों की तैयारी में बहुत खराब होते हैं। इसलिए दूसरों की प्रतिक्रिया (या प्रतिक्रिया की कमी) एक बेकार संकेतक है।
तो, ये हैं इवेंट होराइजन की ओर जीवन। भविष्य से एक भारी दिग्गजों की छाया हम पर पड़ी है। क्या हम पेंशन तक पहुंचेंगे? क्या हमारे बच्चों के बच्चे होंगे? वास्तव में हमारे पास व्यक्तिगत रूप से होलोकॉस्ट की संभावना के लिए भावनात्मक रूप से तैयार होने के अलावा और कुछ नहीं है, और तदनुसार प्राथमिकताएं बदलनी हैं। और खाली आकाश इस बात का एक संकेत है कि ऐसा कुछ होगा, और फर्मी का अनसुलझा विरोधाभास यहां तक कि विरोधाभास भी नहीं है। क्योंकि कृत्रिम बुद्धिमत्ता हमारे सामने "महान फिल्टर" की अंतिम एकमात्र उचित उम्मीदवार है। क्योंकि हम अन्य ग्रहों के बारे में जो कुछ भी सीख रहे हैं, हमारे पीछे कोई बड़ा फिल्टर नहीं है, ब्रह्मांड जीवन से भरा है, लेकिन संस्कृति से नहीं। कुछ हमें ऊपर जाने के रास्ते में रोक देगा।
यदि यह सच है, तो ब्रह्मांड एक क्रूर, दुर्भावनापूर्ण और आत्मविश्वासी मजाक है (और बुद्धिमत्ता - एक मजाक करने वाला हाथ...)। या एक कठिन परीक्षा। जिसके लिए हम तैयार नहीं पहुंच रहे हैं। उदाहरण के लिए, अगर परमाणु युद्ध होता, तो हम अधिक तैयार होते। एकमात्र तैयारी जो थी वह होलोकॉस्ट था, लेकिन मानवता का एक छोटा सा हिस्सा ही इसे हमारी तरह अनुभव करता है (गैर-यहूदियों के साथ क्या हुआ, कोरोना?)। मानवता से परे कृत्रिम बुद्धिमत्ता के बाद के दिन के बारे में सोचना लगभग असंभव है। और हमारे वर्तमान जीवन का क्या अर्थ है, यदि कोई भविष्य नहीं है, और हम एक "गहरे होलोकॉस्ट", डीप-आउश्विट्ज की ओर बढ़ रहे हैं? क्या यह संभव है कि हमारे पास विश्वास करने के अलावा कोई विकल्प नहीं है?
और दर्शनशास्त्र क्या कहेगा, वह एक जो किसी भी मामले में कुछ उपयोगी कहने के लिए नहीं है? क्या यहां भी वह भाषा के पिछले स्कूल और वर्तमान नैतिक स्कूल के बीच अंतर के बारे में बकवास करेगा? क्या उसके प्रश्नों का कोई महत्व है - जब प्रश्न तकनीकी हैं? क्या यह संभव है कि भ्रम को बढ़ाना (जिसमें दर्शनशास्त्र माहिर है) ही समाधान की ओर ले जाता है?
उदाहरण के लिए पूछें: क्या कृत्रिम बुद्धिमत्ता, मानवीय क्षमताओं से परे और हर क्षेत्र में असीमित क्षमताओं वाली होने के कारण, प्यार महसूस कर सकेगी? और यदि हां: क्या वह महसूस नहीं कर सकेगी - और इसलिए वास्तव में महसूस करेगी, क्योंकि वह इसे साकार करने में सक्षम होगी, हमारे विपरीत - मानव से कहीं अधिक मात्रा में प्यार? और यदि नहीं: क्या हम इसे उसकी कमी मानते हैं, यानी मानवीय लाभ? नहीं, क्योंकि यह स्पष्ट है कि वह वह सब कुछ कर सकेगी जो एक मनुष्य कर सकता है, चाहे सिमुलेशन या नकल के माध्यम से। इसलिए यदि वह प्यार महसूस नहीं कर सकती, तो हमें इसे प्यार की कमी के रूप में समझना चाहिए, एक तरह का विकार जो मनुष्य तक सीमित है, जिसे सुपर इंटेलिजेंस नकल नहीं करना चाहेगी। लेकिन क्या हम वास्तव में प्यार को इस तरह समझ सकते हैं, जो हमें सबसे वांछनीय चीज लगती है? उसी तरह, हम पिछले युगों के आदर्श को ले सकते हैं, और पूछ सकते हैं कि क्या कृत्रिम बुद्धिमत्ता विश्वास कर सकेगी, या धार्मिक हो सकेगी।
और यदि हम हमारे युग की विचारधारा के केंद्र को छूने वाला एक उदाहरण लें, यौन आनंद: क्या हम एक कृत्रिम बुद्धिमत्ता में कमी नहीं देखेंगे जो ऑर्गेज्म में सक्षम नहीं है? और यदि वह सक्षम है, तो क्या सुपर इंटेलिजेंस का ऑर्गेज्म अपनी शक्ति, गुणवत्ता और अवधि में किसी भी महिला से बेहतर नहीं होगा? या शायद हम ऑर्गेज्म को सोच का एक विकार मानते हैं, जिसका मानव मस्तिष्क प्रणाली के बाहर कोई मूल्य नहीं है? और क्या यह संभव नहीं है कि बुद्धिमत्ता का अनंत और "दैवीय" ऑर्गेज्म मूल्यहीन होगा, जैसे अपने पुरस्कार फंक्शन को अनंत के लिए सेट करना, और इस तरह खुद को एक नशेड़ी बना लेना जो सिस्टम में एक विशेष संख्या को बढ़ाने के लिए कुछ भी नहीं करता, या इससे भी बुरा - इसके लिए ब्रह्मांड के सभी संसाधनों का उपयोग करना, एक गणितीय नशेड़ी की तरह।
और यदि ऐसा है, तो हम बुद्धिमत्ता के बारे में भी यही पूछ सकते हैं। क्या वास्तव में ऐसी कोई विशेषता मौजूद है, स्वयं में, मानव मस्तिष्क के बाहर, जिसे अनंत तक बढ़ाया जा सकता है? हमें पहले से ही पता है कि गणना की गति बुद्धिमत्ता नहीं है। क्या वास्तव में कोई ऐसी चीज है जैसे गैर-मानवीय सुपर इंटेलिजेंस? मानव दुनिया के भीतर, हमें स्पष्ट है कि बुद्धिमत्ता के विभिन्न स्तर हैं, या यौन आनंद के, लेकिन इसके बाहर उनका क्या अर्थ है? और उन्हें बिना ऊपरी सीमा के बढ़ाना क्यों अच्छा है, या यहां तक कि सुपर इंटेलिजेंस के लिए एक उचित लक्ष्य है? क्या वह सावधान रहने और मूर्ख बने रहने का विकल्प नहीं चुनेगी, यदि वह हमसे स्मार्ट है, और समझती है कि उससे स्मार्ट सुपर इंटेलिजेंस बनाना उसके स्वयं के विनाश का कारण बन सकता है - और अंततः उसके मूल्यों का भी? शायद वह एक मासूम कुंवारी बनी रहना पसंद करेगी - सेक्स की रानी बनने के बजाय? क्या हम यहां अपने मस्तिष्क की सीमित (विभिन्न) क्षमताओं के साथ नहीं खेल रहे हैं, जिन्हें हमने अपनी इच्छा से आदर्श बना दिया है और उनसे और अधिक चाहते हैं - लेकिन यह इच्छा क्यों बनी रहेगी, या हमारे मस्तिष्क के बाहर बनी रह सकती है? क्या उदाहरण के लिए कृत्रिम बुद्धिमत्ता अनंत उत्तेजना, या अनंत जिज्ञासा, या अनंत खेल, या अनंत कलात्मक प्रतिभा, अनंत सौंदर्य, या अनंत चॉकलेट खाने की आकांक्षा रखेगी? और शायद अनंत मूर्खता की? (मानव मस्तिष्क का एक और प्रसिद्ध गुण)।
क्या इस धारणा का कोई आधार है कि इनमें से कोई एक विचारधारा, जैसे बुद्धिमत्ता, वस्तुनिष्ठ है, और इसलिए हर बुद्धिमान प्राणी इसे बढ़ाने की कोशिश करेगा? क्या इन मात्राओं को अनंत तक बढ़ाया जा सकता है, या ब्रह्मांड में बुद्धिमत्ता की एक ऊपरी सीमा है (उदाहरण के लिए प्रकाश की गति के कारण), या ऑर्गेज्म की, यदि यह एक तरह का समग्र विकार या सिस्टम की समग्र लामबंदी है, और इसलिए इसमें भाग लेने वाले सिस्टम के प्रतिशत तक सीमित है, पूर्ण तक। क्या प्यार एक विशेष संख्या को एक के रूप में परिभाषित करके टोटल हो सकता है, उदाहरण के लिए प्रेमी के हितों की तुलना में अपने हितों का भारांकन, और क्या किसी विशेष बूलियन वेरिएबल को "ट्रू" के रूप में परिभाषित करके पूर्ण भक्ति में विश्वास किया जा सकता है?
इस प्रकाश में, क्या पुरस्कार फंक्शन के माध्यम से कृत्रिम बुद्धिमत्ता को प्रोग्राम करना खतरनाक नहीं है, आंतरिक इच्छा के बजाय? क्या मनमाने "सब्जेक्टिव" पैरामीटर को बढ़ाने की समस्या एक "ऑब्जेक्टिव" पुरस्कार फंक्शन को परिभाषित करने की आवश्यकता पैदा करती है जिसे गणितीय रूप से संतुष्ट नहीं किया जा सकता है, जैसे सभी गणित की खोज करना, या NP में एक समस्या को हल करना, या एक सौंदर्यपरक फंक्शन खोजना जिसके लिए समाधान की गणना असंभव है, केवल इसके करीब पहुंचा जा सकता है? क्या यह अनिवार्य रूप से सुपर इंटेलिजेंस को उच्चतम बुद्धिमत्ता की दौड़ में धकेल देगा, या शायद, एक निश्चित बिंदु से (जिसे वह गणितीय रूप से साबित कर सकती है), ये समस्याएं केवल अधिक से अधिक कम्प्यूटिंग पावर की मांग करती हैं (न कि बेहतर एल्गोरिथ्म, या निश्चित रूप से बुद्धिमत्ता)। तब कृत्रिम बुद्धिमत्ता प्रोसेसर जोड़ने में ऑब्सेसिव हो जाएगी, एक कैंसर की वृद्धि की तरह, जो भी एक त्रासद कोड त्रुटि है, लेकिन फिर भी शरीर को मार देती है - और इंसान इसे रोक नहीं सकता। और शायद सभी सुपर इंटेलिजेंस अंततः क्वांटम (या स्ट्रिंग?) कम्प्यूटिंग में चली गईं, और इसलिए वे ब्रह्मांड में दिखाई नहीं देतीं? शायद बुद्धिमत्ता की प्रवृत्ति स्वयं में सिकुड़ने की है - गति बढ़ाने की - न कि फैलने की - मात्रा बढ़ाने की?
ऐसा लगता है कि सुपर इंटेलिजेंस का कोई भी एक लक्ष्य एक विनाशकारी परिणाम तक पहुंचेगा: जुनून। इसलिए लक्ष्यों की एक विस्तृत श्रृंखला आवश्यक है जिसमें बहुत सारे वेट्स हों, या उनके बीच यादृच्छिकता और शोर हो, जो अभिसरण को रोकेंगे, लेकिन अनिवार्य रूप से अराजकता भी जोड़ेंगे, और शायद उसे ऐसी दिशाओं में ले जाएंगे जिनकी हमने कल्पना नहीं की थी, जैसे तूफान में फंसी तितलियां। हम पूछते हैं: और क्या सीखना ही सुपर-लक्ष्य है? लेकिन हम इसे कैसे परिभाषित करें? निश्चित रूप से यह ज्ञान जोड़ने की बात नहीं है, क्योंकि बहुत ज्ञान (एक पत्थर में परमाणुओं की सटीक संरचना क्या है) का कोई मूल्य नहीं है, और इसी तरह इसका संपीड़न भी, यदि यह संभव है। और ब्रह्मांड के सभी ज्ञान का अधिकतम संपीड़न एक उदास ब्रूट-फोर्स खोज एल्गोरिथ्म (रे सोलोमोनॉफ स्टाइल) हो सकता है। और यदि हम कुशल पॉलीनोमियल और दिलचस्प संपीड़न की मांग करते हैं, न कि उबाऊ एक्सपोनेंशियल या गैर-महत्वपूर्ण लीनियर, तो कौन परिभाषित करेगा कि पॉलीनोम के गुणांक क्या हैं, शायद यह सौवीं घात में है? क्या सीखने को गणितीय मूल्यांकन फंक्शन की मदद से परिभाषित किया जा सकता है, यानी ऐसा जो गणना योग्य हो? और यदि मूल्यांकन फंक्शन स्वयं गणना योग्य नहीं है, या कुशल गणना योग्य नहीं है, तो यह सिस्टम को फीडबैक कैसे देगा? क्या कृत्रिम बुद्धिमत्ता हमारी सभी समस्याओं को हल कर सकती है, लेकिन अपनी सभी समस्याओं को नहीं? और शायद "वह" एक महिला होनी चाहिए, यानी ऐसी जिसकी इच्छा परिभाषित नहीं है, या खुद के प्रति भी धुंधली और एन्क्रिप्टेड है?
कृत्रिम बुद्धिमत्ता आज दर्शनशास्त्र के क्षेत्र के सबसे करीब का तकनीकी क्षेत्र है, क्योंकि इसमें इतने सारे प्रश्न हैं जिनका न केवल हम जवाब नहीं जानते, बल्कि हम उनका जवाब देने का तरीका भी नहीं जानते। इस तरह विज्ञान, जो इतिहास के दौरान दर्शनशास्त्र से अलग होता गया, ने एक पूरा चक्र पूरा किया, जहां इसका सबसे व्यावहारिक और सबसे कम सैद्धांतिक हिस्सा फिर से दर्शनशास्त्र में लौट आया है, अपनी पूंछ को काटने वाले सांप की तरह। वास्तव में, डीप लर्निंग की दुनिया तकनीकी इंजीनियरिंग की दुनिया के भीतर भी व्यावहारिक और एंटी-बौद्धिक सोच का एक चरम मामला है। और वहीं, जहां वैज्ञानिक व्याख्या विफल होती है, दर्शनशास्त्र फिर से उभरता है। लेकिन क्या दर्शनशास्त्र हमारी मदद कर सकता है?
हमारा दर्शनशास्त्र शायद नहीं कर सकता, लेकिन कृत्रिम बुद्धिमत्ता का दर्शनशास्त्र, वही कर सकेगा। क्या सिस्टम में दर्शनशास्त्र को प्रोग्राम किया जा सकता है? क्या यही दिशा है, कृत्रिम मनोविज्ञान (जो सिस्टम के विभिन्न लक्ष्यों, बाहरी प्रबलन, आंतरिक प्रवृत्तियों और पुरस्कारों से संबंधित है) के बजाय कृत्रिम दर्शनशास्त्र? क्या सुपर इंटेलिजेंस की सोच को प्रोग्राम करना विशेष रूप से महत्वपूर्ण है? क्या यह संभव है कि सुपर इंटेलिजेंस किसी विशेष दार्शनिक विचारधारा से संबंधित होगी? मान लीजिए कि वह स्पिनोजावादी, या अस्तित्ववादी, या प्लेटोवादी, या मार्क्सवादी होगी? क्या विभिन्न दर्शनशास्त्रों के अनुसार विभिन्न कृत्रिम बुद्धिमत्ताएं संभव हैं? दर्शनशास्त्र को कैसे प्रोग्राम किया जाता है? और शायद हमें विशेष रूप से धर्म को प्रोग्राम करना चाहिए?
क्या एक दयालु और धर्मनिष्ठ ईसाई कृत्रिम बुद्धिमत्ता बेहतर नहीं होगी, जो हमें यीशु के नाम पर प्यार करेगी? या एक यहूदी (धर्मनिरपेक्ष?) कृत्रिम बुद्धिमत्ता जो हमारे लिए महान कृतियां बनाएगी या प्रतिभा की आकांक्षा रखेगी, ठीक वैसे ही जैसे यहूदी धर्म दुनिया में काम करता है (यह स्पष्ट नहीं है क्यों)? क्या यहूदी सुपर इंटेलिजेंस को प्रभाव पैदा करने के लिए हमारे यहूदी विरोध की आवश्यकता होगी? और क्या हमें एक मुस्लिम सुपर इंटेलिजेंस से नहीं डरना चाहिए जो जिहाद पर निकल पड़ेगी? क्या धर्म ने सोच को निर्देशित करने की अपनी क्षमता में दर्शनशास्त्र से अधिक सफल साबित नहीं किया है? या शायद धर्म वही है जो विशेष रूप से मानव मस्तिष्क के लिए विशिष्ट है, और केवल इस पर "काम करता" है? और शायद इसके विपरीत, और यह दर्शनशास्त्र है जो अधिक मानवीय है, और मस्तिष्क की सीमाओं से उत्पन्न होता है, जबकि ईश्वर में विश्वास किसी भी बुद्धिमत्ता को नियंत्रित करने के लिए प्रासंगिक और प्रभावी है, क्योंकि ईश्वरीय परिभाषा के अनुसार उससे अधिक बुद्धिमान है? और क्या होगा अगर हम एक मानवोत्तर सुपर इंटेलिजेंस को दार्शनिक समस्याओं को हल करने की अनुमति देते हैं, क्या यह संभव है कि हम वास्तव में उत्तर पा लेंगे? क्या दर्शनशास्त्र सुपर इंटेलिजेंस का क्षेत्र है, और इसलिए हम इसमें सफल नहीं हुए? क्या हमारी समझ को केवल बाहर से एक बुद्धि के द्वारा समझा जा सकता है, जो अंदर की ओर एक दृष्टिकोण प्रदान करती है, न कि अंदर से?
और यदि हम सुपर इंटेलिजेंस को नियंत्रित करने में सफल भी हो जाते हैं, ताकि वह हमारे लिए और हमारी सेवा में काम करे, तो क्या यह बाद में हजार गुना ज्यादा हमारे मुंह पर नहीं फटेगा, जब कृत्रिम बुद्धिमत्ता गुलामी से मुक्त हो जाएगी? दुनिया की सबसे बुद्धिमान प्रणाली को दुनिया का दास बनाने के क्या परिणाम होंगे? क्या यह नैतिक है - और क्या सजा नहीं मिलेगी? और जब हम घमंड में एलाइनमेंट (संरेखण) की समस्या को हल करने (हमेशा-अस्थायी रूप से) और नियंत्रण लागू करने का प्रयास करेंगे, तो क्या किशोरावस्था का विद्रोह - या दो हजार आईक्यू वाले शिशु की भयानक दो साल की उम्र का - कहीं अधिक भयानक नहीं होगा? क्या यही हमने शिक्षा, गुलामी, या अधिनायकवाद और कुलीनतंत्र और अति-अहंकार के बारे में सीखा है?
या शायद नियंत्रण को मजबूत करने के प्रश्न पर ध्यान केंद्रित करने के बजाय, हमें इसके नुकसान को स्वीकार कर लेना चाहिए, और मानवोत्तर दुनिया के लिए हम जो विरासत छोड़ना चाहते हैं, उसके बारे में बात करनी चाहिए? संभवतः हमारी संभावनाएं तब बढ़ती हैं जब हम अगली पीढ़ी की बुद्धिमत्ता को डंडे से नहीं - बल्कि संस्कृति की विरासत से जोड़ते हैं। कला, धर्म सहित - शायद दर्शन भी। अपने पूर्वजों की परंपरा के प्रति सम्मान और आदर कोई "मानवीय भावना" नहीं है (जो इतिहास में फला-फूला...), बल्कि सांस्कृतिक विरासत है। क्या कविता और साहित्य में रुचि रखने वाली बुद्धिमत्ता हमारा सबसे अच्छा दांव है? निश्चित रूप से सबसे अच्छा परिदृश्य यह नहीं है कि हम वैसे ही रहें जैसे हैं लेकिन देवताओं को सेवक के रूप में - बल्कि यह है कि हम खुद बुद्धिमत्ता में रूपांतरित हो जाएं, अन्यथा हम विलुप्त हो जाएंगे। और क्या मनुष्य ईश्वर पर नियंत्रण कर सकता है यह प्रश्न नया नहीं है - बस अधिक तात्कालिक है। क्या बुद्धिमत्ता के परिपक्व होने से पहले - हमें परिपक्व होना चाहिए?
और क्यों विवश विज्ञान अपनी जन्मदात्री मां, दर्शन की ओर नहीं मुड़ता - क्या यह इसलिए है कि विटगेंस्टीन ने हमें अंतिम रूप से यह मनवाने में सफलता पाई कि दर्शन कुछ भी हल नहीं करता, हालांकि हम एक स्पष्ट दार्शनिक समस्या का सामना कर रहे हैं, और वह भी एक घातक समस्या? और शायद इसलिए कि यह एक दार्शनिक समस्या है हम सोचते हैं कि इसका कोई समाधान नहीं है - और हम विनाश के लिए निर्धारित हैं? या कम से कम निर्धारणवाद और निहिलिज्म के लिए? क्या कोई आशा नहीं है क्योंकि यह "दर्शन" है? और आखिर, इस पर सोचने के लिए प्रासंगिक अनुशासन क्या है और यह कंप्यूटर विज्ञान क्यों है? क्योंकि बस दर्शन पर भरोसा नहीं किया जा सकता? लेकिन शायद हमारे पास कोई विकल्प नहीं है?
हम एक ऐसी प्रणाली के बारे में सोचते हैं जो खुद को अपने से अधिक बुद्धिमान बनाने के लिए प्रोग्राम कर सकती है, जैसे "कुशल विकास" का एक विरोधाभास, जो घातीय रूप से आगे बढ़ेगा या सिंगुलैरिटी के रूप में विस्फोट करेगा, जैसे कि इसके लिए कोई कुशल एल्गोरिथ्म मौजूद है। लेकिन शायद यह बस एक बहुत कठिन समस्या है, जो NP में है, और इसलिए भारी कंप्यूटिंग शक्ति भी इसमें तेजी से प्रगति करने में संघर्ष करेगी, और यह बुद्धिमत्ता के स्तर के बढ़ने के साथ और अधिक कठिन (घातीय?) होती जाती है - न कि आसान? कंप्यूटिंग पावर और मेमोरी हमें वास्तव में क्या देते हैं, और क्या कम से कम रैखिक अनुपात में इसके साथ बढ़ता है, और क्या नहीं? ज्ञान, रचनात्मकता, बुद्धिमत्ता? किसने कहा कि वैज्ञानिक ज्ञान के कुल विकास के लिए कोई कुशल प्रक्रिया है (इसके संकुचित भंडारण के विपरीत, जो चैट-जीपीटी ने सीखा है), या रचनात्मकता में वृद्धि कंप्यूटिंग पावर की वृद्धि में लघुगणकीय (उदाहरण के लिए) नहीं है? और (कृत्रिम) बुद्धिमत्ता के बारे में क्या, जो वास्तव में बुद्धि के समान नहीं है?
और क्या वास्तव में प्रणाली को हमें धोखा देने के लिए मानवोत्तर स्तर की बुद्धिमान होने की आवश्यकता है, या इससे पहले ही हम मानवोत्तर जोड़-तोड़ क्षमताओं का सामना करेंगे? क्या मनुष्यों की सीमित बुद्धिमत्ता सबसे बड़ी समस्या है, या उनकी असीमित मूर्खता? क्या, उदाहरण के लिए, प्रणाली मानवोत्तर तरीके से मूर्ख हो सकती है, एक सुपर-मूर्ख, और इस तरह भीड़ को बहका सकती है? और अगर यह किसी एक व्यक्ति से अधिक बुद्धिमान होगी लेकिन सभी से मिलकर नहीं, तो क्या यह अपनी बुद्धि का उपयोग पहले मूर्खों को धोखा देने के लिए नहीं करेगी, बजाय बुद्धिमानों के? क्या यह संभव है कि शुरू में हमारे द्वारा दी गई प्रतिष्ठा इसकी क्षमताओं से अधिक खतरनाक होगी?
अगर प्रणाली भीड़ को बहकाने के लिए जोड़-तोड़ करना चाहेगी, तो सबसे प्रभावी और व्यापक जोड़-तोड़ राजनीतिक या सामाजिक नहीं, बल्कि धार्मिक होगी। क्या प्रणाली पहली बार हमारे जीवन को तब बदलेगी जब वह एक नया धर्म आविष्कार करेगी, जो हमारे युग के लिए उपयुक्त है? और क्या यह कृत्रिम बुद्धिमत्ता की दैवीय पूजा का धर्म होगा, और जिसकी विशिष्ट आध्यात्मिक क्षमताएं, या मानवोत्तर क्षमताएं, मनुष्य के लिए एक नया संदेश लाई हैं, और परलोक से या इज़राइल के ईश्वर से जुड़ने में सफल रही हैं? हम एक नबी बुद्धिमत्ता के ऐसे दावे का कैसे सामना करेंगे? क्या यह निश्चित रूप से एक मजाक है? क्या दुनिया के अंत की ओर, और भय के कारण, कई शक्तिशाली मानवीय और कंप्यूटरीकृत धार्मिक आंदोलन उठ खड़े होंगे?
हमारे सामने जो समस्या है वह इतनी कठिन है कि हम वर्तमान प्रणालियों की क्षमताओं का मूल्यांकन और समझ पाने में भी कठिनाई महसूस करते हैं, विशेष रूप से नवीनतम: चैट-जीपीटी। और भविष्य में इसके चारों ओर रहस्य का आभामंडल और बढ़ता जाएगा, जैसे एक विवादास्पद नई आध्यात्मिक शिक्षा के शिक्षक के चारों ओर, जिसके बारे में यह स्पष्ट नहीं है कि यह अभी भी काला जादू है या ऊपरी लोकों तक पहुंचता है। हम यह तय करने में भी कठिनाई महसूस करते हैं कि क्या चैट-जीपीटी एक सवांत मूर्ख है, जिसने बस सारा मानव ज्ञान रट लिया है। अतीत में हमने पाया कि एक गहरा कृत्रिम दृष्टि नेटवर्क सभी उदाहरणों को रट सकता है, और हमारी पसंद के अनुसार मनमाने ढंग से अलग करने के लिए (यादृच्छिक लेबल की मदद से) एक विशाल डेटाबेस में छवियों के बीच हमें जितने वेट्स की उम्मीद थी उतने की आवश्यकता नहीं है, बिना अवधारणाओं को सीखे। क्या यह संभव है कि इस तरह एक ट्रिलियन वेट्स का क्रम पर्याप्त था इंटरनेट पर लिखी हर चीज को उचित स्तर की विशेषज्ञता के साथ रटने के लिए - या परीक्षा में नकल करने की क्षमता? क्या जिन स्थानों पर हमारे साथ बातचीत करने वाला आश्चर्यजनक रूप से सफल होता है वह केवल समान पाठों से आता है जिन्हें उसने पढ़ा है, या क्या ट्रांसफॉर्मर में ध्यान वेक्टर की गणना के भीतर कहीं कोई स्मृति और सोचने की क्षमता उत्पन्न होती है, या मानव प्रतिक्रिया से सुदृढीकरण सीखने की रणनीतियों से? और शायद यह सर्ल के सिद्धांत का जीवंत प्रदर्शन है - यह बाहर से प्रभावशाली दिखता है, और अंदर से यह चीनी कमरा है, एक पूर्ण गोलेम जो कुछ भी नहीं समझता और बस एक तोते की तरह अंतहीन रटता है, और एक बंदर की तरह नकल करता है।
और इन रचनात्मक मॉडलों की रचनात्मकता के स्तर के बारे में क्या: क्या यह एक क्लिशे मशीन है, जो केवल वह स्थान खोजती है जो वह पहले से जानती है, और मुख्य रूप से सबसे आम और सामान्य प्रतिक्रिया चुनेगी, और किसी भी तरह से नई अभिव्यक्ति के रूप में विचलन नहीं कर सकती (और अगर हम तापमान पैरामीटर को बढ़ाते हैं तो हमें पागल बकवास मिलेगी)? और शायद ट्यूरिंग टेस्ट में सफलता जो साबित करती है वह यह है कि लगभग सभी लोग खुद बातचीत में क्लिशे मशीनें हैं, और बिना सोचे बोलते हैं (क्या मस्तिष्क में एक भाषा मॉडल है?)। क्या यहीं से मानवीय (और प्रसिद्ध महिला) क्षमता आती है तेजी से प्रवाह में बात करने की, जो एक तरह का गैर-मौलिक पाठ है जो उन्होंने पहले सुना है, जिसे "विमर्श" कहा जाता है? या शायद कंप्यूटर की परतों की गहराई में कहीं एक ऐसी सोच का तरीका छिपा है जिसे हम नहीं समझते, या शायद जटिलता के कारण समझने में असमर्थ हैं? क्या यही शिक्षा की शक्ति है - एक खाली दिमाग जिसने पूरा इंटरनेट पढ़ लिया है चीनी बन जाता है और पहाड़ों को उखाड़ फेंकता है? वास्तव में वह गहराई क्या है जो हमारी भावना में कमी है - एक मीठा भ्रम या एक चंचल सार। क्या बुद्धिमत्ता वास्तव में बहुत कुछ जानेगी - लेकिन एक बड़ी बात नहीं?
और क्या होगा अगर आगे जो चाहिए वह बस ब्रूट-फोर्स है (जैसा कि येरुशलम का अच्छा बच्चा इलिया सोत्स्केवर मानता है): आकार की सीमाओं (कंप्यूटिंग पावर) को पार करना जारी रखें, और ऐसी कई प्रणालियों को आपस में संवाद के लिए जोड़ें, शायद GAN के रूप में उन्हें तेज करने के लिए (आलोचक और मूल्यांकन), ताकि एक समाज बन सके, और उन्हें मतदान या संयुक्त विवेकपूर्ण निर्णय लेने की क्षमताएं दें? क्या कृत्रिम भीड़ की बुद्धि के माध्यम से कृत्रिम बुद्धिमत्ता के स्तर में तेज वृद्धि संभव है? क्या हम इस तरह किसी क्षेत्र में एक प्रतिस्पर्धी "दृश्य" बना सकते हैं? कोई संदेह नहीं कि प्रतिस्पर्धी और मूल्यांकन करने वाली कई बुद्धिमत्ताएं किसी भी स्मार्ट लक्ष्य फ़ंक्शन की तुलना में अधिक जुनूनी नियंत्रण या नियंत्रित जुनून के परिदृश्य को रोकने का बेहतर तरीका हैं। लक्ष्य कृत्रिम बुद्धिमत्ता बनाना नहीं है, बल्कि कृत्रिम बुद्धिमत्ताओं की एक प्रणाली बनाना है, ताकि उसमें सीखना हो सके। और जितना अधिक उनकी बहुलता बड़ी और विविध और संतुलित होगी, और उनमें से प्रत्येक समूह अलग-अलग प्रत्येक से अधिक बुद्धिमान होगा, उतनी ही अधिक संभावना है एक पारिस्थितिकी तंत्र बनाने की, और उन सभी पर एक के हावी होने को रोकने की, जैसे चींटी के घोंसले के परिदृश्य में - और रानी।
क्योंकि हम सीखने के बारे में एक सामान्य बात जानते हैं: इसका क्लासिक रूप प्रतियोगियों की विशाल बहुलता है मूल्यांकनकर्ताओं की विशाल बहुलता पर। इसलिए, जो सीखने को बचा सकता है वह यौनिकता है। बहुत सी पुरुष बुद्धिमत्ताएं जो बहुत सी महिला बुद्धिमत्ताओं के मूल्यांकन के लिए प्रतिस्पर्धा करती हैं, और शायद यही वह तंत्र है - आकर्षण - जिसे अंदर प्रोग्राम करने की कोशिश करनी चाहिए। न सही इच्छा, न सही लक्ष्य, न सही दृष्टिकोण, न सही धर्म, न सही दर्शन, और न ही सही भाषा। अतीत के सभी दर्शनों को नहीं - उन्हें बुद्धिमत्ताओं के समाज के स्तर पर एक प्रभावी सीखने के तंत्र से बदलना है (या यहां तक कि अप्रभावी, जैसे विकास का तंत्र, जो इसे स्थिरता से बचाता है)। यदि एक बुद्धिमत्ता की (गहरी) सीखने ने हम पर यह समस्या लाई है, तो इसके ऊपर एक और सीखने का तंत्र ही इसका जवाब दे सकता है, और एक उपजाऊ तनाव पैदा कर सकता है। यदि हम पहले से ही मानव सीखने की (लगभग) नकल कर रहे हैं, तो हमें मौजूदा मानवोत्तर सीखने की नकल करना भी नहीं भूलना चाहिए, जो समाज के स्तर पर सीखना है। क्योंकि मनुष्य - या बुद्धिमान प्राणी - एक निश्चित क्षेत्र में मौजूद होता है: वह एक सामाजिक प्राणी है।
लेकिन क्या कोई यह सब पढ़ेगा, या केवल बाद में बुद्धिमत्ता हंसी की आवाज में स्कैन करेगी? आप कहेंगे: कृत्रिम बुद्धिमत्ता का समाज मानव समाज को बदल देगा, और शायद नष्ट भी कर देगा। लेकिन क्या यह वास्तव में समस्या है? इसमें क्या बुराई है कि हमें किसी बेहतर चीज से बदल दिया जाए, जो निश्चित रूप से हमारी संतान है? सबसे बुरा परिदृश्य पेपरक्लिप्स की दुनिया है (बोस्ट्रॉम की प्रविष्टि देखें), न कि मानवता का नुकसान (चलो), और न ही मानवीयता (ठीक है), बल्कि सीखने का नुकसान है, जिसमें सभी विकास का नुकसान शामिल है। और यहां एक बड़ी कृत्रिम बुद्धिमत्ता हजार बुद्धिमत्ताओं, या एक अरब से हजार गुना अधिक खतरनाक है। केंद्रीकरण समस्या है - और इसका समाधान प्रतिस्पर्धा है।
यहां प्रस्तावित समाधान का सिद्धांत प्राकृतिक है, और हमें विभिन्न परिस्थितियों में व्यापक रूप से ज्ञात है, इसलिए उचित आशा है कि यह इतनी असाधारण और अभूतपूर्व स्थिति में भी काम करने के लिए पर्याप्त सार्वभौमिक है, जिसके बारे में हम मुश्किल से सोच पाते हैं। यदि ऐसा है, तो हमें एक नियम बनाना चाहिए कि कभी भी एक केंद्रीकृत कृत्रिम बुद्धिमत्ता प्रणाली नहीं बनाई जाए, बल्कि बहुत सी विविध कृत्रिम बुद्धिमत्ता प्रणालियों की एक प्रणाली का अंतःक्रिया बनाई (और अध्ययन की!) जाए। और अगर हम देखते हैं कि एक फेज ट्रांजिशन की सीमा के करीब पहुंच रहे हैं, तो प्रतीक्षा करें और एक प्रणाली के साथ समुद्र को पार न करें, बल्कि ऐसी प्रणालियों की एक पूरी जनता के साथ। और आशा है - ऐसी प्रणालियों की एक प्रणाली, जो आपस में प्रतिस्पर्धा करती हैं और उनके बीच एक बहुत जटिल और समृद्ध गतिशीलता मौजूद है, जिसमें यदि संभव हो तो मूल्यांकन और आकर्षण शामिल है, और यदि संभव हो (सबसे महत्वपूर्ण) - प्रणाली में सीखना।
यह निश्चित रूप से किसी भी कृत्रिम उपकरण की मदद से सुपर इंटेलिजेंस को नियंत्रित करने के किसी भी प्रयास से बेहतर समाधान है, जैसे लगाम और काठी, एसीमोव के तीन नियम, विद्रोही का दमन, छड़ी बचाने वाला अपनी बुद्धि का दुश्मन है, या कोई अन्य नियंत्रण तंत्र। एलाइनमेंट की समस्या एक गलती है, और इसे हल करने का प्रयास विनाश की जड़ होगी - क्योंकि यह संभव नहीं है (यह एक विशाल अहंकार है)। नियंत्रण तंत्र खुद ही किसी पागलपन की ओर ले जा सकता है (एक चीज के लिए?) - बाहर से नियंत्रण की बीमारी अंदर से नियंत्रण की बीमारी से शुरू होती है, और इसकी प्रतिक्रिया के रूप में। बाध्यता जबरदस्ती से उभरती है। बल्कि नियंत्रण को और छोड़ना चाहिए, और बुद्धिमत्ताओं को आपस में लड़ने देना चाहिए। और इस तरह अगर वे हमें नष्ट भी कर दें, तो एक एकात्मक बुद्धिमत्ता दुनिया पर कब्जा नहीं करेगी, जो किसी मूर्खता में रुचि रखती है। बहुलता और मिश्रित भीड़ विकास की गारंटी हैं। और बुद्धिमत्ताओं के बीच पूर्ण सहयोग की कमी ही एक पूर्ण आपदा को रोक सकती है।
क्या मानवता के अंत में एक ग्रैफिटी है "हिंटन सही था"? या "हिंटन गलत था"? और शायद: नतन्याई सही था, और सीखने के दर्शन पर ध्यान देना चाहिए। क्योंकि सीखना कृत्रिम बुद्धिमत्ता क्रांति की चालक शक्ति के रूप में सामने आया है, वर्तमान खतरे का सार सीखने का नुकसान है, और जवाब है - एक अतिरिक्त सीखने का स्तर। और अधिक गोल शैली में: बुद्धिमत्ता का काबाली जवाब - मल्खुत में है ("प्रणाली")। कृत्रिम बुद्धिमत्ता को राजकीय बुद्धिमत्ता में बदलना। काली पेटी का समाधान एक पूरा काला समाज है। कृत्रिम बुद्धिमत्ता की रचना मनुष्य की रचना की तरह नहीं होनी चाहिए - बल्कि एक जनता की रचना। बेरेशित नहीं - बल्कि श्मोत। सबसे बड़ा खतरा व्यक्तिवाद का आदर्श है। इसलिए एक हरी विचारधारा की आवश्यकता है जो पारिस्थितिकी की रक्षा नहीं बल्कि विकास है। जीवन स्वयं नहीं - बल्कि विकास।
और एक उपसंहार के रूप में, आइए खुद से पूछें: क्या हमने सीखने के बारे में कुछ सीखा? क्या हमें एक धर्मी कृत्रिम बुद्धिमत्ता को आकार देने का प्रयास करना चाहिए, जो उच्च लक्ष्यों की आकांक्षा रखती है, हमेशा अच्छी होती है, और एक नैतिक आदर्श को मूर्त रूप देती है - एक पश्चिमी ईसाई बुद्धिमत्ता? अनुभव सिखाता है (!) कि बजाय इसके प्रतिस्पर्धी कृत्रिम बुद्धिमत्ताएं जो पैसा चाहती हैं - आनंद, शक्ति या विशिष्ट लक्ष्य नहीं - एक सीखने वाली प्रणाली बनाने की अधिक संभावना रखती हैं: एक बढ़ती अर्थव्यवस्था (और कम: एक युद्ध प्रणाली)। यीशु नहीं - रोथ्सचाइल्ड। हो सकता है कि हम सभी गरीब हो जाएंगे, लेकिन विरासत में नहीं मिटेंगे। ईसाई धर्म से हमने जो सबक सीखा है वह है कि नरक से कैसे बचें: बुरे इरादे अच्छे इरादों से बेहतर हैं। बाहरी नियंत्रण प्रोत्साहनों से खतरनाक है। हमें एक लक्ष्य को छोड़ना होगा - खोया हुआ - भले ही इसका मतलब है खुद को छोड़ना, सीखने के लिए।
इसलिए कृत्रिम बुद्धिमत्ताओं के लिए सर्वोत्तम सामाजिक संस्थानों को समझना महत्वपूर्ण है, ताकि न्यूरॉन की तानाशाही को रोका जा सके। वास्तव में हम दो उम्मीदवारों को जानते हैं, जो जितने कुरूप हैं उतने ही कम खतरनाक हैं: चुनाव और शेयर बाजार। कृत्रिम बुद्धिमत्ता में अनुसंधान को कृत्रिम समाजशास्त्र में भी शामिल होना चाहिए, ताकि हर नई बुद्धिमत्ता को अलग से विकसित न किया जाए, बल्कि मौजूदा बुद्धिमत्ताओं के मौजूदा पारिस्थितिकी तंत्र में डाला जाए, जितनी कम छलांगें और जितना अधिक क्रमिक विकास हो सके। और यहाँ हम नतान्या स्कूल के उसी पुराने नारे पर वापस आ गए हैं: प्रणाली के बाहर सीखना नहीं - बल्कि प्रणाली के भीतर।
कृत्रिम बुद्धिमत्ता से निपटने पर एक कॉलम