सार
[कार्यमा प्रगतिको कुनै नराम्रो मस्यौदा।]
लगभग मानिससँग मिल्दोजुल्दो मेसिनको विचार यति लोभलाग्दो छ कि यसले कम्तिमा डेढ शताब्दी, सायद अझ धेरै भन्दा राम्रो दिमागका साथै सामान्य मानिसहरूको कल्पनालाई कब्जा गरेको छ। आर्टिफिसियल इन्टेलिजेन्स (एआई) अस्तित्वमा आएपछि, हामी चाँडै नै ह्युमनोइड रोबोटहरू निर्माण गर्न सक्षम हुनेछौं भन्ने कुरा लगभग मानिएको थियो। यसले ‘ट्रान्सह्युमनिज्म’ को बारेमा केही गम्भीर अनुमानहरू पनि निम्त्याएको छ। अहिलेसम्म, हामी यो लक्ष्यको नजिक कतै पनि छैनौं। यो सम्भव छ कि भनेर सोध्ने समय अब हुन सक्छ। हामी तर्कहरूको एक सेट प्रस्तुत गर्दछौं कि मानवीय रोबोट वा ह्युमनोइड इन्टेलिजेन्स बनाउन वा निर्माण गर्न असम्भव छ, जहाँ भनिएको बुद्धिमत्ताले मानवलाई आवश्यक वा अवस्थित कुनै पनि परिस्थितिमा मानवलाई प्रतिस्थापन गर्न सक्छ।
1. मानवीय बुद्धिमत्ता, एकलता र ट्रान्सह्युमनिज्म
हामीले यस खण्डको शीर्षकका सर्तहरू र निम्न खण्डहरूमा भएका तर्कहरू छलफल गर्न अगाडि बढ्नु अघि, हामी पहिले आधारभूत सर्तहरूलाई केही हदसम्म संक्षिप्तता र सटीकतामा परिभाषित गर्छौं:
1. मानव जीवन: कुनै पनि चीज र सबै चीज जुन मानव जातिको पूर्ण विविधताले व्यक्तिगत र सामूहिक रूपमा सक्षम छ। यसमा व्यवहार वा समस्या समाधान मात्र होइन, बरु व्यक्तिभित्रका क्षमताहरू, भावनाहरू, इच्छाहरू, कार्यहरू, विचारहरू, चेतना, विवेक, समानुभूति, सृजनशीलता र यस्तै अन्य कुराहरू, साथै संघ र सम्बन्धहरूको सम्पूर्ण पङ्क्ति, र सामाजिक, राजनीतिक र पारिस्थितिक संरचना, शिल्प, कला आदि मानव समाज वा समाजमा अवस्थित हुन सक्छ। यो कुनै पनि क्षणमा मात्र होइन, तर ग्रहको जीवनमा पनि सत्य हो। सायद यसले आध्यात्मिक अनुभवहरू र 'आकाशहरू' वा 'भ्रमहरू' समावेश गर्नुपर्छ, जस्तै फिलिप के. डिक कथा, पवित्र झगडा [डिक एट अल।, १९८५] मा संकेत गरिएको।
2. मानवीय: एक जीवित र प्रजनन इकाई जुन मानिस जस्तै लगभग समान छ, या त मानव जस्तै शरीर संग वा यो बिना, फरक सब्सट्रेट मा (कम्प्युटर भित्र)।
Intellige. बुद्धिमत्ता: कुनै पनि चीज र सबै चीजहरू जुन मानव जातिको पूर्ण विविधताले सक्षम छ, दुबै व्यक्तिगत र सामूहिक रूपमा, साथसाथै सिंक्रोनिक र डायक्रोनिक रूपमा। यसमा व्यवहार वा समस्या समाधान मात्र होइन, तर परिभाषित गरिए अनुसारको सम्पूर्ण जीवन समावेश छ।
4. एकलता: प्राविधिक बिन्दु जहाँ यो मानवीय वा Humanoid भन्दा राम्रो बुद्धि बनाउन सम्भव छ (वा छ)।
५. मानवतावाद: एकलता पछि, हामीसँग वर्तमान र विगतका मानव समाजहरू भन्दा धेरै उन्नत, राम्रोको लागि समाज हुन सक्छ भन्ने विचार। 1910 देखि 1927 सम्म, प्रिन्सिपिया गणित [1925-1927] को तीन खण्डहरूमा, ह्वाइटहेड र रसेलले गणित, केही महत्त्वपूर्ण अर्थमा, तर्कको लागि घटाउन सकिने कुरा प्रमाणित गर्न थाले। यो असम्भव सावित भयो जब गोडेलले 1931 मा आफ्नो अपूर्णता प्रमेय प्रकाशित गरे [Sheppard, 2014, Nagel et al., 2001]। आधुनिक कम्प्यूटर विज्ञानको उत्पत्तिका दिनहरूमा, पहिले र 1930 को शुरुमा, यो मान्न सजिलो हुन्थ्यो कि कम्प्युटिङ मेसिनले अन्ततः कुनै पनि समस्या समाधान गर्नेछ। यो पनि टुरिङको अनिर्णितता प्रमेय [Hopcroft et al., 2006] र कम्प्युटेबिलिटीको चर्च-ट्युरिङ थीसिस [कोपल्याण्ड र शाग्रिर, 2018] सँग असम्भव साबित भयो। त्यसबेलादेखि, अन्य प्रकारका समस्याहरू अनिर्णयको रूपमा देखाइएको छ।
अब जब हामी एकलता [Kurzweil, 2006] को लागी पर्याप्त छ भनेर मानिन्छ कि यो ठूलो संख्यामा मानव जातिको जीवनकालमा हुन सक्छ, सायद यो आफैलाई सोध्ने समय हो कि वास्तविक बुद्धिमत्ता, विशेष गरी मानवीय बुद्धिमत्ता (जस्तै। माथि परिभाषित) सबै सम्भव छ। हामी सुझाव दिन्छौं कि त्यहाँ 'प्रमाणित' (अनौपचारिक अर्थमा) पर्याप्त तर्कहरू छन् जुन निर्माण गर्न, सिर्जना गर्न वा मानवीय बुद्धिमत्ता हुन असम्भव छ। हामी तर्क गर्छौं कि एकलता वास्तवमा सम्भव भए तापनि, सायद धेरै सम्भव छ (जबसम्म हामी यसलाई रोक्न सक्दैनौं), यो जस्तो मानिन्छ त्यो नहुन सक्छ। यहाँ प्रस्तुत गरिएको अनुमान यो हो कि एकलता पनि सौम्य हुन सक्दैन, जतिसुकै शक्तिशाली वा उन्नत हुन सक्छ। यो ह्युमनोइड इन्टेलिजेन्सको असम्भवताको विचारबाट पछ्याउँछ।
2 अनुमानको बारेमा केहि नोटहरू
हामीले असम्भवताको लागि प्रमेय शब्द प्रयोग गरेका छैनौं र यसका कारणहरू हामीले प्रस्तुत गरेका तर्कहरूबाट स्पष्ट हुनुपर्छ। विशेष गरी, हामी यस उद्देश्यको लागि औपचारिक संकेत प्रयोग गर्दैनौं, र सम्भवतः सक्दैनौं। अनुमान शब्द पनि अनौपचारिक अर्थमा प्रयोग गरिन्छ। यहाँ सर्तहरूको प्रयोग गणितीय भाषा भन्दा कानुनी भाषाको नजिक छ, किनभने यहाँ गर्न सकिने उत्तम हो। यो परिभाषा र कथा तर्कबाट स्पष्ट हुन सक्छ। यो समान तर्कको कारण हो कि शब्द 'अपूर्णता' प्रयोग गरिएको छैन र यसको सट्टा, असम्भवता प्रयोग गरिएको छ, जुन हाम्रो उद्देश्यका लागि यहाँ अधिक उपयुक्त छ, यद्यपि गोडेलको शब्द 'अनिवार्य रूपमा अपूर्ण' हो जुन हामीले अनौपचारिक रूपमा Humanoid AI को बारेमा बहस गरिरहेका छौं। , र सायद सामान्य मा AI। भविष्यमा कुनै औपचारिक प्रमाण सम्भव छ वा छैन भनेर कुनै दावी गरिएको छैन। हामीले प्रस्तुत गरेको अनौपचारिक प्रमाण हो। यो प्रमाण माइक्रो-एआई (एआई एक बुद्धिमान स्वायत्त व्यक्तिगत इकाईको स्तरमा) र म्याक्रो-एआई (धेरै ठूलो बौद्धिक स्वायत्त प्रणाली, सम्भवतः सम्पूर्ण मानवता वा विश्वलाई समेट्ने) बीचको भिन्नताको वरिपरि केन्द्रित हुनुपर्छ। हाम्रो ज्ञानको राम्रोसँग, यस्तो भिन्नता पहिले प्रस्ताव गरिएको थिएन। यस दिशामा [ब्रुक्स, 1998, सिग्नोरेली, 2018, याम्पोल्स्की, 2020], ठाउँको अभावमा केही काम भएको भए तापनि, तर्क र केहीलाई ध्यान दिएर बाहेक यो काम अघिल्ला कामहरू भन्दा कसरी फरक छ भनेर हामी व्याख्या गर्न असमर्थ छौं। सर्तहरू उपन्यास हुन्, परमेश्वरको अस्तित्वको पक्षमा वा विपक्षमा तर्कको मामलामा जस्तै, जुन प्रश्न सहस्राब्दीदेखि सर्वश्रेष्ठ दार्शनिकहरूले बारम्बार बहस गर्दै आएका छन्, जुन हामी अन्तमा देख्नेछौं, प्रासंगिक छ। हाम्रो छलफल।
3 माइक्रो-एआई को लागी असंभव अनुमान को लागी तर्क
परिभाषा तर्क): Peano अंकगणित पनि [Nagel et al., 2001] तीन अपरिभाषित सर्तहरू (शून्य, संख्या र को उत्तराधिकारी) मा आधारित छ, जुन AI को लागि आवश्यक असंख्य सर्तहरूको तुलनामा तुलनात्मक रूपमा मामूली शब्दहरू छन् (बुद्धिमत्ता र मानव जस्ता मुख्य सर्तहरू, वा भावनाहरूको वर्गहरू जस्तै सर्तहरू, चेतना जस्ता सर्तहरू एक्लै छोड्नुहोस्)।
वर्ग तर्क: एआई को एक ठूलो सम्झौता कोटिहरु मा वर्गीकरण को बारे मा छ, तर यी धेरै कोटिहरु (जस्तै रिस, घृणा, राम्रो वा खराब) को कुनै वैज्ञानिक रूप देखि परिभाषित सीमाहरु छैन। यो निम्न तर्क संग सम्बन्धित छ।
कथा तर्क: यो लगभग स्थापित भएको छ कि हाम्रो सभ्यताका धेरै आवश्यक अवधारणाहरू सुविधाजनक काल्पनिक वा कथाहरू हुन् [Harari, 2015] र यी प्राय: कोटीहरू बनाउँछन् र परिभाषाहरूमा प्रयोग गरिन्छ।
सांस्कृतिक अवधारणा तर्क: धेरै सर्तहरू, अवधारणाहरू र कथाहरू सांस्कृतिक निर्माण हुन्। तिनीहरूसँग लामो इतिहास छ, जसमध्ये अधिकांश अज्ञात छ, जसको बिना तिनीहरू मोडेल हुन सक्दैनन्।
व्यक्तित्व, वा प्रकृति तर्क: एक व्यक्तिगत बौद्धिक स्वायत्त संस्था अन्य सबै निकायहरू भन्दा अद्वितीय र फरक हुनुपर्छ। यो प्रकृतिमा उत्पत्ति हुन्छ र यो मेसिनमा कसरी उत्पन्न हुन्छ भन्ने बारे हामीसँग कुनै अवधारणा छैन। यो व्यक्तित्व वास्तवमा के हो भनेर हामी निश्चित छैनौं। यद्यपि, इतिहासभरि, हामीले मानव व्यक्तिलाई केही हदसम्म जवाफदेहिता तोकेका छौं र त्यसको आधारमा व्यक्तिलाई सजायको कडा प्रावधान छ, जसले हामी 'आत्म' वा 'स्वायत्त व्यक्ति' को अवधारणामा विश्वास गर्छौं भन्ने संकेत गर्छ। जब हामी यसको अस्तित्वलाई अस्वीकार गर्छौं, जस्तै आज लोकप्रिय हुँदैछ।
आनुवंशिक निर्धारणवाद तर्क: व्यक्तित्व पूर्णतया प्रकृति द्वारा निर्धारित हुँदैन (जस्तै हाम्रो जीन द्वारा) जन्म वा सृष्टि एक पटक र सबैको लागि। यसले वातावरणसँग अन्तरक्रिया गर्दा, यसको विशिष्टता जोगाउँदै निरन्तर विकास र परिवर्तन पनि हुन्छ।
आत्म-संगठन प्रणाली तर्क: मानव प्राणी र मानव समाजहरू प्रायः आत्म-संगठित [शिव र शिव, 2020] र जैविक प्रणालीहरू हुन्, वा तिनीहरू जटिल, गैर-संतुलन प्रणालीहरू हुन् [निकोलिस र प्रिगोगिन, 1977]। यदि त्यसो हो भने, तिनीहरू सटीक प्रतिकृति वा पुनरुत्पादनको लागि मोडेल हुने सम्भावना छैन। वातावरण, वा पोषण तर्क: बुद्धि र व्यक्तित्व दुवै वातावरण (वा प्रकृति मा) मा निर्भर गर्दछ। त्यसकारण, तिनीहरू पूर्णतया वातावरणलाई मोडेल नगरी मोडेल गर्न सकिँदैन, अर्थात्, म्याक्रो-एआईको लागि जाँदै। स्मृति, वा व्यक्तित्व तर्क: बुद्धि र व्यक्तित्व दुबै व्यक्तित्वका पक्षहरू हुन्, जुन एक बुद्धिमान प्राणीको पूर्ण जीवन-स्मृति (चेतन र बेहोश) मा निर्भर हुन जानिन्छ। मेमोरीको यो पूर्ण अस्थायी र वातावरणीय इतिहास पुन: प्राप्ति वा मोडेल गर्न सम्भव छ भन्ने पर्याप्त प्रमाण छैन। हाम्रो धेरै मेमोरी, र त्यसैले हाम्रो व्यक्तित्व र व्यक्तित्व हाम्रो शारीरिक सम्झनाहरूसँग अभिन्न रूपमा जोडिएको छ।
Susbstrate तर्क: यो प्रायः मानिन्छ कि बुद्धिलाई सब्सट्रेटबाट अलग गर्न सकिन्छ र फरक सब्सट्रेटमा रोप्न सकिन्छ। यो गलत धारणा हुन सक्छ। सायद हाम्रो बौद्धिकता सब्सट्रेटसँग अभिन्न रूपमा बाँधिएको छ र पहिलेको तर्कलाई पछ्याउँदै शरीरलाई दिमागबाट अलग गर्न सम्भव छैन।
कारण तर्क: मोडलिङ कारणमा थोरै प्रगति भएको छ। अन्ततः, घटना वा घटनाको कारण एउटै होइन तर धेरै हुन सक्छ, सम्भवतः ब्रह्माण्डको पूर्ण इतिहास पनि।
चेतना तर्क: त्यसैगरी, मानवीय समझको लागि पनि चेतनाको पर्याप्त सिद्धान्त छैन। यो धेरै असम्भव छ कि हामीले मानव चेतनालाई पूर्ण रूपमा मोडेल गर्न सक्छौं, न त यो सही परिस्थिति (कुन अवस्थाहरू?) अन्तर्गत सहज रूपमा देखा पर्न सक्छ भन्ने विश्वास गर्ने कुनै राम्रो कारण छैन।
सिकाइ स्रोत र प्रतिनिधित्व तर्कको अपूर्णता/अधोगति: हामीसँग जतिसुकै डाटा वा ज्ञान भए तापनि, यो सधैं अपूर्ण र पतन दुवै हुनेछ, यसले पूर्ण रूपमा बुद्धिमत्तालाई मोडेल गर्न असम्भव बनाउँछ।
स्पष्टीकरण तर्क: डीप न्यूरल नेटवर्कहरू, जुन एआईका लागि अत्याधुनिक छन्, विशिष्ट पृथक समस्याहरूको लागि पनि स्पष्टीकरणको साथ गम्भीर समस्याहरू छन्। यो बिना, हामी निश्चित हुन सक्दैनौं कि हाम्रा मोडेलहरू सही दिशामा विकास गर्दैछन्।
परीक्षण अपूर्णता तर्क: मेसिन अनुवाद जस्ता समस्याहरूको लागि पनि प्रदर्शनको सही उपायहरू उपलब्ध छैनन्। ह्युमनोइड इन्टेलिजेन्सको समग्र मापन के हुनेछ भन्ने हामीलाई थाहा छैन। यो सधैं अपूर्ण र अपूर्ण हुन सक्छ, जसले बुद्धिको बारेमा अनिश्चितता निम्त्याउँछ।
परजीवी मेसिन तर्क: मेसिनहरू पूर्णतया मानिसहरूमा र मानिसहरूद्वारा उपलब्ध गराइएका डेटा र ज्ञानमा सिक्नको लागि निर्भर हुन्छन्। तर मानिसहरूले आफ्नो बौद्धिक क्षमताको सानो अंश मात्रै व्यक्त वा प्रकट गर्छन्। त्यसैले मेसिनले मानिसजस्तै बुद्धिमानी नभएसम्म मानिसबाट पूर्ण रूपमा सिक्न सक्दैन।
भाषा तर्क: मानव (ओइड) बुद्धिमत्ता र यसको मोडलिंग अनिवार्य रूपमा मानव भाषा (हरू) मा निर्भर गर्दछ। भाषाले कसरी काम गर्छ भन्ने कुनै विश्वव्यापी रूपमा स्वीकृत सिद्धान्त छैन।
धारणा व्याख्या तर्क: सिक्नको लागि धारणा चाहिन्छ र धारणा व्याख्या (र यसको विपरीत) मा निर्भर गर्दछ, जुन बौद्धिकताको मोडेलिङ जत्तिकै कठिन समस्या हो।
प्रतिकृति तर्क: हामीले पृथक समस्याहरूको लागि पनि प्रतिकृतिको वैज्ञानिक संकट सामना गरिरहेका छौं। हामी कसरी मानवीय बुद्धिमत्ताको प्रतिकृतिमा निश्चित हुन सक्छौं, व्यक्तिगत विशिष्टताको संरक्षण गर्दै?
मानव-मानव एस्पिटेमिक असिमेट्री तर्क: मानव समाजमा धन र सम्पदाको मात्र होइन ज्ञान र त्यसको फाइदाको हिसाबले पनि व्यापक असमानता छ । यसले मोडलिङमा मात्र प्रतिबिम्बित गर्दैन, तर मोडलिङलाई अझ कठिन बनाउनेछ।
विविधता प्रतिनिधित्व तर्क: वास्तवमा काम गर्ने मानवीय बुद्धिमत्ताले मानव अस्तित्वको पूर्ण विविधतालाई यसको सबै पक्षहरूमा मोडल गर्नुपर्नेछ, जसमध्ये धेरै जसो ज्ञात वा दस्तावेज पनि छैनन्। यसले कम्तिमा त्यो विविधतालाई जोगाउनु पर्छ, जुन अग्लो क्रम हो।
डाटा उपनिवेशवाद तर्क: डाटा नयाँ तेल हो। अधिक शक्ति, पैसा र प्रभाव (भौतिकवादी पवित्र ट्रिनिटी) भएकाहरूले तिनीहरूको आफ्नै डेटा साझा नगरी अरूबाट थप डेटा खान सक्छन्। यो एक क्लासिक औपनिवेशिक अवस्था हो र यसले मानवीय बुद्धिमत्ताको विकासमा बाधा पुर्याउँछ।
नैतिक-राजनीतिक तर्क: माथिका केही तर्कहरू, र धेरै अन्यहरू जस्तै डेटा पूर्वाग्रह, हतियारको सम्भाव्यता आदिलाई ध्यानमा राख्दै, त्यहाँ धेरै नैतिक र राजनीतिक कारणहरू छन् जुन मानवीय बुद्धिमत्ताको विकास गर्दा ध्यानमा राख्नुपर्छ। ती सबैलाई पूर्ण रूपमा सम्बोधन गर्न सकिन्छ कि भनेर हामी निश्चित छैनौं।
प्रिस्क्रिप्टिवेशन तर्क: यो अब पहिचान गरिएको छ कि ठूलो मात्रामा लागू गरिएको 'बुद्धिमान' प्रविधिले व्यवहारलाई मात्र निगरानी गर्दैन, तर यसलाई परिवर्तन गर्दछ [Zuboff, 2018]। यसको मतलब हामीले मोडेल गर्न खोजेको कुरालाई परिवर्तन गर्दैछौं, र यसरी मानव हुनुको अर्थ के हो भनेर नयाँ मेकानिकल नियमहरू राख्दैछौं।
इच्छा पूर्ति (वा आत्म-पूर्ण भविष्यवाणी) तर्क: अपूर्ण र अपर्याप्त बौद्धिक मेसिनहरूद्वारा जीवनको प्रिस्क्रिप्टिभाइजेसनको कारणले गर्दा, मानवीय बुद्धिमत्ताको मोडेलिङको समस्या एक आत्म-पूर्ति भविष्यवाणी बन्न पुग्छ, जहाँ हामी मानव जीवनको मोडेलिङ गर्दैनौं, तर जीवनको केही भ्रष्ट र सरलीकृत रूप जुन हामीले अस्तित्वमा ल्यायौं। 'बुद्धिमान' मेसिनहरू।
मानव हस्तक्षेप तर्क: ह्युमनोइड इन्टेलिजेन्सले स्वतन्त्र रूपमा विकास गर्नेछ र मानव हस्तक्षेपबाट प्रभावित हुनेछैन भन्ने विश्वास गर्ने कुनै कारण छैन, धेरै निहित स्वार्थहरूको सम्भावना छ। यसले साँचो मानवीय बुद्धिको विकासलाई अपांग बनाउँछ। यो हस्तक्षेपले गोपनीयता, वित्तीय प्रभाव (जस्तै अनुसन्धान कोष) र कानूनी वा संरचनात्मक जबरजस्तीको रूप लिन सक्छ।
Deepfake तर्क: यद्यपि हामीसँग अझै पनि साँच्चै बुद्धिमानी मेसिनहरू छैनन्, हामी डीपफेकहरू मार्फत डेटा उत्पन्न गर्न सक्षम छौं जुन मानिसहरूले नक्कली रूपमा चिन्न सक्दैनन्। यो डीपफेक डाटा फैलिन गइरहेको छ र मेसिनहरूले सिक्ने डाटाको अंश बन्नेछ, प्रभावकारी रूपमा मानव जीवनलाई नभई अरू केहि मोडेल गर्दै।
चेन प्रतिक्रिया तर्क (वा घातीय वृद्धि तर्क को कानून): मेशिनहरू अधिक 'बुद्धिमान' बन्दै गएपछि तिनीहरूले जीवनलाई अझ बढी प्रभाव पार्छन् र यसलाई परिवर्तन गर्छन्, साँचो बुद्धि हासिल गर्नु अघि नै। यस परिवर्तनको गति तीव्र रूपमा बढ्नेछ र यसले चेन प्रतिक्रिया निम्त्याउनेछ, जसले अप्रत्याशित नतिजाहरू निम्त्याउनेछ, अनिवार्य रूपमा मानवीय बुद्धिमत्ताको मोडेलिङलाई असर गर्नेछ।
4 असम्भवता को प्रभाव
माथिका तर्कहरूबाट यो पछ्याउँछ कि माइक्रो-एआई स्तरमा एकलता असम्भव छ। त्यो हासिल गर्ने प्रयासमा, र माथिका तर्कहरूलाई सम्बोधन गर्नको लागि, एकमात्र सम्भावित नतिजा भनेको एक प्रकारको म्याक्रो-एआई स्तरमा हो। यस्तो एकलताले मानव बुद्धिको प्रतिकृति वा यसको वृद्धिको नेतृत्व गर्दैन, तर पूर्णतया फरक कुरा। यसले, सम्भवतः, मानव बुद्धिको लोप (वा कम से कम अधीनता, दासता) को नेतृत्व गर्नेछ। केवल Humanoid Intelligence (Human Individual Micro-AI) हासिल गर्नका लागि, थप केही नभए पनि, आवश्यक AI प्रणाली एकल सर्वोच्च ईश्वरको साझा धारणाभन्दा कम हुनुपर्दैन। म्याक्रो स्तरमा एकलताले वास्तवमा AI प्रणालीलाई, वा जसले यसलाई नियन्त्रण गरिरहेको छ, व्यक्तिगत वा (सम्भवतः सानो) सामूहिक, सबै व्यावहारिक उद्देश्यहरूका लागि एकल सर्वोच्च ईश्वर बनाउँदछ, जहाँसम्म मानवहरू चिन्तित छन्। तर यो एक सर्वशक्तिमान ईश्वर हुनेछैन, र एक दयालु ईश्वर हुनेछैन, किनकि यो मानवताको सीमित दायरा भित्र सर्वोच्च हुनेछ र मानवतामा के प्रभाव पार्न सक्छ, र यो केवल आफैंमा दयालु हुनेछ, वा सायद त्यो पनि होइन। । यो फिलिप के. डिकको कथा फेथ अफ आवर फादर्स [डिक एन्ड लेथेम, २०१३], वा अर्वेलको १९८४ [ओर्वेल, १९५०] को बिग ब्रदरसँग मिल्दोजुल्दो हुन सक्छ। हामी नतिजाको बारेमा निश्चित हुन सक्दैनौं, पक्कै पनि, तर ती अरूको रूपमा सम्भावित परिणामहरू। ह्युमनोइड इन्टेलिजेन्स र यसको कुनै पनि प्रकारको विकास गर्न धेरै सावधान हुनको लागि यो पर्याप्त कारण हो।
सन्दर्भ
फिलिप के. डिक, पॉल विलियम्स, र मार्क। हर्स्ट। मलाई आशा छ म चाँडै आइपुग्नेछु / फिलिप के. डिक; मार्क हर्स्ट र पॉल विलियम्स द्वारा सम्पादन। डबलडे न्यूयोर्क, 1st संस्करण। संस्करण, 1985. ISBN 0385195672।
अल्फ्रेड उत्तर व्हाइटहेड र बर्ट्रान्ड रसेल। प्रिन्सिपिया गणित। क्याम्ब्रिज विश्वविद्यालय प्रेस, 1925-1927।
बर्नाबी शेपर्ड। गोडेलको अपूर्णता प्रमेय, पृष्ठ 419-428। क्याम्ब्रिज विश्वविद्यालय प्रेस, 2014. doi: 10.1017/CBO9781107415614.016।
E. Nagel, J.R. Newman, र D.R. Hofstadter। गोडेलको प्रमाण । NYU प्रेस, 2001. ISBN 9780814758014. URL https://books.google.co.in/books?id=G29G3W_hNQkC.
जोन ई. होपक्रफ्ट, राजीव मोटवानी, र जेफ्री डी. उलम्यान। अटोमेटा सिद्धान्त, भाषाहरू, र गणनाको परिचय (तेस्रो संस्करण)। Addison-Wesley Longman Publishing Co., Inc., USA, 3. ISBN ०३२१४५५३६३।
B. ज्याक कोपल्याण्ड र ओरोन शाग्रिर। चर्च-ट्युरिङ थीसिस: तार्किक सीमा वा भंग गर्न योग्य अवरोध? कम्युन। ACM, 62(1):66–74, डिसेम्बर 2018। ISSN 0001-0782। doi: 10.1145/3198448। URL https://doi.org/10.1145/3198448.
रे Kurzweil। एकलता नजिक छ: जब मानव जीवविज्ञान पार गर्दछ। पेंगुइन (गैर-क्लासिक), 2006। ISBN 0143037889।
रोडनी ब्रूक्स। मानवीय रोबोटका लागि मानव स्तरको बुद्धिको सम्भावनाहरू। 07 1998. क्यामिलो मिगुएल सिग्नोरेली। के कम्प्यूटर सचेत बन्न सक्छ र मानिसलाई जित्न सक्छ? Frontiers in Robotics and AI, 5:121, 2018. doi: 10.3389/frobt.2018.00121। URL https://www.frontiersin। org/article/10.3389/frobt.2018.00121।
रोमन वी. याम्पोल्स्की। AI को अप्रत्याशितता: एक स्मार्ट एजेन्टको सबै कार्यहरूको सही भविष्यवाणी गर्ने असम्भवतामा। जर्नल अफ आर्टिफिशियल इन्टेलिजेन्स एण्ड कन्सियसनेस, ०७(०१):१०९–११८, २०२०। doi: 07/S01।
Y.N. हरारी। सेपियन्स: मानव जातिको संक्षिप्त इतिहास। हार्पर, 2015. ISBN 9780062316103. URL https://books.google.co.in/books?id=FmyBAwAAQBAJ.
वी. शिव र के. शिव। एकता वि. 1 प्रतिशत: चकनाचूर भ्रम, बीज स्वतन्त्रता। चेल्सी ग्रीन पब, 2020। ISBN 9781645020394। URL https://books.google.co.in/books?
id=4TmTzQEACAAJ।
G. निकोलिस र I. Prigogine। गैर-संतुलन प्रणालीहरूमा आत्म-संगठन: उतार-चढ़ावहरू मार्फत विघटनकारी संरचनाहरूबाट अर्डर गर्न। एक Wiley-Interscience प्रकाशन। Wiley, 1977. ISBN 9780471024019. URL https://books.google.co.in/books?id=mZkQAQAAIAAJ.
शोशना जुबोफ। निगरानी पुँजीवादको युग: शक्तिको नयाँ सीमामा मानव भविष्यको लागि लडाई। पहिलो संस्करण, 1। ISBN 2018।
P.K डिक र जे लेथेम। फिलिप के. डिकका चयन गरिएका कथाहरू। Houghton Mifflin Harcourt, 2013. ISBN 9780544040540. URL https://books.google.co.in/books?id=V1z9rzfTb2EC.
जर्ज ओरवेल। 1984. ट्यान्डम लाइब्रेरी, शताब्दी। संस्करण, 1950. ISBN 0881030368. URL http://www.amazon.de/1984-Signet-Classics-George-Orwell/dp/0881030368.
***
मूलतः प्रकाशित anileklavya.net 7 नोभेम्बर, 2020 मा।
ZNetwork यसको पाठकहरूको उदारता मार्फत मात्र वित्त पोषित छ।
दान
2 टिप्पणी
खैर, त्यो पहिलो तर्कमा जान्छ।
लेख सुधार्ने प्रयासमा छु । तैपनि, औंल्याइदिनुभएकोमा धन्यवाद, ताकि म यसबारे विस्तार गर्न सकूँ।
'३। बौद्धिकता: कुनै पनि चीज र सबै चीजहरू जुन मानव जातिको पूर्ण विविधताले सक्षम छ, दुबै व्यक्तिगत र सामूहिक रूपमा, साथसाथै सिंक्रोनिक र डायक्रोनिक रूपमा। यसमा व्यवहार वा समस्या समाधान मात्र होइन, परिभाषित गरिए अनुसारको सम्पूर्ण जीवन समावेश छ।
यो परिभाषा मलाई धेरै अस्पष्ट लाग्छ। AI को बारेमा धेरै कुरा भन्न धेरै गाह्रो हुने छ यदि हामीलाई 'I' भागको अर्थ के हो थाहा छैन भने।