Апстракт
[Груб нацрт на работа во тек.]
Идејата за машини кои се речиси идентични со човечките суштества беше толку заводлива што ги заробуваше имагинациите на најдобрите умови, како и на лаиците најмалку век и половина, можеби и повеќе. Веднаш по создавањето на вештачката интелигенција (ВИ), речиси се земаше здраво за готово дека наскоро ќе можеме да изградиме хуманоидни роботи. Ова, исто така, доведе до некои сериозни шпекулации за „трансхуманизмот“. Засега се чини дека не сме ни блиску до оваа цел. Можеби е време сега да се запрашаме дали воопшто е можно. Презентираме збир на аргументи дека е невозможно да се создадат или изградат хуманоидни роботи или хуманоидна интелигенција, каде што споменатата интелигенција може да ги замени човечките суштества во секоја ситуација каде што се бараат или постојат човечки суштества.
1. Хуманоидна интелигенција, сингуларност и трансхуманизам
Пред да продолжиме да ги дискутираме термините од насловот на овој дел и аргументите во следните делови, прво ги дефинираме основните термини до одреден степен на концизност и прецизност:
1. Човечки живот: Сè и сè за што е способна целата разновидност на човечки суштества, и индивидуално и колективно. Ова не го вклучува само однесувањето или решавањето на проблемите, туку целата палета на способности, емоции, желби, дејства, мисли, свест, совест, емпатија, креативност и слично во поединецот, како и целата палета на асоцијации и врски, и социјални, политички и еколошки структури, занаети, уметност и слично кои можат да постојат во човечкото општество или општества. Ова е точно не само во даден момент, туку и во текот на животот на планетата. Можеби треба да вклучи дури и духовни искуства и „откровенија“ или „заблуди“, како што се оние навестени во приказната за Филип К. Дик, Света расправија [Дик и сор., 1985].
2. Хуманоид.
3. Интелигенција: Сè и сè за што е способна целата разновидност на човечки суштества, и индивидуално и колективно, како и синхрониски и дијахрониски. Ова го вклучува не само однесувањето или решавањето на проблемите, туку целиот живот како што е дефинирано.
4. Единственоста: Технолошка точка во која е можно да се создаде (или да се има) интелигенција која е хуманоидна или подобра од хуманоидна.
5. Трансхуманизам: Идејата дека, по сингуларноста, можеме да имаме општество кое е далеку понапредно, на подобро, од сегашните и минатите човечки општества. Од 1910 до 1927 година, во трите тома на Principia Mathematica [1925–1927], Вајтхед и Расел се зафатија да докажат дека математиката е, во некоја значајна смисла, сведена на логика. Ова се покажа како невозможно кога Годел ги објави своите теореми за нецелосност во 1931 година [Шепард, 2014, Нагел и сор., 2001]. За време на деновите на потеклото на модерната компјутерска наука, пред и во раните 1930-ти, лесно би било да се претпостави дека компјутерската машина на крајот ќе реши каков било проблем. Ова, исто така, се покажа како невозможно со теоремата за нерешителност на Тјуринг [Хопкрофт и сор., 2006] и тезата за пресметливост Черч-Туринг [Коупленд и Шагрир, 2018]. Оттогаш, други видови проблеми се покажаа како нерешливи.
Сега, кога треба да се затвориме, доволно е да ја затвориме сингуларноста [Kurzweil, 2006] за да може да се случи во текот на животот на голем број човечки суштества, можеби е време да се запрашаме дали вистинската интелигенција, особено хуманоидната интелигенција (како дефинирано погоре) воопшто е можно. Предлагаме дека има доволно аргументи за да се „докаже“ (во неформална смисла) дека е невозможно да се изгради, да се создаде или да се има хуманоидна интелигенција. Ние тврдиме дека иако Сингуларноста е навистина можна, можеби дури и многу веројатна (освен ако не ја спречиме), таа можеби не е она што треба да биде. Претпоставката претставена овде е дека Сингуларноста веројатно нема да биде ни бенигна, колку и да е моќна или напредна. Ова произлегува од идејата за неможноста на хуманоидната интелигенција.
2 Некои забелешки за претпоставката
Не го употребивме терминот теорема за неможноста и причините за тоа треба да се видат од аргументите што ги презентираме. Конкретно, ние не користиме, а можеби и не можеме, да користиме формална нотација за оваа намена. Дури и терминот претпоставка се користи во неформална смисла. Употребата на термини овде е поблиску до правниот јазик отколку до математичкиот јазик, бидејќи тоа е најдоброто што може да се направи овде. Ова може да биде појасно од аргументите Дефиниција и Приказна. Поради слично размислување, не се користи терминот „нецелосност“ и наместо тоа, се користи неможност, што е посоодветно за нашите цели овде, иако терминот на Годел „суштински нецелосен“ е она за што неформално се расправаме за хуманоидната вештачка интелигенција. , а можеби и ВИ воопшто. Не се тврди дали е можно или не формален доказ во иднина. Ова што го презентираме е неформален доказ. Овој доказ треба да биде центриран околу разликата помеѓу Micro-AI (AI на ниво на интелигентен автономен индивидуален ентитет) и Macro-AI (многу големи интелигентни автономни системи, кои веројатно го опфаќаат целото човештво или светот). Според нашите сознанија, ваква дистинкција досега не беше предложена. Иако имаше одредена работа во оваа насока [Brooks, 1998, Signorelli, 2018, Yampolskiy, 2020], поради недостаток на простор, не можеме да објасниме како ова дело се разликува од претходните такви дела, освен со напомена дека аргументацијата и некои поимите се нови, малку како во случајот со аргументите за или против постоењето на Бог, за кое прашање се расправало од најдобрите филозофи повторно и повторно во текот на милениумите, што како што ќе видиме на крајот, е релевантно за нашата дискусија.
3 Аргументи за претпоставката за неможност за микро-ВИ
Аргумент за дефиниција): Дури и Peano Arithmetic [Nagel et al., 2001] се заснова на три недефинирани поими (нула, број и е наследник на ), кои се релативно тривијални поими во споредба со безбројните термини потребни за AI (суштинските термини како интелигенција и човек, или термини како категориите на емоции, оставете ги на мира термините како свест).
Категорија аргумент: Голем дел од вештачката интелигенција се однесува на класифицирање на нештата во категории, но повеќето од овие категории (на пр. гнев, одвратност, добро или лошо) немаат научно дефинирани граници. Ова е поврзано со следниот аргумент.
Аргументот на приказната: Речиси е утврдено дека многу од суштинските концепти на нашата цивилизација се погодни фикции или приказни [Harari, 2015] и тие често формираат категории и се користат во дефиниции.
Аргумент за културен концепт: Многу од поимите, концептите и приказните се културни конструкции. Тие имаат долга историја, од која повеќето не се познати, без која не можат да се моделираат.
Индивидуалноста или аргументот за природата: Индивидуалниот интелигентен автономен ентитет треба да биде единствен и различен од сите други такви ентитети. Потекнува од природата и немаме претстава како може да потекнува од машините. Не сме ни сигурни што точно е оваа индивидуалност. Како и да е, во текот на историјата, доделуваме одреден степен на одговорност на човековиот поединец и имаме строги одредби за казнување на поединци врз основа на тоа, што укажува дека веруваме во концептот на „јас“ или „автономна индивидуа“, дури и кога го негираме неговото постоење, како што станува популарно денес.
Аргумент за генетски детерминизам: Индивидуалноста не е целосно одредена од природата (на пр. од нашите гени) при раѓањето или создавањето еднаш засекогаш. Исто така, се развива и постојано се менува додека е во интеракција со околината, зачувувајќи ја нејзината уникатност.
Аргумент за самоорганизирачки систем: Човечките суштества и човечките општества најверојатно се самоорганизираат [Shiva и Shiva, 2020] и органски системи, или тие се сложени, нерамнотежни системи [Nicolis and Prigogine, 1977]. Ако е така, веројатно нема да бидат моделирани за точна репликација или репродукција. Околината или аргументот за негување: и интелигенцијата и индивидуалноста зависат од околината (или од природата). Затоа, тие не можат да се моделираат без целосно моделирање на околината, т.е. Меморијата или аргументот за личноста: и интелигенцијата и индивидуалноста се аспекти на личноста, за кои се знае дека зависи од целосната животна меморија (свесна и несвесна) на интелигентно суштество. Нема доволно докази дека е можно да се поврати или моделира оваа целосна временска и еколошка историја на меморијата. Голем дел од нашата меморија, а со тоа и нашата индивидуалност и личност е интегрално поврзана со нашите телесни сеќавања.
Аргументот Susbstrsate: Често се зема здраво за готово дека интелигенцијата може да се одвои од подлогата и да се засади на различна подлога. Ова може да биде погрешна претпоставка. Можеби нашата интелигенција е интегрално врзана со подлогата и не е возможно да се одвои телото од умот, по претходниот аргумент.
Аргумент за каузалност: Има мал напредок во моделирањето на каузалноста. На крајот на краиштата, причината за некој настан или појава не е една, туку многу, можеби дури и целосната историја на универзумот.
Аргументот на свеста: Слично на тоа, не постои доволно добра теорија за свеста дури и за човечкото разбирање. Многу е малку веројатно дека можеме целосно да ја моделираме човечката свест, ниту пак постои добра причина да се верува дека таа може да се појави спонтано под соодветни услови (кои услови?).
Аргумент за нецелосност/дегенерација на изворот и застапеноста на учењето: Без разлика колку податоци или знаење имаме, тие секогаш ќе бидат и нецелосни и дегенерирани, што ќе го оневозможи целосно моделирање на интелигенција.
Аргумент за објаснување: Длабоките невронски мрежи, кои се најсовремени за вештачката интелигенција, имаат сериозни проблеми со објаснувањето дури и за специфични изолирани проблеми. Без него, не можеме да бидеме сигурни дали нашите модели се развиваат во вистинската насока.
Аргумент за нецелосност на тестот: Совршените мерки на перформанси не се достапни дури и за проблеми како машинско преведување. Немаме идеја која ќе биде севкупната мерка на хуманоидната интелигенција. Секогаш може да биде нецелосно и несовршено, што доведува до неизвесност за интелигенцијата.
Аргументот на паразитската машина: Машините целосно зависат за учење од луѓето и од податоците и знаењето обезбедени од луѓето. Но, луѓето изразуваат или манифестираат само мал дел од нивната интелигентна способност. Значи, машините не можат целосно да учат од луѓето без претходно да бидат интелигентни како луѓето.
Јазичниот аргумент: Човечката(оидна) интелигенција и нејзиното моделирање суштински зависат од човечкиот јазик(и). Не постои универзално прифатена теорија за тоа како функционира јазикот.
Аргументот за толкување на перцепцијата: Учењето бара перцепција, а перцепцијата зависи од толкувањето (и обратно), што е речиси исто толку тежок проблем како и моделирањето на самата интелигенција.
Аргументот за репликација: Се соочуваме со научна криза на репликација дури и за изолирани проблеми. Како би можеле да бидеме сигурни во реплицирањето на хуманоидната интелигенција, зачувувајќи ја индивидуалната уникатност?
Аргументот за човечко-човечка еспитемичка асиметрија: Постои широко распространета нееднаквост во човечкото општество не само во однос на парите и богатството, туку и во однос на знаењето и неговите придобивки. Ова не само што ќе се одрази во моделирањето, туку ќе го отежне моделирањето.
Аргументот за претставување на различноста: Хуманоидната интелигенција која навистина функционира ќе мора да ја моделира целосната разновидност на човековото постоење во сите негови аспекти, од кои повеќето не се ни познати или документирани. Ќе мора барем да ја зачува таа различност, што е висок ред.
Аргументот за колонијализмот на податоци: Податокот е новото масло. Оние со поголема моќ, пари и влијание (материјалистичката Света Троица) можат да ископуваат повеќе податоци од други, без да споделуваат свои податоци. Ова е класична колонијална ситуација и ќе го попречи развојот на хуманоидната интелигенција.
Етичко-политички аргумент: Имајќи ги предвид некои од горенаведените аргументи и многу други, како што се пристрасноста на податоците, потенцијалот за вооружување итн., има многу етички и политички причини кои треба да се земат предвид при развивањето на хуманоидната интелигенција. Не сме сигурни дали сите тие можат целосно да се решат.
Аргументот за препишување: Сега е признаено дека „интелигентната“ технологија применета во голем обем не само што го следи однесувањето, туку и го менува [Zuboff, 2018]. Ова значи дека го менуваме токму она што се обидуваме да го моделираме, и на тој начин поставуваме нови механички правила за тоа што значи да се биде човек.
Аргумент за исполнување на желбите (или самоисполнувачко пророштво): Поради препишување на самиот живот од несовршени и несоодветно интелигентни машини, проблемот со моделирањето на хуманоидната интелигенција станува самоисполнувачко пророштво, каде што на крајот го моделираме не човечкиот живот, туку некоја расипана и поедноставена форма на живот што ја создадовме со „интелигентни“ машини.
Аргументот за човечка интервенција: Нема причина да се верува дека хуманоидната интелигенција ќе се развива слободно сама по себе и нема да биде под влијание на човечка интервенција, што е многу веројатно за понатамошни сопствени интереси. Ова ќе го осакати развојот на вистинската хуманоидна интелигенција. Оваа интервенција може да има форма на тајност, финансиско влијание (како што е финансирање на истражување) и законска или структурна принуда.
Аргументот на Deepfake: Иако сè уште немаме вистински интелигентни машини, ние сме во состојба да генерираме податоци преку длабоки фалсификати кои не се препознаваат како фалсификати од човечки суштества. Овие длабоко лажни податоци ќе се размножуваат и ќе станат дел од податоците од кои учат машините, ефикасно моделирање не човечки живот, туку нешто друго.
Аргумент за верижна реакција (или аргумент на Законот за експоненцијален раст): Како што машините стануваат „поинтелигентни“, тие влијаат се повеќе на животот и го менуваат, дури и пред да се постигне вистинска интелигенција. Брзината на оваа промена ќе се зголеми експоненцијално и ќе предизвика верижна реакција, што ќе доведе до несогледливи последици, што нужно ќе влијае на моделирањето на хуманоидната интелигенција.
4 Импликациите на неможноста
Од горенаведените аргументи произлегува дека сингуларноста на ниво на микро-ВИ е невозможна. Во обидот да се постигне тоа, и да се решат горенаведените аргументи, единствениот можен исход е некој вид на Singularly на ниво на макро-ВИ. Таквата сингуларност нема да доведе до репликација на човечката интелигенција или нејзино подобрување, туку нешто сосема поинакво. Тоа, најверојатно, ќе доведе до изумирање (или барем потчинување, ропство) на човечката интелигенција. За да се постигне само хуманоидна интелигенција (Human Individual Micro-AI), дури и ако ништо повеќе, потребниот систем за вештачка интелигенција ќе мора да биде ништо помалку од заедничкиот поим за Единствен Врховен Бог. Сингуларноста на макро ниво всушност ќе го направи системот на вештачка интелигенција, или кој и да е тој што го контролира, индивидуален или (најверојатно мал) колективен, Единствен Врховен Бог за сите практични цели, што се однесува до човечките суштества. Но, ова нема да биде Семоќен Бог, а не добар Бог, зашто ќе биде Врховен во ограничениот опсег на човештвото и на што човештвото може да има влијание, и ќе биде љубезен само кон себе, или можеби дури и не . Тоа може да биде аналогно на Бог во приказната на Филип К. Дик, Верата на нашите татковци [Дик и Летем, 2013] или на Големиот брат на Орвел од 1984 година [Орвел, 1950]. Не можеме да бидеме сигурни за исходот, се разбира, но оние како веројатни исходи како и сите други. Тоа е доволна причина да бидеме многу претпазливи за развој на хуманоидна интелигенција и која било нејзина варијанта.
Референци
Филип К. Дик, Пол Вилијамс и Марк. Херст. Се надевам дека ќе пристигнам наскоро / Филип К. Дик; уредено од Марк Херст и Пол Вилијамс. Doubleday New York, 1st ed. издание, 1985. ISBN 0385195672.
Алфред Норт Вајтхед и Бертранд Расел. Principia Mathematica. Cambridge University Press, 1925–1927.
Барнаби Шепард. Геделови теореми за нецелосност, страница 419–428. Cambridge University Press, 2014. doi: 10.1017/CBO9781107415614.016.
E. Nagel, J.R. Newman и D.R. Хофштатер. Доказот на Годел. NYU Press, 2001. ISBN 9780814758014. URL https://books.google.co.in/books?id=G29G3W_hNQkC.
Џон Е. Хопкрофт, Рајев Мотвани и Џефри Д. Улман. Вовед во теорија на автомати, јазици и пресметување (трето издание). Addison-Wesley Longman Publishing Co., Inc., САД, 3. ISBN 2006.
Б. Џек Коупленд и Орон Шагрир. Тезата на црквата: Логичка граница или прекршлива бариера? Commun. ACM, 62 (1): 66–74, декември 2018. ISSN 0001-0782. doi: 10.1145/3198448. URL https://doi.org/10.1145/3198448.
Реј Курцвеил. Сингуларноста е близу: кога луѓето ја надминуваат биологијата. Пингвин (не-класици), 2006. ISBN 0143037889.
Родни Брукс. Изгледи за интелигенција на човечко ниво за хуманоидни роботи. 07 1998. Камило Мигел Сињорели. Дали компјутерите можат да станат свесни и да ги победат луѓето? Граници во роботиката и вештачката интелигенција, 5:121, 2018. doi: 10.3389/frobt.2018.00121. URL https://www.frontiersin. org/article/10.3389/frobt.2018.00121.
Роман В. Јамполски. Непредвидливост на ai: За неможноста точно да се предвидат сите дејства на попаметен агент. Весник за вештачка интелигенција и свест, 07 (01): 109-118, 2020 година. дои: 10.1142/S2705078520500034.
Y.N. Харари. Сапиенс: Кратка историја на човештвото. Харпер, 2015. ISBN 9780062316103. URL https://books.google.co.in/books?id=FmyBAwAAQBAJ.
В. Шива и К. Шива. Единство Vs. 1 процент: Разбивачки илузии, сеење слобода. CHELSEA GREEN PUB, 2020. ISBN 9781645020394. URL https://books.google.co.in/books?
id=4TmTzQEACAAJ.
G. Nicolis и I. Prigogine. Самоорганизација во нерамнотежни системи: од дисипативни структури до ред преку флуктуации. Публикација на Wiley-Interscience. Вајли, 1977. ISBN 9780471024019. URL https://books.google.co.in/books?id=mZkQAQAAIAAJ.
Шошана Зубоф. Доба на надзорен капитализам: Борба за човечка иднина на новата граница на моќта. 1-во издание, 2018. ISBN 1610395697.
П.К. Дик и Џ. Летем. Избрани приказни на Филип К. Дик. Houghton Mifflin Harcourt, 2013. ISBN 9780544040540. URL https://books.google.co.in/books?id=V1z9rzfTb2EC.
Џорџ Орвел. 1984. Тандем библиотека, стогодишнина. издание, 1950. ISBN 0881030368. URL http://www.amazon.de/1984-Signet-Classics-George-Orwell/dp/0881030368.
***
Првично објавена во anileklavya.net на 7 ноември 2020 година.
ZNetwork се финансира исклучиво преку великодушноста на неговите читатели.
Донирајте
2 коментари
Па, тоа води до првиот аргумент.
Се обидувам да ја подобрам статијата. Сепак, благодарам за посочувањето, за да можам да елаборирам за ова.
„3. Интелигенција: Сè и сè за што е способна целата разновидност на човечки суштества, и индивидуално и колективно, како и синхрониски и дијахрониски. Ова не го вклучува само однесувањето или решавањето проблеми, туку целиот живот како што е дефинирано.
Оваа дефиниција ми изгледа премногу нејасна. Ќе биде многу тешко да се каже многу за вештачката интелигенција ако не знаеме што мислиме со делот „јас“.