sažetak
[Grubi nacrt rada u toku.]
Ideja o mašinama koje su gotovo identične ljudskim bićima bila je toliko zavodljiva da je zaokupljala maštu najboljih umova, kao i laika najmanje vek i po, a možda i više. Odmah nakon što je umjetna inteligencija (AI) nastala, gotovo se podrazumijevalo da ćemo uskoro moći graditi humanoidne robote. Ovo je takođe dovelo do ozbiljnih spekulacija o 'transhumanizmu'. Za sada se čini da nismo ni blizu ovog cilja. Možda je sada vrijeme da se zapitamo da li je to uopće moguće. Predstavljamo niz argumenata da je nemoguće stvoriti ili izgraditi humanoidne robote ili humanoidnu inteligenciju, gdje pomenuta inteligencija može zamijeniti ljudska bića u bilo kojoj situaciji u kojoj su ljudska bića potrebna ili postoje.
1. Humanoidna inteligencija, singularnost i transhumanizam
Prije nego što nastavimo s raspravom o terminima naslova ovog odjeljka i argumentima u sljedećim odjeljcima, prvo definiramo temeljne pojmove do određenog stepena sažetosti i preciznosti:
1. Ljudski život: Sve i sve za šta su sposobna sva različita ljudska bića, kako pojedinačno tako i kolektivno. Ovo ne uključuje samo ponašanje ili rješavanje problema, već čitav niz sposobnosti, emocija, želja, postupaka, misli, svijesti, savjesti, empatije, kreativnosti i tako dalje unutar pojedinca, kao i čitav niz asocijacija i odnosa, i društvene, političke i ekološke strukture, zanati, umjetnost i tako dalje koji mogu postojati u ljudskom društvu ili društvima. To važi ne samo u svakom trenutku, već iu životu planete. Možda bi trebalo uključiti čak i duhovna iskustva i 'otkrovenja' ili 'zablude', kao što su ona nagovještavana u priči Philipa K. Dicka, Sveta svađa [Dick et al., 1985.].
2.Humanoid: Živi i reproduktivni entitet koji je skoro identičan ljudima, bilo sa ljudskim tijelom ili bez njega, na drugoj podlozi (unutar kompjutera).
3. Inteligencija: Sve i sve za šta su sposobna sva različita ljudska bića, individualno i kolektivno, kao i sinhronijski i dijahronijski. Ovo ne uključuje samo ponašanje ili rješavanje problema, već cijeli život kako je definirano.
4. Singularnost: Tehnološka tačka na kojoj je moguće stvoriti (ili imati) inteligenciju koja je humanoidna ili bolja od humanoidne.
5. Transhumanizam: Ideja da, nakon singularnosti, možemo imati društvo koje je daleko naprednije, na bolje, od sadašnjih i prošlih ljudskih društava. Od 1910. do 1927. godine, u tri toma Principia Mathematica [1925–1927], Whitehead i Russell su nastojali dokazati da je matematika, u nekom značajnom smislu, svodiva na logiku. Ovo se pokazalo nemogućim kada je Godel objavio svoje teoreme o nepotpunosti 1931. [Sheppard, 2014, Nagel et al., 2001]. Tokom dana nastanka moderne računarske nauke, pre i ranih 1930-ih, bilo bi lako pretpostaviti da će računarska mašina na kraju rešiti bilo koji problem. To se također pokazalo nemogućim s Turingovom teoremom neodlučivosti [Hopcroft et al., 2006] i Church-Turing tezom o izračunljivosti [Copeland i Shagrir, 2018]. Od tada se pokazalo da su druge vrste problema neodlučive.
Sada kada bi trebalo da budemo dovoljno blizu Singularnosti [Kurzweil, 2006] da bi se to moglo dogoditi tokom života velikog broja ljudskih bića, možda je vrijeme da se zapitamo da li je stvarna inteligencija, posebno humanoidna inteligencija (kao gore definisano) je uopšte moguće. Predlažemo da postoji dovoljno argumenata da se 'dokaže' (u neformalnom smislu) da je nemoguće izgraditi, stvoriti ili imati humanoidnu inteligenciju. Mi tvrdimo da, iako je Singularnost zaista moguća, možda čak i vrlo vjerovatna (osim ako je ne zaustavimo), možda nije ono što bi trebala biti. Pretpostavka predstavljena ovdje je da Singularnost vjerovatno neće biti čak ni benigna, koliko god moćna ili napredna bila. Ovo proizilazi iz ideje o nemogućnosti humanoidne inteligencije.
2 Neke napomene o pretpostavci
Nismo koristili termin teorema za Nemogućnost i razlozi za to bi trebali biti evidentni iz argumenata koje iznosimo. Konkretno, ne koristimo, a možda i ne možemo, da koristimo formalnu notaciju u tu svrhu. Čak se i termin nagađanje koristi u neformalnom smislu. Upotreba termina je bliža pravnom nego matematičkom jeziku, jer je to najbolje što se ovdje može učiniti. Ovo može biti jasnije iz argumenata Definicije i Priče. Zbog sličnog rezonovanja se ne koristi termin 'nepotpunost', već se koristi nemogućnost, što je prikladnije za naše svrhe ovdje, iako je Godelov izraz 'u suštini nepotpuno' ono za što neformalno raspravljamo o humanoidnoj AI , a možda i AI općenito. Ne tvrdi se da li je formalni dokaz uopće moguć u budućnosti. Ovo što predstavljamo je neformalni dokaz. Ovaj dokaz mora biti usredsređen na razliku između mikro-AI (AI na nivou inteligentnog autonomnog pojedinačnog entiteta) i makro-AI (veoma velikih inteligentnih autonomnih sistema, koji mogu da obuhvataju čitavo čovečanstvo ili svet). Koliko nam je poznato, takva razlika nije ranije predložena. Iako je bilo nekih radova u ovom pravcu [Brooks, 1998, Signorelli, 2018, Yampolskiy, 2020], zbog nedostatka prostora, nismo u mogućnosti da objasnimo po čemu se ovaj rad razlikuje od prethodnih ovakvih radova, osim konstatacijom da je argumentacija i neka termini su novi, pomalo kao u slučaju argumenata za ili protiv postojanja Boga, o čemu su najbolji filozofi raspravljali milenijumima iznova i iznova, što je, kao što ćemo vidjeti na kraju, relevantno za našu diskusiju.
3 Argumenti za pretpostavku o nemogućnosti za mikro-AI
Argument definicije): Čak se i Peano aritmetika [Nagel et al., 2001] zasniva na tri nedefinisana pojma (nula, broj i nasljednik ), koji su relativno trivijalni pojmovi u poređenju s bezbrojnim terminima potrebnim za AI (ključni pojmovi poput inteligencije i čovjeka, ili pojmove kao što su kategorije emocija, ostavite termine poput svijesti).
Argument kategorije: Veliki dio AI se bavi klasifikacijom stvari u kategorije, ali većina ovih kategorija (npr. ljutnja, gađenje, dobro ili loše) nema naučno definirane granice. Ovo je povezano sa sljedećim argumentom.
Argument priče: Sada je gotovo utvrđeno da su mnogi od suštinskih pojmova naše civilizacije zgodne fikcije ili priče [Harari, 2015] i one često formiraju kategorije i koriste se u definicijama.
Argument kulturnog koncepta: Mnogi pojmovi, koncepti i priče su kulturni konstrukti. Imaju dugu istoriju, od koje je većina nepoznata, bez koje se ne mogu modelirati.
Individualnost, ili Argument prirode: Pojedinačni inteligentni autonomni entitet mora biti jedinstven i različit od svih drugih takvih entiteta. Nastaje u prirodi i nemamo pojma kako može nastati u mašinama. Nismo sigurni ni šta je ta individualnost. Međutim, kroz istoriju smo ljudskoj individui pripisivali određeni stepen odgovornosti i na osnovu toga imamo stroge odredbe za kažnjavanje pojedinaca, što ukazuje da verujemo u koncept 'ja' ili 'autonomnog pojedinca', čak i kada poričemo njegovo postojanje, kao što danas postaje popularno.
Argument o genetskom determinizmu: Individualnost nije u potpunosti određena prirodom (npr. našim genima) pri rođenju ili stvaranju jednom zauvijek. Takođe se stalno razvija i menja u interakciji sa okolinom, čuvajući svoju jedinstvenost.
Argument samoorganizirajućeg sistema: Ljudska bića i ljudska društva su najvjerovatnije samoorganizirajući se [Shiva i Shiva, 2020] i organski sistemi, ili su složeni, neravnotežni sistemi [Nicolis i Prigogine, 1977]. Ako je tako, malo je vjerovatno da će biti modelirani za tačnu replikaciju ili reprodukciju. Okolina ili argument za njegu: I inteligencija i individualnost zavise od okoline (ili od prirode). Stoga se ne mogu modelirati bez potpunog modeliranja okruženja, tj. prelaska na Macro-AI. Memorija ili argument ličnosti: I inteligencija i individualnost su aspekti ličnosti, za koje je poznato da zavise od kompletnog životnog pamćenja (svesnog i nesvesnog) inteligentnog bića. Nema dovoljno dokaza da je moguće oporaviti ili modelirati ovu potpunu vremensku i okolišnu povijest sjećanja. Mnogo našeg pamćenja, a samim tim i naše individualnosti i ličnosti je integralno povezano sa našim tjelesnim sjećanjima.
Argument Susbstrsate: Često se uzima zdravo za gotovo da se inteligencija može odvojiti od supstrata i posaditi na drugu podlogu. Ovo može biti pogrešna pretpostavka. Možda je naša inteligencija integralno povezana sa supstratom i nije moguće odvojiti tijelo od uma, slijedeći prethodni argument.
Argument uzročnosti: Malo je napretka u modeliranju uzročnosti. Na kraju krajeva, uzrok događaja ili pojave nije jedan, već mnogi, možda čak i kompletna istorija svemira.
Argument o svijesti: Slično tome, ne postoji dovoljno dobra teorija svijesti čak ni za ljudsko razumijevanje. Vrlo je malo vjerovatno da možemo u potpunosti modelirati ljudsku svijest, niti postoji dobar razlog da vjerujemo da se ona može spontano pojaviti pod pravim uslovima (kojim uslovima?).
Argument nepotpunosti/degeneracije izvora učenja i reprezentacije: Bez obzira na to koliko podataka ili znanja imamo, oni će uvijek biti i nepotpuni i degenerirani, čineći nemogućim potpuno modeliranje inteligencije.
Argument objasnjivosti: Duboke neuronske mreže, koje su najmodernije za AI, imaju ozbiljne probleme s objašnjivosti čak i za specifične izolovane probleme. Bez toga ne možemo biti sigurni da li se naši modeli razvijaju u pravom smjeru.
Argument nepotpunosti testa: Savršene mjere performansi nisu dostupne čak ni za probleme poput mašinskog prevođenja. Nemamo pojma šta će biti sveukupna mjera humanoidne inteligencije. Uvijek može biti nepotpuna i nesavršena, što dovodi do nesigurnosti u pogledu inteligencije.
Argument parazitske mašine: Mašine u potpunosti ovise o učenju na ljudima i na podacima i znanju koje pružaju ljudi. Ali ljudi izražavaju ili manifestiraju samo mali dio svojih inteligentnih sposobnosti. Dakle, mašine ne mogu u potpunosti da uče od ljudi, a da prethodno nisu inteligentne kao ljudi.
Argument o jeziku: Ljudska(oidna) inteligencija i njeno modeliranje u suštini zavise od ljudskog(ih) jezika(ova). Ne postoji univerzalno prihvaćena teorija o tome kako jezik funkcioniše.
Argument interpretacije percepcije: Učenje zahtijeva percepciju, a percepcija ovisi o interpretaciji (i obrnuto), što je gotovo jednako težak problem kao i modeliranje same inteligencije.
Argument replikacije: Suočavamo se sa naučnom krizom replikacije čak i za izolovane probleme. Kako bismo mogli biti sigurni u replikaciju humanoidne inteligencije, čuvajući individualnu jedinstvenost?
Argument humano-ljudske epitemičke asimetrije: U ljudskom društvu postoji široko rasprostranjena nejednakost ne samo u pogledu novca i bogatstva, već iu smislu znanja i njegovih koristi. To će se odraziti ne samo na modeliranje, već će i otežati modeliranje.
Argument o zastupljenosti različitosti: Humanoidna inteligencija koja zaista djeluje morat će modelirati potpunu raznolikost ljudskog postojanja u svim njegovim aspektima, od kojih većina nije ni poznata niti dokumentirana. Morat će barem sačuvati tu raznolikost, što je težak zadatak.
Argument o kolonijalizmu podataka: Podaci su novo ulje. Oni koji imaju više moći, novca i uticaja (Materijalističko Sveto Trojstvo) mogu kopati više podataka od drugih, bez dijeljenja vlastitih podataka. Ovo je klasična kolonijalna situacija i ometaće razvoj humanoidne inteligencije.
Etičko-politički argument: Uzimajući u obzir neke od gore navedenih argumenata, i mnoge druge, kao što su pristranost podataka, potencijal za naoružavanje itd., postoji mnogo etičkih i političkih razloga koji se moraju uzeti u obzir prilikom razvoja humanoidne inteligencije. Nismo sigurni da li se svi oni mogu u potpunosti riješiti.
Argument o prescriptivaciji: Sada je poznato da 'inteligentna' tehnologija koja se primjenjuje u velikim razmjerima ne samo da prati ponašanje, već ga mijenja [Zuboff, 2018.]. To znači da mijenjamo samu stvar koju pokušavamo da modeliramo i tako postavljamo nova mehanička pravila za ono što znači biti čovjek.
Argument o ispunjenju želje (ili samoispunjavajućem proročanstvu): Zbog preskriptivizacije samog života od strane nesavršenih i neadekvatno inteligentnih mašina, problem modeliranja humanoidne inteligencije postaje samoispunjavajuće proročanstvo, gdje na kraju modeliramo ne ljudski život, već neki iskvareni i pojednostavljeni oblik života koji smo nastali sa 'inteligentne' mašine.
Argument ljudske intervencije: Nema razloga vjerovati da će se humanoidna inteligencija razvijati slobodno sama od sebe i da neće biti pod utjecajem ljudske intervencije, što će vrlo vjerovatno dovesti do daljnjih interesa. Ovo će osakatiti razvoj prave humanoidne inteligencije. Ova intervencija može imati oblik tajnosti, finansijskog uticaja (kao što je finansiranje istraživanja) i pravne ili strukturalne prinude.
Deepfake argument: Iako još uvijek nemamo istinski inteligentne mašine, u mogućnosti smo generirati podatke putem deepfakesa koje ljudska bića ne prepoznaju kao lažne. Ovi lažni podaci će se širiti i postat će dio podataka iz kojih mašine uče, efektivno modelirajući ne ljudski život, već nešto drugo.
Argument lančane reakcije (ili argument zakona eksponencijalnog rasta): Kako mašine postaju 'inteligentnije' one utiču na sve više i više na život i menjaju ga, čak i pre nego što postignu pravu inteligenciju. Brzina ove promjene će se eksponencijalno povećati i to će izazvati lančanu reakciju, što će dovesti do nesagledivih posljedica, koje će nužno utjecati na modeliranje humanoidne inteligencije.
4 Implikacije nemogućeg
Iz gornjih argumenata slijedi da je singularnost na nivou mikro-AI nemoguća. U pokušaju da se to postigne i da se pozabave gore navedenim argumentima, jedini mogući ishod je neka vrsta Singularno na Macro-AI nivou. Takva Singularnost neće dovesti do replikacije ljudske inteligencije ili njenog poboljšanja, već do nečeg potpuno drugačijeg. To će, najvjerovatnije, dovesti do izumiranja (ili barem podaništva, ropstva) ljudske inteligencije. Da bi se postigla samo humanoidna inteligencija (Human Individual Micro-AI), čak i ako ništa više, sistem veštačke inteligencije koji je potreban moraće biti ništa manje od uobičajenog pojma Jedinstvenog Vrhovnog Boga. Singularnost na makro nivou će zapravo učiniti AI sistem, ili ko god da ga kontroliše, individualnim ili (najverovatnije malim) kolektivom, Jedinstvenim Vrhovnim Bogom za sve praktične svrhe, što se ljudskih bića tiče. Ali ovo neće biti Svemoćni Bog, a ne Ljubazni Bog, jer će biti Uzvišeni unutar ograničenog opsega čovječanstva i na šta čovječanstvo može utjecati, i biće ljubazan samo prema sebi, ili možda čak ni prema tome . To može biti analogno Bogu u priči Philipa K. Dicka Faith of Our Fathers [Dick and Lethem, 2013] ili Velikom bratu iz Orwellove 1984. [Orwell, 1950]. Ne možemo biti sigurni u ishod, naravno, ali to su vjerojatni ishodi kao i svi drugi. To je dovoljan razlog da budete veoma oprezni prema razvoju humanoidne inteligencije i bilo koje njene varijante.
reference
Philip K. Dick, Paul Williams i Mark. Hurst. Nadam se da ću uskoro stići / Philip K. Dick; uređivali Mark Hurst i Paul Williams. Doubleday New York, 1. izdanje. izdanje, 1985. ISBN 0385195672.
Alfred North Whitehead i Bertrand Russell. Principia Mathematica. Cambridge University Press, 1925–1927.
Barnaby Sheppard. Gödelove teoreme o nepotpunosti, str. 419–428. Cambridge University Press, 2014. doi: 10.1017/CBO9781107415614.016.
E. Nagel, JR Newman i DR Hofstadter. Godelov dokaz. NYU Press, 2001. ISBN 9780814758014. URL https://books.google.co.in/books?id=G29G3W_hNQkC.
John E. Hopcroft, Rajeev Motwani i Jeffrey D. Ullman. Uvod u teoriju automata, jezike i računarstvo (3. izdanje). Addison-Wesley Longman Publishing Co., Inc., SAD, 2006. ISBN 0321455363.
B. Jack Copeland i Oron Shagrir. Crkveno-turingova teza: Logička granica ili barijera koja se može probiti? Commun. ACM, 62(1):66–74, decembar 2018. ISSN 0001-0782. doi: 10.1145/3198448. URL https://doi.org/10.1145/3198448.
Ray Kurzweil. Singularnost je blizu: kada ljudi prevaziđu biologiju. Penguin (Non-Classics), 2006. ISBN 0143037889.
Rodney Brooks. Izgledi za inteligenciju na ljudskom nivou za humanoidne robote. 07 1998. Camilo Miguel Signorelli. Mogu li kompjuteri postati svjesni i nadvladati ljude? Frontiers in Robotics and AI, 5:121, 2018. doi: 10.3389/frobt.2018.00121. URL https://www.frontiersin. org/article/10.3389/frobt.2018.00121.
Roman V. Yampolskiy. Nepredvidljivost AI: O nemogućnosti preciznog predviđanja svih akcija pametnijeg agenta. Journal of Artificial Intelligence and Consciousness, 07(01):109–118, 2020. doi: 10.1142/S2705078520500034.
YN Harari. Sapiens: Kratka istorija čovječanstva. Harper, 2015. ISBN 9780062316103. URL https://books.google.co.in/books?id=FmyBAwAAQBAJ.
V. Shiva i K. Shiva. Oneness Vs. 1 posto: razbijanje iluzija, zasijavanje slobode. CHELSEA GREEN PUB, 2020. ISBN 9781645020394. URL https://books.google.co.in/books?
id=4TmTzQEACAAJ.
G. Nicolis i I. Prigogine. Samoorganizacija u neravnotežnim sistemima: od disipativnih struktura do reda kroz fluktuacije. Publikacija Wiley-Interscience. Wiley, 1977. ISBN 9780471024019. URL https://books.google.co.in/books?id=mZkQAQAAIAAJ.
Shoshana Zuboff. Doba kapitalizma nadzora: borba za ljudsku budućnost na novoj granici moći. 1. izdanje, 2018. ISBN 1610395697.
PK Dick i J. Lethem. Izabrane priče Philipa K. Dicka. Houghton Mifflin Harcourt, 2013. ISBN 9780544040540. URL https://books.google.co.in/books?id=V1z9rzfTb2EC.
George Orwell. 1984. Biblioteka Tandem, stogodišnjica. izdanje, 1950. ISBN 0881030368. URL http://www.amazon.de/1984-Signet-Classics-George-Orwell/dp/0881030368.
***
Prvobitno objavljen u anileklavya.net 7. novembra 2020.
ZNetwork se finansira isključivo zahvaljujući velikodušnosti svojih čitalaca.
Donirati
2 Komentari
Pa, to vodi do prvog argumenta.
Pokušavam poboljšati članak. Ipak, hvala na ukazivanju, da bih mogao detaljnije o tome.
'3. Inteligencija: Sve i sve za šta su sposobna sva različita ljudska bića, kako pojedinačno tako i kolektivno, kao i sinhronijski i dijahronijski. Ovo ne uključuje samo ponašanje ili rješavanje problema, već cijeli život kako je definirano.'
Ova definicija mi se čini previše nejasna. Biće veoma teško reći mnogo o veštačkoj inteligenciji ako ne znamo šta podrazumevamo pod „ja“ delom.