Abstrakti
[Karkea luonnos keskeneräisestä työstä.]
Ajatus koneista, jotka ovat lähes identtisiä ihmisen kanssa, on ollut niin viettelevä, että se on valloittanut parhaiden mielien ja maallikoidenkin mielikuvitukset ainakin puolentoista vuosisadan ajan, ehkä enemmänkin. Heti tekoälyn (AI) syntymisen jälkeen pidettiin melkein itsestäänselvyytenä, että pystymme pian rakentamaan humanoidirobotteja. Tämä on myös johtanut vakaviin spekulaatioihin "transhumanismista". Toistaiseksi emme näytä olevan lähelläkään tätä tavoitetta. Nyt on ehkä aika kysyä, onko se edes mahdollista. Esitämme joukon argumentteja, joiden mukaan on mahdotonta luoda tai rakentaa humanoidirobotteja tai humanoidiälyä, jossa mainittu älykkyys voi korvata ihmisen missä tahansa tilanteessa, jossa ihmisiä tarvitaan tai niitä on olemassa.
1. Humanoidinen älykkyys, singulaarisuus ja transhumanismi
Ennen kuin ryhdymme keskustelemaan tämän osan otsikon termeistä ja seuraavien osioiden argumenteista, määrittelemme ensin perustermit jossain määrin ytimekkäästi ja tarkasti:
1. Ihmiselämä: Kaikkea ja kaikkea, mihin kaikki ihmiset pystyvät, sekä yksilöllisesti että kollektiivisesti. Tämä ei sisällä vain käyttäytymistä tai ongelmanratkaisua, vaan koko joukko kykyjä, tunteita, toiveita, tekoja, ajatuksia, tietoisuutta, omatuntoa, empatiaa, luovuutta ja niin edelleen yksilön sisällä, samoin kuin koko kirjo assosiaatioita ja suhteita, ja sosiaaliset, poliittiset ja ekologiset rakenteet, käsityöt, taide ja niin edelleen, jotka voivat olla olemassa ihmisyhteiskunnassa tai yhteiskunnissa. Tämä ei päde vain kulloinkin, vaan koko planeetan elämän ajan. Ehkä sen pitäisi sisältää jopa hengellisiä kokemuksia ja "paljastuksia" tai "harhaluuloja", kuten ne, joihin vihjataan Philip K. Dickin tarinassa Holy Quarrel [Dick et al., 1985].
2. Humanoidi: Elävä ja lisääntyvä olento, joka on lähes identtinen ihmisten kanssa, joko ihmisen kaltaisella keholla tai ilman sitä, eri alustalla (tietokoneen sisällä).
3. Älykkyys: Kaikkea ja kaikkea, mihin kaikki ihmiset pystyvät, sekä yksilöllisesti että kollektiivisesti, sekä synkronisesti että diakronisesti. Tämä ei sisällä vain käyttäytymistä tai ongelmanratkaisua, vaan koko elämää sellaisena kuin se on määritelty.
4. Singulaarisuus: Teknologinen piste, jossa on mahdollista luoda (tai omata) älykkyyttä, joka on humanoidi tai parempi kuin humanoidi.
5. Transhumanismi: Ajatus siitä, että singulariteetin jälkeen meillä voi olla yhteiskunta, joka on paljon edistyneempi kuin nykyiset ja menneet ihmisyhteiskunnat. Vuodesta 1910 vuoteen 1927, Principia Mathematican kolmessa osassa [1925–1927] Whitehead ja Russell pyrkivät todistamaan, että matematiikka on jossain merkittävässä mielessä pelkistettävissä logiikaksi. Tämä osoittautui mahdottomaksi, kun Godel julkaisi epätäydellisyyslauseensa vuonna 1931 [Sheppard, 2014, Nagel et al., 2001]. Nykyaikaisen tietojenkäsittelytieteen syntyaikoina, ennen 1930-luvun alkua ja sen alussa, olisi ollut helppo olettaa, että tietokonekone ratkaisisi lopulta minkä tahansa ongelman. Tämä osoittautui mahdottomaksi myös Turingin päättämättömyyslauseen [Hopcroft et al., 2006] ja Church-Turingin laskettavuuden teesin [Copeland ja Shagrir, 2018] kanssa. Sen jälkeen muun tyyppiset ongelmat ovat osoittautuneet ratkaisemattomiksi.
Nyt kun meidän oletetaan olevan tarpeeksi lähellä singulaarisuutta [Kurzweil, 2006], jotta se voi tapahtua suuren joukon ihmisiä eliniän aikana, on ehkä aika kysyä itseltämme, onko todellinen älykkyys, erityisesti humanoidiäly (kuten edellä määritelty) on ollenkaan mahdollista. Ehdotamme, että on tarpeeksi argumentteja "todistamaan" (epävirallisessa mielessä), että humanoidiälyä on mahdotonta rakentaa, luoda tai saada. Väitämme, että vaikka singulaarisuus on todellakin mahdollinen, ehkä jopa erittäin todennäköinen (ellemme lopeta sitä), se ei ehkä ole sitä, mitä sen oletetaan olevan. Tässä esitetty olettamus on, että singulaarisuus ei todennäköisesti ole edes hyvänlaatuinen, olipa se kuinka voimakas tai edistynyt tahansa. Tämä seuraa ajatuksesta humanoidin älykkyyden mahdottomuudesta.
2 Muutamia huomautuksia oletuksesta
Emme ole käyttäneet termiä teoreema mahdottomuudesta ja syyt tähän pitäisi ilmetä esittämistämme argumenteista. Erityisesti emme käytä emmekä ehkä voi käyttää muodollista merkintää tähän tarkoitukseen. Jopa termiä arvelu käytetään epävirallisessa merkityksessä. Termien käyttö tässä on lähempänä lakikieltä kuin matemaattista kieltä, koska se on parasta mitä täällä voidaan tehdä. Tämä saattaa olla selvempää määritelmän ja tarinan argumenteista. Samankaltaisesta päättelystä johtuu se, että termiä "epätäydellisyys" ei käytetä, vaan sen sijaan käytetään mahdottomuus, mikä sopii paremmin meidän tarkoituksiinmme, vaikka Godelin termi "olennaisesti epätäydellinen" on se, mistä me epävirallisesti väittelemme humanoidi-AI:stä. ja ehkä tekoäly yleensäkin. Ei väitetä, onko muodollinen todiste tulevaisuudessa ollenkaan mahdollista. Se, mitä esitämme, on epävirallinen todiste. Tämän todisteen on keskityttävä eroon Micro-AI:n (älykäs autonomisen yksilön tasolla oleva tekoäly) ja makro-AI (erittäin suuret älykkäät autonomiset järjestelmät, jotka kattavat mahdollisesti koko ihmiskunnan tai maailman) välillä. Tietojemme mukaan tällaista eroa ei ole ehdotettu aikaisemmin. Vaikka tähän suuntaan on tehty jonkin verran työtä [Brooks, 1998, Signorelli, 2018, Yampolskiy, 2020], emme voi tilanpuutteen vuoksi selittää, miten tämä teos eroaa aikaisemmista vastaavista teoksista, paitsi huomauttamalla, että argumentaatio ja jotkut termeistä ovat uusia, vähän kuin Jumalan olemassaolon puolesta tai vastaan esitettyjen argumenttien tapauksessa, josta parhaat filosofit ovat keskustelleet yhä uudelleen vuosituhansien ajan, mikä, kuten lopusta nähdään, on merkityksellistä keskustelumme.
3 Mikro-AI:n mahdottomuusoletuksen argumentit
Määritelmäargumentti): Jopa Peanon aritmetiikka [Nagel et al., 2001] perustuu kolmeen määrittelemättömään termiin (nolla, numero ja on seuraaja), jotka ovat suhteellisen triviaaleja termejä verrattuna lukemattomiin tekoälyn edellyttämiin termeihin (ydintermit, kuten äly ja ihminen, tai termejä, kuten tunneluokat, jätä rauhaan termit kuten tietoisuus).
Luokka-argumentti: Suuri osa tekoälystä on asioiden luokittelua luokkiin, mutta useimmilla näistä luokista (esim. viha, inho, hyvä tai paha) ei ole tieteellisesti määriteltyjä rajoja. Tämä liittyy seuraavaan argumenttiin.
Tarinan argumentti: Nyt on melkein vakiintunut, että monet sivilisaatiomme oleellisista käsitteistä ovat käteviä fiktiota tai tarinoita [Harari, 2015], ja nämä muodostavat usein luokkia ja niitä käytetään määritelmissä.
Argumentti kulttuurikonseptista: Monet termeistä, käsitteistä ja tarinoista ovat kulttuurisia rakenteita. Heillä on pitkä historia, josta suurin osa on tuntematon, jota ilman niitä ei voida mallintaa.
Yksilöllisyys tai luontoargumentti: Yksilöllisen älykkään autonomisen entiteetin on oltava ainutlaatuinen ja erillinen kaikista muista sellaisista olioista. Se on peräisin luonnosta, eikä meillä ole käsitystä siitä, kuinka se voi syntyä koneista. Emme ole edes varmoja, mikä tämä yksilöllisyys tarkalleen on. Olemme kuitenkin kautta historian osoittaneet ihmisyksilölle jonkinasteista vastuuvelvollisuutta ja meillä on tiukat säännökset yksilöiden rankaisemisesta tämän perusteella, mikä osoittaa, että uskomme käsitteeseen "minä" tai "autonominen yksilö", jopa kun kiellämme sen olemassaolon, kuten nykyään on tulossa suosittuja.
Geneettisen determinismin argumentti: Yksilöllisyys ei ole syntyessään tai luomishetkellä lopullisesti luonnon (esim. geenimme) määräämä. Se myös kehittyy ja muuttuu jatkuvasti vuorovaikutuksessa ympäristön kanssa säilyttäen ainutlaatuisuutensa.
Itseorganisoituvan järjestelmän argumentti: Ihmiset ja ihmisyhteiskunnat ovat todennäköisimmin itseorganisoituvia [Shiva ja Shiva, 2020] ja orgaanisia järjestelmiä, tai ne ovat monimutkaisia, epätasapainoisia järjestelmiä [Nicolis ja Prigogine, 1977]. Jos näin on, niitä ei todennäköisesti mallinneta tarkkaa replikaatiota tai lisääntymistä varten. Ympäristö tai Nurture-argumentti: Sekä äly että yksilöllisyys riippuvat ympäristöstä (tai luonnosta). Siksi niitä ei voida mallintaa ilman ympäristön täydellistä mallintamista, eli Macro-AI:tä. Muisti tai persoonallisuusargumentti: Sekä äly että yksilöllisyys ovat persoonallisuuden aspekteja, joiden tiedetään olevan riippuvaisia älykkään olennon täydellisestä elämänmuistista (tietoinen ja tiedostamaton). Ei ole riittävästi todisteita siitä, että on mahdollista palauttaa tai mallintaa tätä muistin täydellistä ajallista ja ympäristöllistä historiaa. Suuri osa muististamme, ja siksi yksilöllisyytemme ja persoonallisuutemme on kiinteästi yhteydessä ruumiillisiin muistoihimme.
Susbstrsate-argumentti: Usein pidetään itsestään selvänä, että älykkyys voidaan erottaa alustasta ja istuttaa eri alustalle. Tämä voi olla väärä oletus. Ehkä älykkyytemme on kiinteästi sidottu substraattiin, eikä kehoa ole mahdollista erottaa mielestä edellisen väitteen mukaisesti.
Syy-argumentti: Syy-suhteen mallintamisessa on edistytty vain vähän. Viime kädessä tapahtuman tai tapahtuman syy ei ole yksi, vaan monia, ehkä jopa koko maailmankaikkeuden historia.
Tietoisuus-argumentti: Vastaavasti ei ole olemassa tarpeeksi hyvää tietoisuuden teoriaa edes ihmisen ymmärtämiselle. On erittäin epätodennäköistä, että pystymme täysin mallintamaan ihmisen tietoisuuden, eikä ole myöskään syytä uskoa, että se voisi ilmaantua spontaanisti oikeissa olosuhteissa (missä olosuhteissa?).
Oppimislähteen ja edustuksen epätäydellisyys/degeneroituminen: Riippumatta siitä, kuinka paljon tietoa tai tietoa meillä on, se on aina sekä epätäydellistä että rappeutunutta, mikä tekee älykkyyden täydellisen mallintamisen mahdottomaksi.
Selitettävyysargumentti: Syvähermoverkoilla, jotka ovat tekoälyn huipputekniikkaa, on vakavia selitettävyysongelmia jopa yksittäisissä yksittäisissä ongelmissa. Ilman sitä emme voi olla varmoja siitä, kehittyvätkö mallimme oikeaan suuntaan.
Testin epätäydellisyyden argumentti: Täydellisiä suorituskyvyn mittareita ei ole saatavilla edes konekääntämisen kaltaisiin ongelmiin. Meillä ei ole aavistustakaan, mikä tulee olemaan humanoidin älykkyyden yleinen mitta. Se voi aina olla epätäydellinen ja epätäydellinen, mikä johtaa epävarmuuteen älykkyydestä.
Parasiittikoneen argumentti: Koneet ovat täysin riippuvaisia oppimisesta ihmisistä ja ihmisten tarjoamasta tiedosta ja tiedosta. Mutta ihmiset ilmaisevat tai ilmentävät vain pienen osan älykkäästä kyvystään. Joten koneet eivät voi täysin oppia ihmisiltä olematta ensin yhtä älykkäitä kuin ihmiset.
Kieliargumentti: Ihmisen (oidi) älykkyys ja sen mallinnus riippuvat olennaisesti ihmisen kielestä (kielistä). Ei ole olemassa yleisesti hyväksyttyä teoriaa kielen toiminnasta.
Havaintotulkinta-argumentti: Oppiminen vaatii havaintoa ja havainto riippuu tulkinnasta (ja päinvastoin), mikä on melkein yhtä vaikea ongelma kuin itse älykkyyden mallintaminen.
Replikointiargumentti: Edessämme on tieteellinen replikaatiokriisi jopa yksittäisten ongelmien vuoksi. Kuinka voimme olla varmoja humanoidiälyn replikaatiosta ja yksilön ainutlaatuisuuden säilyttämisestä?
Ihmisen ja ihmisen välisen epäsymmetrian argumentti: Ihmisyhteiskunnassa on laajalle levinnyt epätasa-arvo paitsi rahan ja varallisuuden, myös tiedon ja sen hyötyjen suhteen. Tämä ei heijastu vain mallinnukseen, vaan tekee mallintamisesta vaikeampaa.
Monimuotoisuuden edustamisen argumentti: Humanoidin älykkyyden, joka todella toimii, on mallinnettava ihmisen olemassaolon täydellinen monimuotoisuus sen kaikissa aspekteissa, joista useimpia ei edes tunneta tai dokumentoida. Sen on ainakin säilytettävä tämä monimuotoisuus, mikä on suuri järjestys.
Datakolonialismin argumentti: Data on uutta öljyä. Ne, joilla on enemmän valtaa, rahaa ja vaikutusvaltaa (materialistinen pyhä kolminaisuus), voivat louhia enemmän tietoja muilta jakamatta omia tietojaan. Tämä on klassinen siirtomaatilanne ja se estää humanoidiälyn kehittymisen.
Eettis-poliittinen argumentti: Ottaen huomioon jotkin yllä olevista perusteista ja monet muut, kuten dataharha, aseistamisen mahdollisuus jne., on olemassa monia eettisiä ja poliittisia syitä, jotka on otettava huomioon kehitettäessä humanoidiälyä. Emme ole varmoja, voidaanko ne kaikki käsitellä täysin.
Reseptiväite: Nyt on tunnustettu, että suuressa mittakaavassa käytetty "älykäs" teknologia ei ainoastaan valvo käyttäytymistä, vaan myös muuttaa sitä [Zuboff, 2018]. Tämä tarkoittaa, että muutamme juuri sitä asiaa, jota yritämme mallintaa, ja siten asetamme uusia mekaanisia sääntöjä ihmisyyden merkitykselle.
Toiveen toteutumisen (tai itsensä toteuttavan profetian) argumentti: Epätäydellisten ja riittämättömän älykkäiden koneiden omien elämän ohjeiden vuoksi humanoidisen älykkyyden mallinnusongelmasta tulee itseään toteuttava ennustus, jossa päädymme mallintamaan ei ihmiselämää, vaan jotakin turmeltunutta ja yksinkertaistettua elämänmuotoa, jonka synnyimme. "älykkäitä" koneita.
Argumentti ihmisen puuttumisesta: Ei ole mitään syytä uskoa, että Humanoidin älykkyys kehittyisi vapaasti itsestään eikä ihmisen väliintulo vaikuta siihen, mikä todennäköisesti lisää omia etujaan. Tämä lamauttaa todellisen humanoidiälyn kehityksen. Tämä puuttuminen voi tapahtua salailun, taloudellisen vaikuttamisen (kuten tutkimusrahoituksen) ja oikeudellisen tai rakenteellisen pakottamisen muodossa.
Deepfake-argumentti: Vaikka meillä ei vielä ole todella älykkäitä koneita, pystymme tuottamaan dataa syväväärennöksillä, joita ihmiset eivät tunnista väärennöksiksi. Tämä syväfake-data tulee lisääntymään ja siitä tulee osa dataa, josta koneet oppivat, mallintamalla tehokkaasti ei ihmiselämää, vaan jotain muuta.
Ketjureaktion argumentti (tai eksponentiaalisen kasvun lain argumentti): Kun koneista tulee "älykkäämpiä", ne vaikuttavat yhä enemmän elämään ja muuttavat sitä jopa ennen todellisen älykkyyden saavuttamista. Tämän muutoksen nopeus kasvaa eksponentiaalisesti ja se aiheuttaa ketjureaktion, joka johtaa arvaamattomiin seurauksiin, jotka välttämättä vaikuttavat humanoidiälyn mallintamiseen.
4 Mahdottomuuden vaikutukset
Yllä olevista väitteistä seuraa, että singulaarisuus Micro-AI:n tasolla on mahdotonta. Yritetään saavuttaa tämä ja käsitellä yllä olevia argumentteja, ainoa mahdollinen tulos on jonkinlainen Singularly makro-AI-tasolla. Sellainen singulaarisuus ei johda ihmisen älykkyyden replikaatioon tai sen parantamiseen, vaan johonkin täysin erilaiseen. Se todennäköisesti johtaa ihmisälyn sukupuuttoon (tai ainakin alistumiseen, orjuuteen). Pelkän humanoidisen älykkyyden (Human Individual Micro-AI) saavuttamiseksi, vaikka ei sen enempää, vaaditun tekoälyjärjestelmän on oltava vain yleinen käsitys yhdestä korkeimmasta jumalasta. Makrotason singulaarisuus tekee tekoälyjärjestelmästä tai kuka tahansa sitä hallitsevasta yksilöstä tai (todennäköisimmin pienestä) kollektiivista Yksittäisen korkeimman Jumalan kaikissa käytännön tarkoituksissa, mitä tulee ihmisiin. Mutta tämä ei ole kaikkivoipa Jumala eikä kiltti Jumala, sillä se on Korkein ihmiskunnan rajoitetuissa puitteissa ja mihin ihmiskunta voi vaikuttaa, ja se on ystävällistä vain itselleen, tai ehkä ei edes sitä. . Se voi olla analoginen Jumalalle Phillip K. Dickin tarinassa Faith of Our Fathers [Dick ja Lethem, 2013] tai Orwellin isoveljen 1984 [Orwell, 1950] kanssa. Emme tietenkään voi olla varmoja lopputuloksesta, mutta ne ovat yhtä todennäköisiä kuin muutkin. Tämä on riittävä syy olla hyvin varovainen humanoidiälyn ja sen minkä tahansa muunnelman kehittämisessä.
Viitteet
Philip K. Dick, Paul Williams ja Mark. Hurst. Toivon saapuvani pian / Philip K. Dick ; toimittaneet Mark Hurst ja Paul Williams. Doubleday New York, 1. painos. painos, 1985. ISBN 0385195672.
Alfred North Whitehead ja Bertrand Russell. Principia Mathematica. Cambridge University Press, 1925–1927.
Barnaby Sheppard. Gödelin epätäydellisyyslauseet, sivut 419–428. Cambridge University Press, 2014. doi: 10.1017/CBO9781107415614.016.
E. Nagel, J.R. Newman ja D.R. Hofstadter. Godelin todiste. NYU Press, 2001. ISBN 9780814758014. URL https://books.google.co.in/books?id=G29G3W_hNQkC.
John E. Hopcroft, Rajeev Motwani ja Jeffrey D. Ullman. Johdatus automaatioteoriaan, kieliin ja laskemiseen (3. painos). Addison-Wesley Longman Publishing Co., Inc., USA, 2006. ISBN 0321455363.
B. Jack Copeland ja Oron Shagrir. Kirkkoa mullistava teesi: Looginen raja vai rikottava raja? Commun. ACM, 62(1):66–74, joulukuu 2018. ISSN 0001-0782. doi: 10.1145/3198448. URL-osoite https://doi.org/10.1145/3198448.
Ray Kurzweil. Singulariteetti on lähellä: Kun ihmiset ylittävät biologian. Penguin (ei-klassikot), 2006. ISBN 0143037889.
Rodney Brooks. Humanoidirobottien ihmistason älykkyyden näkymät. 07 1998. Camilo Miguel Signorelli. Voivatko tietokoneet tulla tietoisiksi ja voittaa ihmiset? Frontiers in Robotics and AI, 5:121, 2018. doi: 10.3389/frobt.2018.00121. URL-osoite https://www.frontiersin. org/article/10.3389/frobt.2018.00121.
Roman V. Yampolskiy. Ai:n arvaamattomuus: mahdottomuus ennustaa tarkasti älykkäämmän agentin kaikkia toimia. Journal of Artificial Intelligence and Consciousness, 07(01):109–118, 2020. doi: 10.1142/S2705078520500034.
Y.N. Harari. Sapiens: Ihmiskunnan lyhyt historia. Harper, 2015. ISBN 9780062316103. URL https://books.google.co.in/books?id=FmyBAwAAQBAJ.
V. Shiva ja K. Shiva. Ykseys vs. 1 prosentti: Shattering Illusions, Seeding Freedom. CHELSEA GREEN PUB, 2020. ISBN 9781645020394. URL https://books.google.co.in/books?
id=4TmTzQEACAAJ.
G. Nicolis ja I. Prigogine. Itseorganisaatio epätasapainoisissa järjestelmissä: dissipatiivisista rakenteista järjestykseen vaihteluiden kautta. Wiley-Interscience-julkaisu. Wiley, 1977. ISBN 9780471024019. URL https://books.google.co.in/books?id=mZkQAQAAIAAJ.
Shoshana Zuboff. Valvontakapitalismin aika: Taistelu ihmisen tulevaisuudesta vallan uudella rajalla. 1. painos, 2018. ISBN 1610395697.
P.K. Dick ja J. Lethem. Valitut tarinat Philip K. Dickistä. Houghton Mifflin Harcourt, 2013. ISBN 9780544040540. URL https://books.google.co.in/books?id=V1z9rzfTb2EC.
George Orwell. 1984. Tandem Library, 1950 vuotta. painos, 0881030368. ISBN XNUMX. URL http://www.amazon.de/1984-Signet-Classics-George-Orwell/dp/0881030368.
***
Alun perin julkaistu osoitteessa anileklavya.net 7.
ZNetwork rahoitetaan yksinomaan lukijoidensa anteliaisuudesta.
Lahjoita
2 Kommentit
No, se johtaa ensimmäiseen väitteeseen.
Yritän parantaa artikkelia. Kiitos kuitenkin huomautuksesta, jotta voin selventää tätä.
"3. Älykkyys: Kaikki ja kaikki, mihin kaikki ihmiset pystyvät, sekä yksilöllisesti että kollektiivisesti, sekä synkronisesti että diakronisesti. Tämä ei sisällä vain käyttäytymistä tai ongelmanratkaisua, vaan koko elämää sellaisena kuin se on määritelty.
Tämä määritelmä tuntuu minusta liian epämääräiseltä. On erittäin vaikeaa sanoa paljon tekoälystä, jos emme tiedä mitä tarkoitamme "minä"-osalla.