Abstract
['n Ruwe konsep van 'n werk wat aan die gang is.]
Die idee van masjiene wat byna identies aan mense is, was so verleidelik dat dit die verbeelding van die beste geeste sowel as leke aangegryp het vir ten minste 'n eeu en 'n half, miskien meer. Net nadat Kunsmatige Intelligensie (KI) tot stand gekom het, is dit amper as vanselfsprekend aanvaar dat ons binnekort in staat sal wees om Humanoid Robots te bou. Dit het ook gelei tot ernstige spekulasie oor 'transhumanisme'. Tot dusver lyk dit of ons nie naby hierdie doelwit is nie. Dit is dalk nou tyd om te vra of dit enigsins moontlik is. Ons bied 'n stel argumente aan dat dit onmoontlik is om Humanoid Robots of Humanoid Intelligence te skep of te bou, waar die genoemde intelligensie mense kan vervang in enige situasie waar mense vereis word of bestaan.
1. Humanoïde Intelligensie, die Singulariteit en Transhumanisme
Voordat ons verder gaan om die terme van die titel van hierdie afdeling en die argumente in die volgende afdelings te bespreek, definieer ons eers die grondliggende terme tot 'n mate van bondigheid en akkuraatheid:
1. Menselewe: Enigiets en alles waartoe die volle verskeidenheid mense in staat is, beide individueel en gesamentlik. Dit sluit nie net gedrag of probleemoplossing in nie, maar die hele spektrum van vermoëns, emosies, begeertes, aksies, gedagtes, bewussyn, gewete, empatie, kreatiwiteit en so meer binne 'n individu, sowel as die hele spektrum van assosiasies en verhoudings, en sosiale, politieke en ekologiese strukture, kunsvlyt, kuns en so meer wat in 'n menslike samelewing of samelewings kan bestaan. Dit geld nie net op enige gegewe oomblik nie, maar oor die lewe van die planeet. Miskien moet dit selfs geestelike ervarings en 'openbarings' of 'delusies' insluit, soos dié waarna in die Philip K. Dick-verhaal, Holy Quarrel [Dick et al., 1985] gesinspeel word.
2. Menslik: 'n Lewende en voortplantende entiteit wat byna identies is aan mense, hetsy met 'n mensagtige liggaam of daarsonder, op 'n ander substraat (binne 'n rekenaar).
3. Intelligensie: Enigiets en alles waartoe die volle verskeidenheid mense in staat is, beide individueel en gesamentlik, sowel as beide sinchronies en diachronies. Dit sluit nie net gedrag of probleemoplossing in nie, maar die hele lewe soos gedefinieer.
4. Die Singulariteit: Die tegnologiese punt waarop dit moontlik is om intelligensie te skep (of te hê) wat Humanoid of beter as Humanoid is.
5. Transhumanisme: Die idee dat ons, na die singulariteit, 'n samelewing kan hê wat baie meer gevorderd is, ten goede, as die huidige en vorige menslike samelewings. Van 1910 tot 1927, in die drie volumes van Principia Mathematica [1925–1927], het Whitehead en Russell probeer bewys dat wiskunde, in een of ander betekenisvolle sin, tot logika gereduseer kan word. Dit blyk onmoontlik te wees toe Godel sy onvoltooidheidstellings in 1931 gepubliseer het [Sheppard, 2014, Nagel et al., 2001]. Gedurende die ontstaansdae van moderne Rekenaarwetenskap, voor en vroeg in die 1930's, sou dit maklik gewees het om te aanvaar dat 'n rekenaarmasjien uiteindelik enige probleem enigsins sou oplos. Dit was ook onmoontlik met Turing se onbeslisbaarheidstelling [Hopcroft et al., 2006] en die Church-Turing-tesis van berekenbaarheid [Copeland en Shagrir, 2018]. Sedertdien is getoon dat ander soorte probleme onbeslisbaar is.
Noudat ons veronderstel is om naby genoeg te wees aan die Singulariteit [Kurzweil, 2006] sodat dit binne die leeftyd van 'n groot aantal mense kan gebeur, is dit miskien tyd om onsself af te vra of werklike intelligensie, in die besonder Humanoïde Intelligensie (soos hierbo gedefinieer) enigsins moontlik is. Ons stel voor dat daar genoeg argumente is om te 'bewys' (in 'n informele sin) dat dit onmoontlik is om te bou, te skep of om Humanoïde Intelligensie te hê. Ons argumenteer dat selfs al is die Singulariteit inderdaad moontlik, miskien selfs baie waarskynlik (tensy ons dit stop), dit dalk nie is wat dit veronderstel is om te wees nie. Die vermoede wat hier aangebied word, is dat die Singulariteit waarskynlik nie eens goedaardig sal wees nie, hoe kragtig of gevorderd dit ook al mag wees. Dit volg uit die idee van die onmoontlikheid van Humanoïde Intelligensie.
2 Enkele notas oor die vermoede
Ons het nie die term stelling vir die Onmoontlikheid gebruik nie en die redes hiervoor behoort duidelik te wees uit die argumente wat ons aanbied. Ons gebruik veral nie, en kan dalk nie, formele notasie vir hierdie doel gebruik nie. Selfs die term vermoede word in 'n informele sin gebruik. Die gebruik van terme hier is nader aan die regstaal as aan die wiskundige taal, want dit is die beste wat hier gedoen kan word. Dit kan duideliker wees uit die Definisie en die Storie-argumente. Dit is as gevolg van 'n soortgelyke redenasie dat die term 'onvoltooidheid' nie gebruik word nie en eerder onmoontlikheid gebruik word, wat meer gepas is vir ons doeleindes hier, hoewel Godel se term 'wesenlik onvolledig' is waarvoor ons informeel argumenteer oor Humanoid KI , en miskien KI in die algemeen. Geen aanspraak word gemaak of 'n formele bewys in die toekoms hoegenaamd moontlik is of nie. Wat ons aanbied is 'n informele bewys. Hierdie bewys moet gesentreer word rondom die onderskeid tussen Mikro-KI (KI op die vlak van 'n intelligente outonome individuele entiteit) en Makro-KI (baie groot intelligente outonome stelsels, wat moontlik die hele mensdom of die wêreld insluit). Sover ons kennis strek, is so 'n onderskeid nog nie voorheen voorgestel nie. Alhoewel daar 'n mate van werk in hierdie rigting was [Brooks, 1998, Signorelli, 2018, Yampolskiy, 2020], weens 'n gebrek aan ruimte, is ons nie in staat om te verduidelik hoe hierdie werk van vorige sulke werke verskil nie, behalwe deur daarop te let dat die argumentasie en sommige van die terme is nuut, 'n bietjie soos in die geval van argumente vir of teen die bestaan van God, welke vraag deur die beste filosowe telkens oor millennia gedebatteer is, wat, soos ons aan die einde sal sien, relevant is vir ons bespreking.
3 Die argumente vir die onmoontlikheidsvoorstelling vir mikro-KI
Die definisie-argument): Selfs die Peano-rekenkunde [Nagel et al., 2001] is gebaseer op drie ongedefinieerde terme (nul, getal en is opvolger van ), wat relatief triviale terme is in vergelyking met die ontelbare terme wat vir KI vereis word (die kernterme soos intelligensie en mens, of terme soos die kategorieë van emosies, laat staan die terme soos bewussyn).
Die kategorie-argument: Baie KI gaan daaroor om dinge in kategorieë te klassifiseer, maar die meeste van hierdie kategorieë (bv. woede, walging, goed of sleg) het geen wetenskaplik gedefinieerde grense nie. Dit hou verband met die volgende argument.
Die storie-argument: Dit is nou amper vasgestel dat baie van die noodsaaklike konsepte van ons beskawing gerieflike fiksies of stories is [Harari, 2015] en dit vorm dikwels kategorieë en word in definisies gebruik.
Die kulturele konsep-argument: Baie van die terme, konsepte en stories is kulturele konstrukte. Hulle het 'n lang geskiedenis, waarvan die meeste onbekend is, waarsonder hulle nie gemodelleer kan word nie.
Die individualiteit, of die natuurargument: 'n Individuele intelligente outonome entiteit moet uniek en onderskei van alle ander sulke entiteite wees. Dit ontstaan in die natuur en ons het geen idee van hoe dit in masjiene kan ontstaan nie. Ons is nie eers seker wat hierdie individualiteit presies is nie. Deur die geskiedenis heen het ons egter 'n mate van aanspreeklikheid aan menslike individue toegeken en ons het streng bepalings vir die straf van individue op grond hiervan, wat daarop dui dat ons glo in die konsep van die 'self' of die 'outonome individu', selfs wanneer ons die bestaan daarvan ontken, soos wat vandag gewild word.
Die genetiese determinisme-argument: Individualiteit word nie heeltemal deur die natuur (bv. deur ons gene) by geboorte of skepping eens en vir altyd bepaal nie. Dit ontwikkel en verander ook voortdurend soos dit in wisselwerking met die omgewing is, wat die uniekheid daarvan behou.
Die Self-organiserende Stelsel Argument: Mense en die menslike samelewings is heel waarskynlik selforganiserende [Shiva en Shiva, 2020] en organiese stelsels, of hulle is komplekse, nie-ewewigstelsels [Nicolis en Prigogine, 1977]. Indien wel, is dit onwaarskynlik dat hulle gemodelleer sal word vir presiese replikasie of reproduksie. Die omgewing, of die koester-argument: Beide intelligensie en individualiteit is afhanklik van die omgewing (of van die natuur). Daarom kan hulle nie gemodelleer word sonder om die omgewing heeltemal te modelleer nie, dws om vir Makro-AI te gaan. Die geheue, of die persoonlikheidsargument: Beide intelligensie en individualiteit is aspekte van persoonlikheid, wat bekend is dat dit afhanklik is van die volledige lewensgeheue (bewustelike en onbewustelike) van 'n intelligente wese. Daar is nie genoeg bewyse dat dit moontlik is om hierdie volledige tydelike en omgewingsgeskiedenis van geheue te herwin of te modelleer nie. Baie van ons geheue, en daarom is ons individualiteit en persoonlikheid integraal verbind met ons liggaamlike herinneringe.
Die Substrate-argument: Dit word dikwels as vanselfsprekend aanvaar dat intelligensie van die substraat geskei kan word en op 'n ander substraat geplant kan word. Dit kan 'n verkeerde aanname wees. Miskien is ons intelligensie integraal gekoppel aan die substraat en is dit nie moontlik om die liggaam van die verstand te skei nie, na aanleiding van die vorige argument.
Die oorsaaklikheidsargument: Daar is min vordering in die modellering van kousaliteit. Uiteindelik is die oorsaak van 'n gebeurtenis of gebeurtenis nie een nie, maar baie, miskien selfs die volledige geskiedenis van die heelal.
Die bewussynsargument: Net so is daar geen goeie genoeg teorie van bewussyn selfs vir menslike begrip nie. Dit is baie onwaarskynlik dat ons menslike bewussyn heeltemal kan modelleer, en daar is ook nie 'n goeie rede om te glo dat dit spontaan kan ontstaan onder die regte omstandighede (watter omstandighede?).
Die onvolledigheid/degenerasie van leerbron en voorstellingsargument: Maak nie saak hoeveel data of kennis ons het nie, dit sal altyd beide onvolledig en degenereer wees, wat dit onmoontlik maak om intelligensie heeltemal te modelleer.
Die verklaarbaarheidsargument: Diep neurale netwerke, wat die nuutste vir KI is, het ernstige probleme met verduidelikbaarheid, selfs vir spesifieke geïsoleerde probleme. Daarsonder kan ons nie seker wees of ons modelle in die regte rigting ontwikkel nie.
Die toetsonvoltooidheidsargument: Perfekte maatstawwe van prestasie is nie beskikbaar nie, selfs vir probleme soos masjienvertaling. Ons het geen idee wat die algehele maatstaf van Humanoïde Intelligensie sal wees nie. Dit kan altyd onvolledig en onvolmaak wees, wat lei tot onsekerheid oor intelligensie.
Die parasitiese masjienargument: Masjiene is heeltemal afhanklik vir leer van mense en van data en kennis wat deur mense verskaf word. Maar mense druk of openbaar slegs 'n klein deel van hul intelligente vermoë. Masjiene kan dus nie heeltemal by mense leer sonder om eers so intelligent soos mense te wees nie.
Die taalargument: Menslike (oïde) Intelligensie en die modellering daarvan hang in wese af van menslike taal(e). Daar is geen universeel aanvaarde teorie van hoe taal werk nie.
Die persepsie-interpretasie-argument: Leer vereis persepsie en persepsie hang af van interpretasie (en omgekeerd), wat amper net so 'n moeilike probleem is as die modellering van intelligensie self.
Die replikasie-argument: Ons staar 'n wetenskaplike krisis van replikasie in die gesig, selfs vir geïsoleerde probleme. Hoe kan ons seker wees van replikasie van Humanoïde Intelligensie, wat individuele uniekheid behou?
Die mens-mens-espitemiese asimmetrie-argument: Daar is wydverspreide ongelykheid in die menslike samelewing, nie net in terme van geld en rykdom nie, maar ook in terme van kennis en die voordele daarvan. Dit sal nie net in modellering weerspieël nie, maar sal modellering moeiliker maak.
Die Diversiteitsvoorstellingsargument: Humanoïde Intelligensie wat werklik werk, sal die volledige diversiteit van menslike bestaan in al sy aspekte moet modelleer, waarvan die meeste nie eers bekend of gedokumenteer is nie. Dit sal ten minste daardie diversiteit moet bewaar, wat 'n hoë orde is.
Die datakolonialisme-argument: Data is die nuwe olie. Diegene met meer mag, geld en invloed (die Materialistiese Heilige Drie-eenheid) kan meer data van ander ontgin, sonder om hul eie data te deel. Dit is 'n klassieke koloniale situasie en dit sal die ontwikkeling van Humanoïde Intelligensie belemmer.
Die eties-politieke argument: Gegewe sommige van die argumente hierbo, en baie ander, soos data-vooroordeel, potensiaal vir bewapening, ens., is daar baie etiese en politieke redes wat in ag geneem moet word tydens die ontwikkeling van Humanoid Intelligence. Ons is nie seker of hulle almal volledig aangespreek kan word nie.
Die Voorskrif-argument: Dit word nou erken dat 'intelligente' tegnologie wat op groot skaal toegepas word nie net gedrag monitor nie, maar dit verander [Zuboff, 2018]. Dit beteken dat ons die einste ding wat ons probeer modelleer, verander en dus nuwe meganiese reëls neerlê vir wat dit beteken om mens te wees.
Die wensvervulling (of selfvervullende profesie) argument: As gevolg van die voorskrifte van die lewe self deur onvolmaakte en onvoldoende intelligente masjiene, word die probleem van modellering van Humanoïde Intelligensie 'n selfvervullende profesie, waar ons uiteindelik nie menslike lewe modelleer nie, maar een of ander korrupte en vereenvoudigde vorm van lewe waarmee ons tot stand gekom het. 'intelligente' masjiene.
Die Menslike Intervensie Argument: Daar is geen rede om te glo dat Humanoid Intelligence vryelik van sy eie sal ontwikkel en nie deur menslike ingryping beïnvloed sal word nie, heel waarskynlik om gevestigde belange te bevorder. Dit sal die ontwikkeling van ware Humanoïde Intelligensie lamlê. Hierdie ingryping kan die vorm aanneem van geheimhouding, finansiële invloed (soos navorsingsbefondsing) en wetlike of strukturele dwang.
Die Deepfake Argument: Alhoewel ons nog nie werklik intelligente masjiene het nie, is ons in staat om data te genereer deur diepvervalsings wat nie deur mense as vervalsings herkenbaar is nie. Hierdie diep valse data gaan vermeerder en sal deel word van die data waaruit die masjiene leer, wat nie menslike lewe effektief modelleer nie, maar iets anders.
Die kettingreaksie-argument (of die wet van eksponensiële groei-argument): Soos masjiene meer 'intelligenter' word, beïnvloed hulle meer en meer van die lewe en verander dit, selfs voordat ware intelligensie bereik word. Die spoed van hierdie verandering sal eksponensieel toeneem en dit sal 'n kettingreaksie veroorsaak, wat lei tot onvoorsiene gevolge, wat noodwendig die modellering van Humanoïde Intelligensie beïnvloed.
4 Die implikasies van die onmoontlikheid
Dit volg uit bogenoemde argumente dat Singulariteit op die vlak van Mikro-KI onmoontlik is. In die poging om dit te bereik, en om die bogenoemde argumente aan te spreek, is die enigste moontlike uitkoms 'n soort Enkelvoudig op Makro-AI-vlak. So 'n Singulariteit sal nie lei tot replikasie van menslike intelligensie of die verbetering daarvan nie, maar iets heeltemal anders. Dit sal heel waarskynlik lei tot uitwissing (of ten minste onderdanigheid, diensbaarheid) van menslike intelligensie. Om net Humanoïde Intelligensie (Human Individual Micro-AI) te bereik, selfs al is niks meer nie, sal die KI-stelsel wat benodig word niks minder as die algemene idee van 'n Enkele Allerhoogste God moet wees nie. Singulariteit op makrovlak sal eintlik die KI-stelsel, of wie dit ook al beheer, individueel of (waarskynlik klein) kollektief, 'n Enkele Oppergod maak vir alle praktiese doeleindes, sover dit mense betref. Maar hierdie sal nie 'n almagtige God wees nie, en nie 'n vriendelike God nie, want dit sal Oppermagtig wees binne die beperkte bestek van die mensdom en waarop die mensdom 'n uitwerking kan hê, en dit sal net vriendelik wees teenoor homself, of dalk nie eers dit nie. . Dit kan analoog wees aan die God in die Phiilip K. Dick-verhaal Faith of Our Fathers [Dick and Lethem, 2013], of aan die Big Brother van Orwell se 1984 [Orwell, 1950]. Ons kan natuurlik nie seker wees van die uitkoms nie, maar daardie so waarskynlike uitkomste soos enige ander. Dit is genoeg rede om baie versigtig te wees vir die ontwikkeling van Humanoid Intelligence en enige variant daarvan.
Verwysings
Philip K. Dick, Paul Williams en Mark. Hurst. Ek hoop ek kom binnekort / Philip K. Dick; geredigeer deur Mark Hurst en Paul Williams. Doubleday New York, 1ste uitg. uitgawe, 1985. ISBN 0385195672.
Alfred North Whitehead en Bertrand Russell. Principia Mathematica. Cambridge University Press, 1925–1927.
Barnaby Sheppard. Gödel se onvoltooidheidstellings, bladsy 419–428. Cambridge University Press, 2014. doi: 10.1017/CBO9781107415614.016.
E. Nagel, JR Newman en DR Hofstadter. Godel se bewys. NYU Press, 2001. ISBN 9780814758014. URL https://books.google.co.in/books?id=G29G3W_hNQkC.
John E. Hopcroft, Rajeev Motwani en Jeffrey D. Ullman. Inleiding tot Outomateorie, Tale en Berekening (3de Uitgawe). Addison-Wesley Longman Publishing Co., Inc., VSA, 2006. ISBN 0321455363.
B. Jack Copeland en Oron Shagrir. Die kerklike tesis: Logiese limiet of deurbreekbare versperring? Commun. ACM, 62(1):66–74, Desember 2018. ISSN 0001-0782. doi: 10.1145/3198448. URL https://doi.org/10.1145/3198448.
Ray Kurzweil. Die singulariteit is naby: wanneer mense biologie transendeer. Penguin (Nie-Klassieke), 2006. ISBN 0143037889.
Rodney Brooks. Vooruitsigte vir menslike vlak intelligensie vir menslike robotte. 07 1998. Camilo Miguel Signorelli. Kan rekenaars bewus word en mense oorwin? Frontiers in Robotics and AI, 5:121, 2018. doi: 10.3389/frobt.2018.00121. URL https://www.frontiersin. org/artikel/10.3389/frobt.2018.00121.
Roman V. Yampolskiy. Onvoorspelbaarheid van ai: Oor die onmoontlikheid om alle aksies van 'n slimmer agent akkuraat te voorspel. Tydskrif vir Kunsmatige Intelligensie en Bewussyn, 07(01):109–118, 2020. doi: 10.1142/S2705078520500034.
YN Harari. Sapiens: 'n Kort geskiedenis van die mensdom. Harper, 2015. ISBN 9780062316103. URL https://books.google.co.in/books?id=FmyBAwAAQBAJ.
V. Shiva en K. Shiva. Eenheid vs. die 1 persent: verpletterende illusies, saaivryheid. CHELSEA GREEN PUB, 2020. ISBN 9781645020394. URL https://books.google.co.in/books?
id=4TmTzQEACAAJ.
G. Nicolis en I. Prigogine. Selforganisasie in nie-ewewigstelsels: van dissipatiewe strukture tot orde deur fluktuasies. 'n Wiley-Interscience-publikasie. Wiley, 1977. ISBN 9780471024019. URL https://books.google.co.in/books?id=mZkQAQAAIAAJ.
Shoshana Zuboff. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. 1ste uitgawe, 2018. ISBN 1610395697.
PK Dick en J. Lethem. Uitgesoekte verhale van Philip K. Dick. Houghton Mifflin Harcourt, 2013. ISBN 9780544040540. URL https://books.google.co.in/books?id=V1z9rzfTb2EC.
George Orwell. 1984. Tandem-biblioteek, eeufees. uitgawe, 1950. ISBN 0881030368. URL http://www.amazon.de/1984-Signet-Classics-George-Orwell/dp/0881030368.
***
Oorspronklik gepubliseer by anileklavya.net op 7 November 2020.
ZNetwork word uitsluitlik befonds deur die vrygewigheid van sy lesers.
skenk
2 Kommentaar
Wel, dit lei tot die eerste argument.
Ek probeer die artikel verbeter. Tog, dankie vir die uitwys, sodat ek hieroor kan uitbrei.
'3. Intelligensie: Enigiets en alles waartoe die volle verskeidenheid mense in staat is, beide individueel en gesamentlik, sowel as beide sinchronies en diachronies. Dit sluit nie net gedrag of probleemoplossing in nie, maar die hele lewe soos gedefinieer.'
Hierdie definisie lyk vir my te vaag. Dit gaan baie moeilik wees om baie oor KI te sê as ons nie weet wat ons met die 'ek'-deel bedoel nie.