Kunstig intelligens (AI) fejer over verden. Det transformerer alle samfundslag og rejser i processen store etiske bekymringer for samfundet og menneskehedens fremtid. ChatGPT, som dominerer sociale medier, er en AI-drevet chatbot udviklet af OpenAI. Det er en delmængde af maskinlæring og er afhængig af det, der kaldes store sprogmodeller, der kan generere menneskelignende svar. Den potentielle anvendelse for sådan teknologi er virkelig enorm, hvorfor der allerede er opfordringer til at regulere AI som ChatGPT.
Kan kunstig intelligens overliste mennesker? Udgør det offentlige trusler? Kan kunstig intelligens blive en eksistentiel trussel? Verdens fremtrædende sprogforsker Noam Chomsky, og en af de mest ansete offentlige intellektuelle nogensinde, hvis intellektuelle statur er blevet sammenlignet med Galileos, Newtons og Descartes, tackler disse nagende spørgsmål i det efterfølgende interview.
CJ Polychroniou: Som en videnskabelig disciplin går kunstig intelligens (AI) tilbage til 1950'erne, men i løbet af de sidste par årtier har den gjort indtog i alle slags områder, herunder bank, forsikring, bilproduktion, musik og forsvar. Faktisk har brugen af AI-teknikker vist sig i nogle tilfælde at overgå menneskelige evner, såsom i et spil skak. Er det sandsynligt, at maskiner bliver smartere end mennesker?
Noam Chomsky: Bare for at præcisere terminologien betyder udtrykket "maskine" her program, dybest set en teori skrevet i en notation, der kan udføres af en computer – og en usædvanlig slags teori på interessante måder, som vi kan lægge til side her.
Vi kan groft skelne mellem ren ingeniørvidenskab og videnskab. Der er ingen skarp grænse, men det er en nyttig første tilnærmelse. Ren ingeniørkunst søger at fremstille et produkt, der kan være til nogen nytte. Videnskaben søger forståelse. Hvis emnet er menneskelig intelligens eller kognitive kapaciteter hos andre organismer, søger videnskaben forståelse af disse biologiske systemer.
Som jeg forstår dem, betragtede grundlæggerne af AI – Alan Turing, Herbert Simon, Marvin Minsky og andre – det som videnskab, en del af de dengang fremvoksende kognitive videnskaber, der gør brug af nye teknologier og opdagelser i den matematiske teori om beregning til fremme forståelse. I årenes løb er disse bekymringer falmet og er stort set blevet fortrængt af en ingeniørorientering. De tidligere bekymringer bliver nu almindeligvis afvist, nogle gange nedladende, som GOFAI – god gammeldags AI.
Hvis vi fortsætter med spørgsmålet, er det sandsynligt, at der vil blive udtænkt programmer, der overgår menneskelige evner? Vi skal være forsigtige med ordet "kapacitet", af grunde, som jeg vil vende tilbage til. Men hvis vi tager udtrykket til at henvise til menneskelig præstation, så er svaret: absolut ja. Faktisk har de eksisteret længe: Lommeregneren i en bærbar computer, for eksempel. Det kan langt overstige, hvad mennesker kan gøre, om ikke andet på grund af mangel på tid og hukommelse. For lukkede systemer som skak var det velforstået i 50'erne, at før eller siden, med fremskridt med massive computerkapaciteter og en lang periode med forberedelse, kunne et program udtænkes til at besejre en stormester, der spiller med en bundet hukommelse og tid. Præstationen år senere var stort set PR for IBM. Mange biologiske organismer overgår menneskets kognitive kapaciteter på meget dybere måder. Ørkenmyrerne i min baghave har minimale hjerner, men overgår langt menneskelige navigationskapaciteter, i princippet ikke kun ydeevne. Der er ingen stor kæde af væsen med mennesker på toppen.
Produkterne fra AI-teknik bliver brugt på mange områder, på godt og ondt. Selv simple og velkendte kan være ret nyttige: på sprogområdet, programmer som autofyld, live transskription, google translate, blandt andre. Med langt større computerkraft og mere sofistikeret programmering burde der også være andre nyttige applikationer inden for videnskaben. Der har allerede været nogle: At hjælpe med at studere proteinfoldning er et nyligt tilfælde, hvor massiv og hurtig søgeteknologi har hjulpet videnskabsmænd med at håndtere et kritisk og genstridigt problem.
Tekniske projekter kan være nyttige eller skadelige. Begge spørgsmål opstår i tilfældet med teknisk AI. Nuværende arbejde med store sprogmodeller (LLM'er), herunder chatbots, giver værktøjer til desinformation, bagvaskelse og vildledning af uinformerede. Truslerne forstærkes, når de kombineres med kunstige billeder og replikering af stemme. Med forskellige bekymringer i tankerne har titusindvis af AI-forskere for nylig kaldet for et moratorium for udvikling på grund af potentielle farer, de opfatter.
Som altid skal mulige fordele ved teknologi afvejes mod potentielle omkostninger.
Helt andre spørgsmål opstår, når vi henvender os til AI og videnskab. Her er forsigtighed nødvendig på grund af ublu og hensynsløse påstande, ofte forstærket i medierne. For at afklare spørgsmålene, lad os overveje tilfælde, nogle hypotetiske, nogle virkelige.
Jeg nævnte insektnavigation, hvilket er en forbløffende præstation. Insektforskere har gjort store fremskridt med at studere, hvordan det opnås, selvom neurofysiologien, en meget vanskelig sag, forbliver uhåndgribelig, sammen med udviklingen af systemerne. Det samme gælder de fantastiske bedrifter af fugle og havskildpadder, der rejser tusindvis af kilometer og fejlfrit vender tilbage til oprindelsesstedet.
Antag, at Tom Jones, en fortaler for ingeniørkunst, kommer og siger: "Dit arbejde er blevet tilbagevist. Problemet er løst. Kommercielle flyselskaber opnår de samme eller endnu bedre resultater hele tiden."
Hvis vi overhovedet gider svare, ville vi grine.
Tag et eksempel på polynesiernes søfartsbedrifter, der stadig er i live blandt indfødte stammer, der bruger stjerner, vind, strømme til at lande deres kanoer på et udpeget sted hundreder af kilometer væk. Dette har også været emnet for megen forskning for at finde ud af, hvordan de gør det. Tom Jones har svaret: “Stop med at spilde din tid; flådefartøjer gør det hele tiden."
Samme svar.
Lad os nu vende os til en reel sag, sprogtilegnelse. Det har været emnet for omfattende og meget oplysende forskning i de senere år, der viser, at spædbørn har et meget rigt kendskab til det omgivende sprog (eller sprog), langt ud over, hvad de udviser i præstationer. Det opnås med få beviser, og i nogle afgørende tilfælde slet ingen. I bedste fald, som omhyggelige statistiske undersøgelser har vist, er tilgængelige data sparsomme, især når rang-frekvens (“Zipfs lov”) tages i betragtning.
Indtast Tom Jones: "Du er blevet modbevist. Uden at være opmærksomme på dine opdagelser, kan LLM'er, der scanner astronomiske mængder af data, finde statistiske regelmæssigheder, der gør det muligt at simulere de data, som de er trænet på, hvilket producerer noget, der ligner nogenlunde normal menneskelig adfærd. Chatbots."
Denne sag adskiller sig fra de andre. For det første er det ægte. For det andet griner folk ikke; faktisk er mange beærede. For det tredje, i modsætning til de hypotetiske tilfælde, er de faktiske resultater langt fra, hvad der hævdes.
Disse overvejelser bringer et mindre problem op med den nuværende LLM-entusiasme: dens totale absurditet, som i de hypotetiske tilfælde, hvor vi genkender det med det samme. Men der er meget mere alvorlige problemer end absurditet.
Den ene er, at LLM-systemerne er designet på en sådan måde, at de ikke kan fortælle os noget om sprog, læring eller andre aspekter af kognition, et princip, der er uopretteligt. Fordoble terabytes af scannede data, tilføj endnu en billion parametre, brug endnu mere af Californiens energi, og simuleringen af adfærd vil forbedres, mens den mere tydeligt afslører den principielle fejl i tilgangen til at give enhver forståelse. Årsagen er elementær: Systemerne fungerer lige så godt med umulige sprog, som spædbørn ikke kan tilegne sig, som med dem, de tilegner sig hurtigt og praktisk talt refleksivt.
Det er, som om en biolog ville sige: ”Jeg har en fantastisk ny teori om organismer. Den lister mange, der eksisterer og mange, der umuligt kan eksistere, og jeg kan ikke fortælle dig noget om skelnen.”
Igen ville vi grine. Eller burde.
Ikke Tom Jones - nu henviser til faktiske tilfælde. Tom Jones fortsætter med sin radikale afgang fra videnskaben og svarer: "Hvordan ved du noget af dette, før du har undersøgt alle sprog?" På dette tidspunkt bliver opgivelsen af normal videnskab endnu tydeligere. Ved paritet af argumenter kan vi smide genetik og molekylærbiologi, evolutionsteorien og resten af de biologiske videnskaber ud, som ikke har prøvet mere end en lille brøkdel af organismer. Og for en god ordens skyld kan vi udelukke al fysik. Hvorfor tro på bevægelseslovene? Hvor mange objekter er faktisk blevet observeret i bevægelse?
Der er desuden det lille spørgsmål om bevisbyrde. De, der foreslår en teori, har ansvaret for at vise, at den giver mening, i dette tilfælde at vise, at den fejler for umulige sprog. Det er ikke andres ansvar at tilbagevise forslaget, selvom det i dette tilfælde synes let nok at gøre det.
Lad os flytte opmærksomheden til normal videnskab, hvor tingene bliver interessante. Selv et enkelt eksempel på sprogtilegnelse kan give rig indsigt i skelnen mellem mulige og umulige sprog.
Årsagerne er ligetil og velkendte. Al vækst og udvikling, inklusive det, der kaldes "læring", er en proces, der begynder med en tilstand af organismen og transformerer den trin for trin til senere stadier.
Tilegnelse af sprog er sådan en proces. Udgangstilstanden er den biologiske begavelse af sprogfakultetet, som åbenlyst eksisterer, selvom det, som nogle mener, er en særlig kombination af andre kapaciteter. Det er højst usandsynligt af grunde, man længe har forstået, men det er ikke relevant for vores bekymringer her, så vi kan lægge det til side. Det er klart, at der er en biologisk begavelse for det menneskelige sprog. Den eneste sandhed.
Overgangen fortsætter til en relativt stabil tilstand, kun ændret overfladisk ud over: viden om sproget. Eksterne data udløser og former delvist processen. Ved at studere den opnåede tilstand (kendskab til sproget) og de eksterne data kan vi drage vidtrækkende konklusioner om starttilstanden, den biologiske begavelse, der gør sprogtilegnelse mulig. Konklusionerne om den oprindelige tilstand pålægger en sondring mellem mulige og umulige sprog. Sondringen gælder for alle dem, der deler den oprindelige tilstand – alle mennesker, så vidt det vides; der synes ikke at være nogen forskel i evnen til at tilegne sig sprog blandt eksisterende menneskegrupper.
Alt dette er normal videnskab, og det har opnået mange resultater.
Eksperiment har vist, at den stabile tilstand i det væsentlige opnås meget tidligt, ved tre til fire års alderen. Det er også veletableret, at sprogfakultetet har grundlæggende egenskaber, der er specifikke for mennesker, og derfor er det en sand artsegenskab: fælles for menneskegrupper og på grundlæggende måder en unik menneskelig egenskab.
Meget er udeladt i denne skematiske beretning, især naturlovens rolle i vækst og udvikling: i tilfælde af et beregningssystem som sprog, principper for beregningseffektivitet. Men dette er essensen af sagen. Igen, normal videnskab.
Det er vigtigt at være klar over Aristoteles' skelnen mellem besiddelse af viden og brug af viden (i nutidig terminologi, kompetence og præstation). I sprogtilfældet er den opnåede stabile tilstand besiddelse af viden, kodet i hjernen. Det indre system bestemmer en ubegrænset række af strukturerede udtryk, som vi hver især kan betragte som formuleringer af en tanke, hver eksternaliserbar i et eller andet sansemotorisk system, normalt lyd, selvom det kunne være tegn eller endda (med besvær) berøring.
Det internt kodede system tilgås ved brug af viden (performance). Performance omfatter intern brug af sprog i tanken: refleksion, planlægning, erindring og meget mere. Statistisk set er det langt den overvældende brug af sprog. Det er utilgængeligt for introspektion, selvom vi kan lære meget om det ved hjælp af videnskabens normale metoder, "udefra", metaforisk set. Det, der kaldes "indre tale", er i virkeligheden fragmenter af eksternaliseret sprog med det artikulatoriske apparat dæmpet. Det er kun en fjern afspejling af den interne sprogbrug, vigtige spørgsmål kan jeg ikke forfølge her.
Andre former for sprogbrug er perception (parsing) og produktion, hvor sidstnævnte i afgørende grad involverer egenskaber, der forbliver lige så mystiske for os i dag, som da de blev betragtet med ærefrygt og forbløffelse af Galileo og hans samtidige i begyndelsen af moderne videnskab.
Videnskabens hovedmål er at opdage det indre system, både i dets begyndelsestilstand i det menneskelige sprogfakultet og i de særlige former, det antager i tilegnelsen. I det omfang dette interne system er forstået, kan vi gå videre med at undersøge, hvordan det indgår i præstation, og interagerer med mange andre faktorer, der indgår i sprogbrug.
Data om ydeevne giver bevis for karakteren af det interne system, især når de er forfinet ved eksperiment, som i standard feltarbejde. Men selv den mest massive indsamling af data er nødvendigvis vildledende på afgørende måder. Det holder sig til det, der normalt produceres, ikke kendskabet til det sprog, der er kodet i hjernen, det primære objekt, der undersøges for dem, der ønsker at forstå sprogets natur og dets brug. Det interne objekt bestemmer uendeligt mange muligheder af en art, der ikke vil blive brugt i normal adfærd på grund af faktorer, der er irrelevante for sproget, såsom korttidshukommelsesbegrænsninger, emner studeret for 60 år siden. Observerede data vil også omfatte meget, der ligger uden for det system, der er kodet i hjernen, ofte bevidst brug af sprog på måder, der overtræder reglerne i retoriske formål. Disse er truismer kendt af alle feltarbejdere, som er afhængige af elicitationsteknikker med informanter, dybest set eksperimenter, for at give et raffineret korpus, der udelukker irrelevante restriktioner og afvigende udtryk. Det samme gælder, når lingvister bruger sig selv som informanter, en helt fornuftig og normal procedure, der er almindelig i psykologiens historie frem til i dag.
Hvis vi går videre med normal videnskab, finder vi, at sprogets interne processer og elementer ikke kan detekteres ved inspektion af observerede fænomener. Ofte optræder disse elementer ikke engang i tale (eller skrift), selvom deres virkninger, ofte subtile, kan detekteres. Det er endnu en grund til, at begrænsning til observerede fænomener, som i LLM-tilgange, skarpt begrænser forståelsen af de interne processer, der er kerneobjekterne for undersøgelse af sprogets natur, dets tilegnelse og brug. Men det er ikke relevant, hvis bekymringen for videnskab og forståelse er blevet opgivet til fordel for andre mål.
Mere generelt inden for videnskaberne er der i årtusinder nået konklusioner ved eksperimenter - ofte tankeeksperimenter - hver en radikal abstraktion fra fænomener. Eksperimenter er teoridrevne og søger at kassere de utallige irrelevante faktorer, der indgår i observerede fænomener-lignende sproglige præstationer. Alt dette er så elementært, at det sjældent endda diskuteres. Og velkendt. Som nævnt går den grundlæggende skelnen tilbage til Aristoteles' skelnen mellem besiddelse af viden og brug af viden. Førstnævnte er det centrale studieobjekt. Sekundære (og ret seriøse) undersøgelser undersøger, hvordan det internt lagrede system af viden bruges i præstationer, sammen med de mange ikke-sproglige faktorer, der indgår i, hvad der direkte observeres.
Vi kan også huske en observation af evolutionærbiolog Theodosius Dobzhansky, som er berømt primært for sit arbejde med Drosophila: Hver art er unik, og mennesker er de mest unikke af alle. Hvis vi er interesserede i at forstå, hvilken slags skabninger vi er – efter påbuddet fra Delphic Oracle for 2,500 år siden – vil vi primært være optaget af, hvad der gør mennesker til det unikkeste af alt, primært sprog og tanke, tæt sammenflettet, som det erkendes i en rig tradition, der går tilbage til det klassiske Grækenland og Indien. Det meste af adfærd er ret rutinepræget, og derfor til en vis grad forudsigelig. Det, der giver reel indsigt i, hvad der gør os unikke, er, hvad der ikke er rutine, som vi finder, nogle gange ved eksperimenter, nogle gange ved observation, fra normale børn til store kunstnere og videnskabsmænd.
En sidste kommentar i den forbindelse. Samfundet har i et århundrede været plaget af massive virksomhedskampagner for at tilskynde til foragt for videnskab, emner, der er godt undersøgt af blandt andre Naomi Oreskes. Det begyndte med virksomheder, hvis produkter er morderiske: bly, tobak, asbest, senere fossile brændstoffer. Deres motiver er forståelige. Målet for en virksomhed i et kapitalistisk samfund er profit, ikke menneskelig velfærd. Det er et institutionelt faktum: Spil ikke spillet, og du er ude, erstattet af en, der vil.
Virksomhedernes PR-afdelinger erkendte tidligt, at det ville være en fejl at benægte de voksende videnskabelige beviser for de dødelige virkninger af deres produkter. Det ville let kunne tilbagevises. Det er bedre at så tvivl, tilskynde til usikkerhed, foragt for disse spidshovedede jakkesæt, som aldrig har malet et hus, men som er kommet ned fra Washington for at fortælle mig, at jeg ikke skal bruge blymaling, hvilket ødelægger min forretning (et rigtig tilfælde, der let kan multipliceres). Det har fungeret alt for godt. Lige nu leder det os på en vej til ødelæggelse af organiseret menneskeliv på jorden.
I intellektuelle kredse er lignende effekter blevet frembragt af den postmoderne videnskabskritik, demonteret af Jean Bricmont og Alan Sokal, men stadig meget levende i nogle kredse.
Det kan være uvenligt at foreslå spørgsmålet, men det er, synes jeg, rimeligt at spørge, om Tom Joneses og dem, der ukritisk gentager og endda forstærker deres skødesløse proklamationer, bidrager til de samme barske tendenser.
CJP: ChatGPT er en naturligt sprogdrevet chatbot, der bruger kunstig intelligens til at tillade menneskelignende samtaler. I en nylig artikel i The New York Times, sammen med to andre forfattere lukker du de nye chatbots ned som en hype, fordi de simpelthen ikke kan matche menneskers sproglige kompetence. Er det dog ikke muligt, at fremtidige innovationer inden for kunstig intelligens kan producere ingeniørprojekter, der matcher og måske endda overgår menneskelige evner?
NC: Kredit for artiklen skal gives til den faktiske forfatter, Jeffrey Watumull, en fin matematiker-lingvist-filosof. De to listede medforfattere var konsulenter, som er enige i artiklen, men som ikke har skrevet den.
Det er rigtigt, at chatbots i princippet ikke kan matche menneskers sproglige kompetence, af de grunde, der er gentaget ovenfor. Deres grundlæggende design forhindrer dem i at nå den minimale betingelse for tilstrækkelighed for en teori om menneskeligt sprog: at skelne muligt fra umulige sprog. Da det er en egenskab ved designet, kan det ikke overvindes af fremtidige innovationer i denne form for kunstig intelligens. Det er dog meget muligt, at fremtidige ingeniørprojekter vil matche og endda overgå menneskelige evner, hvis vi mener menneskelig evne til at handle, ydeevne. Som nævnt ovenfor har nogle længe gjort det: automatiske lommeregnere for eksempel. Mere interessant, som nævnt, overgår insekter med små hjerner menneskelige kapaciteter forstået som kompetence.
CJP: I den førnævnte artikel blev det også observeret, at nutidens AI-projekter ikke besidder en menneskelig moralsk evne. Gør denne åbenlyse kendsgerning AI-robotter til mindre en trussel mod menneskeheden? Jeg regner med, at argumentet kan være, at det gør dem måske endnu mere.
NC: Det er virkelig et indlysende faktum, at forstå "moralsk evne" bredt. Medmindre den kontrolleres omhyggeligt, kan kunstig intelligens udgøre alvorlige trusler. Antag for eksempel, at pleje af patienter var automatiseret. De uundgåelige fejl, der ville blive overvundet ved menneskelig dømmekraft, kunne producere en rædselshistorie. Eller antag, at mennesker blev fjernet fra evalueringen af truslerne bestemt af automatiserede missilforsvarssystemer. Som en chokerende historisk optegnelse oplyser os, det ville være enden på den menneskelige civilisation.
Medmindre den kontrolleres omhyggeligt, kan kunstig intelligens udgøre alvorlige trusler.
CJP: Regulatorer og retshåndhævende myndigheder i Europa giver udtryk for bekymring over spredningen af ChatGPT, mens et nyligt indsendt stykke EU-lovgivning forsøger at håndtere kunstig intelligens ved at klassificere sådanne værktøjer efter deres opfattede risikoniveau. Er du enig med dem, der er bekymrede for, at ChatGPT udgør en alvorlig offentlig trussel? Tror du desuden virkelig, at den videre udvikling af AI-værktøjer kan standses, indtil sikkerhedsforanstaltninger kan indføres?
NC: Jeg kan sagtens sympatisere med bestræbelser på at forsøge at kontrollere truslerne fra avanceret teknologi, herunder denne sag. Jeg er dog skeptisk over for muligheden for at gøre det. Jeg formoder, at ånden er ude af flasken. Ondsindede aktører – institutionelle eller individuelle – kan sandsynligvis finde måder at unddrage sig sikkerhedsforanstaltninger. Sådanne mistanker er naturligvis ingen grund til ikke at forsøge og udvise årvågenhed.
ZNetwork finansieres udelukkende gennem sine læseres generøsitet.
Doner