Kunstig intelligens (AI) feier over verden. Det forvandler alle samfunnslag og øker i prosessen store etiske bekymringer for samfunnet og menneskehetens fremtid. ChatGPT, som dominerer sosiale medier, er en AI-drevet chatbot utviklet av OpenAI. Det er en undergruppe av maskinlæring og er avhengig av det som kalles store språkmodeller som kan generere menneskelignende svar. Den potensielle applikasjonen for slik teknologi er virkelig enorm, og det er derfor det allerede er oppfordringer til å regulere AI som ChatGPT.
Kan AI overliste mennesker? Utgjør det offentlige trusler? Faktisk, kan AI bli en eksistensiell trussel? Verdens fremste lingvist Noam Chomsky, og en av de mest anerkjente offentlige intellektuelle gjennom tidene, hvis intellektuelle status er blitt sammenlignet med Galileo, Newton og Descartes, takler disse nagende spørsmålene i intervjuet som følger.
CJ Polychroniou: Som en vitenskapelig disiplin går kunstig intelligens (AI) tilbake til 1950-tallet, men i løpet av de siste par tiårene har den gjort inntog i alle slags felt, inkludert bank, forsikring, bilproduksjon, musikk og forsvar. Faktisk har bruken av AI-teknikker vist seg i noen tilfeller å overgå menneskelige evner, for eksempel i et parti sjakk. Er det sannsynlig at maskiner blir smartere enn mennesker?
Noam Chomsky: Bare for å klargjøre terminologien betyr begrepet "maskin" her program, i utgangspunktet en teori skrevet i en notasjon som kan utføres av en datamaskin – og en uvanlig type teori på interessante måter som vi kan legge til side her.
Vi kan gjøre et grovt skille mellom ren ingeniørvitenskap og vitenskap. Det er ingen skarp grense, men det er en nyttig første tilnærming. Ren ingeniørkunst søker å produsere et produkt som kan være til noe nytte. Vitenskapen søker forståelse. Hvis temaet er menneskelig intelligens, eller kognitive kapasiteter til andre organismer, søker vitenskapen forståelse av disse biologiske systemene.
Slik jeg forstår dem, betraktet grunnleggerne av AI – Alan Turing, Herbert Simon, Marvin Minsky og andre – det som vitenskap, en del av de kognitive vitenskapene som på den tiden begynte å vokse, og gjorde bruk av nye teknologier og oppdagelser i den matematiske beregningsteorien. forhånd forståelse. I løpet av årene har disse bekymringene bleknet og har stort sett blitt fortrengt av en ingeniørorientering. De tidligere bekymringene blir nå ofte avvist, noen ganger nedlatende, som GOFAI – god gammeldags AI.
Fortsetter med spørsmålet, er det sannsynlig at programmer vil bli utviklet som overgår menneskelige evner? Vi må være forsiktige med ordet "evner", av grunner som jeg kommer tilbake til. Men hvis vi tar begrepet for å referere til menneskelig ytelse, så er svaret: definitivt ja. Faktisk har de eksistert lenge: kalkulatoren i en bærbar datamaskin, for eksempel. Det kan langt overgå hva mennesker kan gjøre, om ikke annet på grunn av mangel på tid og hukommelse. For lukkede systemer som sjakk, var det godt forstått på 50-tallet at før eller senere, med fremgangen av massiv datakapasitet og en lang periode med forberedelser, kunne et program utarbeides for å beseire en stormester som spiller med en hukommelse og tid. Prestasjonen år senere var ganske mye PR for IBM. Mange biologiske organismer overgår menneskets kognitive kapasiteter på mye dypere måter. Ørkenmaurene i bakgården min har små hjerner, men overgår langt menneskelig navigasjonskapasitet, i prinsippet ikke bare ytelse. Det er ingen Great Chain of Being med mennesker på toppen.
Produktene fra AI-teknikk brukes på mange felt, på godt og vondt. Selv enkle og kjente kan være ganske nyttige: på språkområdet, programmer som autofyll, direkte transkripsjon, google translate, blant andre. Med mye større datakraft og mer sofistikert programmering bør det finnes andre nyttige applikasjoner, også innen vitenskapene. Det har allerede vært noen: Å hjelpe til med studiet av proteinfolding er et nylig tilfelle der massiv og rask søketeknologi har hjulpet forskere til å håndtere et kritisk og gjenstridig problem.
Ingeniørprosjekter kan være nyttige, eller skadelige. Begge spørsmål oppstår når det gjelder teknisk AI. Nåværende arbeid med store språkmodeller (LLM), inkludert chatbots, gir verktøy for desinformasjon, ærekrenkelse og villedning av uinformerte. Truslene forsterkes når de kombineres med kunstige bilder og replikering av stemme. Med forskjellige bekymringer i tankene har titusenvis av AI-forskere nylig gjort det som heter for et moratorium for utvikling på grunn av potensielle farer de oppfatter.
Som alltid må mulige fordeler ved teknologi veies opp mot potensielle kostnader.
Ganske andre spørsmål dukker opp når vi retter oss mot AI og vitenskap. Her er det nødvendig med forsiktighet på grunn av ublu og hensynsløse påstander, ofte forsterket i media. For å avklare problemene, la oss vurdere tilfeller, noen hypotetiske, noen reelle.
Jeg nevnte insektnavigering, som er en forbløffende prestasjon. Insektforskere har gjort store fremskritt i å studere hvordan det oppnås, selv om nevrofysiologien, en svært vanskelig sak, forblir unnvikende, sammen med utviklingen av systemene. Det samme gjelder de fantastiske bragdene til fugler og havskilpadder som reiser tusenvis av miles og feilfritt vender tilbake til opprinnelsesstedet.
Tenk deg at Tom Jones, en talsmann for engineering AI, kommer og sier: «Arbeidet ditt har blitt motbevist. Problemet er løst. Kommersielle flyselskappiloter oppnår samme eller enda bedre resultater hele tiden.»
Hvis vi til og med gidder å svare, ville vi le.
Ta tilfellet med polynesernes sjøfartsbedrifter, som fortsatt er i live blant urbefolkningen, og bruker stjerner, vind, strømmer for å lande kanoene sine på et bestemt sted hundrevis av kilometer unna. Også dette har vært tema for mye forskning for å finne ut hvordan de gjør det. Tom Jones har svaret: «Slutt å kaste bort tiden din; marinefartøyer gjør det hele tiden.»
Samme respons.
La oss nå gå til en reell sak, språktilegnelse. Det har vært tema for omfattende og svært opplysende forskning de siste årene, som viser at spedbarn har svært rik kunnskap om det omgivende språket (eller språkene), langt utover det de viser i ytelse. Det oppnås med lite bevis, og i noen avgjørende tilfeller ingen i det hele tatt. I beste fall, som nøye statistiske studier har vist, er tilgjengelige data sparsomme, spesielt når rangeringsfrekvens (“Zipfs lov”) tas i betraktning.
Skriv inn Tom Jones: «Du har blitt motbevist. Uten å ta hensyn til oppdagelsene dine, kan LLM-er som skanner astronomiske mengder data finne statistiske regelmessigheter som gjør det mulig å simulere dataene de er trent på, og produsere noe som ligner ganske mye på normal menneskelig oppførsel. Chatbots."
Denne saken skiller seg fra de andre. For det første er det ekte. For det andre, folk ler ikke; faktisk er mange ærefrykt. For det tredje, i motsetning til de hypotetiske tilfellene, er de faktiske resultatene langt fra det som er hevdet.
Disse betraktningene bringer opp et mindre problem med den nåværende LLM-entusiasmen: dens totale absurditet, som i de hypotetiske tilfellene der vi gjenkjenner den med en gang. Men det er mye mer alvorlige problemer enn absurditet.
Den ene er at LLM-systemene er utformet på en slik måte at de ikke kan fortelle oss noe om språk, læring eller andre aspekter ved kognisjon, prinsipielt uopprettelig. Doble terabytene med skannet data, legg til ytterligere en trillion parametere, bruk enda mer av Californias energi, og simuleringen av atferd vil forbedres, samtidig som den tydeligere avslører prinsippfeilen i tilnærmingen for å gi enhver forståelse. Årsaken er elementær: Systemene fungerer like godt med umulige språk som spedbarn ikke kan tilegne seg som med de de tilegner seg raskt og praktisk talt refleksivt.
Det er som om en biolog skulle si: «Jeg har en flott ny teori om organismer. Den lister opp mange som eksisterer og mange som umulig kan eksistere, og jeg kan ikke fortelle deg noe om skillet.»
Igjen, vi ler. Eller burde.
Ikke Tom Jones - nå refererer til faktiske tilfeller. Tom Jones vedvarer i sin radikale avgang fra vitenskapen og svarer: «Hvordan vet du noe av dette før du har undersøkt alle språk?» På dette tidspunktet blir forlatelsen av normal vitenskap enda tydeligere. Ved paritet av argumenter kan vi kaste ut genetikk og molekylærbiologi, evolusjonsteorien og resten av biologiske vitenskaper, som ikke har samplet mer enn en liten brøkdel av organismer. Og for god ordens skyld kan vi kaste ut all fysikk. Hvorfor tro på bevegelseslovene? Hvor mange gjenstander har egentlig blitt observert i bevegelse?
Det er dessuten det lille spørsmålet om bevisbyrde. De som foreslår en teori har ansvaret for å vise at den gir mening, i dette tilfellet, å vise at den feiler for umulige språk. Det er ikke andres ansvar å tilbakevise forslaget, selv om det i dette tilfellet virker enkelt nok å gjøre det.
La oss flytte oppmerksomheten til normal vitenskap, der saker blir interessante. Selv et enkelt eksempel på språktilegnelse kan gi rik innsikt i skillet mellom mulige og umulige språk.
Årsakene er enkle og kjente. All vekst og utvikling, inkludert det som kalles «læring», er en prosess som begynner med en tilstand av organismen og transformerer den steg-for-steg til senere stadier.
Tilegnelse av språk er en slik prosess. Utgangstilstanden er den biologiske begavelsen til språkfakultetet, som åpenbart eksisterer, selv om det, som noen tror, er en spesiell kombinasjon av andre kapasiteter. Det er svært usannsynlig av grunner man har forstått lenge, men det er ikke relevant for våre bekymringer her, så vi kan legge det til side. Det er åpenbart en biologisk begavelse for det menneskelige språkfakultetet. Den enkleste sannheten.
Overgangen fortsetter til en relativt stabil tilstand, endret bare overfladisk utover: kunnskap om språket. Eksterne data utløser og former prosessen delvis. Ved å studere den oppnådde tilstanden (kunnskapen om språket) og de eksterne dataene, kan vi trekke vidtrekkende konklusjoner om starttilstanden, den biologiske begavelsen som gjør språktilegnelse mulig. Konklusjonene om den opprinnelige tilstanden pålegger et skille mellom mulige og umulige språk. Skillet gjelder for alle de som deler den opprinnelige tilstanden – alle mennesker, så langt det er kjent; det ser ikke ut til å være noen forskjell i kapasitet til å tilegne seg språk blant eksisterende menneskegrupper.
Alt dette er normalvitenskap, og det har oppnådd mange resultater.
Eksperiment har vist at den stabile tilstanden hovedsakelig oppnås veldig tidlig, ved tre til fire års alder. Det er også veletablert at språkfakultetet har grunnleggende egenskaper som er spesifikke for mennesker, derav at det er en sann artsegenskap: felles for menneskegrupper og på grunnleggende måter en unik menneskelig egenskap.
Mye er utelatt i denne skjematiske beretningen, spesielt hvilken rolle naturloven spiller i vekst og utvikling: i tilfelle av et beregningssystem som språk, prinsipper for beregningseffektivitet. Men dette er essensen av saken. Igjen, normalvitenskap.
Det er viktig å være tydelig på Aristoteles sitt skille mellom besittelse av kunnskap og bruk av kunnskap (i samtidens terminologi, kompetanse og ytelse). I språktilfellet er den stabile tilstanden som oppnås besittelse av kunnskap, kodet i hjernen. Det indre systemet bestemmer en uavgrenset rekke strukturerte uttrykk, som vi hver kan betrakte som å formulere en tanke, hver eksternaliserbar i et eller annet sansemotorisk system, vanligvis lyd selv om det kan være tegn eller til og med (med vanskeligheter) berøring.
Det internt kodede systemet er tilgjengelig ved bruk av kunnskap (ytelse). Ytelse inkluderer intern bruk av språk i tanken: refleksjon, planlegging, erindring og mye mer. Statistisk sett er det den desidert overveldende språkbruken. Det er utilgjengelig for introspeksjon, selv om vi kan lære mye om det ved hjelp av vitenskapens normale metoder, "utenfra", metaforisk sett. Det som kalles "indre tale" er faktisk fragmenter av eksternalisert språk med dempet artikulasjonsapparat. Det er kun en fjern refleksjon av den interne språkbruken, viktige saker jeg ikke kan forfølge her.
Andre former for bruk av språk er persepsjon (parsing) og produksjon, sistnevnte involverer avgjørende egenskaper som forblir like mystiske for oss i dag som da de ble betraktet med ærefrykt og forbauselse av Galileo og hans samtidige ved begynnelsen av moderne vitenskap.
Vitenskapens hovedmål er å oppdage det indre systemet, både i dets opprinnelige tilstand i det menneskelige språkfakultetet og i de spesielle formene det antar ved tilegnelse. I den grad dette interne systemet er forstått, kan vi gå videre til å undersøke hvordan det går inn i ytelse, og samhandler med mange andre faktorer som inngår i bruk av språk.
Ytelsesdata gir bevis på arten av det interne systemet, spesielt når de er raffinert ved eksperiment, som i standard feltarbeid. Men selv den mest massive innsamlingen av data er nødvendigvis villedende på avgjørende måter. Den holder seg til det som normalt produseres, ikke kunnskapen om språket som er kodet i hjernen, det primære objektet som undersøkes for de som ønsker å forstå språkets natur og bruken av det. Det interne objektet bestemmer uendelig mange muligheter av en type som ikke vil bli brukt i normal oppførsel på grunn av faktorer som er irrelevante for språk, som korttidsminnebegrensninger, emner som ble studert for 60 år siden. Observerte data vil også inkludere mye som ligger utenfor systemet kodet i hjernen, ofte bevisst bruk av språk på måter som bryter med reglene i retoriske formål. Dette er truismer kjent for alle feltarbeidere, som er avhengige av fremkallingsteknikker med informanter, i utgangspunktet eksperimenter, for å gi et raffinert korpus som utelukker irrelevante restriksjoner og avvikende uttrykk. Det samme gjelder når lingvister bruker seg selv som informanter, en helt fornuftig og normal prosedyre, vanlig i psykologiens historie frem til i dag.
Ved å gå videre med normalvitenskapen finner vi at de interne prosessene og elementene i språket ikke kan oppdages ved inspeksjon av observerte fenomener. Ofte vises ikke disse elementene engang i tale (eller skrift), selv om effektene deres, ofte subtile, kan oppdages. Det er enda en grunn til at begrensning til observerte fenomener, som i LLM-tilnærminger, begrenser forståelsen av de interne prosessene som er kjerneobjektene for undersøkelser av språkets natur, dets tilegnelse og bruk. Men det er ikke relevant hvis bekymring for vitenskap og forståelse er forlatt til fordel for andre mål.
Mer generelt i vitenskapene, i årtusener, har konklusjoner blitt nådd ved eksperimenter - ofte tankeeksperimenter - hver en radikal abstraksjon fra fenomener. Eksperimenter er teoridrevne, og søker å forkaste de utallige irrelevante faktorene som inngår i observerte fenomener – som språklig ytelse. Alt dette er så elementært at det sjelden blir diskutert. Og kjent. Som nevnt går det grunnleggende skillet tilbake til Aristoteles sitt skille mellom besittelse av kunnskap og bruk av kunnskap. Førstnevnte er det sentrale studieobjektet. Sekundære (og ganske seriøse) studier undersøker hvordan det internt lagrede kunnskapssystemet brukes i ytelse, sammen med de mange ikke-språklige faktorene som inngår i det som er direkte observert.
Vi kan også huske en observasjon av evolusjonsbiolog Theodosius Dobzhansky, først og fremst kjent for sitt arbeid med Drosophila: Hver art er unik, og mennesker er de unike av alle. Hvis vi er interessert i å forstå hva slags skapninger vi er – etter påbudet fra Delphic Oracle for 2,500 år siden – vil vi først og fremst være opptatt av hva som gjør mennesker til det unike av alt, først og fremst språk og tanke, tett sammenvevd, slik det er anerkjent i en rik tradisjon som går tilbake til det klassiske Hellas og India. Det meste av atferd er ganske rutinemessig, og derfor til en viss grad forutsigbar. Det som gir reell innsikt i hva som gjør oss unike er det som ikke er rutine, som vi finner, noen ganger ved eksperimenter, noen ganger ved observasjon, fra normale barn til store kunstnere og vitenskapsmenn.
En siste kommentar i denne forbindelse. Samfunnet har vært plaget i et århundre av massive bedriftskampanjer for å oppmuntre til forakt for vitenskap, emner godt studert av blant andre Naomi Oreskes. Det begynte med selskaper hvis produkter er morderiske: bly, tobakk, asbest, senere fossilt brensel. Motivene deres er forståelige. Målet for en virksomhet i et kapitalistisk samfunn er profitt, ikke menneskelig velferd. Det er et institusjonelt faktum: Ikke spill spillet og du er ute, erstattet av noen som vil.
Bedriftens PR-avdelinger innså tidlig at det ville være en feil å benekte de økende vitenskapelige bevisene på de dødelige effektene av produktene deres. Det ville lett bli tilbakevist. Bedre å så tvil, oppmuntre til usikkerhet, forakt for disse spisse draktene som aldri har malt et hus, men som kommer ned fra Washington for å fortelle meg at jeg ikke skal bruke blymaling, og ødelegger virksomheten min (en ekte sak, lett multiplisert). Det har fungert alt for bra. Akkurat nå leder den oss på en vei til ødeleggelse av organisert menneskeliv på jorden.
I intellektuelle kretser har lignende effekter blitt produsert av den postmoderne vitenskapskritikken, demontert av Jean Bricmont og Alan Sokal, men fortsatt mye levende i noen kretser.
Det kan være uvennlig å foreslå spørsmålet, men det er, synes jeg, rettferdig å spørre om Tom Joneses og de som ukritisk gjentar og til og med forsterker sine uforsiktige proklamasjoner, bidrar til de samme skjemmende tendensene.
CJP: ChatGPT er en naturlig språkdrevet chatbot som bruker kunstig intelligens for å tillate menneskelignende samtaler. I en fersk artikkel i The New York Times, sammen med to andre forfattere, stenger du de nye chatbotene som en hype fordi de rett og slett ikke kan matche den språklige kompetansen til mennesker. Er det imidlertid ikke mulig at fremtidige innovasjoner innen AI kan produsere ingeniørprosjekter som vil matche og kanskje til og med overgå menneskelige evner?
NC: Kreditt for artikkelen bør gis til den faktiske forfatteren, Jeffrey Watumull, en god matematiker-lingvist-filosof. De to oppførte medforfatterne var konsulenter, som er enige i artikkelen, men som ikke har skrevet den.
Det er sant at chatbots i prinsippet ikke kan matche den språklige kompetansen til mennesker, av grunnene gjentatt ovenfor. Deres grunnleggende design hindrer dem i å nå den minimale betingelsen om tilstrekkelighet for en teori om menneskelig språk: å skille mulig fra umulige språk. Siden det er en egenskap ved designet, kan det ikke overvinnes av fremtidige innovasjoner i denne typen AI. Det er imidlertid fullt mulig at fremtidige ingeniørprosjekter vil matche og til og med overgå menneskelige evner, hvis vi mener menneskelig evne til å handle, ytelse. Som nevnt ovenfor har noen gjort det lenge: automatiske kalkulatorer for eksempel. Mer interessant, som nevnt, overgår insekter med små hjerner menneskelige kapasiteter forstått som kompetanse.
CJP: I den nevnte artikkelen ble det også observert at dagens AI-prosjekter ikke har en menneskelig moralsk evne. Gjør dette åpenbare faktum AI-roboter mindre av en trussel mot menneskeheten? Jeg regner med at argumentet kan være at det gjør dem kanskje enda mer.
NC: Det er virkelig et åpenbart faktum, å forstå "moralsk evne" bredt. Med mindre den kontrolleres nøye, kan AI-teknikk utgjøre alvorlige trusler. Anta for eksempel at omsorgen for pasienter var automatisert. De uunngåelige feilene som ville bli overvunnet av menneskelig dømmekraft kan produsere en skrekkhistorie. Eller anta at mennesker ble fjernet fra evaluering av truslene bestemt av automatiserte missilforsvarssystemer. Som en sjokkerende historisk rekord informerer oss, det ville være slutten på den menneskelige sivilisasjonen.
Med mindre den kontrolleres nøye, kan AI-teknikk utgjøre alvorlige trusler.
CJP: Regulatorer og rettshåndhevelsesbyråer i Europa vekker bekymring for spredningen av ChatGPT mens et nylig innsendt stykke EU-lovgivning prøver å håndtere AI ved å klassifisere slike verktøy i henhold til deres oppfattede risikonivå. Er du enig med de som er bekymret for at ChatGPT utgjør en alvorlig offentlig trussel? Dessuten, tror du virkelig at videreutviklingen av AI-verktøy kan stoppes inntil sikkerhetstiltak kan innføres?
NC: Jeg kan lett sympatisere med forsøk på å prøve å kontrollere truslene fra avansert teknologi, inkludert denne saken. Jeg er imidlertid skeptisk til muligheten for å gjøre det. Jeg mistenker at ånden er ute av flasken. Ondsinnede aktører – institusjonelle eller individuelle – kan sannsynligvis finne måter å unndra seg sikkerhetstiltak. Slike mistanker er selvsagt ingen grunn til ikke å prøve, og å utvise årvåkenhet.
ZNetwork finansieres utelukkende gjennom generøsiteten til leserne.
Donere