Artificiell intelligens (AI) sveper över världen. Det förändrar alla samhällsskikt och väcker i processen stora etiska problem för samhället och mänsklighetens framtid. ChatGPT, som dominerar sociala medier, är en AI-driven chatbot utvecklad av OpenAI. Det är en delmängd av maskininlärning och förlitar sig på det som kallas stora språkmodeller som kan generera mänskliga svar. Den potentiella applikationen för sådan teknik är verkligen enorm, varför det redan finns krav på att reglera AI som ChatGPT.
Kan AI överlista människor? Utgör det offentliga hot? Kan AI verkligen bli ett existentiellt hot? Världens framstående lingvist Noam Chomsky, och en av de mest uppskattade offentliga intellektuella genom tiderna, vars intellektuella ställning har jämförts med Galileos, Newtons och Descartes, tar sig an dessa tjatande frågor i intervjun som följer.
CJ Polychroniou: Som en vetenskaplig disciplin går artificiell intelligens (AI) tillbaka till 1950-talet, men under de senaste decennierna har den gjort intåg på alla möjliga områden, inklusive bank, försäkring, biltillverkning, musik och försvar. Faktum är att användningen av AI-tekniker har visat sig i vissa fall överträffa mänskliga förmågor, som i ett parti schack. Kommer maskiner sannolikt att bli smartare än människor?
Noam Chomsky: Bara för att förtydliga terminologin betyder termen "maskin" här program, i grunden en teori skriven i en notskrift som kan utföras av en dator – och en ovanlig sorts teori på intressanta sätt som vi kan lägga åt sidan här.
Vi kan göra en grov skillnad mellan ren teknik och vetenskap. Det finns ingen skarp gräns, men det är en användbar första uppskattning. Ren ingenjörskonst syftar till att producera en produkt som kan vara till någon nytta. Vetenskapen söker förståelse. Om ämnet är mänsklig intelligens, eller kognitiva kapaciteter hos andra organismer, söker vetenskapen förståelse för dessa biologiska system.
Som jag förstår dem, betraktade grundarna av AI – Alan Turing, Herbert Simon, Marvin Minsky och andra – det som vetenskap, en del av den då framväxande kognitiva vetenskapen, som använde sig av ny teknologi och upptäckter i den matematiska teorin om beräkning för att förhandsförståelse. Under åren har dessa farhågor bleknat och har till stor del förskjutits av en ingenjörsinriktning. De tidigare problemen avfärdas nu ofta, ibland nedlåtande, som GOFAI – gammaldags AI.
Om vi fortsätter med frågan, är det troligt att program kommer att utvecklas som överträffar mänskliga förmågor? Vi måste vara försiktiga med ordet "kapacitet", av skäl som jag återkommer till. Men om vi tar termen för att hänvisa till mänsklig prestation, så är svaret: definitivt ja. De har faktiskt funnits länge: miniräknaren i en bärbar dator till exempel. Det kan vida överstiga vad människor kan göra, om så bara på grund av brist på tid och minne. För slutna system som schack var det väl underförstått på 50-talet att förr eller senare, med framgången av massiv datorkapacitet och en lång period av förberedelser, kunde ett program utarbetas för att besegra en stormästare som spelar med en minnesbundenhet och tid. Prestationen år senare var ganska mycket PR för IBM. Många biologiska organismer överträffar människans kognitiva kapacitet på mycket djupare sätt. Ökenmyrorna på min bakgård har små hjärnor, men överträffar vida mänskliga navigationskapaciteter, i princip inte bara prestanda. Det finns ingen stor kedja av vara med människor på toppen.
Produkterna från AI-teknik används inom många områden, på gott och ont. Även enkla och välbekanta kan vara ganska användbara: inom språkområdet, program som autofyll, live-transkription, google translate, bland annat. Med mycket större datorkraft och mer sofistikerad programmering borde det finnas andra användbara tillämpningar, även inom vetenskapen. Det har redan funnits några: Att hjälpa till med studiet av proteinveckning är ett nyligen fall där massiv och snabb sökteknologi har hjälpt forskare att hantera ett kritiskt och motsträvigt problem.
Ingenjörsprojekt kan vara användbara eller skadliga. Båda frågorna uppstår när det gäller teknisk AI. Nuvarande arbete med stora språkmodeller (LLM), inklusive chatbots, tillhandahåller verktyg för desinformation, ärekränkning och vilseledande av oinformerade. Hoten förstärks när de kombineras med konstgjorda bilder och replikering av röst. Med olika bekymmer i åtanke har tiotusentals AI-forskare nyligen gjort det kallas för ett moratorium för utveckling på grund av potentiella faror som de uppfattar.
Som alltid måste möjliga fördelar med teknik vägas mot potentiella kostnader.
Helt andra frågor uppstår när vi vänder oss till AI och vetenskap. Här är försiktighet nödvändig på grund av orimliga och hänsynslösa påståenden, ofta förstärkta i media. För att klargöra frågorna, låt oss överväga fall, några hypotetiska, andra verkliga.
Jag nämnde insektsnavigering, vilket är en häpnadsväckande prestation. Insektsforskare har gjort stora framsteg i att studera hur det uppnås, även om neurofysiologin, en mycket svår fråga, förblir svårfångad, tillsammans med evolutionen av systemen. Detsamma gäller fåglars och havssköldpaddors fantastiska bedrifter som reser tusentals mil och ofelbart återvänder till ursprungsplatsen.
Anta att Tom Jones, en förespråkare för teknisk AI, kommer och säger: "Allt ditt arbete har motbevisats. Problemet är löst. Piloter från kommersiella flygbolag uppnår samma eller till och med bättre resultat hela tiden."
Om vi ens brydde oss om att svara, skulle vi skratta.
Ta fallet med polynesiernas sjöfartsbedrifter, som fortfarande lever bland inhemska stammar, som använder stjärnor, vind, strömmar för att landa sina kanoter på en utsedd plats hundratals kilometer bort. Även detta har varit föremål för mycket forskning för att ta reda på hur de gör det. Tom Jones har svaret: "Sluta slösa bort din tid; örlogsfartyg gör det hela tiden."
Samma svar.
Låt oss nu övergå till ett verkligt fall, språkinlärning. Det har varit ämnet för omfattande och mycket upplysande forskning de senaste åren, som visar att spädbarn har mycket rik kunskap om det omgivande språket (eller språken), långt utöver vad de uppvisar i prestanda. Det uppnås med få bevis, och i vissa avgörande fall inga alls. Som noggranna statistiska studier har visat, är tillgängliga data i bästa fall sparsamma, särskilt när rank-frekvens (”Zipfs lag”) beaktas.
Skriv in Tom Jones: "Du har blivit motbevisad. Utan att ta hänsyn till dina upptäckter kan LLM:er som skannar astronomiska mängder data hitta statistiska regelbundenheter som gör det möjligt att simulera data som de tränas på, vilket ger något som liknar normalt mänskligt beteende. Chatbots.”
Detta fall skiljer sig från de andra. För det första är det verkligt. För det andra, folk skrattar inte; i själva verket är många imponerade. För det tredje, till skillnad från de hypotetiska fallen, är de faktiska resultaten långt ifrån vad som påstås.
Dessa överväganden tar upp ett mindre problem med den nuvarande LLM-entusiasmen: dess totala absurditet, som i de hypotetiska fallen där vi känner igen den på en gång. Men det finns mycket allvarligare problem än absurditet.
Den ena är att LLM-systemen är utformade på ett sådant sätt att de inte kan berätta något om språk, inlärning eller andra aspekter av kognition, en principfråga, som inte går att reparera. Fördubbla terabyte av skannade data, lägg till ytterligare biljoner parametrar, använd ännu mer av Kaliforniens energi, och simuleringen av beteendet kommer att förbättras, samtidigt som det tydligare avslöjar principiellt misslyckande med tillvägagångssättet för att ge någon förståelse. Anledningen är elementär: Systemen fungerar lika bra med omöjliga språk som spädbarn inte kan tillägna sig som med de de tillägnar sig snabbt och praktiskt taget reflexmässigt.
Det är som om en biolog skulle säga: ”Jag har en fantastisk ny teori om organismer. Den listar många som finns och många som omöjligt kan existera, och jag kan inte berätta något om distinktionen.”
Återigen, vi skulle skratta. Eller borde.
Inte Tom Jones - nu hänvisar till faktiska fall. Tom Jones fortsätter med sin radikala avvikelse från vetenskapen och svarar: "Hur vet du något av detta tills du har undersökt alla språk?" Vid denna tidpunkt blir övergivandet av normalvetenskap ännu tydligare. Genom paritet av argument kan vi kasta ut genetik och molekylärbiologi, evolutionsteorin och resten av de biologiska vetenskaperna, som inte har provtagit mer än en liten bråkdel av organismer. Och för gott skull kan vi kasta ut all fysik. Varför tro på rörelselagarna? Hur många föremål har egentligen observerats i rörelse?
Det finns dessutom den lilla frågan om bevisbörda. De som föreslår en teori har ansvaret att visa att den är vettig, i det här fallet, att visa att den misslyckas för omöjliga språk. Det är inte andras ansvar att motbevisa förslaget, även om det i det här fallet verkar lätt nog att göra det.
Låt oss flytta uppmärksamheten till normal vetenskap, där saker blir intressanta. Även ett enskilt exempel på språkinlärning kan ge rik insikt i skillnaden mellan möjliga och omöjliga språk.
Skälen är enkla och välbekanta. All tillväxt och utveckling, inklusive det som kallas "inlärning", är en process som börjar med ett tillstånd hos organismen och omvandlar det steg för steg till senare stadier.
Att tillägna sig språk är en sådan process. Det initiala tillståndet är den biologiska begåvningen av språkfakulteten, som uppenbarligen existerar, även om det, som vissa tror, är en speciell kombination av andra förmågor. Det är högst osannolikt av skäl som man länge förstått, men det är inte relevant för vår oro här, så vi kan lägga det åt sidan. Uppenbarligen finns det en biologisk begåvning för den mänskliga språkförmågan. Den enda sanningen.
Övergången fortsätter till ett relativt stabilt tillstånd, endast ytligt förändrat bortom: kunskap om språket. Extern data utlöser och formar delvis processen. Genom att studera det uppnådda tillståndet (kunskaper om språket) och de externa data kan vi dra långtgående slutsatser om initialtillståndet, den biologiska begåvning som möjliggör språkinlärning. Slutsatserna om utgångsläget gör en åtskillnad mellan möjliga och omöjliga språk. Distinktionen gäller för alla som delar det initiala tillståndet – alla människor, så vitt man vet; det verkar inte finnas någon skillnad i förmåga att förvärva språk bland existerande mänskliga grupper.
Allt detta är normal vetenskap, och det har uppnått många resultat.
Experiment har visat att det stabila tillståndet väsentligen uppnås mycket tidigt, vid tre till fyra års ålder. Det är också väletablerat att språkfakulteten har grundläggande egenskaper som är specifika för människor, därav att det är en sann artegenskap: gemensam för mänskliga grupper och på grundläggande sätt en unik mänsklig egenskap.
Mycket utelämnas i denna schematiska redogörelse, särskilt naturlagens roll i tillväxt och utveckling: i fallet med ett beräkningssystem som språk, principer för beräkningseffektivitet. Men detta är kärnan i saken. Återigen, normalvetenskap.
Det är viktigt att vara tydlig med Aristoteles distinktion mellan besittning av kunskap och användning av kunskap (i samtida terminologi, kompetens och prestation). I språkfallet är det stabila tillståndet som erhålls besittning av kunskap, kodad i hjärnan. Det interna systemet bestämmer en obegränsad mängd strukturerade uttryck, som vi var och en kan betrakta som att formulera en tanke, var och en externiserbar i något sensomotoriskt system, vanligtvis ljud även om det kan vara tecken eller till och med (med svårighet) beröring.
Det internt kodade systemet nås med hjälp av kunskap (prestanda). Prestanda inkluderar intern användning av språk i tanken: reflektion, planering, hågkomst och mycket mer. Statistiskt sett är det det överlägset överväldigande språkbruket. Det är otillgängligt för introspektion, även om vi kan lära oss mycket om det genom vetenskapens normala metoder, "utifrån", metaforiskt sett. Det som kallas "inre tal" är i själva verket fragment av externt språk med dämpad artikulationsapparat. Det är bara en avlägsen återspegling av det interna språkbruket, viktiga frågor som jag inte kan driva här.
Andra former av språkanvändning är perception (analys) och produktion, de sistnämnda involverar avgörande egenskaper som förblir lika mystiska för oss idag som när de betraktades med vördnad och häpnad av Galileo och hans samtida vid den moderna vetenskapens gryning.
Vetenskapens huvudsakliga mål är att upptäcka det inre systemet, både i dess initiala tillstånd i den mänskliga förmågan till språk och i de speciella former det antar i tillägnandet. I den mån detta interna system förstås, kan vi fortsätta att undersöka hur det kommer in i prestanda, interagerar med många andra faktorer som träder i användning av språk.
Data om prestanda ger bevis för det interna systemets natur, särskilt när de förfinas genom experiment, som i standardfältarbete. Men även den mest omfattande insamlingen av data är nödvändigtvis vilseledande på avgörande sätt. Den håller sig till det som normalt produceras, inte kunskapen om språket som kodas i hjärnan, det primära föremålet som undersöks för dem som vill förstå språkets natur och dess användning. Det interna objektet bestämmer oändligt många möjligheter av ett slag som inte kommer att användas i normalt beteende på grund av faktorer som är irrelevanta för språket, som korttidsminnesbegränsningar, ämnen som studerades för 60 år sedan. Observerade data kommer också att innehålla mycket som ligger utanför det system som kodas i hjärnan, ofta medvetet språkbruk på sätt som bryter mot reglerna i retoriska syften. Dessa är sanningar kända för alla fältarbetare, som förlitar sig på framkallningstekniker med informanter, i princip experiment, för att ge en förfinad korpus som utesluter irrelevanta restriktioner och avvikande uttryck. Detsamma gäller när lingvister använder sig själva som informanter, en fullt förnuftig och normal procedur, vanlig i psykologins historia fram till idag.
Om vi går vidare med normalvetenskap finner vi att språkets interna processer och element inte kan upptäckas genom inspektion av observerade fenomen. Ofta förekommer dessa element inte ens i tal (eller skrift), även om deras effekter, ofta subtila, kan upptäckas. Det är ytterligare ett skäl till varför begränsningen till observerade fenomen, som i LLM-metoder, kraftigt begränsar förståelsen av de interna processer som är kärnobjekten för undersökning av språkets natur, dess tillägnande och användning. Men det är inte relevant om oron för vetenskap och förståelse har övergetts till förmån för andra mål.
Mer allmänt inom vetenskapen har man i årtusenden dragit slutsatser genom experiment – ofta tankeexperiment – var och en en radikal abstraktion från fenomen. Experiment är teoridrivna och försöker förkasta de otaliga irrelevanta faktorerna som ingår i observerade fenomen – som språklig prestation. Allt detta är så elementärt att det sällan ens diskuteras. Och bekant. Som nämnts går den grundläggande distinktionen tillbaka till Aristoteles distinktion mellan besittning av kunskap och användning av kunskap. Det förra är det centrala studieobjektet. Sekundära (och ganska seriösa) studier undersöker hur det internt lagrade kunskapssystemet används i prestation, tillsammans med de många icke-språkliga faktorerna som ingår i det som direkt observeras.
Vi kan också komma ihåg en observation av evolutionsbiologen Theodosius Dobzhansky, känd främst för sitt arbete med Drosophila: Varje art är unik, och människorna är de unika av alla. Om vi är intresserade av att förstå vilken typ av varelser vi är – efter påbudet från det delfiska oraklet för 2,500 XNUMX år sedan – kommer vi i första hand att ägna oss åt vad som gör människan till den unikaste av alla, främst språk och tanke, nära sammanflätade, vilket är känt i en rik tradition som går tillbaka till det klassiska Grekland och Indien. De flesta beteenden är ganska rutinmässiga, därför till viss del förutsägbara. Det som ger verklig insikt i vad som gör oss unika är det som inte är rutin, vilket vi finner, ibland genom experiment, ibland genom observation, från normala barn till stora konstnärer och vetenskapsmän.
En sista kommentar i detta sammanhang. Samhället har plågats i ett sekel av massiva företagskampanjer för att uppmuntra förakt för vetenskap, ämnen som bland annat har studerats väl av Naomi Oreskes. Det började med företag vars produkter är mordiska: bly, tobak, asbest, senare fossila bränslen. Deras motiv är förståeliga. Målet för ett företag i ett kapitalistiskt samhälle är vinst, inte mänsklig välfärd. Det är ett institutionellt faktum: Spela inte spelet och du är ute, ersatt av någon som kommer.
Företagens PR-avdelningar insåg tidigt att det skulle vara ett misstag att förneka de växande vetenskapliga bevisen för de dödliga effekterna av deras produkter. Det skulle lätt motbevisas. Bättre att så tvivel, uppmuntra osäkerhet, förakt för dessa spetsiga kostymer som aldrig har målat ett hus men kommit ner från Washington för att säga åt mig att inte använda blyfärg, vilket förstör mitt företag (ett verkligt fall, lätt att multiplicera). Det har fungerat alldeles för bra. Just nu leder den oss på en väg mot förstörelse av organiserat mänskligt liv på jorden.
I intellektuella kretsar har liknande effekter skapats av den postmoderna vetenskapskritiken, demonterat av Jean Bricmont och Alan Sokal, men fortfarande mycket levande i vissa kretsar.
Det kan vara ovänligt att föreslå frågan, men det är, tycker jag, rättvist att fråga sig om Tom Joneses och de som okritiskt upprepar och till och med förstärker sina slarviga tillkännagivanden bidrar till samma skandalösa tendenser.
CJP: ChatGPT är en naturligt språkdriven chatbot som använder artificiell intelligens för att tillåta mänskliga konversationer. I en ny artikel i The New York Times, tillsammans med två andra författare, stänger du ner de nya chatbotarna som en hype eftersom de helt enkelt inte kan matcha människors språkliga kompetens. Är det dock inte möjligt att framtida innovationer inom AI kan producera ingenjörsprojekt som matchar och kanske till och med överträffar mänskliga förmågor?
NC: Kredit för artikeln bör ges till den faktiska författaren, Jeffrey Watumull, en fin matematiker-lingvist-filosof. De två listade medförfattarna var konsulter, som instämmer i artikeln men som inte skrivit den.
Det är sant att chatbots i princip inte kan matcha människors språkliga kompetens, av de skäl som upprepats ovan. Deras grundläggande utformning hindrar dem från att nå det minimala villkoret för adekvans för en teori om mänskligt språk: att skilja möjliga från omöjliga språk. Eftersom det är en egenskap hos designen kan det inte övervinnas av framtida innovationer inom denna typ av AI. Det är dock fullt möjligt att framtida ingenjörsprojekt kommer att matcha och till och med överträffa mänskliga förmågor, om vi menar mänsklig förmåga att agera, prestanda. Som nämnts ovan har vissa gjort det länge: automatiska miniräknare till exempel. Mer intressant, som nämnts, överträffar insekter med små hjärnor mänskliga förmågor, uppfattade som kompetens.
CJP: I den tidigare nämnda artikeln observerades också att dagens AI-projekt inte besitter en mänsklig moralisk förmåga. Gör detta uppenbara faktum att AI-robotar är mindre av ett hot mot mänskligheten? Jag tror att argumentet kan vara att det gör dem kanske ännu mer.
NC: Det är verkligen ett uppenbart faktum, att förstå "moralisk förmåga" brett. Om den inte kontrolleras noggrant kan AI-teknik utgöra allvarliga hot. Antag till exempel att vården av patienter var automatiserad. De oundvikliga misstagen som skulle övervinnas av mänskligt omdöme kan producera en skräckhistoria. Eller anta att människor togs bort från utvärderingen av de hot som bestämts av automatiserade missilförsvarssystem. Som ett chockerande historiskt rekord informerar oss, det skulle vara slutet på den mänskliga civilisationen.
Om den inte kontrolleras noggrant kan AI-teknik utgöra allvarliga hot.
CJP: Tillsynsmyndigheter och brottsbekämpande myndigheter i Europa väcker oro över spridningen av ChatGPT medan en nyligen inlämnad EU-lagstiftning försöker hantera AI genom att klassificera sådana verktyg efter deras upplevda risknivå. Håller du med dem som är oroade över att ChatGPT utgör ett allvarligt offentligt hot? Dessutom, tror du verkligen att vidareutvecklingen av AI-verktyg kan stoppas tills säkerhetsåtgärder kan införas?
NC: Jag kan lätt sympatisera med ansträngningar att försöka kontrollera hoten från avancerad teknik, inklusive detta fall. Jag är dock skeptisk till möjligheten att göra det. Jag misstänker att anden är ur flaskan. Skadliga aktörer – institutionella eller individuella – kan förmodligen hitta sätt att undvika skyddsåtgärder. Sådana misstankar är naturligtvis ingen anledning att inte försöka, och att vara vaksam.
ZNetwork finansieras enbart genom sina läsares generositet.
Donera