L'intelligenza artificiale (IA) spazza u mondu. Hè trasfurmendu ogni caminu di a vita è suscita in u prucessu grandi preoccupazioni etichi per a sucità è l'avvene di l'umanità. ChatGPT, chì domina e social media, hè un chatbot alimentatu da AI sviluppatu da OpenAI. Hè un sottumessu di l'apprendimentu di macchina è si basa in ciò chì hè chjamatu Large Language Models chì ponu generà risposti umani. L'applicazione potenziale per una tale tecnulugia hè veramente enormosa, per quessa chì ci sò digià chjamati per regulà l'AI cum'è ChatGPT.
L'intelligenza artificiale pò superare l'omu? Pone minacce publicu? Infatti, l'IA pò diventà una minaccia esistenziale? U primu linguista di u mondu Noam Chomsky, è unu di l'intellettuali publichi più stimati di tutti i tempi, chì a so statura intellettuale hè stata paragunata à quella di Galileu, Newton è Descartes, affruntà queste dumande fastidiose in l'entrevista chì seguita.
CJ Polychroniou: Cum'è una disciplina scientifica, l'intelligenza artificiale (IA) data di l'anni 1950, ma in l'ultimi dui decennii hà fattu incursioni in ogni tipu di campi, cumpresi banca, assicuranza, fabricazione di auto, musica è difesa. In fatti, l'usu di e tecniche AI hè statu dimustratu in certi casi per superà e capacità umane, cum'è in un ghjocu di scacchi. E macchine sò probabili di diventà più intelligenti cà l'omu?
Noam Chomsky: Solu per chjarificà a terminologia, u terminu "macchina" significa quì U prugramma, basicamente una teoria scritta in una notazione chì pò esse eseguita da un urdinatore - è un tipu inusual di teoria in modi interessanti chì pudemu mette da parte quì.
Pudemu fà una distinzione grossa trà ingegneria pura è scienza. Ùn ci hè micca un cunfini strettu, ma hè una prima apprussimazione utile. L'ingegneria pura cerca di pruduce un pruduttu chì pò esse di qualchì usu. A scienza cerca l'intelligenza. Se u tema hè l'intelligenza umana, o capacità cognitive di altri organismi, a scienza cerca di capiscenu questi sistemi biologichi.
Comu li capiscu, i fundatori di l'AI - Alan Turing, Herbert Simon, Marvin Minsky è altri - l'anu cunsiderata cum'è scienza, parte di e scienze cognitive emergenti allora, chì utilizanu e novi tecnulugia è scuperte in a teoria matematica di a computazione capiscitura anticipata. Au fil des ans, ces préoccupations s'évanouissent et sont largement déplacées par l'orientation ingénierie. I preoccupiesi di prima sò oghji cumunamenti licenziati, à volte in modo condescendente, cum'è GOFAI - una bona IA antica.
Cuntinuendu cù a quistione, hè prubabile chì i prugrammi seranu ideati chì superanu e capacità umane? Avemu da esse attenti à a parolla "capacità", per ragioni à quale vulteraghju. Ma si pigliamu u terminu per riferite à u rendiment umanu, allora a risposta hè: definitamente sì. In fatti, sò longu esistenu: a calculatrice in un laptop, per esempiu. Puderà assai più di ciò chì l'omu pò fà, sia solu per mancanza di tempu è memoria. Per i sistemi chjusi cum'è i scacchi, era ben capitu in l'anni '50 chì, prima o dopu, cù l'avanzata di capacità massive di l'informatica è un longu periodu di preparazione, puderia esse ideatu un prugramma per scunfighja un grandmaestru chì ghjoca cù un ligatu in memoria. è tempu. U successu anni dopu era quasi PR per IBM. Parechji urganismi biologichi superanu e capacità cognitive umane in modi assai più profondi. E formiche di u desertu in u mo currettu anu un cervellu minuscule, ma supera assai e capacità di navigazione umana, in principiu, micca solu u rendiment. Ùn ci hè micca una Grande Catena di Essiri cù l'omu in cima.
I prudutti di l'ingenieria AI sò usati in parechji campi, per u megliu o per u peghju. Ancu quelli simplici è familiari ponu esse assai utili: in l'area di a lingua, prugrammi cum'è autofill, live transcription, google translate, frà altri. Cù una putenza di computing assai più grande è una prugrammazione più sofisticata, duverebbe esse altre applicazioni utili, ancu in e scienze. Ci hè digià statu un pocu: L'assistenza in u studiu di u plegamentu di a proteina hè un casu recente induve a tecnulugia di ricerca massiva è rapida hà aiutatu i scientisti à trattà cun un prublema criticu è recalcitrante.
Prughjetti ingegneria pò esse utile, o dannusu. E duie dumande sorgenu in u casu di l'IA ingegneria. U travagliu attuale cù i Grandi Modelli di Lingua (LLM), cumpresi i chatbots, furnisce strumenti per a disinformazione, a difamazione è ingannà i disinformati. I minacce sò rinfurzati quandu sò cumminati cù l'imaghjini artificiali è a replicazione di a voce. Cù diverse preoccupazioni in mente, decine di millaie di circadori AI anu recentemente chjamatu per una moratoria di u sviluppu per via di i periculi putenziali chì percepiscenu.
Cum'è sempre, i pussibuli benefici di a tecnulugia anu da esse ponderati cù i costi putenziali.
Quistioni assai diverse si ponenu quandu avemu turnatu à l'IA è a scienza. Quì a prudenza hè necessaria per via di rivindicazioni esorbitanti è imprudenti, spessu amplificate in i media. Per chjarificà i prublemi, cunsideremu i casi, alcuni ipotetichi, altri veri.
Aghju menzionatu a navigazione insetti, chì hè un successu maravigghiusu. I scientisti di l'insetti anu fattu assai prugressu in studià cumu si ghjunghje, ancu s'è a neurofisiologia, una materia assai difficiuli, ferma elusiva, cù l'evoluzione di i sistemi. U stessu hè veru di i maravigghiusi fatti di l'uccelli è di e tartarughe di mare chì viaghjanu millaie di chilometri è tornanu senza errore à u locu d'origine.
Suppone chì Tom Jones, un proponente di l'intelligenza artificiale di l'ingegneria, vene è dice: "U vostru travagliu hè statu tuttu refutatu. U prublema hè risolta. I piloti di e compagnie aeree cummirciali ottennu sempre u listessu o ancu megliu risultati.
S'ellu ci hè ancu preoccupatu di risponde, ririamu.
Pigliate u casu di i sfruttamenti marittimi di i Polinesiani, sempre vivi trà e tribù indigene, chì utilizanu stelle, ventu, currenti per sbarcà e so canoe in un locu designatu à centinaie di chilometri di distanza. Questu hè ancu u tema di assai ricerca per sapè cumu si facenu. Tom Jones hà a risposta: "Smetta di perde u vostru tempu; i navi navali facenu tuttu u tempu ".
Stessa risposta.
Passemu avà à un casu veru, l'acquistu di a lingua. Hè statu u tema di una ricerca estensiva è assai illuminante in l'ultimi anni, chì dimustranu chì i zitelli anu una cunniscenza assai ricca di a lingua ambientale (o lingue), assai oltre ciò chì mostranu in u performance. Hè ottenutu cù pocu evidenza, è in certi casi cruciali nimu. À u megliu, cum'è studi statistici attenti anu dimustratu, i dati dispunibuli sò sparsi, in particulare quandu a rank-frequency ("a lege di Zipf") hè presa in contu.
Entre Tom Jones: "Avete statu refutatu. Fendu senza attenzione à e vostre scuperte, LLMs chì scannanu quantità astronomiche di dati ponu truvà regularità statistiche chì facenu pussibule simulà e dati nantu à quale sò furmati, pruducia qualcosa chì s'assumiglia à u cumpurtamentu umanu normale. Chatbots."
Stu casu hè differente da l'altri. Prima, hè vera. Siconda, a ghjente ùn ride ; in fatti, parechji sò maravigliati. Terzu, à u cuntrariu di i casi ipotetichi, i risultati attuali sò luntanu da ciò chì hè dichjaratu.
Queste considerazioni ponenu un prublema minore cù l'entusiasmu LLM attuale: u so assurdità tutale, cum'è in i casi ipotetichi induve a ricunnoscemu à una volta. Ma ci sò prublemi assai più serii cà l'assurdità.
Unu hè chì i sistemi LLM sò cuncepiti in modu chì ùn ponu micca dì nunda di a lingua, l'apprendimentu, o altri aspetti di a cognizione, una materia di principiu, irremediable. Doppiu i terabyte di dati scansati, aghjunghje un altru trilione di parametri, utilizate ancu più di l'energia di California, è a simulazione di u cumpurtamentu hà da migliurà, mentre chì palesa più chjaramente u fallimentu in principiu di l'approcciu per rende ogni capiscitura. U mutivu hè elementariu: I sistemi funzionanu cusì bè cù lingue impussibili chì i zitelli ùn ponu micca acquistà cum'è cù quelli chì acquistanu rapidamente è virtualmente riflessive.
Hè cum'è s'ellu un biologu dicia : "Aghju una grande teoria nova di l'organisimi. Elenca parechji chì esistenu è parechji chì ùn ponu micca esse, è ùn possu micca dì nunda di a distinzione ".
Di novu, ririamu. O duveria.
Micca Tom Jones - avà si riferisce à i casi reali. Persistendu in a so partenza radicale da a scienza, Tom Jones risponde: "Cumu sapete qualcosa di questu finu à avè investigatu tutte e lingue?" À questu puntu l'abbandunamentu di a scienza normale diventa ancu più chjaru. Per parità di l'argumentu, pudemu scaccià a genetica è a biologia moleculare, a teoria di l'evoluzione, è u restu di e scienze biologiche, chì ùn anu micca campionatu più di una piccula frazione di l'organisimi. È per bona misura, pudemu caccià tutta a fisica. Perchè crede in e lege di u muvimentu? Quanti ogetti sò stati veramente osservati in muvimentu?
Ci hè, in più, a piccula materia di fardelu di prova. Quelli chì prupone una tiuria anu a rispunsabilità di dimustrà ch’ella hà un certu sensu, in stu casu, dimustrà ch’ella falla pè e lingue impussibili. Ùn hè micca a rispunsabilità di l'altri di refute a pruposta, ancu s'ellu in questu casu pare abbastanza faciule per fà.
Passemu l'attenzione à a scienza normale, induve e cose diventanu interessanti. Ancu un unicu esempiu di l'acquistu di a lingua pò dà una visione ricca di a distinzione trà e lingue pussibuli è impussibili.
I mutivi sò diretti, è familiari. Tuttu u crescita è u sviluppu, cumpresu ciò chì hè chjamatu "amparera", hè un prucessu chì principia cù un statu di l'organismu è u trasfurmeghja passu à passu à stadi successivi.
L'acquistu di a lingua hè un tali prucessu. U statu iniziale hè a dotazione biologica di a facultà di lingua, chì ovviamente esiste, ancu s'ellu hè, cum'è certi crede, una cumminazione particulare di altre capacità. Hè assai improbabile per ragioni chì sò longu capitu, ma ùn hè micca pertinente à e nostre preoccupazioni quì, cusì pudemu mette da parte. Chjaramente ci hè una dotazione biologica per a facultà umana di lingua. U più pocu truismu.
A transizione procede à un statu relativamente stabile, cambiatu solu superficialmente oltre: a cunniscenza di a lingua. I dati esterni attivanu è formanu parzialmente u prucessu. Studiendu u statu ghjuntu (a cunniscenza di a lingua) è i dati esterni, si pò piglià cunclusioni à longu andà nant’à u statu iniziale, a dotazione biologica chì permette l’acquistu di a lingua. E cunclusioni nantu à u statu iniziale imponenu una distinzione trà e lingue pussibuli è impussibili. A distinzione vale per tutti quelli chì sparte u statu iniziale - tutti l'omu, quantu hè cunnisciutu; ùn pare micca esse una diferenza in a capacità di acquistà a lingua trà i gruppi umani esistenti.
Tuttu chistu hè a scienza normale, è hà ottinutu parechji risultati.
L'esperimentu hà dimustratu chì u statu stabile hè sustinibilmente ottenutu assai prima, da trè à quattru anni. Hè ancu stabilitu chì a facultà di lingua hà proprietà basiche specifiche à l'omu, dunque chì hè una vera pruprietà di spezie: cumuna à i gruppi umani è in modu fundamentale un attributu umanu unicu.
Moltu hè lasciatu fora in questu contu schematicu, in particulare u rolu di a lege naturale in a crescita è u sviluppu: in u casu di un sistema computazionale cum'è a lingua, principii di efficienza computazionale. Ma questu hè l'essenza di a materia. Di novu, a scienza normale.
Hè impurtante di esse chjaru nantu à a distinzione di Aristotele trà pussessu di cunniscenze è usu di cunniscenze (in a terminologia cuntempuranea, cumpetenza è prestazione). In u casu di a lingua, u statu stabile ottenutu hè pussessu di a cunniscenza, codificata in u core. U sistema internu determina una varietà illimitata di espressioni strutturate, ognuna di quale pudemu cunsiderà cum'è formulazione di un pensamentu, ognuna esternalizabile in un sistema sensorimutore, di solitu sonu ancu se puderia esse signu o ancu (cun difficultà) toccu.
U sistema codificatu internamente hè accessu in usu di cunniscenze (prestazione). A prestazione include l'usu internu di a lingua in u pensamentu: riflessione, pianificazione, ricordu, è assai di più. Statisticamente parlante, hè di gran lunga l'usu eccessiva di a lingua. Hè inaccessibile à l'introspezione, ancu s'è pudemu amparà assai nantu à i metudi normali di a scienza, da "fora", metaforicamente parlante. Ciò chì hè chjamatu "discorsu internu" hè, in fattu, frammenti di lingua esternalizata cù l'apparatu articulatory muted. Hè solu una riflessione remota di l'usu internu di a lingua, questioni impurtanti chì ùn possu perseguite quì.
Altre forme d'usu di a lingua sò a percepzioni (parsing) è a pruduzzione, l'ultime chì implicanu di manera cruciale e proprietà chì fermanu cusì misteriose per noi oghje cum'è quandu eranu cunsiderate cù maraviglia è maraviglia da Galileu è i so cuntimpuranii à l'alba di a scienza muderna.
U scopu principale di a scienza hè di scopre u sistema internu, sia in u so statu iniziale in a facultà umana di a lingua sia in e forme particulare chì assume in l'acquistu. In u puntu chì stu sistema internu hè capitu, pudemu prucede à investigà cumu si entra in u rendiment, interagisce cù parechji altri fattori chì entranu in usu di a lingua.
Dati di u funziunamentu furnisce evidenza nantu à a natura di u sistema internu, in particulare quandu sò raffinati da l'esperimentu, cum'è in u travagliu di campu standard. Ma ancu a cullizzioni più massiva di dati hè necessariamente ingannosa in modi cruciali. Mantene à ciò chì hè normalment pruduciutu, micca a cunniscenza di a lingua codificata in u cervellu, l'ughjettu primariu investigatu per quelli chì volenu capisce a natura di a lingua è u so usu. Ddu ughjettu internu determina infinite pussibulità di un tipu chì ùn serà micca usatu in u cumpurtamentu normale per via di fatturi irrilevanti per a lingua, cum'è limitazioni di memoria di cortu termine, temi studiati 60 anni fà. I dati osservati includenu ancu assai chì si trova fora di u sistema codificatu in u cervellu, spessu l'usu cuscente di a lingua in modi chì violanu e regule per scopi retorichi. Quessi sò truismi cunnisciuti da tutti i travagliadori di u campu, chì s'appoghjanu nantu à e tecniche di elicitazione cù l'informatori, basamenti esperimenti, per pruduce un corpus raffinatu chì esclude restrizioni irrilevanti è espressioni devianti. U stessu hè veru quandu i linguisti si usanu cum'è informatori, una prucedura perfettamente sensibule è nurmale, cumuna in a storia di a psiculugia sin'à oghje.
Prucedendu più cù a scienza nurmale, truvamu chì i prucessi internu è l'elementi di a lingua ùn ponu esse rilevati da l'ispezione di i fenomeni osservati. Spessu questi elementi ùn si prisentanu mancu in a parolla (o in a scrittura), ancu s'è i so effetti, spessu sottili, ponu esse rilevati. Hè ancu un altru mutivu perchè a restrizzione à i fenomeni osservati, cum'è in l'avvicinamenti di LLM, limita drasticamente a cunniscenza di i prucessi interni chì sò l'uggetti core di indagine in a natura di a lingua, a so acquisizione è l'usu. Ma questu ùn hè micca pertinente se a preoccupazione per a scienza è l'intelligenza sò stati abbandunati in favore di altri scopi.
Più in generale in e scienze, per millennii, i cunclusioni sò stati ghjunti da esperimenti - spessu esperimenti pensati - ognunu una astrazione radicale da i fenomeni. L'esperimenti sò guidati da a teoria, chì cercanu di scartà l'innumerevoli fattori irrilevanti chì entranu in i fenomeni osservati, cum'è u rendiment linguisticu. Tuttu chistu hè cusì elementariu chì raramente hè ancu discututu. È familiar. Comu nutatu, a distinzione basica torna à a distinzione di Aristòtili trà u pussessu di a cunniscenza è l'usu di a cunniscenza. U primu hè l'ughjettu cintrali di studiu. Studi secundari (è abbastanza seriu) investiganu cumu u sistema di cunniscenze almacenatu internamente hè utilizatu in u funziunamentu, cù i numerosi fatturi non-linguistichi chì entra in ciò chì hè direttamente osservatu.
Puderemu ancu ricurdà una osservazione di u biologu evolutivu Theodosius Dobzhansky, famosu principarmenti per u so travagliu cù Drosophila: Ogni spezia hè unica, è l'omu sò l'unicu di tutti. S'ellu ci interessa à capisce chì tipu di criaturi simu - dopu à l'ingiunzione di l'Oraculu Delphic 2,500 anni fà - seremu primuramente preoccupati di ciò chì face l'umani u più unicu di tutti, principalmente lingua è pensamentu, strettamente intrecciati, cum'è ricunnisciutu in una riche tradition qui remonte à la Grèce classique et à l'Inde. A maiò parte di u cumpurtamentu hè abbastanza rutina, per quessa, in una certa misura prevedibile. Ciò chì furnisce una visione reale di ciò chì ci rende unichi hè ciò chì ùn hè micca rutina, chì truvamu, qualchì volta per esperimentu, à volte per osservazione, da i zitelli normali à grandi artisti è scientisti.
Un ultimu cummentariu in questa cunnessione. A società hè stata afflitta dapoi un seculu da campagne corporative massive per incuragisce u disprezzu per a scienza, temi ben studiati da Naomi Oreskes frà altri. Cuminciò cù corporazioni chì i so prudutti sò assassini: piombo, tabacco, amianto, più tardi carburanti fossili. I so mutivi sò capiscenu. U scopu di un affari in una sucità capitalista hè u prufittu, micca u benessiri umanu. Hè un fattu istituziunale: Ùn ghjucate micca u ghjocu è site fora, rimpiazzatu da qualchissia chì hà da fà.
I dipartimenti PR corporativi ricunnoscevanu prestu chì seria un sbagliu di nigà l'evidenza scientifica crescente di l'effetti letali di i so prudutti. Chì saria facilmente refuted. Megliu à suminà u dubbitu, incuragisce l'incertezza, u disprezzu per issi vestiti a punta chì ùn anu mai dipintu una casa, ma sò falati da Washington per dì mi di ùn aduprà pittura di piombo, distrughjendu u mo affari (casu veru, facilmente multiplicatu). Chì hà travagliatu troppu bè. Avà ci porta in una strada per a distruzzione di a vita umana organizata nantu à a terra.
In i circles intellettuale, effetti simili sò stati pruduciuti da a critica postmoderna di a scienza, dismantellata di Jean Bricmont è Alan Sokal, ma sempre assai vivu in certi circoli.
Puderà esse disgraziatu di suggerisce a quistione, ma hè, pensu, ghjustu di dumandà se i Tom Jones è quelli chì ripetenu senza critichi è ancu amplificanu e so pruclamazioni trascurate cuntribuiscenu à e stesse tendenze malefici.
CJP: ChatGPT hè un chatbot guidatu in lingua naturale chì usa intelligenza artificiale per permette conversazioni simili à l'umani. In un articulu recente in Lu New York Times, In cunghjunzione cù dui altri autori, chjude i novi chatbots cum'è un hype perchè simpricimenti ùn ponu micca currisponde à a cumpetenza linguistica di l'omu. Ùn hè però pussibule chì e innovazioni future in IA ponu pruduce prughjetti di ingegneria chì currispondenu è forse ancu superà e capacità umane?
NC: U creditu per l'articulu deve esse datu à l'autore propiu, Jeffrey Watumull, un bellu matematicu-linguista-filòsufu. I dui co-autori listati eranu cunsultanti, chì accunsenu cù l'articulu, ma ùn l'anu micca scrittu.
Hè vera chì i chatbots ùn ponu in principiu currisponde à a cumpetenza linguistica di l'omu, per i motivi ripetuti sopra. U so disignu di basa li impedisce di ghjunghje à a cundizione minima d'adeguatezza per una tiurìa di a lingua umana: distinguishe pussibuli da e lingue impussibili. Siccomu hè una pruprietà di u disignu, ùn pò micca esse superatu da e innovazioni future in stu tipu di IA. Tuttavia, hè abbastanza pussibule chì i futuri prughjetti di ingegneria currispondenu è ancu superà e capacità umane, s'ellu intendemu a capacità umana di agisce, prestazione. Comu diciatu sopra, certi l'anu fattu longu : calculatrici automatiche per esempiu. Hè più interessante, cum'è l'annunziate, l'insetti cù un cervellu minuscule superanu e capacità umane intesu cum'è cumpetenza.
CJP: In l'articulu sopra, hè statu ancu osservatu chì i prughjetti di l'AI d'oghje ùn anu micca una facultà morale umana. Stu fattu evidenti rende i robot AI menu di una minaccia per a razza umana? Pensu chì l'argumentu pò esse chì li rende forse ancu di più.
NC: Hè veramente un fattu evidenti, cumprendendu "facultà morale" largamente. A menu chì ùn hè micca cuntrullata currettamente, l'ingegneria AI pò esse minacce severi. Suppone, per esempiu, chì a cura di i pazienti hè stata automatizata. L'errori inevitabbili chì seranu superati da u ghjudiziu umanu puderanu pruduce una storia d'orrore. O suppone chì l'omu sò stati eliminati da a valutazione di e minacce determinate da i sistemi automatizati di difesa missilistica. Cum'è un record storicu scandalizante informa noi, chì saria a fine di a civilizazione umana.
A menu chì ùn hè micca cuntrullata currettamente, l'ingegneria AI pò esse minacce severi.
CJP: I regulatori è l'agenzii di l'applicazione di a lege in Europa suscitanu preoccupazioni per a diffusione di ChatGPT, mentre chì un pezzu di legislazione di l'Unione Europea presentatu di pocu tempu prova di trattà cù l'AI classificà tali strumenti secondu u so livellu di risicu percepitu. Sò d'accordu cù quelli chì sò preoccupati chì ChatGPT presenta una seria minaccia publica? Inoltre, pensate veramente chì u sviluppu ulteriore di l'arnesi AI pò esse arrestatu finu à chì e salvaguardi ponu esse introduttu?
NC: Puderaghju facilmente simpatizzate cù i sforzi per pruvà à cuntrullà e minacce di a tecnulugia avanzata, cumpresu stu casu. Sò, però, scetticu nantu à a pussibilità di fà cusì. Sospettate chì u geniu hè fora di a buttiglia. L'attori maliziusi - istituzionale o individuale - ponu probabilmente truvà modi per evade e salvaguardi. Tali suspetti ùn sò di sicuru micca mutivu per ùn pruvà, è per esercite vigilanza.
ZNetwork hè finanzatu solu da a generosità di i so lettori.
Donate