La intel·ligència artificial (IA) està arrasant el món. Està transformant tots els àmbits de la vida i plantejant en el procés grans preocupacions ètiques per a la societat i el futur de la humanitat. ChatGPT, que domina les xarxes socials, és un chatbot impulsat per IA desenvolupat per OpenAI. És un subconjunt de l'aprenentatge automàtic i es basa en el que s'anomena grans models de llenguatge que poden generar respostes semblants a les humanes. L'aplicació potencial d'aquesta tecnologia és realment enorme, i és per això que ja hi ha trucades per regular la IA com ChatGPT.
La intel·ligència artificial pot superar els humans? Suposa amenaces públiques? De fet, la IA pot convertir-se en una amenaça existencial? El lingüista preeminent del món Noam Chomsky, i un dels intel·lectuals públics més estimats de tots els temps, la talla intel·lectual del qual s'ha comparat amb la de Galileu, Newton i Descartes, aborda aquestes qüestions persistents en l'entrevista que segueix.
CJ Polychroniou: Com a disciplina científica, la intel·ligència artificial (IA) es remunta a la dècada de 1950, però durant les últimes dues dècades ha anat fent incursions en tot tipus de camps, com ara la banca, les assegurances, la fabricació d'automòbils, la música i la defensa. De fet, s'ha demostrat que l'ús de tècniques d'IA en alguns casos supera les capacitats humanes, com en un joc d'escacs. És probable que les màquines siguin més intel·ligents que els humans?
Noam Chomsky: només per aclarir la terminologia, el terme "màquina" significa aquí programa, bàsicament una teoria escrita en una notació que pot ser executada per un ordinador, i un tipus inusual de teoria de maneres interessants que podem deixar de banda aquí.
Podem fer una distinció aproximada entre enginyeria pura i ciència. No hi ha cap límit clar, però és una primera aproximació útil. L'enginyeria pura busca produir un producte que pugui ser d'alguna utilitat. La ciència busca la comprensió. Si el tema és la intel·ligència humana, o les capacitats cognitives d'altres organismes, la ciència busca la comprensió d'aquests sistemes biològics.
Segons els entenc, els fundadors de la IA, Alan Turing, Herbert Simon, Marvin Minsky i altres, la van considerar com a ciència, part de les ciències cognitives emergents aleshores, fent ús de les noves tecnologies i descobriments en la teoria matemàtica de la computació per comprensió avançada. Amb els anys, aquestes preocupacions s'han esvaït i han estat en gran part desplaçades per una orientació d'enginyeria. Les preocupacions anteriors ara es descarten habitualment, de vegades de manera condescendent, com a GOFAI: una bona IA antiga.
Continuant amb la pregunta, és probable que s'elaborin programes que superin les capacitats humanes? Hem d'anar amb compte amb la paraula "capacitats", per raons sobre les quals tornaré. Però si prenem el terme per referir-nos al rendiment humà, aleshores la resposta és: definitivament sí. De fet, fa temps que existeixen: la calculadora en un ordinador portàtil, per exemple. Pot superar amb escreix el que els humans poden fer, encara que només sigui per manca de temps i memòria. Per a sistemes tancats com els escacs, als anys 50 es va entendre bé que, tard o d'hora, amb l'avenç de les capacitats de computació massives i un llarg període de preparació, es podria idear un programa per derrotar a un gran mestre que juga amb un límit de memòria. i el temps. L'assoliment anys més tard va ser pràcticament les relacions públiques per a IBM. Molts organismes biològics superen les capacitats cognitives humanes de maneres molt més profundes. Les formigues del desert del meu pati del darrere tenen cervells minúsculs, però superen amb escreix les capacitats de navegació humanes, en principi, no només el rendiment. No hi ha una gran cadena de l'ésser amb humans al capdamunt.
Els productes de l'enginyeria d'IA s'estan utilitzant en molts camps, per bé o per mal. Fins i tot els senzills i familiars poden ser força útils: a l'àrea d'idiomes, programes com l'emplenament automàtic, la transcripció en directe, el traductor de Google, entre d'altres. Amb una potència de càlcul molt més gran i una programació més sofisticada, hi hauria d'haver altres aplicacions útils, també en ciències. Ja n'hi ha hagut: l'assistència en l'estudi del plegament de proteïnes és un cas recent en què la tecnologia de cerca massiva i ràpida ha ajudat els científics a fer front a un problema crític i recalcitrant.
Els projectes d'enginyeria poden ser útils o perjudicials. Ambdues qüestions sorgeixen en el cas de la IA d'enginyeria. El treball actual amb grans models de llenguatge (LLM), inclosos els chatbots, ofereix eines per a la desinformació, la difamació i l'engany dels desinformats. Les amenaces es milloren quan es combinen amb imatges artificials i replicació de veu. Tenint en compte diferents preocupacions, desenes de milers d'investigadors d'IA ho han fet recentment anomenat per una moratòria del desenvolupament a causa dels perills potencials que perceben.
Com sempre, els possibles beneficis de la tecnologia s'han de ponderar amb els costos potencials.
Quan ens dirigim a la IA i la ciència, sorgeixen preguntes molt diferents. Aquí cal la precaució a causa de les afirmacions desorbitades i temeràries, sovint amplificades als mitjans. Per aclarir els problemes, considerem casos, alguns hipotètics, altres reals.
He esmentat la navegació per insectes, que és un assoliment sorprenent. Els científics d'insectes han avançat molt en l'estudi de com s'aconsegueix, tot i que la neurofisiologia, una qüestió molt difícil, segueix sent esquiva, juntament amb l'evolució dels sistemes. El mateix passa amb les increïbles gestes dels ocells i les tortugues marines que recorren milers de quilòmetres i tornen sense errors al lloc d'origen.
Suposem que Tom Jones, un defensor de la IA d'enginyeria, ve i diu: "El vostre treball ha estat refutat. El problema està resolt. Els pilots de línies aèries comercials aconsegueixen sempre els mateixos resultats o fins i tot millors".
Si fins i tot ens molestem a respondre, riurem.
Preneu el cas de les gestes marineres dels polinesis, encara vius entre les tribus indígenes, que utilitzen estrelles, vent i corrents per aterrar les seves canoes en un lloc designat a centenars de quilòmetres de distància. Aquest també ha estat el tema de moltes investigacions per esbrinar com ho fan. Tom Jones té la resposta: “Deixa de perdre el temps; els vaixells de guerra ho fan tot el temps".
La mateixa resposta.
Passem ara a un cas real, l'adquisició del llenguatge. Ha estat el tema d'una investigació extensa i molt il·luminadora en els últims anys, que ha demostrat que els nadons tenen un coneixement molt ric del llenguatge (o llengües) ambientals, molt més enllà del que exhibeixen en l'actuació. S'aconsegueix amb poques evidències, i en alguns casos crucials cap. En el millor dels casos, com han demostrat estudis estadístics acurats, les dades disponibles són escasses, sobretot quan es té en compte la freqüència de rang ("llei de Zipf").
Entra Tom Jones: "Has estat refutat. Sense prestar atenció als vostres descobriments, els LLM que escanegen quantitats astronòmiques de dades poden trobar regularitats estadístiques que permeten simular les dades sobre les quals s'entrenen, produint alguna cosa que s'assembla molt al comportament humà normal. Chatbots."
Aquest cas és diferent dels altres. En primer lloc, és real. En segon lloc, la gent no riu; de fet, molts estan meravellats. En tercer lloc, a diferència dels casos hipotètics, els resultats reals estan lluny del que s'afirma.
Aquestes consideracions plantegen un problema menor amb l'entusiasme actual del LLM: el seu total absurd, com en els casos hipotètics en què el reconeixem de seguida. Però hi ha problemes molt més greus que l'absurd.
Una és que els sistemes de LLM estan dissenyats de manera que no ens poden dir res sobre el llenguatge, l'aprenentatge o altres aspectes de la cognició, una qüestió de principis, irremeiable. Doble els terabytes de dades escanejades, afegiu un altre bilió de paràmetres, utilitzeu encara més l'energia de Califòrnia i la simulació del comportament millorarà, alhora que revelarà més clarament el fracàs en principi de l'enfocament per obtenir cap comprensió. La raó és elemental: els sistemes funcionen tan bé amb llenguatges impossibles que els infants no poden adquirir com amb els que adquireixen de manera ràpida i pràcticament reflexiva.
És com si un biòleg digués: “Tinc una gran nova teoria dels organismes. Enumera molts que existeixen i molts que no poden existir, i no us puc dir res sobre la distinció".
Un cop més, riurem. O hauria.
No Tom Jones, ara es refereix a casos reals. Persistint en el seu radical allunyament de la ciència, Tom Jones respon: "Com en saps tot això fins que no has investigat tots els idiomes?" En aquest punt l'abandonament de la ciència normal es fa encara més clar. Per paritat d'arguments, podem descartar la genètica i la biologia molecular, la teoria de l'evolució i la resta de ciències biològiques, que no han mostrat més que una petita fracció d'organismes. I en bona mesura, podem treure tota la física. Per què creure en les lleis del moviment? Quants objectes s'han observat realment en moviment?
Hi ha, a més, la petita qüestió de la càrrega de la prova. Qui proposa una teoria té la responsabilitat de demostrar que té algun sentit, en aquest cas, demostrant que falla per a llengües impossibles. No és responsabilitat dels altres refutar la proposta, encara que en aquest cas sembla prou fàcil fer-ho.
Desplacem l'atenció cap a la ciència normal, on les coses es tornen interessants. Fins i tot un únic exemple d'adquisició del llenguatge pot aportar una visió rica de la distinció entre llengües possibles i impossibles.
Els motius són senzills i coneguts. Tot creixement i desenvolupament, inclòs el que s'anomena "aprenentatge", és un procés que comença amb un estat de l'organisme i el transforma pas a pas a etapes posteriors.
L'adquisició del llenguatge és un procés així. L'estat inicial és la dotació biològica de la facultat del llenguatge, que òbviament existeix, encara que sigui, com alguns creuen, una combinació particular d'altres capacitats. Això és molt poc probable per raons que s'entenen des de fa temps, però no és rellevant per a les nostres preocupacions aquí, així que ho podem deixar de banda. És evident que hi ha una dotació biològica per a la facultat humana del llenguatge. El més simple truisme.
La transició passa a un estat relativament estable, canviat només superficialment més enllà: el coneixement de la llengua. Les dades externes desencadenen i donen forma parcial al procés. Estudiant l'estat assolit (coneixement de la llengua) i les dades externes, podem extreure conclusions de gran abast sobre l'estat inicial, la dotació biològica que fa possible l'adquisició de la llengua. Les conclusions sobre l'estat inicial imposen una distinció entre llengües possibles i impossibles. La distinció és vàlida per a tots aquells que comparteixen l'estat inicial: tots els humans, pel que se sap; sembla que no hi ha cap diferència en la capacitat d'adquirir el llenguatge entre els grups humans existents.
Tot això és ciència normal i ha aconseguit molts resultats.
L'experiment ha demostrat que l'estat estable s'obté substancialment molt aviat, als tres o quatre anys d'edat. També està ben establert que la facultat del llenguatge té propietats bàsiques específiques dels humans, per tant, és una propietat d'espècie real: comuna als grups humans i, de manera fonamental, un atribut humà únic.
En aquest relat esquemàtic es deixa molt de banda, sobretot el paper de la llei natural en el creixement i el desenvolupament: en el cas d'un sistema computacional com el llenguatge, principis d'eficiència computacional. Però aquesta és l'essència de la qüestió. De nou, ciència normal.
És important tenir clara la distinció d'Aristòtil entre la possessió del coneixement i l'ús del coneixement (en terminologia contemporània, competència i rendiment). En el cas del llenguatge, l'estat estable obtingut és la possessió de coneixements, codificats al cervell. El sistema intern determina una sèrie il·limitada d'expressions estructurades, cadascuna de les quals podem considerar com la formulació d'un pensament, cadascuna exterioritzable en algun sistema sensoriomotor, generalment sonor encara que pugui ser un signe o fins i tot (amb dificultat) tacte.
S'accedeix al sistema codificat internament mitjançant l'ús del coneixement (performance). El rendiment inclou l'ús intern del llenguatge en el pensament: reflexió, planificació, record, i molt més. Estadísticament parlant, aquest és, amb diferència, l'ús aclaparador del llenguatge. És inaccessible per a la introspecció, tot i que podem aprendre molt sobre això amb els mètodes normals de la ciència, des de "fora", metafòricament parlant. El que s'anomena "discurs interior" són, de fet, fragments de llenguatge exterioritzat amb l'aparell articulatori silenciat. És només un reflex remot de l'ús intern de la llengua, qüestions importants que no puc tractar aquí.
Altres formes d'ús del llenguatge són la percepció (anàlisi) i la producció, aquesta última implica de manera crucial propietats que avui ens continuen sent tan misterioses com quan Galileu i els seus contemporanis els consideraven amb admiració i asombro als albors de la ciència moderna.
L'objectiu principal de la ciència és descobrir el sistema intern, tant en el seu estat inicial en la facultat humana del llenguatge com en les formes particulars que assumeix en l'adquisició. En la mesura que s'entengui aquest sistema intern, podem procedir a investigar com entra en el rendiment, interactuant amb molts altres factors que entren en l'ús del llenguatge.
Les dades de rendiment proporcionen proves sobre la naturalesa del sistema intern, especialment quan es perfeccionen per experiment, com en el treball de camp estàndard. Però fins i tot la recopilació de dades més massiva és necessàriament enganyosa de maneres crucials. Es manté en allò que es produeix normalment, no en el coneixement del llenguatge codificat al cervell, l'objecte principal investigat per a aquells que volen entendre la naturalesa del llenguatge i el seu ús. Aquest objecte intern determina infinitat de possibilitats d'un tipus que no s'utilitzaran en el comportament normal a causa de factors irrellevants per al llenguatge, com les limitacions de memòria a curt termini, temes estudiats fa 60 anys. Les dades observades també inclouran moltes coses que es troben fora del sistema codificat al cervell, sovint l'ús conscient del llenguatge de maneres que violen les regles amb finalitats retòriques. Aquests són truismes coneguts per tots els treballadors de camp, que es basen en tècniques d'elicitació amb informants, bàsicament experiments, per produir un corpus refinat que exclou restriccions irrellevants i expressions desviades. El mateix passa quan els lingüistes s'utilitzen com a informadors, un procediment perfectament assenyat i normal, habitual en la història de la psicologia fins al present.
Seguint amb la ciència normal, trobem que els processos i elements interns del llenguatge no es poden detectar mitjançant la inspecció dels fenòmens observats. Sovint aquests elements ni tan sols apareixen en la parla (o en l'escriptura), encara que es poden detectar els seus efectes, sovint subtils. Aquesta és una altra raó per la qual la restricció als fenòmens observats, com en els enfocaments de LLM, limita dràsticament la comprensió dels processos interns que són els principals objectes d'investigació sobre la naturalesa del llenguatge, la seva adquisició i ús. Però això no és rellevant si s'ha abandonat la preocupació per la ciència i la comprensió en favor d'altres objectius.
De manera més general, a les ciències, durant mil·lennis, s'ha arribat a conclusions mitjançant experiments, sovint experiments de pensament, cadascun una abstracció radical dels fenòmens. Els experiments es basen en la teoria i pretenen descartar els innombrables factors irrellevants que entren en els fenòmens observats, com ara el rendiment lingüístic. Tot això és tan elemental que poques vegades se'n parla. I familiar. Com s'ha assenyalat, la distinció bàsica es remunta a la distinció d'Aristòtil entre possessió del coneixement i ús del coneixement. El primer és l'objecte central d'estudi. Estudis secundaris (i força seriosos) investiguen com s'utilitza el sistema de coneixement emmagatzemat internament en el rendiment, juntament amb els molts factors no lingüístics que entren en el que s'observa directament.
També podríem recordar una observació del biòleg evolucionista Theodosius Dobzhansky, famós principalment pel seu treball amb Drosophila: Cada espècie és única i els humans són els més únics de tots. Si ens interessa entendre quin tipus de criatures som, seguint l'ordre de l'oracle de Delfos fa 2,500 anys, ens preocuparem principalment allò que fa que els humans siguin els més únics de tots, principalment el llenguatge i el pensament, estretament entrellaçats, com es reconeix en un rica tradició que es remunta a la Grècia clàssica i l'Índia. La majoria del comportament és bastant rutinari, per tant, fins a cert punt previsible. El que ens proporciona una visió real del que ens fa únics és allò que no és rutina, que sí que trobem, de vegades per experiments, de vegades per observació, des de nens normals fins a grans artistes i científics.
Un darrer comentari en aquest sentit. La societat ha estat afectada durant un segle per campanyes corporatives massives per fomentar el menyspreu per la ciència, temes ben estudiats per Naomi Oreskes entre d'altres. Va començar amb corporacions els productes de les quals són assassins: plom, tabac, amiant, més tard combustibles fòssils. Els seus motius són comprensibles. L'objectiu d'una empresa en una societat capitalista és el benefici, no el benestar humà. Això és un fet institucional: no juguis el joc i estàs fora, substituït per algú que ho farà.
Els departaments de relacions públiques corporatius van reconèixer des del principi que seria un error negar l'evidència científica creixent dels efectes letals dels seus productes. Això seria fàcilment refutat. Millor sembrar dubtes, incentivar la incertesa, el menyspreu per aquests vestits punxeguts que mai han pintat una casa però que baixen de Washington per dir-me que no utilitzi pintura de plom, destrossant el meu negoci (cas real, fàcilment multiplicable). Això ha funcionat massa bé. Ara mateix ens està conduint cap a un camí cap a la destrucció de la vida humana organitzada a la terra.
En els cercles intel·lectuals, efectes similars han estat produïts per la crítica postmoderna de la ciència, desmantellat de Jean Bricmont i Alan Sokal, però encara molt viu en alguns cercles.
Pot ser que no sigui amable suggerir la pregunta, però crec que és just preguntar-se si els Tom Jones i els que repeteixen i fins i tot amplifiquen de manera acrítica les seves proclames descuidades estan contribuint a les mateixes tendències funestes.
CJP: ChatGPT és un chatbot basat en un llenguatge natural que utilitza intel·ligència artificial per permetre converses semblants a les persones. En un article recent a The New York Times, juntament amb dos autors més, tanqueu els nous chatbots com a bombo perquè simplement no poden igualar la competència lingüística dels humans. No és, però, possible que les innovacions futures en IA puguin produir projectes d'enginyeria que igualin i potser fins i tot superin les capacitats humanes?
NC: El crèdit de l'article s'ha de donar a l'autor real, Jeffrey Watumull, un excel·lent matemàtic-lingüista-filòsof. Els dos coautors enumerats eren consultors, que estan d'acord amb l'article però no el van escriure.
És cert que els chatbots en principi no poden igualar la competència lingüística dels humans, per les raons que s'han repetit anteriorment. El seu disseny bàsic els impedeix assolir la condició mínima d'adequació per a una teoria del llenguatge humà: distingir els llenguatges possibles dels impossibles. Com que aquesta és una propietat del disseny, no es pot superar amb futures innovacions en aquest tipus d'IA. Tanmateix, és molt possible que els futurs projectes d'enginyeria igualin i fins i tot superin les capacitats humanes, si ens referim a la capacitat humana d'actuar, el rendiment. Com s'ha esmentat anteriorment, alguns ho fan fa temps: calculadores automàtiques per exemple. Més interessant, com s'ha esmentat, els insectes amb cervells minúsculs superen les capacitats humanes enteses com a competència.
CJP: En l'esmentat article, també s'observava que els projectes d'IA actuals no posseeixen una facultat moral humana. Aquest fet evident fa que els robots d'IA siguin menys una amenaça per a la raça humana? Crec que l'argument pot ser que els fa potser encara més.
NC: De fet, és un fet evident, entenent la "facultat moral" de manera àmplia. Si no es controla acuradament, l'enginyeria d'IA pot suposar amenaces greus. Suposem, per exemple, que l'atenció als pacients estava automatitzada. Els errors inevitables que es superarien amb el judici humà podrien produir una història de terror. O suposem que els humans van ser eliminats de l'avaluació de les amenaces determinades pels sistemes automatitzats de defensa de míssils. Com un registre històric impactant informa nosaltres, això seria el final de la civilització humana.
Si no es controla acuradament, l'enginyeria d'IA pot suposar amenaces greus.
CJP: Els reguladors i les agències d'aplicació de la llei a Europa estan plantejant preocupacions sobre la propagació de ChatGPT, mentre que una peça de legislació de la Unió Europea presentada recentment intenta tractar amb la IA classificant aquestes eines segons el seu nivell de risc percebut. Esteu d'acord amb els que els preocupa que ChatGPT suposi una amenaça pública greu? A més, realment creus que es pot aturar el desenvolupament posterior de les eines d'IA fins que es puguin introduir salvaguardes?
NC: puc simpatitzar fàcilment amb els esforços per intentar controlar les amenaces que suposa la tecnologia avançada, inclòs aquest cas. No obstant això, sóc escèptic sobre la possibilitat de fer-ho. Sospito que el geni està fora de l'ampolla. Els actors maliciosos, institucionals o individuals, probablement poden trobar maneres d'evadir les garanties. Per descomptat, aquestes sospites no són motiu per no intentar-ho i per vigilar.
ZNetwork es finança únicament a través de la generositat dels seus lectors.
Donar