A intelixencia artificial (IA) está arrasando polo mundo. Está transformando todos os ámbitos da vida e suscitando no proceso importantes preocupacións éticas para a sociedade e o futuro da humanidade. ChatGPT, que domina as redes sociais, é un chatbot impulsado por IA desenvolvido por OpenAI. É un subconxunto da aprendizaxe automática e baséase no que se denomina Grandes Modelos de Linguaxe que poden xerar respostas semellantes ás humanas. A aplicación potencial desta tecnoloxía é realmente enorme, polo que xa hai convocatorias para regular a IA como ChatGPT.
Pode a IA ser máis intelixente dos humanos? Supón ameazas públicas? De feito, a IA pode converterse nunha ameaza existencial? O lingüista preeminente do mundo Noam Chomsky, e un dos intelectuais públicos máis estimados de todos os tempos, cuxa estatura intelectual foi comparada coa de Galileo, Newton e Descartes, aborda estas molestas preguntas na entrevista que segue.
CJ Polychroniou: Como disciplina científica, a intelixencia artificial (IA) remóntase á década de 1950, pero durante as últimas dúas décadas foi incursionando en todo tipo de campos, incluíndo a banca, os seguros, a fabricación de automóbiles, a música e a defensa. De feito, nalgúns casos demostrouse que o uso de técnicas de IA supera as capacidades humanas, como nun xogo de xadrez. É probable que as máquinas sexan máis intelixentes que os humanos?
Noam Chomsky: Só para aclarar a terminoloxía, o termo "máquina" significa aquí programa, basicamente unha teoría escrita nunha notación que pode ser executada por un ordenador, e un tipo inusual de teoría de formas interesantes que podemos deixar de lado aquí.
Podemos facer unha distinción aproximada entre enxeñería pura e ciencia. Non hai límites definidos, pero é unha primeira aproximación útil. A enxeñería pura busca producir un produto que poida ser de algunha utilidade. A ciencia busca a comprensión. Se o tema é a intelixencia humana, ou as capacidades cognitivas doutros organismos, a ciencia busca a comprensión destes sistemas biolóxicos.
Segundo os entendo, os fundadores da intelixencia artificial (Alan Turing, Herbert Simon, Marvin Minsky e outros) considerárono como ciencia, parte das ciencias cognitivas daquela emerxentes, facendo uso das novas tecnoloxías e descubrimentos na teoría matemática da computación para comprensión anticipada. Co paso dos anos esas preocupacións desapareceron e foron en gran parte desprazadas por unha orientación de enxeñería. As preocupacións anteriores agora adoitan descartarse, ás veces con condescendencia, como GOFAI: unha boa IA antiga.
Continuando coa pregunta, é probable que se conciban programas que superen as capacidades humanas? Temos que ter coidado coa palabra "capacidades", por razóns ás que vou volver. Pero se tomamos o termo para referirnos ao rendemento humano, entón a resposta é: definitivamente si. De feito, hai moito tempo que existen: a calculadora nun portátil, por exemplo. Pode superar con moito o que os humanos poden facer, aínda que só sexa por falta de tempo e memoria. Para sistemas pechados como o xadrez, nos anos 50 entendíase ben que tarde ou cedo, co avance das enormes capacidades informáticas e un longo período de preparación, poderíase idear un programa para derrotar a un gran mestre que está xogando cun límite de memoria. e tempo. O logro anos máis tarde foi practicamente PR para IBM. Moitos organismos biolóxicos superan as capacidades cognitivas humanas de xeitos moito máis profundos. As formigas do deserto do meu curro teñen cerebros minúsculos, pero superan con moito as capacidades de navegación humana, en principio, non só o rendemento. Non hai unha Gran Cadea do Ser cos humanos na parte superior.
Os produtos da enxeñaría de IA estanse a utilizar en moitos campos, para ben ou para mal. Mesmo os sinxelos e coñecidos poden ser bastante útiles: na área de idiomas, programas como o autocompletado, a transcrición en directo, o google translate, entre outros. Cun poder de computación moito maior e unha programación máis sofisticada, debería haber outras aplicacións útiles, tamén nas ciencias. Xa houbo algúns: A asistencia no estudo do pregamento de proteínas é un caso recente onde a tecnoloxía de busca masiva e rápida axudou aos científicos a xestionar un problema crítico e recalcitrante.
Os proxectos de enxeñería poden ser útiles ou prexudiciais. Ambas cuestións xorden no caso da IA da enxeñaría. O traballo actual con grandes modelos de linguaxe (LLM), incluídos os chatbots, ofrece ferramentas para desinformación, difamación e enganar aos desinformados. As ameazas realízanse cando se combinan con imaxes artificiais e replicación da voz. Con diferentes preocupacións en mente, decenas de miles de investigadores de IA teñen recentemente chamado para unha moratoria no desenvolvemento por mor dos posibles perigos que perciben.
Como sempre, hai que sopesar os posibles beneficios da tecnoloxía fronte aos custos potenciais.
Xorden preguntas ben diferentes cando nos diriximos á IA e á ciencia. Aquí é necesaria a precaución por mor de afirmacións desorbitadas e temerarias, moitas veces amplificadas nos medios. Para aclarar as cuestións, consideremos casos, algúns hipotéticos, outros reais.
Mencionei a navegación por insectos, que é un logro asombroso. Os científicos de insectos avanzaron moito no estudo de como se consegue, aínda que a neurofisioloxía, unha cuestión moi difícil, segue esquiva, xunto coa evolución dos sistemas. O mesmo ocorre coas sorprendentes proezas das aves e das tartarugas mariñas que percorren miles de quilómetros e regresan infaliblemente ao lugar de orixe.
Supoñamos que Tom Jones, un defensor da enxeñaría da intelixencia artificial, chega e di: "O teu traballo foi refutado. O problema está resolto. Os pilotos das compañías aéreas comerciais conseguen os mesmos ou incluso mellores resultados todo o tempo".
Se aínda nos molestamos en responder, riríamos.
Tomemos o caso das fazañas mariñeiras dos polinesios, aínda vivos entre as tribos indíxenas, que utilizan estrelas, vento e correntes para aterrar as súas canoas nun lugar designado a centos de quilómetros de distancia. Este tamén foi o tema de moitas investigacións para descubrir como o fan. Tom Jones ten a resposta: "Deixa de perder o teu tempo; os buques navais fano todo o tempo".
A mesma resposta.
Pasemos agora a un caso real, a adquisición da linguaxe. Foi o tema de investigacións extensas e moi esclarecedoras nos últimos anos, que demostran que os bebés teñen un coñecemento moi rico da linguaxe (ou linguas) ambientales, moito máis aló do que exhiben na actuación. Conséguese con poucas evidencias, e nalgúns casos cruciais ningunha. No mellor dos casos, como demostraron estudos estatísticos coidadosos, os datos dispoñibles son escasos, especialmente cando se ten en conta a frecuencia de clasificación ("lei de Zipf").
Tom Jones: "Foi refutado. Sen prestar atención aos teus descubrimentos, os LLM que analizan cantidades astronómicas de datos poden atopar regularidades estatísticas que permiten simular os datos sobre os que están adestrados, producindo algo que se parece bastante ao comportamento humano normal. Chatbots".
Este caso é diferente dos outros. En primeiro lugar, é real. En segundo lugar, a xente non se ri; de feito, moitos están abraiados. En terceiro lugar, a diferenza dos casos hipotéticos, os resultados reais están lonxe do que se afirma.
Estas consideracións suscitan un problema menor co entusiasmo actual do LLM: o seu total absurdo, como nos casos hipotéticos nos que o recoñecemos de inmediato. Pero hai problemas moito máis graves que o absurdo.
Unha delas é que os sistemas de LLM están deseñados de tal xeito que non nos poden dicir nada sobre a linguaxe, a aprendizaxe ou outros aspectos da cognición, unha cuestión de principio, irremediable. Duplica os terabytes de datos escaneados, engade outros billóns de parámetros, usa aínda máis a enerxía de California e mellorará a simulación do comportamento, ao tempo que revelará con máis claridade o fracaso en principio do enfoque para obter calquera comprensión. A razón é elemental: os sistemas funcionan igual de ben con linguaxes imposibles que os infantes non poden adquirir que con aquelas que adquiren de forma rápida e practicamente reflexiva.
É coma se un biólogo dixese: “Teño unha gran teoría nova dos organismos. Enumera moitos que existen e moitos que posiblemente non poden existir, e non podo dicirche nada sobre a distinción".
De novo, riríamos. Ou debería.
Non Tom Jones, agora referíndose a casos reais. Persistindo no seu afastamento radical da ciencia, Tom Jones responde: "Como sabes algo disto ata que investigas todas as linguas?" Neste punto o abandono da ciencia normal faise aínda máis claro. Por paridade de argumentos, podemos descartar a xenética e a bioloxía molecular, a teoría da evolución e o resto das ciencias biolóxicas, que non tomaron máis que unha pequena fracción de organismos. E para boa medida, podemos eliminar toda a física. Por que crer nas leis do movemento? Cantos obxectos se observaron realmente en movemento?
Hai, ademais, a pequena cuestión da carga da proba. Os que propoñen unha teoría teñen a responsabilidade de demostrar que ten algún sentido, neste caso, demostrar que falla para as linguas imposibles. Non é responsabilidade dos demais desmentir a proposta, aínda que neste caso parece doado facelo.
Pasemos a atención á ciencia normal, onde os asuntos se fan interesantes. Mesmo un só exemplo de adquisición de linguas pode proporcionar unha visión rica sobre a distinción entre linguas posibles e imposibles.
As razóns son sinxelas e coñecidas. Todo o crecemento e desenvolvemento, incluído o que se chama "aprendizaxe", é un proceso que comeza cun estado do organismo e transfórmao paso a paso ata etapas posteriores.
A adquisición da linguaxe é un proceso así. O estado inicial é a dotación biolóxica da facultade da linguaxe, que evidentemente existe, aínda que sexa, como algúns cren, unha combinación particular doutras capacidades. É moi improbable por razóns que se entenden desde hai tempo, pero non é relevante para as nosas preocupacións aquí, polo que podemos deixalo de lado. Claramente hai unha dotación biolóxica para a facultade humana da linguaxe. O máis puro truismo.
A transición avanza a un estado relativamente estable, cambiado só superficialmente máis alá: o coñecemento da lingua. Os datos externos desencadean e configuran parcialmente o proceso. Estudando o estado acadado (coñecemento da lingua) e os datos externos, podemos extraer conclusións de gran alcance sobre o estado inicial, a dotación biolóxica que posibilita a adquisición da lingua. As conclusións sobre o estado inicial impoñen unha distinción entre linguas posibles e imposibles. A distinción vale para todos aqueles que comparten o estado inicial: todos os humanos, polo que se sabe; non parece haber diferenza na capacidade para adquirir a linguaxe entre os grupos humanos existentes.
Todo isto é ciencia normal, e conseguiu moitos resultados.
O experimento demostrou que o estado estable conséguese substancialmente moi cedo, aos tres ou catro anos de idade. Tamén está ben establecido que a facultade da linguaxe ten propiedades básicas específicas dos humanos, polo que é unha verdadeira propiedade da especie: común aos grupos humanos e, de xeito fundamental, un atributo humano único.
Neste relato esquemático queda moito fóra, en particular o papel da lei natural no crecemento e desenvolvemento: no caso dun sistema computacional como a linguaxe, principios de eficiencia computacional. Pero esta é a esencia do asunto. De novo, ciencia normal.
É importante ter claro a distinción de Aristóteles entre posesión do coñecemento e uso do coñecemento (na terminoloxía contemporánea, competencia e desempeño). No caso da lingua, o estado estable obtido é a posesión de coñecementos, codificados no cerebro. O sistema interno determina un conxunto ilimitado de expresións estruturadas, cada unha das cales podemos considerar que formulan un pensamento, cada unha exteriorizable nalgún sistema sensoriomotor, xeralmente sonoras aínda que poden ser signos ou incluso (con dificultade) táctiles.
Accédese ao sistema codificado internamente mediante o uso do coñecemento (rendemento). O rendemento inclúe o uso interno da linguaxe no pensamento: reflexión, planificación, lembranza e moito máis. Estadísticamente falando, ese é, con moito, o uso esmagador da lingua. É inaccesible para a introspección, aínda que podemos aprender moito sobre ela cos métodos normais da ciencia, desde o "fóra", metafóricamente falando. O que se chama “fala interior” son, en realidade, fragmentos de linguaxe exteriorizada co aparello articulatorio silenciado. É só un reflexo remoto do uso interno da lingua, cuestións importantes que non podo tratar aquí.
Outras formas de uso da linguaxe son a percepción (análisis) e a produción, esta última implicando de forma crucial propiedades que seguen sendo tan misteriosas para nós hoxe como cando foron consideradas con asombro e asombro por Galileo e os seus contemporáneos nos albores da ciencia moderna.
O obxectivo principal da ciencia é descubrir o sistema interno, tanto no seu estado inicial na facultade humana da linguaxe como nas formas particulares que asume na adquisición. Na medida en que este sistema interno se entenda, podemos proceder a investigar como entra no rendemento, interactuando con outros moitos factores que entran no uso da linguaxe.
Os datos de rendemento proporcionan evidencia sobre a natureza do sistema interno, especialmente cando se refinan mediante experimentos, como no traballo de campo estándar. Pero incluso a colección máis masiva de datos é necesariamente enganosa de xeitos cruciais. Mantén o que se produce normalmente, non o coñecemento da linguaxe codificada no cerebro, o obxecto principal que se investiga para quen queira comprender a natureza da linguaxe e o seu uso. Ese obxecto interno determina infinitas posibilidades dun tipo que non se utilizarán no comportamento normal por mor de factores irrelevantes para a linguaxe, como as limitacións de memoria a curto prazo, temas estudados hai 60 anos. Os datos observados tamén incluirán moito que se atopa fóra do sistema codificado no cerebro, a miúdo o uso consciente da linguaxe de xeitos que violan as regras con fins retóricos. Son truismos coñecidos por todos os traballadores de campo, que se basean en técnicas de elicitación con informantes, basicamente experimentos, para producir un corpus refinado que exclúe restricións irrelevantes e expresións desviadas. O mesmo ocorre cando os lingüistas se utilizan como informantes, un procedemento perfectamente sensato e normal, habitual na historia da psicoloxía ata a actualidade.
Procedendo máis adiante coa ciencia normal, atopamos que os procesos e elementos internos da linguaxe non se poden detectar mediante a inspección dos fenómenos observados. Moitas veces estes elementos nin sequera aparecen na fala (ou na escrita), aínda que se poden detectar os seus efectos, moitas veces sutís. Esa é outra razón pola que a restrición aos fenómenos observados, como nos enfoques de LLM, limita drasticamente a comprensión dos procesos internos que son os principais obxectos de investigación sobre a natureza da linguaxe, a súa adquisición e uso. Pero iso non é relevante se se abandonou a preocupación pola ciencia e a comprensión en favor doutros obxectivos.
De xeito máis xeral, nas ciencias, durante milenios, chegouse a conclusións mediante experimentos, a miúdo experimentos de pensamento, cada un dunha abstracción radical dos fenómenos. Os experimentos están dirixidos pola teoría, tratando de descartar os innumerables factores irrelevantes que entran nos fenómenos observados, como o rendemento lingüístico. Todo isto é tan elemental que poucas veces se fala. E familiar. Como se sinalou, a distinción básica remóntase á distinción de Aristóteles entre posesión do coñecemento e uso do coñecemento. O primeiro é o obxecto central de estudo. Os estudos secundarios (e bastante serios) investigan como se usa o sistema de coñecemento almacenado internamente no desempeño, xunto cos moitos factores non lingüísticos que entran no que se observa directamente.
Tamén podemos lembrar unha observación do biólogo evolucionista Theodosius Dobzhansky, famoso principalmente polo seu traballo con Drosophila: Cada especie é única e os humanos son o máis único de todos. Se estamos interesados en comprender que tipo de criaturas somos, seguindo o mandato do Oráculo de Delfos hai 2,500 anos, preocuparémonos principalmente do que fai dos humanos o máis único de todos, principalmente a linguaxe e o pensamento, estreitamente entrelazados, como se recoñece nun rica tradición que se remonta á Grecia clásica e á India. A maioría do comportamento é bastante rutineiro, polo tanto, ata certo punto previsible. O que proporciona unha visión real do que nos fai únicos é o que non é rutina, que atopamos, ás veces mediante experimentos, outras por observación, desde nenos normais ata grandes artistas e científicos.
Un último comentario a este respecto. A sociedade leva un século plagada de campañas corporativas masivas para fomentar o desdén pola ciencia, temas ben estudados por Naomi Oreskes entre outros. Comezou con corporacións cuxos produtos son asasinas: chumbo, tabaco, amianto, máis tarde combustibles fósiles. Os seus motivos son comprensibles. O obxectivo dunha empresa nunha sociedade capitalista é o beneficio, non o benestar humano. Ese é un feito institucional: non xogues o xogo e estás fóra, substituído por alguén que o fará.
Os departamentos de relaciones públicas corporativos recoñeceron desde o principio que sería un erro negar a crecente evidencia científica dos efectos letais dos seus produtos. Iso sería facilmente refutado. Mellor sementar dúbidas, fomentar a incerteza, o desprezo por estes traxes puntiagudos que nunca pintaron unha casa pero que baixan de Washington para dicirme que non use pintura con chumbo, destruíndo o meu negocio (un caso real, facilmente multiplicable). Iso funcionou moi ben. Agora mesmo lévanos por un camiño cara á destrución da vida humana organizada na terra.
Nos círculos intelectuais, efectos similares foron producidos pola crítica posmoderna da ciencia, desmantelado de Jean Bricmont e Alan Sokal, pero aínda moi vivo nalgúns círculos.
Pode ser pouco amable suxerir a pregunta, pero creo que é xusto preguntar se os Tom Jones e aqueles que repiten acríticamente e mesmo amplifican as súas descoidadas proclamas están contribuíndo ás mesmas nefastas tendencias.
CJP: ChatGPT é un chatbot de linguaxe natural que usa intelixencia artificial para permitir conversas de tipo humano. Nun artigo recente en The New York Times, en conxunto con outros dous autores, pechaches os novos chatbots como un bombo porque simplemente non poden igualar a competencia lingüística dos humanos. Non é posible, con todo, que as futuras innovacións en IA poidan producir proxectos de enxeñería que igualen e quizais superen as capacidades humanas?
NC: O mérito do artigo debe darse ao autor real, Jeffrey Watumull, un excelente matemático-lingüista-filósofo. Os dous coautores da lista eran consultores, que están de acordo co artigo pero non o escribiron.
É certo que os chatbots non poden igualar en principio a competencia lingüística dos humanos, polas razóns repetidas anteriormente. O seu deseño básico impídelles acadar a condición mínima de adecuación para unha teoría da linguaxe humana: distinguir as linguaxes posibles das imposibles. Dado que esa é unha propiedade do deseño, non se pode superar con futuras innovacións neste tipo de IA. Non obstante, é moi posible que os futuros proxectos de enxeñería igualen e mesmo superen as capacidades humanas, se nos referimos á capacidade humana de actuar, ao rendemento. Como se mencionou anteriormente, algúns o fan desde hai tempo: as calculadoras automáticas, por exemplo. Máis interesante, como se mencionou, os insectos con cerebros minúsculos superan as capacidades humanas entendidas como competencia.
CJP: No artigo mencionado, tamén se observou que os proxectos de IA actuais non posúen unha facultade moral humana. Este feito obvio fai que os robots de IA sexan menos ameazas para a raza humana? Creo que o argumento pode ser que os fai quizais aínda máis.
NC: De feito, é un feito obvio, entendendo a "facultade moral" de forma ampla. A non ser que se controle coidadosamente, a enxeñaría da IA pode representar ameazas graves. Supoñamos, por exemplo, que a atención dos pacientes foi automatizada. Os erros inevitables que serían superados polo xuízo humano poderían producir unha historia de terror. Ou supoñamos que os humanos foron eliminados da avaliación das ameazas determinadas polos sistemas automatizados de defensa antimísiles. Como un rexistro histórico impactante informa nós, ese sería o fin da civilización humana.
A non ser que se controle coidadosamente, a enxeñaría da IA pode representar ameazas graves.
CJP: Os reguladores e as axencias de aplicación da lei en Europa están expresando a súa preocupación pola propagación de ChatGPT, mentres que unha lexislación da Unión Europea presentada recentemente está a tratar de tratar a IA clasificando estas ferramentas segundo o seu nivel de risco percibido. Estás de acordo cos que lles preocupa que ChatGPT supoña unha seria ameaza pública? Ademais, realmente pensas que se pode deter o desenvolvemento das ferramentas de IA ata que se introduzan salvagardas?
NC: Podo simpatizar facilmente cos esforzos para tratar de controlar as ameazas que supón a tecnoloxía avanzada, incluído este caso. Con todo, son escéptico sobre a posibilidade de facelo. Sospeito que o xenio está fóra da botella. Os actores malintencionados, institucionais ou individuais, probablemente poidan atopar formas de eludir as garantías. Por suposto, tales sospeitas non son motivo para non tentar e para exercer a vixilancia.
ZNetwork está financiado unicamente pola xenerosidade dos seus lectores.
doar