Artefarita inteligenteco (AI) balaas la mondon. Ĝi transformas ĉiun vojon de vivo kaj levas en la procezo gravajn etikajn zorgojn por socio kaj la estonteco de la homaro. ChatGPT, kiu regas sociajn amaskomunikilarojn, estas AI-funkciigita babilejo disvolvita de OpenAI. Ĝi estas subaro de maŝinlernado kaj dependas de tio, kion oni nomas Grandaj Lingvaj Modeloj, kiuj povas generi homsimilajn respondojn. La ebla apliko por tia teknologio ja estas enorma, tial jam estas vokoj por reguligi AI kiel ChatGPT.
Ĉu AI povas superi homojn? Ĉu ĝi prezentas publikajn minacojn? Efektive, ĉu AI povas fariĝi ekzisteca minaco? La plej elstara lingvisto de la mondo Noam Chomsky, kaj unu el la plej estimataj publikaj intelektuloj de ĉiuj tempoj, kies intelekta staturo estis komparita kun tiu de Galileo, Neŭtono, kaj Descartes, pritraktas ĉi tiujn ĉagrenajn demandojn en la intervjuo kiu sekvas.
CJ Polychroniou: Kiel scienca disciplino, artefarita inteligenteco (AI) devenas de la 1950-aj jaroj, sed dum la lastaj kelkaj jardekoj ĝi ekpenetris en ĉiajn kampojn, inkluzive de bankado, asekuro, aŭtofabrikado, muziko kaj defendo. Fakte, la uzo de AI-teknikoj pruviĝis en iu kazo superi homajn kapablojn, kiel ekzemple en ŝakludo. Ĉu maŝinoj verŝajne iĝos pli inteligentaj ol homoj?
Noam Chomsky: Nur por klarigi terminologion, la termino "maŝino" ĉi tie signifas programo, esence teorio skribita en notacio kiu povas esti efektivigita per komputilo–kaj nekutima speco de teorio en interesaj manieroj kiujn ni povas flankenmeti ĉi tie.
Ni povas fari malglatan distingon inter pura inĝenierado kaj scienco. Ne estas akra limo, sed ĝi estas utila unua aproksimado. Pura inĝenieristiko serĉas produkti produkton kiu povas esti de iu uzo. Scienco serĉas komprenon. Se la temo estas homa inteligenteco, aŭ kognaj kapabloj de aliaj organismoj, scienco serĉas komprenon de tiuj biologiaj sistemoj.
Kiel mi komprenas ilin, la fondintoj de AI - Alan Turing, Herbert Simon, Marvin Minsky, kaj aliaj - rigardis ĝin kiel scienco, parto de la tiam emerĝantaj kognaj sciencoj, uzante novajn teknologiojn kaj eltrovaĵojn en la matematika teorio de komputado por antaŭkomprenon. Tra la jaroj tiuj zorgoj fadis kaj estis plejparte delokigitaj per inĝenieristiko. La pli fruaj zorgoj nun estas ofte flankenbalaitaj, foje afame, kiel GOFAI-bona malmoderna AI.
Daŭrigante la demandon, ĉu verŝajne estos elpensitaj programoj kiuj superas homajn kapablojn? Ni devas zorgi pri la vorto "kapabloj", pro kialoj, al kiuj mi revenos. Sed se ni prenas la terminon por rilati al homa agado, tiam la respondo estas: certe jes. Fakte ili delonge ekzistas: la kalkulilo en tekkomputilo, ekzemple. Ĝi povas multe superi tion, kion homoj povas fari, se nur pro manko de tempo kaj memoro. Por fermitaj sistemoj kiel ŝako, estis bone komprenite en la 50-aj jaroj, ke baldaŭ aŭ malfrue, kun la antaŭeniĝo de masivaj komputikkapabloj kaj longa periodo de preparo, programo povus esti elpensita por venki grandmajstron kiu ludas kun ligita memoro. kaj tempo. La atingo jarojn poste estis preskaŭ PR por IBM. Multaj biologiaj organismoj superas homajn kognajn kapablojn en multe pli profundaj manieroj. La dezertaj formikoj en mia korto havas minusklajn cerbojn, sed multe superas homajn navigaciajn kapablojn, principe, ne nur rendimenton. Ne ekzistas Granda Ĉeno de Estaĵo kun homoj ĉe la supro.
La produktoj de AI-inĝenierado estas uzataj en multaj kampoj, por pli bone aŭ por malbone. Eĉ simplaj kaj konataj povas esti sufiĉe utilaj: en la lingva areo, programoj kiel aŭtomata plenigo, viva transskribo, google translate, inter aliaj. Kun multe pli granda komputika potenco kaj pli altnivela programado, devus ekzisti aliaj utilaj aplikoj, ankaŭ en la sciencoj. Jam estis kelkaj: Helpi en la studo de proteinfaldado estas unu lastatempa kazo kie amasa kaj rapida serĉteknologio helpis sciencistojn trakti kritikan kaj obstinan problemon.
Inĝenieraj projektoj povas esti utilaj aŭ malutilaj. Ambaŭ demandoj aperas en la kazo de inĝenierado de AI. Nuna laboro kun Grandaj Lingvaj Modeloj (LLMs), inkluzive de babilrotoj, disponigas ilojn por misinformado, kalumnio kaj misgvidado de neinformitaj. La minacoj estas plifortigitaj kiam ili estas kombinitaj kun artefaritaj bildoj kaj reproduktado de voĉo. Kun malsamaj zorgoj en menso, dekoj da miloj da AI-esploristoj ĵus faris nomita por moratorio pri evoluo pro eblaj danĝeroj, kiujn ili perceptas.
Kiel ĉiam, eblaj avantaĝoj de teknologio devas esti pesitaj kontraŭ eblaj kostoj.
Tute malsamaj demandoj aperas kiam ni turnas nin al AI kaj scienco. Ĉi tie singardemo estas necesa pro troaj kaj malzorgemaj asertoj, ofte plifortigitaj en la amaskomunikilaro. Por klarigi la aferojn, ni konsideru kazojn, iujn hipotezajn, jen realajn.
Mi menciis insektan navigadon, kiu estas mirinda atingo. Insektsciencistoj multe progresis en studado de kiel ĝi estas atingita, kvankam la neŭrofiziologio, tre malfacila afero, restas pasema, kune kun evoluo de la sistemoj. La sama estas vera pri la mirindaj heroaĵoj de birdoj kaj martestudoj, kiuj vojaĝas milojn da mejloj kaj senerare revenas al la devenloko.
Supozu, ke Tom Jones, propagandanto de inĝenierado de AI, venas kaj diras: "Via laboro estas ĉio refutita. La problemo estas solvita. Komercaj aviadkompaniaj pilotoj atingas la samajn aŭ eĉ pli bonajn rezultojn la tutan tempon."
Se eĉ ĝenus respondi, ni ridus.
Prenu la kazon de la maraj heroaĵoj de polinezianoj, ankoraŭ vivantaj inter indiĝenaj triboj, uzante stelojn, venton, fluojn por surterigi siajn kanuojn ĉe difinita loko centojn da mejloj for. Ĉi tio ankaŭ estis la temo de multe da esplorado por ekscii kiel ili faras ĝin. Tom Jones havas la respondon: “Ĉesu malŝpari vian tempon; marameaj ŝipoj faras tion la tutan tempon."
Sama respondo.
Ni iru nun al reala kazo, lingvoakirado. Ĝi estis la temo de ampleksa kaj tre priluma esplorado en la lastaj jaroj, montrante ke beboj havas tre riĉan scion pri la ĉirkaŭa lingvo (aŭ lingvoj), multe pli ol kion ili elmontras en agado. Ĝi estas atingita kun malmulte da indico, kaj en kelkaj decidaj kazoj tute neniu. En la plej bona kazo, kiel zorgemaj statistikaj studoj montris, haveblaj datenoj estas malabundaj, precipe kiam rango-frekvenco ("leĝo de Zipf") estas enkalkulita.
Eniras Tom Jones: “Vi estas refutita. Ne atentante viajn malkovrojn, LLM-oj, kiuj skanas astronomiajn kvantojn da datumoj, povas trovi statistikajn regulecojn, kiuj ebligas simuli la datumojn, pri kiuj ili estas trejnitaj, produktante ion, kio aspektas preskaŭ kiel normala homa konduto. Babilrotoj.”
Ĉi tiu kazo diferencas de la aliaj. Unue, ĝi estas reala. Due, homoj ne ridas; fakte, multaj estas timigitaj. Trie, male al la hipotezaj kazoj, la realaj rezultoj estas malproksime de tio, kion oni asertas.
Ĉi tiuj konsideroj alportas negravan problemon kun la nuna LLM-entuziasmo: ĝia tuta absurdaĵo, kiel en la hipotezaj kazoj kie ni rekonas ĝin tuj. Sed estas multe pli seriozaj problemoj ol absurdaĵo.
Unu estas, ke la LLM-sistemoj estas dezajnitaj tiel, ke ili ne povas diri al ni ion pri lingvo, lernado aŭ aliaj aspektoj de ekkono, afero de principo, neriparebla. Duobligu la terabajtojn da datumoj skanitaj, aldonu alian duilionon da parametroj, uzu eĉ pli da energio de Kalifornio, kaj la simulado de konduto pliboniĝos, dum malkaŝo pli klare la malsukceson principe de la alproksimiĝo por doni ajnan komprenon. La kialo estas elementa: La sistemoj funkcias same bone kun neeblaj lingvoj, kiujn beboj ne povas akiri, kiel kun tiuj, kiujn ili akiras rapide kaj preskaŭ reflekse.
Kvazaŭ biologo dirus: “Mi havas bonegan novan teorion pri organismoj. Ĝi listigas multajn, kiuj ekzistas kaj multajn, kiuj eble ne povas ekzisti, kaj mi povas diri al vi nenion pri la distingo.”
Denove, ni ridus. Aŭ devus.
Ne Tom Jones - nun rilatas al realaj kazoj. Persiste en sia radikala foriro de la scienco, Tom Jones respondas: "Kiel vi scias ion el tio ĝis vi esploros ĉiujn lingvojn?" Je ĉi tiu punkto la forlaso de normala scienco fariĝas eĉ pli klara. Per egaleco de argumento, ni povas forĵeti genetikon kaj molekula biologion, la teorion de evoluado, kaj la reston de la biologiaj sciencoj, kiuj ne provis pli ol eta frakcio de organismoj. Kaj por bona mezuro, ni povas forĵeti ĉion el fiziko. Kial kredi je la leĝoj de moviĝo? Kiom da objektoj efektive estis observitaj en moviĝo?
Ekzistas, krome, la malgranda afero de pruvŝarĝo. Tiuj, kiuj proponas teorion, havas la respondecon montri, ke ĝi havas ian sencon, ĉi-kaze, montri ke ĝi malsukcesas por neeblaj lingvoj. Ne estas la respondeco de aliaj refuti la proponon, kvankam ĉi-kaze ŝajnas sufiĉe facile fari tion.
Ni turnu atenton al normala scienco, kie aferoj fariĝas interesaj. Eĉ ununura ekzemplo de lingvoakirado povas doni riĉan komprenon pri la distingo inter eblaj kaj maleblaj lingvoj.
La kialoj estas simplaj, kaj konataj. Ĉiu kresko kaj evoluo, inkluzive de tio, kion oni nomas "lernado", estas procezo, kiu komenciĝas per stato de la organismo kaj transformas ĝin paŝon post paŝo al pli postaj stadioj.
Akiro de lingvo estas tia procezo. La komenca stato estas la biologia doto de la lingva fakultato, kiu evidente ekzistas, eĉ se ĝi estas, kiel iuj kredas, aparta kombinaĵo de aliaj kapabloj. Tio estas tre neverŝajna pro kialoj longe komprenitaj, sed ĝi ne rilatas al niaj zorgoj ĉi tie, do ni povas flankenmeti ĝin. Klare ekzistas biologia doto por la homa lingva fakultato. La plej nura vereco.
Transiro iras al relative stabila stato, ŝanĝita nur supraĵe preter: scio de la lingvo. Eksteraj datumoj ekigas kaj parte formas la procezon. Studante la atingitan staton (kono de la lingvo) kaj la eksterajn datumojn, ni povas tiri vastajn konkludojn pri la komenca stato, la biologia doto, kiu ebligas lingvoakiron. La konkludoj pri la komenca stato trudas distingon inter eblaj kaj neeblaj lingvoj. La distingo validas por ĉiuj tiuj, kiuj kunhavas la komencan staton—ĉiuj homoj, kiom oni scias; ŝajnas esti neniu diferenco en kapablo akiri lingvon inter ekzistantaj homaj grupoj.
Ĉio ĉi estas normala scienco, kaj ĝi atingis multajn rezultojn.
Eksperimento montris, ke la stabila stato estas esence akirita tre frue, de tri ĝis kvar jaroj. Estas ankaŭ bone establita, ke la lingva fakultato havas bazajn ecojn specifajn por homoj, tial ke ĝi estas vera specioposedaĵo: komuna al homaj grupoj kaj laŭ fundamentaj manieroj unika homa atributo.
Multo estas preterlasita en ĉi tiu skema konto, precipe la rolo de natura juro en kresko kaj evoluo: en la kazo de komputa sistemo kiel lingvo, principoj de komputila efikeco. Sed ĉi tio estas la esenco de la afero. Denove, normala scienco.
Gravas esti klare pri la distingo de Aristotelo inter posedo de scio kaj uzo de scio (en nuntempa terminologio, kompetenteco kaj efikeco). En la lingvokazo, la stabila stato akirita estas posedo de scio, kodita en la cerbo. La interna sistemo determinas nelimigitan aron de strukturitaj esprimoj, ĉiu el kiuj ni povas rigardi kiel formulado de penso, ĉiu eksterigebla en iu sensmotora sistemo, kutime sona kvankam ĝi povus esti signo aŭ eĉ (malfacile) tuŝo.
La interne kodita sistemo estas alirita en uzo de scio (efikeco). Agado inkluzivas la internan uzon de lingvo en penso: pripensado, planado, rememoro kaj multe pli. Statistike parolante tio estas senkompare la superforta uzo de lingvo. Ĝi estas neatingebla al introspekto, kvankam ni povas lerni multon pri ĝi per la normalaj metodoj de scienco, de "ekstere", metafore parolante. Tio, kion oni nomas "interna parolo", estas fakte fragmentoj de eksterigita lingvo kun la artikulacia aparato silentigita. Ĝi estas nur malproksima reflekto de la interna uzo de lingvo, gravaj aferoj, kiujn mi ne povas trakti ĉi tie.
Aliaj formoj de lingvouzo estas percepto (analizado) kaj produktado, ĉi-lasta grave implikante trajtojn kiuj restas same misteraj al ni hodiaŭ kiel kiam ili estis rigarditaj kun respekto kaj miro fare de Galileo kaj liaj samtempuloj ĉe la krepusko de moderna scienco.
La ĉefa celo de la scienco estas malkovri la internan sistemon, kaj en ĝia komenca stato en la homa fakultato de lingvo kaj en la apartaj formoj kiujn ĝi alprenas en akiro. Laŭ la mezuro, ke ĉi tiu interna sistemo estas komprenita, ni povas daŭrigi esplori kiel ĝi eniras en rendimenton, interagante kun multaj aliaj faktoroj, kiuj eniras en uzon de lingvo.
Datenoj de efikeco disponigas indicon pri la naturo de la interna sistemo, precipe tiel kiam ili estas rafinitaj per eksperimento, kiel en norma kampa laboro. Sed eĉ la plej amasa kolekto de datumoj nepre misgvidas en decidaj manieroj. Ĝi tenas al tio, kio estas normale produktita, ne la kono de la lingvo kodita en la cerbo, la primara objekto sub enketo por tiuj kiuj volas kompreni la naturon de lingvo kaj ĝia uzo. Tiu interna objekto determinas senlime multajn eblecojn de speco kiu ne estos uzata en normala konduto pro faktoroj senrilataj al lingvo, kiel mallongdaŭra memorlimigo, temoj studitaj antaŭ 60 jaroj. Observataj datumoj ankaŭ inkluzivos multon, kio kuŝas ekster la sistemo kodita en la cerbo, ofte konscia uzado de lingvo en manieroj kiuj malobservas la regulojn por retorikaj celoj. Ĉi tiuj estas veraĵoj konataj de ĉiuj kampolaboristoj, kiuj fidas je elikaj teknikoj kun informantoj, esence eksperimentoj, por doni rafinitan korpuson, kiu ekskludas negravajn restriktojn kaj deviajn esprimojn. Same validas kiam lingvistoj uzas sin kiel informantojn, tute prudentan kaj normalan procedon, oftan en la historio de la psikologio ĝis la nuntempo.
Daŭrigante pli kun normala scienco, ni trovas ke la internaj procezoj kaj elementoj de la lingvo ne povas esti detektitaj per inspektado de observitaj fenomenoj. Ofte tiuj elementoj eĉ ne aperas en parolado (aŭ skribo), kvankam iliaj efikoj, ofte subtilaj, povas esti detektitaj. Tio estas ankoraŭ alia kialo kial limigo al observitaj fenomenoj, kiel en LLM-aliroj, akre limigas komprenon de la internaj procezoj kiuj estas la kernobjektoj de enketo en la naturo de lingvo, ĝia akiro kaj uzo. Sed tio ne gravas, se oni forlasis zorgon pri scienco kaj kompreno favore al aliaj celoj.
Pli ĝenerale en la sciencoj, dum jarmiloj, konkludoj estis atingitaj per eksperimentoj - ofte pensaj eksperimentoj - ĉiu radikala abstraktado de fenomenoj. Eksperimentoj estas teori-movitaj, serĉante forĵeti la sennombrajn sensignifajn faktorojn kiuj eniras en observitajn fenomenojn-kiel lingva efikeco. Ĉio ĉi estas tiel elementa, ke ĝi malofte eĉ estas diskutata. Kaj konata. Kiel notite, la baza distingo iras reen al la distingo de Aristotelo inter posedo de scio kaj uzo de scio. La unua estas la centra studobjekto. Sekundaraj (kaj sufiĉe seriozaj) studoj esploras kiel la interne stokita sistemo de scio estas uzita en agado, kune kun la multaj ne-lingvaj faktoroj ol eniri en kio estas rekte observita.
Ni povus ankaŭ memori observon de evolua biologo Theodosius Dobzhansky, fama ĉefe pro sia laboro kun Drosophila: Ĉiu specio estas unika, kaj homoj estas la plej unika el ĉiuj. Se ni interesiĝas pri kompreni kiajn estaĵojn ni estas - post la ordono de la Delfa Orakolo antaŭ 2,500 jaroj - ni ĉefe okupiĝos pri tio, kio igas homojn la plej unikaj el ĉiuj, ĉefe lingvo kaj penso, proksime interplektitaj, kiel oni rekonas en riĉa tradicio revenanta al klasikaj Grekio kaj Hindio. Plej multe de la konduto estas sufiĉe rutina, do iagrade antaŭvidebla. Kio donas realan komprenon pri tio, kio faras nin unikaj, estas tio, kio ne estas rutino, kion ni trovas, foje per eksperimento, foje per observado, de normalaj infanoj ĝis grandaj artistoj kaj sciencistoj.
Unu fina komento ĉi-rilate. Socio estis turmentita dum jarcento per masivaj kompaniaj kampanjoj por kuraĝigi malestimon por scienco, temoj bone studitaj de Naomi Oreskes inter aliaj. Ĝi komenciĝis per korporacioj, kies produktoj estas murdaj: plumbo, tabako, asbesto, poste fosiliaj brulaĵoj. Iliaj motivoj estas kompreneblaj. La celo de komerco en kapitalisma socio estas profito, ne homa bonfarto. Tio estas institucia fakto: Ne ludu la ludon kaj vi estos ekstere, anstataŭigita per iu kiu faros.
La kompaniaj PR-sekcioj frue rekonis, ke estus eraro nei la kreskantajn sciencajn pruvojn pri la mortigaj efikoj de siaj produktoj. Tio estus facile refutita. Pli bone semi dubon, kuraĝigi necertecon, malestimon por ĉi tiuj pintkapaj kostumoj, kiuj neniam pentris domon, sed malsupreniris el Vaŝingtono por diri al mi, ke mi ne uzu plumban farbon, detruante mian komercon (reala kazo, facile multobligita). Tio tro bone funkciis. Ĝuste nun ĝi kondukas nin sur vojon al detruo de organizita homa vivo sur la tero.
En intelektaj cirkloj, similaj efikoj estis produktitaj per la postmoderna kritiko de scienco, malmuntita de Jean Bricmont kaj Alan Sokal, sed ankoraŭ multe vivantaj en iuj rondoj.
Eble ne afablas sugesti la demandon, sed estas, mi opinias, juste demandi, ĉu la Tom Joneses kaj tiuj, kiuj senkritike ripetas kaj eĉ pligrandigas siajn senzorgajn proklamojn, kontribuas al la samaj malbonaj tendencoj.
CJP: ChatGPT estas babilbotisto pelata de natura lingvo, kiu uzas artefaritan inteligentecon por permesi homsimilajn konversaciojn. En lastatempa artikolo en La New York Times, lige kun du aliaj aŭtoroj, vi malŝaltas la novajn babilbotojn kiel ekzaltiĝo ĉar ili simple ne povas egali la lingvan kompetentecon de homoj. Ĉu tamen ne eblas, ke estontaj novigoj en AI povas produkti inĝenierajn projektojn, kiuj kongruos kaj eble eĉ superos homajn kapablojn?
NC: Kredito por la artikolo estu donita al la efektiva aŭtoro, Jeffrey Watumull, bona matematikisto-lingvisto-filozofo. La du listigitaj kunaŭtoroj estis konsultistoj, kiuj konsentas kun la artikolo sed ne skribis ĝin.
Estas vere, ke babilbotoj principe ne povas egali la lingvan kompetentecon de homoj, pro la supraj kialoj ripetitaj. Ilia baza dezajno malhelpas ilin atingi la minimuman kondiĉon de taŭgeco por teorio de homa lingvo: distingi eblajn de neeblaj lingvoj. Ĉar tio estas posedaĵo de la dezajno, ĝi ne povas esti venkita per estontaj novigoj en ĉi tiu speco de AI. Tamen, estas tute eble, ke estontaj inĝenieraj projektoj egalos kaj eĉ superos homajn kapablojn, se ni volas diri homan kapablon agi, efikecon. Kiel menciite supre, kelkaj jam delonge faras tion: aŭtomataj kalkuliloj ekzemple. Pli interese, kiel menciite, insektoj kun minuskla cerbo superas homajn kapablojn komprenitajn kiel kompetentecon.
CJP: En la menciita artikolo oni ankaŭ observis, ke la hodiaŭaj AI-projektoj ne posedas homan moralan fakultaton. Ĉu ĉi tiu evidenta fakto faras AI-robotojn malpli minaca por la homa raso? Mi opinias, ke la argumento povas esti, ke ĝi igas ilin eble eĉ pli.
NC: Estas ja evidenta fakto, komprenante "moralan fakultaton" larĝe. Krom se zorge kontrolita, AI-inĝenierado povas prezenti severajn minacojn. Supozu, ekzemple, ke prizorgado de pacientoj estis aŭtomatigita. La neeviteblaj eraroj, kiuj estus venkitaj per homa juĝo, povus produkti hororan rakonton. Aŭ supozu, ke homoj estis forigitaj de taksado de la minacoj determinitaj per aŭtomatigitaj misildefendaj sistemoj. Kiel ŝoka historia rekordo informas ni, tio estus la fino de la homa civilizacio.
Krom se zorge kontrolita, AI-inĝenierado povas prezenti severajn minacojn.
CJP: Reguligistoj kaj policaj agentejoj en Eŭropo vekas zorgojn pri la disvastiĝo de ChatGPT dum lastatempe prezentita leĝaro de Eŭropa Unio provas trakti AI per klasifikado de tiaj iloj laŭ ilia perceptita nivelo de risko. Ĉu vi konsentas kun tiuj, kiuj zorgas, ke ChatGPT prezentas gravan publikan minacon? Krome, ĉu vi vere pensas, ke la plua evoluo de AI-iloj povas esti haltita ĝis sekurigiloj estos enkondukitaj?
NC: Mi povas facile simpatii kun klopodoj provi kontroli la minacojn prezentitajn de altnivela teknologio, inkluzive de ĉi tiu kazo. Mi tamen estas skeptika pri la ebleco fari tion. Mi suspektas, ke la feino estas el la botelo. Malicaj aktoroj - instituciaj aŭ individuaj - verŝajne povas trovi manierojn eviti sekurigilojn. Tiaj suspektoj kompreneble ne estas kialo por ne provi, kaj ekzerci vigladon.
ZNetwork estas financita nur per la malavareco de siaj legantoj.
Donaci