Adimen artifiziala deritzonaren zabalkunde azkarraren inguruan dabiltzan eztabaida ugarien barruan, "aluzinatu" hitzaren aukeraketan zentratutako liskar ilun samarra dago.
Hau da AI sortzailearen arkitektoek eta sustatzaileek guztiz fabrikatutako edo guztiz okerreko txat-botek emandako erantzunak ezaugarritzeko finkatu duten terminoa. Adibidez, bot bati existitzen ez den zerbaiten definizioa eskatzen diozunean eta horrek, modu sinesgarrian, ematen dizu. bat, osaturiko oin-oharrekin osatua. "Eremuan inork ez ditu oraindik haluzinazio arazoak konpondu", Sundar Pichai Google eta Alphabet-eko zuzendari nagusiak. esan elkarrizketatzaile bat duela gutxi.
Egia da, baina zergatik deitu akatsei "aluzinazio" batere? Zergatik ez zabor algoritmikoa? Edo akatsak? Bada, aluzinazioak gizakiaren garunak presente ez diren fenomenoak hautemateko duen ahalmen misteriotsuari egiten dio erreferentzia, ez behintzat termino konbentzional eta materialistetan. Psikologian, psikodelikoetan eta mistizismo ezberdinetan erabili ohi den hitz bat bereganatuz, AI-ren sustatzaileak, beren makinen hutsegitea aitortzen duten arren, aldi berean sektoreko mitologiarik kuttunena elikatzen ari dira: hizkuntza-eredu handi horiek eraikiz, eta hori guztia trebatuz. gizakiok bisualki idatzi, esan eta irudikatu dugu, gure espeziearentzat jauzi ebolutibo bat pizteko bidean adimen bizidun bat jaiotzeko bidean daude. Nola liteke bestela Bing eta Bard bezalako bot-ak eterrean ibiltzea?
Hala ere, haluzinazio deformatuak AIaren munduan abian dira, baina ez dira bot-ak izaten ari direnak; teknologiako zuzendari nagusiak dira haiek askatu zituztenak, euren zaleen falange batekin batera, haluzinazio basatien eskuetan daudenak, banaka zein kolektiboki. Hemen aluzinazioa definitzen ari naiz, ez zentzu mistiko edo psikodelikoan, adimenak aldatutako egoerak, hain zuzen ere, aurrez hautematen ez ziren egia sakonetara iristen lagun dezaketenak. Ez. Jende hauek estropezu egiten ari dira: ikusten, edo behintzat ikusten dutela aldarrikatzen, inondik inora ez dauden frogak, baita beren produktuak gure garaiera unibertsalerako eta hezkuntzarako erabiliko dituzten mundu osoak konjuratzen ere.
AI sortzaileak pobrezia amaituko du, esaten digute. Gaixotasun guztiak sendatuko ditu. Klima aldaketa konponduko du. Gure lanak esanguratsuagoak eta zirraragarriagoak egingo ditu. Aisialdi eta kontenplazio bizitzak kaleratuko ditu, mekanizazio kapitalista berantiarragatik galdu dugun gizatasuna berreskuratzen lagunduko diguna. Bakardadearekin amaituko da. Gure gobernuak arrazional eta sentikor bihurtuko ditu. Hauek, beldur naiz, benetako AI haluzinazioak direla eta iazko urte amaieran Chat GPT abian jarri zenetik denok entzun ditugu begizta batean.
Badago mundu bat non AI sortzailea, ikerkuntza iragarpenerako tresna indartsua eta zeregin neketsuak burutzen dituena, benetan erabili ahal izateko. mesede gizadia, beste espezie batzuk eta gure etxea partekatua. Baina horretarako, teknologia hauek gurea ez den ordena ekonomiko eta sozial oso ezberdin baten barruan hedatu beharko lirateke, giza beharrak asetzea eta bizitza guztia eusten duten sistema planetarioak babestea helburu zuena.
Eta gaur egun estropezu egiten ari ez garenok ondo ulertzen dugunez, gure egungo sistema ez da horrelakorik. Aitzitik, aberastasuna eta irabazia ahalik eta gehien ateratzeko eraiki da, gizakiengandik zein mundu naturaletik, kapitalismoaren tekno-nekro-etapatzat har genezakeen errealitatera eraman gaituena. Botere eta aberastasun hiperkontzentratuaren errealitate horretan, IA -haluzinazio utopiko horiek guztiak bizitzetik urrun- askoz ere litekeena da desjabetze eta hondamen gehiagorako tresna beldurgarri bihurtzea.
Hori zergatik den argituko dut. Baina lehenik eta behin, lagungarria da hausnartzea helburua AIren inguruko haluzinazio utopikoak balio dute. Zer lan egiten ari dira istorio onbera hauek kulturan tresna berri bitxi hauek topatzen ditugun bitartean? Hona hemen hipotesi bat: giza historiako lapurreta handiena eta ondoriorik handiena izan daitekeenaren azaleko istorio indartsu eta erakargarriak dira. Ikusten ari garena historiako enpresarik aberatsenek (Microsoft, Apple, Google, Meta, Amazon...) alde bakarrean dagoen giza ezagutza osoa forma digitalean, hondagarrian, bereganatzen dutelako eta jabedun produktuen barruan hormatzen dute, horietako asko. zuzeneko helburua hartu bizitza osoan makinak baimenik edo baimenik eman gabe trebatu dituzten gizakiei.
Hau ez litzateke legezkoa izan behar. Orain daukagun copyrightdun materialaren kasuan jakin modeloak trebatu (egunkari hau barne), hainbat demanden argi eta garbi legez kanpokoa zela argudiatuko duten artxibatu egin dira. Zergatik, adibidez, baimena eman behar zaio irabazi-asmorik gabeko enpresa bati artista bizidunen margolanak, marrazkiak eta argazkiak Stable Diffusion edo Dall-E 2 bezalako programa batean sartzea, gero artista horien bertsio bikoitzak sortzeko erabili ahal izateko? lana, guztiontzat izan ezik, artistek beren onurak?
Molly Crabapple margolari eta marrazkilaria lapurreta horri aurre egiten dioten artisten mugimendua zuzentzen laguntzen ari da. "AI arte-sorgailuak datu-multzo erraldoietan trebatzen dira, milioika milioi egile eskubidedun irudi dituztenak, haien sortzaileak jakin gabe bilduak, are gutxiago kalte-ordaina edo baimena. Hau da, benetan, historiako arte-lapurretarik handiena. Silicon Valley arrisku-kapitalak babestutako itxura errespetagarriko entitate korporatiboek egina. Egun argiko lapurreta da”, berria ireki berak idatzitako gutuna dio.
Trikimailua, noski, Silicon Valley-k ohiko lapurreta "haustura" deitzen duela da, eta sarriegi ihes egiten duela. Badakigu mugimendu hau: kargatu aurrera legerik gabeko lurraldean; erreklamatu arau zaharrak ez direla zure teknologia berrian aplikatzen; garrasi egin ezazu araudiak Txinari bakarrik lagunduko diola, dena, zure gertakariak sendo jasotzen dituzun bitartean. Denok jostailu berri hauen berritasuna gainditu eta hondakin sozial, politiko eta ekonomikoaren balantzea egiten hasten garenean, teknologia hain da nonahikoa non laburrak eta politikariek eskuak altxatzen dituzte.
Google-ren liburu eta arte-eskanearekin ikusi dugu. Musk-en espazioko kolonizazioarekin. Uberek taxien industriaren aurkako erasoarekin. Airbnb-en alokairu merkatuaren aurkako erasoarekin. Facebook-en promiskuitatearekin gure datuekin. Ez eskatu baimenik, disruptoreei esatea gustatzen zaie, eskatu barkamena. (Eta koipeztatu galderak kanpainako ekarpen eskuzabalekin.)
Zaintza Kapitalismoaren Aroan, Shoshana Zuboff Google-ren Street View-eko mapek pribatutasun-arauen gainean nola eragin zuten zehatz zehazten du bere kameraz hornitutako autoak gure bide publikoak eta gure etxeen kanpoaldeak argazkia hartzera bidaliz. Pribatutasun-eskubideak defendatzen zituzten auziak zabaldu zirenerako, Street View jada oso nonahi zegoen gure gailuetan (eta hain polita, eta hain erosoa...) kanpoko epaitegi gutxi batzuk. Alemanian esku hartzeko prest zeuden.
Orain gure etxeen kanpoaldean gertatu den gauza bera gertatzen ari da gure hitzekin, gure irudiekin, gure abestiekin, gure bizitza digital osoarekin. Gaur egun guztiak bahitzen ari dira eta pentsamendu eta sormena simulatzeko makinak trebatzeko erabiltzen ari dira. Enpresa hauek jakin behar dute lapurreta egiten ari direla, edo gutxienez a kasu sendoa direla egin daiteke. Jolas-liburu zaharrak beste behin funtzionatuko duela espero dute; lapurraren eskala dagoeneko hain handia dela eta halakoekin zabaltzen ari dela. abiadura auzitegiek eta arduradun politikoek berriro eskuak altxatuko dituztela guztiaren ustezko ezinbestekoaren aurrean.
Horregatik dira hain garrantzitsuak AIk gizateriaren alde egingo dituen gauza zoragarri guztiei buruz dituzten haluzinazioak. Erreklamazio handi horiek masa lapurreta hau opari gisa mozorrotzen dutelako, AIren arrisku ukaezinak arrazionalizatzen laguntzen dutelako.
Honezkero, gehienok entzun dugu inkesta horrek AI ikertzaile eta garatzaileei eskatu zien kalkulatzeko AI sistema aurreratuek "giza desagerpena edo giza espeziearen indargabetze iraunkor eta larria" eragingo duten. Izugarriki, erantzunaren mediana % 10eko aukera zegoela izan zen.
Nola arrazionalizatzen da lanera joatea eta halako arrisku existentzialak dituzten tresnak ateratzea? Askotan, ematen den arrazoia da sistema hauek abantaila potentzial handiak dituztela, alde on horiek gehienetan haluzinagarriak direla izan ezik. Azkar ditzagun basatietako batzuk.
haluzinazio #1: AI izango konpontzeko klima krisia
Ia beti AI-ren gorabeheren zerrendetan sistema hauek klimaren krisia nolabait konponduko dutela diote. Hori guztia entzun dugu Munduko Ekonomia Foroan to the Kanpo Harremanetarako Kontseilua to Boston Consulting Group, eta horrek azaltzen duenez, AI "erabili daiteke eragile guztiei laguntzeko ikuspegi informatuago eta datuetan oinarritutako karbono isurien aurka borrokatzeko eta gizarte berdeagoa eraikitzeko. Era berean, klima-esfortzu globalak arrisku gehien dauden eskualdeetara ponderatzeko ere erabil daiteke". Eric Schmidt Googleko zuzendari ohiak laburbildu zuen kasua esan Atlantikoa AIren arriskuak hartzea merezi zuelako, zeren “munduko arazo handienetan pentsatzen baduzu, oso gogorrak dira guztiak: klima aldaketa, giza erakundeak, eta abar. Beraz, beti nahi dut jendea adimentsuagoa izatea».
Logika horren arabera, klima-aldaketa bezalako arazo handiak "konpontzea" ez izatea adimen gabeziari dagokio. Ez dio axola pertsona adimentsuak, doktoretza eta Nobel sariez beteta, hamarkadetan zehar gure gobernuei esaten ari zaiela zer gertatu behar den nahaspila horretatik ateratzeko: gure emisioak txikitu, karbonoa lurrean utzi, aberatsen gehiegizko kontsumoari eta azpikontsumoari aurre egin. behartsuena, ez baitago energia-iturririk kostu ekologikorik gabe.
Oso aholku adimentsu hau baztertu izanaren arrazoia ez da irakurtzeko ulermen arazo batengatik, edo nolabait gure pentsamendua egiteko makinak behar ditugulako. Klimaren krisiak eskatzen diguna egiteak huts egingo lukeelako da trilioi dolar erregai fosilen aktiboen artean, gure interkonektatutako ekonomien muinean dagoen kontsumoan oinarritutako hazkunde-eredua zalantzan jartzen duen bitartean. Klima krisia ez da, izan ere, oraindik argitu ez dugun misterio edo asmakizun bat, datu multzo nahiko sendoak direlako. Badakigu zer beharko litzatekeen, baina ez da konponketa azkarra, paradigma aldaketa bat da. Makinek erantzun atseginagoa eta/edo errentagarriagoa txutuko duten zain egotea ez da krisi honen sendabidea, horren sintoma bat gehiago da.
Garbitu haluzinazioak eta badirudi askoz ere litekeena da AI merkatura ateratzea klima krisia aktiboki sakontzeko moduan. Lehenik eta behin, txatbotetatik berehalako saiakera eta artelanak posible egiten dituzten zerbitzari erraldoiak izugarriak eta gero eta handiagoak dira. iturri karbono-isuriak. Bigarrena, Coca-Cola bezalako enpresak egiten hasten diren heinean inbertsio handiak AI sortzailea produktu gehiago saltzeko erabiltzeko, argiegi geratzen ari da teknologia berri hau azken belaunaldiko tresna digitalen modu berean erabiliko dela: askatasuna eta demokrazia hedatzeari buruzko promes handiekin hasten dena, iragarkiak mikro-bideratzen amaitzen duela. guri, alferrikako eta karbono isurtzen duten gauza gehiago erosteko.
Eta hirugarren faktore bat dago, hau zehaztea apur bat zailagoa. Gure komunikabideen kanalak hainbat motatako faltsu eta klon sakonez gainezka egon, orduan eta informazio gehiagoko harea mugikorretan murgiltzeko sentsazioa izango dugu. Geoffrey Hintonek, sarritan "AIaren aitabitxia" deitzen zaio, duela hamarkada bat baino gehiago garatu zuen sare neuronalak gaur egungo hizkuntza-eredu handien oinarriak osatzen dituelako, ondo ulertzen du hori. Google-n goi-kargu bat utzi berri zuen, sortzen lagundu zuen teknologiaren arriskuei buruz askatasunez hitz egin ahal izateko, besteak beste, esan New York Times-ek, jendeak "gehiago egia zer den ezin jakin" izateko arriskua.
Hau oso garrantzitsua da AI klima krisiari aurre egiten lagunduko dion aldarrikapenerako. Izan ere, gero eta harrigarriagoa den gure komunikabide-ingurunean irakurri eta ikusten dugun guztiarekin mesfidatzen garenean, are gutxiago ekipatuta gaude arazo kolektibo larriak konpontzeko. Konfiantzaren krisia ChatGPT baino lehenagokoa da, noski, baina ez dago zalantzarik faltsu sakonen ugaritzeak dagoeneko hazten ari diren konspirazio kulturen hazkunde esponentzialarekin batera izango dela. Beraz, zer aldea izango du AI-ak aurrerapen teknologiko eta zientifikoak lortzen baditu? Errealitate partekatuaren ehuna gure eskuetan desegiten ari bada, inongo koherentziaz erantzuteko gai izango gara.
haluzinazio #2: AI izango entregatu jakintsua gobernua
Haluzinazio honek etorkizun hurbil bat deitzen du, non politikariek eta burokratak, AI sistemen adimen agregatu zabalaz baliatuz, "behar-ereduak ikusteko eta ebidentzian oinarritutako programak garatzeko" gai izan daitezen beren osagaientzat onura handiagoak dituztenak. Erreklamazio hori atik dator paper Boston Consulting Group-en fundazioak argitaratua, baina oihartzuna izaten ari da hainbat thinktank eta kudeaketa aholkularitzaren barruan. Eta esanguratsua da enpresa jakin horiek -gobernuek eta beste korporazio batzuek kostuak aurrezten dituztenak identifikatzeko kontratatutako enpresak, askotan langile kopuru handia kaleratuz- azkarren AI-aren bidera salto egin izana. PwC (lehen PricewaterhouseCoopers) besterik ez iragarri 1 milioi dolarreko inbertsioa, eta Bain & Company eta Deloitte-k gogotsu daude tresna hauek bezeroak "eraginkorragoak" egiteko erabiltzeaz.
Klimaren aldarrikapenekin gertatzen den bezala, galdetu behar da: politikariek politika anker eta eraginkorrak ezartzeko arrazoia froga faltagatik al da? "Ereduak ikusteko" ezintasuna, BCG paperak iradokitzen duen moduan? Ez al dute ulertzen giza kostuak gosez osasun publikoa pandemien artean, edo merkatukoak ez diren etxebizitzetan inbertitu ez izana karpak gure hiri parkeak betetzen dituztenean, edo erregai fosilen azpiegitura berriak onartzea tenperaturak gora egiten duten bitartean? AI behar al dute "adimentsuagoak" bihurtzeko, Schmidten terminoa erabiltzeko, ala nahikoa al dira, hain zuzen, hurrengo kanpaina nork sustatuko duen jakiteko edo, alde egiten badute, arerioak finantzatzeko?
Izugarri polita izango litzateke AI-ak benetan diru korporatiboaren eta politika arduragabearen arteko lotura etengo balu, baina lotura horrek zerikusi handia du Google eta Microsoft bezalako enpresei beren chatbot-ak jendaurrean askatzeko baimena eman dietenarekin, abisu-jausi eta jausiak izan arren. ezagutzen diren arriskuak. Schmidt eta beste batzuk urte luzeko lobby kanpainan aritu dira kontatzea Washingtonen bi alderdiek ez badute libre AI sortzailearekin aurrera egiteko, erregulazio serioak gabe, mendebaldeko potentziak hautsetan utziko dituela Txinak. Iaz, teknologia-enpresa nagusienak igaro 70 milioi dolar errekorra Washingtonen lobby egiteko - petrolioaren eta gasaren sektorea baino gehiago - eta kopuru hori, Bloomberg News-ek adierazi duenez, "merkataritza-talde, irabazi-asmorik gabeko eta thinktank-etan" gastatutako milioien gain dago.
Hala ere, gure hiriburu nazionaletan diruak nola moldatzen dituen politika zehatz-mehatz ezagutzen duten arren, Sam Altman OpenAIko zuzendari nagusia -ChatGPT-en sortzailea- bere produktuetarako kasurik onenei buruz hitz egiten entzutean, badirudi hori guztia dela. ahaztuta. Horren ordez, badirudi gurea guztiz ez bezalako mundu bat haluzinatzen ari dela, politikariek eta industriak datu onenetan oinarritutako erabakiak hartzen dituzten eta inoiz ezin konta ahala bizitza arriskuan jarriko ez luketen irabazien eta abantaila geopolitikorako. Horrek beste aluzinazio batera garamatza.
haluzinazio #3: tech erraldoiak ahal be fidagarria ez apurtu munduan
Galdetu ChatGPT-k dagoeneko abiarazi duen urrezko arrasaldiagatik kezkatuta badago, Altman-ek esan zuen hala dela, baina gogotsu gaineratu zuen: "Espero dugu dena ondo aterako dela". Bere kide teknologikoko zuzendari nagusiei buruz (euren aurkarien chatbot-ak azkar ateratzeko lehiatzen ari direnak) esan zuen: "Uste dut aingeru hobeek irabaziko dutela".
Aingeru hobeak? Googlen? Ziur nago konpainia tiro gehienak AI-ri buruzko artikulu kritikoak argitaratzen ari zirelako, edo enpresari lantokian arrazakeriari eta sexu-jazarpenari buruz deitzen ari zirelako. "Aingeru hobeak" gehiago dituzte irten larrituta, azkena Hinton. Hori gertatzen da, AItik etekin handiena ateratzen duten pertsonen haluzinazioen aurka, Google-k ez dituelako erabakiak hartzen munduarentzat onena denaren arabera; baizik eta Alphabet-eko akziodunentzat onena denaren arabera hartzen ditu erabakiak, azken burbuila galdu nahi ez dutenak, ez. Microsoft, Meta eta Apple dagoeneko guztiak sartuta daudenean.
aluzinazioa #4: AI izango askatu us ra nekea
Silicon Valley-ko haluzinazio onak askori sinesgarriak iruditzen bazaizkio, arrazoi sinple bat dago horretarako. AI generatiboa gaur egun bere sozialismo faltsutzat jo dezakegun fasean dago. Gaur egun ezaguna den Silicon Valley-ren jolas liburu baten parte da. Lehenik eta behin, produktu erakargarri bat sortu (bilatzaile bat, mapak egiteko tresna, sare sozial bat, bideo-plataforma, ride share bat...); urte batzuetan doan edo ia doan eman, negozio eredu bideragarri antzeman gabe (“Jolastu botekin”, esaten digute, “ikusi zein gauza dibertigarri sor ditzakezun!”); egin aldarrikapen handi asko nola egiten ari zaren "herriko plaza" edo "informazio komun bat" edo "herria konektatu" nahi duzulako bakarrik, hori guztia askatasuna eta demokrazia zabalduz (eta ez "gaiztoa"). Ondoren, ikusi jendea doako tresna hauek erabiliz engantxatzen dela eta zure lehiakideek porrota deklaratzen dutela. Eremua garbi dagoenean, sartu zuzendutako iragarkiak, etengabeko zaintza, poliziaren eta militarren kontratuak, kutxa beltzeko datuen salmenta eta harpidetza kuotak igotzea.
Bizitza eta sektore asko dezimatuak izan dira liburu honen aurreko iterazioek, taxi gidarietatik hasi eta alokairu merkatuetaraino tokiko egunkarietaraino. AI iraultzarekin, galera mota hauek biribiltze-akatsen itxura izan dezakete, irakasleek, kodetzaileak, artista bisualak, kazetariak, itzultzaileak, musikariak, zaintza-langileak eta beste hainbeste beren diru-sarrerak kode glitchy bidez ordezkatzeko aukerarekin.
Ez kezkatu, AI zaleek haluzinatu egiten dute; zoragarria izango da. Nori gustatzen zaio lana, hala ere? AI generatiboa ez da enpleguaren amaiera izango, esaten digute, soilik "lan aspergarria” – txat-botek arima suntsitzen dituzten zeregin errepikakorrak eta gizakiak gainbegiratu besterik ez dute egiten lagungarri. Altman, bere aldetik, ikusten etorkizuna non lana “kontzeptu zabalagoa izan daitekeen, ez jan ahal izateko egin behar den zerbait, baizik eta sormen-adierazpen gisa eta betetasuna eta zoriontasuna aurkitzeko modu gisa egiten duzun zerbait”.
Bizitza ederrago eta lasaiago baten ikuspegi zirraragarria da, ezkertiar askok partekatzen dutena (Karl Marxen suhia, Paul Lafargue, bat idatzi zuena barne). manifestua Alferra izateko eskubidea izenburupean). Baina ezkertiarrok ere badakigu dirua irabaztea bizitzaren gidatzeko ezinbestekoa izango ez bada, beste modu batzuk egon behar direla gure aterpe eta mantenu beharrak asetzeko. Lan kaskarrik gabeko munduak esan nahi du alokairuak doakoa izan behar duela, eta osasun-laguntzak doakoa izan behar duela, eta pertsona orok eskubide ekonomiko ukaezinak izan behar dituela. Eta, bat-batean, ez gara AI buruz hitz egiten, sozialismoaz ari gara.
Ez garelako bizi Altmanek haluzinatzen duela dirudien Star Trek-en inspiratutako mundu arrazional eta humanistan. Kapitalismoaren pean bizi gara, eta sistema horren pean, hainbat eta hainbat langileren zeregin ekonomikoak ziurtasunez bete ditzaketen teknologiekin merkatua gainezkatzearen ondorioak ez dira pertsona horiek bat-batean filosofo eta artista bihurtzeko aske izatea. Horrek esan nahi du pertsona horiek amildegira begira ikusiko dutela, benetako artistak erortzen diren lehenengoen artean.
Horixe da Crabapple-ren gutun irekiaren mezua, non «artista, argitaletxe, kazetari, editore eta kazetaritza sindikatuetako buruzagiek giza balioen aldeko konpromisoa har dezatela AI irudi sortzaileen erabileraren aurka» eta «pertsonek egindako arte editoriala laguntzeko konpromisoa har dezaten». , ez zerbitzari ustiategiak”. Gutuna, orain sinatu ehunka artista, kazetari eta besteren eskutik, eliteko artista guztiek izan ezik, euren lana "desagertzeko arriskuan" aurkitzen dutela dio. Eta Hintonen arabera, "AIaren aitabitxiak", ez dago mehatxua zabalduko ez denik sinesteko arrazoirik. Txatbotek "lanak kentzen dituzte" baina "baliteke hori baino gehiago kentzea".
Crabapple-k eta bere egilekideek idazten dute: "Generative AI artea banpirikoa da, iraganeko belaunaldietako artelanez jaten du, nahiz eta artista bizidunen bizia xurgatzen duen". Baina badaude aurre egiteko moduak: produktu horiek erabiltzeari uko egin eta gure enpresaburuei eta gobernuei ere haiek bazter ditzatela eskatzeko antolatu. A letra AI etikaren jakintsu garrantzitsuenek, Timnit Gebru barne, Google-k 2020an kaleratu zuen laneko diskriminazioari aurre egiteko, gobernuek berehala sartu ditzaketen erregulazio-tresna batzuk zehazten ditu, besteak beste, ereduak trebatzeko erabiltzen ari diren datu multzoei buruzko gardentasun osoa. Egileek idazten dute: "Ez da beti argi izan behar euskarri sintetikoak topatzen ditugunean, baizik eta sistema hauek eraikitzen dituzten erakundeek prestakuntza-datuak eta eredu-arkitekturak dokumentatu eta ezagutzera eman beharko lituzkete... Guretzat lan egiten duten makinak eraiki beharko genituzke, gizartea "egokitu" beharrean, makina irakurgarri eta idazteko modukoa izan dadin».
Teknologia-enpresek jadanik beranduegi dela gizakiak ordezkatzen duten eta masiboki imitatzen den produktu hau atzera botatzeko sinetsarazi nahi diguten arren, indarrean dauden aurrekari legal eta arauzko oso garrantzitsuak daude. Adibidez, AEBetako Merkataritza Batzorde Federala (FTC) behartu Cambridge Analytica-k, baita Everalbum argazki-aplikazio baten jabea ere, legez kanpo hartutako datuetan eta argazkietan urratutako argazkietan trebatuak izan diren algoritmo osoak suntsitzeko. Bere hasierako egunetan, Biden administrazioak teknologia handiak erregulatzeari buruzko aldarrikapen ausartak egin zituen, besteak beste, datu pertsonalen lapurretaren aurka, jabedun algoritmoak eraikitzeko. Presidentetzarako hauteskundeak azkar hurbiltzen ari direnez, une egokia izango litzateke promesa horiek betetzeko eta hurrengo kaleratze masiboak saihesteko.
Faltsutze sakonen mundua, mimetismoaren begiztak eta desberdintasuna areagotzea ez da ezinbestekoa. Politika-aukera multzo bat da. Txatbot banpikoen egungo forma erregulatu dezakegu, eta AIren promesa zirraragarrienak Silicon Valley-ko haluzinazioak baino gehiago izango liratekeen mundua eraikitzen hasi.
Makinak entrenatu ditugulako. Denok. Baina ez dugu inoiz gure baimena eman. Gizateriaren asmamen, inspirazio eta errebelazio kolektiboaz elikatzen ziren (gure ezaugarri benalagoekin batera). Eredu hauek itxitura eta jabetze makinak dira, gure bizitza indibidualak nahiz gure ondare intelektual eta artistiko kolektiboak irentsi eta pribatizatzen dituztenak. Eta haien helburua ez zen inoiz klima aldaketa konpontzea edo gure gobernuak arduratsuagoak izatea edo gure eguneroko bizitza lasaiago egitea. Beti izan zen urritasun masiboari etekina ateratzea, eta hori, kapitalismoan, giza funtzioak botekin ordezkatzearen ondorio nabarmena eta logikoa da.
Hau guztia dramatikoegia al da? Berrikuntza zirraragarriaren aurkako erresistentzia estua eta erreflexiboa? Zergatik espero okerrago? Altman lasaitzen du gu: "Inork ez du mundua suntsitu nahi". Agian ez. Baina gero eta okerragoa den klima- eta desagertze-krisiek egunero erakusten diguten bezala, pertsona eta erakunde boteretsu asko ondo daudela jakitean, munduko bizi-euskarri-sistemen egonkortasuna suntsitzen laguntzen ari direla, beti ere egiten jarraitu ahal izango dute. erregistroa haiek eta haien familiak ondorio txarrenetatik babestuko dituztela uste duten irabaziak. Altman, Silicon Valleyko izaki asko bezala, bera da prestatzailea: 2016an, bera boasted: "Armak, urrea, potasio ioduroa, antibiotikoak, pilak, ura, Israelgo Defentsa Indarren gas maskarak eta Big Sur-en hegan egin dezakedan lur zati handi bat ditut".
Ziur nago gertakari horiek askoz gehiago esaten dutela Altman-ek benetan askatzen laguntzen ari den etorkizunari buruz sinesten duenari buruz, prentsa-elkarrizketetan partekatzeko aukeratzen duen haluzinazio loretsuak baino.
Naomi Klein Guardian AEBetako zutabegile eta idazle laguntzailea da. No Logo eta The Shock Doctrine liburuen egile salduena da eta Klima Justiziako irakaslea eta Columbia Britainiarreko Unibertsitateko Klima Justizia Zentroko zuzendarikidea da.
ZNetwork irakurleen eskuzabaltasunaren bidez soilik finantzatzen da.
Dohaintzan