Nn tehisintellekti kiire leviku ümber keerlevates paljudes vaidlustes on suhteliselt ebaselge võitlus, mis keskendub sõna "hallutsineerima" valikule.
See on termin, mille arhitektid ja generatiivse tehisintellekti tugevdajad on asunud iseloomustama vestlusrobotite vastuseid, mis on täielikult toodetud või täiesti valed. Näiteks kui küsite robotilt definitsiooni millegi kohta, mida pole olemas, ja see annab teile üsna veenvalt üks, koos väljamõeldud joonealuste märkustega. "Keegi selles valdkonnas pole veel hallutsinatsiooniprobleeme lahendanud," ütles Google'i ja Alphabeti tegevjuht Sundar Pichai. ütles hiljuti intervjueerija.
See on tõsi – aga miks nimetada vigu üldse hallutsinatsioonideks? Miks mitte algoritmiline rämps? Või tõrkeid? Noh, hallutsinatsioonid viitavad inimaju salapärasele võimele tajuda nähtusi, mida ei esine, vähemalt mitte tavapärastes materialistlikes terminites. Omandades psühholoogias, psühhedeelikumides ja müstika erinevates vormides sageli kasutatava sõna, toidavad tehisintellekti võimendajad, tunnistades oma masinate ekslikkust, samal ajal sektori kõige hinnatumat mütoloogiat: ehitades neid suuri keelemudeleid ja koolitades neid kõiges, mis meie, inimesed, oleme kirjutanud, öelnud ja visuaalselt kujutanud, nad sünnivad elavat intelligentsust meie liigi evolutsioonilise hüppe tipul. Kuidas muidu võiksid sellised robotid nagu Bing ja Bard seal eetris komistada?
Kuid moonutatud hallutsinatsioonid on AI maailmas tõepoolest levimas, kuid need ei ole robotid, kes neid tekitavad; need on vallandanud tehnoloogia tegevjuhid ja nende fännide falang, kes on nii individuaalselt kui ka kollektiivselt metsikute hallutsinatsioonide küüsis. Siin defineerin hallutsinatsiooni mitte müstilises või psühhedeelses tähenduses, meelega muudetud seisundeid, mis võivad tõepoolest aidata jõuda sügavatele, varem tajumata tõdedele. Ei. Need inimesed lihtsalt komistavad: näevad või vähemalt väidavad, et näevad tõendeid, mida seal üldse pole, isegi loovad välja terveid maailmu, mis panevad nende tooteid kasutama meie üleilmsel kõrgusel ja haridusel.
Nad ütlevad meile, et generatiivne tehisintellekt lõpetab vaesuse. See ravib kõiki haigusi. See lahendab kliimamuutuse. See muudab meie töö sisukamaks ja põnevamaks. See vallandab vaba aja veetmise ja mõtisklemise, aidates meil taastada inimkonna, mille oleme hiliskapitalistliku mehhaniseerimise tõttu kaotanud. See teeb üksindusele lõpu. See muudab meie valitsused ratsionaalseks ja reageerimisvõimeliseks. Ma kardan, et need on tõelised tehisintellekti hallutsinatsioonid ja me kõik oleme neid kuulnud pidevalt sellest ajast peale, kui eelmise aasta lõpus käivitati Chat GPT.
On maailm, kus generatiivset tehisintellekti kui võimsat ennustavat uurimisvahendit ja tüütute ülesannete täitjat saaks tõepoolest kasutada kasu inimkond, teised liigid ja meie ühine kodu. Kuid selleks, et see juhtuks, tuleks neid tehnoloogiaid rakendada meie omast tohutult erinevas majanduslikus ja sotsiaalses korras, mille eesmärk oli rahuldada inimeste vajadusi ja kaitsta kogu elu toetavaid planeedisüsteeme.
Ja nagu meie, kes praegu ei komista, mõistame, pole meie praegune süsteem midagi sellist. Pigem on see loodud selleks, et maksimeerida rikkuse ja kasumi väljavõtmist – nii inimestelt kui ka loodusmaailmast – reaalsus, mis on toonud meid selleni, mida võiksime pidada kapitalismi tehno-nekrofaasiks. Selles ülikontsentreeritud jõu ja rikkuse reaalsuses on tehisintellektist – kaugel kõigist nendest utoopilistest hallutsinatsioonidest – palju tõenäolisem saada hirmutav vahend edasiseks võõrandamiseks ja rikkumiseks.
Uurin, miks see nii on. Kuid kõigepealt on kasulik mõelda sellele eesmärk utoopilised hallutsinatsioonid AI kohta teenivad. Millist tööd teevad need heatahtlikud lood kultuuris, kui me nende kummaliste uute tööriistadega kokku puutume? Siin on üks hüpotees: need on võimsad ja ahvatlevad kaanelood sellele, mis võib osutuda inimkonna ajaloo suurimaks ja tagajärgedemaks varguseks. Sest see, mille tunnistajaks oleme, on ajaloo jõukaimad ettevõtted (Microsoft, Apple, Google, Meta, Amazon jne), kes võtavad ühepoolselt kinni kogu inimteadmiste kogusumma, mis on olemas digitaalsel, väljakraabitaval kujul ja müürivad need patenteeritud toodetesse, millest paljud võtta otsesihti inimesi, kelle eluaegne töö on masinaid välja õpetanud ilma luba või nõusolekut andmata.
See ei tohiks olla seaduslik. Autoriõigustega kaitstud materjali puhul me praegu Teadma koolitanud modelle (sh seda ajalehte), erinevaid kohtuasjad on esitatud, mis väidavad, et see oli selgelt ebaseaduslik. Miks peaks näiteks kasumit taotleval ettevõttel lubama sööta elavate kunstnike maale, joonistusi ja fotosid sellistesse programmidesse nagu Stable Diffusion või Dall-E 2, et seda saaks seejärel kasutada just nende kunstnike kahepoolsete versioonide loomiseks. tööd, millest kasu saavad kõik peale kunstnike endi?
Maalikunstnik ja illustraator Molly Crabapple aitab juhtida kunstnike liikumist, kes vaidlustab selle varguse. „AI kunstigeneraatorid on koolitatud tohutute andmekogumitega, mis sisaldavad miljoneid ja miljoneid autoriõigustega kaitstud pilte, mis on kogutud nende looja teadmata, rääkimata hüvitisest või nõusolekust. See on tegelikult ajaloo suurim kunstivargus. Teostatud auväärsena näivate ettevõtete poolt, keda toetab Silicon Valley riskikapital. See on päevavalgel rööv," uus avatud kirjas, mille ta koostas.
Trikk seisneb muidugi selles, et Silicon Valley nimetab vargusi rutiinselt "häireks" – ja liiga sageli pääseb see sellest mööda. Teame seda sammu: tungige seadusevastasele territooriumile; väita, et vanad reeglid ei kehti teie uue tehnoloogia kohta; karjuge, et regulatsioon aitab ainult Hiinat – seda kõike seni, kuni saate oma faktid kindlalt paika. Selleks ajaks, kui me kõik nende uute mänguasjade uudsusest üle saame ja hakkame sotsiaalset, poliitilist ja majanduslikku hävingut kokku võtma, on tehnoloogia juba nii laialt levinud, et kohtud ja poliitikakujundajad laiutavad käsi.
Nägime seda Google'i raamatute ja kunstide skaneerimisega. Muski kosmosekoloniseerimisega. Uberi rünnakuga taksotööstusele. Airbnb rünnakuga üüriturule. Facebooki lollusega meie andmetega. Ärge küsige luba, segajatele meeldib öelda, paluge andestust. (Ja määrige taotlusi helde kampaaniapanusega.)
Järelevalvekapitalismi ajastul, Shoshana Zuboff kirjeldab hoolikalt, kuidas Google'i tänavavaate kaardid ületasid privaatsusnorme, saates kaameraga kaetud autod meie avalikke teid ja meie kodude välisilme pildistama. Selleks ajaks, kui privaatsusõigusi kaitsvad kohtuasjad veeresid, oli Tänavavaade meie seadmetes juba nii laialt levinud (ja nii lahe ja nii mugav…), et väljas oli vähe kohut. Saksamaa olid nõus sekkuma.
Nüüd juhtub sama, mis juhtus meie kodude välisilmega, meie sõnade, piltide, laulude ja kogu meie digitaalse eluga. Kõik on praegu arestitud ja neid kasutatakse masinate treenimiseks, et simuleerida mõtlemist ja loovust. Need ettevõtted peavad teadma, et nad tegelevad vargustega või vähemalt seda, et a tugev juhtum saab teha, et nad on. Nad lihtsalt loodavad, et vana mänguraamat veel korda töötab – et varguse mastaap on juba nii suur ja sellisega lahti rullub. kiirus et kohtud ja poliitikakujundajad löövad taas käed ette selle kõige oletatavale paratamatusest.
See on ka põhjus, miks nende hallutsinatsioonid kõigist imelistest asjadest, mida tehisintellekt inimkonna heaks teeb, on nii olulised. Sest need kõrged väited maskeerivad selle massivarguse kingitusena – samal ajal aitavad need ratsionaliseerida tehisintellekti vaieldamatuid ohte.
Praeguseks on enamik meist sellest kuulnud uuring mis palus tehisintellekti teadlastel ja arendajatel hinnata tõenäosust, et arenenud tehisintellektisüsteemid põhjustavad „inimese väljasuremise või sarnaselt püsiva ja tõsise inimliigi võimukaotuse”. Külma tekitavalt oli keskmine vastus, et tõenäosus oli 10%.
Kuidas ratsionaliseerida tööleminekut ja selliseid eksistentsiaalseid riske kandvate tööriistade väljatõrjumist? Sageli tuuakse põhjuseks see, et neil süsteemidel on ka tohutult potentsiaali plussid – välja arvatud see, et need plussid on enamasti hallutsinatsioonilised. Uurime mõnda metsikumat.
Hallutsinatsioonid #1: AI will lahendama kliima kriis
Peaaegu alati on tehisintellekti eeliste nimekirjade tipus väide, et need süsteemid lahendavad kuidagi kliimakriisi. Oleme seda kuulnud kõigilt riigist Maailma Majandusfoorum Euroopa Välissuhete Nõukogu et Boston Consulting Group, milles selgitatakse, et tehisintellekti „saab kasutada kõigi sidusrühmade toetamiseks teadlikuma ja andmepõhise lähenemisviisi võtmisel süsinikdioksiidiheite vastu võitlemisel ja rohelisema ühiskonna ülesehitamisel. Seda saab kasutada ka globaalsete kliimaalaste jõupingutuste kaalumiseks kõige ohustatud piirkondade suunas. Endine Google'i tegevjuht Eric Schmidt võttis juhtumi kokku, kui ta ütles Atlandi ookeanis, mida tehisintellektiga seotud riskid tasusid võtta, sest „Kui mõelda maailma suurimatele probleemidele, on need kõik väga rasked – kliimamuutused, inimorganisatsioonid jne. Ja nii, ma tahan alati, et inimesed oleksid targemad.
Selle loogika kohaselt on suutmatus "lahendada" suuri probleeme, nagu kliimamuutus, tingitud nutikuse puudujäägist. Ärge unustage, et targad inimesed, kellel on palju doktorikraadi ja Nobeli auhindu, on aastakümneid rääkinud meie valitsustele, mis peab juhtuma, et sellest jamast välja tulla: vähendage heitkoguseid, jätke süsinik maasse, võitlege rikaste ületarbimise ja alatarbimisega. vaeste jaoks, sest ükski energiaallikas ei ole ökoloogiliste kuludeta.
Põhjus, miks seda väga nutikat nõuannet eirati, ei ole tingitud lugemise mõistmise probleemist või sellest, et meil on millegipärast vaja masinaid, mis meie eest mõtleksid. Selle põhjuseks on asjaolu, et kui teeme seda, mida kliimakriis meilt nõuab, jääks see luhtuma triljonit dollarit fossiilkütuste varadest, seades samal ajal väljakutse tarbimispõhisele kasvumudelile, mis on meie omavahel seotud majanduste keskmes. Kliimakriis ei ole tegelikult mõistatus või mõistatus, mida me pole ebapiisavalt tugevate andmekogumite tõttu veel lahendanud. Me teame, mida selleks vaja oleks, kuid see pole kiire lahendus – see on paradigma muutus. Ootamine, kuni masinad välja sülitavad maitsvama ja/või tulusama vastuse, ei ole selle kriisi raviks, see on veel üks selle sümptom.
Eemaldage hallutsinatsioonid ja tundub palju tõenäolisem, et tehisintellekt tuuakse turule viisil, mis süvendab aktiivselt kliimakriisi. Esiteks on hiiglaslikud serverid, mis muudavad vestlusrobotite vahetud esseed ja kunstiteosed võimalikuks, tohutult palju ja kasvavad. allikas süsinikdioksiidi heitkogustest. Teiseks, kui sellised ettevõtted nagu Coca-Cola hakkavad tootma suured investeeringud Et kasutada generatiivset tehisintellekti rohkemate toodete müümiseks, on muutunud liigagi selgeks, et seda uut tehnoloogiat kasutatakse samamoodi nagu viimase põlvkonna digitööriistu: see, mis algab kõrgete lubadustega vabaduse ja demokraatia levitamise kohta, lõpeb reklaamide mikrosihtimisega et ostame rohkem kasutut, süsinikku eristavat kraami.
Ja on veel kolmas tegur, seda on veidi raskem kindlaks teha. Mida rohkem on meie meediakanalid üle ujutatud mitmesuguste sügavate võltside ja kloonidega, seda rohkem tunneme, et vajuksime infoliivasse. Geoffrey Hinton, keda sageli nimetatakse "AI ristiisaks", kuna tema enam kui kümme aastat tagasi välja töötatud närvivõrk moodustab tänapäeva suurte keelemudelite ehitusplokid, mõistab seda hästi. Ta lahkus äsja kõrgemast ametikohast Google'is, et saaks vabalt rääkida tehnoloogia riskidest, mille loomisel ta aitas, sealhulgas ütles New York Times, oht, et inimesed "ei saa enam teada, mis on tõsi".
See on väga asjakohane väitega, et AI aitab võidelda kliimakriisiga. Sest kui me umbusaldame kõike, mida oma üha veidramaks muutuvas meediakeskkonnas loeme ja näeme, on meil veelgi vähem varustust pakiliste kollektiivsete probleemide lahendamiseks. Usalduskriis tekkis muidugi enne ChatGPT-d, kuid pole kahtlustki, et sügavate võltsingute levikuga kaasneb juba niigi õitsvate vandenõukultuuride eksponentsiaalne kasv. Mis vahet sellel on, kui tehisintellekt pakub tehnoloogilisi ja teaduslikke läbimurdeid? Kui jagatud reaalsus on meie kätes lahti hargnemas, ei suuda me sellele üldse sidusalt vastata.
Hallutsinatsioonid #2: AI will tarnima tark valitsemistava
See hallutsinatsioon kutsub esile lähituleviku, kus poliitikud ja bürokraadid, toetudes tehisintellektisüsteemide tohutule koondandmetele, on võimelised „nägema vajaduste mustreid ja arendama tõenduspõhiseid programme”, millest on nende valijatele rohkem kasu. See väide pärineb a paber avaldas Boston Consulting Groupi sihtasutus, kuid seda kajastavad paljud mõttekojad ja juhtimiskonsultatsioonid. Ja see on kõnekas, et need konkreetsed ettevõtted – ettevõtted, mille valitsused ja muud ettevõtted on palganud kulude kokkuhoiu kindlakstegemiseks, sageli suure hulga töötajate vallandamise kaudu – on kõige kiiremini tehisintellekti vagunisse hüpanud. PwC (endine PricewaterhouseCoopers) just teatas 1 miljardi dollari suurune investeering ning Bain & Company ja Deloitte on väidetavalt entusiastlikud nende tööriistade kasutamisest oma klientide tõhusamaks muutmiseks.
Nagu kliimaväidete puhul, tuleb küsida: kas poliitikute julma ja ebatõhusa poliitika kehtestamise põhjuseks on tõendite puudumine? Võimetus "näha mustreid", nagu BCG paber soovitab? Kas nad ei mõista inimkulusid nälga avalik tervishoid pandeemiate ajal või investeerimata jätmine turuvälistesse eluasemetesse, kui telgid täidavad meie linnaparke, või uue fossiilkütuste taristu heakskiitmine temperatuuri tõustes? Kas neil on vaja tehisintellekti, et muuta nad "targemaks", kui kasutada Schmidti terminit – või on nad täpselt piisavalt targad, et teada saada, kes nende järgmise kampaania kindlustab või kui nad eksivad, panevad oma rivaalid pankrotti?
Oleks jube tore, kui tehisintellekt suudaks tõesti katkestada seose ettevõtete raha ja hoolimatu poliitika kujundamise vahel – kuid sellel seosel on kõik pistmist sellega, miks on sellistel ettevõtetel nagu Google ja Microsoft lubatud oma vestlusrobotid avalikkusele avaldada vaatamata hoiatuste laviinile ja teadaolevad riskid. Schmidt ja teised on teinud aastaid kestnud lobikampaaniat paljuütlev mõlemad osapooled Washingtonis, et kui neil ei ole vabadust edasi arendada generatiivset tehisintellekti, mida ei koormaks tõsine regulatsioon, siis jätavad lääneriigid Hiina tolmu alla. Eelmisel aastal tipptehnoloogiaettevõtted kasutatud rekordilised 70 miljonit dollarit lobitöö tegemiseks Washingtonis – rohkem kui nafta- ja gaasisektoris – ja see summa, märgib Bloomberg News, ületab miljonite, mis kulutati "nende laiale hulgale kaubandusrühmadele, mittetulundusühingutele ja mõttekodadele".
Ja hoolimata nende intiimsetest teadmistest selle kohta, kuidas raha meie pealinnades poliitikat täpselt kujundab, tundub, et kui kuulate ChatGPT tootja OpenAI tegevjuht Sam Altmani juttu oma toodete parimatest stsenaariumidest, tundub see kõik olevat unustatud. Selle asemel näib ta hallutsineerivat meie omast täiesti erinevat maailma, kus poliitikud ja tööstus langetavad otsuseid parimate andmete põhjal ega sea kunagi ohtu lugematuid elusid kasumi ja geopoliitilise eelise nimel. Mis viib meid järjekordse hallutsinatsioonini.
Hallutsinatsioonid #3: tech hiiglased võimalik be Usaldatud mitte murda maailm
Küsis Kui ta on mures meeletu kullapalaviku pärast, mille ChatGPT on juba vallandanud, ütles Altman, et ta on mures, kuid lisas vaevumärgatavalt: "Loodetavasti läheb kõik korda." Oma kaastehnoloogilistest tegevjuhtidest – nendest, kes võistlevad oma rivaalitsevate vestlusrobotite väljatõrjumisel – ütles ta: "Ma arvan, et paremad inglid võidavad."
Paremad inglid? Google'is? Olen ettevõttes üsna kindel vallandati enamik neist sellepärast, et nad avaldasid tehisintellekti kohta kriitilisi pabereid või kutsusid ettevõtet üles rassismile ja seksuaalsele ahistamisele töökohal. Rohkem "paremaid ingleid" on loobuma ärevil, viimati Hinton. Selle põhjuseks on asjaolu, et vastupidiselt tehisintellektist kõige enam kasu saavate inimeste hallutsinatsioonidele ei tee Google otsuseid selle põhjal, mis on maailmale parim – ta teeb otsuseid selle põhjal, mis on parim Alphabeti aktsionäridele, kes ei taha viimasest mullist ilma jääda. kui Microsoft, Meta ja Apple on juba kõik mängus.
Hallutsinatsioonid #4: AI will vabastama us Alates töörügamine
Kui Silicon Valley heatahtlikud hallutsinatsioonid tunduvad paljudele usutavad, on sellel lihtne põhjus. Generatiivne AI on praegu selles, mida võiksime pidada oma võltssotsialismi staadiumiks. See on osa nüüdseks tuttavast Silicon Valley mänguraamatust. Esiteks looge atraktiivne toode (otsingumootor, kaardistamistööriist, sotsiaalvõrgustik, videoplatvorm, sõidujaotus jne); andke see mõneks aastaks tasuta või peaaegu tasuta ära, ilma nähtava elujõulise ärimudelita ("Mängige robotitega," ütlevad nad meile, "vaadake, milliseid lõbusaid asju saate luua!"); esitage palju ülbeid väiteid selle kohta, kuidas te teete seda ainult sellepärast, et soovite luua "linnaväljakut" või "informatsiooni ühist ruumi" või "ühendada inimesi", levitades samal ajal vabadust ja demokraatiat (ja mitte olla "kurja"). Seejärel vaadake, kuidas inimesed neid tasuta tööriistu kasutades haaravad ja teie konkurendid kuulutavad välja pankroti. Kui valdkond on selge, tutvustage suunatud reklaame, pidevat jälgimist, politsei- ja sõjaväelepinguid, musta kasti andmemüüki ja tõusvaid liitumistasusid.
Selle mänguraamatu varasemad iteratsioonid on hävitanud palju elusid ja sektoreid, alates taksojuhtidest kuni üüriturgude ja kohalike ajalehtedeni. Tehisintellekti revolutsiooniga võivad sellised kaotused paista ümardamisvigadena, kusjuures õpetajad, kodeerijad, visuaalkunstnikud, ajakirjanikud, tõlkijad, muusikud, hooldustöötajad ja paljud teised seisavad silmitsi väljavaatega, et nende sissetulekud asendatakse tõrgeteta koodiga.
Ärge muretsege, tehisintellekti entusiastid hallutsineerivad – see on imeline. Kellele töö üldse meeldib? Meile öeldakse, et generatiivne tehisintellekt ei lõpe töökoha lõppu, vaid "igav töö” – vestlusrobotid teevad abivalmilt kõiki hingelöövaid, korduvaid ülesandeid ja inimesed vaid jälgivad neid. Altman omalt poolt näeb tulevik, kus töö "saab olla laiem mõiste, mitte midagi, mida peate tegema, et saaksite süüa, vaid midagi, mida teete loomingulise väljendusena ja viisina eneseteostuse ja õnne leidmiseks".
See on põnev nägemus ilusamast ja rahulikumast elust, mida jagavad paljud vasakpoolsed (sealhulgas Karl Marxi väimees Paul Lafargue, kes kirjutas manifest pealkirjaga Õigus olla laisk). Kuid meie, vasakpoolsed, teame ka seda, et kui raha teenimine ei ole enam elutähtis, siis peab leiduma teisi viise, kuidas rahuldada meie olemuslikke vajadusi peavarju ja elatise järele. Maailm ilma jaburate töökohtadeta tähendab, et üür peab olema tasuta, tervishoid peab olema tasuta ning igal inimesel peavad olema võõrandamatud majanduslikud õigused. Ja siis äkki ei räägi me üldse AI-st – me räägime sotsialismist.
Sest me ei ela Star Trekist inspireeritud ratsionaalses humanistlikus maailmas, mida Altman näib hallutsineerivat. Me elame kapitalismis ja selle süsteemi tingimustes ei tulene turu üleujutamisest tehnoloogiatega, mis suudavad usutavalt täita lugematute töötavate inimeste majanduslikke ülesandeid, mitte see, et need inimesed võivad äkki vabalt saada filosoofideks ja kunstnikeks. See tähendab, et need inimesed avastavad end jõllitamas kuristikku – tegelikud artistid langevad esimeste seas.
See on Crabapple'i avatud kirja sõnum, mis kutsub "kunstnikke, kirjastajaid, ajakirjanikke, toimetajaid ja ajakirjandusliitude juhte üles võtma tõotust inimlike väärtuste eest generatiivsete tehisintellekti piltide kasutamise vastu" ja "tootma toetama inimeste tehtud toimetuslikku kunsti". , mitte serverifarmid”. Kiri, nüüd allkirjastatud sadade kunstnike, ajakirjanike ja teiste sõnul on kõik, välja arvatud kõige eliitkunstnikud, oma tööd "väljasuremisohus". Ja "AI ristiisa" Hintoni sõnul pole põhjust arvata, et oht ei leviks. Vestlusrobotid võtavad "ära tragitöö", kuid "see võib võtta rohkemgi ära".
Crabapple ja tema kaasautorid kirjutavad: "Generatiivne tehisintellekti kunst on vampiiriline, toitudes eelmiste põlvkondade kunstiteostest, isegi kui see imeb elujõulist elu elavatelt kunstnikelt." Kuid vastupanemiseks on viise: me võime keelduda nende toodete kasutamisest ja organiseerida nõudma, et meie tööandjad ja valitsused ka need tagasi lükkaksid. A kiri prominentsed tehisintellekti eetikateadlased, sealhulgas Timnit Gebru, kelle Google 2020. aastal töökoha diskrimineerimise eest vallandas, kirjeldab mõningaid regulatiivseid tööriistu, mida valitsused saavad kohe kasutusele võtta – sealhulgas täieliku läbipaistvuse selle kohta, milliseid andmekogumeid mudelite koolitamiseks kasutatakse. Autorid kirjutavad: "Sünteetiliste meediumitega kokku puutudes ei peaks alati olema selge, vaid ka neid süsteeme loovad organisatsioonid peaksid olema kohustatud dokumenteerima ja avaldama koolitusandmeid ja mudeliarhitektuure …. Peaksime ehitama masinaid, mis meie heaks töötavad, selle asemel, et ühiskonda masinloetavaks ja kirjutatavaks "kohandada".
Ehkki tehnoloogiaettevõtted tahaksid, et me usuksime, et on juba liiga hilja selle inimest asendava massiliselt jäljendava toote tagasipööramiseks, on väga asjakohaseid õiguslikke ja regulatiivseid pretsedente, mida saab jõustada. Näiteks USA Föderaalne Kaubanduskomisjon (FTC) sunnitud Cambridge Analytica, aga ka fotorakenduse omanik Everalbum, et hävitada terved algoritmid, mis leiti olevat koolitatud ebaseaduslikult omastatud andmete ja kraabitud fotode põhjal. Bideni administratsioon esitas oma esimestel päevadel palju julgeid väiteid suurtehnoloogia reguleerimise kohta, sealhulgas isikuandmete varguse tõkestamine, et luua patenteeritud algoritme. Kuna presidendivalimised lähenevad kiiresti, oleks praegu õige aeg need lubadused täita – ja enne nende toimumist järgmised massilised koondamised ära hoida.
Sügavate võltside, matkimissilmuste ja süveneva ebavõrdsuse maailm ei ole paratamatus. See on poliitiliste valikute kogum. Me saame reguleerida vampiiriliste vestlusrobotite praegust vormi – ja hakata üles ehitama maailma, kus tehisintellekti põnevaimad lubadused on midagi enamat kui Silicon Valley hallutsinatsioonid.
Sest me õpetasime masinaid välja. Me kõik. Kuid me ei andnud kunagi oma nõusolekut. Nad toitusid inimkonna kollektiivsest leidlikkusest, inspiratsioonist ja ilmutustest (koos meie veniaalsete omadustega). Need mudelid on sulgemis- ja omastamismasinad, mis õgivad ja erastavad nii meie individuaalset elu kui ka meie kollektiivset intellektuaalset ja kunstilist pärandit. Ja nende eesmärk ei olnud kunagi lahendada kliimamuutusi või muuta meie valitsused vastutustundlikumaks või muuta meie igapäevaelu rahulikumaks. See oli alati selleks, et saada kasu massilisest immigratsioonist, mis kapitalismi tingimustes on inimfunktsioonide robotitega asendamise silmatorkav ja loogiline tagajärg.
Kas see kõik on liiga dramaatiline? Ummistunud ja refleksiivne vastupanu põnevale uuendusele? Miks oodata hullemat? Altman rahustab meile: "Keegi ei taha maailma hävitada." Võib-olla mitte. Kuid nagu üha süvenevad kliima- ja väljasuremiskriisid meile iga päev näitavad, tundub, et paljudel võimsatel inimestel ja institutsioonidel on kõik hästi, teades, et nad aitavad hävitada maailma elu toetavate süsteemide stabiilsust, kuni nad suudavad seda jätkata. rekord kasum, mis nende arvates kaitseb neid ja nende perekondi halvimate tagajärgede eest. Altman, nagu paljud Silicon Valley olendid, on ise ettevalmistaja: juba 2016. aastal uhke: "Mul on relvi, kulda, kaaliumjodiidi, antibiootikume, patareisid, vett, Iisraeli kaitseväe gaasimaske ja suur maatükk Big Suris, kuhu võin lennata."
Olen üsna kindel, et need faktid räägivad palju rohkem selle kohta, mida Altman tegelikult usub tuleviku kohta, mida ta aitab vallandada, kui mis tahes lillelised hallutsinatsioonid, mida ta ajakirjandusintervjuudes jagada otsustab.
Naomi Klein on Guardiani USA kolumnist ja kaastööline kirjanik. Ta on enimmüüdud raamatute „No Logo” ja „The Shock Doctrine” autor ning kliimaõigluse professor ja Briti Columbia ülikooli kliimaõiguse keskuse kaasdirektor.
ZNetworki rahastatakse ainult selle lugejate suuremeelsuse kaudu.
annetama