Daugelyje debatų, besisukančių apie greitą vadinamojo dirbtinio intelekto išplitimą, yra gana neaiškus susirėmimas, sutelktas į žodžio „haliucinacija“ pasirinkimą.
Tai yra terminas, kurį architektai ir generatyvaus AI kūrėjai naudoja apibūdindami atsakymus, kuriuos pateikia pokalbių robotai, kurie yra visiškai pagaminti arba visiškai neteisingi. Pavyzdžiui, kai paklausiate roboto neegzistuojančio dalyko apibrėžimo ir jis gana įtikinamai suteikia jums vienas, su išgalvotomis išnašomis. „Niekas šioje srityje dar neišsprendė haliucinacijų problemų“, – sakė Sundaras Pichai, „Google“ ir „Alphabet“ generalinis direktorius. sakė, neseniai pašnekovas.
Tai tiesa – bet kam iš viso klaidas vadinti „haliucinacijomis“? Kodėl gi ne algoritminis šlamštas? Arba gedimų? Na, o haliucinacijos reiškia paslaptingą žmogaus smegenų gebėjimą suvokti reiškinius, kurių nėra, bent jau ne įprastiniu materialistiniu požiūriu. Pasisavindami žodį, dažnai vartojamą psichologijoje, psichodelikoje ir įvairiose mistikos formose, dirbtinio intelekto stiprintojai, pripažindami savo mašinų klaidingumą, kartu maitina labiausiai branginamą sektoriaus mitologiją: kurdami šiuos didelius kalbos modelius ir mokydami juos visko, kas mes, žmonės, parašėme, pasakėme ir pavaizdavome vizualiai, jie gimdo gyvą intelektą ant mūsų rūšies evoliucinio šuolio taško. Kaip kitaip tokie robotai kaip Bingas ir Bardas galėtų užkliūti eteryje?
Tačiau iškreiptų haliucinacijų AI pasaulyje iš tiesų yra, tačiau jas sukelia ne robotai; Tai technologijų generaliniai direktoriai, kurie juos išlaisvino, kartu su jų gerbėjų falanga yra laukinių haliucinacijų gniaužtuose tiek individualiai, tiek kolektyviai. Čia aš apibrėžiu haliucinacijas ne mistine ar psichodeline prasme, proto pakitusias būsenas, kurios iš tiesų gali padėti pasiekti gilias, anksčiau nesuvoktas tiesas. Ne. Šie žmonės tik suklumpa: mato arba bent jau teigia matantys įrodymus, kurių išvis nėra, net užburia ištisus pasaulius, kurie panaudos jų produktus mūsų visuotiniam pakilimui ir išsilavinimui.
Jie mums sako, kad generatyvus AI panaikins skurdą. Tai išgydys visas ligas. Tai išspręs klimato kaitą. Tai padarys mūsų darbus prasmingesnius ir įdomesnius. Tai išlaisvins laisvalaikio ir apmąstymų gyvenimą, padėdamas mums susigrąžinti žmogiškumą, kurį praradome dėl vėlyvojo kapitalistinės mechanizacijos. Tai užbaigs vienatvę. Tai padarys mūsų vyriausybes racionalias ir reaguojančias. Bijau, kad tai tikrosios dirbtinio intelekto haliucinacijos ir mes visi jas girdime nuo tada, kai praėjusių metų pabaigoje pradėjo veikti „Chat GPT“.
Egzistuoja pasaulis, kuriame generatyvinis AI, kaip galingas nuspėjamųjų tyrimų įrankis ir varginančių užduočių vykdytojas, iš tiesų gali būti panaudotas naudotis žmonija, kitos rūšys ir mūsų bendri namai. Tačiau, kad tai įvyktų, šios technologijos turėtų būti naudojamos labai skirtingoje ekonominėje ir socialinėje santvarkoje nei mūsų, kurios tikslas buvo patenkinti žmonių poreikius ir apsaugoti planetų sistemas, kurios palaiko visą gyvybę.
Ir kaip mes, kurie šiuo metu nesuklumpame, suprantame, mūsų dabartinė sistema nėra tokia. Atvirkščiai, jis sukurtas siekiant maksimaliai išgauti turtą ir pelną – tiek iš žmonių, tiek iš gamtos – tikrovės, kuri atvedė mus į tai, ką galėtume laikyti kapitalizmo technonekro stadija. Toje itin koncentruotos galios ir turto tikrovėje dirbtinis intelektas – toli gražu neatlaikantis visų tų utopinių haliucinacijų – daug labiau tikėtina, kad taps bauginančiu tolimesnio sunaikinimo ir sunaikinimo įrankiu.
Išsiaiškinsiu, kodėl taip yra. Tačiau pirmiausia naudinga pagalvoti apie tikslas utopinės haliucinacijos apie AI pasitarnauja. Kokį darbą atlieka šios geranoriškos istorijos kultūroje, kai susiduriame su šiomis keistomis naujomis priemonėmis? Štai viena hipotezė: tai galingos ir viliojančios viršelio istorijos apie tai, kas gali pasirodyti kaip didžiausia ir pasekmiausia vagystė žmonijos istorijoje. Nes matome, kad turtingiausios įmonės istorijoje („Microsoft“, „Apple“, „Google“, „Meta“, „Amazon“ ir kt.) vienašališkai pasisavina visą žmogiškųjų žinių, esančių skaitmenine, iškraunama forma, sumą ir uždaro ją į patentuotus produktus, kurių daugelis Tiesiogiai nusitaikykite į žmones, kurių darbo metu buvo išmokytos mašinos be leidimo ar sutikimo.
Tai neturėtų būti teisėta. Autorių teisių saugomos medžiagos atveju mes dabar žinoti rengė modelius (taip pat ir šį laikraštį), įvairius ieškiniai buvo pateikti, kurie teigs, kad tai buvo aiškiai neteisėta. Kodėl, pavyzdžiui, pelno siekiančiai įmonei turėtų būti leidžiama įterpti gyvų menininkų paveikslus, piešinius ir nuotraukas į tokią programą kaip „Stable Diffusion“ ar „Dall-E 2“, kad vėliau būtų galima sukurti tų pačių menininkų dviprasmiškąsias versijas. darbas, o nauda atitektų visiems, išskyrus pačius menininkus?
Tapytoja ir iliustratorė Molly Crabapple padeda vadovauti menininkų, ginčijančių šią vagystę, judėjimui. „AI meno kūrėjai yra apmokyti naudoti didžiulius duomenų rinkinius, kuriuose yra milijonai ir milijonai autorių teisių saugomų vaizdų, surinktų be jų kūrėjo žinios, jau nekalbant apie kompensaciją ar sutikimą. Tai iš tikrųjų yra didžiausia meno vagystė istorijoje. Vykdo garbingai atrodančios įmonės, remiamos Silicio slėnio rizikos kapitalo. Tai dienos šviesos apiplėšimas“, – nauja atidaryti rašo, kurį ji rengė kartu.
Žinoma, gudrybė ta, kad Silicio slėnis vagystes įprastai vadina „sutrikdymu“ ir pernelyg dažnai su tuo išsisuka. Žinome šį žingsnį: veržkitės į neteisėtą teritoriją; teigti, kad senos taisyklės netaikomos jūsų naujajai technologijai; rėk, kad reguliavimas tik padės Kinijai – kol jūs tvirtai žinosite savo faktus. Kai visi įveiksime šių naujų žaislų naujumą ir pradėsime vertinti socialines, politines ir ekonomines nuolaužas, technologija jau yra tokia visur paplitusi, kad teismai ir politikos formuotojai numoja ranka.
Pamatėme tai naudodami „Google“ knygų ir meno nuskaitymą. Su Musko kosmoso kolonizacija. Su Uberio puolimu taksi pramonei. Su Airbnb ataka nuomos rinkoje. Su „Facebook“ netvarka su mūsų duomenimis. Neklausk leidimo, – mėgsta sakyti trikdytojai, prašyk atleidimo. (Ir sutepkite prašymus dosniais kampanijos įnašais.)
Priežiūros kapitalizmo amžiuje, Shoshana Zuboff kruopščiai aprašo, kaip „Google Street View“ žemėlapiai viršijo privatumo normas, siųsdami fotoaparatais puoštus automobilius fotografuoti mūsų viešųjų kelių ir mūsų namų išorės. Tuo metu, kai prasidėjo ieškiniai, ginantys privatumo teises, „Street View“ mūsų įrenginiuose jau buvo taip plačiai paplitęs (ir toks šaunus, ir toks patogus...), kad tik keli teismai. Vokietija buvo pasirengę įsikišti.
Dabar tas pats, kas atsitiko su mūsų namų išore, vyksta su mūsų žodžiais, vaizdais, dainomis ir visu mūsų skaitmeniniu gyvenimu. Visi šiuo metu yra konfiskuojami ir naudojami mašinoms mokyti imituoti mąstymą ir kūrybiškumą. Šios įmonės turi žinoti, kad jos užsiima vagystėmis arba bent jau kad a stiprus atvejis galima padaryti, kad jie yra. Jie tik tikisi, kad senoji knygelė pasiteisins dar kartą – kad vagystės mastai jau tokie dideli ir atsiskleidžia su tokiais. greitis kad teismai ir politikos formuotojai eilinį kartą numoja ranka į tariamą viso to neišvengiamumą.
Taip pat dėl šios priežasties jų haliucinacijos apie visus nuostabius dalykus, kuriuos AI padarys žmonijai, yra tokios svarbios. Nes tie aukšti teiginiai užmaskuoja šią masinę vagystę kaip dovaną – kartu padeda racionalizuoti nepaneigiamus AI pavojus.
Iki šiol dauguma iš mūsų yra girdėję apie apklausa AI tyrėjų ir kūrėjų buvo paprašyta įvertinti tikimybę, kad pažangios AI sistemos sukels „žmonių išnykimą arba panašiai nuolatinį ir rimtą žmonių rūšies netekimą“. Šiurpą kelia tai, kad vidutinis atsakymas buvo 10% tikimybė.
Kaip racionalizuoti ėjimą į darbą ir išstumti įrankius, kurie kelia tokią egzistencinę riziką? Dažnai nurodoma priežastis ta, kad šios sistemos taip pat turi didžiulį potencialą, išskyrus tai, kad šie pranašumai dažniausiai yra haliucinaciniai. Pasigilinkime į keletą laukinių.
Haliucinacija #1: AI valia išspręsti klimatas krizė
Teiginys, kad šios sistemos kažkaip išspręs klimato krizę, beveik visada pirmauja AI pranašumų sąrašuose. Tai girdėjome iš visų iš Pasaulio ekonomikos forumas į Užsienio reikalų tarybos į Bostono konsultacinė grupė, kuriame paaiškinama, kad dirbtinis intelektas „gali būti naudojamas siekiant padėti visoms suinteresuotosioms šalims laikytis labiau informuoto ir duomenimis pagrįsto požiūrio į kovą su anglies dvideginio išmetimu ir kuriant ekologiškesnę visuomenę. Jis taip pat gali būti naudojamas siekiant persverti pasaulines klimato pastangas labiausiai rizikinguose regionuose. Buvęs „Google“ vadovas Ericas Schmidtas apibendrino atvejį, kai jis sakė, Atlanto vandenynas, kurį verta prisiimti su dirbtinio intelekto rizika, nes „Jei pagalvoji apie didžiausias pasaulio problemas, jos visos yra tikrai sunkios – klimato kaita, žmonių organizacijos ir pan. Taigi aš visada noriu, kad žmonės būtų protingesni.
Remiantis šia logika, nesugebėjimas „išspręsti“ didelių problemų, tokių kaip klimato kaita, kyla dėl protingumo trūkumo. Nesvarbu, kad protingi žmonės, turintys daktaro laipsnius ir Nobelio premijas, dešimtmečius kalbėjo mūsų vyriausybėms, kas turi įvykti, kad išsivaduotų iš šios netvarkos: sumažinti išmetamų teršalų kiekį, palikti anglies dioksidą žemėje, kovoti su pertekliniu turtingųjų ir nepakankamu vartojimu. skurstančiųjų, nes joks energijos šaltinis nėra nemokamas ekologinių išlaidų.
Priežastis, dėl kurios šis labai protingas patarimas buvo ignoruojamas, nėra dėl skaitymo supratimo problemos ar dėl to, kad mums kažkokiu būdu reikia mašinų, kurios už mus atliktų mąstymą. Taip yra todėl, kad darydami tai, ko iš mūsų reikalauja klimato krizė, ištrūktų trilijonų dolerių iškastinio kuro išteklių, o kartu meta iššūkį vartojimu pagrįstam augimo modeliui, kuris yra mūsų tarpusavyje susijusių ekonomikų pagrindas. Klimato krizė iš tikrųjų nėra mįslė ar mįslė, kurios dar neįrodėme dėl nepakankamai patikimų duomenų rinkinių. Žinome, ko reikėtų, bet tai nėra greitas sprendimas – tai paradigmos pokytis. Laukimas, kol mašinos išspjautų skanesnį ir (arba) pelningesnį atsakymą, nėra šios krizės išgydymas, tai dar vienas jos simptomas.
Išvalykite haliucinacijas ir atrodo, kad dirbtinis intelektas bus pristatytas į rinką tokiais būdais, kurie aktyviai pagilins klimato krizę. Pirma, milžiniški serveriai, leidžiantys tiesioginius rašinius ir meno kūrinius iš pokalbių robotų, yra didžiulis ir augantis Šaltinis anglies dvideginio išmetimo. Antra, kai tokios įmonės kaip „Coca-Cola“ pradeda gaminti milžiniškas investicijas Naudodami generatyvųjį dirbtinį intelektą parduoti daugiau produktų, tampa pernelyg aišku, kad ši nauja technologija bus naudojama taip pat, kaip ir paskutinės kartos skaitmeniniai įrankiai: tai, kas prasideda nuo aukštų pažadų skleisti laisvę ir demokratiją, baigiasi mažo taikymo skelbimais. kad nusipirktume daugiau nenaudingų, anglies dioksido išskiriančių dalykų.
Ir yra trečias veiksnys, šį šiek tiek sunkiau nustatyti. Kuo labiau mūsų žiniasklaidos kanalus užlieja gilūs klastotės ir įvairiausių rūšių klonai, tuo labiau jaučiamės grimzti į informacinį smėlį. Geoffrey'us Hintonas, dažnai vadinamas „AI krikštatėviu“, nes neuroninis tinklas, kurį jis sukūrė daugiau nei prieš dešimtmetį, sudaro šiuolaikinių didelių kalbos modelių blokus, puikiai tai supranta. Jis ką tik paliko aukštas pareigas „Google“, kad galėtų laisvai kalbėti apie technologijos, kurią padėjo sukurti, keliamą riziką, įskaitant sakė, New York Times, rizika, kad žmonės „nebegalės žinoti, kas yra tiesa“.
Tai labai svarbu teiginiui, kad AI padės kovoti su klimato krize. Nes kai nepasitikime viskuo, ką skaitome ir matome savo vis keistesnėje žiniasklaidos aplinkoje, tampame dar mažiau pasirengę spręsti aktualias kolektyvines problemas. Žinoma, pasitikėjimo krizė prasidėjo prieš ChatGPT, tačiau neabejotina, kad gilių padirbinių dauginimąsi lydės eksponentinis jau klestinčių sąmokslo kultūrų augimas. Taigi koks bus skirtumas, jei dirbtinis intelektas pasieks technologinius ir mokslinius laimėjimus? Jei bendros tikrovės audinys išnyra mūsų rankose, mes negalėsime reaguoti nuosekliai.
Haliucinacija #2: AI valia pristatyti protingas valdymas
Ši haliucinacija primena netolimą ateitį, kurioje politikai ir biurokratai, remdamiesi didžiuliu sukauptu AI sistemų intelektu, galės „pamatyti poreikių modelius ir kurti įrodymais pagrįstas programas“, kurios turi didesnę naudą jų rinkėjams. Šis teiginys kilęs iš a popierius paskelbė Boston Consulting Group fondas, tačiau tai atsiliepia daugelyje ekspertų grupių ir valdymo konsultacijų įmonių. Iškalbinga tai, kad šios konkrečios įmonės – įmonės, kurias vyriausybių ir kitų korporacijų samdo siekdamos sutaupyti kaštų, dažnai atleisdamos daug darbuotojų – greičiausiai įstojo į dirbtinio intelekto traukinį. PwC (anksčiau PricewaterhouseCoopers) tik paskelbė 1 mlrd. USD investicija, o „Bain & Company“ ir „Deloitte“, kaip pranešama, entuziastingai naudojasi šiais įrankiais, kad padidintų savo klientų „veiksmingumą“.
Kaip ir dėl teiginių apie klimatą, būtina paklausti: ar priežastis, dėl kurios politikai taiko žiaurią ir neveiksmingą politiką, kenčia dėl įrodymų trūkumo? Nesugebėjimas „matyti modelių“, kaip teigiama BCG dokumente? Ar jie nesupranta žmogiškųjų išlaidų badaujantis visuomenės sveikatos priežiūra pandemijų metu arba nesugebėjimas investuoti į ne rinkos būstą, kai palapinės užpildo mūsų miesto parkus, arba patvirtinti naują iškastinio kuro infrastruktūrą, kol temperatūra kyla aukštai? Ar jiems reikia dirbtinio intelekto, kad jie taptų „išmanesni“, kad būtų vartojamas Schmidto terminas – ar jie pakankamai protingi, kad žinotų, kas garantuos kitą jų kampaniją, arba, jei jie nuklys, bankrutuotų savo konkurentams?
Būtų labai puiku, jei dirbtinis intelektas iš tikrųjų galėtų nutraukti ryšį tarp įmonių pinigų ir neapgalvoto politikos formavimo, tačiau šis ryšys yra susijęs su tuo, kodėl tokioms įmonėms kaip „Google“ ir „Microsoft“ buvo leista viešai paskelbti savo pokalbių robotus, nepaisant įspėjimų lavinos ir žinomos rizikos. Schmidtas ir kiti dalyvauja ilgus metus trunkančioje lobizmo kampanijoje pasakojimas abi šalys Vašingtone teigia, kad jei jos nebus laisvos siekti generatyvaus dirbtinio intelekto, neapsunkintos rimto reguliavimo, Vakarų galias Kinija paliks dulkėse. Praėjusiais metais geriausios technologijų įmonės praleido rekordiniai 70 mln. USD, skirti lobizuoti Vašingtoną – daugiau nei naftos ir dujų sektoriui – ir ši suma, pažymi „Bloomberg News“, viršija milijonus, išleistus „įvairiai jų prekybos grupėms, ne pelno organizacijoms ir ekspertų grupėms“.
Ir vis dėlto, nepaisant jų intymių žinių apie tai, kaip pinigai formuoja politiką mūsų šalių sostinėse, kai klausote Sam Altman, OpenAI – ChatGPT kūrėjo – generalinio direktoriaus, pasakojančio apie geriausius jo produktų scenarijus, visa tai atrodo pamiršta. Atrodo, kad jis haliucinuoja pasaulį, visiškai nepanašų į mūsų, kuriame politikai ir pramonė priima sprendimus remdamiesi geriausiais duomenimis ir niekada nekeltų pavojaus daugybei gyvybių dėl pelno ir geopolitinio pranašumo. Tai atveda mus prie kitos haliucinacijos.
Haliucinacija #3: technologijų gigantai galima be patikimas ne sulaužyti pasaulis
Paklaustas, Jei jis nerimauja dėl siautulingos aukso karštinės, kurią ChatGPT jau paleido, Altmanas sakė, kad taip yra, bet nuoširdžiai pridūrė: „Tikimės, kad viskas susitvarkys“. Apie savo kolegas technologijų generalinių direktorių – konkuruojančių dėl savo konkurentų pokalbių robotų – jis pasakė: „Manau, kad laimės geresni angelai“.
Geriau angelai? „Google“? Esu tikras, kad įmonė atleistas dauguma jų dėl to, kad skelbė kritinius straipsnius apie dirbtinį intelektą arba kvietė bendrovę apie rasizmą ir seksualinį priekabiavimą darbo vietoje. Turi daugiau „geresnių angelų“. mesti sunerimęs, neseniai Hintonas. Taip yra todėl, kad, priešingai žmonių, kurie gauna daugiausia naudos iš dirbtinio intelekto, haliucinacijų, „Google“ nepriima sprendimų remdamasi tuo, kas geriausia pasauliui – ji priima sprendimus atsižvelgdama į tai, kas geriausia „Alphabet“ akcininkams, kurie nenori praleisti naujausio burbulo. kai „Microsoft“, „Meta“ ir „Apple“ jau dalyvauja.
Haliucinacijos #4: AI valia išlaisvinti us nuo darbštumas
Jei Silicio slėnio geranoriškos haliucinacijos daugeliui atrodo tikėtinos, tam yra paprasta priežastis. Generatyvusis AI šiuo metu yra tokio, ką galėtume manyti, kaip dirbtinio socializmo stadiją. Tai yra dabar žinomo Silicio slėnio žaidimų knygos dalis. Pirmiausia sukurkite patrauklų produktą (paieškos variklį, žemėlapių sudarymo įrankį, socialinį tinklą, vaizdo įrašų platformą, kelionių dalį ir tt); atiduokite jį nemokamai arba beveik nemokamai keleriems metams be pastebimo perspektyvaus verslo modelio („Žaisk su robotais“, – sako jie, „pažiūrėkite, kokių įdomių dalykų galite sukurti!“); Pateikite daug aukštų teiginių, kaip tai darote tik todėl, kad norite sukurti „miesto aikštę“ arba „informacinę erdvę“ arba „sujungti žmones“, tuo pačiu skleisdami laisvę ir demokratiją (ir nebūdami „blogiu“). Tada stebėkite, kaip žmonės užsikabina naudodami šiuos nemokamus įrankius ir jūsų konkurentai paskelbia bankrotą. Kai laukas bus aiškus, pristatykite tikslinius skelbimus, nuolatinį stebėjimą, policijos ir kariuomenės sutartis, juodosios dėžės duomenų pardavimą ir didėjančius abonentinius mokesčius.
Daug gyvenimų ir sektorių buvo sugriauta dėl ankstesnių šio žaidimo knygų kartojimo: nuo taksi vairuotojų iki nuomos rinkų ir vietinių laikraščių. Dėl AI revoliucijos tokie nuostoliai gali atrodyti kaip apvalinimo klaidos, nes mokytojai, programuotojai, vizualiųjų menininkų, žurnalistų, vertėjų, muzikantų, slaugos darbuotojų ir daugelis kitų susiduria su perspektyva, kad jų pajamos bus pakeistos netinkamu kodu.
Nesijaudinkite, AI entuziastai haliucinuoja – tai bus nuostabu. Kas išvis mėgsta darbą? Mums sakoma, kad generatyvusis AI nebus užimtumo pabaiga, tik „nuobodus darbas“ – su pokalbių robotais, kurie paslaugiai atlieka visas sielą naikinančias, pasikartojančias užduotis, o žmonės jas tik prižiūri. Altmanas savo ruožtu mato ateitis, kurioje darbas „gali būti platesnė sąvoka, o ne tai, ką tu turi daryti, kad galėtum valgyti, o tai, ką tu darai kaip kūrybinę išraišką ir būdas rasti pilnatvę bei laimę“.
Tai jaudinanti gražesnio, ramesnio gyvenimo vizija, kuria dalijasi daugelis kairiųjų (įskaitant Karlo Markso žentą Paulą Lafargue'ą, kuris parašė manifestas pavadinimu Teisė tingėti). Tačiau mes, kairieji, taip pat žinome, kad jei užsidirbti pinigų nebėra gyvenimo varomoji jėga, tada turi būti kitų būdų patenkinti mūsų prigimtinius pastogės ir pragyvenimo poreikius. Pasaulis be prastų darbų reiškia, kad nuoma turi būti nemokama, sveikatos priežiūra turi būti nemokama ir kiekvienas žmogus turi turėti neatimamas ekonomines teises. Ir staiga mes nekalbame apie AI – mes kalbame apie socializmą.
Kadangi mes negyvename „Star Trek“ įkvėptame racionaliame humanistiniame pasaulyje, kurį Altmanas, atrodo, haliucinuoja. Mes gyvename kapitalizme, o pagal tą sistemą rinkos užtvindymas technologijomis, kurios gali patikimai atlikti daugelio dirbančių žmonių ekonomines užduotis, nėra tai, kad tie žmonės staiga gali tapti filosofais ir menininkais. Tai reiškia, kad tie žmonės žiūrės į bedugnę, o tikrieji menininkai kris tarp pirmųjų.
Tai yra atviro Crabapple laiško žinutė, raginanti „menininkus, leidėjus, žurnalistus, redaktorius ir žurnalistų sąjungų lyderius pasižadėti už žmogiškąsias vertybes prieš generatyvinių AI vaizdų naudojimą“ ir „įsipareigoti remti žmonių sukurtą redakcinį meną. , o ne serverių fermos“. Laiškas, dabar pasirašyta šimtai menininkų, žurnalistų ir kitų teigia, kad visų, išskyrus pačius elitinius menininkus, kūriniams „gresia išnykimas“. Ir, pasak Hintono, „AI krikštatėvio“, nėra pagrindo manyti, kad grėsmė neišplis. Pokalbių robotai „atima sunkų darbą“, bet „tai gali atimti daugiau nei tai“.
Crabapple ir jos bendraautoriai rašo: „Generatyvusis dirbtinio intelekto menas yra vampyriškas, pasimėgaujantis praėjusių kartų meno kūriniais, net jei jis siurbia gyvų menininkų kraują“. Tačiau yra būdų pasipriešinti: galime atsisakyti naudoti šiuos produktus ir organizuoti reikalauti, kad mūsų darbdaviai ir vyriausybės taip pat juos atmestų. A laiškas garsūs dirbtinio intelekto etikos mokslininkai, įskaitant Timnitą Gebru, kurį „Google“ atleido 2020 m. už kovą su diskriminacija darbo vietoje, pateikia kai kurias reguliavimo priemones, kurias vyriausybės gali nedelsiant įdiegti, įskaitant visišką skaidrumą, kokie duomenų rinkiniai naudojami modeliams mokyti. Autoriai rašo: „Ne tik visada turėtų būti aišku, kada susiduriame su sintetinėmis laikmenomis, bet ir iš organizacijų, kuriančių šias sistemas, turėtų būti reikalaujama dokumentuoti ir atskleisti mokymo duomenis bei modelių architektūras.... Turėtume kurti mums naudingas mašinas, užuot „pritaikę“ visuomenę taip, kad ją būtų galima skaityti ir rašyti mašininiu būdu.
Nors technologijų įmonės norėtų, kad mes patikėtume, kad jau per vėlu atšaukti šį žmogų pakeičiantį, masę imituojantį produktą, yra labai svarbių teisinių ir reguliavimo precedentų, kuriuos galima įgyvendinti. Pavyzdžiui, JAV Federalinė prekybos komisija (FTC) priverstinis „Cambridge Analytica“, taip pat „Everalbum“, nuotraukų programėlės savininkas, sunaikinti ištisus algoritmus, kurie, kaip nustatyta, buvo išmokyti pagal neteisėtai pasisavintus duomenis ir nubrauktas nuotraukas. Pirmosiomis dienomis Bideno administracija pateikė daug drąsių teiginių apie didžiųjų technologijų reguliavimą, įskaitant susidorojimą su asmens duomenų vagyste, kad būtų sukurti patentuoti algoritmai. Greitai artėjant prezidento rinkimams, dabar būtų tinkamas metas ištesėti tuos pažadus ir išvengti kitų masinių atleidimų, kol jie neįvyks.
Gilių padirbinių, mimikos kilpų ir didėjančios nelygybės pasaulis nėra neišvengiamybė. Tai yra politikos pasirinkimų rinkinys. Galime reguliuoti dabartinę vampyrinių pokalbių robotų formą ir pradėti kurti pasaulį, kuriame įdomiausi AI pažadai būtų daugiau nei Silicio slėnio haliucinacijos.
Nes apmokėme mašinas. Visi mes. Bet mes niekada nedavėme sutikimo. Jie maitinosi kolektyviniu žmonijos išradingumu, įkvėpimu ir apreiškimais (kartu su mūsų niūresnėmis savybėmis). Šie modeliai yra uždarymo ir pasisavinimo mašinos, ryjančios ir privatizuojančios mūsų asmeninį gyvenimą, taip pat kolektyvinį intelektualinį ir meninį palikimą. Ir jų tikslas niekada nebuvo spręsti klimato kaitos problemas ar padaryti mūsų vyriausybes atsakingesnes ar mūsų kasdienį gyvenimą lengvesnį. Visada buvo siekiama pasipelnyti iš masinio įsimylėjimo, o tai kapitalizmo sąlygomis yra akivaizdi ir logiška žmogaus funkcijų pakeitimo robotais pasekmė.
Ar visa tai per daug dramatiška? Tvankus ir refleksyvus pasipriešinimas įdomioms naujovėms? Kam tikėtis blogesnio? Altmanas nuramina mums: „Niekas nenori sugriauti pasaulio“. Galbūt ne. Tačiau, kaip kasdien rodo vis blogėjančios klimato ir išnykimo krizės, daugybei galingų žmonių ir institucijų atrodo gerai, žinant, kad jie padeda sugriauti pasaulio gyvybės palaikymo sistemų stabilumą tol, kol gali tai daryti. įrašas pelnas, kuris, jų manymu, apsaugos juos ir jų šeimas nuo blogiausių padarinių. Altmanas, kaip ir daugelis Silicio slėnio būtybių, pats yra pasiruošęs: dar 2016 m. pasigyrė: „Turiu ginklų, aukso, kalio jodido, antibiotikų, baterijų, vandens, dujokaukių iš Izraelio gynybos pajėgų ir didelį žemės lopinėlį Big Sur, į kurį galiu nuskristi.
Esu tikras, kad šie faktai daug daugiau pasako apie tai, ką Altmanas iš tikrųjų tiki apie ateitį, kurią jis padės atskleisti, nei apie bet kokias gėlėtas haliucinacijas, kurias jis pasirenka spaudos interviu.
Naomi Klein yra „Guardian“ JAV apžvalgininkė ir rašytoja. Ji yra bestselerių be logotipo ir šoko doktrinos autorė, klimato teisingumo profesorė ir Britų Kolumbijos universiteto Klimato teisingumo centro direktorė.
„ZNetwork“ finansuojamas tik iš skaitytojų dosnumo.
Paaukoti