Di jero loba debat swirling sabudeureun rollout gancang tina disebut kecerdasan jieunan, aya skirmish rélatif jelas fokus kana pilihan kecap "halusinasi".
Ieu mangrupikeun istilah anu arsitek sareng boosters AI generatif parantos netepkeun pikeun ngacirian réspon anu disayogikeun ku chatbots anu diproduksi sadayana, atanapi lepat. Sapertos, contona, nalika anjeun naroskeun bot pikeun definisi naon anu teu aya sareng éta, rada ngayakinkeun, masihan anjeun hiji, lengkep jeung footnotes dijieun-up. "Teu aya saurang ogé di lapangan anu parantos ngarengsekeun masalah halusinasi," Sundar Pichai, CEO Google sareng Alphabet, ngawartoskeun hiji interviewer anyar.
Éta leres - tapi naha nyauran kasalahan "halusinasi" sadayana? Naha henteu junk algorithmic? Atawa gangguan? Nya, halusinasi nujul kana kapasitas misterius otak manusa pikeun ningali fenomena anu henteu aya, sahenteuna henteu dina istilah materialis konvensional. Ku appropriating hiji kecap ilahar dipaké dina psikologi, psychedelics sarta sagala rupa wangun mistisisme, boosters AI, bari acknowledging fallibility tina mesin maranéhanana, anu sakaligus nyoco mitologi paling cherished sektor urang: yén ku ngawangun model basa badag ieu, sarta ngalatih aranjeunna dina sagala hal anu. urang manusa geus ditulis, ceuk jeung digambarkeun visually, aranjeunna dina prosés birthing hiji kecerdasan animasi dina cusp sparking hiji kabisat évolusionér pikeun spésiés urang. Kumaha sejenna bisa bot kawas Bing na Bard jadi tripping kaluar aya dina éter nu?
Halusinasi warped memang lumangsung di dunya AI, kumaha oge - tapi lain bot nu gaduh aranjeunna; Éta CEO téknologi anu ngaluarkeun aranjeunna, sareng sajumlah fans na, anu aya dina cengkraman halusinasi liar, boh sacara individu sareng koléktif. Di dieu kuring ngahartikeun halusinasi sanés dina rasa mistis atanapi psychedelic, kaayaan anu dirobih-pikiran anu leres-leres tiasa ngabantosan dina ngaksés kabeneran anu jero, anu teu dipikanyaho. Heueuh, jalma-jalma ieu ngan ukur ngajanteng: ningali, atanapi sahenteuna ngaku ningali, bukti-bukti anu teu aya pisan, bahkan ngabayangkeun sakumna dunya anu bakal ngagunakeun produkna pikeun élévasi sareng pendidikan universal urang.
Generative AI bakal mungkas kamiskinan, aranjeunna ngabejaan urang. Bakal cageur sagala panyakit. Bakal ngajawab parobahan iklim. Éta bakal ngajantenkeun padamelan urang langkung bermakna sareng pikaresepeun. Éta bakal ngabebaskeun kahirupan luang sareng kontemplasi, ngabantosan urang ngarebut deui umat manusa anu urang kaleungitan tina mékanisasi kapitalis telat. Bakal mungkas katiisan. Éta bakal ngajantenkeun pamaréntahan urang rasional sareng responsif. Ieu, kuring sieun, mangrupikeun halusinasi AI anu nyata sareng urang sadayana parantos ngupingkeun aranjeunna dina loop anu kantos saprak Chat GPT diluncurkeun dina ahir taun ka tukang.
Aya dunya dimana AI generatif, salaku alat panalungtikan prediksi anu kuat sareng ngalaksanakeun tugas anu pikasieuneun, tiasa leres-leres didamel kauntungan manusa, spésiés séjén jeung imah urang babarengan. Tapi pikeun kajadian éta, téknologi ieu kedah disebarkeun dina tatanan ékonomi sareng sosial anu béda-béda ti urang sorangan, anu ngagaduhan tujuan pikeun nyumponan kabutuhan manusa sareng panyalindungan sistem planet anu ngadukung sadaya kahirupan.
Sareng salaku urang anu ayeuna henteu terang-terasan ngartos, sistem urang ayeuna henteu sapertos kitu. Sabalikna, éta diwangun pikeun maksimalkeun ékstraksi kabeungharan sareng kauntungan - ti manusa sareng alam dunya - kanyataan anu parantos ngajantenkeun urang kana naon anu urang pikirkeun salaku tahap techno-necro kapitalisme. Dina kanyataan yén kakuatan sareng kabeungharan hyper-konsentrasi, AI - tebih tina hirup dugi ka sadaya halusinasi utopia - langkung dipikaresep janten alat anu pikasieuneun pikeun ngaleungitkeun sareng ngarusak.
Kuring gé ngagali naha jadi kitu. Tapi ke heula, éta mantuan pikeun mikir ngeunaan maksud halusinasi utopia ngeunaan AI ngalayanan. Karya naon ieu carita benevolent lakukeun dina budaya salaku urang sapatemon parabot anyar aneh ieu? Ieu mangrupikeun salah sahiji hipotésis: aranjeunna mangrupikeun carita panutup anu kuat sareng pikaresepeun pikeun anu tiasa janten maling panggedéna sareng paling penting dina sajarah manusa. Kusabab naon anu urang saksikeun nyaéta perusahaan anu paling sugih dina sajarah (Microsoft, Apple, Google, Meta, Amazon ...) sacara unilaterally ngarebut jumlah total pangaweruh manusa anu aya dina bentuk digital, scrapable sareng nutupan éta di jero produk proprietary, seueur anu bakal Tujuan langsung ka manusa anu hirupna tenaga kerja ngalatih mesin tanpa masihan idin atanapi idin.
Ieu teu kudu légal. Dina kasus bahan hak cipta nu urang ayeuna nyaho dilatih model (kaasup koran ieu), sagala rupa lawsuits geus Filed nu bakal ngajawab ieu jelas ilegal. Naha, upamana, perusahaan nirlaba kedah diidinan pikeun nyayogikeun lukisan, gambar sareng foto seniman hirup kana program sapertos Stable Diffusion atanapi Dall-E 2 supados teras tiasa dianggo pikeun ngahasilkeun versi doppelganger tina seniman éta. karya, kalawan kauntungan ngalir ka dulur tapi seniman sorangan?
Pelukis sareng ilustrator Molly Crabapple ngabantosan gerakan seniman anu nangtang maling ieu. "Generator seni AI dilatih dina set data anu ageung, ngandung jutaan gambar hak ciptana, dipanén tanpa kanyaho panyiptana, sumawona kompensasi atanapi idin. Ieu sacara efektif mangrupikeun perampokan seni anu paling hébat dina sajarah. Dilaksanakeun ku éntitas perusahaan anu terhormat anu didukung ku ibukota usaha Silicon Valley. Panonpoé rampog,” nu anyar kabuka surat manéhna co-drafted kaayaan.
Trikna, tangtosna, nyaéta Silicon Valley rutin nyebat maling "gangguan" - sareng sering teuing dileungitkeun. Urang terang move ieu: muatan payun kana wewengkon nu teu patuh hukum; ngaku aturan heubeul teu dilarapkeun ka tech anyar anjeun; ngajerit yén régulasi ngan bakal ngabantosan Cina - sadayana bari anjeun kéngingkeun fakta-fakta anjeun dina taneuh. Dina waktos urang sadayana ngaraosan hal-hal énggal tina kaulinan énggal ieu sareng ngamimitian nyandak saham tina karusakan sosial, politik sareng ékonomi, téknologi parantos aya dimana-mana yén pangadilan sarta policymakers ngalungkeun leungeun maranéhna.
Kami ningali éta kalayan buku Google sareng scanning seni. Kalayan kolonisasi ruang angkasa Musk. Kalayan serangan Uber dina industri taksi. Kalayan serangan Airbnb kana pasar sewa. Kalawan promiscuity Facebook urang jeung data urang. Ulah menta idin, nu ngaganggu resep ngomong, ménta dihampura. (Jeung lubricate nanya jeung kontribusi kampanye berehan.)
Dina Jaman Kapitalisme Panjagaan, Shoshana Zuboff rinci sacara saksama kumaha peta Google Street View ngagulung kana norma privasi ku ngirim mobil-mobil anu dihias ku kaméra pikeun motret jalan umum urang sareng luar bumi urang. Nalika gugatan gugatan anu ngabéla hak privasi digulung, Street View parantos aya di mana-mana dina alat kami (sareng saé pisan, sareng langkung merenah ...) sahingga sababaraha pangadilan di luar. Jérman éta daék campur.
Ayeuna hal anu sami anu kajantenan di luar bumi urang lumangsung dina kecap urang, gambar urang, lagu urang, sakabéh kahirupan digital urang. Sadayana ayeuna dicekel sareng dianggo pikeun ngalatih mesin pikeun nyontoan pamikiran sareng kreativitas. Pausahaan ieu kedah terang aranjeunna kalibet dina maling, atanapi sahenteuna éta a bisi kuat bisa dijieun anu sipatna. Aranjeunna ngan ukur ngarepkeun yén playbook lami tiasa dianggo sakali deui - yén skala perampokan parantos ageung sareng kabuka kalayan sapertos kitu. kagancangan yén pangadilan sareng pembuat kabijakan bakal sakali deui ngalungkeun panangan dina nyanghareupan anu teu tiasa dihindari sadayana.
Éta ogé naha halusinasi maranéhanana ngeunaan sagala hal éndah anu AI bakal ngalakukeun pikeun manusa penting pisan. Kusabab klaim anu luhur ieu nyamar maling massal ieu salaku hadiah - dina waktos anu sami ngabantosan ngarasionalkeun bahaya AI anu teu tiasa ditolak.
Ayeuna, lolobana urang geus ngadéngé ngeunaan naliti anu naroskeun ka peneliti sareng pamekar AI pikeun ngira-ngira kamungkinan yén sistem AI canggih bakal nyababkeun "kapunahan manusa atanapi disempowerment anu sami sareng permanén sareng parah tina spésiés manusa". Chillingly, respon median éta aya kasempetan 10%.
Kumaha rationalize bade dianggo tur nyorong kaluar parabot nu mawa resiko existential misalna? Seringna, alesan anu dipasihkeun nyaéta yén sistem ieu ogé ngagaduhan poténsial anu ageung - iwal ti upsides ieu, sabagéan ageung, halusinasi. Hayu urang ngagali kana sababaraha leuwih liar.
Halusinasi #1: AI bakal meupeuskeun iklim ngabahayakeun
Ampir biasana topping daptar AI upsides nyaéta klaim yén sistem ieu kumaha bae bakal ngajawab krisis iklim. Kami parantos nguping ieu ti sadayana ti Forum Ékonomi Dunya ka Déwan on Hubungan luar nagri ka Boston konsultan Grup, nu ngécéskeun yén AI "bisa dipaké pikeun ngarojong sagala stakeholder dina nyokot pendekatan leuwih informed tur data-disetir pikeun merangan émisi karbon jeung ngawangun masarakat greener. Éta ogé tiasa dianggo pikeun ngarobih deui usaha iklim global ka daérah anu paling résiko. Urut CEO Google Eric Schmidt nyimpulkeun kasus nalika anjeunna ngawartoskeun Atlantik yén résiko AI patut nyandak, sabab "Upami anjeun mikirkeun masalah anu paling ageung di dunya, aranjeunna sadayana sesah - perubahan iklim, organisasi manusa, sareng sajabana. Janten, kuring sok hoyong jalma-jalma janten langkung pinter. ”
Numutkeun logika ieu, kagagalan pikeun "ngarengsekeun" masalah badag kawas perubahan iklim téh alatan deficit of smarts. Henteu kapikiran yén jalma-jalma pinter, beurat kalayan gelar PhD sareng hadiah Nobel, parantos nyarioskeun ka pamaréntah urang mangtaun-taun naon anu kedah kajantenan pikeun kaluar tina kekacauan ieu: motong émisi urang, tinggalkeun karbon dina taneuh, ngatasi konsumsi kaleuleuwihan jalma beunghar sareng underconsumption. jalma miskin sabab euweuh sumber énergi bébas biaya ékologis.
Alesan naséhat anu pinter pisan ieu teu dipaliré sanés kusabab masalah pamahaman bacaan, atanapi kusabab urang peryogi mesin pikeun ngalakukeun pamikiran urang pikeun urang. Éta sabab ngalakukeun naon anu ditungtut ku krisis iklim urang bakal terdampar trillions tina dollar aset suluh fosil, bari nangtang model pertumbuhan dumasar-konsumsi di jantung ékonomi interconnected urang. Krisis iklim sanés, saleresna, misteri atanapi teka-teki anu urang henteu acan direngsekeun kusabab set data anu teu cekap. Kami terang naon anu diperyogikeun, tapi éta sanés perbaikan gancang - éta mangrupikeun peralihan paradigma. Ngadagoan mesin pikeun nyiduh kaluar jawaban anu langkung pikaresepeun sareng / atanapi nguntungkeun sanés ubar pikeun krisis ieu, éta mangrupikeun gejala deui.
Ngaleungitkeun halusinasi sareng sigana jauh langkung kamungkinan yén AI bakal dibawa ka pasar ku cara anu sacara aktip ningkatkeun krisis iklim. Anu mimiti, server raksasa anu ngadamel karangan instan sareng karya seni tina chatbots tiasa janten ageung sareng ngembang. sumber tina émisi karbon. Kadua, salaku pausahaan kawas Coca-Cola ngamimitian nyieun investasi badag pikeun ngagunakeun AI generatif pikeun ngajual langkung seueur produk, janten jelas pisan yén téknologi anyar ieu bakal dianggo dina cara anu sami sareng generasi alat digital anu terakhir: yén naon anu dimimitian ku janji anu luhur ngeunaan nyebarkeun kabébasan sareng démokrasi ditungtungan ku nargetkeun iklan mikro. ku kituna urang meuli leuwih gunana, karbon-spewing barang.
Sareng aya faktor katilu, ieu sakedik langkung hese pikeun ditingalikeun. Beuki saluran média urang dibanjiri ku palsu sareng klon tina rupa-rupa jinis, beuki urang gaduh perasaan tilelep kana pasir alur inpormasi. Geoffrey Hinton, anu sering disebut "bapa baptis AI" sabab jaringan saraf anu dikembangkeun langkung ti dasawarsa ka tukang ngabentuk blok wangunan modél basa ageung ayeuna, ngartos ieu. Anjeunna nembé kaluar tina peran senior di Google supados anjeunna tiasa nyarios sacara bébas ngeunaan résiko téknologi anu anjeunna ngabantosan nyiptakeun, kalebet, nalika anjeunna ngawartoskeun The New York Times, résiko yén jalma "moal tiasa terang naon anu leres deui".
Ieu penting pisan pikeun klaim yén AI bakal ngabantosan ngalawan krisis iklim. Kusabab nalika urang teu percanten kana sagala hal anu urang baca sareng tingali dina lingkungan média anu beuki luar biasa, urang janten kirang cekap pikeun ngarengsekeun masalah koléktif anu mendesak. Krisis kapercayaan sateuacan ChatGPT, tangtosna, tapi henteu aya patarosan yén panyebaran palsu anu jero bakal dibarengan ku paningkatan eksponensial dina budaya konspirasi anu parantos berkembang. Janten naon bédana upami AI muncul sareng terobosan téknologi sareng ilmiah? Lamun lawon kanyataanana dibagikeun unraveling dina leungeun urang, urang bakal manggihan diri urang teu bisa ngabales kalawan kohérénsi nanaon pisan.
Halusinasi #2: AI bakal ngirim wijaksana governance
Halusinasi ieu ngagero masa depan dimana politikus sareng birokrat, ngagambar kana kecerdasan aggregated sistem AI, tiasa "ningali pola kabutuhan sareng ngembangkeun program dumasar-bukti" anu ngagaduhan mangpaat anu langkung ageung pikeun konstituénna. Éta klaim asalna tina a keretas dipedalkeun ku yayasan Boston Consulting Group, tapi ieu digeungkeun di jero seueur thinktanks sareng konsultasi manajemén. Sareng éta nyarioskeun yén perusahaan-perusahaan khusus ieu - perusahaan anu disewa ku pamaréntah sareng korporasi sanés pikeun ngaidentipikasi tabungan biaya, sering ku némbak sajumlah ageung pagawé - paling gancang ngaluncat kana AI bandwagon. PwC (baheulana PricewaterhouseCoopers) euy ngumumkeun investasi $1bn, sarta Bain & Company ogé Deloitte dikabarkan sumanget ngeunaan ngagunakeun parabot ieu sangkan klien maranéhanana leuwih "efisien".
Sapertos klaim iklim, perlu ditaroskeun: naha alesan politikus maksakeun kawijakan anu kejam sareng henteu efektif anu aranjeunna kakurangan tina bukti? Henteu mampuh "ningali pola," sakumaha anu dituduhkeun ku kertas BCG? Naha maranéhna teu ngarti waragad manusa tina sarimi Podomoro masarakat di tengah pandém, atanapi gagal pikeun investasi di perumahan non-pasar nalika tenda ngeusian taman kota urang, atanapi nyatujuan infrastruktur bahan bakar fosil énggal nalika suhu naék? Naha aranjeunna peryogi AI pikeun ngajantenkeun aranjeunna "langkung pinter", pikeun nganggo istilah Schmidt - atanapi aranjeunna leres-leres pinter terang saha anu badé underwrite kampanye salajengna, atanapi, upami aranjeunna nyimpang, bankroll sainganna?
Ieu bakal awfully nice lamun AI bener bisa megatkeun tumbu antara duit perusahaan jeung nyieun kawijakan gagabah - tapi link nu boga sagalana pikeun ngalakukeun jeung naha pausahaan kawas Google jeung Microsoft geus diidinan ngaleupaskeun chatbots maranéhna pikeun publik sanajan longsoran warnings jeung resiko dipikawanoh. Schmidt sareng anu sanésna parantos dina kampanye lobbying salami sababaraha taun sangkan duanana pihak di Washington yén lamun maranéhna teu bébas tong dihareupeun AI generatif, unburdened ku régulasi serius, lajeng kakuatan barat bakal ditinggalkeun di debu ku Cina. Taun ka tukang, pausahaan tech luhur spent catetan $ 70m pikeun lobi Washington - leuwih ti sektor minyak jeung gas - sarta jumlah éta, catetan Bloomberg News, nyaeta luhureun jutaan spent "dina Asép Sunandar Sunarya lega maranéhanana grup dagang, non-kauntungan sarta thinktanks".
Sanajan kitu, sanajan pangaweruh intim maranéhanana persis kumaha duit ngawangun kawijakan di ibukota nasional urang, nalika anjeun ngadangukeun Sam Altman, CEO OpenAI - maker of ChatGPT - ngobrol ngeunaan skenario pangalusna-kasus pikeun produk-Na, sakabéh ieu sigana. poho. Sabalikna, anjeunna sigana ngahalusinasi dunya anu henteu sapertos urang sorangan, dimana politikus sareng industri nyandak kaputusan dumasar kana data anu pangsaéna sareng moal pernah nempatkeun kahirupan anu teu kaétang dina résiko pikeun kauntungan sareng kauntungan geopolitik. Nu brings urang kana halusinasi sejen.
Halusinasi #3: tech raksasa bisa be dipercanten teu megatkeun dunya
Naros upami anjeunna hariwang ngeunaan rurusuhan emas anu parah ChatGPT parantos dileupaskeun, Altman nyarios yén anjeunna, tapi tambah sanguinely: "Mudah-mudahan éta sadayana tiasa dianggo." Tina sasama CEO téknologi - anu bersaing pikeun buru-buru chatbots saingan - anjeunna nyarios: "Kuring nyangka malaikat anu langkung saé bakal meunang."
Malaikat hadé? Di Google? Kuring yakin pisan pausahaan dipecat kalolobaanana sabab nyebarkeun makalah kritis ngeunaan AI, atanapi nyauran perusahaan ngeunaan rasisme sareng pelecehan seksual di tempat kerja. Langkung "malaikat anu langkung saé" gaduh kaluar dina alarem, panganyarna Hinton. Éta sabab, sabalikna tina halusinasi jalma-jalma anu paling nguntungkeun tina AI, Google henteu nyandak kaputusan dumasar kana naon anu pangsaéna pikeun dunya - éta nyandak kaputusan dumasar kana naon anu pangsaéna pikeun para pemegang saham Alphabet, anu henteu hoyong sono kana gelembung pangénggalna, henteu. nalika Microsoft, Meta jeung Apple geus sagala di.
halusinasi #4: AI bakal ngabebaskeun us ti kakeuheul
Lamun halusinasi benevolent Silicon Valley urang sigana masuk akal pikeun loba, aya alesan basajan pikeun éta. Generative AI ayeuna nuju dina naon anu urang panginten salaku tahap faux-sosialisme na. Ieu mangrupikeun bagian tina playbook Silicon Valley anu ayeuna akrab. Mimiti, jieun produk anu pikaresepeun (mesin pencari, alat pemetaan, jaringan sosial, platform pidéo, pangsa numpak ...); masihan eta jauh haratis atawa ampir bebas pikeun sababaraha taun, tanpa model bisnis giat discernible ("Play sabudeureun kalawan bot," aranjeunna ngabejaan urang, "tingali naon fun hal anjeun bisa nyieun!"); ngadamel seueur klaim anu luhur ngeunaan kumaha anjeun ngan ukur ngalakukeun éta kusabab anjeun hoyong nyiptakeun "alun-alun kota" atanapi "informasi umum" atanapi "nyambungkeun jalma", sadayana bari nyebarkeun kabébasan sareng démokrasi (teu janten "jahat"). Lajeng lalajo salaku jalma meunang hooked ngagunakeun parabot bébas ieu sarta pesaing anjeun nyatakeun bangkrut. Sakali lapangan jelas, ngenalkeun iklan anu ditargetkeun, panjagaan konstan, kontrak pulisi sareng militér, penjualan data kotak hideung sareng biaya langganan anu ningkat.
Seueur kahirupan sareng séktor anu dileungitkeun ku iterations saméméhna tina playbook ieu, ti supir taksi ka pasar rental ka koran lokal. Kalayan révolusi AI, karugian sapertos kieu tiasa katingali sapertos kasalahan rounding, sareng guru, coder, seniman visual, wartawan, penerjemah, musisi, pagawe perawatan sareng seueur anu sanésna anu nyanghareupan prospek panghasilanna diganti ku kode glitchy.
Tong hariwang, para peminat AI berhalusinasi - éta bakal saé. Saha waé anu resep damel? Generatif AI moal janten tungtung padamelan, kami nyarios, ngan "pagawean boring"- kalawan chatbots mantuan ngalakonan sagala jiwa-ngancurkeun, tugas repetitive sarta manusa saukur supervising aranjeunna. Altman, pikeun bagian na, nilik hiji mangsa nu bakal datang dimana karya "bisa jadi konsép lega, teu hal kudu maneh mun bisa dahar, tapi hal anjeun ngalakukeun salaku ekspresi kreatif sarta cara pikeun manggihan minuhan jeung kabagjaan".
Éta mangrupikeun visi anu pikaresepeun ngeunaan kahirupan anu langkung saé, santai, anu seueur anu kakirim (kalebet minantu Karl Marx, Paul Lafargue, anu nyerat Manifesto judulna The Right To Be Lazy). Tapi urang kénca ogé terang yén upami milarian artos henteu deui janten kabutuhan hirup, maka kedah aya cara sanés pikeun nyumponan kabutuhan mahluk urang pikeun panyumputan sareng rezeki. Dunya tanpa padamelan anu jelek hartosna nyéwa kedah gratis, sareng kasehatan kedah gratis, sareng unggal jalma kedah gaduh hak ékonomi anu teu tiasa dicabut. Lajeng ujug-ujug urang teu ngobrol ngeunaan AI pisan - urang nuju ngobrol ngeunaan sosialisme.
Kusabab urang teu cicing di Star Trek-diideuan rasional, dunya humanis yén Altman sigana halusinasi. Urang hirup di handapeun kapitalisme, sarta dina sistem éta, balukar tina banjir pasar jeung téhnologi nu bisa ngajalanan pancén ékonomi countless jalma gawé téh lain jalma anu ujug-ujug bébas jadi filsuf jeung seniman. Éta hartosna yén jalma-jalma éta bakal mendakan diri neuteup kana jurang - sareng seniman-seniman anu saleresna diantara anu mimiti ragrag.
Éta pesen tina surat kabuka Crabapple, anu nyauran "seniman, penerbit, wartawan, éditor sareng pamimpin serikat jurnalisme pikeun nyandak janji pikeun nilai-nilai manusa ngalawan pamakean gambar generatif-AI" sareng "komitmen pikeun ngadukung seni redaksi anu dilakukeun ku jalma. , sanes peternakan server". Surat, ayeuna ditandatanganan ku ratusan seniman, wartawan jeung nu lianna, nyatakeun yén sakabéh tapi seniman paling elit manggihan karya maranéhanana "dina resiko punah". Sareng numutkeun Hinton, "bapa baptis AI", teu aya alesan pikeun yakin yén ancaman éta moal nyebarkeun. The chatbots nyokot "ngajauhan karya drudge" tapi "eta bisa nyokot jauh leuwih ti éta".
Crabapple sareng rekan panulisna nyerat: "Seni Generatif AI nyaéta vampiris, ngaraosan karya seni generasi katukang sanaos nyedot getih tina seniman anu hirup." Tapi aya cara pikeun nolak: urang tiasa nolak ngagunakeun produk ieu sareng ngatur pikeun nungtut yén dunungan sareng pamaréntahan urang ogé nampik aranjeunna. A aksara ti sarjana etika AI anu kasohor, kalebet Timnit Gebru anu dipecat ku Google taun 2020 pikeun nangtang diskriminasi tempat kerja, ngaluarkeun sababaraha alat pangaturan anu tiasa langsung diwanohkeun ku pamaréntah - kalebet transparansi lengkep ngeunaan set data naon anu dianggo pikeun ngalatih modél éta. Panulis nyerat: "Henteu ngan ukur kedah jelas nalika urang mendakan média sintétik, tapi organisasi anu ngawangun sistem ieu ogé kedah diperyogikeun pikeun ngadokumentasikeun sareng nyingkab data pelatihan sareng arsitéktur modél .... Urang kedah ngawangun mesin anu dianggo pikeun urang, tibatan 'nyaluyukeun' masarakat janten mesin anu tiasa dibaca sareng tiasa ditulis.
Sanaos perusahaan téknologi hoyong urang percanten yén éta parantos telat pikeun ngagulung deui produk anu ngagantikeun manusa, niru massa ieu, aya precedent hukum sareng pangaturan anu relevan anu tiasa dilaksanakeun. Salaku conto, Komisi Perdagangan Federal AS (FTC) kapaksa Cambridge Analytica, kitu ogé Everalbum, nu boga hiji aplikasi poto, ngancurkeun sakabéh algoritma kapanggih geus dilatih dina data illegitimately appropriated jeung poto scraped. Dina awal-awalna, administrasi Biden ngadamel seueur klaim anu wani ngeunaan régulasi téknologi gedé, kalebet ngarobih maling data pribadi pikeun ngawangun algoritma proprietary. Kalayan pamilihan présidén anu caket, ayeuna bakal janten waktos anu saé pikeun ngalaksanakeun janji-janji éta - sareng ngahindarkeun set PHK massal sateuacanna.
Dunya palsu anu jero, puteran mimik sareng kateusaruaan anu parah sanés teu tiasa dihindari. Éta sakumpulan pilihan kawijakan. Urang tiasa ngatur bentuk chatbots vampir anu ayeuna teu aya - sareng ngawitan ngawangun dunya dimana janji AI anu paling seru bakal langkung seueur tibatan halusinasi Silicon Valley.
Kusabab urang ngalatih mesin. Urang sadaya. Tapi urang pernah masihan idin urang. Aranjeunna tuang kana kapinteran koléktif umat manusa, inspirasi sareng wahyu (sareng sifat-sifat anu langkung ageung). Modél ieu mangrupikeun mesin kandang sareng apropriasi, ngadahar sareng privatisasi kahirupan individu urang ogé warisan intelektual sareng artistik koléktif urang. Sareng tujuanana henteu pernah nyaéta pikeun ngabéréskeun perubahan iklim atanapi ngajantenkeun pamaréntahan urang langkung tanggung jawab atanapi kahirupan urang sapopoé langkung santai. Éta salawasna untung tina immiseration massal, anu, dina kapitalisme, mangrupakeun konsekuensi glaring tur logis tina ngaganti fungsi manusa jeung bot.
Naha sadayana ieu dramatis pisan? A résistansi stuffy na reflexive kana inovasi seru? Naha nyangka goréng? Altman ngayakinkeun Kami: "Teu aya anu hoyong ngancurkeun dunya." Sugan henteu. Tapi sakumaha iklim anu parah-parah sareng krisis punah nunjukkeun ka urang unggal dinten, seueur jalma sareng lembaga anu kuat sigana henteu kunanaon terang yén aranjeunna ngabantosan ngancurkeun stabilitas sistem pangrojong kahirupan dunya, salami aranjeunna tiasa teras-terasan nyieun. catetan kauntungan anu aranjeunna yakin bakal ngajaga aranjeunna sareng kulawargana tina épék anu paling parah. Altman, sapertos seueur mahluk Silicon Valley, nyalira nyalira: dina taun 2016, anjeunna boasted: "Kuring gaduh bedil, emas, kalium iodida, antibiotik, batré, cai, masker gas ti Angkatan Pertahanan Israél sareng lahan ageung di Big Sur anu kuring tiasa ngapung."
Kuring yakin yén fakta-fakta éta nyarioskeun langkung seueur ngeunaan naon anu Altman leres-leres percanten ngeunaan masa depan anu anjeunna ngabantosan ngabebaskeun tibatan naon waé halusinasi kembangan anu anjeunna pilih pikeun dibagikeun dina wawancara pers.
Naomi Klein mangrupikeun kolumnis Guardian AS sareng panulis kontribusi. Anjeunna panulis laris No Logo sareng The Shock Doctrine sareng Profesor Kaadilan Iklim sareng Co-Diréktur Pusat Kaadilan Iklim di Universitas British Columbia.
ZNetwork dibiayaan ngan ukur ku kabébasan pamiarsana.
nulungan