Po téměř 79 letech na této sužované planetě mi dovolte říci jednu věc: tohle nemůže skončit dobře. Opravdu, nemůže. A ne, nemluvím o nejviditelnějších problémech od války na Ukrajině po klimatickou katastrofu. Mám na mysli ten nejnovější, největší lidský vynález: umělou inteligenci.
Nepřijde mi to tak složité. Jako kdysi historik jsem dlouho přemýšlel o tom, co v těchto staletích „dokázala“ neumělá a – až příliš často – neumělá inteligence (a ano, raději bych to uvedl do uvozovek ). Ale ve chvíli, kdy se snažím představit si, co by tato zdánlivě ultimátní umělá inteligence, již živá zkratka sama sebe, mohla udělat, běhá mi mráz po zádech. Brrr…
Dovolte mi začít upřímností, která vůbec není umělý pocit. Co vím o AI, můžete dát do pytle na odpadky a vyhodit spolu s odpadky. Ano, nedávno jsem o tom četl v médiích, co jsem mohl, a moji přátelé si s tím už pohrávali. TomDispatch pravidelný William Astore například nechal ChatGPT napsat a perfektně průchozí pro něj „kritická esej“ o vojensko-průmyslovém komplexu Osvěžující pohledy newsletter – a to musím přiznat, bylo něco úžasného.
Přesto to není pro mě. Já nikdy. Nerad říkám nikdy, protože my lidé opravdu nevíme, co budeme v budoucnu dělat. Přesto považujte za můj nejlepší odhad, že s AI nebudu mít nic aktivně společného. (I když můj nepochybně méně než uměle inteligentní systém kontroly pravopisu okamžitě změnil „chatbox“ na „hatbox“, když jsem Astoreovi psal e-mail, abych ho požádal o adresu URL toho jeho kousku.)
Ale tady se na chvíli zastavme. Než se vůbec dostaneme k AI, pojďme se trochu zamyslet nad LTAI (méně než umělá inteligence, pro případ, že neznáte zkratku) na této planetě. Kdo by mohl popřít, že má nějaké pozoruhodné úspěchy? To vytvořilo Mona Lisa, Hvězdná noc, a Diego a já. Musím říct víc? Přišlo se na to, jak nás stylově přesunout po tomto světě a dokonce i do vesmíru. Postavila rozsáhlá města a skvělé památky a zároveň vytvořila kuchyně, které se nedají srovnat. Mohl bych samozřejmě pokračovat. kdo nemohl? V určitých ohledech by výtvory lidské inteligence měly každému vyrazit dech. Někdy se dokonce zdá, že dávají „zázraku“ skutečný význam.
A přesto, od úsvitu časů, se totéž LTAI vydalo také mnohem chmurnějšími směry. Vynalezla zbraně všeho druhu, od kopí a luků a šípů až po dělostřelectvo a proudová stíhací letadla. Nyní vytvořila poloautomatickou pušku AR-15 z velké části odpovědné (spolu s tolika narušenými jednotlivými LTAI) za naše zdánlivě nikdy nekončící masové zabíjení, ojedinělý jev v této naší „mírové“ zemi.
A mluvíme samozřejmě o stejné méně než umělé inteligenci, která vytvořila holocaust, ruský gulag Josifa Stalina, segregační a lynčovací davy ve Spojených státech a mnoho dalších zrůd (ne)lidské historie. Především mluvíme o LTAI, která proměnila velkou část naší historie v příběh války a masakru, který nelze srovnávat, něco, co, bez ohledu na to, jak „pokročili“ jsme se stali, nikdy nebylo – jako brutální, hluboce destruktivní konflikt na Ukrajině naznačuje — ukázal sebemenší známku ustání. I když jsem neviděl postavy na toto téma, mám podezření, že v naší historii sotva nastal okamžik, kdy bychom se někde na této planetě (a často tam, kde bychom museli zmnožit) my lidé navzájem nezabíjeli. významná čísla.
A mějte na paměti, že v žádné z výše uvedených věcí jsem ani nezmínil hrůzy společností pravidelně rozdělených a organizovaných kolem neuvěřitelně bohatý a všichni příliš chudí. Ale dost, ne? Dostanete nápad.
Jejda, při posuzování stvoření, která nyní vytvořila AI, jsem vynechal jednu věc. V minulém nebo dvou století se „inteligenci“, která dělala vše výše uvedené, také podařilo přijít na dva různé způsoby, jak potenciálně zničit tuto planetu a víceméně vše živé na ní. První z nich vytvořil z velké části nevědomky. Koneckonců, masivní, nikdy nekončící spalování fosilních paliv, které začalo industrializací velké části planety v devatenáctém století, bylo to, co vedlo ke stále více změněné klimatu Země. I když nyní víme, co děláme po celá desetiletí (vědci jedné z obřích společností vyrábějících fosilní paliva první uchopený co se dělo v 1970. letech XNUMX. století), že nás nezastavil. Ani zdaleka. Stejně ještě ne.
V příštích desetiletích, ne-li v rukou, klimatická nouze mohl devastovat tato planeta, na které sídlí lidstvo a mnoho dalších tvorů. Je to potenciálně světový jev (alespoň pro obyvatelnou planetu, jak ji známe). A přesto právě v tuto chvíli dva největší producenti skleníkových plynůSpojené státy a Čína (tato země je nyní ve vedení, ale USA zůstávají historicky jedničkou) se ukázaly jako neschopné vytvořit kooperativní vztah, který by nás zachránil před až příliš doslovným peklem na Zemi. Místo toho v tom pokračovali vyzbrojit se po zuby a čelit výhružným způsobem, zatímco jejich vůdci teď neprohodí ani slovo, neméně poradenství v oblasti přehřívání planety.
Druhou cestou do pekla vytvořenou lidstvem byly samozřejmě jaderné zbraně, které byly v srpnu 1945 použity pouze dvakrát s ničivým účinkem na japonská města Hirošimu a Nagasaki. Přesto by i relativně malé množství zbraní z rozsáhlých jaderných arzenálů nyní umístěných na planetě Zemi dokázalo vytvořit jaderné zimy které by potenciálně mohly vyhladit velkou část lidstva.
A pamatujte si, že bytosti LTAI pokračují ve vytváření stále větších zásob právě takových zbraní jako stále více zemí — nejnovější bytost Severní Korea — přijít je vlastnit. Za daných okolností a vzhledem k hrozbě, kterou ukrajinská válka mohla jít na jadernou energii, je těžké nemyslet na to, že to může být jen otázka času. V nadcházejících desetiletích se vláda mé vlastní země, nikoli netypicky, chystá postavit další 2 biliony dolarů do stále pokročilejších forem takových zbraní a způsobů jejich dodání.
Vstup do éry AI
Vzhledem k takové historii by vám bylo odpuštěno, že jste si představovali, že pro umělou inteligenci by mohlo být skvělé začít přebírat inteligence zodpovědné za tolik nebezpečí, z nichž některá jsou nejvyšší rozmanitosti. A nepochybuji o tom, že stejně jako její předek (my) AI skutečně prokáže cokoliv, jen ne jednostranné. Nepochybně vytvoří zázraky ve formách, které mohou být dosud nepředstavitelné.
Přesto nezapomínejme, že umělou inteligenci vytvořili ti z nás s LTAI. Pokud je nyní ponechána svému osudu (samozřejmě s pomocí velmocí), zdá se rozumné předpokládat, že to bude nějakým způsobem v podstatě opakovat lidskou zkušenost. Ve skutečnosti to považujte za jistou záruku. To znamená, že vytvoří krásu a zázrak a — ano! — hrůza, kterou nelze srovnávat (a možná ještě efektivněji). Abyste o tom nepochybovali, stačí zvážit, která část lidstva se již zdá být nejvíce zaměřena na posunutí umělé inteligence na její hranice.
Ano, oddělení „obrany“ po celé planetě nalévají peníze do výzkumu a vývoje AI, zejména do vytváření bezpilotních autonomních vozidel (myslím: zabijáckých robotů) a zbraňových systémů různého druhu, jak říká Michael Klare upozornil nedávno at TomDispatch když jde o Pentagon. Ve skutečnosti by vás nemělo šokovat, když víte, že před pěti lety (ano, celých pět let!) byl Pentagon výrazně napřed ve vytváření Společného centra umělé inteligence. New York Times položit to, „prozkoumat využití umělé inteligence v boji“. Tam by to nakonec mohlo – a „konec“ je zde jistě operativní slovo – urychlit akci na bojišti takovým způsobem, že bychom skutečně mohli vstupovat na neznámé území. Mohli bychom se ve skutečnosti dostat do sféry, v níž se lidská inteligence při válečném rozhodování stává přinejlepším vedlejší činností.
Teprve nedávno tvůrci umělé inteligence, tech lídři a klíčoví potenciální uživatelé, více než 1,000 z nich, včetně spoluzakladatele Applu Steva Wozniaka a miliardáře Elona Muska, byli dost nervózní z toho, co taková věc – takový mozek, dalo by se říct – vypuštěná na této planetě může způsobit, že požádáno o šestiměsíční moratorium na jeho rozvoj. Obávali se „hlubokých rizik pro společnost a lidstvo“ z umělé inteligence a přemýšleli, zda bychom vůbec měli vyvíjet „nelidské mysli, které by nás mohly časem převýšit, přechytračit, zastaraly a nahradit nás“.
Pentagon však na toto volání okamžitě zareagoval tímto způsobem, jako David Sanger hlášeny v New York Times: "Představitelé Pentagonu na technologických fórech řekli, že považují myšlenku šestiměsíční pauzy ve vývoji dalších generací ChatGPT a podobného softwaru za špatný nápad: Číňané nebudou čekat a Rusové také ne." Takže na plné obrátky a přeskočte jakékoli mezinárodní pokusy o zpomalení nebo kontrolu vývoje těch nejničivějších aspektů AI!
A ani jsem se neobtěžoval zmínit, jak ve světě, který je již zdánlivě plný dezinformací a dezinformací a divokých konspiračních teorií, je pravděpodobné, že AI bude používána k vytvořit ještě více stejného všeho představitelného druhu, a ohromující rozmanitost z "halucinace“, nemluvě o chrlení všeho od pozoruhodných nových verzí umění až po studentské testovací papíry. Chci říct, opravdu potřebuji zmínit něco víc než ty nedávné až příliš realisticky vypadající „fotografie Donalda Trumpa agresivně zatčeného newyorskou policií a papežem Františkem v luxusním nadýchaném kabátě Balenciaga, které široce kolují online“?
Pochybuji. Koneckonců, technologie AI založená na obrázcích, včetně nápadné falešné umění, je na výrazném vzestupu a brzy možná nebudete schopni rozpoznat, zda jsou obrázky, které vidíte, „skutečné“ nebo „falešné“. Jediný způsob, jak to budete vědět, jako Meghan Bartels Zprávy in Scientific American, může být díky systémům umělé inteligence vyškoleným k detekci – ano! — umělé obrazy. V tomto procesu samozřejmě všichni z nás budou nějakým způsobem vynecháni.
O budoucnosti, uměle řečeno
A samozřejmě, to je skoro dobrá zpráva, když s ohledem na náš současný až příliš trumpovský svět začnete přemýšlet o tom, jak by umělá inteligence mohla z nás všech udělat politické a společenské hlupáky. Vzhledem k tomu, že jsem co se týče umělé inteligence všechno, jen ne jeden z lépe informovaných lidí (ačkoli na Méně než umělé inteligenci bych tvrdil, že toho vím o dost víc), ulevilo se mi, že nejsem ve svých obavách sám.
Ve skutečnosti mezi těmi, kdo na toto téma mluvili se strachem, je muž známý jako „kmotr AI“, Geoffrey Hinton, průkopník v oblasti umělé inteligence. Teprve nedávno opustil svou práci ve společnosti Google, aby vyjádřil své obavy z toho, kam bychom mohli skutečně směřovat, uměle řečeno. Jako on řekl New York Times nedávno: „Myšlenka, že tyto věci mohou být skutečně chytřejší než lidé – pár lidí tomu věřilo, ale většina lidí si myslela, že je to úplně mimo. A to jsem si myslel, že je to úplně mimo. Myslel jsem, že to bude za 30 až 50 let nebo ještě déle. Očividně si to už nemyslím."
Nyní se bojí nejen příchodu zabijáckých robotů mimo lidskou kontrolu, ale stejně jako on řekl Geoff Bennett z PBS NewsHour„Riziko, že superinteligentní umělá inteligence převezme kontrolu od lidí… Myslím, že je to oblast, ve které můžeme skutečně spolupracovat na mezinárodní úrovni, protože převzetí strojů je hrozbou pro všechny. Je to hrozba pro Číňany a pro Američany a pro Evropany, stejně jako byla globální jaderná válka."
A to je skutečně nadějná myšlenka, která se nehodí do našeho současného světa horké války v Evropě, studené války v Pacifiku a globálního rozdělení.
Samozřejmě nemám žádný způsob, jak zjistit, zda méně než umělá inteligence, se kterou jsem žil celý život, bude skutečně potopena flotilou nosičů AI, nebo zda lidstvo nechá AI v prachu nějakým způsobem devastujeme tuto planetu sami. Ale musím uznat, že AI, ať už jsou její pozitiva jakákoli, vypadá jakkoli, jen ne jako to, co svět právě teď potřebuje, aby nás zachránil před peklem na zemi. Doufám v to nejlepší a bojím se nejhoršího, když se připravuji na cestu do budoucnosti, o které nepochybuji, že je mimo mé představy.
ZNetwork je financován výhradně ze štědrosti svých čtenářů.
Darovat