Umělá inteligence (AI) hýbe světem. Transformuje každou oblast života a v tomto procesu vyvolává hlavní etické obavy pro společnost a budoucnost lidstva. ChatGPT, který dominuje sociálním médiím, je chatbot s umělou inteligencí vyvinutý společností OpenAI. Je to podmnožina strojového učení a spoléhá na to, co se nazývá velké jazykové modely, které mohou generovat reakce podobné lidem. Potenciální uplatnění takové technologie je skutečně obrovské, a proto již existují výzvy k regulaci umělé inteligence, jako je ChatGPT.
Dokáže umělá inteligence přelstít lidi? Představuje veřejné ohrožení? Opravdu, může se AI stát existenční hrozbou? Přední světový lingvista Noam Chomsky, a jeden z nejváženějších veřejných intelektuálů všech dob, jehož intelektuální postavení bylo přirovnáváno k intelektuálnímu postavení Galilea, Newtona a Descarta, řeší tyto nepříjemné otázky v rozhovoru, který následuje.
CJ Polychroniou: Jako vědecká disciplína se umělá inteligence (AI) datuje do 1950. let XNUMX. století, ale v posledních několika desetiletích proniká do nejrůznějších oborů, včetně bankovnictví, pojišťovnictví, výroby automobilů, hudby a obrany. Ve skutečnosti se ukázalo, že použití technik umělé inteligence v některých případech předčí lidské schopnosti, jako například ve hře v šachy. Je pravděpodobné, že stroje budou chytřejší než lidé?
Noam Chomsky: Jen pro upřesnění terminologie, termín „stroj“ zde znamená program, v podstatě teorie napsaná v notaci, kterou lze provést počítačem – a neobvyklý druh teorie zajímavými způsoby, které zde můžeme odložit.
Můžeme udělat hrubý rozdíl mezi čistým inženýrstvím a vědou. Neexistuje žádná ostrá hranice, ale je to užitečné první přiblížení. Čisté inženýrství se snaží vyrobit produkt, který může mít nějaké využití. Věda hledá porozumění. Pokud je tématem lidská inteligence nebo kognitivní schopnosti jiných organismů, věda hledá porozumění těmto biologickým systémům.
Pokud jim rozumím, zakladatelé AI – Alan Turing, Herbert Simon, Marvin Minsky a další – ji považovali za vědu, součást tehdy vznikajících kognitivních věd, využívající nových technologií a objevů v matematické teorii počítání k předem porozumění. V průběhu let tyto obavy zmizely a byly z velké části nahrazeny inženýrskou orientací. Dřívější obavy jsou nyní běžně odmítány, někdy blahosklonně, jako GOFAI – stará dobrá AI.
Pokračujeme v otázce, je pravděpodobné, že budou navrženy programy, které překonávají lidské schopnosti? Musíme si dávat pozor na slovo „schopnosti“, z důvodů, ke kterým se vrátím. Pokud ale tento termín vezmeme jako odkaz na lidskou výkonnost, pak odpověď zní: rozhodně ano. Ve skutečnosti existují již dlouho: například kalkulačka v notebooku. Může to daleko přesáhnout to, co lidé dokážou, už jen kvůli nedostatku času a paměti. U uzavřených systémů, jako jsou šachy, bylo v 50. letech dobře pochopeno, že dříve nebo později, s rozvojem masivních výpočetních kapacit a dlouhým obdobím příprav, lze vymyslet program, který porazí velmistra, který hraje s omezenou pamětí. a čas. Úspěch po letech byl pro IBM do značné míry PR. Mnoho biologických organismů předčí lidské kognitivní schopnosti mnohem hlouběji. Pouštní mravenci na mém dvorku mají nepatrný mozek, ale daleko přesahují lidské navigační schopnosti, v zásadě nejen výkon. Neexistuje žádný velký řetězec bytí s lidmi na vrcholu.
Produkty inženýrství AI se používají v mnoha oblastech, v dobrém i ve zlém. I jednoduché a známé mohou být docela užitečné: v jazykové oblasti programy jako automatické vyplňování, živý přepis, google překladač a další. S mnohem větším výpočetním výkonem a sofistikovanějším programováním by měly existovat další užitečné aplikace, a to i ve vědě. Některé již byly: Pomoc při studiu skládání proteinů je jedním z nedávných případů, kdy masivní a rychlé vyhledávací technologie pomohly vědcům vypořádat se s kritickým a vzdorovitým problémem.
Inženýrské projekty mohou být užitečné nebo škodlivé. Obě otázky vyvstávají v případě inženýrské AI. Současná práce s velkými jazykovými modely (LLM), včetně chatbotů, poskytuje nástroje pro dezinformace, pomluvu a klamání neinformovaných. Hrozby jsou zesíleny, když jsou kombinovány s umělými obrazy a replikací hlasu. Desítky tisíc výzkumníků umělé inteligence mají na mysli různé obavy volal pro moratorium na rozvoj kvůli potenciálním nebezpečím, která vnímají.
Jako vždy je třeba zvážit možné přínosy technologie s potenciálními náklady.
Zcela jiné otázky vyvstávají, když se obrátíme na umělou inteligenci a vědu. Zde je nutná opatrnost kvůli přemrštěným a neuváženým tvrzením, často umocněným v médiích. Abychom objasnili problémy, uvažujme případy, některé hypotetické, některé skutečné.
Zmínil jsem se o navigaci hmyzu, což je úžasný úspěch. Hmyzí vědci udělali velký pokrok ve studiu toho, jak toho dosáhnout, ačkoli neurofyziologie, velmi obtížná záležitost, zůstává nepolapitelná spolu s vývojem systémů. Totéž platí o úžasných výkonech ptáků a mořských želv, kteří cestují tisíce kilometrů a neomylně se vracejí na místo původu.
Předpokládejme, že Tom Jones, zastánce inženýrské umělé inteligence, přijde a řekne: „Veškerá vaše práce byla vyvrácena. Problém je vyřešen. Piloti komerčních aerolinií dosahují stále stejných nebo dokonce lepších výsledků.“
Kdybychom se vůbec obtěžovali odpovědět, zasmáli bychom se.
Vezměme si případ námořníků Polynésanů, kteří stále žijí mezi domorodými kmeny a využívají hvězdy, vítr a proudy k přistání svých kánoí na určeném místě stovky mil daleko. I to bylo předmětem mnoha výzkumů, aby se zjistilo, jak to dělají. Tom Jones má odpověď: „Přestaňte plýtvat časem; námořní plavidla to dělají pořád.“
Stejná odpověď.
Pojďme nyní ke skutečnému případu, osvojování jazyka. V posledních letech je to téma rozsáhlého a velmi objasňujícího výzkumu, který ukazuje, že kojenci mají velmi bohaté znalosti okolního jazyka (nebo jazyků), daleko za hranicemi toho, co projevují při výkonu. Je toho dosaženo s malým množstvím důkazů a v některých zásadních případech vůbec. Jak ukázaly pečlivé statistické studie, v nejlepším případě jsou dostupná data skoupá, zvláště když se vezme v úvahu pořadí-frekvence („Zipfův zákon“).
Vstoupí Tom Jones: „Byli jste vyvráceni. Bez ohledu na vaše objevy, LLM, které skenují astronomické množství dat, mohou najít statistické zákonitosti, které umožňují simulovat data, na kterých jsou trénovány, a produkovat něco, co vypadá jako normální lidské chování. Chatboti.”
Tento případ se od ostatních liší. Za prvé, je to skutečné. Za druhé, lidé se nesmějí; ve skutečnosti jsou mnozí ohromeni. Za třetí, na rozdíl od hypotetických případů jsou skutečné výsledky daleko od toho, co se tvrdí.
Tyto úvahy přinášejí menší problém současného nadšení LLM: jeho totální absurditu, stejně jako v hypotetických případech, kdy je rozpoznáváme najednou. Existují však mnohem závažnější problémy než absurdita.
Jedním z nich je, že systémy LLM jsou navrženy tak, že nám nemohou říci nic o jazyce, učení nebo jiných aspektech poznání, což je věc principu, nenapravitelná. Zdvojnásobte terabajty naskenovaných dat, přidejte další bilion parametrů, využijte ještě více kalifornské energie a simulace chování se zlepší, přičemž jasněji odhalí selhání principu přístupu k získání jakéhokoli porozumění. Důvod je elementární: Systémy fungují stejně dobře s nemožnými jazyky, které si kojenci nemohou osvojit, jako s těmi, které si osvojí rychle a prakticky reflexivně.
Je to, jako by biolog řekl: „Mám skvělou novou teorii organismů. Vyjmenovává mnohé, které existují, a mnohé, které ani existovat nemohou, a o tomto rozdílu vám nemohu říci nic.“
Opět bychom se zasmáli. Nebo by měl.
Ne Tom Jones – nyní se odkazuje na skutečné případy. Tom Jones, který setrvává ve svém radikálním odklonu od vědy, odpovídá: "Jak o tom něco víte, dokud neprozkoumáte všechny jazyky?" V tomto bodě je opuštění normální vědy ještě jasnější. Paritou argumentů můžeme vyhodit genetiku a molekulární biologii, evoluční teorii a zbytek biologických věd, které neodebraly více než nepatrný zlomek organismů. A pro dobrou míru můžeme zavrhnout veškerou fyziku. Proč věřit v zákony pohybu? Kolik objektů bylo skutečně pozorováno v pohybu?
Kromě toho je tu malá věc důkazního břemene. Ti, kdo navrhují teorii, mají povinnost ukázat, že má nějaký smysl, v tomto případě ukázat, že selhává u nemožných jazyků. Není odpovědností ostatních vyvracet návrh, i když v tomto případě se to zdá být dostatečně snadné.
Přesuňme pozornost k normální vědě, kde se věci stávají zajímavými. I jediný příklad osvojování jazyka může přinést bohatý pohled na rozdíl mezi možnými a nemožnými jazyky.
Důvody jsou jasné a známé. Veškerý růst a vývoj, včetně toho, čemu se říká „učení“, je proces, který začíná stavem organismu a převádí jej krok za krokem do pozdějších fází.
Takovým procesem je osvojování jazyka. Výchozím stavem je biologická výbava jazykové fakulty, která zjevně existuje, i když je, jak se někteří domnívají, zvláštní kombinací jiných schopností. To je vysoce nepravděpodobné z důvodů dlouho pochopených, ale není to pro naše obavy relevantní, takže to můžeme odložit. Je zřejmé, že lidská schopnost jazyka má biologické nadání. Naprostá pravda.
Přechod pokračuje do relativně stabilního stavu, který se změnil jen povrchně za hranice: znalost jazyka. Externí data spouštějí a částečně formují proces. Studiem dosaženého stavu (znalosti jazyka) a externích dat můžeme vyvodit dalekosáhlé závěry o výchozím stavu, biologické výbavě, která umožňuje osvojení jazyka. Závěry o výchozím stavu ukládají rozlišení mezi možnými a nemožnými jazyky. Rozdíl platí pro všechny, kteří sdílejí počáteční stav – pokud je známo, pro všechny lidi; zdá se, že mezi existujícími lidskými skupinami není žádný rozdíl ve schopnosti osvojit si jazyk.
To vše je normální věda a dosáhla mnoha výsledků.
Experiment ukázal, že stabilního stavu je dosaženo v podstatě velmi brzy, do tří až čtyř let věku. Je také dobře známo, že jazyková schopnost má základní vlastnosti specifické pro lidi, a proto je to skutečná druhová vlastnost: společná lidským skupinám a základním způsobem jedinečný lidský atribut.
V tomto schematickém popisu je mnohé vynecháno, zejména role přirozeného práva v růstu a vývoji: v případě výpočetního systému, jako je jazyk, principy výpočetní účinnosti. Ale to je podstata věci. Opět normální věda.
Je důležité mít jasno v tom, jak Aristotelés rozlišuje mezi držením znalostí a používáním znalostí (v současné terminologii kompetence a výkon). V jazykovém případě je získaný stabilní stav vlastnění znalostí zakódovaných v mozku. Vnitřní systém určuje neomezené pole strukturovaných výrazů, z nichž každý můžeme považovat za formulování myšlenky, každý je externalizovatelný v nějakém senzomotorickém systému, obvykle zní, i když to může být znak nebo dokonce (s obtížemi) dotek.
Interně kódovaný systém je přístupný při využívání znalostí (výkonu). Výkon zahrnuje vnitřní použití jazyka v myšlení: reflexe, plánování, vzpomínání a mnoho dalšího. Statisticky vzato je to zdaleka drtivé používání jazyka. Je nepřístupná introspekci, i když se o ní můžeme hodně naučit běžnými metodami vědy, „zvnějšku“, metaforicky řečeno. To, čemu se říká „vnitřní řeč“, jsou ve skutečnosti fragmenty externalizovaného jazyka s utlumeným artikulačním aparátem. Je to jen vzdálený odraz vnitřního používání jazyka, důležité věci, které zde nemohu sledovat.
Dalšími formami použití jazyka jsou percepce (analýza) a produkce, přičemž posledně jmenované zásadním způsobem zahrnují vlastnosti, které nám dnes zůstávají stejně záhadné, jako když na ně na úsvitu moderní vědy pohlížel Galileo a jeho současníci s úžasem a úžasem.
Hlavním cílem vědy je objevit vnitřní systém, a to jak v jeho počátečním stavu v lidské jazykové fakultě, tak v konkrétních formách, které nabývá při osvojování. V rozsahu, v jakém je tomuto vnitřnímu systému porozuměno, můžeme přistoupit ke zkoumání toho, jak vstupuje do výkonu, v interakci s mnoha dalšími faktory, které vstupují do užívání jazyka.
Údaje o výkonu poskytují důkazy o povaze vnitřního systému, zvláště když jsou zpřesňovány experimentem, jako při standardní práci v terénu. Ale i ten nejmasivnější sběr dat je nutně v zásadních ohledech zavádějící. Drží se toho, co se běžně vytváří, nikoli znalosti jazyka zakódovaného v mozku, primárního zkoumaného předmětu pro ty, kteří chtějí porozumět podstatě jazyka a jeho použití. Tento vnitřní objekt určuje nekonečně mnoho možností takového druhu, které nebudou použity v normálním chování kvůli faktorům nepodstatným pro jazyk, jako jsou omezení krátkodobé paměti, témata studovaná před 60 lety. Pozorovaná data budou také zahrnovat mnohé, co leží mimo systém zakódovaný v mozku, často vědomé používání jazyka způsoby, které porušují pravidla pro rétorické účely. Toto jsou pravdy známé všem terénním pracovníkům, kteří se spoléhají na techniky elicitace s informátory, v podstatě experimenty, aby poskytly rafinovaný korpus, který vylučuje irelevantní omezení a deviantní výrazy. Totéž platí, když se lingvisté používají jako informátoři, což je naprosto rozumný a normální postup, běžný v dějinách psychologie až do současnosti.
Pokračujeme-li dále s normální vědou, zjistíme, že vnitřní procesy a prvky jazyka nelze odhalit kontrolou pozorovaných jevů. Často se tyto prvky ani neobjevují v řeči (nebo psaní), ačkoli jejich účinky, často jemné, lze detekovat. To je další důvod, proč omezení na pozorované jevy, jako v přístupech LLM, ostře omezuje chápání vnitřních procesů, které jsou hlavním předmětem zkoumání povahy jazyka, jeho osvojování a používání. To však není relevantní, pokud zájem o vědu a porozumění byl opuštěn ve prospěch jiných cílů.
Obecněji řečeno, ve vědě se po tisíciletí docházelo k závěrům experimenty – často myšlenkovými experimenty – každý radikální abstrakcí od jevů. Experimenty jsou řízeny teorií a snaží se odhodit nespočet irelevantních faktorů, které vstupují do pozorovaných jevů – jako je lingvistický výkon. To vše je tak elementární, že se o tom jen zřídka diskutuje. A známý. Jak bylo uvedeno, základní rozdíl sahá až k Aristotelovu rozlišení mezi vlastnictvím znalostí a používáním znalostí. První z nich je ústředním předmětem studia. Sekundární (a docela seriózní) studie zkoumají, jak se vnitřně uložený systém znalostí používá při výkonu, spolu s mnoha mimojazykovými faktory, které vstupují do toho, co je přímo pozorováno.
Můžeme si také vzpomenout na pozorování evolučního biologa Theodosia Dobzhanského, známého především svou prací s Drosophila: Každý druh je jedinečný a lidé jsou ze všech nejjedinečnější. Máme-li zájem porozumět tomu, jaký druh stvoření jsme – po příkazu Delfské věštírny před 2,500 XNUMX lety – budeme se primárně zabývat tím, čím jsou lidé ze všech nejjedinečnější, především jazykem a myšlením, úzce propojenými, jak je uznáváno v bohatá tradice sahající až do klasického Řecka a Indie. Většina chování je poměrně rutinní, a proto do určité míry předvídatelná. Skutečný vhled do toho, co nás dělá jedinečnými, je to, co není rutinní, což najdeme někdy experimentem, někdy pozorováním, od normálních dětí až po velké umělce a vědce.
V této souvislosti jedna poznámka na závěr. Společnost je po celé století sužována masivními korporátními kampaněmi na podporu pohrdání vědou, což jsou témata, která dobře studovala mimo jiné Naomi Oreskes. Začalo to korporacemi, jejichž produkty jsou vražedné: olovo, tabák, azbest, později fosilní paliva. Jejich motivy jsou pochopitelné. Cílem podnikání v kapitalistické společnosti je zisk, nikoli lidské blaho. To je institucionální fakt: Nehrajte hru a jste venku, nahrazení někým, kdo bude.
Korporátní PR oddělení brzy uznala, že by bylo chybou popírat rostoucí vědecké důkazy o smrtících účincích jejich produktů. To by se dalo snadno vyvrátit. Lepší je zasít pochybnosti, povzbudit nejistotu a pohrdání těmito špičatými obleky, kteří nikdy nenatírali dům, ale přišli mi z Washingtonu, aby mi řekli, abych nepoužíval olovnaté barvy, čímž zničili můj obchod (skutečný případ, který se snadno znásobí). To fungovalo až příliš dobře. Právě teď nás vede na cestu ke zničení organizovaného lidského života na Zemi.
V intelektuálních kruzích podobné účinky vyvolala postmoderní kritika vědy, rozebrán Jean Bricmont a Alan Sokal, ale v některých kruzích stále velmi živé.
Možná je nelaskavé navrhovat tuto otázku, ale myslím, že je spravedlivé se ptát, zda Tom Joneses a ti, kteří nekriticky opakují a dokonce zesilují své nedbalé proklamace, přispívají ke stejným zlovolným tendencím.
CJP: ChatGPT je chatbot řízený přirozeným jazykem, který využívá umělou inteligenci k umožnění konverzací jako u lidí. V nedávném článku v The New York Times, ve spojení s dalšími dvěma autory vypínáte nové chatboty jako humbuk, protože se prostě nemohou rovnat jazykovým schopnostem lidí. Není však možné, že budoucí inovace v oblasti umělé inteligence mohou vytvořit inženýrské projekty, které se vyrovnají lidským schopnostem a možná je dokonce předčí?
NC: Poděkování za článek by mělo být uděleno skutečnému autorovi, Jeffreymu Watumullovi, vynikajícímu matematikovi-lingvistovi-filozofovi. Dva uvedení spoluautoři byli konzultanti, kteří s článkem souhlasí, ale nenapsali jej.
Je pravda, že chatboti se v zásadě nemohou rovnat jazykovým schopnostem lidí, a to z výše uvedených důvodů. Jejich základní konstrukce jim brání dosáhnout minimální podmínky přiměřenosti pro teorii lidského jazyka: rozlišování možných od nemožných jazyků. Vzhledem k tomu, že jde o vlastnost designu, nelze ji překonat budoucími inovacemi v tomto druhu AI. Je však docela možné, že budoucí inženýrské projekty se vyrovnají a dokonce předčí lidské schopnosti, máme-li na mysli lidskou schopnost jednat, výkon. Jak již bylo zmíněno výše, někteří to již dávno udělali: například automatické kalkulačky. Zajímavější je, jak již bylo zmíněno, hmyz s nepatrným mozkem převyšuje lidské schopnosti chápané jako kompetence.
CJP: Ve výše uvedeném článku bylo také pozorováno, že dnešní projekty AI nemají lidskou morální schopnost. Dělá tato zřejmá skutečnost roboty s umělou inteligencí menší hrozbou pro lidskou rasu? Domnívám se, že argumentem může být, že je to dělá možná ještě víc.
NC: Je to skutečně zřejmý fakt, chápat „morální schopnosti“ široce. Bez pečlivé kontroly může AI inženýrství představovat vážné hrozby. Předpokládejme například, že péče o pacienty byla automatizována. Nevyhnutelné chyby, které by lidský úsudek překonal, by mohly vést k hororovému příběhu. Nebo předpokládejme, že lidé byli vyřazeni z hodnocení hrozeb určených automatizovanými systémy protiraketové obrany. Jako šokující historický záznam informuje nás, to by byl konec lidské civilizace.
Bez pečlivé kontroly může AI inženýrství představovat vážné hrozby.
CJP: Regulační orgány a donucovací orgány v Evropě vyjadřují obavy z šíření ChatGPT, zatímco nedávno předložená legislativa Evropské unie se snaží vypořádat se s umělou inteligencí tím, že takové nástroje klasifikuje podle jejich vnímané úrovně rizika. Souhlasíte s těmi, kteří se obávají, že ChatGPT představuje vážnou veřejnou hrozbu? Navíc, opravdu si myslíte, že další vývoj nástrojů AI lze zastavit, dokud nebudou zavedena ochranná opatření?
NC: Snadno sympatizuji se snahou pokusit se ovládat hrozby, které představuje pokročilá technologie, včetně tohoto případu. Jsem však skeptický ohledně možnosti tak učinit. Mám podezření, že džin je z láhve. Zlovolní aktéři – institucionální nebo jednotlivci – pravděpodobně mohou najít způsoby, jak se vyhnout zárukám. Taková podezření samozřejmě nejsou důvodem, proč to nezkusit a být obezřetní.
ZNetwork je financován výhradně ze štědrosti svých čtenářů.
Darovat