Изкуственият интелект (AI) завладява света. То трансформира всяка сфера на живота и в процеса повдига големи етични проблеми за обществото и бъдещето на човечеството. ChatGPT, който доминира в социалните медии, е базиран на AI чатбот, разработен от OpenAI. Това е подмножество от машинно обучение и разчита на така наречените големи езикови модели, които могат да генерират човешки отговори. Потенциалното приложение на такава технология е наистина огромно, поради което вече има призиви за регулиране на AI като ChatGPT.
Може ли AI да надхитри хората? Представлява ли обществена заплаха? Наистина, може ли AI да се превърне в екзистенциална заплаха? Изтъкнатият световен лингвист Ноам Чомски, и един от най-уважаваните публични интелектуалци на всички времена, чийто интелектуален ръст е сравняван с този на Галилей, Нютон и Декарт, се занимава с тези мъчителни въпроси в интервюто, което следва.
Си Джей Полихрониу: Като научна дисциплина изкуственият интелект (AI) датира от 1950-те години на миналия век, но през последните няколко десетилетия навлиза във всякакви области, включително банкиране, застраховане, производство на автомобили, музика и отбрана. Всъщност е доказано, че използването на AI техники в някои случаи надминава човешките способности, като например в игра на шах. Има ли вероятност машините да станат по-умни от хората?
Ноам Чомски: Само за изясняване на терминологията, терминът „машина“ тук означава програма, основно теория, написана в нотация, която може да бъде изпълнена от компютър – и необичаен вид теория по интересни начини, които можем да оставим настрана тук.
Можем да направим груба разлика между чисто инженерство и наука. Няма рязка граница, но това е полезно първо приближение. Чистото инженерство се стреми да произведе продукт, който може да бъде от някаква полза. Науката търси разбиране. Ако темата е човешкият интелект или когнитивните способности на други организми, науката търси разбиране на тези биологични системи.
Доколкото ги разбирам, основателите на ИИ – Алън Тюринг, Хърбърт Саймън, Марвин Мински и други – са го разглеждали като наука, част от възникващите тогава когнитивни науки, използвайки нови технологии и открития в математическата теория на изчисленията, за да предварително разбиране. С годините тези опасения избледняха и до голяма степен бяха изместени от инженерна ориентация. Предишните опасения сега обикновено се отхвърлят, понякога снизходително, като GOFAI – добрият старомоден ИИ.
Продължавайки с въпроса, има ли вероятност да бъдат създадени програми, които надминават човешките способности? Трябва да внимаваме с думата „възможности“, поради причини, на които ще се върна. Но ако приемем, че терминът се отнася за човешкото представяне, тогава отговорът е: определено да. Всъщност те отдавна съществуват: калкулаторът в лаптопа, например. Може далеч да надхвърли това, което хората могат да направят, дори само поради липса на време и памет. За затворени системи като шаха, през 50-те години на миналия век беше добре разбрано, че рано или късно, с напредъка на огромните изчислителни капацитети и дълъг период на подготовка, може да се измисли програма, която да победи гросмайстор, който играе с ограничена памет и време. Постижението години по-късно беше до голяма степен PR за IBM. Много биологични организми надминават човешките когнитивни способности по много по-дълбоки начини. Пустинните мравки в задния ми двор имат миниатюрни мозъци, но далеч надвишават човешкия навигационен капацитет, по принцип, не само като производителност. Няма Велика верига на битието с хора на върха.
Продуктите на ИИ инженерството се използват в много области, за добро или за лошо. Дори простите и познати могат да бъдат доста полезни: в езиковата област, програми като автоматично попълване, транскрипция на живо, google translate и др. С много по-голяма изчислителна мощност и по-усъвършенствано програмиране трябва да има и други полезни приложения, включително и в науката. Вече има някои: Подпомагането на изследването на сгъването на протеини е един скорошен случай, при който масивна и бърза технология за търсене е помогнала на учените да се справят с критичен и непокорен проблем.
Инженерните проекти могат да бъдат полезни или вредни. И двата въпроса възникват в случая на инженерния ИИ. Текущата работа с големи езикови модели (LLM), включително чатботове, предоставя инструменти за дезинформация, клевета и подвеждане на неинформираните. Заплахите се засилват, когато се комбинират с изкуствени изображения и репликация на глас. Имайки предвид различни опасения, десетки хиляди изследователи на AI наскоро направиха това нарича за мораториум върху развитието поради потенциални опасности, които усещат.
Както винаги, възможните ползи от технологията трябва да се претеглят спрямо потенциалните разходи.
Съвсем различни въпроси възникват, когато се обърнем към AI и науката. Тук е необходима предпазливост поради прекомерни и безразсъдни твърдения, често разгръщани в медиите. За да изясним проблемите, нека разгледаме случаи, някои хипотетични, някои реални.
Споменах навигация с насекоми, което е удивително постижение. Учените по насекоми са постигнали голям напредък в изучаването на това как се постига това, въпреки че неврофизиологията, много труден въпрос, остава неуловим, заедно с еволюцията на системите. Същото важи и за удивителните подвизи на птици и морски костенурки, които изминават хиляди мили и безпогрешно се връщат на мястото на произход.
Да предположим, че Том Джоунс, привърженик на инженерния AI, идва и казва: „Цялата ви работа е опровергана. Проблемът е решен. Пилотите на търговски авиолинии постигат едни и същи или дори по-добри резултати през цялото време.“
Ако дори си направим труда да отговорим, ще се смеем.
Вземете случая с морските подвизи на полинезийците, все още живи сред местните племена, използващи звезди, вятър, течения, за да приземят своите канута на определено място на стотици мили. Това също беше тема на много изследвания, за да разберете как го правят. Том Джоунс има отговора: „Спрете да си губите времето; военноморските кораби го правят през цялото време.
Същият отговор.
Нека сега се обърнем към един реален случай, усвояването на език. Това беше тема на обширни и силно просветляващи изследвания през последните години, показващи, че бебетата имат много богати познания за езика (или езиците) на околната среда, далеч отвъд това, което показват в представянето. Постига се с малко доказателства, а в някои важни случаи никакви. В най-добрия случай, както показаха внимателни статистически проучвания, наличните данни са оскъдни, особено когато се вземе предвид честотата на ранг („законът на Zipf“).
Влиза Том Джоунс: „Бяхте опровергани. Без да обръщат внимание на вашите открития, LLMs, които сканират астрономически количества данни, могат да намерят статистически закономерности, които правят възможно симулирането на данните, върху които са обучени, произвеждайки нещо, което изглежда почти като нормално човешко поведение. Чатботове.”
Този случай се различава от останалите. Първо, това е истинско. Второ, хората не се смеят; всъщност мнозина изпитват страхопочитание. Трето, за разлика от хипотетичните случаи, действителните резултати са далеч от това, което се твърди.
Тези съображения повдигат малък проблем с настоящия ентусиазъм на LLM: неговата пълна абсурдност, както в хипотетичните случаи, в които го разпознаваме веднага. Но има много по-сериозни проблеми от абсурда.
Едната е, че LLM системите са проектирани по такъв начин, че не могат да ни кажат нищо за езика, ученето или други аспекти на познанието, въпрос на принцип, непоправим. Удвоете терабайтите сканирани данни, добавете още трилион параметри, използвайте още повече от енергията на Калифорния и симулацията на поведението ще се подобри, като същевременно разкрива по-ясно принципния провал на подхода за постигане на разбиране. Причината е елементарна: системите работят еднакво добре с невъзможни езици, които бебетата не могат да усвоят, както и с тези, които усвояват бързо и практически рефлексивно.
Това е все едно биолог да каже: „Имам страхотна нова теория за организмите. Той изброява много, които съществуват, и много, които не могат да съществуват, и аз не мога да ви кажа нищо за разграничението.
Отново щяхме да се смеем. Или трябва.
Не Том Джоунс – сега имам предвид действителни случаи. Продължавайки да се отклонява радикално от науката, Том Джоунс отговаря: „Откъде знаете нещо от това, докато не сте изследвали всички езици?“ В този момент изоставянето на нормалната наука става още по-ясно. С паритет на аргументите можем да изхвърлим генетиката и молекулярната биология, теорията на еволюцията и останалите биологични науки, които не са взели проби от повече от малка част от организмите. И за добра мярка можем да изхвърлим цялата физика. Защо да вярваме в законите на движението? Колко обекта всъщност са наблюдавани в движение?
Освен това има малка част от тежестта на доказване. Тези, които предлагат теория, имат отговорността да покажат, че тя има някакъв смисъл, в този случай, да покажат, че тя е неуспешна за невъзможни езици. Не е отговорност на другите да опровергаят предложението, въпреки че в този случай изглежда достатъчно лесно да го направите.
Нека насочим вниманието към нормалната наука, където нещата стават интересни. Дори един пример за усвояване на език може да даде богата представа за разграничението между възможни и невъзможни езици.
Причините са прости и познати. Всеки растеж и развитие, включително това, което се нарича „учене“, е процес, който започва със състояние на организма и го трансформира стъпка по стъпка към по-късни етапи.
Усвояването на език е такъв процес. Първоначалното състояние е биологичната даденост на езиковата способност, която очевидно съществува, дори ако е, както някои вярват, специална комбинация от други способности. Това е много малко вероятно поради отдавна разбрани причини, но не е от значение за нашите притеснения тук, така че можем да го оставим настрана. Очевидно има биологична заложба за човешката езикова способност. Най-простият трюизъм.
Преходът преминава към относително стабилно състояние, променено само повърхностно отвъд: владеене на езика. Външни данни задействат и частично оформят процеса. Изследвайки постигнатото състояние (знание на езика) и външните данни, можем да направим далечни заключения за първоначалното състояние, биологичната даденост, която прави възможно усвояването на езика. Изводите за първоначалното състояние налагат разграничение между възможни и невъзможни езици. Разграничението се отнася за всички онези, които споделят първоначалното състояние – всички хора, доколкото е известно; изглежда няма разлика в способността за усвояване на език сред съществуващите човешки групи.
Всичко това е нормална наука и тя е постигнала много резултати.
Експериментът показва, че стабилното състояние се постига много рано, на възраст от три до четири години. Също така е добре установено, че езиковата способност има основни свойства, специфични за хората, следователно е истинско свойство на вида: общо за човешките групи и по фундаментален начин уникален човешки атрибут.
Много е пропуснато в този схематичен разказ, особено ролята на естествения закон в растежа и развитието: в случай на изчислителна система като езика, принципите на изчислителната ефективност. Но това е същината на въпроса. Отново нормална наука.
Важно е да е ясно разграничението на Аристотел между притежаване на знания и използване на знания (в съвременната терминология, компетентност и изпълнение). В езиковия случай полученото стабилно състояние е притежаването на знания, кодирани в мозъка. Вътрешната система определя неограничен набор от структурирани изрази, всеки от които можем да разглеждаме като формулиране на мисъл, всяка от които може да бъде екстернализирана в някаква сензомоторна система, обикновено звук, въпреки че може да бъде знак или дори (с трудности) допир.
Вътрешно кодираната система е достъпна при използване на знания (производителност). Изпълнението включва вътрешното използване на езика в мисълта: размисъл, планиране, припомняне и много повече. Статистически погледнато, това е преобладаващата употреба на езика. Той е недостъпен за интроспекция, въпреки че можем да научим много за него чрез нормалните методи на науката, от „вън“, метафорично казано. Това, което се нарича „вътрешна реч“, всъщност е фрагменти от външен език със заглушен артикулационен апарат. Това е само отдалечено отражение на вътрешната употреба на езика, важни въпроси, които не мога да разглеждам тук.
Други форми на използване на езика са възприемането (синтактичният анализ) и производството, като последното изключително включва свойства, които остават толкова мистериозни за нас днес, както когато са били разглеждани със страхопочитание и учудване от Галилей и неговите съвременници в зората на съвременната наука.
Основната цел на науката е да открие вътрешната система, както в нейното първоначално състояние в човешката езикова способност, така и в конкретните форми, които тя приема при усвояването. Доколкото тази вътрешна система е разбрана, можем да продължим да изследваме как тя влиза в изпълнението, взаимодействайки с много други фактори, които влизат в употребата на езика.
Данните за ефективността предоставят доказателства за природата на вътрешната система, особено когато са усъвършенствани чрез експеримент, както при стандартната работа на терен. Но дори и най-масовото събиране на данни непременно е подвеждащо по решаващи начини. Той се придържа към това, което обикновено се произвежда, а не към знанието за езика, кодиран в мозъка, основният обект на изследване за тези, които искат да разберат природата на езика и неговата употреба. Този вътрешен обект определя безкрайно много възможности от вид, който няма да се използва при нормално поведение поради фактори, които не са от значение за езика, като ограничения на краткосрочната памет, теми, изучавани преди 60 години. Наблюдаваните данни също ще включват много неща, които се намират извън системата, кодирана в мозъка, често съзнателно използване на езика по начини, които нарушават правилата за реторични цели. Това са истини, известни на всички теренни работници, които разчитат на техники за извличане с информатори, основно експерименти, за да създадат пречистен корпус, който изключва неуместни ограничения и девиантни изрази. Същото важи и когато лингвистите използват себе си като информатори, напълно разумна и нормална процедура, често срещана в историята на психологията до наши дни.
Продължавайки по-нататък с нормалната наука, откриваме, че вътрешните процеси и елементи на езика не могат да бъдат открити чрез проверка на наблюдаваните явления. Често тези елементи дори не се появяват в реч (или писане), въпреки че техните ефекти, често едва доловими, могат да бъдат открити. Това е още една причина, поради която ограничаването до наблюдавани явления, както в подходите на LLM, рязко ограничава разбирането на вътрешните процеси, които са основните обекти на изследване на природата на езика, неговото усвояване и използване. Но това не е от значение, ако загрижеността за науката и разбирането са изоставени в полза на други цели.
В по-общ план в науките, в продължение на хилядолетия, заключенията са били достигани чрез експерименти – често мисловни експерименти – всеки от които е радикална абстракция от явления. Експериментите се ръководят от теория, стремейки се да отхвърлят безбройните неуместни фактори, които влизат в наблюдаваните явления като езиково представяне. Всичко това е толкова елементарно, че рядко дори се обсъжда. И познато. Както беше отбелязано, основното разграничение се връща към разграничението на Аристотел между притежаване на знания и използване на знания. Първият е централен обект на изследване. Вторичните (и доста сериозни) проучвания изследват как вътрешно съхранената система от знания се използва в изпълнението, заедно с многото нелингвистични фактори, които влизат в това, което се наблюдава пряко.
Можем също така да си припомним едно наблюдение на еволюционния биолог Теодосий Добжански, известен предимно с работата си с Drosophila: Всеки вид е уникален и хората са най-уникалните от всички. Ако се интересуваме да разберем какъв вид същества сме – следвайки заповедта на Делфийския оракул преди 2,500 години – ще се интересуваме основно от това, което прави хората най-уникалните от всички, предимно език и мисъл, тясно преплетени, както се признава в богата традиция, датираща от класическа Гърция и Индия. По-голямата част от поведението е доста рутинно, следователно до известна степен предвидимо. Това, което дава истинска представа за това, което ни прави уникални, е това, което не е рутина, което откриваме, понякога чрез експеримент, понякога чрез наблюдение, от нормални деца до велики художници и учени.
Един последен коментар в тази връзка. Обществото е измъчвано в продължение на един век от масивни корпоративни кампании за насърчаване на презрение към науката, теми, добре проучени от Наоми Орескес, наред с други. Започна с корпорации, чиито продукти са убийствени: олово, тютюн, азбест, по-късно изкопаеми горива. Мотивите им са разбираеми. Целта на бизнеса в капиталистическото общество е печалбата, а не благосъстоянието на хората. Това е институционален факт: не играйте играта и сте навън, заменени от някой, който ще го направи.
Корпоративните PR отдели разбраха рано, че би било грешка да отрекат нарастващите научни доказателства за смъртоносните ефекти на техните продукти. Това лесно би било опровергано. По-добре да посея съмнение, да насърча несигурността, презрение към тези костюми с остри глави, които никога не са боядисали къща, но идват от Вашингтон, за да ми кажат да не използвам оловна боя, унищожавайки бизнеса ми (истински случай, който лесно се умножава). Това работи твърде добре. В момента това ни води по пътя към унищожаването на организирания човешки живот на земята.
В интелектуалните кръгове подобни ефекти са произведени от постмодерната критика на науката, демонтирани от Jean Bricmont и Alan Sokal, но все още много жив в някои кръгове.
Може да е неучтиво да се задава въпросът, но мисля, че е честно да се запитаме дали Том Джоунс и онези, които безкритично повтарят и дори разширяват техните небрежни прокламации, допринасят за същите пагубни тенденции.
CJP: ChatGPT е управляван от естествен език чатбот, който използва изкуствен интелект, за да позволи човешки разговори. В скорошна статия в The New York Times, заедно с други двама автори, вие затворихте новите чатботове като реклама, защото те просто не могат да отговарят на езиковата компетентност на хората. Не е ли обаче възможно бъдещите иновации в AI да могат да произведат инженерни проекти, които да съответстват и може би дори да надминат човешките способности?
NC: Заслугата за статията трябва да се даде на действителния автор, Джефри Уотумул, добър математик-лингвист-философ. Изброените двама съавтори са били консултанти, които са съгласни със статията, но не са я написали.
Вярно е, че чатботовете по принцип не могат да достигнат езиковата компетентност на хората поради причините, повторени по-горе. Техният основен дизайн им пречи да достигнат минималното условие за адекватност за теория на човешкия език: разграничаване на възможни от невъзможни езици. Тъй като това е свойство на дизайна, то не може да бъде преодоляно от бъдещи иновации в този вид AI. Въпреки това е напълно възможно бъдещите инженерни проекти да отговарят и дори да надминават човешките способности, ако имаме предвид човешкия капацитет за действие, изпълнение. Както бе споменато по-горе, някои отдавна го правят: автоматичните калкулатори например. По-интересното е, че както споменахме, насекомите с миниатюрен мозък надминават човешкия капацитет, разбиран като компетентност.
CJP: В гореспоменатата статия беше отбелязано също, че днешните AI проекти не притежават човешка морална способност. Дали този очевиден факт прави AI роботите по-малко заплаха за човешката раса? Смятам, че аргументът може да бъде, че това ги прави може би още повече.
NC: Това наистина е очевиден факт, разбирайки „моралните способности“ широко. Освен ако не се контролира внимателно, ИИ инженерството може да представлява сериозни заплахи. Да предположим, например, че грижите за пациентите са автоматизирани. Неизбежните грешки, които биха били преодолени чрез човешка преценка, биха могли да създадат ужасяваща история. Или да предположим, че хората са били премахнати от оценката на заплахите, определени от автоматизираните системи за противоракетна отбрана. Като шокиращ исторически запис информира нас, това би бил краят на човешката цивилизация.
Освен ако не се контролира внимателно, ИИ инженерството може да представлява сериозни заплахи.
CJP: Регулаторите и правоприлагащите органи в Европа изразяват загриженост относно разпространението на ChatGPT, докато наскоро представен законодателен акт на Европейския съюз се опитва да се справи с ИИ, като класифицира подобни инструменти според тяхното възприемано ниво на риск. Съгласни ли сте с тези, които са загрижени, че ChatGPT представлява сериозна обществена заплаха? Освен това, наистина ли мислите, че по-нататъшното развитие на AI инструменти може да бъде спряно, докато не бъдат въведени предпазни мерки?
NC: Мога лесно да симпатизирам на усилията да се опитаме да контролираме заплахите, породени от напреднала технология, включително този случай. Аз обаче съм скептичен относно възможността да го направя. Подозирам, че джинът е излязъл от бутилката. Злонамерените участници – институционални или индивидуални – вероятно могат да намерят начини да избегнат предпазните мерки. Подобни подозрения, разбира се, не са причина да не опитате и да проявите бдителност.
ZNetwork се финансира единствено чрез щедростта на своите читатели.
ДАРЕТЕ