Искусственный интеллект (ИИ) шагает по миру. Оно меняет все сферы жизни и поднимает при этом серьезные этические проблемы для общества и будущего человечества. ChatGPT, доминирующий в социальных сетях, представляет собой чат-бот на базе искусственного интеллекта, разработанный OpenAI. Это подмножество машинного обучения, основанное на так называемых больших языковых моделях, которые могут генерировать ответы, подобные человеческим. Потенциальное применение такой технологии действительно огромно, поэтому уже звучат призывы регулировать искусственный интеллект, такой как ChatGPT.
Сможет ли ИИ перехитрить людей? Представляет ли это общественную угрозу? Действительно, может ли ИИ стать экзистенциальной угрозой? Выдающийся лингвист мира Ноам Хомскийи один из самых уважаемых публичных интеллектуалов всех времен, чей интеллектуальный уровень сравнивают с Галилеем, Ньютоном и Декартом, отвечает на эти мучительные вопросы в следующем интервью.
Си Джей Полихрониу: Как научная дисциплина, искусственный интеллект (ИИ) возник в 1950-х годах, но за последние пару десятилетий он проник во все сферы, включая банковское дело, страхование, автомобилестроение, музыку и оборону. Фактически, в некоторых случаях было показано, что использование методов искусственного интеллекта превосходит человеческие возможности, например, в игре в шахматы. Станут ли машины умнее людей?
Ноам Хомский: Для пояснения терминологии, термин «машина» здесь означает программа, по сути, теория, записанная в нотации, которая может быть выполнена на компьютере, и необычный вид теории интересными способами, которые мы можем здесь отложить.
Мы можем провести грубое различие между чистой инженерией и наукой. Резкой границы нет, но это полезное первое приближение. Чистая инженерия стремится производить продукт, который может принести какую-то пользу. Наука ищет понимания. Если речь идет о человеческом интеллекте или когнитивных способностях других организмов, наука стремится понять эти биологические системы.
Насколько я понимаю, основатели ИИ – Алан Тьюринг, Герберт Саймон, Марвин Мински и другие – считали его наукой, частью зарождавшейся тогда когнитивной науки, использующей новые технологии и открытия в математической теории вычислений для предварительное понимание. С годами эти опасения угасли и в значительной степени были вытеснены инженерной ориентацией. Прежние опасения теперь обычно игнорируются, иногда снисходительно, как GOFAI – старый добрый ИИ.
Продолжая вопрос, вероятно ли, что будут разработаны программы, превосходящие человеческие возможности? Мы должны быть осторожны со словом «возможности» по причинам, к которым я еще вернусь. Но если мы воспользуемся этим термином для обозначения человеческих способностей, то ответ будет: определенно да. На самом деле они уже давно существуют: калькулятор в ноутбуке, например. Это может намного превзойти то, что могут сделать люди, хотя бы из-за нехватки времени и памяти. Что касается закрытых систем, таких как шахматы, то в 50-х годах было хорошо понятно, что рано или поздно, с появлением огромных вычислительных мощностей и длительным периодом подготовки, может быть разработана программа, позволяющая победить гроссмейстера, играющего с ограниченной памятью. и время. Достижение спустя годы стало для IBM своего рода пиаром. Многие биологические организмы превосходят человеческие когнитивные способности гораздо глубже. У пустынных муравьев на моем заднем дворе крошечный мозг, но он в принципе намного превосходит человеческие навигационные способности, а не только производительность. Не существует Великой Цепи Бытия, на вершине которой находились бы люди.
Продукты искусственного интеллекта используются во многих областях, к лучшему или к худшему. Даже простые и знакомые могут быть весьма полезны: в языковой области такие программы, как автозаполнение, живая транскрипция, Google Translate и другие. Благодаря гораздо большей вычислительной мощности и более сложному программированию должны появиться и другие полезные приложения, в том числе и в науке. Некоторые из них уже были: помощь в изучении сворачивания белков — это один из недавних случаев, когда технология массового и быстрого поиска помогла ученым справиться с критической и упорной проблемой.
Инженерные проекты могут быть как полезными, так и вредными. Оба вопроса возникают в случае инженерного ИИ. Текущая работа с моделями большого языка (LLM), включая чат-боты, предоставляет инструменты для дезинформации, клеветы и введения в заблуждение неосведомленных людей. Угрозы усиливаются, когда они сочетаются с искусственными изображениями и репликацией голоса. Имея в виду различные проблемы, десятки тысяч исследователей ИИ недавно под названием за мораторий на развитие из-за потенциальных опасностей, которые они видят.
Как всегда, возможные выгоды от технологий необходимо сопоставлять с потенциальными затратами.
Совсем другие вопросы возникают, когда мы обращаемся к ИИ и науке. Здесь необходима осторожность из-за непомерных и безрассудных заявлений, часто раздуваемых в средствах массовой информации. Для прояснения вопросов рассмотрим случаи, как гипотетические, так и реальные.
Я упомянул навигацию насекомых, что является удивительным достижением. Ученые-насекомые добились большого прогресса в изучении того, как это достигается, хотя нейрофизиология, очень трудная тема, остается неуловимой, как и эволюция систем. То же самое можно сказать и об удивительных подвигах птиц и морских черепах, которые преодолевают тысячи миль и безошибочно возвращаются к месту происхождения.
Предположим, Том Джонс, сторонник инженерного ИИ, приходит и говорит: «Все ваши работы опровергнуты. Проблема решена. Пилоты коммерческих авиакомпаний постоянно добиваются одинаковых или даже лучших результатов».
Если бы мы даже удосужились ответить, мы бы посмеялись.
Возьмем, к примеру, морские подвиги полинезийцев, все еще живущих среди коренных племен, которые использовали звезды, ветер и течения, чтобы высадить свои каноэ в назначенном месте за сотни миль от них. Это тоже было темой многих исследований, чтобы выяснить, как они это делают. У Тома Джонса есть ответ: «Хватит тратить свое время; Военно-морские суда делают это постоянно».
Тот же ответ.
Давайте теперь обратимся к реальному случаю — овладению языком. В последние годы это стало темой обширных и весьма интересных исследований, показавших, что младенцы обладают очень богатыми знаниями об окружающем языке (или языках), намного превосходящими те, которые они демонстрируют в исполнении. Это достигается с небольшим количеством доказательств, а в некоторых важных случаях вообще без них. В лучшем случае, как показали тщательные статистические исследования, имеющиеся данные скудны, особенно если принять во внимание ранговую частоту («закон Ципфа»).
Входит Том Джонс: «Вас опровергли. Не обращая внимания на ваши открытия, LLM, сканирующие астрономические объемы данных, могут найти статистические закономерности, которые позволяют моделировать данные, на которых они обучаются, создавая нечто, очень похожее на нормальное человеческое поведение. Чат-боты».
Этот случай отличается от других. Во-первых, это реально. Во-вторых, люди не смеются; на самом деле, многие испытывают благоговение. В-третьих, в отличие от гипотетических случаев, реальные результаты далеки от заявленных.
Эти соображения поднимают небольшую проблему с нынешним энтузиазмом в отношении LLM: его полную абсурдность, как в гипотетических случаях, когда мы сразу признаем это. Но есть гораздо более серьезные проблемы, чем абсурд.
Во-первых, системы LLM спроектированы таким образом, что они не могут ничего сказать нам о языке, обучении или других аспектах познания, что является принципиальным вопросом, непоправимым. Удвойте терабайты сканируемых данных, добавьте еще триллион параметров, используйте еще больше энергии Калифорнии, и симуляция поведения улучшится, одновременно более четко выявив принципиальную неспособность подхода дать какое-либо понимание. Причина проста: системы одинаково хорошо работают как с невозможными языками, которые младенцы не могут освоить, так и с теми, которые они усваивают быстро и практически рефлекторно.
Это как если бы биолог сказал: «У меня есть замечательная новая теория организмов. В нем перечислены многие из существующих и многие из тех, которые не могут существовать, и я ничего не могу вам сказать об этом различии».
И снова мы посмеялись. Или должен.
Не Том Джонс – теперь речь идет о реальных случаях. Настаивая на своем радикальном отходе от науки, Том Джонс отвечает: «Откуда вы все это знаете, пока не исследуете все языки?» На этом этапе отказ от нормальной науки становится еще более очевидным. По принципу равенства аргументов мы можем отбросить генетику и молекулярную биологию, теорию эволюции и остальные биологические науки, которые не взяли проб более чем крошечной доли организмов. И для наглядности мы можем отбросить всю физику. Зачем верить в законы движения? Сколько объектов на самом деле наблюдалось в движении?
Кроме того, существует небольшой вопрос бремени доказывания. На тех, кто предлагает теорию, лежит ответственность показать, что она имеет некоторый смысл, в данном случае — показать, что она неверна для невозможных языков. Другие не обязаны опровергать это предложение, хотя в данном случае это кажется достаточно простым.
Давайте переключим внимание на нормальную науку, где все становится интереснее. Даже один пример овладения языком может дать глубокое представление о различии между возможными и невозможными языками.
Причины просты и известны. Любой рост и развитие, включая то, что называется «обучением», представляет собой процесс, который начинается с определенного состояния организма и постепенно трансформирует его на более поздние стадии.
Приобретение языка является именно таким процессом. Исходное состояние — это биологический дар языковой способности, который, очевидно, существует, даже если он, как полагают некоторые, представляет собой особую комбинацию других способностей. Это крайне маловероятно по давно понятным причинам, но это не имеет отношения к нашим проблемам, поэтому мы можем отложить это в сторону. Совершенно очевидно, что у человека есть биологический дар речи. Самая банальная истина.
Переход продолжается к относительно стабильному состоянию, измененному лишь поверхностно: знание языка. Внешние данные запускают и частично формируют процесс. Изучая достигнутое состояние (знание языка) и внешние данные, мы можем сделать далеко идущие выводы об исходном состоянии, о биологическом задатке, делающем возможным овладение языком. Выводы об исходном состоянии наводят на различие между возможными и невозможными языками. Это различие справедливо для всех тех, кто разделяет исходное состояние – всех людей, насколько известно; Кажется, нет никакой разницы в способности овладевать языком среди существующих человеческих групп.
Все это нормальная наука, и она добилась многих результатов.
Эксперимент показал, что устойчивое состояние в основном достигается очень рано, к трем-четырем годам. Также хорошо известно, что языковая способность обладает базовыми свойствами, специфичными для человека, а следовательно, является истинным видовым свойством: общим для человеческих групп и в фундаментальном смысле уникальным человеческим атрибутом.
В этом схематическом описании многое упущено, особенно роль естественного закона в росте и развитии: в случае такой вычислительной системы, как язык, принципы вычислительной эффективности. Но в этом суть дела. Опять нормальная наука.
Важно четко понимать различие Аристотеля между обладанием знаниями и использованием знаний (в современной терминологии – компетентностью и эффективностью). В случае с языком полученное устойчивое состояние — это обладание знаниями, закодированными в мозгу. Внутренняя система определяет неограниченный набор структурированных выражений, каждое из которых мы можем рассматривать как формулирование мысли, каждое из которых может быть экстернализировано в некоторой сенсомоторной системе, обычно звуковой, хотя это может быть знак или даже (с трудом) осязание.
Доступ к системе с внутренним кодированием осуществляется при использовании знаний (производительности). Производительность включает в себя внутреннее использование языка в мышлении: размышление, планирование, припоминание и многое другое. По статистике, это, безусловно, подавляющее использование языка. Оно недоступно самоанализу, хотя мы можем многое узнать о нем обычными научными методами, «извне», образно говоря. То, что называют «внутренней речью», на самом деле представляет собой фрагменты экстернализованного языка с приглушенным артикуляционным аппаратом. Это лишь отдаленное отражение внутреннего использования языка, важных вопросов, которые я не могу здесь обсуждать.
Другими формами использования языка являются восприятие (синтаксический анализ) и производство, последнее в решающей степени затрагивает свойства, которые остаются для нас сегодня столь же загадочными, как и тогда, когда Галилей и его современники с трепетом и изумлением относились к ним на заре современной науки.
Основная цель науки — открыть внутреннюю систему как в ее исходном состоянии в человеческой языковой способности, так и в тех конкретных формах, которые она принимает при приобретении. В той степени, в которой мы понимаем эту внутреннюю систему, мы можем приступить к исследованию того, как она влияет на производительность, взаимодействуя со многими другими факторами, влияющими на использование языка.
Данные о производительности предоставляют свидетельства о природе внутренней системы, особенно когда они уточняются экспериментально, как при стандартных полевых работах. Но даже самый массовый сбор данных обязательно вводит в заблуждение во многих отношениях. Он придерживается того, что обычно производится, а не знания языка, закодированного в мозгу, основного объекта исследования для тех, кто хочет понять природу языка и его использование. Этот внутренний объект определяет бесконечное множество возможностей, которые не будут использоваться в нормальном поведении из-за факторов, не имеющих отношения к языку, таких как ограничения кратковременной памяти — темы, изученные 60 лет назад. Наблюдаемые данные также будут включать в себя многое из того, что находится за пределами системы, закодированной в мозгу, часто сознательное использование языка способами, нарушающими правила в риторических целях. Это истина, известная всем полевым работникам, которые полагаются на методы выявления информации с помощью информаторов, по сути, на эксперименты, чтобы получить уточненный корпус, исключающий неуместные ограничения и девиантные выражения. То же самое верно, когда лингвисты используют себя в качестве информаторов — совершенно разумная и нормальная процедура, обычная в истории психологии до настоящего времени.
Продолжая нормальную науку, мы обнаруживаем, что внутренние процессы и элементы языка невозможно обнаружить путем рассмотрения наблюдаемых явлений. Часто эти элементы даже не проявляются в речи (или письме), хотя их влияние, часто едва заметное, можно обнаружить. Это еще одна причина, почему ограничение наблюдаемых явлений, как в подходах LLM, резко ограничивает понимание внутренних процессов, которые являются основными объектами исследования природы языка, его приобретения и использования. Но это не имеет значения, если забота о науке и понимании была оставлена в пользу других целей.
В более общем плане в науке на протяжении тысячелетий выводы делались посредством экспериментов – часто мысленных экспериментов – каждый из которых представлял собой радикальную абстракцию от явлений. Эксперименты основаны на теории и направлены на отбрасывание бесчисленных нерелевантных факторов, которые влияют на наблюдаемые явления, например, на лингвистические способности. Все это настолько элементарно, что даже редко обсуждается. И знакомо. Как уже отмечалось, основное различие восходит к различию Аристотеля между обладанием знаниями и их использованием. Первое является центральным объектом исследования. Вторичные (и весьма серьезные) исследования исследуют, как внутренняя система знаний используется в исполнении, а также множество нелингвистических факторов, влияющих на то, что непосредственно наблюдается.
Можно также вспомнить наблюдение биолога-эволюциониста Феодосия Добжанского, известного прежде всего своими работами с дрозофилами: «Каждый вид уникален, и человек уникален из всех». Если мы заинтересованы в понимании того, какими существами мы являемся – следуя наставлению Дельфийского Оракула 2,500 лет назад – нас будет в первую очередь интересовать то, что делает людей уникальными из всех, прежде всего язык и мышление, тесно переплетенные между собой, как это признается в богатые традиции, восходящие к классической Греции и Индии. Большая часть поведения довольно рутинна и, следовательно, в некоторой степени предсказуема. Реальное понимание того, что делает нас уникальными, дает то, что не является рутинным, что мы обнаруживаем, иногда путем экспериментов, иногда путем наблюдения, от обычных детей до великих художников и ученых.
И последнее замечание в этой связи. Общество вот уже столетие страдает от массовых корпоративных кампаний, поощряющих презрение к науке, темам, хорошо изученным, в частности, Наоми Орескес. Все началось с корпораций, чья продукция убийственна: свинец, табак, асбест, а позже ископаемое топливо. Их мотивы понятны. Целью бизнеса в капиталистическом обществе является прибыль, а не благосостояние людей. Это институциональный факт: не играй в игру, и ты вылетишь, и тебя заменит тот, кто будет играть.
Корпоративные отделы по связям с общественностью сразу же осознали, что было бы ошибкой отрицать растущие научные данные о летальном воздействии их продукции. Это было бы легко опровергнуть. Лучше сеять сомнения, поощрять неуверенность, презрение к этим остроголовым мужчинам, которые никогда не красили дом, но приехали из Вашингтона, чтобы сказать мне не использовать свинцовую краску, разрушая мой бизнес (реальный случай, легко умножаемый). Это сработало слишком хорошо. Именно сейчас оно ведет нас по пути разрушения организованной человеческой жизни на Земле.
В интеллектуальных кругах аналогичный эффект произвела постмодернистская критика науки. демонтированный Жаном Брикмоном и Аланом Сокалем, но все еще жив в некоторых кругах.
Возможно, было бы нехорошо задавать этот вопрос, но, я думаю, справедливо спросить, способствуют ли Томы Джонсы и те, кто некритически повторяют и даже усиливают их небрежные заявления, тем же пагубным тенденциям.
CJP: ChatGPT — это чат-бот, работающий на естественном языке, который использует искусственный интеллект для обеспечения человеческого общения. В недавней статье в The New York TimesВместе с двумя другими авторами вы закрываете новых чат-ботов из-за шумихи, потому что они просто не могут сравниться с лингвистической компетентностью людей. Однако не возможно ли, что будущие инновации в области искусственного интеллекта смогут привести к созданию инженерных проектов, которые будут соответствовать человеческим возможностям, а возможно, даже превзойдут их?
NC: Благодарность за статью следует отдать ее фактическому автору, Джеффри Уотумаллу, прекрасному математику, лингвисту и философу. Двое перечисленных соавторов были консультантами, которые согласились со статьей, но не писали ее.
Это правда, что чат-боты в принципе не могут сравниться с лингвистической компетентностью людей по причинам, повторенным выше. Их основная конструкция не позволяет им достичь минимального условия адекватности теории человеческого языка: различения возможных языков от невозможных. Поскольку это свойство конструкции, оно не может быть преодолено будущими инновациями в этом виде ИИ. Однако вполне возможно, что будущие инженерные проекты будут соответствовать и даже превосходить человеческие возможности, если мы имеем в виду человеческую способность действовать, производительность. Как упоминалось выше, некоторые уже давно так сделали: например, автоматические калькуляторы. Еще более интересно то, что, как уже упоминалось, насекомые с крохотным мозгом превосходят человеческие способности, понимаемые как компетентность.
CJP: В вышеупомянутой статье также было замечено, что сегодняшние проекты ИИ не обладают человеческой моральной способностью. Делает ли этот очевидный факт роботы с искусственным интеллектом меньшей угрозой для человечества? Я считаю, что аргумент может заключаться в том, что это делает их, возможно, еще более важными.
NC: Это действительно очевидный факт, если понимать «моральные способности» в широком смысле. Без тщательного контроля разработка ИИ может представлять серьезную угрозу. Предположим, например, что уход за пациентами был автоматизирован. Неизбежные ошибки, которые будут преодолены человеческим суждением, могут привести к ужасной истории. Или предположим, что люди были отстранены от оценки угроз, определяемых автоматизированными системами противоракетной обороны. Как шокирующий исторический рекорд Сообщает нас, это был бы конец человеческой цивилизации.
Без тщательного контроля разработка ИИ может представлять серьезную угрозу.
CJP: Регулирующие и правоохранительные органы в Европе выражают обеспокоенность по поводу распространения ChatGPT, в то время как недавно представленный законопроект Европейского Союза пытается бороться с ИИ, классифицируя такие инструменты в соответствии с их предполагаемым уровнем риска. Согласны ли вы с теми, кто обеспокоен тем, что ChatGPT представляет серьезную общественную угрозу? Более того, вы действительно думаете, что дальнейшее развитие инструментов ИИ можно остановить до тех пор, пока не будут введены меры безопасности?
NC: Я легко могу посочувствовать попыткам контролировать угрозы, исходящие от передовых технологий, включая этот случай. Однако я скептически отношусь к возможности сделать это. Подозреваю, что джин вышел из бутылки. Злоумышленники – институциональные или отдельные – вероятно, смогут найти способы обойти меры защиты. Такие подозрения, конечно, не повод не пытаться и проявлять бдительность.
ZNetwork финансируется исключительно за счет щедрости своих читателей.
СДЕЛАТЬ ПОДНОШЕНИЕ