Спустя почти 79 лет на этой осажденной планете позвольте мне сказать одно: это не может закончиться хорошо. Действительно, не может. И нет, я не говорю о самых очевидных проблемах — от войны на Украине до климатической катастрофы. Я имею в виду последнее, величайшее изобретение человечества: искусственный интеллект.
Мне это не кажется таким уж сложным. Как бывший историк, я долго размышлял о том, чего за эти столетия «свершил» неискусственный и — слишком часто — нехитрый интеллект (и да, я бы предпочёл взять это в кавычки). ). Но в ту минуту, когда я пытаюсь представить, что может сделать это, казалось бы, совершенное творение ИИ, уже являющееся живой аббревиатурой самого себя, меня охватывает дрожь. Бррр…
Позвольте мне начать с честности, которая вовсе не является искусственным чувством. То, что я знаю об ИИ, можно положить в мешок для мусора и выбросить вместе с мусором. Да, я недавно прочитал все, что мог, в средствах массовой информации об этом, и мои друзья уже возились с этим. TomDispatch регулярный Уильям Асторе, например, заставил ChatGPT написать вполне сносно «критический очерк» о военно-промышленном комплексе за его Бодрящие взгляды информационный бюллетень — и это, должен признать, было потрясающе.
И все же это не для меня. Никогда я. Ненавижу говорить «никогда», потому что мы, люди, действительно не знаем, что будем делать в будущем. Тем не менее, я считаю, что я не буду активно иметь ничего общего с ИИ. (Хотя моя, по общему признанию, не слишком интеллектуальная система проверки правописания быстро сменила слово «чат» на «шляпный ящик», когда я писал Астору по электронной почте с просьбой дать ему URL-адрес этого фрагмента.)
Но давайте остановимся здесь на минутку. Прежде чем мы перейдем к искусственному интеллекту, давайте немного подумаем о LTAI (меньше, чем искусственный интеллект, на тот случай, если вы не знаете аббревиатуру) на этой планете. Кто мог бы отрицать, что он добился замечательных успехов? Это создало Мона Лиза, Звездная ночьи Диего и я. Нужно ли мне сказать больше? Он придумал, как стильно перемещать нас по этому миру и даже в открытый космос. Он построил огромные города и великие памятники, а также создал несравненную кухню. Я мог бы, конечно, продолжить. Кто не мог? В некотором смысле, творения человеческого интеллекта должны захватывать дух. Иногда кажется, что они даже придают слову «чудо» настоящий смысл.
И тем не менее, с незапамятных времен тот же ЛТАИ действовал и в гораздо более мрачных направлениях. Он изобрел оружие всех видов: от копья и лука и стрел до артиллерии и реактивных истребителей. Здесь создана полуавтоматическая винтовка АР-15, ныне в значительной степени ответственный (вместе со многими обеспокоенными отдельными ЛТАИ) за наши, казалось бы, бесконечные массовые убийства, уникальное явление в нашей стране «мирного времени».
И мы говорим, конечно, о том же Меньшем, чем Искусственный Интеллект, который создал Холокост, русский ГУЛАГ Иосифа Сталина, сегрегацию и толпы линчевателей в Соединённых Штатах и многие другие чудовища (не)человеческой истории. Прежде всего, мы говорим о ЛТАИ, который превратил большую часть нашей истории в историю о войне и непревзойденной резне, чего, какими бы «продвинутыми» мы ни стали, никогда не было — как жестокий, глубоко разрушительный конфликт на Украине. предполагает — проявляется малейший признак прекращения. Хотя я не видел цифр по этому вопросу, я подозреваю, что едва ли был момент в нашей истории, когда где-нибудь на этой планете (и часто это где-то должно быть во множественном числе) мы, люди, не убивали друг друга в значительные цифры.
И имейте в виду, что ни в одном из вышеперечисленных я даже не упомянул ужасы обществ, регулярно разделенных между собой и организованных вокруг них. ошеломляюще богат и все слишком бедны. Но достаточно, правда? Вы поняли идею.
Упс, я упустил одну вещь, оценивая существ, создавших ИИ. За последние столетие или два «разведке», которая сделала все вышеперечисленное, также удалось придумать два разных способа потенциального уничтожения этой планеты и более или менее всего живого на ней. Первые из них она создала во многом неосознанно. В конце концов, массовое, бесконечное сжигание ископаемого топлива, начавшееся с индустриализацией большей части планеты в девятнадцатом веке, привело к все более сильному изменению климата на Земле. Хотя мы уже десятилетиями знаем, чем занимаемся (учёные одной из гигантских компаний по добыче ископаемого топлива впервые схватил что происходило в 1970-е годы), что нас не остановило. Отнюдь не. Во всяком случае, пока нет.
В ближайшие десятилетия, если не принять во внимание, чрезвычайную климатическую ситуацию может опустошить эта планета, на которой обитает человечество и множество других существ. Это потенциально грозящий конец света феномен (по крайней мере, для обитаемой планеты, какой мы ее знаем). И все же именно в этот момент два крупнейших источника выбросов парниковых газовСоединенные Штаты и Китай (эта страна сейчас лидирует, но США исторически остаются номером один) оказались неспособны развивать отношения сотрудничества, чтобы спасти нас от слишком буквального ада на Земле. Вместо этого они продолжали вооружиться к зубам и угрожающе сразиться, в то время как их лидеры сейчас не обмениваемся ни словом, не менее консультирование по вопросам перегрева планеты.
Вторым путем в ад, созданным человечеством, было, конечно же, ядерное оружие, примененное лишь дважды с разрушительным эффектом в августе 1945 года по японским городам Хиросима и Нагасаки. Тем не менее, даже относительно небольшое количество оружия из огромных ядерных арсеналов, сейчас размещенных на планете Земля, было бы способно создать ядерная зима это потенциально может уничтожить большую часть человечества.
И заметьте, зная это, существа ЛТАИ продолжают создавать все большие запасы именно такого оружия, как все больше стран — последнее существо Северная Корея — овладеть ими. В сложившихся обстоятельствах и с учетом угрозы того, что война на Украине может стать ядерным, трудно не думать, что это может быть просто вопросом времени. В ближайшие десятилетия правительство моей страны, что вполне типично, планирует поставить еще 2 триллиона долларов во все более совершенные формы такого оружия и способы его доставки.
Вступая в эпоху искусственного интеллекта
Учитывая такую историю, можно было бы подумать, что было бы замечательно, если бы искусственный интеллект начал брать верх над разумом, ответственным за столь много опасностей, некоторые из которых крайне разнообразны. И я не сомневаюсь, что, как и его предок (мы), ИИ действительно окажется чем угодно, только не односторонним. Оно, несомненно, произведет чудеса в формах, которые пока что невозможно себе представить.
Тем не менее, давайте не будем забывать, что ИИ был создан теми из нас, у кого есть LTAI. Если теперь предоставить его самому себе (конечно, с помощью сильных мира сего), кажется разумным предположить, что он в некотором роде по существу повторит человеческий опыт. На самом деле, считайте, что это своего рода гарантия. Это значит, что оно создаст красоту и чудо и — да! — ужас ни с чем не сравнимый (а возможно, даже более действенный). Чтобы вы не сомневались в этом, просто подумайте, какая часть человечества уже больше всего стремится довести искусственный интеллект до предела.
Да, по всей планете министерства «обороны» вливают деньги в исследования и разработки в области искусственного интеллекта, особенно в создание беспилотных автономных транспортных средств (подумайте: роботов-убийц) и различных систем вооружения, как сказал Майкл Клэр. указал недавно at TomDispatch когда дело доходит до Пентагона. На самом деле, вас не должно шокировать, если вы узнаете, что пять лет назад (да, целых пять лет!) Пентагон значительно опередил игру, создав Объединенный центр искусственного интеллекта, который, как утверждает New York Times положите, «изучить возможности использования искусственного интеллекта в бою». Там, в конце концов, — и слово «конец» здесь, безусловно, является ключевым словом — ускорить боевые действия таким образом, что мы действительно могли бы вступить на неизвестную территорию. Фактически мы можем вступить в область, в которой человеческая разведка при принятии решений в военное время станет в лучшем случае второстепенной деятельностью.
Лишь недавно создатели ИИ, технологические лидеры и ключевые потенциальные пользователи больше, чем 1,000 из них, в том числе соучредитель Apple Стив Возняк и миллиардер Илон Маск, достаточно беспокоились о том, что такая штука — можно сказать, такой мозг — выпущенный на волю на этой планете, может сделать такое, что они призвал к шестимесячный мораторий на его разработку. Они опасались «серьезных рисков для общества и человечества» со стороны ИИ и задавались вопросом, стоит ли нам вообще развивать «нечеловеческий разум, который может в конечном итоге превзойти нас численностью, перехитрить, устареть и заменить нас».
Однако Пентагон мгновенно отреагировал на этот призыв следующим образом, как сказал Дэвид Сэнгер. переправу в New York Times: «Чиновники Пентагона, выступая на технологических форумах, заявили, что считают идею шестимесячной паузы в разработке следующих поколений ChatGPT и аналогичного программного обеспечения плохой идеей: китайцы не будут ждать, и русские тоже». Итак, вперед на полной скорости и игнорируйте любые международные попытки замедлить или контролировать развитие наиболее разрушительных аспектов ИИ!
И я даже не удосужился упомянуть, что в мире, который, казалось бы, до краев наполнен ложной информацией, дезинформацией и дикими теориями заговора, ИИ, скорее всего, будет использоваться для создать еще больше такого же всех мыслимых видов, ошеломляющее разнообразие от "галлюцинаций», не говоря уже о выпуске всего, от замечательных новых версий искусства до студенческие тестовые работы. Я имею в виду, действительно ли мне нужно упомянуть что-либо большее, чем те недавние слишком реалистично выглядящие «фотографии Дональда Трампа, агрессивно арестованного полицией Нью-Йорка, и Папы Франциска в роскошном пуховом пальто Balenciaga, широко циркулирующие в Интернете»?
Я сомневаюсь в этом. В конце концов, технология искусственного интеллекта на основе изображений, в том числе поразительное фальшивое искусство, значительно растет, и довольно скоро вы, возможно, не сможете определить, являются ли изображения, которые вы видите, «настоящими» или «поддельными». Только так ты узнаешь, как Меган Бартельс отчеты in Scientific American, возможно, благодаря системам искусственного интеллекта, обученным обнаруживать — да! — искусственные изображения. При этом, конечно, все мы в некотором роде окажемся за бортом.
О будущем, искусственно говоря
И, конечно же, это почти хорошая новость, когда, имея в виду наш нынешний, слишком Трампианский мир, вы начинаете думать о том, как искусственный интеллект может сделать нас всех политическими и социальными дураками. Учитывая, что я далеко не один из наиболее информированных людей, когда дело касается искусственного интеллекта (хотя в «Меньше, чем искусственный интеллект» я бы заявил, что знаю гораздо больше), я рад, что не одинок в своих страхах.
Фактически, среди тех, кто со страхом высказался по этому поводу, есть человек, известный как «крестный отец искусственного интеллекта», Джеффри Хинтон, пионер в области искусственного интеллекта. Он лишь недавно уволился с работы в Google, чтобы выразить свои опасения по поводу того, куда мы на самом деле, искусственно говоря, движемся. Как он сказал New York Times недавно: «Идея о том, что эти штуки действительно могут стать умнее людей — в это верили несколько человек, но большинство считало, что до этого далеко. И я думал, что это далеко. Я думал, что это произойдет через 30–50 лет или даже дольше. Очевидно, я больше так не думаю».
Теперь он боится не только появления роботов-убийц, находящихся вне человеческого контроля, но, как он рассказал Джеффу Беннетту PBS NewsHour«Риск того, что сверхразумный ИИ возьмет контроль над людьми… Я думаю, что это область, в которой мы действительно можем наладить международное сотрудничество, потому что захват власти машинами представляет собой угрозу для всех. Это угроза для китайцев, американцев и европейцев, такая же, как глобальная ядерная война».
И это действительно обнадеживающая мысль, но она не соответствует нашему нынешнему миру горячей войны в Европе, холодной войны в Тихом океане и глобального раскола.
Я, конечно, не могу знать, действительно ли «Меньше, чем искусственный интеллект», с которым я прожил всю свою жизнь, действительно будет потоплен авианосным флотом ИИ, или, если уж на то пошло, человечество оставит ИИ в пыли , каким-то образом опустошая эту планету самостоятельно. Но я должен признать, что ИИ, каковы бы ни были его положительные стороны, выглядит совсем не так, как нужно миру сейчас, чтобы спасти нас от ада на земле. Я надеюсь на лучшее и опасаюсь худшего, готовясь проложить свой путь в будущее, которое, я не сомневаюсь, находится за пределами моего воображения.
ZNetwork финансируется исключительно за счет щедрости своих читателей.
СДЕЛАТЬ ПОДНОШЕНИЕ