이 위기에 처한 행성에서 거의 79년을 보낸 후, 한 가지만 말씀드리고 싶습니다. 이 일은 좋게 끝날 수 없습니다. 실제로는 그럴 수 없습니다. 아니요, 저는 우크라이나 전쟁부터 기후 재앙에 이르기까지 가장 명백한 문제에 대해 말하는 것이 아닙니다. 제가 염두에 두고 있는 것은 인류의 가장 최근의 가장 위대한 발명품인 인공 지능입니다.
제가 보기에는 그다지 복잡해 보이지 않습니다. 옛날 역사가로서 나는 지난 몇 세기 동안 비인공적이고 – 너무나 자주 – 비예술적인 지능이 무엇을 “성취”했는지에 대해 오랫동안 생각해 왔습니다. ). 그러나 이미 그 자체의 살아있는 약어인 궁극적인 창조 AI가 무엇을 할 수 있을지 상상하려고 하는 순간, 그것은 나를 떨게 만듭니다. 으르렁…
전혀 인위적인 느낌이 아닌 솔직함부터 시작하겠습니다. 내가 AI에 대해 아는 것은 쓰레기 봉투에 담아 쓰레기와 함께 버릴 수 있다는 것입니다. 예, 저는 최근 언론에서 그것에 대해 읽을 수 있는 모든 것을 읽었으며 제 친구들은 이미 그것에 대해 만지작거렸습니다. TomDispatch 정규병 예를 들어 William Astore는 ChatGPT에게 다음과 같은 글을 작성하도록 요청했습니다. 완벽하게 합격 그의 군산복합체에 대한 “비판적 에세이” 브레이스 뷰 뉴스레터 — 제가 인정해야 할 것은 정말 놀라운 일이었습니다.
그래도 그것은 나에게 적합하지 않습니다. 난 절대 안돼. 우리 인간은 미래에 무엇을 할지 정말로 모르기 때문에 절대로 그렇게 하지 않는다고 말하고 싶지 않습니다. 그래도 AI와 적극적으로 관련이 없을 것이라는 것이 최선의 추측이라고 생각하십시오. (인위적으로 지능적이지는 않지만 내 맞춤법 검사 시스템은 Astore에 이메일을 보내 해당 부분에 대한 URL을 요청할 때 즉시 "chatbox"를 "hatbox"로 변경했습니다.)
하지만 여기서 잠시 멈추자. AI에 대해 알아보기 전에 이 지구상의 LTAI(Less Than Artificial Intelligence, 약어를 모르는 경우를 대비해)에 대해 조금 생각해 보겠습니다. 놀라운 성공을 거두었다는 사실을 누가 부인할 수 있겠습니까? 그것은 모나리자, 별이 빛나는 밤및 디에고와 나. 더 말할 필요가 있나요? 우리를 이 세상에서 스타일 있게, 심지어 우주 공간으로 이동시키는 방법도 알아냈습니다. 비교할 수 없는 요리를 창조하면서 광대한 도시와 훌륭한 기념물을 건설했습니다. 물론 계속할 수도 있습니다. 누가 할 수 없었나요? 어떤 면에서는 인간 지능의 창조물이 누구의 숨을 멎게 할지도 모릅니다. 때로는 '기적'에 진정한 의미를 부여하는 것처럼 보이기도 합니다.
그러나 새벽부터 동일한 LTAI는 훨씬 더 암울한 방향으로도 나아갔습니다. 창과 활과 화살부터 대포와 제트 전투기에 이르기까지 모든 종류의 무기를 발명했습니다. AR-15 반자동 소총이 탄생했습니다. 크게 책임이있는 (수많은 혼란스러운 개별 LTAI와 함께) 끝이 없어 보이는 대량 학살에 대해 특이한 현상 우리의 “평화로운” 나라에서.
그리고 물론 우리는 홀로코스트, 이오시프 스탈린의 러시아 수용소, 미국의 인종차별과 린치 폭도들을 낳은 인공지능보다 작은 것들, 그리고 인류 역사의 수많은 다른 괴물들에 대해 이야기하고 있습니다. 무엇보다도 우리는 우리 역사의 많은 부분을 비교할 수 없는 전쟁과 살육의 이야기로 바꾸어 놓은 LTAI에 대해 이야기하고 있습니다. 우리가 아무리 "발전"해도 결코 그런 일이 일어나지 않았습니다. 우크라이나의 잔인하고 심히 파괴적인 분쟁처럼 제안 – 중단의 조짐이 조금 보였습니다. 비록 나는 이 주제에 대한 수치를 본 적이 없지만, 이 지구상의 어딘가에서(종종 복수형으로 표현해야 할 곳에서) 우리 인간이 서로를 죽이지 않은 순간은 우리 역사상 거의 없었던 것 같습니다. 중요한 숫자.
그리고 위의 어느 것에서도 나는 정기적으로 분열되고 조직된 사회의 공포에 대해 언급조차 하지 않았다는 것을 명심하십시오. 엄청나게 부자 그리고 너무 가난합니다. 하지만 충분하지 않습니까? 당신은 아이디어를 얻습니다.
아, 지금 AI를 만든 생명체를 판단할 때 한 가지 빼먹은 게 있어요. 지난 한두 세기 동안, 위의 모든 일을 수행한 "지능"은 잠재적으로 이 행성과 그 위에 사는 거의 모든 것을 파괴할 수 있는 두 가지 다른 방법을 생각해 냈습니다. 그 중 첫 번째는 대부분 무의식적으로 만들어졌습니다. 결국, XNUMX세기 지구 대부분의 산업화와 함께 시작된 대규모의 끝없는 화석 연료 연소는 지구를 점점 더 기후 변화시키는 원인으로 만들었습니다. 우리는 수십 년 동안 무엇을 했는지 이제 알고 있지만(거대한 화석 연료 회사 중 하나의 과학자들은 처음으로 파악 1970년대에 무슨 일이 있었는지) 우리를 막지 않았어. 장기적으로는 아닙니다. 어쨌든 아직은 아닙니다.
앞으로 수십 년 동안 기후 비상 사태를 해결하지 않으면 파괴할 수 있다 인류와 수많은 다른 생물들이 살고 있는 이 행성. 이는 잠재적으로 세계를 멸망시킬 수 있는 현상입니다(적어도 우리가 알고 있는 거주 가능한 행성의 경우). 그럼에도 불구하고 바로 이 순간, 두 가지 가장 큰 온실가스 배출원, 미국과 중국(현재는 선두에 있지만 역사적으로 미국은 XNUMX위임)은 문자 그대로 지구상의 지옥에서 우리를 구하기 위한 협력 관계를 발전시킬 능력이 없다는 것이 입증되었습니다. 대신 그들은 계속해서 스스로 무장하다 그들의 지도자들이 위협적인 방식으로 맞서 싸우는 동안 지금은 한마디도 나누지 않고 있어, 지구의 과열에 대한 상담도 적지 않습니다.
인류가 지옥으로 가는 두 번째 길은 물론 핵무기였습니다. 핵무기는 1945년 XNUMX월 일본 도시 히로시마와 나가사키에 파괴적인 영향을 미치기 위해 단 두 번만 사용되었습니다. 그럼에도 불구하고, 현재 지구에 보관되어 있는 광대한 핵무기 중 상대적으로 적은 수의 무기라도 핵무기를 만들 수 있을 것입니다. 핵 동계 그것은 잠재적으로 인류의 많은 부분을 멸절시킬 수 있습니다.
그리고 LTAI는 다음과 같은 무기를 계속해서 더 많이 비축하고 있다는 사실을 염두에 두십시오. 점점 더 많은 나라 — 최신 존재 북한 — 그것들을 소유하러 오세요. 상황과 우크라이나 전쟁이 일어날 수 있는 위협을 감안할 때 핵으로 가다, 그것이 단지 시간 문제일 수도 있다고 생각하지 않는 것은 어렵습니다. 앞으로 수십 년 동안 우리나라 정부는 이례적으로 다음과 같은 계획을 세울 계획입니다. 또 2조 달러 이러한 무기의 더욱 발전된 형태와 이를 전달하는 방법에 대해 알아보겠습니다.
AI 시대를 맞이하다
그러한 역사를 감안할 때, 인공 지능이 수많은 위험, 그 중 일부는 매우 다양한 위험을 담당하는 지능을 대신하기 시작하는 것이 영광스러운 일이 될 수 있다고 상상해도 용서받을 수 있습니다. 그리고 나는 그 조상(우리)처럼 AI가 실제로 일방적이지 않은 것을 증명할 것이라는 데 의심의 여지가 없습니다. 그것은 의심할 여지 없이 아직 상상할 수 없는 형태로 경이로움을 만들어낼 것입니다.
그래도 AI는 LTAI를 사용하는 사람들이 만들었다는 사실을 잊지 마세요. 이제 (물론 존재하는 권력의 도움을 받아) 자체 장치에 맡겨진다면, 그것이 어떤 방식으로든 본질적으로 인간 경험을 반복할 것이라고 가정하는 것이 합리적으로 보입니다. 사실, 그것은 일종의 보증이라고 생각하십시오. 이는 그것이 아름다움과 경이로움을 창조할 것임을 의미합니다. 그렇습니다! — 비교할 수 없는 공포(아마도 훨씬 더 효율적일 것입니다). 의심하지 않으려면 인류의 어느 부분이 이미 인공 지능을 한계까지 밀어붙이려는 의도가 가장 큰 것으로 보이는지 생각해 보십시오.
예, 전 세계적으로 "국방" 부서는 AI 연구 및 개발, 특히 Michael Clare처럼 무인 자율 차량(예: 킬러 로봇)과 다양한 종류의 무기 시스템의 생성에 돈을 쏟아 붓고 있습니다. 최근에 지적 at TomDispatch 펜타곤에 관해서라면. 사실, XNUMX년 전(예, XNUMX년 전!), 미 국방부가 공동 인공 지능 센터를 설립하는 데 있어서 훨씬 앞서 있었다는 사실을 알면 놀랄 일이 아닙니다. 뉴욕 타임스 넣어, "전투에서 인공 지능의 사용을 탐구합니다." 그곳에서는 결국 — 여기서 "끝"은 확실히 유효한 단어입니다 — 우리가 진정으로 미지의 영역에 들어갈 수 있는 방식으로 전장 활동의 속도를 높일 수 있습니다. 사실 우리는 전시 의사 결정에 있어서 인간의 지능이 기껏해야 부업적인 활동으로 전락하는 영역으로 진입할 수 있습니다.
최근에야 AI 창작자, 기술 리더, 주요 잠재 사용자가 1,000 이상 그들 중 애플의 공동 창업자인 스티브 워즈니악과 억만장자 엘론 머스크를 포함한 사람들은 이 행성에 풀어놓은 두뇌가 어떤 일을 할 수 있을지에 대해 충분히 불안해졌습니다. ~을 요구했다 개발을 XNUMX개월간 유예합니다. 그들은 AI가 “사회와 인류에 대한 심각한 위험”을 두려워했고, “결국 수적으로 앞서고, 똑똑해지고, 쓸모없어지고, 우리를 대체할 수 있는 비인간적 정신”을 개발해야 하는지 궁금해했습니다.
그러나 미 국방부는 데이비드 생어(David Sanger)처럼 그 요청에 즉각적으로 응답했습니다. 신고 FBI 증오 범죄 보고서 뉴욕 타임스: "미 국방부 관계자는 기술 포럼에서 차세대 ChatGPT 및 유사한 소프트웨어 개발을 XNUMX개월간 중단하는 것은 나쁜 생각이라고 생각한다고 말했습니다. 중국도 기다리지 않을 것이며 러시아도 기다리지 않을 것입니다." 따라서 AI의 가장 파괴적인 측면의 개발을 늦추거나 통제하려는 국제적 시도를 전속력으로 건너뛰십시오!
그리고 나는 이미 잘못된 정보와 허위 정보, 터무니없는 음모론으로 가득 찬 세상에서 AI가 어떻게 사용될 가능성이 있는지 언급조차 하지 않았습니다. 같은 것을 더 많이 만들어라 상상할 수 있는 모든 종류의 엄청난 다양성 "의환각,” 놀라운 새 버전의 예술 작품부터 학생 시험지. 내 말은, 내가 꼭 그래야만 하는 걸까? 그 이상을 언급하다 최근 너무 현실적으로 보이는 "도널드 트럼프가 NYPD에 의해 공격적으로 체포되고 프란치스코 교황이 고급스러운 발렌시아가 푹신한 코트를 입고 온라인에 널리 유포되는 사진"이 있습니까?
나는 그것을 의심한다. 결국 이미지 기반 AI 기술을 비롯한 눈에 띄는 가짜 예술, 눈에 띄는 방식으로 증가하고 있으며 머지않아 여러분이 보는 이미지가 "진짜"인지 "가짜"인지 감지하지 못할 수도 있습니다. 당신이 알 수 있는 유일한 방법은 Meghan Bartels로서 보고서 in 과학적인 미국, 감지하도록 훈련된 AI 시스템 덕분일 수 있습니다. 그렇습니다! — 인공 이미지. 물론 그 과정에서 우리 모두는 어떤 방식으로든 배제될 것입니다.
미래에 대해, 인위적으로 말하다
그리고 물론, 우리가 현재 너무 트럼프적인 세상을 염두에 두고 인공 지능이 어떻게 우리 모두를 정치적, 사회적 바보로 만들 수 있는지 생각하기 시작하면 그것은 거의 좋은 소식입니다. 나는 AI에 관해 더 잘 아는 사람 중 하나가 아니라는 점을 감안할 때(인공 지능 미만에 대해서는 상당히 많은 것을 알고 있다고 주장하겠지만) 두려움 속에 혼자 있지 않다는 것이 안도됩니다.
실제로 이 주제에 대해 무서운 목소리를 낸 이들 중에는 'AI의 대부'로 알려진 인공지능 분야의 선구자인 제프리 힌튼(Geoffrey Hinton)도 있다. 그는 인위적으로 말하자면 우리가 실제로 어디로 향하고 있는지에 대한 두려움을 표현하기 위해 최근에야 Google에서 직장을 그만뒀습니다. 그로서 말했다 뉴욕 타임스 최근에는 “이 물건이 실제로 사람보다 더 똑똑해질 수 있다는 생각은 소수의 사람들이 그렇게 믿었지만 대부분의 사람들은 그렇지 않다고 생각했습니다. 그리고 나는 그것이 멀리 있다고 생각했습니다. 나는 그것이 30년에서 50년 또는 그보다 더 오래 걸릴 것이라고 생각했습니다. 분명히, 나는 더 이상 그렇게 생각하지 않습니다.”
이제 그는 인간의 통제를 넘어서는 킬러 로봇의 출현을 두려워할 뿐만 아니라, 제프 베넷에게 말했다 의 PBS NewsHour, “초지능 AI가 사람의 통제권을 장악할 위험… 기계가 장악하는 것은 모두에게 위협이 되기 때문에 실제로 국제 협력이 가능한 영역이라고 생각합니다. 이는 글로벌 핵전쟁과 마찬가지로 중국, 미국, 유럽에 대한 위협입니다.”
그리고 그것은 실제로 희망적인 생각이지만, 유럽의 열전, 태평양의 냉전, 전 세계적으로 분단이 벌어지고 있는 현재의 세계에는 맞지 않습니다.
물론 나는 평생 함께 살아온 종류의 인공 지능이 실제로 AI 항공모함 함대에 의해 침몰될 것인지, 아니면 인류가 AI를 먼지 속에 남겨둘 것인지 알 방법이 없습니다. , 어떤 방식으로든 우리 스스로 이 행성을 파괴하고 있습니다. 그러나 AI의 장점이 무엇이든 간에 우리를 지구상의 지옥에서 구하기 위해 지금 세상에 필요한 것과는 전혀 다르다는 점을 인정해야 합니다. 나는 상상을 초월하는 미래를 향해 나아가기 위해 준비하면서 최선을 다하고 최악의 상황을 두려워합니다.
ZNetwork는 독자들의 관대함을 통해서만 자금을 조달합니다.
후원