“생성 AI의 피해로부터 대중을 보호하기 위한 의미 있는 정부 보호 장치가 마련될 때까지 우리는 잠시 멈춰야 합니다.”
그래서 말한다 신고 화요일에 발표된 인공지능(AI)의 위험성에 대해 공공 시민. 제목 미리 죄송합니다! 생성 AI 배포를 위한 급속한 러시로 인해 자동화된 다양한 피해가 발생할 수 있음, 연구원 Rick Claypool과 Cheyenne Hunt의 분석은 "대중과 정책 입안자가 이러한 새로운 기술이 우리 삶을 어떻게 바꿀 수 있는지에 대해 발언권을 갖도록 생성 AI에 대한 대화를 재구성하는 것"을 목표로 합니다.
OpenAI의 ChatGPT가 XNUMX월 출시된 이후 생성 AI 도구는 "특히 이 도구를 통해 이익을 얻을 수 있는 가장 좋은 위치에 있는 거대 기술 기업들 사이에서 엄청난 화제를 불러일으켰습니다"라고 보고서는 지적합니다. “가장 열정적인 지지자들은 AI가 모든 사람을 부자로 만드는 방식으로 세상을 변화시킬 것이라고 말하고, 일부 비방하는 사람들은 AI가 우리 모두를 죽일 수 있다고 말합니다. 기술이 발전함에 따라 실현될 수 있는 무서운 위협과는 별개로, 이러한 도구를 서둘러 출시하고 수익을 창출하는 것은 현실 세계에 해를 끼치며 많은 경우 이미 발생하고 있습니다.”
Claypool과 Hunt는 이러한 피해를 "XNUMX가지 광범위한 우려 영역"으로 분류했습니다.
- 민주주의를 훼손하다: 잘못된 정보를 퍼뜨리는 스팸봇은 새로운 것이 아니지만 생성 AI 도구를 사용하면 악의적인 행위자가 사기성 정치 콘텐츠를 대량 생산할 수 있습니다. 점점 더 강력해지는 오디오 및 비디오 제작 AI 도구로 인해 실제 콘텐츠를 합성 콘텐츠와 구별하기가 더 어려워지고 있습니다.
- 소비자 우려사항: 생성 AI를 사용하여 수익을 극대화하려는 기업은 이러한 도구를 사용하여 사용자 데이터를 집어삼키고, 소비자를 조작하고, 대기업의 이점을 집중시키고 있습니다. 사기꾼들은 이를 사용하여 점점 더 정교해지는 사기 계획에 참여하고 있습니다.
- 악화되는 불평등: 생성적 AI 도구는 인종차별, 성차별과 같은 체계적 편견을 영속화하고 악화시킬 위험이 있습니다. 이는 가해자와 학대자에게 피해자에게 해를 끼칠 수 있는 새로운 방법을 제공하며, 광범위한 배포로 인해 경제적 불평등이 크게 가속화될 위험이 있습니다.
- 근로자 권리 침해: AI 도구를 개발하는 회사는 인간이 만든 텍스트와 이미지를 사용하여 모델을 훈련하고, 방해적이고 공격적인 콘텐츠를 필터링하기 위해 해외 저임금 근로자를 고용합니다. 일부 AI와 마찬가지로 미디어 제작을 자동화하면 인간이 수행하는 미디어 제작 작업을 전문 기술로 대체하고 대체할 위험이 있습니다.
- 환경적인 우려: 생성적 AI 도구를 훈련하고 유지하려면 컴퓨팅 성능의 상당한 확장이 필요합니다. 즉, 효율성 향상을 통해 요구 사항을 흡수하는 기술 개발자의 능력보다 더 빠르게 증가하는 컴퓨팅 성능의 확장이 필요합니다. 대규모 배포를 위해서는 일부 대형 기술 기업이 컴퓨팅 성능을 높여 탄소 배출량을 XNUMX~XNUMX배 늘려야 할 것으로 예상됩니다.
안에 성명서, Public Citizen은 “기업들은 잠재적으로 위험한 AI 도구를 그 피해를 이해하거나 완화할 수 있는 것보다 더 빠르게 배포하고 있다”고 경고했습니다.
“역사는 기업이 알려진 위험을 자체 규제할 수 있다고 믿을 이유를 제공하지 않습니다. 특히 이러한 위험 중 상당수가 기업 탐욕만큼이나 생성 AI의 일부이기 때문입니다.”라고 성명서는 계속됩니다. “이러한 신기술을 서둘러 도입하는 기업은 사람들의 생명과 생계, 그리고 틀림없이 자유 사회와 살기 좋은 세상의 기반 자체를 놓고 도박을 하고 있는 것입니다.”
27월 XNUMX일 목요일, Public Citizen은 하이브리드 대면/Zoom 행사를 개최합니다. 회의 워싱턴 DC에서 미국 하원의원 Ted Lieu(D-Calif.)와 10명의 다른 패널리스트가 AI로 인한 위협과 빠르게 성장하지만 사실상 규제되지 않은 산업을 통제하는 방법에 대해 논의할 예정입니다. 참여에 관심있는 분들은 꼭 참여해주세요 회원가입 이번주 금요일까지.
“이러한 신기술을 서둘러 도입하는 기업은 사람들의 생명과 생계, 그리고 틀림없이 자유 사회와 살기 좋은 세상의 기반 자체를 놓고 도박을 하고 있는 것입니다.”
AI 규제 요구는 설치. 지난달에는 '인공지능의 대부'로 불리는 제프리 힌튼(Geoffrey Hinton)이 비교 빠르게 발전하는 기술이 "산업 혁명, 전기, 어쩌면 바퀴"에 미칠 잠재적인 영향을 설명합니다.
묻는 사람 : CBS 뉴스브룩 실바-브라가는 기술이 “인류를 멸망시킬” 가능성에 대해 “상상할 수 없는 일은 아니다”라고 경고했다.
그 무서운 잠재력은 반드시 ChatGPT와 같은 기존 AI 도구에 있는 것이 아니라 컴퓨터가 자신의 아이디어를 개발하고 실행하는 "인공 일반 지능"(AGI)에 있습니다.
“아주 최근까지 나는 범용 AI가 등장하려면 20~50년 정도 걸릴 것이라고 생각했습니다.”라고 Hinton은 말했습니다. CBS 뉴스. “이제 생각해보면 20년 정도는 될 것 같아요.” 결국 Hinton은 AGI가 XNUMX년 이내에 도착할 가능성을 배제하지 않을 것이라고 인정했습니다. 이는 그가 "'절대 안 된다'"라고 말했던 몇 년 전과는 크게 다른 일입니다.
Hinton은 “우리는 그것을 어떻게 통제할 것인지 열심히 생각해야 합니다.”라고 말했습니다. Silva-Braga가 그것이 가능한지 묻는 질문에 Hinton은 "우리는 아직 거기에 가본 적이 없지만 시도해 볼 수는 있습니다."라고 말했습니다.
AI 개척자는 혼자가 아닙니다. 지난 XNUMX월 OpenAI CEO 샘 알트만(Sam Altman)은 한 회사에 글을 썼습니다. 블로그 게시물: “위험이 엄청날 수 있습니다. 잘못 정렬된 초지능 AGI는 세상에 심각한 해를 끼칠 수 있습니다.”
최근 게시된 글에는 26,000명 이상의 사람들이 서명했습니다. 공개 서한 이는 OpenAI의 최신 챗봇인 GPT-4 수준을 넘어서 AI 시스템을 훈련하는 데 XNUMX개월간 유예를 요구하지만 Altman은 여기에 포함되지 않습니다.
편지에는 “강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있을 것이라는 확신이 있을 때만 개발되어야 합니다.”라고 적혀 있습니다.
AGI는 아직 몇 년이 걸릴 수 있지만 Public Citizen의 새로운 보고서는 거짓말을 토하는 챗봇, 가짜 비디오를 생성하는 얼굴 교환 앱, 사기를 저지르는 복제된 음성을 포함한 기존 AI 도구가 이미 심각한 피해를 입히고 있거나 일으킬 위협이 있음을 분명히 밝혔습니다. 불평등 심화, 민주주의 훼손, 노동자 대체, 소비자 착취, 기후 위기 악화 등이 포함됩니다.
Claypool과 Hunt는 이러한 위협이 "기업이 시행 가능한 가드레일 없이 생성 AI를 배포하도록 허용되면 모두 매우 현실적이며 발생할 가능성이 매우 높습니다"라고 썼습니다. "하지만 그들에게 피할 수 없는 일은 아무것도 없습니다."
그들은 계속했다.
정부 규제로 인해 기업이 기술을 너무 빨리 배포하는 것을 차단할 수 있습니다(또는 기술이 안전하지 않은 것으로 판명되면 완전히 차단할 수도 있습니다). 위험으로부터 사람들을 보호하기 위한 표준을 설정할 수 있습니다. 생성 AI를 사용하는 회사에 식별 가능한 피해를 방지하고, 커뮤니티와 창작자의 이익을 존중하고, 기술을 사전 테스트하고, 책임을 지고, 문제가 발생할 경우 법적 책임을 수용하도록 의무를 부과할 수 있습니다. 기술에 형평성을 구축해야 할 수도 있습니다. 생성 AI가 실제로 생산성을 높이고 근로자를 대체한다면 경제적 이익을 피해를 입은 사람들과 공유하고 소수의 회사, 임원 및 투자자에게 집중하지 말라고 주장할 수 있습니다.
AI '책임 메커니즘'에 대한 '규제 관심 증가' 속에 바이든 행정부 발표 지난 주에는 "AI 시스템이 합법적이고 효과적이며 윤리적이며 안전하고 신뢰할 수 있음"을 보장하기 위해 구현할 수 있는 조치에 대한 대중의 의견을 구하고 있다고 밝혔습니다.
에 따르면Axios, 척 슈머 상원 원내대표(D.Y.)는 “인공지능 기술을 규제하기 위한 입법을 위한 초기 조치를 취하고 있다”고 밝혔다.
Claypool과 Hunt는 다음과 같이 말했습니다. “우리는 강력한 보호 장치와 정부 규제가 필요하며, 기업이 AI 기술을 널리 보급하기 전에 이를 마련해야 합니다. 그때까지는 잠시 멈춰야 합니다.”
ZNetwork는 독자들의 관대함을 통해서만 자금을 조달합니다.
후원