АМЙ ГУДМАНД: Ин аст, Демократия ҳоло!, democracynow.org, Гузориши ҷанг ва сулҳ. Ман Ами Гудман бо Нермин Шайх ҳастам.
Вақте ки бештари мардум дар бораи зеҳни сунъӣ ё AI огоҳ мешаванд, Сенат рӯзи сешанбе дар бораи чӣ гуна танзим кардани он як ҷаласа баргузор кард. Раиси Зеркумитаи адлияи Сенат Ричард Блументал мурофиаро бо сабти овози худаш, ки аз ҷониби AI тавлид шудааст, ифтитоҳ кард, ки онро баъзеҳо "қалбакии амиқ" меноманд. (Барои қисми 2-и ин мусоҳиба ба поён ҳаракат кунед.)
СЕН. Ричард Блюментал: Ва ҳоло барои чанд сухани муқаддимавӣ.
СЕН. Ричард Блюментал Овоз Клон: Бисёр вақт мо мебинем, ки чӣ ҳодиса рӯй медиҳад, технология аз танзим зиёдтар аст: истисмори беандозаи маълумоти шахсӣ, паҳншавии маълумоти бардурӯғ ва амиқтар шудани нобаробарии ҷомеа. Мо дидем, ки чӣ гуна ғаразҳои алгоритмӣ метавонанд табъиз ва бадгумониро идома диҳанд ва чӣ гуна набудани шаффофият метавонад эътимоди мардумро коҳиш диҳад. Ин ояндаи мо нест.
СЕН. Ричард Блюментал: Агар шумо аз хона гӯш мекардед, шояд фикр мекардед, ки ин овоз аз они ман аст ва суханон аз ман. Аммо, дар асл, ин овоз аз они ман набуд, калимаҳо аз они ман набуданд ва аудио як нармафзори клонкунии овози AI буд, ки дар суханрониҳои ошёнаи ман таълим дода шудааст. Ин изҳорот аз ҷониби ChatGPT навишта шудааст, вақте пурсиданд, ки ман ин мурофиаро чӣ гуна мекушоям.
АМЙ ГУДМАНД: Google, Microsoft ва OpenAI - стартап дар паси ChatGPT - баъзе аз ширкатҳое мебошанд, ки технологияи пурқуввати зеҳни сунъиро эҷод мекунанд. Директори генералии OpenAI Сэм Олтман дар мурофиаи рӯзи сешанбе шаҳодат дод ва дар бораи хатарҳои он ҳушдор дод.
САМ АЛТМАН: Ман фикр мекунам, ки агар ин технология хато кунад, он метавонад комилан хато кунад. Ва мо мехоҳем дар ин бора садо баланд кунем. Мо мехоҳем бо ҳукумат ҳамкорӣ кунем, то аз ин рӯй диҳад. Аммо мо мекӯшем, ки дар бораи он ки ҳолати манфии он чӣ гуна аст ва коре, ки мо бояд барои коҳиш додани он анҷом диҳем, хеле равшан бошем. ... Ин яке аз самтҳои нигаронии ман аст, қобилияти умумии ин моделҳо барои идора кардан, бовар кунондан, пешниҳоди як навъ маълумоти як ба як, шумо медонед, дезинформатсияи интерактивӣ. ... Мо аз таъсири он ба интихобот хеле нигаронем. Ман фикр мекунам, ки ин соҳаест, ки умедворем, ки тамоми саноат ва ҳукумат метавонанд зуд якҷоя кор кунанд.
АМЙ ГУДМАНД: Ин ҳама дар ҳолест, ки Иёлоти Муттаҳида дар муқоиса бо Иттиҳоди Аврупо ва Чин дар танзими AI ақиб мондааст.
Барои бештар, ба мо Марк Ротенберг, директори иҷроияи Маркази AI ва сиёсати рақамӣ ҳамроҳ шудем.
Марк, хуш омадед Демократия ҳоло! Бо мо будани шумо хеле хуб аст. Ҳоло, хеле муҳим аст, ки шумо ин директори AI гуфтаед, ки "Лутфан моро танзим кунед". Аммо, дар асл, оё вай ин корро намекунад, зеро ӯ мехоҳад, ки корпоратсияҳо бо танзим ҷалб карда шаванд? Дар бораи он сӯҳбат кунед ва инчунин танҳо AI чист, барои одамоне, ки намефаҳманд, ки ин чӣ аст.
МАРК РОТЕНБЕРГ: Хуб, Ами, пеш аз ҳама, ба шумо ташаккур, ки маро дар барнома доред.
Ва дуюм, танҳо барои як қадам ба ақиб рафтан, Сэм Олтман дар ин ҳафта ҳангоми шаҳодат додан дар Конгресс таваҷҷӯҳи зиёд гирифт, аммо ман фикр мекунам, ки дар оғози муҳокимаи мо равшан нишон додан хеле муҳим аст, ки созмонҳои ҷомеаи шаҳрвандӣ, коршиносони AI, технология таҳиягарон солҳои зиёд мегӯянд, ки дар ин ҷо мушкилот вуҷуд дорад. Ва ман фикр мекунам, ки дар ин лаҳзаи муҳокимаи сиёсат хеле муҳим аст, ки мо эътироф мекунем, ки ин ақидаҳо аз ҷониби одамоне ба мисли Тимнит Гебру, Стюарт Рассел ва Маргарет Митчелл ва президенти созмони ман Мерве Хикок, ки дар аввали моҳи март шоҳидӣ дода буданд, баён карда шудаанд. Кумитаи назорати хонагӣ, ки мо танҳо кафолатҳо надорем, қоидаҳои қонунӣ надорем, мо дар ҳукумат барои тағироти босуръати технологӣ, ки ҳоло сурат мегирад, таҷриба надорем. Ҳамин тавр, дар ҳоле ки мо аз пуштибонии ҷаноби Олтман аз он чизе, ки умедворем қонунгузории қавӣ хоҳад буд, истиқбол мекунем, мо фикр намекунем, ки ӯ дар ин баҳси сиёсӣ бояд дар маркази таваҷҷӯҳ бошад.
Акнун, ба фикри шумо, AI дар бораи чӣ аст ва чаро ин қадар таваҷҷӯҳ зоҳир мешавад? Як қисми ин дар бораи тағироти хеле зуд дар технология ва саноати технологӣ аст, ки бисёриҳо надида буданд, ки он чӣ гуна буд. Мо дар тӯли солҳои зиёд бо AI мушкилот дорем. Мо имрӯз қарорҳои автоматикунонидашуда дорем, ки дар саросари кишвари мо ба таври васеъ паҳн карда мешаванд, ки дар бораи имкониятҳои одамон барои таҳсил, қарз, шуғл, манзил, озмоиш ва ҳатто барои ворид шудан ба кишвар қарор қабул мекунанд. Хамаи инро системахои автоматиконидашуда ба чо меоваранд, ки торафт бештар ба техникаи статистикй такья мекунанд. Ва ин усулҳои оморӣ дар бораи одамон қарор қабул мекунанд, ки аксар вақт ношаффофанд ва исбот карда намешаванд. Ва аз ин рӯ, шумо воқеан вазъияте доред, ки агентиҳои бузурги федералӣ ва ширкатҳои бузург қарор қабул мекунанд ва агар шумо баргардед ва гуфтед: "Хуб, чаро ман ин қарзро рад карданд?" ё "Чаро дархост барои раводиди ман ин қадар сол тӯл мекашад?" худи ташкилотхо чавобхои хуб надоранд.
Ҳамин тавр, ин қисман бо шаҳодати Олтман дар ин ҳафта инъикос ёфт. Вай дар сафи пеши як техникаи нави AI қарор дорад, ки онро умуман AI тавлидкунанда меноманд. Он маълумоти синтетикиро истеҳсол мекунад. Ва агар ман метавонам ба ифтитоҳи шумо дар бораи изҳороти сенатор Блументал тавзеҳот диҳам, онҳо воқеан сабт набуданд, ки барои мо истилоҳи хеле шинос аст. Ин чизест, ки мо ҳангоми шунидани садои касе фикр мекунем. Ин воқеан аз ҷониби изҳороти қаблии сенатор Блументал ба таври синтетикӣ тавлид шудааст. Ва дар он ҷо мо робитаро бо чунин мафҳумҳо ҳамчун қалбакии амиқ мебинем. Ин дар асл вуҷуд надорад, аммо барои он, ки системаи AI онро офаридааст.
Мо дар айни замон як мушкили бузург дорем, то кӯшиш кунем, ки ин навъи нави AI ва инчунин системаҳои қаблан вуҷуддоштаро танзим кунем, ки дар бораи одамон қарор қабул мекунанд, аксар вақт ғаразро дар бар мегиранд ва табъизи зиёди иҷтимоиро дар ҷаҳони ҷисмонии мо такрор мекунанд, ҳоло. дар ин маҷмӯи маълумот ба ҷаҳони рақамии мо интиқол дода мешавад. Ва ба мо қонуне лозим аст, ки посбонҳои заруриро муқаррар кунад.
НЕРМИН ШАЙХ: Марк Ротенберг, оё шумо метавонед дар бораи он, ки бисёре аз муҳаққиқони зеҳни сунъӣ аз он нигаронанд, ки зеҳни сунъӣ ба чӣ оварда расонад? Тадқиқоти охирин нишон дод, ки нисфи, 50% муҳаққиқони AI ба AI ҳадди аққал 10% имкони нобудшавии одамонро медиҳанд. Метавонед дар ин бора сӯҳбат кунед?
МАРК РОТЕНБЕРГ: Бале, комилан. Ва воқеан, ман, шумо медонед, яке аз шахсоне будам, ки ба он номае, ки дар авоили соли ҷорӣ паҳн шуда буд, имзо гузошта буд. Воқеан, ин як номаи баҳсбарангез буд, зеро он тамоюли таваҷҷуҳи худро ба хатарҳои экзистенсиалии дарозмуддат дошт ва он нигарониҳои аз даст додани назорат бар ин системаҳоеро, ки ҳоло таҳия мешаванд, дар бар мегирифт. Дар ҷомеаи AI як гурӯҳи дигаре ҳаст, ки ман фикр мекунам, ки дар бораи нигарониҳои мавҷуда хеле дуруст гуфтаанд, ки мо бояд ба нигарониҳои фаврӣ тамаркуз кунем. Ва ман, масалан, як лаҳза пеш дар бораи ғарази воридшуда ва такрори табъиз сухан гуфтам. Ин ҳоло рӯй дода истодааст. Ва ин мушкилотест, ки ҳоло бояд ҳал карда шавад.
Ҳоло, назари шахсии ман, ки ҳатман назари ҳар каси дигар нест, ин аст, ки ҳардуи ин гурӯҳҳо дар бораи куҷо будани мо ҳушдорҳои қавӣ мефиристанд. Ман боварӣ дорам, ки гурӯҳҳое, ки мегӯянд, ки мо хатари аз даст додани назорат дорем, ки аз он бисёр олимони барҷастаи компютерӣ, ки ҷоизаи Тюринг доранд, ки ба монанди Ҷоизаи Нобел дар соҳаи илмҳои компютерӣ мебошанд, ман фикр мекунам, ки онҳо дурустанд. Ман фикр мекунам, ки хатари воқеии аз даст додани назорат вуҷуд дорад. Аммо ман инчунин бо одамон розӣ ҳастам, ки дар Институти AI Now ва Пажӯҳишгоҳи Тадқиқотии AI мо бояд мушкилотро бо системаҳое, ки аллакай ҷойгир шудаанд, ҳал кунем.
Ва ин ҳам сабаби он аст, ки ман, ростӣ, аз шунидани ин ҳафта дар Сенат хеле шод будам. Ин як шунидани хеле хуб буд. Сухбатхои хеле хуб барпо гардиданд. Ман хис кардам, ки аъзоёни комитет бо тайёрии хуб омадаанд. Саволҳои хуб доданд. Дар бораи пешниҳодҳои мушаххас, ӯҳдадориҳои шаффофият, кафолатҳои дахолатнопазирӣ, маҳдудиятҳои ҳисоббарорӣ ва қобилияти AI баҳсҳои зиёд буданд. Ва ман он чиро, ки сенатор Блументал дар аввал гуфта буд, хеле тарафдорй кардам. Шумо медонед, ки ӯ гуфт: "Мо бояд қоидаҳои шаффофият, масъулиятро бунёд кунем ва мо бояд баъзе маҳдудиятҳоро барои истифода муқаррар кунем." Ман фикр мекардам, ки ин ҷои хубест барои оғози муҳокима дар Иёлоти Муттаҳида дар бораи чӣ гуна муқаррар кардани кафолатҳо барои истифодаи зеҳни сунъӣ.
НЕРМИН ШАЙХ: Ва, Марк Ротенберг, одамон дар бораи зеҳни сунъӣ чӣ манфиатҳо доранд? Ва бо назардошти суръате, ки шумо гуфтед, ин пешрафтҳои босуръати технологӣ паҳн мешавад, оё дар ин лаҳза роҳи боздошти он вуҷуд дорад?
МАРК РОТЕНБЕРГ: Хуб, ҳеҷ саволе нест, ки AI, ман ба таври васеъ гӯем - ва шумо медонед, албатта, ин истилоҳи васеъ аст ва ҳатто коршиносон, албатта, ҳатто дар бораи он чизе ки мо дар назар дорем, розӣ нестанд, аммо биёед бигӯем, ки AI, ба таври васеъ гӯем, шумо медонед, ки ба навоварӣ дар соҳаи тиб саҳм мегузорад, масалан, пешрафтҳои калон бо қабати сафеда. Он ба самаранокии идоракунии ташкилотҳо, роҳҳои беҳтари ошкор кардани камбудиҳои бехатарӣ дар маҳсулот, дар нақлиёт мусоидат мекунад. Ман фикр мекунам, ки ҳеҷ баҳс нест. Ман дар назар дорам, ки ин каме монанди сухан дар бораи оташ ё барқ аст. Ин яке аз ин захираҳои бунёдӣ дар асри рақамӣ мебошад, ки ба таври васеъ истифода мешавад. Аммо мисли оташ ё нерӯи барқ, мо мефаҳмем, ки барои нигоҳдорӣ - барои ба даст овардани фоида, шумо медонед, ки шумо инчунин бояд баъзе кафолатҳо ва баъзе маҳдудиятҳоро гузоред. Ва шумо мебинед, ки мо воқеан дар лаҳзае ҳастем, ки техникаи AI ба таври васеъ бо ягон кафолат ё маҳдудият истифода мешавад. Ва ин аст, ки чаро ин қадар одамон дар ҷомеаи AI нигаронанд. Ин на он аст, ки онҳо манфиатҳоро намебинанд. Ин аст, ки онҳо хатарҳоро мебинанд, агар мо ин роҳро идома диҳем.
АМЙ ГУДМАНД: Хуб, мо мехоҳем дар бораи он ки ин кафолатҳо бояд чӣ гуна бошанд, сӯҳбат кунем ва дар бораи он, ки зеҳни сунъӣ метавонад ба нобудшавии одамон дар рӯи замин оварда расонад. Мо бо Марк Ротенберг, директори иҷроияи Маркази AI ва сиёсати рақамӣ сӯҳбат мекунем. мекунем Қисми 2, онро онлайн дар democracynow.org ҷойгир кунед. Ман Ами Гудман бо Нермин Шайх ҳастам.
Қисми 2: Таърихи зеҳни сунъӣ, чӣ гуна он ғаразро дар бар мегирад ва коргаронро овора мекунад, зеро Конгресс аз танзим қафо мемонад
АМЙ ГУДМАНД: Ин аст, Демократия ҳоло!, democracynow.org, Гузориши ҷанг ва сулҳ. Ман Ами Гудман бо Нермин Шайх ҳастам, вақте ки мо қисми 2-и сӯҳбати худро бо Марк Ротенберг, директори иҷроияи Маркази AI ва сиёсати рақамӣ пешкаш мекунем.
Вақте ки бештари мардум дар бораи зеҳни сунъӣ ё AI огоҳ мешаванд, Сенат рӯзи сешанбе дар бораи чӣ гуна танзим кардани он як ҷаласа баргузор кард. Сенатори Калифорния Алекс Падилла аз он изҳори нигаронӣ кард, ки аксари таҳқиқот дар бораи AI ба забони англисӣ гузаронида шуда, забонҳои дигар сарфи назар карда шудаанд.
СЕН. АЛЕКС ПАДИЛЛА: Фаҳмиши ман ин аст, ки бештари таҳқиқот дар мавриди арзёбӣ ва кам кардани зарари адолат ба забони англисӣ мутамарказ шудааст, дар ҳоле ки ба забонҳои ғайриинглисӣ таваҷҷуҳи кам ё сармоягузорӣ гирифтаанд ва мо ин мушкилотро қаблан мушоҳида кардаем. Ман ба шумо мегӯям, ки чаро ман инро баланд мекунам. Масалан, ширкатҳои васоити ахбори иҷтимоӣ ба абзорҳо ва захираҳои модератсияи мундариҷа барои забони ғайриинглисии худ ба таври кофӣ сармоягузорӣ накардаанд - бо забони ғайриинглисӣ. Ва ман инро на танҳо аз рӯи нигаронӣ барои корбарони ғайримуқими ИМА мубодила мекунам, балки бисёр корбарони муқими ИМА дар муоширати худ ба ғайр аз забони англисӣ бартарӣ медиҳанд. Аз ин рӯ, ман аз такрори нокомии васоити ахбори иҷтимоӣ дар абзорҳо ва барномаҳои AI сахт нигаронам.
АМЙ ГУДМАНД: Инчунин дар мурофиа профессори фахрии психология ва неврологияи Донишгоҳи Ню-Йорк Гари Маркус шаҳодат дод.
ГАРИ Маркус: Яке аз чизҳое, ки маро аз GPT-4 бештар ба ташвиш меорад, ин аст, ки мо намедонем, ки он дар чӣ таълим дода шудааст. Ман гумон мекунам, ки Сэм медонад, аммо дигарон намедонанд. Ва он чизе, ки ба он таълим дода мешавад, барои ғаразҳои система оқибатҳо дорад. Мо метавонем дар ин бора бо истилоҳи техникӣ сӯҳбат кунем, аммо чӣ гуна ин системаҳо одамонро ба он оварда метавонанд, аз он вобаста аст, ки кадом маълумот дар бораи онҳо таълим дода мешавад. Ва аз ин рӯ, ба мо шаффофият лозим аст. Ва эҳтимол ба мо лозим аст, ки олимон дар он ҷо таҳлил кунанд, то бифаҳмем, ки таъсири сиёсии ин системаҳо чӣ гуна буда метавонад. Ва ин танҳо дар бораи сиёсат нест. Он метавонад дар бораи саломатӣ бошад. Он метавонад дар бораи ҳама чиз бошад. Ин системаҳо маълумоти зиёдеро аз худ мекунанд ва сипас он чизе, ки онҳо мегӯянд, ин маълумотро инъикос мекунанд ва онҳо вобаста ба он чизе, ки дар он маълумот мавҷуд аст, онро ба таври гуногун иҷро хоҳанд кард. Ҳамин тавр, агар онҳо омӯзонида шаванд, фарқ мекунад The Wall Street Journal мисли он ки ба мухолифат The New York Times ё Reddit. Ман дар назар дорам, дар асл, онҳо асосан дар бораи ҳамаи ин чизҳо омӯзонида шудаанд, аммо мо аслан таркиби онро намефаҳмем. Ва аз ин рӯ, мо ин масъалаи таҳрики эҳтимолиро дорем. Ва ин боз ҳам мураккабтар аз он аст, зеро он манипуляцияи нозук аст. Одамон шояд аз он чизе, ки рӯй дода истодааст, огоҳ нестанд.
АМЙ ГУДМАНД: Ҳамин тавр, мо бо Марк Ротенберг, директори иҷроияи Маркази AI ва сиёсати рақамӣ идома медиҳем. Ва ин ҳама нуктаҳои воқеан муҳиманд, ки дар ҷаласаи Сенат ба миён гузошта шуданд. Аммо пеш аз он ки шумо ба онҳо муроҷиат кунед, ҳама чиз аз он ҷумла, масалан, аксари тадқиқотҳо дар бораи AI-и англисӣ анҷом дода мешаванд, ба мо таърихи зеҳни сунъиро диҳед.
МАРК РОТЕНБЕРГ: Хуб, ин саволи олӣ аст, Ами. Ва ман солҳои зиёд дар ин соҳа ҳастам. Дар ёд дорам, шумо медонед - вой, ба солҳои 1970 бармегардем ва одамон дар бораи он сӯҳбат мекарданд, ки оё компютер шоҳмотбози одамро мағлуб карда метавонад. Ва дар рӯзҳои аввал ба компютер ва шоҳмот таваҷҷӯҳи зиёд дошт. Ва дар он ҷо ман кори аввалини худро анҷом додам. Ва мо он чизеро, ки мо системаҳои AI номида будем, тарроҳӣ мекардем; онҳо воқеан системаҳои коршиносӣ, дарахтони бузурги қарорҳо дар асоси қоидаҳо буданд. Ва шумо воқеан, бо компютер метавонистед як барномаи қавӣ нависед, ки асосан ба мавқеи мушаххас, имконоти мухталиф арзёбӣ карда, баҳо дода мешавад, беҳтарин вариантро интихоб кунед, беҳтарин ҳаракатро пешгӯӣ кунед ва амиқтар ва амиқтар ба он равед. дарахти қарор дар асоси қудрати ҳисоббарории шумо. Ва он барномаҳо воқеан хеле қавӣ шуданд. Ман дар Филаделфия будам, воқеан, соли 1997, вақте ки барномаи IBM , Deep Blue, қаҳрамони ҷаҳон оид ба шоҳмот Гарри Каспаровро мағлуб кард, ки ин лаҳзае буд, медонед? Дар назар дорам, ки компютере ҳаст, ки одамро дар фаъолияти хеле пешрафта мезад, ки баъзеҳо мегӯянд.
Аммо ин нуктаи муҳимест, ки шунавандагони шумо фаҳманд. Ҳатто дар он вақт дар солҳои 1990-ум, вақте ки компютер Каспаровро зада метавонист, шумо метавонистед барномаро кушоед. Шумо метавонед бубинед, ки ҳаракатҳо чӣ гуна сохта шудаанд. Шумо метавонед дарахти қарорро пайгирӣ кунед. Шумо медонед, ки таҷрибаи бештари гроссмейстерро дар вазифаи охири бозӣ илова мекардед, агар компютер бо ин мушкилӣ дошта бошад. Ва он воқеан чизе буд, ки дар ихтиёри инсон буд, чуноне ки технология пешрафта буд. Аммо AI иваз шуданро оғоз кард ва AI ба техникаи омӯзиши мошинҳо гузашт. Ва ман аслан дар он ҷо коршинос нестам, аммо ман метавонам ба шумо бигӯям, ки дар маҷмӯъ, усулҳои омӯзиши мошинсозӣ миқдори зиёди маълумот ва коркарди зиёдеро дар дохили барнома дар бар мегирад, то кӯшиш кунед, ки чӣ гуна пайдо кардани натиҷаи беҳтаринро арзёбӣ кунед.
Ҳамин тавр, ман ҳоло ба шумо дар бораи бозии дигари шоҳмот нақл мекунам, ки дар соли 2017 чӣ рӯй дода буд. Ва дар он сол, як барномаи нав, ки бар омӯзиши мошинсозӣ асос ёфтааст, бо номи AlphaZero барномаи компютерии услуби кӯҳнаро бо номи Stockfish шикаст дод. яке бо дарахтони қарор, ки шумо метавонед кушода ва ислоҳ кунед. Ва одамон ба натиҷа нигаристанд ва онҳо ба ҳайрат афтоданд. AlphaZero, шумо медонед, иқдомҳои олиҷаноб кардааст. Он қаҳрамони амалкунандаи компютерро, ки аллакай аз қаҳрамони феълии инсонӣ беҳтар буд, шикаст дод. Аммо одамон натичахои онро исбот карда натавонистанд. Онҳо фаҳмида наметавонистанд, ки чаро барнома як иқдоми мушаххас кардааст, зеро ҳоло маълумоти омӯзишӣ хеле мураккаб буд ва тартиб ва усулҳо, шумо медонед, хеле мураккаб буданд.
Ва ман фикр мекунам, ки барои бисёриҳо ин нигаронии воқеӣ буд. Шумо медонед, аз як тараф, шумо ин ҳисси бузурги комёбиро доред, ки ман онро одамони AlphaZero ва DeepMind медонам, ки дар ин лоиҳа ширкат доштанд. Ва аз тарафи дигар, шумо аз он дур мешавед ва ба худ савол медиҳед: Чӣ мешавад, агар яке аз ин системаҳо барои машварат ба президент дар як муноқишаи ҷаҳонӣ ё таҳияи лоиҳа, қонунгузорӣ ё таҳияи ташхиси тиббӣ истифода мешуд? Оё шумо воқеан мехоҳед, ки натиҷаҳоеро, ки исбот карда намешаванд, такрор карда намешаванд ва ба ҳама усулҳои анъанавии усули илмӣ риоя намекунанд?
Ва ин нигаронӣ, шумо медонед, ки дар пасманзар ба назар мерасид, бигӯед, ба наздикӣ аз сабаби ChatGPT суръат гирифт, зеро акнун шумо қобилияти пешрафтаи AI -ро дидед - биёед онро дар айни замон, AI-и пешрафта - истеҳсоли матн, истеҳсол суханронӣ, истеҳсоли тасвирҳо, истеҳсоли видео ва ҳатто одамоне, ки системаҳоро офаридаанд, натавонистанд ба шумо дақиқ фаҳмонанд, ки ин чӣ гуна рӯй дод.
Ва аз ин рӯ, масалан, бармегардам ба клипҳо дар аввал, шумо медонед, ки сенатор Падилла комилан дуруст аст. Ман дар назар дорам, ки мо системаро чӣ гуна арзёбӣ мекунем, вақте ки мо аллакай медонем, ки дар маълумоти омӯзиш ғаразнок мавҷуд аст, агар он ҳама матни забони англисӣ бошад? Ва Гари Маркус комилан дуруст буд. Ман дар назар дорам, ки ӯ ин тӯфони комил номид. Шумо медонед, ӯ гуфт, ки мо корпоратсияҳое дорем, ки бо маҳсулоти нав шитоб мекунанд, мо ҳеҷ гуна посбонҳо надорем ва мо як хатари бузург дорем, шумо медонед, ки барои ҷомеаи ин системаҳои танзимнашаванда.
Ҳамин тавр, ман мисоли шоҳмотро истифода мебарам, то ба одамон фаҳманд, ки роҳи иҷрои AI вуҷуд дорад, ки дар он шумо назоратро нигоҳ доред, навоварӣ ба даст меоред, натиҷаҳои аҷибе доред ва роҳи иҷрои AI вуҷуд дорад, ки шумо медонед, ошкоро, каме даҳшатнок аст.
НЕРМИН ШАЙХ: Ва нигарониҳои мушаххас кадомҳоянд? Ман дар назар дорам, пеш аз ҳама, Марк, агар шумо фаҳмонед, ки зеҳни умумии сунъӣ ва нигарониҳои мушаххас дар ин бора чӣ гунаанд? Ман дар назар дорам, ки оё ин AlphaZero - оё он намунаи зеҳни умумии сунъӣ буд? Агар шумо танҳо шарҳ медодед?
МАРК РОТЕНБЕРГ: Дуруст. Ҳамин тавр, ба таври умум гӯем, мо дар гузашта дар бораи AI ҳамчун кӯмак дар ҳалли мушкилоти мушаххас фикр мекардем, масалан вақте ки радиолог кӯшиш мекунад, ки рентгенро тафсир кунад. Ҳоло мо усулҳои ба AI асосёфта дорем, ки дар асоси маълумоти зиёди омӯзишӣ, ки кори бениҳоят хубро иҷро мекунанд, шумо медонед, ки хатари саратонро тавассути ташхиси тасвири рақамии аз ҷониби рентген тавлидшуда муайян мекунад. Ва мо дар бораи он фикр мекардем, ки мисли шоҳмот, ҳамчун як барномаи мушаххаси AI.
Ҳоло саволи ҷолиб ин аст, ки оё мо метавонем системаҳои AI-ро таҳия кунем, ки метавонанд дар доменҳои гуногун ҳаракат кунанд ва бидуни омӯзиш дар ягон соҳаи мушаххас фаҳмиш диҳанд. Ва, воқеан, модели пешниҳодкардаи AlphaZero як мисоли ин аст, зеро мебинед, он барнома, гарчанде ки дар шоҳмот хеле хуб буд, аслан аз рӯи таҷрибаи гроссмейстерҳо таълим гирифта нашудааст. Ин як системаи коршиносии кӯҳна набуд. Ин воқеан як системаи ба қоида асосёфта буд, ки гуфт: «Ин бозӣ чӣ гуна бозӣ карда мешавад? Хуб, ҳоло ман меравам, худамро 10 миллион маротиба бозӣ мекунам" ва хеле қавӣ шудам.
Мо инро инчунин бо AI-и тавлидшаванда мебинем, ки шумо медонед, ки дар матни интернет омӯзонида шуда, матни дархостҳои тамғаи молӣ ва матни китобҳои бузург омӯхта шудааст. Вақте ки шумо ин қадар маълумоти зиёд доред, шумо медонед, шумо метавонед саволе диҳед, ки "панҷ рассоми беҳтарини Ренессанс киҳоянд?" Ҷавоби ҳайратангези хуб гиред ва пас аз он савол диҳед, ки шумо медонед, ки "Агар хона оташ гирад, кадом қоидаҳои бехатарӣ беҳтар аст?" ва боз як ҷавоби хеле хуб. Ин аст он чизе, ки шумо медонед, AI-и умумӣ чунин ҳис мекунад, зеро он ба як барномаи мушаххасе нест, ки касе пешакӣ муайян кардааст.
НЕРМИН ШАЙХ: Марк, биёед ба шунидани рӯзи сешанбе баргардем ва муҳокима кунем, ки баъзе аз роҳҳои танзими ин технология кадомҳоянд. Раиси Зеркумитаи Суди Сенат Ричард Блументал инчунин аз хатари такрори хатогиҳои банди 230, ду-се-сифр ҳушдор дод, ки ширкатҳои интернетиро аз масъулият барои мундариҷаи ғайриқонунии интишоркардаи корбарон муҳофизат мекунад ва ба онҳо имкон медиҳад, ки паёмҳои қонунӣ, вале норозиро хориҷ кунанд.
СЕН. Ричард Блюментал: Вақте ки ширкатҳои AI ва мизоҷони онҳо зарар мерасонанд, онҳо бояд ба ҷавобгарӣ кашида шаванд. Мо набояд хатогиҳои гузаштаи худро такрор кунем - масалан, Қисмати 230. Маҷбур кардани ширкатҳо ба фикрронии пешакӣ ва масъул барои оқибатҳои қарорҳои тиҷоратии худ метавонад воситаи пурқувваттарин аз ҳама бошад. Партовҳо дарунанд, партовҳо хориҷ мешаванд - ин принсип то ҳол амал мекунад. Мо бояд аз партовҳо эҳтиёт шавем, хоҳ он ба ин платформаҳо ворид мешавад ё аз онҳо берун меояд.
НЕРМИН ШАЙХ: Марк Ротенберг, агар шумо ба гуфтаҳои сенатор Блументал посух медодед?
МАРК РОТЕНБЕРГ: Дуруст. Хуб, ман аз ин сухани ӯ хеле шод шудам. Ин воқеан як назаре буд, ки шумо медонед, ки аз ҷониби аъзои ҳарду ҳизб дар саросари гузар баён шуда буд. Дар ин ҷо истинод ба муқаррароти қонуни соли 1996 аст, ки ба ширкатҳои интернетӣ барои иттилооте, ки онҳо интишор кардаанд, дахлнопазирии васеъ фароҳам овардааст ва ошкоро, тавассути модели таблиғоте, ки дар тӯли солҳо таҳия шудааст, фоида ба даст овардааст. Ман соли 1996 дар таҳияи лоиҳаи қонун ширкат доштам. Дар он вақт, он мувофиқ ҳис мекард. Интернет ҳанӯз дар рӯзҳои аввали худ буд ва ширкатҳои бузурги технологӣ вуҷуд надоштанд, ки мисли имрӯз бартарӣ доранд.
Аммо ман фикр мекунам, ки барои бисёре аз мо маълум шуд - ман медонам - бо мурури замон, ки фасли 230 бояд ислоҳ карда шавад, агар бекор карда нашавад. Яке аз оқибатҳои ногувори ин муқаррароти дахлнопазирӣ ин буд, ки ба ширкатҳои интернетӣ имкон дод, ки шумораи зиёди хонандагон ва даромади созмонҳои хабарии анъанавиро ҷамъ кунанд. Ҳамин тавр, ба таври ғайриоддӣ, дар ҳифзи ширкатҳои интернетӣ, он воқеан созмонҳои хабариро, ки мекӯшиданд, кори худро дар интернет дастрас кунанд, бад кард. Ва ман аз ин хеле ва хеле ғамгин шудам.
Аммо боз ҳам, хушхабар ин аст, ки сенатор Блументал ва дигарон асосан гуфтаанд, ки дар мавриди саноати AI, онҳо бори дигар ба ин хатогӣ роҳ нахоҳанд дод. Ва дидани он воқеан хеле осон аст, ки чӣ тавр ҳамон як мушкилот метавонад ба миён ояд, зеро ин моделҳои AI, бахусус моделҳои тавлидкунандаи AI, асосан аз дигарон то ҳадди имкон маълумот ҷамъ мекунанд ва ман фикр мекунам, нигоҳ доштани он хеле душвор хоҳад буд. корхонаю ташки-лотхои мустакил бе муносибати бехтар ба масъулият. Ҳамин тавр, ин як сигнали мусбат буд ва ба фикрам, дастгирии дуҷониба вуҷуд дошт.
АМЙ ГУДМАНД: Иҷозат диҳед аз шумо, Марк Ротенберг, дар бораи корпартоии WGA , ки идома дорад ва чӣ гуна ин ба AI робита дорад, пурсам. Шумо, масалан - хуб - хуб, он ба Ҳуҷҷаи сеюми худ ворид карда мешавад ва олимони компютерӣ Паёмҳои сунъӣ метавонад ба соҳаи зеҳнии сунъӣ тавонанд ва дар бораи он ки ҳомила барои муҳофизат кардани актерҳо халал расонанд. Аммо дар бораи он, ки WGA аз студияҳо чӣ гуна аст ва чаро зеҳни сунъӣ ин қадар марказӣ аст ва ба ҷойҳои корӣ таҳдид мекунад, сӯҳбат кунед.
МАРК РОТЕНБЕРГ: Дуруст. Ман дар бораи муқаррароти WGA каме фаҳмидам — бубахшед, мавқеъ дар гуфтушуниди ҷорӣ. Ман тасодуфан яке аз нуктаҳои гуфтушунидро дидам ва он ба он дахл дошт, ки оё воқеан метавон техникаи тавлидкунандаи AI-ро барои навиштани скриптҳо истифода бурд. Ва ман фикр мекунам, ки иттифоки касаба комилан дуруст мехохад дар он чо хатти катъй кашад ва бигуяд: «Не, мо намехохем, ки кори мо бо мошинхо иваз карда шавад».
Ва мо онро аллакай дар соҳаи ахбор мебинем, воқеан. Яке аз ташкилотхои ахбор — Номашро фаромуш кардаам, вале онхо, медонед, ихтисори кадрхоро эълон карданд, зеро онхо самараю сарфакорй ва баъд, руирост, даромаднокии бештарро мебинанд, агар истифода бурда тавонанд, фарз кардем, як назоратчй ва. 10 барномаи тавлидкунандаи AI, бар хилофи муҳаррир ва 10 нависанда. IBM, воқеан, ба наздикӣ эълон кард, ки бисёре аз кормандони худро бо барномаҳое иваз мекунад, ки ба эътиқоди он метавонад ин масъулиятҳоро бар дӯш гирад.
Ҳоло, албатта, дар ин соҳа муддати тӯлонӣ баҳси ҷолиб дар бораи таъсири технология ба шуғл вуҷуд дорад. Ва ақида вуҷуд дорад, ки шумо медонед, ҳарчанд баъзе ҷойҳои корӣ аз даст рафтаанд, ҷойҳои нави корӣ пайдо мешаванд ва аксар вақт онҳо метавонанд ҷойҳои кории беҳтар бошанд. Ман коршиноси ин мавзӯъ нестам, аммо инро мегӯям. Тағйироте, ки ҳоло рух дода истодааст, хеле зуд ба амал меояд, ман дар ҳақиқат ҳайронам, ки оё ҳатто онҳое, ки боварӣ доранд, ки ҷойҳои нави корӣ пайдо мешаванд, дар ниҳоят фикр мекунанд, ки ин ба зудӣ ба амал меояд. Ва мутолиае, ки ман аз бисёре аз тарафдорони пешбари AI анҷом додаам - масалан, Кай-Фу Ли дар Чин ва Эрик Шмидт дар ин ҷо дар ИМА - шумо медонед, ҳарду мехоҳанд ҳукуматро аз роҳ дур кунанд ва мехоҳанд AI бояд ба таври васеъ ҷорӣ карда шавад. Онҳо сатҳи баланди бекориро интизоранд. Ва бисёриҳо дар бораи эҳтиёҷоти афзояндаи даромади асосии универсалӣ барои кӯмак ба одамоне, ки аз сабаби AI ҷои корашонро аз даст медиҳанд, сӯҳбат мекунанд. Ҳамин тавр, барои ман, ин лаҳза воқеан назар ба мубоҳисаи анъанавӣ дар бораи технология ва шуғл каме бештар ба назар мерасад. Ва ман фикр мекунам дуруст аст, ки Иттиҳодияи нависандагон ҳоло ин масъалаҳоро матраҳ кунад. Ман гумон мекунам, ки бисёре аз дигарон низ хоҳанд буд.
АМЙ ГУДМАНД: Ва шумо медонед, албатта, дар ин ҷо шӯрбои алифбои зиёде мавҷуд аст, аз AI то WGA, ки он тавре ки шумо гуфтед, Гильдияи нависандагони Амрико. Нермин?
НЕРМИН ШАЙХ: Ҳамин тавр, Марк, агар шумо инчунин тавзеҳ дода тавонед - Ман дар назар дорам, хатарҳои зиёде вуҷуд доранд, ки одамон дар бораи он, ки зеҳни сунъӣ метавонад ба раванди демократӣ на танҳо дар ин ҷо, балки дар ҳақиқат дар тамоми ҷаҳон ишора кунад. Агар шумо фаҳмонед, ки ин чӣ гуна рӯй дода метавонад ва мо аллакай шоҳиди он будем?
МАРК РОТЕНБЕРГ: Дуруст. Ҳамин тавр, ин як соҳаи дигарест, ки AI хеле зуд ҳаракат мекунад. Ва ман фикр намекунам, ки мо таҷрибаи кофӣ ё қоидаҳои вокуниш ба оқибатҳоро надорем, бахусус дар Иёлоти Муттаҳида, ки дар он ҷо, мутаассифона, шумо медонед, ки нобоварӣ ба ниҳодҳо афзоиш ёфтааст, нобоварӣ ба гузоришҳои хабарӣ афзоиш ёфтааст, воқеан нотавонӣ барои мувофиқа кардан. дар бораи фактхои асосй. Шумо метавонед ин тамоюлҳоро тавассути усулҳои AI афзоиш диҳед ва суръат бахшед.
Ва ба ман иҷозат диҳед мухтасар шарҳ диҳам, ки ин чӣ гуна кор мекунад. Мо метавонем фикр кунем, масалан, нигаронии анъанавӣ, шумо медонед, таблиғ ё изҳороти бардурӯғ аст, ки барои иштибоҳ андохтан, одамонро гумроҳ кардан нашр мешаванд. Дар бораи ин намуди муошират ҳеҷ чизи нав нест - маълумоти бардурӯғ, мо онро низ номида метавонем. Бо усулҳои AI ва бо маълумоти шахсӣ, ҳоло қобилияти ҳадаф, профил, ҷалб, домод кардани шахсони алоҳида вуҷуд дорад, ки хеле самаранок, хеле боварибахш ва воқеан пешгӯӣ кардан ё арзёбӣ кардан хеле душвор аст. Ин яке аз масъалаҳое аст, ки Гари Маркус дар ин ҳафта бо кумита бардошт. Ман дар назар дорам, ки мо бо одамон муошират дорем, шумо медонед, тавассути телефон, бигӯед, ё тавассути Zoom. Мо метавонем ҳукм кунем, ки мо бо кӣ сӯҳбат мекунем ва чаро онҳо чӣ мегӯянд, ва мо қобилияти муайяни баҳодиҳии рафтори инсонро дорем, ки ба мо ҳадди аққал ҳақиқат ва дурӯғро ҷудо мекунад. Бо AI тавлидкунанда, такрор кардани овози инсон, калимаҳои инсонӣ, тасвирҳои инсонӣ ва видео барои бовар кунонидани одамон торафт осонтар ва арзонтар мешавад.
Ҳамин тавр, сенатор Блументал, дар он клипе, ки шумо дар ибтидо пешниҳод кардед, воқеан дар мисоли худ хеле нарм буд, зеро ӯ аз барнома хоҳиш кард, ки танҳо калимаҳоеро бигӯяд, ки эҳтимол дар асоси изҳороти қаблии худ гуфта буд. Дар асл ин ба ӯ монанд буд. Аммо биёед як сенарияи дигарро тасаввур кунем, шояд аз рақиби сенатор Блументал дар сабқати навбатии сенат дар Коннектикут, ки ҳамон технологияро истифода мебарад ва сенатор Блументал бо садои худ чизҳои воқеан хашмгинро мегӯяд, дуруст? Он гуна чизҳое, ки шумо мегӯед - мешунавед ва меравед: "Эй Худои ман! Оё ӯ дар ҳақиқат чунин гуфта буд? ” Ва он гоҳ, албатта, шумо медонед, Блументал дар ин ҳолат гузошта мешавад, ки мегӯяд: "Хуб, ин ман набуд. Медонед, ин як барномаи компютерие буд, ки рақиби ман сохтааст. Ман ҳеҷ гоҳ чунин суханҳоро намегӯям." Ва одамоне, ки ҳоло ин ду изҳороти ба ҳам зид доранд, чунинанд: "Бале, аммо, медонед, ин ба шумо хеле монанд буд. Дуруст?»
Ва ин сенария, ман фикр мекунам, ки бисёр одамон дар ҷаҳони AI воқеан нигаронанд. вуҷуд дорад мақола, Ман фикр мекунам, танҳо ин ҳафта дар Дар Атлантик аз ҷониби файласуф дар Tufts, ки дар бораи эҷоди одамони қалбакӣ сӯҳбат мекунад. Генератив AI имкон медиҳад, ки одамони қалбакӣ эҷод карда шаванд. Ва мо бояд малакаҳои муҳимро инкишоф диҳем, вақте ки мо тавассути ин муҳити рақамӣ маневр мекунем, то бидонед, ки чӣ дуруст аст ва чӣ не.
АМЙ ГУДМАНД: Медонед, шумо метавонед дар бораи ҳама чизҳо фикр кунед. Масалан, Доналд Трамп дар интихоботи президентӣ номзад аст - на ин ки вай ба далелҳо аҳамият медиҳад, аммо, шумо медонед, навори ӯ даҳсолаҳо пеш гуфта буд, ки чӣ тавр ӯ ба ҳуқуқи занон барои интихоби исқоти ҳамл боварии комил дорад. Вай гуфт: «Медонед, ман аз Ню Йорк омадаам. Ҳамин тавр, ман чунин ҳис мекунам. ” Танҳо метавон гуфт, ки ин технологияи амиқи қалбакӣ аст. Шумо ин наворҳои охирини Ҷулианиро доред, ки аз додгоҳ бар зидди ӯ мебароянд ва дар он зане, ки ӯро дар таҷовузи ҷинсӣ муттаҳам мекунад, як қатор чизҳоро сабт кардааст. Вай танҳо метавонад бигӯяд: "Ин қалбакии амиқ аст." Шумо технологияи амиқи қалбакӣ доред, ки аз ҷониби зеҳни сунъӣ дастгирӣ карда мешавад, ки аллакай ба интихоботи демократӣ дар Туркия халал мерасонад. Дар интернет як навори ҷинсии як номзад ба мақоми президентӣ дар арафаи даври аввали овоздиҳии рӯзи якшанбеи гузашта нашр шуд. Вай аз мусобиқа даст кашид ва гуфт, ки ин як видеои қалбакӣ, қалбакӣ, тасвирҳои қалбакӣ аст. Ҷавоби шумо?
МАРК РОТЕНБЕРГ: Хуб, Эми, нуқтаи шумо воқеан хеле муҳим аст, зеро ман тавсиф мекардам, ки чӣ гуна усулҳои AI-ро барои бовар кунонидани одамон бо маълумоти бардурӯғ истифода бурдан мумкин аст, аммо мавҷудияти усулҳои AI метавонад муайян кардани ҳақиқатро душвор созад, зеро дигарон метавонанд пас аз он бигӯянд: "Оҳ, хуб, шумо медонед, он видеое, ки шумо эҷод кардед", дуруст аст, ки "аз ҷониби AI тавлид шудааст ва аз ин рӯ, чизест, ки одамон онро рад мекунанд." Ҳамин тавр, вақте ки мо ба даврае ворид мешавем, ки истеҳсол ва итминон бо маводи синтетикии аз ҷониби AI тавлидшуда ва инчунин коҳиш додани он чизе, ки ҳақиқӣ аст, тавассути зери шубҳа гузоштани он чизе, ки мо дар ҷаҳони рақамӣ мебинем, торафт осонтар мешавад, ин воқеан таҳдид мекунад ақли ҷамъиятӣ ва ба институтҳои демократӣ.
Ва ин ҳам - медонед, ман танҳо мегӯям, ки ман кардам Шарҳи чанде пеш аз китоби Эрик Шмидт ва Ҳенри Киссинҷер, Ҳуттенлохер дар MIT, ном дорад. Синну соли AI. Ва онҳо ба таври умум дар бораи имкони он ки AI ба қабули қарорҳои беҳтар ва дастгирии институтҳои демократӣ оварда мерасонад, хушҳол буданд. Ва ман он китобро хондам ва ба мисолҳои онҳо назар кардам ва бо хулосаи қариб баръакс баромадам. Медонед, онҳо гуфтанд, ки ин моро аз синни ақл берун хоҳад бурд ва ман гуфтам, ки ин моро ба асри имон бармегардонад, ки мо бояд танҳо ба баромади системаҳои AI такя кунем ва қобилияти мулоҳиза карданамонро аз даст диҳем. дар заминаи демократия мубохиса ва мубохиса кунанд.
Аммо бидуни, шумо медонед, ки дар ин ҷо хеле паст шудам, ман бори дигар мехоҳам бо шумо ва тамошобинон ва шунавандагони шумо мубодила кунам, муҳокимаи Сенат ин ҳафта хеле хуб буд. Ин воқеан як марҳилаи муҳим ва пешрафти мусбат дар Иёлоти Муттаҳида буд. Тавре ки шумо дар оғози ин сегмент гуфтед, ИМА аз дигар кишварҳо ақиб мондааст. Мо воқеан гузориши солонаеро бо номи "Индекси интеллектуалии сунъӣ ва арзишҳои демократӣ" таҳия мекунем ва мо кишварҳоро дар асоси сиёсатҳо ва таҷрибаҳои AI оид ба мутобиқшавӣ ба арзишҳои демократӣ баҳогузорӣ ва гурӯҳбандӣ мекунем. Ва мо дар тӯли чанд соли охир воқеан дар бораи Иёлоти Муттаҳида нигарон будем - вохӯриҳои аз ҳад зиёди махфӣ, вохӯриҳои аз ҳад зиёд бо директорони технологӣ, пешрафти кофӣ дар қонунгузорӣ. Аммо ман фикр мекунам, ки мо ба гӯшае бармегардем ва ман фикр мекунам, ки ҷаласаи ин ҳафтаи Сенат, ки он тавре ки ман дар аввал гуфтам, воқеан ба баъзе нигарониҳои ҳамтои ман Мерве Хикок дар ҷаласаи "Назорати палатаи хонагӣ" дар авоили моҳи март посух дод. дар ҳақиқат хабари хуб аст.
НЕРМИН ШАЙХ: Марк Ротенберг, шумо инчунин метавонед тавзеҳ диҳед, ки нигарониҳо дар бораи истифодаи зеҳни сунъӣ, технологияи шинохти чеҳра, биометрия дар полис ва муҳоҷират баён карда шудаанд?
МАРК РОТЕНБЕРГ: Дуруст. Пас, ин як мавзӯи хеле муҳим аст. Ва ин воқеан моро ба яке аз баҳсҳои интиқодӣ дар бораи сиёсати AI мебарад, яъне оё ҳукуматҳо қодир хоҳанд буд, ки хатҳои сурхро барои эҷоди мамнӯъиятҳо дар бораи усулҳои муайяни AI, ки ҳуқуқҳои бунёдии инсонро вайрон мекунанд, ҷалб кунанд. Дар ҷаҳони технология тамоюле вуҷуд дорад, ки вақте мушкилот муайян карда мешавад, мегӯянд: "Оҳ, шумо медонед, ки шумо дар он ҷо ҳастед. Биёед бубинем, ки оё мо инро ислоҳ карда метавонем. Ва он гоҳ, ки ҳоло мо мушкилотро ҳал кардем, бо система пеш меравем. ” Ман фикр мекунам, ки созмонҳои ғайридавлатӣ ва созмонҳои ҳуқуқи башар мегӯянд, воқеан барномаҳои муайяни AI вуҷуд доранд, ки набояд иҷозат дода шаванд.
Ҳамин тавр, масалан, истифодаи AI барои назорати чеҳра. Ва ман ин истилоҳ, "назорати чеҳра" -ро асосан барои фарқ кардани намуди шинохти чеҳрае, ки мо ҳангоми кушодани iPhone-и худ мекунем, истифода мебарам ва ин як техникаи аутентификатсия дар доираи назорати шумост. Ин аслан мушкилот нест. Аммо вақте ки шумо ин корро мекунед ва ин на дар ихтиёри шумо, балки дар ихтиёри ҳукумат аст, пас ин як намуди назорати оммавӣ аст, зеро ҳоло шумо на танҳо дар кӯчаҳо камера доред, балки дар кӯчаҳо камераҳое доред, ки қобилияти ба худ ҷалб карданро доранд. одамонро муайян кунед ва на танҳо одамонро муайян кунед, балки имиҷ ва шахсияти онҳоро ба пойгоҳи додаҳо, ки профили онҳоро нишон медиҳад, пайваст кунед ва шояд ҳатто онҳоро бар асоси иттиҳодашон бо ҳукумат рутбабандӣ кунад. Пас, албатта, шумо медонед, ки ин система ҳоло дар Чин ба таври васеъ ҷорӣ карда шудааст. Он дар дигар кишварҳо баррасӣ мешавад. Чунин намуди назорати чеҳра, назорати оммавӣ, ба назари мо, бояд танҳо манъ карда шавад. Мо боварӣ дорем, ки гурӯҳбандии биометрӣ, кӯшиши истихроҷи одамон дар асоси омилҳои биометрӣ, ки бояд манъ карда шавад. Баҳои иҷтимоӣ, ки боз ҳам кӯшиши мувофиқ кардани шахсияти шахс бо дастгирии онҳо аз давлат аст.
Ва хушхабар дар ин ҷо, агар ман чанд сухани дигар бигӯям, ин аст, ки ҳамкорӣ бо созмони байналмиллалии ЮНЕСКО бо тавсияи онҳо оид ба ахлоқи AI, ки соли 2021 қабул шудааст, мо ҳоло ҳадди аққал 193 кишвар дорем, ки мегӯянд AI набояд барои назорати оммавӣ истифода шавад ва AI набояд барои баҳодиҳии иҷтимоӣ истифода шавад. Ҳамин тавр, вақте ки сенатор Блументал дар ин ҳафта дар оғози муҳокима гуфт: "Мо бояд шаффофият ва ҳисоботдиҳӣ ва маҳдудиятҳои истифодаро муқаррар кунем", шумо медонед, ман фикр мекардам: "Вой! Ин як лаҳзаи бузург аст”, зеро барои ӯ гуфтани “маҳдудиятҳои истифода” воқеан вокуниши дақиқ ба саволе, ки шумо ба миён гузоштаед ва он нуктаҳое, ки созмонҳои ғайридавлатӣ ва созмонҳои ҳуқуқи башар баён кардаанд, посух медиҳад: Мо воқеан ба баъзе мамнӯъият ниёз дорем. Саноати технологӣ метавонад бигӯяд: "Хуб, мо метавонем одилона бошем. Мо метавонем кушода бошем. Мо метавонем масъулият дошта бошем." Ин суханон кофӣ нестанд. Ба мо хатҳои равшан лозим аст.
АМЙ ГУДМАНД: Шумо медонед, вақте ки мо чанд сол пеш дар Санданс будем, ин филми ҳуҷҷатии аҷибе буд Рамзи Bias, иктишофи оқибати пажӯҳишгари MIT Media Lab — вай сиёҳ аст — Ҷой Буоламвини, кашфи ғарази нажодӣ дар шинохти чеҳра аз ҷониби зеҳни сунъӣ ва чӣ гуна он бар зидди одамони сиёҳпӯст ва одамони ранга истифода мешавад. Метавонед инро васеътар кунед, Марк?
МАРК РОТЕНБЕРГ: Бале, ин воқеан як филми олӣ аст ва ман як мухлиси ашаддии Ҷой ҳастам. Вай созмонеро бо номи Лигаи адолати алгоритмӣ таъсис дод, ки дар ҳақиқат яке аз аввалин гурӯҳҳо буд ва кори ӯ, аз ҷумла, диққати худро ба мушкилоти ғарази дарунсохт дар AI ҷалб кард.
Ва далели аҷибе, ки вай ҳангоми таҳқиқоти худ дар MIT ошкор кард, ин буд, ки ҳамчун як зани сиёҳпӯст, ин системаҳо дар робита ба муайян кардани вай аз рӯи хусусиятҳои чеҳра чандон хуб кор намекарданд, аммо вақте ки вай ба рӯяш ниқоби сафед мепӯшид, пас системаи шинохтан ба кор шуруъ кард. Ва ин як ёдраскунии хеле сахт буд, ман фикр мекунам, дар бораи намуди ғаразе, ки дар бисёре аз ин системаҳо сохта шудааст. Ва ин ғараз, дар омади гап, метавонад аз сарчашмаҳои гуногун пайдо шавад. Шумо медонед, ки як қисми он дар бораи маълумот аст. Қисми он дар бораи одамоне мебошад, ки системаҳоро рамзгузорӣ мекунанд. Қисми он дар бораи сохтор ва ҳадафҳои ширкатҳое мебошад, ки системаҳоро ҷойгир мекунанд. Он дар ҳақиқат дар сатҳҳои гуногун вуҷуд дорад.
Ва шумо медонед, ки филми вай, Рамзи Bias, воқеан чизест, ки мо ба иштирокчиёни клиникаи сиёсати AI-и худ нишон медиҳем, зеро мо мехоҳем, ки одамон фаҳманд, ки ин мушкилот чӣ гуна аст. Ва тавре ки ман қаблан гуфтам, шумо медонед, дар ҳоле ки ман нигарониҳои онҳоеро, ки дар бораи хатари дарозмуддат нигаронанд, мубодила мекунам, ман фикр мекунам, ки мо бояд дар айни замон бо он роҳе, ки дар он системаҳои AI ғаразнокро ҷорӣ мекунанд, мубориза барем. Ва Ҷой ва Лигаи адлияи алгоритмӣ як кори бузургеро анҷом доданд, ки диққати худро ба ин мушкилот ҷалб мекунанд.
НЕРМИН ШАЙХ: Ва, Марк, метавонистед шарҳ диҳед - танҳо дар бораи он муфассалтар фаҳмонед, ки чӣ гуна AI аллакай ғаразро дар бар мегирад, тавре ки шумо гуфтед, Ҷой ишора кард ва мо дар Sundance мусоҳиба кардем. Метавонед тавзеҳ диҳед, ки ин аллакай чӣ гуна мешавад? Ин технология дар кадом замина истифода мешавад?
МАРК РОТЕНБЕРГ: Дуруст. Бале, ин майдони калон ва мураккаб аст. Ва дар ҳақиқат, ман умедворам, ки шумо дар барномаи шумо дигарон хоҳанд дошт, то дар бораи баъзе аз ин масъалаҳо сӯҳбат кунанд. Ман Институти AI Now-ро зикр кардам. Ман аз Пажӯҳишгоҳи Тадқиқотии AI ёдовар шудаам, одамони зиёде дар он ҷо, ки ин мавзӯъро бештар аз ман омӯхтаанд.
Аммо ман ҳамчун ҳуқуқшинос мегӯям, як сенария, ки ман онро хуб дарк мекунам, дар заминаи низоми адолати судии ҷиноятӣ ва ҳукм ба миён меояд. Ва шумо медонед, ки ман дар назар дорам, ки судяҳо аз ҳад зиёданд ва онҳо бо бисёр парвандаҳо машғуланд. Ва онҳо ба як қарори ҳукм мебароянд ва шумо медонед, прокурор метавонад бигӯяд: "Барои ин ҷавони сафедпӯст, мо шаш моҳ ҳукмро тавсия медиҳем" ва пас аз як соат, бигӯяд: "Барои ин ҷавони сиёҳпӯст, мо ба мухлати нух мох чазо додан тавсия карда шавад». Ва судя, шумо медонед, ин ду тавсияро мешунавад ва, руирост, саволи возеҳ медиҳад, шумо медонед, ки нобаробарӣ дар тавсияи ҳукм чист? Ва посух дар саросари Иёлоти Муттаҳида торафт бештар бармегардад: "Хуб, ин тавсияҳо аз як барномаи хеле мураккабе гирифта шудаанд, ки ба маълумоти зиёде баррасӣ шудаанд, ки ду нафарро имрӯз дар додгоҳи шумо таҳлил кардаанд, Ҷаноби Олӣ. Ва бар асоси баъзе иттилооти хусусие, ки мо аслан ифшо карда наметавонем, аммо бо гузориши зиёди хуб ва арзёбии оморӣ, мо метавонем ба додгоҳ итминон диҳем, ки агар ҳадаф коҳиш додани ҷиноятҳои такрорӣ бошад”, ки эҳтимоли дубора содир кардани ҷиноят аст. ҷинояти ҷиноятӣ, "шумо медонед, ҷинояткори сафедпӯст шаш моҳ ва ҷинояткори сиёҳ нӯҳ моҳ ҳукми зиндон мегирад."
Ва, шумо медонед, он чизе, ки шумо фавран дар сенарияи ин ҷо мебинед, ки боиси нигаронии васеъ аст, ин аст, ки шумо медонед, шояд ҳукми нӯҳ моҳа асоснок бошад, шояд ҳукми шашмоҳа асоснок бошад, аммо мо воқеан чунин чизеро надорем. қобилияти фаҳмидани он, ки ин натиҷаҳо чӣ гуна ба даст омадаанд, ба ин натиҷаҳо муқобилат мекунанд. Шояд онҳо хато мекарданд. Шояд ҳатто дар вуруди номи шахс, ё синну сол ё суроғаи онҳо ё дигар омилҳое, ки ба баҳогузорӣ мусоидат карданд, хатогӣ ҷой дошт. Ва, шумо мебинед, мо дар соли 2017 ба вазъияти барномаи шоҳмот бармегардем, ки дар он ҷо натиҷае мебинем ва мо намедонем, ки он чӣ гуна тавлид шудааст.
Ва ман воқеан бо судяҳои федералӣ дар бораи ин мушкилот сӯҳбат кардам. Ва онҳо мегӯянд: «Хуб, дар бораи инсон дар ҳалқа гапҳои зиёданд. Ва аз ин рӯ, албатта, мо танҳо тавсияи AI-ро қабул намекунем. Медонед, шахсе хоҳад буд, ки қарори ниҳоӣ қабул мекунад." Аммо доварон низ эътироф мекунанд, ки ин системаҳо мураккабанд. Онҳо, шумо медонед, аз ҷониби коршиносон дастгирӣ мешаванд. Барои довар дар бораи натиҷа баҳс кардан душвор аст. Ва, дар асл, онҳо мисли мӯҳри резинӣ мешаванд.
Ҳамин тавр, агар ман метавонам фикри дигареро бо шунавандагон ва тамошобинони шумо мубодила кунам, ман воқеан аз ин мафҳуми инсон дар давр дур шудам, гарчанде ки он дар ҷаҳони AI хеле маъмул аст. Ман фикр мекунам, ки мо воқеан бояд ба ҷои он бигӯем: "AI-in-the-loop, одамони масъул." Ва ин маънои онро дорад, ки баргаштан ба ин мисоли ҳукми ҷиноӣ, агар судя қаноатманд набошад, ки вай метавонад натиҷаро дарк кунад ва асоснок кунад, ман фикр мекунам, ки мо танҳо AI-ро мегирем. Ман фикр намекунам, ки мо вазъияте дорем, ки мо тахмин мезанем, ки ҳосили аз ҷониби AI тавлидшуда натиҷаи дуруст хоҳад буд. Ва, албатта, ин мисоле, ки ман пешниҳод мекунам, дар соҳае, ки ман каме дар бораи он медонам, бо қарорҳо дар бораи манзил ва қарз, шуғл, муҳоҷират ва кироя сурат мегирад. Он дар саросари кишвар васеъ паҳн карда мешавад,
АМЙ ГУДМАНД: Марк, мо вақти зиёд надорем, аммо мо танҳо мехостем, ки дар бораи ташкилоти шумо, Маркази AI ва сиёсати рақамӣ пурсед.
МАРК РОТЕНБЕРГ: Хуб, ташаккур, Эми. Ва бори дигар ташаккур барои имкони бо шумо будан дар ин субҳ.
Мо ин созмонро таъсис додем, зеро фикр мекардем, ки зарурати ҳамоҳангсозии усулҳои AI бо арзишҳои демократӣ ва омода кардани насли ояндаи пешвоёни сиёсати AI вуҷуд дорад. Мо ҳоло чанд сол аст, ки курсҳоро таълим медиҳем ва ба фикрам, тақрибан ба 500 нафар дар 60 кишвари ҷаҳон сертификат додаем. Онҳо дар бораи чаҳорчӯбаҳои сиёсати демократӣ, чаҳорчӯбаи ЮНЕСКО ва баъзе аз дигар чизҳо маълумот гирифтанд. Умедворем, ки тавассути созмон мо одамонеро ба воя мерасонем, ки маълумоти хуб дошта бошанд, то дар ин баҳсҳо ширкат кунанд ва қоидаҳои хубро ҷорӣ кунанд. Мо зидди технология нестем, аммо мо фикр мекунем, ки технология бояд ҳамеша дар зери назорати инсон бошад. Мо волоияти қонун, арзишҳои демократӣ ва ҳуқуқҳои бунёдиро ҷонибдорӣ мекунем. Ин дар ҳақиқат рисолати мост.
АМЙ ГУДМАНД: Хуб, Марк Ротенберг, мо мехоҳем ба шумо барои бо мо буданатон, директори иҷроияи Маркази AI ва сиёсати рақамӣ ташаккур гӯем. Дидан Қисми 1 аз муҳокимаи мо, ба democracynow.org равед. Ман Ами Гудман бо Нермин Шайх ҳастам. Ташаккури зиёд барои ҳамроҳ шудан ба мо.
ZNetwork танҳо тавассути саховатмандии хонандагонаш маблағгузорӣ мешавад.
щурбон шудан