Жасалма интеллект (AI) дүйнөнү каптап жатат. Бул жашоонун ар бир чөйрөсүн өзгөртүп, процессте коом жана адамзаттын келечеги үчүн негизги этикалык тынчсызданууну жаратууда. Социалдык медиада үстөмдүк кылган ChatGPT OpenAI тарабынан иштелип чыккан AI менен иштеген чатбот. Бул машина үйрөнүүнүн бир бөлүгү жана адамга окшош жоопторду жарата алган Чоң тил моделдерине таянат. Мындай технология үчүн потенциалдуу колдонуу чындыгында абдан чоң, ошондуктан ChatGPT сыяктуу AIди жөнгө салуу боюнча чакырыктар бар.
AI адамдарды жеңе алабы? Бул коомдук коркунучтарды жаратабы? Чынында эле, AI экзистенциалдык коркунучка айланышы мүмкүнбү? Дүйнөдөгү көрүнүктүү тилчи Ноам Хомскийдин, жана интеллектуалдык деңгээли Галилео, Ньютон жана Декарттыкына салыштырылган бардык убактагы эң кадыр-барктуу коомдук интеллигенциянын бири кийинки маегинде ушул кыйчалыш суроолорго жооп берет.
CJ Polychroniou: Илимий дисциплина катары, жасалма интеллект (AI) 1950-жылдардан башталат, бирок акыркы эки он жылдыкта ал бардык тармактарга, анын ичинде банк иши, камсыздандыруу, автоөндүрүш, музыка жана коргонуу сыяктуу тармактарга кирип келе жатат. Чынында, AI ыкмаларын колдонуу кээ бир учурларда, мисалы, шахмат оюнунда адамдын мүмкүнчүлүктөрүнөн ашып түшкөнү далилденген. Машиналар адамдарга караганда акылдуу болуп калышы мүмкүнбү?
Ноам Хомскийдин: Терминологияны тактоо үчүн, бул жерде "машина" деген терминди билдирет программа, негизинен компьютер тарабынан аткарыла турган белгилер менен жазылган теория жана биз бул жерде четке кагууга мүмкүн болгон кызыктуу жолдор менен адаттан тыш теория.
Биз таза инженерия менен илимди болжолдуу түрдө айырмалай алабыз. Эч кандай курч чек жок, бирок бул пайдалуу биринчи жакындоо. Таза инженерия кандайдыр бир пайдалуу болушу мүмкүн болгон продуктуну өндүрүүгө умтулат. Илим түшүнүүгө умтулат. Эгерде тема адамдын интеллекти же башка организмдердин когнитивдик мүмкүнчүлүктөрү болсо, илим бул биологиялык системаларды түшүнүүгө умтулат.
Мен аларды түшүнгөндөй, АИнин негиздөөчүлөрү – Алан Тюринг, Герберт Саймон, Марвин Мински жана башкалар – аны илим катары, ошол кездеги жаңы пайда болгон когнитивдик илимдердин бир бөлүгү катары эсептешип, эсептөөнүн математикалык теориясында жаңы технологияларды жана ачылыштарды колдонушкан. алдын ала түшүнүү. Жылдар бою бул кооптонуулар жок болуп, негизинен инженердик ориентация менен алмаштырылган. Мурунку кооптонуулар азыр көбүнчө GOFAI – жакшы эски AI катары четке кагылып, кээде басынтып жиберилет.
Суроону улантсак, адамдын мүмкүнчүлүктөрүнөн ашкан программалар түзүлүүсү мүмкүнбү? Биз "мүмкүнчүлүктөр" деген сөздөн этият болушубуз керек, мен кайра кайта турган себептерден улам. Бирок, эгерде бул терминди адамдын иш-аракетине карата ала турган болсок, анда жооп: албетте ооба. Чынында, алар көптөн бери бар: мисалы, ноутбуктагы калькулятор. Бул убакыттын жана эстутумдун жетишсиздигинен улам гана адамдар жасай турган нерседен алда канча ашып кетиши мүмкүн. Шахмат сыяктуу жабык системалар үчүн эртеби-кечпи, эбегейсиз компьютердик кубаттуулуктардын өркүндөшү жана узак убакытка даярдануу менен, эстутумунун чеги менен ойноп жаткан гроссмейстерди жеңүү үчүн программа иштелип чыгышы мүмкүн экени 50-жылдары жакшы түшүнүлгөн. жана убакыт. Жыл өткөндөн кийин жетишкендик IBM үчүн абдан көп PR болду. Көптөгөн биологиялык организмдер адамдын когнитивдик жөндөмдүүлүгүнөн алда канча тереңирээк. Менин короомдогу чөл кумурскалар кичинекей мээге ээ, бирок адамдын навигациялык мүмкүнчүлүктөрүнөн алда канча ашат, негизинен, жөн эле иштөө эмес. Жогору жакта адамдар менен болуунун Улуу чынжырчасы жок.
AI инженериясынын продуктулары жакшы же жаман көптөгөн тармактарда колдонулууда. Жөнөкөй жана тааныштары да абдан пайдалуу болушу мүмкүн: тил чөйрөсүндө автотолтуруу, жандуу транскрипция, google translate жана башкалар сыяктуу программалар. Эң көп эсептөө күчү жана татаал программалоо менен, илимде дагы башка пайдалуу колдонмолор болушу керек. Буга чейин кээ бирлери болгон: белоктун бүктөлүшүн изилдөөгө жардам берүү - бул массалык жана тез издөө технологиясы окумуштууларга критикалык жана баш ийбеген көйгөйдү чечүүгө жардам берген акыркы учур.
Инженердик долбоорлор пайдалуу же зыяндуу болушу мүмкүн. Эки суроо тең инженердик AI учурунда пайда болот. Чоң тилдүү моделдер (LLMs), анын ичинде чатботтор менен учурдагы иш дезинформация, жалаа жабуу жана маалыматы жок адамдарды адаштыруу үчүн куралдар менен камсыз кылат. Коркунучтар жасалма сүрөттөр жана үндүн кайталанышы менен айкалышканда күчөйт. Ар кандай тынчсызданууларды эске алуу менен, он миңдеген AI изилдөөчүлөрү жакында эле деп аталат алар сезген потенциалдуу коркунучтардан улам өнүктүрүүгө мораторий киргизүү.
Ар дайым болгондой эле, технологиянын мүмкүн болгон пайдалары потенциалдуу чыгымдар менен таразаланышы керек.
AI жана илимге кайрылганыбызда такыр башка суроолор пайда болот. Бул жерде этияттык керек, анткени массалык маалымат каражаттарында кеңири тараган ашкере жана ойлонбогон дооматтар. Маселелерди тактоо үчүн кээ бир гипотетикалык, кээ бир реалдуу учурларды карап көрөлү.
Мен курт-кумурскалардын навигациясын айттым, бул таң калыштуу жетишкендик. Курт-кумурскалар боюнча илимпоздор ага кантип жетишилгенин изилдөөдө көп ийгиликтерге жетишти, бирок системалардын эволюциясы менен бирге өтө татаал маселе болгон нейрофизиология дагы эле белгисиз бойдон калууда. Канаттуулардын жана деңиз ташбакаларынын миңдеген километр жолду басып, жаңылбастан келип чыккан жерине кайтып келген укмуштуудай эрдиктери да ушундай.
Инженердик интеллекттин жактоочусу Том Джонс келип: «Сиздин эмгегиңиздин баары жокко чыгарылды. Маселе чечилди. Коммерциялык авиакомпаниянын учкучтары ар дайым бирдей же андан да жакшыраак натыйжаларга жетишет».
Жада калса жооп берүүгө убара болсок, күлүп калабыз.
Түпкүлүктүү уруулардын арасында дагы деле тирүү болгон полинезиялыктардын жылдыздарды, шамалды, агымдарды колдонуп, каноэлерин жүздөгөн чакырым алыстыктагы белгиленген жерге кондурган деңизчилик эрдиктерин мисалга алалы. Бул да алардын муну кантип жасаганын билүү үчүн көптөгөн изилдөөлөрдүн темасы болгон. Том Джонстун жообу бар: “Убактыңды текке кетирбе; флоттун кемелери муну дайыма жасашат».
Ошол эле жооп.
Эми чыныгы окуяга кайрылалы, тилди өздөштүрүү. Бул акыркы жылдардагы кеңири жана өтө жарык берүүчү изилдөөлөрдүн темасы болуп, наристелердин айлана-чөйрөнүн тили (же тилдер) боюнча өтө бай билимге ээ экенин, алар аткарууда көрсөткөн нерселеринен алда канча жогору экенин көрсөтүүдө. Бул аз далилдер менен жетишилет, ал эми кээ бир маанилүү учурларда такыр жок. Эң жакшысы, кылдат статистикалык изилдөөлөр көрсөткөндөй, жеткиликтүү маалыматтар сейрек болот, өзгөчө ранг жыштык («Zipf мыйзамы») эске алынганда.
Том Джонс кириңиз: “Сизди четке кагышты. Сиздин ачылыштарыңызга көңүл бурбай, астрономиялык көлөмдөгү маалыматтарды сканерлеген LLMлер статистикалык мыйзам ченемдүүлүктөрдү таба алышат, алар үйрөтүлгөн маалыматтарды имитациялоого мүмкүндүк берип, кадимки адамдын жүрүм-турумуна окшош нерсени чыгарышат. Чатботтор."
Бул иш башкалардан айырмаланып турат. Биринчиден, бул реалдуу. Экинчиден, адамдар күлбөйт; Чынында, көптөр таң калышат. Үчүнчүдөн, гипотетикалык учурлардан айырмаланып, иш жүзүндөгү натыйжалар айтылгандардан алыс.
Бул ой жүгүртүүлөр учурдагы LLM энтузиазмынын кичинекей көйгөйүн жаратат: анын абсурддугу, биз аны дароо тааныган гипотетикалык учурларда. Бирок абсурддуктан алда канча олуттуу проблемалар бар.
Биринчиси, LLM тутумдары тил, үйрөнүү же таанып-билүүнүн башка аспектилери жөнүндө эч нерсе айта албагандай кылып иштелип чыккан. Сканерленген маалыматтардын терабайтын эки эсеге көбөйтүп, дагы бир триллион параметрлерди кошуп, Калифорниянын энергиясын дагы көбүрөөк колдонот жана жүрүм-турумдун симуляциясы жакшырат, ошол эле учурда кандайдыр бир түшүнүктү бере албай турган мамиленин принцибиндеги ийгиликсиздигин айкыныраак ачып берет. Себеби жөнөкөй: системалар ымыркайлар тез жана рефлексивдүү түрдө үйрөнө албаган мүмкүн эмес тилдер менен жакшы иштейт.
Биологдун: «Менде организмдердин жаңы улуу теориясы бар. Анда көптөр бар жана болушу мүмкүн эмес көптөр тизмеленген жана мен айырмачылык жөнүндө эч нерсе айта албайм».
Кайрадан күлмөкпүз. Же керек.
Том Джонс эмес – азыр чыныгы иштерге шилтеме кылуу. Том Джонс илимди түп тамырынан бери четке кагып, мындай деп жооп берет: «Бардык тилдерди изилдеп бүтмөйүнчө булардын бирин кайдан билесиң?» Бул учурда нормалдуу илимден баш тартуу ого бетер айкын болот. Аргументтердин паритети боюнча биз генетика менен молекулярдык биологияны, эволюция теориясын жана организмдердин кичинекей бир бөлүгүнөн ашык үлгү ала элек калган биологиялык илимдерди жокко чыгара алабыз. Жана жакшы өлчөө үчүн, биз физиканын баарын жок кыла алабыз. Эмне үчүн кыймыл мыйзамдарына ишенүү керек? Канча объект кыймылда байкалды?
Мындан тышкары, далилдөө жүгү кичинекей маселе бар. Теорияны сунуш кылгандар анын кандайдыр бир мааниси бар экенин, бул учурда анын мүмкүн эмес тилдер үчүн ийгиликсиз экенин көрсөтүүгө милдеттүү. Бул сунушту четке кагуу башкалардын милдети эмес, бирок бул учурда муну жасоо оңой көрүнөт.
Келгиле, көңүлдү нормалдуу илимге буралы, анда маселелер кызыктуу болуп калат. Ал тургай тилди өздөштүрүүнүн бир эле мисалы мүмкүн болгон жана мүмкүн эмес тилдердин ортосундагы айырмачылыкты терең түшүнүүгө жардам берет.
Себептери ачык жана тааныш. Бардык өсүү жана өнүгүү, анын ичинде «үйрөнүү» деп аталган нерсе, организмдин абалынан башталып, аны этап-этабы менен кийинки этаптарга өзгөрткөн процесс.
Тилди өздөштүрүү ушундай процесс. Баштапкы абал – бул, кээ бирлер ойлогондой, башка жөндөмдөрдүн белгилүү бир айкалышы болсо да, албетте, бар тил жөндөмүнүн биологиялык касиети. Көптөн бери түшүнүксүз болгон себептерден улам бул өтө күмөн, бирок бул жерде биздин тынчсызданууларыбызга тиешеси жок, андыктан аны четке кагып койсок болот. Адамдын тил жөндөмү үчүн биологиялык байлык бар экени анык. Эң жөнөкөй чындык.
Өткөөл салыштырмалуу туруктуу абалга өтүп, үстүртөн гана өзгөргөн: тилди билүү. Сырткы маалыматтар процессти триггер жана жарым-жартылай калыптандырат. Жетилген абалды (тилди билүү) жана тышкы маалыматтарды изилдеп, биз тилди өздөштүрүүнүн баштапкы абалы, биологиялык касиети жөнүндө кеңири тыянак чыгарууга болот. Баштапкы абал жөнүндө корутундулар мүмкүн жана мүмкүн эмес тилдердин ортосундагы айырманы белгилейт. Айырмачылык баштапкы абалды бөлүшкөндөрдүн баарына – белгилүү болгондой, бардык адамдарга тиешелүү; бар адамдар топторунун ортосунда тилди алуу жөндөмү боюнча эч кандай айырма жок көрүнөт.
Мунун баары нормалдуу илим жана ал көптөгөн натыйжаларга жетишти.
Тажрыйба көрсөткөндөй, стабилдүү абал өтө эрте, үч-төрт жашка чейин пайда болот. Ошондой эле тил жөндөмү адамдарга мүнөздүү негизги касиеттерге ээ экени, демек, ал чыныгы түр касиети: адам топторуна жалпы жана түпкү түрдө кайталангыс адамдык касиет экени жакшы далилденген.
Бул схемалык эсепте көп нерсе, өзгөчө табигый мыйзамдын өсүү жана өнүгүүдөгү ролу: тил сыяктуу эсептөө тутумунда, эсептөө эффективдүүлүгүнүн принциптери эске алынбай калган. Бирок иштин маңызы мына ушунда. Дагы, кадимки илим.
Аристотелдин билимге ээ болуу менен билимди пайдалануу (азыркы терминологияда, компетенттүүлүк жана аткаруу) ортосундагы айырманы так билүү маанилүү. Тилдин абалында алынган туруктуу абал мээде коддолгон билимге ээ болуу. Ички система структураланган туюнтмалардын чектелбеген массивдерин аныктайт, алардын ар бирин биз ойду формулировкалоо деп эсептей алабыз, ар бири кандайдыр бир сенсомотордук системада сырткы көрүнүшү мүмкүн, адатта үндүү, бирок ал белги же атүгүл (кыйынчылык менен) тийүү болушу мүмкүн.
Ички коддолгон система билимди (аткаруу) колдонууда жеткиликтүү. Аткаруу ойдо тилди ички колдонууну камтыйт: ой жүгүртүү, пландаштыруу, эстеп калуу жана башка көптөгөн нерселер. Статистикалык жактан алганда, бул тилдин басымдуу колдонулушу. Бул интроспекция үчүн мүмкүн эмес, бирок биз илимдин кадимки ыкмалары менен, метафоралык айтканда, "сырттан" көп нерсени биле алабыз. "Ички сөз" деп аталган нерсе, чындыгында, артикуляциялык аппараты өчүрүлгөн тышкы тилдин фрагменттери. Бул тилдин ички колдонулушунун алыскы чагылышы, мен бул жерде айта албайм.
Тилди колдонуунун башка формалары – кабыл алуу (талдоо) жана өндүрүш, акыркысы, азыркы илимдин башында Галилео жана анын замандаштары тарабынан коркуу жана таң калуу менен караган сыяктуу, бүгүнкү күндө биз үчүн табышмактуу бойдон калууда.
Илимдин негизги максаты – адамдын тилдин жөндөмдүүлүгүндөгү баштапкы абалында да, өздөштүрүүдөгү өзгөчө формаларда да ички системаны ачуу. Бул ички система канчалык деңгээлде түшүнүктүү болсо, биз тилди колдонууга кирген башка көптөгөн факторлор менен өз ара аракеттенип, анын аткарууга кандайча кирерин изилдөөгө киришсек болот.
Аткаруу маалыматтары ички системанын табияты жөнүндө далилдерди берет, айрыкча, алар стандарттык талаа жумуштарындай эле, эксперимент аркылуу такталганда. Бирок эң чоң маалыматтарды чогултуу да сөзсүз түрдө маанилүү жолдор менен адаштырууга алып келет. Тилдин табиятын жана анын колдонулушун түшүнгүсү келгендер үчүн изилденип жаткан негизги объект болгон мээде коддолгон тилдин билимине эмес, кадимкидей өндүрүлгөн нерсени сактайт. Бул ички объект 60 жыл мурун изилденген кыска мөөнөттүү эс тутумдун чектөөлөрү сыяктуу тилге тиешеси жок факторлордон улам кадимки жүрүм-турумда колдонулбай турган чексиз көп мүмкүнчүлүктөрдү аныктайт. Байкоочу маалыматтарга мээде коддолгон системанын сыртында жаткан көп нерселер да кирет, көбүнчө тилди риторикалык максаттар үчүн эрежелерди бузган жолдор менен аң-сезимдүү колдонуу. Бул бардык талаа жумушчуларына белгилүү болгон чындыктар, алар маалымат берүүчүлөр менен стимулдаштыруу ыкмаларына, негизинен эксперименттерге таянып, маанисиз чектөөлөрдү жана девиантты туюнтмаларды жокко чыгарган такталган корпусту берет. Тилчилер өздөрүн маалымат берүүчү катары колдонгондо да ушундай болот, бул психологиянын тарыхында азыркы учурга чейин кеңири таралган, акылга сыярлык жана нормалдуу процедура.
Кадимки илимге таянып, биз байкалган кубулуштарды текшерүү аркылуу тилдин ички процесстерин жана элементтерин аныктоого мүмкүн эмес экенин көрөбүз. Көбүнчө бул элементтер сүйлөөдө (же жазууда) да кездешпейт, бирок алардын таасири көбүнчө тымызын байкалат. Мына ушунда дагы бир себеби, байкалган кубулуштарды чектөө, LLM мамилесинде болгондой, тилдин табиятын, аны алууда жана колдонууда изилдөөнүн негизги объектиси болгон ички процесстерди түшүнүүнү кескин чектейт. Бирок илимге жана түшүнүккө болгон камкордук башка максаттардын пайдасына ташталган болсо, бул маанилүү эмес.
Жалпысынан илимде миңдеген жылдар бою эксперименттер – көбүнчө ой эксперименттери – ар бир кубулуштан радикалдуу абстракциялоо аркылуу жыйынтыктар чыгарылып келген. Эксперименттер теорияга негизделген, байкалган кубулуштарга кирген сансыз тиешеси жок факторлорду, мисалы, тилдик аткарууну жокко чыгарууга умтулат. Мунун баары өтө жөнөкөй болгондуктан, ал сейрек талкууланат. Жана тааныш. Белгиленгендей, негизги айырмачылык Аристотелдин билимге ээ болуу менен билимди пайдалануу ортосундагы айырмасына барып такалат. Биринчиси изилдөөнүн борбордук объектиси болуп саналат. Экинчи даражадагы (жана кыйла олуттуу) изилдөөлөр түздөн-түз байкалган нерсеге киргенге караганда, көптөгөн тилдик эмес факторлор менен бирге, ички сакталган билим системасы аткарууда кандайча колдонуларын изилдейт.
Эволюционист-биолог Теодосий Добжанскийдин, негизинен Дрозофила менен жасаган иши менен белгилүү болгон байкоосун да эстесек болот: Ар бир түр уникалдуу, ал эми адамдар баарынан уникалдуу. Эгерде биз 2,500 жыл мурунку Дельфий Ораклынын буйругуна ылайык, кандай жандыктар экенибизди түшүнүүгө кызыкдар болсок, биз биринчи кезекте адамдарды баарынан уникалдуу кылып жаткан нерсеге, биринчи кезекте тил жана ой жүгүртүүгө, бири-бири менен тыгыз байланышта болгон нерселерге кызыкдар болобуз. бай салт классикалык Греция менен Индияга барып такалат. Көбүнчө жүрүм-турум адаттагыдай эле, демек, кандайдыр бир деңгээлде алдын ала айтууга болот. Бизди уникалдуу кылган нерселер жөнүндө чыныгы түшүнүктү камсыздай турган нерсе – бул күнүмдүк эмес, биз аны кээде эксперимент аркылуу, кээде байкоо аркылуу, кадимки балдардан улуу сүрөтчүлөр менен окумуштууларга чейин табабыз.
Буга байланыштуу акыркы комментарий. Коом бир кылымдан бери илимди жек көрүүгө үндөө үчүн массалык корпоративдик өнөктүктөрдү, башкалардын арасында Наоми Орескес жакшы изилдеген темаларды кыйнап келет. Ал азыктары адам өлтүрүүчү корпорациялардан башталган: коргошун, тамеки, асбест, кийинчерээк казылып алынган отун. Алардын ниети түшүнүктүү. Капиталисттик коомдогу бизнестин максаты адамдын жыргалчылыгы эмес, пайда алуу. Бул институттук факт: Оюнду ойнобоңуз жана сиз сырттасыз, анын ордуна кимдир бирөө келет.
Корпоративдик PR бөлүмдөрү өз продукциясынын өлүмгө алып келе турган таасири тууралуу илимий далилдерди четке кагуу жаңылыштык болорун эрте түшүнүшкөн. Муну оңой эле жокко чыгарууга болот. Эч качан үй боёп көрбөгөн, бирок Вашингтондон мага коргошун боёк колдонбо деп келип, менин бизнесимди талкалап, күмөн санап, белгисиздикке үндөгөн, бул учтуу баштуу костюмдарды жек көрүү жакшыраак. Мунун баары жакшы иштеди. Азыр ал бизди жер бетинде уюшулган адам жашоосун жок кылуу жолуна алып барат.
Интеллектуалдык чөйрөлөрдө, илимдин постмодерндик сыны да ушундай таасирлерди жаратты. алып таштоо Жан Брикмонт жана Алан Сокал тарабынан, бирок кээ бир чөйрөлөрдө дагы деле көп тирүү.
Бул суроону сунуш кылуу жагымсыз болушу мүмкүн, бирок Том Джонс жана алардын кайдыгер билдирүүлөрүн сынга албай кайталап, жадагалса күчөткөндөр ошол эле жаман тенденцияларга салым кошуп жатабы деп суроо туура болот деп ойлойм.
CJP: ChatGPT – бул табигый тилге негизделген чатбот, ал адам сыяктуу сүйлөшүүгө мүмкүндүк берүү үчүн жасалма интеллектти колдонот. Акыркы макалада New York Times, башка эки автор менен бирдикте жаңы чатботторду хайп катары жаптың, анткени алар жөн эле адамдардын тилдик компетенттүүлүгүнө дал келбейт. Бирок AIдагы келечектеги инновациялар адамдын мүмкүнчүлүктөрүнө дал келген, балким андан да ашып кете турган инженердик долбоорлорду жаратышы мүмкүн эмеспи?
NC: Макаланын автору, мыкты математик-лингвист-философ Джеффри Ватумуллга кредит берилиши керек. Сандалган эки авторлош кеңешчилер болгон, алар макалага макул, бирок аны жазган эмес.
Чындыгында, чатботтор жогоруда кайталанган себептерден улам адамдардын лингвистикалык компетенттүүлүгүнө дал келе албайт. Алардын негизги дизайны аларга адам тилинин теориясы үчүн адекваттуулуктун минималдуу шартына жетүүгө тоскоол болот: мүмкүн эмес тилдерден айырмалоо. Бул дизайндын менчиги болгондуктан, аны AIнын бул түрүндөгү келечектеги инновациялар менен жеңүү мүмкүн эмес. Бирок, келечектеги инженердик долбоорлор адамдын мүмкүнчүлүктөрүнө дал келиши жана ал тургай андан ашып кетиши толук мүмкүн, эгерде биз адамдын иш-аракет кылууга жөндөмдүүлүгүн, көрсөткүчтөрүн айтсак. Жогоруда айтылгандай, кээ бирлери көптөн бери ушундай кылышкан: мисалы, автоматтык эсептегичтер. Эң кызыгы, жогоруда айтылгандай, кичинекей мээси бар курт-кумурскалар адамдын жөндөмдүүлүгүнөн ашат.
CJP: Жогоруда айтылган макалада бүгүнкү AI долбоорлору адамдык адеп-ахлактык жөндөмгө ээ эмес экени да байкалган. Бул айкын факт AI роботторун адамзатка коркунуч туудурбайбы? Менин оюмча, аргумент бул аларды, балким, андан да көп кылат.
NC: Бул, чынында эле, "адептүүлүк жөндөмүн" кеңири түшүнгөн ачык чындык. Кылдат көзөмөлдөнбөсө, AI инженериясы олуттуу коркунучтарды жаратышы мүмкүн. Мисалы, бейтаптарга кам көрүү автоматташтырылган дейли. Адамдын соту менен жеңе турган сөзсүз каталар коркунучтуу окуяны жаратышы мүмкүн. Же адамдар автоматташтырылган ракетадан коргонуу системалары тарабынан аныкталган коркунучтарды баалоодон четтетилди дейли. Үрөй учурган тарыхый рекорд катары билдирет биз, бул адамзат цивилизациясынын аягы болмок.
Кылдат көзөмөлдөнбөсө, AI инженериясы олуттуу коркунучтарды жаратышы мүмкүн.
CJP: Европадагы жөнгө салуучу органдар жана укук коргоо органдары ChatGPTтин жайылышына байланыштуу кооптонууну жаратууда, ал эми Европа Биримдигинин жакында сунушталган мыйзамдары AI менен күрөшүүгө аракет кылып, мындай куралдарды тобокелдиктин деңгээлине жараша классификациялоодо. ChatGPT олуттуу коомдук коркунуч туудурат деп кооптонгондорго кошуласызбы? Андан тышкары, сиз чындап эле AI куралдарын андан ары өнүктүрүүнү коргоо чаралары киргизилгенге чейин токтотсо болот деп ойлойсузбу?
NC: Мен өнүккөн технологиядан келип чыккан коркунучтарды көзөмөлдөө аракетине, анын ичинде бул ишти оңой эле түшүнө алам. Бирок, мен муну жасоо мүмкүнчүлүгүнө ишенбейм. Мен жин бөтөлкөдөн чыгып кеткен деп шектенип жатам. Зыяндуу актерлор – институционалдык же жеке адамдар – кепилдиктерден качуунун жолдорун табышы мүмкүн. Мындай шектенүүлөр, албетте, аракет кылбоого жана сергек болууга эч кандай себеп эмес.
ZNetwork анын окурмандарынын берешендиги аркылуу гана каржыланат.
белек тартуу кылуу