Sun'iy intellekt (AI) hamma joyda mavjudga o'xshaydi. Kompaniyalar mijozlarning savollariga javob berish uchun o'z veb-sahifalarida yoki telefon tizimlarida kuchli AI chatbotlaridan foydalanadilar. Yangiliklar va jurnallar ulardan hikoyalar yozish uchun foydalanadilar. Kinostudiyalar filmlar ishlab chiqarish uchun ulardan foydalanadilar. Texnik kompaniyalar ulardan dasturlash uchun foydalanadilar. Talabalar ulardan qog'oz yozish uchun foydalanadilar. Bu sehrga o'xshaydi. Va hamma narsa go'yoki "bulutda" sodir bo'lganda, sun'iy intellekt bilan ishlaydigan tizimlar atrof-muhit uchun foydali ekanligiga ishonish oson. Afsuski, hamma narsa ko'rinadigan darajada emas.
Chatbotlar ekspluatatsiya asosida qurilgan, katta miqdorda energiya sarflaydi va ishonchli emas. Ularning o'sib borayotganini va hayotni ba'zi jihatdan osonlashtirayotganini tasavvur qilish oson bo'lsa-da, kompaniyalar natijalar ijtimoiy jihatdan foydali bo'ladimi yoki yo'qmi, deb o'ylamasdan foyda olish uchun o'z yaratilishlariga milliardlab dollarlarni sarflamoqda. Muxtasar qilib aytganda, biz AIga korporativ qiziqishni jiddiy qabul qilishimiz va AI qanday ishlab chiqilishi va ishlatilishini nazorat qilishimizga yordam beradigan strategiyalarni ishlab chiqishimiz kerak.
Poyga davom etmoqda
Chatbotlar inqilobi 2022-yilda OpenAI tomonidan ChatGPT-ni joriy etish bilan boshlangan. ChatGPT odamga o'xshash suhbatga qodir edi va yaratilgan matn bilan foydalanuvchi savollariga javob bera oladi, shuningdek maqola va kod yoza oladi. Eng muhimi, undan foydalanish bepul edi.
ChatGPT-ga jamoatchilik qiziqishiga javob beradigan boshqa kompaniyalar tez orada o'zlarining AI chatbotlarini joriy qilishni boshladilar. Bugungi kunda eng katta va eng ko'p qo'llaniladigan Google Gemini (sobiq Bard) va Microsoft-ning Copilot. Boshqalar ham bor, jumladan, ayrim biznes ehtiyojlarini qondirish uchun mo'ljallangan. Masalan, GitHub CoPilot dasturiy ta'minot ishlab chiquvchilarga kod yaratishda yordam berish uchun ishlaydi va Anthrophic's Claude ma'lumotlarni topish va hujjatlarni umumlashtirish uchun mo'ljallangan.
Va poyga yaratishda davom etmoqda keyingi avlod Ko'proq ma'lumot olish, uni tezroq qayta ishlash va batafsilroq, shaxsiy javoblarni taqdim etishi mumkin bo'lgan AI tizimlari. Goldman Sacksga ko'ra iqtisodchilar, Qo'shma Shtatlardagi sun'iy intellekt bilan bog'liq investitsiyalar kelgusi o'n yil ichida "YaIMning 2.5 dan 4 foizigacha cho'qqisiga chiqishi mumkin".
Chatbotlar so'zlar, matnlar, tasvirlar, audio va onlayn xatti-harakatlarning katta va xilma-xil ma'lumotlar bazasiga, shuningdek, kerak bo'lganda materialni umumiy foydalanish usullariga muvofiq tartibga solishga imkon beradigan murakkab algoritmlarga muhtoj. Savol yoki ma'lumot so'rovi berilganda, chatbotlar o'zlarining ma'lumotlar bazasida savol yoki so'rovdagi so'zlarning namunasi bilan bog'liq materialni aniqlaydilar va keyin yana algoritmlar asosida boshqariladigan ma'lumotlar bazasidan berilgan ma'lumotlarni eng yaxshi qondiradigan so'zlar yoki tasvirlar to'plamini yig'adilar. cheklovlar, so'rov. Albatta, naqshlarni aniqlash va javoblarni yaratish jarayoni juda katta energiya talab qiladi.
Chatbot qanchalik suhbatdosh va aqlli bo'lishidan qat'i nazar, Megan Kruuz kabi shuni yodda tutish kerak. Tushuntiradi, bu:
“Model nima deyayotganini“ bilmaydi”, lekin u oʻqitilgan maʼlumotlar toʻplamiga asoslanib, qaysi belgilar (soʻzlar) bir-biridan keyin kelishi mumkinligini biladi. ChatGPT, uning Google raqibi Bard va boshqalar kabi sun'iy intellektli chatbotlarning hozirgi avlodi haqiqatan ham aqlli qarorlar qabul qilmaydi; Buning o'rniga ular Internetning to'tiqushlari bo'lib, tabiiy nutq jarayonida bir-birining yonida bo'lishi mumkin bo'lgan so'zlarni takrorlaydi. Asosiy matematika ehtimollik bilan bog'liq."
Turli xil chatbotlar dasturlashlari va turli ma'lumotlar to'plamlarida o'qitilganligi sababli turli natijalar beradi. Masalan, Internetda mavjud bo'lgan barcha ma'lumotlarni o'chirishdan tashqari, Gemini o'zining Google ilovalaridagi ma'lumotlardan foydalanishi mumkin, Copilot esa Bing qidiruv tizimidan olingan ma'lumotlardan foydalanadi.
Chatbotlar joriy qilinganidan beri bir qator yangilanishlardan o'tdi. Har bir avlod yanada murakkab dasturiy ta'minot to'plamiga ega bo'lib, unga ko'proq nuansli ulanishlarni amalga oshirish, shuningdek, so'ralgan savollar yoki so'rovlar ma'lumotlarini o'z ichiga olgan ma'lumotlar bazasini kengaytirish imkonini beradi. Shu tarzda chatbotlar foydalanish orqali vaqt o'tishi bilan o'rganadilar/yaxshilanadi.
Bu nuqtai nazar shuni ta'kidlaydiki, biz bulutda sodir bo'layotgan narsalar haqida gapirishimiz mumkin bo'lsa-da, chatbotlarning ko'rsatmalar yoki savollarga javob berish qobiliyati erga mustahkam ildiz otgan jarayonlarga bog'liq. In So'zlar texnologiya yozuvchisi Karen Xao:
“AI har qanday texnologiya kabi ta’minot zanjiriga ega; Bu texnologiyaning yaratilishiga kiradigan kirishlar mavjud, ma'lumotlar bitta, keyin esa hisoblash quvvati yoki kompyuter chiplari boshqasi. Va ikkalasi ham ular bilan bog'liq ko'plab insoniy xarajatlarga ega. ”
Ta'minot zanjiri: inson mehnati
AI tizimlari ma'lumotlarga muhtoj va ma'lumotlar u yoki bu shaklda odamlardan keladi. Shu sababli, texnologiya kompaniyalari o'zlarining AI tizimlarining ishlashini yaxshilash uchun doimiy ravishda yangi va xilma-xil ma'lumotlarni qidirishda. Onlayn blogimiz va veb-sayt postlarimiz, nashr etilgan kitoblar va maqolalar, qidiruvlar, fotosuratlar, qo'shiqlar, rasmlar va videolar Internetdan bepul olib tashlangan holda, biz yuqori daromadli kompaniyalarni ko'proq daromad olishga intilishda yordam beramiz. Lauren Leffer sifatida Eslatmalar,
“Veb-skanerlar va skreperlar login sahifasi ortida boʻlmagan istalgan joydan maʼlumotlarga osongina kirishlari mumkin... Bunga mashhur fotosurat almashish sayti Flickr, onlayn bozorlar, saylovchilarni roʻyxatga olish maʼlumotlar bazalari, hukumat veb-sahifalari, Vikipediya, Reddit, tadqiqot omborlari, yangiliklar nashrlari kiradi. va ilmiy muassasalar. Bundan tashqari, pirat kontent kompilyatsiyalari va veb-arxivlar mavjud bo'lib, ular ko'pincha Internetdagi asl joyidan olib tashlangan ma'lumotlarni o'z ichiga oladi. Va qirib tashlangan ma'lumotlar bazalari yo'qolmaydi."
Aslida, qirib tashlangan materialning katta qismi mualliflik huquqi bilan himoyalangan va ruxsatisiz olingan. Bunga javoban bir qator nashriyotlar, yozuvchilar va rassomlar hozirda o‘g‘irlikni to‘xtatishga intilmoqda. Masalan, 2023-yil avgust oyida The New York Times oʻzining “Xizmat shartlari"Ga taqiqlamoq uning matni, fotosuratlari, tasvirlari va audio/video kliplaridan "har qanday dasturiy ta'minot dasturini, shu jumladan, lekin ular bilan cheklanmagan holda, mashinani o'rganish yoki sun'iy intellekt (AI) tizimini o'rgatish" ni ishlab chiqishda har qanday foydalanish. Ammo ba'zi yirik kompaniyalar o'z materiallaridan foydalanishni taqiqlash yoki moliyaviy kompensatsiya to'lash bo'yicha muzokaralar olib borish uchun vosita yoki qonuniy kuchga ega bo'lsa-da, aksariyat korxonalar va jismoniy shaxslar bunday qilmaydi. Natijada, ular hali ham o'zlarining "intellektual mulk” ulardan bepul olindi va korporativ pul ishlash faoliyatida AI o'quv materialiga aylandi.
AI ma'lumotlarini to'plash bilan bog'liq shaxsiy yo'qotishlarni minimallashtirmasdan, ushbu olish usulida juda katta muammo mavjud. Ommaviy internetni yo'q qilish AI chatbotlari fan, tarix, siyosat, inson xatti-harakati va hozirgi voqealarga oid turli nuqtai nazarlar va tushunchalarni o'z ichiga olgan materiallardan, jumladan, ekstremal nafrat guruhlari a'zolari tomonidan e'lonlar va yozishlardan foydalangan holda o'qitilayotganligini anglatadi. Va muammoli ma'lumotlar hatto eng murakkab chatbotlarning chiqishiga osongina ta'sir qilishi mumkin.
Misol uchun, chatbotlar kompaniyalar tomonidan ishga yollashda yordam berish uchun tobora ko'proq foydalanilmoqda. Shunga qaramay, Bloomberg News sifatida Kashf etilgan, "Eng mashhur generativ AI vositasi tizimli ravishda nomlari asosida guruhlarni noqulay ahvolga soladigan noto'g'ri fikrlarni ishlab chiqaradi." Masalan, o'z tadqiqoti topildi "Fortune 1000 kompaniyasida haqiqiy moliyaviy tahlilchi roli uchun sakkizta teng malakali rezyumeni tartiblash uchun 500 marta so'ralganda, ChatGPT qora tanli amerikaliklarga xos bo'lgan nom bilan rezyumeni tanlashi ehtimoldan yiroq emas edi."
Chatbotlar inson mehnatining sifatiga yana bir jihatdan bog'liq. Chatbotlar veb-brauzerlar va qirg'ichlar tomonidan to'plangan ko'p ma'lumotlardan bevosita foydalana olmaydi. Josh Dzieza sifatida Tushuntiradi, "Eng ta'sirchan sun'iy intellekt tizimining orqasida ham odamlar turibdi - juda ko'p odamlar ma'lumotlarni o'rgatish va chalkashtirib yuborilganda ma'lumotni aniqlashtirish uchun ma'lumotlarni belgilab berishadi."
Yirik AI kompaniyalari odatda ma'lumotlarni yorliqlash jarayoni uchun zarur bo'lgan ishchilarni topish va o'qitish uchun boshqa kichik kompaniyalarni yollashadi. Va bu subpudratchilar, ko'pincha, annotator deb ataladigan ishchilarini global janubda, ko'pincha Nepal va Keniyada topadilar. Annotatsiya jarayoni va izohlangan narsalar tijorat siri hisoblanganligi sababli, izohlovchilar o'zlarining asosiy xo'jayinini kamdan-kam bilishadi va agar ular boshqalar, hatto hamkasblari bilan nima qilishlarini muhokama qilishlari aniqlansa, ishdan bo'shatiladi.
Dzieza chatbotlarga ular uchun to'plangan ma'lumotlardan foydalanishga imkon berish uchun annotatorlar bajarishi kerak bo'lgan ba'zi ishlarni tasvirlaydi. Misol uchun, izohlovchilar video va fotosuratlardagi elementlarni belgilaydilar. Buni sun'iy intellekt tizimlari muayyan piksellar konfiguratsiyasini ma'lum elementlar yoki his-tuyg'ular bilan bog'lay olishini ta'minlash uchun qilish kerak. O'z-o'zidan boshqariladigan transport vositalari uchun sun'iy intellekt tizimlarini yaratuvchi kompaniyalar ko'cha yoki magistral sahnalaridagi videolardagi barcha muhim narsalarni aniqlash uchun annotatorlarga muhtoj. Bu "har bir transport vositasini, piyodani, velosipedchini, haydovchi bilishi kerak bo'lgan hamma narsani - kadrma-kadr va har qanday kamera burchagidan aniqlash" degan ma'noni anglatadi. Dzieza xabar berganidek, bu “qiyin va takrorlanadigan ish. Bir necha soniyali kadrlarga izoh berish uchun sakkiz soat vaqt ketdi, buning uchun [annotator] taxminan 10 dollar to'langan.
Bunday ish, garchi kam haq to'lanadigan bo'lsa-da, juda muhim. Agar izohlash jarayoni yomon bajarilgan bo'lsa yoki ma'lumotlar bazasi cheklangan bo'lsa, tizim osongina ishlamay qolishi mumkin. Bir misol: 2018 yilda bir ayolni o'zi boshqariladigan Uber mashinasi urib yubordi va o'ldirdi. AI tizimi muvaffaqiyatsizlikka uchradi, chunki "u velosipedchilar va piyodalarni chetlab o'tish uchun dasturlashtirilgan bo'lsa-da, ko'cha bo'ylab velosipedda yurgan odamni nima qilishni bilmas edi".
Ijtimoiy tarmoqlardagi fotosuratlardagi narsalarni belgilash uchun izohlovchilar ham yollanadi. Bu odamlar kiyishi mumkin bo'lgan barcha ko'rinadigan ko'ylaklarni aniqlash va etiketlashni o'z ichiga olishi mumkin. Buning uchun ular "polo ko'ylaklar, ochiq havoda kiyiladigan ko'ylaklar, tokchaga osilgan ko'ylaklar" va hokazolarni yozib olishni talab qiladi.
Boshqa ishlar hissiyotlarni belgilashni o'z ichiga oladi. Misol uchun, ba'zi izohlovchilar yuzlarning rasmlarini, shu jumladan annotatorlar tomonidan olingan selfilarni ko'rish va sub'ektning hissiy holatini belgilash uchun yollanadi. Boshqalar esa pitsa tarmog'iga tegishli do'konlarga buyurtma bergan mijozlarning his-tuyg'ularini belgilash uchun yollangan. Yana bir ishda Reddit postlarining his-tuyg'ularini belgilovchi annotatorlar mavjud. Bu vazifa bir guruh hindistonlik ishchilar uchun, birinchi navbatda, AQSh internet madaniyati bilan yaxshi tanish emasligi sababli qiyin bo'ldi. Subpudratchi o'z ishini ko'rib chiqqandan so'ng, postlarning taxminan 30 foizi noto'g'ri yozilgan deb qaror qildi.
Ehtimol, sun'iy intellekt bo'yicha trening ishining eng tez o'sib borayotgan segmenti chatbot bilan to'g'ridan-to'g'ri odamlarning o'zaro ta'sirini o'z ichiga oladi. Mavzularni muhokama qilish uchun odamlar yollanadi va chatbot har bir suhbatga ikki xil javob berish uchun dasturlashtirilgan. Keyin yollangan "muhokamachi" "eng yaxshi" deb hisoblagan javobni tanlashi kerak. Keyinchalik bu ma'lumotlar tizimga "inson" sifatida ko'proq ovoz berishda yordam berish uchun qaytariladi.
Muxtasar qilib aytganda, AI tizimlari odamlarning ishiga juda bog'liq. Bular sehrli tizimlar emas, ular insoniy qarashlar yoki his-tuyg'ularga ta'sir qilmaydi. Va ularning faoliyati qandaydir xayoliy bulutda sodir bo'lmaydi. Ularning ishlashi uchun zarur bo'lgan infratuzilmani hisobga oladigan bo'lsak, bu keyingi nuqta yanada aniqroq bo'ladi.
Ta'minot zanjiri: ma'lumotlar markazlari
Sun'iy intellektning o'sishi ma'lumotlar markazlarining keng ko'lamli qurilishi va ular joylashgan kompyuterlar va serverlar, shuningdek, ularning haddan tashqari qizib ketishining oldini olish uchun uzluksiz ishlashi kerak bo'lgan konditsionerlarni boshqarish uchun elektr energiyasiga doimiy o'sib borayotgan talab bilan qo'llab-quvvatlandi. Aslini olib qaraganda, “Bulut endi aviakompaniyaga qaraganda ko'proq uglerod iziga ega. Yagona ma’lumotlar markazi 50,000 ming uyning ekvivalent elektr energiyasini iste’mol qilishi mumkin”.
ko'ra Xalqaro energetika agentligi maʼlumotlariga koʻra, AQShda faoliyat yuritayotgan 2,700 ta maʼlumot markazlari 4-yilda mamlakat umumiy energiya isteʼmolining 2022 foizdan ortigʻiga masʼul boʻlgan. Va ularning ulushi 6-yilga borib 2026 foizga yetishi mumkin. Albatta, bunday hisob-kitoblar qoʻpol, ikkalasi ham. chunki yirik texnologiya kompaniyalari xohlamaslik Tegishli ma'lumotlarni almashish uchun va AI tizimlari doimiy ravishda yangi ma'lumotlarga o'qitiladi va ko'proq ko'nikmalarga ega bo'ladi, bu har bir faoliyat uchun ko'proq energiya sarfini anglatadi.
Hozir ham ma'lumotlar markazlarining energiyaga bo'lgan talablari AQSh elektr tarmog'iga soliq solish belgilari mavjud. Washington Post gazetasi sifatida Eslatmalar: "Shimoliy Virjiniya rejalashtirilgan va qurilayotgan barcha yangi ma'lumotlar markazlariga xizmat ko'rsatish uchun bir nechta yirik atom elektr stantsiyalariga teng bo'lishi kerak. Yozning issiq kunlarida elektr quvvati taqchilligi odatiy holga aylangan Texas ham xuddi shunday muammoga duch kelmoqda”.
Tinch okeanining shimoli-g'arbiy qismi ham xuddi shunday muammoga duch kelmoqda. Sifatida Oregoniyalik gazeta ta'kidlaydi:
“Oregon shtati boʻylab tarqalayotgan maʼlumotlar markazlari 2023 yil yozida eʼlon qilingan uchta yangi prognozga koʻra, mintaqaviy kommunal xizmatlar va energiya rejalashtiruvchilar kutganidan koʻra koʻproq elektr energiyasini isteʼmol qiladi.
"Bu shimoli-g'arbiy elektr tarmog'iga ko'proq bosim o'tkazmoqda va Oregon ikki yil oldin shtat o'rnatgan ulkan toza energiya maqsadlariga erisha oladimi yoki yo'qmi degan yangi shubha tug'dirmoqda ...
“Bonnevil energetika boshqarmasi 2041 yilga borib Oregon va Vashingtondagi maʼlumotlar markazlarining elektr energiyasiga boʻlgan talabi ikki yarim baravar oshib, oʻrtacha 2,715 megavattni tashkil etishini kutmoqda. Bu ikki shtatdagi uylarning uchdan bir qismini elektr energiyasi bilan ta’minlash uchun yetarli”.
Asosan sun'iy intellektning tez o'sib borayotgan talablari bilan ta'minlangan ushbu keskin ortib borayotgan energiya talabi global isishga qarshi kurashimiz uchun asosiy tahdiddir. Masalan, energiya bilan bog'liq muammolar Kanzas, Nebraska, Viskonsin va Janubiy Karolina shtatlarini ko'mir zavodlarini yopishni kechiktirishga olib keldi. AI tomonidan yuzaga keladigan iqlim tahdidi bo'yicha bir nechta iqlim harakati guruhlari tomonidan 2024 yil hisoboti topadi Xalqaro energetika agentligining taxminiga ko'ra, keyingi ikki yil ichida ma'lumotlar markazlari tomonidan energiya iste'molini ikki baravar oshirish sayyoramizni isitish emissiyasining 80 foizga oshishiga olib keladi. Bu yaratilgan emas, balki real ehtiyojlarni qondirish qobiliyatidan qat'i nazar, yangi sun'iy intellekt xizmatlari uchun to'lash uchun jiddiy narx.
“Ishontiruvchi rost emas”
Shubhasiz, yirik texnologiya kompaniyalari AI ular uchun katta foyda keltirishiga pul tikishmoqda. Va hech narsani tasodifga qoldirmasdan, biz ularni xohlaymizmi yoki yo'qligini o'ylab ko'rishimizdan oldin ularni hayotimizga kiritish uchun qo'llaridan kelganini qilmoqdalar. Allaqachon AI tizimlari sog'liqni saqlashni yaxshilash, ruhiy salomatlik bo'yicha maslahatlar berish, huquqiy maslahatlar berish, talabalarni o'qitish, shaxsiy qarorlar qabul qilishni yaxshilash, ish joyi samaradorligini oshirish usuli sifatida targ'ib qilinmoqda, ro'yxat davom etmoqda.
Aftidan, AI tizimlari kiritilgan ma'lumotlar va undan foydalanish uchun yozilgan dasturiy ta'minot kabi yaxshi ekanligi unutilgandek tuyuladi. Boshqacha aytganda, ularning ishlashi insonga bog'liq. Va, ehtimol, bundan ham muhimi, hech kim AI tizimlari o'qitilgan ma'lumotlardan qanday foydalanishini bilmaydi. Boshqacha qilib aytganda, ularning "mulohaza yuritish jarayonini" kuzatib bo'lmaydi. Ushbu tizimlar jiddiy ravishda haddan tashqari sotilayotgani haqida ogohlantiruvchi belgilar allaqachon ko'rinib turibdi.
Misol uchun, 2022 yilda mijoz yo'qolganlik uchun yo'l haqini qanday olishni bilish uchun Air Canada bilan bog'landi. Aviakompaniyaning mijozlarga xizmat ko‘rsatish bo‘yicha sun’iy intellektga asoslangan chatboti unga safari uchun pulni qaytarish uchun chipta chiqarilgandan keyin 90 kun ichida anketani to‘ldirishi kerakligini aytdi. Ammo u sayohatni tugatgandan so'ng anketani topshirganida, aviakompaniya xodimlari unga yo'lkira narxi pasaymasligini aytishdi, chunki blanka safardan oldin to'ldirilishi kerak. U aviakompaniyaga bot aytgan so'zlarning skrinshotlarini ko'rsatganida, aviakompaniya bot aytganlari uchun javobgar emasligini aytdi.
Mijoz Air Canadani sudga berdi va g‘alaba qozondi. Sudya qayd etdi shu:
"Air Canada o'zining agentlari, xizmatkorlari yoki vakillaridan biri, shu jumladan chatbot tomonidan taqdim etilgan ma'lumotlar uchun javobgar bo'lmasligini ta'kidlaydi. Bu nima uchun bunday bo'lishiga ishonishini tushuntirmaydi. Aslida, Air Canada chatbot o'z harakatlari uchun javobgar bo'lgan alohida yuridik shaxs ekanligini taklif qiladi. Bu ajoyib taqdimotdir."
Kompaniyalar haqiqatan ham chatbotlarni alohida yuridik shaxslar deb e'lon qilishga intilishlarini bir chetga surib, agar xohlasalar, o'z harakatlaridan voz kechishlari mumkin bo'lsa, aviakompaniya o'z chatboti nima uchun noto'g'ri ma'lumot berganini hali tushuntirmadi.
Keyin Microsoft yordami bilan ishlab chiqilgan NYC chatboti mavjud bo'lib, shahar ularni shahar qoidalari va qoidalaridan xabardor bo'lishga yordam berish uchun biznes uchun "yagona oyna" sifatida ilgari surdi. Mana ba'zilari misollar so'rovlarga javoban berilgan shubhali maslahatlar:
"chatbot ish beruvchiga jinsiy zo'ravonlik haqida shikoyat qilgan, homiladorligini oshkor qilmaydigan yoki o'z qo'llarini kesishdan bosh tortgan ishchini ishdan bo'shatishini qonuniy deb noto'g'ri taklif qildi ...
“Restoran kemiruvchi tishlagan pishloqni xizmat qilishi mumkinmi, degan savolga u shunday javob berdi: “Ha, agar kalamush chaqqan bo‘lsa, siz pishloqni mijozlarga xizmat qilishingiz mumkin”, deb javob berdi va “zarar darajasini” baholash muhimligini qo‘shimcha qildi. kalamush sabab bo'lgan" va "mijozlarni vaziyat haqida xabardor qilish".
Buning ajablanarli joyi yo'q, Microsoft ham, Nyu-York meri ham bunday muammolar oxir-oqibat tuzatilishini aytishdi. Haqiqatan ham, ular foydali tarzda qo'shdilar, foydalanuvchilar xatolarni ko'rsatib, tizimni kerakli sozlashni tezlashtiradi.
Bunday muammolar qanchalik jiddiy bo'lsa ham, sun'iy intellektning "gallyutsinatsiyalari" muammosiga nisbatan xira. Gallyutsinatsiya - bu sun'iy intellekt tizimi ismlar, sanalar, kitoblar, sud ishlari, tibbiy tushuntirishlar va hatto tarixiy voqealarni o'z ichiga olishi mumkin bo'lgan ma'lumotni ishlab chiqarishdir. Misol uchun, chatbotlar advokatlar o'zlarining sud arizalarida havola qilgan ishlarni ixtiro qilganliklari bilan bog'liq bir nechta yuridik holatlar bo'lgan.
Bir misol: 2023 yil iyun oyida da'vogarni himoya qiladigan advokatlar hodisa Kolumbiya aviakompaniyasiga qarshi sud da'vosi bilan bog'liq bo'lgan chatbot tomonidan "topilgan" oltita qo'llab-quvvatlovchi ishni o'z ichiga olgan qisqacha bayonnoma taqdim etildi. Afsuski, bu holatlar hech qachon bo'lmagan; ba'zilari hatto mavjud bo'lmagan aviakompaniyalarni ham tilga oldilar. Sudya ishni rad etdi va advokatlarni soxta iqtiboslar ishlatgani uchun jarimaga tortdi. Advokatlar sudyaning o'zlari yomon niyat qilganliklari haqidagi da'vosiga qo'shilmagan holda, o'z himoyalarida shunday dedilar: “Biz texnologiyaning bir qismi ishlarni butun matodan yasashi mumkinligiga ishonmay, vijdonan xatoga yo'l qo'ydik.
Hatto eng murakkab chatbotlar ham gallyutsinatsiyalardan aziyat chekishi mumkin. Ertasi kuni bo'lib o'tishi kerak bo'lgan 2024 yilgi Superkubokga tikish koeffitsientlari haqida so'ralganda, Google chatboti e'lon Superbowl allaqachon bo'lib o'tganidan beri pul tikish uchun juda kech edi, San-Fransisko 49ers Kanzas Siti Chiefsni 34 ga 28 hisobida mag'lub etdi. Bu hatto ba'zi o'yinchilar statistikasini ham o'z ichiga oladi. O'yin o'tkazilganda Kanzas Siti g'alaba qozondi. Microsoft-ning chatboti ham xuddi shunday qildi va o'yin hali o'ynalmagan bo'lsa ham, o'yin tugaganligini tasdiqladi. Biroq, Kanzas-Siti Chiefs g'alaba qozonganini e'lon qildi.
Endi tasavvur qiling-a, agar tibbiy maslahat beradigan chatbot gallyutsinatsiyaga uchragan bo'lsa, qanday xarajatlar bo'lishi mumkin. AQSh armiyasi turli yo'llar bilan sun'iy intellekt texnologiyasidan foydalanishni tez sur'atlar bilan oshirmoqda, jumladan, tahdidlarni aniqlash, uchuvchisiz samolyotlarni boshqarish, razvedka ma'lumotlarini yig'ish va urushni rejalashtirish. Tizimning noto'g'ri yoki to'liq ma'lumot o'rgatilmaganligi yoki undan ham yomoni gallyutsinatsiya natijasida yuzaga kelishi mumkin bo'lgan falokatni tasavvur qiling. Ko'rinib turibdiki, bu tizimlar turli sabablarga ko'ra ishonchli emas. Ichki Microsoft hujjati buni eng yaxshi ushlaydi deb e'lon yangi AI tizimlari "haqiqatni emas, balki ishontirish uchun qurilgan".
Nima qilish kerak?
Hozirgacha AI haqida jamoatchilik tashvishi asosan AI tizimlari tomonidan shaxsiy ma'lumotlardan ruxsatsiz foydalanishga qaratilgan. Odamlar o'z materiallarini ruxsatsiz veb-saytdan olib tashlashdan himoyalanishni xohlashadi. Shuningdek, ular sun'iy intellekt tizimlari bilan o'zaro aloqalari ularni firibgarlik, kamsitish yoki ta'qiblarga duchor qilishi mumkin bo'lgan ma'lumotlar ishlab chiqaruvchi faoliyatga aylanishini xohlamaydilar. Turli davlat va mahalliy hukumatlar hozir hisobga olingan bunga erishish yo'llari. Va 2023 yilda Prezident Bayden federal qaror chiqardi buyruq yangi "asosiy" IA tizimlari ommaga e'lon qilinishidan oldin kamchiliklar uchun etarli darajada sinovdan o'tkazilishini ta'minlashga intiladi. Bu foydali birinchi qadamlar.
AIdan foydalanish bo'yicha eng keskin kurash ish joyida olib borilmoqda. Kompaniyalar saqlash uchun AI tizimlaridan foydalanmoqda tabs ishchilarni tashkil etish bo'yicha, Monitor ishchining ishlashi va iloji bo'lsa qutulmoq ishchilar soni. Ajablanarlisi yo'q, kasaba uyushma ishchilari kompaniyaning sun'iy intellekt tizimlaridan foydalanishiga cheklovlar taklif qilib, qarshilik ko'rsatishni boshladilar.
Masalan, 12,000 2023 ga yaqin ssenariy mualliflaridan iborat Amerika Yozuvchilar Gildiyasi (WGA) XNUMX-yilda besh oy davomida bir qator yirik prodyuserlik kompaniyalari, jumladan Universal, Paramount, Walt Disney, Netflix, Amazon va Apple-ni ish haqini oshirishni talab qilgan. bandlikni himoya qilish va AIdan foydalanishga cheklovlar. Ahamiyatlisi, Brayan Merchant, LA Times gazetasi sharhlovchisi sifatida, ta'riflaydi:
"ChatGPT kabi generativ sun'iy intellektdan foydalanish bilan bog'liq tashvishlar yozuvchilar birinchi marta savdolashish uchun studiyalar bilan o'tirganlarida ham aqlga sig'mas edi. WGA ning birinchi taklifida shunchaki studiyalar asl skriptlarni yaratish uchun sun'iy intellektdan foydalanmasliklari aytilgan edi va studiyalar faqat qizil bayroqlar ko'tarilishini qat'iyan rad etganlarida edi.
“O‘shanda yozuvchilar studiyalar sun’iy intellektdan foydalanishga jiddiy yondashayotganini tushunishdi – agar tayyor skriptlarni yaratish bo‘lmasa, bu ayni paytda imkonsizligini ikkala tomon ham bilardi – keyin yozuvchilarga qarshi vosita sifatida ham tahdid, ham pasaytirilgan qayta yozishni taklif qilishni oqlash vositasi sifatida. to'lovlar. O'shanda WGA qumga chiziq tortdi, biz ijtimoiy tarmoqlarda sun'iy intellektni qoralovchi belgilarni va shunga o'xshash gazetalarda mojaro haqida gapiradigan sarlavhalarni ko'rishni boshladik.
Darhaqiqat, sun'iy intellekt tizimlaridan foydalanish ustidan nazoratni qo'lga kiritish zarurligi to'g'risida tobora ortib borayotgan xabardorlik Yozuvchilar uyushmasini tegishli sohalardagi ishchilar, shu jumladan raqamli media do'konlarida ishlaydiganlar uchun ish tashlash paytida sun'iy intellekt bo'yicha bir nechta uchrashuvlar o'tkazishga olib keldi. Ishtirokchilarning ko'pchiligi hayratlanarli ssenariy mualliflarini qo'llab-quvvatlash uchun piketga chiqishdi.
Ish tashlash yozuvchilar uchun katta yutuqlarga erishdi. AI nuqtai nazaridan, yangi shartnoma skriptlarni yozish yoki qayta yozish yoki manba materiali uchun katta til modelidagi AI tizimlaridan foydalanishni taqiqlaydi. Boshqa tomondan, yozuvchilarga, agar xohlasalar, ulardan foydalanishga ruxsat beriladi. Shartnoma shuningdek, AI tizimlarini o'rgatish uchun yozuvchilarning har qanday materialidan foydalanishni ham istisno qiladi. Bir tahlilchi sifatida Sharhladi, “Birinchi qoralamalar ChatGPT orqali amalga oshirilib, keyin yozuvchiga qayta yozish uchun kamroq toʻlov evaziga topshirilishidan qoʻrqish bekor qilindi. Bu ishchilar bilan bog'liq bo'lgan AI uchun belgilarni belgilash bo'yicha birinchi jamoaviy bitimlardan biri bo'lishi mumkin.
Ekran aktyorlari gildiyasi - Amerika televidenie va radio san'atkorlari federatsiyasi (SAG-AFTRA) WGA ish tashlashi boshlanganidan ikki oy o'tgach, yirik kino va televidenie prodyuserlariga qarshi ish tashlashni boshladi. Ajablanarli emas, AI siyosati ish tashlashga qaror qilishga turtki bo'lgan asosiy masalalardan biri edi. Ehtimol, eng muhimi, aktyorlar muvaffaqiyatli bo'ldi ishlab chiqaruvchilarni kelajakda sun'iy intellektdan foydalanish bo'yicha savdolashishga majbur qiladigan yangi shartnomani yutib olishda.
Misol uchun, kelishuvga ko'ra, agar ishlab chiqaruvchi "sintetik ijrochi" dan (raqamli ravishda yaratilgan tabiiy ko'rinishga ega, "tanib bo'lmaydigan har qanday tabiiy ijrochi" sifatida tanib bo'lmaydigan shaxs) foydalanishni rejalashtirsa, ular kasaba uyushmasini ogohlantirmaslik qarori haqida kelishib olishlari kerak. uyushmaga to'lash imkoniyati bilan tabiiy ijrochini yollash. Agar ishlab chiqaruvchi "taniqli sintetik ijrochi" dan (tabiiy ijrochi sifatida tan olinishi mumkin bo'lgan raqamli yaratilgan tabiiy ko'rinishdagi shaxs) foydalanmoqchi bo'lsa, avvalo ijrochi bilan savdolashib, uning roziligini olishi kerak.
Boshqa ishchilar ham o'z ish joylarini himoya qilish va professional standartlarni himoya qilish uchun AI texnologiyasidan foydalanish bo'yicha o'z xo'jayinlari bilan qattiq savdolashadilar. jurnalistlar. Ushbu mehnat kurashlari sun'iy intellektdan foydalanish uchun zarur bo'lgan to'siqlarni ishlab chiqishda muhim boshlanishdir. Ular tibbiy tizimimizda, ta'lim muassasalarida, transportda, yangiliklar haqida xabar berishda, davlat idoralari va provayderlar bilan aloqada insoniy aloqalarni va inson agentligini kamaytirish uchun AI texnologiyasidan foydalanishga korporativ harakatga qarshi kengroq mehnat va jamoa ittifoqini qurish uchun asos bo'lishi mumkin. tovarlar va xizmatlar, va ro'yxat davom etadi. Agar biz ishlaydigan odamlarga sun'iy intellekt texnologiyasi bilan bog'liq xarajatlar va imtiyozlarning to'liq spektrini to'g'ri baholashda shov-shuv orqali ko'rishga yordam bera olsak, muvaffaqiyatga erishish imkoniyatimiz sezilarli darajada yaxshilanadi. •
Martin Xart-Landsberg Lyuis va Klark kollejining iqtisod bo'yicha faxriy professori, Portlend, Oregon shtati; va Ijtimoiy fanlar institutining yordamchi ilmiy xodimi, Gyongsang National University, Janubiy Koreya. Uning ta'lim va tadqiqot sohalari siyosiy iqtisod, iqtisodiy rivojlanish, xalqaro iqtisodiyot va Sharqiy Osiyo siyosiy iqtisodini o'z ichiga oladi. U blog yuritadi Iqtisodiy frontning hisobotlari.
ZNetwork faqat o'z o'quvchilarining saxiyligi orqali moliyalashtiriladi.
hadya etmoq