Хиймэл оюун ухаан гэгдэх хурдацтай тархалтын эргэн тойронд өрнөж буй олон мэтгэлцээний дунд “галлюцинат” гэдэг үгийг сонгоход чиглэсэн харьцангуй ойлгомжгүй мөргөлдөөн байдаг.
Энэ бол хиймэл хиймэл оюун ухааны архитекторууд болон өдөөгчид бүрэн үйлдвэрлэсэн чатботуудын хариу үйлдлийг тодорхойлохын тулд суурьшсан нэр томъёо юм. Жишээлбэл, та ботоос байхгүй байгаа зүйлийн тодорхойлолтыг асуухад энэ нь танд итгэл үнэмшилтэй байдлаар өгдөг. Нэг, зохиосон зүүлт тайлбараар бүрэн. Google болон Alphabet компанийн гүйцэтгэх захирал Сундар Пичай "Энэ салбарт хэн ч хий үзэгдэлтэй холбоотой асуудлыг шийдэж чадаагүй байна." гэж хэлэв саяхан ярилцлага өгсөн хүн.
Энэ нь үнэн, гэхдээ яагаад алдаануудыг "хий үзэгдэл" гэж нэрлээд байгаа юм бэ? Яагаад алгоритмын хог хаягдал болохгүй гэж? Эсвэл алдаа? За, хий үзэгдэл гэдэг нь хүний тархинд байхгүй үзэгдлийг, ядаж ердийн материалист хэллэгээр мэдрэх нууцлаг чадварыг хэлдэг. Сэтгэл судлал, сэтгэл зүй, ид шидийн янз бүрийн хэлбэрт түгээмэл хэрэглэгддэг үгийг зөв зохистой ашигласнаар AI-ийн өдөөгчид машинынхаа алдаатай байдлыг хүлээн зөвшөөрөхийн зэрэгцээ эдгээр том хэлний загваруудыг бүтээж, тэдгээрийг бүх зүйлд сургах замаар салбарын хамгийн эрхэм домог зүйг нэгэн зэрэг тэжээж байна. Хүмүүс бид бичиж, хэлж, нүдээр дүрсэлсэн ч тэд төрөл зүйлийн хувьд хувьслын үсрэлт хийх оргил дээр амьд оюун ухааныг төрүүлэх шатандаа явж байна. Bing, Bard гэх мэт роботууд эфирт өөр яаж унасан байж болох вэ?
Хиймэл төсөөлөл хиймэл оюун ухааны ертөнцөд үнэхээр өрнөж байна – гэхдээ тэдгээр нь роботууд биш юм; Энэ бол тэднийг ганцаарчилсан болон хамтдаа зэрлэг хий үзэгдэлд автсан шүтэн бишрэгчдийнхээ хамтаар сулласан технологийн гүйцэтгэх захирлууд юм. Энд би галлюцинацияг ид шидийн эсвэл сэтгэцийн утгаар биш, оюун санааны хувьд өөрчлөгдсөн төлөв байдлыг тодорхойлж байгаа бөгөөд энэ нь гүн гүнзгий, урьд өмнө нь ойлгогдоогүй үнэнийг олж авахад тусалдаг. Үгүй. Эдгээр хүмүүс зүгээр л бүдэрч байна: огт байхгүй нотлох баримтуудыг олж харж, эсвэл ядаж хардаг гэж нотолж, тэр ч байтугай өөрсдийн бүтээгдэхүүнийг бидний бүх нийтийн өргөлт, боловсролд ашиглах бүхэл бүтэн ертөнцийг төсөөлж байна.
Генератив хиймэл оюун ухаан нь ядуурлыг арилгана гэж тэд бидэнд хэлдэг. Энэ нь бүх өвчнийг эмчлэх болно. Энэ нь уур амьсгалын өөрчлөлтийг шийдэх болно. Энэ нь бидний ажлыг илүү утга учиртай, сэтгэл хөдөлгөм болгоно. Энэ нь чөлөөт цагаа өнгөрөөх, эргэцүүлэн бодох амьдралыг нээж, хожуу капиталист механикжуулалтад алдсан хүн төрөлхтнийг эргүүлэн авахад бидэнд туслах болно. Энэ нь ганцаардлыг дуусгах болно. Энэ нь манай засгийн газруудыг оновчтой, хариуцлагатай болгоно. Эдгээр нь жинхэнэ хиймэл оюун ухааны хий үзэгдэл бөгөөд Chat GPT өнгөрсөн оны сүүлээр хэрэгжиж эхэлснээс хойш бид бүгд үүнийг байнга сонсож байгаа гэж би айж байна.
Урьдчилан таамаглах хүчирхэг судалгааны хэрэгсэл, уйтгартай ажлуудыг гүйцэтгэгч болох үүсгүүрийн хиймэл оюун ухааныг үнэхээр ашиглаж болох ертөнц бий. ашиг тус хүн төрөлхтөн, бусад төрөл зүйл, бидний хамтын гэр. Гэвч үүний тулд эдгээр технологиудыг биднийхээс тэс өөр эдийн засаг, нийгмийн дэг журамд ашиглах шаардлагатай бөгөөд энэ нь хүний хэрэгцээг хангах, бүх амьдралыг тэтгэгч гаригийн системийг хамгаалах зорилготой юм.
Одоохондоо бүдэрч амжаагүй байгаа бидний одоогийн систем тийм биш гэдгийг ойлгож байгаа. Харин энэ нь хүн төрөлхтөн болон байгалийн ертөнцөөс баялаг, ашгийг нэмэгдүүлэхийн тулд бүтээгдсэн бөгөөд энэ нь биднийг капитализмын техно-некро үе шат гэж бодож болохуйц бодит байдалд хүргэсэн юм. Эрх мэдэл, эд баялгийн хэт төвлөрсөн бодит байдалд хиймэл оюун ухаан нь эдгээр бүх утопи хий үзэгдэлд нийцэхээс хол байгаа нь цаашид эзэмшиж, цөлмөх аймшигт хэрэгсэл болох магадлал өндөр юм.
Би яагаад ийм байдгийг судална. Гэхдээ эхлээд энэ талаар бодох нь зүйтэй зорилго хиймэл оюун ухааны тухай утопи хий үзэгдэл үйлчилж байна. Бид эдгээр хачирхалтай шинэ хэрэгслүүдтэй тулгарах үед эдгээр сайхан сэтгэлт түүхүүд соёлд ямар ажил хийж байна вэ? Энд нэг таамаглал байна: эдгээр нь хүн төрөлхтний түүхэн дэх хамгийн том бөгөөд үр дагавартай хулгай болж хувирах хүчтэй бөгөөд сэтгэл татам нүүр түүхүүд юм. Учир нь бидний харж байгаа зүйл бол түүхэн дэх хамгийн баян компаниуд (Microsoft, Apple, Google, Meta, Amazon ...) хүний мэдлэгийн нийлбэрийг дижитал хэлбэрээр дангаар нь булаан авч, түүнийгээ өмчийн бүтээгдэхүүн дотроос нь хаах болно. Насан туршийн хөдөлмөрөөрөө машиныг зөвшөөрөл, зөвшөөрөлгүйгээр сургасан хүмүүсийг шууд онилох.
Энэ нь хууль ёсны байх ёсгүй. Зохиогчийн эрхээр хамгаалагдсан материалын хувьд бид одоо мэдэх загваруудыг сургасан (энэ сониныг оруулаад), янз бүрийн шүүх ажиллагаа Энэ нь илт хууль бус байсан гэдгийг нотлохоор мэдүүлсэн. Жишээлбэл, ашгийн төлөө компанид амьд зураачдын зураг, зураг, гэрэл зургийг Stable Diffusion эсвэл Dall-E 2 гэх мэт хөтөлбөрт оруулахыг зөвшөөрч, улмаар тэдгээр зураачдын хосолсон хувилбаруудыг гаргахад ашиглахыг яагаад зөвшөөрөх ёстой гэж? Уран бүтээлчдээс бусад бүх хүмүүст ашиг тусаа өгөх ажил?
Зураач, зураач Молли Крабаппл энэ хулгайг эсэргүүцэж буй зураачдын хөдөлгөөнийг удирдахад тусалж байна. “Хиймэл оюун ухааны урлагийн генераторуудыг зохиогчийн эрхээр хамгаалагдсан олон сая, сая сая зураг агуулсан асар том мэдээллийн санд сургаж, нөхөн төлбөр, зөвшөөрөлгүйгээр бүтээгчийн мэдэлгүйгээр хураан авдаг. Энэ бол түүхэн дэх хамгийн том урлагийн хулгай юм. Цахиурын хөндийн венчур капиталаар дэмжигдсэн нэр хүндтэй корпорациуд үйлдсэн. Энэ бол өдрийн хулгай” гэсэн шинэ нээлттэй түүний хамтран боловсруулсан захидал.
Мэдээжийн хэрэг, Цахиурын Хөндий хулгайг "тасалдал" гэж нэрлэдэг бөгөөд энэ нь ихэвчлэн түүнээс зугтдаг. Энэ алхмыг бид мэднэ: хууль бус нутаг дэвсгэр рүү урагшлах; хуучин дүрэм таны шинэ технологид хамаарахгүй гэж мэдэгдээрэй; Баримтуудыг газар дээр нь баттай олж авч байхад зохицуулалт нь зөвхөн Хятадад тусална гэж хашгир. Бид бүгдээрээ эдгээр шинэ тоглоомуудын шинэлэг байдлыг даван туулж, нийгэм, улс төр, эдийн засгийн сүйрлийн талаар дүгнэлт хийж эхлэх үед технологи аль хэдийн хаа сайгүй тархсан байдаг. шүүхүүд бодлого боловсруулагчид гараа өргөдөг.
Бид үүнийг Google-ийн ном, урлагийн сканнераар харсан. Маскийн сансрын колоничлолтой хамт. Uber таксины салбар руу дайрснаар. Түрээсийн зах зээлд Airbnb-ийн дайралтаар. Фэйсбүүкийн бидний мэдээлэлтэй завхайрсан байдалтай. Зөвшөөрөл бүү гуй, үймүүлэгчид уучлалт гуй гэж хэлэх дуртай. (Мөн асуултуудыг кампанит ажилд өгөөмөр хандиваар тосол.)
Хяналтын капитализмын эрин үед, Шошана Зубофф Google-ийн "Гудамж харах" газрын зураг нь бидний нийтийн эзэмшлийн зам талбай болон байшингийн гадна талыг гэрэл зургийн хальснаа буулгахын тулд камертай машинуудаа илгээж, нууцлалын хэм хэмжээг хэрхэн даван туулж байсныг нарийвчлан нарийвчлан бичсэн болно. Хувийн нууцлалын эрхийг хамгаалсан зарга хэрэгжих үед "Гудамж харах" манай төхөөрөмжид аль хэдийн маш хаа сайгүй тархсан (мөн маш сайхан, маш тохиромжтой ...) байсан тул гадаа цөөхөн шүүхүүд байдаг. Герман хөндлөнгөөс оролцоход бэлэн байв.
Одоо манай байшингийн гадна талд тохиолдсонтой ижил зүйл бидний үг, зураг, дуу, бидний бүх дижитал амьдралд тохиолдож байна. Одоогоор бүгдийг нь хураан авч, сэтгэлгээ, бүтээлч байдлыг загварчлах машинуудыг сургахад ашиглаж байна. Эдгээр компаниуд хулгай хийж байгаагаа мэдэж байх ёстой, эсвэл ядаж а хүчтэй тохиолдол байгаа гэж үзэж болно. Тэд зүгээр л хуучин тоглоомын дэвтэр дахин ажиллана гэж найдаж байна - дээрмийн цар хүрээ нь аль хэдийн маш том бөгөөд ийм байдлаар нээгдэж байна. хурд Шүүх, бодлого боловсруулагчид энэ бүхний гарцаагүй байдлын өмнө дахин гараа өргөх болно.
AI-ийн хүн төрөлхтний төлөө хийх бүх гайхамшигт зүйлсийн тухай тэдний хий үзэгдэл маш чухал байдаг нь энэ юм. Учир нь эдгээр сүр дуулианууд нь энэхүү их хэмжээний хулгайг бэлэг болгон халхавчлахын зэрэгцээ хиймэл оюун ухааны үгүйсгэх аргагүй аюулыг оновчтой болгоход тусалдаг.
Одоогийн байдлаар бидний ихэнх нь энэ тухай сонссон судалгаа Энэ нь хиймэл оюун ухаан судлаач, хөгжүүлэгчдээс дэвшилтэт хиймэл оюун ухааны системүүд нь "хүн төрөлхтөн устаж үгүй болох эсвэл үүнтэй адил хүний төрөл зүйлийг бүрмөсөн, ноцтойгоор устгах" магадлалыг тооцоолохыг хүссэн. Гайхалтай нь 10% магадлалтай гэсэн дундаж хариулт байв.
Ийм оршин тогтнох эрсдэлийг дагуулдаг багаж хэрэгслийг шахаж, ажилдаа явахыг хэрхэн оновчтой болгох вэ? Ихэнхдээ эдгээр системүүд нь асар их давуу талтай байдаг нь ихэвчлэн хий үзэгдэлтэй байдаг. Хэд хэдэн зэрлэгийг нь ухаад үзье.
Хий үзэгдэл #1:AI болно шийдвэрлэх уур амьсгал хямрал
AI-ийн давуу талуудын жагсаалтыг байнга тэргүүлдэг нь эдгээр систем нь цаг уурын хямралыг ямар нэгэн байдлаар шийдвэрлэх болно гэсэн мэдэгдэл юм. Бид үүнийг хүн бүрээс сонссон Дэлхийн эдийн засгийн форум нь Гадаадын харилцааны зөвлөл to Бостон консалтинг групп, энэ нь хиймэл оюун ухааныг "нүүрстөрөгчийн ялгаралтай тэмцэх, илүү ногоон нийгмийг бий болгоход илүү мэдээлэлтэй, өгөгдөлд суурилсан хандлагыг хэрэгжүүлэхэд бүх оролцогч талуудад дэмжлэг үзүүлэхэд ашиглаж болно" гэж тайлбарлав. Үүнийг хамгийн эрсдэлтэй бүс нутгуудад чиглэсэн дэлхийн цаг уурын хүчин чармайлтыг дахин жинлүүлэхэд ашиглаж болно." Google-ийн Гүйцэтгэх захирал асан Эрик Шмидт энэ хэргийг тоймлон хэлжээ гэж хэлэв Атлантын далайд хиймэл оюун ухааны эрсдэлийг авч үзэх нь зүйтэй байсан, учир нь “Хэрэв та дэлхийн хамгийн том асуудлуудын талаар бодох юм бол уур амьсгалын өөрчлөлт, хүний байгууллага гэх мэт бүгд үнэхээр хэцүү байдаг. Тиймээс би хүмүүсийг илүү ухаалаг байхыг үргэлж хүсдэг."
Энэ логикоор бол уур амьсгалын өөрчлөлт гэх мэт томоохон асуудлуудыг “шийдэж” чадахгүй байгаа нь оюуны хомсдолтой холбоотой. Докторын зэрэгтэй, Нобелийн шагналтай ухаантай хүмүүс манай засгийн газруудад энэ эмх замбараагүй байдлаас гарахын тулд юу хийх хэрэгтэйг хэдэн арван жилийн турш хэлж байсан: утаагаа багасга, нүүрсхүчлийн хийг газарт үлдээ, баячуудын хэт их хэрэглээ, дутуу хэрэглээтэй тэмц. Ямар ч эрчим хүчний эх үүсвэр экологийн зардлаас ангид байдаггүй учраас ядуусын.
Энэхүү маш ухаалаг зөвлөгөөг үл тоомсорлож байгаа шалтгаан нь уншиж ойлгох чадварын асуудлаас шалтгаалаагүй юм уу эсвэл бидний төлөө ямар нэгэн байдлаар сэтгэхүйгээ хийх машин хэрэгтэй байгаа юм. Учир нь уур амьсгалын хямрал биднээс шаардаж байгаа зүйлийг хийх нь гацах болно их наяд доллар Манай харилцан уялдаатай эдийн засгийн гол цөм болох хэрэглээнд суурилсан өсөлтийн загварыг сорьж байхад чулуужсан түлшний хөрөнгийн . Уур амьсгалын хямрал нь үнэн хэрэгтээ хангалттай найдвартай мэдээллийн багцаас болж бидний шийдэж амжаагүй оньсого, оньсого биш юм. Үүнд юу шаардагдахыг бид мэднэ, гэхдээ энэ нь хурдан засах зүйл биш - энэ бол парадигмын өөрчлөлт юм. Машинууд илүү амттай ба/эсвэл ашигтай хариулт өгөхийг хүлээх нь энэ хямралыг эмчлэх арга биш, харин түүний бас нэг шинж тэмдэг юм.
Хий үзэгдэлийг арилгавал хиймэл оюун ухаан нь цаг уурын хямралыг идэвхтэй гүнзгийрүүлэх арга замаар зах зээлд гарах магадлал өндөр байна. Нэгдүгээрт, чатботуудаас шуурхай эссэ, урлагийн бүтээл хийх боломжтой асар том серверүүд нь асар том бөгөөд өсөн нэмэгдэж буй юм. эх үүсвэр нүүрстөрөгчийн ялгаруулалт. Хоёрдугаарт, Coca-Cola зэрэг компаниуд үйлдвэрлэж эхэлснээр асар их хөрөнгө оруулалт Илүү олон бүтээгдэхүүн борлуулахын тулд хиймэл хиймэл оюун ухааныг ашиглахын тулд энэхүү шинэ технологи нь сүүлийн үеийн дижитал хэрэгслүүдийн нэгэн адил ашиглагдах нь дэндүү тодорхой болж байна: эрх чөлөө, ардчиллыг түгээн дэлгэрүүлэх тухай өндөр амлалтаас эхэлсэн зүйл нь эцэст нь бичил зорилтот зар сурталчилгаагаар дуусах болно. Ингэснээр бид илүү хэрэггүй, нүүрстөрөгч ялгаруулдаг зүйлсийг худалдаж авдаг.
Гурав дахь хүчин зүйл бий, үүнийг тогтооход арай хэцүү байдаг. Манай хэвлэл мэдээллийн сувгууд гүн гүнзгий хуурамч, олон төрлийн клоноор дүүрэх тусам бид мэдээллийн элсэнд живэх мэдрэмж төрдөг. Арав гаруй жилийн өмнө түүний бүтээсэн мэдрэлийн сүлжээ нь өнөөгийн хэлний томоохон загваруудын барилгын материал болдог учраас түүнийг ихэвчлэн "AI-ийн загалмайлсан эцэг" гэж нэрлэдэг Жеффри Хинтон үүнийг сайн ойлгодог. Тэрээр өөрийн бүтээхэд тусалсан технологийн эрсдэлийн талаар чөлөөтэй ярихын тулд Google-ийн ахлах албан тушаалаа орхисон юм. гэж хэлэв Нью Йорк Таймс сонинд бичсэнээр хүмүүс "юу үнэн болохыг цаашид мэдэх боломжгүй" гэсэн эрсдэлтэй.
Энэ нь хиймэл оюун ухаан нь уур амьсгалын хямралтай тэмцэхэд тусална гэсэн мэдэгдэлд маш их хамааралтай юм. Учир нь бид улам бүр хачирхалтай болж буй хэвлэл мэдээллийн орчинд уншиж, харж буй бүх зүйлдээ үл итгэх үедээ хамтын тулгамдсан асуудлыг шийдвэрлэхэд улам бүр бага болов. Итгэлцлийн хямрал нь мэдээж ChatGPT-ээс өмнөх үе байсан ч гүн гүнзгий хуурамч зүйл олшрох нь аль хэдийн цэцэглэн хөгжиж буй хуйвалдааны соёл экспоненциаль өсөлтийг дагалдана гэдэгт эргэлзэхгүй байна. Тэгэхээр хиймэл оюун ухаан технологийн болон шинжлэх ухааны нээлт хийвэл ямар өөрчлөлт гарах вэ? Хэрэв хуваалцсан бодит байдлын даавуу бидний гарт задрах юм бол бид ямар ч уялдаа холбоотой хариу өгөх боломжгүй болно.
Хий үзэгдэл #2:AI болно Хүргэх ухаалаг засаглалын
Энэхүү хий үзэгдэл нь улстөрчид болон хүнд сурталтнууд хиймэл оюун ухааны системийн асар их оюун ухаанд тулгуурлан “хэрэгцээний хэв маягийг харж, нотолгоонд суурилсан хөтөлбөр боловсруулах” боломжтой болох ойрын ирээдүйг уриалж байна. Энэ нэхэмжлэл нь а цаасан Boston Consulting Group-ийн сангаас нийтэлсэн боловч энэ нь олон судалгааны төв, менежментийн зөвлөхүүдийн дунд цуурайтаж байна. Эдгээр компаниуд буюу засгийн газар болон бусад корпорацуудын зардлаа хэмнэж, ихэвчлэн олон тооны ажилчдыг халах замаар хөлсөлсөн пүүсүүд хиймэл оюун ухаанд хамгийн хурдан орсон гэдгийг харуулж байна. PwC (хуучнаар PricewaterhouseCoopers) зүгээр л зарлалаа 1 тэрбум долларын хөрөнгө оруулалт хийсэн бөгөөд Bain & Company болон Deloitte нь үйлчлүүлэгчдээ илүү "үр ашигтай" болгохын тулд эдгээр хэрэгслийг ашиглахыг эрмэлздэг гэж мэдээлж байна.
Уур амьсгалын мэдэгдлийн нэгэн адил асуух хэрэгтэй: улстөрчид харгис хэрцгий, үр дүнгүй бодлого хэрэгжүүлж байгаагийн шалтгаан нь нотлох баримт дутмаг байгаа юм уу? БЦЖ-ийн баримт бичигт дурдсанчлан "загваруудыг харах" чадваргүй болсон уу? Хүний өртөг гэдгийг тэд ойлгохгүй байна уу өлсгөлөн Цар тахлын үед нийгмийн эрүүл мэндийн тусламж үйлчилгээ, эсвэл манай хотын цэцэрлэгт хүрээлэнгүүд майхан дүүрэхэд зах зээлийн бус орон сууцанд хөрөнгө оруулалт хийхгүй байх уу, эсвэл температурын өсөлттэй үед чулуужсан түлшний дэд бүтцийг батлах уу? Шмидтийн хэлснээр тэднийг "ухаалаг" болгохын тулд хиймэл оюун ухаан тэдэнд хэрэгтэй юу, эсвэл тэд дараагийн кампанит ажилдаа хэн оролцохыг мэдэх хангалттай ухаантай юу, эсвэл хэрвээ тэд төөрсөн бол өрсөлдөгчөө мөнгө болгоход хангалттай ухаантай юу?
Хэрэв хиймэл оюун ухаан үнэхээр компанийн мөнгө болон бодлогогүй бодлого хоёрын хоорондын холбоог тасалж чадвал үнэхээр сайхан байх болно, гэхдээ энэ холбоос нь Google, Microsoft зэрэг компаниуд яагаад анхааруулга, нурангид өртсөн ч чатботоо олон нийтэд нээлттэй болгохыг зөвшөөрсөнтэй холбоотой. мэдэгдэж байгаа эрсдэлүүд. Шмидт болон бусад хүмүүс олон жилийн турш лобби хийх кампанит ажил өрнүүлсэн хэлэх Вашингтон дахь хоёр нам, хэрэв тэд ноцтой зохицуулалтын дарамтаас ангид хиймэл хиймэл оюун ухаанаа чөлөөтэй ашиглаж чадахгүй бол барууны гүрнүүд Хятадад тоосонд дарагдах болно. Өнгөрсөн жил технологийн шилдэг компаниуд зарцуулсан Вашингтоныг лоббидох 70 сая ам.доллар нь газрын тос, байгалийн хийн салбараас ч илүү бөгөөд энэ нь "түүний олон төрлийн худалдааны бүлгүүд, ашгийн бус байгууллага, судалгааны төвүүдэд" зарцуулсан сая сая доллараас дээгүүр байна гэж Bloomberg мэдээлэв.
Хэдийгээр манай улсын нийслэлд мөнгө хэрхэн бодлого боловсруулдгийг нарийн мэддэг ч ChatGPT-ийн бүтээгч OpenAI-ийн гүйцэтгэх захирал Сэм Алтманы бүтээгдэхүүнийхээ хамгийн сайн хувилбаруудын талаар ярихыг сонсоход энэ бүхэн тийм байх шиг байна. мартсан. Үүний оронд тэрээр улстөрчид болон салбарынхан хамгийн сайн мэдээлэлд тулгуурлан шийдвэр гаргадаг, ашиг орлого, геополитикийн давуу байдлын төлөө хэзээ ч тоо томшгүй олон хүний амь насыг эрсдэлд оруулахгүй, манайхаас огт өөр ертөнцийг төсөөлж байгаа бололтой. Энэ нь биднийг өөр хий үзэгдэл рүү авчирдаг.
Хий үзэгдэл #3: технологийн аваргууд болно be итгэсэн биш эвдэж дэлхийн
Гэж асуув Хэрэв тэр ChatGPT-ийн алтны халдлагад санаа зовж байгаа бол Альтман үүнийг хэлсэн ч "Бүх зүйл бүтнэ гэж найдаж байна" гэж итгэлтэйгээр нэмж хэлэв. Өрсөлдөгч чатботуудаа яаран гаргахаар өрсөлдөж буй технологийн гүйцэтгэх захирлуудын тухайд тэрээр: "Би илүү сайн сахиусан тэнгэрүүд ялна гэж бодож байна."
Илүү сайн сахиусан тэнгэрүүд үү? Google дээр үү? Энэ компани гэдэгт би итгэлтэй байна дэлбэлсэн Тэдгээрийн ихэнх нь хиймэл оюун ухааны талаар шүүмжлэлтэй нийтлэл нийтэлж, эсвэл компанийг ажлын байран дахь арьс өнгөөр ялгаварлан гадуурхах, бэлгийн дарамт үзүүлэхийг уриалж байсантай холбоотой. Илүү олон "илүү сайн сахиусан тэнгэрүүд" бий татахаа больсон түгшүүртэй, хамгийн сүүлд Хинтон. Учир нь хиймэл оюун ухаанаас хамгийн их ашиг олдог хүмүүсийн хий үзэгдэлээс ялгаатай нь Google нь дэлхийн хамгийн сайн зүйлд тулгуурлан шийдвэр гаргадаггүй, харин хамгийн сүүлийн үеийн хөөсийг алдахыг хүсдэггүй Alphabet-ийн хувьцаа эзэмшигчдэд хамгийн сайн зүйлд үндэслэн шийдвэр гаргадаг. Майкрософт, Мета, Apple аль хэдийн орсон үед.
Галлюцинация #4:AI болно чөлөөлөх us нь хүнд хэцүү
Цахиурын хөндийн нинжин сэтгэлийн хий үзэгдэл олон хүнд үнэмшилтэй мэт санагдаж байвал үүнд энгийн шалтгаан бий. Generative AI одоогоор бидний төсөөлж болохуйц хуурамч социализмын үе шатанд байна. Энэ бол одоо танил болсон Цахиурын хөндийн тоглоомын нэг хэсэг юм. Нэгдүгээрт, сонирхол татахуйц бүтээгдэхүүн (хайлтын систем, газрын зургийн хэрэгсэл, нийгмийн сүлжээ, видео платформ, унадаг дугуй ...); Үүнийг хэдэн жилийн турш үнэ төлбөргүй эсвэл бараг үнэ төлбөргүй, ямар ч бодитой бизнес загваргүйгээр өг (“Ботуудтай тогло” гэж тэд бидэнд “Ямар хөгжилтэй зүйлсийг бүтээж болохыг хараарай!” гэж хэлдэг); Та эрх чөлөө, ардчиллыг түгээн дэлгэрүүлэхийн зэрэгцээ (мөн "муу" биш) "хотын талбай" эсвэл "мэдээллийн нийтийн газар" бий болгох эсвэл "ард түмнээ холбох" гэсэндээ л үүнийг хэрхэн хийж байгаа талаар олон том мэдэгдэл хий. Дараа нь хүмүүс эдгээр үнэгүй хэрэгслийг ашиглан дэгээдэж, өрсөлдөгчид чинь дампуурлаа зарлаж байгааг хараарай. Талбай тодорхой болсны дараа зорилтот зар сурталчилгаа, байнгын хяналт, цагдаа, цэргийн гэрээ, хар хайрцагны мэдээллийн борлуулалт, захиалгын төлбөрийг нэмэгдүүлээрэй.
Таксины жолоочоос эхлээд түрээсийн зах, орон нутгийн сонин зэрэг олон хүний амьдрал, салбарууд энэ тоглоомын өмнөх давталтаас болж сүйрсэн. AI-ийн хувьсгалын үед ийм төрлийн алдагдал нь дугуйрсан алдаа мэт харагдаж, багш, кодлогч, дүрслэх зураач, сэтгүүлч, орчуулагч, хөгжимчин, асрамжийн ажилчид болон бусад олон хүмүүс орлогоо алдаатай кодоор солих эрсдэлтэй тулгарч байна.
Санаа зоволтгүй, хиймэл оюун ухаан сонирхогчид хий үзэгдэл хардаг - энэ нь гайхалтай байх болно. Ямар ч байсан хэн ажилд дуртай вэ? Генератив хиймэл оюун ухаан нь ажлын төгсгөл биш гэж бидэнд хэлдэг, зөвхөн "уйтгартай ажил” – чатботууд сүнсийг устгадаг, давтагддаг бүх ажлыг тустай хийж, хүмүүс тэднийг зүгээр л удирддаг. Альтман өөрийн хувьд харж байна ажил бол "идэхийн тулд хийх ёстой зүйл биш, харин таны бүтээлч илэрхийлэл, сэтгэл ханамж, аз жаргалыг олох арга зам болгон хийдэг зүйл бол илүү өргөн хүрээний ойлголт байж болох" ирээдүй.
Энэ бол илүү сайхан, тайван амьдралын тухай сэтгэл хөдөлгөм алсын хараа бөгөөд олон зүүний үзэлтнүүдийн хуваалцдаг (үүнд Карл Марксын хүргэн Пол Лафарг оролцоно. тунхаг бичиг Залхуу байх эрх). Гэхдээ хэрэв мөнгө олох нь амьдралын гол үүрэг байхаа больсон бол бидний амьтдын амьдрах байр, амьдрах хэрэгцээг хангах өөр арга зам байх ёстой гэдгийг зүүний үзэлтнүүд бид мэднэ. Муухай ажлын байргүй дэлхий гэдэг нь түрээс үнэгүй, эрүүл мэндийн үйлчилгээ үнэ төлбөргүй байх ёстой бөгөөд хүн бүр эдийн засгийн салшгүй эрхтэй байх ёстой гэсэн үг юм. Тэгээд гэнэт бид хиймэл оюун ухааны тухай огт ярихгүй, социализмын тухай ярьж байна.
Учир нь бид Алтманы хий үзэгдэл мэт санагдах Оддын аялалаас сэдэвлэсэн ухаалаг, хүмүүнлэг ертөнцөд амьдардаггүй. Бид капитализмын дор амьдарч байгаа бөгөөд тэр тогтолцооны үед тоо томшгүй олон ажилчин хүмүүсийн эдийн засгийн даалгаврыг үнэмшилтэйгээр гүйцэтгэж чадах технологиор зах зээлийг үерлэсний үр дагавар нь тэдгээр хүмүүс гэнэт философич, зураач болох эрх чөлөө биш юм. Энэ нь тэдгээр хүмүүс ангал руу ширтэх болно гэсэн үг - жинхэнэ уран бүтээлчид хамгийн түрүүнд унах болно.
Энэ бол Крабаплийн нээлттэй захидалд "уран бүтээлчид, хэвлэн нийтлэгчид, сэтгүүлчид, редакторууд болон сэтгүүлзүйн эвлэлийн удирдагчдыг хиймэл хиймэл дүрс ашиглахын эсрэг хүн төрөлхтний үнэт зүйлсийн төлөө амлалт өгөх" болон "хүмүүсийн хийсэн редакцийн урлагийг дэмжих үүрэг хүлээсэн" гэсэн мессеж юм. , серверийн фермүүд биш”. Захидал, одоо гарын үсэг зурлаа Олон зуун зураач, сэтгүүлчид болон бусад хүмүүсийн бичсэнээр хамгийн элит уран бүтээлчдээс бусад нь бүтээлээ "мөхөх эрсдэлтэй" гэж үздэг. "Хиймэл оюун ухааны загалмайлсан эцэг" Хинтоны хэлснээр аюул тархахгүй гэдэгт итгэх шалтгаан байхгүй. Чат ботууд нь "хөгжлийн ажлыг зайлуулдаг" боловч "энэ нь үүнээс илүүг арилгах болно".
Крабаппл болон түүний хамтран зохиогчид: "Хиймэл оюун ухааны генерацийн урлаг нь амьд зураачдын амин судсыг сорж байгаа ч гэсэн өнгөрсөн үеийн урлагийн бүтээлүүдээр хооллодог цус сорогч юм." Гэхдээ эсэргүүцэх арга зам бий: бид эдгээр бүтээгдэхүүнийг хэрэглэхээс татгалзаж, манай ажил олгогчид болон засгийн газруудаас татгалзахыг шаардаж болно. А захидал 2020 онд ажлын байран дахь ялгаварлан гадуурхалтыг эсэргүүцсэн хэргээр Google-ээс халагдсан Тимнит Гебру зэрэг AI-ийн ёс зүйн нэрт эрдэмтэн судлаачдын бичсэнээр засгийн газрууд нэн даруй нэвтрүүлж болох зохицуулалтын зарим хэрэгслийг, тэр дундаа загваруудыг сургахад ямар өгөгдлийн багц ашиглаж байгаа талаар бүрэн ил тод байдлыг багтаасан болно. Зохиогчид: "Бид нийлэг зөөвөрлөгчтэй тулгарах нь үргэлж тодорхой байх ёстой төдийгүй эдгээр системийг барьж буй байгууллагууд сургалтын өгөгдөл, загвар архитектурыг баримтжуулж, ил болгохыг шаардах ёстой ... Бид нийгмийг машинд уншигдах, бичих боломжтой болгохын оронд өөрт тохирсон машин бүтээх ёстой."
Технологийн компаниуд энэхүү хүнийг орлох, олноор нь дуурайлган дуурайлган бүтээгдхүүнийг эргүүлэн татахад хэтэрхий оройтсон гэдэгт итгэхийг хүсч байгаа хэдий ч хэрэгжүүлэх боломжтой хууль эрх зүйн болон зохицуулалтын урьдчилсан нөхцөлүүд байдаг. Тухайлбал, АНУ-ын Холбооны Худалдааны Комисс (FTC) албадан Cambridge Analytica, мөн гэрэл зургийн аппликейшн эзэмшигч Everalbum нар хууль бусаар авсан өгөгдөл, хуссан зургууд дээр сургагдсан алгоритмуудыг бүхэлд нь устгах зорилготой. Байдены засаг захиргаа эхний өдрүүдэд хувийн алгоритмыг бий болгохын тулд хувийн мэдээлэл хулгайлах гэмт хэргийг таслан зогсоох зэрэг томоохон технологийг зохицуулах талаар олон зоримог мэдэгдлийг гаргаж байсан. Ерөнхийлөгчийн сонгууль ойртож байгаа энэ үед амлалтаа биелүүлж, дараагийн олон тооны цомхотголуудыг хэрэгжүүлэхээс нь өмнө урьдчилан сэргийлэхэд тохиромжтой цаг байх болно.
Гүн хуурамч, дуураймал гогцоо, улам бүр дордож буй тэгш бус байдлын ертөнц бол зайлшгүй зүйл биш юм. Энэ бол бодлогын сонголтуудын багц юм. Бид одоо байгаа цус сорогч чатботуудын хэлбэрийг зохицуулж, Цахиурын хөндийн хий үзэгдэл гэхээс илүү хиймэл оюун ухааны хамгийн сэтгэл хөдөлгөм амлалт болох ертөнцийг байгуулж эхэлнэ.
Учир нь бид машинуудыг сургасан. Бид бүгд. Гэхдээ бид хэзээ ч зөвшөөрөөгүй. Тэд хүн төрөлхтний хамтын оюун ухаан, урам зориг, илчлэлтүүдээр (бидний илүү венийн шинж чанаруудын хамт) хооллодог байв. Эдгээр загварууд нь бидний хувь хүний амьдралыг төдийгүй бидний оюуны болон урлагийн хамтын өвийг залгиж, хувьчлан авч үлдэх, өмчлөх машинууд юм. Мөн тэдний зорилго хэзээ ч уур амьсгалын өөрчлөлтийг шийдвэрлэх, манай засгийн газруудыг илүү хариуцлагатай болгох, эсвэл бидний өдөр тутмын амьдралыг илүү тайван байлгах явдал байгаагүй. Капитализмын үед хүний үйл ажиллагааг роботуудаар солихын тод бөгөөд логик үр дагавар нь олныг хамарсан доромжлолоос үргэлж ашиг олох зорилготой байв.
Энэ бүхэн хэтэрхий драмтай юу? Сонирхолтой инновацид бүгчим, рефлекс эсэргүүцэл үү? Яагаад улам мууг хүлээж байна вэ? Альтман тайвшруулдаг Бид: "Хэн ч дэлхийг устгахыг хүсэхгүй." Магадгүй үгүй. Гэвч өдөр бүр улам дордож буй уур амьсгал, мөхлийн хямралаас харахад олон хүчирхэг хүмүүс, институциуд дэлхийн амьдралыг дэмжих системийн тогтвортой байдлыг устгахад хувь нэмрээ оруулж байгаагаа мэдэж байгаа тул зүгээр л сайн байгаа бололтой. бичлэг ашиг орлого нь тэднийг болон тэдний гэр бүлийг хамгийн муу үр дагавраас хамгаална гэж итгэдэг. Алтман, Цахиурын хөндийн олон амьтдын нэгэн адил өөрөө бэлтгэл хийдэг: 2016 онд тэрээр өөрөөрөө сайрхав: "Надад буу, алт, калийн иодид, антибиотик, батарей, ус, Израилийн батлан хамгаалах хүчний хийн маск, Биг Сур дахь нисэх боломжтой том газар байгаа."
Эдгээр баримтууд нь хэвлэлд өгсөн ярилцлагадаа хуваалцахаар сонгосон ямар ч цэцэгтэй хий үзэгдэл гэхээсээ илүүтэйгээр Алтман ирээдүйнхээ талаар юунд итгэж байгаа талаар илүү ихийг хэлж байгаа гэдэгт би итгэлтэй байна.
Наоми Клейн бол АНУ-ын Guardian сэтгүүлийн тоймч, хувь нэмэр оруулсан зохиолч юм. Тэрээр "No Logo", "The Shock Doctrine" номуудын бестселлер зохиолч, Уур амьсгалын шударга ёсны профессор, Бритиш Колумбын их сургуулийн Уур амьсгалын шударга ёсны төвийн захирал юм.
ZNetwork нь зөвхөн уншигчдынхаа өгөөмөр сэтгэлээр санхүүждэг.
Хандивлах