ეგრეთ წოდებული ხელოვნური ინტელექტის სწრაფი გავრცელების ირგვლივ მრავალი დებატების შიგნით არის შედარებით ბუნდოვანი შეტაკება, რომელიც ორიენტირებულია სიტყვა „ჰალუცინატის“ არჩევანზე.
ეს არის ტერმინი, რომელსაც არქიტექტორები და გენერაციული ხელოვნური ინტელექტის გამაძლიერებლები ახასიათებენ პასუხების დასახასიათებლად, რომლებსაც ემსახურება ჩეთბოტები, რომლებიც მთლიანად წარმოებულია ან სრულიად არასწორია. მაგალითად, როდესაც თქვენ სთხოვთ ბოტს განსაზღვროს ის, რაც არ არსებობს და ის საკმაოდ დამაჯერებლად გაძლევს ერთი, შედგენილი სქოლიოებით. „დარგში ჯერ არავის გადაუწყვეტია ჰალუცინაციების პრობლემები“, — ამბობს სუნდარ პიჩაი, Google-ისა და Alphabet-ის აღმასრულებელი დირექტორი. განუცხადა ცოტა ხნის წინ ინტერვიუერი.
ეს მართალია - მაგრამ რატომ ვუწოდებთ შეცდომებს "ჰალუცინაციები"? რატომ არა ალგორითმული უსარგებლო? ან ხარვეზები? ჰალუცინაცია გულისხმობს ადამიანის ტვინის იდუმალ უნარს აღიქვას ისეთი ფენომენები, რომლებიც არ არის წარმოდგენილი, ყოველ შემთხვევაში არა ჩვეულებრივი, მატერიალისტური თვალსაზრისით. ფსიქოლოგიაში, ფსიქოდელიურ საშუალებებში და მისტიკის სხვადასხვა ფორმებში გამოყენებული სიტყვის მითვისებით, ხელოვნური ინტელექტის გამაძლიერებლები, აცნობიერებენ თავიანთი მანქანების ცდომილებას, ამავდროულად კვებავენ სექტორის ყველაზე სანუკვარ მითოლოგიას: ამ დიდი ენობრივი მოდელების შექმნით და ასწავლიან მათ ყველაფერზე. ჩვენ ადამიანებმა დავწერეთ, ვთქვით და ვიზუალურად წარმოვადგინეთ, ისინი ანიმაციური ინტელექტის დაბადების პროცესში ვართ ჩვენი სახეობის ევოლუციური ნახტომის გამოწვევის მწვერვალზე. სხვაგვარად როგორ შეიძლებოდა ბოტები, როგორიცაა Bing და Bard, გაიქცნენ ეთერში?
დამახინჯებული ჰალუცინაციები მართლაც მრავლდება ხელოვნური ინტელექტის სამყაროში – მაგრამ ეს არ არის ბოტები, რომლებსაც აქვთ ისინი; სწორედ ტექნიკურმა აღმასრულებელმა დირექტორებმა გაათავისუფლეს ისინი, მათ თაყვანისმცემელთა ფალანგასთან ერთად, რომლებიც ველური ჰალუცინაციების ხელში არიან, როგორც ინდივიდუალურად, ასევე ერთობლივად. აქ მე განვსაზღვრავ ჰალუცინაციას არა მისტიური ან ფსიქოდელიური გაგებით, გონებით შეცვლილ მდგომარეობებს, რომლებიც ნამდვილად დაეხმარება ღრმა, მანამდე გაუცნობიერებელ ჭეშმარიტებებში წვდომას. არა. ეს ადამიანები უბრალოდ ტრიალებენ: ხედავენ, ან ყოველ შემთხვევაში აცხადებენ, რომ ხედავენ მტკიცებულებებს, რომლებიც საერთოდ არ არსებობს, თუნდაც მთელ სამყაროებს აგონებენ, რომლებიც გამოიყენებენ თავიანთ პროდუქტებს ჩვენი უნივერსალური ამაღლებისა და განათლებისთვის.
გენერაციული AI დაასრულებს სიღარიბეს, გვეუბნებიან ისინი. ის განკურნავს ყველა დაავადებას. ეს მოაგვარებს კლიმატის ცვლილებას. ეს გახდის ჩვენს სამუშაოს უფრო შინაარსიან და საინტერესოს. ის გაათავისუფლებს დასვენებისა და ფიქრის ცხოვრებას, დაგვეხმარება დავიბრუნოთ კაცობრიობა, რომელიც დავკარგეთ გვიანი კაპიტალისტური მექანიზაციის შედეგად. ეს დაასრულებს მარტოობას. ეს ჩვენს მთავრობებს რაციონალურ და საპასუხისმგებლო გახდის. მეშინია, რომ ეს არის ნამდვილი ხელოვნური ინტელექტის ჰალუცინაციები და ჩვენ ყველანი გვესმის მათ შესახებ მას შემდეგ, რაც გასული წლის ბოლოს Chat GPT დაიწყო.
არსებობს სამყარო, რომელშიც გენერაციული AI, როგორც მძლავრი პროგნოზირებადი კვლევის ინსტრუმენტი და დამღლელი ამოცანების შემსრულებელი, შეიძლება მართლაც იყოს მარშალირებული. სარგებელი კაცობრიობა, სხვა სახეობები და ჩვენი საერთო სახლი. მაგრამ იმისათვის, რომ ეს მოხდეს, ეს ტექნოლოგიები უნდა იყოს განლაგებული ჩვენსგან სრულიად განსხვავებულ ეკონომიკურ და სოციალურ წესრიგში, რომლის მიზანი იყო ადამიანის საჭიროებების დაკმაყოფილება და პლანეტარული სისტემების დაცვა, რომლებიც მხარს უჭერენ მთელ სიცოცხლეს.
და როგორც ჩვენ, ვინც ამჟამად არ ცდება, კარგად გვესმის, ჩვენი ამჟამინდელი სისტემა მსგავსი არაფერია. პირიქით, ის შექმნილია სიმდიდრისა და მოგების მაქსიმალური მოპოვების მიზნით - როგორც ადამიანებისგან, ასევე ბუნებრივი სამყაროსგან - რეალობა, რომელმაც მიგვიყვანა ისეთამდე, რასაც შეიძლება მივიჩნიოთ, როგორც კაპიტალიზმის ტექნო-ნეკრო ეტაპი. ჰიპერკონცენტრირებული ძალაუფლებისა და სიმდიდრის ამ რეალობაში ხელოვნური ინტელექტი - შორს არის ყველა იმ უტოპიური ჰალუცინაციების შესაბამისად - ბევრად უფრო სავარაუდოა, რომ გახდეს შემდგომი გაძევებისა და გაძარცვის საშინელი იარაღი.
მე გავერკვევი რატომ არის ასე. მაგრამ პირველ რიგში, სასარგებლოა ამაზე ფიქრი მიზნით უტოპიური ჰალუცინაციები ხელოვნური ინტელექტის შესახებ ემსახურება. რა საქმეს აკეთებენ ეს კეთილგანწყობილი ისტორიები კულტურაში, როდესაც ვხვდებით ამ უცნაურ ახალ ინსტრუმენტებს? აქ არის ერთი ჰიპოთეზა: ისინი წარმოადგენენ ძლიერ და მიმზიდველ ისტორიებს იმ ქურდობისთვის, რაც შეიძლება აღმოჩნდეს კაცობრიობის ისტორიაში ყველაზე დიდი და ყველაზე შედეგიანი ქურდობა. იმის გამო, რომ რასაც ჩვენ ვხედავთ არის უმდიდრესი კომპანიები ისტორიაში (Microsoft, Apple, Google, Meta, Amazon…) ცალმხრივად ითვისებენ ადამიანური ცოდნის ჯამს, რომელიც არსებობს ციფრული, გადასაჭრელად ფორმაში და აფარებენ მას საკუთრებაში არსებულ პროდუქტებში, რომელთაგან ბევრი იქნება დაუმიზნეთ პირდაპირ ადამიანებს, რომელთა შრომის მანძილზეც წვრთნიდნენ მანქანები ნებართვის ან თანხმობის გარეშე.
ეს არ უნდა იყოს ლეგალური. საავტორო უფლებებით დაცული მასალის შემთხვევაში, რომელიც ჩვენ ახლა იცოდეთ ავარჯიშებდა მოდელებს (მათ შორის ამ გაზეთს), სხვადასხვა სარჩელი წარდგენილი იყო, რომელიც ამტკიცებს, რომ ეს აშკარად უკანონო იყო. მაგალითად, რატომ უნდა მიეცეს ნება მომგებიან კომპანიას ცოცხალი მხატვრების ნახატები, ნახატები და ფოტოები გადასცეს პროგრამას, როგორიცაა Stable Diffusion ან Dall-E 2, რათა შემდეგ გამოიყენონ სწორედ ამ მხატვრების დოპელგანჯერული ვერსიების გენერირებისთვის. მუშაობა, სარგებელი რომ მიედინება ყველას, გარდა თავად მხატვრების?
მხატვარი და ილუსტრატორი მოლი კრაპაპლი ეხმარება მხატვართა მოძრაობას, რომლებიც ამ ქურდობას ებრძვიან. „AI ხელოვნების გენერატორები გაწვრთნილნი არიან უზარმაზარ მონაცემთა ნაკრებებზე, რომლებიც შეიცავს მილიონობით მილიონ საავტორო უფლებით დაცულ სურათს, რომელიც მოპოვებულია მათი შემქმნელის ცოდნის გარეშე, რომ აღარაფერი ვთქვათ კომპენსაციის ან თანხმობის გარეშე. ეს არის ფაქტობრივად ხელოვნების უდიდესი ძარცვა ისტორიაში. ჩადენილი საპატივცემულო ერთი შეხედვით კორპორატიული სუბიექტების მიერ, რომლებსაც მხარს უჭერს Silicon Valley ვენჩურული კაპიტალი. ეს არის დღისით ძარცვა,” ახალი გახსნა მის მიერ შედგენილ წერილში ნათქვამია.
ხრიკი, რა თქმა უნდა, ის არის, რომ სილიკონის ველი რეგულარულად უწოდებს ქურდობას "შეშლას" - და ძალიან ხშირად აცილებს მას. ჩვენ ვიცით ეს ნაბიჯი: წინ გადადით უკანონო ტერიტორიაზე; აცხადებენ, რომ ძველი წესები არ ვრცელდება თქვენს ახალ ტექნოლოგიაზე; იყვირე, რომ რეგულაცია მხოლოდ ჩინეთს დაეხმარება – სანამ შენს ფაქტებს მყარად ხვდები ადგილზე. იმ დროისთვის, როდესაც ჩვენ ყველანი გადავლახავთ ამ ახალი სათამაშოების სიახლეს და დავიწყებთ სოციალური, პოლიტიკური და ეკონომიკური ნანგრევების შეფასებას, ტექნოლოგია უკვე იმდენად გავრცელებულია, რომ სასამართლოები და პოლიტიკის შემქმნელებმა ხელები ასწიეს.
ჩვენ ვნახეთ ეს Google-ის წიგნისა და ხელოვნების სკანირებით. მასკის კოსმოსური კოლონიზაციით. Uber-ის თავდასხმით ტაქსის ინდუსტრიაზე. გაქირავების ბაზარზე Airbnb-ის თავდასხმით. Facebook-ის უხამსობით ჩვენს მონაცემებთან. ნუ ითხოვთ ნებართვას, დამრღვევებს უყვართ თქმა, ითხოვეთ პატიება. (და შეზეთეთ თხოვნები კამპანიის გულუხვი შენატანებით.)
სათვალთვალო კაპიტალიზმის ეპოქაში, შოშანა ზუბოფი ზედმიწევნით დეტალურად აღწერს, თუ როგორ გადააჭარბა Google-ის Street View რუქებმა კონფიდენციალურობის ნორმებს, კამერით მოპირკეთებული მანქანების გაგზავნით ჩვენი საჯარო გზებისა და ჩვენი სახლების ექსტერიერის გადასაღებად. იმ დროისთვის, როცა კონფიდენციალურობის უფლებების დაცვის სარჩელი შემოვიდა, Street View უკვე იმდენად გავრცელებული იყო ჩვენს მოწყობილობებზე (და ისეთი მაგარი და მოსახერხებელი…), რომ რამდენიმე სასამართლოს გარეთ გერმანია ჩარევის სურვილი ჰქონდათ.
ახლა იგივე, რაც დაემართა ჩვენი სახლების ექსტერიერს, ემართება ჩვენს სიტყვებს, სურათებს, სიმღერებს, მთელ ჩვენს ციფრულ ცხოვრებას. ამჟამად ყველა ჩამორთმეულია და გამოიყენება მანქანების მოსამზადებლად აზროვნებისა და კრეატიულობის სიმულაციისთვის. ამ კომპანიებმა უნდა იცოდნენ, რომ ისინი ქურდობით არიან დაკავებულნი, ან სულ მცირე, რომ ა ძლიერი საქმე შეიძლება გაკეთდეს, რომ ისინი არიან. ისინი უბრალოდ იმედოვნებენ, რომ ძველი სათამაშო წიგნი კიდევ ერთხელ იმუშავებს - რომ ძარცვის მასშტაბები უკვე იმდენად დიდია და ასე ვითარდება. დაჩქარდეს რომ სასამართლოები და პოლიტიკის შემქმნელები კიდევ ერთხელ აიღებენ ხელებს ამ ყველაფრის სავარაუდო გარდაუვალობის წინაშე.
ასევე, რატომ არის მათი ჰალუცინაციები ყველა მშვენიერი რამის შესახებ, რასაც ხელოვნური ინტელექტი გააკეთებს კაცობრიობისთვის. იმის გამო, რომ ეს მაღალი პრეტენზიები შენიღბავს ამ მასობრივ ქურდობას საჩუქრად - ამავე დროს, როდესაც ისინი ხელს უწყობენ ხელოვნური ინტელექტის უდაო საფრთხის რაციონალიზაციას.
ამ დროისთვის უმეტეს ჩვენგანს სმენია ამის შესახებ გამოკითხვის მან სთხოვა ხელოვნური ინტელექტის მკვლევარებსა და დეველოპერებს, შეეფასებინათ ალბათობა იმისა, რომ მოწინავე ხელოვნური ინტელექტის სისტემები გამოიწვევდნენ „ადამიანის გადაშენებას ან ადამიანთა სახეობების ანალოგიურად მუდმივ და სერიოზულ დაქვეითებას“. დამამშვიდებელი, საშუალო პასუხი იყო, რომ იყო 10% შანსი.
როგორ ხდება სამსახურში წასვლის რაციონალიზაცია და ისეთი ინსტრუმენტების გამომუშავება, რომლებიც ასეთ ეგზისტენციალურ რისკებს შეიცავს? ხშირად, მიზეზი არის ის, რომ ამ სისტემებს ასევე აქვთ უზარმაზარი პოტენციური დადებითი მხარეები - გარდა იმისა, რომ ეს დადებითი მხარეები, უმეტესწილად, ჰალუცინაციურია. მოდით ჩავუღრმავდეთ რამდენიმე ველურს.
ჰალუცინაცია #1: AI იქნება გადაწყვეტა კლიმატი კრიზისი
ხელოვნური ინტელექტის უპირატესობების სიაში თითქმის ყოველთვის ლიდერობს პრეტენზია, რომ ეს სისტემები როგორმე გადაჭრის კლიმატის კრიზისს. ეს ყველასგან გავიგეთ მსოფლიო ეკონომიკური ფორუმი რომ საგარეო ურთიერთობათა საბჭოს to ბოსტონის საკონსულტაციო ჯგუფი, რომელიც განმარტავს, რომ AI „შეიძლება გამოვიყენოთ ყველა დაინტერესებული მხარის მხარდასაჭერად, რათა მიიღონ უფრო ინფორმირებული და მონაცემებზე ორიენტირებული მიდგომა ნახშირბადის ემისიებთან ბრძოლაში და უფრო მწვანე საზოგადოების აშენებაში. ის ასევე შეიძლება გამოყენებულ იქნას გლობალური კლიმატის ძალისხმევის გადაწონის მიზნით ყველაზე რისკის ქვეშ მყოფი რეგიონების მიმართ. ” Google-ის ყოფილმა აღმასრულებელმა დირექტორმა ერიკ შმიდტმა შეაჯამა საქმე, როდესაც მან განუცხადა ატლანტიკური, რომ ხელოვნური ინტელექტის რისკები ღირდა, რადგან „თუ ფიქრობთ მსოფლიოს უდიდეს პრობლემებზე, ეს ყველაფერი მართლაც რთულია – კლიმატის ცვლილება, ადამიანური ორგანიზაციები და ა.შ. ასე რომ, მე ყოველთვის მინდა, რომ ადამიანები უფრო ჭკვიანები იყვნენ.”
ამ ლოგიკის მიხედვით, კლიმატის ცვლილების მსგავსი დიდი პრობლემების „მოგვარების“ წარუმატებლობა გამოწვეულია ჭკუის დეფიციტით. ნუ იდარდებთ, რომ ჭკვიანი ადამიანები, დოქტორანტებითა და ნობელის პრემიებით დატვირთულები, ათწლეულების განმავლობაში ეუბნებოდნენ ჩვენს მთავრობებს, თუ რა უნდა მოხდეს ამ არევიდან გამოსასვლელად: შეამცირეთ ჩვენი გამონაბოლქვი, დატოვეთ ნახშირბადი მიწაში, შეაჩერეთ მდიდრების ჭარბი მოხმარება და არასაკმარისი მოხმარება. ღარიბებს, რადგან არცერთი ენერგიის წყარო არ არის თავისუფალი ეკოლოგიური ხარჯებისგან.
მიზეზი, რის გამოც ეს ძალიან ჭკვიანი რჩევა იგნორირებულია, არ არის წაკითხულის გაგების პრობლემის გამო, ან იმიტომ, რომ ჩვენ რატომღაც გვჭირდება მანქანები, რომლებიც ჩვენს ნაცვლად აზროვნებენ. ეს იმიტომ ხდება, რომ იმის გაკეთება, რასაც ჩვენგან კლიმატის კრიზისი ითხოვს, გადაიჭრება ტრილიონობით დოლარი წიაღისეული საწვავის აქტივების, ხოლო მოხმარებაზე დაფუძნებული ზრდის მოდელის გამოწვევას ჩვენი ურთიერთდაკავშირებული ეკონომიკის გულში. კლიმატის კრიზისი, ფაქტობრივად, არ არის საიდუმლო ან თავსატეხი, რომელიც ჩვენ ჯერ არ გადავჭრით არასაკმარისად ძლიერი მონაცემთა ნაკრების გამო. ჩვენ ვიცით, რა დასჭირდება, მაგრამ ეს არ არის სწრაფი გამოსავალი - ეს პარადიგმის ცვლილებაა. იმის ლოდინი, რომ მანქანები უფრო სასიამოვნო და/ან მომგებიან პასუხს გამოსცემენ, არ არის ამ კრიზისის განკურნება, ეს მისი კიდევ ერთი სიმპტომია.
გაათავისუფლეთ ჰალუცინაციები და ბევრად უფრო სავარაუდოა, რომ ხელოვნური ინტელექტი ბაზარზე ისეთი გზებით იქნება გამოტანილი, რომლებიც აქტიურად გააღრმავებს კლიმატის კრიზისს. პირველი, გიგანტური სერვერები, რომლებიც შესაძლებელს ხდის ჩატბოტების მყისიერ ესეებს და ნამუშევრებს, არის უზარმაზარი და მზარდი. წყარო ნახშირბადის გამონაბოლქვი. მეორე, როგორც კომპანიები, როგორიცაა Coca-Cola იწყებენ წარმოებას უზარმაზარი ინვესტიციები გამოიყენოს გენერაციული AI მეტი პროდუქტის გასაყიდად, ძალიან ნათელი ხდება, რომ ეს ახალი ტექნოლოგია გამოყენებული იქნება ისევე, როგორც ბოლო თაობის ციფრული ინსტრუმენტები: ის, რაც იწყება მაღალი დაპირებებით თავისუფლებისა და დემოკრატიის გავრცელების შესახებ, მთავრდება მიკრო მიზნობრივი რეკლამებით. ჩვენ, რათა ვიყიდოთ უფრო უსარგებლო, ნახშირბადის შემცველი ნივთები.
და არის მესამე ფაქტორიც, ამის დადგენა ცოტა უფრო რთულია. რაც უფრო მეტია ჩვენი მედია არხები დატბორილია ღრმა ყალბებითა და სხვადასხვა სახის კლონებით, მით უფრო გვეუფლება საინფორმაციო ქვიშაში ჩაძირვის შეგრძნება. ჯეფრი ჰინტონს, რომელსაც ხშირად მოიხსენიებენ, როგორც „AI-ს ნათლიას“, რადგან ათ წელზე მეტი ხნის წინ მის მიერ შემუშავებული ნერვული ქსელი წარმოადგენს დღევანდელი დიდი ენობრივი მოდელების სამშენებლო ბლოკებს, კარგად ესმის ეს. მან უბრალოდ დატოვა Google-ის უფროსი თანამდებობა, რათა თავისუფლად ისაუბრა იმ ტექნოლოგიის რისკებზე, რომელთა შექმნასაც დაეხმარა. განუცხადა ნიუ-იორკ თაიმსის, იმის რისკი, რომ ადამიანები „აღარ შეძლებენ იცოდნენ რა არის სიმართლე“.
ეს ძალზე მნიშვნელოვანია იმ მტკიცებისთვის, რომ ხელოვნური ინტელექტი დაეხმარება კლიმატის კრიზისთან ბრძოლაში. იმის გამო, რომ როდესაც ჩვენ უნდობლობას ვუცხადებთ ყველაფერს, რასაც ვკითხულობთ და ვხედავთ ჩვენს სულ უფრო უცნაურ მედია გარემოში, ჩვენ კიდევ უფრო ნაკლებად ვართ აღჭურვილი კოლექტიური პრობლემების გადასაჭრელად. ნდობის კრიზისი წინ უსწრებს ChatGPT-ს, რა თქმა უნდა, მაგრამ ეჭვგარეშეა, რომ ღრმა ყალბების გამრავლებას თან ახლავს უკვე აყვავებული შეთქმულების კულტურების ექსპონენციალური ზრდა. მაშ, რა განსხვავებაა, თუ ხელოვნური ინტელექტი ტექნოლოგიურ და მეცნიერულ მიღწევებს მოიტანს? თუ ჩვენს ხელში საერთო რეალობის ქსოვილი იშლება, ჩვენ ვერ შევძლებთ რაიმე თანმიმდევრულ პასუხს.
ჰალუცინაცია #2: AI იქნება მიწოდება ჭკვიანი მმართველობის
ეს ჰალუცინაცია იწვევს უახლოეს მომავალს, რომელშიც პოლიტიკოსები და ბიუროკრატები, რომლებიც ეყრდნობიან ხელოვნური ინტელექტის სისტემების უზარმაზარ გაერთიანებულ დაზვერვას, შეძლებენ „დაინახონ საჭიროების შაბლონები და განავითარონ მტკიცებულებებზე დაფუძნებული პროგრამები“, რომლებსაც უფრო მეტი სარგებელი მოაქვს მათი ამომრჩევლებისთვის. ეს პრეტენზია მოდის ა ქაღალდი გამოქვეყნებულია Boston Consulting Group-ის ფონდის მიერ, მაგრამ ეს ეხმიანება ბევრ ანალიტიკურ ცენტრს და მენეჯმენტის კონსულტანტებს. და ეს მეტყველებს იმაზე, რომ ამ კონკრეტულმა კომპანიებმა - ფირმებმა, რომლებიც დაიქირავეს მთავრობებმა და სხვა კორპორაციებმა ხარჯების დაზოგვის იდენტიფიცირებისთვის, ხშირად დიდი რაოდენობით მუშაკების გათავისუფლებით - ყველაზე სწრაფად გადალახეს ხელოვნური ინტელექტის ბანდა. PwC (ყოფილი PricewaterhouseCoopers) უბრალოდ გამოაცხადა 1 მილიარდი დოლარის ინვესტიცია და Bain & Company, ისევე როგორც Deloitte, გავრცელებული ინფორმაციით, ენთუზიაზმით გამოიყენებენ ამ ინსტრუმენტებს, რათა თავიანთი კლიენტები უფრო „ეფექტური“ გახადონ.
როგორც კლიმატის პრეტენზიებთან დაკავშირებით, აუცილებელია ვიკითხოთ: არის თუ არა მიზეზი პოლიტიკოსების მიერ სასტიკ და არაეფექტურ პოლიტიკას აწესებენ, რომ ისინი განიცდიან მტკიცებულებების ნაკლებობას? „ნიმუშების დანახვის“ უუნარობა, როგორც ამას BCG ქაღალდი გვთავაზობს? მათ არ ესმით ადამიანური ხარჯები მშიერი საზოგადოებრივი ჯანდაცვა პანდემიის ფონზე, ან არასაბაზრო საცხოვრებლებში ინვესტიციის შეუსრულებლობის გამო, როდესაც კარვები ავსებს ჩვენს ურბანულ პარკებს, ან ახალი წიაღისეული საწვავის ინფრასტრუქტურის დამტკიცება, როდესაც ტემპერატურა იზრდება? სჭირდებათ თუ არა მათ ხელოვნური ინტელექტი, რომ გახადონ „ჭკვიანები“, შმიდტის ტერმინი რომ გამოვიყენოთ – ან საკმარისად ჭკვიანები არიან იმისთვის, რომ იცოდნენ, ვინ განახორციელებს მათ მომავალ კამპანიას, ან, თუ ისინი ცდებიან, აფინანსებენ თავიანთ კონკურენტებს?
საშინლად კარგი იქნებოდა, თუ ხელოვნური ინტელექტი ნამდვილად გაწყვეტს კავშირს კორპორატიულ ფულსა და უგუნური პოლიტიკის შემუშავებას შორის – მაგრამ ეს კავშირი დაკავშირებულია იმასთან, თუ რატომ მიეცათ უფლება კომპანიებს, როგორიცაა Google და Microsoft, გამოუშვან თავიანთი ჩეთბოტები საზოგადოებისთვის, მიუხედავად გაფრთხილებებისა და ზვავისა. ცნობილი რისკები. შმიდტი და სხვები მრავალწლიანი ლობირების კამპანიაში იყვნენ თქმა ორივე მხარე ვაშინგტონში, რომ თუ ისინი არ იქნებიან თავისუფალნი, გააგრძელონ გენერაციული AI, სერიოზული რეგულაციებით დატვირთული, მაშინ დასავლური ძალები ჩინეთის მტვერში დარჩებიან. გასულ წელს, ტოპ ტექნიკური კომპანიები დახარჯული რეკორდული 70 მილიონი დოლარი ვაშინგტონის ლობირებისთვის - მეტი, ვიდრე ნავთობისა და გაზის სექტორი - და ეს თანხა, აღნიშნავს Bloomberg News-ი, მეტია იმ მილიონებზე, რომლებიც დახარჯულია "მათი ფართო სპექტრის სავაჭრო ჯგუფებზე, არამომგებიან ორგანიზაციებზე და აზროვნების ცენტრებზე".
და მაინც, მიუხედავად მათი ინტიმური ცოდნისა, თუ როგორ აყალიბებს ფული პოლიტიკას ჩვენს ეროვნულ დედაქალაქებში, როდესაც უსმენთ სემ ალტმანს, OpenAI-ის აღმასრულებელ დირექტორს - ChatGPT-ის შემქმნელს - საუბრობს მისი პროდუქტების საუკეთესო შემთხვევის სცენარებზე, როგორც ჩანს, ეს ყველაფერი ასეა. დავიწყებული. სამაგიეროდ, როგორც ჩანს, ჰალუცინაცია აქვს სამყაროს, რომელიც სრულიად განსხვავებულია ჩვენისგან, სადაც პოლიტიკოსები და ინდუსტრია იღებენ გადაწყვეტილებებს საუკეთესო მონაცემებზე დაყრდნობით და არასოდეს დააყენებენ უამრავ სიცოცხლეს რისკის ქვეშ მოგებისა და გეოპოლიტიკური უპირატესობის გამო. რაც სხვა ჰალუცინაციამდე მიგვიყვანს.
ჰალუცინაცია #3: Tech გიგანტები შეიძლება be სანდო არ უნდა შესვენება მსოფლიოში
აქტუალური თუ მას აწუხებს გამაოგნებელი ოქროს ციებ-ცხელება, რომელიც ChatGPT უკვე გაჩაღებული იყო, ალტმანმა თქვა, რომ ასეა, მაგრამ საზრიანად დაამატა: „იმედია, ყველაფერი გამოვა“. მის თანამემამულე ტექნიკურ აღმასრულებელ დირექტორებზე - მათ შორის, ვინც კონკურენტი ჩეთბოტების გამოდევნას ეჯიბრება - მან თქვა: „ვფიქრობ, უკეთესი ანგელოზები გაიმარჯვებენ“.
უკეთესი ანგელოზები? Google-ში? დარწმუნებული ვარ კომპანიაში გასროლა უმეტესობა იმიტომ, რომ ისინი აქვეყნებდნენ კრიტიკულ ნაშრომებს ხელოვნური ინტელექტის შესახებ, ან მოუწოდებდნენ კომპანიას რასიზმისა და სექსუალური შევიწროების შესახებ სამუშაო ადგილზე. მეტი "უკეთესი ანგელოზები" ჰყავთ დატოვა განგაში, ბოლო დროს ჰინტონი. ეს იმიტომ ხდება, რომ, განსხვავებით იმ ადამიანების ჰალუცინაციებისა, რომლებიც ყველაზე მეტ სარგებელს იღებენ ხელოვნური ინტელექტისგან, Google არ ღებულობს გადაწყვეტილებებს იმის მიხედვით, თუ რა არის საუკეთესო მსოფლიოში - ის იღებს გადაწყვეტილებებს იმის მიხედვით, თუ რა არის საუკეთესო Alphabet-ის აქციონერებისთვის, რომლებსაც არ სურთ გამოტოვონ უახლესი ბუშტი. როდესაც Microsoft, Meta და Apple უკვე ყველანი არიან.
ჰალუცინაცია #4: AI იქნება განთავისუფლება us საწყისი შრომატევადი
თუ სილიკონის ველის კეთილგანწყობილი ჰალუცინაციები ბევრისთვის დამაჯერებლად გამოიყურება, ამის მარტივი მიზეზი არსებობს. გენერაციული AI ამჟამად იმყოფება მის ყალბ სოციალიზმის ეტაპზე. ეს უკვე ნაცნობი სილიკონის ველის სათამაშო წიგნის ნაწილია. პირველი, შექმენით მიმზიდველი პროდუქტი (საძიებო სისტემა, რუკების ინსტრუმენტი, სოციალური ქსელი, ვიდეო პლატფორმა, მგზავრობის გაზიარება…); გააჩუქეთ იგი უფასოდ ან თითქმის უფასოდ რამდენიმე წლის განმავლობაში, შესამჩნევი სიცოცხლისუნარიანი ბიზნეს მოდელის გარეშე („ითამაშეთ ბოტებით“, გვეუბნებიან ისინი, „ნახე რა სახალისო რამ შეგიძლია შექმნა!“); გააკეთეთ ბევრი მაღალი პრეტენზია იმის შესახებ, თუ როგორ აკეთებთ ამას მხოლოდ იმიტომ, რომ გსურთ შექმნათ „ქალაქის მოედანი“ ან „საინფორმაციო საზოგადოები“ ან „დააკავშიროთ ხალხი“, ეს ყველაფერი თავისუფლებისა და დემოკრატიის გავრცელებისას (და არა „ბოროტი“). შემდეგ უყურეთ, როგორ იკავებს ხალხი ამ უფასო ინსტრუმენტების გამოყენებით და თქვენი კონკურენტები გაკოტრებას აცხადებენ. მას შემდეგ რაც ველი ნათელი გახდება, წარმოადგინეთ მიზანმიმართული რეკლამები, მუდმივი მეთვალყურეობა, პოლიცია და სამხედრო კონტრაქტები, შავი ყუთების მონაცემების გაყიდვები და მზარდი სააბონენტო გადასახადები.
ბევრი სიცოცხლე და სექტორი განადგურდა ამ წიგნის ადრინდელი გამეორებით, ტაქსის მძღოლებიდან დაწყებული, დაქირავებული ბაზრებით და ადგილობრივი გაზეთებით. ხელოვნური ინტელექტის რევოლუციით, ამგვარი დანაკარგები შეიძლება დამრგვალების შეცდომებს ჰგავდეს, რადგან მასწავლებლები, კოდირებები, ვიზუალური მხატვრები, ჟურნალისტები, მთარგმნელები, მუსიკოსები, მოვლის მუშაკები და სხვა მრავალი სხვა პერსპექტივის წინაშე დგანან, რომ მათი შემოსავალი შეიცვალოს გაუმართავი კოდით.
არ ინერვიულოთ, ხელოვნური ინტელექტის მოყვარულებს ჰალუცინაციები აქვთ - ეს მშვენიერი იქნება. მაინც ვის უყვარს მუშაობა? გენერაციული AI არ იქნება დასაქმების დასასრული, გვეუბნებიან, მხოლოდ ”მოსაწყენი სამუშაო” – ჩეთბოტებით, რომლებიც ასრულებენ სულის დამღუპველ, განმეორებით დავალებებს და ადამიანები უბრალოდ აკონტროლებენ მათ. ალტმანი თავის მხრივ, ხედავს მომავალი, სადაც მუშაობა „შეიძლება იყოს უფრო ფართო კონცეფცია, არა ის, რაც უნდა გააკეთო იმისთვის, რომ შეძლო ჭამა, არამედ ის, რასაც აკეთებ, როგორც შემოქმედებითი გამოხატულება და გზა კმაყოფილებისა და ბედნიერების მოსაპოვებლად“.
ეს არის უფრო ლამაზი, მხიარული ცხოვრების ამაღელვებელი ხედვა, რომელსაც ბევრი მემარცხენე იზიარებს (მათ შორის, კარლ მარქსის სიძე, პოლ ლაფარგი, რომელმაც დაწერა მანიფესტი სახელწოდებით „ზარმაცობის უფლება). მაგრამ ჩვენ მემარცხენეებმა ისიც ვიცით, რომ თუ ფულის შოვნა აღარ იქნება ცხოვრების მამოძრავებელი იმპერატივი, მაშინ უნდა არსებობდეს სხვა გზები ჩვენი არსებითი მოთხოვნილებების დასაკმაყოფილებლად თავშესაფრისა და სარჩენისთვის. უაზრო სამუშაოების გარეშე სამყარო ნიშნავს, რომ ქირა უნდა იყოს უფასო, ჯანდაცვა კი უფასო და ყველა ადამიანს უნდა ჰქონდეს განუყოფელი ეკონომიკური უფლებები. და შემდეგ უცებ ჩვენ საერთოდ არ ვსაუბრობთ AI-ზე - ჩვენ ვსაუბრობთ სოციალიზმზე.
იმის გამო, რომ ჩვენ არ ვცხოვრობთ Star Trek-ით შთაგონებულ რაციონალურ, ჰუმანისტურ სამყაროში, რომელსაც ალტმენი ჰალუცინაციას უქმნის. ჩვენ ვცხოვრობთ კაპიტალიზმის პირობებში და ამ სისტემის პირობებში, ტექნოლოგიებით ბაზრის დატბორვის შედეგები, რომლებსაც შეუძლიათ მრავალი მშრომელი ადამიანის ეკონომიკური ამოცანების დამაჯერებლად შესრულება, არ არის ის, რომ ამ ადამიანებს უცებ თავისუფლად შეუძლიათ გახდნენ ფილოსოფოსები და მხატვრები. ეს ნიშნავს, რომ ეს ხალხი აღმოჩნდება უფსკრულში მიშტერებული - ნამდვილი მხატვრები პირველები არიან, ვინც დაეცემა.
ეს არის კრაპაპლის ღია წერილი, რომელიც მოუწოდებს „მხატვრებს, გამომცემლებს, ჟურნალისტებს, რედაქტორებს და ჟურნალისტური კავშირის ლიდერებს, დადონ პირობა ადამიანური ღირებულებების დაცვაზე გენერაციული AI სურათების გამოყენების წინააღმდეგ“ და „აიღონ ვალდებულება მხარი დაუჭირონ ადამიანების მიერ შექმნილ სარედაქციო ხელოვნებას. , არა სერვერის ფერმები”. წერილი, ახლა ხელმოწერილი ასობით ხელოვანის, ჟურნალისტის და სხვათა მიერ, აცხადებს, რომ ყველა, გარდა ყველაზე ელიტური ხელოვანისა, საკუთარ ნამუშევრებს „გადაშენების საფრთხის წინაშე“ ხვდება. და ჰინტონის, "AI-ის ნათლიას" თქმით, არ არსებობს საფუძველი ვიფიქროთ, რომ საფრთხე არ გავრცელდება. ჩატბოტები „აშორებენ შრომისმოყვარეობას“, მაგრამ „შეიძლება ამაზე მეტი წაართვან“.
კრაპაპლი და მისი თანაავტორები წერენ: „გენერაციული ხელოვნური ხელოვნური ხელოვნება ვამპირულია, ტკბება წარსული თაობების ნამუშევრებით, მიუხედავად იმისა, რომ ცოცხალი მხატვრების სისხლს სწოვს“. მაგრამ არსებობს წინააღმდეგობის გაწევის გზები: ჩვენ შეგვიძლია უარი თქვან ამ პროდუქტების გამოყენებაზე და მოვაწყოთ ორგანიზება, რომ მოვითხოვოთ ჩვენი დამსაქმებლებისა და მთავრობების უარყოფა. ა წერილი ხელოვნური ინტელექტის ეთიკის ცნობილი მკვლევარების, მათ შორის Timnit Gebru, რომელიც Google-მა 2020 წელს გაათავისუფლა სამუშაო ადგილზე დისკრიმინაციის გამოწვევის გამო, აყალიბებს ზოგიერთ მარეგულირებელ ინსტრუმენტს, რომელიც მთავრობებს შეუძლიათ დაუყონებლივ შემოიღონ - მათ შორის სრული გამჭვირვალობა იმის შესახებ, თუ რა მონაცემთა ნაკრები გამოიყენება მოდელების მომზადებისთვის. ავტორები წერენ: „არამარტო ყოველთვის უნდა იყოს ნათელი, როდესაც ვხვდებით სინთეზურ მედიას, არამედ ორგანიზაციებს, რომლებიც ამ სისტემებს ქმნიან, ასევე უნდა მოეთხოვონ ტრენინგის მონაცემებისა და მოდელის არქიტექტურის დოკუმენტირება და გამჟღავნება…. ჩვენ უნდა ავაშენოთ მანქანები, რომლებიც მუშაობენ ჩვენთვის, ნაცვლად იმისა, რომ საზოგადოება 'მოახდინოთ' მანქანით წასაკითხად და დასაწერად.
მიუხედავად იმისა, რომ ტექნოლოგიურ კომპანიებს სურთ გვჯეროდეს, რომ უკვე გვიანია ამ ადამიანის შემცვლელი, მასობრივი მიმიკის პროდუქტის უკან დაბრუნება, არსებობს ძალზე შესაბამისი სამართლებრივი და მარეგულირებელი პრეცედენტები, რომლებიც შეიძლება აღსრულდეს. მაგალითად, აშშ-ს ფედერალური სავაჭრო კომისია (FTC) იძულებული Cambridge Analytica, ისევე როგორც Everalbum, ფოტო აპლიკაციის მფლობელი, გაანადგუროს მთელი ალგორითმები, რომლებიც აღმოჩენილი იქნა არალეგიტიმურად მითვისებულ მონაცემებზე და გახეხილ ფოტოებზე. თავის პირველ დღეებში, ბაიდენის ადმინისტრაციამ ბევრი თამამი პრეტენზია გამოთქვა დიდი ტექნოლოგიების რეგულირების შესახებ, მათ შორის პერსონალური მონაცემების ქურდობის დარბევა საკუთრების ალგორითმების შესაქმნელად. საპრეზიდენტო არჩევნების მოახლოებასთან ერთად, ახლა კარგი დრო იქნება ამ დაპირებების შესასრულებლად - და თავიდან ავიცილოთ მასობრივი თანამდებობიდან გათავისუფლების მორიგი ნაკრები, სანამ ისინი მოხდება.
ღრმა ყალბების, მიმიკური მარყუჟების და უთანასწორობის გაუარესების სამყარო გარდაუვალი არ არის. ეს არის პოლიტიკის არჩევანის ნაკრები. ჩვენ შეგვიძლია დავარეგულიროთ ვამპირული ჩეთბოტების ამჟამინდელი ფორმა - და დავიწყოთ სამყაროს აშენება, რომელშიც ხელოვნური ინტელექტის ყველაზე საინტერესო დაპირებები უფრო მეტი იქნება, ვიდრე სილიკონის ველის ჰალუცინაციები.
იმიტომ, რომ ჩვენ ვავარჯიშეთ მანქანები. Ყველა ჩვენთაგანი. მაგრამ ჩვენ არასოდეს მიგვიცია თანხმობა. ისინი იკვებებოდნენ კაცობრიობის კოლექტიური გამომგონებლობით, შთაგონებითა და გამოცხადებებით (ჩვენს უფრო ვეტერინარულ თვისებებთან ერთად). ეს მოდელები არის შემოფარვისა და მითვისების მანქანები, რომლებიც შთანთქავს და პრივატიზებს ჩვენს ინდივიდუალურ ცხოვრებას, ისევე როგორც ჩვენს კოლექტიურ ინტელექტუალურ და მხატვრულ მემკვიდრეობას. და მათი მიზანი არასოდეს ყოფილა კლიმატის ცვლილების გადაჭრა ან ჩვენი მთავრობების უფრო პასუხისმგებლობის ან ჩვენი ყოველდღიური ცხოვრების უფრო მშვიდი. ის ყოველთვის იყო მასობრივი გაუარესებით, რაც კაპიტალიზმის პირობებში ადამიანის ფუნქციების ბოტებით ჩანაცვლების თვალსაჩინო და ლოგიკური შედეგია.
ეს ყველაფერი ზედმეტად დრამატულია? დახშული და რეფლექსური წინააღმდეგობა საინტერესო ინოვაციების მიმართ? უარესს რატომ უნდა ველოდოთ? ალტმენი ამშვიდებს ჩვენ: "არავის სურს სამყაროს განადგურება." Შეიძლება არა. მაგრამ, როგორც კლიმატის მზარდი და გადაშენების კრიზისი გვაჩვენებს ყოველდღე, ბევრი ძლიერი ადამიანი და ინსტიტუტი, როგორც ჩანს, კარგად არის, რადგან იციან, რომ ისინი ხელს უწყობენ მსოფლიოს სიცოცხლის მხარდაჭერის სისტემების სტაბილურობის განადგურებას, სანამ მათ შეუძლიათ გააგრძელონ ჩანაწერი მოგება, რომელიც, მათი აზრით, დაიცავს მათ და მათ ოჯახებს ყველაზე ცუდი შედეგებისგან. ალტმენი, ისევე როგორც სილიკონის ველის მრავალი არსება, თავად არის პრეპერი: ის ჯერ კიდევ 2016 წელს. ტრაბახობდნენ: ”მე მაქვს იარაღი, ოქრო, კალიუმის იოდიდი, ანტიბიოტიკები, ბატარეები, წყალი, გაზის ნიღბები ისრაელის თავდაცვის ძალებისგან და დიდი მიწის ნაკვეთი ბიგ სურში, სადაც შემიძლია ფრენა.”
დარწმუნებული ვარ, რომ ეს ფაქტები ბევრად მეტს მეტყველებს იმაზე, თუ რისი სჯერა რეალურად ალტმანს მომავლის შესახებ, რომელსაც ის ეხმარება, ვიდრე ნებისმიერი ყვავილოვანი ჰალუცინაციები, რომლებსაც ის ირჩევს პრესასთან ინტერვიუებში გასაზიარებლად.
ნაომი კლეინი არის Guardian-ის ამერიკელი მიმომხილველი და მწერალი. ის არის No Logo და შოკის დოქტრინის ბესტსელერი ავტორი და კლიმატის სამართლიანობის პროფესორი და ბრიტანეთის კოლუმბიის უნივერსიტეტის კლიმატის სამართლიანობის ცენტრის თანადირექტორი.
ZNetwork ფინანსდება მხოლოდ მისი მკითხველების გულუხვობით.
შემოწირულობა