Bu mühasirəyə alınmış planetdə təxminən 79 ildən sonra bir şeyi deyim: bunun sonu yaxşı ola bilməz. Həqiqətən, ola bilməz. Xeyr, mən Ukraynadakı müharibədən tutmuş iqlim fəlakətinə qədər ən bariz məsələlərdən danışmıram. Fikrimcə, insanın ən son, ən böyük ixtirası var: süni intellekt.
Mənə o qədər də mürəkkəb görünmür. Bir vaxtlar tarixçi kimi mən çoxdan düşünürdüm ki, bu əsrlər ərzində qeyri-süni və çox vaxt qeyri-müəyyən intellekt nəyə nail olub (və bəli, mən bunu dırnaq içərisində qoymağı üstün tuturam) ). Ancaq artıq özünün canlı abbreviaturası olan bu son yaradılış AI-nin nə edə biləcəyini təsəvvür etməyə çalışdığım dəqiqə məni titrədir. Brr...
İcazə verin, dürüstlüklə başlayım, bu heç də süni bir hiss deyil. AI haqqında bildiklərimi zibil torbasına qoyub zibillə birlikdə atmaq olar. Bəli, mən bu yaxınlarda mediada bu barədə oxuya bildiyim hər şeyi oxudum və dostlarım artıq bununla məşğul olublar. TomDispatch müntəzəm Məsələn, William Astore ChatGPT-ni yazmaq üçün tapdı mükəmməl keçə bilər onun üçün hərbi-sənaye kompleksinə dair “tənqidi esse” Baxışların kəskinləşməsi xəbər bülleteni - və etiraf etməliyəm ki, heyrətamiz idi.
Yenə də mənim üçün deyil. Heç vaxt mən. Mən heç vaxt deməyə nifrət edirəm, çünki biz insanlar gələcəkdə nə edəcəyimizi həqiqətən bilmirik. Yenə də AI ilə aktiv bir əlaqəm olmayacağını ən yaxşı təxmin edirəm. (Baxmayaraq ki, mənim süni intellektli orfoqrafiya yoxlama sistemimdən daha az olan, mən Astore-a onun həmin parçasının URL-ni istəməsi üçün e-poçt göndərərkən dərhal “chatbox”ı “hatbox”a dəyişdi.)
Ancaq burada bir dəqiqə dayanaq. Süni intellektə keçməzdən əvvəl gəlin bu planetdə LTAI (Süni intellektdən daha az, sadəcə olaraq siz qısaltmanı bilmirsinizsə) haqqında bir az düşünək. Kim inkar edə bilər ki, onun bəzi əlamətdar uğurları olub? yaratdı Mona Lisa, Ulduzlu Gecəvə Dieqo və mən. Daha çox deməyə ehtiyacım var? Bizi bu dünyada üslubda və hətta kosmosa necə hərəkət etdirəcəyimizi başa düşdük. O, nəhəng şəhərlər və möhtəşəm abidələr tikib, eyni zamanda müqayisə olunmayacaq dərəcədə mətbəxlər yaradır. Mən, əlbəttə, davam edə bilərdim. Kim bacarmadı? Müəyyən mənada insan zəkasının yaradıcılığı hər kəsin nəfəsini kəsməlidir. Bəzən hətta “möcüzə”yə əsl məna verirlər.
Və yenə də, zamanın əvvəlindən, həmin LTAI də daha amansız istiqamətlərə getdi. O, nizə və oxdan tutmuş artilleriya və reaktiv qırıcı təyyarələrə qədər hər cür silah icad etdi. O, indi AR-15 yarı avtomatik tüfəngini yaratdı əsasən məsuliyyət daşıyır (bir çox narahat olan fərdi LTAI ilə birlikdə) bizim heç vaxt bitməyən kütləvi qətllərimizə görə, tək fenomen bu "sülh vaxtı" ölkəmizdə.
Və biz, əlbəttə ki, Holokostu yaradan eyni Süni İntellektdən, İosif Stalinin rus gulağını, ABŞ-da seqreqasiya və linç dəstələrini və (in) bəşər tarixinin bir çox başqa dəhşətlərindən danışırıq. Hər şeydən əvvəl, biz tariximizin böyük hissəsini müharibə və qırğın nağılına çevirən LTAI-dan danışırıq, nə qədər “qabaqcıl” olsaq da, heç vaxt Ukraynada amansız, dərin dağıdıcı münaqişə kimi olmamışdı. təklif edir — dayandırmanın ən kiçik əlamətini göstərir. Mövzu ilə bağlı rəqəmlər görməsəm də, mən şübhələnirəm ki, tariximizdə elə bir an olmayıb ki, bu planetin bir yerində (və çox vaxt bu, bir yerdə plürallaşdırılmalı idi) biz insanlar bir-birimizi öldürmürük. əhəmiyyətli rəqəmlər.
Nəzərə alın ki, yuxarıda qeyd olunanların heç birində mən cəmiyyətlər arasında müntəzəm olaraq bölünən və onun ətrafında təşkil edilən cəmiyyətlərin dəhşətlərindən bəhs etməmişəm. heyrətamiz dərəcədə varlı və çox kasıb. Amma kifayətdir, elə deyilmi? Siz fikir əldə edirsiniz.
Ups, mən indi süni intellekt yaratmış canlıları mühakimə edərkən bir şeyi kənara qoydum. Keçən və ya iki əsrdə yuxarıda göstərilənlərin hamısını yerinə yetirən “kəşfiyyat” həm də bu planeti və orada yaşayan az-çox hər şeyi potensial olaraq məhv etməyin iki fərqli yolunu tapmağa müvəffəq oldu. Onlardan birincisini o, böyük ölçüdə bilmədən yaratdı. Axı, on doqquzuncu əsrdə planetin çox hissəsinin sənayeləşməsi ilə başlayan qalıq yanacaqların kütləvi, heç vaxt bitməyən yanması Yerin iqlimi getdikcə daha çox dəyişməsinə səbəb oldu. Baxmayaraq ki, biz artıq onilliklər ərzində nə etdiyimizi bilirik (nəhəng qalıq yanacaq şirkətlərindən birinin alimləri ilk tutdu 1970-ci illərdə baş verənlər), ki bizə mane olmadı. Uzaqdan deyil. Onsuz da hələ yox.
Gələcək onilliklər ərzində, əl-ələ alınmasa, iqlim fövqəladə vəziyyət məhv edə bilərdi bəşəriyyətin və bir çox başqa canlıların yaşadığı bu planet. Bu, potensial olaraq dünyanın sonu ola biləcək bir fenomendir (ən azı bizim bildiyimiz kimi yaşamaq üçün əlverişli bir planet üçün). Və hələ də, bu anda, iki ən böyük istixana qazı emissiyaları, Birləşmiş Ştatlar və Çin (bu ölkə indi liderdir, lakin ABŞ tarixən bir nömrə olaraq qalır) bizi Yer üzündəki hərfi mənada cəhənnəmdən xilas etmək üçün əməkdaşlıq əlaqələri inkişaf etdirə bilmədiklərini sübut etdilər. Əksinə, davam etdilər silahlansınlar dişlərinə və liderləri isə təhdidkar bir şəkildə üz-üzə indi bir söz demirler, planetin həddindən artıq istiləşməsi ilə bağlı daha az məsləhətləşmə.
Bəşəriyyətin yaratdığı cəhənnəmə aparan ikinci yol, əlbəttə ki, 1945-ci ilin avqustunda Yaponiyanın Xirosima və Naqasaki şəhərlərində dağıdıcı təsir göstərmək üçün yalnız iki dəfə istifadə edilən nüvə silahı idi. Yenə də, indi Yer Planetində saxlanılan nəhəng nüvə arsenallarından nisbətən kiçik sayda silahlar belə bir nüvə silahı yarada bilər. nüvə qışı bu, potensial olaraq bəşəriyyətin çox hissəsini məhv edə bilər.
Unutmayın ki, LTAI varlıqları məhz belə silahların getdikcə daha böyük ehtiyatları yaratmağa davam edir. getdikcə daha çox ölkələr - ən son varlıq Şimali Koreya - onlara sahib olmaq üçün gəl. Şəraitdə və Ukrayna Müharibəsi təhlükəsi nəzərə alınmaqla nüvə getmək, bunun sadəcə bir zaman məsələsi ola biləcəyini düşünməmək çətindir. Önümüzdəki onilliklərdə öz ölkəmin hökuməti qeyri-adi deyil, qoymağı planlaşdırır daha 2 trilyon dollar belə silahların getdikcə daha təkmil formalarına və onların çatdırılma yollarına.
AI erasına daxil olmaq
Belə bir tarixi nəzərə alsaq, süni intellektin bu qədər çox təhlükələrə cavabdeh olan zəkadan, bəziləri son dərəcə müxtəlifliyə görə məsuliyyət daşımağa başlamasının şərəfli bir şey ola biləcəyini təsəvvür etdiyiniz üçün bağışlanacaqsınız. Şübhə etmirəm ki, onun əcdadı (biz) kimi, süni intellekt həqiqətən də birtərəfli olmaqdan başqa hər şeyi sübut edəcək. Şübhəsiz ki, o, hələ ağlasığmaz ola biləcək formalarda möcüzələr yaradacaqdır.
Yenə də unutmayaq ki, süni intellekt LTAI ilə bizlər tərəfindən yaradılıb. Əgər indi öz ixtiyarına buraxılarsa (əlbəttə ki, güclərin köməyi ilə), onun hansısa şəkildə insan təcrübəsini mahiyyətcə təkrarlayacağını güman etmək ağlabatan görünür. Əslində bunu bir növ zəmanət hesab edin. Bu o deməkdir ki, o, gözəllik və möcüzə yaradacaq və - bəli! - müqayisə olunmayan dəhşət (və bəlkə də daha səmərəli). Buna şübhə etməmək üçün, bəşəriyyətin hansı hissəsinin süni intellekti öz hüdudlarına çatdırmaq niyyətində olduğunu düşünün.
Bəli, bütün planetdə “müdafiə” şöbələri süni intellektlə bağlı tədqiqat və inkişafa, xüsusən də Michael Klare kimi pilotsuz avtonom nəqliyyat vasitələrinin (düşün: qatil robotlar) və müxtəlif növ silah sistemlərinin yaradılmasına pul xərcləyir. yaxınlarda qeyd etdi at TomDispatch Pentaqona gəldikdə. Əslində, beş il əvvəl (bəli, tam beş il!) Pentaqonun Birgə Süni İntellekt Mərkəzi yaratmaqda oyundan əhəmiyyətli dərəcədə irəlidə olduğunu bilmək sizi şoka salmamalıdır. New York Times qoydu, "Döyüşdə süni intellektin istifadəsini araşdırın." Orada, sonda ola bilər - və "son" əlbəttə ki, burada operativ bir sözdür - döyüş meydanında hərəkəti elə sürətləndirə bilərik ki, həqiqətən də naməlum əraziyə daxil ola bilək. Biz, əslində, müharibə zamanı qərarların qəbul edilməsində insan zəkasının ən yaxşı halda yan fəaliyyətə çevrildiyi bir sahəyə daxil ola bilərik.
Yalnız bu yaxınlarda AI yaradıcıları, texnoloji liderlər və əsas potensial istifadəçilər, 1,000 daha çox onlardan, o cümlədən Apple şirkətinin həmtəsisçisi Stiv Voznyak və milyarder İlon Mask, belə bir şeyin - belə bir beyinin, deyə bilərsiniz - bu planetdə nə edə biləcəyindən kifayət qədər narahat idilər. çağırış etdi onun inkişafına altı aylıq moratorium. Onlar süni intellektdən “cəmiyyət və bəşəriyyət üçün ciddi risklərdən” qorxdular və hətta “son nəticədə sayca çox ola biləcək, zirəkləşə, köhnələcək və bizi əvəz edə biləcək qeyri-insani ağılları” inkişaf etdirməli olub-olmayacağımızla maraqlandılar.
Lakin Pentaqon bu çağırışa David Sanger kimi dərhal cavab verdi məlumat ci New York Times: "Pentaqon rəsmiləri texnologiya forumlarında çıxış edərək, ChatGPT və oxşar proqram təminatının növbəti nəsillərinin hazırlanmasında altı aylıq fasilə ideyasının pis fikir olduğunu düşündüklərini söylədilər: Çinlilər gözləməyəcək, ruslar da gözləməyəcək." Beləliklə, tam sürətlə irəliləyin və AI-nin ən dağıdıcı aspektlərinin inkişafını yavaşlatmaq və ya nəzarət etmək üçün istənilən beynəlxalq cəhdləri atlayın!
Onsuz da yanlış və dezinformasiya və vəhşi sui-qəsd nəzəriyyələri ilə ağzına qədər dolu görünən bir dünyada süni intellektin necə istifadə olunacağını qeyd etməkdən belə çəkinmədim. eyni şeyi daha çox yaradın ağla gələn hər cür, a heyrətamiz müxtəliflik ""varsanılar,” incəsənətin diqqətəlayiq yeni versiyalarından tutmuş hər şeyi ifşa etməkdən danışmırıq tələbə sınaq sənədləri. Demək istəyirəm ki, həqiqətən ehtiyacım var -dən artıq bir şey qeyd edin Bu yaxınlarda çox real görünən “Donald Trampın NYPD tərəfindən aqressiv şəkildə həbs olunduğu və Papa Fransisin dəbdəbəli Balenciaga qabarıq paltosunda internetdə yayılan fotoşəkilləri”?
Mən buna şübhə edirəm. Axı, təsvirə əsaslanan AI texnologiyası, o cümlədən heyrətamiz saxta sənət, əhəmiyyətli dərəcədə yüksəlir və tezliklə gördüyünüz şəkillərin "real" və ya "saxta" olduğunu müəyyən edə bilməyəcəksiniz. Biləcəyiniz yeganə yol, Meghan Bartels kimi hesabat in Elmi Amerika, aşkar etmək üçün öyrədilmiş AI sistemləri sayəsində ola bilər - bəli! - süni şəkillər. Bu prosesdə, təbii ki, hamımız müəyyən mənada, mənzərədən kənarda qalacağıq.
Gələcək haqqında, Süni Danışan
Və əlbəttə ki, bu, indiki çox Trampa xas dünyamızı nəzərə alaraq, Süni İntellektin hamımızı necə siyasi və sosial axmaq edə biləcəyi barədə düşünməyə başlayanda yaxşı xəbərdir. Nəzərə alsaq ki, mən süni intellektə gəldikdə daha yaxşı məlumatlı insanlardan biriyəm (baxmayaraq ki, Süni intellektdən daha az şey haqqında daha çox şey bildiyimi iddia edərdim), qorxularımda tək qalmadığım üçün rahatlaşıram.
Əslində, bu mövzuda qorxulu şəkildə danışanlar arasında “AI-nin xaç atası” kimi tanınan adam, süni intellekt sahəsində qabaqcıl olan Geoffrey Hinton da var. O, süni şəkildə desək, həqiqətən hara gedəcəyimizlə bağlı qorxularını ifadə etmək üçün Google-dakı işini bu yaxınlarda tərk etdi. Onun kimi izah etdi New York Times bu yaxınlarda, "Bu şeylərin əslində insanlardan daha ağıllı ola biləcəyi fikri - bir neçə insan buna inanırdı, lakin insanların çoxu bunun çox uzaq olduğunu düşünürdü. Və düşündüm ki, uzaqdır. Düşündüm ki, 30-50 il və ya daha çox vaxt var. Açığı, mən artıq belə düşünmürəm”.
İndi o, təkcə insan nəzarətindən kənarda olan qatil robotların gəlişindən deyil, onun kimi qorxur Geoff Bennett dedi Bu PBS NewsHour, “Super ağıllı süni intellektin insanların nəzarəti ələ keçirməsi riski... Düşünürəm ki, bu, həqiqətən beynəlxalq əməkdaşlıq edə biləcəyimiz bir sahədir, çünki maşınların ələ keçirilməsi hamı üçün təhlükədir. Bu, çinlilər, amerikalılar və avropalılar üçün qlobal nüvə müharibəsi kimi təhlükədir”.
Və bu, həqiqətən də ümidverici bir fikirdir, Avropadakı isti müharibə, Sakit Okeandakı soyuq müharibə və qlobal miqyasda bölünmə ilə bağlı indiki dünyamıza uyğun gəlmir.
Bütün həyatımla birlikdə yaşadığım Süni İntellektin Süni İntellektdən Azının həqiqətən də AI daşıyıcı donanması tərəfindən batırılacağını və ya bu məsələdə bəşəriyyətin süni intellektin tozda qalıb-qalmayacağını bilmək üçün heç bir yolum yoxdur. , müəyyən bir şəkildə, bu planeti özümüz məhv edirik. Ancaq etiraf etməliyəm ki, süni intellekt, müsbət cəhətləri nə olursa olsun, bizi yer üzündəki cəhənnəmdən xilas etmək üçün dünyanın hazırda ehtiyac duyduğu şeylərdən başqa hər şeyə bənzəyir. Mən ən yaxşısına ümid edirəm və ən pisindən qorxuram, heç şübhə etmədiyim bir gələcəyə doğru yol almağa hazırlaşıram.
ZNetwork yalnız oxucularının səxavəti hesabına maliyyələşdirilir.
ianə vermək