Süni intellekt vədi onun təhlükələri ilə kölgədə qalır, o cümlədən bizim öz məhvimiz.
Süni intellektin müdafiəsi ilə məşğul olanlar bu texnologiyadan istifadənin böyük faydalarını qeyd edirlər. Məsələn, CNN-də bir məqalədə süni intellektin Princeton alimlərinə həllinə necə kömək etdiyi göstərilir Fusion enerjisi ilə "əsas problem". Mətni audioya və audionu mətnə çevirə bilən süni intellekt məlumatları daha əlçatan edir. Bu texnologiyadan istifadə etməklə bir çox rəqəmsal tapşırıq daha sürətli yerinə yetirilə bilər.
Bununla belə, AI-nin vəd edə biləcəyi hər hansı üstünlüklər bu mübahisəli yeni texnologiyanın kataklizm təhlükələri ilə kölgədə qalır. Bəşəriyyətin gözlənilməz mənfi nəticələri hər hansı qısamüddətli faydaları xeyli üstələyən texnoloji inqilabı dayandırmaq üçün dar şansı var.
20-ci əsrin əvvəllərində insanlar (xüsusən də ABŞ-da) ictimai tranzitin yaxşılaşdırılmasına diqqət yetirməklə, bununla da böyük miqdarda enerjiyə qənaət etməklə, milyardlarla ton istixana qazı emissiyasının qarşısını almaqla və avtomobillərin itkisinin qarşısını almaqla avtomobillərin yayılmasını dayandıra bilərdilər. daha çox 40,000 yaşayır yalnız ABŞ-da hər il avtomobil qəzalarında. Amma biz bunu etmədik.
Əsrin ortalarında biz atom bombasının inkişafının qarşısını ala bildik və indi içində olduğumuz apokaliptik təhlükələrin qarşısını ala bildik. Biz də bu fürsəti əldən verdik. (Yeni nüvə silahları hələ də hazırlanır layihələndirilmiş və tikilmişdir.)
20-ci əsrin sonlarında qaydaları rəhbər tuturdu ehtiyat prinsipi yayılmasının qarşısını ala bilərdi zəhərli kimyəvi maddələr ki, indi bütün planeti zəhərləyir. Bu vəziyyətdə də uğursuzluğa düçar olduq.
İndi daha bir şansımız var.
Süni intellektlə bəşəriyyət demək olar ki, hər bir əsas sektora - maliyyə, müharibə, tibb və kənd təsərrüfatına icra nəzarətini heç bir mənəvi gücü olmayan alqoritmlərə həvalə edir.
Nəyin səhv ola biləcəyi ilə maraqlanırsınızsa, cavab çoxdur.
Əgər hələ də mövcuddursa, süni intellektin dayandırılması üçün fürsət pəncərəsi tezliklə bağlanacaq. AI kommersiyalaşdırılır Daha sürətli digər əsas texnologiyalara nisbətən. Həqiqətən, sürət onun mahiyyətidir: O, maşın öyrənməsi ilə özünü təkmilləşdirir, hər bir iterasiya çox uzaqdır. Moore Qanunu.
Süni intellekt planetə böyük təsir göstərən hər şeyi (istehsal, nəqliyyat, rabitə və resurs hasilatı) sürətləndirmək üçün istifadə edildiyinə görə, bu, təkcə bəşəriyyətin sağ qalması üçün deyil, həm də Yerdəki bütün canlılar üçün böyük təhlükədir.
Süni intellekt təhlükələri artmaqdadır
2023-cü ilin iyun ayında bir yazı yazdım məqalə AI-nin bəzi təhlükələrini təsvir edir. İndi həmin məqalə qəribə dərəcədə köhnəlib. Qısa müddət ərzində süni intellekt bir çoxumuzun təsəvvür etdiyimizdən daha təhlükəli nəticələr ortaya çıxardı.
başlıqlı məqalədəDNAI - Süni İntellekt/Süni Həyat Konvergensiyası," Jim Thomas süni intellekt tərəfindən təmin edilən "ekstremal gen mühəndisliyi" perspektivləri haqqında məlumat verir. Süni intellekt mətn və şəkillər yaratmaqda yaxşı olarsa, genetik əlifbanın hərflərini oxumaqda və yenidən yerləşdirməkdə də super bacarıqlıdır. Artıq, süni intellekt texnologiyası nəhəngi Nvidia, Tomasın "virus və mikrob dizaynı üçün ilk keçid ChatGPT" adlandırdığı şeyi inkişaf etdirdi və onun istifadəsi üçün tətbiqlər tibb, kənd təsərrüfatı və biosilahların inkişafı da daxil olmaqla həyat elmlərində tapılır.
Yeni sintetik orqanizmlər üçün biotəhlükəsizlik tədbirləri, onları yaradan bütün dizayn sisteminin ağlasığmaz olduğunu nəzərə alsaq, necə işləyəcək? Artıq yeni kimyəvi maddələrin təhlükələrini qiymətləndirmək üçün uçurumlu bir iş gördüyümüz halda, minlərlə yeni süni intellekt tərəfindən yaradılan zülalların təhlükələrinə qarşı özümüzü necə adekvat şəkildə müdafiə edə bilərik?
Tədqiqat əyilmə sürəti ilə irəliləyir, lakin nəzarət və tənzimləmə ilbiz sürəti ilə irəliləyir.
üçün təhdidlər maliyyə sistemi AI-dən yeni başa düşülməyə başlayır. 2023-cü ilin dekabrında hökumət daxilində aparıcı tənzimləyicilərdən ibarət ABŞ Maliyyə Sabitliyinə Nəzarət Şurası (FSOC) süni intellektni “yenidən yaranan zəiflik” kimi təsnif etdi.
Süni intellekt daxili əməliyyatlarını gizlədən “qara qutu” rolunu oynadığından, ondan istifadə edən banklar “sistemin konseptual sağlamlığını qiymətləndirməkdə” çətinləşə bilər. a görə CNN məqaləsi, FSOC tənzimləyiciləri süni intellektin "qərəzli və ya qeyri-dəqiq nəticələr çıxara və gizlədə, ədalətli kreditləşmə və digər istehlakçıların müdafiəsi məsələləri ilə bağlı narahatlığı artıra biləcəyinə" işarə etdi. Süni intellektlə idarə olunan səhm və istiqraz ticarəti ola bilər tank qiymətli kağızlar bazarları? Bunu öyrənmək üçün çox gözləməli olmaya bilərik. Qiymətli Kağızlar və Birja Komissiyasının sədri Gary Gensler, 2023-cü ilin may ayında, ABŞ Xəbərlərinə görə, "AI-nin [maliyyə] böhrana səbəb olmaq potensialı haqqında" danışdı. məqalə, bunu "potensial sistem riski" adlandırır.
Bu vaxt, ChatGPT bu yaxınlarda günün ən yaxşı hissəsini keçirdi qəribə cəfəngiyyatlar püskürür Vaşinqton Universitetinin professoru Cevin Vest deyir ki, istifadəçilərin suallarına cavab olaraq və tez-tez “halüsinasiyalar” var, yəni sistem “gerçəkliyə uyğun olmayan şeylər uydurmağa” başlayır. CNN-ə məqalə o, sitat gətirildi. Süni intellekt maliyyə qeydlərini və birja ticarətini halüsinasiya etməyə başlayanda nə baş verir?
Lətif muxtar silahlar artıq döyüş meydanında istifadə olunur. Bu silahlara süni intellekt əlavə edin və insan məsuliyyəti, əxlaqi mühakimə və mərhəmət müharibədə hələ də davam edərsə, yox olmağa meyilli olacaq. Qatil robotlar artıq dünya miqyasında – Ukrayna və Rusiyada, İsrail və Fələstində, həmçinin Yəməndə və başqa yerlərdə qanlı yeni münaqişələr silsiləsində sınaqdan keçirilir.
Süni intellektin iqtisadi bərabərsizliyi daha da pisləşdirəcəyi əvvəldən aydın idi. Yanvar ayında, BVF bunu proqnozlaşdırıb Süni intellekt qlobal miqyasda iş yerlərinin təxminən 40 faizinə təsir göstərəcək (varlı ölkələrdə təxminən 60 faiz). Maaşlara təsir edəcək, iş yerləri ləğv ediləcək. Texnologiyanın imkanları daim artdığından bunlar, şübhəsiz ki, qiymətləndirilməyənlərdir.
Ümumilikdə, nəticə o olacaq ki, texnologiyadan faydalanmaq üçün yerləşdirilən insanlar daha varlı olacaqlar (bəziləri çox gözəldir), digərləri isə daha da geri qalacaqlar. Daha dəqiq desək, son dərəcə varlı və güclüdür rəqəmsal texnologiya şirkətləri öz sosial və siyasi nüfuzlarını onsuz da absurd səviyyələrdən çox-çox artıracaqlar.
Bəzən iddia edilir ki, süni intellekt aşağı karbonlu texnologiyaların inkişafını sürətləndirərək iqlim dəyişikliyinin həllinə kömək edəcək. Ancaq AI enerji istifadəsi tezliklə bir çox kiçik ölkələri geridə qoya bilər. Və AI məlumat mərkəzləri də udmağa meyllidirlər torpaq və su.
2013-cü il filmində deyildiyi kimi, süni intellekt hətta sevgi həyatımızı da işğal edir.Öz.” İnternet onlayn tanışlıq vasitəsilə münasibətləri yenidən formalaşdırsa da, süni intellekt insandan insana tərəfdaşlığı insan-maşın intim münasibətləri ilə əvəz etmək potensialına malikdir. Artıq, Replika kimi bazara çıxarılırÖnəmi olan AI yoldaşı”— istifadəçilərə seksinq daxil olmaqla, dərin şəxsi söhbətlərə cəlb etməyi təklif edir. Seks robotlar inkişaf etdirilir, görünüşü ilə yaşlı və əlil insanlar üçün, ilk müştərilər varlı kişilər kimi görünsə də.
Üz-üzə insan qarşılıqlı əlaqələri var nadir hala gəlir, və cütlər bir hesabat verir cinsi yaxınlığın aşağı tezliyi. AI ilə bu narahatedici tendensiyalar eksponent olaraq böyüyə bilər. Tezliklə bu dünyaya qarşı yalnız siz və maşınlarınız olacaqsınız.
ABŞ-da prezident seçkiləri yaxınlaşdıqca, bir sıra potensial sərbəst buraxılır deepfake audio və video yazıları millətin demokratiyasına sahib ola bilərdi sapla asılır. Doğrudanmı namizəd bunu deyib? Bunu öyrənmək üçün bir az vaxt lazım olacaq. Bəs fakt-çekin özü süni intellektlə yaradılacaqmı? Hindistan 2024-cü ildə keçirilməsi planlaşdırılan milli seçkilər ərəfəsində süni intellekt tərəfindən yaradılan siyasi məzmunu sınaqdan keçirir və nəticələr qəribə, aldadıcı və təxribatçı.
Vəziyyətə hərtərəfli nəzər saldıqda, süni intellektin hazırda təbiəti və bəşəriyyəti təhdid edən bütün mənfi tendensiyaları sürətləndirəcəyini göstərir. Lakin bu ittihamnamə hələ də insanları və bəlkə də bütün canlıları köhnəlmiş etmək qabiliyyətini izah edə bilmir.
AI-nin təhdidləri asanlıqla düzəldilə bilən bir sıra səhvlər deyil. Onlar texnologiyanın xas təbiətinin – onun gizli daxili işlərinin və funksiyanın özünü təkamülünün qaçılmaz ifadələridir. Və bunlar əhəmiyyətsiz təhlükələr deyil; onlar ekzistensialdırlar.
Texnologiya ilə ən çox tanış olan insanlar olan bəzi AI tərtibatçılarının ən çox olması faktıdır sərt tənqidçilər bizə bir şey deməlidir. Əslində, siyasətçilər, süni intellekt üzrə ekspertlər və jurnalistlər a bəyanat “AI-nin yox olma riskinin azaldılması pandemiya və nüvə müharibəsi kimi digər sosial miqyaslı risklərlə yanaşı qlobal prioritet olmalıdır” xəbərdarlığı.
Pauza etməyin, dayandırın
Əsas mediada süni intellektlə bağlı tənqidi rəylərin bir çoxu a fasilə inkişafında "təhlükəsiz səviyyədə". Bəzi tənqidçilər texnologiyanın "pis" tətbiqlərinin tənzimlənməsinə çağırırlar - silahların tədqiqi, sifətin tanınması və dezinformasiyada. Həqiqətən də, Avropa İttifaqı rəsmiləri 2023-cü ilin dekabrında bu istiqamətdə bir addım ataraq, müqavilə ilə bağlı müvəqqəti razılaşma əldə etdilər. AI-ni tənzimləyən dünyanın ilk hərtərəfli qanunları.
Hər dəfə yeni texnologiya tətbiq edildikdə, adi təcrübə qaydaları tətbiq etməzdən əvvəl gözləmək və onun müsbət və mənfi nəticələrini görməkdir. Ancaq AI-nin daha da inkişafını gözləsək, edəcəyik artıq məsul olma. Yaratdığımız texnologiyaya nəzarəti bərpa etmək mümkünsüz ola bilər.
Ümumi süni intellekt qadağası üçün arqument texnologiyanın mahiyyətindən irəli gəlir - onun texnoloji təkamülü insan nəzarətinə və ya hesabatlılığa zidd olan sürətlərin sürətləndirilməsini əhatə edir. Tam qadağa, süni intellekt üzrə qabaqcıl Eliezer Yudkovskinin əsas məsələsində tövsiyə etdiyi həll yoludur. TIME-da nəşr olundu:
“[T]o, indiki şəraitdə olduğu kimi uzaqdan hər hansı bir şəraitdə fövqəlbəşəri ağıllı süni intellekt yaratmağın çox güman ki nəticəsidir ki, Yer üzündə hər kəs öləcək. “Ola bilsin ki, bəzi uzaq şanslar”dakı kimi deyil, “bu, baş verəcək açıq-aşkar şeydir” kimi.”
Yudkovski davam edir açıqlamaq biz hazırda süni intellektə qayğıkeşlik və ya əxlaq aşılaya bilmirik, buna görə də biz “sizi sevməyən, sizə nifrət etməyən və siz onun başqa bir şey üçün istifadə edə biləcəyi atomlardan ibarət olduğunuz” AI alacağıq.
Yudkovskinin xəbərdarlığını vurğulayan və təsdiqləyən ABŞ Dövlət Departamenti tərəfindən maliyyələşdirilən, martın 11-də dərc edilən bir araşdırma, tənzimlənməmiş süni intellektlərin “yox olmaq təhlükəsi” bəşəriyyətə.
Bu texnologiyanın gələcək istifadəsini və inkişafını dayandırmaq üçün qlobal bir müqavilə lazımdır - aradan qaldırılması üçün böyük bir maneə. Müqaviləni tərtib edənlər süni intellektni mümkün edən əsas texnoloji elementləri müəyyən etməli və dünyanın istənilən yerində və hər yerində bu sahələrdə tədqiqat və inkişafı qadağan etməlidir.
Belə bir şeyin baş verdiyi bir neçə tarixi presedent var. Bir min il əvvəl Çin liderləri a yeni yaranan sənaye inqilabı kömür və kömürlə işləyən texnologiyalara əsaslanan (irsi aristokratlar yeni başlayan sənayeçilərin sonda siyasi hakimiyyəti ələ keçirəcəyindən qorxurdular). Yaponiyada Tokuqava Şoqunatı dövründə (1603-1867) əksər silahlar qadağan edilmişdi. silah ölümlərini demək olar ki, tamamilə aradan qaldırır. 1980-ci illərdə isə dünya liderləri Birləşmiş Millətlər Təşkilatına toplaşdılar əksər CFC kimyəvi maddələrini qadağan edin planetin atmosferinin ozon qatını qorumaq üçün.
Süni intellektin qadağan edilməsi, ehtimal ki, bu üç tarixi hadisənin hər hansı birində üzləşdiyimizdən daha böyük problem yaradacaq. Amma bu baş verəcəksə, indi baş verməlidir.
Tutaq ki, süni intellektə qadağa qoyan hərəkat uğur qazanacaq. Belə olan halda, bu, bizim kollektiv qızdırmalı neoliberal kapitalizm xəyalımızı qıra bilər ki, insanlar və onların hökumətləri nəhayət, məhdudiyyətlər qoymağın zəruriliyini dərk etsinlər. Bu, bizdən qalıq yanacaq hasilatı və enerji istifadəsini ciddi şəkildə məhdudlaşdırmağı tələb edən iqlim böhranı ilə bağlı artıq baş verməli idi. Süni intellekt təhlükəsi bu qədər kəskin olmaqla, bizi özümüzə məhdudiyyətlər qoymağa məcbur edərsə, bəlkə də bu, hərəkət etmək üçün lazım olan institusional və hökumətlərarası cəsarətə səbəb ola bilər. digər ekzistensial təhlükələr.
Bu məqalə tərəfindən hazırlanmışdır Yer | Qida | Həyat, Müstəqil Media İnstitutunun layihəsidir
ZNetwork yalnız oxucularının səxavəti hesabına maliyyələşdirilir.
ianə vermək