Sözde yapay zekanın hızlı bir şekilde kullanıma sunulması etrafında dönen birçok tartışmanın içinde, "halüsinasyon" kelimesinin seçimine odaklanan nispeten belirsiz bir çatışma var.
Bu, üretken yapay zeka mimarlarının ve destekçilerinin, tamamen üretilmiş veya tamamen yanlış olan sohbet robotlarının sunduğu yanıtları karakterize etmek için kullandıkları terimdir. Örneğin, bir bottan var olmayan bir şeyin tanımını istediğinizde o size oldukça ikna edici bir şekilde şunu verir: bir, uydurma dipnotlarla tamamlandı. Google ve Alphabet CEO'su Sundar Pichai, "Bu alanda henüz hiç kimse halüsinasyon sorunlarını çözemedi" dedi. söyledi yakın zamanda bir röportajcı.
Bu doğru – ama neden hatalara “halüsinasyon” diyoruz? Neden algoritmik çöp değil? Veya aksaklıklar mı? Halüsinasyon, insan beyninin, en azından geleneksel, materyalist terimlerle mevcut olmayan fenomenleri algılama konusundaki gizemli kapasitesini ifade eder. Yapay zeka destekçileri, psikolojide, psikedeliklerde ve mistisizmin çeşitli biçimlerinde yaygın olarak kullanılan bir kelimeyi benimseyerek, bir yandan makinelerinin yanılabilirliğini kabul ederken, aynı zamanda sektörün en sevilen mitolojisini de besliyor: bu büyük dil modellerini oluşturarak ve onları her konuda eğiterek. Biz insanlar yazdık, söyledik ve görsel olarak temsil ettik; onlar türümüz için evrimsel bir sıçramayı ateşlemenin eşiğinde canlı bir zekayı doğurma sürecindeler. Bing ve Bard gibi botlar başka nasıl havada takılıp kalabilir?
Yapay zeka dünyasında çarpık halüsinasyonlar gerçekten de gündemde; ancak bunları yaşayanlar robotlar değil; hem bireysel hem de kolektif olarak vahşi halüsinasyonların pençesinde olan hayranlarından oluşan bir grupla birlikte onları serbest bırakan teknoloji CEO'larıydı. Burada halüsinasyonu mistik ya da psychedelic anlamda değil, daha önce algılanmamış derin gerçeklere erişmeye gerçekten yardımcı olabilecek zihin değişikliği durumlarını tanımlıyorum. Hayır. Bu insan sadece tökezliyor: orada olmayan kanıtları görüyor ya da en azından gördüğünü iddia ediyor, hatta ürünlerini evrensel yükselişimiz ve eğitimimiz için kullanacak koskoca dünyaları çağrıştırıyor.
Üretken yapay zekanın yoksulluğu sona erdireceğini söylüyorlar bize. Bütün hastalıkları iyileştirecek. İklim değişikliğini çözecek. İşlerimizi daha anlamlı ve heyecanlı hale getirecek. Geç kapitalist makineleşme yüzünden kaybettiğimiz insanlığı geri kazanmamıza yardımcı olarak boş zaman ve tefekkür hayatlarını serbest bırakacak. Yalnızlığa son verecek. Hükümetlerimizi rasyonel ve duyarlı hale getirecek. Korkarım ki bunlar gerçek yapay zeka halüsinasyonları ve hepimiz geçen yılın sonunda Chat GPT'nin piyasaya sürülmesinden bu yana bunları sürekli olarak duyuyoruz.
Güçlü bir tahmine dayalı araştırma aracı ve sıkıcı görevlerin uygulayıcısı olarak üretken yapay zekanın gerçekten de görevlendirilebileceği bir dünya var. yarar insanlık, diğer türler ve ortak evimiz. Ancak bunun gerçekleşebilmesi için, bu teknolojilerin bizimkinden çok farklı bir ekonomik ve sosyal düzende konuşlandırılması gerekecekti; bu düzenin amacı insan ihtiyaçlarının karşılanması ve tüm yaşamı destekleyen gezegen sistemlerinin korunmasıydı.
Ve şu anda pek de tökezlemeyenlerimizin de anlayacağı gibi, mevcut sistemimiz öyle bir şey değil. Daha ziyade, hem insanlardan hem de doğal dünyadan zenginlik ve kâr elde edilmesini en üst düzeye çıkarmak için inşa edilmiştir; bu, bizi kapitalizmin tekno-nekro aşaması olarak düşünebileceğimiz aşamaya getiren bir gerçektir. Aşırı yoğunlaşmış güç ve zenginlik gerçekliğinde, yapay zekanın - tüm bu ütopik halüsinasyonlara uygun yaşamak şöyle dursun - daha fazla mülksüzleştirme ve yağmalamanın korkunç bir aracı haline gelmesi çok daha muhtemel.
Bunun neden böyle olduğunu araştıracağım. Ama önce şunu düşünmek faydalı olacaktır. amaç AI hakkındaki ütopik halüsinasyonlar hizmet ediyor. Bu tuhaf yeni araçlarla karşılaştığımızda, bu hayırsever hikayelerin kültürde ne işi var? İşte bir hipotez: Bunlar, insanlık tarihindeki en büyük ve en önemli hırsızlığa dönüşebilecek olayın güçlü ve baştan çıkarıcı kapak hikayeleridir. Çünkü tanık olduğumuz şey, tarihin en zengin şirketlerinin (Microsoft, Apple, Google, Meta, Amazon…) dijital, kazınabilir formda var olan insan bilgisinin toplamını tek taraflı olarak ele geçirmesi ve bunu çoğu gelecekte olacak olan özel ürünlerin içine duvarla kapatmasıdır. İzin veya rıza vermeden, ömür boyu emekleri makinelere eğitim veren insanları doğrudan hedef alın.
Bu yasal olmamalı. Şu anda sahip olduğumuz telif hakkıyla korunan materyaller söz konusu olduğunda bilmek modelleri eğitti (bu gazete dahil), çeşitli dava Bunun açıkça yasa dışı olduğunu iddia eden davalar açıldı. Örneğin, kar amacı gütmeyen bir şirketin, yaşayan sanatçıların tablolarını, çizimlerini ve fotoğraflarını Stable Diffusion veya Dall-E 2 gibi bir programa beslemesine ve böylece bu sanatçıların kopyalarının benzer versiyonlarını oluşturmak için kullanılmasına neden izin verilsin? Faydaları sanatçıların kendisi dışında herkese akan bir iş mi?
Ressam ve illüstratör Molly Crabapple, bu hırsızlığa karşı çıkan bir sanatçı hareketine liderlik etmeye yardımcı oluyor. “Yapay zeka sanat yaratıcıları, bırakın tazminat veya rızayı, yaratıcılarının bilgisi olmadan toplanan milyonlarca telif hakkıyla korunan görseli içeren muazzam veri kümeleri üzerinde eğitiliyor. Bu aslında tarihteki en büyük sanat soygunudur. Silikon Vadisi risk sermayesi tarafından desteklenen saygın görünen kurumsal kuruluşlar tarafından gerçekleştirilmektedir. Bu gündüz soygunu," yeni bir açık birlikte kaleme aldığı mektupta şunlar belirtiliyor:
Tabii ki işin püf noktası, Silikon Vadisi'nin hırsızlığı rutin olarak "aksaklık" olarak adlandırması ve çoğu zaman bundan paçayı sıyırmasıdır. Bu hamleyi biliyoruz: Kanunsuz bölgelere hücum edin; eski kuralların yeni teknolojiniz için geçerli olmadığını iddia edin; Gerçeklerinizi sağlam bir şekilde ortaya koyarken, düzenlemenin yalnızca Çin'e yardımcı olacağını haykırın. Hepimiz bu yeni oyuncakların yeniliklerini unutup sosyal, politik ve ekonomik enkazın değerlendirmesini yapmaya başladığımızda, teknoloji o kadar yaygın ki, mahkemeler ve politika yapıcılar ellerini kaldırıyor.
Bunu Google'ın kitap ve sanat taramasıyla gördük. Musk'ın uzay kolonizasyonuyla. Uber'in taksi sektörüne saldırısıyla. Airbnb'nin kiralama pazarına saldırısıyla. Facebook'un verilerimizle karışıklığıyla. İzin istemeyin, düzeni bozanlar af dileyin derler. (Ve talepleri cömert kampanya katkılarıyla yağlayın.)
Gözetim Kapitalizmi Çağında, Şoşana Zuboff Google'ın Sokak Görünümü haritalarının, kamuya açık yollarımızı ve evlerimizin dış cephelerini fotoğraflamak için kameralarla donatılmış arabalarını göndererek gizlilik normlarını nasıl aştığını titizlikle ayrıntılarıyla anlatıyor. Gizlilik haklarını savunan davalar ortaya çıktığında, Sokak Görünümü zaten cihazlarımızın her yerinde o kadar yaygındı ki (ve o kadar havalı ve o kadar kullanışlıydı ki...) dışarıda çok az mahkeme vardı Almanya müdahale etmeye hazırdılar.
Artık evimizin dış cephesine olan şey, sözlerimize, görsellerimize, şarkılarımıza, tüm dijital yaşamlarımıza da oluyor. Şu anda hepsi ele geçiriliyor ve makineleri düşünmeyi ve yaratıcılığı simüle edecek şekilde eğitmek için kullanılıyor. Bu şirketlerin hırsızlık yaptıklarını veya en azından bir hırsızlık yaptıklarını bilmeleri gerekir. güçlü vaka oldukları yapılabilir. Onlar sadece eski taktik kitabının bir kez daha işe yaramasını umuyorlar; soygunun boyutu zaten çok büyük ve bu kadar büyük bir hızla gelişiyor. hız mahkemeler ve politikacılar her şeyin kaçınılmaz olduğu gerçeği karşısında bir kez daha ellerini kaldıracak.
Yapay zekanın insanlık için yapacağı harika şeylere dair halüsinasyonlarının bu kadar önemli olmasının nedeni de budur. Çünkü bu büyük iddialar, bu kitlesel hırsızlığı bir hediye olarak gizliyor; aynı zamanda da yapay zekanın yadsınamaz tehlikelerini rasyonelleştirmeye yardımcı oluyor.
Artık çoğumuz duymuşuzdur anket Yapay zeka araştırmacılarından ve geliştiricilerinden, gelişmiş yapay zeka sistemlerinin "insanlığın yok olmasına veya insan türünün benzer şekilde kalıcı ve ciddi şekilde güçsüzleşmesine" neden olma olasılığını tahmin etmelerini istedi. Tüyler ürpertici bir şekilde ortalama yanıt, şansın %10 olduğu yönündeydi.
İşe gitmeyi ve bu tür varoluşsal riskler taşıyan araçları ortadan kaldırmayı nasıl rasyonelleştirebiliriz? Çoğu zaman gösterilen sebep, bu sistemlerin aynı zamanda büyük potansiyel olumlu yanları da taşımasıdır; ancak bu olumlu yanların çoğunlukla halüsinasyon niteliğinde olması dışında. Daha vahşi olanlardan birkaçını inceleyelim.
sanrı #1: yapay zeka irade çözmek iklim kriz
Yapay zekanın olumlu yönleri listesinin başında neredeyse her zaman bu sistemlerin bir şekilde iklim krizini çözeceği iddiası geliyor. Bunu Türkiye'deki herkesten duyduk. Dünya Ekonomik Forumu için Dış İlişkiler Konseyi için Boston Danışmanlık Grubu, yapay zekanın "karbon emisyonlarıyla mücadelede ve daha yeşil bir toplum inşa etmede daha bilgili ve veriye dayalı bir yaklaşım benimseme konusunda tüm paydaşları desteklemek için kullanılabileceğini" açıklıyor. Aynı zamanda küresel iklim çabalarını en fazla risk altındaki bölgelere yeniden yönlendirmek için de kullanılabilir.” Eski Google CEO'su Eric Schmidt, durumu şöyle özetledi: söyledi Atlantic'e göre yapay zekanın riskleri alınmaya değerdi, çünkü “Dünyadaki en büyük sorunları düşünürseniz, bunların hepsinin gerçekten zor olduğunu görürsünüz; iklim değişikliği, insan örgütleri ve benzeri. Bu yüzden her zaman insanların daha akıllı olmasını isterim.”
Bu mantığa göre, iklim değişikliği gibi büyük sorunların “çözülememesi”, akıl eksikliğinden kaynaklanmaktadır. Doktora ve Nobel ödülleriyle dolu akıllı insanların on yıllardır hükümetlerimize bu karmaşadan çıkmak için ne olması gerektiğini söylediğini boş verin: emisyonlarımızı azaltın, karbonu yerin altında bırakın, zenginlerin aşırı tüketimiyle ve eksik tüketimle mücadele edin. Yoksulların sorunu çünkü hiçbir enerji kaynağı ekolojik maliyetlerden muaf değildir.
Bu çok akıllıca tavsiyenin göz ardı edilmesinin nedeni okuduğunu anlama probleminden ya da bir şekilde bizim yerimize düşünecek makinelere ihtiyaç duymamızdan kaynaklanmıyor. Çünkü iklim krizinin bizden istediklerini yapmak bizi çıkmaza sokacaktır trilyonlarca dolar Bir yandan fosil yakıt varlıklarını korurken, bir yandan da birbirine bağlı ekonomilerimizin kalbinde yer alan tüketime dayalı büyüme modeline meydan okuyoruz. İklim krizi aslında yeterince sağlam olmayan veri setleri nedeniyle henüz çözemediğimiz bir gizem ya da bilmece değil. Bunun nelere mal olacağını biliyoruz, ancak bu hızlı bir çözüm değil; bu bir paradigma değişimi. Makinelerin daha kabul edilebilir ve/veya kârlı bir yanıt vermesini beklemek bu krizin çaresi değil, krizin bir belirtisi daha.
Halüsinasyonları ortadan kaldırın ve yapay zekanın iklim krizini aktif olarak derinleştirecek şekilde pazara sunulması çok daha muhtemel görünüyor. Birincisi, sohbet robotlarından anında yazılar ve sanat eserleri oluşturmayı mümkün kılan dev sunucular çok büyük ve giderek büyüyen bir sunucudur. kaynak karbon emisyonları. İkincisi, Coca-Cola gibi şirketler üretime başladıkça büyük yatırımlar Üretken yapay zekayı daha fazla ürün satmak için kullanmaya başladığımızda, bu yeni teknolojinin son nesil dijital araçlarla aynı şekillerde kullanılacağı çok açık hale geliyor: Özgürlük ve demokrasinin yayılmasına ilişkin büyük vaatlerle başlayan şey, mikro hedefleme reklamlarıyla son buluyor. Böylece daha fazla işe yaramaz, karbon yayan şeyler satın alıyoruz.
Ve üçüncü bir faktör daha var; bunu saptamak biraz daha zor. Medya kanallarımız derin sahtekarlıklarla ve çeşitli türden klonlarla doldukça, bilgi bataklığına battığımız hissine de o kadar kapılıyoruz. On yıldan fazla bir süre önce geliştirdiği sinir ağı günümüzün büyük dil modellerinin yapı taşlarını oluşturduğu için sıklıkla "Yapay Zekanın vaftiz babası" olarak anılan Geoffrey Hinton, bunu çok iyi anlıyor. Oluşturulmasına katkıda bulunduğu teknolojinin riskleri hakkında özgürce konuşabilmek için Google'daki üst düzey görevinden ayrıldı. söyledi New York Times, insanların "artık neyin doğru olduğunu bilemeyeceği" riskini ortaya koyuyor.
Bu, yapay zekanın iklim kriziyle mücadeleye yardımcı olacağı iddiasıyla son derece alakalı. Çünkü giderek tekinsizleşen medya ortamımızda okuduğumuz ve gördüğümüz her şeye güvenmediğimizde, acil kolektif sorunları çözme konusunda daha da az donanıma sahip oluyoruz. Güven krizi elbette ChatGPT'den öncesine dayanıyor, ancak derin sahtekarlıkların çoğalmasına, zaten gelişen komplo kültürlerinde katlanarak artan bir artışın eşlik edeceğine şüphe yok. Peki yapay zeka teknolojik ve bilimsel atılımlarla ortaya çıkarsa ne fark edecek? Eğer ortak gerçekliğin dokusu elimizde çözülüyorsa, kendimizi hiçbir tutarlılıkla yanıt veremeyecek durumda bulacağız.
sanrı #2: yapay zeka irade teslim etmek bilge yönetim
Bu halüsinasyon, politikacıların ve bürokratların yapay zeka sistemlerinin geniş kapsamlı zekasından yararlanarak "ihtiyaç modellerini görebildikleri ve seçmenlerine daha fazla fayda sağlayan kanıta dayalı programlar geliştirebildikleri" yakın bir geleceği çağrıştırıyor. Bu iddia birinden geliyor kâğıt Boston Consulting Group'un vakfı tarafından yayınlandı, ancak birçok düşünce kuruluşunda ve yönetim danışmanlığında yankılanıyor. Ve bu belirli şirketlerin (hükümetler ve diğer şirketler tarafından, genellikle çok sayıda işçiyi işten çıkararak maliyet tasarrufunu belirlemek için kiralanan firmalar), yapay zeka kervanına en hızlı atlayan firmalar olduğu anlaşılıyor. PwC (eski adıyla PricewaterhouseCoopers) açıkladı 1 milyar dolarlık bir yatırım ve Bain & Company ile Deloitte'un, müşterilerini daha "verimli" hale getirmek için bu araçları kullanma konusunda istekli oldukları bildiriliyor.
İklim iddialarında olduğu gibi şunu sormak gerekiyor: Politikacıların acımasız ve etkisiz politikalar dayatmasının nedeni delil yetersizliğinden mi kaynaklanıyor? BCG makalesinin önerdiği gibi "örüntüleri görememek" mi? Bunun insani maliyetini anlamıyorlar mı? çok aç Pandeminin ortasında kamu sağlık hizmetleri mi, çadırlar kent parklarımızı doldururken piyasa dışı konutlara yatırım yapmamak mı, yoksa sıcaklıklar yükselirken yeni fosil yakıt altyapısını onaylamak mı? Schmidt'in deyimiyle kendilerini "daha akıllı" kılmak için yapay zekaya mı ihtiyaçları var, yoksa bir sonraki kampanyalarını kimin finanse edeceğini bilecek veya yoldan saparlarsa rakiplerini finanse edecek kadar tam olarak akıllılar mı?
Yapay zeka, kurumsal para ile pervasız politika oluşturma arasındaki bağlantıyı gerçekten koparabilseydi çok güzel olurdu; ancak bu bağlantı, Google ve Microsoft gibi şirketlerin, çığ gibi uyarılara ve uyarılara rağmen chatbotlarını halka yayınlamalarına neden izin verildiğiyle tamamen alakalı. bilinen riskler Schmidt ve diğerleri yıllardır süren bir lobi kampanyası yürütüyorlar söyleme Washington'daki her iki parti de, eğer ciddi düzenlemelerin yükünden kurtulmuş üretken yapay zeka ile ilerlemekte özgür değillerse, o zaman Batılı güçlerin Çin tarafından toz içinde bırakılacağını söylüyorlar. Geçen yılın en iyi teknoloji şirketleri harcanmış Washington'da lobi yapmak için rekor bir 70 milyon dolar (petrol ve gaz sektöründen daha fazla) ve Bloomberg News'e göre bu meblağ, "çok çeşitli ticari gruplara, kar amacı gütmeyen kuruluşlara ve düşünce kuruluşlarına" harcanan milyonların üzerinde yer alıyor.
Ve yine de, paranın ulusal başkentlerimizde politikayı nasıl şekillendirdiğine dair derin bilgisine rağmen, ChatGPT'nin yapımcısı OpenAI CEO'su Sam Altman'ın ürünlerine ilişkin en iyi senaryolardan bahsettiğini dinlediğinizde, tüm bunlar öyle görünüyor ki unutulmuş. Bunun yerine, politikacıların ve endüstrinin en iyi verilere dayanarak kararlar aldığı ve asla kâr ve jeopolitik avantaj uğruna sayısız hayatı riske atmayacağı, bizimkinden tamamen farklı bir dünyanın halüsinasyonunu görüyor gibi görünüyor. Bu da bizi başka bir halüsinasyona getiriyor.
sanrı #3: teknoloji devleri yapabilmek be Güvenilir değil kırmak Dünya
Diye sordu Altman, ChatGPT'nin halihazırda başlattığı çılgın altına hücum konusunda endişeleniyorsa da öyle olduğunu söyledi ancak iyimser bir tavırla şunu ekledi: "Umarım her şey yoluna girer." Rakip sohbet robotlarını alt etmek için yarışan teknoloji CEO'su arkadaşları hakkında şunları söyledi: "Bence daha iyi olan melekler kazanacak."
Daha iyi melekler? Google'da mı? Kesinlikle eminim ki şirket ateş bunların çoğu yapay zeka hakkında eleştirel makaleler yayınladıkları veya şirkete işyerinde ırkçılık ve cinsel taciz konusunda çağrıda bulundukları içindi. Daha fazla “daha iyi melekler” var çıkmak alarmda, en son Hinton. Bunun nedeni, yapay zekadan en çok kâr elde eden insanların sanrılarının aksine, Google'ın dünya için en iyi olana göre karar vermemesi; en son balonu kaçırmak istemeyen Alphabet hissedarları için en iyi olana göre karar vermesidir. Microsoft, Meta ve Apple zaten işin içindeyken.
Halüsinasyon #4: yapay zeka irade kurtarmak us itibaren angarya
Silikon Vadisi'nin hayırsever halüsinasyonları birçok kişiye makul görünüyorsa, bunun basit bir nedeni var. Üretken yapay zeka şu anda sahte sosyalizm aşaması olarak düşünebileceğimiz aşamada. Bu, artık tanıdık olan Silikon Vadisi taktik kitabının bir parçası. Öncelikle ilgi çekici bir ürün yaratın (bir arama motoru, bir haritalama aracı, bir sosyal ağ, bir video platformu, bir araç paylaşımı…); fark edilebilir bir iş modeli olmaksızın bunu birkaç yıllığına bedava ya da neredeyse bedavaya verin (“Botlarla oynayın,” diyorlar bize, “ne kadar eğlenceli şeyler yaratabileceğinizi görün!”); Bunu nasıl sadece bir "kasaba meydanı" veya bir "ortak bilgi alanları" yaratmak veya "insanları birbirine bağlamak" istediğiniz için yaptığınıza dair birçok kibirli iddialarda bulunun, üstelik tüm bunları yaparken özgürlüğü ve demokrasiyi yayarken ("kötü" olmayın). Daha sonra insanların bu ücretsiz araçları kullanmaya alışmalarını ve rakiplerinizin iflas ilan etmelerini izleyin. Alan temizlendikten sonra hedefli reklamları, sürekli gözetimi, polis ve askeri sözleşmeleri, kara kutu veri satışlarını ve artan abonelik ücretlerini tanıtın.
Taksi şoförlerinden kiralık pazarlara ve yerel gazetelere kadar pek çok hayat ve sektör, bu taktik kitabının daha önceki versiyonları nedeniyle yok edildi. Yapay zeka devrimiyle birlikte öğretmenler, kodlayıcılar, görsel sanatçılar, gazeteciler, çevirmenler, müzisyenler, bakım çalışanları ve daha pek çok kişinin gelirlerinin hatalı kodlarla değiştirilmesi ihtimaliyle karşı karşıya kalması nedeniyle bu tür kayıplar yuvarlama hataları gibi görünebilir.
Endişelenmeyin, yapay zeka meraklıları halüsinasyon görüyor; harika olacak. Zaten kim çalışmayı sever ki? Üretken yapay zekanın istihdamın sonu olmayacağı söylendi bize, yalnızca "sıkıcı iş” – sohbet robotları tüm ruha zarar veren, tekrarlayan görevleri yardımsever bir şekilde yerine getiriyor ve insanlar yalnızca bunları denetliyor. Altman ise, Gördükleri İşin "daha geniş bir kavram olabileceği, yemek yiyebilmek için yapmanız gereken bir şey değil, yaratıcı bir ifade olarak ve tatmin ve mutluluk bulmanın bir yolu olarak yaptığınız bir şey olabileceği" bir gelecek.
Bu, pek çok solcunun paylaştığı, daha güzel, rahat bir hayata dair heyecan verici bir vizyondur (Karl Marx'ın damadı Paul Lafargue da buna dahildir; bildiri Tembel Olma Hakkı başlıklı). Ancak biz solcular şunu da biliyoruz ki, eğer para kazanmak artık hayatın itici zorunluluğu değilse, o zaman barınma ve geçim gibi yaratıksal ihtiyaçlarımızı karşılamanın başka yolları da olmalı. Berbat işlerin olmadığı bir dünya, kiranın ücretsiz olması, sağlık hizmetlerinin ücretsiz olması ve herkesin devredilemez ekonomik haklara sahip olması gerektiği anlamına gelir. Ve birdenbire yapay zekadan hiç bahsetmiyoruz; sosyalizmden bahsediyoruz.
Çünkü Altman'ın halüsinasyon gördüğü Star Trek'ten ilham alan rasyonel, hümanist bir dünyada yaşamıyoruz. Kapitalizm altında yaşıyoruz ve bu sistem altında, piyasayı sayısız çalışan insanın ekonomik görevlerini makul bir şekilde yerine getirebilecek teknolojilerle doldurmanın etkileri, bu insanların birdenbire filozof ve sanatçı olma konusunda özgür olmaları anlamına gelmiyor. Bu, bu insanların kendilerini uçuruma bakarken bulacakları anlamına geliyor; ilk düşenler arasında gerçek sanatçılar da var.
Crabapple'ın "sanatçıları, yayıncıları, gazetecileri, editörleri ve gazetecilik sendikası liderlerini, üretken yapay zeka görüntülerinin kullanımına karşı insani değerleri taahhüt etmeye" ve "insanlar tarafından yapılan editoryal sanatı desteklemeye kararlı olmaya" çağıran açık mektubunun mesajı budur. , sunucu çiftlikleri değil”. Mektup, şimdi imzalı Yüzlerce sanatçı, gazeteci ve diğerleri tarafından hazırlanan bu çalışma, en seçkin sanatçılar dışındaki herkesin eserlerini "yok olma tehlikesiyle karşı karşıya" bulduğunu belirtiyor. Ve “Yapay Zekanın vaftiz babası” Hinton'a göre tehdidin yayılmayacağına inanmak için hiçbir neden yok. Sohbet robotları "ağır işleri ortadan kaldırıyor" ama "bundan daha fazlasını da ortadan kaldırabilir".
Crabapple ve ortak yazarları şöyle yazıyor: "Üretken yapay zeka sanatı vampirvaridir; yaşayan sanatçıların can damarlarını emerken bile geçmiş nesil sanat eserleriyle ziyafet çeker." Ancak direnmenin yolları var: Bu ürünleri kullanmayı reddedebilir ve işverenlerimizin ve hükümetlerimizin de bunları reddetmesini talep etmek için örgütlenebiliriz. A mektup İşyerinde ayrımcılığa karşı mücadele ettiği için 2020 yılında Google tarafından kovulan Timnit Gebru'nun da aralarında bulunduğu önde gelen yapay zeka etiği akademisyenlerinden gelen rapor, modelleri eğitmek için hangi veri setlerinin kullanıldığına dair tam şeffaflık da dahil olmak üzere hükümetlerin hemen uygulamaya koyabileceği düzenleyici araçlardan bazılarını ortaya koyuyor. Yazarlar şöyle yazıyor: “Sentetik medyayla karşılaştığımızda bunun her zaman açık olması gerekmiyor, aynı zamanda bu sistemleri oluşturan kuruluşların da eğitim verilerini ve model mimarilerini belgelemesi ve açıklaması istenmelidir…. Toplumu makine tarafından okunabilir ve yazılabilir olacak şekilde 'uyarlamak' yerine, kendimiz için çalışan makineler inşa etmeliyiz."
Teknoloji şirketleri, insanın yerini alan, kitlesel taklitçi bu ürünü geri almak için artık çok geç olduğuna inanmamızı istese de, uygulanabilecek oldukça ilgili yasal ve düzenleyici emsaller var. Örneğin ABD Federal Ticaret Komisyonu (FTC) zorunlu Cambridge Analytica'nın yanı sıra bir fotoğraf uygulamasının sahibi olan Everalbum, yasadışı bir şekilde el konulan veriler ve kazınmış fotoğraflar üzerinde eğitildiği tespit edilen tüm algoritmaları yok etmek için harekete geçti. Biden yönetimi, ilk günlerinde, özel algoritmalar oluşturmak için kişisel verilerin çalınmasına karşı önlem almak da dahil olmak üzere, büyük teknolojiyi düzenleme konusunda birçok cesur iddiada bulundu. Cumhurbaşkanlığı seçimi hızla yaklaşırken, bu sözleri yerine getirmek ve bir sonraki toplu işten çıkarmaları bunlar gerçekleşmeden önlemek için şimdi iyi bir zaman olabilir.
Derin sahtekarlıklar, taklit döngüleri ve kötüleşen eşitsizliklerle dolu bir dünya kaçınılmaz değil. Bu bir dizi politika tercihidir. Vampir sohbet robotlarının mevcut biçimini ortadan kaldırabiliriz ve yapay zekanın en heyecan verici vaatlerinin Silikon Vadisi halüsinasyonlarından daha fazlası olacağı bir dünya inşa etmeye başlayabiliriz.
Çünkü makineleri biz eğittik. Hepimiz. Ama hiçbir zaman rızamızı vermedik. İnsanlığın kolektif yaratıcılığından, ilhamından ve vahiylerinden (bizim daha satın alınabilir özelliklerimizle birlikte) beslendiler. Bu modeller, kolektif entelektüel ve sanatsal miraslarımızın yanı sıra bireysel yaşamlarımızı da yok eden ve özelleştiren çitleme ve el koyma makineleridir. Ve amaçları hiçbir zaman iklim değişikliğini çözmek ya da hükümetlerimizi daha sorumlu kılmak ya da günlük yaşamlarımızı daha rahat hale getirmek olmadı. Kapitalizmde insan işlevlerinin robotlarla değiştirilmesinin göze çarpan ve mantıksal sonucu olan kitlesel sefaletten her zaman kâr elde etmek gerekiyordu.
Bütün bunlar aşırı dramatik mi? Heyecan verici yeniliğe karşı boğucu ve refleksif bir direnç mi? Neden daha kötüsünü bekleyesiniz ki? Altman güvence verir biz: “Kimse dünyayı yok etmek istemez.” Belki de hayır. Ancak giderek kötüleşen iklim ve yok olma krizlerinin bize her gün gösterdiği gibi, pek çok güçlü insan ve kurum, yeni şeyler yapmaya devam edebildikleri sürece, dünyanın yaşam destek sistemlerinin istikrarının bozulmasına yardımcı olduklarını bilmekten gayet memnun görünüyor. kayıt kendilerini ve ailelerini en kötü etkilerden koruyacağına inandıkları kârlar. Silikon Vadisi'ndeki pek çok canlı gibi Altman'ın kendisi de bir hazırlayıcıdır: 2016 yılında, övünen: "İsrail Savunma Kuvvetleri'nden silahlarım, altınım, potasyum iyodürüm, antibiyotiklerim, pillerim, suyum, gaz maskelerim var ve Big Sur'da uçabileceğim büyük bir arazi parçası var."
Eminim ki bu gerçekler, Altman'ın basın röportajlarında paylaşmayı seçtiği süslü halüsinasyonlardan ziyade, ortaya çıkmasına yardımcı olduğu gelecek hakkında gerçekte neye inandığı hakkında çok daha fazlasını söylüyor.
Naomi Klein, Guardian ABD'li köşe yazarı ve katkıda bulunan yazardır. No Logo ve The Shock Doctrine kitaplarının çok satan yazarı ve İklim Adaleti Profesörü ve British Columbia Üniversitesi İklim Adaleti Merkezi'nin eş direktörüdür.
ZNetwork yalnızca okuyucularının cömertliğiyle finanse edilmektedir.
Bağış