mümkün mü Birinin suçlu olup olmadığını sadece yüzüne bakarak mı yoksa sesini dinleyerek mi anlayabiliriz? Bu fikir bilim kurgudan çıkmış bir şey gibi gülünç görünebilir - Big Brother "1984"te "anormallik izlenimini taşıyan" bilinçsiz bir bakış tespit ediyor - ancak yine de bazı şirketler son zamanlarda bu soruya olumlu yanıt vermeye başladı. 2016 yılında kurulan bir girişim olan AC Global Risk, bir çalışan veya sığınmacı olarak “risk” düzeyinizi ne söylediğinize değil, nasıl söylediğinize göre belirleyebileceğini iddia ediyor.
Kaliforniya merkezli şirket, Uzaktan Risk Değerlendirmesi veya RRA olarak bilinen otomatik bir tarama sistemi sunuyor. İşleyiş şekli şu şekildedir: AC Global Risk'in müşterileri otomatikleştirilmiş, evet-hayır mülakat sorularının geliştirilmesine yardımcı olur. Belirli bir tarama için seçilen kişi grubu, telefonla gerçekleştirilebilecek 10 dakikalık bir görüşme sırasında bu basit soruları ana dillerinde yanıtlıyor. RRA daha sonra her bireyi düşük riskten yüksek riske kadar puanlayan bir değerlendirme raporu oluşturmak için seslerinin özelliklerini ölçer. CEO Alex Martin, şuraya şirketin özel risk analizinin "insan riskinin nasıl daha iyi ölçüleceğine doğru sonsuza kadar değişebileceğini" söyledi.
AC Global Risk, danışmanlık firması Danışma kurulunda Robert Gates, Condoleezza Rice ve Stephen Hadley yer alıyor. reklamı yapılan sözleşmeler Afganistan'daki ABD Özel Harekat Komutanlığı, Uganda Yaban Hayatı Kurumu ve Palantir, Apple, Facebook ve Google'daki güvenlik ekipleri ve diğerleriyle. Martin, risk taramasının bu ve diğer pazarlarda yaygın olarak kullanılmasının bunun "son derece doğru, ölçeklenebilir, uygun maliyetli ve yüksek üretim kapasitesine sahip" olduğunu kanıtladığını söyledi. AC Global Risk, RRA sisteminin dünyanın herhangi bir yerindeki yüzlerce kişiyi aynı anda işleyebileceğini iddia ediyor. Şimdi, Başkan Donald Trump'ın göçmenlere yönelik "aşırı inceleme" çağrılarına yanıt olarak şirket, kendini öne sürdü "ABD ve diğer ülkelerin şu anda deneyimlediği devasa mülteci krizinin nihai çözümü" olarak görülüyor.
Bu bir teklif Görünüşe göre ABD İç Güvenlik Bakanlığı'na başvurmak için. DHS, sınır için benzer yapay zeka teknolojisinin geliştirilmesine yönelik araştırmaları zaten finanse etti. Program olarak bilinen Gerçek Zamanlı Gerçeklik Değerlendirmeleri için Otomatik Sanal AracıAVATAR, yalan söyleyen veya potansiyel risk oluşturuyor gibi görünenleri işaretlemek amacıyla gezginlerin sesindeki, duruşundaki ve yüz hareketlerindeki değişiklikleri ölçmek için yapay zekayı kullandı. 2012 yılında test edildi ABD-Meksika sınırındaki gönüllüler tarafından. Avrupa Birliği aynı zamanda azaltacak teknolojiye yönelik araştırmaları da finanse etti.insan temsilcilerinin neden olduğu iş yükü ve öznel hatalar".
Ses analitiği, algoritmik önyargı ve makine öğrenimi alanındaki önde gelen uzmanlardan bazıları, dijital yalan makinesi testlerine yönelik eğilimi rahatsız edici buluyor ve bu da AC Global Risk gibi şirketlerin hatalı metodolojisine işaret ediyor. “Sesteki dinamik değişikliklerde bazı bilgiler var ve bunu tespit ediyorlar. Bu tamamen akla yatkın," diye açıklıyor Princeton Üniversitesi'nden sosyal algı ve ilk izlenim bilimi üzerine çalışan psikolog Alex Todorov. “Ancak soru şu: Bu bilgi, riskli olarak tanımladıkları insan kategorisini tespit etmede ne kadar net? Bu tür sinyallerde her zaman belirsizlik vardır.”
Geçen yıl boyunca, Amerikan Sivil Özgürlükler Birliği ve diğerleri Sınır Devriyesi ajanlarının Greyhound otobüslerindeki insanları görünüşlerine veya vurgu. Gümrük ve Sınır Koruma görevlileri, 100 kilometrelik sınır bölgesindeki bireyleri aramak veya bireylerin ABD'ye girişini engellemek için halihazırda bir kişinin nasıl konuştuğu veya göründüğü hakkındaki bilgileri bahane olarak kullandığından, uzmanlar sesli duygu tespit yazılımının bu tür önyargıları rutin hale getirebileceğinden korkuyor. , yaygın ve görünüşte "objektif".
AC Global Risk, bu makale için tekrarlanan yorum taleplerine yanıt vermeyi reddetti. Şirket ayrıca teknolojinin nasıl çalıştığına ilişkin ayrıntılı soruların listesine de yanıt vermedi. Ancak halkın önünde Martin iddia Şirketin tescilli analitik süreçlerinin bir kişinin risk düzeyini yüzde 97'den daha yüksek bir doğrulukla belirleyebildiği görüldü. (Bu arada AVATAR, yüzde 60 ila 70 arasında bir doğruluk oranı iddia ediyor.) AC Global Risk'in The Intercept için kamuya açık materyallerini inceleyen önde gelen bazı görsel-işitsel uzmanlar, şirketin iddialarını tanımlamak için "saçmalık" veya "sahte" kelimesini kullandı. Augsburg Üniversitesi'nde profesör olan ve alanın önde gelen akademik araştırmasına liderlik eden Björn Schuller, "Etik açıdan bakıldığında, yalnızca sesten gelen aldatmacayı tespit etmenin kesinlikle mümkün olduğu izlenimini vermek çok şüpheli ve şüpheli" dedi. Sesli duygu tespitinde en son teknolojiyi ilerletmek için meydan okuma etkinliği. "Bunu yapabileceğini söyleyen herkes bir risk olarak görülmelidir."
riskli İş
Trump'ın Extreme Vetting Initiative'i, otomatik olarak "bir başvuru sahibinin topluma olumlu katkıda bulunan bir üye olma olasılığını belirleyip değerlendirebilecek" ve "bir başvuru sahibinin Amerika Birleşik Devletleri'ne girdikten sonra suç veya terörist eylemlerde bulunma niyetinde olup olmadığını" tahmin edebilecek bir yazılım çağrısında bulundu. rapor geçen yaz. AC Global Risk, bu girişimi gerçekleştirmek için kendisini mükemmel bir araç olarak sunmuştur. teklif "Mülteciler ve vize başvuru sahipleri gibi sadakatleri bilinmeyen bireylerin risk düzeylerini" değerlendirmek. Şirket, DHS'nin daha sonra bu raporların sonuçlarına göre nasıl hareket edeceğine karar vereceğini söylüyor. Şirket, "Çalışılacak dört seviye (düşük, ortalama, potansiyel ve yüksek) ile risk seviyesine göre Departman protokolleri oluşturmak zor olmayacaktır" dedi. belirtilen onun blogunda.
Risk değerlendirmeleri kendi başlarına yeni bir şey değildir. Son yıllarda algoritmalar kullanılmaya başlandı. neredeyse her aşamada polislik ve kefaletten ceza ve şartlı tahliyeye kadar ceza adaleti sürecinde. Bu tür tekniklerin gelişi kaçınılmaz olmadı tartışma. Bu otomatik araçların çoğu, özellikleri nedeniyle eleştirildi. donukluk, gizlilik, ve önyargı. Çoğu durumda memurlar, mahkemeler ve halk gerekli donanıma sahip değildir veya izin — Temel varsayımlarını, eğitim setlerini veya sonuçlarını sorgulamak. Şüpheci uzmanların en başta gelen endişeleri arasında, makine öğreniminin nesnel havasının, ayrımcılık.
AC Global Risk, teknolojisinin nasıl çalıştığı hakkında halka açık çok az ayrıntı sağlıyor. Araştırma iddialarını destekleyen teknik incelemeler yayınlamaz ve araştırmacılarının bilimsel soyağaçlarını yayınlamaz. Şirket, ürünün hangi niteliklere (eğim, hız, bükülme) ve özelliklere sahip olduğuna ilişkin soruları yanıtlamadı. Utah Üniversitesi'nde algoritmik adalete odaklanan bilgisayar bilimcisi Suresh Venkatasubramanian, "Ceza adaleti ortamlarında risk değerlendirmesinin kullanımı sorunlu olsa da, bu şirketin aracıyla karşılaştırıldığında çok daha doğrudur" dedi.
AC Global Risk'in teknolojisine ilişkin iddialarından herhangi biri geçerliyse, bunlar araştırmacıların mümkün olduğunu düşündükleri şeyin en son noktasını temsil edeceklerdir. anlamak insan sesinden. Vokal değerlendirmeler demografik bilgilerin hızlı bir şekilde anlaşılmasında mükemmel olabilir. Bu bilgi genel olabilir (birinin yaşı, cinsiyeti veya lehçesi gibi) ama aynı zamanda oldukça kişisel de olabilir; kişinin geldiği bölgeyi ve sahip olabileceği sağlık sorunlarını ortaya çıkarabilir.
Geçen ay Amazon ihraç Sanal asistanı Alexa'nın kullanıcıların dil, aksan, cinsiyet ve yaş gibi ses özelliklerini belirlemesine olanak tanıyan bir patent. Ancak sesten duyguların belirlenmesi söz konusu olduğunda doğruluk büyük bir endişe kaynağı olmaya devam ediyor. Kurucu ortağı Schuller DENETLEMEBir ses analiz şirketi olan , bir kişinin yalan söyleyip söylemediğini (eğer yalan aslında şirketin risk endekslerinden biriyse) sesten yüzde 70'in üzerinde bir doğrulukla anlamanın şu anda mümkün olmadığını söylüyor; bu da yaklaşık olarak aynı değerdedir. ortalama bir insan yargısı.
Schuller, sarhoşluğu, samimiyeti ve aldatmayı tespit etmenin mümkün olduğunu ancak yine de başarı oranının ortalama bir insanın yeteneklerine benzer olduğunu söyledi. "Sağlam bir etiketle bazen insanı yenebilirsiniz, ancak bir şey sıfır hata iddia ediyorsa buna biraz ihtiyatla yaklaşılmalıdır" dedi.
AC Global Risks'in iddialarının geçerliliğini değerlendirmenin merkezinde, amorf risk etiketi altında neyin yer aldığı ve onu kimin tanımladığı yer alır. Çalışmaları biyometrik ayrımcılığa odaklanan Avustralyalı akademisyen Joseph Pugliese, "Riski, sanki evrensel bir nitelikmiş gibi apaçık bir şekilde tanımlıyorlar" dedi. "İnsanların riskin ne olduğunu zaten bildiğini varsayarız, ancak elbette risk parametrelerini kimin tanımladığı ve bunları neyin oluşturduğu sorusu politik açıdan yüklüdür."
CEO Alex Martin, "her insanda mevcut olan süreklilik boyunca gerçek riski aramaktan" bahsetti. Princeton psikoloğu Todorov, riskin doğuştan gelen ve okunabilir bir insan özelliği olduğu ve bu özelliğin yalnızca sesten anlaşılabileceği fikrinin hatalı varsayımlara dayandığını açıkladı. Todorov şöyle devam etti: İnsanların gerçekte nasıl hissettiklerini ve onların hissettiklerini nasıl algıladığımızı tespit etme yeteneğimiz, makine öğreniminde herkesin bildiği gibi zor bir sorundur, diye devam etti. Yanlış izlenim olasılığı, değerlendirme ortamı nedeniyle daha da karmaşık hale gelebilir. Pugliese, "Sınırdaki insanlar zaten endişe verici ve duygusal açıdan oldukça yüklü koşullar altında" dedi. "Sözde normal bir şekilde nasıl uyum sağlayabilirler?"
Yeni Bir Fizyonomi mi?
AC Global Risk, davranışsal analiz yazılımlarının yetenekleri hakkında çok büyük iddialarda bulunan, sayıları giderek artan şirketlerin bir parçasıdır. Yapay zekanın gözlemsel gücünden cesaret alan birçok biyometri satıcısı ve yapay zeka şirketi, şirketlere ve hükümetlere yüz ifadelerimizden, hareketlerimizden ve seslerimizden tüm kişilikleri belirleme yeteneği satıyor. Örneğin Rusya'daki 2014 Kış Olimpiyatları'ndaki bir biyometri satıcısı, taranan Ülkenin güvenlik kurumu FSB'ye "önemsiz görünen ancak tedirgin zihinsel durumu yakın bir tehdide işaret eden birini tespit etme" yeteneği kazandırmak için katılımcıların ifadeleri.
Yapay zeka ve insan davranışlarını inceleyen bazı şüpheci uzmanlar, bu araçları, fizyonomiye, yani ahlaki karakter ve suç niyetinin belirtileri için bedene bakma uygulamasına olan ilginin yeniden canlanmasının bir parçası olarak çerçevelediler. 19. yüzyılın ortalarında Cesare Lombroso'nun "doğuştan suçluların" kafatasları ve yüz hatlarına ilişkin hassas ölçümleri, bu yorumlayıcı uygulamaya bilimsel bir görünüm kazandırdı. Ancak Lombroso gibi kriminal antropologların çabaları tehlikeli çöp biliminin çöplüğüne atılmış olsa da, birinin ahlaki karakterini veya gizli düşüncelerini fiziksel özelliklerden ve davranışlardan çıkarma arzusu devam etti.
Pugliese, AC Global Risk ve benzer şirketlerin çabalarının temelinde, büyük veri korelasyonlarının bilimsel yöntemi atlatabileceği varsayımının yattığını söylüyor. Makine öğrenimi algoritmalarının doğası gereği, kendilerine verilen veriler arasında yüzeysel kalıplar (bu kalıplar "gerçek" olsun veya olmasın) bulmak üzere tasarlandıkları göz önüne alındığında, bu "fizyognomik" uygulamaların özellikle rahatsız edici olduğunu açıklıyor. Pugliese, "Risk için öncelik belirlediklerini söylediklerinde, 'suç niyeti' oluşturan işaretler üzerinde objektif bir satın alma yaptıklarına dair apaçık bir fikir var" diyor. "Fakat bu suç tahminlerini hangi gerçek işaretlerin oluşturduğunu bilmiyoruz."
Ancak bu teknolojinin sahte bilimsel öncüllerini açığa çıkarmak, şirketlerin ve hükümetlerin onu kullanma olasılığını mutlaka azaltmıyor. Bu teknolojilerin gücü, diğer pek çok tahmine dayalı ve risk tabanlı sistemde olduğu gibi, ağırlıklı olarak etkinlik ve hız vaatlerine dayanmaktadır. Venkatasubramanian, "Onların ana iddiası verimlilik, işleri daha hızlı hale getirmek ve bu anlamda elbette işe yarayacak" diye açıkladı. Başka bir deyişle, bu verimliliğin bu sistemlerle karşılaşanların yaşam şansına yardımcı olup olmadığı ya da zarar verip vermediği konu dışıdır. İnsanlar önerilerini hayata geçirdiği sürece Uzaktan Risk Değerlendirmesinin işe yaradığı görülecektir. Todorov'un iki makine öğrenimi uzmanıyla birlikte bu genel konudaki endişelerini dile getirdiği bir makalede yazdığı gibi akım: “Kasıtlı olsun ya da olmasın, insan önyargısının bilgisayar algoritmaları aracılığıyla 'aklanması', bu önyargıların nesnel olarak haklı gösterilmesine neden olabilir.”
ZNetwork yalnızca okuyucularının cömertliğiyle finanse edilmektedir.
Bağış