pwede ba upang sabihin kung ang isang tao ay isang kriminal mula lamang sa pagtingin sa kanilang mukha o pakikinig sa tunog ng kanilang boses? Ang ideya ay maaaring mukhang katawa-tawa, tulad ng isang bagay sa labas ng science fiction - Big Brother sa "1984" nakita ang anumang walang malay na hitsura "na dala nito ang mungkahi ng abnormality" - at gayon pa man, ang ilang mga kumpanya ay nagsimula kamakailan upang sagutin ang tanong na ito sa sang-ayon. Sinasabi ng AC Global Risk, isang startup na itinatag noong 2016, na kayang matukoy ang iyong antas ng "panganib" bilang isang empleyado o isang asylum-seeker batay hindi sa kung ano ang iyong sinasabi, ngunit kung paano mo ito sinasabi.
Nag-aalok ang kumpanyang nakabase sa California ng isang automated screening system na kilala bilang Remote Risk Assessment, o RRA. Narito kung paano ito gumagana: Tumutulong ang mga kliyente ng AC Global Risk na bumuo ng mga awtomatiko, oo-o-hindi na mga tanong sa panayam. Ang pangkat ng mga taong pinili para sa isang partikular na screening ay sasagutin ang mga simpleng tanong na ito sa kanilang sariling wika sa panahon ng 10 minutong panayam na maaaring isagawa sa telepono. Pagkatapos ay sinusukat ng RRA ang mga katangian ng kanilang boses upang makagawa ng isang ulat sa pagsusuri na nagbibigay ng marka sa bawat indibidwal sa isang spectrum mula sa mababa hanggang sa mataas na panganib. Ang CEO na si Alex Martin ay mayroon sinabi na ang pagtatasa ng pagmamay-ari ng panganib ng kumpanya ay maaaring "magbago magpakailanman para sa mas mahusay kung paano sinusukat ang panganib ng tao."
AC Global Risk, na ipinagmamalaki ang consulting firm ni Robert Gates, Condoleezza Rice, at Stephen Hadley sa advisory board nito, ay may mga naka-advertise na kontrata kasama ang US Special Operations Command sa Afghanistan, Ugandan Wildlife Authority, at ang mga security team sa Palantir, Apple, Facebook, at Google, bukod sa iba pa. Ang malawakang paggamit ng pagsusuri sa panganib sa mga ito at sa iba pang mga merkado, sabi ni Martin, ay napatunayan na ito ay "napakatumpak, nasusukat, matipid sa gastos, at may kakayahang mataas na throughput." Sinasabi ng AC Global Risk na ang sistema ng RRA nito ay maaaring sabay na magproseso ng daan-daang indibidwal saanman sa mundo. Ngayon, bilang tugon sa mga panawagan ni Pangulong Donald Trump para sa "matinding pagsusuri" ng mga imigrante, ang kumpanya ay itinayo ang sarili bilang ang pinakahuling solusyon para sa "malaking krisis sa refugee na kasalukuyang nararanasan ng US at iba pang mga bansa."
Iyon ay isang panukala ito ay tila para umapela sa US Department of Homeland Security. Pinondohan na ng DHS ang pananaliksik upang bumuo ng katulad na teknolohiya ng AI para sa hangganan. Ang programa, na kilala bilang ang Automated Virtual Agent para sa Truth Assessments sa Real-Time, o AVATAR, ay gumamit ng artificial intelligence upang sukatin ang mga pagbabago sa boses, postura, at mga galaw ng mukha ng mga manlalakbay upang i-flag ang mga mukhang hindi makatotohanan o tila may potensyal na panganib. Noong 2012 ito ay sinubukan ng mga boluntaryo sa hangganan ng US-Mexico. Pinondohan din ng European Union ang pananaliksik sa teknolohiya na magbabawas ng "ang workload at subjective na mga pagkakamali na dulot ng mga ahente ng tao. "
Nakita ng ilan sa mga nangungunang eksperto sa vocal analytics, algorithmic bias, at machine learning na nakakabahala ang trend patungo sa mga digital polygraph test, na itinuturo ang maling pamamaraan ng mga kumpanya tulad ng AC Global Risk. "May ilang impormasyon sa mga dynamic na pagbabago sa boses at nakikita nila ito. This is perfectly plausible,” paliwanag ni Alex Todorov, isang psychologist ng Princeton University na nag-aaral ng science ng social perception at first impressions. "Ngunit ang tanong ay, Gaano kaliwanag ang impormasyong ito sa pagtukoy sa kategorya ng mga taong tinukoy nila bilang peligroso? Palaging may kalabuan sa mga ganitong uri ng signal."
Sa nakaraang taon, ang Unyong Pambansang Kalayaan ng Amerikano at iba ay nag-ulat na ang mga ahente ng Border Patrol ay kumukuha ng mga tao mula sa mga bus ng Greyhound batay sa kanilang hitsura o tuldik. Dahil ang mga ahente ng Customs at Border Protection ay gumagamit na ng impormasyon tungkol sa kung paano nagsasalita o nagmumukha ang isang tao bilang dahilan upang maghanap ng mga indibidwal sa 100-milya na border zone, o upang tanggihan ang mga indibidwal na makapasok sa US, ang mga eksperto ay natatakot na ang vocal emotion detection software ay maaaring gawing karaniwan ang mga ganitong bias. , malaganap, at tila "layunin."
Tumanggi ang AC Global Risk na tumugon sa mga paulit-ulit na kahilingan para sa komento para sa artikulong ito. Hindi rin tumugon ang kumpanya sa isang listahan ng mga detalyadong tanong tungkol sa kung paano gumagana ang teknolohiya. Sa mga pampublikong pagpapakita, gayunpaman, mayroon si Martin inaangkin na ang pagmamay-ari ng mga proseso ng pagsusuri ng kumpanya ay maaaring matukoy ang antas ng panganib ng isang tao na may higit sa 97 porsiyentong katumpakan. (Samantala, ang AVATAR ay nag-claim ng accuracy rate na nasa pagitan ng 60 at 70 percent.) Ilang nangungunang audiovisual expert na nagrepaso sa mga materyal na available sa publiko ng AC Global Risk para sa The Intercept ay gumamit ng salitang "bullshit" o "bogus" upang ilarawan ang mga claim ng kumpanya. "Mula sa isang etikal na punto ng view, ito ay napaka kahina-hinala at malilim na magbigay ng impresyon na ang pagkilala sa panlilinlang mula lamang sa boses ay maaaring gawin nang may anumang katumpakan," sabi ni Björn Schuller, isang propesor sa Unibersidad ng Augsburg na nanguna sa pangunahing akademiko sa larangan. hamon sa kaganapan upang isulong ang estado ng sining sa vocal emotion detection. "Ang sinumang magsasabi na magagawa nila ito ay dapat na makita bilang isang panganib."
Peligroso Negosyo
Ang Extreme Vetting Initiative ni Trump ay nanawagan para sa software na maaaring awtomatikong "matukoy at masuri ang posibilidad ng isang aplikante na maging isang positibong nag-aambag na miyembro ng lipunan" at hulaan "kung ang isang aplikante ay nagnanais na gumawa ng kriminal o terorista na gawain pagkatapos na makapasok sa Estados Unidos," bilang The Intercept iniulat noong nakaraang tag-araw. Itinayo ng AC Global Risk ang sarili bilang perpektong tool para sa pagsasagawa ng inisyatiba, pag-aalay upang masuri ang "mga antas ng panganib ng mga indibidwal na may hindi kilalang katapatan, tulad ng mga refugee at mga aplikante ng visa." Ang DHS, sabi ng kumpanya, ay magpapasya kung paano kumilos sa mga resulta ng mga ulat na iyon. "Sa apat na antas upang magtrabaho kasama (mababa, karaniwan, potensyal, at mataas) hindi magiging mahirap na magtatag ng mga protocol ng Departmental ayon sa antas ng panganib," ang kumpanya naglalagay sa blog nito.
Ang mga pagtatasa ng panganib sa kanilang sarili ay hindi bago. Sa mga nagdaang taon, ang mga algorithm ay ipinakilala sa halos bawat yugto sa proseso ng hustisyang kriminal, mula sa pagpupulis at piyansa hanggang sa sentensiya at parol. Ang pagdating ng naturang mga diskarte ay hindi na wala makipagtalo. Marami sa mga automated na tool na ito ay pinuna dahil sa kanilang kalabuan, pagkamalihim, at pagkiling. Sa maraming kaso, ang mga opisyal, korte, at publiko ay walang kagamitan — o pinapayagan — upang tanungin ang kanilang pinagbabatayan na mga pagpapalagay, set ng pagsasanay, o konklusyon. Pangunahin sa mga alalahanin ng mga nag-aalinlangan na eksperto ay ang layunin ng aura ng machine learning ay maaaring magbigay ng makatotohanang saklaw para sa pagtatangi-tangi.
Nagbibigay ang AC Global Risk ng ilang pampublikong detalye tungkol sa kung paano gumagana ang teknolohiya nito. Hindi ito naglalathala ng mga puting papel na nagba-back up sa mga claim sa pananaliksik nito at hindi naglabas ng mga siyentipikong pedigree ng mga mananaliksik nito. Hindi sinagot ng kumpanya ang mga tanong tungkol sa kung anong mga katangian (pitch, speed, inflection) at nagtatampok ng mga sukat ng produkto. "Hangga't ang paggamit ng pagtatasa ng panganib sa mga setting ng hustisyang kriminal ay may problema, mas tumpak ito kumpara sa tool ng kumpanyang ito," sabi ni Suresh Venkatasubramanian, isang computer scientist sa Unibersidad ng Utah na nakatutok sa algorithmic fairness.
Kung ang alinman sa mga claim ng AC Global Risk para sa teknolohiya nito ay wasto, kakatawanin ng mga ito ang pinakadulo kung ano ang iniisip ng mga mananaliksik na posible alamin mula sa boses ng tao. Ang mga pagtatasa ng boses ay maaaring maging mahusay sa mabilis na pagkilala sa demograpikong impormasyon. Ang impormasyong ito ay maaaring pangkalahatan — gaya ng edad, kasarian, o diyalekto ng isang tao — ngunit maaari rin itong maging personal, na nagpapakita ng partikular na rehiyong pinanggalingan ng isang tao, pati na rin ang anumang mga problema sa kalusugan na maaaring mayroon sila.
Noong nakaraang buwan, ang Amazon ay Nagbigay isang patent na magbibigay-daan sa virtual assistant nitong si Alexa na matukoy ang vocal feature ng mga user, kabilang ang wika, accent, kasarian, at edad. Gayunpaman, pagdating sa pagtukoy ng mga emosyon mula sa boses, ang katumpakan ay nananatiling pangunahing alalahanin. Schuller, ang co-founder ng audEERING, isang kumpanya ng voice analytics, na kasalukuyang hindi posibleng masabi kung nagsisinungaling ang isang tao (kung ang pagsisinungaling ay, sa katunayan, isa sa mga indeks ng panganib ng kumpanya) mula sa boses na higit sa 70 porsiyentong katumpakan, na halos kapareho ng isang karaniwang paghatol ng tao.
Sinabi ni Schuller na posibleng makita ang pagkalasing, katapatan, at panlilinlang, ngunit muli, ang antas ng tagumpay ay katulad ng mga kakayahan ng karaniwang tao. "Sa isang solidong label, kung minsan ay maaari mong talunin ang tao, ngunit kung ang isang bagay ay nag-aangkin ng zero error, dapat itong kunin ng isang butil ng asin," sabi niya.
Ang sentro sa pagtatasa ng bisa ng mga claim ng AC Global Risks ay kung ano ang akma sa ilalim ng amorphous label ng panganib at kung sino ang tumutukoy dito. "Tinutukoy nila ang panganib bilang maliwanag, na parang ito ay isang unibersal na kalidad," sabi ni Joseph Pugliese, isang akademikong Australian na ang trabaho ay nakatutok sa biometric na diskriminasyon. "Ipinapalagay na alam na ng mga tao kung ano ang panganib, samantalang siyempre ang tanong kung sino ang tumutukoy sa mga parameter ng panganib at kung ano ang bumubuo sa mga iyon ay puno ng pulitika."
Ang CEO na si Alex Martin ay nagsalita tungkol sa paghahanap ng "aktwal na panganib kasama ang continuum na naroroon sa bawat tao." Ngunit ang ideya na ang panganib ay isang likas at nababasang katangian ng tao - at ang katangiang ito ay maaaring matukoy mula sa boses lamang - ay nakasalalay sa mga maling pagpapalagay, ipinaliwanag ni Todorov, ang Princeton psychologist. Ang aming kakayahang tuklasin kung ano talaga ang nararamdaman ng mga tao kumpara sa kung ano ang nararamdaman namin sa kanila ay isang napakahirap na problema sa machine learning, nagpatuloy si Todorov. Ang posibilidad para sa mga maling impression ay maaaring mas kumplikado ng setting ng pagsusuri. "Ang mga tao sa hangganan ay nasa puno at labis na emosyonal na sisingilin na mga pangyayari," sabi ni Pugliese. "Paano sila makakasunod sa tinatawag na normal na paraan?"
Isang Bagong Physiognomy?
Ang AC Global Risk ay bahagi ng lumalaking bilang ng mga kumpanyang gumagawa ng napakalaking claim tungkol sa mga kakayahan ng kanilang software sa pag-uugali ng analytics. Hinikayat ng obserbasyonal na kahusayan ng artificial intelligence, maraming biometrics vendor at kumpanya ng AI ang nagbebenta sa mga korporasyon at gobyerno ng kakayahang matukoy ang buong personalidad mula sa aming mga ekspresyon sa mukha, galaw, at boses. Isang biometrics vendor sa 2014 Winter Olympics sa Russia, halimbawa, scan ang mga ekspresyon ng mga dadalo upang mabigyan ang ahensya ng seguridad ng bansa, ang FSB, ng kakayahang "matukoy ang isang tao na mukhang hindi kapansin-pansin ngunit ang nabalisa na kalagayan ng pag-iisip ay nagpapahiwatig ng isang napipintong banta."
Ang ilang mga nag-aalinlangan na eksperto na nag-aaral ng AI at pag-uugali ng tao ay nagbalangkas sa mga tool na ito bilang bahagi ng isang lumalagong interes sa physiognomy, ang pagsasanay ng pagtingin sa katawan para sa mga palatandaan ng moral na karakter at kriminal na layunin. Noong kalagitnaan ng ika-19 na siglo, ang tumpak na mga sukat ni Cesare Lombroso sa mga bungo at mga tampok ng mukha ng "ipinanganak na mga kriminal" ay nagbigay ng isang siyentipikong pakitang-tao sa interpretative practice na ito. Gayunpaman, habang ang mga pagsisikap ng mga kriminal na antropologo tulad ni Lombroso ay ibinalik sa basurahan ng mapanganib na junk science, ang pagnanais na ipahiwatig ang moral na katangian ng isang tao o mga nakatagong kaisipan mula sa mga pisikal na katangian at pag-uugali ay nanatili.
Ang pinagbabatayan ng mga pagsisikap ng AC Global Risk at mga katulad na kumpanya, sabi ni Pugliese, ay isang pagpapalagay na ang mga ugnayan ng malaking data ay maaaring makaiwas sa siyentipikong pamamaraan. Ang mga "physiognomic" na application na ito ay lalong nakakabahala, paliwanag niya, dahil ang mga machine learning algorithm ay likas na idinisenyo upang makahanap ng mga mababaw na pattern (kung ang mga pattern ay "totoo") sa mga data na ibinigay sa kanila. "Kapag sinabi nila na sinusubukan nila ang panganib, mayroong isang maliwanag na paniwala na mayroon silang layunin na pagbili sa mga palatandaan na bumubuo ng 'kriminal na layunin'" sabi ni Pugliese. "Ngunit hindi namin alam kung ano ang aktwal na mga palatandaan na bubuo sa mga kriminal na hulang ito."
Gayunpaman, ang paglalantad sa mga pseudoscientific na lugar ng teknolohiyang ito ay hindi nangangahulugang ginagawang mas maliit ang posibilidad na gamitin ito ng mga korporasyon at pamahalaan. Ang kapangyarihan ng mga teknolohiyang ito - tulad ng maraming iba pang mga predictive at risk-based na sistema - ay higit na nakasalalay sa kanilang pangako ng pagiging epektibo at bilis. "Ang kanilang pangunahing pag-aangkin ay kahusayan, ginagawang mas mabilis ang mga bagay, at sa kahulugang iyon, siyempre, gagana ito," paliwanag ni Venkatasubramanian. Kung ang kahusayan na iyon ay nakakatulong o nakakapinsala sa mga pagkakataon sa buhay ng mga nakakaharap sa mga sistemang ito ay, sa madaling salita, sa tabi ng punto. Ang Remote Risk Assessment ay makikitang gumagana hangga't ang mga tao ay nagpapatupad ng mga rekomendasyon nito. Tulad ng isinulat ni Todorov sa isang sanaysay kasama ang dalawang eksperto sa pag-aaral ng makina upang ipahayag ang kanilang mga alalahanin tungkol sa pangkalahatang ito kalakaran: “Intentional man o hindi, ang 'laundering' na ito ng pagkiling ng tao sa pamamagitan ng mga algorithm ng computer ay maaaring magmukhang makatwiran ang mga bias na iyon."
Ang ZNetwork ay pinondohan lamang sa pamamagitan ng kabutihang-loob ng mga mambabasa nito.
mag-abuloy