Oriunde te uiți, tehnologia înaltă este în atenția cuiva. Luați Apple. La interior, investitorii de top sunt îngrijorat despre efectele produselor sale asupra copiilor. În exterior, activiștii liberali sunt mârâind despre miliardele sale offshore pe care le poate aduce acum acasă în cadrul reformei fiscale GOP. Chiar și, de obicei, conservatorii anti-reglementări de la National Review sunt solicitând de ce Big Tech nu este reglementat ca Big Oil sau Big Tobacco.
Aceste exemple, toate recent apărute în știri, confirmă tendința, dar scutură suprafața. Noul sondaj național a constatat că opinia publică este schimbare de la o îmbrățișare caldă la scepticism tot mai mare. Nu este doar modul în care așa-numitele știri false de pe rețelele sociale au avut un rol în alegerile recente din SUA și au condus la anchete ale Congresului. Și nu este doar Apeluri pentru acțiuni federale anti-trust care vizează cei mai populari curatori de informații, Facebook și Google.
Dincolo de aceste puncte care atestă o reacție negativă este înțelegerea a ceea ce se întâmplă cu adevărat sub ecrane și în mintea celor 2 miliarde de utilizatori ai Facebook și a celor 1.5 miliarde de utilizatori YouTube deținut de Google. Există o nouă expresie care descrie această sferă a activității umane, tehnologia din spatele ei și efectele sale. Ceea ce se numește atenția economiei intră sub o nouă atenție, deoarece este văzută ca subminând profesia de jurnalism, precum și încrederea în instituțiile publice și democrația.
„Venim aici în prietenie”, a spus Anthony Marx, președintele Bibliotecii Publice din New York, co-președinte al Comisiei Knight pentru încredere, mass-media și democrație, de la Universitatea Stanford în această săptămână. Panoul a fost creat în toamna anului trecut pentru a încerca să rezolve cele mai mari probleme ale economiei atenției, inclusiv modul în care căutarea Google și Facebook au retrogradat vizibilitatea mass-mediei independente, sub pretextul luptei cu știrile false.
Comentariile lui Marx au stârnit râsete nervoase, pentru că tocmai a prezidat un panel care a prezentat în detalii vii și tulburătoare modul în care cele mai bune minți din Silicon Valley au creat formule de calcul pentru urmărirea creierului, imitarea creierului și declanșarea creierului. Acești algoritmi au transformat miliarde de utilizatori de dispozitive digitale în dependenți de informații și, atunci când sunt puși în slujba supercomputerelor, țintind publicitatea online sau plasarea de conținut, au fracturat societatea ca niciodată.
„Suntem la Stanford; burta fiarei. Aici a început totul. De aceea suntem aici, de ce trebuie să înțelegem la ce vă gândiți cu toții”, a spus Marx, vorbind cu paneliștii, o audiență plină de directori de tehnologie și membri ai comisiilor selectați din unele dintre companiile monopoliste atacate.
„Să fim foarte clari cu privire la două lucruri”, a spus el, continuând diplomatic. „Primul, cu toții ați creat acest instrument uimitor. Dacă mi-ai fi spus în copilărie că aș avea ceva în buzunar care m-ar putea conecta la toate informațiile din lume, eventual, nu te-aș fi crezut. Asta este uimitor. Deci mulțumesc. Aceasta este vestea bună.”
„Veștile mai puțin bune sunt că acest lucru nu ne duce într-un loc bun”, a continuat el. „Nu ne-a dus într-un loc bun. Și nu ar trebui să spun nimic din toate acestea, dar industria voastră, industria din care faceți parte cu toții, cred că lumea și-a schimbat viziunea asupra industriei în ultimul an, într-un mod pe care nu l-am văzut niciodată. ca de înainte. Ceea ce a fost mulțumesc, acum este uh-oh. Din asta ies lucruri rele, iar asta ne pune pe toți la fața locului, motiv pentru care suntem aici. Vrem să înțelegem ce este posibil – ce poate fi mai bun.”
Economia Atenției
Cei din afara cercurilor cele mai intime ale Silicon Valley nu pot accesa sau evalua algoritmii care alimentează fluxurile de știri ale Facebook și plasarea conținutului bazat pe publicitate sau motorul YouTube care recomandă alte videoclipuri pe care utilizatorii individuali le-ar putea plăcea. Cu toate acestea, membrii panelului de la sesiunea Comisiei de la Universitatea Stanford au fost excepțional de articulați și de deschis cu privire la natura și obiectivele algoritmilor, mai bine descriși ca inteligență artificială care imită creierul.
Unul dintre cei mai sinceri explicatori și critici a fost Tristan Harris, un fost „eticist în design” la Google – compania sa a fost achiziționată de aceasta în 2011 – care acum conduce o organizație non-profit, Timpul petrecut bine, care urmărește să îmbunătățească impactul Big Tech asupra societății. Ceea ce a spus acest ex-CEO sub 40 de ani a fost la fel de uimitor ca ceea ce părea o reacție blazată a colegilor săi din industrie.
Harris a spus că economia atenției, sau mass-media de pe smartphone-urile și computerele tuturor, nu este doar marketingul nesfârșit pe care îl vedem cu toții. Există un motiv mai profund pentru care multe surse de știri consacrate pot fi înlocuite de propaganda întunecată pe platformele majore, de ce faptele pot fi depășite de opinii și minciuni și de ce loialitățile tribale mai înguste pot uzurpa instituțiile democratice.
Harris a arătat cu degetul vina către inima și sistemul circulator din Silicon Valley. Algoritmii săi de inteligență artificială sunt proiectați să declanșeze răspunsuri ale creierului și să creeze dependență, a spus el. Ele alimentează un model de afaceri numit publicitatea online, dar aceasta este o suprastructură care profită prin țintirea și provocarea de interese comune, prin conținut curat. Dar separă și societatea în sfere deconectate.
„Există retorica publică despre ce ar trebui să facă tehnologia [informației] și care sunt intențiile pozitive. Dar mai există și realitatea, dacă intri într-adevăr în interiorul companiilor și auzi inginerii și designerii vorbind despre obiectivele lor zilnice, totul se reduce la ceea ce îi va convinge pe oameni să rămână pe ecran”, a spus Harris. „Indiferent care sunt intențiile pozitive, 2 miliarde de oameni se trezesc dimineața chiar acum și au unul dintre aceste lucruri în buzunare și folosesc unul dintre puținele servicii. Ca colegul meu Roger McNamee, care este mentorul lui [Fondatorul Facebook Mark] Zuckerberg îi place să spună că sunt 2 miliarde de oameni care folosesc Facebook, adică mai mult decât numărul de adepți ai creștinismului; 1.5 miliarde de oameni folosesc YouTube, cam asta e numărul de adepți ai islamului. Aceste produse au mai multă influență asupra gândurilor noastre zilnice decât multe religii și cu siguranță mai mult decât orice guvern.”
Când John Lennon a spus că Beatles sunt mai mare decât Isus în 1966, a creat un scandal internațional. Trupa a primit amenințări cu moartea și a fost nevoită să înceteze turneele. Dar când Harris a spus că Facebook era mai popular decât Isus și YouTube a servit mai mulți oameni decât continente întregi, aceste afirmații uluitoare abia au ridicat sprâncene. Această scară subliniază de ce cele mai mari succese ale tehnologiei înalte se confruntă cu o socoteală, de la anchetele Congresului cu privire la amestecul Rusiei în alegerile prezidențiale din 2016, la noi apeluri de a destrăma monopolurile tehnologice în temeiul legilor antitrust, până la forumuri de căutare de soluții precum Knight Commission.
Harris a studiat modul în care creierul face alegeri la Stanford și a continuat să creeze tehnologii și o companie care exploatează „influențele invizibile care deturnează gândirea umană”, după cum spune biografia sa. Dar acea tehnologie reprezintă acum o amenințare existențială pentru umanitate, a spus el, deoarece crește dincolo de capacitatea de a controla orice companie – sau câteva dintre monopolurile economiei de atenție.
„Suntem o specie care... ne putem studia propria capacitate de a fi manipulat”, a spus el. „Trebuie să vorbim despre modelul de afaceri bazat pe publicitate, care, împreună cu inteligența artificială, reprezintă o amenințare existențială. Trebuie să fim serioși în privința asta. Dacă te gândești unde se află cele mai puternice IA din lume în acest moment? Probabil, la două companii: Google și Facebook. Cele mai puternice IA din lume.
„În loc să-i îndreptăm spre o provocare precum schimbările climatice și să spunem, să rezolvăm asta, sau să o îndreptăm către descoperirea de medicamente pentru cancer și să spunem, să rezolvăm asta, am îndreptat cele mai puternice supercomputere AI din lume către creierul tău. Și, practic, am spus, să joci șah împotriva acestui creier și să ne dăm seama ce îl va implica cel mai bine. Și astfel, de fiecare dată când deschidem un flux de știri, jucăm șah împotriva unui supercomputer care este proiectat să vadă cu 50 de milioane de pași înainte pe tabla de șah a minții tale și să ne dăm seama ce te va implica perfect.”
Rezultatele nu sunt întotdeauna frumoase, a spus el, o remarcă la care au făcut ecou alții.
„Când te gândești la consecințele globale ale acestui lucru – la faptul că acest supercomputer face asta în limbi și în țări, inginerii și companiile nici măcar nu vorbesc [sau trăiesc în], care este modul în care obții genocidul Rohingya. în Birmania. Și cum obții niște știri false care creează anumite decese în India, în Sudanul de Sud. Inginerii nu pot pune chestia asta înapoi în geantă. Am creat un impact exponențial fără sensibilitate exponențială.”
Este chiar mai rău decât atât, a explicat panelista Gina Bianchini, fondatorul și CEO-ul Rețele puternice, care este specializată în rețele sociale de nișă. Ea a spus în repetate rânduri că există o cursă în Silicon Valley pentru a sparge monopolurile informaționale ale Facebook și Google, care implică predarea algoritmilor – programarea – ei înșiși pentru a executa o serie de sarcini, inclusiv aducerea de conținut către oameni care vor fi hub în propriile lor rețele de informații. (Silicon Valley numește asta „masina de învățare").
În timp ce ea a lăudat virtuțile unei concurențe mai mari, ea și alții au descris inteligența artificială ca fiind la un prag în care abilitatea de a-i determina pe cei mai mari jucători dintr-o sală să accepte soluții nu ar fi posibilă. Asta pentru că inteligența artificială devine atât de descentralizată, încât problemele etice evidențiate de Harris vor depăși capacitatea oricui de a stăpâni - pentru că Silicon Valley și Big Tech nu sunt o entitate monolitică.
„De fapt, se întâmplă un lucru mai înfricoșător, adică astăzi poți vorbi cu două companii. Apare cineva de la Google. Cineva apare de pe Facebook și vrea să aibă o conversație, pentru că ei au monopolul asupra atenției astăzi și asupra veniturilor din publicitate”, a spus ea. „Progresia naturală a software-ului și unde merge tehnologia este că se înclină spre descentralizare. Se înclină spre tehnologiile distribuite. Cu cine vorbești în acel moment?”
Bianchini a dat un exemplu care a subliniat de ce legile tradiționale antitrust și reglementările guvernamentale sunt iremediabil depășite și prost echipate pentru a face față laturii întunecate a economiei. Ea a citat Napster, care le-a permis iubitorilor de muzică să partajeze fișiere audio, așa că industria înregistrărilor a dat în judecată și a oprit-o.
„Am reușit să închidem Napster și următorul lucru care s-a întâmplat a fost Bit Torrent [software], unde nu era nimic de oprit. Acolo se duce lumea.”
Ce ar face George Orwell?
Aceste critici și explicații nu au fost respinse în totalitate de țintele lor din sală. Dar, așa cum se întâmplă adesea în audierile cu mize mari, problemele esențiale pot fi deviate prin extinderea atenției – nu prin rămânerea cu întrebări cheie, cum ar fi dacă cei mai mari jucători ai economiei de atenție ar schimba ceea ce le alimentează algoritmii de dependență și publicitatea micro-direcționată.
Luați-l pe Richard Gingras, membru al comisiei, vicepreședinte de știri pentru Google. Înainte de a pune întrebări, el a spus că sunt două evoluții istorice de reținut. În primul rând, internetul a pus „mijloacele de comunicare, tipografia, în mâinile tuturor”. Acest lucru are beneficii și provocări istorice.
„Avem o diversitate de informații așa cum nu am mai văzut până acum. O parte din această diversitate este îngrijorătoare. Asta e normal pentru curs, despre ce înseamnă libertatea presei. Așa că am pus adesea întrebarea, adevărata provocare pentru democrație, faptul că avem libertatea de exprimare nelimitată... aceasta este o componentă”, a spus Gingras.
„A doua este, cred că punctele despre direcționarea [anunțurilor și conținutului] sunt corecte, în sensul că avem – și, de către noi, este pătrunsă în întregul ecosistem – companiile au capacitatea de a viza sau de a folosi direcționarea dincolo de visele oricărei persoane directe. marketer sau în istoria politicii. Aici, din nou, nu este că comportamentele sunt neapărat diferite, ci doar că sunt mai eficiente”, a spus el. „Acestea mi se par a fi schimbările cheie.”
Marile schimbări tehnologice au întotdeauna consecințe intenționate și neintenționate, a spus Gingras. Istoria este plină de exemple din profesii care au trebuit să se adapteze, a spus el, adăugând că asta trebuie să facă mass-media și cultura politică.
„Nu este suficient să vorbim despre asta prin prisma tehnologiei”, a spus Gingras. „La ce trebuie să se gândească și să se adreseze și restului societății și instituțiilor sale. Când te uiți la [un] mediu în care oamenii consumă informații în moduri diferite, își formează opinii în moduri diferite, acest lucru mi se pare că sugerează că ar trebui să regândim mecanismele jurnalismului.”
„Cum interacționăm cu publicul nostru”, a continuat el. „Cum formulăm conținutul. Modelele de conținut pe care le folosim. Chiar și modelele de afaceri pe care le folosim pentru a ajunge acolo... Cum trebuie să se schimbe aceste alte instituții? Cum trebuie să se schimbe abordările noastre culturale de bază ale transparenței și încrederii pentru a-i ajuta pe oameni să înțeleagă de ce văd ceea ce văd.”
Gingras nu face acest comentariu în vid. El a co-fondat o inițiativă numită Proiect de încredere, cu sediul la Santa Clara University Journalism School, care îndeamnă organizațiile de știri să-și eticheteze mai bine conținutul online și să-și revizuiască site-urile web, astfel încât algoritmii de căutare să poată ridica conținutul mai autorizat. Acest lucru va ajuta mass-media să iasă în evidență în economia atenției. Desigur, ajută Google să facă căutări mai bune, deoarece căutarea Google, spre deosebire de Facebook, îndepărtează utilizatorii de site-ul său web, iar rezultate mai bune îi vor întări monopolul de căutare.
Pe măsură ce sesiunile publice ale Comisiei Cavaleri s-au încheiat, a fost ridicată problema pe care Silicon Valley se opune cel mai mult – doar a doua după dezvăluirea formulei sale de calcul secrete. Care ar fi rezultatul reglementării guvernamentale, inclusiv posibilitatea unor acțiuni antitrust care să spargă atenția monopolurilor economiei?
Această întrebare a provocat unul dintre cele mai aprige schimburi și, deși nerezolvată, sugerează că Facebook și Google vor trebui să devină mai transparente sau să se confrunte cu reacții și mai mari.
Gina Bianchini: „Am o încredere foarte scăzută că soluțiile vor veni din regulament. Soluțiile vor veni din faptul că construim o motivație în masă de la bază pentru a trece în jurul centralizării, care va fi o conversație cu totul diferită.”
Richard Gingras: „Mi se pare puțin derutant acest subiect. Dacă aș fi auzit discuția despre posibile soluții la problemă, în absența oricărei cunoștințe de problemă, aș fi crezut că vorbim despre faptul că de fapt avem o problemă cu informația monolitică într-o societate care este supra-dirijată și controlată în O singura directie. Dreapta? Dar, desigur, aceasta nu este problema cu care ne confruntăm. De fapt, problema cu care ne confruntăm este una care este complet opusă. Avem o diversitate extraordinară și puncte de vedere, silozuri de gândire, silozuri de gândire consolidate, de la un capăt la celălalt al spectrului și în jur și înapoi. Deci, când mă uit la această problemă, mă întreb ce problemă încercăm cu adevărat să rezolvăm și cum? Nu reușesc să văd punctele conectate pe asta.”
Gina Bianchini: „Din perspectivă monolitică, cine controlează acel algoritm?”
Richard Gingras: „Dar algoritmul...”
Gina Bianchini: „Sunt două companii [Facebook și Google].”
Richard Gingras: „Acest control presupus nu controlează punctele de vedere ale oamenilor. În orice caz, este laudă diferite puncte de vedere dincolo de propriul nivel de confort.”
Ethan Zuckerberg, director al Centrului pentru Media Civică la MIT și consultant comisionar: „Este imposibil să știi asta din lumea exterioară. Este literalmente imposibil.”
Richard Gingras: „Lumea de afară. Nu este greu să ne uităm la lumea noastră de astăzi să spunem că avem o societate care este mai puțin unificată decât oricând.”
Ethan Zuckerberg: „Și puteți pune o întrebare... despre dacă acest mediu de informare, în jurul Facebook și Google, a luat o parte foarte extremă din asta și l-a făcut mult, mult mai puternic. Dar ne este foarte, foarte greu să verificăm că... Tot ceea ce încerc să spun este că un lucru în afara reglementării și, de fapt, destrămarea acestor entități ar fi căi către mult mai multă transparență, așa că putem pune aceste întrebări grele. despre modul în care aceste platforme modelează informațiile și cunoștințele pe care le obținem.”
Comisia Knight se va reuni până în 2018 înainte de a emite un raport și recomandări în toamna anului viitor. Dar, în câteva ore scurte, la centrul de absolvenți al Universității Stanford, a expus problemele, provocările și mizele problemelor dintr-o economie a atenției în care manipularea psihologică și micro-targeting sunt folosite de cei mai buni curatori ai informațiilor.
În special, vineri târziu, Mark Zuckerberg a anunțat că Facebook va cere în curând celor 2 miliarde de utilizatori să evalueze credibilitatea mass-media în fluxurile lor de știri. Acest lucru poate ajuta la identificarea surselor de știri mai mult și mai puțin de încredere în funcție de valorile fiecărui utilizator. Dar nu va atinge „influențele invizibile care deturnează gândirea umană”, așa cum a spus Tristan Harris. Nici nu va aborda segmentarea societală accelerată de tehnologia publicitară online pe care Gingras a recunoscut-o. Nici nu este o acțiune care ar adăuga transparență algoritmilor care alimentează aceste monopoluri informaționale pe care le-a notat Zuckerberg de la MIT.
Într-adevăr, ca editorialist în domeniul tehnologiei New York Times a remarcat Farhad Manjoo Săptămâna aceasta, într-un articol care se gândea dacă Apple ar salva situația adăugând caracteristici elegante de produs pentru a reduce excesele afacerii cu reclame digitale, „Sunt sceptic că [liderii economiei atenției] vor putea să-și suprime activitatea economică. interese.”
ZNetwork este finanțat exclusiv prin generozitatea cititorilor săi.
Donează