Iwwerall wou Dir kuckt, High-Tech ass an engem Bullseye vun engem. Huelt Äppel. Op der bannen sinn Top Investisseuren beonrouegt iwwer d'Effekter vun hire Produkter op Kanner. Op der Äussewelt sinn liberal Aktivisten grousing iwwer seng Offshore Milliarden kann et elo ënner GOP Steierreform heem bréngen. Och normalerweis Anti-Reguléierungskonservativen am National Review sinn froen firwat Big Tech net reglementéiert ass wéi Big Oil oder Big Tobacco.
Dës Beispiller, all kierzlech an der Neiegkeet, bestätegen den Trend awer schimmen d'Uewerfläch. Nei national Ëmfro huet fonnt ëffentlech Meenung ass Verréckelung vun engem waarmen Ëmfang bis zu wuessender Skepsis. Et ass net nëmmen de Wee wéi sougenannte Fake News op sozialen Medien eng Roll bei de leschte Wahlen an den USA haten an zu Kongress-Ufroen gefouert hunn. An et ass net nëmmen Appellen fir Féderalen Anti-Vertrauensaktiounen, déi un de beléifsten Informatiounskuratoren riicht, Facebook a Google.
Iwwert dës Punkten, déi op e Réckschlag bestätegen, ass d'Verstoe vu wat wierklech ënner de Schiirme leeft an am Kapp vun den 2 Milliarde Benotzer vu Facebook an den 1.5 Milliarde Benotzer vum YouTube Besëtzer vu Google. Et gëtt eng nei Phrase déi dës Sphär vun der mënschlecher Aktivitéit beschreift, d'Technologie hannendrun a seng Effekter. Wat d'Opmierksamkeetswirtschaft genannt gëtt, gëtt nei ënnersicht, well se als de Journalismus Beruff ënnergruewen, souwéi d'Vertrauen an d'ëffentlech Institutiounen an d'Demokratie.
"Mir kommen hei a Frëndschaft," sot den Anthony Marx, President vun der New York Public Library, Co-President vun der Knight Commission on Trust, Media and Democracy, op der Stanford University dës Woch. De Panel gouf am leschte Hierscht erstallt fir ze probéieren déi gréisste Probleemer vun der Opmierksamkeetswirtschaft ze fixéieren, dorënner d'Art a Weis wéi Google Sich a Facebook d'Visibilitéit vun onofhängege Medien degradéiert hunn, ënner dem Deckmantel vu gefälschte Neiegkeeten ze bekämpfen.
Dem Marx seng Kommentarer hunn nervös Laachen ausgeléist, well hie just iwwer e Panel presidéiert hat, deen a lieweg an beonrouegend Detail virgestallt huet wéi dem Silicon Valley seng bescht Geeschter Gehir-Tracking, Gehir-mimicking a Gehir-ausléisende Berechnungsformelen erstallt hunn. Dës Algorithmen hunn Milliarden vun digitale Geräter Benotzer an Informatiounssuchter ëmgewandelt - a wa se am Déngscht vu Supercomputer gesat ginn, gezielt online Reklammen oder Inhaltsplazéierung, hunn se d'Gesellschaft gebrach wéi ni virdrun.
"Mir sinn zu Stanford; de Bauch vum Déier. Dëst ass wou et alles ugefaang huet. Dofir si mir hei, firwat musse mir verstoen wat Dir all denkt, "sot de Marx, a schwätzt mat Panelisten, e Publikum gefëllt mat Tech-Exekutoren a Kommissiounsmemberen, déi aus e puer vun de monopolistesch Firmen ënner attackéiert goufen.
"Loosst eis ganz kloer iwwer zwou Saache sinn," sot hien, diplomatesch weider. "Een, Dir hutt all dëst erstaunlech Tool erstallt. Wann Dir mir als Kand gesot hätt, datt ech eppes an der Täsch hätt, wat mech mat all Informatioun op der Welt kéint verbannen, eventuell hätt ech Iech net gegleeft. Dat ass erstaunlech. Also merci. Dat ass déi gutt Noriicht."
"Déi manner gutt Neiegkeet ass datt dëst eis net op eng gutt Plaz bréngt," huet hien weider. "Et huet eis net op eng gutt Plaz bruecht. An ech soll näischt dovunner soen, mee Är Industrie, der Industrie, vun där Dir all en Deel sidd, ech mengen, d'Welt huet seng Vue op d'Industrie am leschte Joer geännert, op eng Manéier déi ech ni gesinn hunn wéi virdrun. Sinn wat merci war, ass elo uh-oh. Doraus kommen schlecht Saachen, an dat setzt eis alleguer op der Plaz, dofir si mir hei. Mir wëllen verstoen wat méiglech ass - wat besser ka sinn.
D'Opmierksamkeet Wirtschaft
Déi ausserhalb vun den banneschten Kreesser vum Silicon Valley kënnen d'Algorithmen net zougräifen oder evaluéieren, déi d'Facebook Newsfeeds an d'Placement vun der Reklamm ugedriwwe ginn, oder dem YouTube Motor deen aner Videoe recommandéiert, déi eenzel Benotzer gär hätten. Wéi och ëmmer, Panelisten op der Kommissioun Stanford University Sessioun waren aussergewéinlech artikuléiert an zukünfteg iwwer d'Natur an d'Ziler vun den Algorithmen, besser beschriwwen als Gehir-mimicking kënschtlech Intelligenz.
Ee vun den äussersten Erklärer a Kritiker war den Tristan Harris, e fréiere "Designethiker" bei Google - seng Firma gouf vun et am Joer 2011 opkaf - deen elo en Net-Gewënn bedreift, Zäit gutt verbréngt, déi probéiert Big Tech Impakt op Societeit ze verbesseren. Wat dësen ënner 40, Ex-CEO gesot huet, war sou beandrockend wéi wat ausgesäit wéi eng blasé Reaktioun vu senge Industriekollegen.
Den Harris sot datt d'Opmierksamkeetswirtschaft, oder d'Medien op jidderee seng Smartphones a Computeren, net nëmmen den endlosen Marketing ass dee mir all gesinn. Et gëtt e méi déif Grond firwat vill etabléiert Noriichtequellen duerch schaarf Propaganda op grousse Plattformen ersat kënne ginn, firwat Fakten duerch Meenungen a Ligen ausgeräift kënne ginn, a firwat méi schmuel Stammloyalitéit demokratesch Institutiounen unsurpéiere kënnen.
Den Harris huet de Fanger vun der Schold op d'Häerz an d'Zirkulatiounssystem vum Silicon Valley gewisen. Seng kënschtlech Intelligenz Algorithmen sinn entwéckelt fir Gehirreaktiounen auszeléisen an süchteg ze sinn, sot hien. Si kreéieren e Geschäftsmodell locker genannt Online Annoncéieren, awer dat ass eng Iwwerstruktur déi kasséiert andeems se gemeinsam Interessen zielen an provozéieren, iwwer curéiert Inhalt. Awer et trennt d'Gesellschaft och an deconnectéierte Sphären.
"Do ass déi ëffentlech Rhetorik iwwer wat d'Informatiounstechnologie soll maachen a wat déi positiv Intentiounen sinn. Awer dann ass et d'Realitéit, wann Dir tatsächlech an d'Firmen gitt, an d'Ingenieuren an d'Designer héiert iwwer hir alldeeglech Ziler schwätzen, kënnt alles erof op wat d'Leit huele fir um Bildschierm ze bleiwen, "sot den Harris. "Egal wat déi positiv Intentioune sinn, 2 Milliarde Leit erwächen elo moies a si hunn eng vun dëse Saachen an hirer Täsch, a si benotzen ee vun enger Handvoll Servicer. Wéi mäi Kolleg Roger McNamee, wien ass [Facebook Grënner Mark] Zuckerberg senger Mentor gär ze soen, et sinn 2 Milliarde Leit déi Facebook benotzen, dat ass méi wéi d'Zuel vun Unhänger vum Chrëschtentum; 1.5 Milliarde Leit benotzen YouTube, dat ass ongeféier d'Zuel vun den Unhänger vum Islam. Dës Produkter hunn méi Afloss op eis alldeeglech Gedanken wéi vill Reliounen a sécherlech méi wéi all Regierung.
Wéi den John Lennon sot, datt d'Beatles waren méi grouss wéi de Jesus ech 1966, hien huet eng international Opschwong. D'Band krut Doudesdrohungen an huet missen ophalen mat Touren. Awer wann den Harris sot datt Facebook méi populär war wéi de Jesus an YouTube méi Leit servéiert wéi ganz Kontinenter, hunn dës atemberaubend Behaaptungen kaum Wenkbrauwen opgehuewen. Dës Skala ënnersträicht firwat déi gréissten Erfolleger vun den High-Tech mat enger Rechnung konfrontéiert sinn, vu Kongress-Ufroen iwwer russesch Interventioun an de Presidentschaftswahlen 2016, bis nei Appellen fir Tech-Monopole ënner Anti-Vertrauensgesetzer opzebriechen, bis Léisungssichende Foren wéi Knight Commission.
Den Harris huet studéiert wéi d'Gehirer bei Stanford Entscheedungen treffen an ass weidergaang fir Technologien an eng Firma ze kreéieren déi "onsichtbar Afloss déi mënschlech Denken kapéieren", wéi säi Bio et seet. Awer dës Technologie stellt elo eng existenziell Bedrohung fir d'Mënschheet duer, sot hien, well et wiisst iwwer d'Fäegkeet vun enger Firma - oder Handvoll Opmierksamkeetswirtschaftsmonopole - ze kontrolléieren.
"Mir sinn eng Spezies déi ... eis eege Fäegkeet manipuléiere kënnen ze studéieren," sot hien. "Mir mussen iwwer de Reklammbaséierte Geschäftsmodell schwätzen, deen, gepaart mat kënschtlecher Intelligenz, eng existenziell Bedrohung duerstellt. Mir musse wierklech eescht ginn iwwer dëst. Wann Dir denkt, wou sinn déi mächtegst AIs op der Welt elo? Wahrscheinlech bei zwou Firmen: Google a Facebook. Déi mächtegst AIs op der Welt.
"Amplaz hinnen op eng Erausfuerderung wéi de Klimawandel ze weisen, a soen, loosst eis dat léisen, oder op d'Drogenentdeckung fir Kriibs weisen, a soen, loosst eis dat léisen, hu mir déi mächtegst AI Supercomputer op der Welt op Äert Gehir gewisen. A mir hunn am Fong gesot, Schach géint dëst Gehir ze spillen an erauszefannen wat et am Beschten engagéiert. An also all Kéier wann mir en Newsfeed opmaachen, spille mir Schach géint e Supercomputer, deen entwéckelt ass fir 50 Millioune Schrëtt viraus um Schachbrett vun Ärem Geescht ze gesinn, an erauszefannen wat Iech perfekt engagéiert.
D'Resultater sinn net ëmmer schéin, sot hien, eng Bemierkung déi anerer widderholl hunn.
"Wann Dir un déi global Konsequenze vun dësem denkt - d'Tatsaach, datt dësen Supercomputer dat a Sproochen mécht, an a Länner, d'Ingenieuren an d'Firmen net emol schwätzen [oder liewen an], dat ass wéi Dir de Rohingya Génocide kritt am Burma. A wéi Dir e puer Fake News Pod kritt, déi bestëmmten Doudesfäll an Indien, am Südsudan kreéieren. D'Ingenieure kënnen dës Saach net zréck an d'Täsch setzen. Mir hunn exponentiell Impakt erstallt ouni exponentiell Sensibilitéit.
Et ass nach méi schlëmm wéi dat, erkläert d'Panelist Gina Bianchini, de Grënner a CEO vun Mighty Netzwierker, déi op Nische sozialen Netzwierker spezialiséiert ass. Si huet ëmmer erëm gesot datt et eng Course am Silicon Valley ass fir Facebook a Google Informatiounsmonopolen ze briechen, déi Algorithmen involvéieren Léier-Programméiere-selwer fir eng Rei vun Aufgaben auszeféieren, dorënner Inhalter u Leit ze bréngen déi Hubs an hiren eegene Informatiounsnetzwierker sinn. (Silicon Valley nennt dëst "Maschinn léieren".)
Wärend si d'Tugend vu méi Konkurrenz geluewt huet, huet si an anerer d'kënschtlech Intelligenz beschriwwen als op enger Schwell, wou d'Fäegkeet fir déi gréisste Spiller an engem Raum ze kréien fir Léisungen ze averstanen net méiglech wier. Dat ass well kënschtlech Intelligenz sou dezentraliséiert gëtt datt d'ethesch Probleemer, déi vum Harris beliicht sinn, iwwer jidderengem seng Fäegkeet sinn ze berouegen - well Silicon Valley a Big Tech keng monolithesch Entitéit ass.
"Et geschitt eigentlech eng méi grujeleg Saach, dat ass haut, Dir kënnt mat zwou Firmen schwätzen. Een erschéngt vu Google. Eppes erschéngt vu Facebook a wëll d'Gespréich hunn, well se de Monopol iwwer d'Opmierksamkeet haut hunn an iwwer d'Recetten vun der Reklamm ", sot si. "Den natierleche Fortschrëtt vu Software a wou d'Technologie geet, ass et sech op d'Dezentraliséierung béien. Et biegt sech op verdeelt Technologien. Mat wiem schwätzt Dir deemools?"
De Bianchini huet e Beispill ginn dat ënnersträicht firwat traditionell Anti-Vertraue Gesetzer a Regierungsreguléierung hoffnungslos ausgestatt sinn a schlecht ausgestatt sinn fir mat der donkeler Säit vun der Opmierksamkeetswirtschaft ze këmmeren. Si zitéiert Napster, wat Museksliebhaber erlaabt Audiodateien ze deelen, sou datt d'Opnameindustrie verklot huet an se zougemaach huet.
"Mir konnten den Napster ausschalten an déi nächst Saach, déi geschitt ass, war Bit Torrent [Software], wou et näischt auszeschalten. Dat ass wou d'Welt geet."
Wat géif den George Orwell maachen?
Dës Kritiken an Erklärungen goufen net ganz vun hiren Ziler am Sall verworf. Awer wéi et dacks de Fall ass bei High-stakes-Hörungen, kënnen d'Kärprobleemer sidetrackt ginn andeems de Fokus erweidert gëtt - net andeems se mat Schlësselfroe bleiwen, wéi ob déi gréisste Spiller vun der Opmierksamkeetswirtschaft géifen änneren wat hir Suchtfaktor Algorithmen a mikro-geziilten Reklammen dréit.
Huelt de Kommissiounsmember Richard Gingras, Vizepresident vun Neiegkeeten fir Google. Ier hie Froen stellt, sot hien datt et zwou historesch Entwécklungen am Kapp ze halen. Als éischt huet den Internet d'"Kommunikatiounsmëttel, d'Dréckerei, jidderengem an d'Hänn gesat." Dat huet Virdeeler an Erausfuerderunge fir d'Geschicht ze maachen.
"Mir hunn Diversitéit vun Informatioun wéi mir nach ni gesinn hunn. E puer vun där Diversitéit ass beonrouegend. Dat ass par fir de Cours, ëm wat Pressefräiheet geet. Esou, datt ech dacks d'Fro gestallt hunn, ass déi richteg Erausfuerderung fir d'Demokratie, d'Tatsaach, datt mir en onbegrenzten Ausdrocksfräiheet hunn ... dat ass ee Bestanddeel ", sot de Gingras.
"Déi zweet ass, ech mengen, d'Punkten iwwer [Annonce an Inhalt] Zilsetzung sinn fair am Sënn datt mir hunn - a vu mir, et ass am ganzen Ökosystem permeéiert - hunn d'Firmen d'Fäegkeet fir Ziler ze zielen oder ze profitéieren iwwer d'Dreem vun all direkten. Marketing oder an der Geschicht vun der Politik. Hei ass et erëm net datt d'Behuelen onbedéngt anescht sinn, et ass just datt se méi effizient sinn, "sot hien. "Dëst schéngen fir mech déi Schlëssel Ännerungen ze sinn."
Grouss technologesch Ännerungen hunn ëmmer virgesinn an ongewollt Konsequenzen, sot Gingras. D'Geschicht ass voll mat Beispiller vu Beruffer, déi sech missten upassen, sot hien, a bäigefüügt datt dat ass wat d'Medien a politesch Kultur musse maachen.
"Et ass net genuch fir einfach iwwer dëst duerch d'Lens vun der Technologie ze schwätzen," sot Gingras. "Wat ass de Rescht vun der Gesellschaft a sengen Institutiounen ze denken an och unzegoen. Wann Dir op [en] Ëmfeld kuckt, wou d'Leit Informatioun op verschidde Manéiere verbrauchen, Meenungen op verschidde Manéieren bilden, schéngt dat fir mech ze suggeréieren datt mir d'Mechanismen vum Journalismus iwwerdenken.
"Wéi mir mat eise Publikum interagéieren," huet hien weider. "Wéi mir Inhalt formuléieren. D'Inhaltsmodeller déi mir benotzen. Och Geschäftsmodeller benotze mir fir dohinner ze kommen ... Wéi mussen déi aner Institutiounen änneren? Wéi mussen eis Basis kulturell Approche fir Transparenz a Vertrauen änneren fir d'Leit ze hëllefen ze verstoen firwat se gesinn wat se gesinn.
Gingras mécht dëse Kommentar net an engem Vakuum. Hien huet eng Initiativ mam Numm de Vertrauen Projet, baséiert op der Santa Clara University Journalism School, déi d'Noriichtenorganisatiounen drängt fir hiren Onlineinhalt besser ze markéieren an hir Websäiten ze iwwerschaffen, sou datt d'Sichalgorithmen méi autoritär Inhalter erhéijen. Dat wäert d'Medien hëllefen an der Opmierksamkeetswirtschaft erauszekommen. Natierlech hëlleft et och Google besser Sich ze maachen - well Google Sich, am Géigesaz zu Facebook, d'Benotzer vu senger Websäit riicht, a besser Resultater wäerte säi Sichmonopol verstäerken.
Wéi déi ëffentlech Sessiounen vun der Ritterkommissioun op en Enn koumen, gouf déi ganz Fro vum Silicon Valley am meeschte géint - nëmmen zweet fir seng geheime Berechnungsformel z'entdecken - opgeworf. Wat wier d'Resultat vun der Regierungsreguléierung, och d'Méiglechkeet vun Anti-Vertrauensaktiounen, déi d'Opmierksamkeetswirtschaft Monopol opbriechen?
Dës Fro huet ee vun de strengsten Austausch opgefuerdert, a wa se net geléist ass, seet se drop hin, datt Facebook a Google méi transparent musse ginn oder nach méi grouss Réckschlag hunn.
Gina Bianchini: "Ech hunn e ganz wéineg Vertrauen datt d'Léisungen aus Regulatioun kommen. D'Léisunge kommen aus der Tatsaach datt mir eng Basis Mass Motivatioun bauen fir ronderëm d'Zentraliséierung ze bewegen, wat e ganz anert Gespréich wäert sinn.
Richard Gingras: "Ech fannen dee Fuedem e bëssen komesch. Wann ech d'Diskussioun iwwer méiglech Léisunge fir de Problem héieren hätt, ouni Wëssen iwwer de Problem, hätt ech geduecht datt mir iwwer d'Tatsaach schwätzen datt mir tatsächlech e Problem mat monolithescher Informatioun hunn an enger Gesellschaft déi iwwer guidéiert a kontrolléiert ass. eng Richtung. Riets? Mä natierlech ass dat eigentlech net de Problem, dee mir konfrontéieren. Tatsächlech ass de Problem dee mir konfrontéiert ass dee komplett de Géigendeel ass. Mir hunn eng immens Diversitéit a Standpunkter, Gedankensiloen, verstäerkte Gedankensiloen, vun engem Enn vum Spektrum zum aneren a ronderëm an erëm zréck. Also wann ech dee Problem kucken, froen ech mech wéi ee Problem mir wierklech probéieren ze léisen, a wéi? Ech gesinn net d'Punkte verbonne mat dësem.
Gina Bianchini: "Aus enger monolithescher Perspektiv, wien kontrolléiert dësen Algorithmus?"
Richard Gingras: "Awer den Algorithmus ..."
Gina Bianchini: "Et sinn zwou Firmen [Facebook a Google]."
Richard Gingras: "Dës vermeintlech Kontroll kontrolléiert net d'Leit hir Siicht. Wann iwwerhaapt, et lueft verschidde Standpunkter iwwer hiren eegene Komfortniveau.
Ethan Zuckerberg, Direkter vum Centre for Civic Media um MIT, a Kommissiounsberoder: "Et ass onméiglech dat vun der Äussewelt ze wëssen. Et ass wuertwiertlech onméiglech."
Richard Gingras: "Aussenwelt. Et ass net schwéier eis Welt haut ze kucken fir ze soen datt mir eng Gesellschaft hunn déi manner vereenegt ass wéi jee virdrun.
Ethan Zuckerberg: "An Dir kënnt eng Fro stellen ... iwwer ob dëst Informatiounsëmfeld, ronderëm Facebook a Google, e ganz extremen Deel dovun geholl huet an et vill, vill méi staark gemaach huet. Awer mir hunn eng ganz, ganz schwéier Zäit dat ze auditéieren ... Alles wat ech probéieren ze soen ass datt eng Saach kuerz vu Regulatioun, an tatsächlech dës Entitéiten opbriechen, Weeër fir vill méi Transparenz wieren, sou datt mir dës schwéier Froen stellen kënnen iwwer wéi dës Plattformen d'Informatioun a Wëssen formen, déi mir kréien.
D'Knight Kommissioun wäert weider bis 2018 Sëtzung ier e Rapport an Recommandatiounen nächste Hierscht erausginn. Awer an e puer kuerze Stonnen am Stanford University Alumni Center huet et d'Themen, d'Erausfuerderungen an d'Spiller fir d'Problemer an enger Opmierksamkeetswirtschaft geluecht, wou psychologesch Manipulatioun a Mikro-Targeting vun den Top Informatiounskuratoren benotzt ginn.
Notamment, spéit Freideg, Mark Zuckerberg ugekënnegt datt Facebook geschwënn seng 2 Milliarde Benotzer géif froen d'Vertrauenswäertegkeet vun de Medien op hiren Newsfeeds ze bewäerten. Dat kann hëllefen, méi a manner vertrauenswierdeg Neiegkeetsquellen no de Wäerter vun all Benotzer ze identifizéieren. Awer et wäert net op déi "onsichtbar Aflëss, déi mënschlecht Denken kapéieren", wéi den Tristan Harris et gesot huet. Et wäert och net déi gesellschaftlech Segmentatioun adresséieren, beschleunegt duerch Online Annoncetechnologie, déi Gingras unerkannt huet. Et ass och net eng Handlung déi Transparenz un d'Algorithmen bäidroe fir dës Informatiounsmonopole ze maachen, déi den Zuckerberg vum MIT bemierkt huet.
Tatsächlech, als New York Times Tech Kolumnist Farhad Manjoo bemierkt dës Woch an engem Stéck dat iwwerluecht huet ob Apple den Dag géif retten andeems se elegant Produktfeatures bäidroe fir d'Exzesser vum digitalen Annoncegeschäft ze stompen, "Ech si skeptesch datt se [d'Cheffen vun der Opmierksamkeetswirtschaft] fäeg sinn hir wirtschaftlech z'ënnerdrécken. Interessen."
ZNetwork gëtt eleng duerch d'Generositéit vu senge Lieser finanzéiert.
Spendenaktioun