Facebook forstjóri Mark Zuckerberg stóð frammi fyrir þingmönnum í 5 klukkustunda maraþonheyrn á þriðjudag um hvernig kjósendafyrirtækið Cambridge Analytica safnaði gögnum meira en 87 milljóna Facebook notenda, án þeirra leyfis, í viðleitni til að sveifla kjósendum til að styðja Donald Trump forseta. Við tölum við Zeynep Tufekci, dósent í upplýsinga- og bókasafnsfræði við háskólann í Norður-Karólínu í Chapel Hill. Hún er einnig deildarfulltrúi við Harvard Berkman Klein Center for Internet & Society. Bók hennar ber titilinn "Twitter and Tear Gas: The Power and Fragility of Networked Protest."
AMY GÓÐUR MAÐUR: Facebook forstjóri Mark Zuckerberg stóð frammi fyrir öldungadeildarþingmönnum á þriðjudag í 5 klukkustunda maraþonheyrn um persónuverndarhneykslið sem hrjáir samfélagsnetið. Zuckerberg var kallaður til að svara spurningum um hvernig kjósendafyrirtækið Cambridge Analytica safnaði gögnum meira en 87 milljóna Facebook notenda, án þeirra leyfis, í viðleitni til að sveifla kjósendum til að styðja Donald Trump forseta. Á fyrsta degi af tveimur yfirheyrslum bað Zuckerberg ítrekað afsökunar.
MARK ZUCKERBERG: Við litum ekki nógu vítt á ábyrgð okkar og það voru mikil mistök. Og það voru mín mistök. Og mér þykir það leitt. Ég byrjaði Facebook, rek það og ber ábyrgð á því sem gerist hér.
AMY GÓÐUR MAÐUR: Facebook gögnin voru fyrst aflað af fræðimanni við Cambridge háskóla að nafni Aleksandr Kogan, en fyrirtæki hans, Global Science Research, byggði app sem greiddi Facebook notendum fyrir að taka persónuleikapróf og samþykkja að gögnum þeirra yrði safnað. Forritið safnaði einnig gögnum um vini þessara notenda, sem þýðir að það safnaði í raun persónulegum upplýsingum frá tugum milljóna notenda án þeirra vitundar. Cambridge Analytica keypti síðan þessi gögn í því skyni að breyta kjósendaprófunarfyrirtæki í öflugt sálfræðilegt tæki, sem byrjaði að setja af stað markvissar pólitískar auglýsingar sem miðuðu að því að framkvæma öfgahægri stjórnmálastefnu Robert Mercer.
Öldungadeildarþingmaður demókrata, Kamala Harris frá Kaliforníu, spurði Zuckerberg um hvers vegna það tók Facebook 27 mánuði - meira en tvö ár - að gera notendum viðvart um Cambridge Analytica brotið.
SEN. KAMALA HARRIS: Ertu meðvitaður um einhvern í forystu hjá Facebook sem var í samtali þar sem ákvörðun var tekin um að láta notendur þína ekki vita, eða telur þú að ekkert slíkt samtal hafi átt sér stað?
MARK ZUCKERBERG: Ég er ekki viss um hvort það hafi verið rætt um það, en ég get sagt þér hugsunarferlið á þeim tíma hjá fyrirtækinu, sem var að árið 2015, þegar við fréttum af þessu, bönnuðum við framkvæmdaraðilanum og við kröfðumst að þeir eyða öllum gögnum og hætta að nota þau, og sama með Cambridge Analytica. Þeir sögðu okkur að þeir hefðu gert það.
SEN. KAMALA HARRIS: Og ég heyrði vitnisburð þinn í þeim efnum, en ég er að tala um tilkynningu til notenda. Og þetta snýr að spurningunni um gagnsæi og traust samband, upplýsa notandann um það sem þú veist um hvernig persónuupplýsingar hans hafa verið misnotaðar. Og ég hef líka áhyggjur af því - þegar þú varðst persónulega vör við þetta, gerðir þú eða æðstu stjórnendur fyrirspurn til að komast að því hver á Facebook hafði þessar upplýsingar og áttu þeir ekki umræðu um hvort upplýsa ætti notendur eða ekki , aftur í desember 2015?
MARK ZUCKERBERG: Öldungadeildarþingmaður, eftir á að hyggja held ég að við lítum greinilega á það sem mistök að við upplýsum fólk ekki. Og það gerðum við út frá röngum upplýsingum, að við héldum að málinu væri lokið og að gögnunum hefði verið eytt.
SEN. KAMALA HARRIS: Þannig að það var tekin ákvörðun á þeim grundvelli að láta notendur ekki vita. Er það rétt?
MARK ZUCKERBERG: Það er minn skilningur, já.
SEN. KAMALA HARRIS: Allt í lagi, og-
MARK ZUCKERBERG: En ég — eftir á að hyggja held ég að þetta hafi verið mistök. Og vitandi það sem við vitum núna, þá hefðum við átt að taka á mörgum hlutum hér öðruvísi.
AMY GÓÐUR MAÐUR: Það er Mark Zuckerberg sem svarar spurningum Kamala Harris öldungadeildarþingmanns í Kaliforníu.
Við byrjum þáttinn í dag með Zeynep Tufekci. Hún er dósent í upplýsinga- og bókasafnsfræði við háskólann í Norður-Karólínu í Chapel Hill, einnig deildarfulltrúi við Harvard Berkman Center for Internet & Society, höfundur bókarinnar Twitter og táragasi: Kraftur og viðkvæmni nettengdra mótmæla. Nýlega hennar stykki fyrir The New York Times er fyrirsögnin „Við vitum nú þegar hvernig á að vernda okkur frá Facebook. Meira en 2 milljónir manna hafa skoðað hana nýlega TED tala sem ber titilinn „Við erum að byggja upp dystópíu bara til að fá fólk til að smella á auglýsingar.
Prófessor Zeynep Tufekci, velkominn til Lýðræði núna! Geturðu talað um hvað gerðist í gær, hvað Mark Zuckerberg sagði, hvað hann sagði ekki og hvað var og var ekki spurt af öldungadeildarþingmönnum, á fyrsta af tveimur dögum yfirheyrslunnar?
ZEYNEP TUFEKCI: Svo, það sem var mjög áhugavert í gær er að öldungadeildarþingmennirnir byrjuðu að spyrja spurninga sem hljómuðu vel, og líklega vegna þess að starfsfólkið undirbjó spurningarnar vel og svo villtust þeir í að spyrja spurninganna. Þeir gátu ekki skilið hvernig Facebook virkaði í raun. Þeir spurðu stöðugt tæknilega undarlegar spurningar sem voru ekki skynsamlegar.
Og jafnvel meira sláandi, það voru tímar sem Facebook átti forstjóri, Mark Zuckerberg, gat ekki svarað nokkuð grundvallarspurningum um hvernig pallurinn virkaði. Til dæmis var hann spurður: „Getur Facebook fylgst með notendum á milli tækja? Fylgir Facebook vafra fólks eða athafnir þess þegar það er skráð út?“ Svörin við báðum eru já og Zuckerberg barðist og sagði: „Ég mun láta liðið mitt snúa aftur til þín. Fyrir mér er þetta eins og þetta áhugaverða augnablik þar sem við erum loksins að berjast við að skilja og glíma við nýja upplýsingasameign, jafnvel eftir alla þessa hneykslismál, allt þetta brouhaha.
Og ég skrifaði a stykki nýlega fyrir Wiredlíka, þar sem ég taldi upp 14 ára afsökunarbeiðni. Þannig að þetta er ekki einu sinni í fyrsta skipti sem Facebook forstjóri er að biðjast afsökunar. Hann hefur beðist afsökunar stanslaust áður en Facebook var stofnað. Hann var að biðjast afsökunar á fyrri útgáfunni af — upphaflegu frumgerð Facebook, Facemash.
Svo, ég meina, 15 árum síðar, erum við loksins farin að takast á við tegund valds, vettvang með 2 milljörðum notenda, ansi mikið upplýsingaflæði, félagsmótun, borgaraleg störf, pólitík gerist. Mér fannst það nokkuð áhugavert að loksins eru nokkrar spurningar um mátt þess, hvort það hafi verið samkeppni, hvernig — þú veist, vegna þess að Facebook er í raun án samkeppni á þessum tímapunkti. Það er það sem gerir það að hluta til svo öflugt.
Það voru margar spurningar sem voru í raun ekki spurðar. Ég meina, Facebook fylgist með fólki sem velur - sem notar ekki einu sinni vettvanginn. Þeir eru með skuggasnið. Gögnin hennar — Mark Zuckerberg reyndi stöðugt að segja: „Við munum halda gögnunum innan veggja okkar. En vandamálið er hversu miklum gögnum þeir safna í fyrsta lagi. Ég meina auðvitað er betra ef þeir gefa ekki bara gögnin kæruleysislega frá sér, eins og þeir gerðu líklega oftar en einu sinni, ekki bara Cambridge Analytica. En jafnvel þótt þeir leggi þetta niður, eins og þeir gerðu árið 2015, og jafnvel þótt þeir vinni vel, safna svona miklu gögnum um 2 milljarða manna og selji síðan augasteinana sína þeim sem er að borga Facebook, selja athygli sína - þá er það varan Facebook - er mikið vandamál. Sú staðreynd að ef þú vilt stunda pólitík, ef þú vilt umgangast, ef þú hefur — ef þú ert innflytjandi og átt fjölskyldu um allan heim, þá er sú staðreynd að það er vettvangurinn sem þú þarft að vera á mikið vandamál. . Það var snert á því, en í raun ekki kafað ofan í það.
Og kannski er það sem ég sá í raun og veru ekki — og það sem ég skrifaði í The New York Times op-ed sem þú nefndir — er það: Hvað ætlum við að gera í því? Ég meina, við vitum í rauninni nóg. Við þurfum í raun ekki Mark Zuckerberg til að útskýra grunnatriði Facebook fyrir fullt af öldungadeildarþingmönnum sem virðast ekki einu sinni skilja það. Við þurfum að setjast niður og segja: „Hvernig bregðumst við við nýju upplýsingasameignina? Hvernig tökum við á við hið nýja opinbera svið eins og það starfar?“
AMY GÓÐUR MAÐUR: Ég vil snúa mér til Dick Durbin, öldungadeildarþingmanns demókrata frá Illinois, sem spyr Facebook forstjóri Mark Zuckerberg.
SEN. DICK DURBIN: Ertu til í að deila með okkur nafni hótelsins sem þú gistir á í nótt?
MARK ZUCKERBERG: Umm, eh, nei.
SEN. DICK DURBIN: Ef þú hefur sent einhverjum skilaboð í vikunni, myndirðu deila með okkur nöfnum þeirra sem þú hefur sent skilaboð?
MARK ZUCKERBERG: Öldungadeildarþingmaður, nei, ég myndi líklega ekki velja að gera það opinberlega hér.
SEN. DICK DURBIN: Ég held að það sé kannski það sem þetta snýst um: rétt þinn til friðhelgi einkalífs, takmörk réttar þíns til friðhelgi einkalífs og hversu mikið þú gefur frá þér í nútíma Ameríku í nafni, tilvitnun, „tengja saman fólk um allan heim“ - spurning , í grundvallaratriðum, hvaða upplýsingum Facebook safnar, hverjum þeir eru að senda þær til og hvort þeir hafi einhvern tíma spurt mig fyrirfram um leyfi mitt til að gera það. Er það sanngjarnt fyrir notendur Facebook að búast við því?
MARK ZUCKERBERG: Já, öldungadeildarþingmaður. Ég held að allir ættu að hafa stjórn á því hvernig upplýsingarnar þeirra eru notaðar. Og eins og við höfum talað um í sumum öðrum spurningum held ég að það sé sett fram í sumum skjölunum. En það sem meira er, þú vilt gefa fólki stjórn á vörunni sjálfri.
AMY GÓÐUR MAÐUR: Svo, það var svar Mark Zuckerberg. Zeynep Tufekci, útskýrðu bara nákvæmlega hvað er í gangi hérna. Og líka þetta stærra atriði sem Kamala Harris vakti yfir, þegar hún sagði: „Í meira en tvö ár ákvaðstu að segja engum frá þeirri staðreynd...
ZEYNEP TUFEKCI: Hægri.
AMY GÓÐUR MAÐUR: -"að 80 milljónir notenda hafi fengið upplýsingarnar sínar afhentar."
ZEYNEP TUFEKCI: Rétt. Svo, það fyrsta, það sem gerðist er, ef vinur þinn hafði hlaðið niður appi, þá voru upplýsingarnar þínar fluttar til appframleiðandans. Og þó að Cambridge Analytica sé í fréttum vegna pólitískra afleiðinga þess, þá voru kannski tugþúsundir, kannski jafnvel fleiri, forrit sem höfðu slíkan aðgang, þar til árið 2015 eða svo. Þannig að það kæmi mér persónulega á óvart ef fjöldi þeirra sem upplýsingarnar voru teknar með þessum hætti og síðan fluttar til annarra aðila og eru til einhvers staðar á, þú veist, myrka vefnum er ekki nokkurn veginn allir sem hafa verið á síðunni. Það var um milljarður manna á þeim tíma. Svo það er það sem skiptir máli, ég held að þessi tegund gagnasöfnunar sé líklega miklu stærri en bara Cambridge Analytica appið, sem er bara eitt forrit af mörgum.
Svo, annað varðandi persónuverndareftirlitið er, Facebook gerir tvennt hér. Einn, þeir halda áfram að reyna að segja: „Við gefum þér stjórn. Við gefum þér stjórn. Við geymum gögnin sjálf.“ Og jafnvel þótt þú takir það á nafn – en eins og Cambridge Analytica app hneykslið sýnir þér, þá voru þeir það ekki – en jafnvel þótt þeir geri þetta, frá framhaldinu, þá er það sem gerist, það er frekar erfitt fyrir fólk að skilja nákvæmlega hvers konar gögnum er safnað og mikið af eftirliti þeirra hefur verið óljóst. Eins og það er enginn lítill smellur sem segir: "Ekki safna gögnum um mig." Það er eins og þú þurfir að átta þig á því. Þú þarft að fara inn í milljón mismunandi valmyndir. Og þú veist, ég hef tæknilegan bakgrunn. Ég er búinn að vera að læra þetta efni í langan tíma. Og ég týnist stundum í illgresinu á matseðlinum þeirra og get ekki fundið út hvernig á að gera þetta. Hvernig á venjulegur maður að komast að þessu? Svo, það er það fyrsta.
Annað atriðið er, með því að lofa að halda gögnunum fullkomlega öruggum héðan í frá, eru þeir samt ekki að takast á við þá staðreynd að þeir eru að safna gífurlegu magni af gögnum. Og það er ekki bara það sem þú deilir sjálfviljugur. Þannig að margir segja: „Veistu hvað? Mér er alveg sama. Ég sagði Facebook hvar háskólinn minn er, hverjar pólitískar skoðanir mínar eru og ég sagði Facebook síðurnar sem mér líkar við, og það er í lagi.“ En það er ekki allt sem það safnar. Það kaupir gögn frá gagnamiðlarum. Þú veist, þarna eru verslunarvenjur þínar. Það lofaði að sameina offline gögn, lífið ef þú ferð inn í búð og kaupir eitthvað, það vill passa þig við Facebook auðkennið þitt. Það safnar gögnum á meðan þú vafrar um vefinn með því að rekja pixla.
Það fylgist með þér í gegnum tæki. Á Android símum var svona týnd - það var þessi óskýra stjórn. Ef þú misstir af því þá blasti það við þér. Áður en þú vissir af varstu bara búinn að gefa því leyfi til að lesa og hafa upplýsingar um öll textaskilaboðin SMS skilaboð sem þú sendir, utan appsins. Þú veist, þú ert bara að senda venjulegu fólki skilaboð. Og þegar fólk var að hala niður Facebook gagnagrunninum sínum í vikunni, vegna hneykslismálsins, og hugsaði: "Hvað er þarna inni?" margir komust að því að hvert einasta textaskilaboð sem þeir höfðu sent í Android símanum sínum—þú veist, þeir eru bara að senda foreldri sínu eða kærustu sinni skilaboð, kærasta, hvað sem er—þetta er allt í gagnagrunnum Facebook.
Svo, svona eftirlitsvél, sem síðan er notuð þar sem gögnin eru notuð til að miða þig við þann sem er að borga Facebook, er hættuleg ein og sér. Nú halda margir ranglega að Facebook selji gögnin þín. Facebook selur ekki gögnin þín. Facebook selur þig. Ekki satt? Facebook er að selja athygli þína. Og það er að selja athygli fólks skjá fyrir skjá, svo þú færð í raun ekki að sjá á heimsvísu hvað er að gerast. Til dæmis, þú veist, margir fjölmiðlagagnrýnendur myndu muna eftir því þegar fram að Íraksstríðinu, New York Times misskilið margt. Og það var hræðilegt í afleiðingum þess, og það var alvarlegt vandamál. En þú gætir að minnsta kosti séð það og sagt: "Sjáðu, þetta er rangt." Og þú gætir reynt að komast á opinberan vettvang og reynt að leiðrétta það. Ég meina, þetta er augljóslega ekki kjöraðstæður. En þú veist að minnsta kosti hvað er fyrir framan þig, og þú getur skipulagt og þú getur reynt að gera eitthvað, en þegar rangar upplýsingar eru miðaðar á Facebook, hatursorðræðu eða hluti sem annaðhvort fara lífrænt út eða þar sem auglýsendur geta miðað á þig, þú sé það ekki einu sinni. Svo, það er a-samsetning af þessu tagi af krafti er mikið vandamál sem við þurfum að takast á við.
AMY GÓÐUR MAÐUR: Þú veist, þú gafst þetta mjög áhugavert TED tala, þar sem þú talar um gervigreind, svona auglýsingamiðun. Og fólk veit kannski um auglýsingamiðun. En hversu djúpt það er.
ZEYNEP TUFEKCI: Já.
AMY GÓÐUR MAÐUR: Og þú talaðir til dæmis um að bera kennsl á fólk sem er geðhvarfasýki.
ZEYNEP TUFEKCI: Já.
AMY GÓÐUR MAÐUR: Og útskýrðu þetta. Það er bara ótrúlegt.
ZEYNEP TUFEKCI: Allt í lagi, svo það er ótrúlegt. Og þetta er hluturinn - enn og aftur, hann skilur ekki vel, vegna þess að fólk hugsar eins og fortíðin. Eins og ég er áskrifandi að Utan tímariti. Þetta er eins og þetta ferðaævintýri. Svo ef einhver vill auglýsa það fyrir mér þá er ég á áskrifendalistanum. Það er gamla aðferðin, ekki satt? Það er nokkuð skýr, bein hlekkur.
Það sem gerist núna með gervigreind er að tölvur, reikniályktanir, geta tekið að því er virðist ótengd gögn, hluti eins og Facebook líkar - ekki satt? - ekki um efnið, heldur bara Facebook-líkar þér, pósttíðni þína, eins konar merkingartóninn þinn orð, og það getur spáð fyrir um hluti eins og hvort þú sért líklegur til að lenda í klínískt þunglyndi eða hvort þú sért líklegur til dæmis að fara í oflætisfasa, ef þú ert með geðhvarfasjúkdóma, áður en klínísk einkenni koma fram. Þannig að tölvan getur, þú veist, haft næg gögn um þig — og það er ekki mikið af gögnum. Það eru örugglega svona gögn sem Facebook hefur um þig. Þú getur spáð fyrir um líkur á að fólk fari í þunglyndisástand eða oflætisástand á næstu mánuðum, áður en við höfum jafnvel klínískt próf fyrir það, því það eru engin klínísk einkenni.
Nú geturðu ímyndað þér hvers konar meðferð sem það er opið fyrir. Þú veist, þú vilt miða á fólk sem - þú vilt selja þeim afsláttarmiða í Las Vegas? Viltu bjóða þeim í spilavíti? Jæja, veistu hvað? Fólk sem er um það bil að fara í oflætisfasa væri aðal, viðkvæmt skotmark, vegna þess að fólk verður eyðsluáráttur og fjárhættuspilari, eða hefur að minnsta kosti tilhneigingu til þess. Ef þú vilt — ef þú ert með persónuleikaprófíla fólks, sem við þekkjum úr rannsóknum sem þú getur gert með Facebook, þá er fólk með, þú veist, ákveðnar tegundir persónueinkenna opnari fyrir því að kjósa forræðishyggjumenn þegar þeir eru hræddir, skv. rannsóknir. Þú getur reynt að miða á þetta fólk. Og stundum geturðu gert þetta allt - vegna þess hvernig núverandi reiknilíkön virka, geturðu gert þetta allt án þess að vita að þú sért að gera þetta. Þú ætlar að fara að segja tölvunni: "Farðu og finndu fyrir mig fólk sem er að fara - þú veist, líklegri til að kaupa miða til Vegas, eða líklegri til að kjósa þennan gaur þegar þeir eru hræddir." Þú getur bara sagt tölvunni fyrir hvað hún á að hagræða og hún getur gert þetta allt. Og þú veist það ekki einu sinni. Eins og þú gætir jafnvel ekki haft í hyggju að gera þetta, en hvernig vélanám virkar í dag, gætirðu gert þetta.
Svo, þetta er það sem ég sagði. Við gætum farið inn í áfanga þess sem ég kalla „eftirlitsvaldshyggju,“ þar sem við stöndum ekki frammi fyrir þeirri tegund 1984 módel, þar sem er opin alræðisstefna, þar sem við erum svona dregin af stað um miðja nótt, svona aðstæður. En við erum hljóðlega og hljóðlega, og mann fyrir mann, skjá fyrir skjá, ýtt og stjórnað í samræmi við veikleika okkar. Svona forræðishyggju væri jafnvel erfitt að átta sig á. Þú værir bara eins og að vera ýtt hér og þar, og það eru þessar hægu breytingar með tímanum. Og það er það sem er skelfilegt. Það er það sem við verðum að komast á undan og enda ekki þar.
AMY GÓÐUR MAÐUR: Facebook hefur verið sakað af rannsakendum Sameinuðu þjóðanna og mannréttindahópum um að stuðla að ofbeldi gegn minnihluta Róhingja-múslima í Búrma með því að leyfa hatursorðræðu gegn múslimum og rangar fréttir að dreifa á vettvangi þess. Patrick Leahy, öldungadeildarþingmaður demókrata í Vermont, spurði Zuckerberg hjá Facebook um þetta við yfirheyrsluna í gær.
MARK ZUCKERBERG: Öldungadeildarþingmaður, það sem er að gerast í Myanmar er hræðilegur harmleikur. Og við þurfum að gera meira.
SEN. PATRICK LEAHY: Og við erum öll sammála um það.
MARK ZUCKERBERG: Lagi.
SEN. PATRICK LEAHY: En rannsakendur Sameinuðu þjóðanna hafa kennt þér, kennt Facebook, um að hafa átt þátt í þjóðarmorðinu. Við erum öll sammála um að það sé hræðilegt. Hvernig geturðu tileinkað þér, og munt þú tileinka þér, úrræði til að tryggja að slík hatursorðræða verði tekin af innan 24 klukkustunda?
MARK ZUCKERBERG: Já, við erum að vinna í þessu. Og það eru þrjú sérstök atriði sem við erum að gera. Ein er að við erum að ráða heilmikið af fleiri efnisgagnrýnendum á burmnesku, vegna þess að hatursorðræða er mjög tungumálabundin. Það er erfitt að gera það án fólks sem talar heimamálið. Og við þurfum að auka viðleitni okkar þar verulega. Í öðru lagi erum við að vinna með borgaralegu samfélagi í Mjanmar til að bera kennsl á sérstakar haturstölur, svo við getum tekið niður reikninga þeirra, frekar en tiltekið efni. Og í þriðja lagi erum við að stofna vöruteymi til að gera sérstakar vörubreytingar í Mjanmar og öðrum löndum sem gætu átt í svipuðum vandamálum í framtíðinni, til að koma í veg fyrir að þetta gerist.
AMY GÓÐUR MAÐUR: Svo er það Mark Zuckerberg. Zeynep Tufekci, ef þú getur svarað?
ZEYNEP TUFEKCI: Svo ég held að það séu nokkur atriði sem eru virkilega erfið og flókin við þessa umskipti yfir í stafræna hagkerfið og við þurfum öll að átta okkur á því, þar á meðal Facebook. Svo það eru nokkur atriði sem ég hef samúð með.
Ástandið í Mjanmar og það sem Facebook leyfði er óafsakanlegt, því ég veit það — ég veit persónulega að, að minnsta kosti síðan 2013, hafa borgaraleg samfélagshópar bókstaflega grátbiðja Facebook um að stíga upp. Það sem gerðist er að þegar landið breyttist úr þessari herforingjastjórn yfir í lýðræðislegri og opnari aðstæður kom Facebook inn ásamt hraðri útbreiðslu stafrænna YES kort og síma, en án viðeigandi eftirlits. Eins og ímyndaðu þér — eins og íhugaðu öll vandamálin sem þessi tegund af nýjum opinberum vettvangi veldur í Evrópu og Bandaríkjunum, þar sem við höfum mikið af mótvægisstofnunum.
Þannig að í Myanmar er öfgahópur búddista sem er mjög andvígur múslimum og er að stuðla að þjóðernishreinsunum. Þetta er ekki grín. Það er næststærsti flóttamannastraumur í heimi. Og það sem þeir byrjuðu að gera er að þeir byrjuðu að nota Facebook til að dreifa, bókstaflega, blóðmeiðsyrðum sínum, þú veist, allar þessar rangar ásakanir. Það var viðtal við Búrmamann um múslimska minnihlutann. Og hann var eins og: „Þau eru hræðileg. Þeir eru að gera alla þessa hræðilegu hluti." Og þeir spurðu hann: "Hvernig veistu það?" Hann sagði: „Ég veit það, þökk sé Facebook. Gífurlegt magn af hatursorðræðu fór út um þúfur, án þess að Facebook setti inn hluti af því tagi sem Zuckerberg er loksins að segja að þeir ætli að setja inn.
Þetta er fyrirtæki með hálft billjón markaðsvirði. Þetta er fyrirtæki þar sem fólk hefur beðið, betlað, grátið, beðið, þú veist, einkaaðila, opinberlega, í mörg ár um að ráða gífurlega mikið af fólki og reyna að ná tökum á ástandinu. Það er ekki það að þeir séu að valda öllu vandamálinu sjálfir, auðvitað. En þeir eru mikilvægir. Þeir voru Radio Rúanda. Þeir voru, þú veist, Sigur viljans. Þeir voru — það er þess konar hlutverk sem þeir gegndu hér á landi.
Og það var bara nýlega, og aðeins í kjölfar hneykslismálsins, ég er loksins að heyra forstjóri taka á þessu. Og ég held, þegar við lítum til baka á það, þú veist, sumt af efninu er - aftur, í raun, stafræna umskiptin eru erfið og við erum öll í yfir höfuð. Ég held að það sé engin afsökun fyrir fáfræði þeirra, vanrækslu þeirra og þeirri staðreynd að tugir manna, fyrir land, þú veist, þar sem þjóðernishreinsanir eru í gangi, eftir svo mörg ár, er það svo lágmarksskref. Þeir hefðu átt að vera með eins stórt lið og nauðsynlegt var - þeir eiga peningana - eins snemma og hægt var. Það er svona hlutur, eins og ef þú vaknar sem forstjóri hjá þessu fyrirtæki ætti það að vera fyrsta spurningin sem þú spyrð alla og segir: „Ég ætla að eyða eins miklum tíma og eins mikilli orku í þetta,“ því þetta er svona hlutur sem á eftir að fara í sögubækurnar eins og veldur gífurlegri mannlegri eymd. Það er að koma í veg fyrir stöðugleika á öllu svæðinu með flóttamannastraumi, fólk sem er fast í Bangladesh, fólk sem er fast annars staðar.
Þannig að ég held að þetta sé dæmi – fyrir mér er þetta hryllilegasta dæmið um hvað Facebook skortir innra drifkraft fyrir rétta eftirlit og hvað samfélag okkar hefur ekki áhuga á að grípa inn í og segja: „Sjáðu, Búrma, Mjanmar, gæti verið annað land , en það er fyrirtækið okkar sem er viðriðinn hér.“ Og þú veist, Bandaríkin og Evrópa hefðu líka getað gert meira. Og þetta er sorglegasta ástandið, því núna þegar þetta er svo úr böndunum eru nokkrir tugir stjórnenda, nýjar vörur loksins að gerast, munu líklega hafa jaðaráhrif, en kannski fyrr, með nægri borgaralegu samfélagi og alþjóðlegri athygli, auk Facebook sem gerir það sem það þurfti að gera það, kannski værum við ekki hér. Og þetta eru milljónir manna sem eru á vergangi. Það eru þúsundir manna sem voru drepnir. Þannig að mér finnst þetta bara versta dæmið og það er bara skammarlegt. Ég veit ekki hvað ég á að segja annað.
AMY GÓÐUR MAÐUR: Prófessor Tufekci, þú skrifar inn Twitter og Táragas um ritskoðun Facebook í Tyrklandi, í þínu landi. Þú skrifar um Facebook-síðu borgarstjóra stærstu borgar Kúrda sem er með meirihluta á svæðinu sem er bönnuð, jafnvel þó að tæplega 400,000 manns hafi líkað við síðuna hans áður en hún var tekin niður. Þetta mál um Tyrkland var ekki tekið upp í yfirheyrslunni í gær. Við sjáum hvað gerist í þinginu í dag.
ZEYNEP TUFEKCI: Þannig að þetta er áhugaverður hlutur. Ég skrifa líka - eins og ég vil nokkurn veginn kynna flókið. Um allan heim eru mörg lönd þar sem Facebook er einnig tól gegn ritskoðun. Ekki satt? Svo þetta er ástæðan fyrir því að það er svo mikilvægt að það gerist betur, því það eru mörg lönd þar sem sjónvarp er ritskoðað, þar sem útvarp er ritskoðað, þar sem dagblöð eru ritskoðuð. Og samfélagsmiðlar eru ein leið til þess - við sjáum þetta í Bandaríkjunum: Black Lives Matter, Women's March. Margar hreyfingar sem eiga í erfiðleikum með að fá annaðhvort virðingu eða grip frá hefðbundnum fjölmiðlum eða almennum fjölmiðlum geta notað samfélagsmiðla til að sniðganga ritskoðunina.
En það sem við sjáum venjulega, aftur, sem vandamálið, er að þeir, Facebook, fyrirtækið, hefur bara ekki þá tegund starfsmanna sem þú þarft til að skilja hvaða síða er rétt, hvaða síða er ekki. Og það sem gerist er að pólitískir andstæðingar greina frá síðum hvers annars og svo er það tekið niður. Og þú veist, Facebook er bara þetta risastóra fyrirtæki. Þeir eru í Menlo Park. Þeir eru í Dublin. Og þú hefur fólk, segjum, í Egyptalandi, sem bara biður þá: "Geturðu gert þetta?" Og það er einhvers staðar í biðröð og kannski kemst einhver að því. Þeir eru bara ekki í stakk búnir til að vera stjórnendur málflutnings fyrir allan heiminn eins og staðan er.
En aftur, flókið er að samfélagsmiðlar og stafræn verkfæri hafa einnig leyft gífurlega mikið af and-ritskoðun um allan heim. Svo þú vilt ekki aðstæður þar sem Facebook er bara að loka öllu eins og það vill. Það sem þú vilt eru skynsamlegar reglur, þar sem aðstæður eins og, þú veist, eitthvað sem stuðlar að þjóðernishreinsunum er í raun lokað, en pólitísk málflutningur er það ekki. Og það er ekki auðvelt. Og það er ekki eitthvað sem Facebook hefur gert vel.
Og þú veist, allar þessar yfirheyrslur spyrja fólk Mark Zuckerberg spurninga. Og ég hef verið að segja: „Sko, þetta eru pólitískar spurningar. Ég vil ekki heyra hvað Mark Zuckerberg hefur að segja.“ Ég vil fá pólitíska umræðu um þetta. Ég vil lagasetningu. Og ég vil að við segjum Mark Zuckerberg og öllum Silicon Valley hvað á að gera. Ég meina, hver dó og gerði þá að konungi heimsins á stjórnmálasviðinu? Ekki satt? Við þurfum að hafa þetta samtal, ákveða hvernig við ætlum að setja reglur um þetta, hvers konar eftirlit er nauðsynlegt og segja þessum fyrirtækjum hvernig á að — hvaða reglur þau þurfa að fylgja. Og hingað til hefur þetta bara verið villta vestrið.
AMY GÓÐUR MAÐUR: Jæja, það er ákaflega áhugavert, vegna þess að svo margir af öldungadeildarþingmönnunum sögðu: „Viltu láta stjórna þér? Munt þú styðja reglugerð? Ég meina, reglugerð um eigið fyrirtæki. Nú er ég með spurningu um mál sem hefur verið rætt svolítið, og það er — ég meina, við höfum þjóðvegi í Bandaríkjunum. Það eru innviðir landsins okkar, hvernig við komumst um.
ZEYNEP TUFEKCI: Algerlega.
AMY GÓÐUR MAÐUR: Að mestu leyti eru þau ekki í eigu einkafyrirtækja. Finnst þér að Facebook, sem er upplýsingahraðbrautin, í vissum skilningi, um allan heim, ætti að þjóðnýta?
ZEYNEP TUFEKCI: Jæja, ógnin við þjóðnýtingu er sú að það er svo aðlaðandi tæki fyrir stjórnvöld til að sinna eigin áróðri og eigin eftirliti, ekki satt? Svo, ef ríkisstjórn ætti eitthvað eins og Facebook, geturðu ímyndað þér hvers konar eftirlit það myndi leyfa og hvers konar meðferð það myndi leyfa? Þannig að það sem þú vilt er aðferð og reglur sem gera það að verkum að það er ekki eftirlitstæki, að það sé ekki tæki forræðishyggju.
Svo það er ýmislegt sem hægt er að gera. Antitraust er vissulega á borðinu því ein af spurningunum sem Mark Zuckerberg átti erfitt með að svara var „Hver er keppinautur þinn? Jæja, svarið er: ekki raunverulega neinn. Ekki satt? Svo, það vekur bara upp mikið af einokunarvaldi og samkeppnisspurningum. En kannski þurfum við líka að segja: „Hvað með að takmarka varðveislu gagna? Hvað með að takmarka hvers konar eftirlit þeir geta gert? Hvað með að skipa einhvers konar eftirlits- og kæruferli? Hvað með að brjóta ákveðna hluti upp?“ Það er allt þetta sem hægt er að gera án þess að taka Facebook, eins og það er, og setja það bara við bandarísk stjórnvöld, vegna þess að ég held að það væri í raun mjög hættulegt, að gefa hvaða ríkisstjórn sem er svona öflugt tæki.
Ég held að það sem við ættum að gera er að tryggja að þetta tæki sé hættuminni, að það þjóni fólki, ekki bara hagnaði, að pólitískar ákvarðanir sem við stöndum frammi fyrir séu teknar sem pólitískar ákvarðanir og við höfum þessa umræðu. Og við komum með, eins og þegar þú ferð á þjóðveginn — ekki satt? — við erum með öryggistein, við erum með öryggisbelti, við erum með útblástursvörn, við erum með alls konar hluti sem fyrirtæki börðust með nöglum og nöglum. Það er ekki fullkomið, en það kom okkur að minnsta kosti á betri stað. Við þurfum þá útgáfu fyrir hið stafræna opinbera svið, alveg eins og við þurftum á henni að halda með hefðbundnum fjölmiðlum, alveg eins og við þurfum á henni að halda með hvers kyns dreifingu upplýsinga.
AMY GÓÐUR MAÐUR: Sérðu Evrópu sem fyrirmynd? Hvernig er Evrópa að takast á við þetta, á móti Bandaríkjunum?
ZEYNEP TUFEKCI: Það er byrjað. Svo, að minnsta kosti í Evrópu, þann 25. maí, verður löggjöf sem tekur gildi. Það er kallað GDPR, Almenn persónuvernd. Það hefur marga góða hluti. Svo það er stór byrjun. Og margir eru eins og, "Ó, þetta er svo íþyngjandi." Reyndar, GDPR er bara byrjun. Það er að færa notendum betri næðisrétt og meira eftirlit og það mun líklega gagnast Bandaríkjunum og öðrum löndum líka, því fyrirtækin ætla að fara eftir því og það er auðveldara að fara eftir því á heimsvísu.
Ég held að við séum rétt byrjuð. Eins og ég get séð af yfirheyrslum, meira að segja Mark Zuckerberg, þá held ég að hann sé í hausnum á honum og ég held að enginn einstaklingur geti tekist á við þetta. Öldungadeildarþingmennirnir eru að reyna að glíma við það. Þetta eru mjög pólitískar spurningar. Þó þú sért ekki á Facebook þá skiptir það engu máli. Þetta mun hafa áhrif á fólk jafnvel þótt þér sé sama um samfélagsmiðla. Svona gerast pólitík. Svo ég held að við séum að byrja. ég geri ekki-
AMY GÓÐUR MAÐUR: Við erum nýbúin að missa gervihnattatenginguna við háskólann í Norður-Karólínu við Chapel Hill, en ég vil þakka prófessor Zeynep Tufekci, dósent í upplýsinga- og bókasafnsfræði við háskólann í Norður-Karólínu í Chapel Hill, einnig deildarfulltrúa við Harvard Berkman. Miðstöð internets og samfélags. Bókin hennar, Twitter og táragasi: Kraftur og viðkvæmni nettengdra mótmæla. Og við munum tengja við hana stykki in The New York Times, "Við vitum nú þegar hvernig á að vernda okkur frá Facebook."
ZNetwork er eingöngu fjármagnað með örlæti lesenda sinna.
Styrkja