Når du klikket på den lille boksen som sa at du godtar Facebooks vilkår for bruk, godtok du å være en laboratorotte.
Internett lyser opp med nyheter om en studie utført av sosiale medier selskapets forskningsavdeling om "emosjonell smitte". Over 600,000 XNUMX personer fikk Facebook-nyhetsfeedene sine endret for å gjenspeile mer "positivt" eller "negativt" innhold, for å avgjøre om det å se flere triste meldinger gjør en person tristere. Det "negative" innholdet ble ikke helt sensurert fra nyhetsfeedene til testpersonene – hvis du sjekket inn på vennens personlige side, kunne du fortsatt se om han hadde en god dag eller ikke. Men selve nyhetsfeedene ble justert uten forvarsel, og de emosjonelle responsene fra testpersonene ble sporet, bedømt etter endringer i språkbruken deres.
Funnene i studien – at folk blir påvirket av andres følelser på nett når de er offline – overrasket nøyaktig ingen. Funnene er ikke poenget. Poenget, og faktisk det faktum som har sendt krusninger av raseri rundt på nettet, er at Facebook kan gjøre dette. Facebook kan manipulere følelsene til hundretusenvis av mennesker bare for å se hva som skjer.
Jeg har gravd i denne historien i flere uker nå. Etter å ha lest avisen og snakket med en rekke eksperter på området, inkludert de som er mer informert enn meg om prosedyrene for skitt-under-fingreneglene i psykologisk forskning, er jeg ikke overbevist om at Facebook-teamet vet hva det gjør. Den vet imidlertid hva den er kan gjøre – hva en plattform med tilgang til personlig informasjon og intime interaksjoner til 1.25 milliarder brukere kan gjøre.
Ingen har noen gang hatt denne typen makt før. Ingen diktator i sine villeste drømmer har vært i stand til å subtilt manipulere de daglige følelsene til mer enn en milliard mennesker så effektivt. Det er ingen presedens for hva Facebook gjør her. Facebook i seg selv er presedensen. Det selskapet gjør nå vil påvirke hvordan fremtidens bedriftskrefter forstår og tjener penger på menneskelige følelser. Dr Adam Kramer, mannen bak studien og et mangeårig medlem av selskapets forskningsteam, kommenterte i en spent spørsmål og svar at "Facebook-data utgjør den største feltstudien i verdenshistorien." Etikken i denne situasjonen har ennå ikke blitt pakket ut.
Jeg stilte en rekke spørsmål til Facebooks representanter, inkludert Dr. Kramer, i løpet av tre uker med telefonsamtaler, e-poster og direktemeldinger. Jeg ble gjentatte ganger fortalt at Adam Kramer var for opptatt til å snakke med meg og ville forbli for opptatt i overskuelig fremtid, selv om Dr Kramer selv fortalte meg at han ikke kunne snakke med meg uten å si fra om det fra presseteamet. Facebook var utilgjengelig for kommentarer. Facebook gikk til en viss grad for å være så utilgjengelig som mulig for kommentarer uten direkte å fortelle meg hvor jeg skulle skyve forespørselen min. Facebook var utilgjengelig for kommentarer på den måten at en mann som ved å høre ringeklokken løper ut bakdøren og over hageveggen ikke er hjemme for besøkende.
Jeg spurte om det var mulig for brukere å finne ut om deres egne nyhetsstrømmer hadde blitt endret. Ingen svar. Jeg spurte om det var mulig for brukere å velge bort ytterligere slike studier. Ikke noe svar, men hvis jeg hadde fått en, mistenker jeg at det ville vært «nei» – alle brukere samtykker implisitt til å bli eksperimentert med når de registrerer seg for tjenesten. Jeg spurte om noen hadde brydd seg med å sjekke opp alle menneskene som tilsynelatende ble fremkalt av negative følelser. Ingen svar.
Det eneste Facebooks representanter ville fortelle meg er at ja, de hadde faktisk utført studien, og ja, de hadde sett på effekten av følelsesmessig smitte i noen tid. Akkurat nå er internett rasende over at Facebook lekte med følelsene til over en halv million brukere i forskningens navn, uten deres samtykke. Men en viktig ting å huske på her – og det som blir klart ved å lese gjennom et halvt tiår med nyhetsrapporter – er at Facebook har gjort dette i årevis. Selskapets antydning om at det ikke forstår alt oppstyret om sin "emosjonelle smitte"-forskning, blir heller undergravd av det faktum at det har utført nevnte forskning med store kostnader og i noen tid.
Deres knapt samtykkende eksperimenter med å manipulere følelser og ideologier, i stedet for bare å spore mønstrene deres, er ikke nye. De pågår. Facebook er dypt investert i "hva som skjer når du bruker vitenskapen om hvordan mennesker forholder seg til hverandre til sosial teknologi", for å sitere fra prospektet for deres nylige "Compassion Research Day". Etikken med å endre folks opplevelse av verden på denne skalaen, uten deres samtykke, for forskningsformål, ser ikke ut til å plage Facebooks forskningsteam.
Emosjonell ingeniørkunst er, og har alltid vært, Facebooks forretningsmodell. Det er praksisen med å gjøre seg selv sosialt uunnværlig som har sørget for at for mange millioner mennesker har Facebook blitt standard forside på internett. Nyhetsstrømmen deres er bokstavelig talt det – det er det første stedet mange av oss går for å finne ut hva som har skjedd i verden, og i verdenene til de vi elsker, de vi liker, og de vi en gang møtte på en fest og fikk en pinlig venn forespørsel fra to uker senere. Nathan Jurgenson, teoretiker for sosiale medier, forsker ved Snapchat og redaktør ved Ny forespørsel, fortalte meg at: "Dette er en del av vilkårene for bruk. All design spiller på følelsene våre. Den studien nevnte ikke like-knappen, som i seg selv er emosjonell teknikk.»
Selvfølgelig har faktiske aviser gjort dette siden den varme typens dager. De velger ut historier for å representere et bestemt verdensbilde, endrer innhold for å passe annonsørene deres, endrer overskrifter, sirkulerer propaganda. Men Facebook er ikke en avis: det er en distribusjonsplattform, et nettsted for sosial utveksling. Ekvivalenten her er ikke bare for eksempel Sol avisen som bestemte seg for å støtte Rupert Murdochs syn på verden, men din lokale pub, butikk, supermarked og postkontor nekter plutselig å ha noe annet enn Soluten forvarsel.
De fleste eksperimenter av denne typen, selv om det har vært få på denne skalaen, gir forsøkspersoner et blindt valg under antagelsen om at valgene vil være ufarlige for dem. Aleks Krotoski, en ekspert på internettforskningsmetoder som har en doktorgrad i samfunnsforskning, fortalte meg at mens studien passerte to etikkforskningsråd, "for en slik nettverksstudie vurderer etikkstyrene følgende når de frafaller behovet for å få informert samtykke: forskningen må ikke innebære større enn minimal risiko». Det Facebook har gjort, etter egne påstander, er ikke ufarlig. Testen induserte negative følelser hos titusenvis av mennesker for å bevise et poeng.
Skriver på Medium, Zeynep Tufekci identifiserer dette som "en Gramscian modell for sosial kontroll: en der vi effektivt mikrodyttes inn i 'ønsket atferd' som et middel for samfunnskontroll". Den slags kontroll var aldri mulig i denne skalaen før. TV kunne ikke gjøre det. Radio kunne ikke gjøre det. Aviser kunne ikke holde styr på hvordan en enkelt leser hadde det og hvem de snakket med og bestemme hvilken melding de skulle sende. Sosiale medieselskaper kan gjøre alt dette, og mer. Dette har allerede utvidet seg til kontroll av stemmeatferd.
Facebook har allerede manipulert stemmeatferden til brukerne sine, og skrytt av det også.
Jeg skal gi deg et øyeblikk til å vurdere implikasjonene av det.
Her er det som skjedde. I 2010 gjorde Facebook små, eksperimentelle endringer i bannerne den ga ut, og minnet amerikanske borgere på å stemme. De fleste brukere så et banner som oppmuntret til å stemme, med bilder under banneret av Facebook-venner som allerede hadde stemt, eller som i det minste hadde trykket på knappen og hevdet det (fire prosent av folket viste seg å lyve om det). To tilfeldig utvalgte grupper på 600,000 2012 brukere – dette ser ut til å være det magiske tallet for Facebooks interne wonks – så en melding uten ansiktene til vennene deres, eller ingen melding i det hele tatt. Studien fra 340,000 basert på disse dataene hevdet at Facebooks "kom deg ut og stem"-meldinger kan ha ført til at ytterligere XNUMX XNUMX stemmer ble avgitt, og at bare manipulering av meldingen endret disse tallene med titusenvis. De bestemte dette ved å undersøke offentlige velgerlister: krysssjekke informasjon om privat status mot registrene staten har på din politiske aktivitet.
Sammendraget erklærer stolt at resultatene "viser at meldingene direkte påvirket politisk selvuttrykk, informasjonssøking og stemmeadferd til millioner av mennesker i den virkelige verden". Hovedforskeren på velgermanipulasjonseksperimentet, Dr J Fowler, sa til CNN: "Hvis vi ønsker å gjøre verden til et bedre sted i massiv skala, bør vi fokusere ikke bare på å endre en persons atferd, men også på å bruke nettverket å påvirke den personens venner.»
For deg og meg er dette et massivt hemmelig politisk eksperiment på den skumle-totalitære siden av interessant. For en senator, eller et parlamentsmedlem, betyr og betydde denne nyheten mye, mye mer. Det betyr makt. Kraft av et nytt og betagende slag. Makt som krever oppmerksomhet og kurtisering.
Hva om Facebook, for eksempel, valgte å subtilt endre sin stemmemelding i svingende stater? Hva om de utvalgte befolkningene som ikke så en gå-ut-og-stemme-melding bare tilfeldigvis befant seg i, for eksempel, flertall af afroamerikanske nabolag? Det faktum at Facebook åpenbart er flinke gutter som får laget filmer om dem med Aaron Sorkin-manus og Trent Reznor-lydspor og åpenbart aldri ville gjort noe slikt, endrer ikke det faktum at de kunne gjøre det, og mer hvis de velger det, og deretter hevde det som forskning.
Studiene, tatt individuelt, er skumle nesten-konsensuelle eksperimenter på individers mest intime følelser og viktigste valg. Til sammen er det et skremmende mønster.
Facebooks tjeneste er ikke gratis. Facebooks produkt er din informasjon, ditt verdensbilde, dine minner og erfaring, og det er det du betaler med hver gang du logger inn. Denne informasjonen er kraft av en kvalitet som kan handles med og selges.
Det enkle svaret vil selvfølgelig være at hvis du ikke vil bli spionert på, følelsesmessig manipulert og studert, slutt på Facebook. Men det er ikke slik den moderne informasjonsøkonomien fungerer. Det har det aldri vært. Det er en kostnad å ikke delta i disse nye nettverkene. Valget om ikke å delta er valget om å gå glipp av arrangementer, bursdager, statusoppdateringer. Din beste venns bryllupsbilder. Din unge fetter ringer etter hjelp klokken fire om morgenen. Profesjonelle nettverk, som «Binders Full of Women Writers», den store, strålende globale gruppen av forfattere og journalister jeg fikk en invitasjon til forrige uke. Og viktigst av alt, nyheter om verden. De siste artiklene jeg har lest om Facebook-studien om emosjonell smitte har blitt koblet til på Facebook-nyhetsstrømmen min. Jeg opplever at mine egne følelser er negativt påvirket av nyhetene, og kan ikke la være å lure på om noen sporer det faktum, om jeg kanskje burde prøve å fjerne dem fra duften ved å legge ut noen bilder av bedårende dovendyr.
Flere mennesker lever en del av livet sitt på Facebook enn bor i noe enkelt land på jorden, bortsett fra Kina. Det er faktisk et land i seg selv, et land med ren informasjon hvor myndighetene vet alt du gjør og kan endre alt du ser, uten å fortelle deg det først. De kan sørge for at du bare hører glade nyheter på en bestemt dag, for å oppmuntre deg til å kjøpe flere MacGuffins. Og de kan manipulere måten du stemmer på.
Hvis Facebook er et land, så er det et bedriftsdiktatur. Dette er ikke en metafor. Jeg tror at det er over tid at vi begynte å holde sosiale nettverk ikke bare til markedets lover, men til de vanlige lovene i samfunnene vi lever i og samfunnene vi ønsker å se. Prinsipper som retten til å motta informasjon uten hindringer. Prinsipper som å ikke gjøre titusenvis av mennesker triste for din personlige vinning. Prinsipper som at selskaper ikke roter med stemmeatferden til brukerne på noen måte, uansett grunn. Og akkurat nå er det når disse prinsippene, de presedensene, skal avgjøres.
Laurie Pennys Uutsigelige ting: Sex, løgner og revolusjon er tilgjengelig for forhåndsbestilling. Hun vil også være i samtale med klassiker og forfatter Mary Beard 30. juli i Conway Hall, London. Flere detaljer og billetter her.
ZNetwork finansieres utelukkende gjennom generøsiteten til leserne.
Donere