När du klickade på den lilla rutan som sa att du godkände Facebooks användarvillkor gick du med på att vara en labbråtta.
Internet lyser upp med nyheter om en studie genomförd av sociala medieföretagets forskningsavdelning om "emotionell smitta". Över 600,000 XNUMX personer fick sina Facebook-nyhetsflöden ändrade för att återspegla mer "positivt" eller "negativt" innehåll, för att avgöra om att se fler sorgliga meddelanden gör en person mer ledsen. Det "negativa" innehållet censurerades inte helt från testpersonernas nyhetsflöden – om du checkade in på din väns personliga sida kunde du fortfarande se om han hade en bra dag eller inte. Men själva nyhetsflödena justerades utan förvarning, och testpersonernas känslomässiga svar spårades, bedömda av förändringar i deras språkanvändning.
Resultaten av studien – att människor påverkas av andras känslor online när de är offline – förvånade precis ingen. Fynden är inte poängen. Poängen, och faktiskt det faktum som har skickat krusningar av upprördhet runt webben, är att Facebook kan göra detta. Facebook kan manipulera hundratusentals människors känslor bara för att se vad som händer.
Jag har grävt i den här historien i ett antal veckor nu. Efter att ha läst tidningen och pratat med ett antal experter på området, inklusive de som är mer informerade än jag om psykologisk forskning, är jag inte övertygad om att Facebook-teamet vet vad det gör. Det vet dock vad det är Kan gör – vad en plattform med tillgång till personlig information och intima interaktioner för 1.25 miljarder användare kan göra.
Ingen har någonsin haft den här typen av makt tidigare. Ingen diktator i sina vildaste drömmar har kunnat subtilt manipulera de dagliga känslorna hos mer än en miljard människor så effektivt. Det finns inga prejudikat för vad Facebook gör här. Facebook i sig är prejudikatet. Vad företaget gör nu kommer att påverka hur framtidens företagskrafter förstår och tjänar pengar på mänskliga känslor. Dr Adam Kramer, mannen bakom studien och en mångårig medlem av företagets forskargrupp, kommenterade i en upphetsad Q & A att "Facebook-data utgör den största fältstudien i världens historia." Etiken i denna situation har ännu inte packats upp.
Jag ställde ett antal frågor till Facebooks representanter, inklusive Dr Kramer, under tre veckors telefonsamtal, e-postmeddelanden och direktmeddelanden. Jag fick upprepade gånger veta att Adam Kramer var för upptagen för att prata med mig och skulle förbli för upptagen under överskådlig framtid, även om Dr Kramer själv sa till mig att han inte kunde prata med mig utan pressteamets säg. Facebook var inte tillgänglig för kommentarer. Facebook gick till en viss ansträngning för att vara så otillgänglig som möjligt för kommentarer utan att direkt tala om för mig var jag skulle skjuta min förfrågan. Facebook var otillgängliga för kommentarer på det sättet att en man som, när han hör dörrklockan, springer ut genom bakdörren och över trädgårdsväggen inte är hemma för besökare.
Jag frågade om det var möjligt för användare att ta reda på om deras egna nyhetsflöden hade ändrats. Inget svar. Jag frågade om det var möjligt för användare att välja bort ytterligare sådana studier. Inget svar, men om jag hade fått ett, misstänker jag att det skulle ha varit "nej" – alla användare samtycker implicit till att experimenteras med när de registrerar sig för tjänsten. Jag frågade om någon hade brytt sig om att kolla upp alla människor hos vilka negativa känslor uppenbarligen framkallades. Inget svar.
Det enda Facebooks representanter skulle berätta för mig är att ja, de hade verkligen genomfört studien och ja, de hade undersökt effekterna av känslomässig smitta under en tid. Just nu är internet upprörda över att Facebook lekte med över en halv miljon användares känslor i forskningens namn, utan deras samtycke. Men en viktig sak att komma ihåg här – och vad som blir tydligt när man läser igenom ett halvt decenniums nyhetsrapporter – är att Facebook har gjort detta i flera år. Företagets förslag att det inte förstår allt tjafset om sin forskning om "emotionell smitta" undergrävs snarare av det faktum att det har bedrivit denna forskning till stora kostnader och under en tid.
Deras knappt samförståndsexperiment med att manipulera känslor och ideologier, snarare än att bara spåra deras mönster, är inte nya. De pågår. Facebook är djupt investerat i "vad som händer när du tillämpar vetenskapen om hur människor förhåller sig till varandra till social teknik", för att citera från prospektet för deras senaste "Compassion Research Day". Etiken att förändra människors upplevelse av världen i denna skala, utan deras samtycke, för forskningsändamål, verkar inte besvära Facebooks forskarteam.
Emotionell ingenjörskonst är, och har alltid varit, Facebooks affärsmodell. Det är praxis att göra sig själv socialt oumbärlig som har säkerställt att Facebook för många miljoner människor har blivit den förvalda förstasidan på internet. Deras nyhetsflöde är bokstavligen det – det är det första stället många av oss går till för att ta reda på vad som har hänt i världen och i världarna för de vi älskar, de vi gillar och de vi en gång träffade på en fest och fick en besvärlig vän begäran från två veckor senare. Nathan Jurgenson, teoretiker för sociala medier, forskare på Snapchat och redaktör på Ny förfrågan, sa till mig att: "Detta är en del av användarvillkoren. All design spelar på våra känslor. Den studien nämnde inte gilla-knappen, som i sig är känslomässig ingenjörskonst.
Naturligtvis har faktiska tidningar gjort detta sedan den heta typens dagar. De väljer ut berättelser för att representera en viss världsbild, ändrar innehåll för att passa sina annonsörer, ändrar rubriker, sprider propaganda. Men Facebook är inte en tidning: det är en distributionsplattform, en webbplats för socialt utbyte. Motsvarigheten här är inte bara till exempel sol tidningen som bestämmer sig för att backa upp Rupert Murdochs syn på världen, men din lokala pub, butik, snabbköp och postkontor vägrar plötsligt att lagra något annat än solutan föregående varning.
De flesta experiment av detta slag, även om det har varit få i denna skala, erbjuder försökspersonerna ett blindt val under antagandet att valen kommer att vara ofarliga för dem. Aleks Krotoski, expert på internetforskningsmetoder som har en doktorsexamen i social forskning, berättade för mig att även om studien passerade två etikforskningsnämnder, "för en sådan nätverksstudie överväger etiska nämnder följande när de avstår från behovet av att få informerat samtycke: forskningen får inte innebära större än minimal risk”. Det Facebook har gjort, enligt sina egna påståenden, är inte ofarligt. Testet framkallade negativa känslor hos tiotusentals människor för att bevisa en poäng.
Skriver på Medium, Zeynep Tufekci identifierar detta som "en Gramscian modell för social kontroll: en där vi effektivt mikronuffas till "önskat beteende" som ett medel för samhällelig kontroll". Den typen av kontroll var aldrig möjlig i den här skalan tidigare. TV kunde inte göra det. Radio kunde inte göra det. Tidningar kunde inte hålla reda på hur en enskild läsare mådde och vem de pratade med och bestämma vilket meddelande de skulle skicka. Sociala medieföretag kan göra allt detta och mer. Detta har redan utvidgats till kontroll av röstningsbeteende.
Facebook har redan manipulerat sina användares röstbeteende och skröt om det också.
Jag ska ge dig en sekund att överväga konsekvenserna av det.
Här är vad som hände. 2010 gjorde Facebook små experimentella ändringar av banderollerna som släpptes för att påminna amerikanska medborgare att rösta. De flesta användare såg en banner som uppmuntrade röstning, med bilder under bannern på Facebook-vänner som redan hade röstat, eller som åtminstone hade klickat på knappen och hävdade det (fyra procent av människorna visade sig ljuga om det). Två slumpmässigt utvalda grupper på 600,000 2012 användare – detta verkar vara den magiska siffran för Facebooks interna wonks – såg ett meddelande utan ansikten på sina vänner, eller inget meddelande alls. 340,000 års studie baserad på dessa uppgifter hävdade att Facebooks "kom ut och rösta"-meddelanden kan ha orsakat ytterligare XNUMX XNUMX röster, och att bara manipulering av meddelandet ändrade dessa siffror med tiotusentals. De fastställde detta genom att granska offentliga väljarlistor: korskontrollera information om privat status mot de register som staten har om din politiska aktivitet.
Sammanfattningen förklarar stolt att dess resultat "visar att budskapen direkt påverkade politiskt självuttryck, informationssökning och verkliga röstbeteende för miljontals människor". Den ledande forskaren i experimentet med väljarmanipulation, Dr J Fowler, sa till CNN: "Om vi vill göra världen till en bättre plats i stor skala, bör vi fokusera inte bara på att förändra en persons beteende, utan också på att använda nätverket att påverka den personens vänner.”
För dig och mig är detta ett massivt hemligt politiskt experiment på den läskiga-totalitära sidan av intressant. För en senator, eller en riksdagsledamot, betyder och betydde denna nyhet mycket, mycket mer. Det betyder makt. Kraft av ett nytt och hisnande slag. Makt som kräver att bli uppmärksammad och uppvaktad.
Tänk om Facebook, till exempel, valde att subtilt ändra sitt röstmeddelande i svängande stater? Tänk om de utvalda befolkningarna som inte såg ett gå-ut-och-rösta-meddelande bara råkade befinna sig i, säg, majoriteten av afroamerikanska grannskap? Det faktum att Facebook uppenbarligen är bra killar som får filmer gjorda om dem med Aaron Sorkin-manus och Trent Reznor-soundtracks och uppenbarligen aldrig skulle göra något sådant förändrar inte det faktum att de kunde göra det, och mer om de väljer, och sedan hävda det som forskning.
Studierna, tagna individuellt, är läskiga nästan samförståndsexperiment på individers mest intima känslor och viktigaste val. Sammantaget finns det ett skrämmande mönster.
Facebooks tjänst är inte gratis. Facebooks produkt är din information, din världsbild, dina minnen och erfarenhet, och det är vad du betalar med varje gång du loggar in. Den informationen är kraft av en kvalitet som går att handla med och sälja.
Det enkla svaret skulle naturligtvis vara att om du inte vill bli spionerad, känslomässigt manipulerad och studerad, sluta med Facebook. Men det är inte så den moderna informationsekonomin fungerar. Det har det aldrig varit. Det kostar att inte delta i dessa nya nätverk. Valet att inte delta är valet att gå miste om evenemang, födelsedagar, statusuppdateringar. Din bästa väns bröllopsbilder. Din unga kusin ringer efter hjälp klockan fyra på morgonen. Professionella nätverk, som "Binders Full of Women Writers", den stora stora ärorika globala gruppen av författare och journalister som jag fick en inbjudan till förra veckan. Och, viktigast av allt, nyheter om världen. De senaste artiklarna jag har läst om Facebook-studien om känslomässig smitta har länkats till mitt Facebook-nyhetsflöde. Jag tycker att mina egna känslor påverkas negativt av nyheterna, och kan inte låta bli att undra om någon spårar det faktumet, om jag kanske borde försöka få bort dem från doften genom att lägga upp några bilder på bedårande sengångare.
Fler människor lever en del av sina liv på Facebook än bor i något enskilt land på jorden, förutom Kina. Det är i själva verket ett land i sig, ett land av ren information där myndigheterna vet allt du gör och kan ändra allt du ser, utan att ens berätta det först. De kan se till att du bara hör glada nyheter en viss dag, för att uppmuntra dig att köpa fler MacGuffins. Och de kan manipulera hur du röstar.
Om Facebook är ett land så är det en företagsdiktatur. Detta är ingen metafor. Jag tror att det är över tiden att vi började hålla sociala nätverk inte bara till marknadens lagar utan till de gemensamma lagarna i de samhällen vi lever i och de samhällen vi vill se. Principer som rätten att få information utan hinder. Principer som att inte göra tiotusentals människor ledsna för din personliga vinning. Principer som att företag inte bråkar med sina användares röstbeteende på något sätt, av någon anledning. Och det är just nu när dessa principer, dessa prejudikat, kommer att avgöras.
Laurie Pennys Osägliga saker: Sex, lögner och revolution finns att förbeställa. Hon kommer också att prata med klassikern och författaren Mary Beard den 30 juli i Conway Hall, London. Mer information och biljetter här.
ZNetwork finansieras enbart genom sina läsares generositet.
Donera