Facebook의 서비스 약관에 동의한다는 작은 상자를 클릭하면 실험실 쥐가 되는 데 동의하는 것입니다.
소셜 미디어 기업의 연구 부서에서 '감정 전염'에 대한 연구를 진행했다는 소식이 인터넷을 뜨겁게 달궜습니다. 600,000만 명이 넘는 사람들이 더 많은 슬픈 메시지를 보는 것이 사람을 더 슬프게 하는지 판단하기 위해 더 많은 "긍정적" 또는 "부정적" 콘텐츠를 반영하도록 Facebook 뉴스피드를 변경했습니다. "부정적인" 콘텐츠는 테스트 대상의 뉴스피드에서 완전히 검열되지 않았습니다. 친구의 개인 페이지에 체크인하면 그 사람이 좋은 하루를 보냈는지 여부를 계속 확인할 수 있습니다. 그러나 뉴스피드 자체는 예고 없이 조정되었으며, 피험자의 감정적 반응을 추적하고 언어 사용의 변화로 판단했습니다.
사람들이 오프라인일 때와 마찬가지로 온라인에서도 다른 사람의 감정에 영향을 받는다는 연구 결과는 누구도 놀라지 않았습니다. 결과는 요점이 아닙니다. 웹 전체에 분노를 불러일으키는 요점과 사실은 Facebook이 이것을 할 수 있다는 것입니다. 페이스북은 무슨 일이 일어나는지 보기 위해 수십만 명의 사람들의 감정을 조작할 수 있습니다.
나는 지금 몇 주 동안 이 이야기를 파헤쳐 왔습니다. 논문을 읽고 심리학 연구의 사소한 절차에 대해 나보다 더 많은 정보를 갖고 있는 사람들을 포함하여 해당 분야의 여러 전문가와 이야기를 나눈 결과, 나는 페이스북 팀이 자신들이 무엇을 하고 있는지 알고 있는지 확신할 수 없습니다. 그러나 그것은 그것이 무엇인지 알고 있습니다 do – 개인 정보에 접근하고 1.25억 XNUMX천만 사용자의 친밀한 상호 작용을 제공하는 플랫폼이 할 수 있는 일.
이전에는 누구도 이런 종류의 힘을 가졌던 적이 없습니다. 어떤 독재자도 XNUMX억 명 이상의 인간의 일상적인 감정을 그토록 효과적으로 미묘하게 조작할 수는 없었습니다. Facebook이 여기서 하고 있는 일에 대한 선례는 없습니다. 페이스북 자체가 선례다. 현재 회사가 하는 일은 미래의 기업이 인간의 감정을 이해하고 이를 통해 수익을 창출하는 방식에 영향을 미칠 것입니다. 연구를 주도한 사람이자 회사 연구팀의 오랜 멤버인 Adam Kramer 박사는 흥미진진한 Q&A에서 "Facebook 데이터는 세계 역사상 가장 큰 현장 연구를 구성합니다."라고 말했습니다. 이 상황의 윤리는 아직 풀리지 않았습니다.
나는 XNUMX주간의 전화 통화, 이메일, 다이렉트 메시지를 통해 크레이머 박사를 포함한 페이스북 대표들에게 여러 가지 질문을 던졌습니다. 나는 Adam Kramer가 너무 바빠서 나와 대화할 수 없으며 가까운 미래에도 너무 바쁠 것이라는 말을 반복해서 들었습니다. 하지만 Kramer 박사 자신은 언론 팀의 승인 없이는 나와 대화할 수 없다고 말했습니다. Facebook에서는 댓글을 달 수 없습니다. Facebook은 내 문의 사항을 어디로 보내야 하는지 직접 알려주지 않고 가능한 한 댓글을 달 수 없도록 노력했습니다. 초인종 소리를 듣고 뒷문으로 뛰쳐나와 정원 벽을 넘어간 남자가 방문객의 집에 없다는 점에서 페이스북은 논평을 할 수 없었다.
나는 사용자들이 자신의 뉴스피드가 변경되었는지 알아내는 것이 가능한지 물었습니다. 대답이 없습니다. 나는 사용자가 그러한 연구를 더 이상 거부할 수 있는지 물었습니다. 대답은 없지만, 만약 하나를 받았다면 아마도 "아니요"였을 것입니다. 모든 사용자는 서비스에 가입할 때 실험을 받는 데 암묵적으로 동의합니다. 나는 부정적인 감정을 불러일으킨 것으로 보이는 모든 사람들을 일일이 확인하려고 노력한 사람이 있는지 물었습니다. 대답이 없습니다.
Facebook 대표가 나에게 말할 한 가지는 그렇습니다. 그들은 실제로 연구를 수행했으며, 한동안 감정 전염의 영향을 조사해 왔다는 것입니다. 현재 인터넷은 페이스북이 연구라는 이름으로 XNUMX만 명이 넘는 사용자의 동의 없이 그들의 감정을 조작했다는 사실에 분노하고 있습니다. 그러나 여기서 기억해야 할 핵심 사항 중 하나는 – 그리고 XNUMX년 동안의 뉴스 보도를 읽으면서 분명해진 것은 – 페이스북이 수년 동안 이 일을 해 왔다는 것입니다. "감정 전염" 연구에 대한 모든 소란을 이해하지 못한다는 회사의 제안은 해당 연구를 막대한 비용과 상당 기간 동안 수행해 왔다는 사실로 인해 오히려 약화됩니다.
단순히 패턴을 추적하는 것이 아니라 감정과 이념을 조작하는 간신히 합의된 실험은 새로운 것이 아닙니다. 그들은 계속되고 있습니다. Facebook은 최근 "Compassion Research Day"에 대한 안내서에서 인용한 것처럼 "사람들이 서로 관계를 맺는 방식에 대한 과학을 사회 기술에 적용하면 어떤 일이 일어나는지"에 깊이 투자하고 있습니다. 연구 목적을 위해 동의 없이 사람들의 세계 경험을 이 정도 규모로 바꾸는 윤리는 Facebook 연구팀에게 문제가 되지 않는 것으로 보입니다.
감성공학은 언제나 그랬듯 페이스북의 비즈니스 모델입니다. 수백만 명의 사람들에게 Facebook이 인터넷의 기본 첫 페이지가 되도록 보장한 것은 스스로를 사회적으로 없어서는 안 될 존재로 만드는 관행이었습니다. 그들의 뉴스피드는 말 그대로 그렇습니다. 우리 중 많은 사람들이 세상에서 무슨 일이 일어나고 있는지 알아보기 위해 가장 먼저 찾는 곳입니다. 우리가 사랑하는 사람, 좋아하는 사람, 한때 파티에서 만났고 어색한 친구를 사귄 사람들의 세상에서 무슨 일이 일어나고 있는지 알아보세요. XNUMX주 후에 요청하세요. Nathan Jurgenson은 소셜 미디어 이론가이자 Snapchat의 연구원이자 Snapchat의 편집자입니다. 새로운 문의, 나에게 다음과 같이 말했습니다. “이것은 서비스 약관의 일부입니다. 모든 디자인은 우리의 감정에 따라 움직입니다. 그 연구에서는 그 자체가 감정 공학인 좋아요 버튼을 언급하지 않았습니다.”
물론 실제 신문들도 핫타입 시절부터 이런 일을 해왔습니다. 그들은 특정 세계관을 대표하는 기사를 선택하고, 광고주에 맞게 콘텐츠를 변경하고, 헤드라인을 변경하고, 선전을 유포합니다. 하지만 페이스북은 신문이 아닙니다. 유통 플랫폼이자 사회적 교류의 장입니다. 여기서 동등한 것은 예를 들어 다음이 아닙니다. 태양 신문은 루퍼트 머독의 세계관을 지지하기로 결정했지만, 동네 술집, 상점, 슈퍼마켓, 우체국은 갑자기 그 물건 외에는 아무것도 재고를 거부했습니다. 태양사전 경고 없이.
이러한 종류의 실험은 대부분 비록 이 규모의 실험은 거의 없었지만 피험자에게 선택이 무해할 것이라는 가정 하에 맹목적인 선택을 제공합니다. 인터넷 연구 방법 전문가이자 사회 연구 박사 학위를 보유한 Aleks Krotoski는 해당 연구가 두 개의 윤리 연구 위원회를 통과했지만 “그러한 네트워크 연구의 경우 윤리 위원회는 사전 동의를 얻을 필요성을 포기할 때 다음 사항을 고려합니다. 연구에는 최소한의 위험 이상이 수반되어서는 안 됩니다.” 페이스북이 한 일은 자체 주장에 따르면 무해하지 않습니다. 이 테스트는 요점을 입증하기 위해 수만 명의 사람들에게 부정적인 감정을 유발했습니다.
Medium에서 글쓰기, Zeynep Tufekci 이것을 식별합니다 "사회 통제에 대한 그람시적 모델: 우리가 사회적 통제의 수단으로서 '바람직한 행동'에 효과적으로 미시적으로 개입되는 모델"입니다. 이전에는 이 규모에서는 그런 종류의 제어가 불가능했습니다. 텔레비전은 그것을 할 수 없었습니다. 라디오는 할 수 없었습니다. 신문은 독자 개인의 감정이 어떤지, 누구와 이야기하고 있는지 추적할 수 없으며 어떤 메시지를 보낼지 결정할 수 없습니다. 소셜 미디어 회사는 이 모든 것, 그 이상을 할 수 있습니다. 이는 이미 투표 행위 통제까지 확대되었습니다.
페이스북은 이미 사용자들의 투표 행위를 조작하고 자랑하기도 했습니다.
그 의미에 대해 잠시 생각해 보도록 하겠습니다.
여기에 무슨 일이 있었는지. 2010년에 페이스북은 미국 시민들에게 투표를 상기시키는 배너를 작고 실험적으로 변경했습니다.. 대부분의 사용자는 이미 투표했거나 적어도 투표했다고 주장하는 버튼을 클릭한 Facebook 친구의 배너 아래에 이미지가 있는 투표를 장려하는 배너를 보았습니다(600,000%의 사람들이 이에 대해 거짓말을 한 것으로 밝혀졌습니다). 2012명의 사용자로 구성된 무작위로 선택된 두 그룹(이는 Facebook 내부 직원의 마법의 숫자인 것 같습니다)이 친구의 얼굴이 없는 메시지를 보거나 메시지가 전혀 없는 메시지를 보았습니다. 이 데이터를 기반으로 한 340,000년 연구에서는 Facebook의 "나가서 투표하세요" 메시지로 인해 추가로 XNUMX표가 투표되었으며, 단지 메시지를 조작하는 것만으로도 그 숫자가 수만 표 변경되었다고 주장했습니다. 그들은 공개 유권자 명부를 조사하여 이를 결정했습니다. 즉, 주정부가 귀하의 정치 활동에 대해 보유하고 있는 기록과 개인 상태 정보를 대조 확인하는 것입니다.
초록은 그 결과가 "메시지가 정치적 자기 표현, 정보 추구 및 수백만 명의 실제 투표 행동에 직접적으로 영향을 미쳤다는 것을 보여준다"고 자랑스럽게 선언합니다. 유권자 조작 실험의 수석 연구원인 J 파울러 박사는 CNN과의 인터뷰에서 이렇게 말했습니다. “대규모로 세상을 더 나은 곳으로 만들고 싶다면 사람의 행동을 바꾸는 것뿐만 아니라 네트워크 활용에도 초점을 맞춰야 합니다. 그 사람의 친구들에게 영향을 미치려고요.”
당신과 나에게 이것은 소름 끼치는 전체주의적 측면에 대한 흥미로운 대규모 비밀 정치 실험입니다. 상원의원이나 국회의원에게 이 소식은 훨씬 더 많은 것을 의미하고 의미합니다. 그것은 힘을 의미합니다. 새롭고 숨막히는 종류의 힘. 주의를 기울이고 구애를 받아야 하는 힘.
예를 들어, 페이스북이 스윙 스테이트에서 투표 메시지를 미묘하게 변경하기로 결정했다면 어떻게 될까요? 탈퇴 및 투표 메시지를 보지 못한 선택된 인구가 우연히 대부분의 아프리카 계 미국인 지역에 있었다면 어떻게 될까요? Facebook이 Aaron Sorkin의 대본과 Trent Reznor의 사운드트랙을 사용하여 자신에 대한 영화를 제작하는 좋은 사람들임이 분명하고 결코 그런 일을 하지 않을 것이라는 사실이 그들이 있다는 사실을 바꾸지는 않습니다. 수 원하는 경우 더 많이 수행한 다음 이를 연구라고 주장하세요.
개별적으로 수행된 연구는 개인의 가장 친밀한 감정과 가장 중요한 선택에 대한 소름 끼치는 준 합의 실험입니다. 종합해보면 무서운 패턴이 있습니다.
Facebook의 서비스는 무료가 아닙니다. Facebook의 상품은 귀하의 정보, 귀하의 세계관, 귀하의 추억 및 경험이며, 귀하가 로그인할 때마다 지불하는 금액입니다. 그 정보는 거래되고 판매될 수 있는 품질의 힘입니다.
물론 간단한 대답은 감시당하고 감정적으로 조종당하고 연구당하고 싶지 않다면 Facebook을 그만두라는 것입니다. 그러나 그것은 현대 정보 경제가 작동하는 방식이 아닙니다. 그런 적이 없습니다. 이러한 새로운 네트워크에 참여하지 않으면 비용이 발생합니다. 참여하지 않는 선택은 이벤트, 생일, 상태 업데이트를 놓치는 선택입니다. 가장 친한 친구의 웨딩 사진. 새벽 XNUMX시에 어린 사촌이 도움을 요청합니다. 제가 지난 주에 초대를 받은 작가와 언론인으로 구성된 거대하고 영광스러운 글로벌 그룹인 "여성 작가들로 가득한 바인더"와 같은 전문 네트워크입니다. 그리고 가장 중요한 것은 세계에 관한 뉴스입니다. 최근 Facebook의 감정 전염 연구에서 읽은 기사가 내 Facebook 뉴스피드에 링크되어 있습니다. 나는 내 자신의 감정이 뉴스에 의해 부정적인 영향을 받았다는 것을 알고 있으며 누군가가 그 사실을 추적하고 있는지, 어쩌면 사랑스러운 아기 나무늘보의 사진을 게시하여 그 냄새를 없애도록 노력해야 하는지 궁금하지 않을 수 없습니다.
중국을 제외하고 지구상의 어느 국가에 사는 것보다 더 많은 사람들이 Facebook에서 삶의 일부를 살고 있습니다. 사실상 국가 자체는 당국이 귀하가 하는 모든 일을 알고 있으며, 귀하에게 먼저 말하지 않고도 귀하가 보는 모든 것을 변경할 수 있는 순수한 정보의 국가입니다. 특정 날짜에 행복한 소식만 듣게 하여 더 많은 MacGuffins를 구매하도록 장려할 수 있습니다. 그리고 그들은 당신이 투표하는 방식을 조작할 수 있습니다.
페이스북이 국가라면 그것은 기업 독재다. 이것은 은유가 아닙니다. 나는 우리가 소셜 네트워킹을 시장의 법칙뿐만 아니라 우리가 살고 있는 사회, 우리가 보고 싶은 사회의 공통법에 따라 적용하기 시작한 것은 시대를 초월한 것이라고 믿습니다. 장애 없이 정보를 받을 권리와 같은 원칙. 자신의 이익 때문에 수만 명의 사람들을 슬프게 하지 않는 것과 같은 원칙입니다. 기업이 어떤 이유로든 사용자의 투표 행동을 건드리지 않는 것과 같은 원칙입니다. 그리고 지금이야말로 그러한 원칙과 선례가 결정될 때입니다.
로리 페니의 말할 수 없는 것들: 섹스, 거짓말 그리고 혁명 사전 주문이 가능합니다. 그녀는 또한 30월 XNUMX일 런던 콘웨이 홀에서 고전학자이자 작가인 메리 비어드(Mary Beard)와 대화를 나눌 예정입니다. 자세한 내용 및 티켓 여기를 클릭해 문의해주세요.
ZNetwork는 독자들의 관대함을 통해서만 자금을 조달합니다.
후원