想想看:2004 年,哈佛大学二年级学生扎克伯格坐在宿舍里敲击电脑键盘。他从两名善良但愚钝的哈佛本科生那里“借用”了一个想法,并编写了将其变成社交网站所需的计算机代码。他从朋友 Eduardo Saverin 那里借了 1,000 美元,并将该网站提供给互联网虚拟主机服务。他称之为“Facebook”。
十四年后,那个孩子已经变身为 21 世纪约翰·D·洛克菲勒 (John D Rockefeller) 和威廉·伦道夫·赫斯特 (William Randolph Hearst) 的化身。 20世纪初,洛克菲勒控制了石油的流动,赫斯特控制了信息的流动。在 21 世纪,扎克伯格控制着新石油(数据)和信息的流动(因为人们从他控制的平台获取大部分新闻)。他的帝国涵盖超过 2.2 亿人口,并且他对其行使绝对控制权——正如该公司向 SEC 提交的 10-K 文件中的一段文字所表明的那样。其部分内容如下:
“我们的创始人、董事长兼首席执行官马克·扎克伯格能够对我们已发行股本的多数投票权行使投票权,因此有能力控制提交给我们股东批准的事项的结果,包括选举董事以及任何合并、合并或出售我们全部或大部分资产。这种集中控制可能会延迟、推迟或阻止我们其他股东支持的所有或几乎所有资产的控制权变更、合并、合并或出售,或者相反,这种集中控制可能导致此类交易的完成我们的其他股东不支持……”(1)。
公司控制权的这种集中在大型上市公司中是不寻常的(2),并引发了有关公司治理和社会责任的问题。这些问题在扎克伯格的帝国中尤为严重,因为他不仅掌握着垄断者的经济实力(在社交网络领域,Facebook 没有强有力的竞争对手),而且还经营着一种影响民主进程的商业模式,甚至可能影响了民主进程。 2016 年英国脱欧公投以及美国和其他地方的总统选举的结果。
这并不是说扎克伯格本人追求政治目标,至少目前如此。相反,该主张是(a)Facebook 构建的计算机化、有针对性的广告系统可以(并且已经)被政治行为者利用,试图向用户发送政治或意识形态信息,这些用户的数据资料表明他们可能愿意接受那些消息; (b) 这种社交媒体“武器化”的结果最多可能是反社会的,最坏的是反民主的。
2016-17 年发现社交媒体政治利用的最引人注目的事情是扎克伯格和他的高管最初怀疑这样的事情会发生。这表明以下部分或全部: 政治天真程度非常高;严重的故意失明;和/或愤世嫉俗地决定避免公开讨论问题的根本原因——公司的商业模式以及伴随公司赋予所有者权力的责任。
商业模式:监视资本主义
目前西方世界最有价值的五家公司——苹果、Alphabet(谷歌的所有者)、亚马逊、微软和 Facebook——都是数字企业。其中三个——苹果、亚马逊和微软——拥有相对传统的商业模式:它们生产顾客付费的商品和/或服务。另外两家——谷歌和 Facebook——提供免费服务,以换取提取用户个人信息和数据轨迹并将其货币化的权利。然后部署如此提取、提炼和聚合的数据,以帮助广告商——实际的 客户 公司的——向用户投放广告。这通常可以用格言来概括:“如果服务是免费的,那么你就是产品”。
谷歌和 Facebook 运营着经济学家所说的双边市场:在他们的案例中,来自一侧客户(广告商)的收入补贴了另一侧的用户。近年来,这个词 监视资本主义 (3) 被创造来描述这种商业模式。尽管谷歌和 Facebook 将自己描绘成科技公司,但有时将它们视为石油或采矿公司等采掘企业更具启发性。后者从地球中提取自然资源,然后进行提炼、加工并出售给客户。 Facebook 和谷歌做了类似的事情,但他们提取、提炼和货币化的资源是纯粹数字化的——用户在其平台上的活动生成的数据轨迹。
然而,石油/矿业企业与这两个数字巨头之间存在着根本性的差异。虽然自然资源储量最终是有限的 (4),但谷歌和 Facebook 提取的“资源”储量原则上几乎是无限的,因为它们是由业界所谓的用户参与(即用户的在线活动)创建的。这种参与的程度和数量是惊人的;例如,在 Facebook 上,每 60 秒就会发布 510,000 条评论,更新 293,000 个状态,上传 136,000 张照片 (5)。
由于用户参与度是产生可货币化数据路径的因素,因此商业模式的首要任务是不断提高参与度。因此,这些公司部署了强大的技术和设计资源,以说服用户在其平台上花费更多时间并更深入地与他们互动 (6)。
这种供给方设计的大部分内容都是通过对人类行为的应用心理学研究得出的——与老虎机设计的研究相同(7)。有些服务在设计上会让人上瘾 (8),而另一些服务则利用已知的人类错误 (9)(例如,使用视频自动播放等默认设置 - 用户可以更改但通常不会 (10))。这些公司每天不断地实时进行数千次 A/B 实验,以确定哪些展示调整最有效地提高用户参与度。因此,从隐喻意义上来说,社交媒体的用户就是斯金纳迷宫中不知情的老鼠,这些迷宫是为他们的快乐而创建的。这导致一些评论家将社交媒体称为“多巴胺经济”(11)。
在需求方面,人类心理和社会性在保持机器运转方面发挥着重要作用。众所周知,人类受到多种因素的影响 认知偏差 (12),社交媒体利用哪些内容。众所周知的例子包括 确认偏误 (以证实个人先入之见的方式搜索、解释、关注和记住信息的倾向);和 双曲线贴现 (相对于稍后的回报,人们对更直接的回报有更强的偏好)。在社会性方面有 趋同性 ——个人与相似的人交往和建立联系的倾向。
世界姗姗来迟地意识到,我们正处于一场由多种强大力量汇聚而成的完美风暴中:网络效应导致全球垄断的出现;监控资本主义的商业模式,及其对增加用户参与度的永不满足的需求;精明地运用应用心理学来设计强迫性或令人上瘾的应用程序、设备和服务;认知偏差是人类心理学的一部分;聚集在一起的强大倾向(这可能是早期人类社会群体的继承)并导致在线数字回声室;政治行为者将社交媒体武器化。
用户生成的内容:一把双刃剑
当互联网在 1990 世纪 XNUMX 年代中期首次成为主流时,它被誉为一种民主化技术,可以解放人们与生俱来的创造力。普通人将能够绕过模拟媒体生态系统的编辑把关人,而不是成为公司创建的内容的被动消费者。 “互联”未来的这些可能性在 网络财富,哈佛大学学者 Yochai Benkler 于 2006 年出版的一本里程碑式的著作 (13)。
尽管该技术确实(并且确实)拥有本克勒所推崇的所有赋权、民主化潜力,但事实上,只有相对少数的人以创造性的方式利用了它。随着 Facebook 和 YouTube 的出现,这种情况发生了变化,这些服务使用户可以轻松上传内容。由此产生的大部分内容并不引人注目(其中大部分侵犯了版权),但从一开始就很明显,社交媒体平台有效地提供了一面人性的镜子,而镜子中出现的一些内容是令人不快的,有时甚至是可怕的 (14) 。此外,事实证明,其中一些极端或其他有问题的内容增加了用户参与度,这意味着它为托管它的平台产生了更多可货币化的数据。
最初,Facebook 对此的反应很宽松:用户有责任标记不可接受或有问题的内容,以便平台所有者进行审查。美国 230 年《通信规范法案》第 1996 条强化了这种随意的态度,该法案免除了互联网服务提供商对其平台上托管内容的法律责任 (15)。但在一系列事态发展之后,包括 2016 年和 2017 年有关政治行为者将社交媒体武器化的争议、Facebook 服务在缅甸和斯里兰卡种族清洗中所扮演角色的曝光、该公司未能删除由于仇恨言论和阴谋论,以及一系列其他丑闻 (16),2018 年这种宽松的姿态已经站不住脚,该公司现在正在努力遏制因运营一个平台而产生的滥用行为,该平台使任何人都可以随时随地发布他们想要的任何内容。
洞察人们灵魂的窗口
监控资本主义公司已经非常擅长为用户提供他们想要的东西——这就是为什么一些人遗憾地承认他们发现它们让人上瘾的原因之一。他们之所以能够做到这一点,是因为他们收集了有关这些用户及其可能的兴趣、担忧和需求的大量揭示性数据。
就 Facebook 而言,关键的见解是 2013 年发现即使是低水平的用户参与度也能揭示出多么大的信息。剑桥大学的研究人员展示了该公司可能已经知道的一些东西,即 Facebook 点赞可以用于“自动、准确地预测一系列高度敏感的个人属性,包括:性取向、种族、宗教和政治观点、个性特征、智力、幸福感” 、使用成瘾物质、父母分居、年龄和性别”(17)。
从用户在网站上的行为获得的洞察最终得到了以下补充:(a) 通过跟踪 Facebook 用户在更广泛的网络上收集的信息和 (b) 从外部来源(例如信用评级机构)购买的用户数据来构建数据 -据报道,每个用户的配置文件 (18) 运行了 98 个数据点。
2007 年,Facebook 做出了一项重大创新,该创新后来对其发展及其在民主颠覆中的作用产生了重大影响。公司突然提出 本身 作为第三方开发者可以运行应用程序的平台。 “人们应该在 Facebook 平台上构建应用程序,因为它在互联网上提供了一种新的分发方式,”当时的一位公司高级管理人员表示。 “实际上,所有其他操作系统和平台所缺乏的是真正接触人们的能力(19)。”
但万维网平台是开放且不受控制的,而 Facebook 平台是专有的并由公司控制。平台迁移的战略目标是扩大 Facebook 的全球影响力和渗透力,使其(而不是开放网络)实际上成为大多数人所关心的互联网。从开发者的角度来看,吸引力在于他们的应用程序可以利用 Facebook 积累的用户数据。正是允许第三方应用程序在其平台上运行的决定,加上未能充分监管这些应用程序对用户数据的处理方式,最终导致了 20 年的剑桥分析丑闻 (2018)。
目标引擎
正如我们所观察到的,谷歌和 Facebook 的用户并不是他们的客户。这一角色由广告商扮演,他们使用公司开发的自动化引擎来识别其商业信息的目标。因此,对监视资本主义如何运作的最有启发性的见解不是通过成为用户而是通过作为客户(即广告商)进入来获得。
两家公司都构建了自动化引擎,使广告商能够识别他们希望其信息到达的受众类型。这些发动机在操作和设计方面都令人印象深刻。 Facebook 的产品特别人性化 (21),它会温和地引导客户完成识别该公司所谓的自定义受众所需的各种步骤,并有助于建议用户一开始可能没有想到的类别。正如一位评论家所说:
“如果我想吸引邮政编码 25 中年龄在 30 岁到 37206 岁之间、喜欢乡村音乐和喝波本威士忌的女性,Facebook 可以做到。此外,Facebook 经常可以让这些女性的朋友在目标消费者的新闻源上发布‘赞助故事’,所以它感觉不像是广告。”
但使用 Facebook 引擎并不一定是一家从事商业广告的传统公司。任何希望向目标受众传达几乎任何信息的人都可以使用该机器。似乎让 Facebook 感到惊讶的是,一些选择使用其系统的实体(包括至少一个外国势力)的业务不是向特定类别的用户发送商业信息,而是意识形态或政治信息 (23)。
看起来使用社交媒体是实现这一目标的一种极具成本效益的方式。根据 “纽约时报”,俄罗斯特工意图在美国公民中挑拨离间,在 Facebook 上散布煽动性帖子,影响到 126 亿用户,在 Twitter 上发布了超过 131,000 条消息,并向 YouTube 上传了 1,000 多个视频 (24)。
新闻网站 ProPublica 在 2017 年 30 月进行的一项实验,引人注目地证明了 Facebook 定位引擎的有效性。研究人员向该公司支付了 15 美元,在 Facebook 用户的新闻源中放置了三个推广帖子——根据该服务的说法他们的个人资料——对“犹太人仇恨者”、“如何烧死犹太人”或“犹太人为何毁灭世界的历史”等主题表示感兴趣。 Facebook 引擎在 25 分钟内批准了所有三个广告 (XNUMX)。
扎克伯格的怪物
Facebook 是扎克伯格的怪物。与弗兰肯斯坦不同的是,他仍然对自己的创造物着迷,这让他比克洛伊索斯更加富有,成为了拥有 2.2 亿用户的帝国无可争议的统治者。它还赋予了他巨大的权力,以及随之而来的责任。但越来越明显的是,他的生物已经失去了控制,他对这种力量感到不安,并且对如何履行自己的责任几乎没有好主意。
Facebook 老板在 26 年夏天对科技记者 Kara Swisher 进行的一次揭露性采访(2018)很好地说明了这一点。这次谈话涵盖了很多话题,但其中的一些交流充分说明了扎克伯格的无能。来了解他的生物现在给社会带来的问题的严重程度。
其中之一——显然——是错误信息或虚假新闻。扎克伯格说:“我们对待虚假新闻的方法并不是说,你不能在互联网上说错话。我认为那太极端了。每个人都会犯错,如果我们在人们犯了一些错误时就删除他们的账户,那么让人们发声并表示你关心这一点将是一个艰难的世界。”
斯威舍随后向他询问了另类右翼网站 Infowars,该网站的 Facebook 页面拥有超过 900,000 万粉丝,经常散布谎言和阴谋论,包括声称桑迪胡克大规模枪击事件 (27) 从未发生过。尽管扎克伯格承认桑迪胡克的故事是假的,但信息战争仍在 Facebook 上蓬勃发展。这是因为“每个人都会犯错”,还是因为那900,000万粉丝?斯威舍没有询问,但第 4 频道对 Facebook 外包内容审核的爱尔兰公司进行的秘密调查 (28) 表明,都柏林遭受创伤的农奴无法删除拥有大量粉丝的 Facebook 页面上令人反感的内容;相反,此类决策必须向上提交管理链。
然而,斯威舍采访中最具启发性的部分涉及否认大屠杀——这是扎克伯格本人提出的话题。 “我是犹太人,”他说,“有一群人否认大屠杀的发生。我觉得这非常令人反感。但归根结底,我不认为我们的平台应该将其删除,因为我认为不同的人会犯错。我不认为他们故意犯错,但我认为很难质疑他们的意图并理解他们的意图。”
如果你觉得这很奇怪,那就加入这个俱乐部吧。我只能看到三种解释。一是扎克伯格是一个反社会者,他希望拥有尽可能多的内容——令人反感的或平庸的——以最大限度地提高用户参与度(从而提高收入),而不考虑社会后果。第二个原因是,Facebook 现在规模如此之大,以至于他将自己视为一位州长,负有保护言论自由的准宪法责任。这是一种妄想:Facebook 是一家公司,而不是一个民主国家。第三,也是最有可能的是,他害怕被指控在美国(实际上还有英国)政治中的两极分化歇斯底里中存在偏见。
就好像他突然意识到他的怪物赋予他的力量一样。正如《纽约时报》记者凯文·罗斯 (Kevin Roose) 在《每日播客》(29) 中所说,扎克伯格日益古怪的行为可能是更大事件的征兆。 “他创建的公司吞并了世界大部分地区的通信和媒体,”卢斯说道。 “现在我们看到他放弃了……统治世界的问题是你必须统治,而这似乎不是他想要做的。”在这种情况下,谁会呢?
这是新书《反社交媒体:对新闻和社会的影响》的一章的编辑版本,由约翰·梅尔、托尔·克拉克、尼尔·福勒、雷蒙德·斯诺迪和理查德·泰特编辑,可从 Abramis 购买,售价 19.95 英镑。电子邮件 [电子邮件保护] 订购副本。
- https://d18rn0p25nwr6d.cloudfront.net/CIK-0001326801/80a179c9-2dea-49a7-a710-2f3e0f45663a.pdf。相关段落继续说道:“此外,扎克伯格先生由于担任我们的首席执行官,并且有能力控制我们董事的选举或更换,因此有能力控制我们公司的管理和重大战略投资。 ……作为股东,甚至是控股股东,扎克伯格先生有权对其股份以及根据投票协议拥有投票控制权的股份进行投票,以符合他自己的利益,而这可能并不总是符合我们股东的利益。一般是股东。”
- 尽管在硅谷并不鲜见,富有魅力的创始人利用多层股权安排来确保他们保留对其创作的全面控制。例如,谷歌(现在的 Alphabet)就是这种情况,其动机至少部分是为了使创始人免受华尔街的短期压力,并使他们能够对企业采取更长期的战略观点。
- Shosana Zuboff,《监视资本主义的秘密》, 法兰克福全部联合报,5 年 2016 月 XNUMX 日。 http://www.faz.net/aktuell/feuilleton/debatten/the-digital-debate/shoshana-zuboff-secrets-of-surveillance-capitalism-14103616.html
- 迂腐的观点:关键词是“最终”。自然资源的可用储量水平是市场价格、位置和其他因素的函数。因此,石油储备水平取决于全球石油价格。如果价格高,那么从相对较难开采的油田开采石油在经济上是可行的。
- https://zephoria.com/top-15-valuable-facebook-statistics/
- 目前估计 Facebook 用户平均每天在该平台上花费的时间为 20 分钟。 (https://zephoria.com/top-15-valuable-facebook-statistics/)有些估计更高。
- 娜塔莎·道·舒尔, 瘾君子设计:机器赌博在拉斯维加斯,普林斯顿大学,2012 年。
- 参见尼尔·雅尔, 迷上了:如何构建习惯形成的产品,Penguin/Portfolio,2014 年。希拉里·安德森,“社交媒体应用‘故意’让用户上瘾”,BBC 新闻,4 年 2018 月 XNUMX 日, https://www.bbc.co.uk/news/technology-44640959
- 马洛里·洛克利尔 (Mallory Locklear),“肖恩·帕克说 Facebook‘利用’人类心理”, 瘾科技,11 9月2017。 https://www.engadget.com/2017/11/09/sean-parker-facebook-exploits-human-psychology/
- 约翰·诺顿(John Naughton),“更多的隐私选择意味着更多的机会为大型科技公司做最好的事情”, 观察员,8 July,2018。 https://www.theguardian.com/commentisfree/2018/jul/08/more-choice-privacy-gdpr-facebook-google-microsoft
- https://eand.co/the-dopamine-economy-336b239272ef
- https://en.wikipedia.org/wiki/List_of_cognitive_biases
- http://benkler.org/Benkler_Wealth_Of_Networks.pdf
- John Naughton,“Facebook 如何成为精神病患者的家园”, 观察员, 23 年 2017 月 XNUMX 日。 https://www.theguardian.com/commentisfree/2017/apr/23/how-facebook-became-home-to-psychopaths-facebook-live
- 约翰·诺顿(John Naughton),“两位国会议员如何创造了互联网上最响亮的名字”, 观察员,8 年 2017 月 XNUMX 日。 https://www.theguardian.com/commentisfree/2017/jan/08/how-two-congressmen-created-the-internets-biggest-names
- 例如,使用 Facebook Live 直播可怕的暴力、欺凌等行为。参见 John Naughton,“Facebook 如何成为精神病患者的家园”, 观察员, 23 年 2017 月 XNUMX 日。 https://www.theguardian.com/commentisfree/2017/apr/23/how-facebook-became-home-to-psychopaths-facebook-live
- Michal Kosinski、David Stillwell 和 Thore Graepel,“可以从人类行为的数字记录中预测私人特征和属性”, PNAS, 9 年 2013 月 110 日。15 (5802) 5805-XNUMX; https://doi.org/10.1073/pnas.1218772110
- https://www.washingtonpost.com/news/the-intersect/wp/2016/08/19/98-personal-data-points-that-facebook-uses-to-target-ads-to-you/?tid=sm_tw
- https://betanews.com/2007/05/25/facebook-becomes-a-software-company-with-platform-rollout/
- https://www.theguardian.com/news/series/cambridge-analytica-files。另请参阅 Kevin Roose,“Facebook 的数据共享如何从功能变为错误”, “纽约时报”,19 年 2018 月 2018 日。https://www.nytimes.com/03/19/XNUMX/technology/facebook-data-sharing.html
- https://www.facebook.com/business/a/custom-audiences
- 乔纳森·塔普林, 快速行动,打破常规:Facebook、谷歌和亚马逊如何垄断文化,以及这对我们所有人意味着什么, 麦克米伦,2017 年,第 143 页。
- Dipayan Ghosh 和 Ben Scott,“俄罗斯的选举干扰是数字营销 101”, 大西洋,19 年 2018 月 XNUMX 日, https://www.theatlantic.com/international/archive/2018/02/russia-trump-election-facebook-twitter-advertising/553676/
- Mike Isaac 和 Daisuke Wakabayashi,“仅通过 Facebook,俄罗斯影响力就达到了 126 亿”, “纽约时报”,30 年 2017 月 XNUMX 日。 https://www.nytimes.com/2017/10/30/technology/facebook-google-russia.html
- Julia Angwin、Madeleine Varner 和 Ariana Tobin,“Facebook 让广告商接触到‘犹太仇恨者’”, ProPublica,14 年 2017 月 XNUMX 日。 https://www.propublica.org/article/facebook-enabled-advertisers-to-reach-jew-haters
- https://www.recode.net/2018/7/18/17575156/mark-zuckerberg-interview-facebook-recode-kara-swisher
- https://en.wikipedia.org/wiki/Sandy_Hook_Elementary_School_shooting
- http://uk.businessinsider.com/channel-4-finds-facebook-not-deleting-child-abuse-and-racism-2018-7
- https://www.nytimes.com/2018/07/20/podcasts/the-daily/facebook-mark-zuckerberg-misinformation.html
ZNetwork 的资金完全来自读者的慷慨捐助。
捐款