Mantan karyawan Facebook Frances Haugen, di sebuah wawancara pada “60 Menit,” menjelaskan kepada pembawa acara Scott Pelley yang dimiliki raksasa media sosial itu melakukan eksperimen internal yang menunjukkan betapa cepat dan efisien penggunanya berhasil mengusir keyakinan supremasi kulit putih.
Ilmuwan data berusia 37 tahun yang mengundurkan diri dari Facebook awal tahun ini dan menjadi pelapor menjelaskan bagaimana perusahaan mengetahui algoritmanya membawa pengguna ke jalur ekstremis. Facebook, menurut Haugen, membuat akun percobaan baru yang mengikuti mantan Presiden Donald Trump, istrinya Melania Trump, Fox News, dan outlet berita lokal. Setelah mengklik tautan pertama yang disarankan yang ditawarkan algoritma Facebook, akun-akun tersebut kemudian secara otomatis ditampilkan konten supremasi kulit putih. “Dalam seminggu Anda melihat QAnon; dalam dua minggu Anda akan melihat hal-hal tentang 'genosida kulit putih',” kata Haugen.
Kesaksian Haugen dan dokumen yang dibagikannya menegaskan apa yang sudah lama diketahui para kritikus. “Kita sudah mengetahui bahwa ujaran kebencian, kefanatikan, kebohongan tentang COVID, tentang pandemi ini, tentang pemilu, tentang sejumlah isu lainnya, sangat banyak terjadi di seluruh platform Facebook,” kata Jessica González, salah satu CEO Facebook Free Press, dalam sebuah wawancara. Namun, “yang tidak kami ketahui adalah sejauh mana apa yang diketahui Facebook,” tambahnya.
Tiga setengah tahun yang lalu, di tengah masa kepresidenan Trump, saya menulis tentang hal ini menyerah pada pria kulit putih yang lebih tua berhubungan dengan saya melalui pernikahan dan yang, secara umum, telah menjadi orang tua dan kakek-nenek yang penuh kasih dan baik hati bagi kerabatnya yang bukan kulit putih. Repost Facebook yang penuh kebencian dan kebohongan dari pria ini membuat saya sangat terasing sehingga saya memutuskan hubungan dengannya. Mengingat kesaksian Haugen, lintasan kebencian yang dia ikuti sekarang jauh lebih masuk akal bagi saya dibandingkan pada tahun 2018. Aktif di Facebook, dia terus-menerus mem-posting ulang meme dan postingan berita palsu yang mungkin tidak dia cari tetapi memang dia cari. terkena.
Saya membayangkan konten seperti itu selaras dengan rasa kemarahan yang dia rasakan atas ketakutan bahwa imigran dan orang kulit berwarna mengambil keuntungan dari sistem yang dicurangi oleh politisi kulit hitam dan coklat seperti Barack Obama dan Ilhan Omar terhadap orang kulit putih. Kerabat saya cocok dengan profil ribuan orang Amerika kulit putih sayap kanan yang mengerumuni gedung Capitol pada tanggal 6 Januari 2021, dipicu oleh rasa marah yang dibantu oleh Facebook.
Faktanya, Haugen menceritakan bahwa Facebook mematikan alatnya untuk membendung misinformasi pemilu segera setelah pemilu November 2020—sebuah langkah yang menurutnya oleh karyawan perusahaan tersebut disebut secara internal sebagai kontributor signifikan terhadap kerusuhan 6 Januari di ibu kota negara. Komite Pemilihan DPR yang menyelidiki kerusuhan tersebut kini telah melakukannya mengundang Haugen untuk bertemu dengan anggota tentang peran Facebook.
Pendiri dan CEO Facebook Mark Zuckerberg memahami dengan tepat apa yang disalahkan Haugen pada perusahaannya, katanya dalam postingan yang panjang, “Inti dari tuduhan ini adalah gagasan bahwa kami memprioritaskan keuntungan daripada keselamatan dan kesejahteraan.” Tentu saja, ia menegaskan, “Itu tidak benar,” dan selanjutnya menyebut analisisnya “tidak logis,” dan bahwa itu adalah “gambaran palsu tentang perusahaan yang sedang dilukiskan.”
Kecuali bahwa Haugen tidak hanya membagikannya pendapat motif dan praktik perusahaan. Dia memiliki banyak sekali dokumen internal dari Facebook untuk mendukung klaimnya—dokumen yang dianalisis dan dipublikasikan di sebuah mendalam investigasi di Wall Street Journal, yang bukan merupakan media marginal.
The Wall Street Journal mengatakan bahwa “temuan utama” mereka adalah “Facebook Inc. mengetahui, dengan sangat rinci, bahwa platformnya penuh dengan kelemahan yang menyebabkan kerugian, seringkali dalam cara yang hanya dipahami sepenuhnya oleh perusahaan tersebut.”
Inti dari pembelaan Facebook terhadap tuduhan semacam ini adalah bahwa mereka melakukan yang terbaik untuk memerangi misinformasi sambil menyeimbangkan kebutuhan untuk melindungi kebebasan berpendapat dan jika mereka melakukan tindakan keras lagi, maka hal itu akan melanggar hak-hak pengguna dalam Amandemen Pertama. Dalam kesaksiannya di hadapan DPR pada bulan Maret ini, Zuckerberg tersebut, “Tidak mungkin menangkap setiap konten berbahaya tanpa melanggar kebebasan orang dengan cara yang menurut saya tidak akan membuat kita nyaman sebagai masyarakat.”
Dengan kata lain, platform media sosial tersebut menyatakan bahwa mereka berupaya semaksimal mungkin untuk memerangi ujaran kebencian, misinformasi, dan berita palsu di platformnya. Orang mungkin membayangkan bahwa ini berarti sebagian besar materi ditandai dan dihapus. Tetapi hausen menyatakan bahwa meskipun Facebook mengatakan pihaknya menghapus 94 persen ujaran kebencian, “dokumen internalnya menyatakan bahwa kami mendapatkan 3 hingga 5 persen ujaran kebencian.” Pada akhirnya, “Facebook menghasilkan lebih banyak uang ketika Anda mengonsumsi lebih banyak konten,” dia menjelaskan. Dan kebencian serta kemarahan adalah motivator yang baik untuk membuat orang-orang tetap terlibat di platform ini.
Berdasarkan apa yang diungkapkan Haugen, González Disimpulkan bahwa “Facebook memiliki gambaran yang sangat jelas tentang dampak buruk sosial yang ditimbulkan oleh platformnya.” Dan, yang lebih buruk lagi, perusahaan tersebut “sebagian besar memutuskan untuk tidak melakukan apa pun untuk mengurangi masalah tersebut, dan kemudian terus berbohong dan menyesatkan masyarakat AS, termasuk anggota Kongres.”
González berharap keputusan Haugen menjadi pelapor akan berdampak positif terhadap isu yang menghambat Kongres. Selama kesaksian Haugen di depan panel Senat pada tanggal 5 Oktober, dia menghadapi pertanyaan yang sebagian besar masuk akal dan bijaksana dari anggota parlemen dengan sedikit dukungan politik partisan yang telah menandai banyak dengar pendapat tentang misinformasi berbasis media sosial. “Kami melihat para senator dari kedua kubu mengajukan pertanyaan serius,” katanya. “Itu bukan sirkus dibandingkan yang biasa kita lihat di Senat Amerika Serikat.”
González berharap Kongres mengesahkan undang-undang privasi data yang memperlakukan perlindungan data yang dikumpulkan dari pengguna sebagai hak sipil. Hal ini penting karena Facebook menghasilkan uang dari penjualan data pengguna kepada pengiklan, dan González ingin memastikan bahwa “data pribadi kita dan data pribadi anak-anak kita tidak digunakan untuk mendorong konten yang merusak… yang tidak memicu kebencian dan kekerasan dan menyebarkan kebohongan dalam jumlah besar.”
Kalkulus niat Facebook sangat sederhana. Terlepas dari bantahan Zuckerberg, González mengatakan, “sistem ini dibangun berdasarkan model kebencian dan kebohongan demi keuntungan, dan Facebook telah mengambil keputusan bahwa mereka lebih memilih menghasilkan uang daripada menjaga keselamatan orang.” Facebook bukannya menjual kebencian karena memiliki agenda menghancurkan demokrasi. Hanya saja, menghancurkan demokrasi bukanlah sebuah pemecah masalah ketika keuntungan besar yang dipertaruhkan.
Artikel ini diproduksi oleh Ekonomi untuk Semua, sebuah proyek dari Independent Media Institute.
ZNetwork didanai semata-mata melalui kemurahan hati para pembacanya.
Menyumbangkan