به هر طرف که نگاه میکنید، فناوری پیشرفته در نظر کسی است. اپل را بگیرید. در داخل، سرمایه گذاران برتر هستند نگران در مورد اثرات محصولات آن بر کودکان در خارج، فعالان لیبرال هستند سوزش در مورد میلیاردها دلار خارج از کشور، اکنون می تواند تحت اصلاحات مالیاتی GOP به خانه بیاورد. حتی معمولا محافظه کاران ضد مقررات در National Review هستند خواهان چرا Big Tech مانند Big Oil یا Big Tobacco تنظیم نمی شود.
این نمونهها که اخیراً در اخبار منتشر شدهاند، روند را تأیید میکنند، اما سطح را نادیده میگیرند. نظرسنجی ملی جدید افکار عمومی پیدا کرده است انتقال از یک آغوش گرم تا شک و تردید فزاینده. این فقط این نیست که اخبار جعلی در رسانه های اجتماعی در انتخابات اخیر ایالات متحده نقش داشته و به تحقیقات کنگره منجر شده است. و این فقط نیست تماس برای اقدامات ضد تراست فدرال با هدف محبوب ترین متصدیان اطلاعات، فیس بوک و گوگل.
فراتر از این نقاطی که نشان دهنده واکنش منفی است، درک آنچه واقعاً در زیر صفحه نمایش و در ذهن ۲ میلیارد کاربر فیس بوک و ۱.۵ میلیارد کاربر یوتیوب متعلق به گوگل می گذرد است. عبارت جدیدی وجود دارد که این حوزه از فعالیت های انسانی، فناوری پشت آن و اثرات آن را توصیف می کند. آنچه اقتصاد توجه نامیده میشود در حال بررسی جدید است زیرا به عنوان تضعیف حرفه روزنامهنگاری و همچنین اعتماد به نهادهای عمومی و دموکراسی دیده میشود.
آنتونی مارکس، رئیس کتابخانه عمومی نیویورک، رئیس مشترک کمیسیون شوالیه در مورد اعتماد، رسانه و دموکراسی در دانشگاه استنفورد این هفته گفت: "ما در دوستی به اینجا آمده ایم." این پنل در پاییز گذشته ایجاد شد تا تلاش کند تا بزرگترین مشکلات اقتصاد توجه را برطرف کند، از جمله روشی که جستجوی گوگل و فیس بوک به بهانه مبارزه با اخبار جعلی، دید رسانه های مستقل را کاهش داده اند.
نظرات مارکس خنده عصبی را برانگیخت، زیرا او به تازگی هیئتی را اداره کرده بود که با جزئیات واضح و آزاردهنده نشان میداد که چگونه بهترین ذهنهای سیلیکون ولی فرمولهای محاسباتی ردیابی مغز، تقلید از مغز و تحریک مغز را ایجاد کردهاند. این الگوریتمها میلیاردها کاربر دستگاههای دیجیتال را به معتادان اطلاعاتی تبدیل کردهاند و زمانی که در خدمت ابررایانهها قرار میگیرند و تبلیغات آنلاین یا قرار دادن محتوا را هدف قرار میدهند، جامعه را بیش از پیش متلاشی کردهاند.
ما در استنفورد هستیم. شکم جانور اینجا جاییست که همه چیز شروع شد. به همین دلیل است که ما اینجا هستیم، چرا باید بفهمیم که همه شما به چه فکر میکنید.
وی در ادامه به صورت دیپلماتیک گفت: «بیایید در مورد دو چیز بسیار شفاف باشیم. "یک، همه شما این ابزار شگفت انگیز را ایجاد کرده اید. اگر در کودکی به من می گفتید که چیزی در جیبم دارم که می تواند مرا به تمام اطلاعات دنیا متصل کند، احتمالاً شما را باور نمی کردم. این شگفت انگیز است. پس متشکرم. این خبر خوب است.»
او ادامه داد: «خبر کمتر خوب این است که این ما را به مکان خوبی نمی برد. ما را به مکان خوبی نرسانده است. و من قرار نیست هیچ یک از اینها را بگویم، اما صنعت شما، صنعتی که همه شما بخشی از آن هستید، فکر می کنم جهان در سال گذشته دیدگاه خود را نسبت به صنعت تغییر داده است، به گونه ای که من هرگز ندیده ام. امثال قبل به این معنی که از شما تشکر می کنم، اکنون اوه-اوه. اتفاقات بدی در راه است، و این همه ما را سرجای خود قرار می دهد، به همین دلیل است که اینجا هستیم. ما میخواهیم بفهمیم چه چیزی ممکن است – چه چیزی میتواند بهتر باشد.»
اقتصاد توجه
افرادی که خارج از درونیترین حلقههای سیلیکون ولی هستند، نمیتوانند به الگوریتمهایی که فیدهای خبری فیسبوک و قرار دادن محتوای مبتنی بر تبلیغات یا موتور یوتیوب را که ویدیوهای دیگری را توصیه میکند که کاربران ممکن است دوست داشته باشند دسترسی داشته باشند یا ارزیابی کنند. با این حال، اعضای میزگرد در جلسه دانشگاه استنفورد کمیسیون به طور استثنایی در مورد ماهیت و اهداف الگوریتمها که بهتر به عنوان هوش مصنوعی تقلید از مغز توصیف میشود، توضیح دادند.
یکی از صریح ترین توضیح دهندگان و منتقدان، تریستان هریس، یک «اخلاق شناس طراحی» سابق در گوگل بود - شرکت او در سال 2011 توسط آن خریداری شد - که اکنون یک موسسه غیرانتفاعی را اداره می کند. زمان خوب سپری شد، که به دنبال بهبود تأثیر فناوری بزرگ بر جامعه است. آنچه که این مدیر عامل سابق زیر 40 سال گفت به همان اندازه خیره کننده بود که واکنش خشمگینانه همکاران صنعتی او به نظر می رسید.
هریس میگوید اقتصاد توجه، یا رسانهها در گوشیهای هوشمند و رایانههای همه، فقط بازاریابی بیپایانی نیست که همه ما شاهد آن هستیم. دلیل عمیقتری وجود دارد که چرا میتوان بسیاری از منابع خبری معتبر را با تبلیغات پنهان در پلتفرمهای اصلی جایگزین کرد، چرا حقایق را میتوان با عقاید و دروغها پیشی گرفت، و چرا وفاداریهای قبیلهای محدودتر میتواند نهادهای دموکراتیک را غصب کند.
هریس انگشت اتهام را به سمت قلب و سیستم گردش خون دره سیلیکون گرفت. او گفت که الگوریتمهای هوش مصنوعی آن برای تحریک پاسخهای مغز و اعتیادآور طراحی شدهاند. آنها قدرت یک مدل کسب و کار را به نام تبلیغات آنلاین فراهم می کنند، اما این یک ساختار روبنایی است که با هدف قرار دادن و برانگیختن منافع مشترک، از طریق محتوای انتخاب شده، سود می برد. اما جامعه را نیز به حوزه های جدا از هم جدا می کند.
سخنان عمومی در مورد اینکه فناوری [اطلاعات] چه کاری باید انجام دهد و اهداف مثبت آن چیست، وجود دارد. اما واقعیت وجود دارد، اگر شما واقعاً به داخل شرکتها بروید و صحبت مهندسان و طراحان را در مورد اهداف روزانهشان بشنوید، همه چیز به چیزی بستگی دارد که مردم را به ماندن در صفحه نمایش جذب میکند.» مهم نیست که نیت مثبت چیست، 2 میلیارد نفر در حال حاضر صبح از خواب بیدار می شوند و یکی از این چیزها را در جیب خود دارند و از یکی از معدود خدمات استفاده می کنند. به عنوان همکارم راجر مک نامیکه مرشد زاکربرگ [موسس فیس بوک مارک] زاکربرگ دوست دارد بگوید، 2 میلیارد نفر از فیس بوک استفاده می کنند، این تعداد بیشتر از تعداد پیروان مسیحیت است. 1.5 میلیارد نفر از یوتیوب استفاده می کنند، این تعداد پیروان اسلام است. این محصولات بیش از بسیاری از ادیان و مطمئناً بیش از هر دولت دیگری بر افکار روزمره ما تأثیر دارند.
وقتی جان لنون گفت بیتلز هستند بزرگتر از عیسی او در سال 1966 سر و صدای بین المللی به پا کرد. گروه تهدید به مرگ شد و مجبور شد تور را متوقف کند. اما وقتی هریس گفت فیس بوک از عیسی محبوب تر است و یوتیوب به مردم بیشتر از کل قاره ها خدمات ارائه می دهد، این اظهارات نفس گیر به سختی باعث افزایش ابروها شد. این مقیاس نشان میدهد که چرا بزرگترین موفقیتهای فناوریهای پیشرفته، از تحقیقات کنگره در مورد مداخله روسیه در انتخابات ریاستجمهوری ۲۰۱۶، درخواستهای جدید برای از بین بردن انحصارات فناوری تحت قوانین ضد تراست، تا انجمنهای راهحلجویانه مانند کمیسیون نایت، مورد بررسی قرار میگیرند.
هریس نحوه انتخاب مغزها را در استنفورد مطالعه کرد و به ایجاد فناوریها و شرکتی پرداخت که از «تأثیر نامرئی که تفکر انسان را ربوده است»، همانطور که در بیوگرافی او بیان میکند، استفاده کرد. اما به گفته او، این فناوری اکنون یک تهدید وجودی برای بشریت به شمار میرود، زیرا فراتر از توانایی یک شرکت - یا تعداد انگشت شماری از انحصارات اقتصاد توجه - برای کنترل است.
او گفت: «ما گونهای هستیم که میتوانیم توانایی خودمان را برای دستکاری مطالعه کنیم. ما باید در مورد مدل کسب و کار مبتنی بر تبلیغات صحبت کنیم، که همراه با هوش مصنوعی، یک تهدید وجودی است. ما باید در این مورد واقعا جدی باشیم. اگر به این فکر می کنید که در حال حاضر قدرتمندترین هوش مصنوعی در جهان در کجا قرار دارند؟ احتمالاً در دو شرکت: گوگل و فیسبوک. قدرتمندترین هوش مصنوعی در جهان
به جای اینکه آنها را به چالشی مانند تغییرات آب و هوایی اشاره کنیم و بگوییم بیایید آن را حل کنیم یا به کشف دارو برای سرطان اشاره کنیم و بگوییم بیایید آن را حل کنیم، قوی ترین ابررایانه های هوش مصنوعی در جهان را به سمت مغز شما نشانه رفته ایم. و ما اساساً گفتیم، در برابر این مغز شطرنج بازی کنید و بفهمید که چه چیزی آن را به بهترین شکل درگیر می کند. و بنابراین، هر بار که یک فید خبری باز می کنیم، در مقابل یک ابررایانه شطرنج بازی می کنیم که طراحی شده است تا 50 میلیون قدم جلوتر را در صفحه شطرنج ذهن شما ببیند و بفهمد که چه چیزی شما را کاملاً درگیر می کند.
او گفت که نتایج همیشه زیبا نیستند، اظهاراتی که دیگران هم تکرار کردند.
وقتی به عواقب جهانی این موضوع فکر میکنید - این واقعیت که این ابر رایانه این کار را به زبانها انجام میدهد، و در کشورها، مهندسان و شرکتها حتی صحبت نمیکنند [یا در آن زندگی میکنند]، این گونه است که نسلکشی روهینگیا را دریافت میکنید. در برمه و اینکه چگونه میتوانید با انتشار اخبار جعلی در هند، در سودان جنوبی، مرگهای حتمی ایجاد کنید. مهندسان نمی توانند این چیز را دوباره در کیسه قرار دهند. ما تأثیر تصاعدی بدون حساسیت نمایی ایجاد کردهایم.»
جینا بیانچینی، بنیانگذار و مدیر عامل شرکت، توضیح داد که حتی بدتر از آن است شبکه های توانا، که متخصص در شبکه های اجتماعی طاقچه است. او بارها گفت که مسابقهای در سیلیکون ولی برای شکستن انحصارات اطلاعاتی فیسبوک و گوگل وجود دارد که شامل آموزش الگوریتمها - برنامهنویسی - برای اجرای طیف وسیعی از وظایف، از جمله ارائه محتوا به افرادی است که مرکز شبکههای اطلاعاتی خودشان خواهند بود. (سیلیکون ولی این را می نامدفراگیری ماشین".)
در حالی که او فضیلت رقابت بیشتر را تحسین می کرد، او و دیگران هوش مصنوعی را در آستانه ای توصیف کردند که توانایی جذب بزرگترین بازیکنان در یک اتاق برای موافقت با راه حل ها ممکن نیست. این به این دلیل است که هوش مصنوعی آنقدر غیرمتمرکز شده است که مشکلات اخلاقی برجسته شده توسط هریس فراتر از توانایی هر کسی برای مهار است - زیرا Silicon Valley و Big Tech یک موجودیت یکپارچه نیستند.
«در واقع یک اتفاق ترسناکتر در حال رخ دادن است، و آن این است که امروز میتوانید با دو شرکت صحبت کنید. یک نفر از Google ظاهر می شود. کسی از فیسبوک ظاهر میشود و میخواهد گفتگو کند، زیرا امروز انحصار توجه و درآمد تبلیغاتی را در اختیار دارد.» «پیشرفت طبیعی نرم افزار و جایی که فناوری پیش می رود، به سمت تمرکززدایی خم می شود. به سمت فناوری های توزیع شده خم می شود. در آن لحظه با چه کسی صحبت می کنید؟»
بیانچینی مثالی ارائه داد که نشان میدهد چرا قوانین سنتی ضد تراست و مقررات دولتی به طرز ناامیدکنندهای منسوخ شدهاند و برای مقابله با جنبه تاریک اقتصاد توجه مجهز نیستند. او به Napster اشاره کرد که به دوستداران موسیقی اجازه می داد فایل های صوتی را به اشتراک بگذارند، بنابراین صنعت ضبط شکایت کرد و آن را تعطیل کرد.
«ما توانستیم Napster را خاموش کنیم و اتفاق بعدی Bit Torrent [نرم افزار] بود، جایی که چیزی برای خاموش کردن وجود نداشت. این جایی است که جهان دارد می رود.»
جورج اورول چه کار می کند؟
این انتقادات و توضیحات به طور کامل توسط اهداف آنها در اتاق رد نشد. اما همانطور که اغلب در جلسات پرمخاطب اتفاق میافتد، مسائل اصلی را میتوان با گسترش تمرکز کنار گذاشت – نه با ماندن بر سوالات کلیدی مانند اینکه آیا بزرگترین بازیگران اقتصاد توجه آنچه را که الگوریتمهای اعتیادآور و تبلیغات خرد هدفمندشان را تقویت میکند تغییر میدهند یا خیر.
عضو کمیسیون، ریچارد گینگراس، معاون رئیس بخش اخبار گوگل را در نظر بگیرید. او قبل از طرح سوال گفت که دو تحول تاریخی وجود دارد که باید در نظر داشت. اول، اینترنت «وسایل ارتباطی، چاپخانه، را در دست همه قرار داد». که دارای مزایا و چالش های تاریخ ساز است.
ما اطلاعات متنوعی داریم که قبلاً ندیده بودیم. برخی از این تنوع نگران کننده است. این موضوعی است که آزادی مطبوعات به چه معناست. گینگراس گفت: «چالش واقعی برای دموکراسی، این واقعیت است که ما آزادی بیان بدون محدودیت داریم... این یکی از مؤلفهها است.»
دوم این است که من فکر میکنم نکات مربوط به هدفیابی [تبلیغات و محتوا] منصفانه است، به این معنا که ما داریم - و به وسیله ما، در سراسر اکوسیستم نفوذ کرده است - شرکتها توانایی هدفیابی یا اهرم هدفگذاری فراتر از رویاهای مستقیم را دارند. بازاریاب یا در تاریخ سیاست. در اینجا، دوباره، این نیست که رفتارها لزوماً متفاوت است، فقط کارآمدتر هستند.» "به نظر من اینها تغییرات کلیدی هستند."
گینگراس گفت: تغییرات بزرگ تکنولوژیکی همیشه پیامدهای مورد نظر و ناخواسته ای را به همراه دارد. او گفت که تاریخ مملو از نمونه هایی از حرفه هایی است که باید تطبیق داده شوند و این همان کاری است که رسانه ها و فرهنگ سیاسی باید انجام دهند.
گینگراس گفت: «فقط صحبت کردن در مورد این موضوع از دریچه فناوری کافی نیست. آنچه بر عهده بقیه جامعه و نهادهای آن است که به آن فکر کنند و به آن نیز رسیدگی کنند. وقتی به [محیطی] نگاه میکنید که در آن مردم به روشهای مختلف اطلاعات را مصرف میکنند، به روشهای مختلف نظراتی را شکل میدهند، به نظر من این نشان میدهد که باید در مکانیسمهای روزنامهنگاری تجدید نظر کنیم.»
او ادامه داد: «چگونه با مخاطبان خود تعامل داریم. «چگونه محتوا را فرموله می کنیم. مدل های محتوایی که ما استفاده می کنیم. حتی مدلهای کسبوکاری که برای رسیدن به آنجا استفاده میکنیم... این مؤسسات دیگر چگونه باید تغییر کنند؟ چگونه رویکردهای فرهنگی اساسی ما به شفافیت و اعتماد باید تغییر کند تا به مردم کمک کند تا بفهمند چرا آنچه را که میبینند میبینند.»
گینگراس این اظهار نظر را در خلأ بیان نمی کند. او ابتکاری به نام پروژه اعتماد، مستقر در دانشکده روزنامه نگاری دانشگاه سانتا کلارا، که از سازمان های خبری می خواهد که محتوای آنلاین خود را بهتر برچسب گذاری کنند و وب سایت های خود را اصلاح کنند تا الگوریتم های جستجو بتوانند محتوای معتبرتری را ارتقا دهند. این به رسانه ها در اقتصاد توجه کمک می کند. البته، به گوگل کمک می کند تا جستجوهای بهتری انجام دهد – زیرا جستجوی گوگل، بر خلاف فیس بوک، کاربران را از وب سایت خود دور می کند و نتایج بهتر، انحصار جستجوی آن را تقویت می کند.
با پایان یافتن جلسات عمومی کمیسیون شوالیه، همان موضوعی که Silicon Valley با آن مخالفت میکند، مطرح شد – تنها دومین مورد پس از افشای فرمول محاسباتی محرمانهاش – مطرح شد. نتیجه مقررات دولت، از جمله امکان اقدامات ضد تراست که انحصارات اقتصاد توجه را از بین می برد، چه خواهد بود؟
این سوال یکی از شدیدترین مبادلات را برانگیخت و در حالی که حل نشده بود، نشان میدهد که فیسبوک و گوگل باید شفافتر شوند یا با واکنش شدیدتری مواجه شوند.
جینا بیانچینی: "من اطمینان بسیار کمی دارم که راه حل ها از طریق مقررات به دست می آیند. راهحلها از این واقعیت ناشی میشوند که ما در حال ایجاد یک انگیزه تودهای مردمی برای حرکت در اطراف تمرکز هستیم، که گفتگوی کاملا متفاوتی خواهد بود.»
ریچارد گینگراس: «به نظر من این موضوع کمی گیج کننده است. اگر بحث راه حل های ممکن برای مشکل را شنیده بودم، بدون اطلاع از مشکل، فکر می کردم که ما در مورد این موضوع صحبت می کنیم که در جامعه ای که بیش از حد هدایت و کنترل می شود، در واقع با اطلاعات یکپارچه مشکل داریم. یک جهت. درست؟ اما البته این مشکلی نیست که ما با آن روبرو هستیم. در واقع، مشکلی که ما با آن روبرو هستیم، مشکلی است که کاملاً برعکس است. ما تنوع و دیدگاههای فوقالعادهای داریم، سیلوهای فکری، سیلوهای فکری تقویتشده، از یک سر طیف به آن سوی طیف و اطراف و دوباره. بنابراین وقتی به آن مشکل نگاه میکنم، تعجب میکنم که واقعاً چه مشکلی را حل میکنیم و چگونه؟ من نمی توانم نقاط متصل در این را ببینم."
جینا بیانچینی: "از دیدگاه یکپارچه، چه کسی آن الگوریتم را کنترل می کند؟"
ریچارد گینگراس: «اما الگوریتم…»
جینا بیانچینی: این دو شرکت (فیس بوک و گوگل) هستند.
ریچارد گینگراس: «این کنترل فرضی دیدگاه مردم را کنترل نمیکند. در غیر این صورت، این دیدگاههای مختلف را فراتر از سطح راحتی خودشان ستایش میکند.»
اتان زاکربرگ، مدیر مرکز رسانههای مدنی در MIT و مشاور کمیسیون: «ممکن است از دنیای بیرون بدانیم. به معنای واقعی کلمه غیرممکن است.»
ریچارد گینگراس: «دنیای بیرون. نگاه کردن به دنیای امروزمان سخت نیست که بگوییم جامعهای داریم که کمتر از همیشه متحد شده است.»
ایتان زاکربرگ: «و میتوانید یک سؤال بپرسید... در مورد اینکه آیا این محیط اطلاعاتی، در اطراف فیسبوک و گوگل، بخش بسیار افراطی از آن را گرفته است و آن را بسیار بسیار قدرتمندتر کرده است. اما ما زمان بسیار بسیار سختی برای حسابرسی آن داریم... تمام تلاش من این است که یک چیز کمتر از مقررات، و در واقع از هم پاشیدن این نهادها، مسیرهایی برای شفافیت بسیار بیشتر خواهد بود، بنابراین ما می توانیم این سوالات سخت را بپرسیم. در مورد اینکه چگونه این پلتفرم ها اطلاعات و دانشی را که ما به دست می آوریم شکل می دهند."
کمیسیون شوالیه قبل از انتشار گزارش و توصیههایی در پاییز آینده، تا سال 2018 به جلسات خود ادامه خواهد داد. اما در چند ساعت کوتاه در مرکز فارغالتحصیلان دانشگاه استنفورد، مسائل، چالشها و مخاطرات مربوط به مشکلات اقتصاد توجه را که در آن دستکاری روانشناختی و هدفگذاری خرد توسط متصدیان اطلاعات برتر استفاده میشود، بیان کرد.
قابل ذکر است، اواخر روز جمعه، مارک زاکربرگ اعلام کرد فیس بوک به زودی از 2 میلیارد کاربر خود می خواهد که میزان قابل اعتماد بودن رسانه ها را در فیدهای خبری خود ارزیابی کنند. این ممکن است به شناسایی منابع خبری بیشتر و کمتر قابل اعتماد با توجه به ارزش های هر کاربر کمک کند. اما آن طور که تریستان هریس می گوید، به «تأثیر نامرئی که تفکر انسان را ربوده است» نمی رسد. همچنین به تقسیم بندی اجتماعی شتاب یافته توسط فناوری تبلیغات آنلاین که گینگراس اذعان داشت، نمی پردازد. همچنین این اقدامی نیست که به الگوریتمهایی که این انحصارات اطلاعاتی را تقویت میکنند، شفافسازی کند که زاکربرگ از MIT اشاره کرد.
در واقع، به عنوان ستون نویس فناوری نیویورک تایمز فرهاد منجو خاطرنشان کرد این هفته در بخشی که به این موضوع فکر میکند که آیا اپل میتواند با افزودن ویژگیهای محصول ظریف برای کم کردن زیادهروی در تجارت تبلیغات دیجیتال، روز را نجات دهد، «من شک دارم که [رهبران اقتصاد توجه] بتوانند اقتصاد خود را سرکوب کنند. منافع."
ZNetwork صرفاً از طریق سخاوتمندی خوانندگان آن تأمین می شود.
اهدا