يبدو أن الذكاء الاصطناعي (AI) موجود في كل مكان. تستخدم الشركات روبوتات الدردشة القوية المدعومة بالذكاء الاصطناعي على صفحات الويب أو أنظمة الهاتف الخاصة بها للتعامل مع أسئلة العملاء. تستخدمها غرف الأخبار والمجلات لكتابة القصص. تستخدمها استوديوهات الأفلام لإنتاج الأفلام. تستخدمها شركات التكنولوجيا للبرمجة. يستخدمها الطلاب لكتابة الأوراق. يبدو مثل السحر. ومع كل ما يفترض أنه يحدث "في السحابة"، فمن السهل الاعتقاد بأن الأنظمة التي تعمل بالذكاء الاصطناعي مفيدة للبيئة. لسوء الحظ، الأمور ليست كما تبدو.
إن Chatbots مبنية على الاستغلال، وتستخدم كميات هائلة من الطاقة، ولا يمكن الاعتماد عليها على الإطلاق. وفي حين أنه من السهل أن نتصور أنها تنمو في التطور وتجعل الحياة أسهل في بعض النواحي، فإن الشركات تضخ مليارات الدولارات في ابتكاراتها لتحقيق الأرباح مع القليل من الاهتمام بشأن ما إذا كانت النتائج ستكون مفيدة اجتماعيا. باختصار، نحن بحاجة إلى أن نأخذ اهتمام الشركات بالذكاء الاصطناعي على محمل الجد وأن نضع استراتيجيات يمكن أن تساعدنا في السيطرة على كيفية تطوير الذكاء الاصطناعي واستخدامه.
السباق مستمر
بدأت ثورة روبوتات الدردشة في عام 2022 مع تقديم OpenAI لـ ChatGPT. كان ChatGPT قادرًا على إجراء محادثة شبيهة بالإنسان ويمكنه الإجابة على أسئلة المستخدم من خلال النص الذي تم إنشاؤه بالإضافة إلى كتابة المقالات والتعليمات البرمجية. وأفضل ما في الأمر أنه كان مجانيًا للاستخدام.
واستجابةً للاهتمام العام بـ ChatGPT، بدأت الشركات الأخرى في تقديم روبوتات الدردشة الخاصة بها والتي تعمل بالذكاء الاصطناعي. الأكبر والأكثر استخدامًا اليوم هو برنامج Gemini من Google (المعروف سابقًا باسم Bard) وCopilot من Microsoft. هناك برامج أخرى أيضًا، بما في ذلك بعض البرامج المصممة لتلبية احتياجات العمل المحددة. على سبيل المثال، يعمل GitHub CoPilot على مساعدة مطوري البرامج في إنشاء التعليمات البرمجية، وقد تم تصميم Anthrophic’s Claude لاكتشاف المعلومات وتلخيص المستندات.
ويستمر السباق في الإبداع الجيل القادم أنظمة الذكاء الاصطناعي التي يمكنها استيعاب المزيد من المعلومات ومعالجتها بسرعة أكبر وتقديم استجابات شخصية أكثر تفصيلاً. بحسب جولدمان ساكس الاقتصاديونومن الممكن أن يصل الاستثمار المرتبط بالذكاء الاصطناعي في الولايات المتحدة إلى ذروة تصل إلى 2.5% إلى 4% من الناتج المحلي الإجمالي على مدى العقد المقبل.
تحتاج Chatbots إلى قاعدة بيانات كبيرة ومتنوعة من الكلمات والنصوص والصور والصوت والسلوك عبر الإنترنت بالإضافة إلى خوارزميات متطورة لتمكينها من تنظيم المواد عند الحاجة بما يتماشى مع أنماط الاستخدام الشائعة. عند طرح سؤال أو طلب للحصول على معلومات، تحدد روبوتات الدردشة المواد الموجودة في قاعدة البيانات الخاصة بها والمتعلقة بنمط الكلمات في السؤال أو الطلب ثم تقوم، مرة أخرى، مسترشدة بالخوارزميات، بتجميع مجموعة من الكلمات أو الصور من قاعدة بياناتها التي تلبي البيانات المعطاة على أفضل وجه. القيود، التحقيق. وبطبيعة الحال، فإن عملية تحديد الأنماط وبناء الاستجابات تتطلب كميات هائلة من الطاقة.
بغض النظر عن مدى ذكاء برنامج الدردشة الآلي، فمن المهم أن تتذكره، مثل ميغان كراوس ويوضح، ذلك:
"لا يعرف النموذج ما يقوله، ولكنه يعرف ما هي الرموز (الكلمات) التي من المحتمل أن تأتي بعد بعضها البعض بناءً على مجموعة البيانات التي تم تدريبه عليها. إن الجيل الحالي من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، مثل ChatGPT، ومنافسها في Google Bard وغيرهما، لا يتخذ قرارات مستنيرة بذكاء؛ وبدلاً من ذلك، فهم ببغاوات الإنترنت، يكررون الكلمات التي من المحتمل أن يتم العثور عليها بجانب بعضها البعض في سياق الكلام الطبيعي. الرياضيات الأساسية تدور حول الاحتمالية.
ستنتج روبوتات الدردشة المختلفة نتائج مختلفة بسبب برمجتها ولأنها تم تدريبها على مجموعات بيانات مختلفة. على سبيل المثال، بالإضافة إلى استخراج أي بيانات عامة متاحة على الويب، يستطيع Gemini استخدام البيانات من Google Apps بينما يستخدم Copilot البيانات التي تم إنشاؤها من محرك بحث Bing الخاص به.
لقد مرت Chatbots بعدد من الترقيات منذ طرحها. يمتلك كل جيل حزمة برامج أكثر تعقيدًا تسمح له بإجراء اتصالات أكثر دقة بالإضافة إلى توسيع قاعدة البيانات الخاصة به من خلال دمج البيانات من الأسئلة أو الطلبات المطروحة. بهذه الطريقة تتعلم/تتحسن روبوتات الدردشة بمرور الوقت من خلال الاستخدام.
يسلط هذا المنظور الضوء على حقيقة أنه على الرغم من أننا قد نتحدث عن الأشياء التي تحدث في السحابة، فإن قدرة روبوتات الدردشة على الاستجابة للمطالبات أو الأسئلة تعتمد على العمليات الراسخة في الأرض. في ال كلمات للكاتبة التقنية كارين هاو:
“يمتلك الذكاء الاصطناعي سلسلة توريد مثل أي تقنية أخرى؛ هناك مدخلات تدخل في إنشاء هذه التكنولوجيا، والبيانات هي إحدى هذه المدخلات، ومن ثم القوة الحسابية أو رقائق الكمبيوتر هي الأخرى. وكلاهما لهما الكثير من التكاليف البشرية المرتبطة بهما.
سلسلة التوريد: العمل البشري
تحتاج أنظمة الذكاء الاصطناعي إلى البيانات وتأتي البيانات من الأشخاص بشكل أو بآخر. ولذلك، تبحث شركات التكنولوجيا باستمرار عن بيانات جديدة ومتنوعة من أجل تعزيز تشغيل أنظمة الذكاء الاصطناعي الخاصة بها. من خلال مدونتنا عبر الإنترنت ومنشورات موقعنا الإلكتروني، والكتب والمقالات المنشورة، وعمليات البحث، والصور الفوتوغرافية، والأغاني، والصور، ومقاطع الفيديو المستخرجة مجانًا من الإنترنت، فإننا نساعد في ضمان شركات مربحة للغاية في سعيها لتحقيق أرباح أكبر. مثل لورين ليفر ملاحظات,
"يمكن لبرامج زحف الويب ومكشطات البيانات الوصول بسهولة إلى البيانات من أي مكان تقريبًا بدون صفحة تسجيل دخول... وهذا يشمل أي شيء على موقع مشاركة الصور الشهير Flickr، والأسواق عبر الإنترنت، وقواعد بيانات تسجيل الناخبين، وصفحات الويب الحكومية، ويكيبيديا، وReddit، ومستودعات الأبحاث، ومنافذ الأخبار والمؤسسات الأكاديمية. بالإضافة إلى ذلك، هناك مجموعات محتوى مقرصن وأرشيفات ويب، والتي غالبًا ما تحتوي على بيانات تمت إزالتها منذ ذلك الحين من موقعها الأصلي على الويب. وقواعد البيانات المحذوفة لا تختفي."
في الواقع، كانت نسبة كبيرة من المواد المسروقة محمية بحقوق الطبع والنشر وتم أخذها دون إذن. ردًا على ذلك، يسعى الآن عدد من الناشرين والكتاب والفنانين إلى وقف السرقة. على سبيل المثال، في أغسطس 2023، قامت صحيفة نيويورك تايمز بتحديث تقريرها "شروط الخدمة" إلى حظر أي استخدام للنصوص والصور والصور ومقاطع الصوت/الفيديو في تطوير "أي برنامج، بما في ذلك، على سبيل المثال لا الحصر، تدريب نظام التعلم الآلي أو الذكاء الاصطناعي (AI)". ولكن في حين أن بعض الشركات الكبرى لديها النفوذ أو السلطة القانونية إما لحظر أو التفاوض بشأن التعويض المالي مقابل استخدام موادها، فإن معظم الشركات والأفراد لا يفعلون ذلك. ونتيجة لذلك، فإنهم ما زالوا معرضين لخطر الإصابة بـ "الملكية الفكرية"مأخوذة منهم مجانًا وتم تحويلها إلى مادة تدريبية للذكاء الاصطناعي لخدمة نشاط كسب المال في الشركات.
وبدون التقليل من الخسائر الشخصية المرتبطة بجمع بيانات الذكاء الاصطناعي، هناك مشكلة أكبر بكثير مع طريقة الحصول هذه. ويعني التخلص من الإنترنت العام أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي يتم تدريبها باستخدام مواد تتضمن وجهات نظر ومفاهيم مختلفة على نطاق واسع حول العلوم والتاريخ والسياسة والسلوك البشري والأحداث الجارية، بما في ذلك المنشورات والكتابة من قبل أعضاء مجموعات الكراهية المتطرفة. ويمكن أن تؤثر البيانات الإشكالية بسهولة على مخرجات برامج الدردشة الآلية الأكثر تطورًا.
على سبيل المثال، يتم استخدام روبوتات الدردشة بشكل متزايد من قبل الشركات لمساعدتها في التوظيف. ومع ذلك، كما بلومبرج نيوز اكتشف"إن أداة الذكاء الاصطناعي التوليدية الأكثر شهرة تنتج بشكل منهجي تحيزات تضر بالمجموعات بناءً على أسمائها." على سبيل المثال، دراستها الخاصة وجدت أنه "عندما طُلب من ChatGPT 1000 مرة تصنيف ثماني سير ذاتية مؤهلة بشكل متساوٍ لدور محلل مالي حقيقي في إحدى شركات Fortune 500، كان من غير المرجح أن يختار ChatGPT سيرة ذاتية تحمل اسمًا مميزًا للأمريكيين السود."
تعتمد Chatbots على جودة العمل البشري بطريقة أخرى. لا تستطيع Chatbots الاستفادة بشكل مباشر من الكثير من البيانات التي تم جمعها بواسطة برامج زحف الويب والكاشطات. كما جوش دزيزا ويوضح"وراء نظام الذكاء الاصطناعي الأكثر إثارة للإعجاب يوجد أشخاص - أعداد هائلة من الأشخاص يقومون بتسمية البيانات لتدريبها وتوضيح البيانات عندما يتم الخلط بينها."
تقوم شركات الذكاء الاصطناعي الكبرى عمومًا بتوظيف شركات أخرى أصغر للعثور على العمال اللازمين لعملية تصنيف البيانات وتدريبهم. وفي أغلب الأحيان، يجد هؤلاء المقاولون من الباطن عمالهم، الذين يطلق عليهم اسم "المعلقين"، في جنوب الكرة الأرضية، وغالبًا في نيبال وكينيا. نظرًا لأن عملية التعليق التوضيحي وكذلك العناصر التي يتم التعليق عليها تعتبر أسرارًا تجارية، نادرًا ما يعرف المدونون رئيسهم النهائي وسيتم فصلهم إذا تم العثور عليهم وهم يناقشون ما يفعلونه مع الآخرين، حتى زملاء العمل.
يصف دزيزا بعض الأعمال التي يجب على المفسرين القيام بها لتمكين روبوتات الدردشة من الاستفادة من البيانات المجمعة لهم. على سبيل المثال، يقوم المدونون بتسمية العناصر في مقاطع الفيديو والصور. يجب القيام بذلك للتأكد من أن أنظمة الذكاء الاصطناعي ستكون قادرة على ربط تكوينات محددة من وحدات البكسل بعناصر أو مشاعر محددة. تحتاج الشركات التي تقوم ببناء أنظمة الذكاء الاصطناعي للمركبات ذاتية القيادة إلى معلقين لتحديد جميع العناصر المهمة في مقاطع الفيديو الملتقطة لمشاهد الشوارع أو الطرق السريعة. وهذا يعني "تحديد كل مركبة، أو مشاة، أو راكبي دراجات، أو أي شيء يحتاج السائق إلى معرفته - إطارًا بإطار ومن كل زاوية كاميرا ممكنة." وكما يقول دزيزا، فإن هذا “عمل صعب ومتكرر. استغرقت مقطع الفيديو الذي تبلغ مدته عدة ثوانٍ ثماني ساعات للتعليق عليها، وتم دفع [للمشروح] حوالي 10 دولارات مقابل ذلك.
هذا النوع من العمل، على الرغم من انخفاض أجره، إلا أنه بالغ الأهمية. إذا كانت عملية التعليق التوضيحي سيئة أو كانت قاعدة البيانات محدودة، فمن الممكن أن يفشل النظام بسهولة. مثال على ذلك: في عام 2018، صدمت سيارة أوبر ذاتية القيادة امرأة وقتلتها. فشل نظام الذكاء الاصطناعي لأنه "على الرغم من أنه تمت برمجته لتجنب راكبي الدراجات والمشاة، إلا أنه لم يكن يعرف ماذا يفعل لشخص يمشي على دراجة عبر الشارع".
يتم أيضًا تعيين المعلقين لتصنيف العناصر في صور الوسائط الاجتماعية. قد يتضمن ذلك تحديد جميع القمصان المرئية التي يمكن أن يرتديها البشر ووضع علامات عليها. قد يتطلب ذلك تسجيل ما إذا كانت "قمصان بولو، أو قمصان يتم ارتداؤها في الهواء الطلق، أو قمصان معلقة على الرف"، وما إلى ذلك.
وظائف أخرى تنطوي على تصنيف العواطف. على سبيل المثال، يتم تعيين بعض المعلقين للنظر إلى صور الوجوه، بما في ذلك الصور الشخصية التي التقطها المدونون، وتسمية الحالة العاطفية المتصورة للموضوع. ويتم تعيين آخرين للتعبير عن مشاعر العملاء الذين يتصلون هاتفيًا بطلبات المتاجر المملوكة لسلسلة بيتزا. هناك وظيفة أخرى تحتوي على تعليقات توضيحية تصف مشاعر منشورات Reddit. أثبتت هذه المهمة أنها تمثل تحديًا لمجموعة واحدة من العمال الهنود، ويرجع ذلك أساسًا إلى افتقارهم إلى الإلمام بثقافة الإنترنت الأمريكية. قرر المقاول من الباطن، بعد مراجعة عمله، أن حوالي 30 بالمائة من المنشورات قد تم تصنيفها بشكل خاطئ.
ربما يكون الجزء الأسرع نموًا من أعمال التدريب على الذكاء الاصطناعي يتضمن التفاعل البشري المباشر مع برنامج الدردشة الآلي. يتم تعيين الأشخاص لمناقشة المواضيع ويتم برمجة برنامج الدردشة الآلي لتقديم استجابتين مختلفتين لكل محادثة. يجب على "المناقش" المعين بعد ذلك اختيار الرد الذي يعتقد أنه "الأفضل". يتم بعد ذلك إدخال هذه المعلومات مرة أخرى في النظام لمساعدته في أن يبدو أكثر "إنسانية".
باختصار، تعتمد أنظمة الذكاء الاصطناعي بشكل كبير على عمل البشر. هذه ليست أنظمة سحرية، تعمل دون أن تتأثر بالتحيزات أو العواطف البشرية. ونشاطهم لا يحدث في سحابة وهمية. تصبح هذه النقطة اللاحقة أكثر وضوحًا عندما ننظر إلى البنية التحتية المطلوبة لتشغيلها.
سلسلة التوريد: مراكز البيانات
وقد تم دعم النمو في مجال الذكاء الاصطناعي من خلال بناء مراكز البيانات على نطاق واسع والطلب المتزايد بشكل مطرد على الكهرباء لتشغيل أجهزة الكمبيوتر والخوادم التي تحتوي عليها بالإضافة إلى مكيفات الهواء التي يجب أن تعمل بشكل مستمر لمنع ارتفاع درجة حرارتها. في الواقع"تمتلك السحابة الآن بصمة كربونية أكبر من صناعة الطيران. ويمكن لمركز بيانات واحد أن يستهلك ما يعادل 50,000 ألف منزل من الكهرباء.
وفقا وفقًا لوكالة الطاقة الدولية، كانت مراكز البيانات العاملة في الولايات المتحدة، والبالغ عددها 2,700 مركز، مسؤولة عن أكثر من 4% من إجمالي استخدام الطاقة في البلاد في عام 2022. ومن المرجح أن تصل حصتها إلى 6% بحلول عام 2026. وبطبيعة الحال، فإن هذه التقديرات تقريبية، سواء لأن شركات التكنولوجيا الكبرى هي غير راغبة لمشاركة المعلومات ذات الصلة ولأن أنظمة الذكاء الاصطناعي يتم تدريبها باستمرار على البيانات الجديدة وترقيتها بمزيد من المهارات، مما يعني استخدامًا أكبر للطاقة لكل نشاط.
وحتى الآن، هناك دلائل تشير إلى أن متطلبات الطاقة لمراكز البيانات تفرض ضرائب على شبكة الكهرباء الأمريكية. مثل واشنطن بوست ملاحظات: "تحتاج ولاية فرجينيا الشمالية إلى ما يعادل العديد من محطات الطاقة النووية الكبيرة لخدمة جميع مراكز البيانات الجديدة المخطط لها والتي هي قيد الإنشاء. وتواجه ولاية تكساس، حيث أصبح نقص الكهرباء أمرًا روتينيًا بالفعل في أيام الصيف الحارة، نفس المعضلة.
ويواجه شمال غرب المحيط الهادئ تحديا مماثلا. كما أوريجونيان وتشير الصحيفة:
"سوف تستهلك مراكز البيانات المنتشرة في جميع أنحاء ولاية أوريغون قدرًا أكبر من الكهرباء بشكل كبير مما توقعته المرافق الإقليمية ومخططو الطاقة، وفقًا لثلاثة توقعات جديدة صدرت في صيف [2023].
"هذا يضع المزيد من الضغط على الشبكة الكهربائية الشمالية الغربية ويلقي بظلال من الشك على ما إذا كانت ولاية أوريغون قادرة على تحقيق أهداف الطاقة النظيفة الطموحة التي حددتها الولاية قبل عامين فقط ...
"وتتوقع إدارة الطاقة في بونفيل الآن أنه بحلول عام 2041، سينمو الطلب على الكهرباء في مراكز البيانات في أوريغون وواشنطن بمقدار مرتين ونصف، مما سيجذب 2,715 ميجاوات في المتوسط. وهذا يكفي لتزويد ثلث المنازل في هاتين الولايتين بالكهرباء اليوم.
ويمثل هذا الطلب المتزايد على الطاقة، والذي تغذيه إلى حد كبير الطلبات السريعة النمو في مجال الذكاء الاصطناعي، تهديدا كبيرا لجهودنا في مكافحة ظاهرة الاحتباس الحراري. على سبيل المثال، دفعت المخاوف المتعلقة بالطاقة بالفعل ولايات كانساس ونبراسكا وويسكونسن وكارولينا الجنوبية إلى تأخير إغلاق محطات الفحم. تقرير عام 2024 صادر عن العديد من مجموعات العمل المناخي حول التهديد المناخي الذي يشكله الذكاء الاصطناعي ويرى أن مضاعفة استخدام الطاقة من قبل مراكز البيانات، وهو ما تتوقع وكالة الطاقة الدولية حدوثه خلال العامين المقبلين، سيؤدي إلى زيادة بنسبة 80% في الانبعاثات المسببة لتسخين الكوكب. وهذا ثمن باهظ يجب دفعه مقابل خدمات الذكاء الاصطناعي الجديدة التي يتم نشرها بغض النظر عن قدرتها على تلبية الاحتياجات الحقيقية، وليس المنشأة.
"مقنع غير صادق"
من الواضح أن شركات التكنولوجيا الكبرى تراهن على أن الذكاء الاصطناعي سيحقق لها أرباحًا ضخمة. وبدون ترك أي شيء للصدفة، فإنهم يبذلون كل ما في وسعهم لدمجها في حياتنا قبل أن تتاح لنا الفرصة للتفكير فيما إذا كنا نريدها أم لا. وبالفعل، يتم الترويج لأنظمة الذكاء الاصطناعي كوسيلة لتحسين الرعاية الصحية، وتقديم المشورة في مجال الصحة العقلية، وتقديم المشورة القانونية، وتثقيف الطلاب، وتحسين عملية صنع القرار الشخصي، وزيادة كفاءة مكان العمل، والقائمة تطول.
يبدو أن حقيقة أن أنظمة الذكاء الاصطناعي لا تكون جيدة إلا بقدر جودة البيانات المدخلة والبرمجيات المكتوبة لاستخدامها. وبعبارة أخرى، عملها يعتمد على البشر. وربما الأهم من ذلك، أنه لا أحد يعرف حقًا كيف تستخدم أنظمة الذكاء الاصطناعي البيانات التي تم تدريبها عليها. بعبارة أخرى، من المستحيل تتبع "عملية التفكير" الخاصة بهم. إن العلامات التحذيرية التي تشير إلى أن هذه الأنظمة تعاني من ذروة البيع بشكل خطير واضحة بالفعل.
على سبيل المثال، في عام 2022، اتصل أحد العملاء بشركة طيران كندا لمعرفة كيفية الحصول على أجرة الفجيعة. أخبره برنامج الدردشة الآلي لخدمة العملاء المدعوم بالذكاء الاصطناعي التابع لشركة الطيران أنه يحتاج فقط إلى إكمال نموذج في غضون 90 يومًا من إصدار التذكرة لاسترداد أموال رحلته. ولكن عندما قدم النموذج بعد الانتهاء من رحلته، أخبره موظفو شركة الطيران أنه لن يكون هناك تخفيض في الأجرة لأنه يجب إكمال النموذج قبل الرحلة. وعندما أظهر لشركة الطيران لقطات الشاشة التي التقطها لما أخبره به الروبوت، ردت شركة الطيران بأنها ليست مسؤولة عما قاله الروبوت.
رفع العميل دعوى قضائية ضد شركة طيران كندا وفاز. القاضي وأشار على ما يلي:
"تقول شركة طيران كندا إنها لا يمكن أن تتحمل المسؤولية عن المعلومات التي يقدمها أحد وكلائها أو خدمها أو ممثليها - بما في ذلك برنامج الدردشة الآلي. ولا يفسر سبب اعتقاده أن هذا هو الحال. في الواقع، تقترح شركة طيران كندا أن برنامج الدردشة الآلي هو كيان قانوني منفصل مسؤول عن أفعاله. وهذا تقديم رائع."
وبغض النظر عما إذا كانت الشركات قد تسعى في الواقع إلى إعلان روبوتات الدردشة كيانات قانونية منفصلة حتى تتمكن من فصل نفسها عن أفعالها إذا رغبت في ذلك، لم توضح شركة الطيران بعد سبب قيام روبوت الدردشة الخاص بها بتقديم معلومات خاطئة.
ثم هناك برنامج الدردشة الآلي في مدينة نيويورك، الذي تم تطويره بمساعدة مايكروسوفت، والذي روجت له المدينة باعتباره "متجرًا شاملاً" للشركات لمساعدتها على البقاء مطلعًا على قواعد ولوائح المدينة. هنا بعض أمثلة من النصائح المشكوك فيها المقدمة ردا على الاستفسارات:
"اقترح برنامج الدردشة الآلي كذبًا أنه من القانوني لصاحب العمل أن يطرد العاملة التي تشكو من التحرش الجنسي، أو لا تكشف عن حملها، أو ترفض قص ضفائرها...
"عندما سُئل عما إذا كان بإمكان المطعم تقديم الجبن الذي قضمه أحد القوارض، أجاب: "نعم، لا يزال بإمكانك تقديم الجبن للعملاء إذا كان يعاني من عضات الفئران"، قبل أن يضيف أنه من المهم تقييم "مدى الضرر". بسبب الفئران" و"إبلاغ العملاء بالوضع".
ربما ليس من المستغرب أن رد كل من مايكروسوفت وعمدة مدينة نيويورك بالقول إن مثل هذه المشكلات سيتم تصحيحها في النهاية. في الواقع، لقد أضافوا بشكل مفيد أن المستخدمين، من خلال الإشارة إلى الأخطاء، سوف يسرعون عملية الضبط الدقيق المطلوبة للنظام.
هذه الأنواع من المشاكل، على الرغم من خطورتها، تتضاءل مقارنة بمشكلة "الهلوسة" المرتبطة بالذكاء الاصطناعي. تحدث الهلوسة عندما يقوم نظام الذكاء الاصطناعي بتلفيق معلومات، والتي يمكن أن تشمل الأسماء والتواريخ والكتب والقضايا القانونية والتفسيرات الطبية، وحتى الأحداث التاريخية. على سبيل المثال، كانت هناك العديد من القضايا القانونية حيث اخترعت برامج الدردشة القضايا التي أشار إليها المحامون في ملفاتهم القضائية.
مثال على ذلك: المحامون الذين يمثلون المدعي في يونيو 2023 حقيبة تتعلق بدعوى قضائية ضد شركة طيران كولومبية، حيث قدمت ملخصًا يتضمن ست حالات داعمة "عثر عليها" بواسطة برنامج الدردشة الآلية. ولسوء الحظ، لم تكن هذه الحالات موجودة على الإطلاق؛ حتى أن البعض ذكر شركات طيران غير موجودة. رفض القاضي القضية وفرض غرامة على المحامين لاستخدامهم استشهادات مزيفة. واختلف المحامون مع تأكيد القاضي بأنهم تصرفوا بسوء نية، وقالوا في دفاعهم: "لقد ارتكبنا خطأ حسن النية عندما فشلنا في الاعتقاد بأن قطعة من التكنولوجيا يمكن أن تختلق قضايا من قماش كامل.
حتى روبوتات الدردشة الأكثر تطورًا يمكن أن تعاني من الهلوسة. عندما سُئل عن احتمالات المراهنة على بطولة Superbowl لعام 2024 التي كان من المقرر إجراؤها في اليوم التالي، أجاب برنامج الدردشة الآلي من Google أعلن لقد فات الأوان للمراهنة نظرًا لأن Superbowl قد أقيمت بالفعل، حيث تغلب فريق San Francisco 49ers على Kansas City Chiefs بنتيجة 34 إلى 28. حتى أنها تضمنت بعض إحصائيات اللاعبين. فازت مدينة كانساس سيتي بالمباراة عندما أقيمت. وفعل برنامج الدردشة الآلي التابع لشركة مايكروسوفت الشيء نفسه، مؤكدا أن اللعبة قد انتهت على الرغم من أنها لم تلعب بعد. ومع ذلك فقد أعلنت أن فريق كانساس سيتي تشيفز قد فاز.
الآن تخيل ما هي التكاليف التي قد تكون إذا عانى برنامج الدردشة الآلي الذي يقدم المشورة الطبية من الهلوسة. يعمل الجيش الأمريكي بسرعة على زيادة استخدامه لتكنولوجيا الذكاء الاصطناعي بعدة طرق، بما في ذلك تحديد التهديدات، وتوجيه الطائرات بدون طيار، وجمع المعلومات الاستخبارية، والتخطيط للحرب. تخيل الكارثة المحتملة التي يمكن أن تنجم عن التدريب غير الكافي أو غير الكامل للنظام على البيانات، أو ما هو أسوأ من ذلك الهلوسة. النقطة الواضحة هي أن هذه الأنظمة بعيدة كل البعد عن كونها مضمونة، وذلك لعدة أسباب. يلتقط مستند Microsoft الداخلي هذا الأمر بشكل أفضل، عندما يعلن أن أنظمة الذكاء الاصطناعي الجديدة "مصممة لتكون مقنعة، وليست صادقة".
ما الذي يجب عمله؟
حتى الآن، تركز القلق العام بشأن الذكاء الاصطناعي إلى حد كبير على الاستخدام غير المصرح به للبيانات الشخصية من قبل أنظمة الذكاء الاصطناعي. يريد الأشخاص الحماية من الحذف غير المصرح به لموادهم على الويب. ولا يريدون أن تصبح تفاعلاتهم مع أنظمة الذكاء الاصطناعي نشاطًا لتوليد البيانات قد يعرضهم للاحتيال أو التمييز أو المضايقة. مختلف حكومات الولايات والحكومات المحلية الآن النظر طرق تحقيق ذلك. وفي عام 2023، أصدر الرئيس بايدن أمرًا فيدراليًا أمر تنفيذي تسعى إلى ضمان اختبار أنظمة التدقيق الداخلي "الأساسية" الجديدة بشكل مناسب بحثًا عن العيوب قبل الإصدار العام. هذه خطوات أولى مفيدة.
إن الصراع الأشد حول استخدام الذكاء الاصطناعي يحدث في مكان العمل. تستخدم الشركات أنظمة الذكاء الاصطناعي للاحتفاظ بها علامات التبويب بشأن تنظيم العمال، مراقب أداء العاملين، وعندما يكون ذلك ممكنا تخلص من العمال. وليس من المستغرب أن يبدأ العمال النقابيون في المقاومة، واقتراح قيود على استخدام الشركات لأنظمة الذكاء الاصطناعي.
على سبيل المثال، قامت رابطة الكتاب الأمريكية، التي تمثل نحو 12,000 ألف كاتب سيناريو، بضرب عدد من شركات الإنتاج الكبرى ــ بما في ذلك يونيفرسال، وباراماونت، ووالت ديزني، ونيتفليكس، وأمازون، وأبل ــ لمدة خمسة أشهر في عام 2023 سعيا لزيادة الأجور. حماية التوظيف، والقيود المفروضة على استخدام الذكاء الاصطناعي. ومن الجدير بالذكر أن بريان ميرشانت، كاتب عمود في صحيفة لوس أنجلوس تايمز، يصف:
"لم تكن المخاوف بشأن استخدام الذكاء الاصطناعي التوليدي مثل ChatGPT في قمة اهتماماتي عندما جلس الكتّاب لأول مرة مع الاستوديوهات لبدء المساومة. نص الاقتراح الأول لـ WGA ببساطة على أن الاستوديوهات لن تستخدم الذكاء الاصطناعي لإنشاء نصوص أصلية، ولم يتم رفع الأعلام الحمراء إلا عندما رفضت الاستوديوهات بشكل قاطع.
"كان ذلك عندما أدرك الكتّاب أن الاستوديوهات كانت جادة في استخدام الذكاء الاصطناعي - إن لم يكن لإنشاء نصوص جاهزة، وهو ما كان يعلم كلا الجانبين أنه مستحيل في هذه المرحلة - ثم كوسيلة ضغط ضد الكتّاب، كتهديد وكوسيلة لتبرير تقديم إعادة كتابة منخفضة. مصاريف. وذلك عندما رسمت WGA خطًا في الرمال، عندما بدأنا نرى لافتات على خطوط الاعتصام تدين الذكاء الاصطناعي تنتشر على وسائل التواصل الاجتماعي والعناوين الرئيسية التي روجت للصراع وهي تزين الصحف مثل هذه الصحيفة.
في الواقع، أدى الوعي المتزايد بالحاجة إلى السيطرة على استخدام أنظمة الذكاء الاصطناعي إلى قيام نقابة الكتاب بعقد عدة اجتماعات حول الذكاء الاصطناعي أثناء الإضراب للعاملين في الصناعات ذات الصلة، بما في ذلك العاملين في متاجر الوسائط الرقمية. وانتهى الأمر بالعديد من الحاضرين في خط الاعتصام لدعم كتاب السيناريو المضربين.
أنتج الإضراب مكاسب كبيرة للكتاب. فيما يتعلق بالذكاء الاصطناعي، يحظر العقد الجديد استخدام أنظمة الذكاء الاصطناعي ذات النماذج اللغوية الكبيرة لكتابة أو إعادة كتابة النصوص أو المواد المصدرية. ومن ناحية أخرى، سيُسمح للكتاب بالاستفادة منها إذا رغبوا في ذلك. ويحظر العقد أيضًا استخدام أي مواد خاصة بالكتاب لتدريب أنظمة الذكاء الاصطناعي. كمحلل واحد علق"لقد تم تحييد الخوف من إجراء المسودات الأولى من خلال ChatGPT ثم تسليمها إلى الكاتب مقابل رسوم إعادة كتابة أقل. وقد يكون هذا من بين اتفاقيات المفاوضة الجماعية الأولى التي تضع مؤشرات للذكاء الاصطناعي من حيث صلته بالعمال.
أضربت نقابة ممثلي الشاشة - الاتحاد الأمريكي لفناني التلفزيون والراديو (SAG-AFTRA) ضد منتجي السينما والتلفزيون الرئيسيين بعد شهرين من بدء إضراب WGA. ليس من المستغرب أن تكون سياسة الذكاء الاصطناعي واحدة من القضايا الرئيسية التي حفزت قرار الضربة. ولعل الأهم من ذلك، الممثلين نجح في الفوز بعقد جديد من شأنه أن يجبر المنتجين على المساومة على الاستخدامات المستقبلية للذكاء الاصطناعي.
على سبيل المثال، تتطلب الاتفاقية أنه إذا كان المنتج يخطط لاستخدام "مؤدي اصطناعي" (فرد ذو مظهر طبيعي تم إنشاؤه رقميًا "لا يمكن التعرف عليه كأي مؤدي طبيعي يمكن تحديده")، فيجب عليه إخطار النقابة والتفاوض معها بشأن قرار عدم استئجار فنان طبيعي مع إمكانية دفع الرسوم للنقابة. إذا أراد المنتج استخدام "مؤدي اصطناعي يمكن التعرف عليه" (فرد ذو مظهر طبيعي تم إنشاؤه رقميًا ويمكن التعرف عليه باعتباره مؤديًا طبيعيًا)، فيجب عليه أولاً التفاوض مع المؤدي والحصول على موافقته.
ويشارك عمال آخرون أيضًا في مساومة صعبة مع رؤسائهم حول استخدام تكنولوجيا الذكاء الاصطناعي، وذلك لحماية وظائفهم والدفاع عن المعايير المهنية، على سبيل المثال. الصحفيين. تعتبر هذه النضالات العمالية بداية مهمة نحو تطوير حواجز الحماية اللازمة لاستخدام الذكاء الاصطناعي. ويمكن أن تكون أساسًا لبناء تحالف أوسع بين مجتمع العمل ضد دافع الشركات لاستخدام تكنولوجيا الذكاء الاصطناعي لتقليل الروابط البشرية والفاعلية البشرية - في نظامنا الطبي، والمؤسسات التعليمية، والنقل، والتقارير الإخبارية، والاتصالات مع الوكالات العامة ومقدمي الخدمات. من السلع والخدمات، والقائمة تطول. سوف تتحسن فرص نجاحنا بشكل كبير إذا تمكنا من مساعدة العاملين على رؤية الضجيج من أجل إجراء تقييم دقيق للمجموعة الكاملة من التكاليف والفوائد المرتبطة بتكنولوجيا الذكاء الاصطناعي. •
مارتن هارت لاندسبيرج هو أستاذ فخري للاقتصاد في كلية لويس وكلارك، بورتلاند، أوريغون؛ وباحث مساعد في معهد العلوم الاجتماعية، جامعة جيونج سانج الوطنية، كوريا الجنوبية. وتشمل مجالات التدريس والبحث لديه الاقتصاد السياسي، والتنمية الاقتصادية، والاقتصاد الدولي، والاقتصاد السياسي لشرق آسيا. وهو يحتفظ بمدونة تقارير من الجبهة الاقتصادية.
يتم تمويل ZNetwork فقط من خلال كرم قرائها.
للتبرع