AMY Goodman: هي آهي هاڻي جمهوريت!، democraticnow.org، جنگ ۽ امن جي رپورٽ. مان ايمي گڊمين آهيان، نرمين شيخ سان.
جيئن ته وڌيڪ عوام مصنوعي ذهانت، يا AI کان واقف ٿي وڃي ٿي، سينيٽ اڱارو ڏينهن هڪ ٻڌڻي منعقد ڪئي ته ان کي ڪيئن منظم ڪيو وڃي. سينيٽ جي عدليه جي ذيلي ڪميٽي جي چيئر رچرڊ بلومينٿل پنهنجي آواز جي اي آءِ ٺاهيل رڪارڊنگ سان ٻڌڻ کي کوليو ، جنهن کي ڪجهه سڏين ٿا ”ڊپ جعلي“. (هن انٽرويو جي حصو 2 لاءِ هيٺ اسڪرول ڪريو.)
SEN. رچرڊ بلومينٿل: ۽ هاڻي ڪجهه تعارفي تبصرن لاءِ.
SEN. رچرڊ بلومينٿل وائيس ڪلون: گهڻو ڪري، اسان ڏٺو آهي ته ڇا ٿئي ٿو ٽيڪنالاجي ضابطي کي ختم ڪري ٿو: ذاتي ڊيٽا جو بي ترتيب استحصال، اڻ ڄاڻائي جي ڦهلائڻ ۽ سماجي اڻ برابري کي وڌائڻ. اسان ڏٺو آهي ته الورورٿمڪ تعصب ڪيئن تبعيض ۽ تعصب کي برقرار رکي سگهي ٿو، ۽ شفافيت جي گهٽتائي عوام جي اعتماد کي ڪيئن نقصان پهچائي سگهي ٿي. اهو مستقبل ناهي جيڪو اسان چاهيون ٿا.
SEN. رچرڊ بلومينٿل: جيڪڏهن توهان گهر مان ٻڌي رهيا آهيو، توهان سوچيو هوندو ته اهو آواز منهنجو هو ۽ لفظ مون کان. پر، حقيقت ۾، اهو آواز منهنجو نه هو، لفظ منهنجا نه هئا، ۽ آڊيو هڪ AI وائيس ڪلوننگ سافٽ ويئر هو، جيڪو منهنجي فرش جي تقرير تي تربيت ڪئي وئي هئي. اهي ريمارڪس چيٽ جي پي ٽي پاران لکيا ويا جڏهن پڇيو ويو ته مان هن ٻڌڻي کي ڪيئن کوليندس.
AMY Goodman: گوگل، مائڪروسافٽ ۽ اوپن AI - ChatGPT جي پويان شروعاتي - ڪجهه ڪمپنيون آهن جيڪي وڌندڙ طاقتور مصنوعي ذهانت ٽيڪنالاجي ٺاهي رهيا آهن. OpenAI سي اي او سام Altman اڱارو جي ٻڌڻي تي گواهي ڏني ۽ ان جي خطرن بابت خبردار ڪيو.
سام آلٽمن: منهنجو خيال آهي ته جيڪڏهن هي ٽيڪنالاجي غلط ٿي وڃي ٿي، اهو بلڪل غلط ٿي سگهي ٿو. ۽ اسان چاهيون ٿا ته ان بابت آواز اٿاريو. اسان حڪومت سان گڏ ڪم ڪرڻ چاهيون ٿا ته جيئن ٿيڻ کان روڪيو وڃي. پر اسان ڪوشش ڪريون ٿا ته بلڪل صاف نظر رکون ته ان جي خراب ٿيڻ واري صورت ڇا آهي ۽ اهو ڪم جيڪو اسان کي ڪرڻو آهي ان کي گهٽائڻ لاءِ. … اهو منهنجي وڏي ڳڻتي جو هڪ شعبو آهي، انهن ماڊلز جي وڌيڪ عام صلاحيت کي هٿي وٺائڻ، قائل ڪرڻ، هڪ ٻئي کي مهيا ڪرڻ لاءِ، توهان کي خبر آهي، انٽرايڪٽو ڊس انفارميشن. … اسان ڪافي انديشو آهيون ته ان جو اثر چونڊن تي ٿي سگهي ٿو. منهنجو خيال آهي ته هي هڪ علائقو آهي جتي اميد آهي ته سڄي صنعت ۽ حڪومت گڏجي گڏجي ڪم ڪري سگهن ٿيون.
AMY Goodman: اهو سڀ ڪجهه اچي ٿو جيئن آمريڪا يورپي يونين ۽ چين جي مقابلي ۾ اي آءِ ريگيوليشن تي پوئتي آهي.
وڌيڪ لاءِ، اسان سان گڏ آهيون مارڪ روٽينبرگ، سينٽر فار AI ۽ ڊجيٽل پاليسي جو ايگزيڪيوٽو ڊائريڪٽر.
مارڪ، ڀلي ڪري آيا هاڻي جمهوريت! اهو توهان کي اسان سان گڏ هجڻ لاء تمام سٺو آهي. هاڻي، اهو تمام ضروري آهي ته توهان وٽ هي AI CEO آهي، "مهرباني ڪري اسان کي منظم ڪريو." پر، حقيقت ۾، ڇا هو اهو نه ڪري رهيو آهي ڇو ته هو چاهي ٿو ڪارپوريشن کي ضابطي سان شامل ٿيڻ گهرجي؟ انهي جي باري ۾ ڳالهايو، ۽ پڻ صرف AI ڇا آهي، انهن ماڻهن لاء جيڪي صرف اهو نٿا سمجهن ته اهو سڀ ڪجهه ڇا آهي.
مارڪ روٽينبرگ: خير، امي، سڀ کان پهريان، توهان جي مهرباني جو مون کي پروگرام ۾ شامل ڪيو.
۽ ٻيو، صرف هڪ قدم واپس وٺڻ لاء، سام Altman هن هفتي تمام گهڻو ڌيان حاصل ڪيو جڏهن هن ڪانگريس ۾ گواهي ڏني، پر مان سمجهان ٿو ته اهو اسان جي بحث جي شروعات ۾ واضح ڪرڻ تمام ضروري آهي ته سول سوسائٽي تنظيمون، AI، ٽيڪنالاجي ۾ ماهر. ڊولپر ڪيترن ئي سالن کان چئي رهيا آهن، هتي هڪ مسئلو آهي. ۽ مان سمجهان ٿو ته پاليسي جي بحث ۾ هن نقطي تي اهو تمام ضروري آهي ته اسان تسليم ڪريون ٿا ته انهن خيالن جو اظهار ماڻهن جهڙوڪ ٽمنيٽ گبرو ۽ اسٽوارٽ رسل ۽ مارگريٽ مچل ۽ منهنجي پنهنجي تنظيم جي صدر، مرو هيڪڪ، جيڪو مارچ جي شروعات ۾ گواهي ڏني هئي. هائوس نگران ڪميٽي جو چوڻ آهي ته اسان وٽ صرف حفاظتي طريقا موجود نه آهن، اسان وٽ قانوني ضابطا نه آهن، اسان وٽ حڪومت ۾ ماهر نه آهي تيز ٽيڪنالاجي تبديلي جيڪا هاڻي ٿي رهي آهي. تنهن ڪري، جڏهن ته اسان مسٽر آلٽمن جي حمايت جو استقبال ڪريون ٿا جيڪو اسان کي اميد آهي ته هڪ مضبوط قانون سازي هوندي، اسان نه ٿا سمجهون ته هن سياسي بحث ۾ ڌيان جو مرڪز هجڻ گهرجي.
هاڻي، توهان جي نقطي تي، AI بابت ڇا آهي ۽ اتي تمام گهڻو ڌيان ڇو آهي؟ هن جو حصو هڪ تمام تيز تبديلي جي باري ۾ آهي جيڪا ٽيڪنالاجي ۽ ٽيڪنالاجي صنعت ۾ ٿي رهي آهي جيڪا ڪيترن ئي ماڻهن کي ڏسڻ ۾ نه ايندي هئي جيئن اهو ٿيو. اسان ڪيترن ئي سالن کان AI سان مسئلا ڄاڻون ٿا. اسان وٽ پاڻمرادو فيصلا آهن جيڪي اڄ اسان جي ملڪ ۾ وڏي پيماني تي لاڳو ڪيا ويا آهن جيڪي ماڻهن جي تعليم لاءِ موقعن، قرضن لاءِ، روزگار لاءِ، رهائش لاءِ، امتحان لاءِ، ملڪ ۾ داخل ٿيڻ لاءِ به فيصلا ڪن ٿا. اهو سڀ ڪجهه ڪيو پيو وڃي خودڪار نظامن پاران جيڪي وڌ ۾ وڌ اعتبار ڪن ٿا شمارياتي ٽيڪنالاجي تي. ۽ اهي شمارياتي ٽيڪنالاجي ماڻهن جي باري ۾ فيصلا ڪن ٿا جيڪي اڪثر وقت مبهم هوندا آهن ۽ ثابت نه ٿي سگهندا آهن. ۽ تنهن ڪري توهان وٽ حقيقت ۾ اها صورتحال آهي جتي وڏيون وفاقي ايجنسيون ۽ وڏيون ڪمپنيون طئي ڪن ٿيون، ۽ جيڪڏهن توهان واپس هليا ويا ۽ چيو ته، "چڱو، جهڙوڪ، مون کي اهو قرض ڇو رد ڪيو ويو؟" يا، ”منهنجي ويزا جي درخواست کي ايترا سال ڇو لڳي رهيا آهن؟ تنظيمون پاڻ وٽ سٺو جواب نه آهن.
تنهن ڪري، اهو ظاهر ڪيو ويو، جزوي طور تي، هن هفتي Altman جي گواهي سان. هو هڪ نئين AI ٽيڪنڪ جي اڳين لائنن تي آهي جنهن کي عام طور تي جنريٽو AI سڏيو ويندو آهي. اهو مصنوعي معلومات پيدا ڪري ٿو. ۽ جيڪڏهن آئون سينيٽر بلومينٿل جي تبصرن بابت توهان جي افتتاح جي وضاحت ڪري سگهان ٿو، اهي اصل ۾ رڪارڊنگ نه هئا، جيڪو اسان لاء هڪ تمام واقف اصطلاح آهي. اهو آهي جيڪو اسان سوچيو ٿا جڏهن اسان ٻڌون ٿا ته ڪنهن جو آواز واپس هلي رهيو آهي. اهو اصل ۾ مصنوعي طور تي سينيٽر بلومينٿل جي اڳوڻي بيانن پاران ٺاهيل هو. ۽ اهو آهي جتي اسان ڏسندا آهيون ڪنيڪشن کي اهڙن تصورن سان گہرے جعلي. اهو حقيقت ۾ موجود ناهي، پر حقيقت اها آهي ته هڪ AI سسٽم ان کي پيدا ڪيو.
اسان وٽ هن وقت هڪ وڏو چيلنج آهي ته هن نئين قسم جي AI کي منظم ڪرڻ جي ڪوشش ڪريون، انهي سان گڏ اڳ ۾ موجود سسٽم، جيڪي ماڻهن بابت فيصلا ڪري رهيا آهن، اڪثر ڪري تعصب کي شامل ڪري رهيا آهن، اسان جي جسماني دنيا ۾ تمام گهڻو سماجي تبعيض کي نقل ڪري رهيا آهن. اڳتي هلي انهن ڊيٽا سيٽن ۾ اسان جي ڊجيٽل دنيا ڏانهن. ۽ اسان کي قانون سازي جي ضرورت آهي جيڪا ضروري محافظن کي قائم ڪندي.
نرمين شيخ: مارڪ روٽينبرگ، ڇا توهان ان حقيقت جي وضاحت ڪري سگهو ٿا ته ڪيترائي مصنوعي ذهانت جا محقق پاڻ ان بابت پريشان آهن ته مصنوعي ذهانت ڇا ٿي سگهي ٿي؟ هڪ تازي سروي ڏيکاري ٿي ته اڌ، 50٪، AI محققن AI کي گهٽ ۾ گهٽ 10٪ موقعو ڏين ٿا ته انسان جي ختم ٿيڻ جو سبب بڻجن. ڇا توهان ان بابت ڳالهائي سگهو ٿا؟
مارڪ روٽينبرگ: ها، ائين، بلڪل. ۽ اصل ۾، مان هو، توهان کي خبر آهي، انهن ماڻهن مان هڪ آهي جنهن هن خط تي دستخط ڪيو جيڪو هن سال جي شروعات ۾ گردش ڪيو ويو. اهو هڪ تڪراري خط هو، رستي جي ذريعي، ڇاڪاڻ ته اهو ڊگھي مدت جي وجود جي خطرن تي ڌيان ڏيڻ جو ارادو ڪيو ويو، ۽ ان ۾ اهڙيون خدشات شامل آهن جيئن انهن سسٽم تي ڪنٽرول وڃائڻ جيڪي هاڻي ترقي ڪري رهيا آهن. AI ڪميونٽي ۾ هڪ ٻيو گروهه آهي جنهن کي مان سمجهان ٿو بلڪل صحيح طور تي موجود خدشات بابت چيو ته اسان کي فوري خدشات تي ڌيان ڏيڻ جي ضرورت آهي. ۽ مون ڳالهايو، مثال طور، هڪ لمحو اڳ ايمبيڊڊ تعصب ۽ تبعيض کي نقل ڪرڻ بابت. اهو هن وقت ٿي رهيو آهي. ۽ اھو ھڪڙو مسئلو آھي جنھن کي ھاڻي حل ڪرڻ جي ضرورت آھي.
هاڻي، منهنجو پنهنجو نظريو، جيڪو ضروري ناهي ته هر ڪنهن جو نظريو هجي، اهو آهي ته اهي ٻئي گروهه طاقتور ڊيڄاريندڙ موڪلي رهيا آهن ته اسان ڪٿي آهيون. مان سمجهان ٿو ته اهي گروهه جيڪي چئي رهيا آهن ته اسان کي ڪنٽرول جي نقصان جو خطرو آهي، جنهن ۾ ڪيترائي نامور ڪمپيوٽر سائنسدان شامل آهن جن کي ٽريننگ انعام حاصل ڪيو آهي، جيڪو ڪمپيوٽر سائنس جي نوبل انعام وانگر آهي، مان سمجهان ٿو ته اهي صحيح آهن. منهنجو خيال آهي ته ڪنٽرول جي نقصان جو حقيقي خطرو آهي. پر مان پڻ ماڻهن سان متفق آهيان، توهان ڄاڻو ٿا، AI Now Institute ۽ Distributed AI Research Institute ۾ ته اسان کي انهن سسٽم سان مسئلا حل ڪرڻا آهن جيڪي اڳ ۾ ئي مقرر ٿيل آهن.
۽ اهو پڻ سبب آهي ته مان، واضح طور تي، هن هفتي سينيٽ جي ٻڌڻ بابت ڏاڍو خوش ٿيو. اهو هڪ تمام سٺو ٻڌڻ هو. تمام سٺا بحث ٿيا. مون محسوس ڪيو ته ڪميٽي جا ميمبر چڱي طرح تيار ٿي آيا. هنن سٺا سوال ڪيا. ڪنڪريٽ پروپوزل، شفافيت جي ذميواري، رازداري جي حفاظت، ڪمپيوٽ تي حدون ۽ AI صلاحيت بابت تمام گهڻو بحث ڪيو ويو. ۽ مون تمام گهڻو سپورٽ ڪيو جيڪو سينيٽر بلومينٿل شروع ۾ چيو. توهان کي خبر آهي، هن چيو، "اسان کي شفافيت، احتساب لاء ضابطن ۾ تعمير ڪرڻ جي ضرورت آهي، ۽ اسان کي استعمال تي ڪجهه حدون قائم ڪرڻ جي ضرورت آهي." مون سوچيو ته اهو هڪ بهترين جڳهه آهي آمريڪا ۾ بحث شروع ڪرڻ لاءِ ته مصنوعي ذهانت جي استعمال لاءِ حفاظتي طريقا ڪيئن قائم ڪيا وڃن.
نرمين شيخ: ۽، مارڪ روٽينبرگ، ڪهڙا فائدا آهن جيڪي ماڻهو مصنوعي ذهانت جي حوالي سان ڳالهائي رهيا آهن؟ ۽ شرح ڏني وئي، جيئن توهان چيو، جنهن تي اهو پکڙجي رهيو آهي، اهي تيز ٽيڪنالاجي ترقي، ڇا هن وقت ان کي گرفتار ڪرڻ جو ڪو طريقو آهي؟
مارڪ روٽينبرگ: خير، ڪو به سوال ناهي ته AI، منهنجو مطلب آهي، وسيع طور تي ڳالهائڻ - ۽، توهان کي خبر آهي، يقينا، اهو هڪ وسيع اصطلاح آهي، ۽ جيتوڻيڪ ماهر، يقينا، ان تي صحيح طور تي متفق نه آهن جيڪي اسان حوالو ڪري رهيا آهيون، پر اچو ته چئو AI، وسيع طور تي ڳالهائڻ - توهان کي خبر آهي، طبي ميدان ۾ جدت ۾ حصو وٺي رهيو آهي، مثال طور، پروٽين فولڊنگ سان وڏي ڪاميابي. اهو تنظيمن جي انتظاميه ۾ ڪارڪردگي ۾ مدد ڪري رهيو آهي، مصنوعات ۾ حفاظتي خامين کي سڃاڻڻ جا بهتر طريقا، نقل و حمل ۾. منهنجو خيال آهي ته ڪو تڪرار ناهي. منهنجو مطلب، اهو ٿورڙو آهي جهڙوڪ باهه يا بجلي بابت ڳالهائڻ. اهو انهن بنيادي وسيلن مان هڪ آهي ڊجيٽل عمر ۾ جيڪو وڏي پيماني تي استعمال ڪيو ويو آهي. پر جيئن باهه يا بجليءَ سان، اسان سمجهون ٿا ته برقرار رکڻ لاءِ - فائدا حاصل ڪرڻ لاءِ، توهان کي خبر آهي ته، توهان کي به ڪجهه حفاظت ۽ ڪجهه حدن ۾ رکڻ جي ضرورت آهي. ۽ توهان ڏسو ٿا ته اسان اصل ۾ هڪ لمحي ۾ آهيون جتي اي آئي ٽيڪنڪ کي وڏي پيماني تي استعمال ڪيو پيو وڃي سختي سان ڪنهن به حفاظت يا حدن سان. ۽ اهو ئي سبب آهي ته اي آئي ڪميونٽي ۾ ڪيترائي ماڻهو پريشان آهن. اهو نه آهي ته اهي فائدا نه ڏسندا آهن. اهو آهي ته اهي خطرن کي ڏسندا آهن جيڪڏهن اسان هن رستي کي جاري رکون ٿا.
AMY Goodman: خير، اسان ان بابت ڳالهائڻ چاهيون ٿا ته انهن حفاظتي قدمن جي ڪهڙي ضرورت آهي ۽ وڌيڪ ڳولهيو ته اهو ڪيئن آهي ته مصنوعي ذهانت ڌرتيءَ تي انسانن جي خاتمي جو سبب بڻجي سگهي ٿي. اسان ڳالهائي رهيا آهيون مارڪ روٽينبرگ، سينٽر فار AI ۽ ڊجيٽل پاليسي جي ايگزيڪيوٽو ڊائريڪٽر. ڪنداسين حصو 2، ان کي آن لائن ڪريو democracynow.org تي. مان ايمي گڊمين آهيان، نرمين شيخ سان.
حصو 2: مصنوعي ذهانت جي تاريخ، ڪيئن اهو تعصب کي شامل ڪري ٿو، مزدورن کي بي گهر ڪري ٿو، جيئن ڪانگريس ضابطي تي رهي ٿي
AMY Goodman: هي آهي هاڻي جمهوريت!، democraticnow.org، جنگ ۽ امن جي رپورٽ. مان ايمي گڊمين آهيان، نرمين شيخ سان، جيئن اسان توهان لاءِ آڻي رهيا آهيون اسان جي ڳالهه ٻولهه جو حصو 2 مارڪ روٽينبرگ، سينٽر فار AI ۽ ڊجيٽل پاليسي جي ايگزيڪيوٽو ڊائريڪٽر سان.
جيئن ته وڌيڪ عوام مصنوعي ذهانت، يا AI کان واقف ٿي وڃي ٿي، سينيٽ اڱارو ڏينهن هڪ ٻڌڻي منعقد ڪئي ته ان کي ڪيئن منظم ڪيو وڃي. ڪيليفورنيا جي سينيٽر ايڪس پيڊيلا ان حقيقت بابت خدشا پيدا ڪيا ته AI تي سڀ کان وڌيڪ تحقيق انگريزي ۾ ڪئي وئي آهي ۽ ٻين ٻولين کي نظرانداز ڪيو ويو آهي.
SEN. اليڪس پاڊيلا: منهنجي سمجھ ۾ اها آهي ته انصاف جي نقصانن جو جائزو وٺڻ ۽ گھٽائڻ ۾ سڀ کان وڌيڪ تحقيق انگريزي ٻوليءَ تي مرڪوز ڪئي وئي آهي، جڏهن ته غير انگريزي ٻولين کي نسبتاً گهٽ ڌيان يا سيڙپڪاري ملي آهي، ۽ اهو ته اسان اهو مسئلو اڳ به ڏٺو آهي. مان توهان کي ٻڌايان ٿو ته مون هن کي ڇو وڌايو. سوشل ميڊيا ڪمپنيون، مثال طور، انهن جي غير انگريزيءَ لاءِ مواد جي چڪاس جي اوزارن ۽ وسيلن ۾ مناسب سيڙپڪاري نه ڪئي آهي - غير انگريزي ٻولي ۾. ۽ مان اهو شيئر ڪريان ٿو نه رڳو غير يو ايس-بنياد استعمال ڪندڙن جي تشويش جي لاءِ، پر ڪيترائي يو ايس-بنياد استعمال ڪندڙ پنهنجي ڪميونيڪيشن ۾ انگريزي کان سواءِ ٻي ٻولي کي ترجيح ڏين ٿا. تنهن ڪري مان AI اوزار ۽ ايپليڪيشنن ۾ سوشل ميڊيا جي ناڪامي کي ٻيهر ورجائڻ بابت تمام گهڻي ڳڻتي آهيان.
AMY Goodman: پڻ ٻڌڻ ۾، نيو يارڪ يونيورسٽي پروفيسر ايمريٽس آف نفسيات ۽ نيورو سائنس گري مارڪس گواهي ڏني.
گاري مارڪس: انهن شين مان هڪ آهي جنهن جي باري ۾ مون کي تمام گهڻي ڳڻتي آهي GPT-4 بابت اها آهي ته اسان کي خبر ناهي ته اها ڪهڙي تربيت ڪئي وئي آهي. مان سمجهان ٿو سام ڄاڻي ٿو، پر اسان مان باقي نه. ۽ جيڪو ان تي تربيت ڪئي وئي آهي ان جا نتيجا آهن، بنيادي طور تي، سسٽم جي تعصب. اسان ان جي باري ۾ ٽيڪنيڪل اصطلاحن ۾ ڳالهائي سگهون ٿا، پر اهي سسٽم ڪيئن ماڻهن جي اڳواڻي ڪري سگهن ٿا ان تي تمام گهڻو انحصار آهي ته انهن تي ڪهڙي ڊيٽا تربيت ڪئي وئي آهي. ۽ ائين، اسان کي ان بابت شفافيت جي ضرورت آهي. ۽ اسان کي شايد سائنسدانن جي ضرورت آهي اتي تجزيو ڪرڻ لاءِ اهو سمجهڻ لاءِ ته سياسي اثر ڇا آهن، مثال طور، انهن نظامن جا. ۽ اهو صرف سياست بابت ناهي. اهو صحت جي باري ۾ ٿي سگهي ٿو. اهو ڪنهن به شيء جي باري ۾ ٿي سگهي ٿو. اهي سسٽم تمام گهڻو ڊيٽا جذب ڪن ٿا، ۽ پوءِ جيڪي چون ٿا اهو ان ڊيٽا کي عڪاسي ڪري ٿو، ۽ اهي ان کي مختلف طريقي سان ڪرڻ وارا آهن ان جي بنياد تي ان ڊيٽا ۾ ڇا آهي. تنهن ڪري اهو فرق آهي جيڪڏهن اهي تربيت يافته آهن جڏهن ته وال اسٽريٽ جنرل انهي جي مخالفت ڪرڻ هن دوران New York Times يا Reddit. منهنجو مطلب آهي، اصل ۾، اهي گهڻو ڪري انهن سڀني شين تي تربيت يافته آهن، پر اسان ان جي جوڙجڪ کي حقيقت ۾ نٿا سمجهون. ۽ تنهنڪري اسان وٽ اهو مسئلو آهي امڪاني ڦيرڦار جو. ۽ اهو ان کان به وڌيڪ پيچيده آهي، ڇاڪاڻ ته اهو ذيلي هٿرادو آهي. ماڻهن کي شايد خبر ئي ناهي ته ڇا ٿي رهيو آهي.
AMY Goodman: تنهن ڪري، اسان مارڪ روٽينبرگ سان جاري رکون ٿا، سينٽر فار AI ۽ ڊجيٽل پاليسي جي ايگزيڪيوٽو ڊائريڪٽر. ۽ اهي سڀ واقعي نازڪ نقطا آهن جيڪي سينيٽ جي ٻڌڻي ۾ اٿاريا ويا. پر ان کان اڳ جو توھان انھن کي پتو ڏيو، سڀ ڪجھ، مثال طور، انگريزي AI تي تمام گھڻي تحقيق ڪئي وئي آھي، اسان کي مصنوعي ذھني جي تاريخ ڏيو.
مارڪ روٽينبرگ: چڱو، اھو ھڪڙو وڏو سوال آھي، ايمي. ۽ مان هن فيلڊ ۾ هاڻي ڪيترن ئي سالن کان رهيو آهيان. مون کي ياد آهي، توهان کي خبر آهي - واه، 1970s ڏانهن واپس وڃڻ، ۽ ماڻهو ڳالهائي رهيا هئا ته ڇا ڪمپيوٽر انساني شطرنج جي رانديگر کي مات ڏئي سگهي ٿو. ۽ شروعاتي ڏينهن ۾، ڪمپيوٽر ۽ شطرنج تي تمام گهڻو ڌيان هو. ۽ اھو آھي جتي مون پنھنجي شروعاتي ڪم ڪيو. ۽ اسان ڊزائين ڪندا هئاسين جنهن کي اسان AI سسٽم سڏيندا آهيون؛ اهي اصل ۾ ماهر نظام هئا، وڏي حڪمراني تي ٻڌل فيصلا وڻ. ۽ توهان اصل ۾، ڪمپيوٽر سان، هڪ مضبوط پروگرام لکي سگهو ٿا، بنيادي طور تي، جيڪو اندازو لڳائيندو، ڪنهن خاص پوزيشن کي ڏسي، مختلف آپشنز، آپشن اسڪور ڪريو، بهترين آپشن چونڊيو، بهترين قدم جي توقع ڪريو، ۽ وڌيڪ اونهائي ۾ وڌو. فيصلو وڻ توهان جي ڪمپيوٽنگ طاقت جي بنياد تي. ۽ اهي پروگرام اصل ۾ ڪافي مضبوط ٿي ويا. مان فلاڊلفيا ۾ هو، حقيقت ۾، 1997 ۾، جڏهن IBM پروگرام، ڊيپ بليو، ورلڊ شطرنج چيمپئن، گري ڪاسپاروف کي شڪست ڏني، جيڪو هڪ لمحو هو، توهان کي خبر آهي؟ منهنجو مطلب آهي، اتي هڪ ڪمپيوٽر آهي هڪ انسان کي تمام گهڻو، توهان کي خبر آهي، ڪجهه ماڻهو ڇا چوندا، ترقي يافته سرگرمي.
پر اھو اھم نقطو آھي توھان جي ٻڌندڙن لاءِ سمجھڻ لاءِ. جيتوڻيڪ 1990 جي ڏهاڪي ۾ ان وقت، جڏهن ڪمپيوٽر ڪاسپاروف کي مات ڏئي سگهي ٿو، توهان پروگرام کي کولي سگهو ٿا. توهان ڏسي سگهو ٿا ته هلون ڪيئن پيدا ڪيون ويون آهن. توهان فيصلي جي وڻ کي ٽريڪ ڪري سگهو ٿا. توهان، توهان کي خبر آهي، وڌيڪ گرانڊ ماسٽر ماهر شامل ڪريو آخري راند جي پوزيشن تي جيڪڏهن ڪمپيوٽر انهي سان مشڪل هئي. ۽ اهو واقعي انساني ڪنٽرول ۾ ڪجهه هو، جيئن ترقي يافته ٽيڪنالاجي هئي. پر AI منتقل ٿيڻ شروع ڪيو، ۽ AI مشين جي سکيا جي ٽيڪنالاجي ڏانهن وڌيو. ۽ مان واقعي اتي هڪ ماهر نه آهيان، پر مان توهان کي ٻڌائي سگهان ٿو، عام طور تي ڳالهائڻ، مشين سکڻ جي ٽيڪنڪ ۾ تمام گهڻو ڊيٽا شامل آهي ۽ پروگرام جي اندر پروسيسنگ جي تمام گهڻي ڪوشش ڪرڻ جي ڪوشش ڪرڻ جي ڪوشش ڪئي وئي ته بهترين نتيجو ڪيئن حاصل ڪجي.
تنهن ڪري، مان توهان کي هاڻي هڪ ٻي شطرنج جي ميچ جي باري ۾ ٻڌايان ٿو، ڇا ٿيو - جيڪو 2017 ۾ ٿيو. ۽ ان سال، هڪ نئين پروگرام، جيڪو مشين لرننگ تي ٻڌل آهي، جنهن کي AlphaZero سڏيو ويندو آهي، اسٽاڪ فش نالي پراڻي طرز جي ڪمپيوٽر پروگرام کي شڪست ڏني. ھڪڙو فيصلو وڻن سان جيڪو توھان کوليو ۽ درست ڪري سگھوٿا. ۽ ماڻهو نتيجو ڏسي رهيا هئا، ۽ اهي حيران ٿي ويا هئا. AlphaZero ٺاهيو هو، توهان کي خبر آهي، شاندار هلڻ. اهو حڪمران ڪمپيوٽر چيمپيئن کي شڪست ڏئي چڪو هو، جيڪو اڳ ۾ ئي حڪمران انساني چيمپئن کان بهتر هو. پر ماڻهو نتيجا ثابت نه ڪري سگهيا. اهي اهو نه سمجهي سگهيا ته پروگرام هڪ خاص حرڪت ڇو ڪئي، ڇو ته هاڻي ٽريننگ ڊيٽا تمام پيچيده هئي، ۽ طريقا ۽ ٽيڪنالاجيون، توهان ڄاڻو ٿا، تمام پيچيده هئا.
۽ مان سمجهان ٿو، ڪيترن ئي ماڻهن لاء، هي اشارو حقيقي پريشاني. توهان کي خبر آهي، هڪ طرف، توهان وٽ ڪاميابي جو اهو زبردست احساس آهي، جيڪو آئون ڄاڻان ٿو AlphaZero ۽ DeepMind جي ماڻهن ان منصوبي ۾ شامل ڪيو. ۽ ٻئي طرف، توھان ان کان پري ھليو ٿا، ۽ توھان پاڻ کان سوال پڇو ٿا: ڇا جيڪڏھن انھن مان ھڪڙو نظام استعمال ڪيو ويو صدر کي مشوري ڏيڻ لاءِ عالمي تڪرار ۾ يا مسودو ، توھان کي خبر آھي ، قانون سازي يا طبي تشخيص پيدا ڪرڻ لاءِ؟ ڇا توهان واقعي چاهيو ٿا ته اهڙا نتيجا جيڪي ثابت نه ٿي سگهن، جيڪي نقل نه ٿي ڪري سگهجن، جيڪي سائنسي طريقي جي سڀني روايتي طريقن جي پيروي نه ڪن؟
۽ اهو خدشو، توهان ڄاڻو ٿا، پس منظر ۾ لڌل، اچو ته چئو، تازو ئي ChatGPT جي ڪري تيز ٿي وئي، ڇاڪاڻ ته هاڻي توهان ڏٺو آهي ترقي يافته AI جي صلاحيت - اچو ته ان کي سڏين ٿا، هن وقت، ترقي يافته AI - ٽيڪسٽ پيدا ڪرڻ، پيدا ڪرڻ لاء. تقرير، تصويرون ٺاهڻ، وڊيو ٺاهڻ، ۽ ايستائين جو اهي ماڻهو جيڪي سسٽم ٺاهيا آهن اهي توهان کي واضح طور تي وضاحت نه ڪري سگهيا ته اهو ڪيئن ٿيو.
۽ اهو ڇو، مثال طور، ڪلپس ڏانهن واپس وڃڻ جي شروعات ۾، توهان کي خبر آهي، سينيٽر پاڊيلا بلڪل صحيح آهي. منهنجو مطلب آهي، اسان هڪ سسٽم کي ڪيئن اندازو لڳائي سگهون ٿا جڏهن اسان اڳ ۾ ئي ڄاڻون ٿا ته ٽريننگ ڊيٽا ۾ تعصب آهي جيڪڏهن اهو سڀ انگريزي-ٻولي متن آهي؟ ۽ گري مارڪس بلڪل صحيح هو. منهنجو مطلب، هن هن کي هڪ مڪمل طوفان سڏيو. توهان کي خبر آهي، هن چيو ته اسان وٽ ڪارپوريشنون آهن جيڪي نئين پروڊڪٽس سان گڏ ڊوڙي رهيا آهن، اسان وٽ ڪوبه محافظ نه آهي، ۽ اسان وٽ هڪ وڏو خطرو آهي، توهان ڄاڻو ٿا، انهن سسٽم جي عوام لاء غير منظم.
تنهن ڪري، مان شطرنج جو مثال استعمال ڪري رهيو آهيان ماڻهن کي سمجهڻ ۾ مدد ڪرڻ لاءِ AI ڪرڻ جو هڪ طريقو آهي جتي توهان ڪنٽرول برقرار رکو، جدت کي فروغ ڏيو، شاندار نتيجا حاصل ڪريو، ۽ AI ڪرڻ جو هڪ طريقو آهي، جيڪو توهان ڄاڻو ٿا، واضح طور تي، ٿورو خوفناڪ.
نرمين شيخ: ۽ خاص خدشات ڇا آهن؟ منهنجو مطلب، سڀ کان پهريان، مارڪ، جيڪڏهن توهان مصنوعي جنرل انٽيليجنس جي وضاحت ڪري سگهو ٿا ۽ ان بابت خاص خدشات ڇا آهن؟ منهنجو مطلب، هي AlphaZero آهي - ڇا اهو مصنوعي جنرل انٽيليجنس جو هڪ مثال آهي؟ جيڪڏهن توهان صرف وضاحت ڪري سگهو ٿا؟
مارڪ روٽينبرگ: ساڄو. تنهن ڪري، عام طور تي ڳالهائڻ، اسان ماضي ۾ AI بابت سوچيو آهي جيئن ڪنهن خاص مسئلي کي حل ڪرڻ ۾ مدد ڪري، جهڙوڪ جڏهن هڪ ريڊيالوجسٽ ايڪس ري جي تشريح ڪرڻ جي ڪوشش ڪري رهيو آهي. اسان وٽ ھاڻي AI تي ٻڌل ٽيڪنڪون آھن، تمام گھڻي تربيت واري ڊيٽا جي بنياد تي جيڪي تمام سٺو ڪم ڪن ٿيون، توھان ڄاڻو ٿا، ايڪس ري پاران تيار ڪيل ڊجيٽل تصوير جي امتحان ذريعي ڪينسر جي خطرن جي نشاندهي ڪن ٿا. ۽ اسان ان بابت سوچينداسين، گهڻو ڪري شطرنج وانگر، AI جي هڪ خاص ايپليڪيشن وانگر.
هاڻي دلچسپ سوال اهو آهي ته ڇا اسان AI سسٽم ٺاهي سگهون ٿا جيڪو ڪيترن ئي ڊومينز ۾ منتقل ڪري سگهي ٿو ۽ بغير ڪنهن مخصوص فيلڊ ۾ تربيت جي بصيرت مهيا ڪري سگهي ٿي. ۽، حقيقت ۾، AlphaZero پاران مهيا ڪيل ماڊل هن جو هڪ مثال آهي، ڇاڪاڻ ته، توهان ڏسو، اهو پروگرام، جيتوڻيڪ اهو شطرنج تي تمام سٺو هو، حقيقت ۾ گرين ماسٽرز جي ماهر تي تربيت نه ڪئي وئي هئي. اهو هڪ پراڻي طرز جي ماهر نظام نه هو. اهو اصل ۾ هڪ قاعدي تي ٻڌل سسٽم هو جنهن چيو ته، "هي راند ڪيئن کيڏيو وڃي ٿو؟ ٺيڪ، هاڻي مان وڃندس، پاڻ کي 10 ملين ڀيرا کيڏندس،“ ۽ انتهائي مضبوط ٿي ويو.
اسان ان کي پڻ پيدا ڪندڙ AI سان ڏسون ٿا، جيڪو توهان کي ڄاڻ آهي، انٽرنيٽ جي متن تي تربيت ڪئي وئي ۽ ٽريڊ مارڪ ايپليڪيشنن جي متن تي تربيت ڪئي وئي ۽ وڏن ڪتابن جي متن تي تربيت ڏني وئي. جڏهن توهان وٽ تمام گهڻي معلومات آهي، توهان ڄاڻو ٿا، توهان سوال پڇي سگهو ٿا، "مٿين پنجن ريناسنس مصور ڪير آهن؟" حيرت انگيز طور تي سٺو جواب حاصل ڪريو، ۽ پوء سوال پڇو، توهان کي خبر آهي، "جيڪڏهن گهر کي باهه لڳندي آهي ته بهترين حفاظتي طريقا ڇا آهن؟" ۽ ٻيو قابل ذڪر سٺو جواب. اھو ڇا آھي، توھان ڄاڻو ٿا، عام AI وانگر محسوس ٿيڻ شروع ٿئي ٿو، ڇاڪاڻتہ اھو ھڪڙي مخصوص ايپليڪيشن لاء نه آھي جيڪو ڪنھن شخص اڳ ۾ ئي مقرر ڪيو آھي.
نرمين شيخ: مارڪ، اچو ته اڱاري جي ٻڌڻي ڏانهن واپس وڃو ۽ بحث ڪيو ته ڪجهه طريقا آهن جن ۾ هن ٽيڪنالاجي کي منظم ڪري سگهجي ٿو. سينيٽ جي عدليه جي ذيلي ڪميٽي جي چيئرمين رچرڊ بلومينٿل سيڪشن 230 جي غلطين کي ٻيهر ورجائڻ جي خطري کان به خبردار ڪيو، ٻه-ٽي-صفر، جيڪو انٽرنيٽ ڪمپنين کي صارفين پاران پوسٽ ڪيل غير قانوني مواد جي ذميواري کان بچائي ٿو ۽ انهن کي قانوني پر اعتراض واري پوسٽن کي هٽائڻ جي اجازت ڏئي ٿو.
SEN. رچرڊ بلومينٿل: جڏهن AI ڪمپنيون ۽ انهن جا گراهڪ نقصان پهچائين ٿا، انهن کي ذميوار قرار ڏنو وڃي. اسان کي اسان جي ماضي جي غلطين کي ٻيهر نه ڏيڻ گهرجي - مثال طور، سيڪشن 230. ڪمپنين کي مجبور ڪرڻ لاء اڳتي سوچڻ ۽ انهن جي ڪاروباري فيصلن جي اثرن لاء ذميوار ٿيڻ سڀني کان وڌيڪ طاقتور اوزار ٿي سگهي ٿو. گندگي اندر، گندگي ٻاهر - اصول اڃا تائين لاڳو ٿئي ٿو. اسان کي ڪچري کان خبردار رهڻ گهرجي، ڇا اهو انهن پليٽ فارمن ۾ وڃي رهيو آهي يا انهن مان ٻاهر اچي رهيو آهي.
نرمين شيخ: مارڪ روٽينبرگ، جيڪڏهن توهان جواب ڏئي سگهو ٿا ته سينيٽر بلومينٿل ڇا چيو؟
مارڪ روٽينبرگ: ساڄو. خير، مون کي ڏاڍي خوشي ٿي ته هن چيو. اهو اصل ۾ هڪ نظريو هو، جيڪو توهان ڄاڻو ٿا، ٻنهي پارٽين جي ميمبرن طرفان گلي جي پار اظهار ڪيو ويو. هتي حوالو هڪ 1996 جي قانون جي هڪ روزي ڏانهن آهي جنهن انٽرنيٽ ڪمپنين کي انهن معلومات لاءِ وسيع استثنيٰ ڏني جيڪا انهن شايع ڪئي، ۽ واضح طور تي، اشتهارن جي ماڊل ذريعي منافعو حاصل ڪيو جيڪو سالن کان ترقي ڪئي. مان 1996ع ۾ قانون سازي ۾ شامل هئس. ان وقت، اهو مناسب محسوس ٿيو. انٽرنيٽ اڃا تائين ان جي شروعاتي ڏينهن ۾ هو، ۽ اتي وڏيون ٽيڪن ڪمپنيون نه هيون جيڪي تسلط ڪن ٿيون، جيئن اڄ ڪيس آهي.
پر مان سمجهان ٿو ته اهو اسان مان ڪيترن تي ظاهر ٿي چڪو آهي - مون کي خبر آهي - وقت گذرڻ سان ته سيڪشن 230 کي سڌارڻ جي ضرورت آهي، جيڪڏهن رد نه ڪيو وڃي. ان معافي جي روزي جي بدقسمتي نتيجن مان هڪ هو انٽرنيٽ ڪمپنين کي روايتي خبرن جي تنظيمن جي پڙهندڙن ۽ آمدني جو تمام گهڻو گڏ ڪرڻ جي اجازت ڏيڻ. تنهن ڪري، متضاد طور تي، انٽرنيٽ ڪمپنين کي بچائڻ ۾، اهو اصل ۾ خبرون تنظيمن کي نقصان پهچايو آهي جيڪي انهن جي ڪم کي آن لائن دستياب ڪرڻ جي ڪوشش ڪري رهيا هئا. ۽ مون کي ان سان تمام گهڻو پريشان ڪيو ويو.
پر ٻيهر، سٺي خبر آهي سينيٽر بلومينٿل ۽ ٻين بنيادي طور تي چيو آهي، AI صنعت جي حوالي سان، اهي ٻيهر غلطي ڪرڻ وارا نه آهن. ۽ اهو ڏسڻ ۾ بلڪل آسان آهي ته اهو ساڳيو مسئلو ڪيئن پيدا ٿي سگهي ٿو، ڇاڪاڻ ته اهي AI ماڊل، خاص طور تي پيدا ڪندڙ AI ماڊل، بنيادي طور تي ٻين کان جيترو ڊيٽا گڏ ڪري سگھن ٿا، ۽ اهو تمام ڏکيو ٿيندو، مان سمجهان ٿو، برقرار رکڻ. آزاد ڪاروبار ۽ تنظيمون بغير ذميواري جي بهتر طريقي سان. تنهن ڪري، اهو هڪ مثبت سگنل هو، ۽ اتي هو، مان سمجهان ٿو، ٻه طرفي حمايت.
AMY Goodman: اچو ته مان توهان کان پڇان، مارڪ روٽينبرگ، WGA هڙتال بابت جيڪو هلي رهيو آهي ۽ اهو ڪيئن AI سان تعلق رکي ٿو. توهان وٽ آهي، مثال طور - سٺو، اهو پنهنجي ٽئين هفتي ۾ داخل ٿيو آهي - اداڪار ۽ ڪمپيوٽر سائنسدان جسٽن بيٽمن هڪ ٽوئيٽ ٿريڊ پوسٽ ڪندي تفصيل سان ٻڌايو ته ڪيئن مصنوعي ذهانت تفريحي صنعت کي خراب ڪري سگهي ٿي، ۽ ان بابت ڳالهايو ته اداڪار ڇا ڪري سگهن ٿا پنهنجو پاڻ کي بچائڻ لاءِ. پر ڳالهايو ته WGA جي اسٽوڊيو جا مطالبا ڇا آهن ۽ مصنوعي ذهانت ايتري مرڪزي ۽ نوڪرين لاءِ خطرو ڇو آهي.
مارڪ روٽينبرگ: ساڄو. مون کي WGA جي شقن جي ٿوري سمجھ آهي - مون کي معاف ڪجو، موجوده ڳالهين ۾ پوزيشن. مون کي ڳالهين واري نقطي مان هڪ ڏسڻ ۾ آيو، ۽ اهو انديشو آهي ته ڇا، حقيقت ۾، تخليقي AI ٽيڪنالاجي استعمال ٿي سگهي ٿي، توهان ڄاڻو ٿا، لکت لکڻ لاء، مثال طور. ۽ مان سمجهان ٿو ته يونين، بلڪل صحيح طور تي، اتي هڪ مضبوط لڪير ڪڍڻ چاهي ٿي ۽ چوڻ آهي، "نه، اسان نٿا چاهيون ته اسان جي ڪم کي مشين سان تبديل ڪيو وڃي."
۽ اسان ان کي ڏسي رهيا آهيون اڳ ۾ ئي خبرن جي صنعت ۾، اصل ۾. خبرن جي تنظيمن مان هڪ - مان نالو وساريان ٿو، پر انهن، توهان کي خبر آهي، عملي جي برطرفي جو اعلان ڪيو، ڇاڪاڻ ته اهي ڪارڪردگي ۽ معيشت کي ڏسندا آهن، ۽ پوء، صاف طور تي، وڌيڪ منافعو، جيڪڏهن اهي استعمال ڪري سگهن ٿا، چئو، توهان کي خبر آهي، هڪ سپروائيزر ۽ 10 تخليقي AI پروگرام، هڪ ايڊيٽر ۽ 10 اديبن جي مخالفت. IBM، حقيقت ۾، تازو اعلان ڪيو آهي ته اهو پنهنجي ڪيترن ئي ملازمن کي پروگرامن سان تبديل ڪرڻ وارو آهي، اهو يقين آهي ته اهي ذميواريون وٺي سگهن ٿيون.
هاڻي، يقينا، اتي هڪ ڊگهي بحث ڪيو ويو آهي فيلڊ ۾ روزگار تي ٽيڪنالاجي جي اثر بابت. ۽ اتي ھڪڙو خيال آھي، توھان ڄاڻو ٿا، جيتوڻيڪ ڪجھ نوڪريون گم ٿي وينديون آھن، نيون نوڪريون پيدا ٿينديون، ۽ اڪثر وقت اھي بھتر نوڪريون ٿي سگھن ٿيون. مان ان موضوع جو ماهر نه آهيان، پر مان اهو چوندس. جيڪا تبديلي هن وقت ٿي رهي آهي اها تمام تيزيءَ سان ٿي رهي آهي، مان واقعي حيران ٿي ويس ته ڇا اهي به جن کي يقين آهي ته نيون نوڪريون به اينديون آخرڪار حقيقت ۾ سوچين ٿيون ته اهو تمام جلدي ٿيڻ وارو آهي. ۽ اھو پڙھڻ جيڪو مون ڪيترن ئي معروف AI حامين کان ڪيو آھي - ھن ۾ شامل آھن، مثال طور، ڪائي فو لي چين ۾ ۽ ايريڪ شمڊٽ ھتي آمريڪا ۾ - توھان ڄاڻو ٿا، ٻئي حڪومت کي رستي کان پري رکڻ چاھيو ٿا ۽ چاھيو ٿا. AI کي وسيع طور تي مقرر ڪيو وڃي. اهي بيروزگاري جي اعلي سطح جي توقع ڪري رهيا آهن. ۽ ڪيترائي ڳالهائڻ شروع ڪري رهيا آهن، توهان کي خبر آهي، عالمي بنيادي آمدني جي وڌندڙ ضرورت ماڻهن جي مدد لاءِ جيڪي AI جي ڪري پنهنجون نوڪريون وڃائڻ وارا آهن. تنهن ڪري، مون لاء، هي لمحو اصل ۾ ٽيڪنالاجي ۽ روزگار تي روايتي بحث کان ٿورو وڌيڪ دٻاء ڏسڻ ۾ اچي ٿو. ۽ مان سمجهان ٿو ته اهو صحيح آهي رائٽرس گلڊ لاءِ هاڻي اهي مسئلا اٿاري رهيا آهن. مون کي شڪ آهي ته ٻيا ڪيترائي به هوندا.
AMY Goodman: ۽، توهان کي خبر آهي، يقينا، هتي الفابيٽ جو تمام گهڻو سوپ آهي، AI کان WGA تائين، جيڪو آهي، جيئن توهان چيو آهي، رائٽرس گلڊ آف آمريڪا. نرمين؟
نرمين شيخ: تنهن ڪري، مارڪ، جيڪڏهن توهان پڻ وضاحت ڪري سگهو ٿا - منهنجو مطلب آهي، اتي ڪيترائي خطرا آهن جن جي باري ۾ ماڻهن اشارو ڪيو آهي ته مصنوعي ذهانت ممڪن طور تي جمهوري عمل کي سمجهي سگهي ٿي، نه رڳو هتي چونڊن سان، پر حقيقت ۾ سڄي دنيا ۾. جيڪڏھن توھان وضاحت ڪري سگھوٿا ته اھو ڪيئن ٿي سگھي ٿو، ۽ جتي اسان اڳ ۾ ئي شاھد ڪيو آھي؟
مارڪ روٽينبرگ: ساڄو. تنهن ڪري، هي هڪ ٻيو علائقو آهي جتي AI تمام جلدي منتقل ٿي رهي آهي. ۽ مان نه ٿو سمجهان ته اسان وٽ نتيجن جو جواب ڏيڻ لاءِ مناسب مهارت يا ضابطا آهن، ۽ خاص طور تي هتي آمريڪا ۾، جتي، افسوس سان، توهان کي خبر آهي، اتي ادارن جو بي اعتمادي وڌي رهيو آهي، خبرن جي رپورٽنگ تي بي اعتمادي وڌي رهي آهي، حقيقت ۾ اتفاق ڪرڻ جي ناڪامي. بنيادي حقيقتن تي. توهان AI ٽيڪنالاجي ذريعي انهن رجحانن کي تيز ۽ تيز ڪري سگهو ٿا.
۽ مون کي مختصر طور تي بيان ڪرڻ ڏيو ته اهو ڪيئن ڪم ڪري ٿو. اسان شايد سوچيو، مثال طور، روايتي تشويش آهي، توهان کي خبر آهي، پروپيگنڊا يا غلط بيان جيڪي شايع ڪيا ويا آهن ماڻهن کي گمراهه ڪرڻ، ماڻهن کي گمراهه ڪرڻ لاء. ان قسم جي ڪميونيڪيشن بابت ڪا به نئين ڳالهه نه آهي - اڻ ڄاڻائي، اسان ان کي پڻ سڏي سگهون ٿا. AI ٽيڪنالاجي ۽ ذاتي ڊيٽا سان، ھاڻي ھاڻي ماڻھن کي ھدف ڪرڻ، پروفائيل ڪرڻ، مشغول ڪرڻ، گروم ڪرڻ جي صلاحيت آھي، اھو آھي انتهائي ڪارائتو، انتهائي قائل ۽ ڏاڍو ڏکيو، اصل ۾، توقع ڪرڻ يا اندازو ڪرڻ. هي هڪ مسئلن مان آهي، اصل ۾، گري مارڪس هن هفتي ڪميٽي سان گڏ ڪيو. منهنجو مطلب آهي، اسان ماڻهن سان رابطو ڪيو آهي، توهان کي خبر آهي، فون تي، چئو، يا زوم تي. اسان اهو فيصلو ڪري سگهون ٿا ته اسان ڪير ڳالهائي رهيا آهيون ۽ ڇو اهي چئي رهيا آهن جيڪي اهي چئي رهيا آهن، ۽ اسان وٽ انساني رويي جو جائزو وٺڻ جي ڪجهه فطري صلاحيت آهي جيڪا اسان کي گهٽ ۾ گهٽ سچ ۽ ڪوڙ کي ترتيب ڏيڻ ۾ مدد ڪري ٿي. جنريٽو AI سان، انساني آواز، انساني لفظن، انساني تصويرن ۽ وڊيو کي نقل ڪرڻ لاءِ ماڻهن کي قائل ڪرڻ لاءِ اهو تيزي سان آسان ۽ سستو ٿيندو پيو وڃي.
تنهن ڪري، سينيٽر بلومينٿل، انهي ڪلپ ۾ جيڪو توهان شروع ۾ مهيا ڪيو هو، حقيقت ۾ هن جي مثال ۾ ڪافي نرم هئي، ڇاڪاڻ ته هن پروگرام کي صرف اهي لفظ چوڻ لاء چيو جيڪي هن چيو هوندو، هن جي اڳوڻي بيانن جي بنياد تي. اهو اصل ۾ هن وانگر آواز هو. پر اچو ته هڪ مختلف منظرنامي جو تصور ڪريون، ٿي سگهي ٿو سينيٽر بلومينٿل جي مخالف کان ايندڙ ريس ۾ ڪنيٽيڪٽ ۾ سينيٽ لاءِ، جيڪو بلڪل ساڳي ٽيڪنالاجي استعمال ڪري ٿو ۽ ڇا سينيٽر بلومينٿل چيو آهي، سندس آواز ۾، ڪجهه واقعي حيرت انگيز شيون، صحيح؟ اهي شيون جيڪي توهان چئو ٿا - جيڪي توهان ٻڌو ٿا، ۽ توهان وڃون ٿا، "اي منهنجا خدا! ڇا هن واقعي ائين چيو آهي؟ ۽ پوء، يقينا، توهان کي خبر آهي، بلومينٿل کي هن پوزيشن ۾ رکيو ويندو، "خير، اهو مون کي نه هو. توهان کي خبر آهي، اهو هڪ ڪمپيوٽر پروگرام هو جيڪو منهنجي مخالف پاران ٺاهيل هو. مان اهڙيون ڳالهيون ڪڏهن به نه چوندس“. ۽ اهي ماڻهو جن وٽ هاڻي اهي ٻه متضاد بيان آهن، "ها، پر، توهان کي خبر آهي، اهو توهان وانگر تمام گهڻو آواز آهي. ساڄو؟"
۽ اهو منظر، منهنجو خيال آهي ته AI دنيا ۾ ڪيترائي ماڻهو واقعي بابت پريشان آهن. اتي هڪ آهي مضمون، مان سمجهان ٿو، صرف هن هفتي ۾ بحر ٽفٽس ۾ هڪ فلسفي طرفان جيڪو جعلي ماڻهن جي پيدائش بابت ڳالهائيندو آهي. Generative AI ان کي ٺاهڻ ممڪن بڻائي ٿو، توهان کي خبر آهي، جعلي ماڻهو. ۽ اسان کي نازڪ صلاحيتن کي ترقي ڪرڻي پوندي، جيئن اسان هن ڊجيٽل ماحول جي ذريعي، اندازو ڪرڻ جي قابل ٿي، توهان کي خبر آهي، ڇا سچ آهي ۽ ڇا ناهي.
AMY Goodman: توهان ڄاڻو ٿا، توهان هر قسم جي شين بابت سوچي سگهو ٿا. مثال طور، ڊونالڊ ٽرمپ صدر لاءِ وڙهندو آهي - اهو نه ته هو حقيقتن جي پرواهه ڪندو آهي، پر، توهان کي خبر آهي، هن جي ٽيپ ڏهاڪن اڳ چيو هو ته ڪيئن هو مڪمل طور تي ايماندار آهي عورتن جي حق ۾ اسقاط حمل کي چونڊڻ جي. هن چيو، ”توکي خبر آهي، مان نيويارڪ مان آيو آهيان. تنهنڪري مان ائين محسوس ڪريان ٿو. صرف اهو چئي سگهجي ٿو ته اها گندي جعلي ٽيڪنالاجي آهي. توهان وٽ هي تازو آهي، جيولياني ٽيپ جيڪي هن جي خلاف هڪ مقدمو مان نڪرندا آهن، جتي عورت جيڪو هن تي جنسي حملي جو الزام لڳائي رهيو آهي، ڪيتريون ئي شيون رڪارڊ ڪيون آهن. هو صرف ايترو چئي سگهي ٿو، "هي گندو جعلي آهي." توهان وٽ مصنوعي ذهانت سان طاقتور جعلي ٽيڪنالاجي اڳ ۾ ئي ترڪي ۾ جمهوري چونڊن ۾ مداخلت ڪري رهي آهي. گذريل آچر جي ووٽنگ جي پهرين دور کان اڳ انٽرنيٽ تي هڪ صدارتي اميدوار جي ليڪ ٿيل جنسي ٽيپ ٿيڻ جي دعويٰ ڪندڙ هڪ وڊيو جاري ڪئي وئي. هن ريس مان ڪڍي ڇڏيو، چيو ته اهو هڪ گندو جعلي، جعلي وڊيو، جعلي تصويرون آهي. توهان جو جواب؟
مارڪ روٽينبرگ: خير، امي، توهان جي ڳالهه اصل ۾ تمام اهم آهي، ڇاڪاڻ ته مان بيان ڪري رهيو آهيان، يقينا، ڪيئن AI ٽيڪنڪ استعمال ڪري سگهجي ٿو ماڻهن کي غلط معلومات سان قائل ڪرڻ لاء، پر AI ٽيڪنڪ جي موجودگي کي اهو قائم ڪرڻ ڏکيو ٿي سگهي ٿو ته سچ ڇا آهي، ڇاڪاڻ ته. ٻيا وري چئي سگھن ٿا، "او، چڱو، توھان ڄاڻو ٿا، اھو وڊيو توھان ٺاھيو آھي،" جيڪو سچ آھي، رستي جي ذريعي، "AI پاران ٺاھيو ويو آھي، ۽ تنھنڪري ڪجھھ آھي جنھن کي ماڻھو رد ڪري سگھن ٿا." تنهن ڪري، جڏهن اسان هڪ دور ۾ وڃون ٿا، جڏهن اهو تيزيء سان آسان ٿي ويندو آهي ٻنهي کي تيار ڪرڻ ۽ AI پاران ٺاهيل مصنوعي مواد سان قائل ڪرڻ، ۽ انهي سان گڏ سوال ڪرڻ سان جيڪو سچ آهي ان کي گهٽائڻ لاء جيڪو اسان ڊجيٽل دنيا ۾ ڏسون ٿا، اهو واقعي هڪ خطرو آهي. عوامي دليل ۽ جمهوري ادارن ڏانهن.
۽ اهو پڻ - توهان کي خبر آهي، مان صرف چوندس ته مون هڪ ڪيو جو جائزو ايريڪ شمڊٽ ۽ هينري ڪسنجر جي هڪ ڪتاب گهڻو وقت اڳ، ايم آئي ٽي ۾ هٽن لوچر، سڏيو ويندو آهي. AI جي عمر. ۽ اهي عام طور تي ان امڪان جي باري ۾ پرجوش نظر اچن ٿا ته AI بهتر فيصلا ڪرڻ ۽ جمهوري ادارن جي حمايت ڪندي. ۽ مون اھو ڪتاب پڙھيو، ۽ مون انھن جا مثال ڏٺا، ۽ مان ھليو آيس، توھان کي خبر آھي، لڳ ڀڳ مخالف نتيجي تي. توهان کي خبر آهي، انهن چيو ته اهو اسان کي عقل جي عمر کان اڳتي وٺي ويندو، ۽ مون چيو ته اهو اسان کي ايمان جي عمر ڏانهن واپس وٺي ويندو، جتي اسان کي صرف AI سسٽم جي پيداوار تي ڀروسو ڪرڻو پوندو، ۽ اسان جي دليل جي صلاحيت کي وڃائڻو پوندو، جمهوريت جي حوالي سان بحث ۽ بحث.
پر بغير، توهان کي خبر آهي، هتي تمام گهڻو هيٺ اچڻ، مان ٻيهر توهان سان ۽ توهان جي ناظرين ۽ توهان جي ٻڌندڙن سان حصيداري ڪرڻ چاهيان ٿو، هن هفتي سينيٽ جي ٻڌڻي تمام سٺي هئي. اهو واقعي هڪ سنگ ميل هو ۽ آمريڪا ۾ هڪ مثبت ترقي. جيئن توهان هن حصي جي شروعات ۾ چيو ته آمريڪا ٻين ملڪن کان پوئتي رهجي ويو آهي. اسان اصل ۾ هڪ سالياني رپورٽ ٺاهيندا آهيون جنهن کي ”آرٽيفيشل انٽيليجنس ۽ ڊيموڪريٽڪ ويليوز انڊيڪس“ سڏيو ويندو آهي ۽ اسان ملڪن جي درجه بندي ۽ درجه بندي ڪندا آهيون انهن جي AI پاليسين ۽ عملن جي بنياد تي جمهوري قدرن جي ترتيب تي. ۽ اسان گذريل ڪيترن ئي سالن کان آمريڪا بابت حقيقي طور تي پريشان آهيون - تمام گهڻيون ڳجهيون ملاقاتون، ٽيڪن سي اي اوز سان تمام گهڻيون ملاقاتون، قانون سازي تي ڪافي ترقي نه ٿي. پر مان سمجهان ٿو ته اسان هڪ ڪنڊ موڙي رهيا آهيون، ۽ مان سمجهان ٿو ته هن هفتي سينيٽ جي ٻڌڻي، جنهن، جيئن مون شروع ۾ چيو، اصل ۾ ڪجهه خدشات جو جواب ڏنو، منهنجي ساٿي مرو هيڪڪ مارچ جي شروعات ۾ هائوس جي نگراني جي ٻڌڻي ۾ اٿيا هئا، واقعي سٺي خبر آهي.
نرمين شيخ: مارڪ روٽينبرگ، ڇا توهان اهو به بيان ڪري سگهو ٿا ته اهي خدشا آهن جيڪي مصنوعي ذهانت، منهن جي سڃاڻپ واري ٽيڪنالاجي، پوليسنگ ۽ اميگريشن ۾ بايوميٽرڪ جي استعمال بابت ظاهر ڪيا ويا آهن؟
مارڪ روٽينبرگ: ساڄو. تنهن ڪري، اهو هڪ تمام اهم موضوع آهي. ۽ اهو اصل ۾ اسان کي AI پاليسي بابت نازڪ بحثن مان هڪ ۾ وٺي ٿو، جيڪو اهو آهي ته ڇا حڪومتن کي اصل ۾ ريڊ لائينون ڪڍڻ جي صلاحيت هوندي ته ڪجهه AI ٽيڪنالاجي تي پابنديون پيدا ڪرڻ لاء جيڪي بنيادي انساني حقن جي ڀڃڪڙي ڪن ٿا. ٽيڪنالاجي جي دنيا ۾ هڪ رجحان آهي، جڏهن هڪ مسئلي جي نشاندهي ڪئي وئي آهي، چوڻ لاء، "او، توهان کي خبر آهي، توهان اتي ئي آهيو. اچو ته ڏسون ته اسان ان کي درست ڪري سگهون ٿا. ۽ پوءِ اسان سسٽم سان اڳتي وڌنداسين، هاڻي ته اسان مسئلو حل ڪيو آهي. مان سمجهان ٿو ته اين جي اوز ۽ انساني حقن جون تنظيمون ڇا چئي رهيون آهن، اصل ۾ AI جون ڪجهه ايپليڪيشنون آهن جن کي اجازت نه ڏيڻ گهرجي.
تنهن ڪري، مثال طور، منهن جي نگراني لاء AI جو استعمال. ۽ مان اهو اصطلاح استعمال ڪريان ٿو، ”منهن جي نگراني“، بنيادي طور تي، مختلف قسم جي منهن جي سڃاڻپ ڪرڻ لاءِ جڏهن اسان پنهنجو آئي فون کوليون ٿا، مثال طور، ۽ اها هڪ تصديق واري ٽيڪنڪ آهي توهان جي ڪنٽرول ۾. اهو واقعي ڪو مسئلو ناهي. پر جڏهن توهان اهو ڪري رهيا آهيو، ۽ اهو توهان جي ڪنٽرول ۾ نه آهي، پر حڪومت جي ڪنٽرول ۾، پوء اهو هڪ وڏي پيماني تي نگراني جي صورت آهي، ڇاڪاڻ ته هاڻي نه رڳو توهان وٽ روڊن تي ڪيمرا آهن، پر توهان وٽ روڊن تي ڪيمرا آهن جيڪي انهن جي صلاحيت رکن ٿا. ماڻهن کي سڃاڻڻ، ۽ نه رڳو ماڻهن کي سڃاڻڻ، پر انهن جي تصوير ۽ سڃاڻپ کي هڪ ڊيٽابيس سان ڳنڍيو جيڪو انهن کي پروفائل ڪري ٿو، ۽ شايد انهن جي درجه بندي به انهن جي حڪومت سان اتحاد جي بنياد تي. تنهن ڪري، يقينا، توهان کي خبر آهي، اهو نظام هاڻي چين ۾ وڏي پيماني تي ترتيب ڏنل آهي. اهو ٻين ملڪن ۾ سمجهي رهيو آهي. انهي قسم جي منهن جي نگراني، ڪاميٽي نگراني، اسان يقين رکون ٿا، صرف ممنوع هجڻ گهرجي. اسان سمجهون ٿا ته بايوميٽرڪ ڪيٽيگرائيزيشن، بايوميٽرڪ فيڪٽرز جي بنياد تي ماڻهن کي ڪڍڻ جي ڪوشش ڪئي پئي وڃي، ان تي به پابندي هجڻ گهرجي. سماجي اسڪورنگ، جيڪو آهي، ٻيهر، هڪ شخص جي سڃاڻپ کي رياست جي حمايت سان ترتيب ڏيڻ جي ڪوشش.
۽ هتي سٺي خبر، جيڪڏهن آئون ڪجهه وڌيڪ لفظ چوان ٿو، ته اهو آهي ته بين الاقوامي تنظيم يونيسڪو سان گڏ ڪم ڪري رهيا آهن انهن جي سفارش تي AI اخلاقيات، جيڪا 2021 ۾ منظور ڪئي وئي هئي، اسان وٽ هاڻي گهٽ ۾ گهٽ اصولن ۾، 193 ملڪن جيڪي چيو آهي. AI کي عام نگراني لاءِ استعمال نه ڪيو وڃي، ۽ AI کي سماجي اسڪورنگ لاءِ استعمال نه ڪيو وڃي. ۽ ائين، جڏهن سينيٽر بلومينٿل هن هفتي ٻڌڻ جي شروعات ۾ چيو ته، "اسان کي شفافيت ۽ احتساب ۽ استعمال تي حدون قائم ڪرڻ جي ضرورت آهي،" توهان ڄاڻو ٿا، مان سوچي رهيو هوس، "واه! اهو هڪ عظيم لمحو آهي، ڇاڪاڻ ته هن لاءِ چوڻ آهي ته ”استعمال تي حدون“ اصل ۾ توهان جي اٿلايل سوال جو جواب ڏئي رهيو آهي ۽ اهي نقطا جيڪي اين جي اوز ۽ انساني حقن جي گروهن ٺاهيا آهن: اسان کي اصل ۾ ڪجهه پابنديون گهرجن. ٽيڪني صنعت شايد چئي سگهي ٿي، "خير، اسان منصفانه ٿي سگهون ٿا. اسان کليل ٿي سگهون ٿا. اسان ذميوار ٿي سگهون ٿا." اهي لفظ ڪافي نه آهن. اسان کي ڪجهه روشن لائنن جي ضرورت آهي.
AMY Goodman: توهان کي خبر آهي، جڏهن اسان ڪجهه سال اڳ Sundance تي هئاسين، اتي هي شاندار دستاويزي سڏيو ويندو هو ڪوڊ ٿيل تعصب، MIT ميڊيا ليب جي محقق جي نتيجي ۾ هڪ تحقيق - هوءَ ڪارو آهي - جوائي بولامويني، مصنوعي ذهانت ذريعي منهن جي سڃاڻپ ۾ نسلي تعصب جي هڪ دريافت، ۽ اهو ڪيئن استعمال ڪيو ويو ماڻهن جي خلاف جيڪي ڪارو آهن، رنگ جا ماڻهو. ڇا توھان ان تي وڌائي سگھو ٿا، مارڪ؟
مارڪ روٽينبرگ: ها، اها اصل ۾ هڪ بهترين فلم آهي، ۽ مان جوئي جو وڏو پرستار آهيان. هن هڪ تنظيم شروع ڪئي Algorithmic Justice League، جيڪا واقعي پهرين گروپن مان هڪ هئي، ۽ هن جو ڪم، خاص طور تي، AI ۾ شامل ٿيل تعصب جي مسئلي ڏانهن ڌيان ڏيڻ لاء.
۽ اها قابل ذڪر حقيقت جنهن کي هن MIT ۾ پنهنجي تحقيق ڪندي پڌرو ڪيو اهو هو ته هڪ ڪاري عورت جي حيثيت ۾، اهي سسٽم هن جي چهري جي خاصيتن جي ذريعي سڃاڻڻ جي لحاظ کان ايترو سٺو ڪم نه ڪيو، پر جڏهن هن پنهنجي منهن تي اڇو ماسڪ لڳايو ته پوءِ. سڃاڻپ جو نظام ڪم ڪرڻ لڳو. ۽ اهو هڪ تمام سخت ياد ڏياريندڙ هو، مان سمجهان ٿو، تعصب جي قسم بابت جيڪو انهن مان ڪيترن ئي سسٽم ۾ ٺهيل آهي. ۽ اهو تعصب، رستي ۾، ڪيترن ئي مختلف ذريعن کان اچي سگهي ٿو. توهان ڄاڻو ٿا، ان جو حصو ڊيٽا بابت آهي. ان جو حصو انهن ماڻهن بابت آهي جيڪي سسٽم کي ڪوڊ ڪن ٿا. ان جو حصو ڪمپنين جي جوڙجڪ ۽ مقصد بابت آهي جيڪي سسٽم کي ترتيب ڏين ٿا. اهو اصل ۾ ڪيترن ئي مختلف سطحن تي موجود آهي.
۽، توهان کي خبر آهي، هن جي فلم، ڪوڊ ٿيل تعصب، اصل ۾ ڪجهه آهي جيڪو اسان پنهنجي AI پاليسي ڪلينڪ ۾ شرڪت ڪندڙن کي ڏيکاريون ٿا، ڇاڪاڻ ته اسان چاهيون ٿا ته ماڻهو سمجهن ته اهو مسئلو ڪهڙو آهي. ۽ جيئن مون اڳ ۾ چيو آهي، توهان کي خبر آهي، جڏهن ته آئون انهن جي خدشات کي حصيداري ڪريان ٿو جيڪي ڊگهي مدي واري خطري بابت پريشان آهن، منهنجو خيال آهي ته اسان کي هن طريقي سان معاملو ڪرڻ جي ضرورت آهي جنهن ۾ AI سسٽم تعصب کي شامل ڪن ٿا. ۽ جويو ۽ الورورٿمڪ جسٽس ليگ صرف هڪ زبردست ڪم ڪيو آهي انهي مسئلي ڏانهن ڌيان ڇڪائيندي.
نرمين شيخ: ۽، مارڪ، ڇا توھان وضاحت ڪري سگھوٿا - صرف ان تي تفصيلي بيان ڪريو، ڪيئن AI اڳ ۾ ئي تعصب کي شامل ڪري ٿو، جيئن توھان چئي رھيا ھئا، جوي اشارو ڪيو، ۽ جنھن کي اسان سنڊنس تي انٽرويو ڪيو. ڇا توهان وضاحت ڪري سگهو ٿا ته اهو ڪيئن ٿئي ٿو؟ اها ٽيڪنالاجي ڪهڙي حوالي سان استعمال ڪئي وئي آهي؟
مارڪ روٽينبرگ: ساڄو. خير، اهو هڪ وڏو ۽ پيچيده ميدان آهي. ۽ سچ پچ، مون کي اميد آهي ته توهان انهن مسئلن مان ڪجهه بابت ڳالهائڻ لاء توهان جي پروگرام تي ٻيا هوندا. مون AI Now انسٽيٽيوٽ جو ذڪر ڪيو آهي. مون ذڪر ڪيو آهي Distributed AI ريسرچ انسٽيٽيوٽ، اتي موجود ڪيترائي ماڻهو جن مون کان وڌيڪ هن موضوع جو مطالعو ڪيو آهي.
پر مان چوندس، هڪ وڪيل جي حيثيت ۾، هڪ منظرنامو، جنهن کي مان چڱيءَ طرح سمجهان ٿو، اهو پيدا ٿئي ٿو فوجداري انصاف واري نظام ۽ سزا جي حوالي سان. ۽، توهان کي خبر آهي، منهنجو مطلب آهي، ججن کي ختم ڪيو ويو آهي، ۽ اهي ڪيترن ئي ڪيسن سان معاملو ڪري رهيا آهن. ۽ اهي سزا جي فيصلي تي پهچي ويا، ۽، توهان کي خبر آهي، پراسيڪيوٽر شايد چئي سگهي ٿو، "هن نوجوان سفيد مرد لاء، اسان ڇهن مهينن جي سزا جي سفارش ڪريون ٿا،" ۽، هڪ ڪلاڪ بعد، چوندا آهن، "هن نوجوان ڪارو مرد لاء، اسان نو مهينن جي سزا جي سفارش ڪريو. ۽ جج، توهان کي خبر آهي، اهي ٻه سفارشون ٻڌي ٿو ۽ پڇي ٿو، واضح طور تي، واضح سوال، توهان کي خبر آهي: سزا جي سفارش ۾ تفاوت جو بنياد ڇا آهي؟ ۽ سڄي آمريڪا ۾ جواب واپس اچي رهيو آهي، تيزيءَ سان، ”خير، هي سفارشون هڪ تمام نفيس پروگرام مان آيون آهن، جنهن ۾ تمام گهڻو ڊيٽا نظر اچي ٿو، جيڪو اڄ توهان جي عدالت ۾ ٻن ماڻهن جو تجزيو ڪيو آهي، توهان جو اعزاز. ۽ ڪجهه ملڪيت جي معلومات جي بنياد تي، انهي سان گڏ، جنهن کي اسين اصل ۾ ظاهر نه ڪري سگهون ٿا، پر تمام سٺي رپورٽنگ ۽ شمارياتي جائزي سان، اسان عدالت کي يقين ڏياري سگهون ٿا ته جيڪڏهن مقصد آهي recidivism کي گهٽائڻ، "جيڪو ٻيهر ڪم ڪرڻ جو امڪان آهي. هڪ مجرمانه جرم، "توهان کي خبر آهي، سفيد مجرم کي ڇهن مهينن جي سزا ملي ٿي، ۽ ڪاري مجرم کي XNUMX مهينن جي سزا ملي ٿي."
۽، توهان کي خبر آهي، جيڪو توهان فوري طور تي هتي منظر ۾ ڏسي رهيا آهيو جيڪا وڏي ڳڻتي جوڳي آهي، توهان کي خبر آهي، شايد نو مهينن جي سزا صحيح آهي، ٿي سگهي ٿو ڇهن مهينن جي سزا صحيح آهي، پر اسان وٽ اصل ۾ ناهي. سمجھڻ جي قابل ٿي سگھي ٿو ته اھي نتيجا ڪيئن پيدا ڪيا ويا آھن، انھن نتيجن کي مقابلو ڪرڻ لاء. شايد اهي غلط هئا. ٿي سگهي ٿو ته ان شخص جي نالي جي داخلا ۾ به ڪا غلطي هجي، يا انهن جي عمر يا سندن پتو يا ٻيا عنصر جيڪي اسڪور ڪرڻ ۾ مدد ڪن. ۽، توهان ڏسو، اسان 2017 ۾ شطرنج پروگرام سان واپس صورتحال ۾ آهيون، جتي اسان هڪ نتيجو ڏسون ٿا، ۽ اسان کي خبر ناهي ته اهو ڪيئن پيدا ڪيو ويو.
۽ مون اصل ۾ هن مسئلي بابت وفاقي ججن سان ڳالهايو آهي. ۽ چون ٿا، ”خير، انسانيت ۾-لوپ بابت تمام گهڻيون ڳالهيون آهن. ۽ ائين، يقينا، اسان صرف AI سفارش کي قبول ڪرڻ وارا نه آهيون. توهان کي خبر آهي، اتي هڪ شخص ٿيڻ وارو آهي جيڪو حتمي فيصلو ڪرڻ وارو آهي. پر جج پڻ تسليم ڪن ٿا ته اهي سسٽم پيچيده آهن. اهي آهن، توهان ڄاڻو ٿا، ماهرن جي حمايت ڪئي. جج لاءِ نتيجو وڙهڻ ڏکيو آهي. ۽، حقيقت ۾، اهي هڪ ربر اسٽيمپ وانگر بڻجي ويندا آهن.
تنهن ڪري، جيڪڏهن مان توهان جي ٻڌندڙن ۽ ڏسندڙن سان هڪ ٻيو خيال شيئر ڪري سگهان ٿو، مان واقعي انساني-ان-لوپ جي هن تصور کان پري ٿي چڪو آهيان، جيتوڻيڪ اهو AI دنيا ۾ تمام گهڻو مشهور آهي. منهنجو خيال آهي ته اسان کي اصل ۾ چوڻ جي ضرورت آهي، "AI-in-the-loop، انسان انچارج." ۽ انهي جو مطلب آهي ته، هن مجرماڻي سزا جي مثال ڏانهن واپس اچڻ، جيڪڏهن جج مطمئن نه آهي ته هوء سمجهي سگهي ٿي ۽ نتيجو ثابت ڪري سگهي ٿي، مان سمجهان ٿو ته اسان صرف AI کي هٽائي ڇڏيو. مان نه ٿو سمجهان ته اسان وٽ اها صورتحال آهي جتي اسان اهو سمجهون ٿا ته AI ٺاهيل آئوٽ صحيح ٿيڻ وارو آهي. ۽، يقينا، هي مثال جيڪو آئون مهيا ڪري رهيو آهيان، هڪ فيلڊ ۾ جنهن بابت آئون ٿورڙي ڄاڻان ٿو، هائوسنگ ۽ ڪريڊٽ، روزگار، اميگريشن، نوڪرين بابت فيصلن سان ٿي رهيو آهي. اهو سڄي ملڪ ۾ وڏي پيماني تي نقل ڪيو ويو آهي،
AMY Goodman: مارڪ، اسان وٽ گهڻو وقت نه آهي، پر اسان صرف توهان جي تنظيم بابت پڇڻ چاهيون ٿا، سينٽر فار AI ۽ ڊجيٽل پاليسي.
مارڪ روٽينبرگ: خير، توهان جي مهرباني، امي. ۽ اڄ صبح توهان سان گڏ ٿيڻ جو موقعو لاء ٻيهر مهرباني.
اسان هن تنظيم کي شروع ڪيو ڇاڪاڻ ته اسان سوچيو ته جمهوري قدرن سان AI ٽيڪنالاجي کي ترتيب ڏيڻ ۽ AI پاليسي اڳواڻن جي ايندڙ نسل کي تربيت ڏيڻ جي فوري ضرورت هئي. اسان ڪيترن ئي سالن کان ڪورسز سيکاري رهيا آهيون ۽ سرٽيفڪيشن فراهم ڪري رهيا آهيون، مان سمجهان ٿو، تقريبن 500 ماڻهن کي 60 ملڪن ۾. انهن جمهوري پاليسي جي فريم ورڪ، يونيسڪو فريم ورڪ ۽ ڪجهه ٻين بابت ڄاڻ حاصل ڪئي آهي. اسان اميد ٿا ڪريون ته تنظيم جي ذريعي، اسان اهڙن ماڻهن کي پيدا ڪرڻ جي قابل ٿي سگهندا جيڪي انهن بحثن ۾ مشغول ڪرڻ ۽ انهن جي جاء تي سٺا اصول رکڻ لاء تعليم يافته آهن. اسان ٽيڪنالاجي جي خلاف نه آهيون، پر اسان سمجهون ٿا ته ٽيڪنالاجي هميشه انساني ڪنٽرول ۾ رهڻ گهرجي. اسان قانون جي حڪمراني، جمهوري قدرن ۽ بنيادي حقن جي حمايت ڪريون ٿا. اهو واقعي اسان جو مشن آهي.
AMY Goodman: خير، مارڪ روٽينبرگ، اسان توهان سان گڏ هجڻ جي لاءِ توهان جي تمام گهڻي مهرباني ڪرڻ چاهيون ٿا، سينٽر فار AI ۽ ڊجيٽل پاليسي جي ايگزيڪيوٽو ڊائريڪٽر. ڏسڻ حصو 1 اسان جي بحث مان، وڃو Democracynow.org. مان ايمي گڊمين آهيان، نرمين شيخ سان. اسان سان شامل ٿيڻ لاء تمام گهڻو مهرباني.
ZNetwork صرف پنهنجي پڙهندڙن جي سخاوت جي ذريعي فنڊ آهي.
موڪليندڙ