هوش مصنوعی (AI) جهان را فرا گرفته است. این در حال دگرگونی هر جنبه از زندگی و ایجاد نگرانی های اخلاقی عمده برای جامعه و آینده بشریت است. ChatGPT که بر رسانه های اجتماعی تسلط دارد، یک چت ربات مبتنی بر هوش مصنوعی است که توسط OpenAI توسعه یافته است. این زیرمجموعهای از یادگیری ماشینی است و بر آنچه مدلهای زبان بزرگ نامیده میشود متکی است که میتواند پاسخهایی شبیه انسان ایجاد کند. کاربرد بالقوه چنین فناوری واقعاً بسیار زیاد است، به همین دلیل است که قبلاً تماس هایی برای تنظیم هوش مصنوعی مانند ChatGPT وجود دارد.
آیا هوش مصنوعی می تواند از انسان ها پیشی بگیرد؟ آیا تهدیدی عمومی ایجاد می کند؟ در واقع، آیا هوش مصنوعی می تواند به یک تهدید وجودی تبدیل شود؟ زبان شناس برجسته جهان نوام چامسکیو یکی از ارجمندترین روشنفکران عمومی در تمام دوران که قد و قواره فکری اش با گالیله، نیوتن و دکارت مقایسه شده است، در مصاحبه ای که در ادامه می آید به این پرسش های آزاردهنده می پردازد.
سی جی پلی کرونیوبه عنوان یک رشته علمی، هوش مصنوعی (AI) به دهه 1950 برمی گردد، اما در چند دهه اخیر در همه زمینه ها از جمله بانکداری، بیمه، خودروسازی، موسیقی و دفاع نفوذ کرده است. در واقع، استفاده از تکنیکهای هوش مصنوعی در برخی موارد برای پیشی گرفتن از تواناییهای انسانی، مانند بازی شطرنج، نشان داده شده است. آیا احتمال دارد ماشینها از انسانها باهوشتر شوند؟
نوام چامسکی: فقط برای روشن شدن اصطلاحات، اصطلاح «ماشین» در اینجا به معنی است برنامه، اساساً یک نظریه نوشته شده در یک نماد است که می تواند توسط رایانه اجرا شود - و یک نوع غیر معمول از نظریه به روش های جالبی که می توانیم در اینجا کنار بگذاریم.
ما میتوانیم بین مهندسی محض و علم تمایز قائل شویم. هیچ مرز واضحی وجود ندارد، اما اولین تقریب مفید است. مهندسی محض به دنبال تولید محصولی است که ممکن است مفید باشد. علم به دنبال درک است. اگر موضوع هوش انسان یا ظرفیتهای شناختی موجودات دیگر باشد، علم به دنبال درک این سیستمهای بیولوژیکی است.
همانطور که من آنها را درک می کنم، بنیانگذاران هوش مصنوعی - آلن تورینگ، هربرت سایمون، ماروین مینسکی و دیگران - آن را به عنوان علم، بخشی از علوم شناختی نوظهور در آن زمان، استفاده از فناوری ها و اکتشافات جدید در نظریه ریاضی محاسبات در نظر گرفتند. پیشبرد درک در طول سالها، این نگرانیها محو شدهاند و عمدتاً توسط یک گرایش مهندسی جابجا شدهاند. نگرانیهای قبلی در حال حاضر معمولاً، گاهی اوقات با تحقیر، به عنوان GOFAI - هوش مصنوعی قدیمی خوب کنار گذاشته میشوند.
در ادامه این سوال، آیا احتمال دارد برنامه هایی فراتر از توانایی های انسانی طراحی شود؟ ما باید مراقب کلمه "قابلیت ها" باشیم، به دلایلی که به آنها باز خواهم گشت. اما اگر این اصطلاح را به عملکرد انسان در نظر بگیریم، پاسخ این است: قطعاً بله. در واقع، آنها مدتهاست وجود داشته اند: برای مثال، ماشین حساب در لپ تاپ. می تواند بسیار فراتر از آنچه انسان ها می توانند انجام دهند، اگر فقط به دلیل کمبود زمان و حافظه باشد. برای سیستمهای بستهای مانند شطرنج، در دهه 50 به خوبی فهمیده شد که دیر یا زود، با پیشرفت ظرفیتهای محاسباتی عظیم و یک دوره طولانی آمادهسازی، میتوان برنامهای برای شکست دادن استاد بزرگی که با حافظه محدود بازی میکند طراحی کرد. و زمان. دستاورد سالها بعد تقریباً روابط عمومی برای IBM بود. بسیاری از موجودات بیولوژیکی از ظرفیت های شناختی انسان به روش های بسیار عمیق تری پیشی می گیرند. مورچه های صحرا در حیاط خلوت من مغزهای کوچکی دارند، اما در اصل، نه فقط عملکرد، از ظرفیت ناوبری انسان بسیار فراتر است. هیچ زنجیره بزرگی وجود ندارد که انسان ها در راس آن قرار دارند.
محصولات مهندسی هوش مصنوعی در بسیاری از زمینه ها، چه خوب و چه بد، استفاده می شود. حتی برنامههای ساده و آشنا نیز میتوانند بسیار مفید باشند: در حوزه زبان، برنامههایی مانند تکمیل خودکار، رونویسی زنده، ترجمه گوگل و غیره. با قدرت محاسباتی بسیار بیشتر و برنامه نویسی پیچیده تر، باید برنامه های کاربردی مفید دیگری در علوم نیز وجود داشته باشد. قبلاً مواردی وجود داشته است: کمک به مطالعه تاخوردگی پروتئین یکی از موارد اخیر است که در آن فناوری جستجوی عظیم و سریع به دانشمندان کمک کرده است تا با یک مشکل مهم و سرکش مقابله کنند.
پروژه های مهندسی می توانند مفید یا مضر باشند. هر دو سوال در مورد هوش مصنوعی مهندسی مطرح می شود. کار فعلی با مدلهای زبان بزرگ (LLM)، از جمله رباتهای گفتگو، ابزارهایی را برای اطلاعات نادرست، افترا و گمراه کردن افراد ناآگاه فراهم میکند. این تهدیدها زمانی تقویت می شوند که با تصاویر مصنوعی و تکرار صدا ترکیب شوند. با توجه به نگرانیهای مختلف، اخیراً دهها هزار محقق هوش مصنوعی این کار را انجام دادهاند نام برای توقف توسعه به دلیل خطرات احتمالی که آنها درک می کنند.
مثل همیشه، مزایای احتمالی فناوری باید با هزینه های بالقوه سنجیده شود.
وقتی به هوش مصنوعی و علم روی می آوریم، سؤالات کاملاً متفاوتی پیش می آید. در اینجا به دلیل ادعاهای گزاف و بی پروا، که اغلب در رسانه ها تقویت می شود، احتیاط لازم است. برای روشن شدن مسائل، مواردی را در نظر بگیریم، برخی فرضی، برخی واقعی.
من به ناوبری حشرات اشاره کردم که یک دستاورد شگفت انگیز است. دانشمندان حشرات پیشرفت های زیادی در مطالعه چگونگی دستیابی به آن داشته اند، اگرچه فیزیولوژی عصبی، یک موضوع بسیار دشوار، همراه با تکامل سیستم ها همچنان مبهم باقی مانده است. همین امر در مورد شاهکارهای شگفت انگیز پرندگان و لاک پشت های دریایی نیز صدق می کند که هزاران مایل را طی می کنند و بدون خطا به محل مبدا بازمی گردند.
فرض کنید تام جونز، یکی از طرفداران مهندسی هوش مصنوعی، می آید و می گوید: «کار شما همگی رد شده است. مشکل حل شده است. خلبانان خطوط هوایی تجاری همیشه به نتایج یکسان یا حتی بهتر می رسند.
اگر حتی به خود زحمت پاسخ دادن را بدهیم، می خندیم.
دریانوردی پولینزیاییها را در نظر بگیرید که هنوز در میان قبایل بومی زنده هستند و از ستارهها، باد و جریانها برای فرود آوردن قایقهای خود در نقطهای تعیینشده صدها مایل دورتر استفاده میکنند. این موضوع نیز موضوع تحقیقات بسیاری برای یافتن چگونگی انجام آن بوده است. تام جونز این پاسخ را دارد: «وقت خود را تلف نکنید. کشتیهای نیروی دریایی همیشه این کار را انجام میدهند.»
همان پاسخ
بیایید اکنون به یک مورد واقعی یعنی فراگیری زبان بپردازیم. این موضوع تحقیقات گسترده و بسیار روشنگر در سالهای اخیر بوده است و نشان میدهد که نوزادان دانش بسیار غنی از زبان (یا زبانها) محیطی دارند، بسیار فراتر از آن چیزی که در اجرا نشان میدهند. این با شواهد اندک و در برخی موارد حیاتی اصلاً به دست نمی آید. در بهترین حالت، همانطور که مطالعات آماری دقیق نشان دادهاند، دادههای موجود پراکنده هستند، بهویژه زمانی که فرکانس رتبه ("قانون Zipf") در نظر گرفته شود.
تام جونز را وارد کنید: «تو رد شدی. بدون توجه به اکتشافات شما، LLM هایی که مقادیر نجومی داده را اسکن می کنند، می توانند نظم های آماری را بیابند که شبیه سازی داده هایی را که بر اساس آنها آموزش دیده اند، امکان پذیر می کند و چیزی شبیه به رفتار عادی انسان تولید می کند. چت ربات ها.”
این مورد با بقیه فرق دارد. اول اینکه واقعی است. دوم، مردم نمی خندند. در واقع، بسیاری از آنها شگفت زده می شوند. سوم، بر خلاف موارد فرضی، نتایج واقعی با آنچه ادعا می شود فاصله زیادی دارد.
این ملاحظات یک مشکل جزئی را با اشتیاق فعلی LLM به وجود می آورد: پوچی کامل آن، مانند موارد فرضی که ما آن را به یکباره تشخیص می دهیم. اما مشکلات بسیار جدی تر از پوچی وجود دارد.
یکی این است که سیستمهای LLM به گونهای طراحی شدهاند که نمیتوانند چیزی در مورد زبان، یادگیری یا سایر جنبههای شناخت به ما بگویند، یک موضوع اصولی و غیرقابل اصلاح. ترابایت داده اسکن شده را دوبرابر کنید، تریلیون پارامتر دیگر را اضافه کنید، حتی بیشتر از انرژی کالیفرنیا استفاده کنید، و شبیه سازی رفتار بهبود خواهد یافت، در حالی که شکست اصولی رویکرد برای به دست آوردن هرگونه درک را به وضوح آشکار می کند. دلیل ابتدایی است: سیستمها با زبانهای غیرممکنی که نوزادان نمیتوانند آنها را به دست آورند، به همان خوبی کار میکنند که با زبانهایی که بهسرعت و تقریباً بازتابی به دست میآورند.
مثل این است که یک زیستشناس میگوید: «من یک نظریه جدید و عالی درباره موجودات دارم. بسیاری از مواردی که وجود دارند و بسیاری از آنها که احتمالاً نمی توانند وجود داشته باشند را فهرست می کند، و من نمی توانم چیزی در مورد این تمایز به شما بگویم.
باز هم می خندیدیم یا باید.
نه تام جونز - اکنون به موارد واقعی اشاره می کند. تام جونز با اصرار بر انحراف رادیکال خود از علم، پاسخ میدهد: «تا زمانی که همه زبانها را بررسی نکردهای، از کجا میدانی؟» در این مرحله کنارگذاشتن علم عادی حتی واضح تر می شود. با برابری استدلال، میتوانیم ژنتیک و زیستشناسی مولکولی، نظریه تکامل، و بقیه علوم زیستشناسی را که بیش از بخش کوچکی از موجودات را نمونهبرداری نکردهاند، کنار بگذاریم. و برای اندازه گیری خوب، ما می توانیم تمام فیزیک را حذف کنیم. چرا به قوانین حرکت اعتقاد داریم؟ واقعاً چند جسم در حال حرکت مشاهده شده است؟
علاوه بر این، مسئله کوچکی برای اثبات وجود دارد. کسانی که یک نظریه را پیشنهاد می کنند، مسئولیت دارند نشان دهند که این نظریه تا حدی منطقی است، در این مورد، نشان می دهد که برای زبان های غیرممکن شکست می خورد. رد پیشنهاد بر عهده دیگران نیست، اگرچه در این مورد انجام این کار به اندازه کافی آسان به نظر می رسد.
بیایید توجه را به علم عادی معطوف کنیم، جایی که مسائل جالب می شوند. حتی یک مثال واحد از اکتساب زبان می تواند بینش غنی در مورد تمایز بین زبان های ممکن و غیرممکن به دست دهد.
دلایل سرراست و آشنا هستند. تمام رشد و تکامل، از جمله آنچه "یادگیری" نامیده می شود، فرآیندی است که با وضعیت موجود در بدن شروع می شود و آن را گام به گام به مراحل بعدی تبدیل می کند.
فراگیری زبان چنین فرآیندی است. حالت اولیه، موهبت بیولوژیکی قوه زبان است، که آشکارا وجود دارد، حتی اگر آن طور که برخی معتقدند، ترکیب خاصی از ظرفیت های دیگر باشد. به دلایلی که مدتها فهمیده شده است، بسیار بعید است، اما به نگرانیهای ما در اینجا مربوط نیست، بنابراین میتوانیم آن را کنار بگذاریم. آشکارا یک موهبت بیولوژیکی برای قوه زبان انسان وجود دارد. واقعی ترین حقیقت.
انتقال به وضعیت نسبتاً پایداری ادامه مییابد که فقط به صورت سطحی فراتر از آن تغییر میکند: دانش زبان. داده های خارجی فرآیند را تحریک می کنند و تا حدی شکل می دهند. با مطالعه وضعیت بهدستآمده (دانش زبان) و دادههای بیرونی، میتوان نتیجهگیریهای گستردهای در مورد وضعیت اولیه، موهبت بیولوژیکی که فراگیری زبان را ممکن میسازد، گرفت. نتیجه گیری در مورد حالت اولیه، تمایز بین زبان های ممکن و غیر ممکن را تحمیل می کند. این تمایز برای همه کسانی که در حالت اولیه مشترک هستند - همه انسانها، تا آنجا که شناخته شده است، صادق است. به نظر می رسد هیچ تفاوتی در ظرفیت کسب زبان در میان گروه های انسانی موجود وجود ندارد.
همه اینها علم عادی است و نتایج زیادی به دست آورده است.
آزمایش نشان داده است که حالت پایدار به طور قابل ملاحظه ای خیلی زود، در سن سه تا چهار سالگی به دست می آید. همچنین به خوبی ثابت شده است که قوه زبان دارای ویژگی های اساسی مختص انسان است، از این رو یک ویژگی گونه ای واقعی است: مشترک برای گروه های انسانی و از جهات اساسی یک ویژگی منحصر به فرد انسانی است.
در این گزارش شماتیک چیزهای زیادی حذف شده است، به ویژه نقش قانون طبیعی در رشد و توسعه: در مورد یک سیستم محاسباتی مانند زبان، اصول کارایی محاسباتی. اما اصل ماجرا این است. باز هم علم عادی.
این مهم است که در مورد تمایز ارسطو بین داشتن دانش و استفاده از دانش (در اصطلاح معاصر، شایستگی و عملکرد) روشن باشیم. در مورد زبان، حالت پایدار به دست آمده، داشتن دانش رمزگذاری شده در مغز است. سیستم داخلی مجموعهای نامحدود از عبارات ساختاریافته را تعیین میکند، که هر یک را میتوانیم به عنوان فرمولبندی فکری در نظر بگیریم، که هر کدام در برخی از سیستمهای حسی-حرکتی قابل بیرونسازی هستند، معمولاً صدا هستند اگرچه میتوانند نشانه یا حتی (با مشکل) لمسی باشند.
سیستم کدگذاری داخلی با استفاده از دانش (عملکرد) قابل دسترسی است. عملکرد شامل استفاده داخلی از زبان در اندیشه است: تأمل، برنامه ریزی، یادآوری و بسیاری موارد دیگر. از نظر آماری، استفاده بسیار زیاد از زبان است. برای درون نگری غیرقابل دسترس است، اگرچه ما میتوانیم با روشهای معمول علم، از «بیرون»، به بیان استعاری، چیزهای زیادی در مورد آن بیاموزیم. آنچه «گفتار درونی» نامیده میشود، در واقع، تکههایی از زبان بیرونی است که دستگاه مفصلی خاموش است. این فقط انعکاس دور از استفاده داخلی از زبان است، مسائل مهمی که نمی توانم در اینجا دنبال کنم.
اشکال دیگر استفاده از زبان ادراک (تجزیه) و تولید است، که دومی به طور اساسی شامل ویژگی هایی است که امروزه برای ما به همان اندازه اسرارآمیز باقی مانده است که زمانی که گالیله و معاصرانش در طلوع علم مدرن با هیبت و حیرت به آن نگاه می کردند.
هدف اصلی علم کشف سیستم درونی است، هم در حالت اولیه آن در قوه زبانی انسان و هم در اشکال خاصی که در اکتساب به خود می گیرد. تا جایی که این سیستم درونی درک شود، میتوان به بررسی نحوه ورود آن به عملکرد و تعامل با بسیاری از عوامل دیگر که وارد استفاده از زبان میشوند، پرداخت.
دادههای عملکرد شواهدی در مورد ماهیت سیستم داخلی ارائه میکنند، بهویژه زمانی که آنها با آزمایش، مانند کار میدانی استاندارد، پالایش میشوند. اما حتی گستردهترین مجموعه دادهها لزوماً به روشهای مهم گمراهکننده هستند. آن چیزی است که به طور معمول تولید می شود، نه دانش زبان رمزگذاری شده در مغز، موضوع اصلی مورد بررسی برای کسانی که می خواهند ماهیت زبان و کاربرد آن را درک کنند. آن شی داخلی بی نهایت احتمالات را تعیین می کند که در رفتار عادی به دلیل عوامل بی ربط به زبان، مانند محدودیت های حافظه کوتاه مدت، موضوعاتی که 60 سال پیش مورد مطالعه قرار گرفته اند، استفاده نمی شود. دادههای مشاهدهشده همچنین شامل بسیاری از مواردی است که خارج از سیستم کدگذاری شده در مغز قرار دارد، اغلب استفاده آگاهانه از زبان به روشهایی که قوانین را برای اهداف بلاغی نقض میکند. اینها حقایقهایی هستند که برای همه کارگران میدانی شناخته شدهاند، که بر تکنیکهای استنباط با خبرچینها، اساساً آزمایشها، تکیه میکنند تا مجموعهای تصفیهشده به دست آورند که محدودیتهای نامربوط و عبارات انحرافی را حذف میکند. همین امر زمانی صادق است که زبان شناسان از خود به عنوان خبرچین استفاده می کنند، رویه ای کاملاً معقول و عادی، که در تاریخ روانشناسی تا کنون رایج است.
در ادامه با علم عادی، متوجه می شویم که فرآیندها و عناصر درونی زبان را نمی توان با بررسی پدیده های مشاهده شده شناسایی کرد. اغلب این عناصر حتی در گفتار (یا نوشتار) ظاهر نمی شوند، اگرچه اثرات آنها، اغلب ظریف، قابل تشخیص است. این دلیل دیگری است که چرا محدودیت به پدیده های مشاهده شده، مانند رویکردهای LLM، درک فرآیندهای داخلی را که موضوعات اصلی تحقیق در مورد ماهیت زبان، اکتساب و استفاده از آن هستند، به شدت محدود می کند. اما اگر توجه به علم و فهم به نفع اهداف دیگر کنار گذاشته شده باشد، موضوعی نیست.
به طور کلی تر، در علوم، برای هزاران سال، نتایج به دست آمده از آزمایش ها - اغلب آزمایش های فکری - هر یک انتزاعی رادیکال از پدیده ها است. آزمایشها مبتنی بر تئوری هستند و به دنبال کنار گذاشتن عوامل بیشماری نامربوط هستند که وارد پدیدههای مشاهدهشده مانند عملکرد زبانی میشوند. همه اینها آنقدر ابتدایی است که به ندرت حتی در مورد آن بحث می شود. و آشنا همانطور که اشاره شد، تمایز اساسی به تمایز ارسطو بین داشتن دانش و استفاده از دانش برمی گردد. اولی موضوع اصلی مطالعه است. مطالعات ثانویه (و کاملاً جدی) به بررسی نحوه استفاده از سیستم ذخیره شده درونی دانش در عملکرد، همراه با بسیاری از عوامل غیرزبانی نسبت به ورود به آنچه مستقیماً مشاهده می شود، می پردازند.
همچنین ممکن است مشاهدات تئودوسیوس دوبژانسکی زیستشناس تکاملی را به خاطر بیاوریم، که عمدتاً به خاطر کارش با مگس سرکه معروف است: هر گونه منحصر به فرد است و انسانها از همه منحصر به فرد هستند. اگر ما علاقه مند به درک نوع موجوداتی هستیم - به دنبال دستور اوراکل دلفی در 2,500 سال پیش - در درجه اول به آنچه که انسان ها را منحصر به فردتر از همه می کند، در درجه اول زبان و تفکر، از نزدیک در هم تنیده می شوند. سنت غنی که به یونان و هند کلاسیک باز می گردد. بیشتر رفتارها نسبتاً معمولی هستند، بنابراین تا حدی قابل پیش بینی هستند. چیزی که بینش واقعی را در مورد آنچه ما را منحصربهفرد میکند، چیزی است که معمول نیست، که گاهی با آزمایش، گاهی با مشاهده، از کودکان عادی گرفته تا هنرمندان و دانشمندان بزرگ مییابیم.
یک نظر پایانی در این رابطه. جامعه برای یک قرن با کمپینهای شرکتهای بزرگ برای تشویق بیاعتنایی به علم مواجه بوده است، موضوعاتی که توسط نائومی اورسکس در میان دیگران به خوبی مطالعه شده است. این کار با شرکت هایی آغاز شد که محصولاتشان قاتل هستند: سرب، تنباکو، آزبست، بعدها سوخت های فسیلی. انگیزه آنها قابل درک است. هدف یک تجارت در جامعه سرمایه داری سود است نه رفاه انسان. این یک واقعیت نهادی است: بازی را انجام ندهید و شما بیرون هستید، با کسی که این کار را انجام می دهد.
دپارتمانهای روابط عمومی شرکتها از همان ابتدا تشخیص دادند که انکار شواهد علمی فزاینده درباره اثرات کشنده محصولاتشان اشتباه است. که به راحتی رد می شود. بهتر است شک بکارم، عدم اطمینان را تشویق کنم، تحقیر این لباسهای نوک تیز را که هرگز خانهای را رنگ نکردهاند، اما از واشنگتن آمدهاند تا به من بگویند از رنگ سربی استفاده نکنم، کسبوکارم را نابود میکند (یک مورد واقعی، که به راحتی تکثیر میشود). که خیلی خوب کار کرده است. در حال حاضر ما را در مسیری به سوی نابودی زندگی سازمان یافته انسانی بر روی زمین هدایت می کند.
در محافل روشنفکری، تأثیرات مشابهی توسط نقد پست مدرن علم ایجاد شده است. برچیده شد توسط ژان بریکمونت و آلن سوکال، اما هنوز در برخی محافل زنده است.
ممکن است طرح این سؤال نامهربان باشد، اما به نظر من، منصفانه است که بپرسیم آیا تام جونزها و کسانی که به طور غیرانتقادی اعلامیه های بی دقت خود را تکرار می کنند و حتی آن را تشدید می کنند، به همان گرایش های بدخواهانه کمک می کنند.
CJP: ChatGPT یک ربات چت مبتنی بر زبان طبیعی است که از هوش مصنوعی برای امکان مکالمات شبیه انسان استفاده می کند. در مقاله اخیر در نیویورک تایمزدر ارتباط با دو نویسنده دیگر، شما چت ربات های جدید را به عنوان یک هیاهو خاموش می کنید زیرا آنها به سادگی نمی توانند با صلاحیت زبانی انسان مطابقت داشته باشند. آیا این امکان وجود ندارد که نوآوریهای آینده در هوش مصنوعی بتواند پروژههای مهندسی را تولید کند که با تواناییهای انسانی مطابقت داشته باشد و شاید حتی از آن نیز فراتر رود؟
NC: اعتبار مقاله را باید به نویسنده واقعی جفری واتومول، ریاضیدان-زبان شناس-فیلسوف خوب داد. دو نویسنده مشترک فهرست شده مشاورانی بودند که با مقاله موافق بودند اما آن را ننوشتند.
درست است که چت ربات ها اصولاً نمی توانند با صلاحیت زبانی انسان ها مطابقت داشته باشند، به دلایلی که در بالا تکرار شد. طراحی اولیه آنها مانع از دستیابی آنها به حداقل شرایط کفایت برای نظریه زبان انسانی می شود: تمایز زبان های ممکن از غیرممکن. از آنجایی که این ویژگی طراحی است، نمی توان با نوآوری های آینده در این نوع هوش مصنوعی بر آن غلبه کرد. با این حال، اگر منظور از ظرفیت انسانی برای عمل، عملکرد، باشد، کاملاً ممکن است که پروژههای مهندسی آتی با تواناییهای انسانی مطابقت داشته باشند و حتی از آنها پیشی بگیرند. همانطور که در بالا ذکر شد، برخی از مدت هاست که این کار را انجام داده اند: برای مثال ماشین حساب های خودکار. جالب تر، همانطور که ذکر شد، حشرات با مغز کوچک از ظرفیت های انسانی که به عنوان شایستگی درک می شود، فراتر می روند.
CJP: در مقاله فوق همچنین مشاهده شد که پروژه های هوش مصنوعی امروزی دارای قوه اخلاقی انسانی نیستند. آیا این واقعیت آشکار باعث می شود ربات های هوش مصنوعی کمتر تهدیدی برای نژاد بشر باشند؟ من فکر می کنم استدلال می تواند این باشد که آنها را شاید حتی بیشتر از این هم کند.
NC: این در واقع یک واقعیت بدیهی است که «فکولت اخلاقی» را به طور گسترده درک کنیم. مهندسی هوش مصنوعی می تواند تهدیدهای جدی باشد مگر اینکه به دقت کنترل شود. به عنوان مثال، فرض کنید مراقبت از بیماران خودکار بود. خطاهای اجتناب ناپذیری که با قضاوت انسان بر آنها غلبه می کند می تواند یک داستان ترسناک ایجاد کند. یا فرض کنید که انسان ها از ارزیابی تهدیدات تعیین شده توسط سیستم های دفاع موشکی خودکار حذف شده اند. به عنوان یک رکورد تاریخی تکان دهنده اطلاع ما، این پایان تمدن بشری خواهد بود.
مهندسی هوش مصنوعی می تواند تهدیدهای جدی باشد مگر اینکه به دقت کنترل شود.
CJP: قانونگذاران و آژانسهای مجری قانون در اروپا نگرانیهایی را در مورد گسترش ChatGPT مطرح میکنند، در حالی که یک قانون اتحادیه اروپا اخیراً ارائه شده در تلاش است تا با طبقهبندی چنین ابزارهایی بر اساس سطح خطر درک شده، با هوش مصنوعی مقابله کند. آیا با کسانی که نگران هستند ChatGPT یک تهدید عمومی جدی است موافق هستید؟ علاوه بر این، آیا واقعاً فکر میکنید که توسعه بیشتر ابزارهای هوش مصنوعی میتواند تا زمان معرفی پادمانها متوقف شود؟
NC: من به راحتی می توانم با تلاش ها برای کنترل تهدیدات ناشی از فناوری پیشرفته، از جمله این مورد، همدردی کنم. با این حال، من در مورد امکان انجام این کار شک دارم. من گمان می کنم که جن از بطری خارج شده است. بازیگران بدخواه - نهادی یا فردی - احتمالاً می توانند راه هایی برای فرار از اقدامات حفاظتی پیدا کنند. البته چنین سوء ظن هایی دلیلی برای تلاش نکردن و هشیاری نیست.
ZNetwork صرفاً از طریق سخاوتمندی خوانندگان آن تأمین می شود.
اهدا