होय, काळजी करण्याची वेळ आधीच आली आहे - खूप काळजी. मध्ये युद्धे म्हणून युक्रेन आणि गज्जा दाखवून दिले आहे की, "किलर रोबोट्स" च्या सुरुवातीच्या ड्रोन समकक्षांनी ते युद्धभूमीवर आणले आहे आणि असल्याचे सिद्ध झाले विनाशकारी शस्त्रे. परंतु कमीतकमी ते मोठ्या प्रमाणात मानवी नियंत्रणाखाली राहतात. एका क्षणासाठी, युद्धाच्या जगाची कल्पना करा ज्यात त्या हवाई ड्रोनने (किंवा त्यांचे ग्राउंड आणि समुद्र समतुल्य) आपल्यावर नियंत्रण ठेवत होते, उलट त्याऐवजी. मग आज आपण जवळजवळ अकल्पनीय वाटू शकणाऱ्या फॅशनमध्ये विनाशकारी वेगळ्या ग्रहावर असू. दुर्दैवाने, तथापि, कृत्रिम बुद्धिमत्ता (AI) आणि रोबोट शस्त्रास्त्रांवरील काम पाहता हे अकल्पनीय आहे जे मोठ्या शक्तींनी आधीच सुरू केले आहे. आता, मी तुम्हाला त्या रहस्यमय जगात घेऊन जाऊ आणि आपल्या उर्वरित लोकांसाठी युद्धाचे भविष्य काय असू शकते याची कल्पना करण्याचा प्रयत्न करू.
प्रगत रोबोटिक्ससह AI चे संयोजन करून, यूएस सैन्य आणि इतर प्रगत शक्तींनी आधीच स्वयं-मार्गदर्शित "स्वायत्त" शस्त्रे प्रणाली तयार करण्यासाठी कठोर परिश्रम घेतले आहेत - लढाऊ ड्रोन जे त्यांना कमांड देण्यासाठी कोणत्याही मानवी अधिकाऱ्यांपेक्षा स्वतंत्रपणे प्राणघातक शक्ती वापरू शकतात. . समीक्षकांद्वारे "किलर रोबोट्स" असे संबोधले जाते, अशा उपकरणांमध्ये स्वायत्त ऑपरेशनसाठी सक्षम असलेली विविध प्रकारची न बनलेली किंवा "मानवरहित" विमाने, टाक्या, जहाजे आणि पाणबुड्यांचा समावेश होतो. यूएस एअर फोर्स, उदाहरणार्थ, विकसित करत आहे "सहयोगी लढाऊ विमाने,” एक मानवरहित हवाई वाहन (UAV) उच्च-जोखीम मोहिमेवर पायलटेड विमानात सामील होण्याचा हेतू आहे. लष्कर त्याचप्रमाणे विविध प्रकारच्या स्वायत्त मानवरहित ग्राउंड वाहनांची (UGVs) चाचणी करत आहे, तर नौदल मानवरहित पृष्ठभाग जहाजे (USVs) आणि मानवरहित समुद्राखालील जहाजे (UUVs किंवा ड्रोन पाणबुड्या) या दोन्हींचा प्रयोग करत आहे. चीन, रशिया, ऑस्ट्रेलिया आणि इस्रायल हे देशही भविष्यातील रणांगणांसाठी अशा प्रकारच्या शस्त्रास्त्रांवर काम करत आहेत.
त्या किलिंग मशीन्सच्या नजीकच्या देखाव्याने जागतिक स्तरावर चिंता आणि वाद निर्माण केला आहे, काही देशांनी आधीच त्यांच्यावर संपूर्ण बंदी घालण्याची मागणी केली आहे आणि अमेरिकेसह इतरांनी, त्यांचा वापर केवळ मानवी-पर्यवेक्षित परिस्थितीत अधिकृत करण्याची योजना आखली आहे. जिनिव्हामध्ये, राज्यांच्या एका गटाने 1980 च्या संयुक्त राष्ट्र कराराचा हवाला देऊन, पूर्णपणे स्वायत्त शस्त्रे तैनात करणे आणि वापरण्यास मनाई करण्याचा प्रयत्न केला आहे. ठराविक पारंपारिक शस्त्रांवरील अधिवेशन, ज्याचा उद्देश विशेषत: नागरीकांसाठी हानीकारक मानल्या जाणाऱ्या गैर-आण्विक शस्त्रास्त्रांवर अंकुश ठेवणे किंवा प्रतिबंधित करणे आहे. दरम्यान, न्यूयॉर्कमध्ये, यूएन जनरल असेंब्लीने गेल्या ऑक्टोबरमध्ये स्वायत्त शस्त्रास्त्रांबद्दलची पहिली चर्चा आयोजित केली होती आणि या आगामी गडी बाद होण्याच्या विषयावर पूर्ण-स्तरीय पुनरावलोकनाची योजना आखत आहे.
बहुतेक भागांमध्ये, अशा उपकरणांच्या युद्धभूमीवरील वापरावरील वादविवाद मानवी निरीक्षणाशिवाय मानवी जीव घेण्यास सक्षम असतील की नाही यावर अवलंबून आहे. अनेक धार्मिक आणि नागरी समाज संस्था भांडणे की अशा प्रणाली लढाऊ आणि रणांगणावरील नागरीक यांच्यात फरक करू शकणार नाहीत आणि त्यामुळे आंतरराष्ट्रीय मानवतावादी कायद्याद्वारे आवश्यक असलेल्या गैर-लढकांना मृत्यू किंवा दुखापतीपासून संरक्षण करण्यासाठी प्रतिबंधित केले जावे. दुसरीकडे, अमेरिकन अधिकारी, भांडणे अशी शस्त्रे कायदेशीर मर्यादांमध्ये उत्तम प्रकारे ऑपरेट करण्यासाठी डिझाइन केली जाऊ शकतात.
तथापि, या वादविवादातील कोणत्याही बाजूने युद्धात त्यांचा वापर करण्याच्या सर्वात संभाव्य अस्वस्थ पैलूकडे लक्ष दिलेले नाही: शक्यतो, लवकर किंवा नंतर, ते मानवी हस्तक्षेपाशिवाय एकमेकांशी संवाद साधू शकतील आणि "बुद्धिमान" असतील. शत्रूला पराभूत करण्यासाठी त्यांच्या स्वत: च्या अलिखित डावपेचांसह येण्यास सक्षम — किंवा इतर काहीतरी पूर्णपणे. अशा संगणक-चालित समूहविचार, ज्याला संगणक शास्त्रज्ञांनी "आविर्भावी वर्तन" असे लेबल केले आहे, जिनेव्हा, वॉशिंग्टन किंवा यूएनमधील अधिकारी अद्याप विचारात घेतलेले नसलेले अनेक धोके उघडतात.
सध्याच्या काळासाठी, अमेरिकन सैन्याने विकसित केलेली बहुतेक स्वायत्त शस्त्रे मानवरहित (किंवा, जसे की ते कधीकधी म्हणतात, "निर्जन") विद्यमान लढाऊ प्लॅटफॉर्मच्या आवृत्त्या असतील आणि त्यांच्या क्रूड समकक्षांच्या संयोगाने ऑपरेट करण्यासाठी डिझाइन केले जातील. त्यांच्याकडे एकमेकांशी संवाद साधण्याची काही क्षमता देखील असू शकते, ते "नेटवर्क केलेल्या" लढाऊ संघाचा भाग असतील ज्यांचे मिशन मानवी कमांडर्सद्वारे निर्देशित केले जाईल आणि त्यांचे निरीक्षण केले जाईल. उदाहरणार्थ, कोलॅबोरेटिव्ह कॉम्बॅट एअरक्राफ्ट अपेक्षित आहे सेवा मानवयुक्त F-35 स्टेल्थ फायटरसाठी "निष्ठावान विंगमॅन" म्हणून, स्पर्धात्मक हवाई क्षेत्रात उच्च-जोखीम मोहिमेचे आयोजन करताना. लष्कर आणि नौदलाने स्वायत्त शस्त्रास्त्रांच्या विकासासाठी त्यांच्या दृष्टीकोनात मोठ्या प्रमाणात समान मार्गाचा अवलंब केला आहे.
रोबोटचे आवाहन “स्वार्म्स”
तथापि, काही अमेरिकन रणनीतीकारांनी भविष्यातील रणांगणांवर स्वायत्त शस्त्रे वापरण्याचा पर्यायी दृष्टीकोन विकसित केला आहे ज्यामध्ये ते मानवाच्या नेतृत्वाखालील संघांमध्ये कनिष्ठ सहकारी म्हणून नव्हे तर स्वयं-दिग्दर्शित रोबोटच्या झुंडीचे समान सदस्य म्हणून काम करतील. अशा फॉर्मेशनमध्ये स्कोअर किंवा अगदी शेकडो AI-सक्षम UAVs, USVs किंवा UGV - सर्व एकमेकांशी संवाद साधण्यास, बदलत्या रणांगणातील परिस्थितींबद्दल डेटा शेअर करण्यास आणि समूह-मनाला आवश्यक वाटेल म्हणून एकत्रितपणे त्यांच्या लढाऊ रणनीतींमध्ये बदल करू शकतात.
"उदयोन्मुख रोबोटिक तंत्रज्ञानामुळे उद्याच्या शक्तींना आजच्या नेटवर्कच्या शक्तींपेक्षा जास्त वस्तुमान, समन्वय, बुद्धिमत्ता आणि गतीसह झुंड म्हणून लढण्याची परवानगी मिळेल," अंदाज पॉल शॅर्रे, या संकल्पनेचा प्रारंभिक उत्साही, सेंटर फॉर अ न्यू अमेरिकन सिक्युरिटी (CNAS) साठी 2014 च्या अहवालात. "नेटवर्क, सहकारी स्वायत्त प्रणाली," त्यांनी तेव्हा लिहिले, "खऱ्या झुंडीत सक्षम असतील - वितरित घटकांमधील सहकारी वर्तन जे एक सुसंगत, बुद्धिमान संपूर्ण जन्म देते."
शॅरेने त्याच्या भविष्यसूचक अहवालात स्पष्ट केल्याप्रमाणे, झुंड संकल्पनेच्या कोणत्याही पूर्ण पूर्ततेसाठी प्रगत अल्गोरिदम विकसित करणे आवश्यक आहे जे स्वायत्त लढाऊ प्रणालींना एकमेकांशी संवाद साधण्यास आणि आक्रमणाच्या पसंतीच्या पद्धतींवर "मत" देण्यास सक्षम करेल. मुंग्या, मधमाश्या, लांडगे आणि निसर्गातील "झुंड" वर्तन प्रदर्शित करणाऱ्या इतर प्राण्यांची नक्कल करण्यास सक्षम सॉफ्टवेअर तयार करणे हे त्यांनी नमूद केले. शॅर्रे यांनी म्हटल्याप्रमाणे, “ज्याप्रमाणे एका पॅकमधील लांडगे त्यांच्या शत्रूला सर्व दिशांकडून सतत बदलणाऱ्या धमक्यांसह सादर करतात, त्याचप्रमाणे युक्ती आणि हल्ल्याचा समन्वय साधू शकणारी निर्जन वाहने असंयोजित प्रणालींपेक्षा अधिक प्रभावी असू शकतात. en masse. "
2014 मध्ये, तथापि, अशा मशीनचे वर्तन शक्य करण्यासाठी आवश्यक तंत्रज्ञान अद्याप बाल्यावस्थेत होते. ही गंभीर कमतरता भरून काढण्यासाठी, संरक्षण विभागाने AI आणि रोबोटिक्स क्षेत्रातील संशोधनासाठी निधी देण्यास पुढे नेले, जरी त्यांनी Google आणि Microsoft सारख्या खाजगी कंपन्यांकडून असे तंत्रज्ञान देखील घेतले. त्या मोहिमेतील एक महत्त्वाची व्यक्ती होती रॉबर्ट काम, CNAS मधील पॉल शॅरेचे माजी सहकारी आणि झुंड युद्धाचा प्रारंभिक उत्साही. संरक्षण उपसचिव म्हणून 2014 ते 2017 पर्यंत काम केले, ते असे पद त्याला सक्षम केले उच्च-तंत्र शस्त्रास्त्रांच्या विकासासाठी, विशेषत: मानवरहित आणि स्वायत्त प्रणालींच्या विकासासाठी सतत वाढत जाणारी रक्कम चालवणे.
मोझॅकपासून प्रतिकृतीपर्यंत
यातील बराचसा प्रयत्न त्यांना सोपवण्यात आला होता संरक्षण प्रगत संशोधन प्रकल्प एजन्सी (DARPA), पेंटॅगॉनची इन-हाउस हाय-टेक संशोधन संस्था. अशा सहयोगी झुंड ऑपरेशन्ससाठी AI विकसित करण्याच्या मोहिमेचा एक भाग म्हणून, DARPA ने त्याचा "मोझॅक" कार्यक्रम सुरू केला, भविष्यातील उच्च-तीव्रतेमध्ये मानव आणि मानवरहित लढाऊ यंत्रणांच्या क्रियाकलापांचे समन्वय साधण्यासाठी आवश्यक अल्गोरिदम आणि इतर तंत्रज्ञान परिपूर्ण करण्याच्या उद्देशाने प्रकल्पांची मालिका. रशिया आणि/किंवा चीनशी लढा.
"युद्धासाठी मोज़ेक संकल्पनेची उत्कृष्ट लवचिकता लागू करणे," स्पष्ट DARPA च्या स्ट्रॅटेजिक टेक्नॉलॉजी ऑफिसचे डेप्युटी डायरेक्टर डॅन पॅट म्हणाले, “कमी किमतीच्या, कमी क्लिष्ट सिस्टीम कोणत्याही परिस्थितीनुसार इच्छित, परस्पर विणलेले प्रभाव निर्माण करण्यासाठी मोठ्या संख्येने एकत्र जोडल्या जाऊ शकतात. मोज़ेकचे वैयक्तिक भाग हे ॲट्रिटेबल [डिस्पेन्सेबल] असतात, परंतु ते संपूर्ण भागामध्ये कसे योगदान देतात यासाठी एकत्रितपणे अमूल्य असतात.”
युद्धाची ही संकल्पना वरवर पाहता गेल्या उन्हाळ्यात संरक्षण उपसचिव कॅथलीन हिक्स यांनी घोषित केलेल्या नवीन "प्रतिकृती" रणनीतीला अधोरेखित करते. “प्रतिकृती म्हणजे [चीनचा] सर्वात मोठा फायदा, जो मोठ्या प्रमाणावर आहे त्यावर मात करण्यासाठी आम्हाला मदत करण्यासाठी आहे. अधिक जहाजे. अधिक क्षेपणास्त्रे. अधिक लोक," ती सांगितले शस्त्र उद्योग अधिकारी गेल्या ऑगस्ट. हजारो स्वायत्त यूएव्ही, यूएसव्ही, यूयूव्ही आणि यूजीव्ही तैनात करून, तिने सुचवले की, यूएस सैन्य चीनच्या लष्करी, पीपल्स लिबरेशन आर्मी (पीएलए) ला पराभूत करण्यास, मात करण्यास आणि मात करण्यास सक्षम असेल. “पुढे राहण्यासाठी, आम्ही एक नवीन कला निर्माण करणार आहोत… आम्ही पीएलएच्या वस्तुमानाचा प्रतिकार आमच्या स्वतःच्या वस्तुमानाने करू, परंतु आमच्यासाठी योजना करणे कठीण, मारणे कठीण, पराभूत करणे कठीण होईल.”
अशा महत्त्वाकांक्षी कार्यक्रमाची अंमलबजावणी करण्यासाठी आवश्यक असलेले हार्डवेअर आणि सॉफ्टवेअर दोन्ही मिळवण्यासाठी संरक्षण विभाग आता बोईंग आणि रेथिऑन सारख्या पारंपारिक संरक्षण कंत्राटदारांकडून तसेच एआय स्टार्टअप्सकडून प्रस्ताव मागवत आहे. अंदुरिल आणि शील्ड AI. हवाई दलाची सहयोगी लढाऊ विमाने आणि नौदलाची मोठ्या प्रमाणावर उपकरणे असताना Orca एक्स्ट्रा-लार्ज UUV या ड्राईव्हमध्ये समाविष्ट केले जाऊ शकते, एरो व्हायरनमेंट सारख्या लहान, कमी जटिल प्रणालींच्या जलद उत्पादनावर भर दिला जातो. स्विचब्लेड हल्ला ड्रोन, आता युक्रेनियन सैन्याने शत्रूच्या ओळींमागील रशियन टाक्या आणि चिलखती वाहने बाहेर काढण्यासाठी वापरले.
त्याच वेळी, पेंटागॉन आधीपासूनच अशा भिन्न रोबोटिक युनिट्स आणि त्यांच्याशी संबंधित मानवयुक्त प्लॅटफॉर्ममध्ये संवाद आणि समन्वय सुलभ करण्यासाठी आवश्यक सॉफ्टवेअर विकसित करण्यासाठी टेक स्टार्टअप्सना आवाहन करत आहे. हे सुलभ करण्यासाठी, वायुसेनेने काँग्रेसला 50 च्या आर्थिक वर्षाच्या बजेटमध्ये $2024 दशलक्ष मागितले आणि त्याला काय अपशकून वाटते ते अंडरराइट करण्यासाठी प्रकल्प VENOM, किंवा "व्हायपर प्रयोग आणि पुढच्या पिढीचे ऑपरेशन मॉडेल." VENOM अंतर्गत, हवाई दल विद्यमान लढाऊ विमानांना AI-शासित UAV मध्ये रूपांतरित करेल आणि बहु-ड्रोन ऑपरेशन्समध्ये प्रगत स्वायत्त सॉफ्टवेअरची चाचणी घेण्यासाठी त्यांचा वापर करेल. द सैन्य आणि नौदल तत्सम प्रणालींची चाचणी घेत आहेत.
जेव्हा झुंड स्वतःचा मार्ग निवडतात
दुसऱ्या शब्दांत, अमेरिकन सैन्य (आणि बहुधा चीनचे, रशियाचे आणि कदाचित इतर काही शक्तींचे) अल्गोरिदमसह सुसज्ज स्वायत्त शस्त्रे प्रणाली तैनात करण्यास सक्षम होतील जे त्यांना प्रत्येकाशी संप्रेषण करण्यास अनुमती देण्यासाठी काही काळाची बाब आहे. इतर आणि संयुक्तपणे कादंबरी निवडा, गतिमान असताना अप्रत्याशित लढाऊ युक्ती. अशा झुंडीच्या कोणत्याही सहभागी रोबोटिक सदस्याला मिशनचे उद्दिष्ट दिले जाईल ("या [निर्दिष्ट] भौगोलिक निर्देशांकांमध्ये स्थित सर्व शत्रू रडार आणि विमानविरोधी क्षेपणास्त्र बॅटरी शोधा आणि नष्ट करा") परंतु ते कसे करावे याबद्दल अचूक सूचना दिल्या जाणार नाहीत. हे त्यांना एकमेकांशी सल्लामसलत करून त्यांच्या स्वत: च्या युद्धाची रणनीती निवडण्याची परवानगी देईल. आमच्याकडे असलेल्या मर्यादित चाचणी डेटामध्ये जाण्यासारखे काही असल्यास, याचा अर्थ असा होऊ शकतो रोजगार अत्यंत अपारंपरिक डावपेच मानवी वैमानिक आणि कमांडर यांच्यासाठी (आणि प्रतिकृती करणे अशक्य) कधीच कल्पना केली नाही.
अशा परस्परसंबंधित AI सिस्टीमच्या नवीन, अनियोजित परिणामांमध्ये गुंतण्याच्या प्रवृत्तीला संगणक तज्ञ "आविर्भावित वर्तन" म्हणतात. म्हणून सायन्स डायरेक्ट, वैज्ञानिक जर्नल्सचे डायजेस्ट, ते स्पष्ट करते, "एक उद्भवलेल्या वर्तनाचे वर्णन एक प्रक्रिया म्हणून केले जाऊ शकते ज्याद्वारे लहान किंवा साध्या घटकांमधील परस्परसंवादातून मोठे नमुने उद्भवतात जे स्वतः असे गुणधर्म प्रदर्शित करत नाहीत." लष्करी भाषेत, याचा अर्थ असा आहे की स्वायत्त शस्त्रांचा एक थवा संयुक्तपणे लढाऊ रणनीती अवलंबण्यासाठी निवडू शकतो वैयक्तिक उपकरणांपैकी कोणतेही कार्य करण्यासाठी प्रोग्राम केलेले नव्हते - शक्यतो रणांगणावर आश्चर्यकारक परिणाम साध्य करणे, परंतु कल्पनेने देखील. मध्ये गुंतणे अण्वस्त्र तसेच पारंपारिक ऑपरेशन्ससाठी वापरल्या जाणाऱ्या गंभीर नागरी पायाभूत सुविधा किंवा दळणवळण सुविधांचा नाश यासह त्यांच्या मानवी कमांडर्सद्वारे अनपेक्षित आणि अनपेक्षित कृत्ये.
या टप्प्यावर, साहजिकच, एलियन ग्रुप-मन अनेक शस्त्रास्त्रांसह सशस्त्र असल्यास आणि मानवी देखरेखीपासून दूर राहिल्यास काय करायचे हे सांगणे जवळजवळ अशक्य आहे. समजा, अशा प्रणाली अयशस्वी यंत्रणांनी सज्ज असतील आवश्यक शत्रूच्या जॅमिंगमुळे किंवा इतर कोणत्याही कारणास्तव, त्यांच्या मानवी पर्यवेक्षकांशी संवाद तुटल्यास ते तळावर परत येतात. तथापि, कोणास ठाऊक, वास्तविक-जगातील परिस्थितीची मागणी करताना अशा विचारांची यंत्रे कशी कार्य करतील किंवा खरं तर, समूह-मन अशा निर्देशांना ओव्हरराइड करण्यास आणि स्वतःहून प्रहार करण्यास सक्षम असेल.
मग काय? ते त्यांच्या पूर्व-प्रोग्राम केलेल्या मर्यादेपलीकडे लढत राहणे निवडू शकतील, अनपेक्षित वाढ भडकावू शकतील - अगदी, अगदी, अगदी, एक आण्विक प्रकारची? किंवा ते शत्रूच्या सैन्यावरील त्यांचे हल्ले थांबवायचे आणि त्याऐवजी मित्रांच्या ऑपरेशनमध्ये हस्तक्षेप करतील, कदाचित त्यांच्यावर गोळीबार करून त्यांचा नाश करतील (स्कायनेट क्लासिक सायन्स फिक्शनमध्ये करतो तसे टर्मिनेटर चित्रपट मालिका)? किंवा ते अशा वर्तनात गुंतू शकतात जे, चांगले किंवा असीम वाईट, पूर्णपणे आपल्या कल्पनेच्या पलीकडे आहेत?
अमेरिकेचे सर्वोच्च लष्करी आणि मुत्सद्दी अधिकारी आवर्जून सांगतात की AI खरोखरच भविष्यातील जोखीम न घेता वापरता येऊ शकते आणि हा देश केवळ अशी उपकरणे वापरेल ज्यात भविष्यातील कोणत्याही धोकादायक गैरव्यवहाराविरूद्ध पुरेशी सुरक्षा व्यवस्था असेल. किंबहुना तो अत्यावश्यक मुद्दा आहे मध्ये निर्मित फेब्रुवारी 2023 मध्ये स्टेट डिपार्टमेंटने जारी केलेले “कृत्रिम बुद्धिमत्ता आणि स्वायत्ततेच्या जबाबदार लष्करी वापरावरील राजकीय घोषणा”. अनेक प्रमुख सुरक्षा आणि तंत्रज्ञान अधिकारी, तथापि, भविष्यातील रोबोटिक शस्त्रास्त्रांमध्ये आपत्कालीन वर्तनाच्या संभाव्य जोखमींबद्दल सर्वच जागरूक आहेत आणि ते सुरू ठेवतात. युद्धात AI च्या जलद वापराविरुद्ध चेतावणी जारी करा.
राष्ट्रीय सुरक्षा आयोगाने फेब्रुवारी 2021 मध्ये जारी केलेला आर्टिफिशियल इंटेलिजन्सवरील अंतिम अहवाल विशेष लक्षात घ्या. रॉबर्ट वर्क यांच्या सह-अध्यक्षतेने (पेंटॅगॉनमध्ये काम केल्यानंतर CNAS येथे परत) आणि एरिक श्मिड्ट, Google चे माजी CEO, आयोगाने चीन आणि/किंवा रशियाशी भविष्यातील कोणत्याही संघर्षात विजय सुनिश्चित करण्यासाठी यूएस सैन्याने AI चा जलद वापर करण्याची शिफारस केली. तथापि, यंत्रमानव-संतृप्त रणांगणांच्या संभाव्य धोक्यांबद्दलही चिंता व्यक्त केली.
"अशा प्रणालींचा अनियंत्रित जागतिक वापर संभाव्यत: अनपेक्षित संघर्ष वाढणे आणि संकट अस्थिरता जोखीम आहे," अहवाल नोंद. हे "युद्धभूमीवर AI-सक्षम आणि स्वायत्त शस्त्र प्रणालींमधील परस्परसंवादाच्या आव्हानात्मक आणि चाचणी न केलेल्या गुंतागुंतीमुळे [म्हणजे, उद्भवणारी वर्तणूक]" यासह अनेक कारणांमुळे होऊ शकते. तो धोका लक्षात घेता, "देशांनी एआय-सक्षम आणि स्वायत्त शस्त्र प्रणालींशी संबंधित जोखीम कमी करण्यावर लक्ष केंद्रित करणारी कृती करणे आवश्यक आहे."
जेव्हा स्वायत्त शस्त्रास्त्रांचे अग्रगण्य वकिल आम्हाला युद्धात त्यांच्या वापरामुळे उद्भवलेल्या अनपेक्षित धोक्यांची काळजी घेण्यास सांगतात, तेव्हा आपल्यापैकी बाकीच्यांना खरोखरच काळजी वाटली पाहिजे. AI मधील उदयोन्मुख वर्तन समजून घेण्यासाठी आपल्याकडे गणितीय कौशल्ये नसली तरीही, हे उघड आहे की मानवतेला त्याच्या अस्तित्वासाठी महत्त्वपूर्ण धोका असू शकतो, हत्या यंत्रांनी स्वतःहून विचार करण्याची क्षमता प्राप्त केली पाहिजे. कदाचित ते सर्वांना आश्चर्यचकित करतील आणि आंतरराष्ट्रीय शांतीरक्षकांची भूमिका घेण्याचा निर्णय घेतील, परंतु ते लढण्यासाठी आणि मारण्यासाठी तयार केले गेले आहेत हे लक्षात घेता, ते त्या सूचना स्वतंत्र आणि अत्यंत फॅशनमध्ये पार पाडणे निवडण्याची शक्यता जास्त आहे.
तसे असल्यास, मानवतेच्या स्मशानभूमीवर RIP टाकण्यासाठी आजूबाजूला कोणीही असू शकत नाही.
ZNetwork ला केवळ त्याच्या वाचकांच्या उदारतेने निधी दिला जातो.
दान