Boarne: TomDispatch.com
Foto troch Phil Pasquini / Shutterstock
Hjir is in a senario te beskôgjen: in militêre krêft hat in miljoen goedkeape, wegwerp fleanende drones kocht, elk de grutte fan in dek kaarten, elk by steat om trije gram eksplosiven te dragen - genôch om ien persoan te fermoardzjen of, yn in "foarme lading", stekke in stielen muorre troch. Se binne programmearre om bepaalde minsken op te sykjen en te "fermoardzjen" (deadzje), basearre op spesifike "hântekening" eigenskippen lykas it dragen fan in wapen, sizze, of in bepaalde hûdskleur hawwe. Se passe yn ien skipfeartkontener en kinne op ôfstân ynset wurde. Ienris lansearre sille se autonoom fleane en deadzje sûnder fierdere minsklike aksje.
Science fiction? Net wirklik. It kin moarn barre. De technology bestiet al.
Yn feite hawwe deadlike autonome wapensystemen (WETEN) in lange skiednis. Yn 'e maitiid fan 1972 haw ik in pear dagen trochbrocht besette it fysikagebou oan de Columbia University yn New York City. Mei hûndert oare studinten sliepte ik op 'e flier, iet donearre take-out iten, en harke nei Alan Ginsberg doe't hy ferskynde om ús te earjen mei guon fan syn ekstemporane poëzij. Ik skreau doe folders, kommandearde in Xerox-masine om se út te printsjen.
En wêrom, fan alle campusgebouwen, hawwe wy de ien keazen dy't de ôfdieling Natuerkunde húsfeste? It antwurd: om fiif fakulteitsfysikers fan Kolumbia te oertsjûgjen om har ferbiningen te ferbrekken mei de Pentagon's Jason Defense Advisory Group, in programma dat jild en labromte oanbiedt om basiswittenskiplik ûndersyk te stypjen dat nuttich kin wêze foar Amerikaanske oarlochsmeitsjen ynspanningen. Us spesifike beswier: tsjin de belutsenens fan Jason's wittenskippers by it ûntwerpen fan dielen fan wat doe bekend wie as it "automatisearre slachfjild" foar ynset yn Fietnam. Dat systeem soe yndie in foarrinner bewize fan 'e deadlike autonome wapensystemen dy't ree binne om in potinsjeel wichtich part te wurden fan dit lân - en it wapen fan 'e wrâld.
Iere (Semi-) Autonome Wapens
Washington stie foar nochal wat strategyske problemen by it ferfolgjen fan har oarloch yn Yndokina, ynklusyf de algemiene korrupsje en ûnpopulariteit fan it Súd-Fietnameeske rezjym dat it opstie. Syn grutste militêre útdaging wie lykwols wierskynlik de trochgeande ynfiltraasje fan personiel en foarrieden fan Noard-Fietnam op wat de Ho Chi Minh Trail neamd waard, dy't rûn fan noard nei súd lâns de Kambodjaanske en Laotiaanske grinzen. It Trail wie, yn feite, in netwurk fan maklik te reparearjen smoargens diken en fuotpaden, streamen en rivieren, lizzend ûnder in dikke jungle baldakin dat makke it hast ûnmooglik om te spoaren beweging út 'e loft.
De reaksje fan 'e FS, ûntwikkele troch Jason yn 1966 en it folgjende jier ynset, wie in besykjen om dy ynfiltraasje te bestriden troch kreëarje in automatisearre slachfjild gearstald út fjouwer dielen, analoog oan de eagen, senuwen, harsens en ledematen fan in minsklik lichem. De eagen wiene in breed ferskaat oan sensoren - akoestyske, seismysk, sels gemysk (foar it sensearjen fan minsklike urine) - de measten fallen troch loft yn 'e jungle. De nervekwivalinten stjoerde sinjalen oer nei it "harsens". Om't de sensoren lykwols in maksimum oerdrachtberik hienen fan mar sawat 20 milen, moasten it Amerikaanske militêr konstant fleantugen boppe it blêd fleane om elk sinjaal te fangen dat koe wurde útstutsen troch trochrinnende Noard-Fietnameeske troepen of transporten. De fleantugen soene dan it nijs trochjaan oan it brein. (Oarspronklik bedoeld om op ôfstân bestjoerd te wurden, prestearren dy fleantugen sa min dat minsklike piloaten meastal nedich wiene.)
En dat brein, in prachtige militêre ynstallaasje dy't temûk boud is yn Tailân's Nakhon Phanom, befette twa state-of-the-art IBM mainframe-kompjûters. In lyts leger fan programmeurs skreau en skreau de koade om har tikken te hâlden, om't se besochten sin te meitsjen fan 'e stream fan gegevens dy't troch dy fleantugen oerdroegen wurde. De doelkoördinaten dy't se kamen, waarden doe oerdroegen oan oanfalsfleantugen, dy't de ekwivalinten fan 'e ledematen wiene. De groep dy't dat automatisearre slachfjild rint, waard oanwiisd Task Force Alpha en it hiele projekt gie ûnder de koadenamme Igloo White.
As it die bliken, wie Igloo White foar in grut part in djoere mislearring, kostet oer in miljard dollar in jier foar fiif jier (hast $ 40 miljard totaal yn hjoeddeiske dollars). De tiidfertraging tusken it triljen fan in sensor en it fallen fan munysje makke it systeem net effektyf. As gefolch, soms Task Force Alpha gewoan tapyt-bombarde gebieten dêr't in inkele sensor koe hawwe gien off. De Noard-Fietnamezen realisearren gau hoe't dy sensoren wurken en ûntwikkele metoaden om se te ferrifeljen, fan opnamen fan truck-ûntstekking oant it planten fan emmers mei urine.
Sjoen de skiednis fan semy-automatyske wapensystemen lykas drones en "tûke bommen" yn 'e tuskenlizzende jierren, sille jo wierskynlik net ferrast wurde om te learen dat dit earste automatisearre slachfjild net diskriminearje koe tusken soldaten en boargers. Hjiryn gongen se gewoan troch mei in trend dy't bestiet sûnt teminsten de achttjinde ieu wêryn oarloggen regelmjittich mear boargers fermoardzje as fjochters.
Gjin fan dizze tekoarten hâlden amtners fan Definsjeôfdieling fan it automatisearre slachfjild oangeande mei eangst. Andrew Cockburn beskreaun dizze oanbiddende hâlding yn syn boek Kill Kette: It Rises fan 'e High-Tech Assassins, mei oanhelle Leonard Sullivan, in hege amtner fan it Pentagon dy't Fietnam yn 1968 besocht: "Lyksa't it hast ûnmooglik is om in agnostikus te wêzen yn 'e katedraal fan Notre Dame, sa is it lestich om te hâlden fan 'e skientme en majesteit. fan 'e Task Force Alpha-timpel."
Wa of wat, soe jo miskien ôffreegje, soe yn sa'n timpel fereare wurde?
De measte aspekten fan dat Fietnam-tiidrek "automatisearre" slachfjild easke eins minsklike yntervinsje. Minsken plante de sensoren, programmearje de kompjûters, piloten de fleantugen en lieten de bommen los. Yn hokker sin wie dat slachfjild dan "automatisearre"? As foarboarger fan wat der komme soe, hie it systeem minsklike yntervinsje eliminearre op ien krúsjaal punt yn it proses: it beslút om te deadzjen. Op dat automatisearre slachfjild besleaten de kompjûters wêr en wannear de bommen falle moasten.
Yn 1969, leger Chief of Staff William Westmoreland utere syn entûsjasme foar dit fuortheljen fan it rommelige minsklike elemint út oarlochsfiering. In luncheon foar de Feriening fan it Amerikaanske Leger, in lobbygroep, ferklearre hy:
"Op it slachfjild fan 'e takomst sille fijânske troepen hast direkt wurde lokalisearre, folge en rjochte troch it brûken fan gegevensferbiningen, komputer-stipe yntelliginsjeevaluaasje, en automatisearre fjoerkontrôle. Mei de kâns op deadzjen yn 'e earste ronde dy't wissichheid benaderje, en mei tafersjochapparaten dy't de fijân kontinu kinne folgje, sil de needsaak foar grutte krêften om de opposysje te reparearjen minder wichtich wêze.
Wat Westmoreland bedoelde mei "fix de opposysje" wie deadzje de fijân. In oar militêr eufemisme yn 'e ienentweintichste ieu is "engage." Yn beide gefallen is de betsjutting itselde: de rol fan deadlike autonome wapensystemen is om minsken automatysk te finen en te deadzjen, sûnder minsklik yngripen.
Nije wetten foar in nije tiid - Deadlike autonome wapensystemen
Eltse hjerst sponsort de British Broadcasting Corporation in searje fan fjouwer lêzingen dy't jûn wurde troch in ekspert op in wichtich mêd fan stúdzje. Yn 2021 noege de BBC Stuart Russell, heechlearaar kompjûterwittenskip en oprjochter fan it Centre for Human-Compatible Artificial Intelligence oan 'e Universiteit fan Kalifornje, Berkeley, út om dizze "Reith-lêzingen" te leverjen. Syn algemiene ûnderwerp wie de takomst fan keunstmjittige yntelliginsje (AI), en de twadde lêzing hie de titel "The Future Role of AI in Warfare." Dêryn rjochte hy it probleem oan fan deadlike autonome wapensystemen, of WETEN, dy't de Feriene Naasjes definiearje as "wapens dy't minsklike doelen lokalisearje, selektearje en belûke sûnder minsklik tafersjoch."
Russell syn haadpunt, sprektaal makke, wie dat, hoewol in protte minsken leauwe dat deadlike autonome wapens in potensjele takomstige nachtmerje binne, wenjend yn it ryk fan science fiction, "Se binne net. Jo kinne se hjoed keapje. Se wurde advertearre op it web. ”
Ik haw nea sjoen ien fan 'e films yn' e Terminator franchise, mar blykber militêre planners en harren PR-flacks oannimme de measte minsken ûntliene harren begryp fan sokke WETEN út dizze fiktive dystopyske wrâld. Pentagon-amtners dogge faaks it dreech om te ferklearjen wêrom't de wapens dy't se ûntwikkelje, yn feite gjin echte ekwivalinten binne fan SkyNet - it wrâldwide kommunikaasjenetwurk dat, yn dy films, selsbewust wurdt en beslút de minskheid te eliminearjen. Net soargen, lykas in plakferfangend sekretaris fan definsje tsjin Russell fertelde, "Wy hawwe soarchfâldich nei dizze arguminten harke en myn saakkundigen hawwe my fersekere dat d'r gjin risiko is om per ongeluk SkyNet te meitsjen."
Russell's punt wie lykwols dat in wapensysteem gjin selsbewustwêzen nedich hat om autonoom te hanneljen of in bedriging te presintearjen foar ûnskuldige minsken. Wat it nedich is:
- In mobyl platfoarm (alles dat kin bewege, fan in lyts quadcopter nei in fleanmasine mei fêste wjuk)
- Sensory kapasiteit (de mooglikheid om fisuele of lûdynformaasje te detektearjen)
- De mooglikheid om taktyske besluten te nimmen (deselde soarte kapasiteit is al fûn yn kompjûterprogramma's dy't skaken spylje)
- De mooglikheid om te "meidwaan", d.w.s. deadzje (dat kin sa yngewikkeld wêze as it sjitten fan in raket of in bom falle, of sa rudimentêr as it plegen fan robot selsmoard troch yn in doel te slaan en te eksplodearjen)
De realiteit is dat sokke systemen al bestean. Ja, in wapenbedriuw yn regearing yn Turkije hat koartlyn har Kargu-drone advertearre - in quadcopter "de grutte fan in dinerplaat", lykas Russell it beskreau, dy't in kilogram eksplosiven kin drage en yn steat is om "anty-personiel autonome hits te meitsjen". " mei "doelen selektearre op ôfbyldings en gesichtsherkenning." De side fan it bedriuw is sûnt west feroare om it neilibjen fan in sabeare "man-in-the-loop" prinsipe te beklamjen. Lykwols, de U.N. hat rapporteare dat in folslein autonome Kargu-2, yn feite, yn 2020 yn Libië ynset waard.
Do kinst keapje jo eigen quadcopter no op Amazon, hoewol jo noch wat DIY-komputerfeardigens moatte tapasse as jo it autonoom wolle operearje.
De wierheid is dat deadlike autonome wapens systemen binne minder kâns op in lykje wat út de Terminator films dan as swermen fan lytse killer bots. Kompjûterminiaturisaasje betsjut dat de technology al bestiet om effektive WETEN te meitsjen. As jo smartphone koe fleane, kin it in autonoom wapen wêze. Nijere tillefoans brûke software foar gesichtsherkenning om "beslute" of tagong ta te stean. It is gjin sprong om fleanende wapens te meitsjen de grutte fan tillefoans, programmearre om "beslute" om spesifike yndividuen oan te fallen, of yndividuen mei spesifike funksjes. Yndied, it is wierskynlik dat sokke wapens al bestean.
Kinne wy WETTEN útsette?
Dat, wat is der mis mei WETEN, en is d'r ien punt om te besykjen se te ferbieden? Guon tsjinstanners beweare dat it probleem is dat se minsklike ferantwurdlikens eliminearje foar it meitsjen fan deadlike besluten. Sokke kritisy suggerearje dat, yn tsjinstelling ta in minske dy't rjochtet en de trekker fan in gewear lûkt, in WETEN kin kieze en fjoer op har eigen doelen. Dêryn, beweare se, leit it spesjale gefaar fan dizze systemen, dy't ûnûntkomber flaters meitsje, lykas elkenien waans iPhone wegere hat syn of har gesicht te werkennen sil erkenne.
Yn myn miening is it probleem net dat autonome systemen minsken ferwiderje fan deadlike besluten. Foar safier't wapens fan dit soarte flaters meitsje, sille minsken noch morele ferantwurdlikens drage foar it ynsetten fan sokke ûnfolsleine deadlike systemen. WETTEN wurde ûntwurpen en ynset troch minsken, dy't dêrom ferantwurdlik bliuwe foar har effekten. Lykas de semy-autonome drones fan it hjoeddeiske momint (faak pilotearre fan in heale wrâld fuort), ferwiderje deadlike autonome wapensystemen minsklike morele ferantwurdlikens net. Se fergrutsje gewoan de ôfstân tusken killer en doel.
Fierder, lykas al ferbeane wapens, ynklusyf gemyske en biologyske wapens, hawwe dizze systemen de kapasiteit om sûnder ûnderskied te deadzjen. Wylst se de minsklike ferantwurdlikens miskien net foarkomme, as se ienris aktivearre binne, sille se de minsklike kontrôle wis ûntkomme, krekt as gifgas as in bewapene firus.
En lykas by gemyske, biologyske en kearnwapens, koe har gebrûk effektyf wurde foarkommen troch ynternasjonaal rjocht en ferdraggen. Wier, rogue akteurs, lykas de Assad-rezjym yn Syrië of it Amerikaanske leger yn 'e Iraakske stêd Fallujah, kin sa no en dan skend wurde mei sokke strictures, mar foar it grutste part hawwe ferbod op it brûken fan bepaalde soarten mooglik ferneatigjende wapens hâlden, yn guon gefallen foar mear as in ieu.
Guon Amerikaanske definsje-eksperts beweare dat, om't tsjinstanners ûnûntkomber WETEN sille ûntwikkelje, sûn ferstân fereasket dat dit lân itselde docht, wat betsjuttet dat de bêste ferdigening tsjin in opjûne wapensysteem in identike is. Dat hat likefolle sin as it bestriden fan fjoer mei fjoer as, yn 'e measte gefallen, it brûken fan wetter is folle de bettere opsje.
It Ferdrach oer Bepaalde Konvinsjonele Wapens
It gebiet fan ynternasjonaal rjocht dat de behanneling fan minsken yn oarloch regelet is, om histoaryske redenen, neamd ynternasjonaal humanitêr rjocht (IHL). Yn 1995 ratifisearren de Feriene Steaten in tafoeging oan IHL: de 1980 UN Konvinsje oer bepaalde konvinsjonele wapens. (De folsleine titel is folle langer, mar de namme wurdt oer it generaal ôfkoarte as CCW.) It regelet it gebrûk fan bygelyks brânwapens lykas napalm, en ek biologyske en gemyske aginten.
De ûndertekeners fan CCW moetsje periodyk om te besprekken hokker oare wapens ûnder syn jurisdiksje en ferbeanen falle kinne, ynklusyf WET. De meast resinte konferinsje fûn plak yn desimber 2021. Hoewol't transkripsjes fan 'e prosedueres bestean, is allinich in konsept lêste dokumint - produsearre foardat de konferinsje iepene - útjûn. Dit kin wêze om't gjin konsensus sels berikt is oer hoe't sokke systemen moatte definiearje, lit stean oer oft se ferbean wurde moatte. De Jeropeeske Uny, de UN, op syn minst 50 ûndertekenjende folken, en (neffens peilings), it grutste part fan 'e wrâldbefolking leauwe dat autonome wapensystemen ferbean wurde moatte. De FS, Israel, it Feriene Keninkryk en Ruslân binne it net iens, tegearre mei in pear oare útfallers.
Foarôfgeand oan sokke CCW-gearkomsten komt in Group of Government Experts (GGE) byinoar, skynber om technyske begelieding te jaan foar de besluten dy't moatte wurde makke troch de "hege kontraktpartijen" fan 'e Konvinsje. Yn 2021 wie de GGE net yn steat om in konsensus te berikken oer de fraach oft soksoarte wapens ferbean wurde. De Feriene Steaten holden dat sels it definiearjen fan in deadlik autonoom wapen net nedich wie (miskien om't se kinne wurde definieare, se koenen wurde ferbean). De Amerikaanske delegaasje set it op dizze manier:
"De Feriene Steaten hawwe ús perspektyf útlein dat in wurkdefinysje net moat wurde opsteld mei it each op it beskriuwen fan wapens dy't moatte wurde ferbean. Dit soe - lykas guon kollega's al hawwe opmurken - heul lestich wêze om konsensus te berikken, en kontraproduktyf. Om't d'r neat yntrinsysk is yn autonome mooglikheden dat in wapen ferbean soe meitsje ûnder IHL, binne wy net oertsjûge dat it ferbieden fan wapens basearre op graden fan autonomy, lykas ús Frânske kollega's suggereare, in nuttige oanpak is.
De delegaasje fan 'e Feriene Steaten wie ek graach elke taal te eliminearjen dy't "minsklike kontrôle" fan sokke wapensystemen fereaskje kin:
"[Yn] ús miening stelt IHL gjin eask yn foar 'minsklike kontrôle' as sadanich ... Yntroduksje fan nije en vague easken lykas dy fan minsklike kontrôle koe, leauwe wy, betize, ynstee fan ferdúdlikjen, foaral as dizze foarstellen ynkonsistent binne mei lange- steande, akseptearre praktyk yn it brûken fan in protte mienskiplike wapensystemen mei autonome funksjes.
Yn deselde gearkomste stie dy delegaasje hieltyd op dat deadlike autonome wapens eins goed foar ús wêze soene, om't se grif better as minsken bewize soene yn it ûnderskied tusken boargers en striders.
Oh, en as jo leauwe dat it beskermjen fan boargers de reden is dat de wapenyndustry miljarden dollars ynvestearret yn it ûntwikkeljen fan autonome wapens, haw ik in stik lân om jo op Mars te ferkeapjen dat goedkeap giet.
De kampanje om Killer Robots te stopjen
De Governmental Group of Experts hat ek sa'n 35 net-steateleden, ynklusyf net-regearingsorganisaasjes en universiteiten. De Kampanje om Killer Robots te stopjen, in koälysje fan 180 organisaasjes, wêrûnder Amnesty International, Human Rights Watch en de World Council of Churches, is ien fan dizze. Lansearre yn 2013, jout dizze libbene groep wichtige kommentaar oer de technyske, juridyske en etyske problemen presintearre troch LAWS en biedt oare organisaasjes en partikulieren in manier om belutsen te wurden by de striid om sokke potensjeel ferneatigjende wapensystemen te ferbieden.
De trochgeande bou en ynset fan killer robots is net ûnûntkomber. Yndied, in mearderheid fan 'e wrâld soe se ferbean wolle sjen, ynklusyf UN-sekretaris-generaal Antonio Guterres. Lit ús jou him de lêste wurd: "Masjines mei de krêft en ynsjoch om minsken it libben te nimmen sûnder minsklike belutsenens binne polityk net akseptabel, moreel ôfwikend, en moatte ferbean wurde troch ynternasjonaal rjocht."
Ik koe der net mear mei iens wêze.
Copyright 2022 Rebecca Gordon
Rebecca Gordon, a TomDispatch regelmjittich, leart oan 'e Universiteit fan San Francisco. Sy is de skriuwer fan Mainstreaming Torture, Amerikaanske Neurenberch: De Amerikaanske amtners dy't rjochtsaak moatte stean foar oarlochsmisdieden nei post-9 / 11 en is no oan it wurk oan in nij boek oer de skiednis fan foltering yn 'e Feriene Steaten.
Dit artikel ferskynde earst op TomDispatch.com, in weblog fan it Nation Institute, dat in fêste stream fan alternative boarnen, nijs en miening biedt fan Tom Engelhardt, lange tiid redakteur yn útjouwerij, mei-oprjochter fan it American Empire Project, skriuwer fan The End of Victory Culture, as fan in roman, The Last Days of Publishing. Syn lêste boek is A Nation Unmade By War (Haymarket Books).
ZNetwork wurdt allinich finansierd troch de generositeit fan har lêzers.
Donaasjes