MONTEVIDEO, Urugvajus, gruodžio 17 d. (IPS) – Sąžinės neturinčios mašinos per sekundės dalį priima sprendimus, kas gyvena ir kas miršta. Tai nėra distopinė fantastika; tai nūdienos realybė. Gazos ruože algoritmai sugeneravo iki 37 000 taikinių nužudymo sąrašus.
Autonominiai ginklai taip pat dislokuojami Ukrainoje ir buvo demonstruojami neseniai Kinijoje vykusiame kariniame parade. Valstybės stengiasi juos integruoti į savo arsenalus, įsitikinusios, kad išlaikys kontrolę. Jei jie klysta, pasekmės gali būti katastrofiškos.
Skirtingai nuo nuotoliniu būdu valdomų bepiločių orlaivių, kai žmogus operatorius nuspaudžia gaiduką, autonominiai ginklai priima mirtinus sprendimus. Suaktyvinus, jie apdoroja jutiklio duomenis – veido atpažinimą, karščio signalus, judesių modelius – kad nustatytų iš anksto užprogramuotus taikinio profilius ir automatiškai paleistų, kai randa atitikmenį. Jie veikia nedvejodami, nesvarstydami moralės ir nesuvokdami žmogaus gyvybės vertės.
Greitis ir nedvejojimas suteikia autonominėms sistemoms galimybę greitai eskaluoti konfliktus. Ir kadangi jie veikia remdamiesi modelio atpažinimu ir statistinėmis tikimybėmis, jie suteikia didžiulį mirtinų klaidų potencialą.
Izraelio puolimas Gazos ruože pirmą kartą pažvelgė į AI padedamą genocidą. Izraelio kariuomenė įdiegė kelias algoritmines taikymo sistemas: naudoja Lavandą ir Evangeliją, kad nustatytų įtariamus Hamas kovotojus ir sudarytų žmonių taikinių bei infrastruktūros sąrašus bombardavimui, o Kur yra tėtis, kad sektų taikinius, kad nužudytų juos, kai jie yra namuose su savo šeimomis. Izraelio žvalgybos pareigūnai pripažino, kad klaidų lygis yra apie 10 procentų, bet tiesiog įskaičiavo, kad kiekvienam jaunesniajam kovotojui, kurį nustato algoritmas, priimtina 15–20 civilių žūčių, o vadų – daugiau nei 100.
Smurto nuasmeninimas taip pat sukuria atskaitomybės tuštumą. Kai algoritmas nužudo netinkamą žmogų, kas už tai atsakingas? Programuotojas? Vadovaujantis karininkas? Politikas, leidęs dislokuoti? Teisinis neapibrėžtumas yra integruota funkcija, apsauganti nusikaltėlius nuo pasekmių. Kadangi sprendimus dėl gyvybės ir mirties priima mašinos, pati atsakomybės idėja ištirpsta.
Šie rūpesčiai iškyla platesniame nerimo dėl AI poveikio pilietinei erdvei ir žmogaus teisėms kontekste. Technologijoms vis pigstant, jos plinta įvairiose srityse – nuo mūšio laukų iki sienų kontrolės iki policijos operacijų. Dirbtinio intelekto pagrįstos veido atpažinimo technologijos sustiprina stebėjimo galimybes ir kenkia privatumo teisėms. Algoritmuose įterpti šališkumas įamžina atskirtį dėl lyties, rasės ir kitų savybių.
Tobulėjant technologijai, tarptautinė bendruomenė daugiau nei dešimtmetį diskutavo apie autonominius ginklus, neparengdama privalomo reglamento. Nuo 2013 m., kai valstybės, priėmusios JT konvenciją dėl tam tikrų įprastinių ginklų, sutiko pradėti diskusijas, pažanga buvo ledyninė. Vyriausybinių mirtinų autonominių ginklų sistemų ekspertų grupė reguliariai posėdžiauja nuo 2017 m., tačiau derybas sistemingai stabdė didžiosios karinės jėgos – Indija, Izraelis, Rusija ir JAV – pasinaudodamos reikalavimu pasiekti konsensusą, kad būtų sistemingai blokuojami reguliavimo pasiūlymai. Rugsėjo mėn. 42 valstybės paskelbė bendrą pareiškimą, kuriame patvirtino savo pasirengimą judėti į priekį. Tai buvo proveržis po daugelio metų aklavietės, tačiau pagrindiniai priešininkai išlaiko savo pasipriešinimą.
Siekdama apeiti šią kliūtį, JT Generalinė Asamblėja ėmėsi veiksmų. 2023 m. gruodžio mėn. ji priėmė Rezoliuciją 78/241 – pirmąją dėl autonominių ginklų, už kurią balsavo 152 valstybės. 2024 m. gruodžio mėn. Rezoliucija 79/62 įpareigojo surengti valstybių narių konsultacijas, 2025 m. gegužės mėn. surengtas Niujorke. Šiose diskusijose buvo nagrinėjamos etinės dilemos, pasekmės žmogaus teisėms, grėsmės saugumui ir technologinė rizika. JT Generalinis Sekretorius, Tarptautinis Raudonojo Kryžiaus komitetas ir daugybė pilietinės visuomenės organizacijų paragino derybas užbaigti iki 2026 m., atsižvelgiant į sparčią karinio AI plėtrą.
Kampanija, skirta sustabdyti robotus žudikus, koalicija, susidedanti iš daugiau nei 270 pilietinės visuomenės grupių iš daugiau nei 70 šalių, vadovauja šiam kaltinimui nuo 2012 m. Dėl nuolatinio propagavimo ir tyrimų kampanija suformavo diskusiją, pasisakydama už dviejų pakopų metodą, kurį šiuo metu palaiko daugiau nei 120 valstybių. Tai apjungia draudimus pavojingiausioms sistemoms – tų, kurios tiesiogiai nukreiptos į žmones, kurios veikia be reikšmingos žmogaus kontrolės arba kurių poveikio negalima tinkamai numatyti – su griežtais reglamentais visoms kitoms. Tos sistemos, kurios nėra uždraustos, būtų leidžiamos tik laikantis griežtų apribojimų, reikalaujančių žmogaus priežiūros, nuspėjamumo ir aiškios atskaitomybės, įskaitant taikinių tipų apribojimus, laiko ir vietos apribojimus, privalomus bandymus ir reikalavimus žmonių priežiūrai su galimybe įsikišti.
Jei reikia laikytis nustatyto termino, tarptautinė bendruomenė turi vos metus, kad sudarytų sutartį, kurios nepavyko sudaryti per dešimtmetį trukusių derybų. Su kiekvienu mėnesiu autonominės ginklų sistemos tampa vis sudėtingesnės, vis plačiau naudojamos ir vis labiau įtraukiamos į karinę doktriną.
Kai autonominiai ginklai bus plačiai paplitę ir idėja, kad mašinos sprendžia, kas gyvens ir kas miršta, taps normalizuotos, bus daug sunku nustatyti taisykles. Valstybės turi skubiai derėtis dėl sutarties, draudžiančios autonomines ginklų sistemas, tiesiogiai nukreiptas į žmones arba veikiančias be reikšmingos žmogaus kontrolės, ir nustatyti aiškius atskaitomybės už pažeidimus mechanizmus. Ši technologija negali būti neišrasta, tačiau ją vis tiek galima valdyti.
Ines M. Pousadela yra CIVICUS tyrimų ir analizės vadovas, vienas iš CIVICUS Lens direktorių ir rašytojų bei Pilietinės visuomenės ataskaitos bendraautorius. Ji taip pat yra Urugvajaus ORT universiteto lyginamosios politikos profesorė.
Dėl interviu ar daugiau informacijos kreipkitės (apsaugotas el. paštu)
© „Inter Press Service“ (20251217065522) — Visos teisės saugomos. Originalus šaltinis: Inter Press Service
