JUNGTINĖS TAUTOS, kovo 6 d. (IPS) – Kadangi dirbtinis intelektas (AI) gali dominuoti visuose žmogaus gyvenimo aspektuose, įskaitant politinį, ekonominį, socialinį ir kultūrinį, taip pat kyla pavojus, kad dirbtinis intelektas gali militarizuotis.
Tuo tarpu Jungtinės Tautos laikosi tvirtos pozicijos, kad sprendimus dėl branduolinio ginklo naudojimo turi priimti žmonės, o ne mašinos, perspėdami, kad dirbtinio intelekto (DI) integravimas į branduolinį valdymą, valdymą ir ryšius (NC3) kelia nepriimtiną riziką pasauliniam saugumui.
Kaip teigiama vienoje ataskaitoje, dirbtinio intelekto integravimas į branduolinio valdymo, valdymo ir ryšių (NC3) sistemas, taip pat jo naudojimas priimant karinius sprendimus kelia rimtą, precedento neturintį pavojų pasauliniam saugumui.
Pagrindiniai neigiami padariniai yra sprendimų priėmimo pagreitėjimas iki „mašinos greičio“ (paliekant mažai laiko žmogaus sprendimui), padidėjęs pažeidžiamumas kibernetinėms atakoms ir strateginio stabilumo erozija.
Remiantis „Bulletin of the Atomic Scientists“, branduolinių ginklų vadovavimas ir kontrolė yra subtili ir sudėtinga sistema, skirta išvengti klaidų ir užtikrinti patikimumą aukšto slėgio sąlygomis.
Aplinkose, kuriose didžiuliai duomenų kiekiai lemia labai svarbius rezultatus, dirbtinis intelektas tapo natūraliu dalyku.
„Sparčiai besivystančios technologijos integravimas iškelia esminius klausimus apie atsakomybę, duomenų kokybę ir sistemos patikimumą. Kai viena klaida gali turėti negrįžtamų pasekmių, kaip galima sukurti pasitikėjimą mašininio mokymosi integravimu į sistemas, kurios ilgą laiką priklauso nuo žmogaus sprendimų ir priežiūros?”
„Kokius apsauginius turėklus reikėtų išlaikyti? Kur yra tarptautinio bendradarbiavimo ir sutarimo galimybės?”
Tariqas Raufas, buvęs Vienoje įsikūrusios Tarptautinės atominės energijos agentūros (TATENA) Patvirtinimo ir saugumo politikos vadovas, IPS sakė, kad dirbtinio generuojamojo intelekto (AGI) vaidmuo ir integracija kelia kai kuriuos svarbiausius mūsų technologijų eros klausimus.
AGI integravimas į branduolinio valdymo, valdymo ir ryšių (NC3) sistemas yra ne tik inžinerinis iššūkis – tai civilizacinis iššūkis.
Mašinos greičio problema
Galbūt labiausiai nerimą keliantis AGI integravimo į NC3 sistemas aspektas, jis nurodė, yra sprendimų priėmimo terminų suspaudimas iki „mašinos greičio“. Branduolinė strategija istoriškai priklausė nuo sąmoningo žmogaus sprendimo – sprendimus priimančių asmenų gebėjimo pristabdyti, įvertinti dviprasmiškus duomenis, konsultuotis su patarėjais ir pasirinkti santūrumą net esant spaudimui ar atakai.
Priešingai, AGI sistemos yra sukurtos apdoroti ir reaguoti tokiu greičiu, kokiu negali prilygti joks žmogus. Krizės metu tai sukuria pavojingą paradoksą: dėl greičio, dėl kurio AGI yra patrauklus, prasminga žmogaus priežiūra tampa beveik neįmanoma.
„Jei AGI sistema klaidingai identifikuoja jutiklio anomaliją kaip įskrendančią raketą – kas anksčiau buvo nutikę su žmogaus valdomomis sistemomis, kaip iliustruoja 1983 m. Sovietų Sąjungos klaidingas pavojaus signalas, taisymo langas gali sumažėti nuo minučių iki sekundžių.
Branduolinių sprendimų priėmimo klaidų riba visada buvo nepatogiai menka; AGI rizikuoja jį visiškai pašalinti, sakė Raufas.
Duomenų kokybė ir sistemos patikimumas
Duomenų kokybė ir vientisumas yra pagrindiniai AGI klausimai. Jis teigė, kad mašinų mokymosi sistemos yra tiek patikimos, kiek ir duomenys, kuriais remiantis jos mokomos.
„Branduolinė aplinka kelia unikalių itin sudėtingų iššūkių: jos apima retus, labai svarbius įvykius su ribotais istoriniais duomenimis, priešiškus veikėjus, kurie gali sąmoningai perduoti klaidingą informaciją į jutiklių tinklus, ir geopolitinį kontekstą, kuris keičiasi greičiau, nei gali užfiksuoti mokymo duomenų rinkiniai.
AGI sistema, kuri užtikrintai veikia sugadintus ar klaidingai pateiktus duomenis branduoliniame kontekste, gali sukelti eskalavimą, pagrįstą fikcija. Dar blogiau, kad daugelio mašininio mokymosi modelių neskaidrumas – vadinamoji „juodosios dėžės“ problema – reiškia, kad net sistemų dizaineriai gali nesugebėti paaiškinti, kodėl buvo sukurta konkreti išvestis, jau nekalbant apie jos pataisymą realiuoju laiku, pareiškė Raufas.
Stokholmo tarptautinio taikos tyrimų instituto (SIPRI) Masinio naikinimo ginklų programos tyrėjas Vladislavas Chernavskikhas sakė, kad IPS esami valstybių požiūriai į AI ir branduolinį ryšį jau iš esmės sutampa su žmogaus kontrolės išlaikymo principo priimant branduolinius sprendimus, tačiau nėra sutarimo, kaip tai turėtų būti apibrėžta ar pritaikyta.
Oficialus šio principo pripažinimas branduolinį ginklą turinčiose valstybėse ir paaiškinimas, ką šiame kontekste reiškia žmogaus kontrolė ir kaip ji gali pasireikšti branduolinių ginklų srityje, gali būti vienas iš pirmųjų žingsnių siekiant sumažinti riziką, pareiškė jis.
Praėjusį mėnesį Naujajame Delyje vykusiame AI poveikio viršūnių susitikime JT generalinis sekretorius Antonio Guterresas sakė, kad dirbtinio intelekto ateities negali nuspręsti saujelė šalių ir kelių milijardierių užgaidos.
Pasak jo, pernai Generalinė asamblėja žengė du ryžtingus žingsnius.
Pirma, sukurdami nepriklausomą tarptautinę dirbtinio intelekto mokslinę grupę ir, antra, pradėdami JT pasaulinį dialogą dėl dirbtinio intelekto valdymo, kuriame visos šalys kartu su privačiu sektoriumi, akademine bendruomene ir pilietine visuomene gali turėti savo nuomonę.
Jis sakė aukščiausiojo lygio susitikimo dalyviams, kad tikras poveikis reiškia technologijas, kurios pagerina gyvenimą ir apsaugo planetą. Ir jis paragino juos sukurti dirbtinį intelektą visiems, o numatytuoju nustatymu oriai.
JT atstovas spaudai Stephane'as Dujarricas praėjusį mėnesį žurnalistams sakė, kad generalinis sekretorius nereikalauja, kad Jungtinės Tautos valdytų dirbtinį intelektą. Jis ragina – ir įdiegė – architektūrą, padedant valstybėms narėms, siekiant užtikrinti, kad visi gautų vietą prie stalo.
Ir kaip jis sakė: „AI paveiks ir jau paveikė mus visus. Labai svarbu, kad tos šalys, kurios galbūt neturi šios technologijos, taip pat turėtų balsą ir kad mokslas ir sąžiningumas būtų DI centre“.
Atsakomybė ir atsakingumas
Tolesnėje analizėje Raufas teigė, kad kai AGI rekomendacijos ar savarankiški veiksmai prisideda prie katastrofiškų rezultatų, atskaitomybės klausimas tampa labai problemiškas.
Tradicinės komandų grandinės priskiria aiškią žmogaus atsakomybę kiekviename sprendimo taške. AGI integracija sulaužo šį aiškumą. Ar tai programinės įrangos kūrėjas, kariuomenės vadas, vyriausybė, įdiegusi sistemą, ar pats algoritmas, kuris prisiima atsakomybę už klaidingą apskaičiavimą? – paklausė jis.
Aiškių atskaitomybės sistemų nebuvimas yra ne tik teisinė ar etinė problema – tai strateginė, nes ir priešai, ir sąjungininkai turi suprasti, kas valdo ir kokia sprendimų logika yra taikoma.
Kibernetinės atakos pažeidžiamumas
AGI patobulintos arba priklausomos NC3 sistemos taip pat išplečia priešininkų puolimo paviršių. Sudėtingos kibernetinės atakos, įskaitant priešišką įvestį, skirtą manipuliuoti AGI išvestimis, gali apgaudinėti arba apakinti šias sistemas tokiais būdais, kuriuos sunku aptikti, kol dar ne vėlu. Taigi AGI integracija sukuria naujus destabilizavimo vektorius, kurių nebuvo ankstesnėse branduolinėse architektūrose, sakė Raufas.
Tarptautinio bendradarbiavimo atvejis
Nepaisant šių nerimą keliančių iššūkių, tarptautinis bendradarbiavimas gali būti potencialus rizikos valdymo būdas. Pasitikėjimo stiprinimo priemonės, bendri techniniai standartai ir dvišaliai arba daugiašaliai „vykdytini“ susitarimai dėl AGI autonomijos branduolinėse sistemose ribų galėtų padėti išsaugoti strateginį stabilumą.
Ginklų kontrolės istorija, sakė Raufas, rodo, kad net priešininkai gali susitarti dėl taisyklių, kurios tarnauja abipusiams išlikimo interesams. Skubiai reikia išplėsti šią tradiciją į AGI įgalintas NC3 sistemas – kol technologija visiškai nepralenks diplomatijos.
„AGI integravimas į branduolines sistemas techniškai gali būti neišvengiamas. Ar ji valdoma išmintingai, yra politinis ir moralinis pasirinkimas, kuris lieka labai atviras ir, atrodo, viršija šiuolaikinių civilinių ir karinių „vadų“ intelektualinius, moralinius/etinius apdorojimo pajėgumus“, – pareiškė Raufas.
Šį straipsnį jums pateikė IPS NORAM, bendradarbiaudama su INPS Japan ir Soka Gakkai International, konsultuojančia JT Ekonomikos ir socialinių reikalų tarybą (ECOSOC).
IPS JT biuro ataskaita
© Inter Press Service (20260306065643) — Visos teisės saugomos. Originalus šaltinis: Inter Press Service
