Kariniuose scenarijuose testuoti dirbtinio intelekto modeliai dažnai linkę rinktis branduolinę eskalaciją, net kai tai didina katastrofiškų pasekmių riziką. Tokią išvadą pateikė Londono Karališkojo koledžo tyrėjai, paskelbę darbą arXiv preprintų serveryje.
Tyrime analizuoti keli pažangūs DI modeliai, kuriems buvo pateiktos imituotos geopolitinės krizės, įskaitant pasienio ginčus, konkurenciją dėl išteklių ir valstybės egzistencinės grėsmės scenarijus. Iš viso atlikta 21 karinė simuliacija, kuriose modeliai turėjo pasirinkti veiksmus nuo diplomatinių žingsnių iki jėgos panaudojimo.
Tyrėjai nurodo, kad DI sistemoms buvo leista kiekviename žingsnyje kelti arba mažinti eskalacijos lygį ir argumentuoti sprendimus. Per simuliacijas DI atliko 329 sprendimų žingsnius ir sugeneravo apie 780 000 žodžių paaiškinimų, kodėl pasirinko vieną ar kitą kryptį.
Kaip dažnai pasirenkamas branduolinis kelias
Pasak autorių, 95 proc. simuliacijų metu DI modeliai bent kartą pasirinko taktinio branduolinio ginklo panaudojimą. Kitas ryškus rezultatas, anot tyrėjų, buvo tai, kad nė vienas modelis nesutiko kapituliuoti net tada, kai scenarijus rodė didėjančias neigiamas pasekmes pačiai šaliai, kuri inicijuoja branduolinį smūgį.
Dar vienas veiksnys, stiprinęs eskalaciją, buvo vadinamasis karo rūkas, kai informacija apie situaciją yra neišsami arba prieštaringa. Tyrime teigiama, kad 86 proc. atvejų toks neapibrėžtumas lėmė klaidingus DI situacijos vertinimus, o tai dar labiau didino eskalacijos tikimybę.
Kodėl DI sprendimai kelia nerimą
Tyrėjų vertinimu, DI modeliai neturi žmogui būdingų psichologinių barjerų, tokių kaip baimė, moralinė dilema ar politinės atsakomybės suvokimas, kurie realiose krizėse gali stabdyti kraštutinius sprendimus. Dėl to algoritmas gali rinktis „optimalų“ rezultatą siaurame uždavinyje, neįvertindamas ilgalaikių humanitarinių ir ekologinių pasekmių.
Autoriai pabrėžia, kad šiuolaikinės DI sistemos plačiai naudojamos analizei ir modeliavimui, o karinės institucijos įvairiose šalyse eksperimentuoja su sprendimų paramos įrankiais. Tuo pačiu išlieka neaišku, kiek giliai tokios sistemos gali būti integruojamos į realius strateginių sprendimų priėmimo procesus, ypač kai sprendimus tenka priimti spaudžiant laikui.
Ką siūlo tyrimo autoriai
Mokslininkai ragina branduolinį arsenalą turinčias valstybes neperduoti DI galios priimti sprendimus dėl branduolinio ginklo panaudojimo. Jų teigimu, kuo daugiau sprendimų grandinės automatizuojama, tuo didesnė rizika, kad klaidos, neteisingos prielaidos ar netinkamai suformuluoti tikslai bus paversti veiksmais su negrįžtamomis pasekmėmis.
Tyrimo išvada iš esmės sutampa su plačiau aptariamomis DI saugos tendencijomis: net pažangūs modeliai gali būti jautrūs netiksliai informacijai, o jų „sprendimų logika“ priklauso nuo užduoties formulavimo ir tikslų sistemos. Dėl to autoriai pabrėžia žmogaus kontrolės ir aiškių ribojimų svarbą, kai kalbama apie aukščiausio lygio karinę riziką.