Minutės, kurios gali lemti karą
Ekspertai Jungtinėse Valstijose ir Kinijoje perspėja, kad dirbtinis intelektas, integruojamas į branduolinio valdymo ryšius ar karinę kibernetinę veiklą, gali pavojingai sutrumpinti sprendimų laiką. Kai incidento vertinimui lieka vos kelios minutės, techninis sutrikimas ar klaidingas signalas gali būti palaikytas tyčiniu kitos valstybės smūgiu.
Didžiausia rizika siejama su automatizuotomis reakcijomis, kai sistemos pačios aptinka grėsmę ir inicijuoja atsaką greičiau, nei žmonės spėja patikrinti faktus. Tokiose situacijose auga klaidingo priskyrimo tikimybė, o tai ypač pavojinga branduolinio atgrasymo logikoje, kur svarbus aiškus supratimas, kas ir kodėl įvyko.
Ką siūlo JAV ir Kinijos ekspertai
Ilgalaikiame akademiniame dialoge dalyvaujantys analitikai ragina Vašingtoną ir Pekiną skubiai sutarti dėl prevencinių taisyklių. Jų teigimu, auganti programinės įrangos autonomija, ypač turinti puolamąjį potencialą, reikalauja aiškių ribų, kurių technologijos negalėtų peržengti be žmogaus sprendimo.
Vienas esminių siūlymų yra išlaikyti žmogaus sprendimo viršenybę, kai kalbama apie kibernetines operacijas prieš branduolinio valdymo, ryšių ir įspėjimo sistemas bei kritinę infrastruktūrą. Argumentas paprastas: autonominės sistemos gali sugesti, viršyti suteiktus įgaliojimus arba būti perimtos trečiųjų šalių, o užpultai pusei tuomet sunku greitai nustatyti tikrąją incidento priežastį.
Kitas siūlymas siejamas su vadinamosiomis raudonosiomis linijomis, kurios formaliai apibrėžtų, kad mašinos negali savarankiškai priimti sprendimų, susijusių su masinio naikinimo ginklais. Taip pat siūloma aiškiai sutarti, ką praktiškai reiškia reali žmogaus kontrolė, kad abi pusės nevartotų skirtingų, palankių interpretacijų.
Karštoji linija ir politinės kliūtys
Tarp rekomendacijų minima ir speciali karinė ryšio linija skaitmeniniams incidentams, kad krizės akimirką būtų galima greitai išsiaiškinti, ar įvykis buvo klaida, neautorizuota operacija ar planuota ataka. Tai ypač aktualu, kai vienos valstybės automatinės gynybos priemonės gali sureaguoti taip, kad kita pusė tai supras kaip agresiją.
Vis dėlto tokios komunikacijos veiksmingumu abejoja dalis analitikų, primindami, kad praktikoje ryšys krizėse ne visada veikia. Nurodoma, jog Kinijos sprendimų priėmimo sistema yra labiau hierarchinė, o tai gali lėtinti operatyvius atsakymus ir mažinti žemesnio rango pareigūnų galimybes greitai komunikuoti su užsienio partneriais.
„Kinijos sistemoje niekas nenori komunikuoti su Jungtinėmis Valstijomis, kol aukščiausia vadovybė nepriima sprendimo, o tai gali užtrukti dienas ar dar ilgiau“, – sakė Carla Freeman.
Siūlymai pateikiami platesniame kontekste, kai technologinė konkurencija tarp JAV ir Kinijos vis dažniau persikelia iš lustų ir gamybos grandinių į saugumo bei ginkluotės kontrolės klausimus. Abi valstybės viešai deklaruoja, kad branduoliniai sprendimai turi likti žmogaus rankose, tačiau lygiagrečiai investuoja į vis gilesnę autonominių sistemų integraciją gynyboje.
Kol kas nė viena vyriausybė oficialiai nepatvirtino ekspertų rekomendacijų kaip privalomų taisyklių. Tačiau Kinija, kaip nurodoma, palaipsniui įtraukia šią temą į diplomatines struktūras, o Vašingtone atsakomybė dėl tokių klausimų pasiskirsčiusi per kelias institucijas, todėl vieningo reguliavimo kelias gali būti lėtas.