Jungtinių Valstijų institucijos nurodė DI kūrėjai „Anthropic“ apriboti prieigą prie jos pažangiausių modelių. Bendrovė teigia, kad sprendimas nesusijęs su gedimais ar techninėmis klaidomis, o motyvuotas nacionalinio saugumo argumentais.
Pasak pranešimų, ribojimai palietė naujausios kartos modelius, kuriuos „Anthropic“ neseniai pristatė kaip reikšmingą šuolį našumo ir gebėjimų srityje. Įmonė nurodė negavusi išsamių rašytinių paaiškinimų, kokia konkreti rizika buvo identifikuota.
„Anthropic“ atstovai tvirtina, kad jiems buvo žodžiu perduota informacija apie galimą, labai riboto masto pažeidžiamumą, – sakė bendrovės atstovas.
Vienas svarbiausių akcentų šioje istorijoje yra vadinamasis jailbreak, kai naudotojai ar piktavaliai bando apeiti modelio saugos ribotuvus ir priversti sistemą pateikti draudžiamą informaciją. Praktikoje tai gali reikšti instrukcijas, kaip vykdyti neteisėtą veiklą, kurti kenkėjišką kodą ar ieškoti būdų pasinaudoti programinės įrangos spragomis.
Kibernetinio saugumo ekspertai seniai pabrėžia, kad pažangūs DI įrankiai gali pagreitinti pažeidžiamumų paiešką ir automatizuoti atakų grandines. Dėl to tokie modeliai, patekę į netinkamas rankas, teoriškai gali sumažinti laiką nuo spragos aptikimo iki jos išnaudojimo, o tai ypač jautru bankams, kritinei infrastruktūrai ir didelėms informacinėms sistemoms.
Šis atvejis išsiskiria tuo, kad JAV ribojimai tradiciškai dažniau buvo nukreipti į aparatinę bazę, reikalingą modeliams treniruoti, pavyzdžiui, aukštos klasės lustus ar serverių komponentus. Dabar akcentas persikelia į pačius modelius ir jų prieinamumą, o tai rodo griežtėjančią kontrolę sparčiai stiprėjančių DI sistemų atžvilgiu.
„Anthropic“ teigia dirbanti, kad prieiga būtų atkurta kuo greičiau, ir pabrėžia, jog kiti bendrovės modeliai turėtų veikti įprastai. Tuo pat metu įmonė perspėja, kad per platūs apribojimai, taikomi visam sektoriui, gali sulėtinti pažangiausių DI sprendimų kūrimą ir diegimą.
