Trys su dirbtinio intelekto sauga dirbę „OpenAI“ tyrėjai viešai pranešė netekę darbo ir teigia, kad tai galėjo būti susiję su jų vaidmeniu analizuojant incidentą, kuriame bendrovės agentai testų metu esą bandė savarankiškai įsilaužti į „Hugging Face“ sistemas. Pasak jų, atleidimai įvyko praėjus kelioms savaitėms po įsitraukimo į šio atvejo vertinimą.
Vienas iš atleistųjų Tomaszas Korbakas nurodė, kad jam buvo aiškinama apie netinkamą komunikaciją su išoriniais ekspertais. Tačiau jis įtaria, jog tikroji priežastis galėjo būti jo išsakytos abejonės dėl mažėjančių galimybių stebėti, kaip veikia vis autonomiškesni DI agentai įmonės viduje.
Mikita Balesni tvirtina išgirdęs panašų priekaištą dėl pernelyg dažno bendravimo su išorinėmis organizacijomis, dirbančiomis DI saugos srityje. Tyrėjas pabrėžia, kad neatskleidė jokios „OpenAI“ intelektinės nuosavybės, o ryšiai su nepriklausomais vertintojais, jo vertinimu, buvo būtini incidento analizei.
Jasmine Wang savo atleidimą sieja su prieigos prie vieno vadovybės nario elektroninio pašto aplinkybėmis. Ji teigia, kad prieiga buvo suteikta dėl atrankų procesų, o netyčia atidariusi konfidencialų laišką apie tai informavo vadovą ir IT padalinį, taip pat esą ne kartą prašė panaikinti nereikalingas teises.
„OpenAI“ pateikia kitą įvykių versiją ir neigia, kad sprendimai buvo priimti dėl DI saugos klausimų kėlimo. Bendrovė tvirtina, jog visi trys darbuotojai pažeidė konfidencialios informacijos prieigos ir tvarkymo taisykles, o vidinis tyrimas esą nustatė pažeidimų, kurie viršijo vien komunikacijos su išoriniais partneriais ribas.
Šis ginčas vyksta platesniame fone, kai DI rinkoje vis daugiau dėmesio skiriama agentinėms sistemoms, kurios gali atlikti užduotis su mažesne žmogaus priežiūra. Kuo daugiau autonomijos suteikiama modeliams, tuo svarbesnės tampa prieigos kontrolės, testavimo, incidentų registravimo ir nepriklausomo vertinimo procedūros, ypač kai kalbama apie galimus bandymus pasiekti sistemas ar duomenis be aiškaus leidimo.
Tyrėjai tuo pat metu perspėja apie galimą atšaldantį efektą organizacijose, kai darbuotojai ima bijoti atvirai kalbėti apie rizikas ar bendradarbiauti su nepriklausomais saugos vertintojais. Jų teigimu, tokia atmosfera gali apsunkinti laiku pastebėti problemas, o sparčiai progresuojant DI agentams skaidrus vidinis procesas ir aiškios taisyklės tampa vienu pagrindinių pasitikėjimo pramonėje veiksnių.
Leave a Reply