Kanada ir Vokietija pranešė pradedančios bendrovės „LawZero“ kuriamam projektui skiriančios apie 250 mln. eurų. Tikslas – sukurti naują didelį dirbtinio intelekto modelį „Scientist AI“, kurio prioritetas būtų saugumas, patikimumas ir aiškesnis faktų atskyrimas nuo nuomonių.
Apie planus paskelbta Monrealyje vykusioje dviejų dienų konferencijoje, sutraukusioje DI tyrėjus ir politikos formuotojus. Kanada įsipareigoja finansuoti apie 100 mln. eurų, Vokietija – apie 150 mln. eurų, o iniciatyva pristatoma kaip bandymas pasiūlyti alternatyvą sparčiai komercializuojamiems didiesiems modeliams.
Kas yra „Scientist AI“?
„Scientist AI“ sumanymas siejamas su idėja kurti DI, kuris būtų naudingas moksliniams tyrimams, bet ribotųsi nuo savarankiškų tikslų kūrimo. Projekto šalininkai teigia, kad toks architektūrinis principas galėtų sumažinti rizikas, susijusias su autonomiškai veikiančiais agentais, kurie geba planuoti veiksmus ir vykdyti sudėtingas užduotis be nuolatinės žmogaus kontrolės.
Taip pat akcentuojama patikimumo kryptis: modelis turėtų labiau remtis faktais, aiškiau pažymėti neapibrėžtumą ir būti lengviau prižiūrimas. Tokie tikslai atliepia pastarųjų metų diskusijas, kurias paskatino generatyvaus DI klaidos, vadinamosios haliucinacijos, ir rizika, kad sistemos pateiks įtikinamai skambančią, bet neteisingą informaciją.
Bengio pozicija ir politinis fonas
„LawZero“ įkūrėjas, Monrealyje dirbantis profesorius Yoshua Bengio, ne kartą yra perspėjęs, kad DI be tinkamos priežiūros gali kelti egzistencinę grėsmę. Jo vardas dažnai minimas tarp svarbiausių šiuolaikinio mašininio mokymosi tyrėjų, todėl iniciatyva sulaukė išskirtinio dėmesio.
„Noriu, kad mano vaikai ir anūkai turėtų ateitį“, – sakė Yoshua Bengio.
Projektas pristatomas platesniame reguliavimo kontekste, kai valstybės ir tarptautinės institucijos ieško būdų suderinti inovacijas su rizikų valdymu. Diskusijose vis dažniau kalbama apie prievolę testuoti modelius, vertinti jų poveikį, užtikrinti atsakomybės grandinę ir aiškias taisykles kūrėjams bei naudotojams.
Idėja apie pasaulinę priežiūrą
Kanados ministras pirmininkas Mark Carney viešai iškėlė mintį apie pasaulinę DI priežiūros instituciją, kuri būtų nepriklausoma nuo šio sektoriaus bendrovių. Tokia kryptis primena jau taikomus modelius kitose srityse, kai kuriami tarptautiniai standartai, audito principai ir rizikų valdymo procedūros, tačiau DI atveju iššūkiu tampa ypač greitas technologijų progresas.
Kol kas „Scientist AI“ tebėra ankstyvoji iniciatyva, tačiau investicijų mastas rodo, kad saugesnio DI kryptis tampa ne tik akademine, bet ir strategine valstybės politikos tema. Jei projektui pavyktų pasiūlyti praktiškai taikomą, patikimesnį modelį, jis galėtų paveikti tiek mokslinių tyrimų spartą, tiek visuomenės pasitikėjimą DI sprendimais.
Leave a Reply