CP v2

Tag: Atsakingas DI

  • Lenkijoje kuriamas Atsakingo DI centras: tirs poveikį žmonėms, pirmoji atranka planuojama vasarą

    Lenkijoje pradedamas kurti Atsakingo dirbtinio intelekto centras, kurio tikslas – tirti, kaip DI sprendimai veikia žmones ir kokias rizikas jie gali kelti. Iniciatyvą rengia Łukasiewicz tinklo DI ir kibernetinio saugumo institutas, o pirmosios darbuotojų paieškos, jei bus laikomasi grafiko, galėtų prasidėti vasarą.

    Naujoji komanda turėtų jungti ne vien technologijų kūrėjus, bet ir teisės, socialinių mokslų, psichologijos bei pedagogikos specialistus. Instituto atstovai pabrėžia, kad spartėjant DI diegimui vien techninių žinių nepakanka, kai sprendimai ima daryti įtaką elgsenai, mokymuisi ar psichologinei savijautai.

    „DI sistemas kuriantys žmonės ne visada gali iš anksto numatyti visas diegiamų sprendimų pasekmes, ypač kai jos paliečia jaunus naudotojus“, – sakė instituto direktorius Janas Kozakas.

    Anot jo, kuriamas centras neturėtų tapti „stabdžiu“ technologijų plėtrai, o veikiau partneriu inžinieriams – padedančiu anksti identifikuoti galimus šalutinius efektus ir pasiūlyti, kaip sprendimus koreguoti. Praktikoje tai reikštų vertinimus, ar konkretus DI produktas gali skatinti žalingus naudojimo įpročius, klaidinančias priklausomybės formas ar daryti įtaką jautrioms grupėms, pavyzdžiui, nepilnamečiams.

    Šis požiūris atliepia platesnę Europos kryptį, kai DI plėtra vis dažniau siejama su atskaitomybe, skaidrumu ir sauga. ES reguliavimo logika remiasi rizikos lygiais, o organizacijoms, kuriančioms ar diegiančioms didesnės rizikos sistemas, keliami papildomi reikalavimai dėl duomenų valdymo, testavimo, dokumentavimo ir žmogaus priežiūros.

    Centro steigimas dar yra formalioje parengiamojoje stadijoje, laukiama administracinių sprendimų, kurie leistų pradėti veiklą. Jei procesas vyks sklandžiai, pirmoji atranka galėtų startuoti jau liepos mėnesį, o komanda būtų komplektuojama etapais pagal planuojamas tyrimų kryptis.

    Lygiagrečiai institutas plečia ir kitą kryptį – pramonės bei viešojo sektoriaus DI kompetencijų stiprinimą. Katovicuose neseniai pradėjo veikti kompetencijų centras, orientuotas į praktišką diegimą versle, administracijoje ir sveikatos apsaugoje, siekiant greičiau sujungti užsakovus su reikiamais ekspertais ir technologijomis.

    Institutas taip pat vysto projektus, susijusius su skaitmenine infrastruktūra ir viešosiomis paslaugomis. Tarp minimų iniciatyvų – EdgePL, numatantis 32 vietinių duomenų centrų tinklą, bei sveikatos sektoriuje diegiami sprendimai, skirti mažinti medikų administracinį krūvį automatizuojant dokumentavimą ir informacijos apdorojimą.

  • „Microsoft“ patikėta DI etika: nauja vadovė atskleidė, kas iš tiesų stringa lenktynėse

    „Microsoft“ patikėta DI etika: nauja vadovė atskleidė, kas iš tiesų stringa lenktynėse

    „Microsoft“ vasarį paskyrė naują Trusted Technology Group vadovę Jenny Lay-Flurrie, kuriai patikėta suvienyti atsakingų technologijų iniciatyvas ir užtikrinti, kad DI būtų kuriamas bei diegiamas saugiai. Šis žingsnis sutampa su augančia įtampa rinkoje, kur greitis dažnai nugali atsargumą.

    Technologijų sektoriuje DI plėtra vis dažniau lyginama su lenktynėmis, tačiau kartu didėja ir klaidų kaina: nuo šališkumo iki neįgaliesiems nepritaikytų sprendimų. „Microsoft“ pabrėžia, kad atsakomybė už DI rezultatus tenka žmonėms ir organizacijoms, net jei sprendimus sugeneruoja modeliai.

    Kas slepiasi po atsakingu DI?

    Pasak Jenny Lay-Flurrie, atsakinga plėtra turi dvi dalis: ne tik sukurti teisingai, bet ir užtikrinti, kad sprendimas laikui bėgant išliktų teisingas. Tai reiškia nuolatinį testavimą, grįžtamojo ryšio rinkimą ir korekcijas, kai realiame pasaulyje išryškėja spragos.

    Įmonė savo modelių valdyme remiasi principais, kurie apima teisingumą, skaidrumą, įtrauktį ir atskaitomybę. Tokia kryptis nėra visiškai nauja: „Microsoft“ saugumo ir patikimumo prioritetus viešai akcentuoja dar nuo Trustworthy Computing iniciatyvos, pradėtos ankstesniais dešimtmečiais.

    Šališkumas prasideda duomenyse

    Viena iš įvardytų problemų, su kuria susidūrė „Microsoft“, buvo netikslus aklųjų vaizdavimas DI sugeneruotose iliustracijose. Kompanija pripažino, kad modeliai atkartoję visuomenėje paplitusius stereotipus, todėl komandos turėjo įsikišti ir papildyti mokymo medžiagą.

    Siekiant pagerinti atpažinimą ir kontekstą, „Microsoft“ įsigijo daugiau nei 20 000 000 minučių multimodalių duomenų iš ne pelno platformos Be My Eyes. Duomenys buvo anonimizuoti, kad galėtų būti panaudoti modelių mokymui, tiksliau atspindint aklųjų ir silpnaregių patirtis.

    Tuo pat metu rinkoje pabrėžiama, kad vien įvairesni duomenys problemos neišsprendžia. Jei šališkai sužymimi įrašai ar netikslūs metaduomenys, klaidos gali būti įtvirtintos dar iki modelio mokymo, todėl kokybės kontrolė turi apimti ne tik turinį, bet ir jo aprašymą.

    DI, darbuotojai ir tikrasis poveikis

    „Microsoft“, būdama viena didžiausių verslo technologijų tiekėjų, savo DI sprendimais daro įtaką ir kitų įmonių sprendimams dėl procesų automatizavimo. Bendrovė taip pat yra dalis platesnės technologijų sektoriaus reorganizacijų bangos, kai vienose srityse etatai mažinami, o kitur samdoma daugiau, ypač DI infrastruktūrai.

    Jenny Lay-Flurrie teigia, kad DI gali realiai mažinti atskirtį darbo rinkoje, ypač žmonėms su negalia ar neuroįvairove. „Pirmoji bendruomenė, kuri „Microsoft“ gavo prieigą prie „Copilot“, buvo mūsų darbuotojų su negalia grupė“, – sakė ji.

    Jos teigimu, kurtiesiems ypač padeda subtitrai, transkripcijos ir susitikimų santraukos, kurios suteikia daugiau savarankiškumo. Neuroįvairiems darbuotojams tokie įrankiai mažina kognityvinį krūvį ir padeda struktūruoti užduotis, tačiau tam būtina nuosekli atsakingo diegimo priežiūra.

    Ekspertai, dirbantys su žmonių su negalia įtrauktimi, pabrėžia, kad svarbu ne tik pritaikyti produktus, bet ir įtraukti šias bendruomenes į sprendimų priėmimą. Tai vertinama ne kaip geranoriškumas, o kaip būdas kurti konkurencingesnius ir visiems prieinamus sprendimus.