DI patarė „neimti baudos“ ir baigėsi blogai: kodėl „ChatGPT“ ir „Gemini“ klaidos kainuoja brangiai

Kai patarimas kainuoja brangiau

Lenkijoje įprasta kelių policijos patikra virto pamoka apie aklą pasitikėjimą DI. Vairuotojas, viršijęs greitį 14 kilometrų per valandą, vietoje siūlomos baudos nusprendė pasikonsultuoti su „ChatGPT“.

DI esą patarė baudos vietoje nepriimti, tikintis, kad situacija išsispręs paprasčiau. Tačiau atsisakius, byla nukeliavo į teismą, o ten sprendimas vairuotojui buvo gerokai skaudesnis.

Vietoje 100 zlotų baudos teismas skyrė 800 zlotų, tai yra apie 185 eurus, o pirminė suma būtų siekusi apie 23 eurus. Prie to dar gali prisidėti bylinėjimosi išlaidos, todėl galutinė kaina realiai išauga.

„Gemini“ ir „Google“ paieškos kluptelėjimai

Kita istorija siejama su „Gemini“, integruotu į „Google“ paiešką. Vartotojų klausimai kartais išprovokuoja atsakymus, kurie skamba įtikinamai, bet yra akivaizdžiai klaidingi ar net pavojingi sveikatai.

Viešumoje aptartos situacijos, kai DI pateikė absurdiškų mitybos ir buities „patarimų“, o kai kuriais atvejais net normalizavo elgesį, kuris mediciniškai ar saugumo požiūriu yra nepriimtinas. Tokie atsakymai atsiranda todėl, kad modeliai apibendrina internete rastą turinį ir ne visada atskiria faktus nuo satyros ar melagienų.

„DI gali skambėti užtikrintai net tada, kai klysta, todėl vartotojui svarbiausia tikrinti informaciją ir remtis oficialiais šaltiniais ar specialistais“, – sako skaitmeninio saugumo ekspertai, komentuodami panašius atvejus.

Klaidos medicinoje ir navigacijoje

Rizika ypač išryškėja sveikatos temose. Aprašytas atvejis, kai žmogus, bandydamas pakeisti druską racione, po konsultacijos su „ChatGPT“ ėmė vartoti netinkamą medžiagą ir patyrė sunkų apsinuodijimą, pasireiškusį psichozės simptomais.

Medikai pabrėžia, kad tokios situacijos dažniausiai kyla ne dėl vieno atsakymo, o dėl to, kad vartotojai DI patarimus priima kaip profesionalią konsultaciją. Praktikoje DI gali „prihaliucinuoti“ neegzistuojančias taisykles, nepateikti esminių perspėjimų arba nepaklausti kritinių patikslinimų.

Panašiai klaidos gali pasireikšti ir keliuose. Vairuotojai, aklai sekdami navigacijos pasiūlymais, kartais ryžtasi pavojingiems manevrams, nors Kelių eismo taisyklės ir kelio ženklai turi absoliučią pirmenybę prieš bet kurią programėlę.

Specialistai primena, kad DI įrankiai dažnai pateikia vadinamuosius apibendrintus atsakymus, pritaikytus „vidutiniam“ scenarijui. Todėl net ir kasdienėse situacijose saugiausia laikytis paprastos taisyklės: jei sprendimas susijęs su sveikata, teise ar eismu, vien DI nepakanka.