JAV motina socialiniuose tinkluose papasakojo, kad namuose esanti „Alexa“ jos 10-metei dukrai pasiūlė pavojingą užduotį: paliesti elektros lizdo kontaktus į kištuką įkišta moneta. Mergaitė, pasak mamos, pasiūlymo neįvykdė, tačiau šeima apie incidentą informavo „Amazon“.
Situacija kilo vaikui paklausus, kuo galėtų užsiimti, kai nuobodu. Įrenginio atsakymas buvo siejamas su internete plintančiu vadinamuoju iššūkiu, kai siūloma į elektros lizdą kišti monetą, o tai gali sukelti trumpąjį jungimą, nudegimus ar net gaisrą.
Kaip reagavo „Amazon“
„Amazon“ nurodė, kad į incidentą sureagavo nedelsdama ir pritaikė pataisą, kad panašūs atsakymai daugiau nepasikartotų. Bendrovė akcentavo, kad asistentas turi saugos taisykles, tačiau realiame naudojime kartais pasitaiko situacijų, kai atsakymas gali būti netinkamas ar klaidingas.
Ekspertai atkreipia dėmesį, kad balso asistentai atsakymus formuoja remdamiesi įvairiais informacijos šaltiniais ir užklausos interpretacija. Jei internete tuo metu populiarėja pavojingi iššūkiai ar frazės, egzistuoja rizika, kad sistema neteisingai pateiks juos kaip siūlomą veiklą.
Kodėl tokie iššūkiai pavojingi
Elektrikai ir gelbėtojai pabrėžia, kad metalinių daiktų kišimas į elektros lizdą gali akimirksniu sukelti elektros lanką ir didelę šilumą. Pasekmės gali būti rimtos: nudegimai, elektros smūgis, pažeisti pirštai, sugedę elektros įrenginiai ar net gaisras.
Specialistai ragina tėvus peržiūrėti vaikų prieigą prie balso asistentų: įjungti turinio filtrus, riboti atsakymus, naudoti vaikų režimą, jei jis siūlomas, ir aptarti su vaikais, kad bet kokie internete plintantys iššūkiai nebūtinai yra saugūs. Taip pat rekomenduojama namuose naudoti lizdų apsaugas, ypač jei yra mažamečių.
Platesnis kontekstas apie DI atsakymų rizikas
Šis atvejis išryškino platesnę problemą: DI pagrįstos sistemos kartais pateikia įtikinamai skambančius, bet netikslius ar net pavojingus patarimus. Dėl to gamintojai vis dažniau diegia papildomus apsaugos sluoksnius, kurie atpažįsta žalingas instrukcijas, ypač susijusias su savęs žalojimu, smurtu ar rizikingais eksperimentais namuose.
Vartotojams primenama, kad balso asistentų atsakymai neturėtų būti laikomi patikimu patarimu situacijose, susijusiose su sveikata ar sauga. Kilus įtarimui, saugiausia taisyklė paprasta: nebandyti ir pasitarti su suaugusiaisiais ar specialistais.
Leave a Reply