2023 metais pasirodžiusiame filme Leave the World Behind yra scena, kuri daugeliui atpažįstama ir už ekrano ribų: veikėjas pasiklysta ne todėl, kad nemoka vairuoti, o todėl, kad nebežino, kaip orientuotis be įprastų skaitmeninių įrankių. Kai nustoja veikti telefonas ir automobilio sistemos, paaiškėja, kad dalis mąstymo ir sprendimų seniai buvo patikėta technologijoms.
Šis epizodas tampa patogia metafora tam, kas vis dažniau aptariama ir realiame gyvenime: dirbtinis intelektas daug kur jau veikia kaip kognityvinis antras vairuotojas. Jis ne tik pagreitina paiešką ar rašymą, bet ir siūlo argumentus, vertina įrodymus, formuluoja išvadas, o kartais net parenka, ką verta manyti.
Kada pagreitis virsta pakaitalu?
Pagrindinė riba eina tarp DI kaip įrankio ir DI kaip pakaitalo. Kol žmogus pats geba atlikti užduotį ir supranta, kodėl pasirinko vieną ar kitą sprendimą, technologija didina produktyvumą. Tačiau kai DI pradedamas naudoti tam, kad pakeistų sprendimą, intuiciją ar vertinimą, atsiranda rizika, kad gebėjimai pamažu atrofiuosis.
Šis procesas vis dažniau įvardijamas kaip kognityvinis pasidavimas, kai patogumas ir greitis ima konkuruoti su savarankišku mąstymu. Pavojus čia ne vien teorinis: kuo sklandesnis ir įtikinamesnis DI atsakymas, tuo mažiau natūralios trinties lieka kritiniam įvertinimui.
„Pavojus slypi ne tik mūsų augančiame per dideliame pasitikėjime DI vietoj bendrojo intelekto, bet ir tame, kad savo duomenis bei sprendimų kontrolę perleidžiame trečiųjų šalių debesijos paslaugų teikėjams, kurie gali naudoti duomenis savo finansiniams ar politiniams tikslams“, – sakė JB Benjamin.
Sklandūs atsakymai gali maskuoti klaidas
DI sistemos dažnai pateikia atsakymus užtikrintai ir taisyklingai suformuotus, todėl žmonės linkę juos priimti kaip patikimus net tada, kai trūksta konteksto ar atsiranda faktinių netikslumų. Šis efektas ypač pavojingas, kai sprendimai priimami greitai, o vartotojas neturi įpročio tikrinti prielaidų, šaltinių ar logikos grandinės.
Problema paaštrėja, kai DI pradedamas naudoti ne tam, kad mestų iššūkį mąstymui, o tam, kad jį pakeistų. Jeigu žmogus pirmiausia suformuoja savo poziciją, o tada paprašo DI pateikti kontrargumentų ar patikrinti silpnąsias vietas, rezultatas gali būti geresnis mąstymas. Tačiau jei išvada užsakoma dar neturint nuomonės, svarbiausia dalis jau būna perleista sistemai.
„Už pasekmes atsakome mes, kai naudojame sistemas, kurios kai kuriose srityse tampa protingesnės už mus, o kartais žmonių grupėms jau sunku suspėti su DI tempu. Todėl svarbiausia yra aiškiai suprasti, kiek galima pasitikėti išvada ir kokia yra jos vertė“, – sakė Nathaniel Bradley.
„Užduoties perdavimas DI yra laimėjimas tol, kol žmogus vis dar gali ją atlikti savarankiškai. Tačiau kai pradeda nykti sprendimo pagrindas, ta pati substitucija tampa rizika“, – sakė profesorius Stoyan Stoyanov.
Darbo vietose rizika didėja tyliai
Darbe DI dažnai perima būtent tas užduotis, per kurias darbuotojai mokosi: pirmuosius juodraščius, santraukas, palyginimus, argumentų struktūravimą. Organizacijoms tai atrodo kaip greitas efektyvumo laimėjimas, tačiau ilgainiui tai gali reikšti mažiau treniruojamus gebėjimus, mažiau diskusijų ir silpnesnį sprendimų pagrindimą.
Kai sprendimai pradedami maršrutuoti per modelį, gali tyliai išnykti tai, kas anksčiau buvo sprendimo kokybės dalis: ginčas, argumentų rašymas, alternatyvų svarstymas ir atsakomybės pasidalijimas. Dėl to institucijos kartais kognityviai pasiduoda greičiau nei pavieniai žmonės, nes naujos taisyklės įsitvirtina kaip procesas.
„Kai įmonė sprendimus pradeda leisti per modelį, susitikimai, nesutarimai ir rašytinis argumentavimas, kuris anksčiau lydėjo sprendimą, gali tiesiog pradingti“, – sakė Mücahit Kaya.
Praktinis kelias išlaikyti kontrolę dažnai paprastas, bet reikalaujantis disciplinos: pirmiausia suformuluoti tikslą ir pirminę poziciją, o DI naudoti tyrimui, palyginimui, kontrargumentams ir greitesniam informacijos apdorojimui. Taip pat svarbu vertinti ne atsakymo grožį, o motyvus, prielaidas ir tai, ką žmogus realiai suprato bei patikrino.
Didžiausia rizika nėra vien tai, kad DI taps labai galingas. Didesnė grėsmė kyla tada, kai jis tampa toks patogus, kad žmonės nustoja lavinti gebėjimą orientuotis, abejoti ir priimti sprendimus savarankiškai, o prireikus nebežino, kaip grįžti prie mąstymo be pagalbinių sistemų.
