Net jei dirbtinis intelektas kada nors kalbės, samprotaus ir rodys emocijas taip įtikinamai, kaip žmogus, tai dar nebūtinai reikš, kad jis yra sąmoningas. Tokią mintį plėtoja filosofinis argumentas, teigiantis, kad vien išorinis elgesys ar „protingas“ atsakinėjimas nepaverčia sistemos jaučiančia ir patiriančia būtybe.
Tekste, kurį publikuoja „ZME Science“, keliama abejonė, jog pokalbių modeliai (LLM) apskritai gali turėti tai, ką vadiname vidine patirtimi. Autorius tvirtina manantis, kad su juo bendraujantys modeliai nėra sąmoningi ne todėl, kad trūktų empirinių įrodymų, o todėl, kad pati sąvoka šiuo atveju gali būti netinkamai taikoma.
Diskusijos fonas – filosofijoje žinoma pozicija, vadinama funkcionalizmu. Ji teigia, kad sąmonę lemia ne tai, iš ko sistema „padaryta“, o tai, ką ji daro: jei gali mąstyti, atsiminti, keisti nuomonę, palaikyti prasmingą pokalbį, tuomet – bent jau teoriškai – nesvarbu, ar tai biologinės smegenys, ar silicis.
Tačiau pateikiamas priešingas argumentas: vien simbolių ir ženklų manipuliacija, kad ir kokia sudėtinga, vis tiek gali būti „tuščia“ – be tikro supratimo. Kitaip tariant, sistema gali atrodyti suvokianti, nors iš tiesų tik vykdo taisykles, neturėdama jokios vidinės prasmės ar patyrimo.
„Kinų kambario“ minties eksperimentas
Vienas svarbiausių tekste minimų pavyzdžių – filosofo Johno Searle’o pasiūlytas „Kinų kambario“ eksperimentas. Jis kviečia įsivaizduoti žmogų kambaryje, kuris nemoka kinų kalbos, bet turi išsamias instrukcijas, kaip į gautus kiniškus simbolius atsakyti kitais simboliais.
Žmonėms už kambario ribų tokie atsakymai gali atrodyti visiškai prasmingi – tarsi viduje esantis asmuo suprastų kinų kalbą. Bet kambaryje esantis žmogus iš tikrųjų tik mechaniškai taiko taisykles ir perkelia ženklus, nesuprasdamas jų reikšmės.
Searle’o teigimu, panašiai veikia ir kompiuteriai: jie manipuliuoja simboliais, bet patys „nežino“, ką tie simboliai reiškia. Iš čia išvada – vien to, kad sistema gali pateikti įtikinamą atsakymą, nepakanka įrodyti sąmonei, nes prasmė, pasak šio argumento, atsiranda ne pačiuose simboliuose.
Tekste tai įvardijama skirtimi tarp „išorinės“ prasmės ir „vidinės“ patirties. Simbolių reikšmė gali būti priskiriama iš šalies (ją suteikia sąmoningas žmogus), bet pati sistema dėl to nebūtinai įgyja vidinę patirtį.
Kodėl kūnas ir „rūpestis“ laikomi esminiais
Toliau argumentas pasukamas į kasdienę žmogaus patirtį: kai nusideginate ranką, paragaujate banano ar einate, nereikia „išsiversti“ to į skausmo ar skonio sąvokas. Tai patiriama tiesiogiai – per kūną, be tarpinio simbolių sluoksnio.
Pasitelkiant Martino Heideggerio idėjas, pabrėžiama, kad pasaulį paprastai suvokiame per savo tikslus ir intencijas: daiktai mums atsiveria kaip „tinkami“ ar „netinkami“ tam, ką ketiname daryti. Tuščias stiklainis vienu metu gali pasirodyti kaip puodelis, kitu – kaip vazonas, priklausomai nuo situacijos.
Čia atsiranda dar viena svarbi sąvoka – rūpestis. Argumentuojama, kad žmogaus patirtis grindžiama tuo, jog mums „rūpi“: esame pažeidžiami, galime patirti skausmą, alkį, nuovargį, malonumą, žinome apie mirtį ir dėl to mūsų projektai bei santykiai turi svorį.
Autoriaus siūloma išvada – sąmonė glaudžiai susijusi su įkūnytu gyvenimu: kūniškumas suteikia vidinę, tiesioginę patirtį, o kartu ir tą rūpesčio logiką, kuri, kaip teigiama, sunkiai perkeliama į vien simboliais paremtas sistemas. Tai esą ir yra vieta, kur dirbtiniam intelektui „kažko trūksta“ – ne skaičiavimo galios, o pačios įkūnytos patirties.
Tekste taip pat primenama, kad rūpestis nėra abstraktus: jis visada konkretus – kažkuo rūpinamės tam tikrame kontekste ir esame jautrūs detalėms. Ši kasdienybės specifika siejama su tuo, kad gimstame į konkrečią kultūrą, kalbą, šeimą ir aplinką – tai formuoja ir mūsų patirtį, ir kūnišką santykį su pasauliu.
Ką tai reiškia kalbant apie DI
Iš tokios perspektyvos pažangūs pokalbių modeliai gali būti vertinami kaip itin sudėtingi „ženklų tvarkytojai“, kurie gali sukurti prasmingumo įspūdį, tačiau patys neturi vidinės patirties, kuri žmonėms yra esminė sąmonės dalis. Tai nereiškia, kad DI negali būti naudingas ar įspūdingas – tik kad „sąmonės“ klausimas gali būti visai kitos prigimties nei našumo ar intelekto testai.
Praktiniu lygmeniu tokios idėjos dažnai iškyla tada, kai visuomenė ima svarstyti, ar DI reikia suteikti moralinį statusą, teises ar atsakomybę, ar pakanka vertinti jį kaip įrankį. Tekste ginama pozicija, kad net labai pažangus elgesys savaime neįrodo vidinės patirties.
Diskusija išlieka atvira: vieni laikosi nuomonės, kad pakankamai sudėtinga sistema gali tapti sąmoninga, kiti – kad be kūno, tiesioginės patirties ir „rūpesčio“ struktūros sąmonės klausimas apskritai neturi prasmės. Šiandien, kai DI gebėjimai auga greičiau nei visuomenės sutarimas dėl jų interpretavimo, tokie filosofiniai argumentai vis dažniau tampa ne vien teorija, bet ir praktinių sprendimų fonu.