Umjetna inteligencija ulazi u osjetljiva područja: zdravstvo, pravo i obrazovanje. Uz to raste i pitanje može li joj se vjerovati u psihoterapiji.

O tome je Tom Vazdar govorio u razgovoru na Novoj TV, o osjećajnim i etičkim granicama takvih alata u skrbi o duševnom zdravlju.

„To što program može odglumiti suosjećanje ne znači da razumije patnju. A upravo je ta razlika ovdje najvažnija”, rekao je.

Gdje pomaže

Milijuni ljudi već koriste takve alate za bilježenje raspoloženja, vođenje dnevnika i vježbe iz kognitivno-bihevioralne terapije.

„Takvi alati snižavaju prag za traženje pomoći. Dostupni su u svako doba, anonimni, jeftini i ne osuđuju. Nekome tko je usamljen to može donijeti stvarno olakšanje”, rekao je Vazdar.

Istraživanja pokazuju da korisnici često prijave smanjenje blažih tegoba nakon nekoliko tjedana, pa je to ulazna točka za one koji se ustručavaju ili ne mogu do stručnjaka.

Gdje je granica

„Terapija nije samo razgovor. Ona je prisutnost, osjećaj za trenutak, tišina i intuicija. Program nema živčani sustav. Ne osjeća, ne čuje drhtaj u glasu ni težinu onoga što niste rekli.”

Ograničenja nisu teorijska. Program može propustiti tanke naznake misli o samoubojstvu ili odgovoriti općenito, što u tom trenutku može odbiti. Terapeut se prilagođava u hodu i čita ono što nije izrečeno.

Uz to ostaje pitanje prozirnosti. Mnogi takvi sustavi rade kao crna kutija, pa korisnik ne zna kako se čuvaju i obrađuju njegovi najosjetljiviji podaci.

„Ljudi se tim alatima otvaraju u trenucima ranjivosti. Time nastaje dužnost skrbi koju ne možemo prepustiti postupku”, rekao je Vazdar.

Etika i propisi

Akt o umjetnoj inteligenciji sustave koji se koriste u skrbi o duševnom zdravlju svrstava u visokorizične, što traži veću prozirnost, jasnu odgovornost i nadzor.

„Ne trebaju nam samo bolji modeli, nego bolje granice. To znači jasan pristanak, čvrstu zaštitu podataka, crte koje se ne prelaze i propisan put kad se prepozna rizik”, objasnio je.

Zato zagovara sustave u kojima čovjek ostaje u petlji, uz upravljanje usklađeno s normom ISO/IEC 42001 i Općom uredbom o zaštiti podataka.

Dopuna, ne zamjena

Odgovor, dakle, ovisi o tome kako se takav sustav gradi i uvodi. „Može ponuditi red, podsjetnik, čak i oslonac. Ne može zamijeniti odnos. Ta ljudska veza i dalje je ono što liječi.”

Ako Vam je teško ili imate misli koje Vas zabrinjavaju, obratite se stručnjaku ili osobi od povjerenja.

Riskoria Advising & Professional Services savjetodavna je tvrtka za kibernetičku sigurnost i umjetnu inteligenciju koja organizacijama pomaže snaći se u današnjem digitalnom okruženju. Za upite pišite na info@riskoria.eu.