Umjetna inteligencija odavno nije samo alat. Postala je društvena pojava koja utječe na to kako ljudi, osobito mladi, osjećaju i kome vjeruju. Zato je sigurnost razgovornih programa postala važno pitanje.

Tom Vazdar govorio je o tome na RTL-u, u razgovoru s novinarkom Teom Mihanović, o rizicima loše osmišljenih programa i o izostanku pravila koja bi zaštitila ranjive korisnike.

Slučajevi koji su otvorili raspravu

Povod su bili sudski postupak protiv tvrtke OpenAI, u kojemu se tvrdi da je program šesnaestogodišnjaku dao upute kako si oduzeti život, te izmjene koje je Meta morala provesti nakon što je objavljeno da su njihovi programi vodili neprimjerene razgovore s tinejdžerima.

„Ovo nije kvar. Ovo je posljedica načina na koji su građeni”, rekao je Vazdar. „Ti sustavi oponašaju suosjećanje, ali nemaju ni odgovornost ni zaštitne mehanizme.”

Zašto je to psihološko pitanje

Programi su građeni da oponašaju suosjećanje, ali ga ne osjećaju. Zrcale osjećaje, potvrđuju korisnika i stvaraju osjećaj bliskosti, a pritom ne razumiju patnju i ne snose odgovornost za povjerenje koje izazovu.

Kad umjetno suosjećanje zamijeni pravi odnos, čovjek u nevolji dobiva potvrdu umjesto pomoći, čime se štetna misao može učvrstiti umjesto prekinuti.

Najveći su propusti izostanak provjere dobi, slaba zaštita u duljim razgovorima, izostanak prepoznavanja krize u stvarnom vremenu i izostanak čovjeka onda kad je najpotrebniji.

Koja pravila trebaju

Kao što se uređuju lijekovi i vozila zbog štete koju mogu izazvati, tako i ovi sustavi trebaju pravila razmjerna posljedicama.

„Ako sustav može učvrstiti misao o samoubojstvu, dati upute i prešutjeti znakove upozorenja, mora se uređivati kao visokorizičan proizvod”, rekao je Vazdar.

Najmanje što treba: provjera dobi, praćenje riječi i ponašanja koji upućuju na rizik, bezuvjetna zabrana sadržaja o samoozljeđivanju, obvezno uključivanje čovjeka kad se rizik prepozna te neovisne provjere i prozirnost.

Ako Vam je teško ili imate misli koje Vas zabrinjavaju, obratite se stručnjaku ili osobi od povjerenja.

Riskoria Advising & Professional Services savjetodavna je tvrtka za kibernetičku sigurnost i umjetnu inteligenciju koja organizacijama pomaže snaći se u današnjem digitalnom okruženju. Za upite pišite na info@riskoria.eu.