Umjetna inteligencija mijenja cijele djelatnosti, potiče nove zamisli i ubrzava poslovanje. Kako sustavi postaju sve važniji za rad organizacije, donose i rizike koji traže drukčiji pristup procjeni. Uobičajene metode su korisne, ali često ne hvataju ono što je u ovim okruženjima novo. Evo kako se organizacije mogu prilagoditi.

Rizici svojstveni umjetnoj inteligenciji

• Pristranost modela. Model naučen na pristranim podacima daje iskrivljene rezultate, što nosi etičke posljedice i štetu za ugled.
• Napadi podmetnutim ulazom. Napadač modelu podmetne ulaz koji ga navodi na krivu odluku.
• Odmicanje modela. Sustav s vremenom slabi jer se stvarni podaci udaljavaju od onih na kojima je učio, pa ga treba redovito preučavati i provjeravati.
• Neprozirnost. Mnogi modeli, osobito oni dubokog učenja, rade kao crna kutija, pa je odluku teško objasniti i obrazložiti.
• Sigurnost i privatnost podataka. Umjetna inteligencija traži velike skupove podataka, čime raste površina napada i rizik od povrede propisa.

Kako provesti procjenu

1. Prepoznavanje rizika kroz cijeli životni vijek sustava

• Prikupljanje podataka. Ocijenite kakvoću, izvore i moguću pristranost.
• Izrada modela. Provjerite pravednost, prozirnost i otpornost.
• Uvođenje u rad. Procijenite operativne rizike, mogućnost rasta i ponašanje u stvarnim uvjetima.
• Praćenje. Osigurajte stalno mjerenje uspješnosti i mehanizme za smanjenje rizika.

2. Procjena u kontekstu

Isti sustav nosi različit rizik ovisno o tome gdje radi. Prepoznavanje lica za potrebe zaštite nema iste posljedice kao prepoznavanje lica u trgovini. Procjena zato mora uzeti u obzir prijetnje svojstvene djelatnosti, obveze iz propisa i utjecaj na sve koji su time pogođeni.

3. Ispitivanje kroz scenarije

Simulacija stvarnih situacija otkriva slabosti koje redovito ispitivanje propušta. Kako se sustav ponaša na neočekivan ulaz? Što se dogodi ako napadač u model unese smetnju s namjerom?

4. Objašnjivost i odgovornost

Procjena mora obuhvatiti i način na koji se odluke sustava mogu objasniti, kako bi ljudi koji o njima ovise mogli razumjeti i provjeriti zašto je odluka takva kakva jest.

5. Stalno praćenje

Ovi su sustavi promjenjivi i traže trajan nadzor. Uspostavite alate koji upozoravaju na odstupanja, mjere pad uspješnosti i omogućuju prilagodbu novim rizicima.

Umjetna inteligencija kao pomoć u procjeni

Zanimljivo je da i sama može pomoći. Alati koji je koriste mogu predviđati rizike koji tek nastaju, sami tražiti odstupanja i prijetnje te pomoći u slaganju rizika po važnosti. Postoji, međutim, i očit paradoks u tome da rizike umjetne inteligencije procjenjujemo umjetnom inteligencijom, pa je nadzor čovjeka i provjera nalaza nužna.

Što traže propisi

Države i strukovna tijela sve više uređuju upravljanje ovim sustavima. Okvir NIST-a za upravljanje rizicima umjetne inteligencije i europski Akt o umjetnoj inteligenciji daju smjernice za rizike koji su ovdje svojstveni. Akt je stupio na snagu 1. kolovoza 2024., a primjenjuje se u koracima: zabranjene prakse i obveza pismenosti o umjetnoj inteligenciji od 2. veljače 2025., pravila za modele opće namjene od 2. kolovoza 2025., a opća primjena od 2. kolovoza 2026. Obveze za visokorizične sustave paketom Digital Omnibus pomaknute su na 2. prosinca 2027. odnosno 2. kolovoza 2028.

Dobra praksa

• Više struka za istim stolom. Uključite informatiku, pravo, etiku i poslovne jedinice, jer nijedna sama ne vidi cijelu sliku.
• Prozirnost na prvom mjestu. Gradite sustave u kojima se odluka može pratiti unatrag i pripisati odgovornoj osobi.
• Ulaganje u znanje. Ljudi moraju znati prepoznati rizike svojstvene ovim sustavima.
• Neovisna provjera. Redovita vanjska ocjena otkriva ono što se iznutra ne vidi.

Procjena rizika u ovim okruženjima nije samo obrana od prijetnji. Ona gradi povjerenje, jača otpornost i osigurava da se tehnologija koristi etično. Organizacije koje svoju praksu prilagode na vrijeme bolje će iskoristiti ono što umjetna inteligencija nudi, a pritom zaštititi poslovanje i ugled.

U Riskoriji vodimo organizacije kroz to područje i slažemo rješenja koja spajaju napredak i uredno upravljanje rizicima. Javite nam se da vidimo kako Vam možemo pomoći.