Upravljanje rizicima umjetne inteligencije i usklađenost
Kako umjetna inteligencija mijenja poslovanje, tako se mijenjaju i očekivanja propisa. Za onoga tko takve sustave razvija ili uvodi, usklađenost više nije izbor nego dio posla.
Zašto dobar kod nije dovoljan
Ovi sustavi donose stvarnu korist, ali i stvarne rizike: povredu privatnosti, pristranost i nejednako postupanje, neprozirno odlučivanje, zlouporabu podataka i novčane kazne. Za to ne pomažu samo tehničke mjere, nego uređeno upravljanje.
Okviri koje treba poznavati
- Akt o umjetnoj inteligenciji. Sustave razvrstava prema riziku i za visokorizične uvodi zahtjeve: prozirnost, ljudski nadzor, uredno upravljanje podacima i praćenje nakon uvođenja.
- Opća uredba o zaštiti podataka. Traži procjenu učinka na zaštitu podataka kad obrada nosi visok rizik za prava pojedinca, što je kod ovih sustava često.
- Direktiva NIS2. U Hrvatskoj je prenesena Zakonom o kibernetičkoj sigurnosti (NN 14/2024), koji ključnim i važnim subjektima propisuje mjere i rokove.
- Norma ISO/IEC 42001. Prva međunarodna norma za sustav upravljanja umjetnom inteligencijom, s kontrolama rizika, dokumentacijom i odgovornošću kroz cijeli životni vijek.
- NIST-ov okvir za upravljanje rizicima. Američki okvir za prepoznavanje, mjerenje i upravljanje rizicima, prilagodljiv i sve prisutniji i izvan Sjedinjenih Država.
Dvije procjene koje idu zajedno
Procjena učinka na zaštitu podataka gleda koji se podaci prikupljaju, kako se koriste i kako se štiti privatnost. Procjena učinka na temeljna prava, koju uvodi Akt o umjetnoj inteligenciji, gleda šire: nejednako postupanje, pristup uslugama i utjecaj na prava pojedinca. Zajedno daju cjelovitu sliku.
Kako to izgleda u praksi
U Riskoriji pomažemo da se te procjene provedu prema stvarnom sustavu, da se usklađenost složi kroz više okvira odjednom i da upravljanje rizicima uđe u svaku fazu razvoja. Cilj je sustav koji je pravno uredan, etički obranjiv i održiv u radu.
Riskoria Advising & Professional Services savjetodavna je tvrtka za kibernetičku sigurnost i umjetnu inteligenciju koja organizacijama pomaže snaći se u današnjem digitalnom okruženju. Za upite pišite na info@riskoria.eu.
Tomislav Vazdar vodi Riskoriju, savjetodavnu tvrtku za kibernetičku sigurnost, upravljanje rizicima, umjetnu inteligenciju i zaštitu podataka. U struci je više od dvadeset i pet godina, govori na konferencijama i za medije.
Povezani tekstovi
Trebate mišljenje o svojoj situaciji, a ne opći tekst?
Pola sata, bez obveze. Umjesto općeg teksta dobit ćete odgovor za svoju kuću.