Banke su desetljećima učile kako upoznati svojeg klijenta. Sada moraju naučiti kako upoznati vlastitog agenta.

Na pozornici posvećenoj umjetnoj inteligenciji na konferenciji Money Motion govorilo se o sigurnosti agenata u financijskom sektoru. Sudionici su upozorili da počinje razdoblje u kojem napadači umjetnom inteligencijom automatiziraju i ubrzavaju napade. Tomislav Vazdar, osnivač i direktor Riskorije, istaknuo je pritom pomak koji se lako previdi: organizacije više ne moraju poznavati samo svoje korisnike, nego i vlastite agente i način na koji oni djeluju unutar sustava.

Zašto je to teže nego što zvuči

Poznavati korisnika je posao s pravilima. Zna se tko je, kad je ušao, što smije i tko mu je to odobrio. Kod agenta se sve četiri stavke zamute.

Agent najčešće nastane kao pomoć u jednoj službi. Dobije ovlasti posuđene od osobe koja ga je uvela, jer je tako najbrže. Radi preko nekoliko sustava, pa ga svaki od njih vidi kao dio prometa koji dolazi odnekud drugdje. I nema radni odnos, pa nema ni trenutka u kojem se netko formalno pita treba li mu i dalje pristup.

Zbog toga se najveći dio rizika ne krije u samom modelu nego u ovlastima. Agent koji radi točno ono za što je napravljen može napraviti veliku štetu ako je nasljedio pristup širi od svoje zadaće.

Napadač je već prešao na istu stranu

Razlog zbog kojeg to pitanje ne trpi odgodu jest promjena na drugoj strani. Napadi se sve češće izvode agentima, dakle sustavima koji promatraju okolinu, biraju put i uče iz neuspjeha bez čovjeka između koraka. Obrana koja i dalje računa na to da će protivnik negdje zastati ostaje bez te pretpostavke.

U tom svjetlu vlastiti agent nije samo pitanje urednosti nego i pitanje površine napada. Ako napadač preuzme agenta koji već ima široke ovlasti i pravo djelovati u više sustava, dobio je nešto vrijednije od ukradene lozinke: sudionika kojem sustav vjeruje i čije radnje nikome ne izgledaju neobično.

Agent nije ni korisnik ni program

Dosadašnje kontrole dijele svijet na dvoje. Za čovjeka postoje prijava, ovlaštenje i evidencija. Za program postoje račun usluge i uski niz radnji koje smije.

Agent stoji između. Djeluje u više koraka, mijenja put ovisno o onome što zatekne i sam odlučuje o sljedećem potezu. Zato ga nadzor koji traži poznati obrazac ne vidi kao ništa neobično, jer svaki pojedini korak izgleda uredno.

To se osobito osjeti u financijama, gdje je razlika između dopuštene i nedopuštene radnje često pitanje konteksta, a ne same radnje. Isti upit prema istoj bazi je uredan u ponedjeljak ujutro i sumnjiv u nedjelju u tri sata.

Što znači poznavati vlastitog agenta

Odgovor je manje tehnički nego što se očekuje. Prvo, popis: koji agenti postoje, tko ih je uveo i čemu služe. Drugo, vlasnik: ime osobe koja odgovara za tog agenta, jednako kao što netko odgovara za poslužitelj. Treće, ovlasti: vlastiti račun s pravima koja pokrivaju zadaću i ništa više, umjesto posuđenih prava zaposlenika.

Vrijedi dodati i vremensku dimenziju. Agenti se u organizacijama pojavljuju brže nego što se stižu popisati, jer nastaju u pojedinim službama, često kao proba koja se nikad ne ugasi. Popis napravljen jednom godišnje zato zaostaje već drugi tjedan, a popis koji se dopunjava pri svakom uvođenju ostaje točan.

Zatim trag: zapis o tome što je agent radio, dovoljno čitljiv da se poslije može rekonstruirati slijed. I na kraju prekidač: unaprijed poznat način da se agent zaustavi, s odgovorom na pitanje što staje zajedno s njim.

Ništa od toga nije nova disciplina. To je upravljanje rizicima primijenjeno na sudionika koji dosad nije postojao.

Za organizaciju koja tek počinje, mjera koja se isplati odmah jest jednostavna zabrana: nijedan agent ne radi pod ovlastima čovjeka. Vlastiti račun stoji nekoliko minuta posla, a razlika je između situacije u kojoj se zna što je agent radio i one u kojoj se to više ne može razdvojiti od onoga što je radio zaposlenik.

Gdje se to spaja s propisom

Obveze se ovdje preklapaju, i to je dobra vijest za onoga tko posao radi jednom. Akt o umjetnoj inteligenciji od korisnika visokorizičnih sustava traži ljudski nadzor, praćenje rada i čuvanje zapisa. Zakon o kibernetičkoj sigurnosti kroz trinaest mjera traži upravljanje pristupom i evidencije. U financijskom sektoru na to dolazi i DORA.

Sve tri obitelji pravila u ovoj točki govore isto: mora se znati tko što smije i mora postojati trag. Agent te zahtjeve ne mijenja, samo ih postavlja pred sudionika koji nema osobnu iskaznicu.

Postoji i pitanje koje se rijetko postavi na vrijeme: što se događa kad agent pogriješi. Kod čovjeka postoji postupak, kod programa postoji dobavljač. Kod agenta treba unaprijed odlučiti tko snosi posljedicu odluke koju je donio stroj, i to je odluka uprave, a ne informatičke službe.

Konferencija je okupila više od 170 govornika, a najveći dio programa govorio je o digitalnom euru i o budućnosti plaćanja. Ova jedna rečenica s pozornice o umjetnoj inteligenciji vjerojatno je najkonkretnija obveza koju je publika ponijela kući.

Prikaz konferencije stoji na Telegramu.