Kibernetička sigurnost bojište je koje se stalno mijenja, a napadači neprestano smišljaju nove načine da probiju obranu.

U toj igri mačke i miša umjetna inteligencija donijela je preokret i priliku da se digitalna crta obrane ozbiljno učvrsti. Sposobnost da obradi goleme količine podataka, prepozna obrasce i prilagodi se novim prijetnjama stavlja je u središte onoga što slijedi.

Današnja je slika puna izazova. Množenje povezanih uređaja, računalstvo u oblaku i internet stvari višestruko su proširili površinu napada. Uobičajene mjere ostaju nužne, ali su uglavnom reaktivne i teško prate brzinu kojom se prijetnje mijenjaju. Umjetna inteligencija nudi drugi pristup: otkrivanje u stvarnom vremenu, automatski odgovor i stalno učenje iz novih načina napada.

Uvođenje, međutim, nije bez zamki. Cjelovitost i pouzdanost samih sustava presudne su, jer svaku njihovu slabost ili pristranost napadač može iskoristiti. Uz to, složenost postupaka i mogućnost podmetnutog ulaza, osmišljenog da model prevari, ozbiljne su prepreke.

Prilike su ipak velike. Sustavi mogu pregledati goleme količine podataka i uočiti odstupanje brzinom i točnošću kakvu čovjek ne može postići. Postupci strojnog učenja prilagođavaju se novim obrascima napada i sami se dorađuju. Automatizacija rutinskih koraka rasterećuje analitičare, pa im ostaje vrijeme za ono što traži prosudbu.

Promišljeno uvođenje bit će ključno za one koji žele ostati ispred napadača. Uz predviđanje i prilagodbu organizacija može ojačati obranu, prijetnju otkriti i zaustaviti dok traje i tako izgraditi sigurnije digitalno okruženje.

Otkrivanje prijetnji i predviđanje

Umjetna inteligencija mijenja način na koji se prijetnje otkrivaju. Postupci strojnog učenja pregledavaju velike količine podataka i uočavaju tanke obrasce i odstupanja koja upućuju na napad.

Najveća joj je prednost u tome što uči i prilagođava se. Kako se pojave nove prijetnje, model se može poučiti na najnovijim podacima, pa nove načine napada prepoznaje bolje od sustava koji rade po zadanim pravilima. U području u kojemu napadači stalno smišljaju nešto novo, ta prilagodljivost odlučuje.

Uz to omogućuje predviđanje. Analizom povijesnih podataka model uočava obrasce i veze koje najavljuju povećan rizik. Organizacija tako može rasporediti sredstva ondje gdje najviše trebaju, uvesti mjere prije napada i smanjiti štetu.

Otkrivanje i predviđanje uz to čine rad učinkovitijim. Automatskom obradom velikih skupova podataka sustav brzo izdvaja i po važnosti slaže moguće prijetnje, pa ljudima ostaje ono složenije. Sve se to može ugraditi u postojeće sustave za prikupljanje i povezivanje sigurnosnih zapisa, uz nadzor i uzbunjivanje u stvarnom vremenu.

Valja reći i da to nije čarobno rješenje. Za dobar rad treba promišljena zamisao, kakvoćni podaci i bliska suradnja sustava i ljudi. Uz to treba osigurati i same modele, jer su i oni ranjivi na podmetnut ulaz i na trovanje podataka.

Odgovor na incident i automatska obrana

Budućnost je u automatiziranju odgovora na incident, zakrpavanja i zaustavljanja štete. Kako prijetnje napreduju brzinom kakvu dosad nismo vidjeli, ručni postupci sve manje stižu. Sustavi koji koriste umjetnu inteligenciju prijetnju otkrivaju, raščlanjuju i zaustavljaju u stvarnom vremenu, čime se rizik od uspješnog proboja bitno smanjuje.

Najkorisnija je primjena automatski odgovor na incident. Stalnim praćenjem mrežnog prometa, zapisa sustava i ponašanja korisnika postupci uočavaju odstupanje brzo i točno. Čim se prijetnja prepozna, sustav sam pokreće unaprijed određen postupak: odvaja zahvaćena računala, blokira zlonamjeran promet i pokreće forenzičku analizu.

Jednako je važno zakrpavanje. Alati koji ga vode pregledavaju postavke sustava, slažu zakrpe po važnosti i postavljaju ih kroz cijelu infrastrukturu, uz najmanji mogući zastoj. Time se zatvara najčešći ulaz, poznata ranjivost koja je ostala nezakrpana.

Zaustavljanje širenja treće je područje. Postupci strojnog učenja proučavaju ponašanje otkrivene prijetnje, prepoznaju kako se širi i sami postavljaju prepreke: mijenjaju pravila vatrozida, dijele mrežu na dijelove ili postavljaju privremenu zaštitu dok prava zakrpa ne stigne.

Napokon, takvi sustavi uče i mijenjaju se. Kako se pojave novi načini napada, modeli se ponovno uče i dograđuju, pa obrana ostaje spremna na ono što dolazi.

Sigurnost mreže

Uvođenje u nadzor mreže mijenja način na koji se prijetnje prate, otkrivaju i raščlanjuju. Uz strojno učenje i naprednu analitiku moguće je otkrivanje u stvarnom vremenu, prepoznavanje odstupanja i pametna analiza prometa u razmjerima kakvi dosad nisu bili mogući.

Sustavi za nadzor i otkrivanje upada najviše dobivaju od sposobnosti da se obradi golema količina podataka i uoče složeni obrasci. Sustavi koji rade po pravilima teško prate promjene, a model koji uči prilagođava se novim načinima napada.

Analiza prometa uz to omogućuje dubinski pregled paketa i praćenje ponašanja, čime se prepoznaju sumnjive radnje, pokušaji iznošenja podataka i dugotrajne prikrivene prijetnje. Stalnim učenjem o uobičajenom prometu sustav uspostavlja mjeru normalnog i brzo javlja svako odstupanje.

Uz to preuzima ponavljajuće poslove, poput pregleda zapisa i prvog razvrstavanja uzbuna, pa analitičarima ostaje vrijeme za ono strateško. Automatsko usklađivanje odgovora znatno skraćuje vrijeme do reakcije.

Prijetnja iznutra

Prijetnja iznutra ozbiljan je rizik, jer zlonamjeran zaposlenik ima ovlasti koje napadaču izvana nedostaju. Umjetna inteligencija tu pomaže praćenjem ponašanja korisnika i uočavanjem odstupanja.

Djelotvoran je pristup analitika ponašanja korisnika, koja stalno prati prijave, pristup datotekama, poštu i mrežni promet. Uspostavom mjere uobičajenog postupci prepoznaju odmak koji upućuje na zlu namjeru ili na zauzet račun.

Pregledavaju se zapisi pristupa, mrežni promet i uporaba programa, kako bi se uočilo ono što izlazi iz uobičajenog: prijenos podataka bez odobrenja, prevelik broj neuspjelih prijava ili pristup osjetljivim podacima izvan opisa posla.

Uz to se može pratiti i sadržaj poruka, radi prepoznavanja pokušaja iznošenja podataka. Obradom jezika uočavaju se riječi i izrazi koji zaslužuju pozornost.

Stalnim praćenjem sustav u stvarnom vremenu javlja sigurnosnom timu, koji na vrijeme može provjeriti i reagirati. Tim se pristupom smanjuje rizik od povrede podataka i krađe poslovnih tajni.

Raspodijeljena obrada za internet stvari i rubna računala

Množenje uređaja interneta stvari i računanja na rubu mreže znatno je proširilo površinu napada. Središnji sigurnosni modeli teško prate količinu i raznolikost tih krajnjih točaka. Umjetna inteligencija omogućuje raspodijeljenu i prilagodljivu zaštitu skrojenu za takva okruženja.

Sustavi stalno prate i raščlanjuju tokove podataka s uređaja te u stvarnom vremenu uočavaju odstupanja. Postupci strojnog učenja nauče uobičajeno ponašanje uređaja i mreže, pa rano prepoznaju odmak koji upućuje na napad. U okruženju s malo raspoloživih resursa takav je pristup nužan.

Uz to omogućuju automatski odgovor: odvajanje zauzetog uređaja, nadogradnju programske opreme ili promjenu mrežnih postavki. Time se skraćuje vrijeme reakcije i smanjuje šteta.

Postavljanje modela na sam rub mreže, bliže uređajima, dodatno pomaže sigurnosti i privatnosti. Podaci se obrađuju na mjestu nastanka, pa se osjetljivo ne mora slati u središte. Takav je ustroj i otporniji, jer ne ovisi o jednoj točki.

Kako sposobnosti rastu, možemo očekivati bolje načine zaštite takvih okruženja, primjerice udruženo učenje, u kojemu se modeli uče zajednički na više uređaja, a podaci ostaju kod svakoga.

Zaštita samih modela

Kako modeli postaju složeniji i sve prisutniji, njihova otpornost postaje ključna. Zaštita modela nužan je korak ako se na njima gradi obrana.

Najviše zabrinjava ranjivost na podmetnut ulaz, gdje napadač u podatke unosi pomno smišljenu smetnju koja model navodi na krivo razvrstavanje. Posljedice mogu biti teške, osobito ondje gdje model odlučuje o zlonamjernom programu, upadu ili prijevari.

Protiv toga se radi na nekoliko načina. Jedan je učenje na podmetnutim primjerima, gdje model uz čiste vidi i takve primjere, pa ih poslije prepoznaje. Pomažu i postupci u kojima više modela zajedno donosi odluku.

Jednako je važna razumljivost. Kad se odluka može objasniti, lakše je uočiti i ukloniti slabu točku.

Nužan je i stalan nadzor u radu. Sustavi koji prate odstupanja i uspješnost u stvarnom vremenu pomažu da se napad ili odmicanje modela uoče na vrijeme.

Naposljetku, spoj s drugim mjerama, vatrozidom, sustavima za otkrivanje upada i sustavima za prikupljanje sigurnosnih zapisa, daje obranu u više slojeva.

Procjena rizika i usklađenost

Procjena rizika. Uz strojno učenje i analitiku sustavi obrađuju velike količine podataka, prepoznaju obrasce i uočavaju slabosti brže i točnije nego prije. Organizacija tako rizike procjenjuje cjelovitije i mjere uvodi prije nego što se šteta dogodi.

Praćenje usklađenosti. Usklađenost s propisima i normama ključan je dio posla. Stalnom provjerom postavki sustava, mrežnog prometa i radnji korisnika sustav u stvarnom vremenu uočava odmak od propisanog. Time se smanjuje ručni posao i mogućnost ljudske pogreške pri reviziji.

Rad s propisima. Kako se propisi mijenjaju, organizacijama je teško pratiti obveze. Umjetna inteligencija pomaže u razumijevanju složenih okvira, u pronalaženju praznina i u pripremi izvješća kojima se usklađenost dokazuje. Za hrvatskog obveznika riječ je o Zakonu o kibernetičkoj sigurnosti (NN 14/2024) i pratećoj Uredbi (NN 135/2024), Općoj uredbi o zaštiti podataka te Aktu o umjetnoj inteligenciji.

Etička pitanja

Uvođenje u sigurnosne sustave otvara pitanja privatnosti, pristranosti, prozirnosti i odgovornosti. Kako postupci postaju samostalniji, treba osigurati da poštuju pravo na privatnost i da rade bez nepravedne pristranosti. Prozirnost odlučivanja nužna je za povjerenje, provjeru i nadzor.

Mora postojati i jasna crta odgovornosti za odluke koje sustav donese, osobito ondje gdje je ulog velik. Uređeno upravljanje i etičke smjernice smanjuju rizik i osiguravaju odgovornu primjenu.

To nije samo moralna obveza nego i poslovna nužnost. Bez etičkih načela povjerenje pada, prihvaćanje usporava, a djelotvornost samih rješenja slabi.

Znanje ljudi

Kako umjetna inteligencija ulazi u sigurnosne sustave, tako treba ulagati u znanje ljudi. Sigurnosni timovi moraju razumjeti kako ti postupci rade i gdje im je mjesto u otkrivanju, odgovoru i sprječavanju.

Obrazovne ustanove i struka trebale bi zajedno slagati programe koji povezuju teoriju s primjenom, od pripreme podataka do tumačenja onoga što model daje.

Onima koji već rade u struci trebaju stalne prilike za dopunu znanja, radionice, tečajevi i vježbe na stvarnim primjerima.

Suradnja sigurnosnih stručnjaka, stručnjaka za podatke i istraživača daje cjelovito razumijevanje, uz stalnu pozornost na etiku, privatnost i sigurnost.

Susret novih tehnologija

Na ono što slijedi utjecat će i susret s kvantnim računalstvom, tehnologijom lanca blokova i mrežama pete naraštaja.

Kvantna računala mogla bi obesnažiti današnje načine šifriranja, ali otvaraju i put razvoju šifriranja otpornog na njih te bržem otkrivanju prijetnji.

Tehnologija lanca blokova, raspodijeljena i nepromjenjiva, nudi siguran i proziran način pohrane i provjere podataka, što može promijeniti upravljanje identitetima i nadzor pristupa.

Mreže pete naraštaja, s malim kašnjenjem i velikim brojem povezanih uređaja, dodatno šire površinu napada. Zaštita takvih sustava tražit će otkrivanje odstupanja i odgovor u stvarnom vremenu.

Prepreke pri uvođenju

Za uspješno uvođenje treba riješiti nekoliko prepreka. Prva je kakvoća podataka, jer model vrijedi onoliko koliko vrijede podaci na kojima je učio. Cjelovitost, potpunost i mjerodavnost podataka nisu sitnica nego uvjet.

Druga je uklapanje u postojeću sigurnosnu infrastrukturu i način rada. Rješenje se mora složiti s alatima i postupcima koji već postoje, bez zastoja u radu.

Treća je trošak. Postavljanje i održavanje traže sredstva, osobito u manjim organizacijama, pa treba odvagnuti ulaganje i dugoročnu korist.

Četvrta je sposobnost rasta. Sustav mora podnijeti sve veću količinu i raznolikost prijetnji.

Peta su propisi. Ovakvi sustavi moraju poštovati pravila o zaštiti podataka, sigurnosti i etici, koja se razlikuju po djelatnostima i državama.

Suradnja

Uspjeh ovisi i o suradnji. Prijetnje se mijenjaju, a nijedna organizacija sama ne može pratiti sve. Razmjenom obavijesti o prijetnjama i savezništvima struka koristi zajedničko znanje.

Suradnja omogućuje razmjenu obavještajnih podataka, dobre prakse i rezultata istraživanja. Kroz nju nastaju zajednički okviri, pravila i sustavi koji se međusobno razumiju.

Zajednički rad akademske zajednice, državnih tijela i tvrtki ubrzava razvoj. Akademska zajednica donosi istraživanje, tijela smjernice i potporu, a tvrtke iskustvo iz prakse i sredstva za primjenu.

Što se pokazalo dobrim

Iz iskustva onih koji su prvi krenuli izdvaja se nekoliko pouka.

Prva je kakvoća i količina podataka. Model vrijedi onoliko koliko vrijede podaci, pa treba ulagati u njihovo uredno vođenje, zaštitu i privatnost.

Druga je uloga čovjeka. Umjetna inteligencija preuzima mnogo posla i daje korisne uvide, ali nije čarobno rješenje. Najbolje radi kao dopuna ljudskoj prosudbi, u okruženju u kojemu analitičar i sustav rade zajedno.

Uz to se pokazalo dobrim:

• Stalno praćenje i vrednovanje. Sustave treba redovito ispitivati, provjeravati i podešavati kako bi ostali djelotvorni.
• Razumljiva umjetna inteligencija. Kad se odluka može objasniti, ljudi je mogu provjeriti i u nju vjerovati.
• Etička načela. Pravednost, odgovornost i prozirnost trebaju biti zapisani u pravilima, ne prepušteni dobroj volji.
• Timovi iz više struka. Sigurnosni stručnjaci, stručnjaci za podatke i poznavatelji područja zajedno vide cijelu sliku.
• Stalno učenje. Sustav treba biti građen tako da se može ponovno učiti i prilagoditi novim prijetnjama.

Preporuke

Umjetna inteligencija donosi stvarnu promjenu: bolje otkrivanje prijetnji, samostalan odgovor i obranu koja uči. Da bi se to iskoristilo odgovorno, treba plan.

Organizacija treba jasnu zamisao usklađenu sa svojim rizicima i ciljevima. Prednost imaju područja u kojima je učinak najveći, poput nadzora mreže, analize zlonamjernih programa i praćenja ponašanja korisnika. Uz to ide uredno upravljanje podacima, kako bi modeli učili na kakvoćnim i nepristranim podacima.

Za povjerenje je nužno da sustav bude proziran, objašnjiv i temeljito ispitan. Timovi trebaju okupiti sigurnosne stručnjake, stručnjake za podatke i one koji prate etička pitanja.

Pogled naprijed

Kako sposobnosti rastu, možemo zamisliti budućnost u kojoj sustavi sami otkrivaju prijetnju, odgovaraju na nju i uklanjaju štetu u stvarnom vremenu. Ta budućnost nosi i rizike, od napada vođenih umjetnom inteligencijom do nenamjernih posljedica složenih sustava.

Zato treba ulagati u istraživanje, ljude i suradnju javnog i privatnog sektora te zajedno s akademskom zajednicom i tijelima graditi okvire upravljanja koji potiču napredak, a rizik drže pod nadzorom.

Vrijeme je za djelovanje. Umjetnu inteligenciju treba prihvatiti kao stratešku obvezu u sigurnosti, ali promišljeno, etično i s pogledom na dugi rok, uz privatnost, pravednost i odgovornost.

Riskoria Advising & Professional Services savjetodavna je tvrtka za umjetnu inteligenciju i kibernetičku sigurnost koja pomaže organizacijama snaći se u današnjem digitalnom okruženju. Za upite pišite na info@riskoria.eu.