Dvadeset godina se u sigurnosti pitalo koliko je napadač vješt. Otkako vještinu nosi program koji se preuzme s mreže, to pitanje gubi snagu.

Tomislav Vazdar, osnivač i direktor Riskorije, održao je predavanje za Udrugu mladih Lumen na temu sigurnosti u digitalnom dobu, u zgradi Europske komisije na Europskom trgu u Zagrebu, za članove udruge. Okosnica je bila veza koja se do jučer činila kao dvije odvojene struke: umjetna inteligencija koja sama odlučuje o sljedećem koraku i kibernetička sigurnost koja tu odluku mora primijetiti na vrijeme.

Što znači da je program agentski

Razlika između pomoćnika i agenta nije u tome koliko dobro piše tekst. Pomoćnik odgovara na pitanje, agent dobiva cilj, sam bira korake, koristi alate, provjeri je li uspio i pokuša drukčije ako nije. Ta je razlika mala u opisu, a velika u posljedicama, jer se između zamisli i izvedbe više ne mora naći čovjek.

Za obranu to mijenja mjeru na dva načina. Prvi je brzina, jer program ne spava i ne umara se. Drugi je cijena. Posao koji je dosad tražio vještu osobu, a takvih nema mnogo i skupe su, sada se ponavlja gotovo besplatno. Napad koji se isplatio samo protiv velike mete odjednom se isplati protiv svake.

Ovo nisu predviđanja

Predavanje se držalo dokumentiranih slučajeva, jer ih ima dovoljno da se ne mora nagađati. Anthropic je sredinom rujna 2025. otkrio napad skupine označene kao GTG-1002, u kojem je model korišten kroz veći dio lanca napada, a izvješće je objavljeno sredinom studenoga iste godine. Unit 42 pokazao je pokus u kojem je lanac od ulaza do odnošenja podataka trajao dvadeset i pet minuta, umjesto uobičajena dva dana.

Ukrajinski CERT-UA je 17. srpnja 2025. opisao zlonamjerni program LAMEHUG, koji naredbe traži od modela Qwen2.5-Coder-32B-Instruct preko sučelja Hugging Face, i pripisao ga skupini APT28 sa srednjom razinom pouzdanosti. Nedavno je i skupina istraživača sa Sveučilišta u Torontu pokazala crva koji na svakom uređaju sam bira sljedeći korak i koji se u pokusnoj mreži od 33 računala preslikao na oko 62 posto uređaja u tjedan dana.

Prijevara je jeftinija od provale

Drugi dio predavanja bavio se onime što ne traži nikakvu ranjivost. Signicat je zabilježio rast pokušaja prijevare uz lažne snimke od 2137 posto kroz tri godine, uz udio od 6,5 posto u svim pokušajima prijevare. ENISA više od 80 posto uspješnih napada svrstava u socijalni inženjering, dakle u obmanu čovjeka, a ne stroja.

Najpoznatiji primjer i dalje je slučaj iz siječnja 2024., kad je zaposlenik u hongkonškom uredu tvrtke Arup, nakon sastanka na kojem su svi sudionici osim njega bili lažni, izvršio petnaest naloga u ukupnom iznosu od 200 milijuna hongkonških dolara, oko 25,6 milijuna američkih. Nije popustila nijedna tehnička kontrola. Popustio je postupak u kojem je jedan čovjek smio potvrditi ono što je vidio i čuo.

Obrana se seli s potpisa na ponašanje

Ako se odluka o sljedećem koraku donosi u trenutku i prema onome što je zatečeno, obrana koja čeka poznati potpis kasni po naravi stvari. Ostaje praćenje ponašanja: pretraživanje mreže, ponovljeni pokušaji, širenje ovlasti, pristup podacima u vrijeme i s mjesta koji ne pristaju uz ono što ta osoba inače radi.

Uz to ide nešto što nema veze s tehnikom. Postupak u kojem plaćanje ili promjenu podataka potvrđuje jedna osoba, i to prema onome što je vidjela na zaslonu, više nije siguran postupak. Potvrda mora ići drugim kanalom i drugoj osobi, a taj se kanal ne dogovara u istom razgovoru u kojem je zahtjev stigao.

Propis stiže sporije od tehnologije, ali stiže

Hrvatska nije bez okvira. Zakon o kibernetičkoj sigurnosti obvezuje subjekte na trinaest mjera, a među njima mjera 11 na svim razinama traži postupke za postupanje s incidentima i obuku zaposlenika za prepoznavanje i prijavu sumnjivih događaja. Uz to stoji Akt o umjetnoj inteligenciji, koji je na snazi od 1. kolovoza 2024. i primjenjuje se u koracima; obveze za visokorizične sustave pomaknute su Digital Omnibusom na 2. prosinca 2027. i 2. kolovoza 2028.

Ono što propis ne rješava jest brzina. Zato je poruka predavanja bila da se ne čeka rok nego da se počne od onoga što se ionako mora znati: koje podatke ustanova drži, tko im pristupa i kako bi izgledalo da netko pristupa drukčije nego inače. Pregled svih mjera stoji na stranici o trinaest mjera.

Što mladi ljudi mogu napraviti već sutra

Za publiku koja tek ulazi u struku poruka je bila razmjerno jednostavna. Prvo, naučiti čitati zapise. Tko zna pročitati što se dogodilo, vrjedniji je od onoga tko zna imena alata. Drugo, ne vjerovati snimci ni glasu kao dokazu, jer je upravo to postalo najjeftinije za krivotvoriti. Treće, razumjeti kako model donosi odluku, jer se obrana od sustava koji zaključuje ne gradi bez toga.

Struka koja se otvara nije ni čisto tehnička ni čisto pravna. Traži nekoga tko zna kako sustav radi, što propis zahtijeva i zašto ljudi u organizaciji rade ono što rade. Toga u Hrvatskoj nedostaje, a posla ima. O čemu Riskoria govori na skupovima i predavanjima, stoji na stranici o predavanjima i konferencijama.