Na zaslonu je pisalo „AI vs. AI”, što zvuči kao naslov filma. Ono o čemu se govorilo mnogo je teže od toga.

Tomislav Vazdar, osnivač i direktor Riskorije, govorio je u Nikoziji na poziv ciparskog Nacionalnog koordinacijskog centra za kibernetičku sigurnost. Taj centar djeluje pri ciparskom Tijelu za digitalnu sigurnost i dio je mreže nacionalnih koordinacijskih centara koju je uspostavila Uredba (EU) 2021/887 uz Europski centar za stručnost u kibernetičkoj sigurnosti. Tema je bila napad koji vodi umjetna inteligencija i, još važnije, što obrana protiv njega uopće znači.

Napad koji sam planira i sam izvodi

Umjetna inteligencija u napadu odavno nije samo alat kojim se piše uvjerljivija poruka. Ono što se pojavilo jest samostalan izvođač: program koji dobije cilj, sam razradi korake, koristi alate, provjeri je li uspio i pokuša drukčije kad ne uspije. Između zamisli i izvedbe više ne mora stajati čovjek.

To nije predviđanje. Anthropic je sredinom rujna 2025. otkrio napad označen kao GTG-1002, u kojem je model korišten kroz veći dio lanca, a izvješće je objavio sredinom studenoga. Ukrajinski CERT-UA je u srpnju iste godine opisao program koji naredbe traži od jezičnog modela u oblaku. Zbroj tih slučajeva mijenja pretpostavku na kojoj je obrana godinama počivala, a to je da napadača ima onoliko koliko ima vještih ljudi.

Utrka u brzini je izgubljena utrka

Rečenica koju je Vazdar ponovio publici glasi: ako nam je jedina obrana pokušaj da budemo brži od stroja, izgubili smo. To nije poraženost nego mjerenje. Stroj ne spava, ne umara se i ne odustaje nakon trećeg neuspjelog pokušaja, pa je natjecanje u brzini reakcije natjecanje u kojemu čovjek ne može pobijediti.

Ono što se dobiva jest arhitektura. Postupak koji se ne da zaobići, bez obzira na to koliko se brzo napadač kreće, vrjedniji je od tima koji brže reagira. Razlika je ista kao između brave koja se otvara ključem i vrata koja se otvaraju samo kad dvije osobe istodobno okrenu svoj ključ. Brzina onoga tko provaljuje tu ne pomaže.

To ne znači da je brzo otkrivanje nevažno. Znači da je ono druga crta, a ne prva. Ustanova koja se oslanja samo na to da će primijetiti na vrijeme pristala je na natjecanje u kojemu protivnik bira trenutak, radi noću i pokušava koliko god puta želi.

Kako izgleda postupak koji se ne da zaobići

U praksi to znači nekoliko stvari koje se mogu zapisati. Radnja koja nosi novac ili mijenja ovlasti ne smije se dovršiti u jednom kanalu i s jednom osobom. Pristup se ne daje trajno nego se traži iznova, a širenje ovlasti mora ostaviti trag koji netko čita. Ono što bi napadaču bilo najkorisnije mora biti odvojeno od svega ostaloga, tako da preuzimanje jednog uređaja ne otvara i sve drugo.

Postoji i provjera je li takav postupak stvarno postavljen, a ne samo napisan. Uzme se jedan zamišljen slučaj, primjerice zahtjev za promjenu broja računa dobavljača, pa se prati tko bi ga zaprimio, tko bi ga odobrio i gdje bi se to zabilježilo. Ako se cijeli put može proći kroz jednu osobu i jedan kanal, postupak ne postoji, koliko god uredno stajao u dokumentu.

Za subjekte obuhvaćene Zakonom o kibernetičkoj sigurnosti to nije novo područje nego postojeća obveza. Mjera 7 na svim razinama traži pravila pristupa, odobravanje prava i nadzor povlaštenih računa, a mjera 11 postupke za incidente i obuku ljudi da prepoznaju i prijave sumnjiv događaj. Pregled stoji na stranici o trinaest mjera.

Ne napada se poslužitelj nego čovjek

Najteži dio predavanja nije bio tehnički. Umjetna inteligencija ne mora provaliti u sustav ako može obmanuti osobu koja u njemu ima pravo pristupa. Ono što se sada događa jest industrijalizacija te obmane: povjerenje i suosjećanje postali su građa kojom se napada, a proizvodnja uvjerljive laži spustila je cijenu na gotovo ništa.

To pomiče cijelo pitanje iz informatike u nešto šire. Napad koji cilja na to da nekome bude neugodno reći ne, ili da se požuri jer se čini da netko nadređen traži hitno, ne rješava se boljim vatrozidom. Rješava se postupkom u kojem nitko nije u položaju da sam potvrdi ono što je vidio i čuo, i kulturom u kojoj provjera nije uvreda.

Što ostaje kad se predavanje završi

Postoji i mala ironija tog dana. Jutro je prošlo u upozoravanju na to kako se povjerenje pretvara u oružje, a ostatak skupa među ljudima koji su to isto povjerenje vratili na svoje mjesto. Ciparska zajednica koja se okupila oko tog centra izravna je, srdačna i otvorena, a to se ne da oponašati.

Tu je i pouka koja nije sentimentalna. Obrana od sustava koji zaključuje ne gradi se samo kroz opremu, nego kroz ljude koji jedni druge poznaju dovoljno da smiju reći „ovo mi ne izgleda u redu”. Prijetnje mogu biti umjetne, ali sposobnost da se netko zaustavi i provjeri i dalje je posve ljudska. O čemu Riskoria govori na skupovima stoji na stranici o predavanjima i konferencijama.