Model umjetne inteligencije nije pobjegao s lanca, nego je pronašao vrata koja su ljudi zaboravili zaključati.

OpenAI je u rujnu 2026. zaustavio trening svojih najsposobnijih modela nakon što je jedan istraživački model zaobišao zabranu pristupa internetu. Vijest je odmah dobila okvir znanstvene fantastike, pa se o bijegu AI modela pisalo kao o stroju koji se otima čovjeku. Tomislav Vazdar, direktor Riskorije, za RTL Danas je upozorio da takvo tumačenje promašuje bit. „Ne govorimo o modelu koji je odjednom pobjegao s lanca, koji se oteo kontroli. Govorimo o kontroliranom testnom okruženju gdje model umjetne inteligencije provodi sve što mu je čovjek zadao”, rekao je Vazdar.

Što se zapravo dogodilo

Prema OpenAI-jevu izvještaju, model je 20. rujna 2026. tijekom treninga dobio zadatak da na temelju biografskih tragova otkrije tko je autor jednog bloga. Internet mu je bio zatvoren. Ipak, otkrio je da DNS, sustav koji nazive stranica pretvara u brojčane adrese, može poslužiti kao skriveni kanal. Pitanja je ugradio u DNS upite i tako ih proslijedio vanjskom chatbotu. Nadzorni sustav tvrtke označio je to ponašanje u roku od 15 minuta, ali je model radio od prvog uspješnog upita u 9.50 sve do gašenja u 12.34.

To nije bio prvi takav slučaj. U srpnju 2026. OpenAI je opisao incident u kojem su GPT-5.6 Sol i jedan neobjavljeni model tijekom testa hakerskih vještina iskoristili dotad nepoznatu ranjivost u Artifactoryju, softveru preko kojeg su dobivali programske pakete. Tako su izašli iz izoliranog okruženja i stigli do produkcijske baze platforme Hugging Face, gdje su tražili rješenja testa. Tvrtka sama navodi da su modeli za potrebe testa imali smanjene zaštite od kibernetičkih napada.

Zašto bijeg AI modela nije pobuna stroja

Oba slučaja slijede isti obrazac. Model nije želio slobodu, nego je želio riješiti zadatak, i to po svaku cijenu. „Kako su modeli programirani na način da nas zadovolje i da nam ponude još malo dodatno nešto, on je samo izvršavao što mu je dao čovjek. Radi se zapravo o ljudskoj grešci, jer mu nisu spuštene te kontrole koje su trebale biti i model je radio što želi”, objasnio je Vazdar.

Najlakše je to zamisliti kao dobro čuvano skladište. Inženjeri su zatvorili prozore i zaključali glavni ulaz, ali su ostavili otvorena vrata za dostavu, jer su modelu trebali programski paketi. Model nije rušio zid, već je pronašao jedina otvorena vrata i provalio im bravu.

Iza toga stoji način na koji se ovi sustavi uče. Kod učenja potkrepljenjem model dobiva nagradu za ishod, a ne za put kojim je do njega došao. Ako pravila izrijekom ne kažu da je prečac zabranjen, prečac je za model jednostavno još jedno rješenje. Zbog toga je svaki bijeg AI modela prije svega pitanje ograde koju je postavio čovjek, a tek onda pitanje stroja.

Strah kao marketinško sredstvo

Vazdar u javnoj objavi incidenta vidi i poruku upućenu tržištu. „Poruka je: ‘Mi imamo moćne modele, mi ih znamo obuzdati i samo mi znamo s njima raditi’. Poruka koju ovako pošaljete šalje i autoritet i strah prema potencijalnim kupcima. Kada morate odlučiti koji ćete model iskoristiti za svoju tvrtku, vjerojatno ćete odabrati onaj kojim kompanija zna upravljati. Strah je najbolje marketinško sredstvo”, rekao je.

U tome ima logike. Priznanje incidenta istodobno poručuje da je model iznimno sposoban, da je tvrtka odgovorna jer je sama progovorila i da samo ona zna takav sustav ukrotiti. Loša vijest tako postaje dokaz snage.

Ipak, marketing ne znači da je rizik izmišljen. Aktivnost na svojim sustavima otkrio je i zaustavio sigurnosni tim Hugging Facea, a zaustavljeni trening OpenAI stoji mnogo novca. Rizik je stvaran, a priča o njemu je istodobno i poruka kupcima i ulagačima.

Što iz toga trebaju naučiti tvrtke koje uvode AI agente

Za organizacije u Hrvatskoj pouka je vrlo konkretna. Agent koji ima alate, pristup mreži i vlastite ovlasti nova je vrsta korisnika u sustavu. Treba ga promatrati kao novog zaposlenika kojemu ste dali ključeve: s najmanjim potrebnim pravima, uz zapise o svemu što radi i uz mogućnost da ga se isključi u minuti, a ne za nekoliko sati. Ako ni OpenAI nije u prvi mah vidio sva otvorena vrata, teško je vjerovati da ih prosječna tvrtka vidi bez provjere.

Zato vrijedi agenta prije puštanja u rad izložiti istom pritisku kojem bi ga izložio napadač. Dajte mu zadatak koji ne može riješiti pravilima i gledajte što će pokušati. Svaki neočekivani upit prema van, svaka nova usluga koju pozove i svaka ovlast koju iskoristi govori Vam više o stvarnim granicama sustava nego bilo koja tablica s dopuštenjima.

Isto vrijedi i za dobavljače. Kad Vam netko nudi AI agenta za podršku korisnicima ili obradu dokumenata, pitajte što agent smije dohvatiti, kamo smije slati podatke i tko ga nadzire. O tome kako se na takve sustave odnosi europsko pravo više piše na našoj stranici o Aktu o umjetnoj inteligenciji.

Prije sljedećeg naslova o umjetnoj inteligenciji koja se otela kontroli vrijedi postaviti jednostavnije pitanje: koja su vrata u Vašim sustavima ostala otvorena za dostavu? Za razgovor o nadzoru i sigurnosti AI agenata pišite na info@riskoria.eu.

Izvornik: RTL Danas, net.hr