Kad prijevara umjetnom inteligencijom postane roba

Djelatnik financija u inženjerskoj tvrtki pridružuje se videopozivu s financijskim direktorom i nekolicinom kolega. Sastanak izgleda uobičajeno. Svi izgledaju i zvuče točno onako kako bi trebali. Direktor odobrava niz hitnih naloga u ukupnom iznosu od 25,6 milijuna dolara.

Nijedna osoba na tom pozivu nije bila stvarna.

Djelatnik hongkonškog ureda tvrtke Arup shvatio je što se dogodilo tek kad je provjerio u sjedištu. Dotad su napadači proveli petnaest zasebnih naloga, a lažne su snimke bile dovoljno uvjerljive da prevare čovjeka koji te ljude osobno poznaje.

Taj slučaj iz siječnja 2024. nije bio usamljen podvig vrhunskih napadača. Bio je najava onoga što je u međuvremenu postalo poslovni model dostupan svakome: prijevara lažnim snimkama kao usluga.

Obmana postaje roba široke potrošnje

Tehnologija lažnih snimaka prešla je iz istraživačkih laboratorija na podzemna tržišta zabrinjavajućom brzinom. Ono što je nekad tražilo posebno znanje danas radi kao usluga, na nekoliko klikova, dostupna svakome tko ima kriptovalutu.

Prema Pindropovu izvješću o sigurnosti glasa za 2025., pokušaji prijevare lažnim snimkama porasli su tijekom 2024. za više od 1.300 posto, s prosječno jednoga mjesečno na sedam dnevno. Pozivni centri izgubili su 2024. procijenjenih 12,5 milijardi dolara, a za 2025. se predviđa izloženost od 44,5 milijardi.

Preobrazba podsjeća na ucjenjivačke programe kao uslugu od prije desetak godina. Platforme koje nude lažne snimke uklanjaju tehničku prepreku. Kriminalac jednostavno kupi gotovu presliku osobe ili naruči izradu po mjeri, preko šifriranih kanala. Napad koji je nekad tražio vještinu danas može pokrenuti i netko tko je nema.

Kako podzemno tržište radi

Prodaja ide preko zatvorenih programa za dopisivanje, podzemnih foruma i tržišta u kriptovalutama. Izrađivači se oglašavaju šifriranim kanalima i uz oglas prilažu uzorke da pokažu kakvoću.

Model je jednostavan. Kupac donese gradivo, snimke, glasovne zapise ili profile s društvenih mreža. Pružatelj usluge na tome uvježba model koji izrađuje uvjerljivu presliku. Plaća se kriptovalutom, da se trag teže slijedi.

Cijena ovisi o kakvoći i prilagodbi. Jednostavno lažiranje glasa stoji nekoliko stotina dolara, a uvjerljiva snimka lica znatno više. Prema istraživanjima o kretanjima u ovom području, lažne su snimke 2025. sudjelovale u više od 30 posto napada s teškim posljedicama u kojima se napadač lažno predstavljao kao član uprave. Organizacije se, dakle, brane od napadača koji je najsloženiji dio posla dao drugome.

Što to stvarno košta

Šteta seže daleko izvan Arupa. Prema izvješću tvrtke IRONSCALES za jesen 2025., 85 posto organizacija imalo je u godini dana barem jedan incident s lažnim snimkama, a više od polovice njih prijavilo je i novčani gubitak, u prosjeku veći od 280 tisuća dolara. Gotovo petina prijavila je gubitak od pola milijuna dolara ili više.

Izvješće američkog FBI-jeva centra IC3 za 2024. bilježi više od 16 milijardi dolara ukupne štete od kriminala na internetu, što je trećina više nego godinu prije. Napadi uz pomoć umjetne inteligencije tomu su znatno pridonijeli, osobito kod prijevara s ulaganjima i kompromitacije poslovne pošte.

Najviše zabrinjava razmak između uvjerenja i stanja. U istom istraživanju gotovo svi voditelji sigurnosti tvrde da su spremni na lažne snimke, a u vježbama prepoznavanja prosječan je rezultat bio oko 44 posto. Organizacije vjeruju da su zaštićene, a nisu.

Nije samo financijska prijevara

Lažne snimke kao usluga nisu ograničene na lažno predstavljanje uprave. U pozivnim centrima lažiran glas nadvladava uobičajenu provjeru identiteta. Pindrop bilježi porast poziva s lažiranim glasom od 173 posto između prvog i četvrtog tromjesečja 2024., pri čemu napadači kloniranim glasom zaobilaze sigurnosna pitanja i dolaze do tuđih računa.

Javlja se i prijevara pri zapošljavanju. Lažni kandidati koriste umjetno stvoren glas i sliku kako bi prevarili poslodavca na razgovoru na daljinu i tako, prije nego što ih itko zaposli, došli do mreže tvrtke.

Maloprodaja je posebno izložena. Prema istoj analizi, prijevara u maloprodaji porasla je 2024. za 107 posto, a predviđa se da će se u 2025. udvostručiti, do jednoga na svakih 56 poziva.

Zašto uobičajena obrana pada

Većina sigurnosnih okvira polazi od toga da videopoziv i glas daju pouzdanu potvrdu identiteta. Ta pretpostavka više ne stoji.

Uobičajena obuka uči zaposlenika da neobičan zahtjev provjeri drugim putem, pozivom na poznati broj ili kroz utvrđen postupak. Djelatnik Arupa upravo je to i učinio. Provjera je ipak zakazala, jer je lažna snimka prevarila ljudsko oko i uho.

Sigurnosna pitanja, prepoznavanje glasa, pa i videopoziv uživo, napredna lažna snimka može nadmudriti. Alati za prepoznavanje napreduju, ali današnji umjetno izrađen sadržaj i dalje ih često prolazi.

Problem je i psihološki. Čovjek vjeruje onome što vidi i čuje, osobito kad se to poklapa s očekivanjem. Uvjerljiva snimka poznatog kolege koji traži nešto uobičajeno odmah budi povjerenje. Dok netko posumnja, prijevara je već gotova.

Put naprijed

Obrana traži drukčije razumijevanje provjere identiteta. Ne smije se oslanjati na ono što izgleda i zvuči stvarno, jer upravo to lažna snimka i iskorištava.

Višefaktorska provjera mora ići dalje od lozinke i biometrije. Ključna je provjera drugim, neovisnim kanalom. Ako financijski direktor na videopozivu traži hitno plaćanje, provjerite ga potpuno odvojenim putem, koji napadač teško može istodobno presresti.

Dogovorene lozinke i pitanja s poznatim odgovorom dodaju još jedan sloj, ali traže urednu pohranu i održavanje.

Obuka mora prijeći okvir općenite svijesti. Zaposlenici trebaju konkretne primjere napada i psiholoških zamki. Sama obuka, pokazuju podaci, nije dovoljna bez tehničkih kontrola.

Alati za prepoznavanje napreduju i analiziraju sitne tragove, nedosljedno osvjetljenje, neprirodne pokrete očiju i nesklad slike i zvuka. Ipak, ne oslanjajte se samo na njih. Pretpostavite da odlučan napadač koji plati uslugu može proći kroz njih kad je meta dovoljno vrijedna.

Najbolje djeluje spoj tehnologije, postupka i kulture. Tehničke kontrole daju osnovnu zaštitu. Postupak provjere unosi zdravo usporavanje kod rizičnih poslova. Kultura u kojoj se smije pitati, bez straha da će netko ispasti pretjerano sumnjičav, zaokružuje obranu.

Što slijedi

Lažne snimke kao usluga temeljno mijenjaju sliku prijetnji. Napad koji traži vrhunsko znanje danas se može kupiti, pa je prijevara lažnim snimkama od egzotične prijetnje postala obična, roba na tržištu.

Deloitte procjenjuje da će prijevara uz pomoć generativne umjetne inteligencije u Sjedinjenim Državama narasti s 12,3 milijarde dolara u 2023. na 40 milijardi do 2027., dakle po stopi od 32 posto godišnje. Infrastruktura za to već postoji i širi se.

Tko lažne snimke smatra dalekom prijetnjom, ostat će nezaštićen. Pitanje nije hoće li Vaša organizacija naići na takvu prijevaru, nego hoćete li je prepoznati prije nego što šteta bude gotova.

Kako zaposlenike naučiti prepoznati takvu prijevaru, opisali smo na stranici o edukaciji, a besplatnu vježbu nudimo kroz HeartOSINT. Širi pregled ovakvih napada stoji na stranici o prijetnjama iz umjetne inteligencije.