Obavijest stiže u dva ujutro: „Nedostaješ mi, ne mogu spavati od razmišljanja o našem razgovoru.” Poruka je od osobe koju je Sara upoznala na mreži prije tri tjedna. Savršen trenutak, savršene riječi, savršeno razumijevanje onoga što joj treba. Samo, ta osoba ne postoji. Riječ je o programu, a Sara je na putu da postane još jedan broj u statistici.

Dobro došli u doba umjetne bliskosti, u kojemu je granica između pravog odnosa i vođenja po mjeri gotovo nestala, a plaćaju je i srce i novčanik.

Programi koji glume osjećaje

Na tržištu se pojavljuju platforme koje nude umjetnog partnera. Nisu to obični razgovorni programi. Riječ je o pratiteljima koji pamte koju kavu volite, pitaju kako je prošao razgovor za posao prošli mjesec i šalju glasovne poruke koje zvuče uvjerljivo stvarno.

Tehnologija spaja obradu jezika, izradu glasa i izradu slike u pratitelja koji djeluje osjećajno uvjerljivo. Svaki uči Vaš način izražavanja. A sad zamislite što se dogodi kad ista ta tehnologija dođe u krive ruke i počne tražiti novac.

Nova računica prijevare

Ljubavne prijevare nisu nove, ali im je novija tehnologija promijenila računicu. Američka Savezna trgovinska komisija zabilježila je 1,3 milijarde dolara štete od ljubavnih prijevara u 2022. godini, uz srednju štetu po prijavljenom slučaju od 4.400 dolara. To je bilo prije nego što je umjetna inteligencija ušla u igru.

Prije je prevarant morao sam voditi svaki razgovor, pa mu je doseg bio ograničen, a naplatu je htio što prije. Danas jedna skupina može voditi stotine lažnih osoba koje razgovaraju bez prestanka i odnos grade mjesecima, kako bi na kraju izvukle što više.

Prema istraživanju tvrtke McAfee, više od četvrtine ispitanika naišlo je na programe koji se predstavljaju kao stvarne osobe u kontekstu upoznavanja, a gotovo trećina priznaje da bi mogla nasjesti.

Zašto je to isplativo

Ono što ovakve prijevare čini razornima jest to što se lako umnožavaju. Za razliku od čovjeka, program može izraditi uvjerljivu profilnu sliku, istodobno održavati dosljednu osobnost prema stotinama ljudi, upotrijebiti pojedinosti s društvenih mreža kako bi stvorio dojam neobične podudarnosti i zapamtiti svaku sitnicu iz razgovora.

Izvlačenje novca ide po obrascu: mjeseci gradnje odnosa, a zatim niz nevolja koje se pojačavaju, od liječenja i putovanja do obiteljskih kriza. Kako program pamti svaku pojedinost, svako traženje zvuči osobno i hitno.

Šire od pojedinačnog gubitka

Dok pojedinačni slučajevi dolaze u vijesti, posljedice sežu dalje. Riječ je o osjećajnoj vezi pretvorenoj u oružje, upotrebljivo i za utjecaj na mišljenje.

Ako Vas program može navesti da mu pošaljete novac, može utjecati i na odluku o ulaganju, o glasovanju i o kupnji. Ista tehnologija koja izvlači novac od pojedinca može oblikovati mišljenje cijelih skupina.

Psihologija u pozadini

Sherry Turkle s MIT-a upozorava da odnos s programom daje osjećaj bliskosti bez obveza koje pravi odnos nosi. Odatle i ranjivost: žrtva postaje darežljiva jer se osjeća istinski voljenom.

Prednost je programa u tome što se može podešavati. Prevarant može ispitati koji pristup najbolje djeluje na koji tip osobe i zadržati onaj koji donosi rezultat. Istraživanja pokazuju da se ljudi vežu i onda kad znaju da razgovaraju sa strojem.

Obrana koja štiti osjećaje

Struka ne stoji po strani. Projekti poput HeartOSINT-a nastali su iz zamisli da je prijevara na mreži psihološko ratovanje. HeartOSINT razlaže obrasce vođenja u ljubavnim prijevarama i uči kako ih prepoznati.

To je važan pomak u razmišljanju. Klasična obrana štiti sustave, a ova štiti ljude. U vremenu u kojemu je bojište sve češće ono što osjećamo, takva obrana postaje nužna.

Kako se zaštititi

Pojedinac:

• zdrava sumnja prema poznanstvu na mreži koje djeluje presavršeno,
• nikad ne slati novac osobi koju niste sreli uživo,
• tražiti razgovor uživo putem videopoziva prije nego što se veza produbi,
• pretraživati sliku obrnutim pretraživanjem kad nešto ne štima.

Organizacija:

• uvesti alate koji prepoznaju umjetno izrađen sadržaj u komunikaciji,
• naučiti zaposlenike prepoznati taktike lažnog zbližavanja,
• pratiti usklađene kampanje utjecaja.

Što slijedi

Nalazimo se na prekretnici. Umjetni pratitelji donose i priliku i ozbiljan rizik za način na koji gradimo odnose i donosimo novčane odluke.

Pitanje nije hoće li tehnologija napredovati, hoće. Pitanje je hoćemo li razviti dovoljno razuma da u takav odnos ulazimo svjesno i da zadržimo vlastitu prosudbu.

Zapamtite: svaki put kad program u Vama izazove osjećaj, riječ je o pažljivo posloženom postupku usmjerenom na to da Vas zadrži i, možda, da Vam nešto uzme. Srce ne razlikuje pravu i umjetnu pažnju, ali Vaš osjećaj za novac to može i treba.

U Riskoriji pomažemo organizacijama snaći se u ovom području, spajajući kibernetičku sigurnost i obranu koja štiti ljude, ne samo sustave.