Kako umjetna inteligencija napreduje brzinom kakvu dosad nismo vidjeli, jedno od najozbiljnijih pitanja pred društvom jest njezina moguća uporaba kao oružja. To nije tema znanstvene fantastike, nego stvaran izazov koji traži pozornost i djelovanje već sada.

Kakva je to prijetnja

Ne radi se o robotima s puškama. Raspon je mnogo širi, od samostalnih oružanih sustava koji djeluju bez čovjeka do razrađenih sposobnosti za rat u kibernetičkom prostoru. Najviše zabrinjava mogućnost da takva tehnologija dođe u ruke onih koji za nju ne odgovaraju nikome, uključujući terorističke skupine i države koje ne poštuju međunarodna pravila.

Opasnost od naglog zaoštravanja

Jedna od najvećih opasnosti jest brzina kojom sukob može izmaknuti nadzoru. Vojni sustavi vođeni umjetnom inteligencijom odlučuju brže nego što čovjek stigne razmisliti, pa se sukob može zaoštriti bez ičije namjere. Utrku dodatno ubrzava natjecanje država u razvoju sve moćnijih vojnih tehnologija.

Gdje je tu čovjek

Uvođenje umjetne inteligencije u ratovanje otvara teška pitanja o ljudskoj prosudbi i odgovornosti. Kad samostalan sustav donese odluku koja odnese živote, tko za to odgovara? Uklanjanje izravnog ljudskog nadzora otvara etičku prazninu s kojom se današnji pravni okviri teško nose.

Ranjivost samih sustava

Još više zabrinjava to što su i ti sustavi ranjivi na napad i podmetanje. Mogućnost da netko preuzme nadzor nad naprednim oružjem vođenim umjetnom inteligencijom noćna je mora za svaku sigurnosnu službu. Kriminalne ili terorističke skupine mogle bi tako izvesti razoran napad zaobilazeći uobičajene mjere zaštite.

Etička strana

Etička je dimenzija najteža. Mogućnost da samostalan sustav bez čovjeka odluči o životu i smrti dovodi u pitanje sve na čemu počiva ratno pravo. Pitanja razmjernosti, razlikovanja boraca od civila i očuvanja ljudskog dostojanstva postaju mnogo složenija kad odluku donosi stroj.

Kako se to može ublažiti

Rizici su veliki, ali nisu nesavladivi. Nekoliko pravaca ima smisla:

• Učenje koje uključuje ljudske vrijednosti. Sustavi se mogu graditi tako da se pri učenju ugrađuju ljudske vrijednosti i sklonosti, čime se smanjuje vjerojatnost nenamjerne štete.
• Ozbiljan pravni okvir. Potrebna su sveobuhvatna međunarodna pravila za razvoj i uporabu vojne umjetne inteligencije.
• Jače mjere zaštite. Strogi sigurnosni postupci i stalan nadzor štite od neovlaštenog pristupa i podmetanja.
• Suradnja među državama. Bez zajedničkih etičkih i sigurnosnih mjerila nema odgovornog razvoja.
• Uključivanje javnosti. Ljudi trebaju razumjeti o čemu je riječ, kako bi mogli sudjelovati u raspravi o uporabi i pravilima.

Pogled naprijed

Uporaba umjetne inteligencije kao oružja jedno je od najvažnijih pitanja na sjecištu tehnologije, etike i međunarodne sigurnosti. Uz pažljivo uređenje, međunarodnu suradnju i stalan razgovor svih uključenih, moguće je postići da ova tehnologija sigurnost povećava, a ne ugrožava.

Put naprijed traži ravnotežu između napretka, etike i sigurnosti. Traži i razinu međunarodne suradnje kakvu dosad nismo imali te odlučnost da ovakvi sustavi ostanu pod stvarnim ljudskim nadzorom. Odluke koje se donose danas oblikovat će sigurnost naraštajima koji dolaze, pa im treba pristupiti s ozbiljnošću koju zaslužuju.