Dok se u Dubrovniku govorilo o tome kako umjetna inteligencija skraćuje razvoj lijeka s mjeseci na dane, ostalo je pitanje koje se rjeđe postavlja: čime se ta brzina plaća.

Na kongresu bioloških znanosti posvećenom umjetnoj inteligenciji u preciznoj medicini okupilo se više od 600 stručnjaka s vodećih sveučilišta i klinika, među njima i dobitnici Nobelove nagrade. U prilogu Dnevnika HTV-a o zaštiti podataka govorio je Tomislav Vazdar, osnivač i direktor Riskorije.

Što se u Dubrovniku pokazalo

Predsjednik Međunarodnog društva primijenjenih bioloških znanosti Dragan Primorac opisao je slučaj otpornog soja bakterije, kod kojeg se uz pomoć umjetne inteligencije u nekoliko dana može razviti proteinska molekula koja djeluje kao antibiotik napravljen upravo za tu bakteriju. Spomenuo je i početak rada na proizvodnji organa.

Dobitnik Nobelove nagrade za fiziologiju i medicinu Gregg Semenza objasnio je da novi algoritmi predviđaju strukturu svakog proteina, posao koji je prije trajao tjednima ili mjesecima, i da se to koristi za osmišljavanje lijekova koji na te proteine djeluju. Predsjednik Američke akademije forenzičkih znanosti James Caruso dodao je da umjetna inteligencija ne može zamijeniti čovjeka, ali da se uz nju posao može raditi znatno bolje.

Svaki od tih napredaka počiva na istome, na podacima. I upravo tu počinje dio o kojem se na takvim skupovima govori kraće.

Vrijedi zastati i na razlici između istraživanja i skrbi. Kad model predviđa strukturu proteina, radi s podacima koji nisu vezani uz osobu. Kad isti pristup uđe u bolnicu i gleda nalaz konkretnog pacijenta, mijenja se pravna narav posla, a s njom i popis obveza. Skupovi poput dubrovačkog te dvije razine često spajaju u jednu rečenicu, iako se u praksi vode različitim pravilima.

Najosjetljiviji podaci koji postoje

Medicinski podaci su, kako je istaknuo Vazdar, najosjetljiviji podaci koji postoje. Kad se obrađuju, treba ih posebno štititi i paziti da ne postoji pristranost.

Ta se rečenica u pravu razrađuje jasno. Opća uredba o zaštiti podataka podatke o zdravlju svrstava u posebne kategorije, za koje obrada nije dopuštena osim po izričitoj osnovi. Nalaz koji prođe kroz sustav umjetne inteligencije ne prestaje biti nalaz, a ne prestaje biti ni osobni podatak zato što je usput postao ulaz u model.

Praktično to znači tri stvari koje ustanova mora znati prije nego što uključi sustav: gdje se podaci obrađuju, ostaju li ondje i ulaze li u učenje modela. Odgovor na treće pitanje najčešće se ne nalazi u ponudi nego u ugovoru, i to u odlomku koji nitko ne čita naglas.

Postoji i pitanje trajanja. Podatak o zdravlju ne zastarijeva kao lozinka. Nalaz koji danas iscuri jednako je osjetljiv za deset godina, pa se i mjere zaštite biraju s tim rokom na umu, a ne prema trajanju ugovora s dobavljačem. Zdravstvo je zato i sektor visoke kritičnosti u europskom okviru za kibernetičku sigurnost.

Pristranost nije tehnička sitnica

Drugi dio Vazdarove opaske tiče se pristranosti, i ondje je ulog jednako visok. Model naučen na jednoj populaciji radi lošije na drugoj, a u medicini se ta razlika ne vidi kao pogreška u izvještaju nego kao propuštena dijagnoza kod skupine koja je u podacima bila slabije zastupljena.

Zato Akt o umjetnoj inteligenciji od dijela korisnika visokorizičnih sustava traži procjenu utjecaja na temeljna prava, a među njima su izrijekom zabrana diskriminacije i jednak pristup skrbi. Nije riječ o dodatnom obrascu nego o pitanju je li sustav jednako pouzdan za sve koji kroz njega prolaze.

Bolnica to ne može ocijeniti čitajući opis proizvoda. Može tražiti podatak o tome na kojoj je populaciji model učen i kako se ponaša na skupinama koje u toj populaciji nisu bile brojne.

Bolnice već rade s time

Rasprava nije unaprijedna. Uz četiri klinička bolnička centra, sustav umjetne inteligencije ima i Opća bolnica Dubrovnik, gdje je u radiologiji uveden prošle godine, a kod pretrage mamografija radi već nekoliko godina.

Ravnatelj te bolnice Marijo Bekić opisao je i kako sustav radi u svakodnevici: prepozna traženo, izolira ga, označi i zapiše da je na tom mjestu, primjerice prijelom, a nalaz zatim ide liječniku, specijalistu radiologije ili dežurnom kirurgu. Bolnica je uz to razvila vlastiti postupak u šest koraka za usvajanje novih sustava, koji će, kaže, morati preuzeti i ostale opće bolnice.

Što to znači za ustanovu

Za bolnicu koja tek razmišlja o uvođenju, redoslijed je obrnut od očekivanog. Prvo dolazi popis onoga što se već koristi, jer se procjena ne može napraviti za sustav koji nitko nije upisao. Zatim ugovor, u dijelu koji govori o mjestu obrade i o učenju modela. Tek onda tehnička proba.

Uz to ide i odluka koja se lako preskoči: tko odgovara pacijentu koji pita je li o njegovoj pretrazi odlučivalo računalo. To pitanje dolazi, a odgovor sastavljen na licu mjesta rijetko bude dobar.

Skup u Dubrovniku pokazao je koliko brzo ide medicinska strana priče. Zaštita podataka i provjera pristranosti nisu kočnica toj brzini, nego uvjet da rezultat bude upotrebljiv kod svakog pacijenta, a ne samo kod onoga koji nalikuje podacima na kojima je model učen.

Cijeli prilog dostupan je na stranicama HRT-a.