Akt o umjetnoj inteligenciji od dijela bolnica traži procjenu utjecaja na temeljna prava. Nigdje, međutim, ne piše tko je u bolnici popunjava, kojim redom i s kojim ishodom.

Tu prazninu popunio je model razvijen u Općoj bolnici Dubrovnik, predstavljen na 14. konferenciji ISABS-a i klinike Mayo u Dubrovniku. Model je izložio ravnatelj bolnice Marijo Bekić, a izradili su ga voditelj informacijske sigurnosti Baldo Valjalo, pravnica Nives Pezer i Antun Bekić, uz Tomislava Vazdara iz Riskorije kao vanjskog savjetnika.

Obveza je jasna, put do nje nije

Za dio korisnika visokorizičnih sustava članak 27. Uredbe 2024/1689 traži procjenu utjecaja na temeljna prava. U zdravstvu to nisu apstrakcije nego pravo na zdravlje, zabrana diskriminacije, ljudsko dostojanstvo i jednak pristup skrbi.

Propis kaže što treba postići, ali ne kaže kako. Bolnica koja u dijagnostiku uvodi sustav za podršku odlučivanju ostaje pred praznim listom papira: tko sjedi za stolom, koji su ulazni podaci, što se bilježi, tko potpisuje i što se događa kad procjena pokaže da rizik nije prihvatljiv. Dubrovački model je, prema priopćenju bolnice, prvi objavljeni praktični okvir koji na ta pitanja odgovara redom.

Sama procjena nije kratka. Traži opis postupka u kojem se sustav koristi, razdoblje i učestalost uporabe, skupine osoba na koje utječe, konkretne rizike od štete za te skupine, mjere ljudskog nadzora te način na koji se osoba može požaliti. Svaka od tih stavki u bolnici ima svojeg vlasnika, samo što dosad nisu sjedili za istim stolom.

Sedamdeset osam posto koraka odrađuju postojeće službe

Nalaz koji model čini upotrebljivim jest da se 78 posto koraka može provesti unutar zatečene organizacije, bez osnivanja novih tijela. Bolnica već ima etičko povjerenstvo, službu za informacijsku sigurnost, pravnu službu i voditelja obrade podataka.

Posao je, dakle, bio povezivanje, a ne izmišljanje. Umjesto novog povjerenstva koje bi tražilo svoje ljude i svoje sjednice, postojeća tijela dobila su jasno određene uloge u jednom postupku. Ta razlika odlučuje hoće li okvir zaživjeti, jer se propis ne provodi na papiru nego rasporedom rada.

Važno je i zašto baš takav omjer. Bolnice se u Europi manje razlikuju po propisu koji ih obvezuje, a više po tome koliko ljudi mogu odvojiti. Okvir koji traži novo tijelo srednja bolnica jednostavno neće provesti, koliko god bio točan.

Odluku i dalje potpisuje liječnik

Model polazi od toga da preporuka računala ne zamjenjuje odluku. Pacijent, poručio je ravnatelj Bekić, mora biti siguran da iza svake preporuke stoji liječnik koji donosi konačnu odluku.

Nadzor čovjeka time prestaje biti formalnost na kraju postupka i postaje uvjet da se sustav uopće smije koristiti. Praktično to znači da liječnik mora vidjeti na čemu se preporuka temelji, imati mogućnost odstupiti od nje bez posebnog obrazlaganja i znati kome prijaviti ponašanje sustava koje odudara. Bez toga procjena utjecaja ostaje dokument koji nitko ne čita.

Konferencija na kojoj je model predstavljen jedan je od većih svjetskih skupova posvećenih primjeni umjetne inteligencije u preciznoj medicini i u Dubrovnik dovodi kliničare i znanstvenike iz cijelog svijeta. Predstaviti okvir za usklađenost pred takvom publikom nije isto što i objaviti ga u domaćem glasilu, jer se odmah mjeri prema onome što rade drugi.

Zašto je to prenosivo

Opća bolnica Dubrovnik ima 308 kreveta i 18 kliničkih odjela. Model je pisan za ustanovu te veličine, dakle za mjeru u kojoj se nalazi velik dio europskih bolnica, i po tome je prenosiv izvan svojeg grada.

Nastup u partnerstvu s klinikom Mayo pokazuje i nešto drugo. U raspravi o umjetnoj inteligenciji u medicini hrvatske ustanove mogu biti izvor rješenja, a ne samo primatelj tuđih. To se rijetko čuje, a ovdje postoji objavljen rad koji tu tvrdnju drži.

Što ustanova može učiniti prije prve procjene

Prvi korak nije pravni nego popisni. Ustanova mora znati koje sustave s elementima umjetne inteligencije već koristi, tko ih je uveo i na kojim podacima rade, jer se procjena ne može napraviti za nešto što nije popisano. Iznenađenja su ovdje pravilo, ne iznimka.

Drugi je korak spojiti postojeće ljude. Etičko povjerenstvo, pravna služba, informacijska sigurnost i voditelj obrade podataka moraju znati u kojem trenutku ulaze u postupak i što od njih traži Akt o umjetnoj inteligenciji, a što Zakon o kibernetičkoj sigurnosti. Ta dva okvira dijele mnogo više nego što se na prvi pogled čini.

Treći korak je vremenski. Procjena se ne radi jednom pa zaboravi, nego se obnavlja kad se promijeni namjena sustava, kad se promijeni skupina pacijenata na koju se odnosi ili kad dobavljač isporuči novu inačicu modela. Ustanova koja to unaprijed upiše u svoj kalendar izbjegne situaciju u kojoj se dokument piše naknadno, pod pritiskom nadzora.

Korisno je i unaprijed odlučiti tko odgovara pacijentu koji pita je li o njegovoj pretrazi odlučivalo računalo. To pitanje dolazi, a odgovor koji se sastavlja na licu mjesta rijetko bude dobar.

Umjetna inteligencija u medicini prestala je biti pitanje budućnosti. Postala je pitanje odgovornosti, a odgovornost se dokazuje zapisom o tome tko je što odlučio i na temelju čega.

Cijelu vijest možete pročitati na stranicama DuLista.