Sztuczna inteligencja w ochronie zdrowia może być bardzo użyteczna. System może pomóc w wychwytywaniu nieprawidłowości na zdjęciach RTG, analizować obrazy tomografii komputerowej, porównywać wyniki badań, wspierać triage, przypominać o interakcjach leków albo pomagać w prowadzeniu dokumentacji. Dla pacjenta najważniejsze jest jednak to, aby AI nie działała jak niewidzialny lekarz bez odpowiedzialności.
AI Act nie sprowadza medycznej sztucznej inteligencji do jednego worka. Inaczej należy oceniać prosty system umawiania wizyt, inaczej narzędzie porządkujące dokumentację, a jeszcze inaczej oprogramowanie, które analizuje badanie i wspiera rozpoznanie choroby. Im większy wpływ systemu na zdrowie, bezpieczeństwo i decyzję kliniczną, tym większe znaczenie mają obowiązki wynikające z unijnych przepisów.
Komisja Europejska wskazuje, że systemy AI przeznaczone do celów medycznych mogą być traktowane jako systemy wysokiego ryzyka. Dotyczy to zwłaszcza oprogramowania medycznego oraz rozwiązań będących częścią wyrobów medycznych. W praktyce oznacza to, że dostawca takiego systemu musi spełnić wymogi dotyczące m.in. kontroli ryzyka, jakości danych, dokumentacji technicznej, informacji dla użytkownika i nadzoru człowieka.
System wysokiego ryzyka w ochronie zdrowia
Pojęcie systemu wysokiego ryzyka nie oznacza, że dane narzędzie jest zakazane. Oznacza, że może być stosowane tylko przy spełnieniu dodatkowych wymagań. W medycynie to szczególnie istotne, bo błąd algorytmu może prowadzić do opóźnionej diagnozy, niepotrzebnych badań, błędnej oceny stanu pacjenta albo niewłaściwego priorytetu leczenia.
AI Act wymaga, aby systemy wysokiego ryzyka były projektowane i używane w sposób kontrolowany. Znaczenie ma jakość danych, na których system był trenowany i testowany. Jeżeli narzędzie opiera się na danych niereprezentatywnych, może działać gorzej wobec niektórych grup pacjentów. W ochronie zdrowia taki problem nie jest abstrakcyjny: różnice wieku, płci, stanu zdrowia, pochodzenia populacyjnego czy jakości wykonywanych badań mogą wpływać na skuteczność systemu.
Ważnym elementem jest również przejrzystość wobec użytkownika profesjonalnego, czyli lekarza, diagnosty, pielęgniarki lub placówki medycznej. Osoba korzystająca z systemu powinna wiedzieć, do czego narzędzie służy, jakie ma ograniczenia, w jakich warunkach było testowane i kiedy wynik wymaga szczególnej ostrożności. AI w medycynie nie powinna być traktowana jako nieomylna wyrocznia, lecz jako narzędzie wspomagające decyzję kliniczną.
Pacjent i decyzja lekarska. Kto ponosi odpowiedzialność?
Dla pacjenta kluczowe pytanie brzmi: czy lekarz nadal podejmuje decyzję, czy tylko wykonuje sugestię systemu. AI Act kładzie nacisk na nadzór człowieka przy systemach wysokiego ryzyka. W praktyce oznacza to, że człowiek powinien mieć możliwość zrozumienia, zakwestionowania i skorygowania działania systemu. To szczególnie ważne wtedy, gdy wynik algorytmu wpływa na dalszą diagnostykę, przyjęcie do szpitala, wybór terapii albo ocenę pilności leczenia.
Nie każdy pacjent musi znać techniczne szczegóły działania modelu. Powinien jednak mieć pewność, że system został wdrożony zgodnie z procedurami, że personel wie, jak z niego korzystać, i że decyzja medyczna nie zapada wyłącznie na podstawie automatycznego wyniku. W razie wątpliwości pacjent może pytać, czy w danej procedurze użyto narzędzia AI i jaką rolę odegrało ono w ocenie jego przypadku.
Szczególną ostrożność trzeba zachować przy aplikacjach zdrowotnych dostępnych bezpośrednio dla konsumentów. Aplikacja analizująca objawy, zegarek monitorujący parametry albo chatbot zdrowotny nie zawsze są wyrobem medycznym i nie zawsze działają pod nadzorem lekarza. Użytkownik może uzyskać sugestię, która brzmi profesjonalnie, ale nie zastępuje badania, wywiadu i diagnozy. AI Act porządkuje część rynku, lecz nie zwalnia pacjenta z ostrożności wobec narzędzi obiecujących szybką diagnozę bez kontaktu ze specjalistą.
Dane medyczne, RODO i granice zaufania
Sztuczna inteligencja w medycynie potrzebuje danych. To mogą być obrazy diagnostyczne, wyniki badań, opisy chorób, informacje o lekach, dane z urządzeń noszonych albo historia leczenia. Właśnie dlatego AI Act nie działa w oderwaniu od RODO i przepisów o ochronie dokumentacji medycznej. Dane zdrowotne należą do szczególnie wrażliwych, a ich wykorzystanie wymaga mocnej podstawy prawnej i odpowiednich zabezpieczeń.
Pacjent powinien zachować szczególną ostrożność przy wpisywaniu danych medycznych do ogólnodostępnych chatbotów. Opis objawów bez danych identyfikacyjnych to jedno. Wklejenie pełnych wyników badań, numeru PESEL, rozpoznania, historii leczenia i danych lekarza to zupełnie inna sytuacja. Ryzyko nie polega tylko na błędnej odpowiedzi AI, ale także na niekontrolowanym przekazaniu informacji o zdrowiu do narzędzia, którego zasad działania użytkownik może nie rozumieć.
Dla placówek medycznych wdrożenie AI będzie oznaczało konieczność łączenia kilku porządków: przepisów o wyrobach medycznych, ochrony danych osobowych, cyberbezpieczeństwa i AI Act. Dla pacjenta najważniejszy pozostaje efekt praktyczny: system ma pomagać, ale nie może zaciemniać odpowiedzialności za leczenie.
Źródła: Komisja Europejska, informacje o AI Act i zastosowaniu sztucznej inteligencji w ochronie zdrowia; EUR-Lex, rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689; Komisja Europejska, wytyczne dotyczące klasyfikacji systemów wysokiego ryzyka; UODO, stanowisko dotyczące AI Act i ochrony danych osobowych; analiza naukowa dotycząca przejrzystości AI w ochronie zdrowia.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.