Sztuczna inteligencja coraz mocniej wchodzi do medycyny. Dziś algorytmy pomagają analizować zdjęcia RTG, tomografię komputerową, wyniki histopatologiczne, a nawet wspierają lekarzy przy kwalifikacji pacjentów do leczenia. W wielu przypadkach AI potrafi wykrywać zmiany szybciej niż człowiek, wychwytywać wzorce trudne do zauważenia i wspierać proces diagnostyczny. Jednocześnie wraz z rozwojem technologii pojawiają się pytania o odpowiedzialność, bezpieczeństwo pacjenta i granice automatyzacji.
To nie jest już futurystyczna wizja. To rzeczywistość, z którą mierzą się systemy ochrony zdrowia w Polsce, Unii Europejskiej i Stanach Zjednoczonych.
AI jako wsparcie, nie zastępstwo lekarza
Obecnie dominują rozwiązania, w których sztuczna inteligencja pełni funkcję wspierającą lekarza, a nie całkowicie go zastępuje. AI analizuje dane i przedstawia rekomendacje, ale ostateczna decyzja diagnostyczna lub terapeutyczna nadal należy do człowieka.
W praktyce oznacza to, że lekarz korzystający z systemu AI nie może bezrefleksyjnie zaakceptować wyniku wygenerowanego przez algorytm. Nadal ciąży na nim obowiązek zachowania należytej staranności i samodzielnej oceny stanu pacjenta.
To właśnie dlatego w europejskich regulacjach coraz mocniej podkreśla się konieczność tzw. „human oversight”, czyli realnego nadzoru człowieka nad działaniem systemów AI.
Diagnostyka oparta na AI a relacja z pacjentem
Rozwój sztucznej inteligencji zmienia również sam kontakt z pacjentem. Coraz częściej pojawiają się chatboty medyczne, automatyczne systemy wstępnego wywiadu czy algorytmy oceniające ryzyko chorób jeszcze przed wizytą u lekarza.
Z jednej strony pozwala to odciążyć personel medyczny i przyspieszyć diagnostykę. Z drugiej – pojawia się ryzyko nadmiernej automatyzacji procesu leczenia i ograniczenia indywidualnego kontaktu z pacjentem.
W praktyce może rodzić to kilka problemów:
- pacjent może nie wiedzieć, że część decyzji została wygenerowana przez AI,
- trudniejsze staje się ustalenie, kto faktycznie odpowiada za błąd,
- pojawia się ryzyko błędów wynikających z wadliwych danych lub tzw. „halucynacji” modeli AI,
- algorytmy mogą powielać błędy i uprzedzenia obecne w danych treningowych.
Coraz częściej podkreśla się również konieczność transparentności działania systemów AI w medycynie oraz jasnego informowania pacjentów o zakresie wykorzystania algorytmów.
Odpowiedzialność za błąd AI – kto odpowiada?
Największe problemy prawne pojawiają się wtedy, gdy system AI popełni błąd diagnostyczny.
Polskie przepisy nie zawierają jeszcze jednej kompleksowej regulacji dotyczącej odpowiedzialności za szkody wyrządzone przez sztuczną inteligencję w medycynie. W praktyce analizuje się więc kilka możliwych podstaw odpowiedzialności:
- odpowiedzialność producenta za produkt niebezpieczny,
- odpowiedzialność podmiotu leczniczego,
- odpowiedzialność lekarza za błąd medyczny,
- odpowiedzialność opartą na zasadzie winy organizacyjnej.
W polskiej doktrynie wskazuje się, że w przypadku systemów AI będących wyrobami medycznymi najbardziej prawdopodobna może być odpowiedzialność za produkt niebezpieczny. Jednocześnie podkreśla się, że obecne przepisy nie rozwiązują wszystkich problemów związanych z autonomicznym działaniem AI.
Problem komplikuje się szczególnie wtedy, gdy system sam „uczy się” na podstawie nowych danych i zmienia sposób działania po wdrożeniu do praktyki medycznej.
UE zaostrza regulacje dotyczące AI w ochronie zdrowia
Unia Europejska już teraz traktuje większość systemów AI stosowanych w diagnostyce medycznej jako tzw. systemy wysokiego ryzyka. Dotyczy to m.in. oprogramowania diagnostycznego, systemów wspierających decyzje kliniczne czy narzędzi analizujących obrazy medyczne.
W praktyce oznacza to obowiązek spełnienia szeregu wymagań dotyczących:
- jakości danych,
- bezpieczeństwa,
- dokumentowania działania systemu,
- nadzoru człowieka,
- monitorowania ryzyka,
- transparentności wobec użytkowników.
AI w medycynie coraz częściej będzie więc podlegać podwójnej kontroli – zarówno jako wyrób medyczny, jak i system AI objęty regulacjami unijnymi.
Technologia nie zwalnia z odpowiedzialności
Sztuczna inteligencja może znacząco poprawić skuteczność diagnostyki i usprawnić funkcjonowanie ochrony zdrowia. Jednocześnie nie eliminuje odpowiedzialności prawnej lekarzy, placówek medycznych czy producentów oprogramowania.
Dziś największym wyzwaniem nie jest już samo wdrożenie AI do medycyny, lecz stworzenie takich zasad jej stosowania, które pozwolą zachować bezpieczeństwo pacjenta, przejrzystość procesu leczenia i możliwość ustalenia odpowiedzialności w przypadku błędu.
Prawo próbuje nadążyć za technologią. Pytanie brzmi, czy zdąży, zanim algorytmy staną się integralną częścią codziennej praktyki medycznej.