Sztuczna inteligencja wykorzystywana jest wszędzie. W zasadzie można ją spotkać w każdej gałęzi przemysłu, nic dziwnego więc, że bardzo szybko znalazła zastosowanie także w medycynie. Roboty medyczne wykonują zabiegi, AI planuje harmonogram pracy lekarzy. Branża opieki zdrowotnej zdecydowanie na niej polega, a robi to w celu bardziej wydajnego świadczenia opieki i poprawy wyników leczenia pacjentów. Jednak co, gdy ten algorytm zawiedzie i zacznie działać mniej sprawiedliwie dla innych?
Sztuczna inteligencja może wspierać stronnicze podejmowanie decyzji
Choć w założeniu AI jest raczej bezstronnicza i całkowicie eliminuje z procesu wyboru uprzedzenia ludzkie, to wraz z dostępem do wrażliwych danych pacjentów może stać się co najmniej niesprawiedliwa. Dzieje się tak, gdyż tworząc bazy danych, dzieli ludzi według statusu społeczno-ekonomicznego, rasy i pochodzenia etnicznego, religii, płci, niepełnosprawności, orientacji seksualnej itp. W ten sposób, niestety, wzmacnia nierówności w systemach opieki zdrowotnej.
Dlatego też, powierzając zarządzanie sztucznej inteligencji, powinniśmy wciąż być blisko. Wdrażając każdy system, nie zapominajmy o swoim planie, według którego będziemy działać. Wtedy mamy wgląd na wszystko i nie podejmujemy tak ważnych decyzji wyłącznie w oparciu o przedstawione dane. Pamiętajmy o czynniku ludzkim, który w procesie wyboru kolejności leczenia pacjentów jest niezwykle ważny.
Skąd ryzyko stronniczości?
Otóż z reguły systemy inteligentne działają na danych z tzw. negatywnych wyników. Porównują hospitalizacje w danych okresach lub ponowne przyjęcia. Nie koncentrują się natomiast na pozytywnych wynikach zdrowotnych, które należy osiągnąć. Do tego każde plany są, niestety, krótkotrwałe. Te długofalowe są często odrzucane i w ogóle niepoddawane do rozważenia, a taka inwestycja mogłyby poprawić zdrowie całej populacji.
Opieka zdrowotna pozostaje w tyle za innymi branżami, jeśli chodzi o korzystanie z analityki danych –
powiedziała Milissa Campbell, dyrektor zarządzająca i kierownik ds. analizy zdrowia w NTT DATA Services.
Niestety, dlatego też bardzo często omijamy poważny czynnik – znajomość podstaw systemu, należy je poznać, zanim zrobimy krok do przodu i wkroczymy ze sztuczną inteligencją do naszej organizacji.
