Brakuje zaufania do rozwiązań sztucznej inteligencji

Rozwój sztucznej inteligencji umożliwia już dziś wsparcie wielu procesów w systemie opieki zdrowotnej. W warunkach wzrastającego zapotrzebowania na usługi medyczne, AI stwarza szansę na zachowanie odpowiedniej dostępności i zmniejszenie przeciążenia personelu medycznego. Warunkiem rozwoju AI jest jednak wzrost zaufania, zwłaszcza pacjentów do nowej technologii. Problemem zaufania do sztucznej inteligencji jest zanalizowany w raporcie Future Health Index 2025.

Punktem wyjścia do opracowania Future Health Index 2025 były ankiety przeprowadzone wśród 1926 pracowników ochrony zdrowia oraz 16144 pacjentów. Respondenci pochodzili z 16 państw na świecie. Pacjenci i medycy przedstawili swój stosunek do AI wraz z czynnikami, które na niego wpływają. Na koniec publikacji autorzy zawarli rekomendacje dla osób odpowiedzialnych za wdrażanie rozwiązań opartych na AI.

Obecna sytuacja systemów opieki zdrowotnej na całym świecie cechuje się coraz większymi opóźnieniami w dostępie do świadczeń oraz przemęczeniem personelu medycznego, który musi sprostać coraz większej liczbie zadań generowanych przez napływ pacjentów. Społeczeństwa większości państw rozwiniętych starzeją się. Przeciętna długość życia człowieka wzrasta, ale rzadko kiedy te dodatkowe lata życia upływają w zdrowiu.

Jak podkreślają autorzy raportu, pracownicy medyczni patrzą z optymizmem na wdrażane rozwiązania AI. Widzą w nich szansę na pozbycie się źródeł frustracji w pracy oraz możliwość poświęcenia pacjentom więcej czasu i uwagi. Z badania ankietowego wynika, iż strata czasu związana z kompletowaniem wszystkich potrzebnych informacji o pacjencie może dla jednego pracownika medycznego może wynosić w sumie aż 23 dni pracy w ciągu roku.

Aż 35 proc. respondentów stwierdziło, iż poświęca mniej czasu pacjentom niż zadaniom biurowym. Prawie połowa – 45 proc. – poświęca taką samą ilość czasu pacjentowi co obowiązkom administracyjnym. Takie proporcje codziennej pracy rodzą frustrację, ponieważ odbiegają od oczekiwań i motywacji, z jakimi osoby te podejmowały decyzje o wyborze zawodu.

Zdaniem badanych prawidłowo wprowadzone rozwiązania AI doprowadzą do zwiększenia przepustowości placówek medycznych, a tym samym zapewnienia większej liczbie osób dostępu do danego świadczenia w tym samym czasie oraz skrócenia czasu oczekiwania. Ponadto mogą zdjąć część obowiązków pozaklinicznych z barków medyków, zmniejszając ich przemęczenie odbijające się niekorzystnie na jakości opieki nad pacjentami.

Większość ankietowanych widzi też w AI szansę na aktywne włączenie chorego w proces leczenia. W połączeniu ze zdalnym monitoringiem i możliwościami analityki predykcyjnej może to zapobiegać pogorszeniu stanu zdrowia i hospitalizacjom. Wszystko to stwarza szansę na obniżenie kosztów opieki, ponoszonych przez systemy ochrony zdrowia na całym świecie.

Respondenci reprezentujący zawodu medyczne zwracają jednak uwagę, iż potrzebne jest zbudowanie pozytywnego nastawienia pacjentów do rozwiązań opartych na AI. Bez tego ich wprowadzanie ich nie będzie możliwe. Tymczasem odpowiedzi zebrane w ankietach od pacjentów wykazały sporą dozę sceptycyzmu wobec zastosowania AI w systemie opieki medycznej.

Podczas gdy 79 proc. pracowników ochrony zdrowia jest optymistycznie nastawionych do wykorzystania AI w celu poprawienia wyników leczenia, tę opinię podziela tylko 59 proc. pacjentów. Zaufanie i poczucie bezpieczeństwa pacjentów różni się w zależności od tego, w jakim obszarze zostałoby wprowadzone rozwiązanie AI. Najbardziej przychylni są zastosowaniu sztucznej inteligencji w zadaniach administracyjnych np. potwierdzania wizyt. Najmniejsze poparcie iż strony pacjentów ma udział AI w działaniach klinicznych bezpośrednio związanych z leczeniem. W tym punkcie występuje największa różnica pomiędzy medykami a pacjentami.

Obawy pacjentów budzi też wsparcie AI podczas sporządzania dokumentacji medycznej, co z kolei budzi największy entuzjazm pracowników systemu opieki zdrowotnej. Połowa pacjentów obawia się, iż w wyniku wejścia rozwiązań AI lekarze nie będą im już poświęcać tyle czasu, co obecnie. Pacjenci podkreślali, iż ich stosunek do AI by był bardziej pozytywny, gdyby mieli pewność, iż tego typu rozwiązania działają bezpiecznie i efektywnie, przyczyniając się do poprawy stanu zdrowia oraz spadku liczby błędów. Nowe rozwiązania powinny też, ich zdaniem, wzmocnić osobistą relację pacjent – lekarz. Na przychylność pacjentów mogą również liczyć narzędzia AI, które skrócą czas oczekiwania na świadczenia.

Autorzy podkreślają istnienie wśród pacjentów paradoksu wiedzy na temat sztucznej inteligencji. Osoby bardziej zaznajomione z AI wcale nie muszą bardziej jej ufać. Bowiem często zdają sobie sprawę nie tylko z korzyści, ale również pułapek. Dla ich poczucia bezpieczeństwa niezmiernie ważna jest znajomość szczegółów, jaki dokładnie jest udział AI w danym procesie. Z kolei osoby o nikłej wiedzy w zakresie sztucznej inteligencji potrzebują najczęściej jedynie informacji o tym, iż ich dane będą bezpieczne. Niezależnie od wyjściowego poziomu wiedzy, pacjenci najbardziej komfortowo czują się, gdy otrzymują informacje na jej temat bezpośrednio od lekarzy. Zdecydowanie mniejszym zaufanie dążą w tym temacie serwisy informacyjne oraz media społecznościowe.

W raporcie zwrócono ponadto uwagę, iż choć personel medyczny reprezentuje optymistyczne podejście do zastosowania sztucznej inteligencji w systemie opieki zdrowotnej, nie jest ono pozbawione wątpliwości. Jedynie 38 proc. respondentów uważa, iż rozwiązania AI z którymi się dotąd spotkali, są zaprojektowane zgodnie z ich potrzebami. Kwestią budzącą duży niepokój wśród pracowników ochrony zdrowia (76 proc. badanych) jest odpowiedzialność za ewentualne błędy popełnione przez AI. Ponad 61 proc. personelu medycznego zauważa stronniczość danych w aplikacjach AI, co ich zdaniem niekorzystnie wpływa na dostępność opieki medycznej. Poza jasną sytuacją odpowiedzialności prawnej, medycy zatem oczekują ciągłego monitoringu i oceny systemów AI, a także dowodów naukowych na skuteczność wykorzystania AI w poszczególnych zadaniach.

W raporcie zawarto rekomendacje dotyczącego tego, jak budować zaufanie pacjentów i medyków do sztucznej inteligencji:

• rozwiązania oparte na AI muszą być tworzone z uwzględnieniem potrzeb zarówno pacjentów, jak pracowników systemu opieki zdrowotnej
• nadzór ludzki jest niezbędny wszędzie tam gdzie zagrożone jest zdrowie, ponadto udział personelu medycznego jest niezbędny w budowaniu zaufania pacjentów
• każdą zaletę AI m.in. efektywność trzeba umieć udowodnić
• kroku innowacjom musi dotrzymywać ustawodawstwo
• tworzenie silnego partnerstwa międzysektorowego.