Błędne diagnozy lekarzy. Wszystko przed sztuczną inteligencję

Według nowego badania, sztuczna inteligencja (SI) może wprowadzać w błąd radiologów, którzy zbytnio polegają na jej podpowiedziach. Między nowymi technologiami SI a możliwością ich praktycznego zastosowania w medycynie pozostało duży rozdźwięk – przekonują naukowcy.

Podczas podejmowania diagnostycznych decyzji radiolodzy i inni lekarze mogą zbytnio polegać na sztucznej inteligencji. To wynik badania opublikowanego w czasopiśmie „Radiology”.

„Do 2022 roku amerykańska Agencja Żywności i Leków (FDA) zatwierdziła 190 programów SI do zastosowań w radiologii” – mówi jeden głównych autorów publikacji, dr Paul H. Yi z St. Jude Children’s Research Hospital in Memphis, Tennessee.

Jednak pojawiła się luka między dowodami koncepcyjnymi odnośnie SI a jej zastosowaniem w rzeczywistej praktyce klinicznej. Aby zlikwidować tę lukę, najważniejsze jest zbudowanie odpowiedniego zaufania do wskazań sztucznej inteligencji – wyjaśnia.

W przeprowadzonym w wielu ośrodkach badaniu wzięło udział 220 specjalistów - radiologów, lekarzy medycyny wewnętrznej i medycyny ratunkowej, którzy oceniali zdjęcia rentgenowskie klatki piersiowej z uwzględnieniem wskazówek udzielanych przez system SI.

Każdy z lekarzy miał za zadanie przeanalizować osiem przypadków badania rentgenowskiego, wraz z sugestiami pochodzącymi od symulowanego asystenta SI, którego skuteczność diagnostyczna była porównywalna z ekspertami w tej dziedzinie.

Wybrany zestaw przypadków odzwierciedlał rzeczywistą praktykę kliniczną.

W każdym przypadku specjalistom, oprócz obrazów i wskazówek SI przedstawiano historię kliniczną pacjenta.

Sztuczna inteligencja dostarczała poprawną lub błędną diagnozę wraz z tzw. lokalnymi lub globalnymi wyjaśnieniami. W lokalnych wyjaśnieniach wyróżniała fragmenty obrazu uznane za najważniejsze. W przypadku wyjaśnień globalnych przedstawiała podobne obrazy z wcześniejszych przypadków, aby pokazać, jak doszła do swojej diagnozy.

Lekarze mogli zaakceptować, zmodyfikować lub odrzucić sugestie SI.

Poproszono ich również o określenie poziomu pewności co do swoich ustaleń oraz o ocenę przydatności uzyskanych wskazówek.

Wyniki wykazały, iż eksperci częściej dostosowywali swoje decyzje diagnostyczne do sugestii SI i poświęcali mniej czasu w ich analizę, gdy system dostarczał lokalnych wyjaśnień.

Przy tym, gdy sugestie SI były poprawne, średnia dokładność diagnostyczna specjalistów wynosiła 92,8 proc., przy lokalnych wyjaśnieniach i 85,3 proc. przy wyjaśnieniach globalnych.

Natomiast, gdy sugestie były błędne, dokładność lekarzy wynosiła już tylko, odpowiednio 23,6 i 26,1 proc.

Kiedy zbytnio polegamy na tym, co mówi nam komputer, staje się to problemem, ponieważ SI nie zawsze ma rację. Uważam, iż jako radiolodzy korzystający z tych systemów, musimy być świadomi tego typu pułapek i pamiętać o naszych procedurach diagnostycznych oraz szkoleniu – podkreśla dr Yi.

„Jestem zdania, iż kluczem jest kooperacja między przemysłem i badaczami zajmującymi się opieką zdrowotną. Mam nadzieję, iż nasz artykuł rozpocznie dialog i owocną współpracę” – dodaje.(PAP)