Cienka granica pomiędzy korzyściami a niebezpieczeństwem w korzystaniu z AI

mzdrowie.pl 2 dni temu

Lekarze powinni uczyć się mądrego korzystania z narzędzi sztucznej inteligencji oraz przygotować się na to, iż pacjenci korzystają z nich przed wizytą. Algorytmy AI mogą pomóc pacjentowi w rozmowie z lekarzem, ale go nie zastąpią.

Coraz częściej podczas konsultacji w gabinecie narzędzia oparte na sztucznej inteligencji wspierają chorego podczas rozmowy, a czasem zastępują lekarza, tam gdzie zabrakło czasu w wyjaśnienie wątpliwości. Budzi to obawy i pytania o przyszłość, o których rozmawiali eksperci na debacie „AI i onkolog – konkurenci czy partnerzy”w czasie konferencji LAO.

Prof. Bartłomiej Tomasik (Katedra i Klinika Onkologii i Radioterapii GUMed) zaznaczył, iż rzadko kiedy pacjenci w gabinecie bezpośrednio wskazują, iż przed wizytą skonsultowali się ze sztuczną inteligencją. „Natomiast to co widzę, to to, iż faktycznie częściej mają jakąś listę pytań przygotowaną, która zakładam powstała na bazie internetu, no i pewnie coraz częściej w tym uczestniczy również sztuczna inteligencja czy wszelkiego rodzaju chatboty” – mówił. O skorzystaniu z AI przed odwiedzeniem specjalisty świadczy z jednej strony treść pytań, które nie brzmią zwyczajnie, a z drugiej strony to, iż zadawane pytania niekoniecznie pasują do konkretnej sytuacji. Lista pytań opracowana dzięki AI pozwala pacjentom nie zapomnieć na wizycie o poruszeniu wszystkich ważnych dla niego kwestii, może jednak zaprowadzić na manowce.”To gdzie to AI, modele językowe mogą teraz zrobić dla pacjentów najwięcej – to jest mówiąc kolokwialnie tłumaczenie z naszego na polski” – ocenił prof. Tomasik. Pacjent styka się z wieloma obcymi sformułowaniami, które w pośpiechu nie zawsze są wyjaśniane przez lekarzy. Chatboty postrzegane są jako rodzaj wsparcia w kryzysie i pomoc w zrozumieniu sytuacji.

Jednocześnie AI coraz częściej wspiera lekarzy w diagnostyce, gdyż pozwala na analizę dużych zasobów danych. Interpretacja uzyskanych w ten sposób informacji to jednak wciąż zadanie diagnostów.

Prof. Joanna Polańska (kierownik Katedry Inżynierii i Analizy Eksploracyjnej Danych, Wydział Automatyki, Elektroniki i Informatyki, Politechnika Śląska) podkreśliła, iż choć sztuczna inteligencja może ułatwiać pacjentowi poruszanie się po systemie opieki zdrowotnej i w sposób efektywny wykorzystywać czas w gabinecie lekarskim, to zawsze należy pamiętać o tym, iż jest to po prostu program – „To jest maszyna, to jest algorytm. choćby jeżeli brzmi, jakby to był człowiek. Tak, bo tak został wyuczony, to znaczy był wytrenowany na tekstach, które ma za zadanie odtwarzać na zasadach prawdopodobieństwa, czyli stara się dostosować do sytuacji, najczęściej oczekiwaną, najczęściej pojawiającą się odpowiedź. Modele są tak dobre jak dane, na których były uczone. W związku z czym mają swoje ograniczenia wynikające z niereprezentatywności”. Rzadkie przypadki czy anomalie będą nierozpoznawane przez algorytm, a odpowiedź może zostać zastąpiona konfabulacją.

„Każda osoba, która słyszy diagnozę, która cokolwiek podejrzewa, to dotąd pierwszym odruchem był dr Google. Dr Google poszedł już na emeryturę. Pytanie więc jest do dr AI” – powiedział Kamil Dolecki, prezes Stowarzyszenie Sarcoma). I dodał – „Trzeba się po prostu nauczyć odpowiedzialnie korzystać z tego narzędzia. Zawsze powtarzamy jedną rzecz: wszystkie decyzje odnośnie leczenia, odnośnie rozpoznania zapadają tylko i wyłącznie w gabinecie lekarskim”. AI może tylko pomóc przygotować się na rozmowę z lekarzem, ale nie może go zastępować.

Idź do oryginalnego materiału