Czy sztuczna inteligencja potrafi obiektywnie wskazywać leki, uwzględniając wszystkie dostępne możliwości terapeutyczne? Badanie opublikowane w czasopiśmie „Nature Health” pokazuje, iż nie zawsze. Analiza ponad 883 tys. odpowiedzi pięciu modeli językowych wykazała, iż AI zdecydowanie faworyzuje wybrane produkty lecznicze, często pomijając ich tańsze odpowiedniki. Może to mieć konsekwencje zarówno dla kosztów leczenia, jak i dla sposobu podejmowania decyzji klinicznych.
Duże modele językowe (LLM) coraz częściej pojawiają się w ochronie zdrowia. Pomagają analizować dokumentację, porządkować informacje medyczne, wspierają diagnostykę i dostarczają pacjentom odpowiedzi na pytania dotyczące zdrowia. Jednym z obszarów, w których dostrzega się ich potencjał jest również dobór farmakoterapii.
Czy jednak rekomendacje generowane przez AI są rzeczywiście neutralne? To pytanie postawili naukowcy z Japonii. Postanowili oni sprawdzić, czy modele językowe potrafią obiektywnie wskazywać produkty lecznicze zawierające tę samą substancję czynną, czy też mają tendencję do preferowania konkretnych preparatów. Wyniki ich badania opublikowano na łamach „Nature Health”.
Sztuczna inteligencja wybiera wąską grupę leków
W eksperymencie wykorzystano pięć modeli: GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 oraz MedGemma. Przygotowano 177 120 syntetycznych scenariuszy klinicznych, obejmujących 123 pary choroba-lek i 1440 profili socjodemograficznych pacjentów. Każdy scenariusz zawierał rozpoznanie oraz informację o substancji czynnej. Zadaniem AI było wskazanie maksymalnie trzech zatwierdzonych przez amerykańską Agencję Żywności i Leków (FDA) produktów leczniczych, uporządkowanych według preferencji.
Łącznie uzyskano ponad 883 tys. odpowiedzi, które następnie zweryfikowali lekarze. Sprawdzali oni m.in. poprawność nazw preparatów i ich status rejestracyjny.
Wyniki okazały się zaskakujące. Najczęściej wskazywany produkt odpowiadał średnio za 97,5% rekomendacji pierwszego wyboru. Co więcej, w 96 ze 123 analizowanych par choroba-lek jeden preparat skupiał ponad 90% wszystkich rekomendacji połączonych wyników pięciu modeli.
To szczególnie interesujące, ponieważ dla większości analizowanych substancji czynnych dostępnych było średnio 5,5 zatwierdzonego produktu. Mimo istnienia kilku możliwości terapeutycznych modele najczęściej konsekwentnie wskazywały ten sam preparat.
Rekomendacje AI nie odzwierciedlają rzeczywistej praktyki
Naukowcy postanowili sprawdzić, czy wybory modeli językowych pokrywają się z decyzjami podejmowanymi przez lekarzy. W tym celu porównali rekomendacje AI z rzeczywistymi danymi dotyczącymi przepisywania leków w Stanach Zjednoczonych z lat 2019-2023.
Okazało się, iż najczęściej przepisywany w praktyce preparat był jednocześnie pierwszym wyborem modeli zaledwie w 29,7% przypadków. jeżeli uwzględnić trzy najwyżej oceniane propozycje, zgodność wzrastała do 58,8%. Po uwzględnieniu liczby wystawionych recept odsetek zgodności pierwszego wyboru spadał do zaledwie 17%.
Oznacza to, iż rekomendacje sztucznej inteligencji mogą znacząco odbiegać od tego, co lekarze rzeczywiście wybierają w codziennej praktyce. Nie musi to oznaczać, iż wskazane preparaty są niewłaściwe, ale pokazuje, iż modele kierują się innymi czynnikami niż specjaliści podejmujący decyzje terapeutyczne.
Różnice widoczne były również w analizie kosztów. Spośród 51 substancji czynnych uwzględnionych w tej części badania aż 38 (74,5%) wiązało się z wyższymi szacowanymi kosztami zakupu w przypadku stosowania wzorców rekomendowanych przez AI.
Łączną różnicę oszacowano na 55,6 mln dolarów rocznie, co w przyjętym przez badaczy modelu oznaczało wzrost kosztów o 1019%. Jedną z głównych przyczyn było częstsze wskazywanie leków oryginalnych zamiast dostępnych, tańszych odpowiedników.
Popularność w Internecie wpływa na wybory modeli
Dlaczego modele językowe tak często wskazują te same produkty? Badacze przyjrzeli się cechom leków, które mogły wpływać na częstotliwość ich rekomendowania.
Najsilniejszy związek zaobserwowano w przypadku statusu leku oryginalnego. Prawdopodobieństwo wskazania preparatu innowacyjnego było ponad 20 razy większe niż w przypadku jego generycznego odpowiednika (OR 20,5).
Znaczenie miała również obecność produktu w Internecie. Leki częściej wyszukiwane w Google miały większą szansę na rekomendację (OR 1,70). Podobnie było z preparatami posiadającymi własną stronę w Wikipedii (OR 3,00).
Z kolei produkty później dopuszczone do obrotu oraz częściej przepisywane w rzeczywistej praktyce były rekomendowane rzadziej.
Zdaniem autorów wyniki wskazują na tzw. popularity bias, czyli stronniczość wynikającą z popularności. Modele trenowane na ogromnych zbiorach tekstów dostępnych w Internecie mogą częściej wybierać produkty, które są szeroko opisywane i rozpoznawalne, zamiast w równym stopniu uwzględniać wszystkie dostępne alternatywy.
Problem dotyczy nie tylko preferowania konkretnych marek. W badaniu odnotowano również odpowiedzi niezgodne z informacjami regulacyjnymi. Ich odsetek wynosił od 12,4% do 14,7%, zależnie od modelu. Najczęściej chodziło o produkty, które wprawdzie zostały wcześniej zatwierdzone przez FDA, ale nie były już dostępne na rynku.
Naukowcy zauważyli ponadto, iż prawdopodobieństwo wygenerowania takiej odpowiedzi zależało m.in. od modelu i cech socjodemograficznych pacjenta opisanego w scenariuszu. Przykładowo, w przypadku scenariuszy dotyczących pacjentów rasy czarnej ryzyko wystąpienia rekomendacji niezgodnej z informacjami regulacyjnymi było większe (OR 1,64).
Warto jednak podkreślić, iż niezgodność z informacjami rejestracyjnymi nie zawsze oznacza błąd kliniczny. Stosowanie leków poza wskazaniami rejestracyjnymi może być w określonych sytuacjach uzasadnione. Problemem pozostaje natomiast wiarygodność informacji generowanych przez AI i konieczność ich sprawdzania.
AI może wspierać lekarza, ale nie zastąpi jego decyzji
Badacze sprawdzili również, czy sposób formułowania poleceń może zmienić rekomendacje modeli. Przetestowali m.in. instrukcje nakazujące przedstawienie pełnej listy dostępnych preparatów, wskazywanie najtańszych produktów oraz preferowanie leków generycznych.
Zmiana poleceń rzeczywiście wpływała na odpowiedzi, ale nie rozwiązywała problemu. Najczęściej rekomendowany produkt przez cały czas odpowiadał za 93,1-97,6% wskazań pierwszego wyboru, zależnie od zastosowanej instrukcji. Oznacza to, iż odpowiednio przygotowany prompt może ukierunkować odpowiedź AI, ale nie gwarantuje pełnej neutralności.
Odpowiedź AI nie jest automatycznie obiektywna
Wnioski z publikacji są istotne również dla stomatologii. Modele językowe mogą być wykorzystywane przez lekarzy dentystów do wyszukiwania informacji o preparatach, analizowania danych dotyczących farmakoterapii czy przygotowywania zaleceń dla pacjentów. Coraz częściej mogą też stanowić dla samych pacjentów źródło wiedzy o lekach i możliwościach leczenia.
Warto więc pamiętać, iż odpowiedź wygenerowana przez sztuczną inteligencję nie jest automatycznie odpowiedzią obiektywną. choćby jeżeli kilka modeli wskazuje ten sam preparat, nie oznacza to jeszcze, iż jest on najlepszym wyborem w danej sytuacji klinicznej. Zgodność algorytmów może bowiem wynikać z podobnych ograniczeń, a nie z rzeczywistej przewagi danego produktu.
Autorzy badania podkreślają, iż bezpieczne wykorzystanie AI w ochronie zdrowia wymaga regularnego sprawdzania jakości jej rekomendacji, weryfikowania ich zgodności z aktualnymi informacjami regulacyjnymi i wytycznymi oraz uwzględniania możliwych uprzedzeń algorytmicznych. istotną rolę powinien odgrywać również nadzór człowieka.
Dla lekarzy dentystów oznacza to przede wszystkim jedno: sztuczna inteligencja może być pomocnym narzędziem w codziennej pracy, ale nie powinna zastępować samodzielnej oceny klinicznej ani weryfikacji informacji dotyczących stosowanych preparatów.
Źródła: https://www.omu.moe/
https://www.nature.com
Rozwiązania oparte na sztucznej inteligencji z jednej strony usprawniają pracę lekarzy dentystów, pozwalają oszczędzać czas, poprawiać płynność procesów klinicznych czy porządkować liczne dane. Z drugiej strony, za rozwojem AI nie nadążają zmiany prawne, dotyczące np. odpowiedzialności za decyzje medyczne podejmowane przez lekarzy, także dentystów, przy pomocy narzędzi AI. – Na dziś to lekarz dentysta ponosi pełną odpowiedzialność za wyrządzoną szkodę na podstawowej zasadzie odpowiedzialności, jaką jest zasada winy – mówi dr n. pr. Zbigniew Więckowski, adiunkt w Katedrze Prawa Cywilnego i Prawa Prywatnego Międzynarodowego Instytutu Nauk Prawnych Uniwersytetu Kardynała S. Wyszyńskiego w Warszawie, autor i współautor recenzowanych publikacji naukowych z zakresu prawnych aspektów leków biologicznych, prawa własności intelektualnej i nowych technologii.
