Coraz więcej osób prosi sztuczną inteligencję o porady zdrowotne – pyta ją o objawy chorób, wyniki badań, możliwe metody leczenia. Czy to bezpieczne? Czym grozi przekazanie AI wrażliwych danych medycznych?
Spis treści
- Dlaczego sięgamy po pomoc sztucznej inteligencji?
- Różne odpowiedzi – halucynacje sztucznej inteligencji
- Czym grozi utrata danych medycznych?
- Jak ograniczyć ryzyko wycieku wrażliwych danych?
- Korzystaj z pomocy AI, ale bądź ostrożny!
Dlaczego sięgamy po pomoc sztucznej inteligencji?
Copilot Health, ChatGPT Health czy asystent Health AI Amazona to narzędzia, które mają w przyszłości pomagać użytkownikom w interpretacji dokumentacji medycznej i zadawaniu pytań dotyczących objawów, wyników badań czy dostępnych metod leczenia. Choć tego typu rozwiązania nie są jeszcze powszechnie dostępne w Polsce, wielu internautów już dziś wykorzystuje ogólne chatboty AI do analizowania objawów, interpretowania wyników badań lub poszukiwania informacji o leczeniu.
Trudno się temu dziwić w sytuacji, gdy system ochrony zdrowia walczy z niedoborem specjalistów i długimi terminami oczekiwania na wizyty, a chatbot dostępny jest przez całą dobę. Dla wielu osób AI staje się pierwszym źródłem informacji. Problem w tym, iż wygoda nie zawsze idzie w parze z bezpieczeństwem.
Czytaj też: Sztuczna inteligencja rozpoznaje raka skóry na podstawie zdjęcia pacjenta
Różne odpowiedzi – halucynacje sztucznej inteligencji
Badanie Uniwersytetu Oksfordzkiego opublikowane w czasopiśmie „Nature Medicine” wykazało, iż użytkownicy często nie wiedzieli, jakie informacje powinni przekazać modelowi AI, aby ten adekwatnie zinterpretował ich sytuację. W eksperymencie uczestnicy po rozmowie z chatbotem poprawnie rozpoznawali stan zdrowia jedynie w około jednej trzeciej przypadków, a adekwatną decyzję co do dalszych kroków podejmowało zaledwie 43 proc. z nich.
Naukowcy zaobserwowali również, iż chatboty potrafiły udzielać znacząco różnych odpowiedzi na pytania różniące się jedynie kilkoma słowami. Dodatkowo modele mieszały trafne rekomendacje z niekorzystnymi poradami, a uczestnicy badania mieli trudności z ich odróżnieniem.
Czytaj też: Sztuczna inteligencja wykryła u pacjenta groźne migotanie przedsionków
Czym grozi utrata danych medycznych?
Eksperci zwracają jednak uwagę, iż ryzyko nie ogranicza się wyłącznie do błędnych odpowiedzi. Równie istotną kwestią jest prywatność informacji przekazywanych chatbotom.
– Wiele osób traktuje rozmowę z chatbotem o zdrowiu tak, jak rozmowę z lekarzem. To błędne założenie. W przypadku wielu konsumenckich usług AI użytkownik nie korzysta z narzędzia objętego tajemnicą medyczną, ale z komercyjnej aplikacji, której zasady przetwarzania danych mogą znacząco różnić się od standardów obowiązujących w ochronie zdrowia – mówi Kamil Sadkowski, analityk cyberbezpieczeństwa ESET.
W praktyce oznacza to, iż informacje wpisywane do publicznie dostępnego chatbota mogą być przechowywane, analizowane lub wykorzystywane do dalszego rozwoju modeli AI, w zależności od zasad obowiązujących w danej usłudze. W przypadku incydentu bezpieczeństwa lub wycieku danych informacje te mogą również trafić w niepowołane ręce.
Dane medyczne są szczególnie atrakcyjne dla cyberprzestępców. Mogą być wykorzystywane do kradzieży tożsamości, wyłudzania usług medycznych, prób szantażu lub prowadzenia precyzyjnie ukierunkowanych kampanii phishingowych.
– Historia choroby, wyniki badań czy informacje o leczeniu należą do najbardziej wrażliwych danych, jakie można udostępnić online. Przestępca, który zna szczegóły dotyczące stanu zdrowia ofiary, może wykorzystać tę wiedzę do przygotowania wyjątkowo wiarygodnych wiadomości phishingowych lub prób wyłudzenia kolejnych informacji – podkreśla Kamil Sadkowski.
Jak ograniczyć ryzyko wycieku wrażliwych danych?
Eksperci wskazują, iż ryzyko rośnie wraz z liczbą podmiotów przetwarzających dane użytkownika. Im więcej firm ma dostęp do informacji o zdrowiu, tym więcej potencjalnych punktów, w których może dojść do błędu, nadużycia lub incydentu bezpieczeństwa. Sytuację komplikuje również fakt, iż wiele konsumenckich narzędzi AI nie podlega tak rygorystycznym regulacjom jak placówki ochrony zdrowia.
– Dlatego przed skorzystaniem z chatbota AI w sprawach zdrowotnych warto poświęcić chwilę na sprawdzenie polityki prywatności oraz zasad przetwarzania danych. Użytkownicy powinni zwrócić uwagę przede wszystkim na to, czy przekazywane informacje mogą być wykorzystywane do trenowania modeli oraz czy są udostępniane podmiotom trzecim – dodaje Kamil Sadkowski.
Aby ograniczyć ryzyko, warto przede wszystkim zachować ostrożność w udostępnianiu informacji zdrowotnych chatbotom AI. Eksperci ESET wskazują na kilka podstawowych zasad:
- Nie przesyłaj pełnej dokumentacji medycznej ani skanów wyników badań bez wcześniejszego zapoznania się z polityką prywatności usługi.
- Nie podawaj danych identyfikacyjnych (PESEL, adres, pełne imię i nazwisko), które w połączeniu z informacją o chorobie pozwalają podszyć się pod pacjenta i wyłudzić świadczenia.
- Sprawdź w ustawieniach, czy Twoje rozmowy są wykorzystywane do uczenia sztucznej inteligencji i czy możesz usunąć ich historię.
- Zwracaj uwagę, czy Twoje dane mogą być przekazywane innym firmom.
- Pamiętaj, iż skany i zdjęcia wyników mogą zawierać dodatkowe informacje, np. datę, lokalizację oraz dane placówki i lekarza.
- Ograniczaj przekazywane informacje do niezbędnego minimum.
- Traktuj odpowiedzi chatbota jako źródło informacji pomocniczej, a nie diagnozę medyczną.
- Zakładaj, iż każda informacja wpisana do publicznego narzędzia może zostać ujawniona w razie wycieku danych.
Korzystaj z pomocy AI, ale bądź ostrożny!
Sztuczna inteligencja może być pomocnym narzędziem do zdobywania wiedzy i lepszego zrozumienia informacji medycznych. Nie zastępuje jednak lekarza ani profesjonalnej diagnostyki, a korzystanie z niej wymaga takiej samej ostrożności jak w przypadku każdego innego narzędzia przetwarzającego wrażliwe dane.
Newsletter
Chcesz być na bieżąco? Zapisz się!
