W dzisiejszym cyfrowym świecie, gdzie sztuczna inteligencja (AI) odgrywa coraz większą rolę w kształtowaniu naszych decyzji, projektowanie etyczne staje się kluczowym tematem. Podczas Mobile Trends Conference 2024, Katarzyna Szczesna wygłosiła prelekcję na temat Ethical design, czyli jak ekonomia behawioralna może pomóc nam w budowaniu lepszych doświadczeń w czasach AI. Prezentacja ta podkreśliła, jak etyka, ekonomia behawioralna i architektura wyboru mogą wpływać na projektowanie produktów i usług, które szanują użytkowników i tworzą dla nich realną wartość.
Gdzie jesteśmy? Zrozumienie kontekstu
Sztuczna inteligencja wpływa na nasze decyzje, często nieświadomie. AI wykorzystuje techniki podprogowe, które mogą prowadzić do nieświadomego podejmowania decyzji. Z tego powodu coraz częściej zaczynamy mówić o etyce w kontekście nowych technologii, co znajduje odzwierciedlenie w regulacjach prawnych. Polska, negocjując przepisy dotyczące AI, podkreślała, iż każdy system sztucznej inteligencji powinien spełniać trzy najważniejsze warunki:
- Być zgodny z prawem,
- Uwzględniać zasady etyki dla godnej zaufania AI,
- Być bezpieczny i odporny technicznie.
Czy personalizacja to manipulacja? Dane wskazują, iż użytkownicy nie chcą być śledzeni i monitorowani, czują wtedy, iż tracą autonomię. Mimo tego, gdy pytani są, kto powinien podejmować decyzje – człowiek czy AI – zwykle wybierają człowieka. To rodzi pytanie: czy personalizacja, którą oferuje sztuczna inteligencja, jest naprawdę w naszym najlepszym interesie?
Czym jest ekonomia behawioralna?
Ekonomia behawioralna to dziedzina nauki, która bada, jak ludzie podejmują decyzje w rzeczywistych warunkach, często różniących się od założeń tradycyjnej ekonomii. Zamiast zakładać, iż zawsze działamy racjonalnie, ekonomia behawioralna uznaje, iż nasze wybory są często kierowane emocjami, nawykami czy wpływem społecznym.
W praktyce oznacza to, iż decyzje użytkowników mogą być kształtowane przez sposób, w jaki prezentowane są im opcje. Na przykład, kiedy sklep internetowy sugeruje najpopularniejsze produkty, większość klientów podąży za tą rekomendacją, choćby jeżeli nie jest ona najlepszą dla nich opcją.
Etyka w projektowaniu
Katarzyna Szczęsna zwróciła uwagę na słowa Doty Szymborskiej, etyczki nowych technologii, która podkreślała, iż etyka to refleksja nad tym, jak technologia wpływa na nasze życie i społeczeństwo. Etyczne projektowanie opiera się na prawach człowieka i szacunku dla użytkowników produktów i usług.
W świecie designu nie chodzi jedynie o to, jak zaprojektować coś estetycznego czy funkcjonalnego, ale także o to, jakie wartości etyczne przekładamy na nasze projekty. Czy dbamy o to, by użytkownicy mieli pełną kontrolę nad swoimi danymi? Czy szanujemy wysiłek, który wkładają w korzystanie z naszego produktu? Na te pytania powinniśmy odpowiadać, projektując etyczne doświadczenia.
Zachowania – czy tylko od nas zależą?
Jednym z kluczowych elementów ekonomii behawioralnej jest zrozumienie, iż informacja sama w sobie rzadko zmienia nasze zachowanie. To systemy rekomendacji – np. te używane przez platformy streamingowe czy sklepy internetowe – mają ogromny wpływ na nasze wybory.
Ekonomia behawioralna podkreśla, iż na nasze zachowania wpływa wiele nieświadomych czynników, takich jak normy społeczne, preferencje związane z wyborem domyślnym czy emocje związane z określonymi skojarzeniami. To prowadzi nas do koncepcji „choice architecture” – architektury wyboru, czyli sposobu, w jaki układane są opcje dostępne dla użytkownika.
Choice architecture w praktyce
Architektura wyboru polega na takim zaprojektowaniu środowiska, w którym użytkownik podejmuje decyzje, aby wspierać go w podejmowaniu adekwatnych wyborów. Jak podkreśla Szczęsna, niewielkie różnice w konstrukcji opcji mogą prowadzić do dużych różnic w wynikach. Przykładem może być ustawienie domyślnego wyboru, które skłania użytkowników do „pójścia z prądem” bez zastanawiania się nad innymi opcjami.
Model COM-B, który składa się z motywacji, możliwości i zdolności, pokazuje, jak te trzy czynniki wpływają na nasze decyzje. Projektanci, uwzględniając te elementy, mogą lepiej dostosować swoje produkty i usługi, aby pomagać użytkownikom podejmować świadome i korzystne wybory.
Nudges – polskie „kuksańce”
Nudges, czyli delikatne bodźce, które mają na celu skierowanie nas w stronę lepszych wyborów, to koncepcja popularna w ekonomii behawioralnej. Chociaż termin ten w Polsce nie został idealnie przetłumaczony, to idea pozostaje jasna – chodzi o zewnętrzne czynniki, które wpływają na nasze decyzje.
Szczęsna podkreśliła, iż nudges powinny być zrozumiałe, transparentne i zgodne z wartościami użytkowników, aby były etyczne. W projektowaniu nie chodzi o manipulację, ale o wspieranie użytkowników w podejmowaniu lepszych, świadomych decyzji.
Gdzie jesteśmy i dokąd zmierzamy?
Obecnie sztuczna inteligencja i systemy rekomendacji mają ogromny wpływ na nasze decyzje, często w sposób nieświadomy. Jednak mamy możliwość projektowania tego wpływu w sposób etyczny, z poszanowaniem praw użytkowników. Ekonomia behawioralna dostarcza narzędzi, które mogą pomóc projektantom lepiej zrozumieć zachowania ludzi i stworzyć architekturę wyboru, która wspiera użytkowników, zamiast ich ograniczać.
Zgodnie z zasadami etyki AI Act, systemy powinny być zrozumiałe, transparentne i wolne od manipulacji. Informacja sama w sobie nie wystarczy – najważniejsze jest tworzenie systemów, które umożliwiają podejmowanie świadomych decyzji. Ekonomia behawioralna pokazuje, iż małe zmiany w architekturze wyboru mogą prowadzić do wielkich efektów, a etyczne projektowanie jest w zasięgu ręki, jeżeli tylko podejdziemy do tego z odpowiednią wiedzą i intencją.
Nagrania z prelekcji Kasi oraz wystąpienia innych prelegentów dostępne są do zakupienia tutaj!
A jeżeli chciałbyś dowiedzieć się więcej na temat technologii i sztucznej inteligencji to serdecznie zapraszamy na Mobile Trends Conference AI Edition, która odbędzie się w dniach 29-30 października we Wrocławskiej Akademii Biznesu. Tutaj możesz poczytać więcej i kupić bilet.
