Algorytmy kontra dark patterns. UOKiK rozwija nowe narzędzie

Sztuczna inteligencja stanie się nowym narzędziem w walce z nieuczciwymi praktykami w e-handlu. Urząd Ochrony Konkurencji i Konsumentów rozwija projekt, który pozwoli automatycznie identyfikować tzw. dark patterns, czyli manipulacyjne rozwiązania stosowane na stronach internetowych i w aplikacjach zakupowych.

Manipulacyjne techniki w e-handlu

Dark patterns to mechanizmy, które wpływają na decyzje użytkowników, często wbrew ich interesowi. Do najczęstszych należą automatyczne dodawanie produktów do koszyka, domyślnie zaznaczone płatne opcje czy presja czasu sugerująca ograniczoną dostępność ofert. Problemem są także utrudnione procesy rezygnacji z subskrypcji oraz nieczytelne komunikaty, które mogą wprowadzać w błąd. Takie działania wykorzystują naturalne skłonności konsumentów do podejmowania szybkich decyzji.

Sztuczna inteligencja w służbie konsumentów

Projekt realizowany przez UOKiK od 2023 roku ma na celu stworzenie narzędzia AI zdolnego do wykrywania tego typu praktyk. W pierwszym etapie przeanalizowano setki stron internetowych oraz skarg użytkowników, co pozwoliło określić najczęściej występujące schematy manipulacji. Dodatkowo badano kod źródłowy witryn oraz reakcje użytkowników w eksperymentach neuromarketingowych, aby lepiej zrozumieć wpływ tych technik na decyzje zakupowe.

Od testów do wdrożenia

W kolejnej fazie wykorzystano modele językowe, w tym rozwiązania oparte na technologii GPT-4, do stworzenia prototypu narzędzia analizującego interfejsy stron i ich kod. System ma wspierać urząd w skuteczniejszym wykrywaniu naruszeń i reagowaniu na dynamicznie zmieniające się praktyki rynkowe. Projekt jest obecnie rozwijany i testowany, a jego wyniki mają pomóc w wyznaczeniu nowych standardów ochrony konsumentów w cyfrowej rzeczywistości.