Za każdym razem, gdy otwieramy przeglądarkę internetową, w ułamku sekundy rozgrywa się niewidzialna, niezwykle skomplikowana aukcja, której stawką jest nasza uwaga. Choć lubimy myśleć o sobie jako o w pełni racjonalnych konsumentach i niezależnych myślicielach, nasza wirtualna rzeczywistość jest nieustannie reżyserowana przez zaawansowane systemy sztucznej inteligencji. To one decydują o kolejności wyświetlanych postów, rekomendują filmy na wieczór i podsuwają produkty, o których zakupie zaledwie przed chwilą pomyśleliśmy. Sieć przestała być biernym katalogiem informacji; stała się proaktywnym, uczącym się środowiskiem, które potrafi przewidzieć nasze zachowania z fascynującą, a zarazem nieco przerażającą precyzją. Zrozumienie, jak od strony biznesowej i naukowej działają systemy rekomendacji oraz bańki filtrujące, to jedyny sposób, aby odzyskać choć część sprawczości w świecie, w którym nasz cyfrowy ślad i tożsamość w sieci są nieustannie analizowane przez bezduszny kod.
Architektura przewidywania: Jak działają systemy rekomendacyjne?
Z biznesowego punktu widzenia, celem każdej dużej platformy cyfrowej – niezależnie od tego, czy jest to sklep internetowy, czy serwis streamingowy – jest maksymalizacja czasu spędzonego przez użytkownika w obrębie danej usługi oraz zwiększenie tak zwanej wartości życiowej klienta (Customer Lifetime Value). Aby to osiągnąć, technologiczni giganci zatrudniają potężne modele uczenia maszynowego.
Matematyka ludzkich pragnień
Fundamentem działania sztucznej inteligencji w e-commerce i mediach są algorytmy filtrowania kolaboratywnego (collaborative filtering) oraz analizy behawioralnej. System nie tylko analizuje to, co ostatecznie włożyliśmy do wirtualnego koszyka, ale przede wszystkim bada nasze wahania. Mierzy czas, przez jaki kursor myszy był zawieszony nad konkretnym zdjęciem, rejestruje, w którym momencie zatrzymaliśmy przewijanie ekranu smartfona i analizuje, po ilu sekundach zrezygnowaliśmy z oglądania materiału wideo. Następnie sztuczna inteligencja zderza ten unikalny, mikroskopijny profil zachowań z miliardami podobnych wzorców innych użytkowników na całym świecie. Jeśli algorytm zauważy, że osoby o podobnej dynamice kliknięć i historii wyszukiwania kupiły określoną książkę lub zarezerwowały konkretny hotel, natychmiast wyświetli nam tę samą ofertę. Z punktu widzenia biznesu to niezwykle opłacalna optymalizacja konwersji; z naszej perspektywy to magia, która sprawia, że internet wydaje się czytać w naszych myślach.
Od inspiracji do automatyzacji decyzji
Współczesna sztuczna inteligencja przeszła od etapu prostego reagowania na nasze zapytania do etapu aktywnego kreowania naszych potrzeb. Algorytmy doskonale wiedzą, że decyzje zakupowe rzadko są w stu procentach logiczne – często wynikają ze zmęczenia, spadku nastroju lub chwilowego impulsu. Analizując nasz rytm dobowy i aktywność w sieci, systemy te potrafią zidentyfikować momenty, w których jesteśmy najbardziej podatni na sugestie. To właśnie dlatego reklama wycieczki na egzotyczną wyspę pojawia się na naszym ekranie w deszczowy, wtorkowy wieczór, po długim i frustrującym dniu w biurze. Zjawisko to potęguje iluzja perfekcji w mediach społecznościowych, która dostarcza nam gotowych, wyidealizowanych obrazków życia, jakiego rzekomo powinniśmy pragnąć, podczas gdy algorytmy natychmiast podstawiają nam pod nos produkty niezbędne do osiągnięcia tego wykreowanego ideału.
Niewidzialne klatki: Anatomia bańki filtrującej
O ile personalizacja w sklepach internetowych może być postrzegana jako wygodne ułatwienie, o tyle zastosowanie tych samych mechanizmów do dystrybucji informacji i wiadomości ze świata niesie ze sobą ogromne koszty psychologiczne i społeczne. Tutaj wkraczamy w niebezpieczny obszar tak zwanych baniek filtrujących (filter bubbles).
Komfort psychologiczny a zniekształcenie rzeczywistości
Ludzki mózg naturalnie dąży do unikania dysonansu poznawczego, czyli nieprzyjemnego napięcia wynikającego z konfrontacji z poglądami sprzecznymi z naszymi własnymi. Algorytmy doskonale o tym wiedzą. Ich zadaniem nie jest dostarczanie nam obiektywnej, wyważonej prawdy, lecz utrzymanie nas przed ekranem. Najprostszym sposobem na osiągnięcie tego celu jest serwowanie nam treści, z którymi z góry się zgadzamy i które potwierdzają nasze dotychczasowe przekonania. W ten sposób sztuczna inteligencja tworzy wokół każdego z nas niewidzialną, informacyjną bańkę. Z biegiem czasu przestajemy widzieć argumenty drugiej strony sporu politycznego czy społecznego, ponieważ system uznał, że mogłyby one wywołać naszą frustrację i skłonić do zamknięcia aplikacji.
Społeczne koszty algorytmicznej izolacji
Długotrwałe przebywanie w takiej informacyjnej izolacji prowadzi do drastycznej polaryzacji społeczeństwa. Będąc otoczonymi wyłącznie przez artykuły, komentarze i filmy potwierdzające naszą wizję świata, zaczynamy nabierać mylnego przekonania, że jest to wizja absolutna i powszechnie akceptowana. Każdy odmienny pogląd zaczyna wydawać się nie tylko błędny, ale wręcz absurdalny i niebezpieczny. Zrozumienie, że nasz feed to nie obiektywne okno na świat, lecz krzywe zwierciadło dostosowane do naszych słabości, jest absolutnie fundamentalne dla zachowania zdolności do krytycznego myślenia.
Odzyskiwanie sprawczości w epoce sztucznej inteligencji
Nie jesteśmy w stanie całkowicie wyłączyć algorytmów, ponieważ stanowią one tkankę łączną współczesnego internetu, bez której nawigacja w oceanie danych byłaby niemożliwa. Możemy jednak nauczyć się świadomie z nimi współpracować, wprowadzając do naszego życia zasady oparte na solidnej higienie cyfrowej w praktyce.
Najprostszą metodą na rozbicie bańki filtrującej jest celowe „hakowanie” własnego profilu algorytmicznego. Oznacza to intencjonalne wyszukiwanie i czytanie artykułów z serwisów, z którymi na co dzień się nie zgadzamy, aby zmusić system do poszerzenia spektrum rekomendacji. Warto regularnie czyścić pliki cookies, korzystać z trybu incognito przy wyszukiwaniu wrażliwych lub polaryzujących informacji oraz wyłączać opcje skrajnej personalizacji reklam w ustawieniach kont społecznościowych. Sztuczna inteligencja jest potężnym narzędziem, ale to my ostatecznie decydujemy, czy pozwolimy jej być naszym wirtualnym przewodnikiem, czy też bezkrytycznym treserem naszych nawyków i poglądów.
