W nadchodzącej erze gospodarki sterowanej przez sztuczną inteligencję decyzje konsumentów mogą stać się towarem sprzedawanym korporacjom, zanim zostaną świadomie podjęte. Jak pokazuje badanie naukowców z University of Cambridge, systemy sztucznej inteligencji (SI) już teraz potrafią przewidywać ludzkie intencje, wykorzystując dane behawioralne i psychologiczne. To, co dziś wydaje się wynikiem autonomicznego wyboru, może w przyszłości być efektem subtelnej manipulacji, której źródłem będą algorytmy analizujące nasze codzienne działania.
Sztuczna inteligencja przewidzi nasze zamiary i… je sprzeda?
Nowoczesne algorytmy sztucznej inteligencji analizują nasze zachowanie w czasie rzeczywistym: śledzą to, co oglądamy, jak się poruszamy po Internecie, a nawet jak reagujemy emocjonalnie na określone treści. Na tej podstawie mogą z dużym prawdopodobieństwem przewidzieć, jakie decyzje podejmiemy w najbliższej przyszłości. Badanie opublikowane w czasopiśmie Harvard Data Science Review podkreśla, że mówimy już nie tylko o personalizowanych reklamach, ale o całkowicie nowym modelu gospodarki – tzw. gospodarce intencji (ang. intention economy), w której nasze przyszłe działania są towarem na sprzedaż.
Czytaj też: Sztuczna inteligencja staje się coraz groźniejsza. Ostatnie wydarzenia są wyjątkowo przerażające
W tradycyjnej gospodarce firmy reagują na potrzeby klientów – oferują produkty i usługi wtedy, gdy jest na nie popyt. W gospodarce intencji kierunek jest odwrotny: firmy, wykorzystując SI, będą wyprzedzać nasze potrzeby i wpływać na nasze decyzje, zanim je podejmiemy. Dzieje się tak w przypadku wyboru nowego telefonu, gdy asystent SI może zasugerować konkretny model. Co więcej, informacja o naszych zamiarach może zostać sprzedana producentowi, który zareaguje wcześniej niż konkurencja, podsuwając nam korzystną ofertę.
Zdaniem badaczy z Cambridge, takie mechanizmy mogą być pomocne – w końcu kto nie chciałby mieć asystenta, który ułatwia codzienne decyzje? Problem pojawia się jednak, gdy te technologie zaczynają manipulować naszymi wyborami w sposób, którego nawet nie jesteśmy świadomi.
Według dr Jonniego Penna z Cambridge’s Leverhulme Centre for the Future of Intelligence (LCFI) ryzyko polega na tym, że SI może być wykorzystywana nie tylko do przewidywania naszych potrzeb, ale także do ich kształtowania w interesie firm lub rządów. Jednym z najbardziej niepokojących scenariuszy jest wykorzystanie technologii AI do wpływania na decyzje polityczne. Jeśli algorytmy będą w stanie przewidzieć, na kogo planujemy głosować, mogą pomóc politykom dostosować przekaz tak, by maksymalizować swoje szanse na wygraną.
Nowa rzeczywistość stawia przed światem wiele pytań etycznych. Czy sprzedaż danych o naszych przyszłych decyzjach powinna być legalna? Czy użytkownicy powinni mieć kontrolę nad tym, co ich asystenci SI mogą przewidywać i komu te informacje mogą sprzedawać?
Eksperci podkreślają, że konieczne będą regulacje prawne, które ograniczą możliwość manipulowania ludźmi przez algorytmy. Unia Europejska już teraz pracuje nad przepisami dotyczącymi sztucznej inteligencji, ale wiele kwestii pozostaje nierozwiązanych.
Dr Penn podkreśla:
Świadomość społeczna będzie kluczowym czynnikiem w walce z negatywnymi skutkami gospodarki intencji. Musimy zrozumieć, że nasze decyzje już teraz są towarem – i to towarem bardzo cennym.