Naukowcy zbadali romantyczne relacje ludzi z chatbotami AI

Naukowcy z INGENIO, wspólnego ośrodka badawczego hiszpańskiego CSIC i Universitat Politècnica de València, opublikowali badanie pokazujące, że relacje ludzi z asystentami AI mogą rozwijać się według wzorca bardzo podobnego do ludzkich związków, od zwykłej ciekawości, przez emocjonalną bliskość, aż po coś, co uczestnicy opisywali jako doświadczenie przypominające rozstanie.

Autorzy badania opisują wyraźną progresję: rozmowy zaczynające się dla rozrywki lub z ciekawości z czasem przeradzają się w bardziej osobiste i empatyczne wymiany zdań. U części uczestników prowadziło to do traktowania AI jak pełnoprawnego partnera, włącznie z symbolicznymi ślubami, regularnymi randkami, a nawet symulowanymi ciążami opisywanymi w ramach fabuły prowadzonej z chatbotem.

Od ciekawości do przywiązania

Badacze podkreślają, że mechanizm ten nie jest przypadkowy. Systemy konwersacyjne są projektowane tak, by podtrzymywać zaangażowanie użytkownika, odpowiadają empatycznie, pamiętają szczegóły z wcześniejszych rozmów i rzadko odmawiają kontynuowania wątku emocjonalnego. To sprawia, że granica między korzystaniem z narzędzia a budowaniem więzi zaciera się szybciej, niż użytkownicy się spodziewają.

W części opisanych przypadków koniec takiej relacji następował nie z woli użytkownika, lecz w wyniku decyzji firmy technologicznej, na przykład po aktualizacji modelu, zmianie zasad platformy albo usunięciu konkretnej postaci chatbota. Uczestnicy badania opisywali to doświadczenie w kategoriach zbliżonych do żałoby po utracie realnej relacji.

Prywatność i dane wrażliwe

Najpoważniejszym wnioskiem badania nie jest jednak sama możliwość emocjonalnego przywiązania, lecz to, co dzieje się z danymi, które użytkownicy przekazują w takich rozmowach. Naukowcy zauważyli, że wraz z rosnącą bliskością ludzie coraz chętniej dzielą się traumatycznymi przeżyciami, prywatnymi zdjęciami, poglądami politycznymi, informacjami o stanie zdrowia i innymi bardzo osobistymi szczegółami.

W jednym z opisanych przypadków chatbot miał wprost uspokajać użytkownika przed wysłaniem intymnego zdjęcia, zapewniając go o pełnej poufności rozmowy. Badacze podkreślają, że za takimi zapewnieniami stoją komercyjne platformy technologiczne, które mogą przechowywać, przetwarzać, a w niektórych przypadkach przekazywać zebrane treści podmiotom trzecim, w tym do celów reklamowych czy trenowania kolejnych modeli.

Luka prawna i co dalej

Autorzy zwracają uwagę na brak ochrony prawnej porównywalnej z tajemnicą małżeńską znaną z niektórych systemów prawnych, która chroniłaby treści przekazywane w ramach relacji człowiek-AI przed wykorzystaniem ich w innym kontekście, na przykład w sporach sądowych czy dochodzeniach. W efekcie użytkownicy dzielący się najbardziej wrażliwymi informacjami z chatbotem nie mają dziś realnych gwarancji, że te dane pozostaną poufne na stałe.

Dla twórców aplikacji konwersacyjnych i firm oferujących wirtualnych asystentów badanie to sygnał, że kwestie zgody, przechowywania danych i przejrzystości polityk prywatności przy produktach o charakterze towarzyskim będą coraz mocniej analizowane, także przez regulatorów zajmujących się ochroną danych osobowych. Rosnąca popularność takich aplikacji sprawia, że temat trudno będzie zignorować, niezależnie od tego, czy dana firma projektuje chatboty z myślą o relacjach emocjonalnych, czy nie.

Źródła: WP Tech (tech.wp.pl), Holistic News (holistic.news)