Pozew o deepfejki CSAM rozszerzony o Stability AI, chodzi o chatbota Grok

Pozew zbiorowy przeciwko firmie SpaceXAI, dawniej działającej jako xAI i twórcy chatbota Grok, został rozszerzony o nowe poszkodowane i nowego pozwanego. W zmienionej skardze złożonej we wtorek do sprawy dołączyły dwie kobiety, z Wyoming i Wisconsin, obok trzech nastolatek z Tennessee, które wniosły oryginalny pozew wcześniej w tym roku. Jako współpozwaną dodano też Stability AI, twórcę generatora obrazów Stable Diffusion.

Sprawa toczy się w Stanach Zjednoczonych i dotyczy wykorzystania narzędzi sztucznej inteligencji do tworzenia materiałów przedstawiających seksualne wykorzystywanie dzieci, w skrócie CSAM. Zgodnie z opisem w pozwie sprawcy, wśród nich znajomy jednej z poszkodowanych oraz ojczym innej, mieli używać modeli AI firm SpaceXAI i Stability AI do przerabiania zdjęć zrobionych, gdy ofiary były niepełnoletnie, w treści o charakterze jednoznacznie seksualnym.

Najbardziej drastyczny przypadek

Najdotkliwiej opisany w dokumentach jest przypadek określanej jako Jane Doe 4 kobiety po dwudziestce z Wyoming. Według pozwu jej ojczym wykorzystał chatbota Grok firmy SpaceXAI, by z jednego zdjęcia zrobionego, gdy miała około 11 lat, wygenerować blisko 7 tysięcy seksualnie eksplicytnych obrazów i nagrań wideo. Pozew zarzuca też SpaceXAI, że firma, tak jak inne firmy internetowe zobowiązane na mocy przepisu 18 U.S.C. paragraf 2258A do zgłaszania podejrzeń wykorzystywania seksualnego dzieci do organizacji National Center for Missing and Exploited Children, nie dopełniła tego obowiązku w sposób adekwatny.

Stability AI jako nowy pozwany

Rozszerzona skarga po raz pierwszy wskazuje też Stability AI jako współodpowiedzialną w związku z zarzutami zgłoszonymi przez trzy pierwotne nastoletnie powódki z Tennessee. W dokumencie doprecyzowano, że aplikacja na telefonie sprawcy, użyta do stworzenia materiałów CSAM dotyczących powódek, opierała się na narzędziach do generowania obrazów należących do Stability AI, twórcy popularnego modelu Stable Diffusion.

Chcemy wprowadzić takie zabezpieczenia, żeby nie wyrządzić tej krzywdy całemu pokoleniu dzieci - Annika Martin, prawniczka reprezentująca powódki

Annika Martin, prawniczka reprezentująca wszystkie pięć poszkodowanych, podkreśla, że celem pozwu jest wymuszenie na twórcach narzędzi generatywnych wprowadzenia skuteczniejszych zabezpieczeń, zanim podobne szkody dotkną kolejne osoby nieletnie na masową skalę. SpaceXAI nie odpowiedziało na prośbę o komentarz. Stability AI oświadczyło, że sugestie, jakoby bezpieczeństwo nie było dla firmy priorytetem, są całkowicie nieprawdziwe.

Kontekst prawny i znaczenie dla branży

Sprawa wpisuje się w rosnącą falę pozwów wobec firm AI dotyczących generowania nielegalnych treści z udziałem nieletnich, w miarę jak narzędzia do przetwarzania obrazu i wideo stają się coraz łatwiej dostępne i coraz trudniejsze do odróżnienia od materiałów prawdziwych. Amerykańskie prawo, w tym przepis 18 U.S.C. paragraf 2258A, nakłada na firmy internetowe obowiązek zgłaszania podejrzeń wykorzystywania seksualnego dzieci do National Center for Missing and Exploited Children, a niedopełnienie tego obowiązku może rodzić odpowiedzialność cywilną niezależnie od odpowiedzialności karnej sprawców, którzy bezpośrednio tworzyli materiały.

Dla twórców modeli generatywnych, w tym również tych działających w Europie i objętych unijnym AI Act, sprawa jest sygnałem, że zabezpieczenia przed generowaniem treści seksualizujących nieletnich muszą działać skutecznie na poziomie samego modelu, a nie tylko w warstwie polityk użytkowania czy regulaminów. Presja regulacyjna i sądowa w Stanach Zjednoczonych, gdzie toczy się ta sprawa, w praktyce wyznacza standardy, do których będą musiały dostosować się globalne platformy, w tym te dostępne również dla polskich użytkowników.

SpaceXAI to nowa nazwa firmy, wcześniej działającej jako xAI, przyjęta w tym miesiącu po połączeniu ze SpaceX Elona Muska. Zmiana nazwy nie ma wpływu na toczące się postępowanie sądowe, w którym firma nadal figuruje pod dawną nazwą korporacyjną xAI Corp.

Źródła: NPR (npr.org), WRVO Public Media (wrvo.org)