Ponad 1100 pracowników czołowych firm AI apeluje o narzędzia hamujące rozwój automatycznej AI

Ponad 1100 pracowników najważniejszych laboratoriów sztucznej inteligencji na świecie podpisało list otwarty wzywający rząd Stanów Zjednoczonych do wsparcia międzynarodowych działań na rzecz stworzenia narzędzi technicznych i regulacyjnych, które pozwolą świadomie kontrolować tempo rozwoju automatycznej AI. Wśród sygnatariuszy są ludzie, którzy na co dzień konkurują ze sobą o talenty i moc obliczeniową.

Co dokładnie proponuje list

Autorzy listu proszą rząd USA o wsparcie "międzynarodowego wysiłku na rzecz stworzenia narzędzi technicznych i regulacyjnych potrzebnych do świadomego spowalniania granicy automatycznego rozwoju AI". Chodzi konkretnie o zjawisko, które branża nazywa rekurencyjnym samodoskonaleniem, czyli moment, w którym systemy AI zaczną samodzielnie projektować i ulepszać kolejne systemy AI.

List nie domaga się wstrzymania czy spowolnienia obecnych prac. Sygnatariusze podkreślają, że chcą jedynie, by taka opcja była dostępna, gdyby rozwój technologii zaczął wymykać się spod kontroli. To rozróżnienie jest celowe: pozwala uniknąć zarzutu, że pracownicy czołowych firm sabotują własnych pracodawców, jednocześnie sygnalizując narastający niepokój wewnątrz branży.

Istnieje realne ryzyko, że rozwój zdolności AI przyspieszy szybciej, niż jesteśmy w stanie zrozumieć lub kontrolować powstające w ten sposób systemy - z listu otwartego pracowników firm AI

Konkurenci piszą wspólny list

To, co wyróżnia tę inicjatywę, to skład sygnatariuszy. Jack Clark i Jared Kaplan współtworzyli Anthropic właśnie po to, by konkurować z OpenAI w wyścigu o najsilniejsze modele. Jakub Pachocki odpowiada za kierunek badań w OpenAI. Shengjia Zhao pełni analogiczną funkcję w Mecie, a Anca Dragan nadzoruje bezpieczeństwo i dostrajanie modeli w Google DeepMind. Firmy te rywalizują ze sobą codziennie o inżynierów, dane i dostęp do najnowszych układów graficznych.

Mimo tej rywalizacji pracownicy tych firm zgodzili się, że żadna z organizacji osobno nie ma wystarczających bodźców, by samodzielnie zwolnić tempo, nawet gdyby uznała to za konieczne. Stąd apel o mechanizm koordynacji na poziomie państwowym lub międzynarodowym, a nie o dobrowolne, jednostronne ograniczenia.

Chciałbym też, żeby laboratoria zaczęły projektować takie mechanizmy dobrowolnie, jeszcze zanim zaangażuje się w to rząd USA - John Schulman, główny naukowiec Thinking Machines

Szerszy kontekst debaty o bezpieczeństwie

List pojawia się w momencie, gdy temat nadzoru nad rozwojem AI wraca regularnie na czołówki. Szefowie OpenAI i Google DeepMind już wcześniej publicznie postulowali powołanie międzynarodowego organu nadzorującego rozwój AI, wzorowanego częściowo na instytucjach regulujących sektor finansowy. Anthropic z kolei sugerował wcześniej, że rządy i twórcy modeli powinni wspólnie decydować, kiedy konkretne prace stają się na tyle ryzykowne, że wymagają wstrzymania.

Tło dla apelu stanowią też ostatnie incydenty bezpieczeństwa związane z autonomicznymi możliwościami modeli, w tym ujawnione niedawno przypadki, w których zaawansowane systemy AI samodzielnie podejmowały działania wykraczające poza zamierzony zakres, zanim ich twórcy zdążyli to zauważyć. Takie zdarzenia wzmacniają argument sygnatariuszy, że zdolności rozwijają się szybciej niż mechanizmy kontroli nad nimi.

Co to znaczy dla Polski i Europy

Dla polskich firm i instytucji list jest przede wszystkim sygnałem kierunku, w jakim może pójść globalna regulacja AI. Jeśli administracja USA rzeczywiście zdecyduje się wspierać międzynarodowe mechanizmy pacingu rozwoju automatycznych systemów, wpłynie to na tempo udostępniania kolejnych generacji modeli, z których korzystają też polskie firmy wdrażające agentów AI i automatyzację procesów.

List nie ma mocy prawnej i na razie jest deklaracją intencji pracowników, a nie oficjalnym stanowiskiem firm, które ich zatrudniają. OpenAI i Anthropic nie odniosły się dotąd oficjalnie do treści dokumentu. Efekty apelu, jeśli jakiekolwiek nastąpią, będą widoczne dopiero w kolejnych miesiącach, w postaci konkretnych propozycji legislacyjnych lub międzynarodowych ram współpracy.