Szef DeepMind jedzie do Waszyngtonu przekonywać do nadzoru nad AI wzorowanego na FINRA

Szef Google DeepMind Demis Hassabis wybiera się w przyszłym tygodniu do Waszyngtonu, by osobiście lobbować za swoim planem powołania niezależnej instytucji testującej najpotężniejsze modele sztucznej inteligencji przed ich publiczną premierą. To pierwszy krok od słów do działania w sprawie, którą Hassabis sygnalizował od miesięcy - teraz chce usiąść z amerykańskimi urzędnikami i przekuć koncepcję w konkretny projekt.

Co proponuje Hassabis

Propozycja zakłada powstanie niezależnego, finansowanego przez branżę ciała, które miałoby prawo do rygorystycznego testowania modeli AI zanim trafią one do publicznego użytku. W pierwszej fazie udział byłby dobrowolny - wiodące laboratoria, w tym Google DeepMind, przekazywałyby swoje najnowsze modele do przeglądu na miesiąc przed premierą. Testy miałyby sprawdzać zdolności modeli do autonomicznego działania, obchodzenia zabezpieczeń, oszukiwania użytkowników, przeprowadzania cyberataków oraz potencjał w obszarze broni biologicznej i jądrowej.

W dłuższej perspektywie Hassabis chce, by testowanie stało się obowiązkowe dla każdego modelu dopuszczanego do rynku amerykańskiego, niezależnie od tego, czy powstał w Stanach Zjednoczonych, czy za granicą, i niezależnie od tego, czy jest zamknięty, czy otwartoźródłowy. Instytucja miałaby też uprawnienia do koordynowania spowolnienia prac całej branży, gdyby ryzyko związane z rozwojem modeli gwałtownie wzrosło.

Wzór z Wall Street

Kluczowym elementem koncepcji jest model organizacyjny zapożyczony z sektora finansowego. FINRA, czyli Financial Industry Regulatory Authority, to samorządowy regulator rynku papierów wartościowych w USA, finansowany przez firmy członkowskie, ale działający pod nadzorem Komisji Papierów Wartościowych i Giełd (SEC). Hassabis argumentuje, że podobna struktura - branżowe finansowanie połączone z niezależnością operacyjną i rządowym nadzorem - pozwoliłaby uniknąć zarówno konfliktu interesów, jak i nadmiernej biurokracji typowej dla agencji rządowych.

W skład zarządu nowej instytucji mieliby wejść niezależni eksperci techniczni, przedstawiciele administracji rządowej oraz reprezentanci społeczności open source. Taki skład ma zapewnić, że decyzje nie będą zapadać wyłącznie w interesie wielkich laboratoriów AI, które finansowałyby działanie organizacji.

Doing that in an ad hoc fashion isn't very sustainable - Demis Hassabis, dyrektor generalny Google DeepMind

Dlaczego teraz

Hassabis od miesięcy prowadzi ciche rozmowy z urzędnikami i firmami technologicznymi, w tym z administracją Trumpa, przygotowując grunt pod formalną propozycję. Argumentuje, że presja konkurencyjna między laboratoriami AI może prowadzić do przedwczesnych, niedostatecznie przetestowanych premier, a jednocześnie ostrzega, że groźne zdolności - takie jak pomoc w tworzeniu broni biologicznej czy zaawansowane zdolności cybernetyczne - mogą pojawić się w powszechnie dostępnych, otwartych modelach już w ciągu najbliższych 18 miesięcy.

I'm worried about different types of risks also coming - Demis Hassabis, dyrektor generalny Google DeepMind

Zdaniem Hassabisa dotychczasowe rozmowy o bezpieczeństwie AI toczyły się na zbyt ogólnym poziomie. Jak podkreślił, potrzebne jest coś konkretnego, a nie abstrakcyjnego - stąd decyzja o przedstawieniu szczegółowego planu instytucjonalnego zamiast kolejnej deklaracji dobrej woli.

Reakcje branży

Propozycja spotkała się z ostrożnie przychylnym przyjęciem ze strony konkurentów. Sam Altman, szef OpenAI, określił ją jako przemyślaną, a Elon Musk nazwał ją dobrym punktem wyjścia do dalszej dyskusji. Żaden z nich nie zadeklarował jednak formalnego przystąpienia do inicjatywy, a Waszyngton nie potwierdził dotąd, że planuje nadać takiej instytucji jakąkolwiek formalną podstawę prawną.

Na razie propozycja pozostaje nieformalna - nie ma ustawy, rozporządzenia ani porozumienia międzyrządowego, które nadawałyby jej wiążącą moc. Wizyta Hassabisa w Waszyngtonie ma właśnie to zmienić: przekonać ustawodawców i urzędników administracji, że projekt ma wystarczające poparcie branży, by przełożyć go na realne przepisy lub porozumienie sektorowe.

Znaczenie dla globalnego nadzoru

Gdyby plan Hassabisa się powiódł, powstałaby pierwsza instytucja tego typu z realnym wpływem na to, które modele AI trafiają na rynek amerykański, a pośrednio także globalny - biorąc pod uwagę, że najwięksi dostawcy modeli działają właśnie w USA. Dla europejskich regulatorów, w tym twórców unijnego AI Act, taki mechanizm mógłby stać się punktem odniesienia albo źródłem napięć, jeśli standardy testowania po obu stronach Atlantyku zaczęłyby się rozjeżdżać.

Na razie kluczowe pytanie brzmi, czy administracja USA zechce nadać projektowi jakiekolwiek umocowanie prawne, czy pozostanie on dobrowolną inicjatywą branżową bez realnych sankcji za brak udziału. Kolejne tygodnie, w tym zaplanowane na przyszły tydzień spotkania Hassabisa w Waszyngtonie, powinny pokazać, czy pomysł ma realne poparcie polityczne, czy skończy się na deklaracjach.