Pomysł Hassabisa na samoregulacyjny nadzór nad AI zyskuje poparcie w Waszyngtonie

Demis Hassabis, dyrektor generalny Google DeepMind, opublikował w połowie lipca framework proponujący powołanie niezależnego, amerykańskiego organu do testowania najpotężniejszych modeli sztucznej inteligencji. Pomysł, wzorowany na finansowym regulatorze FINRA, zdążył w ciągu kilku tygodni zdobyć poparcie ludzi, którzy rzadko się ze sobą zgadzają, od Sama Altmana po Elona Muska, a teraz rozważa go również administracja Donalda Trumpa.

Na czym polega propozycja

Nowy organ, roboczo nazywany Frontier AI Standards Body, miałby działać jako samoregulacyjna instytucja finansowana przez same laboratoria AI, podobnie jak FINRA jest finansowana przez domy maklerskie, które nadzoruje. W praktyce oznaczałoby to, że koszty testów bezpieczeństwa ponosiłyby firmy takie jak Google DeepMind, OpenAI czy Anthropic, a nie amerykański podatnik.

Zadaniem instytucji byłoby opracowanie benchmarków określających, które modele kwalifikują się jako frontier AI, prowadzenie niezależnych testów bezpieczeństwa i cyberbezpieczeństwa oraz promowanie standardów takich jak publikowanie kart systemowych modeli. W pierwszej fazie zgłaszanie modeli do testów miałoby być dobrowolne, a firmy zachęcano by do przesyłania ich na 30 dni przed publiczną premierą. Dopiero po wykazaniu skuteczności system mógłby stać się obowiązkowy dla każdego dostawcy chcącego dystrybuować model w Stanach Zjednoczonych.

Kto popiera pomysł

Lista osób, które publicznie pochwaliły propozycję, jest nietypowo szeroka jak na spór o regulacje AI. Sam Altman z OpenAI nazwał ją przemyślaną, podobnie wypowiedział się Elon Musk. Poparcie wyrazili też Mustafa Suleyman i Satya Nadella z Microsoftu, Jack Dorsey z Blocka oraz Aaron Levie z Box.

a thoughtful framework overall and certainly a good starting point for discussions - Elon Musk

Najbardziej znaczące jest jednak stanowisko Davida Sacksa, byłego doradcy administracji Trumpa do spraw AI, który dotąd konsekwentnie sprzeciwiał się jakimkolwiek formom licencjonowania branży. Sacks uznał, że taki model samoregulacji jest lepszy niż próba bezpośredniego regulowania AI przez rząd federalny, co w praktyce otwiera drzwi do politycznej akceptacji pomysłu w Waszyngtonie.

Wątpliwości i krytyka

Krytycy wskazują, że sama FINRA, na której wzorowany jest projekt, ma za sobą historię zarzutów o łagodne traktowanie firm, które ją finansują. Brad Bennett, były szef pionu egzekwowania przepisów w FINRA, przyznał, że część dużych domów maklerskich uznaje okresowe płacenie wielomilionowych kar za tańsze niż rzeczywiste stosowanie się do wymogów regulatora. Analiza SLCG Economic Consulting wykazała też, że w pierwszym roku działania nowych uprawnień FINRA do oznaczania brokerów jako firmy podwyższonego ryzyka nie zastosowano ich wobec żadnej z co najmniej 13 firm spełniających kryteria.

self-regulation is not viable - Nader Henein, analityk Gartnera

Niezależny analityk Carmi Levy określił propozycję jako plan pisany pod interesy branży pędzącej w stronę coraz potężniejszych systemów, a nie realny mechanizm kontroli. Yoshua Bengio z organizacji LawZero popiera samą ideę niezależnego testowania, ale zastrzega, że musi ona zawierać jasną i precyzyjną ścieżkę przejścia od dobrowolności do obowiązkowości, inaczej pozostanie fasadą.

Ruch po stronie administracji

Trzy dni po publikacji tekstu Hassabisa agencja Bloomberg poinformowała, że Biały Dom analizuje własną wersję takiego organu, opracowywaną z udziałem sekretarza skarbu Scotta Bessenta. Projekt trafił do przeglądu u szefowej personelu Białego Domu Susie Wiles, a nowa instytucja miałaby podlegać nadzorowi Komisji Papierów Wartościowych i Giełd (SEC), tak jak FINRA. Według późniejszych doniesień Hassabis lobbował bezpośrednio u Bessenta i dyrektora OSTP Michaela Kratsiosa na rzecz swojego modelu, podczas gdy Departament Skarbu równolegle budował własną, zbliżoną koncepcję.

Dla administracji Trumpa, która wielokrotnie deklarowała sprzeciw wobec systemu licencjonowania AI przez rząd, atrakcyjność propozycji Hassabisa polega właśnie na tym, że koszty ponosiłyby firmy, a nie budżet federalny, a sama instytucja formalnie pozostawałaby poza strukturą agencji rządowej. To pozwala uniknąć politycznie trudnej debaty o powołaniu nowego urzędu regulacyjnego, jednocześnie dając rządowi narzędzie nadzoru nad najpotężniejszymi modelami.

Co to oznacza globalnie

Nawet zwolennicy przyznają, że proponowany system nie objąłby modeli trenowanych specjalnie do celów wojskowych czy rządowych poza jurysdykcją USA, które mogłyby stanowić zagrożenie niezależnie od tego, czy powstanie amerykański odpowiednik FINRA. To pytanie nabiera znaczenia w momencie, gdy Unia Europejska rozwija równolegle własny, znacznie bardziej scentralizowany model nadzoru w ramach AI Act, egzekwowany bezpośrednio przez Komisję Europejską.

Rozbieżność między amerykańskim modelem samoregulacji finansowanej przez branżę a europejskim modelem nadzoru administracyjnego może w praktyce oznaczać, że firmy działające globalnie, w tym dostawcy modeli używanych przez polskie firmy i instytucje, będą musiały spełniać dwa odrębne, niekoniecznie spójne zestawy wymogów bezpieczeństwa. Ostateczny kształt propozycji wciąż nie jest przesądzony, a decyzja należy teraz do Białego Domu.