Nowości
Geoffrey Hinton popiera brytyjski projekt ustawy zakazujący superinteligencji
Laureat Nagrody Nobla Geoffrey Hinton poparł projekt ustawy zgłoszony 8 września w brytyjskim parlamencie, który ma zakazać rozwoju superinteligentnej AI na Wyspach. Naukowiec ostrzega, że utrata kontroli nad systemami mądrzejszymi od ludzi może doprowadzić do wyginięcia gatunku ludzkiego.
Geoffrey Hinton, określany w branży jako ojciec chrzestny sztucznej inteligencji, poparł projekt ustawy zgłoszony 8 września 2026 roku w Izbie Gmin brytyjskiego parlamentu. Artificial Superintelligence Security Bill ma zakazać rozwoju superinteligentnej AI na terenie Wielkiej Brytanii i zobowiązać rząd do monitorowania technologii, które mogłyby do niej prowadzić.
Co zakłada projekt
Artificial Superintelligence Security Bill w obecnym kształcie zakazuje tworzenia na terenie Wielkiej Brytanii systemów sztucznej inteligencji przewyższających ludzi w praktycznie wszystkich dziedzinach poznawczych. Projekt nakłada też na rząd obowiązek monitorowania i ograniczania technologii uznawanych za bezpośrednich prekursorów takich systemów, zanim jeszcze powstaną.
Drugim filarem ustawy jest dyplomacja. Autorzy chcą, by Wielka Brytania stała się inicjatorem rozmów międzynarodowych zmierzających do globalnego zakazu lub ścisłej regulacji superinteligencji, na wzór traktatów kontrolujących broń masowego rażenia. Dokument przygotowała organizacja ControlAI przy udziale prawnika parlamentarnego, a projekt ma formę tak zwanej private member's bill, czyli ustawy zgłaszanej przez pojedynczego posła, a nie przez rząd.
Głos Hintona
Hinton, laureat Nagrody Nobla z fizyki za 2024 rok i były pracownik Google, od kilku lat publicznie ostrzega przed konsekwencjami niekontrolowanego rozwoju AI. W oświadczeniu towarzyszącym zgłoszeniu ustawy podkreślił, że budowanie systemów przewyższających ludzką inteligencję bez naukowego konsensusu co do bezpieczeństwa jest nieodpowiedzialne.
Bylibyśmy bardzo nierozsądni, rozwijając superinteligencję teraz, gdy nie ma naukowego konsensusu, że da się to zrobić bezpiecznie i w sposób kontrolowany - Geoffrey Hinton, laureat Nagrody Nobla, były pracownik Google
Utrata kontroli nad AI mądrzejszą od nas mogłaby być katastrofalna, a nawet doprowadzić do wyginięcia ludzkości - Geoffrey Hinton
Szerokie poparcie
Hinton nie jest jedynym uznanym badaczem popierającym tego rodzaju regulację. Wśród sygnatariuszy powiązanego apelu ControlAI znajduje się także Yoshua Bengio, razem z Hintonem laureat Nagrody Turinga za pionierską pracę nad sieciami neuronowymi, a także informatyk Stuart Russell z Uniwersytetu Kalifornijskiego w Berkeley. Russell argumentuje, że część firm rozwija technologię niosącą ryzyko egzystencjalne wyłącznie dla zysku, bez zgody społecznej na podejmowane ryzyko.
Poparcia udzielili też ludzie spoza świata nauki: współzałożyciel Apple Steve Wozniak, przedsiębiorca Richard Branson, aktor Joseph Gordon-Levitt oraz pisarz i prezenter Stephen Fry, który porównał zagrożenie superinteligencją do ryzyka nuklearnego. Projekt zyskał deklarowane poparcie ponad stu posłów i lordów reprezentujących różne partie w brytyjskim parlamencie.
Co dalej z projektem
Jako private member's bill projekt ma niewielkie szanse na szybkie przejście przez pełną procedurę legislacyjną bez poparcia rządu, ale autorzy traktują go przede wszystkim jako narzędzie nacisku politycznego i punkt odniesienia w debacie publicznej. Podobne inicjatywy pojawiały się już wcześniej, gdy list otwarty organizacji Future of Life Institute wzywający do wstrzymania trenowania najpotężniejszych modeli AI zebrał ponad 700 podpisów, w tym również Hintona.
Dla polskiego czytelnika sprawa ma znaczenie głównie jako sygnał kierunku debaty regulacyjnej w Europie, równolegle do prac nad unijnym AI Act. Gdyby Wielka Brytania jako pierwsze duże państwo wprowadziła twardy zakaz rozwoju superinteligencji, mogłoby to wpłynąć na dyskusję w Brukseli i innych stolicach, w tym w Warszawie, gdzie trwają prace nad krajową nowelizacją przepisów dotyczących AI.
Krytycy podobnych propozycji zwracają uwagę, że pojęcie superinteligencji nie ma precyzyjnej definicji prawnej, co utrudnia egzekwowanie ewentualnego zakazu, a jednostronne ograniczenia mogą jedynie przesunąć badania do jurysdykcji o luźniejszych przepisach. Zwolennicy odpowiadają, że brak regulacji w ogóle pozostawia decyzje o tempie rozwoju najbardziej ryzykownych systemów wyłącznie w rękach kilku prywatnych firm.
