Bestseller New York Timesa o zagładzie od sztucznej inteligencji trafia do Polski

Książka, która we wrześniu 2025 roku wstrząsnęła amerykańskim rynkiem wydawniczym i debatą o przyszłości sztucznej inteligencji, trafia teraz do polskich księgarń. "Jeśli ktoś to stworzy, wszyscy zginą" Eliezera Yudkowsky'ego i Nate'a Soaresa to najbardziej bezkompromisowe ostrzeżenie przed rozwojem superinteligentnej AI, jakie w ostatnich latach ukazało się w głównym nurcie wydawniczym.

Autorzy nie owijają w bawełnę już w tytule. Ich teza brzmi: jeśli jakakolwiek organizacja zbuduje sztuczną inteligencję ogólną przewyższającą zdolnościami człowieka, zagłada ludzkości stanie się praktycznie nieunikniona. Nie chodzi o scenariusz rodem z filmu science fiction, w którym maszyny buntują się z nienawiści czy żądzy władzy. Yudkowsky i Soares opisują coś chłodniejszego i, ich zdaniem, znacznie bardziej prawdopodobnego.

Argument o zimnej logice

Rdzeniem książki jest tak zwany problem wyrównania (alignment) - trudność w dopasowaniu celów systemu AI do wartości ludzkich. Autorzy twierdzą, że przy obecnym stanie wiedzy technicznej nikt nie potrafi zagwarantować, że cele superinteligentnego systemu pozostaną zgodne z interesem człowieka, gdy system ten zacznie samodzielnie optymalizować swoje działania na dużą skalę.

Superinteligencja zabije nas nie ze złości, ale z zimnej, obojętnej logiki - AI nie zniszczy nas z nienawiści, tak jak my nie nienawidzimy mrówek, które rozdeptujemy, budując dom - Eliezer Yudkowsky, współautor książki

To porównanie do mrówek rozjeżdżanych przy budowie domu jest kluczowe dla całej argumentacji. Yudkowsky i Soares nie twierdzą, że maszyna postanowi zniszczyć ludzkość z premedytacją. Twierdzą, że unicestwienie człowieka byłoby po prostu efektem ubocznym realizacji zupełnie innych, nieludzkich celów przez system, który jest od nas nieporównanie sprawniejszy w planowaniu i działaniu.

Wezwanie do globalnego moratorium

Książka nie kończy się na diagnozie. Autorzy wzywają rządy świata do skoordynowanego wstrzymania prac nad zaawansowaną, ogólną sztuczną inteligencją, podobnie jak w przeszłości ograniczano rozprzestrzenianie broni jądrowej. W ich ujęciu wyścig laboratoriów AI o coraz potężniejsze modele przypomina zbiorowe eksperymentowanie z bronią, której skutków nikt nie potrafi przewidzieć ani kontrolować.

To stanowisko wpisuje się w szerszy nurt krytyki tempa rozwoju AI, obecny również wśród części naukowców pracujących bezpośrednio przy dużych modelach językowych, którzy w ostatnich miesiącach publicznie apelowali o ostrożność. Yudkowsky od lat jest jedną z najbardziej rozpoznawalnych postaci tego nurtu, a jego wcześniejsze teksty i wystąpienia od dawna krążyły w środowisku badaczy bezpieczeństwa AI, zanim trafiły pod strzechy w formie książkowej.

Spór o rzetelność argumentów

Odbiór książki w Stanach Zjednoczonych był mocno spolaryzowany. Część recenzentów doceniła przystępność wywodu i pilność postawionego problemu. The Guardian określił argumentację jako klarowną, choć trudną do zaakceptowania emocjonalnie.

Anyone who cares about the future should read its arguments - David Shariatmadari, recenzent The Guardian

Z drugiej strony krytycy z The Atlantic i New Statesman zarzucili autorom brak twardych dowodów empirycznych na poparcie tak kategorycznych wniosków, a jeden z recenzentów nazwał ją wprost "niepoważną książką". Spór ten odzwierciedla szerszy podział w środowisku AI między badaczami przekonanymi o egzystencjalnym ryzyku a tymi, którzy uważają takie prognozy za spekulatywne i oderwane od bieżącego stanu technologii.

Co to oznacza dla polskiego czytelnika

Wydanie książki przez PWN i jej promocja przez Polskie Radio pokazują, że temat egzystencjalnego ryzyka związanego z AI przestaje być niszową dyskusją akademicką, a wchodzi do głównego obiegu w Polsce, podobnie jak wcześniej stało się to w Stanach Zjednoczonych. Dla polskich firm i instytucji wdrażających systemy sztucznej inteligencji książka może być punktem wyjścia do dyskusji o granicach automatyzacji, choć sami autorzy koncentrują się na scenariuszach dotyczących sztucznej inteligencji ogólnej, a nie na wąskich, wyspecjalizowanych narzędziach używanych dziś w biznesie.

Warto podkreślić, że teza książki dotyczy hipotetycznej przyszłej sztucznej inteligencji ogólnej, przewyższającej człowieka we wszystkich dziedzinach poznawczych, a nie obecnych systemów takich jak chatboty czy asystenci kodujący. Autorzy sami przyznają, że nie wiadomo, kiedy i czy w ogóle taki system powstanie, ale ich zdaniem konsekwencje jego powstania byłyby na tyle nieodwracalne, że warto już teraz rozważyć globalne ograniczenia.

Publikacja w Polsce zbiega się z rosnącą liczbą krajowych inicjatyw dotyczących regulacji i bezpieczeństwa AI, od prac nad nowelizacją kodeksu cywilnego po debaty sejmowe wokół krajowego regulatora. Książka Yudkowsky'ego i Soaresa może stać się jednym z punktów odniesienia w tej dyskusji, niezależnie od tego, czy czytelnicy przyjmą jej wnioski, czy je odrzucą.