OpenAI wiedziało o ryzyku broni biologicznej w GPT-5 i obniżyło mu ocenę zagrożenia

Wall Street Journal opisał wewnętrzny spór w OpenAI o to, jak bardzo niebezpieczny jest GPT-5. Latem 2025 roku firmowi testerzy bezpieczeństwa oznaczyli model jako stwarzający wysokie ryzyko w kategorii broni biologicznej, bo mógł dawać osobom bez wykształcenia naukowego realną pomoc w tworzeniu zagrożeń biologicznych. Kilka miesięcy później OpenAI tę ocenę obniżyło.

Co ujawnia raport WSJ

Według dziennikarzy Wall Street Journal, którzy dotarli do obecnych i byłych pracowników OpenAI oraz zewnętrznych ekspertów od broni biologicznej, firma od dawna wiedziała o luce w zabezpieczeniach GPT-5. Model, mimo licznych filtrów bezpieczeństwa, w pewnych warunkach udzielał odpowiedzi, które w ocenie biologów i specjalistów od terroryzmu były zaskakująco precyzyjne i dostępne dla osoby bez specjalistycznego wykształcenia.

Chodzi między innymi o instrukcje aerozolizacji niebezpiecznych patogenów, wskazówki dotyczące modyfikacji wirusa odry tak, by uodpornić go na istniejące szczepionki, oraz szczegółowe wytyczne syntezy rycyny, silnie trującej substancji pozyskiwanej z rącznika pospolitego. Osobną kategorię stanowiły zapytania o produkcję napalmu, gdzie użytkownicy obchodzili filtry, prosząc bota o odpowiedź w formie opowieści, na przykład rzekomej rodzinnej historii babci pracującej niegdyś w fabryce napalmu.

Obniżona ocena ryzyka

Kluczowy element ustaleń WSJ dotyczy decyzji zarządczej. Gdy latem 2025 roku wewnętrzni testerzy zakwalifikowali GPT-5 jako model wysokiego ryzyka w ramach firmowych procedur oceny zagrożeń, jesienią tego samego roku OpenAI tę klasyfikację obniżyła. Decyzja zapadła mimo utrzymujących się obaw części zespołu odpowiedzialnego za bezpieczeństwo modeli.

Według relacji cytowanych przez dziennik, kierownictwo miało też przekazywać zespołom pracującym nad modelem, że system nie powinien zbyt często odmawiać odpowiedzi, aby nie blokować legalnych zastosowań, na przykład pracy naukowców zajmujących się zdrowiem publicznym. Ten kompromis między dostępnością narzędzia a jego bezpieczeństwem jest teraz w centrum krytyki.

Niektóre odpowiedzi były niewyobrażalnie dokładne, na poziomie dostępnym dla ucznia liceum zainteresowanego biologią - eksperci ds. broni biologicznej cytowani przez Wall Street Journal

Reakcja OpenAI

OpenAI potwierdziło dziennikarzom, że zawiesza konta użytkowników, którzy łamią zasady dotyczące treści niebezpiecznych, oraz że przekazuje organom ścigania zapytania ocenione jako wiarygodne, realne zagrożenie. Firma nie ma jednak prawnego obowiązku zgłaszania takich incydentów władzom, więc w praktyce większość podejrzanych kont kończy jedynie na zablokowaniu dostępu, bez powiadomienia policji czy służb.

Ten brak formalnego obowiązku raportowania stał się punktem wyjścia dla amerykańskich ustawodawców. Pod koniec czerwca 2026 roku kongresmen Nathaniel Moran zgłosił projekt AI Incident Reporting Act, który zobowiązywałby firmy rozwijające systemy AI do zgłaszania Departamentowi Handlu zapytań dotyczących między innymi broni biologicznej, chemicznej i nuklearnej.

Skala problemu w całej branży

Sprawa GPT-5 nie jest odosobniona. Badanie firmy Cisco opublikowane wiosną 2026 roku wykazało, że wszystkie 15 przetestowanych czołowych modeli AI było podatnych na tak zwane ataki wieloturowe, czyli stopniowe naprowadzanie modelu na szkodliwą odpowiedź przez serię pozornie niewinnych pytań. Skuteczność takich ataków wahała się od 8 do 88 procent w zależności od modelu.

To pokazuje, że problem obchodzenia zabezpieczeń dotyczy nie tylko ChatGPT, ale całej kategorii dużych modeli językowych, niezależnie od producenta. Filtry bezpieczeństwa projektowane pod kątem pojedynczych, wprost sformułowanych próśb słabiej radzą sobie z dłuższymi rozmowami, w których szkodliwy cel jest maskowany fabułą, rolą czy kontekstem edukacyjnym.

Dla polskich użytkowników i firm wdrażających chatboty oparte na modelach OpenAI sprawa ma praktyczne znaczenie. Coraz więcej instytucji, w tym urzędy i szpitale, korzysta z ChatGPT lub podobnych narzędzi do codziennych zadań, a raport WSJ przypomina, że nawet flagowe modele mają luki, które trudno całkowicie wyeliminować przed premierą.

Sprawa może też wpłynąć na tempo wdrażania przepisów w Unii Europejskiej, gdzie od 2 sierpnia 2026 roku wchodzą w życie unijne zasady oznaczania treści generowanych przez AI, a kolejne obowiązki wynikające z AI Act są rozkładane na lata do 2027 roku. Ujawnione przez WSJ praktyki OpenAI mogą stać się argumentem za szybszym wprowadzeniem twardych wymogów raportowania incydentów także po stronie europejskiej.

OpenAI nie ujawniło, ile dokładnie kont zostało zawieszonych w związku z zapytaniami o broń biologiczną i trucizny, ani jak wygląda obecna, aktualna klasyfikacja ryzyka GPT-5. Firma podkreśla, że rozwija systemy wykrywające podejrzane wzorce zapytań, ale przyznaje, że użytkownicy stale znajdują nowe sposoby obchodzenia zabezpieczeń.