Trzy czwarte firm miało już awarię spowodowaną kodem od AI

Trzy na cztery firmy na świecie miały już awarię w systemach produkcyjnych, do której przyczynił się kod napisany przez sztuczną inteligencję, agent AI albo narzędzie oparte na AI. Tak wynika z badania Futurum Group przeprowadzonego wśród 839 menedżerów IT z całego świata, opublikowanego w ramach raportu o rynku inżynierii cyklu życia oprogramowania na drugą połowę 2026 roku.

Badanie, o którym jako pierwszy w Polsce napisał serwis CRN Polska, powstało jako uzupełnienie prognozy rynkowej Futurum Group dotyczącej segmentu Software Lifecycle Engineering. Analitycy szacują, że wart obecnie 111,1 miliarda dolarów rynek narzędzi wspierających cały cykl życia oprogramowania urośnie do 226 miliardów dolarów w 2030 roku, przy średniorocznym tempie wzrostu 15,3 procent. Powodem jest to, że sztuczna inteligencja przestała być tylko asystentem programisty i zaczyna prowadzić większość prac nad kodem samodzielnie.

Skala problemu

Z ankiety wynika, że adopcja AI w programowaniu wyprzedziła nadzór nad nią o całe lata. 75 procent respondentów przyznało, że w ich organizacji doszło do incydentu produkcyjnego, w którym kod generowany przez AI, autonomiczny agent programistyczny albo inne narzędzie oparte na AI było jednym z czynników sprawczych. Co więcej, 42 procent firm zgłosiło, że takie zdarzenia powtarzały się kilkukrotnie w ciągu roku, a jedynie 7 procent ankietowanych menedżerów miało pewność, że w ich firmie nic podobnego się nie wydarzyło.

Autorzy raportu podkreślają, że to nie są odosobnione przypadki drobnych błędów. W 54 procentach badanych organizacji AI odpowiada już za ponad połowę całego cyklu wytwarzania oprogramowania, a 40 procent firm przyznaje, że to właśnie sztuczna inteligencja generuje większość kodu, który trafia ostatecznie na produkcję. Skala wdrożenia rośnie szybciej niż mechanizmy kontroli jakości i bezpieczeństwa, które miałyby ten kod nadzorować.

Luka w nadzorze

Najbardziej niepokojący jest rozdźwięk między tempem adopcji a dojrzałością procesów zarządzania. Zaledwie 43 procent firm wymaga, by kod wygenerowany przez AI był zweryfikowany przez człowieka przed wdrożeniem. Zarządzanie agentami programistycznymi zostało wskazane jako najmniej dojrzała praktyka inżynierska w całej ankiecie - ustandaryzowane lub w pełni opanowane procesy w tym obszarze ma zaledwie 18 procent organizacji.

Rynek wycenia już przejęcie generowania kodu przez AI, ale niedoszacowuje rachunku za jego nadzorowanie - Mitch Ashley, wiceprezes i szef praktyki Software Lifecycle Engineering w Futurum Group

Tytuł samego raportu Futurum Group brzmi wymownie: firmy oddały sztucznej inteligencji klawiaturę, zanim zdążyły zbudować bariery ochronne. Zdaniem analityków to właśnie ta kolejność, najpierw skala, potem kontrola, tłumaczy rosnącą liczbę incydentów zgłaszanych przez menedżerów IT na całym świecie.

Nie pierwszy taki sygnał

Dane Futurum Group nie są odosobnionym głosem. Wcześniej w tym roku Palo Alto Networks opublikował raport State of Cloud Security 2025, oparty na ankiecie wśród ponad 2800 specjalistów bezpieczeństwa z dziesięciu krajów. Wynikało z niego, że 99 procent zespołów korzysta już z generatywnej AI przy tworzeniu kodu, a 99 procent organizacji doświadczyło w ostatnim roku co najmniej jednego ataku wymierzonego w systemy oparte na AI. Ponad połowa firm wdraża nowy kod co tydzień lub częściej, ale tylko 18 procent zespołów bezpieczeństwa potrafi łatać podatności w podobnym tempie.

Większość organizacji dopuszcza korzystanie z narzędzi generatywnej AI do tworzenia kodu. Jednocześnie tylko nieliczne przeprowadziły formalną ocenę ryzyka - Wojciech Gołębiowski, Palo Alto Networks Europa Środkowo-Wschodnia

Co to znaczy dla firm w Polsce

Dla polskich firm, które coraz chętniej wdrażają narzędzia do programowania wspomaganego AI, oba badania są sygnałem, że sama decyzja o dopuszczeniu takich narzędzi do pracy zespołów deweloperskich nie wystarczy. Bez formalnej polityki, obowiązkowego przeglądu kodu przez człowieka i kontroli uprawnień nadawanych agentom, ryzyko przeniesienia błędów na środowisko produkcyjne rośnie proporcjonalnie do tempa, w jakim AI przejmuje pisanie kodu.

Raport Futurum Group wpisuje się też w szerszy trend rosnących wydatków przedsiębiorstw na kontrolę jakości kodu generowanego przez AI. Firmy zaczynają kupować dedykowane narzędzia do skanowania i przeglądu takiego kodu, jednak - jak pokazują liczby - popyt na kontrolę wciąż nie nadąża za tempem, w jakim AI trafia do produkcji.