Kanadyjski poseł odczytał na mównicy instrukcję wygenerowaną przez chatbota AI

Podczas przemówienia w legislaturze prowincji Nowy Brunszwik w Kanadzie poseł Bill Oliver z Partii Konserwatywnej przeczytał na głos zdanie, które nigdy nie miało trafić do jego mowy. Zamiast fragmentu wystąpienia wypowiedział instrukcję, jaką chatbot AI zostawił mu w tekście po przeredagowaniu notatek.

Co dokładnie powiedział

Nagranie z posiedzenia legislatury Nowego Brunszwiku pokazuje moment, w którym Oliver, mówiąc o zaufaniu publicznym do urzędu rzecznika, nagle wypowiada zdanie brzmiące zupełnie inaczej niż reszta przemówienia. Zamiast argumentu merytorycznego czyta: "Oto bardziej naturalna, płynna wersja tego fragmentu, brzmiąca jak przemówienie w legislaturze, a nie seria krótkich punktów".

To zdanie nie jest fragmentem debaty politycznej, tylko klasyczną metainstrukcją, jaką duże modele językowe dołączają, prezentując użytkownikowi przeredagowany tekst. Innymi słowy, poseł czytał notatkę techniczną chatbota, a nie właściwą treść, którą model dla niego przygotował.

Jak doszło do wpadki

Z ustaleń mediów wynika, że Oliver skorzystał z chatbota AI, by nadać swoim punktom bardziej płynną, mówioną formę przed wystąpieniem. Problem w tym, że do finalnych notatek trafił także komentarz samego narzędzia opisujący, co zrobiło z tekstem - fragment, który powinien zostać usunięty przed wygłoszeniem mowy, a którego nikt nie wychwycił podczas przygotowań.

Według relacji z legislatury błąd powtórzył się dwukrotnie w trakcie tego samego wystąpienia, co sugeruje, że poseł czytał tekst z kartki lub ekranu bez wcześniejszego zapoznania się z całością i bez korekty ze strony biura.

Reakcje w sieci

Wideo z posiedzenia trafiło najpierw na lokalny subreddit poświęcony Nowemu Brunszwikowi, a stamtąd rozeszło się na Threads i inne platformy. Komentujący nie mieli litości dla posła, wskazując na kontrast między oczekiwaniami wobec zwykłych obywateli a niedbalstwem wybieranych przedstawicieli.

Jeśli to nie pociągnie za sobą żadnych konsekwencji, to znaczy, że stawiamy licealistom wyższe wymagania niż naszym wybranym urzędnikom - komentarz użytkownika na Reddicie

Część internautów przywołała wcześniejsze przypadki prawników ukaranych dyscyplinarnie za powoływanie się w pismach procesowych na nieistniejące wyroki wygenerowane przez chatboty, sugerując, że podobne standardy powinny obowiązywać polityków. Pojawiły się też głosy wzywające Olivera do rezygnacji z mandatu.

Szersze tło

Sprawa wpisuje się w rosnącą listę incydentów, w których nieprzejrzana do końca treść wygenerowana przez AI trafia do oficjalnych, publicznych wystąpień - od pism sądowych, przez raporty korporacyjne, po przemówienia polityków. W przeciwieństwie do tekstu pisanego, błąd w mowie wygłaszanej na żywo jest natychmiast słyszalny i trudny do ukrycia.

Kwestię komentowała też kanclerz parlamentu Nowej Zelandii, zaznaczając, że korzystanie z AI do dopracowania sformułowań w pismach jest dopuszczalne, o ile prezentowane poglądy pozostają autentycznie własnymi słowami mówiącego, a nie treścią wygenerowaną i niesprawdzoną. Biuro Olivera do chwili publikacji materiałów źródłowych nie odniosło się do sprawy.

Incydent z Fredericton pokazuje, że najsłabszym ogniwem przy korzystaniu z narzędzi AI bywa etap końcowej korekty, niezależnie od tego, jak dobre jest samo narzędzie. Dla instytucji publicznych, w tym urzędów i samorządów w Polsce coraz częściej testujących chatboty przy przygotowywaniu dokumentów i wystąpień, to przypomnienie, że treść wygenerowaną przez AI trzeba czytać w całości przed użyciem, a nie tylko wkleić do notatek.