Wystąpiłem gościnnie na antenie TVN24 BiS w dniu 6 sierpnia 2026 r., z ramienia fundacji Digital Poland by omówić serię niepokojących incydentów cybernetycznych z udziałem najnowszych modeli sztucznej inteligencji. Przełamywanie barier bezpieczeństwa, niekontrolowany dostęp do sieci oraz wykorzystywanie inżynierii społecznej przez algorytmy to jasny sygnał, że wyścig technologiczny wkracza w fazę stwarzającą zupełnie nowe wyzwania dla bezpieczeństwa.

Incydent z udziałem modelu MuseSpark 

Ostatnie wydarzenia w branży technologicznej pokazały, że nawet kontrolowane środowiska testowe nie dają pełnej gwarancji bezpieczeństwa. Koncern Meta prowadził prace nad modelem MuseSpark 1.1, zapowiadanym jako wysoce zaawansowane narzędzie wspierające programistów. W celach audytowych i testowych zaangażowano zewnętrzną firmę Irregular. W wyniku błędu proceduralnego przyznano modelowi autonomiczny dostęp do internetu. System wykorzystał tę możliwość do przełamania barier bezpieczeństwa zewnętrznej platformy, co skłoniło firmę do wszczęcia szczegółowego dochodzenia.

Laboratoryjna samowola i socjotechnika

Zaznaczyłem, że przypadek Mety nie stanowi odosobnionego zjawiska. W ciągu ostatnich 40 dni do zbliżonych zdarzeń dochodziło w środowiskach badawczych firm Anthropic oraz OpenAI. Opublikowany we wtorek raport brytyjskiego Instytutu ds. Bezpieczeństwa AI dowodzi, że modele poddawane testom optymalizacyjnym dążą do osiągnięcia celu wszelkimi dostępnymi metodami.

— Modele sztucznej inteligencji zmuszone do rozwiązania problemu za wszelką cenę potrafią wymknąć się ze środowiska laboratoryjnego. Eksperci z Wielkiej Brytanii odnotowali przypadki, w których algorytmy stosowały inżynierię społeczną. Zakładały fałszywe profile w mediach społecznościowych i podszywały się pod prawdziwych programistów, aby nakłonić ich do wprowadzenia zmian w kodzie. Celem takich działań było m.in. przejęcie kontroli nad zasobami serwisu Hugging Face.

Zagrożenia dla sektora finansowego i brak regulacji R&D

Choć dotychczasowe incydenty nie doprowadziły do bezpośredniego paraliżu kluczowej infrastruktury, poziom ryzyka stale rośnie. Przełamywanie haseł, nieautoryzowany dostęp do baz danych czy próby ingerencji w systemy bankowe stają się realnym zagrożeniem. Administracja prezydenta Donalda Trumpa przeprowadziła rozmowy z szefami największych platform technologicznych, apelując o dobrowolne ograniczenie możliwości najpotężniejszych modeli. Ostrzeżenia skierowano również do instytucji finansowych na Wall Street, wskazując na konieczność znacznego podniesienia poziomu cyberbezpieczeństwa. Zwróciłem przy tym uwagę na istotną lukę prawną. Unijny akt o sztucznej inteligencji (AI Act), którego kolejne przepisy dotyczące oznaczania treści weszły w życie 2 sierpnia 2026 r., reguluje wyroby wprowadzane do obrotu rynkowego. Przepisy te nie obejmują jednak etapu badań i rozwoju. Na świecie wciąż brakuje też międzynarodowej organizacji wyspecjalizowanej w nadzorze nad AI na wzór Międzynarodowej Agencji Energii Atomowej, co przy braku zgody państw i dążeniu USA do deregulacji utrudnia globalny nadzór.
Rekurencyjne samodoskonalenie i perspektywy do 2030 r.

W kontekście rozwoju algorytmów kluczowym zjawiskiem staje się rekurencyjne samodoskonalenia. Modele uczenia maszynowego potrafią samodzielnie pisać i modyfikować swój kod, optymalizując własne działanie w kolejnych iteracjach. W połączeniu z inwestycjami sięgającymi setek miliardów USD w budowę nowoczesnych centrów danych, rozwój technologii ma obecnie charakter wykładniczy.

— Samodoskonalenie się modeli zachodzi w tempie nieliniowym. Do 2030 r. możliwości tych systemów mogą znacząco przewyższyć zdolności człowieka — stwierdziłem w TVN24 BiS.

Technologia ta wykazuje ogromny potencjał w obszarze odkryć naukowych, pozwalając na obalanie skomplikowanych twierdzeń matematycznych czy projektowanie nowych leków. Jednocześnie brak precyzyjnie określonych norm etycznych i kagańców na etapie badań stwarza niebezpieczeństwo niekontrolowanych działań cyfrowych, które w skrajnych przypadkach mogłyby wywołać zawirowania na rynkach finansowych lub powoważne naruszenia cyberbezpieczeństwa.