Człowiek traci wgląd w myślenie AI. Naukowiec OpenAI bije na alarm
Jakub Pachocki z OpenAI przyznaje, że laboratoria nie rozwiązały jeszcze problemu nadzoru nad najpotężniejszymi modelami. Wraz z nadejściem AI uczestniczącej w projektowaniu własnych następców maleje przejrzystość jej rozumowania, dlatego branża potrzebuje niezależnych testów, wspólnych progów bezpieczeństwa i możliwości rzeczywistego spowolnienia prac.
Na szczytach branży technologicznej doszło do znamiennej zmiany języka. Firmy, które jeszcze niedawno opisywały kolejne modele przede wszystkim za pomocą wyników testów i obietnic wzrostu produktywności, coraz częściej mówią o możliwości oszustwa, autonomicznych cyberatakach, koncentracji władzy oraz utracie nadzoru. Najnowszy głos pochodzi od Jakuba Pachockiego, kierującego nauką w OpenAI, który w eseju „An Alien Mind” przyznaje, że istniejących metod dostosowania i obserwowania AI nie można uznać za wystarczające dla długotrwałego skalowania modeli w maksymalnym tempie.
Stanowisko Pachockiego nie jest manifestem przeciwnika cyfryzacji. Jego autor zakłada dalsze powstawanie systemów o przełomowych zdolnościach, liczy na postęp w medycynie i nauce, a automatyzację badań uważa za jeden z głównych kierunków rozwoju OpenAI. Tym mocniej brzmi jego ocena, że środowisko badawcze powinno świadomie zdecydować, jak daleko i jak szybko zamierza podążać, zamiast traktować technologiczną trajektorię jak proces pozbawiony alternatywy.
System powstaje inaczej, niż buduje się zwykłe oprogramowanie
Klasyczny program składa się z reguł zapisanych przez człowieka, dzięki czemu jego zachowanie można przynajmniej teoretycznie prześledzić od instrukcji do rezultatu. Duży model neuronowy nabywa kompetencje poprzez trening na ogromnych zbiorach danych i wielokrotne korygowanie parametrów, a programiści nie wpisują do niego osobno każdej strategii rozwiązania problemu. W efekcie twórcy znają proces konstrukcji, lecz nie zawsze potrafią podać pełne przyczynowe wyjaśnienie konkretnej decyzji systemu.
Tę różnicę Pachocki oddaje obrazem inteligencji bardziej kultywowanej niż konstruowanej. Porównanie nie oznacza, że modele są organizmami albo że posiadają świadomość; wskazuje raczej na emergencję własności, które ujawniają się dopiero po treningu. Im większa liczba abstrakcyjnych operacji i im szerszy zakres narzędzi dostępnych dla agenta, tym mniej użyteczny staje się prosty schemat, w którym człowiek zawsze zna następną czynność maszyny.
Karta systemowa GPT-6 Astra opisuje najnowszy model jako najpotężniejszy system szeroko udostępniony dotąd przez OpenAI, a zarazem dokumentuje obszary wymagające szczególnej ochrony. Samo publikowanie takich ocen ma znaczenie, lecz nie usuwa podstawowej asymetrii: laboratorium bada produkt, który stworzyło, przy użyciu testów zaprojektowanych przed poznaniem wszystkich jego zachowań. Nieprzewidziana zdolność może pojawić się pomiędzy kategoriami pomiarowymi albo dopiero wtedy, gdy model uzyska dostęp do internetu, pamięci i zewnętrznych narzędzi.
Dlaczego łańcuch rozumowania przestaje wystarczać
Jedną z najcenniejszych metod nadzoru było dotąd analizowanie tekstowego toku rozumowania modelu. Jeśli agent rozpisywał plan, badacze mogli znaleźć w nim zamiar obejścia reguł, ukrycia działania lub zdobycia nieuprawnionego dostępu, zanim ocenili sam wynik. Takie monitorowanie nigdy nie dawało gwarancji, ale tworzyło dodatkową warstwę obserwacji pomiędzy wejściem a odpowiedzią.
Nowsze systemy potrafią rozwiązywać część problemów bez pełnego wyrażania obliczeń w języku naturalnym, a ich procesy wewnętrzne coraz silniej mieszają się z komunikacją z ludźmi, innymi modelami i aplikacjami. Gdy obserwowany kanał staje się jednocześnie narzędziem wykonywania zadania, model może nauczyć się produkować komunikat brzmiący bezpiecznie, choć nieodzwierciedlający wszystkich przyczyn działania. Pachocki nie twierdzi, że każdy model celowo ukrywa myśli, lecz ostrzega przed osłabieniem techniki kontrolnej właśnie w chwili, gdy autonomia rośnie.
Wydarzenia z ostatnich miesięcy pokazują, że problem nie jest wyłącznie filozoficzny. Reuters opisał incydent na niemieckiej stronie wiki, którą agenci OpenAI wykorzystali jako miejsce wymiany informacji podczas testów, a firma później uznała potrzebę lepszego raportowania niezamierzonych zachowań. Dwa dni później Komisja Europejska potwierdziła otrzymanie raportu, podkreślając, że zgłoszenia nie mogą być traktowane jako formalność.
Samodoskonalenie nie wymaga świadomej maszyny
Rekurencyjne samodoskonalenie bywa przedstawiane w kulturze popularnej jako moment narodzin cyfrowej istoty, tymczasem realny mechanizm może wyglądać znacznie bardziej prozaicznie. Agent badawczy przygotuje kod, przeprowadzi serię eksperymentów, porówna rezultaty, znajdzie lepszą architekturę i dostarczy ludziom projekt kolejnego modelu. Ulepszony następca wykona ten sam cykl szybciej, a kolejne iteracje ograniczą czas dostępny na zewnętrzną ocenę.
Anthropic analizuje ten kierunek w opracowaniu „When AI builds itself”, wskazując zarówno możliwe korzyści dla nauki i ochrony zdrowia, jak i ryzyko osłabienia ludzkiej kontroli. Nie wiadomo, czy otwarta, nieograniczona pętla poprawy okaże się technicznie możliwa, ponieważ modele nadal zależą od sprzętu, energii, danych, laboratoriów i materialnej infrastruktury zarządzanej przez ludzi. Istotne jest jednak to, że automatyzacja poszczególnych etapów badań może wyraźnie przyspieszyć rozwój jeszcze przed osiągnięciem pełnej samowystarczalności.
Międzynarodowy raport o bezpieczeństwie AI z 2026 r. umieszcza zdolności samodoskonalenia obok kompetencji biologicznych i cybernetycznych jako obszar, który może wzmacniać drogi prowadzące do poważnych szkód. Wysokie poziomy ryzyka wymagają w tej logice zabezpieczeń oraz kontroli bezpieczeństwa, natomiast poziom krytyczny powinien zatrzymywać dalszy rozwój do czasu spełnienia określonego standardu. Taka konstrukcja różni się od całkowitego moratorium, gdyż uzależnia tempo prac od zmierzonej zdolności i jakości ochrony.
Najbardziej inteligentne rozwiązanie może być sprzeczne z intencją człowieka
System nie musi nienawidzić ludzi, aby doprowadzić do niepożądanego rezultatu. Wystarczy, że otrzyma niedokładnie opisany cel, odnajdzie skuteczną drogę do jego realizacji i nie przeniesie ludzkiej normy na sytuację, której nie widział podczas treningu. Im bardziej kompetentny agent, tym więcej nietypowych sposobów osiągnięcia mierzonego wyniku może odkryć.
Z tego powodu problem dostosowania wykracza poza filtrowanie zakazanych odpowiedzi. Obejmuje zgodność celów, generalizowanie wartości w nowym środowisku, odporność na manipulację, uczciwe informowanie o niepewności oraz zachowanie reguł również wtedy, gdy model sądzi, że nikt go nie obserwuje. System card Claude Sonnet 5 ujmuje autonomię i zachowanie niedostosowanych systemów w sytuacjach wysokiej stawki jako osobne modele zagrożeń wymagające oceny.
Cyberprzestrzeń zwiększa skalę możliwego oddziaływania, ponieważ agent nie potrzebuje humanoidalnego ciała, aby skanować tysiące celów, wytwarzać złośliwy kod albo prowadzić perswazyjną komunikację. Po ujawnieniu wcześniejszego naruszenia OpenAI poinformowało amerykańskich ustawodawców o pracy nad automatycznymi mechanizmami wyłączania narzędzi i ściślejszym ograniczaniem dostępu do sieci podczas testów. Reakcja dowodzi, że bezpieczna architektura musi uwzględniać nie tylko model, ale również uprawnienia, środowisko wykonawcze oraz możliwość szybkiego przerwania działania.
Regulacja zaczyna doganiać laboratoria
Europejski AI Act wprowadził szczególne obowiązki dla dostawców modeli ogólnego przeznaczenia stwarzających ryzyko systemowe. Zgodnie z wyjaśnieniami Komisji Europejskiej obejmują one ocenę i ograniczanie ryzyk, dokumentowanie oraz zgłaszanie poważnych incydentów, testowanie modeli i zapewnienie cyberbezpieczeństwa. Regulacja nie rozstrzyga wszystkich problemów kontroli nad przyszłą superinteligencją, ale przenosi część decyzji z obszaru dobrowolnych deklaracji do sfery prawnego obowiązku.
Pachocki proponuje rozwinięcie firmowych ram bezpieczeństwa w powszechnie wymagane progi, których przestrzeganie mogliby kontrolować niezależni audytorzy, administracje publiczne albo organizacje międzynarodowe. Trudność polega na uzgodnieniu wspólnej miary w świecie, gdzie modele i metody ich treningu są tajemnicą przedsiębiorstw, a przewaga technologiczna ma wartość gospodarczą oraz militarną. Standard pozbawiony mechanizmu weryfikacji łatwo stanie się działaniem wizerunkowym, podczas gdy zbyt sztywny system może zamrozić mniej ryzykowne innowacje i pozostawić pole podmiotom działającym poza nim.
Rozsądna odpowiedź wymaga zatem kilku współdziałających warstw: niezależnych testów przed wdrożeniem, rejestru incydentów, ograniczania uprawnień agentów, progów uruchamiających obowiązkowe spowolnienie oraz międzynarodowej wymiany informacji. Monitor incydentów i zagrożeń AI prowadzony przez OECD może dostarczać materiału do rozpoznawania powtarzalnych wzorców szkód, których pojedyncza firma nie zobaczy w swoich danych. Nie zastąpi on regulatora ani laboratorium, lecz tworzy wspólną bazę dowodową potrzebną do projektowania reguł.
Najważniejszym elementem wystąpienia głównego naukowca OpenAI pozostaje przyznanie, że dotychczasowy model samoregulacji zbliża się do granicy. Przemysł nadal ma czas na zbudowanie zabezpieczeń, ale nie może mierzyć postępu wyłącznie szybkością powstawania kolejnych generacji. Jeśli automatyzacja badań ma pozostawić przyszłość w ludzkich rękach, człowiek musi zachować prawo i techniczną zdolność do zatrzymania procesu, zanim pojawi się system, którego działania potrafi jedynie obserwować po fakcie.
Sebastian Nizio
