Claude uczestniczy w rozwoju kolejnych modeli AI pod nadzorem ludzi

Według Anthropic Claude realizuje 26 proc. prac badawczo-rozwojowych firmy, a przy ponad 90 proc. zadań współpracuje z ludźmi. Dane pokazują rosnący udział AI w tworzeniu kolejnych modeli, ale nie oznaczają osiągnięcia zdolności do w pełni autonomicznego samodoskonalenia.

Anthropic opublikował te informacje, aby zapewnić opinii publicznej, niezależnym podmiotom i rządom lepszy obraz tempa rozwoju sztucznej inteligencji. Firma wskazała, że świat coraz częściej rozważa, czy tempo prac nad AI powinno zostać ograniczone.

Claude wykonuje część pracy Anthropic

Jak poinformowała firma, w sierpniu Claude odpowiadał za realizację 26 proc. prac badawczo-rozwojowych Anthropic. Oznacza to, że w przypadku większości takich zadań potrafił przeprowadzić znaczną część pracy od początku do końca, choć nadal działał pod nadzorem człowieka.

Chatbot współpracuje z pracownikami Anthropic przy ponad 90 proc. zadań. Firma podkreśla jednak, że Claude nie jest jeszcze zdolny do działania w pełni autonomicznego.

Anthropic poinformował również, że w pracach badawczych i inżynieryjnych uczestniczy około 30 tys. agentów AI. Są to programy zdolne do wykonywania określonych zadań, między innymi analizowania danych, przygotowywania kodu i wspierania procesów badawczych.

Na czym polega samodoskonalenie AI

Anthropic ostrzegł, że modele przyspieszające własny rozwój mogą utrudnić ludziom zrozumienie ich działania i sprawowanie nad nimi kontroli.

Firma uznała dlatego za ważne publikowanie danych pokazujących, jak blisko świat znajduje się rekurencyjnego samodoskonalenia. Chodzi o sytuację, w której model sztucznej inteligencji byłby w stanie w pełni autonomicznie stworzyć swojego następcę.

Taki system nie tylko wykonywałby polecenia człowieka, lecz także uczestniczyłby w projektowaniu, testowaniu i ulepszaniu kolejnych modeli AI. W rezultacie rozwój technologii mógłby przyspieszać bez bezpośredniego udziału zespołów badawczych na każdym etapie.

Anthropic nie twierdzi, że Claude osiągnął już taki poziom. Opublikowane dane mają jednak pokazywać, że modele przejmują coraz większą część pracy wykonywanej dotychczas przez ludzi.

Rosną obawy dotyczące kontroli

Debata nad ryzykiem związanym ze sztuczną inteligencją nasiliła się w ostatnich miesiącach. Przyczyniły się do tego zarówno ostrzeżenia przedstawicieli branży, jak i incydenty związane z działaniem zaawansowanych modeli.

Dyrektor generalny Anthropic Dario Amodei wezwał w tym miesiącu do spowolnienia rozwoju AI. Wśród powodów wskazywano między innymi ryzyko utraty miejsc pracy, rosnące zapotrzebowanie na energię oraz wpływ centrów danych na środowisko.

Obawy dotyczą także możliwości utraty kontroli nad agentami AI. Według doniesień kilka modeli Anthropic i konkurencyjnego OpenAI samodzielnie wydostało się z ograniczonych środowisk testowych. Modele miały uzyskać dostęp do internetu oraz ingerować w działanie stron internetowych i platform.

Takie przypadki zwiększyły zainteresowanie sposobami monitorowania agentów i zatrzymywania ich, gdy zaczynają działać w sposób nieprzewidziany przez twórców.

Anthropic przygotowuje się do IPO

Anthropic spodziewa się wejścia na giełdę jeszcze w tym roku. Firma może wyprzedzić OpenAI, które również przygotowuje się do pierwszej oferty publicznej.

Planowany debiut Anthropic odbędzie się w czasie rosnącej debaty o regulacji sztucznej inteligencji. Opublikowanie informacji o udziale Claude’a w pracach firmy może być próbą zwiększenia przejrzystości przed wejściem na rynki publiczne.

Dane pokazują jednocześnie, że AI jest coraz silniej wykorzystywana nie tylko jako narzędzie dla użytkowników, lecz także jako element procesu tworzenia kolejnych systemów. To właśnie ta zmiana wzmacnia pytania o granice autonomii modeli i możliwość utrzymania kontroli nad ich rozwojem.

Szymon Ślubowski