Agenci AI potrzebują zasad współpracy i odpowiedzialności za decyzje

Agenci AI mogą działać w imieniu użytkowników i komunikować się z innymi systemami. Prof. Nick Jennings wskazuje, że rozwój takich sieci wymaga jasnych zasad współpracy, rozstrzygania sporów i odpowiedzialności za skutki decyzji.

Od odpowiedzi do działania

Jennings, rektor Uniwersytetu Loughborough i badacz systemów wieloagentowych, przedstawił swoją koncepcję w tekście dla „The Conversation”, opublikowanym 10 września 2026 r. Jego zdaniem przyszłość AI będzie zależeć również od tego, jak wiele systemów poradzi sobie ze wzajemnymi zależnościami.

Agent to program, który zbiera informacje, wybiera działania i korzysta z dostępnych narzędzi, aby realizować określony cel. Współczesne systemy mogą między innymi wyszukiwać dane, uruchamiać kod i komunikować się z innymi usługami. Zakres ich samodzielności zależy od konstrukcji systemu i przyznanych uprawnień.

Autor wyobraża sobie sytuację, w której agent klienta negocjuje warunki kredytu z agentem banku albo zmienia podróż, uzgadniając rezerwacje z systemami linii lotniczych i hoteli. Są to przykłady możliwych zastosowań, a nie opis usług powszechnie dostępnych. Pokazują kierunek rozwoju AI jako infrastruktury łączącej wiele dziedzin gospodarki.

Dobry wynik jednego agenta nie wystarczy

Jennings ilustruje problem przykładem łańcucha dostaw. Agent producenta miałby pozyskiwać części, agent dostawcy dążyć do zwiększania przychodów, a kolejne systemy organizować transport i magazynowanie. Ich właściciele mogą mieć odmienne interesy, a żaden uczestnik nie musi dysponować pełną informacją.

Każdy program może poprawnie wykonywać swoje zadanie, ale dopiero wzajemne reakcje pokażą, czy całość działa sprawnie. Dlatego, zdaniem autora, trzeba oceniać także skutki współpracy i rywalizacji wielu agentów.

Badania nad takimi systemami mają wieloletnią historię. Ich dzisiejsze ograniczenia obejmują również problemy oprogramowania. Przywołana przez Jenningsa analiza ośmiu projektów wieloagentowych objęła ponad 42 tys. zapisanych zmian w kodzie oraz ponad 4,7 tys. rozwiązanych zgłoszeń. Wśród zgłaszanych problemów znalazły się błędy, infrastruktura i koordynacja agentów.

Kto ustali zasady współpracy?

„Sztuczne społeczeństwa” to określenie organizacji relacji między programami. Nie oznacza przypisania im świadomości ani ludzkich potrzeb.

Jennings postuluje jasne reguły działania, ochronę prywatności, przejrzystość oraz ustalenie, kto odpowiada za skutki decyzji. Szczególnej uwagi wymaga sytuacja, gdy problem powstaje na styku systemów przygotowanych przez różne firmy. Rozwój badań nad bezpieczeństwem AI powinien więc obejmować również takie interakcje.

Autor przewiduje istotną rolę zespołów złożonych z ludzi i agentów. Ludzie mieliby wnosić ocenę sytuacji, wartości i odpowiedzialność, a programy – szybkość oraz zdolność przetwarzania dużych zbiorów danych. To proponowany kierunek rozwoju, którego realizacja zależy od niezawodności technologii i zasad jej stosowania.

Szymon Ślubowski