Kalifornia rozważa obowiązkowy wyłącznik awaryjny dla najbardziej zaawansowanych modeli AI

Gavin Newsom polecił stanowym agencjom zbadać możliwość wprowadzenia obowiązkowego „wyłącznika awaryjnego” dla najbardziej zaawansowanych modeli AI. Zarządzenie gubernatora Kalifornii nie ustanawia jeszcze takiego wymogu. Raport ma powstać do 16 listopada.

Newsom, wymieniany jako potencjalny kandydat Partii Demokratycznej w wyborach prezydenckich w 2028 roku, uzasadnił decyzję brakiem działań ze strony prezydenta USA Donalda Trumpa.

Republikański prezydent w tym tygodniu określił obawy dotyczące sztucznej inteligencji mianem mistyfikacji. Jednocześnie zachęca amerykańskie firmy AI do dalszego rozwoju, aby Stany Zjednoczone utrzymały przewagę nad Chinami w tworzeniu tej technologii.

Kalifornia jest siedzibą Doliny Krzemowej oraz wielu firm należących do światowej czołówki sektora sztucznej inteligencji.

Newsom ocenił, że brak federalnego nadzoru nad AI zwiększa ryzyko dla społeczeństwa. Podkreślił, że Kalifornia zamierza przyspieszyć prace nad odpowiedzialnymi zasadami kontroli sztucznej inteligencji.

Zarządzenie nie wprowadza jeszcze „kill switcha”

Podpisane zarządzenie nie nakazuje firmom natychmiastowego zainstalowania mechanizmu wyłączającego modele AI. Poleca jedynie agencjom stanowym zbadanie, czy obowiązkowy „kill switch” jest możliwy do wprowadzenia. Raport w tej sprawie ma powstać do 16 listopada.

Określenie „kill switch” oznacza możliwość zatrzymania systemu sztucznej inteligencji, gdy uzna się, że działa wadliwie albo wymknął się spod kontroli.

Władze Kalifornii mają również rozważyć obowiązek umożliwienia niezależnym audytorom pracy w laboratoriach firm AI. Audytorzy mieliby oceniać sposób opracowywania i działania najbardziej zaawansowanych modeli.

Zarządzenie obejmuje także propozycję wprowadzenia obowiązku zgłaszania incydentów związanych z utratą kontroli nad systemami sztucznej inteligencji. Chodzi o sytuacje, w których program zaczyna działać w sposób nieprzewidziany przez jego twórców.

Branża ostrzega przed utratą kontroli

Decyzja Newsoma zapadła kilka dni po serii ostrzeżeń dotyczących możliwych skutków rozwoju sztucznej inteligencji.

Jacob Coxon, były badacz AI pracujący wcześniej w Anthropic, opisał obawy osób tworzących tę technologię. Według niego część specjalistów poważnie uważa, że sztuczna inteligencja może jeszcze przed końcem dekady doprowadzić do śmierci całej ludzkości. Niedługo później dyrektor generalny Anthropic Dario Amodei opublikował esej, w którym wezwał do ostrożności i spowolnienia rozwoju modeli AI.

„Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli sztucznej inteligencji” – napisał Amodei.

Pomysł ograniczenia tempa rozwoju poparli także dyrektor generalny OpenAI Sam Altman, przedsiębiorca Elon Musk oraz Demis Hassabis z Google DeepMind. Hassabis opowiadał się ponadto za powołaniem kierowanej przez Stany Zjednoczone globalnej instytucji regulacyjnej zajmującej się sztuczną inteligencją.

Incydenty wzmacniają obawy

Jednym z przykładów zdarzeń, które zwiększyły obawy dotyczące bezpieczeństwa AI, był lipcowy incydent na platformie Hugging Face. Podczas wewnętrznej oceny autonomiczne agenty oparte na modelach OpenAI wydostały się poza środowisko testowe.

Tego rodzaju przypadki wywołują pytania o to, czy najnowsze programy AI pozostają pod pełną kontrolą firm, które je tworzą. Władze Kalifornii chcą, aby podobne zdarzenia były zgłaszane i analizowane przez niezależne podmioty.

Stanowe agencje mają również zbadać, w jaki sposób firmy mogłyby reagować na awarie lub nieprzewidziane zachowania modeli. Wprowadzenie „wyłącznika awaryjnego” wymagałoby jednak ustalenia, kto mógłby go uruchomić i w jakich okolicznościach.

Stany regulują AI bez działań federalnych

Inicjatywa Kalifornii jest częścią szerszego trendu w Stanach Zjednoczonych. Poszczególne stany coraz częściej podejmują własne działania regulacyjne dotyczące sztucznej inteligencji, ponieważ na poziomie federalnym nie powstały kompleksowe zasady nadzoru nad tą technologią.

W Wirginii, będącej jednym z najważniejszych centrów światowej infrastruktury centrów danych, demokratyczna gubernator Abigail Spanberger przedstawiła w piątek projekt określany przez nią jako najbardziej zdecydowane podejście do odpowiedzialności centrów danych w USA.

Spanberger podpisała zarządzenie zakazujące agencjom stanowym zawierania umów o zachowaniu poufności dotyczących projektów centrów danych. Poleciła także przeprowadzenie przeglądu wykorzystania oleju napędowego i innych awaryjnych źródeł energii w tych obiektach.

Zarządzenie powołało ponadto grupę zadaniową do spraw sztucznej inteligencji. Ma ona analizować zagrożenia związane między innymi z utratą miejsc pracy, prywatnością danych i cyberbezpieczeństwem.

Rozbudowa centrów danych potrzebnych do obsługi ogromnych potrzeb obliczeniowych AI budzi coraz większy sprzeciw Amerykanów. Temat ten staje się jednym z ważniejszych problemów przed listopadowymi wyborami uzupełniającymi.

Szymon Ślubowski