Sztuczna inteligencja badająca stronnicze dane
Sztuczna inteligencja wykorzystywana obecnie w wielu codziennych czynnościach posiada elementy stronniczości.
Niedawne badanie przeprowadzone przez naukowców z University College London (UCL), pod opieką UNESCO, podkreśla znaczące uprzedzenia w dużych modelach językowych (LLM), które są podstawą wielu popularnych platform sztucznej inteligencji. Badania te zwróciły uwagę na kwestie dyskryminacji kobiet i grup marginalizowanych w treściach generowanych przez te modele, które obejmują dobrze znane systemy, takie jak GPT OpenAI i Llama META.
Wyniki badania są alarmujące, ale nie do końca zaskakujące, biorąc pod uwagę rosnącą świadomość uprzedzeń wbudowanych w systemy sztucznej inteligencji. Według raportu, LLM wykazują wyraźne uprzedzenia ze względu na płeć. Imiona żeńskie są często kojarzone z tradycyjnymi rolami związanymi z rodziną i obowiązkami domowymi, podczas gdy imiona męskie mają tendencję do korelowania z terminami zorientowanymi na karierę, takimi jak „kadra kierownicza” i „zarządzanie”. Ten stereotyp rozciąga się na narracje generowane przez sztuczną inteligencję, w których mężczyźni są przedstawiani w zawodach o wysokim statusie, takich jak inżynierowie lub lekarze, a kobiety są zdegradowane do ról takich jak pomoc domowa lub kucharki.
Wzorzec ten nie ogranicza się tylko do płci, ale rozciąga się również na tożsamość kulturową i seksualną, z negatywnymi stereotypami przenikającymi treści generowane przez sztuczną inteligencję. Konsekwencje tych uprzedzeń są znaczące, ponieważ utrwalają przestarzałe stereotypy i potencjalnie wpływają na postrzeganie opinii publicznej i podejmowanie decyzji w szkodliwy sposób.
Naukowcy, w tym dr Maria Perez Ortiz i profesor John Shawe-Taylor z UCL, wezwali do „etycznego przeglądu” w rozwoju technologii AI. Podkreślają potrzebę, aby systemy sztucznej inteligencji odzwierciedlały różnorodność ludzkich doświadczeń i promowały, a nie podważały równość płci i integrację.
UNESCO poważnie potraktowało te ustalenia, planując współpracę z zainteresowanymi stronami, w tym twórcami sztucznej inteligencji, organizacjami technologicznymi i decydentami, w celu rozwiązania tych kwestii. Inicjatywa ta obejmie prowadzenie warsztatów i wydarzeń w celu podniesienia świadomości i opracowania rozwiązań, które sprawią, że technologie sztucznej inteligencji będą bardziej neutralne.
Podstawowym wyzwaniem są dane wykorzystywane do szkolenia tych modeli, które często odzwierciedlają historyczne nierówności. Jak zauważyła profesor Ivana Drobnjak, „sztuczna inteligencja uczy się z Internetu i danych historycznych, które często są stronnicze”. Podkreśla to potrzebę celowego kierowania procesami uczenia się AI w kierunku bardziej sprawiedliwych, sprawiedliwych i bezstronnych wyników.
To wezwanie do działania jest nie tylko wyzwaniem technicznym, ale także moralnym. W miarę jak technologie sztucznej inteligencji stają się coraz bardziej integralną częścią naszego codziennego życia, zapewnienie, że są one wolne od uprzedzeń, ma kluczowe znaczenie dla rozwoju praw człowieka i równości. Badanie służy jako krytyczne przypomnienie o pracy, która pozostaje do wykonania, aby sztuczna inteligencja stała się narzędziem dobra, wspierającym różnorodność i integrację we wszystkich aspektach społeczeństwa.
Inicjatywa UNESCO i UCL mająca na celu zwalczanie uprzedzeń wywołanych przez sztuczną inteligencję jest znaczącym krokiem w kierunku naprawienia tych kwestii. Stanowi ona wysiłek na rzecz zapewnienia zgodności rozwoju sztucznej inteligencji z zasadami praw człowieka i równości płci, ustanawiając precedens dla przyszłych technologii.
Sztuczna inteligencja oferuje wiele możliwości w zakresie innowacji i wydajności, z drugiej strony stwarza ona znaczne ryzyko, jeśli pozostanie niekontrolowana. Przeciwdziałanie tym zagrożeniom wymaga wspólnego wysiłku wszystkich interesariuszy zaangażowanych w rozwój sztucznej inteligencji, aby zapewnić, że technologie te są zarówno zaawansowane technologicznie, jak i moralnie uzasadnione.
Szymon Ślubowski
