AI Overviews traci kontakt z rzeczywistością
Google udostępniło swoją najnowszą funkcję wyszukiwania AI Overviews, która ma problemy z komunikacją w przeglądarkach Chrome i Firefox.
AI Overviews oszczędza klikanie w linki, wykorzystując generatywną sztuczną inteligencję – tę samą technologię, która zasila konkurencyjny produkt ChatGPT – do dostarczania podsumowań wyników wyszukiwania. Zapytanie „jak zachować świeżość bananów na dłużej” wykorzystuje sztuczną inteligencję do wygenerowania przydatnego podsumowania wskazówek, takich jak przechowywanie ich w chłodnym, ciemnym miejscu, z dala od innych owoców, takich jak jabłka.
Ale zadając pytanie z innej dziedziny, wyniki mogą być katastrofalne, a nawet niebezpieczne. Google obecnie stara się naprawić te problemy jeden po drugim, ale jest to katastrofa PRowa dla giganta wyszukiwarki informacji.
AI Overviews z pomocą informuje, że „Whack-A-Mole to klasyczna gra zręcznościowa, w której gracze używają młotka do uderzania kretów, które pojawiają się losowo w celu zdobycia punktów. Gra została wynaleziona w Japonii w 1975 roku przez producenta rozrywki TOGO i pierwotnie nosiła nazwę Mogura Taiji lub Mogura Tataki”.
Overviews dodaje do tego inne „ciekawe informacje o tym, że „astronauci spotkali koty na Księżycu, bawili się z nimi i zapewniali im opiekę”. Co bardziej niepokojące, zaleca również „spożywanie co najmniej jednego małego kamienia dziennie”, ponieważ „skały są istotnym źródłem minerałów i witamin” oraz sugeruje dodawanie kleju do pizzy.
Jednym z podstawowych problemów jest to, że narzędzia generatywnej sztucznej inteligencji nie wiedzą, co jest prawdą, tylko co jest popularne. Na przykład, w sieci nie ma wielu artykułów na temat tego, że ludzie jedzą kamienie, ponieważ powszechnie wiemy o tym, że jest to nieprawda.
Innym problemem jest to, że narzędzia generatywnej sztucznej inteligencji nie mają naszego systemu wartości oraz pewnej etyki postępowania, są one szkolone po prostu na dużym wycinku sieci. Choć wyrafinowane techniki (które noszą ciekawe nazwy, takie jak „uczenie ze wzmocnieniem na podstawie ludzkich opinii” lub RLHF) są wykorzystywane do eliminacji najgorszych, nie jest zaskoczeniem, że odzwierciedlają one niektóre uprzedzenia, teorie spiskowe i gorsze rzeczy, które można znaleźć w sieci. Rzeczywiście, zawsze jestem zdumiony, jak grzeczne i dobrze zachowujące się są chatboty AI, biorąc pod uwagę, na czym są szkolone.
Nadal jesteśmy na początku drogi, w której będziemy się uczyć postępowania ze sztuczną inteligencją oraz będziemy dowiadywać się nadal niestworzonych sieci nie tylko od jednego producenta. Musimy być jednak przygotowani na to, aby wiadomości, które mogą wydawać nam się wątpliwe, weryfikować i to najlepiej w kilku źródłach.
Zachęty finansowe do prowadzenia w wyścigu sztucznej inteligencji są ogromne. Dlatego też Google jest mniej ostrożny niż w przeszłości w przekazywaniu technologii w ręce użytkowników.
W 2023 r. dyrektor generalny Google Sundar Pichai powiedział: „Byliśmy ostrożni. Są obszary, w których zdecydowaliśmy się nie wprowadzać produktu jako pierwsi. Stworzyliśmy dobre struktury wokół odpowiedzialnej sztucznej inteligencji. Nadal nie będziemy się spieszyć”.
Google stara się odpowiedzieć na krytykę dotyczącą spowolnienia i bycia ospałym konkurentem, jednak ryzykuje utratę zaufania użytkowników co do wiarygodności dostarczanych informacji. Obecnie istnieją obawy, że wszechobecność syntetycznych treści generowanych przez sztuczną inteligencję obniży jakość sieci, która w 2024 roku jest jeszcze pełna wartościowych treści tworzonych przez ludzi. Trening AI na błędnych danych może pogłębiać istniejące uprzedzenia i błędy, podobnie jak wdychanie spalin jest szkodliwe dla zdrowia.
Mimo inwestycji w AI na poziomie 400 mln USD dziennie, rządy dopiero teraz zaczynają rozważać regulacje zapewniające odpowiedzialne jej wykorzystanie. Firmy technologiczne, w przeciwieństwie do farmaceutycznych czy motoryzacyjnych, dotychczas działały bez większych ograniczeń. Przykładem problemów jest przypadek, w którym AI Google opierała swoje podsumowanie na popularnych, ale nieprawdziwych informacjach, co pokazuje potrzebę dokładniejszej kontroli i regulacji.
Szymon Ślubowski
