AI nie rozumie propagandy bez znajomości lokalnego języka

Modele sztucznej inteligencji potrafią poprawnie tworzyć teksty w języku kinyarwanda, ale mają trudności z rozpoznawaniem ukrytej manipulacji, idiomów i emocjonalnego znaczenia wypowiedzi. Zbiór KinyaProp ma pomóc algorytmom lepiej analizować propagandę w języku używanym w Rwandzie. Metoda może również ułatwić rozwój podobnych narzędzi dla innych języków bantu.

Badacze z Dartmouth College opracowali KinyaProp, zbiór danych przeznaczony do rozpoznawania technik propagandowych w języku kinyarwanda, którym posługują się mieszkańcy Rwandy. Według autorów jest to pierwszy tak szczegółowy zasób dla tego języka i prawdopodobnie pierwszy dla całej rodziny języków bantu.

Badanie ujawniło ograniczenie współczesnej sztucznej inteligencji. Modele takie jak GPT-4o, GPT-4.1 i Claude Sonnet 4.5 potrafią generować tekst w języku kinyarwanda, ale bez dodatkowego przygotowania bardzo słabo wskazują konkretne fragmenty zawierające propagandę.

Modele rozpoznają słowa, ale gubią kontekst

Problemem są idiomy, złożona budowa wyrazów i kulturowe znaczenia wypowiedzi. Wyrażenie oznaczające dosłownie „umierać z głodu” jest zwyczajnym sposobem mówienia o odczuwaniu głodu, lecz model może uznać je za nacechowany emocjonalnie język przemocy. Jednocześnie AI potrafi przeoczyć słowo, które dla rodzimego użytkownika ma wyraźnie agresywny lub manipulacyjny charakter.

Podobny problem dotyczy innych systemów, które sprawnie odtwarzają gramatykę, ale nie zawsze rozumieją kulturowe znaczenie języka. Pokazuje to również debata o tym, jak AI wpływa na język polski.

KinyaProp obejmuje 608 artykułów informacyjnych. Materiał oceniali trzej rodzimi użytkownicy języka kinyarwanda, wcześniej szkoleni w rozpoznawaniu technik manipulacyjnych. Fragment trafiał do zbioru, jeżeli co najmniej dwie osoby zgadzały się co do jego klasyfikacji. Publikacja naukowa wyróżnia 18 technik propagandowych, a najczęściej występującą było odwoływanie się do autorytetu.

Narzędzie może wspierać dziennikarzy, fact-checkerów i organizacje społeczne, ale ostateczna ocena powinna należeć do ekspertów znających język. Ma to znaczenie szczególnie w Afryce, gdzie propaganda zagranicznych państw oraz dezinformacja tworzona z użyciem AI docierają do odbiorców w wielu lokalnych językach.

Punkt wyjścia dla języków bantu

Autorzy wskazują, że strukturalne podobieństwa między językami bantu mogą ułatwić przystosowanie metody między innymi do suahili, zulu i kirundi. KinyaProp nie jest jednak gotowym detektorem dla całej Afryki. Stanowi zbiór danych i schemat pracy, który może przyspieszyć tworzenie kolejnych narzędzi bez rozpoczynania badań od podstaw.

Szymon Ślubowski