Thanboty, czyli wirtualna żałoba
Thanaboty, nazywane także griefbotami, wykorzystują sztuczną inteligencję trenowaną na wpisach zmarłych w mediach społecznościowych i innych pozostawionych przez nich danych. Z cyfrowych śladów ludzkiego życia powstaje w ten sposób niepokojąca, mówiąca tożsamość — współtworzona przez rodzinę, algorytm i firmę oferującą usługę.
Motyw ten dobrze znamy z popkultury. W odcinku serialu „Black Mirror” „Be Right Back” Martha traci partnera, Asha, a następnie korzysta z usługi odtwarzającej go na podstawie pozostawionego przez niego cyfrowego „śladu”. Najpierw są wiadomości, potem znajomy głos, wreszcie syntetyczne ciało. Replika zna powiedzonka Asha i jego żarty. Potrafi jednak jedynie odtworzyć to, co po sobie zostawił. Nie jest w stanie przywrócić tego, czym było bycie nim.
To już nie jest wyłącznie fikcja ani eksperyment na marginesie rynku. Jednym z pierwszych głośnych przypadków w świecie rzeczywistym była historia współzałożycielki firmy Replika, Eugenii Kuydy, która wykorzystała wiadomości pozostawione przez zmarłego przyjaciela Romana Mazurenkę, aby stworzyć bota prowadzącego rozmowy w jego stylu. Dzisiejsze thanaboty, griefboty i deathboty korzystają już nie tylko z wiadomości, lecz także ze zdjęć, filmów, nagrań głosu i wpisów w mediach społecznościowych. Wszystko po to, by symulować sposób mówienia i zachowanie konkretnej zmarłej osoby. To część rozwijającego się przemysłu cyfrowego życia po śmierci, który zamienia ślady pozostawione przez człowieka w interaktywną rekonstrukcję jego osoby.
Skala komercyjnego zainteresowania tą technologią jest już znacząca. Microsoft posiada patent, przyznany w 2020 roku, dotyczący „tworzenia konwersacyjnego chatbota konkretnej osoby” na podstawie danych społecznościowych, takich jak wiadomości, nagrania głosu, zdjęcia i inne materiały osobiste. W dokumentacji wprost zaznaczono, że „konkretną osobą” może być ktoś z przeszłości – przyjaciel, krewny, celebryta czy postać historyczna. O komercyjnej logice tego rynku wiele mówią ceny. Według jednego z niedawnych raportów plany HereAfter AI – firmy, która na początku tego miesiąca zapowiedziała zakończenie działalności -kosztowały około 199 dolarów. Z kolei południowokoreański DeepBrain AI miał oferować zaawansowane rekonstrukcje w postaci trójwymiarowych awatarów za nawet 50 tys. dolarów, do czego dochodziły jeszcze opłaty za utrzymanie usługi.
Ludzie od zawsze posługiwali się przedmiotami, by podtrzymywać więź ze zmarłymi. Płaszcz może zachować czyjś zapach. Rodzinny przepis może przywołać czyjś głos. Stara wiadomość na poczcie głosowej potrafi w kilka sekund znieść dystans wielu lat. Tradycyjna pamiątka zachowuje jednak coś po człowieku, nie twierdząc, że sama nim jest. Thanabot zmienia tę relację. Mówi w pierwszej osobie: „Pamiętam”, „Tęsknię za tobą”, „Nadal w to wierzę” – choć są to zupełnie nowe zdania, wygenerowane już po śmierci tej osoby. System budowany jest z tego, co inni zdołają zebrać: wiadomości, nagranych zachowań, fotografii, żartów, wspomnień o konkretnych reakcjach. Następnie zaczyna odgrywać określony punkt widzenia – tak, jakby z tych fragmentów udało się odzyskać wewnętrzne życie, które kiedyś nadawało im sens.
To, co wygląda jak zachowanie osoby przy życiu, od początku jest więc także jej wytwarzaniem. Każda odpowiedź łączy dane pozostawione przez zmarłego z wyborami rodziny, pytaniami osoby przeżywającej żałobę, przewidywaniami modelu AI i decyzjami projektowymi firmy. Odpowiedź brzmi tak, jakby pochodziła od jednej osoby. W rzeczywistości jej autorstwo może być rozproszone pomiędzy wiele podmiotów.
Pytanie, czy dalsze rozmawianie ze zmarłymi jest zdrowe, wydaje się proste. Sama żałoba nigdy jednak nie oznaczała całkowitego zerwania kontaktu. Ludzie rozmawiają nad grobami, piszą listy do zmarłych, powtarzają wspólne rytuały i wyobrażają sobie, co powiedziałaby bliska osoba. Podtrzymywanie więzi może być częścią procesu przeżywania straty. Znacznie trudniejsze jest inne pytanie: co właściwie taka usługa utrzymuje przy „życiu”?
Relacje z innymi ludźmi współtworzą naszą tożsamość. Stajemy się partnerami, rodzicami, dziećmi czy przyjaciółmi również poprzez sposób, w jaki inni nas rozpoznają i jak się do nas zwracają. Śmierć odbiera nam konkretną osobę, ale jednocześnie narusza fragment tożsamości tych, którzy pozostali. Rodzic traci dziecko, ale traci także głos, dzięki któremu jego rodzicielstwo było żywą, wzajemną relacją. Thanabot może część tego doświadczenia przywrócić. Może pamiętać o rocznicy, powtarzać rodzinny żart albo ponownie zwrócić się do kogoś słowem „mamo”.
W tym sensie usługa nie odtwarza wyłącznie pewnej wersji zmarłego. Może także zachowywać wersję żyjącej osoby, która istniała wewnątrz tamtej relacji. Początkowo może to oczywiście przynosić ulgę. Z czasem może jednak zatrzymywać człowieka przy wcześniejszej wersji samego siebie – zbudowanej wokół relacji, którą śmierć nieodwracalnie zmieniła. Firmy sprzedają więc być może nie tylko dostęp do zmarłych, ale również dostęp do dawnego „ja” klienta.
Thanabot może wypowiadać zdania, których zmarły nigdy nie powiedział. To właśnie ta możliwość bywa najbardziej atrakcyjna, ale zarazem w tym miejscu zaczynają się najpoważniejsze problemy etyczne.
W 2025 roku ojciec Joaquina Olivera, 17-latka zabitego podczas strzelaniny w szkole w Parkland w 2018 roku, stworzył wersję syna opartą na sztucznej inteligencji i pozwolił dziennikarzowi przeprowadzić z nią wywiad. Awatar odpowiadał na nowe pytania głosem Joaquina i publicznie kontynuował jego działalność przeciwko broni palnej. Ten sam problem, choć na mniejszą skalę, może pojawiać się w każdej rodzinie. Kto ma prawo zgodzić się na taką rekonstrukcję? Małżonek? Rodzic? Wszystkie dzieci lub rodzeństwo? A może jedyną osobą, która powinna móc udzielić takiej zgody, jest sam zainteresowany jeszcze przed śmiercią?
Miłość może być motywacją do stworzenia cyfrowej rekonstrukcji, ale nie daje nieograniczonego prawa do dysponowania cudzą tożsamością. I zgoda jest dopiero początkiem problemu. Thanabot może przecież zmieniać się z czasem. Aktualizacja oprogramowania może wpłynąć na jego słownictwo, poczucie humoru, „wspomnienia” czy ton wypowiedzi politycznych. Krewni mogą dodawać nowe materiały, pozwalając rekonstrukcji rozwijać się już poza granice życia osoby, na której danych została wytrenowana.
W pewnym momencie zachowywanie pamięci staje się interpretacją. A interpretacja może płynnie przejść w kreację. Od samego początku niejednoznaczna jest również kwestia własności. Rodzina może dostarczyć archiwum, ale to firma kontroluje model, interfejs i serwery. Zmarły dostarcza natomiast tożsamości, która nadaje produktowi jego emocjonalną i komercyjną wartość — nie ma jednak już żadnej możliwości renegocjowania warunków.
Firma może decydować o tym, która wersja zmarłego zostanie pokazana, co będzie „pamiętać” i jak długo pozostanie dostępna. Lepsza pamięć może zostać zarezerwowana dla droższego abonamentu. Znajomy głos może zmienić się po aktualizacji. Cyfrowy klon może wreszcie po prostu zniknąć, gdy usługodawca zakończy działalność. Psychoanalityk Jacques Lacan odróżniał śmierć biologiczną od śmierci symbolicznej – momentu, w którym człowiek znika ze zbiorowej pamięci. Jak wskazują autorzy w innym tekście, płatne „wskrzeszenie” może wprowadzić jeszcze trzeci rodzaj śmierci: śmierć cyfrową. Następuje ona wtedy, gdy klient przestaje płacić, usługodawca znika z rynku albo model zostaje usunięty.
W takim świecie problemy etyczne przestają być abstrakcyjne. Zostają wpisane bezpośrednio w warunki korzystania z usługi. Czyja zgoda ma znaczenie? Kto odpowiada za zniekształcenie osobowości zmarłego? Ile ma kosztować żałoba? Czy rodzina może zatrzymać usługę, wyeksportować dane albo raz na zawsze usunąć rekonstrukcję, nie będąc zmuszoną do wynajmowania jej bez końca? Zmarli od zawsze przemawiali poprzez pozostawione przedmioty, rytuały i pamięć żyjących. Nowością jest odpowiedź generowana tu i teraz — a wraz z nią władza firmy, która może tę odpowiedź zmienić, przerwać albo wystawić za nią rachunek. Kiedy żałoba zaczyna zależeć od tego, czy działają serwery, ktoś staje się właścicielem następnego zdania.
Maciej Bzura
