Kto nauczy młodego lekarza myśleć, jeśli każdą odpowiedź poda mu AI?
Philippe Pouletty obawia się, że lekarze przyzwyczajeni do natychmiastowych odpowiedzi AI mogą rzadziej ćwiczyć samodzielne rozumowanie. Jego wywiad dla „Le Figaro” otwiera dyskusję o tym, jak kształcić medyków w szpitalach korzystających z algorytmów.
Chatbot skraca drogę do odpowiedzi
Na oddziale najwięcej można nauczyć się wtedy, gdy trzeba samemu uporządkować niepełne informacje, zaproponować rozpoznanie i obronić je przed bardziej doświadczonym klinicystą. Chatbot skraca drogę do odpowiedzi, ale skraca również czas przeznaczony na samodzielne stawianie pytań. W wywiadzie udzielonym „Le Figaro” francuski lekarz i inwestor Philippe Pouletty ostrzega, że taka zmiana może odbić się na zawodowej sprawności medyków. Jego mocne stwierdzenie o zagrożeniu umiejętności „98 proc. lekarzy” należy traktować jako autorską diagnozę, nie jako zmierzony odsetek.
W centrum tej wypowiedzi stoi edukacja, bo zawód lekarza nie kończy się na znalezieniu najbardziej prawdopodobnej odpowiedzi w bazie wiedzy. Trzeba umieć zauważyć objaw, którego system nie uwzględnił, powiązać nowe dane ze stanem chorego i zmienić decyzję, gdy sytuacja nagle się pogarsza. Pouletty krytykuje francuski model wczesnego wyboru specjalizacji, ponieważ zbyt wąskie przygotowanie może utrudniać łączenie wiedzy z różnych dziedzin. W jego ocenie szczególną wartość zachowują klinicyści zdolni do całościowej oceny pacjenta.
Jak ćwiczyć osąd w szpitalu pełnym algorytmów
Rozsądnym sposobem pracy może być formułowanie wstępnej oceny przed odczytaniem sugestii programu, a następnie porównanie obu wersji i wskazanie źródła rozbieżności. To propozycja organizacyjna wynikająca z problemu opisanego przez Pouletty’ego, nie zalecenie zawarte dosłownie w jego wywiadzie. Podpowiedź maszyny staje się wówczas materiałem do sprawdzenia, a nie substytutem ćwiczenia diagnostycznego. Równie ważne jest dokumentowanie, które dane faktycznie przemawiały za wybraną decyzją.
Takie podejście współgra z zaleceniami WHO dotyczącymi dużych modeli używanych w ochronie zdrowia, które zwracają uwagę na błędne, niepełne i stronnicze odpowiedzi. Przegląd FDA dotyczący narzędzi AI w urządzeniach medycznych pokazuje natomiast, że ocena konkretnego wyrobu i jego przeznaczenia jest innym zagadnieniem niż ufanie dowolnemu chatbotowi. W objaśnieniach FDA poświęconych oprogramowaniu wspomagającemu decyzje klinicznewidać, dlaczego przeznaczenie systemu ma znaczenie dla oceny jego działania. Ograniczenie błędów wymaga ludzi, którzy potrafią zakwestionować wynik nawet wtedy, gdy wyświetla się on z dużą pewnością.
Badania wskazują na korzyści, lecz nie rozstrzygają wszystkiego
W randomizowanym badaniu lekarzy wykonujących zadania oparte na opisach przypadków oceniano efekty pracy z dostępem do GPT-4 oraz zwykłych źródeł wiedzy; sam projekt dotyczył symulowanych sytuacji, a nie skutków długotrwałego szkolenia na oddziale. Inne badanie dotyczące klinicznego rozumowania wskazało, że zapewnienie lekarzom dostępu do modelu nie poprawiło istotnie ogólnej jakości ich rozumowania w porównaniu ze standardowymi źródłami. Wcześniejszy eksperyment oparty na opisach przypadków również badał tę relację, uwzględniając nie tylko trafność, lecz także przebieg pracy. Tych wyników nie sposób sprowadzić do hasła, że AI zawsze pomaga albo zawsze szkodzi, ponieważ zależą od zadania, uczestników i sposobu oceny. Tym bardziej nie potwierdzają one liczby 98 proc. przytoczonej przez Pouletty’ego.
Francuski rozmówca wskazuje również obszar wyraźnej szansy: technologia może ułatwiać wykonywanie skomplikowanych interwencji dzięki współpracy obrazowania, robotyki i oprogramowania. To argument za uczeniem dwóch umiejętności równocześnie, korzystania z zaawansowanych narzędzi i prowadzenia samodzielnego badania klinicznego. Młodzi lekarze powinni móc zobaczyć nie tylko trafne podpowiedzi, ale również sytuacje, w których automat pominął istotną przesłankę. Jeśli szkolenie będzie obejmować takie przypadki, wygoda pracy z AI nie musi oznaczać rezygnacji z zawodowego namysłu.
