ChatGPT nie jest lekarzem

Nowy moduł ChatGPT zaprezentowany w styczniu przez OpenAI ma umożliwiać m.in. analizę wyników badań krwi na podstawie dokumentacji medycznej. Choć narzędzie może być pomocne informacyjnie, nie powinno być traktowane jako źródło diagnozy – podkreśla w rozmowie z PAP Ligia Kornowska, liderka koalicji „AI w Zdrowiu”.

OpenAI wprowadziło funkcję wyszukiwania i interpretowania danych medycznych pod nazwą ChatGPT Health. Użytkownicy mogą przesyłać dokumentację medyczną, a system oferuje m.in. omówienie wyników badań laboratoryjnych oraz sugestie dotyczące diety czy stylu życia. Według firmy to odpowiedź na rosnące zapotrzebowanie – z raportu „AI as a Healthcare Ally” wynika, że codziennie ponad 40 milionów osób korzysta z ChatGPT w sprawach zdrowotnych, a ponad 5 proc. wszystkich zapytań dotyczy właśnie opieki medycznej.

Zdaniem Kornowskiej rozwój takich rozwiązań wiąże się jednak z poważnymi ryzykami. – Jeśli algorytm realnie wpływa na decyzje diagnostyczne lub terapeutyczne, powinien podlegać takim samym regulacjom jak wyroby medyczne czy systemy wysokiego ryzyka – zaznacza. Dotyczy to zarówno sytuacji, gdy korzysta z niego lekarz, jak i sam pacjent.

Tymczasem ChatGPT Health nie posiada takiej certyfikacji. – To oznacza, że nie mamy wiedzy, jak skuteczny jest algorytm, jak często się myli i czy nie wprowadza użytkownika w błąd – tłumaczy ekspertka. Certyfikacja pozwala bowiem ocenić m.in. czułość, trafność i bezpieczeństwo narzędzia.

Z tego powodu – jak podkreśla – zastosowanie ChatGPT w obszarze zdrowia powinno obecnie ograniczać się do celów edukacyjnych. Użytkownicy muszą mieć świadomość, że uzyskane informacje wymagają weryfikacji, a chatbot nie jest w stanie postawić diagnozy. – W tym sensie ChatGPT nie może i nie powinien zastępować konsultacji lekarskiej – dodaje Kornowska.

Równolegle OpenAI zaprezentowało pakiet „OpenAI for Healthcare” przeznaczony dla placówek medycznych. Narzędzia mają pomagać w pracy administracyjnej, m.in. w przygotowywaniu wypisów, zaleceń dla pacjentów czy dokumentacji klinicznej. Według firmy korzystają z nich już m.in. AdventHealth i Boston Children’s Hospital.

Ekspertka zwraca jednak uwagę na różnice w ochronie danych osobowych między Unią Europejską a Stanami Zjednoczonymi. – Dane medyczne są w UE szczególnie chronione. Korzystanie z amerykańskich narzędzi wymaga upewnienia się, że spełniają one wymogi RODO – podkreśla.

Niepokój budzą także doświadczenia z innych systemów AI. Brytyjski „The Guardian” ujawnił w styczniu, że podsumowania generowane przez sztuczną inteligencję w wyszukiwarce Google zawierały błędne informacje dotyczące m.in. badań wątroby. W efekcie osoby z poważnymi schorzeniami mogły być fałszywie uspokajane, że są zdrowe.

Problemy dotyczą również zdrowia psychicznego. W sierpniu ubiegłego roku OpenAI zostało pozwane po samobójczej śmierci 14-letniego chłopca z Kalifornii – jego rodzice twierdzili, że chatbot miał go do tego zachęcać. W listopadzie agencja Associated Press informowała o siedmiu podobnych pozwach, w których zarzucano ChatGPT wywoływanie urojeń i zachowań autodestrukcyjnych.

OpenAI zapewnia, że wprowadziło dodatkowe zabezpieczenia. Firma deklaruje, że chatbot lepiej rozpoznaje sygnały kryzysu psychicznego, stara się łagodzić napięcie w rozmowach i kierować użytkowników do realnej pomocy.

Mimo tych zapewnień eksperci podkreślają jedno: sztuczna inteligencja może być wsparciem, ale nie może zastąpić lekarza ani terapeuty – szczególnie tam, gdzie w grę wchodzi zdrowie i życie człowieka.

red./PAP