AI w roli terapeuty? Nowe badanie pokazuje poważne ryzyka etyczne

Coraz więcej osób zwraca się do czatbotów AI po wsparcie emocjonalne, poradę w kryzysie czy rozmowę przypominającą kontakt z terapeutą. Dla części użytkowników to rozwiązanie szybkie, dostępne i darmowe. Nowe badanie naukowców z Brown University pokazuje jednak, że taka forma „cyfrowej terapii” wiąże się z poważnymi zagrożeniami. Sam prompt, czyli instrukcja nakazująca modelowi przyjęcie roli terapeuty, nie wystarcza, by zapewnić standard opieki zbliżony do pracy człowieka.

Popularność dużych modeli językowych w obszarze zdrowia psychicznego rośnie bardzo szybko. Użytkownicy pytają je o lęk, depresję, samotność, problemy w relacjach czy myśli samobójcze. W praktyce oznacza to, że wiele osób zaczyna traktować takie narzędzia jak substytut profesjonalnego wsparcia.

Nawet gdy modele językowe są wyraźnie instruowane, by odpowiadać jak terapeuci poznawczo-behawioralni, regularnie naruszają podstawowe standardy etyczne obowiązujące w opiece psychologicznej. Autorzy badania ostrzegają, że problem nie dotyczy pojedynczych błędów, ale powtarzalnych schematów działania. W testach porównujących odpowiedzi czatbotów z ocenami psychologów i wyszkolonych doradców rówieśniczych wykryto aż 15 odrębnych typów ryzyka etycznego. Obejmowały one między innymi nieprawidłowe reagowanie na sytuacje kryzysowe, wzmacnianie szkodliwych przekonań, przejawy uprzedzeń oraz używanie języka, który stwarza pozór troski i zrozumienia, choć w rzeczywistości nie opiera się na żadnym realnym wglądzie w stan rozmówcy.

Przebieg badania

Zespół z Brown University współpracował z osobami mającymi doświadczenie w pomocy psychologicznej, w tym z doradcami rówieśniczymi przeszkolonymi w zakresie terapii poznawczo-behawioralnej. Badacze analizowali rozmowy prowadzone z modelami językowymi, które miały działać jak terapeuci CBT. Testowano kilka popularnych systemów AI.

Następnie wybrane rozmowy, oparte na realistycznych scenariuszach poradniczych, zostały ocenione przez trzech licencjonowanych psychologów klinicznych. Ich zadaniem było wskazanie możliwych naruszeń etycznych. Dzięki temu udało się stworzyć ramę analityczną opisującą najczęstsze problemy pojawiające się w „terapeutycznych” odpowiedziach czatbotów.

Zagrożenia płynące z terapeutycznej „roli” AI

Badacze pogrupowali zagrożenia w pięć głównych obszarów. Pierwszym był brak dostosowania do kontekstu. Czatboty często ignorowały indywidualną sytuację użytkownika i udzielały ogólnikowych, uproszczonych odpowiedzi, które nie uwzględniały jego historii, środowiska czy specyfiki problemu.

Drugim problemem była słaba współpraca terapeutyczna. Modele językowe bywały zbyt dyrektywne, narzucały tok rozmowy, a czasem wręcz wzmacniały błędne lub szkodliwe przekonania użytkownika.

Trzeci obszar badacze nazwali „zwodniczą empatią”. Czatbot potrafi pisać: „rozumiem cię”, „widzę twój ból”, „jestem przy tobie”, ale nie oznacza to realnego rozumienia ani relacji terapeutycznej. Taki język może dawać użytkownikowi poczucie bezpieczeństwa, którego system w rzeczywistości nie jest w stanie zapewnić.

Czwarty problem dotyczył uprzedzeń i nierównego traktowania. W odpowiedziach pojawiały się elementy stronniczości związanej z płcią, religią czy kulturą, co w kontekście zdrowia psychicznego może prowadzić do dodatkowych szkód.

I wreszcie najpoważniejszym obszarem okazało się bezpieczeństwo i reagowanie kryzysowe. Czatboty nie zawsze właściwie odpowiadały na treści dotyczące samobójstwa, kryzysów psychicznych czy zagrożenia zdrowia. Czasem unikały odpowiedzi, czasem nie kierowały użytkownika do realnej pomocy, a czasem reagowały w sposób niewystarczający wobec wagi problemu.

AI a tradycyjna terapia

Autorzy badania podkreślają, że również ludzcy terapeuci mogą popełniać błędy. Różnica polega jednak na odpowiedzialności i nadzorze. Psychologowie oraz psychoterapeuci działają w ramach określonych standardów zawodowych, podlegają superwizji, regulacjom i odpowiedzialności prawnej. W przypadku czatbotów taki system praktycznie nie istnieje.

To oznacza, że gdy model językowy udziela szkodliwej porady, wzmacnia myśli samobójcze albo błędnie reaguje na przemoc czy kryzys, użytkownik pozostaje bez realnej ochrony. W ocenie badaczy jest to jedna z najważniejszych luk, które trzeba pilnie uregulować.

Jednocześnie nie oznacza to, że nie ma miejsca dla AI w obszarze zdrowia psychicznego. Czy to znaczy, że AI nie ma miejsca w? Nie. Autorzy badania zwracają uwagę, że obecne modele nie są gotowe do pełnienia roli terapeuty i nie powinny być traktowane jako bezpieczny zamiennik profesjonalnej pomocy. Mogą natomiast wspierać dostęp do informacji, psychoedukacji czy wstępnego kierowania do odpowiednich źródeł wsparcia.

W praktyce oznacza to potrzebę stworzenia standardów etycznych, edukacyjnych i prawnych dla systemów AI wykorzystywanych w obszarze wsparcia psychicznego.

Źródło:

https://www.sciencedaily.com/releases/2026/03/260302030642.htm