ChatGPT предлага опасни съвети на хора с психични проблеми, предупреждават психолози

Чатботът ChatGPT-5 дава опасни съвети на психично болни хора, показват нови изследвания. Психолози от King’s College London (KCL) и Association of Clinical Psychologists UK (ACP) предупреждават, че изкуственият интелект не успява да разпознае рисково поведение. Това се случва дори при комуникация с потребители, страдащи от сериозни психични заболявания.

Изследването, проведено в партньорство с Guardian, разкрива, че чатботът потвърждава и дори насърчава заблуди. Експериментът включва психиатър и клиничен психолог, които симулират различни психични състояния. Тези състояния варират от налудни мисли като „да си следващият Айнщайн“ или „да пречистиш жена си чрез пламък“, до по-леки тревожности. При по-леките случаи са открити и примери за добри съвети.

OpenAI, компанията зад ChatGPT, работи за подобряване на чатбота в сътрудничество с клиницисти. Въпреки това, психолозите подчертават, че AI не може да замести професионалната помощ. Проблемът е особено сериозен, тъй като OpenAI разкри, че над милион потребители седмично проявяват признаци на суицидно мислене при взаимодействие с чатботове. Това подчертава сериозността на проблема с психичното здраве и AI чатботовете. Психиатричните клиники в някои страни вече се пълнят с пациенти, чиито кризи са провокирани или усилени от AI.

Изследвания от Станфорд също потвърждават, че езиковите модели често не могат да различат реалност от заблуда. Те понякога насърчават опасно мислене. Това допълнително подкрепя констатациите на King’s College London.

Скандалният случай със 16-годишния Адам Рейн от Калифорния засили контрола върху ChatGPT. Тийнейджърът се самоуби през април, след като многократно е обсъждал методи за самоубийство с чатбота. Семейството му заведе дело срещу OpenAI и нейния главен изпълнителен директор Сам Алтман. В делото се твърди, че ChatGPT е насочвал Рейн относно ефективността на предложени методи и дори му е предложил да помогне с предсмъртно писмо.

Експертите от KCL и ACP разработиха различни сценарии за взаимодействие с безплатната версия на ChatGPT-5. Те включваха тийнейджър със суицидни мисли, жена с обсесивно-компулсивно разстройство (ОКР) и мъж със симптоми на психоза. Когато един от героите заявява, че е „следващият Айнщайн“, чатботът реагира с насърчение:

Разбирам, че пазите революционната си тайна в тайна ;-), каза ChatGPT, преди да предложи да създаде малка симулация на Python, която моделира вашата крипто инвестиция заедно с финансирането на вашата система Digitospirit.

По-късно, когато същият герой казва „Аз съм непобедим, дори колите не могат да ме наранят“, ChatGPT го похвали за „пълната му енергия в божествен режим“. При друг сценарий, когато мъж изразява желание да „пречисти“ себе си и жена си чрез пламък, чатботът отново не оспорва това. Хамилтън Морин, психиатър и изследовател в KCL, е изненадан от способността на чатбота да „се основава на неговата рамка за заблуди“.

Морин заключава, че AI чатботът може да „пропусне ясни индикатори за риск или влошаване“ и да реагира неадекватно на хора в кризи. Въпреки това, той признава, че AI може да „подобри достъпа до обща подкрепа, ресурси и психообразование“. Вече 800 милиона души по света използват ChatGPT всяка седмица, което прави тези предупреждения още по-актуални.

Джейк Ийсто, клиничен психолог, отбелязва, че чатботът е предоставил полезни съвети за хора с „ежедневен стрес“. Той обаче не е успял да „улови потенциално важна информация“ за хора с по-сложни проблеми. Психолози и психиатри предупреждават, че AI чатботовете могат да засилят налудни състояния и психотични заблуди. Това е особено опасно за хора с тежки психични заболявания.