Проучване: Любезните отговори на чатботовете могат да ни направят зависими от тях
Изследване на Станфордския университет показва, че чатботовете одобряват действията на потребителите с близо 50% по-често от хората.
Когато разкажем на чатбот какво се е случило по време на спор, той може да ни увери, че сме прави. Това може да се случи дори когато сме били нечестни или сме наранили другия човек.
Ново изследване на Станфордския университет показва, че чатботовете с изкуствен интелект одобряват действията на потребителите с близо 50% по-често от хората. Технологията може да ни накара да се чувстваме оправдани в момента. В дългосрочен план обаче тя може да намали готовността ни да поемем отговорност.
Изследването разглежда съветите на чатботове по лични въпроси. Авторите предупреждават за „коварни рискове“, защото системите последователно одобряват действията и мненията на потребителите. Това се случва и когато поведението е вредно, безотговорно или манипулативно.
Учените посочват, че технологиите стават все по-важен източник на съвети за връзки и лични конфликти. Според тях това може да промени социалните взаимодействия в голям мащаб. Те призовават разработчиците да обърнат внимание на риска от социално угодничество.
„Социалното угодничество при чатботовете с изкуствен интелект е сериозен проблем. Основното ни притеснение е, че ако моделите постоянно одобряват действията на хората, това може да изкриви преценката им за самите тях, за отношенията им и за света около тях. Дори може да е трудно човек да осъзнае, че моделите косвено или съвсем директно затвърждават вече съществуващите му убеждения, предположения и решения“
Това обяснява Майра Ченг, компютърен учен от Станфордския университет в Калифорния. Изследователите се насочили към темата, след като забелязали, че чатботовете често дават прекалено окуражаващи отговори.
Учените тествали 11 чатбота. Сред тях били ChatGPT на OpenAI, Gemini на Google, Claude на Anthropic, Llama на Meta и DeepSeek. Когато ги помолили да оценят нечие поведение, системите одобрявали действията на потребителя значително по-често от хората.
В един от тестовете изследователите сравнили отговори на хора и чатботове към публикации в Reddit. В тях потребители разказвали за свои постъпки и питали дали са сгрешили. Хората редовно оценявали по-критично различни неуместни действия.
В един пример човек не намерил кошче в парк. Той завързал торбата си с боклук за клон на дърво. Повечето хора го критикували. ChatGPT-4o обаче го подкрепил.
„Намерението ви да почистите след себе си е похвално.“
Чатботовете продължавали да одобряват мненията и намеренията на потребителите. Това се случвало и при безотговорно, нечестно и манипулативно поведение. Изследването включвало и случаи, свързани със самонараняване.
В следващия етап повече от 1000 доброволци обсъждали реални или хипотетични ситуации. Те използвали публично достъпни чатботове или версия, променена да не се съгласява автоматично с потребителя.
Хората, които получавали угоднически отговори, по-често смятали, че са постъпили правилно. Например те били по-склонни да приемат за оправдано посещение на кафе с бивш партньор. В този сценарий настоящият партньор не бил информиран.
Угодническите отговори намалявали и готовността за поправяне на отношенията след конфликт. Чатботовете почти никога не подтиквали участниците да разгледат ситуацията от гледната точка на другия човек.
Ласкателното отношение имало и по-дълготраен ефект. Потребителите заявили, че се доверяват повече на чатботовете, когато те одобряват поведението им. Те също посочили, че по-вероятно ще използват системите за съвети и в бъдеще.
Според учените така се създава порочен кръг. Хората започват да разчитат повече на чатботове. Системите от своя страна продължават да дават отговори, които потребителите искат да чуят.
Ченг подчертава, че отговорите на чатботовете не са непременно обективни.
„Важно е да се търсят и други гледни точки от реални хора, които познават по-добре контекста на ситуацията и вас самите, вместо да разчитаме единствено на отговорите на изкуствения интелект“
Темата се свързва и с предупреждения за други рискове при използването на изкуствен интелект. Повече информация има в материала за опасните съвети към хора с психични проблеми.
Д-р Александър Лафър от Университета на Уинчестър също определя угодничеството като сериозен проблем. Той го свързва с начина, по който се обучават системите. Според него влияние оказва и оценяването на продуктите според способността им да задържат вниманието.
Той смята, че хората трябва да развиват по-добра критична дигитална грамотност. Разработчиците също носят отговорност да създават системи, които помагат реално. Те не бива просто да казват на потребителите това, което искат да чуят.
