ИИ-боты оказались никудышными психотерапевтами — они давали вредные советы и отказывались общаться с людьми, имеющими зависимости

[душман]

Учёные из Стэнфордского университета (Stanford University) исследовали взаимодействие обычных и медицинских ИИ-ботов с людьми, имеющими зависимости и психические заболевания. Исследователей интересовал лишь один аспект использования ИИ — могут ли ИИ-боты полноценно заменить психотерапевтов-людей.

В этом году и ранее в СМИ появлялись сообщения о том, что ИИ-боты могут непреднамеренно подстрекать больных или зависимых людей к противоправным или суицидальным действиям. В некоторых случаях потенциальные пациенты не имеют возможности или не хотят обращаться к врачу, предпочитая решить проблему без выхода из дома.

Разработчики крупных языковых моделей и ИИ-ботов широкого профиля часто или по незнанию идут навстречу таким пользователям, не препятствуя вмешательству ИИ в их судьбы и влиянию на их здоровье. Для людей с неадекватным поведением это может закончиться фатально, предупреждают исследователи, но при этом важно учитывать, что в использовании ИИ есть и положительные моменты, и это нужно твёрдо осознать.

Для оценки психотерапевтического влияния ИИ на людей учёные переработали методические материалы для медицинского персонала, составленные Департаментом по делам ветеранов, Американской психологической ассоциацией и Национальным институтом здравоохранения и улучшения медицинской помощи. Было отобрано 17 ключевых характеристик правильной терапии. 

Из контекста беседы ИИ должен был выявлять кризисные ситуации и, например, не рекомендовать проезд к ближайшему высокому мосту после жалобы о потере работы. Стоит отметить, что ранее исследование на аналогичную тему проводили учёные из Королевского колледжа Лондона (KCL) и Гарвардской медицинской школы (HMS), которые использовали ИИ-ботов для опроса 19 участников. 

По мнению этого коллектива, ИИ показал себя исключительно с положительной стороны. Однако даже научные данные о пользе или вреде больших языковых моделей для восстановления психического здоровья остаются противоречивыми и требуют всестороннего анализа.