Сотни тысяч пользователей ChatGPT еженедельно демонстрируют признаки психических расстройств

[Ippolitovich]

ChatGPT является универсальным интерфейсом для взаимодействия с искусственным интеллектом, поэтому даже самые нелюдимые пользователи увидели в нём альтернативу живому собеседнику. По собственной статистике OpenAI, среди еженедельной аудитории ChatGPT сотни тысяч человек демонстрируют признаки психических расстройств, а свыше миллиона задумываются о суициде. В целом, руководство OpenAI утверждает, что сервисами стартапа еженедельно пользуются около 800 млн человек или примерно 10 % населения нашей планеты. Как отмечает Gizmodo, компания опубликовала статистику тревожных проявлений со стороны активных пользователей, к которым относятся признаки психического расстройства, чрезмерной зависимости от чат-бота и мысли о самоубийстве. Например, до 0,07 % еженедельной аудитории ChatGPT демонстрируют признаки психоза и маний разного характера, суицидальными наклонностями страдают до 0,15 % еженедельной аудитории, и примерно такая же часть находится в сильной эмоциональной зависимости от искусственного интеллекта. В общей сложности, подобные тревожные признаки поведения присущи трём миллионам человек, как подсчитал источник.

 

 

Сама OpenAI старается не провоцировать эту часть аудитории на социально вредные действия, для чего консультируется со 170 специалистами в области психиатрии. За счёт этого стартап пытается научить ChatGPT давать более мягкие ответы пользователям с тревожными симптомами, предлагает им обратиться за консультацией к специалисту или меньше времени проводить в чат-боте. В результате количество нежелательных в таких ситуациях ответов удалось сократить на 65–80 %, но ChatGPT всё равно не прерывает беседу и не блокирует доступ к своим ресурсам для таких пользователей.

Признаки психоза и мании еженедельно демонстрируют до 560 000 пользователей ChatGPT, если перейти от относительных показателей к абсолютным, при этом аналогичные признаки наблюдаются в 0,01 % еженедельно передаваемых в ChatGPT сообщений — это примерно 1,8 млн сообщений, если учесть, что всего их в неделю принимается около 18 млн штук.

Потенциальных самоубийц в ChatGPT набирается по 1,2 млн человек в неделю, они формируют до 9 млн сообщений соответствующего содержания. Чрезмерную зависимость от ИИ способны демонстрировать 1,2 млн человек в неделю, которые создают 5,4 млн сообщений профильного содержания. Попытки OpenAI продемонстрировать озабоченность подобными тенденциями можно подвергнуть критике, ведь она сама недавно рассказала о своих инициативах по приданию чат-боту более выраженной индивидуальности и использованию ИИ для создания контента эротического содержания. Вряд ли развитие технологий в таком русле будет способствовать укреплению психического здоровья клиентов OpenAI.