В Китае запретят слишком человечных ИИ-компаньонов — ByteDance и Alibaba уже начали отключать функцию

[душман]

ByteDance и Alibaba начали отключать функции создания и общения с ИИ-компаньонами в своих сервисах в преддверии вступления в силу новых требований китайских властей. Регулирование, которое начнёт действовать c середины июля, затронет ИИ-сервисы, которые имитируют человеческое поведение и эмоции. Согласно уведомлению, с которым ознакомилось Bloomberg, платформа Doubao, являющаяся самым популярным чат-ботом в Китае, 15 июля прекратит поддержку функции создания пользовательских ИИ и станет отдельным специализированным приложением. 

Аналогичные уведомления выпустила платформа Qwen, а также, по данным местных СМИ, другие крупные сервисы, включая Yuanbao от Tencent. Представленные в апреле правила, разработанные Управлением по вопросам киберпространства КНР (Cyberspace Administration of China), запрещают платформам создавать контент, вызывающий у несовершеннолетних сильные эмоциональные переживания или формирующий нездоровую зависимость от виртуального общения, способную ухудшить отношение к реальной жизни. Кроме того, поставщикам таких сервисов запрещается использовать конфиденциальные данные пользовательских диалогов для обучения будущих моделей искусственного интеллекта.

До введения новых ограничений китайские платформы позволяли создавать ИИ-агентов с помощью нескольких текстовых запросов, включая виртуальных партнёров, цифровых психотерапевтов без лицензии и имитации популярных исполнителей. На фоне судебных исков в США против OpenAI и Character.AI, обвиняемых в провоцировании опасных эмоциональных зависимостей, китайские власти решили упредить потенциальный вред. Как отмечает Bloomberg, одновременно с регулированием программных сервисов в Китае обсуждаются дополнительные этические требования для рынка роботов-компаньонов и гуманоидных устройств.