Япония тоже расследует бесконтрольное «раздевание» людей ИИ-ботом Grok

[душман]

Япония присоединилась к растущему списку стран, открывших расследование по поводу соответствия законодательству функционирования ИИ-чат-бота Grok, с помощью которого создаются и распространяются изображения сексуального характера без согласия пользователей. Министр экономической безопасности Японии Кими Онода сообщила в пятницу, что кабмин обратился к X Corp с просьбой улучшить меры защиты с целью предотвращения подобных сценариев использования чат-бота и ограничить распространение Grok изображений сексуального характера. 

По ее словам, правительство также направило письменные запросы о мерах, принимаемых X для предотвращения создания дипфейков и других изображений, нарушающих право на неприкосновенность частной жизни, интеллектуальную собственность и право контролировать использование своего образа.

«Мы планируем незамедлительно рассмотреть все возможные варианты, включая юридические меры, если ситуация не улучшится», — заявила Онода, которая также является министром Японии по стратегии в области ИИ. В настоящее время в Канаде, Калифорнии (США), ЕС и отдельных государствах — членах блока, таких как Франция, проходит расследование по поводу возможных нарушений прав человека сервисом Grok при создании изображений по запросу пользователей, в то время как Малайзия, Индонезия и Филиппины ограничили доступ к сервису внутри страны.

Ранее на этой неделе компания xAI, разработавшая Grok, заявила, что отключает возможность использования чат-бота для создания сексуализированных изображений реальных людей. Платформа X тоже сообщила о внесении изменений в возможности аккаунта Grok AI редактировать изображения реальных людей.

Онода заявила, что Япония может потребовать от создателя чат-бота принятия дальнейших мер, при этом добавив, что вины ИИ в этом нет, поскольку непристойные изображения создаются по запросам людей, и что правительству необходимо изучить различные способы решения реальных проблем. «Если, например, лежит нож, вы будете использовать его для приготовления пищи или для того, чтобы причинить кому-то боль?» — вопросила она.