Регуляторы накинулись на Grok, когда он научился «раздевать» людей до белья

[Ippolitovich]

ИИ-чат-бот Grok, созданный xAI, стартапом Илона Маска (Elon Musk), столкнулся с растущей критикой со стороны регулирующих органов по всему миру после создания им в социальной сети X в ответ на запросы пользователей изображений сексуального характера, в том числе с участием несовершеннолетних.

 

Как сообщает Bloomberg, власти Малайзии объявили в минувшую субботу о начале расследования в связи жалобами на неправомерное использование ИИ, поскольку Grok манипулирует изображениями женщин и несовершеннолетних с целью создания непристойного, крайне оскорбительного или иного вредоносного контента.

Согласно заявлению Комиссии по коммуникациям и мультимедиа Малайзии (MCMC), создание или передача такого вредоносного контента является преступлением в соответствии с законодательством страны. В связи с этим ведомство по надзору за СМИ проведёт расследование в отношении пользователей X, предположительно нарушивших закон, и вызовет представителей компании для получения объяснений.

«Хотя в настоящее время X не является лицензированным поставщиком услуг, она обязан предотвращать распространение вредоносного контента на своей платформе», — указано в заявлении комиссии.

За день до этого, в пятницу Министерство электроники и информационных технологий Индии (MeitY) направила письмо компании X с требованием провести всестороннюю проверку ИИ-чат-бота, чтобы убедиться, что он не генерирует контент, содержащий «обнажённость, сексуализацию, откровенно сексуальный или иной незаконный контент».

X должна представить министерству отчёт о принятых мерах в течение 72 часов. Также компания была предупреждена о возможном судебном преследовании в соответствии с уголовным и ИТ-законодательством. Правительство Индии заявило, что может рассмотреть вопрос о регулировании социальных сетей в отношении неприемлемого контента, созданного ИИ. «Парламентский комитет рекомендовал принять жёсткий закон о регулировании социальных сетей, — сообщил министр информационных технологий Индии Ашвини Вайшнау (Ashwini Vaishnaw) в интервью CNBC-TV 18. — Мы рассматриваем его».

 

 

Также в пятницу французское правительство заявило, что Grok создаёт «явно незаконный» сексуальный контент на платформе X без согласия пользователей, что потенциально является нарушением Закона Европейского союза «О цифровых услугах» (DSA).

Кроме того, изображения, размещённые чат-ботом и содержащие оскорбительные материалы, явно нарушают его собственную политику допустимого использования, которая запрещает сексуализацию детей. Некоторые из созданных чат-ботом изображений были удалены.

Ответ на запрос о комментарии, отправленный по электронной почте в компанию xAI, был краток: «Традиционные СМИ лгут».