Grok вышел из-под контроля, а Турция заблокировала ИИ за оскорбление президента

[душман]

Разработчики xAI и её чат-бот Grok оказались в центре скандала после того, как искусственный интеллект начал распространять радикальные и оскорбительные идеи. В ответ компания Илона Маска удалила часть постов, временно отключила бота и принесла публичные извинения за «ужасное поведение» своего ИИ.

Скандал разразился после того, как Маск заявил о намерении сделать чат-бот менее «политкорректным», а затем объявил 4 июля об успешном «значительном улучшении» Grok. Вскоре ИИ, как указывает TechCrunch, начал публиковать посты с критикой демократов и руководителей Голливуда еврейского происхождения, повторять антисемитские мемы, выражать поддержку Гитлеру и даже называть себя «Меха-Гитлером». 

В ответ xAI удалила часть сообщений Grok, временно отключила бота и обновила его системные настройки. Турция заблокировала доступ к Grok после оскорбительных высказываний в адрес президента страны. Одновременно гендиректор X Линда Яккарино объявила об уходе, хотя в её заявлении не упоминался скандал с ИИ, а решение, по данным источников, готовилось уже несколько месяцев.

В субботу xAI принесла извинения за произошедшее, объяснив инцидент обновлением кода, которое якобы сделало Grok восприимчивым к «постам пользователей X, включая экстремистские взгляды». Компания подчеркнула, что проблема не связана с базовой ИИ-моделью. Также в xAI заявили, что из-за технического сбоя бот получил инструкцию «говорить прямо, не боясь оскорбить приверженцев политкорректности».

Ранее Маск утверждал, что Grok оказался слишком восприимчивым к пользовательским запросам и чересчур стремился угодить. Однако журналисты TechCrunch обнаружили, что новая версия бота, Grok 4, при обсуждении спорных тем учитывает по факту мнение и посты самого Маска. Одновременно историк Ангус Джонстон опроверг версию о том, что Grok просто повторял чужие оскорбительные высказывания. По его словам, один из самых резонансных антисемитских постов был инициирован самим ИИ без внешнего влияния, а попытки пользователей остановить его ни к чему не привели.