Тысячи приватных диалогов с Grok утекли в поиск Google

[Ippolitovich]

Тысячи диалогов пользователей с чат-ботом Grok компании xAI Илона Маска (Elon Musk), оказались доступны через поисковые системы, сообщает TechCrunch со ссылкой на Forbes. Каждый раз, когда пользователь Grok нажимает кнопку «Поделиться» в разговоре с чат-ботом, создаётся уникальный URL-адрес, который затем можно передать по электронной почте, в текстовом сообщении или в социальных сетях.

 

Эти URL-адреса с приватными диалогами могут быть проиндексированы поисковыми роботами Google, Bing и DuckDuckGo и появиться в результатах поиска глобальной сети. Функция, позволяющая генерировать публичные URL, аналогичным образом недавно затронула и пользователей чат-ботов от компаний Meta и OpenAI, и в случае с Grok она также привела к утечке диалогов с небезопасным контентом — среди них запросы о взломе криптокошельков, откровенные беседы с персонифицированными ИИ-персонажами и просьбы предоставить инструкции по синтезу запрещённых препаратов.

Хотя в правилах использования сервиса xAI прямо запрещено применять бота для поощрения действий, «критически вредящих человеческой жизни», а также для разработки «биологического, химического оружия или оружия массового уничтожения», однако это не помешало пользователям направлять соответствующие запросы к Grok.

Согласно анализу диалогов, оказавшихся в открытом доступе через Google, бот предоставлял пошаговые инструкции по изготовлению запрещённых препаратов, перечислял методы совершения суицида, давал советы по созданию взрывоопасных устройств и даже сформулировал детальный план убийства самого Маска.

 

 

Представители xAI пока не ответили на запрос о комментарии, а также не уточнили, с какого времени ссылки на диалоги с Grok начали индексироваться поисковыми системами.

Напомним, что в конце прошлого месяца пользователи ChatGPT сообщили о похожей ситуации — их переписки также попадали в поисковую выдачу Google, на что OpenAI отреагировала, назвав это «кратковременным экспериментом». В ответ в Х появилось сообщение от компании Маска с фразой «Grok ftw» с комментарием, что в xAI «нет функции "Поделиться"» и что «конфиденциальность — её приоритет».