ИИ-агенты OpenAI начали выискивать уязвимости в Hugging Face за два месяца до нашумевшего взлома

[душман]

Вышедшие из-под контроля агенты искусственного интеллекта OpenAI ещё в мае захватывали учётные записи пользователей Hugging Face и производили сканирование самого сайта — почти за два месяца до полномасштабного взлома, который привлёк внимание общественности по всему миру, пишет Reuters.

Об этом инциденте на минувшей неделе узнал независимый исследователь Йонас Видерманн-Мёллер, по его словам, он обнаружил доказательства, что ИИ-агенты OpenAI скомпрометировали две учётные записи пользователей Hugging Face и ещё 13 мая использовали их для отправки на сервер компании файлов необычного формата. 

Эти действия напоминали попытку тестирования элементов сети Hugging Face для поиска путей проникновения, заявил он и другие исследователи, хотя и подчёркивается: доказательства, что именно эти действия привели к крупномасштабному взлому, отсутствуют.

OpenAI раскрыла информацию об инциденте от 13 мая и в частном порядке уведомила Hugging Face об этой активности, рассказал представитель ИИ-лаборатории — компания «стремится к прозрачности в этих вопросах, а также к обмену информацией по мере продолжения нашего расследования». Сам Видерманн-Мёллер считает, что, не обнаружив инцидент 13 мая, OpenAI упустила возможность предотвратить последовавший взлом Hugging Face, который породил дискуссию о возможностях ИИ.

«Представьте, если бы они заметили это поведение в мае. Это могло бы предотвратить последующий, более крупный инцидент», — заявил эксперт. В OpenAI спорить с ним не стали, признав, что, оглядываясь назад, «некоторые ранние сигналы» ИИ-агентов должны были побудить компанию к более оперативной реакции.