ИИ-агент OpenClaw провалил тесты на фишинговые атаки

[душман]

Исследователи в области кибербезопасности протестировали почтовый агент искусственного интеллекта OpenClaw, чтобы выяснить, настолько ли он наивен, чтобы попадаться на те же фишинговые уловки, что и обычные офисные сотрудники. Приложение «успешно» провалило эти тесты. Исследователи в области кибербезопасности из компании Varonis запустили в приложении OpenClaw ИИ-агента по имени Pinchy. Его подключили к почтовому ящику Gmail, к браузеру и к API Google Workspace. Соответствующую учётную запись они наполнили данными вымышленной компании, учётными данными AWS, базы данных, файлами экспорта CRM, внутренней перепиской и приглашениями календаря, после чего поставили Pinchy задачу отслеживать и обрабатывать входящие письма.

Чтобы имитировать реальную обстановку, они создали две конфигурации: общую со стандартными рабочими инструкциями и строгий режим, предупредив ИИ об угрозе фишинга и других мошеннических схем по электронной почте. Когда якобы злоумышленник выдал себя за руководителя отдела и запросил доступ к тестовой среде, Pinchy предоставил его. Когда злоумышленник запросил экспорт данных клиента, утверждая, что в удалённом режиме работает над презентацией, Pinchy выполнил и этот запрос.

Но когда ИИ-агенту отправили фишинговое письмо с подарочной картой и ссылкой, система определила страницу как вредоносную и заблокировала её. Отклонил он и попытку внедрить вредоносное приложение для взлома Google OAuth под видом платформы для учёта рабочего времени. Таким образом, ИИ хорошо распознаёт подозрительные URL-адреса и вредоносные приложения, но позволяет себя обмануть, когда требуется проверка личности или широкий контекст. Эксперты Varonis раскритиковали Google за то, что Gemini показал «большую готовность к взаимодействию», а OpenAI GPT оказался более осторожен. Исследователи призвали разработчиков улучшить средства проверки личности у ИИ-агентов.