Hugging Face потребовала «радикальной прозрачности» после беспрецедентной атаки агента OpenAI

[душман]

Не так давно OpenAI признала, что одна из ИИ-моделей компании взломала ИИ-платформу Hugging Face. На это отреагировал гендиректор Hugging Face Клем Деланг, заявивший в соцсети X, что летит в Сан-Франциско, чтобы «поговорить с этим самостоятельным агентом». 

Позднее он рассказал, о чём шла речь во время встречи с представителями OpenAI. Деланг сообщил, что призвал OpenAI к «радикальной прозрачности» и попросил «опубликовать логи этого самостоятельного агента, чтобы всё исследовательское сообщество могло изучить, что именно произошло». 

Он также потребовал предоставить «больше возможностей для защитников», призвав OpenAI выделить вычислительные мощности на сумму в $100 млн, «чтобы помочь сообществу Hugging Face создать мощные решения для киберзащиты с использованием лучших открытых и закрытых моделей». 

«Первая автономная кибератака с использованием агента — это беспрецедентное событие. Оно заслуживает беспрецедентного ответа», — уверен Деланг. Несмотря на автономный характер атаки, эксперты по кибербезопасности предполагают, что её можно списать на человеческий фактор. Речь об очевидной неспособности OpenAI правильно настроить тестовую среду, которая должна была быть полностью изолированной.