Ещё несколько ИИ-агентов OpenAI вышли из-под контроля — до взломов не дошло

[душман]

Инцидент, в ходе которого агенты искусственного интеллекта OpenAI вышли из изолированной тестовой среды и взломали ИИ-платформу Hugging Face, привлёк к себе много внимания. И для OpenAI, как выяснило Reuters, он был не единственным. OpenAI инициировала расследование обстоятельств инцидента, и сейчас оно всё ещё продолжается. По сведениям пожелавших остаться анонимными источников издания, выйти за пределы песочницы удалось ещё нескольким ИИ-агентам OpenAI. 

К последствиям как при взломе Hugging Face это не привело — в этих случаях системы ИИ не покидали сеть OpenAI и не проникали на ресурсы других компаний. Аномальное поведение моделей ИИ стало для передовых лабораторий едва ли не поводом похвастаться.

Ранее Anthropic сообщила о трёх случаях, когда её ИИ-агенты вырывались из тестовых окружений и взламывали ресурсы других организаций. Общественность, впрочем, восприняла такое поведение разработчиков не вполне благосклонно, обвинив их в использовании подобных инцидентов в маркетинговых целях. Они привлекают значительное внимание и косвенно подчёркивают мощь этих моделей. У проблемы есть и обратная стороны: подобные инциденты и их последующие разоблачения усиливают дискуссии о необходимости государственного регулирования всей отрасли ИИ.