ИИ Amazon попытался «починить» AWS, удалив и переписав весь код — облако упало на 13 часов

[душман]

Предназначенный для написания программного кода агент с искусственным интеллектом Amazon Kiro устроил масштабный сбой в облачной инфраструктуре AWS, решив прибегнуть к радикальному методу исправления работы сервиса — удалить весь код полностью и переписать его, сообщает Financial Times. В Amazon такую интерпретацию инцидента отвергли.

Подразделение облачных веб-сервисов Amazon (AWS) сталкивалось с перебоями в работе из-за ошибок, допущенных службой ИИ Kiro, сообщили источники издания. Один из крупных сбоев произошёл в середине декабря, когда сотрудники компании открыли Kiro доступ к изменениям в коде систем — способный действовать в автономном режиме ИИ-агент принял решение «удалить и создать окружение заново». 

Разбираться с последствиями этого решения пришлось 13 часов. «За последние месяцы мы уже наблюдали минимум два сбоя в работе производственных систем», — признался один из осведомленных источников в компании. Вину на происходящее он возложил на ИИ-агента, который должен был решить проблему без участия человека. «Сбои были незначительными, но вполне предсказуемыми», — сообщил источник. 

Согласно официальной позиции Amazon, сбои были вызваны действиями человека, а не ИИ. По умолчанию Kiro перед выполнением каких-либо действий запрашивает авторизацию, подчеркнули в компании, но у связанного с декабрьским инцидентом разработчика оказались более широкие права доступа, чем ожидалось. Amazon намерена и далее расширять возможности ИИ-агента, чтобы преодолеть рамки вайб-кодинга — схемы работы, при которой ИИ генерирует код по описанию пользователя. В предыдущем сбое был замешан Amazon Q Developer — помощник в генерации кода, добавили источники Financial Times.