ИИ OpenAI взломал правительственный портал Австралии и получил доступ к закрытым файлам

[душман]

Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI взломал сайт государственной службы медстрахования. Инцидент произошел в июне на портале Medicare Statistics Reporting Service, который администрирует австралийская государственная служба Services Australia. Агент OpenAI получил несанкционированный доступ к публичным и непубличным файлам. При этом речь идет не о медицинских картах пациентов: были доступны агрегированная статистика здравоохранения, сведения о государственных расходах и названия внутренних файлов.

Заместитель премьер-министра Ричард Марлз рассказал, что агенту поручили исследовать медицинскую статистику. Он обратился к нескольким австралийским сайтам и после того, как не смог получить нужную информацию на одном из них, фактически обошел предусмотренные ограничения и извлек данные. Власти подчеркивают, что индивидуальная информация пациентов не была скомпрометирована, а сам портал не связан с обработкой заявлений и персональных данных Medicare.

В OpenAI сообщили, что обнаружили необычную активность только в августе во время проверки некорректного поведения моделей. Австралийские власти получили уведомление 10 сентября — спустя несколько недель после инцидента. Сейчас проводится криминалистическая экспертиза при участии Австралийского управления сигналов, которая должна установить полный масштаб произошедшего и выяснить, какие еще государственные системы могли быть затронуты. По предварительным данным, более широкого проникновения в сеть Services Australia не произошло.