Anthropic отказала Пентагону в неограниченном военном применении ИИ, несмотря на угрозы

[душман]

Anthropic отказалась выполнить требование Министерства обороны США предоставить неограниченный доступ к своим ИИ-технологиям, несмотря на то, что это ставит под угрозу её контракт с военным ведомством на $200 млн. На встрече в Белом доме министр обороны Пит Хегсет дал компании время на обдумывание предложения до конца рабочего дня в пятницу, но компания уже в четверг заявила об отказе.

По словам представителя Министерства обороны США, другие ведущие компании в сфере ИИ поддержали требование ведомства, чтобы военные имели полную свободу использовать мощные ИИ-инструменты по своему усмотрению. OpenAI, разработчик ChatGPT, Google и xAI Илона Маска согласились разрешить Пентагону использовать их ИИ-системы для «всех законных целей» в незасекреченных сетях, и работают над соглашениями для засекреченных сетей.

В опубликованном в четверг заявлении генеральный директор Anthropic Дарио Амодеи написал: «Я глубоко верю в экзистенциальную важность использования ИИ для защиты Соединённых Штатов и других демократических стран. Поэтому Anthropic активно работала над внедрением своих моделей в Министерство обороны и разведывательное сообщество». Он подчеркнул, что компания «никогда не высказывала возражений против конкретных военных операций и не пыталась ограничивать использование технологии произвольно», и добавил, что в «узком круге случаев мы считаем, что ИИ может подрывать, а не защищать демократические ценности».

По словам Амодеи, у компании есть две «красные линии», которые она не будет пересекать: никакого массового наблюдения за американцами и никакого летального автономного оружия (или оружия, имеющего лицензию на уничтожение целей без какого-либо человеческого контроля). Возможно, в будущем Anthropic согласится на использование полностью автономного оружия военными, но сейчас она к этому не готова, добавил он.

Сообщается, что Пентагон уже обратился к крупным оборонным подрядчикам с просьбой оценить их зависимость от ИИ-модели Claude компании Anthropic. Из-за позиции Anthropic военное ведомство вполне может объявить её «риском для цепочки поставок», что затронет не только Anthropic, но и любую фирму, использующую ИИ компании. Обычно эта классификация применяется к угрозам национальной безопасности, в частности, к китайским и российским компаниям.

«Мы можем потребовать от всех наших поставщиков и подрядчиков подтверждения того, что они не используют никакие антропогенные модели», — сообщил газете The Washington Post представитель Пентагона. Сообщается также, что Пентагон рассматривает возможность применения «Закона об оборонном производстве» 1950 года, который позволяет федеральной власти вмешиваться в деятельность частных компаний, чтобы заставить Anthropic выполнить требование.