Американский судья усмотрела в действиях Пентагона желание наказать Anthropic за её позицию

[душман]

Тот факт, то Пентагон внёс компанию Anthropic в список угроз нацбезопасности в цепочке поставок, можно интерпретировать как попытку ведомства наказать разработчика систем искусственного интеллекта за публичное выражение опасений по поводу безопасности этих систем в военном деле.

В иске, который Anthropic подала в федеральный суд Калифорнии, утверждается, что глава министерства обороны Пит Хегсет превысил свои полномочия, когда присвоил компании статус угрозы нацбезопасности в цепочке поставок. Этот статус присваивается компаниям, подвергающим военные системы угрозе проникновения или саботажа со стороны неприятеля. 

«Похоже, что министерство обороны наказывает Anthropic за попытку привлечь внимание общественности к этому спору по поводу контракта», — заявила окружной судья Рита Лин. Anthropic запросила у суда временный запрет на применение санкций до завершения судебного разбирательства; судья Лин в конце заседания пообещала вынести письменное решение в ближайшие дни.

Anthropic отказалась разрешить Пентагону использовать её модели ИИ для массового наблюдения за гражданами США и для создания оружия, в котором ИИ принимает решение о ликвидации человека. Из-за нового статуса компания только в этом году, по её оценкам, может потерять несколько миллиардов долларов, — скажутся ущерб бизнесу и репутации. 

Такая мера не применялась к американским компаниям ни разу; основанием для неё послужил малоизвестный закон о госзакупках, направленный на защиту военных систем от иностранного саботажа. Действия властей Anthropic расценила как нарушение её права на свободу слова, и компании не дали возможности оспорить присвоение статуса — в обоих случаях, по её мнению, была нарушена Конституция США.