Anthropic выпустила ИИ-агента Claude для Google Chrome — доступен он лишь 1000 человек в мире

[душман]

Anthropic объявила о выходе предварительной версии браузерного агента искусственного интеллекта, работающего на базе моделей Claude. Воспользоваться предложением пока может лишь группа из тысячи подписчиков тарифного плана Anthropic Max по цене от $100 до $200 в месяц — для остальных заинтересованных пользователей открыт список ожидания.

ИИ-агент устанавливается в Chrome вместе с расширением — появляется боковое окно, где можно переписываться с чат-ботом Claude, который находится в контексте происходящего в браузере. Пользователь может дать ИИ-агенту разрешение выполнять некоторые действия от его имени. Anthropic предупредила, что рост числа ИИ-агентов чреват новыми угрозами безопасности — одну из них недавно обнаружили в браузере Perplexity Comet.

В рамках программы тестирования компания рассчитывает выявить и устранить новые уязвимости. К примеру, развёрнуты несколько средств защиты от атак с использованием «инъекций запросов», при которых вредоносная инструкция для ИИ в скрытом виде размещается на странице просматриваемого сайта — принятые меры помогли снизить их успешность с 23,6 % до 11,2 %. 

В настройках агента можно ограничить его доступ к определённым сайтам; по умолчанию он заблокирован для ресурсов, предлагающих финансовые услуги, материалы для взрослых и пиратский контент. Кроме того, Claude запрашивает разрешение пользователя перед «выполнением операций повышенного риска, таких как публикация, покупка или обмен персональными данными». 

В прошлом году Anthropic выпустила ИИ-агента для управления компьютером, но на практике он оказался медленным и ненадёжным. За прошедшее время возможности этой технологии заметно улучшились — Comet и ChatGPT Agent вполне справляются с выполнением несложных задач.