ИИ-генератор стикеров заработал в Instagram и Facebook и пользователи тут же заставили его создавать непристойности

[душман]

В Instagram и Facebook Messenger появилась возможность генерировать стикеры по текстовым запросам с помощью ИИ. Некоторые пользователи, получившие доступ к новому инструменту компании Meta, уже начали экспериментировать с ним, в результате чего появилось множество забавных, но сомнительных творений. Пользователь соцсети X под ником Pioldes, у которого ИИ-генератор стикеров появился в приложении Facebook Messenger, попытался совместить несовместимое, и его творения оказались подчас непристойными.

Это вооружённый сантехник Луиджи, брат того самого Марио; дети-солдаты; Микки Маус в уборной; крайне сомнительные воплощения канадского премьер-министра Джастина Трюдо, Карла Маркса и ёжика Соника; и даже женщина, которая кормит грудью покемона Пикачу. Meta представила работающий на основе алгоритмов ИИ генератор стикеров на прошлой неделе. Изображения создаются большой языковой моделью Llama 2 — она, как заявил разработчик, позволяет выдавать десятки качественных стикеров за считанные секунды. 

Инструмент будет доступен в личных сообщениях и в разделе Stories в Facebook и Instagram, а также в Facebook Messenger и WhatsApp. Пока пользоваться им может лишь ограниченная англоязычная аудитория. В компании не уточнили круг пользователей, которые получили доступ к генератору стикеров. Но уже удалось установить, что некоторые слова в описаниях заблокированы: при попытке их ввести в поле описания стикеров выводится предупреждение, что данная лексика нарушает правила сообщества Meta. 

Выяснилось также, что генерировать неприемлемый контент можно, используя запрещённые слова с опечатками или подменяя их описаниями. Такого рода сбои характерны при запуске ИИ-инструментов, поэтому в Meta, видимо, и решили на начальном этапе ограничить доступ к генератору стикеров. Отладив его на этих ошибках, компания сможет выпустить общедоступную версию.