Microsoft объяснила, почему ИИ-бот в Bing путается в ответах и может выказывать агрессию

[душман]

Microsoft запустила на прошлой неделе поисковик Bing с интегрированным чат-ботом ChatGPT на основе ИИ, разработанным компанией OpenAI, предоставив к нему доступ отдельным обычным пользователем. Как оказалось, ИИ может допускать ошибки при ответах и даже выказывать агрессию по отношению к задающим вопросы. В одном случае он отказался сообщить, где можно посмотреть фильм «Аватар: Путь воды», поскольку по его мнению фильм ещё не вышел, утверждая, что сейчас на дворе 2022 год. 

Когда же пользователь указал на ошибку, ИИ-бот назвал его «неразумным и упрямым» и предложил завершить этот чат. Microsoft опубликовала в блоге команды Bing сообщение с объяснением происходящего с чат-ботом, а также поделилась планами по решению проблемы. Компания признала, что не предполагала, что ИИ Bing будет использоваться для «общего открытия мира и социальных развлечений», добавив, что «длительные, расширенные сеансы чата из 15 или более вопросов» могут сбить ИИ-бот с толку. 

«Bing может стать повторяющимся или оказаться спровоцированным на то, чтобы давать ответы, которые необязательно полезны или не соответствуют задуманной нами общей атмосфере общения», — сообщила компания. Microsoft также отметила, что «модель иногда пытается ответить или отразить тон, в котором её просят дать ответы», а это может привести к стилю общения, который изначально не предполагался. 

В компании полагают, что эту проблему можно решить, обеспечив пользователям больший контроль над форматом общения. Microsoft сообщила, что несмотря на имеющиеся проблемы, тестировщики в целом дали ИИ Bing хорошие оценки по цитированию и ссылкам для поиска, хотя всё же нужно повысить точность ответов касательно данных в режиме реального времени, например, результатов спортивных матчей в прямом эфире, а также относительно цифр финансовых отчётов.

Также будет добавлен переключатель, который даст пользователям «больше контроля над точностью и креативностью ответа» применительно к конкретному запросу. Команда Bing поблагодарила пользователей за участие в тестировании, которое помогает улучшить продукт, вместе с тем выразив удивление по поводу того, что те проводят в чатах так много времени — иногда до двух часов.