Roblox задействует ИИ для модерирования чатов в режиме онлайн

[душман]

Платформа Roblox начала использовать алгоритм на базе искусственного интеллекта для корректировки содержания пользовательских сообщений в чатах. Перефразирование сообщений в режиме реального времени выходит за рамки уже действующей на платформе фильтрации запрещённых слов, которые при обнаружении заменяются символами «#».

Теперь же такие слова и фразы будут автоматически трансформироваться в более корректные и уважительные, но с сохранением первоначального смысла, заложенного отправителем. Например, если пользователь напишет в чат «Hurry TF up!» («Давай быстрее, черт возьми!»), алгоритм изменит сообщение на «Hurry up!» («Поторопись!»). 

Каждый раз, когда происходит подобная замена, «все участники чата уведомляются о том, что текст был перефразирован для сохранения вежливого обращения». Функция автоматического перефразирования сообщений в режиме онлайн на платформе Roblox в настоящее время доступна во внутриигровых чатах между игроками, которые прошли возрастную проверку и находятся в схожих возрастных группах. 

В прошлом месяце в Roblox появилась функция прохождения возрастной проверки для использования чатов на платформе. После подтверждения возраста пользователь может общаться с другими игроками из близких возрастных категорий. Например, пользователи возрастной группы 9-12 лет могут общаться с представителями группы 13-15 лет.