Родители смогут ограничивать общение своих детей с ИИ-персонажами в Instagram

[Ippolitovich]

Meta разрабатывает новые средства родительского контроля, которые помогут ограничить несовершеннолетних в общении с воплощающими виртуальные персонажи чат-ботами на базе искусственного интеллекта, которые работают в соцсетях компании. Основной помощник Meta AI будет доступен, как и прежде. Если родители не хотят блокировать своим детям все чат-боты с ИИ, они смогут отключить только отдельных персонажей; у них также появится возможность получать информацию о темах, которые их дети обсуждают с чат-ботами Meta. Компания пока только разрабатывает эти функции контроля и в следующем году начнёт их внедрять в англоязычном сегменте Instagram в США, Великобритании, Канаде и Австралии.

 

 

На эту меру Meta решила после того, как подверглась критике за чрезмерную свободу, которую предоставляла чат-ботам с ИИ — вплоть до возможности вести переписку деликатного характера с несовершеннолетними. Инцидент имел резонанс на политическом уровне, а Meta была вынуждена начать переобучение своего ИИ и добавить новые средства защиты, чтобы не позволить несовершеннолетним пользователям участвовать в неподобающих разговорах. В соцсетях она ввела возрастные ограничения, разрешив чат-ботам с ИИ давать только ответы, соответствующие рейтингам фильмов PG-13 и оставив подросткам выбор только среди персонажей, ориентированных на соответствующие их возрасту темы.