После скандала Character.AI закрыла свободные чаты для детей — вместо них появились безопасные «Истории»

[Ippolitovich]

Платформа Character.AI после столкновения с угрозой нескольких судебных исков из-за негативного влияния на психическое здоровье подростков запретила несовершеннолетним взаимодействовать с открытыми чатами. Вместо этого для таких пользователей сервис запустил «Истории», которые в отличии от обычных чатов предлагают «структурированное» виртуальное приключение с участием ИИ-персонажей.

 

Формат историй доступен всем пользователям Character.AI, но разработчиками он позиционируется именно как способ «улучшить» опыт взаимодействия с ИИ-персонажами для несовершеннолетних. Ещё в прошлом месяце Character.AI объявила, что чаты будут закрыты для подростков с 25 ноября. Параллельно с этим разработчики сообщили о скором запуске функции для проверки возраста пользователей, которая будет автоматически направлять несовершеннолетних пользователей в «более консервативные» ИИ-чаты. Эти меры были приняты после того, как на Character.AI подали в суд, обвинив в том, что платформа способствовала доведению до самоубийства подростка. По мнению истца, взаимодействие несовершеннолетних с ИИ-персонажами также наносит вред тих психическому здоровью.

 

 

Новый формат «Истории» работает по следующему принципу: пользователь может выбрать двух или трёх персонажей, задать жанр, а затем написать самостоятельно описание сюжета или предоставить такую возможность ИИ-алгоритму. Затем платформа сгенерирует «управляемое повествование», где пользователю часто будет предоставляться возможность выбора для изменения хода истории. В «Историях» также используются изображения, сгенерированные ИИ, а в будущем разработчики планируют добавить «более разнообразные мультимодальные элементы».