Siri AI будет предлагать перерывы в затянувшихся диалогах и напоминать, что она — не человек

[душман]

В коде Apple iOS 27 обнаружены ссылки, указывающие, что обновлённый помощник с искусственным интеллектом Siri AI будет предлагать пользователям сделать перерыв, если их общение затянется. Одной из опасностей со стороны чат-ботов с ИИ эксперты считают чрезмерную привязанность некоторых пользователей к ним, а также длительное общение с ними как с реальными людьми. 

В отдельных случаях у человека формируется «ИИ-психоз», развиваются бредовые убеждения или ухудшаются существующие проблемы с психическим здоровьем — и это способно спровоцировать длительное взаимодействие с чат-ботом. Опытные разработчики служб ИИ, в том числе OpenAI, Anthropic и Google, уже начали внедрять средства защиты — пользователям напоминают об ограничениях ИИ-компаньонов и поощряют здоровый формат их использования. 

При длительных сеансах переписки OpenAI ChatGPT и Anthropic Claude предлагают сделать перерыв, попить воды или отдохнуть от компьютера. Apple в ходе презентации Siri AI на WWDC затронула несколько вопросов конфиденциальности и ответственности, но о затяжных беседах не упомянула. Тем не менее, в бета-версии Apple iOS 27 обнаружены строки кода, которые могут содержать сообщение пользователю о необходимости сделать перерыв, если переписка оказывается слишком долгой; человеку также напоминают, что Siri человеком не является. 

Фиксированный промежуток времени к этим событиям не привязывается — предупреждения будут выводиться с учётом нескольких сигналов. Apple официально наличие данной функции не подтвердила и не сообщила, как именно она будет работать. Но, очевидно, решила подойти к запуску нового сервиса со всей ответственностью.