Соцсети заполонили боты - Сэм Альтман пожаловался, что интернет стал искусственным из-за ИИ

[душман]

Сегодня стало невозможно определить, действительно ли публикации в соцсетях пишут люди, или это делают чат-боты с искусственным интеллектом, пожаловался в соцсети X глава компании OpenAI Сэм Альтман. Он обратил на это внимание, когда изучал на платформе Reddit сообщения, посвящённые сервисам написания программного кода при помощи ИИ — Anthropic Claude Code и OpenAI Codex. 

Пользователи сетевого сообщества создали в нём столько тем о своём переходе с Claude Code на Codex, что Альтман задумался, сколько из этих публикаций создали реальные люди. Он отметил несколько тенденций, из-за которых написанные человеком и ИИ посты становится отличать друг от друга всё труднее. Люди и сами всё чаще начинают копировать языковой стиль ИИ, в результате чего граница между ними размывается в обе стороны. 

Блогеры и энтузиасты, которые проводят в сети чрезвычайно много времени (Extremely Online), стали действовать сообща, одновременно публикуя схожие материалы, потому что к этому их подталкивают алгоритмы соцсетей. Это проявляется, например, в стандартных циклах трендов: сначала новые продукты встречаются с воодушевлением, которое в одночасье сменяется столь же единодушной критикой; а также в том, что большинство авторов в соцсетях в погоне за монетизацией публикуют эксцентрические посты, за которыми всё меньше просматривается искренность.

В умелых руках все эти механизмы обращаются в «астротурфинг» — имитацию общественной поддержки того или иного мнения, — и этот эффект со стороны конкурентов OpenAI, отметил Альтман, довелось испытать на себе. Одним из его проявлений глава компании назвал шумиху вокруг не самого удачного запуска флагманской большой языковой модели GPT-5. Вскоре после её выхода Альтман провёл на Reddit серию вопросов и ответов, в которой признал наличие некоторых проблем, но не смог восстановить прежний уровень доверия. 

«В итоге возникает ощущение, что ИИ-Twitter и ИИ-Reddit стали какими-то неестественными, чего год или два назад не было», — пожаловался глава OpenAI. Установить долю написанных ИИ публикаций на Reddit действительно непросто, но она может оказаться значительной.

Если верить материалам исследования, проведённого специализирующейся на вопросах кибербезопасности компанией Imperva, в 2024 году более половины всего интернет-трафика создал не человек, и дело здесь преимущественно в ИИ-моделях. По одной из версий, Альтман обратился к этому вопросу потому, что OpenAI готовит собственную соцсеть, но едва ли и она сможет гарантировать, что на этой платформе тоже массово не заведутся боты с ИИ.