Квадриллион токенов за месяц: Google рассказала о нагрузке на свои ИИ-сервисы в июне

[Ippolitovich]

Google сообщила, что её ИИ-сервисы обработали почти квадриллион токенов в июне. Под токенами принято понимать единицы данных, обрабатываемые моделями ИИ во время обучения и генерации, что даёт представление о масштабах использования соответствующих сервисов Google. Токены могут включать текст, изображения, аудиоклипы, видео или другие модальности.

По данным компании OpenAI — конкурента Google в области генеративных ИИ-технологий — один токен обычно эквивалентен четырём символам английского текста, а один абзац содержит в среднем около 100 токенов. Например, текст Декларации независимости США состоит из 1695 токенов.

«В прошлом месяце мы обработали почти 1 000 000 000 000 000 токенов, что более чем вдвое больше, чем в мае», — заявил генеральный директор Google DeepMind Демис Хассабис (Demis Hassabis) в социальной сети X.

 

 

Увеличение числа обработанных токенов не обязательно означает рост количества пользователей ИИ-сервисов, однако определённо указывает на то, что рассуждающие ИИ-модели обрабатывают значительно больше данных за одно использование. Google начала развёртывание семейства моделей логического вывода Gemini 2.5 в конце марта.

Рост объёма обрабатываемых токенов требует расширения инфраструктуры центров обработки данных. В этом месяце Google сообщила, что ожидает увеличения капитальных затрат на ЦОДы на $10 млрд — до $85 млрд в год.

«В вычислительных технологиях важен объём ресурсов, необходимых для обучения. Часто эти ресурсы нужно размещать в одном месте, поскольку ограничения пропускной способности между дата-центрами могут повлиять на эффективность. Сейчас ИИ-системы интегрируются в продукты, которыми пользуются миллиарды людей по всему миру, и требуют огромных вычислительных мощностей для генерации ответов. Кроме того, новый тренд в ИИ — рассуждающие модели — становится всё более актуальным: такие модели становятся умнее в зависимости от того, сколько времени им даётся на логическое размышление. Всё это требует всё больших ресурсов, и я не вижу признаков замедления в этом направлении. По мере совершенствования ИИ-системы будут становиться более полезными и востребованными», — рассказал в Хассабис ранее в подкасте Лекса Фридмана (Lex Fridman).