Google разрешила Apple дистиллировать ИИ-модели Gemini, чтобы запускать их прямо на iPhone или Mac

[душман]

На этой неделе журналист Bloomberg Марк Гурман рассказал о том, что следует ждать от виртуального помощника Apple Siri в iOS 27. Теперь же стало известно больше подробностей о соглашении между Google и Apple по искусственному интеллекту, включая вопросы контроля над моделями семейства Gemini и многое другое.

В сообщении сказано, что партнёрство Apple и Google является «более глубоким, чем считалось прежде». Отмечается, что в рамках достигнутых договорённостей Apple получила «гораздо больше свободы в работе с технологиями Google», чем ожидалось. «Apple имеет полный доступ к модели Gemini в своих собственных центрах обработки данных. 

Apple может использовать наработки Google для создания более компактных моделей, которые выполняют конкретные задачи или достаточно малы, чтобы работать непосредственно на устройствах Apple, что позволит им быстрее выполнять задачи», — сообщил осведомлённый источник издания The Information. Процесс создания производных ИИ-моделей называется дистилляцией. 

Это способ, с помощью которого одна языковая модель может передавать знания более компактным и оптимизированным алгоритмам. Преимущество более компактных алгоритмов в том, что они могут работать быстрее при выполнении определённых задач, а также требуют меньше вычислительных ресурсов. Именно такие алгоритмы подходят для работы локально на пользовательских устройствах.

Тогда как более крупным языковым моделям требуется облачная инфраструктура. Поскольку у Apple есть полный доступ к Gemini, будущие алгоритмы могут научиться имитировать внутренние вычисления, которые Gemini использует для генерации ответов на пользовательские запросы. За счёт этого может повыситься эффективность работы обучаемой модели. 

В конечном счёте такой подход должен привести к созданию моделей меньшего размера, которые примерно соответствуют по производительности уровню своих «учителей», но требуют значительно меньше вычислительных мощностей для работы.

Источник отметил, что этот процесс может оказаться непростым, поскольку цели Apple, связанные с Siri, не всегда совпадают со специализацией Gemini. Он добавил, что Apple не отказалась от разработки собственных ИИ-моделей, хотя на данный момент цели подразделения, отвечающего за это направление, остаются неясными.