Meta не будет открывать исходный код всех своих ИИ-моделей «суперинтеллекта» — это не безопасно

[душман]

Meta может изменить свой подход к публикации исходного кода ИИ-моделей, включая так называемый «персональный суперинтеллект». По словам гендиректора компании Марка Цукерберга, не у всех разработок будет открытый исходный код, потому что это не безопасно. Его слова приводит TechCrunch.

«Мы считаем, что преимуществами суперинтеллекта нужно делиться со всем миром как можно более широко, однако суперинтеллект ставит новые вопросы безопасности, — написал Цукерберг в письме. Эти проблемы нужно тщательно контролировать, а к открытому исходному коду нужно относиться внимательно».

Это может говорить о смене прежнего курса компании, когда именно открытый исходный код моделей Llama преподносился как ключевое преимущество Meta над конкурентами, такими как ChatGPT и Google DeepMind. Правда, при этом Цукерберг допускал, что готов отказаться от открытого формата в случае каких-либо новых угроз со стороны ИИ. 

«Если модель приобретёт качественно новые способности, и мы решим, что открывать её будет безответственно, мы не будем этого делать», — говорил он также в прошлом году в одном из подкастов.Ещё в 2024 году Цукерберг заявлял: «Начиная со следующего года мы рассчитываем, что модели Llama станут самыми совершенными в индустрии». Эти модели должны были демонстрировать преимущества открытого ПО. Однако тестирование последней открытой версии Llama, Behemoth, недавно было приостановлено, вместо этого началась разработка закрытой модели.