OpenAI перестала быть открытой исследовательской организацией

[душман]

Недавно OpenAI анонсировала большую языковую ИИ-модель нового поколения GPT-4. Возможности системы все ещё оцениваются, но многие не связанные с компанией исследователи и эксперты уже выразили разочарование: несмотря на название разработчика, GPT-4 уже не является открытой моделью.

Компания опубликовала множество результатов тестов GPT-4 и некоторые демонстрационные материалы, но ничего не рассказала об использованных при обучении системы данных, о затратах на электроэнергию, об использованном оборудовании и задействованных при её создании методах. 

Эксперты это решение раскритиковали, ответив, что оно подрывает дух компании как исследовательской организации, а повторить её работу другие игроки уже не смогут. Это также затрудняет разработку методов защиты от угроз, которые может представлять ИИ.

Прояснить ситуацию решили журналисты ресурса The Verge в беседе с главным научным сотрудником и соучредителем OpenAI Ильёй Суцкевером. Решение компании он объяснил конкурентной средой и соображениями безопасности. В разрезе конкуренции это решение, по его мнению, только будет способствовать развитию отрасли. 

А по поводу аспекта безопасности он дал следующие пояснения: «Эти модели очень мощные, и они становятся ещё мощнее. В какой-то момент при желании будет очень легко причинить этими моделями значительный ущерб. И по мере расширения этих возможностей обретает смысл нежелание их открывать».

OpenAI была основана в 2015 году — учредителями стали её теперешний генеральный директор Сэм Альтман, вышедший из состава совета директоров в 2018 году Илон Маск, а также Суцкевер.Первоначально цель организации декларировалась как «создание ценности для всех, а не акционеров» и «свободное сотрудничество» с другими в области ИИ. Но со временем приоритеты изменились, и в итоге OpenAI получила многомиллиардные инвестиции от Microsoft, предоставив софтверному гиганту эксклюзивные бизнес-лицензии.

«Мы были неправы. Мы были откровенно неправы. Если вы, как и мы, верите, что ИИ станет крайне, невероятно мощным, то в открытом коде смысла нет. Это плохая идея. Не сомневаюсь, что через несколько лет всем станет совершенно очевидно, что ИИ с открытым кодом — это просто неразумно», — прокомментировал Суцкевер кардинальное изменение стратегии OpenAI.