Американская лаборатория: китайские ИИ-модели не опаснее обычного ПО с открытым кодом

[душман]

Американская лаборатория Arcee, занимающаяся разработкой открытых ИИ-моделей, выступила против идеи запрета в США китайских моделей с открытыми весами (open-weight). В компании заявили, что такие системы не опаснее любого другого ПО с открытым исходным кодом.

По словам технического директора Arcee Лукаса Аткинса, распространённое мнение о том, что китайские разработчики способны встроить в модель скрытые механизмы доступа к системам пользователей, не соответствует принципам работы современных больших языковых моделей (LLM). Он пояснил, что после развёртывания модели в собственной инфраструктуре организации её создатель не получает возможности взаимодействовать с ней.

Аткинс отметил, что, хотя большинство подобных моделей относятся к категории open-weight, а не полностью open source, их программный код, загружаемый через такие площадки, как Hugging Face, остаётся доступным для анализа. При этом недоступными остаются только данные и методики, использовавшиеся во время обучения модели.

В Arcee также подчеркнули, что крупные компании обычно проводят собственные проверки безопасности, тестируют модели на предвзятость, токсичность, галлюцинации и другие характеристики, а также дообучают их под собственные задачи. Благодаря этому организации получают возможность оценить поведение модели ещё до её ввода в эксплуатацию.

Комментируя опасения относительно возможного внедрения вредоносного кода через модели, Аткинс признал, что теоретически такой сценарий можно представить. Однако, по его словам, реализовать подобный механизм на практике крайне сложно, а вероятность того, что сгенерированный код затем будет использован компанией без дополнительной проверки, остаётся низкой.

В Arcee считают, что основное внимание следует уделять развитию открытой ИИ-экосистемы в США, а не попыткам ограничить китайские модели, так как открытая доступность таких систем позволяет американским разработчикам изучать применяемые подходы, совершенствовать собственные модели и конкурировать за счёт выпуска более качественных продуктов, а не административных запретов.