Глава Google DeepMind: автономный ИИ может выйти из-под контроля — нужно глобальное регулирование

[душман]

Генеральный директор и соучредитель лаборатории Google DeepMind Демис Хассабис заявил, что широкомасштабное развёртывание систем искусственного интеллекта несёт с собой серьёзные риски, требующие срочного внимания и международного сотрудничества для их устранения. Он полагает, что существующие институты могут не справиться с управлением будущими разработками в области ИИ.

Хассабис выделил две основные категории рисков, связанных с технологиями ИИ: злоумышленники, использующие полезные технологии во вредных целях, и технические риски, присущие всё более автономным системам. «По мере того, как системы становятся все более автономными, все более независимыми, они будут становиться все более полезными, все более похожими на агентов, но они также будут иметь больший потенциал для рисков и совершения действий, которые, возможно, не были предусмотрены при их проектировании», — заявил он в интервью Bloomberg Television.

Хассабис также выразил обеспокоенность тем, что существующие институты могут оказаться недостаточно подготовленными для управления будущими разработками в области ИИ. Он отметил глобальный охват технологии, добавив, что «она цифровая, а значит, вероятно, затронет каждого в мире и пересечёт границы».

На саммите по искусственному интеллекту в Индии Хассабис подчеркнул важность международных мероприятий, как важнейших площадок для объединения лиц, принимающих решения, с технологами. «Необходимо наличие элементов международного сотрудничества, или, по крайней мере, минимальных стандартов в отношении того, как следует внедрять эти технологии», — уверен он.