Нобелевский лауреат Демис Хассабис предложил создать международный орган надзора за ИИ

Глава Google DeepMind, нобелевский лауреат Демис Хассабис выступил с инициативой создания международного надзорного органа во главе с США для контроля за угрозами в сфере искусственного интеллекта. По его мнению, в ближайшие 18 месяцев модели с открытым исходным кодом могут породить биологические и ядерные угрозы, неподвластные контролю правительств.

Хассабис назвал нынешние киберриски от ИИ «предупредительными выстрелами» и призвал к более планомерному подходу к регулированию. Предлагаемый орган должен финансироваться отраслью, быть укомплектован техническими экспертами мирового класса и подотчетен правительству США. Он должен обладать полномочиями проверять самые передовые модели и координировать замедление темпов развития при росте опасности.

Лауреат Нобелевской премии по химии 2024 года считает, что до появления общего искусственного интеллекта (AGI) остались считаные годы, а мир к этому не готов. Он сравнивает AGI по значимости с открытием электричества или огня, оценивая его влияние вдесятеро больше промышленной революции. Хассабис предупреждает о рисках, включая ядерные и биологические угрозы, а также проблему контроля над автономными системами, способными к самоусовершенствованию.

Главным препятствием он называет гонку в коммерческом и геополитическом соперничестве, где прогресс опережает понимание технологии. Хассабис предлагает США создать надзорный орган по образцу финансового регулятора FINRA — государственно-частное партнерство с независимыми экспертами, которое задавало бы планку безопасности.