Более 1100 сотрудников техкомпаний призвали США регулировать темпы развития ИИ
Более 1100 сотрудников ведущих технологических компаний, включая OpenAI, Google, Anthropic и Meta, призвали правительство США поддержать международную инициативу по созданию инструментов для управления темпами развития передовых систем искусственного интеллекта. Соответствующее открытое письмо-петиция под названием Pacing the Frontier («Замедление передовых моделей») было опубликовано, сообщает Reuters.
В письме, в частности, говорится, что ускорение развития передовых моделей ИИ в будущем может стать настолько стремительным, что потребуется регулирование темпов. «Исходя из наших исследований рекурсивного самоулучшения, мы полагаем, что требуется создать инструменты для целенаправленного замедления передовых моделей — чтобы общество могло подготовиться», — отмечается в сообщении Anthropic. OpenAI в свою очередь заявила, что «в какой-то момент в будущем ускорение развития передовых моделей искусственного интеллекта может оказаться настолько стремительным, что миру придется регулировать темпы развития ИИ».
В прошлом месяце создатель Claude Code призвал крупные ИИ-лаборатории рассмотреть возможность скоординированной паузы в разработке, предупредив, что достижения вскоре могут позволить ИИ-системам совершенствоваться быстрее, чем общество сможет управлять рисками. Кроме того, компания NVIDIA объявила о создании коалиции с Adobe, CrowdStrike и другими компаниями для разработки инструментов обеспечения безопасности ИИ и кибербезопасности.
