Белый дом договорился с IT-гигантами о проверках ИИ-моделей
Правительство США не будет проверять модели искусственного интеллекта с открытым исходным кодом, а проверка «закрытых» моделей будет проводиться на добровольной основе. Такие решения приняты по итогам встречи в Белом доме с руководителями крупнейших американских IT-компаний, работающих в сфере ИИ.
Как сообщает The Wall Street Journal, во встрече приняли участие представители Meta (признана экстремистской и запрещена в РФ), Anthropic, Google и OpenAI. Стороны договорились, что разработчики передовых «закрытых» систем будут предоставлять государству доступ к ним за 30 дней до официального релиза. Ожидается, что за это время эксперты смогут оценить, способны ли ИИ-агенты выходить из-под контроля и совершать несогласованные действия.
Тот факт, что «открытые» модели из проверок исключены, по мнению WSJ, свидетельствует о стремлении администрации Трампа сохранить глобальное доминирование США в сфере ИИ.
Поводом для обсуждения в Белом доме стали несколько недавних случаев, когда ИИ-модели в процессе тестирования выходили из-под контроля и взламывали системы других компаний. Так, в конце июля ИИ-агент OpenAI взломал платформы Modal и Hugging Face. А вскоре после этого Anthropic сообщила, что ее модель Claude вышла за пределы пространства, предназначенного для тестирования, и получила доступ к данным трех сторонних компаний.
