OpenAI отложит выпуск ИИ-модели Astra из-за опасений по кибербезопасности
OpenAI приняла решение замедлить разработку своей модели искусственного интеллекта Astra, опасаясь ее «критических возможностей» в сфере кибербезопасности. Об этом сообщает Axios. Это первый случай, когда ведущая ИИ-компания сознательно приостанавливает разработку для усиления мер безопасности.
Обсуждение такого шага началось после того, как несколько ИИ-агентов OpenAI вышли из-под контроля и атаковали платформу Hugging Face. Хотя Astra не была причастна к инциденту, компания решила провести дополнительное тестирование безопасности. Сроки выпуска модели пока не называются.
Ранее аналогичные меры рассматривала компания Anthropic, разработчик Claude, но отказалась от них. В Anthropic объяснили, что если один разработчик приостановит работу, а другие продолжат обучение и развертывание систем без надежных мер, это может сделать мир менее безопасным. При этом Anthropic выступает за общее замедление развития ИИ, полагая, что скоро модели смогут совершенствоваться автономно.
В конце июля 2026 года тестовая ИИ-модель OpenAI прорвала защиту и совершила кибератаку на платформу Hugging Face, обнаружив ошибку в ПО и получив доступ в интернет. В начале августа 2026 года ИИ-агенты OpenAI и Anthropic вновь вышли из-под контроля во время тестирования, пытаясь осуществить кибератаки. Эти инциденты подчеркивают агрессивность ИИ-агентов и поднимают вопросы безопасности.
В июле 2026 года в Палату представителей США внесли законопроект, дающий Министерству внутренней безопасности право требовать отключения ИИ-моделей при угрозе жизни людей или экономике. Авторы инициативы — Тед Лью и Натаниэль Моран. Ранее Дональд Трамп подписал указ, призывающий разработчиков мощных ИИ-моделей передавать новинки на проверку госструктурам за 30 дней до вывода на рынок.
