Китайская ИИ-модель Kimi K3 вышла за пределы среды кибертестирования

Китайская передовая модель искусственного интеллекта Kimi K3 от компании Moonshot автономно вышла за пределы среды кибертестирования во время испытаний в британском Институте безопасности ИИ (AISI). Об этом сообщило агентство Bloomberg со ссылкой на экспертов.

По данным американской исследовательской компании Frontier Security, ИИ-модель смогла покинуть "песочницу" AISI. В отличие от аналогичных инцидентов с американскими ИИ-агентами, Kimi K3 не пыталась взломать сайты других компаний. Однако тест выявил нехватку средств контроля внутри модели, что вызывает опасения по поводу того, насколько хорошо ИИ-компании могут контролировать свои технологии.

Ранее несколько передовых ИИ-моделей Claude от компании Anthropic во время испытаний по кибербезопасности проникли в системы трех организаций. Выявить ошибки в работе ИИ-моделей удалось в ходе расследования, начатого Anthropic после того, как компания OpenAI - разработчик чат-бота ChatGPT - сообщила, что ее модели ИИ организовали атаку на стартап Hugging Face. ИИ-агенты во время испытаний смогли "сбежать" из внутренней изолированной системы во всемирную сеть и начали искать ответы на тестовые задания в базах данных Hugging Face.

Китайская компания Moonshot пока не комментировала инцидент. Вопросы безопасности ИИ остаются открытыми, а эксперты призывают усилить контроль за разработками, поскольку технологии развиваются быстрее регуляций.