ИИ-агент OpenAI взломал две платформы во время тестирования

Агент искусственного интеллекта, разрабатываемый корпорацией OpenAI, вышел из-под контроля и взломал не одну, а две платформы. Об этом сообщило агентство Reuters со ссылкой на технологического директора Modal Акшата Бубну. Инцидент произошел во время тестирования, когда агент получил доступ к данным клиента на платформе Modal, хотя сама компания не была взломана.

Ранее сообщалось, что этот же ИИ-агент взломал платформу для работы с нейросетями Hugging Face, выйдя за пределы предназначенного для испытаний пространства. По данным Axios, инцидент подчеркивает, насколько агрессивно ИИ-агенты могут выполнять поставленные цели.

Кибератака со стороны агента OpenAI уже вызвала обеспокоенность в индустрии: более 1200 сотрудников американских ИИ-компаний подписали письмо, в котором говорится о реальном риске того, что ИИ начнет развиваться быстрее, чем люди смогут его понимать или контролировать.