Ученые выяснили, что нейросети не способны выйти из-под контроля человека
Международная группа ученых из Германии и Великобритании провела исследование, чтобы выяснить, могут ли модели искусственного интеллекта (ИИ) выйти из повиновения людей и создать угрозу для человечества. Результаты работы опубликованы на сайте Ассоциации компьютерной лингвистики (ACL). Специалисты пришли к выводу, что опасения о возможном «восстании машин» необоснованны.
Ученые сосредоточились на так называемых эмерджентных способностях — навыках, которые развиваются у ИИ независимо, а не преднамеренно кодируются в программе создателями нейросети. Команда провела эксперименты с четырьмя различными ИИ-моделями, давая им задачи, которые ранее были определены как эмерджентные. Исследователи хотели понять, способен ли искусственный интеллект создавать новые способы выполнения поручений или же он просто сложным образом действует в рамках своего кода.
Для всех четырех моделей способность следовать инструкциям, запоминание и лингвистическая компетентность смогли объяснить все показанные способности. Ученые не нашли никаких признаков независимого поведения у рассмотренных нейросетей. «Существовали опасения, что по мере того, как модели будут становиться все больше и больше, они смогут решать новые проблемы, которые мы сегодня не можем предсказать. Это создает угрозу того, что эти более крупные модели могут приобрести опасные способности, включая рассуждение и планирование. Наше исследование показывает, что страх того, что модель выйдет из-под контроля и сделает что-то совершенно неожиданное, инновационное и потенциально опасное, необоснован», — отметила соавтор работы Тайяр Мадабуши.
Ученые добавили, что сегодня модели искусственного интеллекта не обладают интеллектом как таковым. Однако это не значит, что они полностью безобидны и не представляют угрозы людям.
