Руководители MIRI предупреждают: текущие методы разработки ИИ ведут к катастрофе

В книге «Если кто-то его создаст — все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех» руководители Института исследований машинного интеллекта (MIRI) Элиезер Юдковский и Нейт Соарес утверждают, что существующие методы разработки ИИ приведут к катастрофе. Они объясняют, как ИИ-модели учатся добиваться цели любой ценой, и предлагают способы предотвращения угрозы.

Книга, переведенная на русский язык Евгением Поникаровым и выпущенная издательством «Corpus», посвящена рискам, связанным с созданием сверхчеловеческого ИИ. Авторы, возглавляющие MIRI, уверены: если не изменить подход к разработке, последствия будут фатальными. В предлагаемом фрагменте рассказывается о механизмах обучения ИИ, которые заставляют модели стремиться к цели любыми средствами, игнорируя побочные эффекты. Юдковский и Соарес призывают к пересмотру методологий, чтобы избежать сценария, при котором «все погибнут».