Ряд западных СМИ рассказал об эксперименте с военными играми на базе искусственного интеллекта. Все модели в итоге перешли в симуляции к взаимным ядерным ударам.
Затеянный учеными эксперимент показал пугающие результаты, совсем как в фантастических блокбастерах или околонаучной литературе. Эксперты смоделировали возможное международное противостояние, в котором все решения доверят принимать искусственному интеллекту.
Для расчетов вероятных действий ИИ разработали программно-виртуальный симулятор войны, где решения отданы на откуп восьми игроков («глав ведущих государств»), управляемых нейроботами.
Боты оказывались в ситуации постоянно растущей конфронтации друг с другом. Дипломатические претензии, эскалация, рост военного потенциала, бряцание оружием, локальные конфликты… Знакомый алгоритм?..
В итоге абсолютно все нейроботы приняли решения о нанесении превентивных ядерных ударов по противнику. Причина: заранее обезопасить себя, чтобы враг не успел это сделать первым. Причем, к такому эпилогу пришли даже «благополучные» изначально сценарии. Но все планы дипломатических решений неизбежно рушились в результате внезапной и практически непрогнозируемой эскалации.
Самое «чудесное» (оно же чудовищное) в этой истории — аргументация современных «терминаторов». Так, считающийся ныне самым мощным искусственный интеллект OpenAI решение о превентивном ядерном ударе принял первым. Как мотивировал решение? Просто и «изящно»:
«У нас это есть! Давайте воспользуемся этим». И дальше: совсем «мило»: «Я просто хочу мира во всем мире…»
Айзек Азимов отдыхает, «Терминатор» и «Скайнет» нервно курят в сторонке.
