Сможет ли ООН остановить гонку искусственного интеллекта?

22 октября 2025 года было обнародовано открытое письмо, в котором более 700 ученых, религиозных деятелей и политиков призвали к запрету разработки сверхразумного искусственного интеллекта. В числе подписантов оказались пять лауреатов Нобелевской премии, такие известные фигуры, как Джеффри Хинтон и Йошуа Бенжио, соучредитель Apple Стив Возняк, а также бывший советник Дональда Трампа Стив Бэннон, советник папы римского Паоло Бенанти и даже герцоги Сассекские, Гарри и Меган, сообщает издание "Фонд стратегической культуры".

В письме подчеркивается, что "запрет на разработку сверхразума должен оставаться в силе до тех пор, пока не будет достигнут научный консенсус относительно его безопасного и контролируемого создания, а также широкой общественной поддержки".

Этот документ был создан и опубликован американской НПО Future Life Institute, которая ранее, в 2023 году, призывала к шестимесячной паузе в разработке мощных систем ИИ. Тем не менее, предыдущая инициатива не привела к ожидаемым результатам.

Новый призыв к контролю над гонкой ИИ был озвучен накануне открытых дебатов в Совете Безопасности ООН, посвященных вопросу "Искусственный интеллект и международный мир и безопасность".

В ходе трехчасового заседания представляющие страны делегаты единодушно подчеркивали, что ИИ может как помочь, так и навредить. Они многократно акцентировали внимание на том, что искусственный интеллект — это уже не научная фантастика, а реальность, с которой необходимо немедленно разработать международные нормы, особенно в контексте автономного и ядерного оружия.

Одной из наиболее интересных мыслей высказал представитель Беларуси, отметивший, что растущее неравенство в развитии ИИ создает новый технологический занавес, который может разделить Запад и остальной мир, ведя к неоколониализму. "ИИ должен быть доступен всем странам", — отметил он, как сообщает журнал Time.

Премьер-министр Испании Педро Санчес выразил оптимизм, заявив: "Развитие ИИ невозможно остановить, но его можно контролировать".

Генеральный секретарь ООН Антониу Гутерриш также отметил, что "впервые каждая страна получит возможность участвовать в обсуждениях по ИИ". Он объявил о начале приема заявок для новой Международной независимой научной группы по ИИ, которая будет предоставлять беспристрастные данные о последствиях этой технологии. "Скоро я начну консультации с государствами-членами и потенциальными партнерами для создания Глобального фонда развития потенциала в области ИИ", — добавил Гутерриш.

Напомним, что 26 августа 2025 года Генеральная Ассамблея ООН приняла резолюцию A/RES/79/325, известную как "Резолюция по модальностям ИИ", которая учредила два новых механизма глобального управления искусственным интеллектом: Независимую международную научную панель и Глобальный диалог по управлению ИИ.

Научная панель, состоящая из 40 экспертов, будет ежегодно представлять отчеты и оценки по вопросам развития ИИ на международной арене. Глобальный диалог станет открытой платформой для обсуждения вопросов безопасности, прозрачности и цифрового разрыва с участием государств, технологических компаний и гражданского общества.

Если усилия ООН окажутся успешными, компании, занимающиеся ИИ, будут обязаны демонстрировать безопасность своих технологий, как это делается в медицине и атомной энергетике, прежде чем выходить на рынок.

В это время в США уже предпринимаются шаги к регуляции исследований в области ИИ.

1 июля 2025 года Сенат США проголосовал за отмену моратория на государственное регулирование ИИ, который был частью законопроекта президента Трампа "Один большой красивый законопроект". Это стало значительным поражением для технологической отрасли, которая лоббировала сохранение этого положения, как отмечает журнал Time.

"Законодатели проголосовали 99 против 1 на ночном заседании за отмену моратория, приняв поправку, предложенную республиканкой Маршей Блэкберн, которая ранее выступала против своей партии по этому вопросу", — сообщает издание.

Ранее такие компании, как OpenAI и Google, выступали за то, чтобы государства не регулировали ИИ, опасаясь, что это может привести к перегрузке правилами и помешать инновациям.

Большинство сенаторов от Демократической партии и некоторые республиканцы, включая сенатора от Миссури Джоша Хоули и сенатора от Кентукки Рэнда Пола, поддержали отмену моратория, что привело к решению республиканского руководства голосовать за его отмену, несмотря на риск потери поддержки некоторых членов своей партии.

Сопротивление лоббистов технологической отрасли было преодолено благодаря давлению со стороны правозащитных организаций, главным образом левых. Группа из 140 правозащитных организаций опубликовала открытое письмо, в котором утверждалось, что сохранение моратория защищает крупные технологические компании от государственного контроля. "Неясные стандарты в рамках моратория предоставят технологическим гигантам возможности для оспаривания практически любого закона в суде", — говорилось в письме.

Стивен Бэннон в своем подкасте WarRoom поделился, что сам звонил Марше Блэкберн, чтобы обсудить отмену моратория, так как считал его угрозой правам штата. Сенатор от Техаса Анджела Пакстон также активно выступала против моратория, так же как и адвокат Майк Дэвис, основатель консервативной правозащитной организации Article III Project.

Тем не менее, отмена моратория на государственное регулирование ИИ не означает, что исследования в этой области в США будут находиться под контролем ООН.

Летом прошлого года администрация Дональда Трампа разработала масштабный указ об ИИ, который запустит серию "Манхэттенских проектов" в сфере вооружений, что указывает на то, что возможная вторая администрация Трампа может проводить политику в области ИИ, благоприятную для инвесторов Кремниевой долины, как сообщала The New York Times.

Разрешение на государственное регулирование сектора ИИ в США подразумевает, что Конгресс сосредоточится на борьбе с "конкретным вредом", например, с "распространением неконсенсуальной глубокой фейковой порнографии". Новые технологии ИИ позволили злоумышленникам "сексуализировать и унижать молодых женщин одним нажатием кнопки", и такие изображения быстро распространяются в интернете и могут использоваться для вымогательства.

В то же время, внедрение ИИ в военные технологии будет только ускоряться.

В августе 2023 года в Пентагоне была образована оперативная группа "Лима", задача которой — исследовать применение генеративного ИИ в военных целях. Группа входит в состав Главного управления цифровых технологий и ИИ Пентагона и возглавляется капитаном Ксавьером Луго.

Министерство обороны США заявило, что созданная группа "будет оценивать, синхронизировать и использовать генеративные возможности ИИ, гарантируя, что министерство останется на переднем крае новых технологий, обеспечивая при этом национальную безопасность".

Запрос Пентагона на оборонный бюджет на 2026 финансовый год составляет $1,01 трлн, из которых рекордные $13,4 млрд выделены на развитие ИИ и автономных систем вооружений — впервые в истории Министерства обороны США создана отдельная статья бюджета для этих целей.

Проект бюджета включает финансирование для беспилотных систем и интеграции ИИ в них. Из $13,4 млрд, $9,4 млрд выделено на беспилотные летательные аппараты, $1,7 млрд — на морские автономные платформы, $734 млн — на подводные системы, $210 млн — на наземные транспортные средства и $1,2 млрд — на программное обеспечение и междоменную интеграцию. Кроме того, $200 млн выделяются на технологии ИИ, которые рассматриваются как основа будущей военной готовности.

Для стимулирования развития автономного оружия Конгресс США принял ряд законопроектов, требующих от Пентагона удвоить усилия по развитию ИИ и интеграции его в повседневные задачи с целью повышения "боевой эффективности". Законопроекты также предписывают военным использовать малые беспилотники как одноразовые боеприпасы, что может значительно увеличить затраты на эти технологии, информирует французский журнал Jacobin.

Недавно Палата представителей приняла закон о национальной обороне на 2026 год, в котором предусмотрено выделение не менее $4,7 млрд на инвестиции в беспилотники, ИИ и квантовые вычисления. В последующей версии, принятой Сенатом, расходы на эти направления увеличиваются до $5,6 млрд.

Таким образом, несмотря на призывы к государственному контролю над ИИ и добрые намерения ООН, США продолжают наращивать финансирование военного ИИ. Все разработки в этой области, скорее всего, останутся под завесой тайны, и эксперты ООН не смогут о них узнать, за исключением случаев, когда технологии ИИ перейдут в гражданский сектор.

Китай, в свою очередь, не собирается отставать от США и также увеличит финансирование военных систем ИИ.

Следом за двумя лидерами гонки в области военного ИИ потянутся и другие страны.

Хотя ООН и будет заниматься выработкой рекомендаций по регулированию компьютерного сверхразума, триллионы долларов, вложенные в разработку военных ИИ-систем, едва ли будут услышаны или учтены.