Конференция ООН в этом месяце считается ключевым моментом после многих лет дискуссий о заполнении пробелов в управлении системами искусственного интеллекта.
Планы по заполнению пробелов в глобальном управлении автономным оружием находятся под угрозой, поскольку группа стран во главе с Россией и США пытается использовать конференцию ООН в этом месяце, чтобы заблокировать предложения по переговорам по юридически обязательному своду правил.
Масштаб оппозиции станет ясен на дипломатическом выезде, который начнется в пятницу перед седьмой обзорной конференцией по «некоторым обычным вооружениям» в Женеве, в которой с 16 по 20 ноября примут участие 128 стран.
Конференция по обзору рассматривается как ключевой момент, когда мир может решить, поддерживать ли мандат на переговоры по юридически обязательному инструменту, согласованному в пределах определенного графика. Скорость, с которой автономное оружие разрабатывается и используется в войне, широко признана.
Анна Хехир, глава управления военным искусственным интеллектом в независимой некоммерческой организации Future of Life Institute, сказала: "Государства никогда не были так близки к заключению глобального соглашения по ИИ-оружию. Большая тяжелая работа уже проделана, и сейчас государства согласовали на основе консенсуса элементы проекта текста договора, который станет основой для начала переговоров".
"Однако мы, вероятно, увидим, что некоторые государства прячутся за языком, который имеет видимость прогресса, но выступает за продолжение бесконечных дискуссий о добровольных мерах, которые не имеют смысла. Предложения о продлении дискуссий по юридически необязательным мерам являются дымовой завесой, позволяющей сохранить автономные системы вооружений нерегулируемыми и не подотчетными государствам за их использование".
Обсуждения этого вопроса в ООН ведутся уже почти три года, но Россия, США и Израиль, среди других, выступают против обзорной конференции, устанавливающей график принятия юридически обязательного инструмента.
В своем выступлении, призванном оказать влияние на обзорную конференцию, Папа Лев XIV подчеркнул, что решения, касающиеся человеческой жизни, никогда не могут быть переданы машинам. Он сказал: "Решения, затрагивающие человеческую жизнь, свободу и применение силы, всегда должны оставаться предметом эффективного, информированного и ответственного человеческого контроля. По этой причине искусственный интеллект должен быть "обезоружен", и я призываю государства, собравшиеся в Женеве в ноябре, предпринять конкретные шаги по запрещению летального автономного оружия".
Хьюман Райтс Вотч и группа кампании Stop Killer Robots утверждают, что системы вооружений, которым помогает искусственный интеллект, ведут себя непредсказуемо, увеличивая риск фатальных ошибок и выхода поля боя из-под контроля человека.
Международный комитет Красного Креста (МККК) заявил в четверг: "Пришло время перейти от обсуждения к переговорам по новым международным правилам регулирования автономных систем. Мир не может позволить себе дальнейших задержек".
В июле Украина впервые сообщила, что Россия применила беспилотник с искусственным интеллектом, который поразил баллон с пропаном на заправочной станции в Запорожье. Президент Украины Владимир Зеленский предупредил о скорости разработки ИИ-оружия, призвав положить конец войне на Украине до того, как ИИ возьмет на себя поле боя.
22 октября коалиция из 50 государств, включая Ирландию, Италию, Бразилию, Мексику, Францию и Германию, призвала конференцию согласовать строгий мандат на переговоры. МККК отдельно сообщил, что более 70 государств поддержали начало переговоров по правовому документу.
Великобритания не поддержала заявление Ирландии и ранее утверждала, что существующее международное гуманитарное право является достаточной основой для регулирования такого оружия.
Группа под руководством Ирландии предложила для согласования на обзорной конференции мандат, согласно которому будет создана ограниченная по времени группа экспертов, которой будет поручено провести переговоры по необходимым правилам в течение трех сессий в Женеве в 2027 году общей продолжительностью 25 дней. Группа должна будет представить отчет, содержащий проект протокола, на ежегодном собрании того же года, которое, как ожидается, состоится позднее в 2027 году.
В сентябре в докладе группы экспертов ООН, подготовленном к Женевской обзорной конференции, была предпринята попытка определить поставленные на карту моральные проблемы, поддержав общие призывы к человеческому суждению и контролю при использовании такого оружия, а также к ограничению дальности и широты, с которой ему разрешено действовать.
Французское правительство приветствовало предложения группы экспертов, заявив, что они являются достаточной основой для того, чтобы конференция получила переговорный мандат, который «запрещает полностью автономные системы вооружений и регулирует системы с автономными функциями».
США в основном выступают за то, чтобы предоставить национальным государствам право устанавливать свой контроль в соответствии с международным гуманитарным правом. Пентагон создал собственную рабочую группу по автономному оружию. Подобные экспертные комитеты в Германии пытаются определить принципы, лежащие в основе человеческого контроля над таким оружием.
В августе уходящий в отставку генеральный секретарь ООН Антониу Гутерриш и президент МККК Мирьяна Сполярич предупредили, что мир «приближается к моральной красной черте, где автономное оружие может убивать без участия человека». Они заявили: «Переговоры должны начаться сейчас, чтобы срочно принять юридически обязательный инструмент для регулирования автономных систем вооружения с четкими запретами и ограничениями».
Недавний опрос, проведенный Институтом будущего жизни, выявил подавляющую поддержку глобального договора об ограничении оружия искусственного интеллекта среди общественности во Франции, Германии и Великобритании, но с некоторым скептицизмом в отношении того, что этот договор когда-либо будет соблюдаться.
Всего 163 государства проголосовали в комитете ООН по разоружению и международной безопасности за готовность начать переговоры. Они столкнутся с огромным давлением, заставив их отступить и согласиться на результаты, которые заведут проблему в тупик. Известно, что многосторонние соглашения о контроле над вооружениями заключаются тогда, когда межрегиональное большинство противостоит давлению и выходит из паралича консенсуса.
Экспертная рабочая группа определила автономное оружие как оружие, «способное идентифицировать цель и поразить ее без необходимости передавать проблему человеку».
Последним примером злоупотребления искусственным интеллектом в войне стал взрыв США школы в Минабе, Иран, 28 февраля, в результате которого погибло по меньшей мере 175 человек. Нападение включало данные системы искусственного интеллекта Maven, которой управляет Palantir. Сообщается, что Maven не указала, что это место теперь является школой, и никто из сотрудников, которым было поручено проверять целевые данные ИИ, не указал. Одним из преимуществ ИИ является то, что он гораздо быстрее проверяет список целей, но никто не заметил, что этой целью была школа в течение 10 лет.
