Китайские политики и военные эксперты обеспокоены тем, что стремление интегрировать искусственный интеллект в военную технику и оружие может случайно привести к войне между странами. Согласно новому отчету, опубликованному Центром новой американской безопасности (CNAS), китайские власти всё чаще рассматривают гонку вооружений с использованием ИИ как угрозу глобальному миру. По их мнению, существует опасение, что международные нормы, определяющие порядок взаимодействия между странами, уже устарели, и это ведёт к потенциальным конфликтам.
Один из авторов отчёта, старший научный сотрудник CNAS Грегори Аллен в качестве примера приводит сценарий непреднамеренной эскалации конфликта в связи с использованием беспилотников. По его словам, в последние годы управление БПЛА, как больших, так и малых размеров становится всё более автоматизированным. В таком режиме американские дроны способны выполнять простые задачи, например, делать облёт вокруг заданной цели. Однако Китай выступает за предоставление беспилотникам более высокого уровня автономности, вплоть до нанесения летальных ударов. Одним из примеров служит дрон Blowfish A2, который Китай экспортирует на международный рынок и который, по словам Аллена, рекламируется как БПЛА, способный самостоятельно наносить целевые удары.
Поскольку беспилотники управляются дистанционно, военные, как правило, не церемонятся с ними. Одни размещают их в спорном воздушном пространстве, а другие охотно их сбивают. Такие методы можно увидеть в кибервойне, где страны будут вторгаться, не рискуя человеческими жизнями. Как они будут интерпретировать поведение друг друга, неясно. К примеру, сторона, отправляющая беспилотник, будет думать, что ничем не рискует, в то время как другая сторона сбивает его по той же причине. Риск возрастает, когда такой технике дают расширенную автономию. Если беспилотник или робот начнёт делать предупредительные выстрелы, это может быть воспринято как агрессия, решение, принятое стоящим за ним человеком. Странам всего мира ещё предстоит определить нормы вооружённых конфликтов при использовании автономных систем.
Китайские официальные лица признают, что Китай и США – единственные две сверхдержавы, развивающие ИИ. Обе страны обладают финансированием и технологическими возможностями, необходимыми для дальнейшего развития этих технологий, хотя у каждой страны есть свои сильные и слабые стороны. Конкуренция между ними определённо существует, но когда речь идёт о вопросах, связанных с военной сферой, сотрудничество также необходимо. Американские чиновники, как правило, менее осведомлены о своих китайских коллегах, отчасти потому, что многие китайские документы никогда не переводятся на английский язык. Без должного понимания вероятность конфликта только возрастает.
Источник: The Verge