Китай опасается, что интеграция ИИ может привести к войне

Согласно новому отчету, опубликованному Центром новой американской безопасности (CNAS), китайские власти все чаще рассматривают гонку вооружений с использованием ИИ как угрозу глобальному миру. По их мнению, существует опасение, что международные нормы, определяющие порядок взаимодействия между странами, уже устарели, и это ведет к потенциальным конфликтам.

Один из авторов отчета, старший научный сотрудник CNAS Грегори Аллен в качестве примера приводит сценарий непреднамеренной эскалации конфликта в связи с использованием беспилотников. По его словам, в последние годы управление БПЛА, как больших, так и малых размеров становится все более автоматизированным. В таком режиме американские дроны способны выполнять простые задачи, например, делать облет вокруг заданной цели. Однако Китай выступает за предоставление беспилотникам более высокого уровня автономности, вплоть до нанесения летальных ударов. Одним из примеров служит дрон Blowfish A2, который Китай экспортирует на международный рынок и который, по словам Аллена, рекламируется как БПЛА, способный самостоятельно наносить целевые удары.

Поскольку беспилотники управляются дистанционно, военные, как правило, не церемонятся с ними. Одни размещают их в спорном воздушном пространстве, а другие охотно их сбивают. Такие методы можно увидеть в кибервойне, где страны будут вторгаться, не рискуя человеческими жизнями. Как они будут интерпретировать поведение друг друга, неясно. К примеру, сторона, отправляющая беспилотник, будет думать, что ничем не рискует, в то время как другая сторона сбивает его по той же причине. Риск возрастает, когда такой технике дают расширенную автономию. Если беспилотник или робот начнет делать предупредительные выстрелы, это может быть воспринято как агрессия, решение, принятое стоящим за ним человеком. Странам всего мира еще предстоит определить нормы вооруженных конфликтов при использовании автономных систем.

Китайские официальные лица признают, что Китай и США – единственные две сверхдержавы, развивающие ИИ. Обе страны обладают финансированием и технологическими возможностями, необходимыми для дальнейшего развития этих технологий, хотя у каждой страны есть свои сильные и слабые стороны. Конкуренция между ними определенно существует, но когда речь идет о вопросах, связанных с военной сферой, сотрудничество также необходимо. Американские чиновники, как правило, менее осведомлены о своих китайских коллегах, отчасти потому, что многие китайские документы никогда не переводятся на английский язык. Без должного понимания вероятность конфликта только возрастает.

Напомним, искусственного интеллекта.

Источник