В Китае закрывают компьютерную программу с искусственным интеллектом, слишком хорошо выявлявшую факты коррупции

По указанию китайских властей Zero Trust закрывается. Госслужащие, которые выступали за запрет проекта, в качестве причины называли то, что у системы с ИИ отсутствует право доступа к засекреченной информации и что в момент работы программы сотрудники госструктур испытывают большое давление.

Проект стартовал в 2012 году. Изначально масштабное использование системы во всем Китае не планировалось, ее охват составил всего несколько округов и городов. Несмотря на небольшой территориальный охват (около 1% страны), коррупция в Китае в отдельных случаях оказалась раскрыта с помощью новейших IT-технологий. За период своей работы ИИ смог выявить более 8700 человек, уличенных в незаконных действиях. Часть из них понесла наказание, другая отделалась предупреждениями. В свою очередь создатели проекта делают акцент на том, что их разработка не преследует цели наказать, а направлена на выявление ранних стадий неправомерных действий и возврат госчиновников на «правильную дорогу».

Программа, с помощью которой осуществлялась борьба с коррупцией, работала с несколькими десятками центральных и региональных баз данных. В результате Zero Trust могла конструировать сложные структуры социальных взаимодействий и на их базе анализировать поведение госслужащих. Если служащий сумел подделать какую-либо информацию, ИИ сравнивал данные из разных источников, находя расхождение.

Особую эффективность Zero Trust показала при выявлении подозрительных операций с передачей имущества, строительством инфраструктуры, сносом жилья и приобретением земельных участков. В определенных случаях программа, осуществляя противодействие коррупции, могла создать запрос на получение спутниковых изображений, например, чтобы проверить факт строительства объекта или дороги в определенном населенном пункте. Система также устанавливала случаи пополнения банковских счетов служащих и совершения ими крупных покупок.

Программа содержит алгоритм, оценивающий насколько определенное действие модно отнести к незаконным. Одной из особенностей Zero Trust стало то, что система способна обнаружить коррупционеров, но не может предоставить хорошее объяснение своих выводов. Хотя во многих случаях алгоритмы программы оказывались верны. После выявления нарушителя специалисты, осуществляющие наблюдение за работой системы, могли напрямую связаться с госслужащим с рекомендацией не совершать дальнейших ошибок. Создатели проекта утверждают, что финальное решение остается за чиновником, при этом самостоятельно результаты своего расследования программа никуда не направляет.

Искусственный интеллекттехнологии
Искусственный интеллекттехнологии Источник