Китай: АI и тотальный контроль! Система социального рейтинга

Вчера власти Китая запустили приложение под названием «Карта злостных неплательщиков», которое показывает местоположение людей, задолжавших деньги.

Пока точно не известно, каким должен быть долг, чтобы попасть в список, и отображается ли какая-то другая личная информация, но приложение предупредит пользователя, как только должник окажется в радиусе 500 метров.

Карта “злостных неплательщиков” является частью системы социального рейтинга, который предназначен для определения уровня благонадежности граждан на основе их поведения. Приложение запущено через мессенджер WeChat и уже доступно жителям провинции Хэбей. В дальнейшем планируется его массовое внедрение на обязательной основе.

Краткая история социального рейтинга

Работа над системой «социального рейтинга» началась еще в 2014 году. Согласно плану правительства Китая, система направлена ​​на создание культуры доверия и развития гармоничного социалистического общества. Ожидается, что она будет полностью внедрена к 2020 году и охватит всех проживающих граждан и каждую компанию, работающую в Китае.

Уже сейчас система подверглась серьезной критике и данный подход вызывает опасения, так как правительство планирует контролировать каждое действие граждан, собирая огромные объемы информации, на базе которой будет присваиваться рейтинг как оценка благонадежности гражданина.

Как собираются данные?

С 2015 года правительство Китая  использует платформу для обмена данными, которая собирает информацию из местных и центральных государственных органов, а недавно был создан центр обработки платежей и зарегистрировано 44 финансовые компании для предоставления всех необходимых данных в централизованную систему формирования рейтинга.

Государственный совет официально заявил, что они стремятся активно продвигать проект, а это значит, что все сектора должны участвовать в обмене данными. Предполагается, что коммерческие рейтинговые кредитные компании также станут частью платформы, включая Sesame Credit, которая является дочерней компанией Alibaba.

Все люди будут оцениваться на базе информации, собранной по критериям, чтобы достичь того, что они называют “социальной гармонией” и “гармоничными межличностными отношениями”. Местные китайские СМИ сужают все критерии до пяти основных категорий: социальные связи, потребительское поведение, безопасность, благосостояние и соответствие.

Для анализа данных используются различные алгоритмы, по которым на данный момент отсутствует информация, и то, как будет проводится оценка, пока не разглашается.

Существует мнение, что в алгоритмы может быть заложено изначально предвзятое отношение к людям определенной этнической, религиозной и политической ориентации, за чем последует автоматическое снижение рейтинга. Поскольку алгоритмы находятся в ведении правительства и местных органов власти, они могут по своему усмотрению менять их функциональные возможности.

Рейтинг доверия

Каждое действие, совершаемое гражданами Китая, будет оцениваться алгоритмом как положительное или отрицательное, с учетом этого будет рассчитываться рейтинг, определяющий уровень доверия.

Особенно интересно то, что начисление баллов будет включать в себя как действия, так и личные предпочтения человека. Например, если у вас есть склонность играть в видеоигры помногу часов в день, то вас можно отнести к ленивым людям.

Также будет осуществляться слежение и контроль за активностью в Интернете. Размещение положительных сообщений о стране, социальной системе или экономике позволит улучшить рейтинг, а в противном случае баллы будут списаны.

Стоит отметить, что люди часто не имеют полного контроля над своим статусом, поскольку они также зависят от действий близкого круга людей и друзей, а общение с человеком, у которого низкий рейтинг, в дальнейшем может отразиться на репутации.

Последствия низкого рейтинга

В результате низкого рейтинга, граждане Китая могут столкнуться с различными санкциями и ограничениями.

Попадание в черный список приведет к невозможности получить поддержку фонда социального обеспечения, занять более высокие руководящие должности. Также будут ограничения на банковские кредиты, работу и торговлю различными активами.

Если совсем все плохо, то ограничат перемещение и приобретение билетов на поезда и самолеты, посещение ресторанов и отелей. Это также отразится на семье и детях, которым будет недоступно посещение определенных школ и, в дальнейшем, поступление в высшие учебные заведения. Возникнут сложности с приобретением страховки, и, наконец, это даже скажется на скорости интернета.

Ограничений может быть куда больше, а свобода людей будет подорвана правительством на базе полученных данных и алгоритмов, которые нельзя контролировать, и в которых отсутствует прозрачность их работы. В конечном счете, социально приемлемое поведение определяется государством, и граждане не смогут критиковать систему, поскольку это негативно повлияет на рейтинг.