В США обучение алгоритмов прогнозирования преступлений осуществляется на основе фальсифицированных данных

В США обучение алгоритмов прогнозирования преступлений, как оказалось, осуществляется на основе фальсифицированных данных.

Необъективные данные влияют на эффективность систем прогнозирования для полиции

Использование алгоритмов прогнозирования преступлений является уже достаточно распространенной практикой на территории США. Такое программное обеспечение, как предполагается, должно помогать полицейским департаментам оперативно принимать эффективные решения. Но, как показало исследование, для обучения таких алгоритмов часто используют данные, которые не отражают действительность.

Предвзятое отношение полиции

Так, исследование показало, что в Новом Орлеане в течение многих лет полиция превышала свои полномочия в отношении темнокожих, людей, которые не являются коренными жителями США, а также представителей расовых меньшинств, LGBTQ. Кроме того, было зафиксировано множество случаев, когда не предоставлялась помощь женщинам, к которым применялось насилие.

Томас Перес, помощник генерального прокурора, отмечает, что проблемы были серьезным, масштабными и системными – за все это время они глубоко укоренились в культуре местного департамента полиции. Так, в результате предвзятое отношение и ложные данные ложатся в основу обучения алгоритмов предсказывания преступлений.

Статистика и ИИ

В рамках исследования были изучены данные 13 юрисдикций в США, особое внимание было обращено на тех, кто использует системы прогнозирования, которые одобрило правительство. В 9 юрисдикциях исследователи нашли доказательства того, что алгоритмы прогнозирования были обучены на основе необъективных данных. Есть случаи, когда в полицейских департаментах осуществляется целенаправленная фальсификация данных под политическим давлением, цель – сократить официальную статистику преступлений. Так, если социальные и политические факторы не перестанут оказывать воздействие на генерирование предвзятый данных, корректное применение машинного обучения для помощи полиции будет невозможным.