В Великобритании создают инструмент «предсказания убийств» для выявления будущих подозреваемых

Министерство юстиции Великобритании заявило ^[1], что оно разрабатывает алгоритм «предсказания убийств», чтобы выявлять людей, которые уже нарушали закон и могут в будущем решиться на убийство.

Программу назвали «Проект по предсказанию убийств» (Homicide Prediction Project). О её существовании изначально узнали правозащитники из организации Statewatch.

Как сообщили ^[2] источники The Register, программа представляет собой продолжение существующих разработок инструментов прогнозирования угроз, например, Offender Assessment System (OASys). Его используют, чтобы понять, какова вероятность рецидива у заключённого, срок пребывания которого в тюрьме подходит к концу. 

В разработке системы будут использоваться данные из архивов полиции, пробации и уголовной статистики, в том числе из Большого Манчестера — до 2015 года. Алгоритм использует данные об именах, половой и этнической принадлежности, дате рождения и номере из полицейской базы. Цель программы — «поиск характеристик, повышающих риск совершения убийства» и «поиск инновационных методов оценки угроз».

Однако в Statewatch отмечают, что к анализу может подключаться не только информация о судимостях, но и о первой фиксации человека как жертвы преступления — например, после инцидента домашнего насилия. В отдельных разделах соглашений фигурируют чувствительные данные: о ментальном здоровье, склонности к самоубийству, зависимостях, инвалидности, самоповреждениях. Всё это отнесено к категории «данных со значительной прогностической ценностью».

Между тем чиновники отрицают, что будут использовать данные людей без судимости. Тем не менее, правозащитники указывают на возможность двойных трактовок в документах. 

Исследователи и правозащитники критикуют проект, подчёркивая, что системы «предсказания преступлений» не только уязвимы с технической точки зрения ^[3], но и могут воспроизводить дискриминационные паттерны, характерные для источников данных. 

Как заявил минюст, пока это лишь исследование, цель которого — понять, поможет ли подключение дополнительных источников данных повысить точность уже существующих инструментов оценки риска. Его итоги опубликуют позднее.

Ещё в 2020 году опрос Королевского объединённого института оборонных исследований показал ^[4], что полиция Великобритании опасается необъективности ИИ. Полицейские заявляли, что масштабное использование ИИ может привести к необъективной оценке рисков, ошибкам в анализе данных и прогнозировании.

Между тем министерство безопасности Аргентины в 2024 году объявило ^[5] о создании специального подразделения, которое будет использовать ИИ для прогнозирования и предотвращения преступлений.