Издание The Guardian сообщило, что Министерство юстиции Великобритании разрабатывает алгоритм, предназначенный для выявления людей, которые могут стать убийцами.
Изначально названный "проектом прогнозирования убийств", этот инструмент использовал данные полиции Великобритании, возможно включая информацию не только о подозреваемых, но и о жертвах и свидетелях.
Организация Statewatch, занимающаяся мониторингом гражданских свобод, обнаружила программу с помощью запросов на основании Закона о свободе информации. Согласно документам, полученным группой, программа разработала свой инструмент прогнозирования на основе полицейских данных о 100 000-500 000 человек. Различные категории информации, переданной Министерству юстиции, по-видимому, также охватывали такие чувствительные темы, как психическое здоровье, зависимость, суицид и инвалидность.
Исследователь Statewatch София Лиалл заявила:
Исследования раз за разом показывают, что алгоритмические системы "прогнозирования" преступлений по своей сути ошибочны. Эта новейшая модель, использующая данные от наших институционально расистских полиции и Министерства внутренних дел, будет усиливать и увеличивать структурную дискриминацию, лежащую в основе системы уголовного правосудия.
Представитель Министерства юстиции заявил The Guardian:
Этот проект проводится исключительно в исследовательских целях. Он разработан с использованием существующих данных, имеющихся в распоряжении Службы тюрем и пробации Ее Величества и полиции, об осужденных преступниках, чтобы помочь нам лучше понять риск совершения серьезного насилия людьми, находящимися на пробации. Отчет будет опубликован в установленном порядке.
Стоит отметить, что правоохранительные органы давно имеют сомнительные отношения с инструментами искусственного интеллекта, от использования ИИ для создания полицейских отчетов до внедрения технологий, представляющих угрозу конфиденциальности граждан. Кроме того, несмотря на все технические достижения, проблема ложной идентификации тоже распространена.
