Click to expand Image

В конце октября состоялись судебные слушания по групповому иску о действующей в Нидерландах драконовской системе надзора за получением социальных пособий. Решение суда ожидается в январе.

Нидерландынеизменно входят в список стран с самым высоким в мире индексом демократии. Однако вы будете удивлены, узнав, что вместе с этим Нидерланды являются родиной одной из наиболее интрузивных систем надзора за получением социальных пособий с автоматизированным отслеживанием и профилированием малоимущих.  

29 октября в Окружном суде Гаагисостоялись слушания о законности Systeem Risico Indicatie / SyRI (Системы индикации риска) – правительственной автоматизированной системы для выявления фактов мошенничества в сфере социального обеспечения. В иске, поданном коалицией организаций гражданского общества и активистов,утверждается, что эта система нарушает законы о защите персональных данных и нормы в области прав человека.

SyRI – этомодель расчета рисков, разработанная Министерством социальных дел и занятости для прогнозирования вероятности мошенничества с социальными пособиями и налогами или нарушения трудового законодательства со стороны получателей пособия. В своих расчетах SyRIзадействуeт огромный банк собираемых различными государственными учреждениями личных и конфиденциальных данных: от справок о работе до информации о социальных пособиях, от сведений о личных долгах до данных об образовании и местах проживания.

Определив человека как потенциального мошенника, система уведомляет об этом соответствующее государственное учреждение, которое в течениедвух лет может инициировать расследование.  

Выборочное внедрение SyRI в районах с преимущественно низким уровнем дохода создало режим наблюдения, при котором беднейшие слои населения в непропорциональных масштабах становятся объектами более пристальных проверок. До настоящего времени совместные усилия министерства и муниципальных властей были направлены нареализацию SyRI в Роттердаме (втором по величине городе Нидерландов, являющимся к тому же населенным пунктомс самым высоким уровнем бедности в стране), а также в Эйндховене и Харлеме. На суде правительствопризнало, что SyRI была нацелена на районы концентрированного проживания граждан, получающих социальные пособия, несмотря на то, что доказательств повышенного уровня мошенничества с социальными пособиями в этих районах нет.

SyRI не просто чревата дискриминационным воздействием на право на неприкосновенность частной жизни получателей социальных пособий, но также создает условия для нарушения их права на социальное обеспечение. Поскольку SyRI окутана завесой секретности, у получателей пособий нет никакой возможности узнать в какой момент или каким образом расчеты системы оказывают влияние на решение о лишении их жизненно важных льгот.

Власти отказались рассекретить сведения о принципах работы SyRI, опасаясь, что разъяснение алгоритмов расчета рисков позволит мошенникам обходить систему. Однако при этом была обнародована информацию о том, что системагенерирует «ложные срабатывания» – случаи, когда система ошибочно отмечает людей как потенциальных мошенников.

Без дополнительных четких разъяснений практически невозможно установить последствия этих ошибок, в частности, приводили ли они к незаконным расследованиям в отношении получателей социальных пособий или к неправомерному приостановлению выплат.

По утверждению властей, эти «ложные срабатывания» используются ими для устранения недостатков модели расчета рисков, но проверить это утверждение тоже нет никакой возможности. На самом деле, можно только гадать, обладает ли система уровнем точности, достаточным для оправдания оценок, в результате которых люди находятся под подозрением в течение двух лет.

SyRI является частьюширокой глобальной тенденции к внедрению искусственного интеллекта и других технологий, основанных на больших массивах данных, в управление делами социальных пособий и иных базовых услуг. Но зачастую интеграция этих технологий происходитбез конструктивных консультаций с получателями социальной помощи и широкой общественностью.

В случае SyRI, эта система была утверждена Парламентом как часть пакета предложений пореформе системы социального обеспечения, принятого в 2014 году. Однако вместо того, чтобы с самого начала подвергнуть основанные на высоких технологиях методы выявления фактов мошенничества тщательному правовому анализу, правительство в течение почти десяти летэкспериментировало с ними. Местные организации такжеутверждают, что сам законодательный процесс был ненадлежащим. Согласноиску, Парламент не смог должным образом разрешить проблемы, связанные с неприкосновенностью частной жизни и защитой персональных данных, на которые ему было указано его же законодательным консультативным советом и государственной службой по вопросам защиты персональных данных.

Суд вынесет свое решение в январе. Мы будем следить за тем, защитит ли он права самых нуждающихся и уязвимых категорий населения от недостатков и непредсказуемости автоматизированных систем.