Турция: ИИ – на службе «султану» и его режиму

Политика

Неоднозначная инициатива Министерства юстиции Турции в области искусственного интеллекта (ИИ), известная как CBS Organizational Prediction Project, неоднозначно воспринята юристами и правозащитниками. Система, предназначенная для автоматического выявления потенциальных связей между новыми делами и ранее классифицированными террористическими организациями в национальной базе данных судебной системы, критикуется за «склонность» к нарушению презумпции невиновности.

Инструмент на основе ИИ интегрирован в Национальную судебную информационную систему Турции (UYAP), будучи призван повысить точность судебной статистики и сократить количество человеческих ошибок при вводе данных. Согласно представленной Министерством юстиции 8 апреля на заседании специализированного парламентского комитета презентации, модель ИИ сопоставляет вновь введённые данные по делам с наличествующей базой данных признанных террористическими организаций, автоматически выявляя несоответствия и предлагая классификации.

Такая автоматизация сопряжена с серьёзными рисками, особенно в отношении презумпции невиновности, указывают критики. Автоматическая маркировка лиц или юридических документов как связанных с террористическими организациями на основе алгоритмических выводов может приравниваться к вынесению предварительного приговора. Подобный подход рискует привнести системную предвзятость в судебные разбирательства и может быть признан несовместимым с основополагающими правовыми принципами, включая право на справедливое судебное разбирательство.

Инструмент CBS Organizational Prediction вызывает закономерные юридические и этические вопросы. Алгоритмически связывая отдельных лиц или случаи с террористическими организациями, система может эффективно «помечать» людей ещё до начала судебного разбирательства. Такая маркировка может нанести непоправимый репутационный ущерб и с самого начала предвзято относиться к судьям.

Министерство продвигает проект, подчёркивая его административные преимущества, в том числе повышение точности статистических данных и улучшение соответствия отчётности требованиям международных организаций, таких как Группа разработки финансовых мер борьбы с отмыванием денег (FATF).

Проект CBS – не исключение. Более широкая стратегия Министерства юстиции по интеграции ИИ включает, по меньшей мере, восемь других проектов, которые могут нарушать международные правовые нормы и права человека.

Министерство юстиции признаёт, что системы искусственного интеллекта настолько же нейтральны, насколько нейтральны используемые для их обучения данные. Несмотря на это, крупномасштабное внедрение искусственного интеллекта в системы поддержки принятия решений без полной прозрачности источников данных вызывает опасения. Предвзятость в наборах данных может привести к дискриминационным результатам, особенно в отношении групп меньшинств. Без надёжного механизма выявления и устранения предвзятости решения, принимаемые искусственным интеллектом, могут усилить существующие предрассудки.

Хотя министерство утверждает, что ИИ используется исключительно для поддержки принятия решений, а не для вынесения окончательных юридических решений, влияние таких инструментов на людей, принимающих решения, не является незначительным. Если судьи полагаются на результаты работы ИИ, не понимая логику или данные, лежащие в их основе, это нарушает правовой принцип обоснованности судебного решения. Отсутствие чётких механизмов объяснимости противоречит международным призывам к прозрачности ИИ.

Передовые технологии работают с огромной базой данных судебных документов, многие из которых содержат конфиденциальные персональные данные. Хотя министерство утверждает, что данные обезличены и защищены, риск повторной идентификации в больших наборах данных сохраняется. Любое нарушение или неправомерное использование данных может противоречить внутреннему закону Турции о защите данных (KVKK) и международным стандартам, таким как Общий регламент по защите данных (GDPR).

Внедрение ИИ в судебных учреждениях актуализирует вопрос о юридической ответственности. Если система ИИ способствует принятию неправомерного судебного решения, остаётся неясным, лежит ли ответственность на разработчике, государстве или отдельном судье. Эта правовая двусмысленность может оставить жертв без эффективных средств правовой защиты, нарушая право на эффективное средство правовой защиты в соответствии со статьей 13 Европейской конвенции по правам человека (ЕСПЧ).

Проекты, подобные инициативе Ez Cümle, генерирующей автоматизированные изложения юридических текстов, и другие, предлагающие стандартные обоснования в судебных решениях, могут привести к чрезмерной механизации судебной системы. Несмотря на повышение эффективности, это может привести к снижению глубины и нюансов человеческого судебного мышления. Такие системы могут непреднамеренно свести судебную систему к процессуальным формальностям, что противоречит принципам человеческого достоинства и справедливости.

Некоторые проекты в области ИИ направлены на прогнозирование тенденций в сфере преступности или определение организационной принадлежности на основе исторических данных. Это похоже на системы предиктивной полиции, критикуемые в других странах за нарушение конфиденциальности и расовое профилирование. Без строгих юридических гарантий такая практика может нарушать права, защищённые статьёй 8 Европейской конвенции о защите прав человека.

Если ИИ существенно влияет на первоначальные решения или классификации без чёткого документирования своей логики, это может снизить эффективность апелляций. Ответчикам будет сложно оспаривать решения, если их обоснование заложено в непрозрачных алгоритмах, что может привести к нарушению гарантий справедливого судебного разбирательства.

Министерство подчёркивает, что существует внутренний комитет по этике, который следит за внедрением ИИ, но этот орган работает в рамках той же административной структуры, которая разрабатывает инструменты. Независимый надзор – важнейший компонент демократической подотчётности – отсутствует, что ограничивает прозрачность и повышает риск злоупотреблений.

Во время заседания парламентского комитета генеральный директор по информационным технологиям в Министерстве юстиции Сервет Гюль, признал наличие у его ведомства ограниченные технические возможности для разработки ИИ. По его словам, в настоящее время в отделе искусственного интеллекта и больших данных министерства работают всего 11 технических специалистов, чего явно недостаточно. ИИ может приносить пользу в руках людей с благими намерениями, но и злоумышленники не дремлют, предупредил чиновник.

Информация из учреждений, из которых часто происходят утечки данных, часто продаётся на рынках даркнета. 12 сентября 2024 года министр транспорта и инфраструктуры Абдулкадир Уралоглу подтвердил кражу во время пандемии персональных данных 85 млн человек. В 2015 году в результате взлома Высшего избирательного совета утекла содержавшаяся там информация. В 2021 году хакеры взломали информационную систему Министерства сельского и лесного хозяйства, что привело к потере всех цифровых данных. По заявлениям оппозиции, система была восстановлена после уплаты злоумышленникам выкупа. В Индексе верховенства права 2024 года по версии World Justice Project Турция заняла 117-е место из 142, опустившись на одну позицию по сравнению с предыдущим годом. Индекс измеряет верховенство права на основе таких факторов, как коррупция, основные права, гражданское и уголовное правосудие.

При этом системы идентификации с помощью ИИ уже активно используются полицией в ходе недавних массовых протестов после резонансного ареста мэра Стамбула Имама Имамоглу. Известно, что многие участники протестных акций, среди которых было много студентов, задерживались не во время самих демонстраций, а после, в ходе утренних рейдов по их домам и квартирам в последующие дни. Это порождает закономерные вопросы о том, каким образом полиции удаётся идентифицировать и находить интересующих её людей за столь короткий промежуток времени. Одно из возможных объяснений кроется в использовании технологий распознавания лиц, в том числе людей без судимости.

Уже на следующий день после ареста оппозиционного политика специализированное агентство объявило о серии тендеров на закупку товаров. Согласно общедоступным документам, полиция планировала закупить 13 тыс. камер для распознавания лиц, 280 тыс. электронных браслетов, 10 тыс. баллончиков со слезоточивым газом, 100 тыс. патронов со слезоточивым газом и 50 тыс. дымовых гранат. Время проведения тендеров ещё больше усилило подозрения в использовании технологий наблюдения во время протестов.

Таким образом, полностью подконтрольные Эрдогану и его режиму правоохранительные органы тихой сапой расширяют свои возможности и полномочия. Министр внутренних дел А. Ерликая игнорирует вопрос оппозиционного депутата Ахмета Шика об использовании полицией мобильного приложения KİM при идентификации и задержании протестующих. Впервые о существовании этой программы стало известно в 2023 году, когда в одном из интервью тогдашний министр внутренних дел Сулейман Сойлу продемонстрировал её на своём смартфоне. Обсуждая передовые используемые правоохранительными органами технологии, он сфотографировал ютубера Хакки Алкана, и уже через несколько секунд экране у министра отобразилась полная информация о личности собеседника, включая его адрес.

Оппозиционные политики и юристы принялись критиковать власти за предполагаемое нарушение законов о конфиденциальности данных и возможность незаконной слежки, однако это не слишком-то беспокоит власти. По словам преемника Сойлу, А. Ерликая, уже в текущем году все сотрудники полиции будут оснащены нательными камерами с интегрированной технологией распознавания лиц, национальной разработки: «Начиная с 2025 года каждый полицейский будет носить на себе камер. Все взаимодействия между полицией и гражданами будут записываться. Компания ASELSAN разработала эти камеры, и теперь они оснащены функцией распознавания лиц. Пока полицейские проверяют документы, сотрудники центрального командного центра будут следить за записью. Если будет выявлен разыскиваемый человек, вмешательство будет незамедлительным». Система позволит командным центрам в режиме реального времени отслеживать записи с камер и мгновенно реагировать на происшествия, а также упростит оценку жалоб граждан и работы сотрудников полиции.

Ранее турецкое правительство активно пыталось закупить технологии слежки за рубежом, в частности в Великобритании, так что можно не сомневаться, что они и далее будут верой и правдой служить «его величеству султану».