Главная » Взлом и защита

В Китае отключают искусственный интеллект, который слишком эффективно искал коррумпированных чиновников

Добавлено на 12.02.2019

В Китае регионы один за другим отказываются от использования искусственного интеллекта под названием Zero Trust, который достиг серьезных успехов в выявлении коррумпированных чиновников. Власти поясняют отказ от системы тем, что во время ее работы служащие находятся под большим давлением. О запуске системы по всему Китаю речь не идет.

Отказ от борьбы с коррупцией

Власти Китая отключают компьютерную систему Zero Trust, созданную на базе искусственного интеллекта и предназначенную для борьбы с коррупцией среди чиновников. Она была разработана и развернута Академией наук Китая и внутренними надзорными органами Коммунистической партии Китая. Система предназначена для мониторинга, оценки, а при необходимости и вмешательства в работу и личную жизнь госслужащих.

Некоторые региональные правительства, в том числе автономный округ Маньянг, городской округ Хуайхуа и округ Ли в провинции Хунань остановили работу Zero Trust на своей территории, мотивировав это тем, что госслужащие не чувствовали себя комфортно во время ее использования. В некоторых ведомствах — например, в Комиссии по проверке дисциплины Коммунистической партии Китая в Нинсяне — система все еще используется, однако чиновники признаются, что находятся под огромным давлением. Об общенациональном запуске Zero Trust речь не идет.

Многие чиновники, добиваясь запрета системы, указывали в качестве причины тот факт, что у искусственного интеллекта нет права на доступ к засекреченным базам данных — этот вопрос никак не регулируется китайским законодательством.

Достигнутые результаты

Издание South China Morning Post задается вопросом, не связана ли остановка Zero Trust с ее чрезмерной эффективностью. Система была запущена в 2012 г. Несмотря на то, что она применялась всего в 30 округах и городах, то есть на 1% территории Китая, за время своей работы искусственный интеллект помог выявить 8721 коррупционера среди госслужащих. Некоторые из них получили тюремные сроки, однако большинство остались на своих постах, отделавшись предупреждением или незначительным наказанием. Авторы проекта подчеркивают, что система предназначена не столько для наказания коррупционеров, сколько для того, чтобы вернуть на путь истинный чиновников, находящихся на ранних стадиях коррупции.

В основном Zero Trust работала в небогатых изолированных регионах, удаленных от центров политической власти — таких как автономный округ Маньянг. Не очень масштабное применение системы объясняется тем, что ее создатели опасались спровоцировать волну сопротивления со стороны чиновников, особенно влиятельных, которые могли добиться запрета на использование искусственного интеллекта в управлении.

В общей сложности в Китае в 2016 г. насчитывалось более 50 млн государственных служащих, если верить правительственным СМИ. Независимые аналитики называли цифру в 64 млн.

Как работает система

У Zero Trust есть доступ более чем к 150 защищенным базам данных в центральном правительственном аппарате и в регионах, что позволяет делать перекрестные ссылки. Участники проекта поясняют, что это дает возможность строить сложные, многоярусные схемы социальных отношений и осуществлять на их основе анализ поведения чиновников.

Особенную пользу система приносит при отслеживании подозрительных случаев передачи имущества, строительства инфраструктуры, приобретения земли и сноса жилищ. Также Zero Trust сразу фиксирует рост баланса на банковском счете чиновника и быстро устанавливает факт приобретения им новой машины. Кроме того, искусственный интеллект анализирует госзакупки и выявляет случаи, когда чиновники, а также их друзья и родственники, участвуют в тендерах.

После этого система оценивает, насколько велика вероятность того, что то или иное действие является следствием коррупции. Если оценка получалась выше установленного среднего значения, правительство получает предупреждение. На этой стадии люди-наблюдатели, работающие с Zero Trust, могут связаться с чиновником, дело которого рассматривается, и посоветовать ему не совершать дальнейших более крупных ошибок. Разработчики подчеркивают, что окончательное решение всегда остается за человеком, самостоятельно система никуда данные не передает.

Если чиновник подделал какие-то данные, Zero Trust может сравнить информацию из нескольких источников и обнаружить расхождение. Она даже может запросить изображение со спутника — например, чтобы выяснить, была ли в деревне на самом деле построена дорога, или выделенные на это средства ушли куда-то еще.

Одной из слабостей Zero Trust является то, что система может быстро указать на коррупционера, но не всегда может хорошо объяснить, почему пришла к таким выводам. Несмотря на то, что в большинстве случаев искусственный интеллект оказывается прав, за его работой должны тщательно наблюдать люди.

Источник: CNews