Правительство КНР отказывается от ИИ-приложения для выявления взяточничества

Правительство КНР отказывается от ИИ-приложения для выявления взяточничества

По сообщению информагентства Xinhua и издания South China Morning Post, правительство Китайской Народной Республики приняло решение отказаться от использования системы искусственного интеллекта
Zero Trust для выявления взяточников и растратчиков среди госслужащих. Система обнаруживала подозрительные случаи чрезвычайно эффективно, но на основе выявленных ей данных сделать однозначный вывод
о коррумпированности того или иного госслужащего невозможно.

Алгоритм под названием Zero Trust на основе системы искусственного интеллекта, разработанный учеными Академии наук Китая и предназначенный для мониторинга и оценки деятельности чиновников,
правительство КНР внедрило в 2012 году. По официальным данным, в стране с населением порядка 1,4 млрд человек (по данным на 2018 год) около 50 млн – чиновники разных рангов и уровней. По подсчетам
общественных организаций, их число еще больше – около 65 млн. Основной целью проекта Zero Trust был поиск и выявление среди них коррупционеров, с которыми правительство страны ведет давнюю и
упорную борьбу. Причем, как особо подчеркивали разработчики, цель программы – не наказать чиновников, а предупредить тех, кто находится на ранних стадиях коррумпированности, что, в итоге, сделает
работу правительства более эффективной.

На первых порах систему Zero Trust было решено внедрить всего в 30-ти городах, причем далеких от столицы, центральных населенных пунктов и крупных политических центров, а затем, после нескольких
лет «обкатки», развернуть и по всей стране.

Напомним, что власти Китая уже к концу текущего года собираются внедрить в стране общегосударственную систему социального рейтинга,
которая будет выстраивать для каждого гражданина КНР индивидуальный социальный рейтинг, исходя из самых разных сторон жизни каждого гражданина, в том числе его честности, строгому следованию
законам и финансовым привычкам.

Решение Zero Trust получило доступ к 150 базам данных государственного значения, в которых содержится самая разнообразная информация о работе и социальной жизни чиновников, а также и данные,
передаваемые со спутников земли. Искусственный интеллект обрабатывает эти данные, сопоставляет источники и выявляет несоответствия, которые могут указывать на нарушение закона тем или иным
госслужащим, подозрительные сделки с недвижимостью, передачей собственности, тендерами, строительством и многое другое. Например, система может отследить, построен ли тот или иной объект, в том
числе и в особо отдаленных населенных пунктах, о сдаче в эксплуатацию которого отрапортовал чиновник, выявить покупку автомобиля госслужащим, зарплата которого явно не соответствует уровню и
стоимости транспортного средства, оценить стоимость принадлежащих чиновникам и их родственникам земельных участков, домов и других активов, а также отследить связи чиновников друг с другом.

За 7 лет своей работы в КНР решение Zero Trust продемонстрировало свою исключительную результативность. Ему удалось выявить 8721 подозрительных случаев, которые могли бы указывать на
коррумпированность. Некоторые чиновники, которых система уличила в различных нарушениях и растрате госсредств, получили разные сроки тюремного заключения, другим правительство вынесло
предупреждения.

Однако, спустя несколько лет после внедрения системы, ее работу было решено остановить. Дело в том, что система однозначно указывала на случаи нарушения, но при этом не давала возможности понять,
как и почему она принимала решение о коррумпированности того или иного определенного служащего. К расследованию каждого из выявленных инцидентов правительству КНР приходилось привлекать массу
специалистов, а само расследование могло продолжаться месяцами. Госслужащие, в свою очередь, стали жаловаться на то, что, работая «под надзором Zero Trust», им приходится испытывать «очень сильное
давление».

Кроме того, в Китае нет законов и нормативных актов, регулирующих вопрос доступа ИИ к конфиденциальной информации, из-за чего ряд официальных лиц подвергают сомнению право ИИ на доступ к базам
данных.

Как сообщают ведущие СМИ Китая – агенство Xinhua и South China Morning Post, города, которые использовали разработку Zero Trust с 2012 года, стали постепенно выводить ее из эксплуатации. Сегодня
Zero Trust пока еще работает в городе Сюйшуй и еще нескольких регионах. Но внедрить ее в национальном масштабе теперь уже, скорее всего, не удастся.

Источник: http://www.it-world.ru/it-news/it/143823.html