Справедливость из машины

За три месяца эксперимента с использованием интеллектуальных систем фискальные службы Мексики выявили 1,2 тыс. компаний — неплательщиков налогов и 3,5 тыс. мошеннических операций. Традиционными методами на такую работу ушло бы 1,5 года. Выгоды очевидны, но не всё так просто, заключают эксперты Проектно-учебной лаборатории антикоррупционной политики (ПУЛАП) и факультета права НИУ ВШЭ. Возможности и риски применения алгоритмов в профилактике коррупции они изучили на примерах разных стран. Доклад по итогам исследования * был представлен на XXIII Ясинской (Апрельской) международной научной конференции, организованной НИУ ВШЭ.

Когда нужны технологии

В 2020 году в Колумбии был пересмотрен почти каждый пятый контракт на госзакупки, связанные с пандемией, а ряд правительственных чиновников из-за махинаций в этой сфере лишились своих постов. Выявить случаи злоупотреблений и инициировать уголовные дела удалось благодаря созданному в 2018-м Центру по анализу информации о государственных контрактах и расходовании бюджетных средств (OCEANO).

Система OCEANO анализировала данные с помощью искусственного интеллекта (ИИ), технологии которого помогают в борьбе с коррупцией по всему миру. В Бразилии, например, в 2017 году появился проект Operação Serenata do Amor с алгоритмом Rosie, изучающим парламентские расходы депутатов и сенаторов. А один из крупнейших мировых пивоваров — компания Anheuser-Busch InBev (AB InBev, Бельгия) на специальной платформе Operation BrewRIGHT, отслеживая потоки своей информации методом машинного обучения, вычисляет незаконные платежи и недобросовестных деловых партнеров.

В противодействии коррупции методы ИИ не просто важны, но часто единственно возможны, а уровень цифровизации госуправления, оказания государственных услуг, доступность баз данных сегодня позволяют создавать модели антикоррупционного мониторинга на постоянной основе.

Компьютерное зрение, обработка естественного языка, распознавание и синтез речи, интеллектуальная поддержка принятия решений — всё это уже практикуется в коррупционно опасных сферах будь то государственное управление, госконтроль (надзор), уголовное преследование предпринимателей, судопроизводство или же корпоративный комплаенс (политика компаний по предупреждению противозаконных действий сотрудников, от англ. compliance — «соответствие»).

Кадровый вопрос

Искусственный интеллект автоматизирует рекрутинг, то есть ускоряет и облегчает процесс найма персонала. Многие работодатели это давно оценили. В последнее время, в связи с коронакризисом, сторонников ИИ в отделах кадров всё больше, хотя в целом явление пока далеко не массовое.

Вариантов задействовать компьютерные программы много — поиск и подбор соискателей, приглашения на собеседование, его проведение чат-ботами, оценка кандидата во время интервью и — кроме прочего — определение степени потенциальной честности будущего работника, в том числе чиновника.

Что нужно для эффективного применения ИИ в этом случае? Выделить должности с высокой вероятностью неправового поведения (в России список основных сфер коррупционных рисков содержатся в Методических рекомендациях Минтруда) и выработать систему индикаторов коррупциогенности, пригодных для машинного обучения.

Сложностей здесь эксперты не видят: в сфере подбора персонала почти все проблемы типичны, поэтому у HR-специалистов широкий спектр исходного материала для алгоритмов.

Инструментов вычисления коррупционеров несколько. Важно, как и что человек говорит, какими чертами личности наделён; его тёмное прошлое способно разглядеть машинное зрение, а установки и ценности — специальные игры, имитирующие реальные рабочие ситуации.

Так, психолингвисты пишут, что в русском языке есть слова и выражения с потенциально коррупционным значением — дал на лапу, занёс мешок/чемодан и проч. Они чаще употребляются в текстах с соответствующей тематикой и чаще же — людьми, склонными к таким правонарушениям. Следовательно, «опознать» рисковых кандидатов на вакансии можно через определённую базу слов-сигналов.

А когда вместо речи ИИ получает для анализа лица, в дело вступает технология их идентификации. Алгоритм распознавания лиц на основе самообучающихся нейронных сетей российской компании NtechLab, к примеру, позволяет найти человека в многомиллионной базе всего по одному фото, и это вполне надёжный заслон для проникновения в коммерческие фирмы и госструктуры людей с сомнительным прошлым.

Впрочем, не всё однозначно. Кадровиков нужно учить общаться с роботами, в законах много белых пятен, связанных с персональными данными, а IT вместо возможностей могут открыть компаниям дорогу в суд: искусственный интеллект зачастую непреднамеренно дискриминирует, исключая женщин, национальные меньшинства, инвалидов и работников старше 40 лет.

Защитить бизнес

Серьёзная «головная боль» — злоупотребления в сфере уголовного преследования предпринимателей (заказные дела как способ устранения конкурентов). В России для её «лечения» создано два общественных института, рассматривающих такие жалобы: Уполномоченный при Президенте РФ по защите прав предпринимателей и онлайн-платформа «За бизнес». 

Несмотря на принимаемые меры, существенного прогресса в решении проблемы нет. Она не видится системной, множество претензий к одинаковым правонарушениям рассматриваются не как типовые, а как единичные случаи.

Задача ИИ — преодолеть несистемность, улавливая коррупционные риски в действиях правоохранителей. С технической точки зрения это формирование индикаторов, то есть критериев, по которым можно узнавать заказные дела и выявлять нечистых на руку сотрудников: оперативность возбуждения дел, затягивание сроков расследования, вынесения приговоров и проч.

А судьи кто?

Ещё одна беда — коррупция среди судей. Главная причина та же — наличие поля для манёвра. В данном случае благодаря широте законодательных формулировок, закрепляющих полномочия следственных и судебных органов.

Понятия могут быть оценочными, основания для заключения под стражу, ареста имущества, изъятия документов и т.п. — описанными абстрактно. В результате — соблазн вершителей закона к мздоимству и невысокий уровень доверия к ним граждан.

Судебные приговоры — это корпус текстов с чёткой структурой и формулировками. Иными словами — открытая информация для искусственного интеллекта, в которой ситуации с коррупционными факторами скрываются за повторяющимися сходными словами и выражениями.

Изучение решений, вызывающих сомнение в их беспристрастности, показало, что они отличаются от основной массы соответствующих уголовно-процессуальным нормам. В частности, не отражают, что человеку были предоставлены те или иные гарантии, предусмотренные законом. Отсутствие таких записей – тоже характерный маркер для ИИ.

В 2017 году удачный пример внедрения машинного обучения в эту область продемонстрировал Китай. Всего за полгода там запустили первую версию «Системы 206» — программы, основанной на единой государственной базе судебных решений China Judgements Online.

Пресекать коррупцию не единственный талант китайского алгоритма. Он способен на многое, в том числе давать судьям рекомендации по назначению наказания, наличию смягчающих обстоятельств, брать во внимание особенности личности преступника и т.п.

Секрет такой многозадачности в объеме исходного материала. China Judgements Online — самое крупное в мире онлайн-хранилище с более чем 80 млн документов. В России подобного пока нет, а для создания единой обширной базы требуется перевод письменных материалов в цифровой формат.

В помощь госконтролю

Международный опыт показывает, что искусственный интеллект эффективен и при государственном контроле (надзоре) — мероприятиях «по предупреждению, выявлению и пресечению нарушений обязательных требований».

В США (Чикаго) соблюдение санитарно-эпидемиологических норм на почти 15 тысячах объектах общественного питания контролируется всего 30 инспекторами. Они проводят точечные проверки лишь потенциально опасных точек, на которые «наводит» программа с технологией Big Data. А в Южной Неваде местный департамент здравоохранения проверяет кафе и рестораны после изучения (тоже с помощью ИИ) отзывов о них в Твиттере. Как доказал эксперимент, количество нарушений у предприятий, попавших в поле зрения таким образом, почти вдвое выше, чем у тех, куда контроллеры приходили в случайном порядке.

В России минимизировать коррупцию в сфере госконтроля во многом удалось за счёт государственной информационной системы «Типовое облачное решение по автоматизации контрольной (надзорной) деятельности» (ГИС ТОР КНД). Система взаимодействует с Единым реестром контрольных (надзорных) функций (ЕРКНМ), в рамках которого проверки согласуются с органами прокуратуры. Компьютерная программа ранжирует субъекты контроля по уровням рисков, содержит историю проверок и в конечном счёте — снижает человеческий фактор, возможность инспектора влиять на проверяемых.

В качестве подсистемы и поставщика информации для ГИС ТОР КНД была создана государственная платформа сбора данных (ГПСД). Её задача — дистанционное наблюдение за охраняемыми государством объектами и экологический мониторинг в регионах. Механизмы интернета вещей позволяют в режиме реального времени обнаруживать нарушения, которые могут быть основанием для проведения проверки.

Датасет для экспертиз

Ежегодно в России принимается около миллиона нормативно-правовых актов. В отношении их, равно как и уже действующих, с 2009 года проводится антикоррупционная экспертиза, то есть в документах выявляются положения, провоцирующие коррупцию.

Миллион — это большая нагрузка. Экспертов не хватает, компетентность не всегда на должном уровне. Решение проблемы — всё та же автоматизация силами ИИ.

Одна из таких моделей создается Проектной группой НИУ ВШЭ. Работа идёт в партнерстве с ПУЛАП НИУ ВШЭ и Отделом методологии противодействия коррупции ИЗиСП при Правительстве РФ. Ожидаемый результат — создание набора данных (датасета) для обучения модели, осуществляющей антикоррупционную экспертизу.

Проект достаточно сложный. Это демонстрируют несколько фактов, с которыми столкнулись учёные: за основу для обучения модели хотели взять мотивированные ответы государственных органов с Федерального портала проектов нормативных правовых актов, однако аргументированных ответов там не нашлось, а среди 3 тыс. «карточек» доступными оказались лишь семь реальных заключений по результатам независимых антикоррупционных экспертиз.

Прогресс на тормозах

Одним из первых масштабных опытов по использованию искусственного интеллекта для нахождения фактов коррупции в публичном секторе стала китайская система Zero Trust. Она обрабатывала информацию из 150 закрытых правительственных баз данных чиновников и спутниковых фотографий для проверки активности мероприятий по госконтрактам. Признаками повышенных коррупционных рисков могли служить нетипичный рост доходов или сбережений, дорогостоящие покупки, оформленные на служащего или его родственника, и т.п. Всё это сопоставлялось с итогами государственных и муниципальных закупок, далее оценивалась вероятность коррупционного характера обогащения, при неблагоприятном вердикте оператор системы получал уведомление и чиновника ждала проверка.

Сами разработчики системы признали, что технология лишь сигнализировала о потенциальных случаях коррупции без объяснений, почему сделано то или иное заключение. Выводы было сложно приложить к правовому полю, поскольку искусственный интеллект лишь средство сбора информации, а не прямое доказательство вины.

Преградой к успеху подобных систем способны стать чиновники, от которых зависят запуск и эффективное функционирование технологий. Остаются вопросы к объёмам баз данных (большие раскрывают потенциал ИИ, но при усложнении алгоритмов теряется прозрачность анализа). Важно также понимать, что обработка и проверка результатов требуют колоссальных трудозатрат, и что поставить кибернетический разум на службу нельзя без привлечения высококвалифицированных кадров, которых пока не так много.

Словом, приход искусственного интеллекта даже в потенциально перспективные сферы непрост, но возможности его столь велики, что планировать масштабное внедрение нужно уже сейчас.
IQ

 

* Доклад «Искусственный интеллект в профилактике правовых рисков и противодействии коррупции». Авторский коллектив: Крылова Д.В. (научный редактор), Майоров А.В., Минченков Е.Н., Волкова А.М, Потапов А.Д., Цирин А.М., Долотов Р.О., Соколов Т.В., Максименко А.А., Таут С.В., Артеменко Е.А., Поросенков Г.А., Пархоменко С.А., Мельникова А.Л.

Author: Svetlana Saltanova, April 13, 2022