Диана Эдиковна Гаспарян, Евгений Михайлович Стырин
Прикладные проблемы внедрения этики искусственного интеллекта в России: отраслевой анализ и судебная система
© Гаспарян Д.Э., Стырин Е.М., 2020
Глоссарий
Искусственный интеллект (ИИ) – программная система для решения различных задач с помощью антропоразмерного интеллекта, функционирующего на автоматизированной основе.
Этическая экспертиза – тестирование технологии с точки зрения ее релевантности этическим нормам человека, причастности ценностям и нормативным предписаниям, а также психологической безопасности.
Социально-надежный ИИ – искусственный интеллект, отвечающий нормам этической релевантности, социальной предсказуемости и психологической безопасности.
Агенты ИИ – различные по своему функционалу программы, которые автономно работают по определенному расписанию на основе технологий ИИ над поставленными человеком задачами; способны получать и обрабатывать данные из внешней среды с последующей выдачей рационального результата, соизмеримого поставленным задачам.
Робот – 1) программируемый исполнительный механизм с определенным уровнем автономности для выполнения перемещения, манипулирования или позиционирования (включает систему управления и интерфейс для человека); 2) автономно действующий программный модуль с понятным для человека интерфейсом, который выполняет рутинные задачи в заданной предметной области по определенному расписанию (поиск, ответы на вопросы, сбор данных).
Государственное регулирование экономики – управляющее воздействие государства на экономическую деятельность субъектов хозяйствования, которое реализуется через различные экономические и административные (внеэкономические) механизмы.
Введение[1]
Искусственный интеллект, а точнее подразумеваемые под ним технологии машинного обучения, которые позволяют компьютерам понимать речь, разбирать тексты, классифицировать данные по заранее заданным критериям, т. е. решать ряд интеллектуальных творческих задач способами, аналогичными тем, которыми пользуется человек [Barr, 1989], прочно входит в дискурс органов исполнительной власти, но также может использоваться законодательной и судебной ветвями власти [Sun, Medaglia, 2019]. В принятой в 2019 году российской национальной стратегии развития искусственного интеллекта до 2030 года под искусственным интеллектом (далее – ИИ) понимается «комплекс технологических решений, имитирующий когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и позволяющий при выполнении задач достигать результаты, как минимум сопоставимые с результатами интеллектуальной деятельности человека» [Указ Президента РФ № 490]. Комплекс технологических решений включает информационно-коммуникационную инфраструктуру, программное обеспечение, в котором в том числе используются методы машинного обучения, процессы и сервисы по обработке данных и выработке решений.
Поскольку спектр задач, решаемых ИИ, постоянно расширяется, мы перечислим только задачи, которые относятся к системе органов исполнительной власти, а также к судебной системе.
Прежде всего, это класс задач по установлению содержательных связей между нормативно-правовыми актами или документами стратегического планирования с целью их взаимоувязки или поиска противоречий, несоответствий между целями, задачами и целевыми показателями в документах на различных уровнях управления. Известно, что нормативно-правовые акты могут содержать противоречия, ведь документы стратегического планирования в России созданы на всех уровнях управления, при этом указанные в них цели, задачи и показатели на региональном или муниципальном уровнях могут противоречить, например, ключевым документам на федеральном уровне. Работу по взаимной увязке и поиску противоречий может осуществлять программа на основе технологий искусственного интеллекта, которая в ряде документов устранит дублирование, выявит заведомо недостижимые показатели, проведет конечную классификацию типов документов стратегического планирования в зависимости от критериев классификации.
Другим классом задач для ИИ является предиктивная аналитика на основе массивов данных, которые описывают объект в отрасли, например, пациента по истории болезни в медицинской карте, школьника или студента по портфолио достижений и успеваемости, совершившего или подозреваемого в правонарушении или преступлении по материалам уголовного дела. На основе анализа аналогичных объектов одного класса рекомендательная система может классифицировать каждый новый объект относительно набора признаков, которые также могут быть априори заданы. Таким образом, можно с некоторой вероятностью получить предсказания о склонности заключенного совершить повторное преступление, о намерении ученика получить определенную профессию, о возникновении у пациента некоторой болезни или, например, послеоперационных осложнений. Другой целью рекомендательной системы может стать выработка предписаний о том, какое может быть назначено наказание подозреваемому, какие курсы в дальнейшем предпочтительно слушать школьнику или студенту, какие препараты принимать пациенту и процедуры проходить, чтобы предотвратить негативный сценарий развития болезни [ЦНТИ МФТИ, 2020].
1
Книга написана на основе прикладного исследования «Систематизация опыта ведущих стран мира в развитии технологий искусственного интеллекта и выработка предложений по нормативным и организационным мерам, направленным на опережающее развитие технологий искусственного интеллекта в Российской Федерации», проведенного ИГМУ НИУ ВШЭ в 2019 году в рамках программы прикладных исследований. В работе использованы результаты проекта «Трансцендентальный подход в философии: история и современность», выполненного в рамках Программы фундаментальных исследований НИУ ВШЭ в 2020 году.