Специалисты полагают, что в перспективе технологии искусственного интеллекта получат возможность влиять на совместные решения, касающиеся миллионов граждан. Однако для этого потребуется оставить за людьми главную роль в формировании норм функционирования таких систем и надзоре за их выводами, сообщила «Известиям» доцент и академический руководитель магистратуры «Искусственный интеллект» факультета компьютерных наук НИУ ВШЭ Елена Кантонистова.
Как рассказала эксперт, ИИ демонстрирует высокую эффективность в областях с ясными критериями оценки и поддающимися формализации задачами. Алгоритмы способны обрабатывать значительные массивы информации и содействовать выбору самых рациональных вариантов.
Исследователь также акцентирует, что ключевым требованием выступает наличие предварительно установленных правил и понятных механизмов выработки решений.
«Модели не должны придумывать правила в процессе работы. Они должны действовать в рамках четко определенных принципов, ограничений и приоритетов, заданных человеком. Это особенно важно в системах, которые затрагивают интересы большого числа людей», — отметила Кантонистова.
Специалист пояснила: на сегодняшний день полностью алгоритмизировать непростые социальные, политические и этические дилеммы не удается. Поэтому в этих сферах участие человека по-прежнему обязательно.
Параллельно технологическому прогрессу требуется выстраивать инструменты контроля и нормативного регулирования применения ИИ. По мнению эксперта, сейчас на первый план выходит проблема разграничения ответственности за итоги действий, совершенных при поддержке алгоритмов.
«Необходимо заранее определить, кто отвечает за последствия решений, принятых с использованием искусственного интеллекта: разработчик модели, компания, внедрившая систему, или оператор, который ее использует. Без четко закрепленной юридической ответственности даже самые совершенные ИИ-системы будут оставаться источником повышенных рисков», — подчеркнула Кантонистова.
Эксперт добавила, что наряду с правовыми нормами значимы и технические способы надзора. Среди них — открытость алгоритмических процессов, способность разъяснять ход выработки решений, аудит систем, протоколирование их операций и жесткие лимиты полномочий моделей.
Подробнее о том, как искусственный интеллект может изменить систему управления и какие риски сопровождают его внедрение, — в материале «Известий».