Создатели систем искусственного интеллекта должны будут информировать пользователей о запрете применения нейросетей для манипуляций поведением и эксплуатации человеческих уязвимостей. Такое требование содержится в законопроекте об ИИ, подготовленном Министерством цифрового развития и находящемся на стадии межведомственного согласования. С текстом документа ознакомились журналисты «Известий».

В законопроекте эксплуатация уязвимостей трактуется как использование определенных состояний человека, таких как возрастные, социально-экономические или психологические, для оказания целенаправленного влияния на его поведение, принятие решений или получения несанкционированного доступа к информации.

«Данный запрет в первую очередь касается операторов и разработчиков систем ИИ — организаций и компаний, внедряющих такие технологии в сервисы, приложения или продукты. Если говорить простыми словами, правило означает, что искусственный интеллект нельзя проектировать или применять для скрытого подталкивания человека к решениям, которые он не принял бы без манипулятивного воздействия», — считает ведущий эксперт по ИИ «Университета 2035» Ярослав Селиверстов.

Эксперт пояснил, что искусственный интеллект может влиять на поведение, анализируя данные о пользователе и персонализируя контент — например, подбирая сообщения, рекомендации или элементы интерфейса, которые увеличивают шанс на нужное действие. По словам Селиверстова, подобные технологии могут применяться в рекламе, политических коммуникациях, рекомендательных сервисах или чат-ботах для создания ощущения срочности, усиления доверия или эмоционального отклика.

Более подробно об этом читайте в эксклюзивном материале «Известий»:

Говорит ИИ приказывает: онлайн-сервисам запретит манипулировать людьми с помощью нейросетей