Нейросети все активнее встраиваются в рабочие процессы организаций: с их помощью сотрудники готовят документы, проводят анализ данных и снимают с себя рутинные операции. Но применение таких моделей способно обернуться утечкой закрытой информации — в случае, когда работники отправляют во внешние сервисы клиентские базы, договоры или документы внутреннего пользования. Об этом 10 сентября изданию «Известия» сообщил Сергей Таран, занимающий должность управляющего директора LANSOFT.

По словам специалиста, ключевая угроза кроется не в самом факте применения ИИ, а в том, что в компании нет внятных регламентов обращения с данными. Работник способен загрузить в нейросеть часть договора, техническую документацию либо финансовую отчетность, и после этого организация утрачивает понимание, где хранятся эти сведения и у кого есть к ним доступ.

«Первым этапом внедрения ИИ должна стать инвентаризация данных. Компании необходимо разделить информацию на категории: общедоступную, внутреннюю и сведения ограниченного доступа, включая персональные данные и коммерческую тайну. Для каждой группы должны действовать свои правила. Открытые материалы можно использовать для подготовки черновиков, поиска идей и обработки информации, тогда как внутренние документы должны работать только в защищенной корпоративной среде», — заявил Таран.

Персональные сведения клиентов и сотрудников, данные о сделках и критически значимая информация, как отметил эксперт, не должны уходить в открытые внешние сервисы при отсутствии правовых и технических оснований для этого.

Вместе с тем один лишь запрет на нейросети проблему не снимает. Таран пояснил, что работники все равно найдут способ обратиться к публичным инструментам со своих личных устройств. Куда действеннее — корпоративный ИИ-сервис с разграничением прав доступа, журналом действий и настройками, не позволяющими использовать внутренние данные для обучения сторонних моделей.

По словам эксперта, компании вправе задействовать открытые модели искусственного интеллекта, которые разворачиваются в собственной инфраструктуре. Подобные решения дают возможность держать информацию под контролем, но требуют дополнительных технических ресурсов.

Еще один значимый принцип безопасной работы с ИИ — минимизация данных. Как заметил Таран, алгоритму не всегда требуется полный документ или вся база сведений для решения задачи. К примеру, разбирая обращение клиента, можно убрать фамилию, адрес, номер телефона и прочие персональные данные. В документах допустимо заменить реальные сведения условными обозначениями — так нужный результат получается без угрозы раскрытия конфиденциальной информации.

Отдельно эксперт остановился на настройке прав доступа. По его словам, и сотрудники, и ИИ-системы должны обладать лишь теми полномочиями, которые требуются для конкретных задач. К примеру, алгоритм способен подготовить проект ответа или собрать отчет по определенной папке, однако не должен иметь возможности самовольно выгружать всю клиентскую базу либо править критичные данные без дополнительного подтверждения.

Не менее значимым остается и обучение сотрудников. Общие запреты в духе «не загружайте секретные данные», по словам Тарана, работают хуже, чем четкие инструкции. Компаниям следует разъяснять, какие сервисы допустимы, какие сведения можно включать в запросы к нейросетям, как корректно обезличивать информацию и куда обращаться, если допущена ошибка.

Эксперт акцентировал, что безопасное применение ИИ подразумевает контроль не только за входящими запросами, но и за тем, что выдает алгоритм. Важно распознавать недостоверные ответы, ограничивать использование ИИ в чувствительных областях и не позволять ему бесконтрольно влиять на информационные системы.

По словам Тарана, грамотное внедрение искусственного интеллекта опирается не на полный запрет технологий, а на комбинацию понятных правил, защищенной инфраструктуры и подготовленного персонала. Подобный подход дает возможность пользоваться плюсами ИИ, не теряя контроля над корпоративной информацией.

25 августа Анастасия Горелкина, возглавляющая совет директоров АО ХК «Сибирский деловой союз» и входящая в совет директоров КАО «Азот», напомнила, что ценность сотрудника для компании складывается не только из должности и размера зарплаты, но и из сочетания редких компетенций, влияния на ключевые бизнес-процессы и сложности замены такого специалиста. По ее словам, сейчас на рынке труда особенно ценятся специалисты по работе с данными и ИИ, кибербезопасности, автоматизации, продуктовой разработке, управлению сложными проектами, а также в продажах с доступом к ключевым клиентам.