Эксперты предостерегают, что мошенники могут применять цифровые копии умерших людей, созданные с помощью искусственного интеллекта (ИИ), в разнообразных преступных схемах. Такие угрозы в киберпространстве чаще всего нацелены на родственников и знакомых умерших, сами же злоумышленники распространяют мошеннические приемы через социальные сети и мессенджеры. В статье «Известий» подробно раскрыта информация о том, как именно мошенники используют ИИ-копии покойников, почему эти схемы опасны и каким образом от них защититься.
Почему мошенников привлекают ИИ-копии умерших людейПо словам консультанта по ИИ и эксперта аналитического центра кибербезопасности компании «Газинформсервис» Татьяны Буториной, цифровые копии представляют собой образы людей, которые живут в настоящее время, жили в прошлом или никогда не существовали, созданные в форматах изображения и звука с учетом поведенческих характеристик. Такие копии могут быть представлены в различных форматах, включая голограммы, чат-боты и VR.
— По статистике Gartner Inc., рынок виртуальных личностей на глобальном уровне в период с 2021 по 2035 годы увеличится примерно в 11 раз, — говорит специалист. — На сегодня ИИ-копии уже применяются во многих сферах и пользуются значительным успехом в мировом масштабе.
Татьяна Буторина отмечает, что мошенники уже включили это направление в свои методы работы, поскольку благодаря технологическому развитию границы между цифровыми и человеческими образами стали стремительно размываться, создавая условия для разнообразных манипуляций в личной и общественной жизни, а также в коммерческих и политических сферах.
Аналитик данных Координационного центра доменов .RU/.РФ Евгений Панков добавляет, что пользователи часто не подозревают об угрозах, связанных с ИИ-копиями умерших. Люди склонны испытывать доверие к образу близкого или кумира, даже если тот уже умер, поэтому воспринимают сообщения без критического осмысления. Злоумышленники сознательно используют этот эмоциональный фактор и «эффект доверия», заставляя выполнять нужные действия — переходить по ссылкам, предоставлять коды или переводить деньги.
Какие мошеннические схемы с ИИ-копиями умерших уже известныКак рассказывает Евгений Панков в интервью «Известиям», в России в последние годы растет количество случаев использования дипфейков и ИИ-копий умерших. Так, мошенники применяли аккаунты покойных, чтобы выманивать деньги у их знакомых, которые могли не осознавать, что человек скончался.
— В зарубежных странах были зафиксированы случаи, когда с помощью поддельных некрологов известных лиц мошенники получали трафик и доходы от рекламы на сайтах и YouTube, — отмечает эксперт. — Искусственно сгенерированные некрологи с кликбейтными заголовками быстро появляются в топе выдачи Google и получают широкое распространение.
Общей чертой таких схем является использование доверия и эмоций пользователей, усиленных алгоритмами персонализации и рекомендаций, добавляет Евгений Панков. Наиболее активное применение ИИ-копий умерших фиксируется в США, Китае и Великобритании, уточняет Татьяна Буторина.
В России в 2024 году официально зафиксированы случаи, когда мошенники от имени умерших обращались к родственникам с целью выманить десятки тысяч рублей, говорит эксперт. Защитить часть людей помогла бдительность близких и сотрудников ведомств.
— В 2024 году введен термин «кибермистификация» для описания мошеннических схем, сочетающих социальную инженерию, ИИ-копии и переписку в мессенджерах, — добавляет Татьяна Буторина.
В то же время Александра Шмигирилова, GR-директор компании «Код безопасности», отмечает, что несмотря на растущее применение ИИ мошенниками, активное использование цифровых двойников умерших пока не приобрело массовый масштаб. Часть злоумышленников неосознанно используют контакты умерших — например, взламывая базы данных с контактами и рассылая сообщения якобы от имени недавно скончавшихся, чьи данные еще не были удалены.
В каких направлениях мошенничества применяются ИИ-копии погибших людейПо словам Александры Шмигириловой в интервью «Известиям», цифровые копии умерших могут использоваться в нескольких направлениях. Прежде всего, это нацелено на людей, переживающих смерть близкого и готовых пойти на многое ради общения даже с искусственным собеседником.
— Для таких людей мошенники предлагают дипфейки, а в процессе общения манипулируют ими, зачастую незаметно для жертв, — поясняет специалист. — Второе направление — это контакты умерших. Если смерть произошла недавно, и знакомые об этом не осведомлены, они могут общаться с цифровым двойником, не подозревая подвоха.
Третье направление — использование цифровых двойников для создания отзывов, рекомендаций, общения в соцсетях и других целей. Евгений Панков при этом выделяет мессенджеры как основную площадку для применения ИИ-копий.
Мошенники способны применять голосовые и видеодипфейки умерших для различных просьб — от переводов денег и покупки товаров с подписками до запроса кодов из СМС или документов. Они также рассылают фишинговые ссылки и опасные вложения под видом семейных альбомов или сканов документов.
— Кроме того, злоумышленники взламывают ИИ-ботов, которые имитируют умерших, чтобы добыть личные данные, распространять фишинг или склонять к незаконным действиям, — поясняет Евгений Панков.
По словам эксперта, в США и других странах в последние годы сформировалась отрасль DeathTech — создание реалистичных ботов и цифровых аватаров, позволяющих «продолжать общение» с умершими. Для этого используют посты в соцсетях, переписки и голосовые сообщения. Взлом таких аватаров особенно опасен, потому что проверить подлинность собеседника невозможно.
Какие угрозы несут схемы с ИИ-копиями умерших и как себя обезопаситьЯков Филевский, эксперт в области социотехнического тестирования из Angara Security, отмечает, что основная цель мошеннических схем с цифровыми двойниками — родственники недавно скончавшихся, пребывающие в глубоком горе.
— Второстепенная аудитория — друзья и знакомые из контактных списков, попадающие в фишинговые сети, — поясняет эксперт. — В целом под такие атаки попадают люди, подверженные внушению и плохо понимающие информационные технологии.
Главная опасность таких схем в том, что человек не распознает угрозу и может выполнить любые условия злоумышленников — перейти по фишинговой ссылке, отправить деньги, оформить подписку, назвать одноразовый код, якобы необходимый для доступа к семейным файлам, поясняет Евгений Панков. Часто это приводит к краже учетных записей и заражению устройств вредоносным ПО.
Однако опасность может быть гораздо серьезнее — вплоть до того, что уязвимых лиц могут подтолкнуть к суициду. Более того, ИИ-копии невозможно проверить по другому каналу — ведь умерший не может ответить на звонок и подтвердить информацию. Важным элементом защиты от подобных угроз является понимание контекста использования цифровых двойников.
— Когда используется осознанно ИИ-двойник, нужно постараться не поддаваться эмоциям и не выполнять все требования «близкого человека», а сохранять рациональность, — советует Александра Шмигирилова.
Если же злоумышленники просто применяют контакт и дипфейк умершего, представляя его как живого человека, поможет обычное соблюдение кибергигиены — осторожность, проверка информации и ограничение предоставления данных и финансов без тщательной оценки, заключает эксперт «Известий».