О том, как работают такие схемы, почему дипфейки становятся всё опаснее и как защитить себя, «Фонарю» рассказал директор по информационной безопасности компании «БелИнфоНалог» Дмитрий Корнев.
Когда голос близкого человека оказывается подделкой
Ещё несколько лет назад большинство мошеннических схем строилось на сообщениях в мессенджерах. Злоумышленники выдавали себя за родственников, друзей или коллег и просили перевести деньги. Сегодня технологии шагнули дальше.
Теперь мошенники всё чаще используют голосовые сообщения и звонки. Человек слышит знакомую интонацию, привычную манеру речи и практически не сомневается, что разговаривает именно с тем, кого знает много лет.
По словам директора по информационной безопасности компании «БелИнфоНалог» Дмитрия Корнева, именно на этом доверии и строится новая схема обмана.
— Когда человек слышит голос своего ребёнка, родственника или близкого друга, он автоматически снижает уровень настороженности. Этим и пользуются мошенники. Они понимают, что в экстренной ситуации люди часто принимают решения эмоционально и не успевают проверить информацию. Именно поэтому просьбы обычно выглядят срочными и не требуют долгих раздумий. Главная задача злоумышленников — заставить жертву действовать быстро, — рассказал эксперт.
Как правило, сценарий выглядит довольно просто. Человеку звонят или отправляют голосовое сообщение от имени знакомого. Собеседник объясняет, что ему срочно нужна небольшая сумма денег. Причины могут быть самыми разными: покупка подарка, оплата лекарства, нехватка денег при покупке товара или необходимость рассчитаться за какую-либо услугу.
Обычно мошенники просят перевести деньги не на личную карту знакомого, а на чужой счёт или номер телефона. Например, утверждают, что это карта продавца, коллеги, приятеля или другого человека, который сейчас помогает решить проблему. Ситуацию поясняют, к примеру, отсутствием доступа к личному телефону: якобы сел аккумулятор, сломался экран или телефон украли.
Небольшой размер суммы дополнительно снижает подозрения. В результате деньги оказываются у злоумышленников.
Откуда мошенники берут чужие голоса
Многих удивляет, насколько точно может звучать подделка. Однако объяснение этому довольно простое. Для создания копии голоса мошенникам нужен образец речи человека. Чаще всего они получают его после взлома аккаунта в мессенджере или через фишинговые атаки.
Получив доступ к переписке, злоумышленники находят голосовые сообщения и загружают их в специальные системы на базе искусственного интеллекта. После обработки таких записей нейросеть начинает воспроизводить особенности речи человека: тембр голоса, интонации, скорость разговора и некоторые характерные речевые привычки.
— Сегодня практически каждый пользователь хотя бы иногда отправляет голосовые сообщения. Для современных систем искусственного интеллекта этого зачастую достаточно, чтобы создать убедительную имитацию. Причём технологии развиваются очень быстро. Если ещё недавно подделки звучали неестественно, то сейчас некоторые из них способны ввести в заблуждение даже близких людей. Поэтому рассчитывать только на слух уже нельзя, — объясняет Дмитрий Корнев.
После получения доступа к аккаунту мошенники изучают контакты потенциальной жертвы и подбирают наиболее убедительные сценарии общения для каждого человека.
Родителям могут позвонить якобы от имени ребёнка. Друзьям — попросить перевести деньги на бензин или оплату заказа. Родственникам пожилого человека — сообщить о срочной покупке лекарств. Чем лучше злоумышленники понимают круг общения человека, тем правдоподобнее выглядит обман.
Что такое дипфейк и почему о нём говорят всё чаще
Одним из самых заметных явлений последних лет стали дипфейки. Сам термин появился от английских слов deep learning («глубинное обучение») и fake («подделка»). Речь идёт о технологии, которая с помощью искусственного интеллекта позволяет создавать или изменять изображения, видео и аудиозаписи. Фактически нейросеть способна заменить лицо человека, его мимику, жесты и голос таким образом, чтобы создавалась иллюзия подлинности.
Первые эксперименты в этом направлении начались ещё в 1990-х годах. Так, в 1997 году компания Video Rewrite представила технологию, которая позволяла синхронизировать движения губ человека с искусственно созданной аудиодорожкой. Однако широкую известность дипфейки получили значительно позже. Одну из первых успешных подделок, привлёкших внимание общественности, разместили в интернете в 2017 году.
Где цифровые двойники помогают людям
Несмотря на негативную репутацию, сама технология не является вредной. Сегодня её активно используют в киноиндустрии. Цифровые копии актёров позволяют расширять творческие возможности режиссёров и решать сложные производственные задачи.
Кроме того, технологии помогают улучшать качество дубляжа фильмов, создавать рекламные материалы и использовать элементы дополненной реальности в музеях, галереях и культурных пространствах.
Существуют и более необычные идеи применения. Например, создание цифровых копий людей, которые в будущем смогут передавать информацию следующим поколениям.
— Любая технология сама по себе нейтральна. Искусственный интеллект может использоваться для творчества, образования, науки и бизнеса. Мы уже видим множество полезных примеров его применения. Проблема возникает тогда, когда эти инструменты начинают использоваться для обмана, манипуляций или финансовых преступлений. Поэтому важно понимать не только возможности технологий, но и связанные с ними риски, — отмечает специалист.
Когда дипфейки становятся инструментом мошенников
Наибольшую опасность представляют случаи, когда поддельные видео и аудиозаписи используются для манипуляций. Известны ситуации, когда мошенники создавали цифровые копии руководителей компаний. Сотрудники получали видеозвонки или голосовые сообщения с поручением перевести деньги и выполняли указания, считая их распоряжением начальства.
В России также фиксировались случаи распространения фальшивых видеороликов якобы от имени известных предпринимателей. В таких видео людям обещали сверхдоходы и предлагали перейти на мошеннические сайты.
Кроме финансового ущерба, дипфейки могут использоваться для дискредитации людей, распространения ложной информации и подрыва доверия к реальным видеозаписям.
Какие признаки могут выдать поддельное видео
Современные дипфейки становятся всё качественнее, однако некоторые признаки подделки всё ещё можно заметить самостоятельно.
Насторожить должны:
- неестественные движения губ или бровей;
- нерегулярное моргание;
- различия в освещении отдельных частей лица;
- разный оттенок кожи на отдельных участках изображения;
- нечёткие границы лица;
- различия в детализации изображения.
Однако даже внимательный просмотр не всегда помогает выявить подделку.
— Каждый год качество дипфейков растёт. То, что ещё недавно можно было легко определить по визуальным артефактам, постепенно становится практически незаметным. Поэтому пользователям важно не только искать технические признаки подделки, но и критически оценивать саму ситуацию. Если кто-то просит деньги, доступ к данным или срочно требует выполнить необычное действие, такую информацию необходимо дополнительно проверять, — говорит Дмитрий Корнев.
- Forensically — бесплатный набор инструментов для ручного поиска артефактов и следов редактирования.
- Image Edited — бесплатный сервис, анализирующий изображения на пиксельном уровне для выявления цветовых аномалий.
- Ghiro — автоматизированное решение для криминалистического анализа больших массивов изображений.
- Truepic — проверяет цифровую подпись камеры, чтобы подтвердить подлинность фото и видео.
- KaiCatch — использует ИИ для обнаружения микроискажений и аномалий в контенте.
- Microsoft Video Authenticator — оценивает фото и видео, определяя вероятность монтажа.
- Deepware — бесплатный инструмент для анализа видео и выявления подмены лиц.
- InVID & WeVerify — инструмент для фактчекеров и журналистов по всему миру, разработанное для проверки контента (видео и изображения). Он представляет собой расширение для браузера, созданное при поддержке ЕС. Позволяет экономить время и эффективнее выполнять задачи по проверке фактов и опровержению дезинформации в социальных сетях.
- Sensity AI (ранее Deeptrace) — платформа кибербезопасности, специализирующаяся на «визуальной разведке угроз». Система строит пиксельные тепловые карты и покадрово анализирует структурные изменения лица, чтобы поймать микроискажения генеративных нейросетей. Система анализирует контент комплексно, а не по отдельным частям, таким образом повышая точность распознавания подмены.
Также собственную систему выявления дипфейков запатентовал Сбер. Она позволяет анализировать видеоконтент, в том числе ролики с несколькими людьми одновременно, и определять признаки синтетически изменённых изображений.
Почему поддельный голос обнаружить сложнее
Если видеодипфейк ещё можно попытаться распознать визуально, то с аудиоподделками ситуация сложнее. Для создания фальшивого голоса зачастую достаточно обычной аудиозаписи человека. При этом распознать такую подделку на слух бывает крайне трудно.
Учёные предлагают различные методы выявления подобных записей. Один из них основан на анализе особенностей человеческого голосового аппарата — связок, языка, губ и челюстей. Искусственный интеллект не всегда способен точно воспроизвести все нюансы живой речи. Из-за этого в некоторых аудиодипфейках появляются звуки или акустические особенности, которые человек физически не может воспроизвести.
Но для большинства пользователей самым надёжным способом проверки остаётся не анализ записи, а повторный контакт с собеседником через другой канал связи.
Какие правила помогут не стать жертвой обмана
Эксперт считает, что главным инструментом защиты по-прежнему остаётся бдительность самих пользователей.
— Если вам позвонил близкий человек и попросил срочно перевести деньги, не спешите выполнять просьбу. Лучше завершить разговор и связаться с ним самостоятельно через другой номер или другой мессенджер. Несколько минут проверки могут уберечь от серьёзных финансовых потерь. Особенно это касается ситуаций, когда деньги просят отправить на чужой счёт или номер телефона, — подчёркивает директор по информационной безопасности.
Специалист рекомендует соблюдать несколько базовых правил:
- ограничивать доступ к личным фотографиям, видео и аудиозаписям в интернете;
- использовать надёжные пароли и средства защиты аккаунтов;
- осторожно относиться к ссылкам в сообщениях;
- рассказывать родственникам и коллегам о возможностях дипфейков;
- проверять любую информацию о деньгах через дополнительный канал связи;
- задавать собеседнику вопросы, ответы на которые известны только вам двоим;
- регулярно создавать резервные копии важных данных.
— Полностью запретить или остановить развитие технологии дипфейков уже невозможно. Поэтому главной защитой становится информированность. Чем больше люди знают о подобных схемах, тем меньше шансов у мошенников добиться успеха. Сегодня цифровая грамотность становится такой же необходимой частью безопасности, как умение закрывать дверь квартиры или не сообщать посторонним данные банковской карты, — подытожил Дмитрий Корнев.
Технологии меняются, а правила безопасности остаются
Искусственный интеллект открывает новые возможности для бизнеса, творчества и науки. Но одновременно он даёт мошенникам инструменты, которые ещё недавно казались элементом научной фантастики.
Поэтому сегодня уже недостаточно доверять только знакомому голосу или привычному лицу на экране. Если разговор касается денег, личных данных или срочных действий, любую информацию стоит перепроверить. Именно эта привычка остаётся самым эффективным способом защиты от аудиодипфейков, видеоподделок и других видов цифрового мошенничества.
