- Специальный корреспондент
В начале 2024 года в России появилась новая схема атак на людей — в ней злоумышленники вымогают деньги голосами родственников и друзей, а в корпоративных фродах — голосами руководителей.
Генерация голоса уже замечена в схеме Fake Boss, схеме с поддельным фото банковской карты и схеме угона аккаунта в соцсетях. Больше всего случаев встречается в Телеграме — мошенники взламывают аккаунт, генерируют голос владельца аккаунта и рассылают по всем чатам короткое голосовое сообщение с просьбой выслать денег.
Мы разобрали новую схему по шагам — на примерах рассказываем об атаке на людей, а в конце даем советы, как защитить аккаунты и противостоять новой схеме.
Как мошенники входят в доверие через голоса друзей, родственников и коллег
Дипвойс-фишинг — атака на людей, в которой с помощью поддельного голоса у жертвы вымогают деньги или конфиденциальную информацию.У схемы дипвойс в контексте обычных людей жертвами становятся оба — тот, кто получает голосовые сообщения, и тот, от чьего имени они приходят. Чаще всего такие атаки проводят в Ватсапе, ВК и Телеграме, последний — самая популярная площадка. За последний месяц центр мониторинга внешних цифровых угроз «Солар» более 500 новых доменных имен, созвучных с Телеграмом. Давайте рассмотрим схему по шагам на примере этого мессенджера:
Как атакуют людей с помощью голосовых сообщений в Телеграме
1. Взлом аккаунта
С помощью социальной инженерии злоумышленники получают данные учетной записи пользователя — через фейковые голосования, волна которых наблюдалась в конце 2023 года, и фейковую подписку Телеграм Премиум.2. Сбор материала
После входа в аккаунт злоумышленники скачивают голосовые сообщения. Если их недостаточно, хакеры собирают образцы из соцсетей.3. Генерация голоса
Раньше голосовые сообщения нарезали из ограниченного количества записей, которые были у мошенников. Теперь ИИ-инструментам достаточно нескольких образцов, чтобы создать правдоподобную речь в потоке.Мошенники используют голос двумя способами:
- Делают запись заранее, чтобы включить ее на звонке и бросить трубку до момента, как человек начнет задавать вопросы. В Телеграме мошенники создают новые сообщения с просьбой занять денег и несколько голосовых сообщений для отработки возражений с посылом «Да это же я, ну хочешь, на вопрос какой-нибудь отвечу?».
- Создают модель, которая обрабатывает голос в реальном времени. Нейронные сети изучают особенности речи, интонации, скорости произношения и другие характеристики, чтобы создать достоверный голосовой образ.
4. Генерация фото банковской карты
С помощью OSINT — разведки по открытым источникам — мошенники ищут данные паспорта жертвы и генерируют фото карточки известного банка с именем и фамилией отправителя. Фото создает специальный Телеграм-бот — такая схема, но без голосовых сообщений, стала летом 2023 года. Номер, указанный на карте, привязан к счету мошенника в другом банке, как правило, малоизвестном.5. Атака
Мошенники используют голосовые сообщения по-разному: одни отправляют его в начале переписки, чтобы сразу вызвать реакцию, другие — по ходу разговора, когда получатель больше всего сомневается в правдоподобности происходящего.Во втором случае мошенники сначала втираются в доверие и начинают диалог с текстовых сообщений — могут продолжить начатый диалог или поднять старую тему, которую обнаруживают в переписке. Когда интерес подогрет, рассылается поддельное голосовое сообщение в личной переписке и во всех чатах, где состоит владелец аккаунта.
Жертва осознает о мошенничестве уже после того, как перевела деньги и связалась с владельцем аккаунта
Вот несколько примеров успешных атак через голосовые сообщения с начала года:
Кто | Сколько денег отдал мошенникам | На чей голос среагировал | В какой форме проходила атака |
275 тысяч рублей | Бабушка | Телефонный звонок | |
100 тысяч рублей | Муж сестры | Голосовое сообщение в Телеграме | |
40 тысяч рублей | Подруга | Голосовое сообщение в Телеграме | |
100 тысяч рублей | Соседка | Голосовое сообщение (мессенджер не назван) |
В атаках на сотрудников сочетаются несколько каналов связи: электронное письмо, текстовое сообщение в мессенджере и аудиосообщение. Мошенник под видом топ-менеджера или партнера отправляет жертве электронное письмо о заключении важного контракта, который нужно оплатить до конца дня. После этого злоумышленник генерирует фразу «Деньги нужны уже сейчас, не затягивайте нам сделку!» — этим он давит на срочность и подчеркивает авторитет.
Быть успешным мошенником стало проще
Мошенники не становятся умнее и виртуознее, а вот технологии — становятся. Голосовые нейросети пока плохо различают нейтральные и противоправные запросы в части фишинга, это делает их уязвимыми перед запросами злоумышленников. ИИ не может выдать ошибку, когда его просят сгенерировать фразу «Мама, скинь денег на эту карту», потому что сама по себе эта фраза безобидная и не подпадает под ограничения.С текстовыми нейросетями ситуация чуть лучше. Если сразу попросить ИИ написать фишинговое письмо — он этого не сделает.
ChatGPT отказывается писать фишинговое письмо
Но стоит поискать слабые места в ограничениях, убрать ключевые фразы — и вуаля — ChatGPT готов содействовать мошенникам:
ChatGPT поступился принципами
В начале 2024 года OpenAI и Microsoft учетные записи, связанные с хакерскими группами Charcoal Typhoon, Salmon Typhoon, Crimson Sandstorm, Emerald Sleet и Forest Blizzard, согласно отчетам обеих компаний.
Хакеры использовали языковые модели OpenAI для поиска инструментов по кибербезопасности, разведывательной деятельности и создания контента для фишинговых атак. Обе компании заявили, что хотят улучшить свои методы борьбы с хакерскими группами. Для этого они будут инвестировать в технологии мониторинга, сотрудничать с другими ИИ-компаниями и повышать прозрачность в отношении возможных проблем безопасности, связанных с ИИ.
Как защититься от атак с поддельным голосом
Вот что обычно рекомендуют делать, чтобы не стать жертвой мошенников:- удалять голосовые сообщения сразу после прослушивания;
- установить автоудаление всей переписки;
- не выкладывать в сеть видео с голосом;
- прислушиваться к шумам на записи и неестественным интонациям;
- придумать с близкими секретный пароль для таких случаев.
В тех примерах, которыми жертвы поделились в СМИ, видны совсем короткие голосовые записи — до 10 секунд. В коротких записях гораздо меньше погрешностей на тембр, интонацию и особенности речи, в длинных же записях больше шансов не попасть в исходный голос. Кажется, что логичным в этом случае было бы попросить прислать длинное голосовое сообщение, но под влиянием ситуации жертва не вспомнит о такой опции, к тому же не захочет показаться бестактной, когда человек просит о помощи.
Вот что предлагаем мы:
- свяжитесь с отправителем сообщения по альтернативному каналу связи. Если человек не может принять аудио/видеозвонок, напишите в другом мессенджере, отправьте СМС или свяжитесь через общих знакомых или коллег.
- не бойтесь упустить время. Неважно, получили вы голосовое сообщение с просьбой отправить деньги на работе или от близких, лишние 10–20 минут на верификацию не приведут к катастрофе. Лучше взять паузу и перестраховаться.
- сделайте свои соцсети приватными. Да, часть данных о вас уже в сети, но вы можете ограничить доступ к образцам вашего голоса и к списку друзей через настройки приватности в соцсетях.
- виды, цели и угрозы, которые представляют дипфейки;
- методы дипфейк-фишинга;
- способы обнаружения дипфейков на видео и аудио;
- правила защиты от этого вида мошенничества.
