Как распознать дипфейки

Дипфейк (дословно «глубокая подделка»)— технология обработки с помощью искусственного интеллекта контента, которая подменяет лицо и голос человека. Дипфейки все чаще используются для совершения преступлений. Жертву могут подставить в компрометирующем видео или использовать голос в телефонном звонке, чтобы обмануть собеседника и украсть личные данные или деньги.

Для создания дипфейк-видео нужны исходное видео (или фото) человека в хорошем качестве и соответствующее программное обеспечение.

Для подделки голоса - файл-образец и правильное программное обеспечение. Искусственному интеллекту достаточно десятиминутной записи, чтобы воссоздать и синтезировать речь.

Британские криминалисты признали этот вид киберпреступлений одним из самых опасных. Они определили следующие степени преступлений с использованием ИИ:

самые опасные: дипфейки, взлом беспилотных машин и систем под управлением ИИ, подделка новостей и шантаж;

средней опасности: анализ систем безопасности и истории действий в сети для дальнейшей продажи;

наименее опасные: проникновение в дом с помощью управляемых роботов через проемы для животных.

Уже зарегистрировано несколько крупных преступлений. Во всех случаях преступники подделывали голоса начальников компаний и требовали с подчиненных перевести крупные суммы денег на сторонние счета. Так, в 2019-м сотрудник британской энергетической компании получил звонок от начальника, в котором тот поручил вывести 220 000 евро на счет другой компании. Менеджер поверил и отправил средства, насторожившись лишь при повторном звонке «директора», когда тот попросил перевести еще одну сумму. Расследование показало, что преступники воссоздали голос руководителя компании, подделав не только интонации и темп речи, но даже немецкий акцент. («Как воруют деньги с помощью дипфейков и чат-ботов», nic.ru, 21 января 2022).

 Эксперты обсуждают пути и методы защиты от дипфейков. Клэр Моравек в журнале Security Magazine, September 27, 2022 называет следующие признаки дипфейка:

Размытость изображения

Изменение тона кожи

Неровный по качеству контент речи

Коробчатые контуры вокруг черт лица

Ненатуральные движения, жестикуляция

Изменения в освещенности или фона

Отрывистая речь, фрагментарные предложения

Меняющаяся модуляция голоса

Отсутствие складности, последовательности в изложении мыслей.

Специалисты советуют придерживаться метода «нулевого доверия» при использовании электронных, онлайновых коммуникаций, не стесняться задавать дополнительные вопросы, проводить дополнительную верификацию перед принятием важных решений. Например, в процессе найма не ограничиваться дистанционным собеседованием, но осуществлять серьезную бэкграундную проверку.

вернуться назад

© "АМУЛЕТ" 2003 г. Тел/Факс.(495) 614-40-60, 614-41-60, Е-mail:sb@amulet-group.ru