Эра искусственного интеллекта принесла не только полезные чат-боты, но и создала новую угрозу — дипфейки. Эти технологии позволяют генерировать поразительно реалистичные поддельные изображения, видеоролики и аудиозаписи, которые становится все сложнее отличить от подлинных материалов.
Что представляют собой дипфейки
Название «deepfake» образовано от английских терминов «deep learning» (глубокое обучение) и «fake» (подделка). Технология позволяет, к примеру, заменить лицо одного человека на лицо другого в видео или создать аудиозапись, где знаменитость произносит слова, которые никогда не говорила.
Если ранее для создания подобных фальсификаций требовались значительные ресурсы и профессиональные навыки, то сегодня благодаря широкой доступности онлайн-сервисов ИИ практически любой пользователь может изготовить дипфейк.
Области применения дипфейков
Разработчики подобного программного обеспечения обычно позиционируют свои продукты как развлекательные инструменты. Однако в реальности они все активнее используются злоумышленниками:
- Имитация голосов родных — мошенники совершают звонки, сообщают о «несчастном случае» и требуют срочного перевода денег
- Фальшивые видео с участием политических деятелей — для влияния на общественное мнение
- Поддельная реклама с «участием» знаменитостей — когда человек не подозревает об использовании своего образа в рекламе некачественных товаров или откровенного обмана.
Методы выявления дипфейков
На заре технологии распознать подделку можно было по очевидным недостаткам: неестественной мимике, искусственной интонации. Однако с развитием технологий выявление фальсификаций становится все более сложной задачей.
В настоящее время в интернете функционируют специализированные ИИ-платформы для анализа изображений и видеоконтента. Среди наиболее совершенных — Deepfake-o-Meter, созданный лабораторией медиакриминалистики Университета Буффало (США).
Платформа интегрирует 16 систем искусственного интеллекта, которые анализируют загружаемые пользователями фотографии, видео или аудиофайлы и определяют вероятность подделки. Сервис предоставляется бесплатно — после регистрации доступно 30 проверок.
Например, знаменитое изображение Папы Римского Франциска в белом пуховике, созданное в Midjourney, лишь две системы определили как дипфейк с вероятностью свыше 50%. В то время как портрет, сгенерированный в Canva, был идентифицирован как ИИ-изображение в 7 случаях из 16.
На фотографии Папы тень не соответствует оправе очков, а крест на цепочке располагается только с одной стороны (фото: Reddit)
Французский сервис Sightengine демонстрирует более высокую скорость работы и показал 99% вероятности подделки для ИИ-сгенерированного изображения женщины. Однако для фото с Папой результат составил лишь 53%.
Ни одна из программ распознавания Deepfake-o-Meter не смогла достоверно идентифицировать изображение Папы Франциска в белом пуховике как дипфейк (фото: IDG)
Визуальные признаки поддельных изображений: 5 ключевых индикаторов
Даже без специализированного программного обеспечения подделку можно выявить — достаточно внимательного изучения:
- ИИ часто ошибается с количеством или длиной пальцев — они могут быть лишними, укороченными или сращенными
- руки и ноги могут располагаться неестественно или вообще не «принадлежать» персонажу
- неестественный угол падения волос, «пластиковый» внешний вид
- асимметричные пуговицы, деформированные очки, разомкнутые цепочки
- неправильные тени, размытости, искажения
- текст выглядит как нечитаемые паукообразные символы
- на заднем плане часто заметны некорректные тени или нарушения пропорций.
Видеодипфейки практически неотличимы от реальности
С появлением видеогенератора Sora от OpenAI в 2024 году дипфейки достигли нового уровня качества. Сотни реалистичных роликов, созданных этой системой, уже доступны на YouTube. По качеству они часто не уступают профессиональной видеосъемке.
Распознавание таких видео становится все более затруднительным, однако бесплатные онлайн-инструменты по-прежнему существуют. Среди них — Deepware.ai и Hive AI Detector. Первый работает полностью бесплатно, второй в бесплатной версии позволяет анализировать видео продолжительностью до 20 секунд.
При тестировании роликов Sora платформа Deepware показала слабые результаты — не выявила ни одного фейка. В то время как Hive продемонстрировал значительно лучшую эффективность: во всех случаях программа указала 99% вероятность дипфейка.
Характерные признаки поддельных видео
Даже без использования специальных программ некоторые признаки выдают фальшивое видео:
- Размытые или «паукообразные»
