Ера штучного інтелекту принесла не лише корисні чат-боти, але й створила нову загрозу — дипфейки. Ці технології дозволяють генерувати вражаюче реалістичні підроблені зображення, відеоролики та аудіозаписи, які стають все складнішими для розпізнавання від справжніх матеріалів.
Що таке дипфейки
Назва “deepfake” походить від англійських термінів “deep learning” (глибоке навчання) і “fake” (підробка). Технологія дозволяє, наприклад, замінити обличчя одного людини на обличчя іншого у відео або створити аудіозапис, де знаменитість вимовляє слова, яких вона ніколи не казала.
Якщо раніше для створення подібних фальсифікацій вимагалися значні ресурси та професійні навички, то сьогодні завдяки широкій доступності онлайн-сервісів ШІ практично будь-який користувач може виготовити дипфейк.
Сфери застосування дипфейків
Розробники подібного програмного забезпечення зазвичай позиціонують свої продукти як розважальні інструменти. Проте насправді вони все активніше використовуються злочинцями:
- Імітація голосів родичів — шахраї телефонують, повідомляють про “нещасний випадок” і вимагають термінового переказу грошей
- Підроблені відео за участю політичних діячів — для впливу на громадську думку
- Фальшива реклама з “участю” знаменитостей — коли людина не підозрює про використання свого образу в рекламі неякісних товарів або відвертого обману.
Методи виявлення дипфейків
На зорі технології розпізнати підробку можна було за очевидними недоліками: неестественною мімікою, штучною інтонацією. Проте з розвитком технологій виявлення фальсифікацій стає все більш складним завданням.
На сьогодні в Інтернеті функціонують спеціалізовані ШІ-платформи для аналізу зображень і відеоконтенту. Серед найсучасніших — Deepfake-o-Meter, створений лабораторією медіакриміналістики Університету Баффало (США).
Платформа інтегрує 16 систем штучного інтелекту, які аналізують завантажені користувачами фотографії, відео або аудіофайли і визначають ймовірність підробки. Сервіс надається безкоштовно — після реєстрації доступно 30 перевірок.
Наприклад, відоме зображення Папи Римського Франциска в білому пуховику, створене в Midjourney, лише дві системи визначили як дипфейк з імовірністю понад 50%. В той час як портрет, згенерований у Canva, був ідентифікований як ШІ-зображення в 7 випадках з 16.
На фотографії Папи тінь не відповідає оправі окулярів, а хрест на ланцюжку розташований лише з одного боку (фото: Reddit)
Французький сервіс Sightengine демонструє вищу швидкість роботи і показав 99% ймовірності підробки для ШІ-згенерованого зображення жінки. Проте для фото з Папою результат склав лише 53%.
Жодна з програм для розпізнавання Deepfake-o-Meter не змогла достовірно ідентифікувати зображення Папи Франциска в білому пуховику як дипфейк (фото: IDG)
Візуальні ознаки підроблених зображень: 5 ключових індикаторів
Навіть без спеціалізованого програмного забезпечення підробку можна виявити — досить уважного вивчення:
- ШІ часто помиляється з кількістю або довжиною пальців — вони можуть бути зайвими, короткими або зрощеними
- Руки та ноги можуть розташовуватися неестественно або взагалі не “належати” персонажу
- Неестественний кут падіння волосся, “пластиковий” зовнішній вигляд
- Асиметричні ґудзики, деформовані окуляри, розімкнуті ланцюжки
- Неправильні тіні, розмитості, спотворення
- Текст виглядає як нерозбірливі павукоподібні символи
- На задньому плані часто помітні некоректні тіні або порушення пропорцій.
Відеодипфейки практично не відрізняються від реальності
З появою відеогенератора Sora від OpenAI у 2024 році дипфейки досягли нового рівня якості. Сотні реалістичних роликів, створених цією системою, вже доступні на YouTube. По якості вони часто не поступаються професійній відеозйомці.
Розпізнавання таких відео стає все більш складним, однак безкоштовні онлайн-інструменти все ще існують. Серед них — Deepware.ai та Hive AI Detector. Перший працює повністю безкоштовно, другий у безкоштовній версії дозволяє аналізувати відео тривалістю до 20 секунд.
При тестуванні роликів Sora платформа Deepware показала слабкі результати — не виявила жодного фейка. В той час як Hive продемонстрував значно кращу ефективність: в усіх випадках програма вказала 99% ймовірності дипфейка.
Характерні ознаки підроблених відео
Навіть без використання спеціальних програм деякі ознаки видають фальшиве відео:
- Розмиті або “павукоподібні” елементи, що викликають відчуття нерівного руху чи спотворення
- Неузгодженість звуку та зображення
- Перекриття облич або тіл, що викликає дивні візуальні ефекти
- Неправильно відчуття простору та глибини
