Дипфейки та синтетичні медіа: як розуміти, перевіряти й куди звертатися.

Роль асоціації

Національна асоціація кібербезпеки України є платформою співпраці та об'єднанням експертів і учасників ринку. У цьому напрямі вона розвиває методичні рекомендації, дослідження та партнерські ініціативи проти синтетичної дезінформації.

Основою є державно-приватна співпраця: обмін досвідом між державними органами, платформами, медіа, бізнесом і дослідниками, щоб поширювані підходи до перевірки були прозорими та зрозумілими. Формального договору державно-приватного партнерства немає.

Асоціація не перевіряє окремих матеріалів, не веде лабораторії чи сервісу виявлення підробок і не допомагає видаляти контент. Власного дослідницького звіту наразі не існує: ця сторінка є освітнім матеріалом із джерелами. Експертну групу за цим напрямом лише планується створити.

Що таке дипфейк

Дипфейк (також «діпфейк», англ. deepfake) — це синтетичний аудіовізуальний матеріал або фотореалістичне зображення, створене за допомогою штучного інтелекту (ШІ). Сучасні мультимодальні моделі вміють створювати і такий контент, і дезінформаційні тексти ¹.

Найчастіше йдеться про підміну обличчя, синтетичне відео, клонований голос і згенероване зображення. Окремо варто пам'ятати про відредаговані справжні матеріали: вони не потребують ШІ, але вводять в оману так само.

Чому це важливо. За оцінкою NIST, дезінформація може підривати довіру до справжніх доказів, а генеративний ШІ допомагає створювати шахрайський контент, що видає себе за іншу людину ¹. ENISA повідомляє про використання ШІ у вішингу та шахрайствах з підміною особи, зокрема через дипфейки ².

Як оцінювати підозріле відео, голосове повідомлення чи дзвінок

Практичний порядок такий: що саме від вас просять, звідки це взялося, у якому контексті з'явилося, чи є незалежне підтвердження, і лише наприкінці інструменти. Перше запитання часто вирішує все, бо шахрайству потрібна ваша дія, а не ваша віра.

Зорові «ознаки підробки» — слабкий доказ. Український Центр протидії дезінформації зазначає, що спростувати частину відео, створених ШІ, неможливо без додаткових засобів перевірки ³. ФБР серед ознак називає «непомітні недоліки» зображення ⁴, але це підказка, а не тест.

Що детектори можуть сказати, а що ні

На тесті з реальними дипфейками 2024 року, що ходили мережею, детектори з відкритим кодом втратили близько 50% AUC на відео, 48% на аудіо та 45% на зображеннях порівняно з попередніми тестами. Комерційні та донавчені моделі виявилися кращими, але не досягли рівня аналітиків-криміналістів ⁵.

Організація WITNESS називає типові проблеми інструментів виявлення: хибні спрацювання, труднощі з різними мовами, мінлива точність. Вона радить відкрито розповідати, як ви дійшли висновку ⁶.

Принцип, на якому асоціація будує свої рекомендації: жоден детектор не може оголосити матеріал «підробкою» чи «справжнім». Якщо результат інструмента наводять, то разом із назвою й версією інструмента, датою, рівнем упевненості та обмеженнями.

Походження матеріалу й позначки

Коаліція C2PA розробляє технічні стандарти, що дають змогу засвідчувати джерело й історію змін медіа (їхнє походження). Сайт специфікації наводить версії до 2.4 та інформаційні документи про безпеку, шкоду й настанови для ШІ ⁷. Технологію називають Content Credentials (C2PA); українською її можна передати як «відомості про походження контенту».

Платформи теж вимагають позначок. TikTok вимагає позначати реалістичний контент, створений або суттєво змінений ШІ ⁸. YouTube під час розгляду скарг на приватність враховує, чи розкрито синтетичну природу матеріалу ⁹.

Позначка показує, що заявив автор чи платформа. Це один із сигналів, а не вердикт. Те саме стосується й повідомлень про походження: вони допомагають тоді, коли вони є, але самі по собі не вирішують питання.

Якщо підробка стосується вас чи вашої компанії: що радять платформи й органи

1. 1Збережіть: посилання, скриншоти, дату й час, ім'я акаунта. Нічого не видаляйте.
2. 2Не поширюйте підробку, навіть щоб її спростувати.
3. 3Повідомте платформу.
4. 4Повідомте уповноважені органи.
5. 5Попередьте своїх людей: колег, родину, партнерів.

YouTube приймає скарги на змінене або синтетичне зображення чи голос, але подавати їх має сама людина, яку це стосується (є обмежені винятки). Потрібні посилання, часові позначки та пояснення, чим ви вирізняєтеся на відео ⁹. Telegram має кнопку «Поскаржитися» для публічного вмісту та адресу abuse@telegram.org для листів про видалення (додайте посилання t.me); про шахраїв, які видають себе за вас, радить писати до @NoToScam, а приватні чати й групи компанія не опрацьовує ¹⁰.

Якщо йдеться про інтимні зображення, зокрема створені ШІ, дорослі можуть скористатися StopNCII: відбиток зображення створюється на вашому пристрої, саме зображення нікуди не завантажується, а працює це лише з платформами-учасниками ¹¹. Згенеровані зображення входять до визначення сервісу ¹². Якщо на зображенні людина була молодшою за 18 років, є сервіс Take It Down від NCMEC ¹³.

В Україні Кіберполіція має форму повідомлення про інцидент на своєму сайті для фішингу та шкідливого програмного забезпечення, а для інших випадків окрему сторінку подання заяв ¹⁴. Організація може звернутися до CERT-UA, який працює з технічними даними й не є каральним органом ¹⁵.

Дзвінки й клонований голос

ФБР описує шахрайства, у яких клонований голос видає себе за родича в біді, а відеодзвінки в реальному часі за керівника чи посадовця. Поради: домовтеся з близькими про кодове слово, покладіть слухавку й передзвоніть на номер, який знайшли самі, обмежте кількість публічних записів свого голосу й зображень ⁴.

Федеральна торгова комісія США додає: знайомий голос ще не доказ, а прохання про банківський переказ чи подарункові картки — тривожний сигнал ¹⁶.

Для журналістів і фактчекерів

Базова послідовність дій: перше джерело й перше завантаження, метадані, контекст, незалежне підтвердження, результат інструмента з обмеженнями, і лише потім позначений висновок. Це спирається на рекомендацію прозоро описувати хід перевірки ⁶ та на дані про нестабільність детекторів ⁵.

Асоціація не публікує приватних зображень чи голосів без правової підстави й згоди. Вона не веде бібліотеки випадків, лабораторії чи сервісу перевірки: завантажити сюди матеріал для перевірки не можна.