Як відрізнити справжнє фото від діпфейку ШІ та чому це важливо для кожного

Психолог доктор Клер Сазерленд тримає дві великі фотографії. На одній зображено обличчя австралійського науковця, який очолює міжнародне дослідження, інша — це діпфейк, згенерований штучним інтелектом.

Штучний інтелект став настільки вправним у створенні реалістичних зображень, що зрозуміти, що є реальним, а що ні, дедалі важче.

Але чи можна навчити людей розпізнавати зображення людини, яке насправді було створено машиною?

Це питання, яке досліджували Сазерленд з Абердинського університету та її австралійський колега. Але перш ніж ми розкриємо відповідь, спробуйте пройти цей тест і запишіть свій результат.

АІ (Artificial Intelligence) позначені зображення, створені штучним інтелектом.

Зображення із написом Real є справжніми.

Якщо вам було важко впоратися, ви не самотні.

Раніше візуальні образи, створені комп'ютером, які часто використовують шахраї, було набагато легше розпізнати, тому що штучний інтелект допускав помилки, наприклад, додавав зайвий палець чи щось інше, що було явно дивним.

Але штучний інтелект вчиться на своїх помилках.

"Штучний інтелект стає занадто досконалим, і шахраї можуть уникати використання зображень з очевидними недоліками", – пояснила професор Емі Давел.

Вона – це та жінка з волоссям до плечей на зображенні, яке тримає Сазерленд. Зображення чоловіка – це підробка. Давел є директором Лабораторії емоцій та облич Австралійського національного університету.

Вона очолює команду дослідників в Австралії, Канаді та Великій Британії, щоб з'ясувати, чи можна навчити людей розпізнавати фейки, створеними штучним інтелектом. Відповідь, принаймні поки що, ствердна, але навчитися розпізнавати підробку штучного інтелекту вимагає більш тонкого підходу.

Чуйка на підробку

Сазерленд керує дослідженням, що проводиться в Університеті Абердіна (Велика Британія).

За її словами, вони помітили, що вже можуть інтуїтивно розрізняти справжні обличчя та ті, що створені штучним інтелектом, просто дивлячись на них.

"Тож ми подумали: було б справді цікаво дізнатися, чи зможемо ми навчити цього й інших людей", — зазначила вона.

Для проведення експериментів було створено масив із тисяч зображень облич за допомогою інструмента StyleGAN3 — одного з найреалістичніших генераторів зображень на основі штучного інтелекту.

Учасники проходили тестування до та після навчання.

На що треба звертати увагу?

Дослідники навчали учасників експериментів звертати увагу на шість характеристик сприйняття:

Симетрія — ШІ часто не вдається відтворити ті особливості, що роблять нас людьми, як-от ледь опущена повіка чи асиметрична усмішка. "Якщо щось виглядає надто ідеальним, щоб бути правдою, — найімовірніше, це неправда".

Пропорційність — схожий критерій. Дуже великі носи чи клаповухість не є характерними для зображень, створених за допомогою технології діпфейк.

Привабливість — "Обличчя, згенеровані ШІ, зазвичай виглядають привабливішими, — пояснює Сазерленд. — Це більш суб'єктивний, естетичний аспект, але ШІ часто створює приємні на вигляд обличчя".

Відмінність (у сенсі унікальності) — "Йдеться про те, що саме вирізняє обличчя в натовпі. Обличчя від ШІ схильні наближатися до усереднених параметрів, тому вони виглядають дещо типовими, без яскравої індивідуальності".

Емоційність — "Обличчя від ШІ зазвичай виглядають менш емоційно виразними, — каже Сазерленд. — Вони демонструють менше емоцій".

Запам'ятовуваність — обличчя, створені ШІ "часто менше врізаються в пам'ять — їх важко запам'ятати".

Штучний інтелект також зазвичай гірше відтворює обличчя людей, що не належать до білої раси, а також обличчя літніх людей чи дітей, оскільки значна частина даних, на яких він навчається, стосується молодих білих людей.

Деякі з цих порад можуть здаватися схожими й дещо розмитими, але саме в цьому й полягає суть.

Рідко можна натрапити на безпомилкову ознаку, що одразу викриє підробку, створену штучним інтелектом. Натомість ідеться про те, щоб навчитися розпізнавати характерні риси таких зображень і розвинути відповідну інтуїцію.

Дослідники виявили, що якщо показувати людям зображення (як створені ШІ, так і справжні), а потім повідомляти, де яке, їхня здатність розрізняти їх значно покращується — навіть за такий короткий час, як одна година.

З'ясувалося, що учасники зазвичай підвищували точність розпізнавання приблизно з 40% до 80%.

Декому вдавалося досягти майже 100-відсоткової точності.

За іронією долі, те, що робить людський мозок при розпізнаванні зображень, схоже на те, як працюють генеративні моделі ШІ. Дайте їм достатньо даних для навчання, і з часом їхня точність покращиться, навіть якщо ми можемо не до кінця розуміти, як вони це роблять.

Дослідження також розглядали, наскільки впевнено учасники розпізнавали зображення ШІ. Попередні дослідження вказували на те, що люди були надмірно впевнені в тому, що можуть розпізнавати обличчя ШІ, причому найвпевненіші люди робили найбільше помилок.

Після навчання дослідники виявили, що учасники збільшили свою впевненість у розпізнаванні діпфейків.

"Це корисно, - каже Сазерленд. - Тому що якщо ви не знаєте, коли ви маєте рацію чи ні, ви насправді нічого не можете зробити з цією інформацією".

Добре, тож ви готові пройти ще один тест?

Як ви впоралися?

Відчуваєте себе впевненіше?

Якщо відповідь негативна, не картайте себе. Як у світі людей, так і у світі генеративного штучного інтелекту, практика веде до досконалості – або принаймні трохи наближає її до досконалості.

Існує багато вебсайтів, де, за бажанням, ви можете вдосконалити свої навички.

Чому важливо навчитися розпізнавати підробки, створені штучним інтелектом?

Очевидна небезпека полягає в шахрайстві.

Глобальна консалтингова фірма Deloitte прогнозує, що втрати від шахрайства з використанням штучного інтелекту лише в США можуть зрости до понад 50 мільярдів доларів наступного року, порівняно з 16 мільярдами доларів у 2023 році.

У звіті наведено приклад шахрайства, коли співробітник гонконгської фірми перерахував шахраям 25 мільйонів фунтів стерлінгів після відеодзвінка з відтворенням свого начальника в дипфейковому форматі.

Ще одним зловісним використанням технології дипфейків є політичне шпигунство. Ще у 2019 році розслідування Associated Press виявило, що профіль у LinkedIn, включаючи фотографію, що належить жінці на ім'я Кеті Джонс, може бути вигаданим. Джонс видавала себе за спеціаліста з Росії та Євразії, яка має зв'язки з відомими вашингтонськими аналітичними центрами та політичними колами. У звіті AP стверджувалося, що вона насправді була дипфейком, створеним російською розвідкою, яка успішно зв'язалася з високопоставленими політичними помічниками США та посадовцями національної безпеки.

В Австралії один політик пропонує вимагати, аби політичний контент, створений штучним інтелектом, обов'язково розкривали та позначали "водяним знаком".

Справедливості заради треба сказати, що науковці, серед яких і Сазерленд, також бачать деякі позитивні аспекти використання цієї технології, такі як можливість швидко та дешево показати, як може виглядати давно зникла дитина в різному віці.

Вона каже, що якщо люди "займаються цим сумлінно та знають, що штучний інтелект використовувався, це потенційно може бути дуже корисним для творчих професій".

Тож гарна новина полягає в тому, що ми ще не живемо в антиутопічному світі, де неможливо відрізнити, що реальне, а що згенероване комп'ютером.

Погана новина полягає в тому, що моделі штучного інтелекту, можливо, вже "прочитали" опубліковані академічні дослідницькі роботи. І вчаться далі.