Facebook анонсував конкурс з розробки технології, яка розпізнає діпфейки. Deepfake Detection Challenge («Челлендж за визначенням дипфейков»), що отримав призовий фонд в 10 мільйонів доларів, запуститься в грудні, повідомляє Tjournal з посиланням на блог компанії.
Для учасників конкурсу компанія випустить публічну базу даних відео з особами акторів, яких найме спеціально для цієї мети. Facebook пообіцяв не використовувати особисті дані користувачів соцмережі.
Facebook надасть гранти і нагороди переможцям конкурсу, які «допоможуть індустрії визначати і запобігати поширення відео, створених за допомогою штучного інтелекту і які використовуються для введення користувачів в оману». Конкурс триватиме до березня 2020 року. Переможця оберуть за допомогою «механізму, який оцінить і порівняє ефективність алгоритмів різних команд».
Контекст
- Facebook, поряд з великими мессенджерами, піддається критиці, в тому числі урядами різних країн, через незадовільний контроль за поширенням фейкової інформації.
- У квітні аналітики повідомили про очікування зниження прибутку інтернет-гіганта. Прогнози підтвердилися: як у тому ж місяці відзначав «Комерсант» прибуток компанії за перший квартал 2019 року склав $2,43 млрд (85 центів за акцію), що на 51% менше, ніж роком раніше. За даними видання, в 2018 році скандал з витоком персональних даних 87 мільйонів користувачів на прибутковості Facebook не позначився.
- У травні компанія Facebook заявила, що не буде видаляти з Instagram відео, в якому глава компанії Марк Цукерберг нібито говорить, що його компанія досягла успіху завдяки допомозі якоїсь секретної організації. Відеоролик був створений за допомогою дипфейк-технології.
Подібний дипфейк-додаток набирає популярності в Китаї. В кінці серпня у країні запустили додаток Zao, що дозволяє за допомогою лише одного фото (при бажанні – серії фото) підставити своє обличчя у відео. На відміну від сервісу DeepFake, де нейромережу треба було навчати на десятках знімків протягом декількох годин, в Zao весь процес займає лічені секунди, повідомляє Tjournal.
Додаток швидко пробився в лідери у App Store Китаю, але в той же час викликав занепокоєння в соцмережах.
Поки Zao працює тільки для китайських користувачів, але в Твіттері з’явилося кілька прикладів роботи технології. Розробник Аллан Хіа, наприклад, продемонстрував, наскільки легко замінити особу Леонардо Ді Капріо іншим. Обробка відео, за його словами, зайняла приблизно вісім секунд .
Результат не завжди виходить «на 100% точним», але, в цілому, додаток для своєї швидкості обробки справляється добре, зазначив розробник. При бажанні можна замінити взагалі всіх персонажів на відео – так він вчинив із уривком з «Ігри Престолів». Також технологія працює з відеоіграми.
При цьому в Zao не можна підставити своє обличчя абсолютно в будь-якому відео – необхідно відібрати ролики з бібліотеки, яка вже існує. За словами користувачів, вона досить велика і включає в себе фільми, серіали, ТВ-шоу, кліпи і катсцени з ігор. Швидше за все, розробники просто добре натренували алгоритм саме на цих роликах, тому технологія видає непогані результати.
Незважаючи на існуючі обмеження, розробник пофантазував про те, як може розвинутися технологія: ти граєш ролі у фільмах, стримери проходять ігри за «себе».
«Якщо Pornhub ще не працює над реалізацією чогось подібного, то їм точно варто обговорити це», – додав він.
У той же час Аллан підкреслив і «моральну сторону питання».
«Я бачу дуже багато варіантів, при яких технологія може повернути не туди», – написав один із коментаторів в Twitter.
Зараз в світі активно розвиваються діпфейк-технології з використанням нейромереж. В інтернеті все частіше публікуються результати експериментів, коли в уривках відомих фільмів замінюють одних акторів іншими, як це сталося з Брюсом Лі і Кіану Рівзом в червні.
У тому ж місяці автори з YouTube-каналу Corridor Digital випустили ролик з тим же Кіану Рівзом, що зупиняє озброєне пограбування. Особу Рівза наклали на схожого каскадера, відпрацювавши алгоритм за допомогою нейромереж.
Сабіна Мусіна. За матеріалами партнерського ресурсу Factcheck.kz