Оскільки перспектива заборони TikTok у США продовжує зростати, мережа оновила свою політику модерації вмісту. Правила щодо того, який контент можна публікувати та рекламувати, в основному не змінилися, але включають нові обмеження на поширення глибоких фейків штучного інтелекту, які останніми місяцями стають все більш популярними в додатку. http://surl.li/fvcyv
Одне із нововведень містить поняття «синтетичні та маніпульовані засоби масової інформації» — також відомі як дипфейки ШI, які останніми місяцями стають дедалі популярнішими в додатку.
Раніше правила TikTok щодо дипфейків обмежувалися одним рядком із забороною вмісту, який міг «ввести користувачів в оману шляхом спотворення правдивих подій [або] завдати значної шкоди темі відео». Тепер компанія каже, що весь реалістичний створений і відредагований штучним інтелектом контент має бути «чітко розкритий» як такий, або в підписі до відео, або у вигляді накладної наклейки.
TikTok заявляє, що не допускатиме жодних синтетичних засобів масової інформації, «які містять схожість із будь-якою реальною приватною особою» або показують публічну особу, яка схвалює продукт або порушує інші правила додатка (наприклад, його заборони на ворожнечу).
Контент, створений штучним інтелектом, набув популярності у TikTok, головним чином завдяки ширшій доступності інструментів клонування голосу ШІ, які дозволяють легко імітувати чийсь голос. Ці інструменти створили нові піджанри контенту.
Проте є випадки використання інструментів ШІ у більш негативному контексті. Багато фейків зі штучним інтелектом показують тих популярних публічних осіб, які читають оголошують різного гатунку негативні промови, гасла – трансфобні чи гомофобні. Звичайні користувачі часто плутають такий контент із справжнім. Вони поширюють його, створюють інформаційну хвилю, переконують інших у тому що це правда.
Оновлення політики TikTok відбувається в період посилення політичного тиску на материнську компанію ByteDance, оскільки західні уряди висловлюють побоювання щодо збору приватних даних програмою та її потенціалу впливу на громадську думку.