Технологію поки що не почали застосовувати на згенерованих користувачами записах, але в майбутньому це може стати звичайною практикою.
Meta створила систему AudioSeal, яка може інтегрувати приховані (вотермарки) в аудіозаписи, які були створені за допомогою штучного інтелекту. Очікується, що технологія в майбутньому зможе допомогти зупинити поширення інструментів для клонування голосу, виявляти підроблені аудіозаписи та просто згенерований нейронками контент.
AudioSeal безкоштовно можна безкоштовно завантажити з GitHub, щоб поекспериментувати. Інструмент використувує два штучних інтелекти. Перший генерує спеціальні сигнали водяних знаків, які вбудовуються в аудіодоріжки та невиразні для людського вуха, але можуть бути виявлені другим ші. На відміну від наявних методів, AudioSeal вбудовує водяний знак по всій довжині аудіодоріжки, роблячи його “локалізованим”, його можна виявити навіть після обрізання, редагування або видалення фрагментів аудіофайлу.
Аудіофейки часто використовуються шахраями для комерційного шпигунства і розкрадання великих сум. Якісно згенероване голосове повідомлення важко відрізнити від мови живої людини, через що страждають навіть банки.
Проте технологію впроваджувати поки що не планують. Частково це пояснюється відсутністю єдиного галузевого стандарту і тим, що водяні знаки зазвичай легко підробити або видалити.
Є й інша проблема: що більше інформації розкривається про алгоритм водяного знака, то вразливішим він стає. Отже, потрібно буде або встановлювати монополію на розпізнавання (тоді тільки Meta зможе перевірити, чи згенерований аудіоконтент штучним інтелектом), або шукати спосіб приховати метод виявлення згенерованих ШІ аудіозаписів.
Крім того, технологія передбачає добровільність інтеграції водяних знаків в аудіофайли. Якщо користувач не хоче їх додавати – вотермарка в записі не буде. Тож поки що про гучні перемоги над фейками говорити рано. Але надії на це вже з’явилися.
