Ваш голос вам більше не належить. ШІ створив новий ринок цифрових двійників - Віталій Кіро

Ще кілька років тому вислів "вкрасти голос" звучав радше як метафора. Сьогодні для цього достатньо кількох хвилин запису, доступу до нейромережі та мінімальних технічних навичок.

Саме тому історія японського актора озвучування Кенджіро Цуди цікава далеко не лише шанувальникам аніме.

Цуда має один із найбільш упізнаваних голосів у Японії. Його знають за "Магічною битвою", Yu-Gi-Oh! та іншими популярними проєктами. Але кілька місяців тому його голос почав жити окремим від нього життям.

У TikTok з'явився акаунт, який публікував ролики про міські легенди, окультизм і теорії змови. У них використовувався голос, згенерований за допомогою штучного інтелекту і схожий на голос Цуди. Сам актор цих текстів ніколи не читав і жодного стосунку до акаунта не мав.

Це не завадило сторінці набрати понад 200 тисяч підписників. За оцінкою, яку наводить AFP, такий акаунт міг приносити власнику до 500 тисяч єн, приблизно 3200 доларів на місяць.

Вийшла досить дивна, але дуже сучасна бізнес-модель. Одна людина десятиліттями будує кар'єру, працює над голосом і стає впізнаваною. Інша бере цю впізнаваність, завантажує зразки в нейромережу і починає заробляти.

Найцікавіше, що класичної крадіжки тут начебто не відбувається. Ніхто не викрав студійний запис актора і не виклав піратську копію фільму. Нейромережа створила нові аудіозаписи з фразами, яких Цуда ніколи не вимовляв.

Саме тому розібратися з такими випадками в межах чинного законодавства виявилося непросто.

Вкрасти людину, не вкравши її контент

Останні кілька років про deepfake говорили переважно в контексті відео. Політик нібито робить заяву, якої ніколи не робив. Знаменитість з'являється в рекламі сумнівного продукту. Керівник компанії раптом виходить на відеозв'язок зі співробітниками.

З голосом ситуація може виявитися ще складнішою.

Людський голос досі сприймається нами як досить надійний ідентифікатор. Повідомлення від директора компанії може викликати підозру. Дзвінок, під час якого співробітник чує добре знайомий голос керівника, психологічно сприймається зовсім інакше.

Технологічний бар'єр для таких маніпуляцій при цьому швидко знижується.

Раніше для якісної імітації був потрібен актор, здатний копіювати голос. Потім з'явилися складні програмні рішення. Зараз існують моделі, яким достатньо відносно невеликої кількості вихідного аудіо.

Для публічної людини знайти його взагалі не проблема.

Інтерв'ю, подкасти, виступи на конференціях, YouTube, TikTok, телевізійні ефіри. Що відоміша людина, то більше матеріалу для створення її цифрової копії вже є у відкритому доступі.

Виникає цікавий парадокс. Публічність завжди була активом. Тепер вона одночасно стає вразливістю.

Кому належить голос

З авторським правом усе більш-менш зрозуміло. Є фотографія, музична композиція, фільм або текст. У них є автори та правовласники.

З людським голосом ситуація набагато складніша.

Людина не володіє авторськими правами на власний тембр так само, як музикант володіє правами на конкретний запис.

Саме на цій межі й працюють сучасні технології клонування.

Можна не використовувати жодної секунди оригінального запису в кінцевому продукті. Нейромережа генерує абсолютно новий аудіофайл і змушує синтетичний голос вимовляти слова, яких реальна людина ніколи не говорила.

Водночас комерційна цінність такого файлу виникає саме тому, що аудиторія впізнає конкретну людину.

У цьому й полягав принциповий момент спору Цуди з TikTok.

Платформа стверджувала, що йдеться про "типовий чоловічий голос", а схожість із голосом актора має суб'єктивний характер.

Для юристів це спір про ідентифікацію. Для індустрії штучного інтелекту — питання набагато ширше.

Де проходить межа, після якої синтетична копія стає копією конкретної людини?

30 вересня Токійський окружний суд зробив важливий крок до відповіді на це питання.

Вимогу Цуди видалити публікації було відхилено, оскільки на момент розгляду справи спірний акаунт і відповідні матеріали вже зникли з платформи. Однак набагато цікавіше інше: суд визнав, що людський голос у принципі може підпадати під захист права на публічний образ.

Для індустрії це важливий сигнал.

Ми поступово підходимо до необхідності юридично визначити нову категорію цифрової власності. Йдеться вже не про твори, створені людиною, а про характеристики самої людини, які технології навчилися відтворювати.

Голос, обличчя, міміка, манера розмови, характерні вислови, стиль письма.

Сьогодні ми обговорюємо кожен із цих елементів окремо. За кілька років нейромережа зможе об'єднувати їх у повноцінного цифрового двійника.

Тоді питання про те, кому належить голос, здаватиметься досить вузьким.

Набагато важливішим буде інше: кому належить цифрова особистість людини?

Це стосується не лише акторів

Історію Цуди легко сприйняти як проблему знаменитостей. Актори, співаки та блогери мають упізнавані голоси й обличчя, тому їм доводиться захищати їх від копіювання.

Але корпоративний сектор зіткнеться з тією самою проблемою.

Уявімо генерального директора великої компанії, який регулярно дає інтерв'ю та виступає на конференціях. В інтернеті легко знайти кілька годин записів його голосу.

Цього вже достатньо для створення переконливої голосової моделі.

Після цього фінансовому директору компанії телефонує "CEO" і просить терміново провести платіж. Причому йдеться не обов'язково про заздалегідь записану фразу. Сучасні системи дозволяють синтезувати мовлення майже в реальному часі.

Наступний етап цілком очевидний. До голосу додається зображення.

І в якийсь момент звичне "я сам його бачив і чув" перестає бути достатнім доказом того, що розмова справді відбулася з цією людиною.

Для бізнесу це серйозна проблема. Значна частина корпоративних процедур безпеки побудована навколо перевірки інформації. Тепер доведеться окремо перевіряти ще й особу того, хто цю інформацію передає.

Після генерації почнеться ринок верифікації

Інтернет довгий час працював за досить простим принципом. Якщо фотографія, аудіо чи відео виглядають справжніми, ми схильні вважати їх справжніми, доки не з'являться докази протилежного.

Генеративний ШІ поступово ламає цю модель.

Сам факт наявності відео незабаром доводитиме дуже мало. Те саме стосується аудіозапису або скриншота.

Тому слідом за величезним ринком генеративного штучного інтелекту зростатиме інший ринок: технології підтвердження автентичності.

Цифрові підписи, криптографічне підтвердження походження контенту, маркування синтетичних матеріалів, корпоративні системи ідентифікації, спеціальні протоколи підтвердження фінансових операцій.

Причому бізнесу доведеться впроваджувати такі інструменти швидше, ніж з'явиться повноцінне законодавство.

Закони майже завжди рухаються повільніше за технології. Поки регулятори визначають правила для клонування голосу, моделі вже вчаться одночасно відтворювати голос, зовнішність і манеру поведінки людини.

Автентичність стає товаром

У генеративного штучного інтелекту є важливий економічний ефект, який часто залишається поза межами дискусії.

Він радикально знижує вартість виробництва контенту.

Текст уже коштує майже нічого. Зображення стають дешевими. Вартість генерації голосу падає. З відео відбувається те саме.

Коли виробництво чогось стає масовим і дешевим, цінність зміщується в інший бік.

Якщо створити реалістичне відео людини зможе практично будь-який користувач, дорого коштуватиме вже не саме відео. Цінність матиме можливість довести, що воно справжнє.

Саме тому історія Кенджіро Цуди значно важливіша за звичайний конфлікт актора з технологічною платформою.

Вона показує проблему, з якою найближчими роками зіткнуться не лише знаменитості. З нею матимуть справу підприємці, журналісти, експерти, керівники компаній і зрештою звичайні користувачі.

Ми звикли захищати паролі, документи, банківські картки та персональні дані. Незабаром до цього списку доведеться додати власний голос, обличчя і манеру спілкування.

ШІ зробив копіювання людської ідентичності дешевим і масовим.

Тепер нам доведеться навчитися доводити, де знаходиться оригінал.