Ваш голос вам больше не принадлежит. ИИ создал новый рынок цифровых двойников - Виталий Киро

Специалист по искусственному интеллекту Виталий Киро о том, как ИИ клонирует голоса, кто на этом зарабатывает и почему людям скоро придется доказывать свою подлинность

Еще несколько лет назад выражение "украсть голос" звучало скорее как метафора. Сегодня для этого достаточно нескольких минут записи, доступа к нейросети и минимальных технических навыков.

Именно поэтому история японского актера озвучивания Кэндзирo Цуды интересна далеко не только поклонникам аниме.

У Цуды один из самых узнаваемых голосов в Японии. Он известен по "Магической битве", Yu-Gi-Oh! и другим популярным проектам. Но несколько месяцев назад его голос зажил отдельной от него жизнью.

В TikTok появился аккаунт, публиковавший ролики о городских легендах, оккультизме и теориях заговора. В них использовался голос, сгенерированный с помощью искусственного интеллекта и похожий на голос Цуды. Сам актер никогда не читал эти тексты и не имел никакого отношения к аккаунту.

Это не помешало странице набрать более 200 тысяч подписчиков. По оценке, которую приводит AFP, такой аккаунт мог приносить владельцу до 500 тысяч иен – примерно 3200 долларов в месяц.

Получилась довольно странная, но очень современная бизнес-модель. Один человек десятилетиями строит карьеру, работает над голосом и становится узнаваемым. Другой использует эту узнаваемость, загружает образцы в нейросеть и начинает зарабатывать.

Самое интересное, что классической кражи здесь вроде бы не происходит. Никто не похищал студийную запись актера и не выкладывал пиратскую копию фильма. Нейросеть создала новые аудиозаписи с фразами, которых Цуда никогда не произносил.

Именно поэтому разобраться с такими случаями в рамках действующего законодательства оказалось непросто.

Украсть человека, не украв его контент

Последние несколько лет о дипфейках говорили преимущественно в контексте видео. Политик якобы делает заявление, которого никогда не делал. Знаменитость появляется в рекламе сомнительного продукта. Руководитель компании внезапно выходит на видеосвязь с сотрудниками.

С голосом ситуация может оказаться еще сложнее.

Мы до сих пор воспринимаем человеческий голос как достаточно надежный идентификатор. Сообщение от директора компании может вызвать подозрение. Звонок, во время которого сотрудник слышит хорошо знакомый голос руководителя, психологически воспринимается совсем иначе.

Технологический барьер для таких манипуляций при этом быстро снижается.

Раньше для качественной имитации был нужен актер, способный копировать голос. Затем появились сложные программные решения. Сейчас существуют модели, которым достаточно сравнительно небольшого объема исходного аудио.

Для публичного человека найти его совсем не проблема.

Интервью, подкасты, выступления на конференциях, YouTube, TikTok, телевизионные эфиры. Чем известнее человек, тем больше материала для создания его цифровой копии уже есть в открытом доступе.

Возникает интересный парадокс. Публичность всегда была активом. Теперь она одновременно становится уязвимостью.

Кому принадлежит голос

С авторским правом все более или менее понятно. Есть фотография, музыкальное произведение, фильм или текст. У них есть авторы и правообладатели.

С человеческим голосом ситуация гораздо сложнее.

Человек не обладает авторскими правами на собственный тембр так же, как музыкант обладает правами на конкретную запись.

Именно на этой границе и работают современные технологии клонирования.

Можно не использовать ни секунды оригинальной записи в конечном продукте. Нейросеть генерирует совершенно новый аудиофайл и заставляет синтетический голос произносить слова, которых реальный человек никогда не говорил.

При этом коммерческая ценность такого файла возникает именно потому, что аудитория узнает конкретного человека.

В этом и заключался принципиальный момент спора Цуды с TikTok.

Платформа утверждала, что речь идет о "типичном мужском голосе", а сходство с голосом актера носит субъективный характер.

Для юристов это спор об идентификации. Для индустрии искусственного интеллекта вопрос гораздо шире.

Где проходит граница, за которой синтетическая копия становится копией конкретного человека?

30 сентября Токийский окружной суд сделал важный шаг к ответу на этот вопрос.

Требование Цуды удалить публикации было отклонено, поскольку к моменту рассмотрения дела спорный аккаунт и соответствующие материалы уже исчезли с платформы. Однако гораздо интереснее другое: суд признал, что человеческий голос в принципе может подпадать под защиту права на публичный образ.

Для индустрии это важный сигнал.

Мы постепенно приближаемся к необходимости юридически определить новую категорию цифровой собственности. Речь идет уже не о произведениях, созданных человеком, а о характеристиках самого человека, которые технологии научились воспроизводить.

Голос, лицо, мимика, манера разговаривать, характерные выражения, стиль письма.

Сегодня мы обсуждаем каждый из этих элементов отдельно. Через несколько лет нейросеть сможет объединять их в полноценного цифрового двойника.

Тогда вопрос о том, кому принадлежит голос, покажется довольно узким.

Гораздо важнее будет другое: кому принадлежит цифровая личность человека?

Это касается не только актеров

Историю Цуды легко воспринимать как проблему знаменитостей. Актерам, певцам и блогерам приходится защищать узнаваемые голоса и лица от копирования.

Но корпоративный сектор столкнется с той же проблемой.

Представим генерального директора крупной компании, который регулярно дает интервью и выступает на конференциях. В интернете легко найти несколько часов записей его голоса.

Этого уже достаточно, чтобы создать убедительную голосовую модель.

После этого финансовому директору компании звонит "CEO" и просит срочно провести платеж. Причем речь не обязательно о заранее записанной фразе. Современные системы позволяют синтезировать речь почти в реальном времени.

Следующий этап вполне очевиден. К голосу добавится изображение.

И в какой-то момент привычное "я сам его видел и слышал" перестанет быть достаточным доказательством того, что разговор действительно состоялся с этим человеком.

Для бизнеса это серьезная проблема. Значительная часть корпоративных процедур безопасности построена вокруг проверки информации. Теперь придется отдельно проверять и личность того, кто эту информацию передает.

После генерации начнется рынок верификации

Интернет долгое время работал по довольно простому принципу. Если фотография, аудио или видео выглядят настоящими, мы склонны считать их подлинными, пока не появятся доказательства обратного.

Генеративный ИИ постепенно ломает эту модель.

Сам факт наличия видео вскоре будет доказывать очень мало. То же касается аудиозаписи или скриншота.

Поэтому вслед за огромным рынком генеративного искусственного интеллекта будет расти другой рынок – технологий подтверждения подлинности.

Цифровые подписи, криптографическое подтверждение происхождения контента, маркировка синтетических материалов, корпоративные системы идентификации, специальные протоколы подтверждения финансовых операций.

Причем бизнесу придется внедрять такие инструменты быстрее, чем появится полноценное законодательство.

Законы почти всегда развиваются медленнее технологий. Пока регуляторы определяют правила клонирования голоса, модели уже учатся одновременно воспроизводить голос, внешность и манеру поведения человека.

Подлинность становится товаром

У генеративного искусственного интеллекта есть важный экономический эффект, который часто остается за рамками дискуссии.

Он радикально снижает стоимость производства контента.

Текст уже почти ничего не стоит. Изображения становятся дешевыми. Стоимость генерации голоса падает. То же происходит с видео.

Когда производство чего-либо становится массовым и дешевым, ценность смещается в другую сторону.

Если создавать реалистичное видео человека сможет практически любой пользователь, дорого стоить будет уже не само видео. Ценность будет заключаться в возможности доказать, что оно настоящее.

Именно поэтому история Кэндзирo Цуды гораздо важнее обычного конфликта актера с технологической платформой.

Она показывает проблему, с которой в ближайшие годы столкнутся не только знаменитости. С ней будут иметь дело предприниматели, журналисты, эксперты, руководители компаний и, в конечном счете, обычные пользователи.

Мы привыкли защищать пароли, документы, банковские карты и персональные данные. Вскоре к этому списку придется добавить собственный голос, лицо и манеру общения.

ИИ сделал копирование человеческой идентичности дешевым и массовым.

Теперь нам придется научиться доказывать, где находится оригинал.