Вы сейчас просматриваете Как ElevenLabs воссоздаёт голос умершего по записям и вызывает этические споры

Как ElevenLabs воссоздаёт голос умершего по записям и вызывает этические споры

  • Запись опубликована:

Голос после последней записи: как ElevenLabs воскрешает знаменитостей и почему это не всем нравится

Представьте: вы открываете приложение, выбираете книгу и нажимаете «слушать». И вдруг текст читает голос Джуди Гарленд, актрисы, умершей в 1969 году. Она никогда не записывала эту аудиокнигу, но сегодня может «произнести» её благодаря искусственному интеллекту.

Почти в каждой моей беседе о нейросетях рано или поздно всплывает вопрос: где здесь польза, а где уже тревожная подмена? Я как-то для рабочего проекта тестировала ChatGPT для текста, Perplexity AI для поиска фактов и отдельно разбиралась с озвучкой в ElevenLabs. И вот что заметила: чем убедительнее результат, тем внимательнее приходится смотреть на разрешения, контекст и границы. Кстати, если вам удобно держать под рукой сразу несколько инструментов, я однажды наткнулась на Бот SozdavAI, где собраны нейросети для генерации текста, фото и видео. Для меня это оказалось очень практично: не нужно прыгать между десятком подписок, всё лежит в одном месте. Вход там с бонусом 10 000 токенов, а подписчикам моего канала доступны бесплатные запросы к ChatGPT 5 nano даже после окончания баланса. Возвращаюсь к теме, потому что с голоса начинается самый интересный спор: можно ли сохранить наследие, не превращая его в цифровую подмену.

Что произошло: знаменитый голос читает книгу, которой не читал

В июле 2024 года ElevenLabs объявила о сотрудничестве с наследниками нескольких известных актёров. В числе названных имён были Джуди Гарленд, Джеймс Дин, Берт Рейнольдс и Лоренс Оливье. Их голоса стали доступны в приложении Reader, которое озвучивает книги, статьи и другие тексты.

Самый показательный пример здесь связан с Джуди Гарленд. Её голос может читать роман Лаймена Фрэнка Баума «Удивительный волшебник страны Оз» — книгу, вдохновившую знаменитый фильм, но не озвученную самой актрисой. Получается странное посмертие: знакомый тембр произносит слова, которых человек никогда не говорил.

У этого проекта было важное ограничение. По описанию ElevenLabs, голоса из функции Iconic Voices предназначены для прослушивания в приложении, а не для свободного создания и публикации новых аудиофайлов. Компания также сообщала, что договорилась с наследниками о лицензировании. Подробности компенсации публично не раскрывались. Дочь Джуди Гарленд, Лайза Миннелли, поддержала проект от имени семьи и назвала его способом познакомить новых слушателей с наследием матери.

Это важная деталь: речь шла о конкретной договорённости, конкретных голосах и ограниченном сценарии использования. И всё же даже согласие наследников не убирает спор автоматически. Одни видят в технологии способ сохранить память. Другие слышат в ней подмену: человек не выбирал этих слов, не давал им интонацию и не мог сказать «нет».

Как работает клонирование голоса

Клонирование голоса — это создание синтетической речи, похожей на речь определённого человека. Для обучения могут использоваться интервью, выступления, подкасты, архивные записи или специально записанные образцы. Система анализирует тембр, произношение, ритм, паузы, характерную манеру речи.

ElevenLabs предлагает разные способы создания голосов. Для быстрого клонирования обычно достаточно примерно одной-двух минут чистого аудио. Для более качественной профессиональной модели рекомендуют как минимум около 30 минут записи, а для лучших результатов может потребоваться больше — вплоть до нескольких часов. Важны минуты, но не только они: запись должна быть разборчивой, без музыки, эха и сильного фонового шума.

Короткий образец — не волшебная кнопка. На результат влияют качество исходной записи, диапазон интонаций, язык и произношение. И даже убедительное сходство не означает, что модель понимает содержание. Она воспроизводит речь, а не возвращает личность, память, намерения или чувство юмора человека. Цифровой голос может звучать узнаваемо, но за ним нет человека, который в этот момент выбирает слова.

В этом и заключается обманчивость технологии. Слух воспринимает голос как нечто очень личное. Мы узнаём близких по тембру, интонации, привычной паузе перед важной фразой. Поэтому синтезированная речь кажется гораздо более интимной, чем стилизованная картинка. Иногда достаточно нескольких секунд, чтобы мозг сказал: «Это он». Хотя технически точнее сказать: это алгоритм, обученный звучать похоже на него.

Почему спор не сводится к «за» и «против»

У посмертного клонирования голоса есть понятные применения. Оно может помочь в создании доступных аудиоформатов, озвучивании архивов, образовательных проектах и музейных материалов. Семьи могут захотеть сохранить голос умершего родственника для личного проекта, если человек при жизни дал на это ясное согласие. Для зрителей и слушателей голос знаменитости может стать необычным способом заново открыть книгу или произведение.

Но у каждой такой возможности есть тёмная сторона.

Первое — согласие. Умерший человек не может уточнить, на что именно он разрешает использовать свой голос: только для аудиокниг, ещё и для рекламы, политических сообщений, шуток или новых художественных произведений? Разрешение на публикацию старого интервью не равно разрешению генерировать новые фразы. И тем более оно не означает, что говорящий согласился бы с конкретным сценарием.

Второе — контроль наследников. Сотрудничество с наследниками делает использование прозрачнее, но не превращает любые слова в слова самого умершего. Семья может распоряжаться частью прав, однако этические вопросы остаются: кто решает, какие тексты допустимы, можно ли отозвать разрешение и как обозначать синтезированную речь?

Третье — риск обмана. Если слушатель не знает, что аудио сгенерировано, он может принять его за настоящую запись или решить, что человек действительно произнёс эту фразу. В случае знаменитости это уже вопрос репутации; в случае политика, родственника или свидетеля — вопрос доверия и безопасности.

Четвёртое — горе. Для кого-то искусственно воссозданный голос близкого может стать утешением. Для кого-то — болезненным переживанием, которое мешает принять утрату. Универсального ответа нет: одна и та же запись может поддержать одного человека и причинить боль другому. Поэтому особенно важно не превращать чужую скорбь в демонстрацию технологических возможностей.

Мне здесь часто вспоминается семейный архив. Старое письмо можно перечитывать, фотографию — хранить в альбоме, запись голоса — включить в день рождения. Но если архивист начнёт дописывать письма от имени умершего и выдавать новые строки за его подлинные слова, мы сразу чувствуем разницу. Синтетический голос способен сделать эту границу почти незаметной, и поэтому маркировка становится знаком уважения, а не формальностью.

Когда технология уже использовалась не для памяти

Опасения появились не на пустом месте. В январе 2024 года в Нью-Гэмпшире распространялся автоматический звонок с голосом, похожим на голос тогдашнего президента США Джо Байдена. Сообщение призывало избирателей не голосовать на праймериз. По данным расследования, при создании фальшивого аудио использовался инструмент ElevenLabs. Компания не объявляла этот звонок своим продуктом; речь шла о неправомерном использовании технологии пользователем.

Американская Федеральная комиссия по связи разъяснила, что звонки с искусственным или предварительно записанным голосом, созданные с помощью искусственного интеллекта, подпадают под ограничения закона о телефонных звонках. Этот случай полезно показывает, что клонирование голоса не обязано быть связано с посмертным использованием, чтобы вызвать серьёзный вред. Достаточно убедительной имитации и людей, которые не успевают проверить источник.

Платформы постепенно вводят ограничения и проверки. В текущей политике ElevenLabs запрещает клонировать, синтезировать или имитировать голос и образ живого человека без его явного информированного согласия или другого законного разрешения. Использование голоса умершего запрещено, если оно с большой вероятностью причинит вред или нарушает применимые посмертные права. В документации также сказано, что профессиональный клон собственного голоса создаёт сам его владелец; профессионально клонировать чужой голос нельзя, даже если человек согласен. Это правило платформы, а не универсальное описание законов всех стран.

Кроме того, компания указывает, что сгенерированное аудио можно связать с пользователем, который его создал. Такие меры помогают разбирать злоупотребления, но не дают абсолютной гарантии: ни одна политика не способна заранее предотвратить каждую попытку выдать синтез за подлинную запись.

Что говорит закон

Право на голос и образ регулируется по-разному в разных странах и даже регионах одной страны. Поэтому фраза «клонировать голос умершего законно» или «клонировать его незаконно» без указания юрисдикции почти всегда слишком груба.

В США отдельные штаты усилили защиту голоса от несанкционированного использования. Например, закон штата Теннесси ELVIS Act, подписанный в 2024 году, включил голос и его симуляцию в число охраняемых прав. В Калифорнии закон AB 1836 предусматривает защиту цифровых копий голоса или образа умершего исполнителя в определённых аудиовизуальных произведениях и звукозаписях без необходимого согласия, с установленными законом исключениями. Детали зависят от обстоятельств: кто именно используется, где, в каком произведении и на каком основании.

Для читателя из России и других стран важно не делать выводов по американскому примеру. Могут иметь значение авторские права на исходные записи, правила использования изображения и имени, договоры с правообладателями, персональные данные, нормы о вводе в заблуждение. Публичная доступность интервью не означает автоматически, что его можно использовать для обучения модели или коммерческого клонирования голоса.

Если вы планируете коммерческий или публичный проект с реальным голосом, особенно с голосом умершего, не полагайтесь на мысль, что «запись лежит в интернете». Проверьте права на исходный материал, получите необходимые разрешения от правообладателя или представителя наследия и уточните местные юридические требования. Это не заменяет консультацию юриста, но экономит деньги и нервы лучше, чем надежда на авось.

Как ответственно использовать ElevenLabs

Если вы хотите создать озвучку или изучить клонирование голоса, начните не с кнопки генерации, а с ответа на вопрос: чей это голос и кто дал разрешение?

Во-первых, используйте собственный голос или голос с ясным согласием. Для совместного проекта лучше иметь письменное разрешение: где и как будет звучать клон, как долго он может использоваться, кто контролирует доступ и можно ли отозвать согласие.

Во-вторых, не считайте найденную запись разрешением. Архивный фрагмент может быть свободно доступен для прослушивания, но права на запись и право имитировать голос — отдельные вопросы.

В-третьих, озвучивайте синтез как синтез. Если аудио может быть принято за реальную запись, обозначьте, что оно создано искусственно. Не подавайте новые фразы как подлинную запись.

В-четвёртых, проверяйте контекст и адресата. Политическая агитация, финансовые инструкции, новости о чрезвычайных ситуациях и просьбы перевести деньги требуют особенно строгой проверки.

В-пятых, для проекта о покойном человеке получите разрешения и обсудите границы. Заранее определите, какие тексты допустимы, можно ли использовать голос в рекламе, кто утверждает материалы и как поступать с запросами на удаление.

В-шестых, не создавайте голос ради розыгрыша, давления или обмана. Даже если замысел кажется безобидным автору, последствия может пережить тот, кого имитируют, его семья или слушатели.

Если же вы просто хотите качественно озвучить собственный текст, технические правила звучат спокойнее: подготовьте чистый образец без музыки и эха, говорите естественно и не смешивайте в одном наборе записи с очень разной манерой речи. Для быстрого клонирования документация ElevenLabs рекомендует примерно одну-две минуты качественного аудио; профессиональная модель требует заметно больше. Но помните: больше минут не означает автоматический идеальный результат.

Мне нравится смотреть на такие инструменты без иллюзий и без паники. Они могут быть полезны, если вы делаете подкаст, обучающий ролик или архивный проект, но в случае с чужим голосом вопрос никогда не сводится только к качеству звучания. Здесь важны согласие, контекст и то, как именно вы объясняете зрителю или слушателю, что он слышит. Поэтому я часто советую подписчикам заглядывать в мой Telegram-канал «AI VISIONS»: там я показываю, как создавать контент в нейросетях и где проходит граница между удобным инструментом и рискованной подменой.

AIVISIONS Telegram channel

Где проходит граница между памятью и заменой

Если вы работаете с голосом в подобных проектах, одна мелочь быстро становится решающей: как именно вы обозначаете результат для слушателя. Я, когда оплачиваю подписки на нейросети, давно пользуюсь Wanttopay — там пополняемые виртуальные карты Visa и Mastercard с 3D-Secure, а управление идёт через мини-приложение в Телеграме. И вот что для меня в этом удобно: меньше лишних действий, больше внимания остаётся на сам проект, а не на бытовую возню вокруг него. В теме голоса это особенно чувствуется, потому что любая небрежность в подаче быстро превращается в недоверие.

Самый частый просчёт тут не технический, а человеческий. Люди иногда думают, что достаточно написать мелким шрифтом «сгенерировано», и вопрос закрыт. Нет, не закрыт. Если материал строится вокруг узнаваемого тембра, то важна не формальная пометка где-то внизу, а честный контекст вокруг неё: кто говорил исходные фразы, что именно было взято за основу, кто дал разрешение и что именно вы сделали дальше. Когда я вижу, что создатель прячет происхождение записи, у меня мгновенно пропадает доверие к остальному материалу, даже если озвучка вышла безупречной.

Что меняется для семей, архивов и музеев

У посмертного воспроизведения голоса есть один спокойный и очень человеческий сценарий, о котором редко говорят громко: семейные и музейные проекты. Здесь голос не маскируют под новую творческую работу, а используют как часть памяти, экспозиции или личного архива. Такой формат может быть уместен, если семья сама хочет сохранить интонацию человека, а музей честно объясняет, откуда взята запись и зачем она включена в экспозицию.

Но здесь легко перейти тонкую грань. Если голос начинает читать тексты, которые человек при жизни не выбирал, меняется смысл всего проекта. Память превращается в реконструкцию, а реконструкция легко уводит в домыслы. Я бы сказала так: в архиве достаточно бережно восстановить след, не надо дорисовывать поверх него новые слова. Это особенно заметно в материалах о людях, чьи роли, взгляды и публичные высказывания давно изучены. Чем известнее человек, тем строже должен быть подход к тому, что вы даёте ему «сказать» после смерти.

Почему слушатель верит голосу быстрее, чем тексту

С голосом есть любопытная психологическая вещь. Текст мы обычно читаем вдумчиво, а голос проживаем почти телом. Тембр, пауза, дыхание, интонация сразу вызывают ощущение присутствия. Поэтому синтетическая речь воздействует гораздо сильнее, чем аккуратно сгенерированная картинка. Картинку мы ещё можем мысленно отодвинуть, а голос уже входит в личное пространство.

Из-за этого даже хорошая озвучка требует другого уровня аккуратности. Если человек слышит знакомый тембр в неуместной ситуации, он сначала реагирует эмоционально, а потом уже пытается разобраться, что произошло. И вот тут появляется риск: если проект создан без ясного объяснения, слушатель запоминает не технологию, а чувство обмана. Это потом трудно исправить. Один удачный ролик может дать много внимания, но одна нечестная запись способна надолго испортить доверие к автору.

Как я бы проверяла такой проект перед публикацией

Если бы мне нужно было выпускать материал с голосом умершего человека, я бы смотрела на три вещи. Первое — есть ли понятное право на использование исходных записей. Второе — не создаёт ли сам сценарий ложного впечатления, будто человек действительно произнёс новые слова. Третье — не причинит ли публикация вред родственникам или слушателям, для которых этот голос связан с утратой. В такой последовательности, потому что красивые формулировки не спасают, если за ними нет ясных ответов.

Ещё я всегда советую отдельно фиксировать, где будет жить запись. Одно дело — закрытая семейная коллекция, совсем другое — открытый ролик, который может разойтись по сети и быть вырван из контекста. Чем шире распространение, тем выше риск, что исходный смысл потеряется. Для голоса это особенно опасно: он быстро начинает работать как доказательство, даже если никакого доказательства там нет.

Как не перепутать творческий проект с подделкой

Есть простой тест, которым я пользуюсь сама. Если убрать имя человека из описания, проект всё ещё честно понятен или держится только на эффекте «узнаете голос»? Если держится только на этом эффекте, значит, ставка сделана не на содержание, а на узнавание. А когда узнавание становится главной приманкой, грань с подделкой становится слишком близкой.

В хороших проектах голос служит задаче. В сомнительных голос сам становится приманкой. Это видно сразу по тому, как оформлен материал: есть ли пояснение, что именно создано, звучит ли запись как документ или как художественная реконструкция, не выдают ли новое за старое. Здесь я всегда за простую честность. Она звучит не так эффектно, зато потом не приходится оправдываться перед теми, кто поверил.

И ещё один момент, который часто игнорируют. Даже если вы не собираетесь никого обманывать, слушатель может не уловить нюанс. Значит, ваша обязанность — сделать его очевидным. Не в конце ролика, не на спрятанной странице, а в самом материале и вокруг него. С голосом это правило работает жёстче, чем с любым другим форматом, потому что ухо не любит долго сомневаться.

Почему эта тема останется острой

Чем лучше становятся нейросети для озвучки, тем меньше у них остаётся технических барьеров и тем важнее становятся барьеры человеческие. Машина научится копировать тембр ещё точнее, но она не научится понимать, чей это образ, какая за ним история и почему некоторые слова нельзя произносить от чужого имени. Эту часть всё равно держит человек, который запускает проект.

Мне кажется, поэтому разговор о голосах умерших людей никогда не будет только разговором о качестве синтеза. Он всегда будет про выбор: сохранить след или занять чужое место. И если выбирать сохранение, то его и надо делать честно, с ясным обозначением границ. Тогда технология остаётся инструментом памяти, а не способом подделать присутствие.

Что в итоге

У синтеза голоса есть аккуратное, полезное применение, и у него же есть зона, где начинается подмена. Разница между ними не в мощности модели и не в длине образца, а в праве, контексте и том, как вы объясняете результат. Если человек при жизни не давал на это согласия, если семья или правообладатель не понимают, что именно будет сделано, если слушателю не ясно, что перед ним синтетическая запись, проект уже выходит за пределы этики. В теме посмертного голоса лучше недоговорить лишнее, чем добавить лишнее от чужого имени.

А ещё приглашаю вас в мою AI Лабораторию на Boosty — там я регулярно выкладываю уроки по инструментам для работы с видео и изображениями, делюсь промптами, которыми пользуюсь сама, и делаю разборы видео: рассказываю, как создавать с нуля. Подписывайтесь!

AIVISIONS Telegram channel