Дело об убийстве в Юте, которому уже четыре десятилетия, вот-вот проверит на прочность неизведанную правовую территорию: может ли присяжным быть представлена синтетическая реплика голоса убитой женщины, созданная на основе ИИ-клона голоса с использованием программного обеспечения ElevenLabs, в качестве доказательства на стадии вынесения приговора по делу о смертной казни. Прокуроры округа Вебер утверждают, что эта технология позволит присяжным снова услышать собственные слова Джойс Йост. Адвокаты защиты и независимые технические эксперты говорят, что она может сделать нечто гораздо более опасное — ввести в заблуждение людей, которым предстоит решить, будет ли человек жить или умрет.
Summary
Ключевые моменты
- Прокуроры округа Вебер хотят воспроизвести ИИ-сгенерированный клон голоса жертвы убийства Джойс Йост во время предстоящего пересмотра приговора Дугласу Лавеллу.
- Йост была убита в 1985 году Лавеллом, чтобы не дать ей выступить свидетелем против него по делу об изнасиловании; ее тело так и не было найдено.
- Клон был создан с помощью программного обеспечения ElevenLabs на основе аудиозаписей и расшифровки предварительных показаний Йост.
- Два эксперта из Университета Юты предупредили, что голос ИИ может несправедливо повлиять на присяжных и не может быть проверен на точность.
- Ожидается, что судья Майкл ДиРеда вынесет решение о допустимости доказательства к середине ноября, приговор в настоящее время назначен на конец февраля 2027 года.
Прокуроры предлагают использовать ИИ-клон голоса жертвы убийства
Прокуроры в Фармингтоне, штат Юта, попросили судью разрешить им воспроизвести синтетическую реконструкцию голоса Джойс Йост перед присяжными, которым предстоит решить судьбу Дугласа Лавелла. Запрос касается фрагмента показаний, которые Йост дала десятилетия назад, до того как была убита и больше не могла выступить в суде.
По словам прокуроров, Дуглас Лавелл похитил и убил Йост в ночь на 10 августа 1985 года, чтобы не дать ей выступить свидетелем против него в отдельном процессе по делу об изнасиловании. Тело Йост так и не было найдено, но Лавелл признался в убийстве в ходе переговоров о признании вины в 1993 году. Его дважды приговаривали к смертной казни, и оба приговора впоследствии были отменены в апелляционном порядке. Сейчас назначено новое судебное заседание по вынесению ему приговора в феврале следующего года.
Создание ИИ-клона голоса с использованием программного обеспечения ElevenLabs
Чтобы создать реконструкцию, команда обвинения обратилась к ElevenLabs, компании по синтезу речи на основе ИИ, загрузив в ее программное обеспечение реальные аудиозаписи речи Йост, а также письменную расшифровку показаний, которые она дала на предварительном слушании незадолго до своего исчезновения. Это сочетание позволило инструменту сгенерировать новый синтезированный аудиофайл, призванный звучать так, будто Йост произносит те же самые слова. Это один из первых известных случаев попытки использовать клонированный голос на основе ИИ в качестве судебного доказательства, связанного с жертвой убийства.
Эксперты защиты подчеркивают риски и ограничения голосовых доказательств на основе ИИ
Два специалиста по информатике, приглашенные командой защиты Лавелла, утверждают, что реконструкция голоса с помощью ElevenLabs, какой бы убедительной она ни казалась, не может вызывать такое же доверие, как живой свидетель или реальная запись, — и что присяжные могут быть не готовы отличить одно от другого.
Самир Патил, доцент кафедры информатики Университета Юты, имеющий степень PhD Калифорнийского университета в Ирвайне, заявил суду, что люди регулярно формируют эмоциональные привязанности к контенту, созданному ИИ, даже когда знают, что он не является человеческим. «Все знают, что это ИИ», — сказал Патил, имея в виду такие инструменты, как ChatGPT. — «Там нет человека, но люди развивают к нему эмоциональную привязанность. Люди ругаются на него, как будто злятся. Или, когда они описывают, что он делает, они описывают его так, будто это нечто живое». Он предупредил, что присяжные могут отреагировать на синтетический голос Йост таким же образом — воспринимая его как реальные показания, а не как машинную приблизительную реконструкцию, даже после того, как им объяснят обратное.
Патил также поднял более технический вопрос: расшифровка, использованная для создания клона, фиксирует только слова Йост, но не то, как именно она их произносила. Без интонации, ритма или тембра — того, что исследователи называют паралингвистическими сигналами, — невозможно проверить, соответствует ли результат работы ИИ тому, как Йост на самом деле звучала на трибуне свидетелей. «Звучать похоже на Джойс Йост еще не значит быть точным в передаче ее речи, и уж точно не значит быть точным в передаче того, как она произносила эти слова в тех показаниях», — сказал Патил. — «Это просто невозможно проверить, потому что аудиозапись не существует».
Опасения по поводу нераскрытых обучающих данных ElevenLabs
Второй свидетель защиты, Кеннет Марино, доцент по машинному обучению в Университете Юты и бывший научный сотрудник Google DeepMind, объяснил суду, как обычно создаются системы преобразования текста в речь. По его словам, компании, работающие с ИИ, как правило, обучают свои модели на любых аудиоданных, которые проще всего найти в больших объемах в интернете. «Для аудио это, скорее всего, такие вещи, как подкасты и видео на YouTube», — сказал Марино. Затем вывод можно донастраивать с помощью внутренних параметров, известных как веса, — но, как отметил Марино, ElevenLabs публично не раскрывает ни свои обучающие данные, ни эти веса. «Так что, по сути, мы не имеем ни малейшего представления, на каких данных она была обучена», — сказал он.
Такая непрозрачность стала юридическим камнем преткновения. Команда защиты Лавелла направила в ElevenLabs повестку, требуя предоставить сведения о том, как именно инструмент для клонирования голоса обучался и дорабатывался. На данный момент компания не ответила, оставив суд без независимой проверки того, как именно был сгенерирован синтетический голос Йост.
Беспрецедентные правовые вопросы вокруг использования ИИ при вынесении приговора по делу о смертной казни
Суды давно допускают, чтобы вместо умершего или недоступного свидетеля его показания по расшифровке зачитывал другой человек, если сам свидетель больше не может выступить. Но, согласно материалам дела, еще никогда не происходило представление присяжным показаний жертвы убийства под присягой через ИИ-сгенерированный клон голоса в деле, где рассматривается смертная казнь. Именно поэтому спор вокруг реконструкции с использованием ИИ-голоса ElevenLabs привлекает внимание далеко за пределами округа Вебер — он может стать образцом или предупреждением для того, как суды в других местах будут обращаться с синтетическими доказательствами.
Судья Майкл ДиРеда заявил, что рассчитывает к середине ноября вынести решение о том, можно ли воспроизводить клон голоса ИИ присяжным. Начало стадии вынесения приговора Лавеллу в настоящее время запланировано на конец февраля 2027 года, хотя его команда защиты уже дала понять, что, вероятно, попросит об отсрочке — так что сроки, как и сам базовый правовой вопрос, остаются неопределенными.
Почему это важно за пределами одного зала суда в Юте: по мере того как генеративные голосовые инструменты становятся дешевыми и широко доступными, и прокурорам, и адвокатам защиты все чаще придется решать, в какой момент синтетическая реконструкция переходит грань от полезной иллюстрации к ненадежному — или несправедливо убедительному — доказательству. Решение по этому делу может стать одним из первых реальных ориентиров того, как американские суды будут относиться к речи, сгенерированной ИИ, в вопросах жизни и смерти.
FAQ
Почему прокуроры хотят использовать ИИ-сгенерированный клон голоса Джойс Йост?
Прокуроры намерены использовать клон голоса ИИ, чтобы воспроизвести синтезированное аудио с прошлыми показаниями Йост на предстоящем заседании по вынесению приговора, утверждая, что это позволяет присяжным услышать ее собственные слова, даже несмотря на то, что она не может выступить лично.
Какие опасения эксперты высказывают по поводу использования клона голоса ИИ в суде?
Эксперты предупреждают, что клонирование голоса с помощью ИИ может эмоционально предвзято воздействовать на присяжных и лишено паралингвистических сигналов, таких как тон и ритм речи, необходимых для проверки его точности по сравнению с исходными показаниями.
Использовались ли ранее голосовые доказательства, созданные ИИ, в делах о смертной казни?
Нет. Использование клона голоса ИИ для воспроизведения показаний жертвы убийства в деле о смертной казни является беспрецедентным, что делает этот спор потенциальным первым в своем роде правовым прецедентом.
Когда судья примет решение о допустимости голосового доказательства ИИ?
Ожидается, что судья Майкл ДиРеда вынесет решение к середине ноября, до начала слушаний по вынесению приговора Лавеллу, которые в настоящее время назначены на конец февраля 2027 года.
{«@context»:»https://schema.org»,»@type»:»FAQPage»,»mainEntity»:[{«@type»:»Question»,»name»:»Почему прокуроры хотят использовать ИИ-сгенерированный клон голоса Джойс Йост?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Прокуроры намерены использовать клон голоса ИИ, чтобы воспроизвести синтезированное аудио с прошлыми показаниями Йост на предстоящем заседании по вынесению приговора, утверждая, что это позволяет присяжным услышать ее собственные слова, даже несмотря на то, что она не может выступить лично.»}},{«@type»:»Question»,»name»:»Какие опасения эксперты высказывают по поводу использования клона голоса ИИ в суде?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Эксперты предупреждают, что клонирование голоса с помощью ИИ может эмоционально предвзято воздействовать на присяжных и лишено паралингвистических сигналов, таких как тон и ритм речи, необходимых для проверки его точности по сравнению с исходными показаниями.»}},{«@type»:»Question»,»name»:»Использовались ли ранее голосовые доказательства, созданные ИИ, в делах о смертной казни?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Нет. Использование клона голоса ИИ для воспроизведения показаний жертвы убийства в деле о смертной казни является беспрецедентным, что делает этот спор потенциальным первым в своем роде правовым прецедентом.»}},{«@type»:»Question»,»name»:»Когда судья примет решение о допустимости голосового доказательства ИИ?»,»acceptedAnswer»:{«@type»:»Answer»,»text»:»Ожидается, что судья Майкл ДиРеда вынесет решение к середине ноября, до начала слушаний по вынесению приговора Лавеллу, которые в настоящее время назначены на конец февраля 2027 года.»}}]}
Статья подготовлена при содействии искусственного интеллекта и проверена редакционной командой.
