Этические аспекты создания цифровых двойников умерших людей

В последние годы внимание к теме создания цифровых двойников (digital duplicates) растёт, хотя технологий для полного воссоздания образа человека и таких случаев пока не существует. Однако, фундамент для развития этой технологии уже закладывается.

Современные достижения в области искусственного интеллекта, такие как генеративные нейросети (например, StyleGAN, DALL-E, GPT-4), инструменты для синтеза речи (Tacotron, WaveNet, DeepVoice, VALL-E) и технологии 3D-сканирования (лидарное сканирование, фотограмметрия), предоставляют возможность воссоздавать отдельные аспекты облика, голоса и поведения человека. Эти элементы, хотя и существуют по отдельности, являются предпосылками для формирования более комплексных цифровых копий людей в будущем.

Идея создания цифровых двойников широко исследуется в художественной литературе и кинематографе. Над этой темой размышляют в таких сериалах как «Чёрное зеркало» (эпизод «Я скоро вернусь») и в романах, описывающих виртуальное «воскрешение» умерших. Эти произведения помогают обществу осмыслить потенциал и последствия этой технологии ещё до её массового внедрения. [2]

Вместе с этим, реально существующие примеры, такие как использование дипфейков для рекламы, воссоздание облика умерших актёров в кино или создание чат-ботов на основе собранной о человеке базы данных, уже стимулируют обсуждение этических и правовых вопросов.

Сегодня, ещё до появления полноценной технологии создания цифровых двойников, формируются основы для дискуссий о будущем. Живой человек может дать согласие на подобные манипуляции с его виртуальным образом, подписать контракт и в будущем подать в суд, если его детали не будут соблюдаться, но как дела обстоят с умершими людьми, образ которых стремятся воссоздать?

Такие вопросы, как уважение к памяти умершего, коммерческая эксплуатация его образа и правовые ограничения, в таком случае становятся актуальными.

Исследование структурировано на три раздела, чтобы логически представить различные аспекты темы:

Когнитивные двойники: Этические проблемы, связанные с воссозданием личности, семейных и психологических последствий.

Аудиовизуальные копии: Изучение практики воссоздания образов знаменитостей для кино и рекламы. Рассмотрение границ между уважением к памяти и коммерческой эксплуатацией.

Проблема идентификации: Оценка точности технологий воссоздания голоса и внешности, включая возможность различать цифровую копию от оригинала.

Гипотеза: Регулирование использования цифровых двойников должно основываться на степени их идентификации как оригинала. Если копия создаёт иллюзию присутствия оригинального человека, то её использование требует строгих этических и юридических рамок. Если копия отличима от оригинала, является только пародией или поерхностно/стилизованно/частично воспроизводит образ человека, это должно делать ее предметом интеллектуального права или подобной категории.

По состоянию на 2024 год частичные цифровые двойники делятся на две основные категории: «когнитивные двойники» и «визуальные/аудиальные двойники»

Первая категория — это «когнитивные двойники», которые пытаются воспроизвести определенные когнитивные функции или черты реального человека. Большинство ИИ-чат-ботов относится к этой категории. [2]

Существует множество сервисов и стартапов, которые предлагают технологии для симуляции разговора с близкими, ушедшими из жизни. Эти платформы часто позиционируют свои услуги как способ сохранения семейного наследия, увековечения памяти и выражения любви. Они акцентируют внимание на желании сохранить частичное бессмертие близкого человека, а также нередко играют на чувствах скорби и жалости. Это находится на грани между попыткой утешить скорбящих и вопросами этической допустимости подобных практик.

Для близких умерших цифровые двойники могут стать как инструментом утешения, так и фактором, затрудняющим процесс принятия утраты. Исследования показывают, что взаимодействие с виртуальными копиями может привести к застыванию в стадии отрицания, когда человек не способен эмоционально отпустить покойного.

Кроме того, возникают вопросы о соблюдении наследия умерших. Использование когнитивных данных может привести к созданию образа, который в некоторых аспектах может расходиться с реальными ценностями или убеждениями человека, что вызывает проблемы с точки зрения уважения к его памяти.

Например, технология HereAfter AI предлагает создать аватара близкого человека, который «отвечает» на вопросы, используя голос и манеру речи оригинала. [6]

Ещё одна компания, компания StoryFile использует ИИ, чтобы позволить людям говорить на собственных похоронах. Перед уходом человек может записать видео, в котором поделится своей историей жизни и мыслями. Во время похорон присутствующие могут задавать вопросы, а технология ИИ выберет соответствующие ответы из предварительно записанного видео. [7]

Replika — чат-бот, который может имитировать стили текстовых сообщений людей. [7]

В том случае, когда подобные проекты позиционируют свою технологию, как сохранение данных об умерших, как что-то вроде фотографий, видео или записей — это никак не затрагивает личность самого умершего человека. Тогда цифровой двойник не идентифицирован с человеком напрямую.

Но в случае, когда позиционирование включает утверждение о том, что это «воскрешение» близкого человека — это уже нарушает этику, ведь означает, что цифровая копия полностью копирует умершего человека, если не является им.

Вторая категория — это «визуальные/аудиальные» двойники, предназначенные для воспроизведения внешнего вида, поведения и голоса реального человека. Они становятся все более популярными в индустрии развлечений. [2]

Такие технологии чаще применяются для создания цифровых копий знаменитостей, которые могут «оживать» в рекламных кампаниях, фильмах или даже концертных выступлениях. Однако использование таких образов поднимает дискуссии о границе между коммерческой эксплуатацией и уважением к памяти ушедшего человека. С одной стороны, фанаты могут оценить возможность вновь «увидеть» любимую звезду, с другой — возникает опасность превращения личности в бренд, который продолжает приносить прибыль после смерти, что может восприниматься как неэтичное использование её наследия.

Именно из-за возможности эксплуатации личности знаменитости после смерти рассматривают вопрос согласия связан с соблюдением коммерческих интересов человека на изображение (внешний вид), голос, телодвижения, жесты и другие уникальные параметры, что особенно актуально для медийных персон (блогеров, певцов, политиков), дикторов, представителей актерской профессии. Выгода от использования цифровых копий очевидна для продюсеров и производителей контента. Например, съёмки без физического присутствия актёра на площадке обходятся в среднем на 20-60% дешевле, [6] а у ИИ-инфлюенсеров есть такие преимущества перед реальными людьми как более эффективное взаимодействие с потребителем, контроль бренда и минимальные риски. [8]

Однако, например, после выхода фильма «Флеш» в 2023 г., в котором с помощью ИИ воскресили персонажей давно ушедших из жизни актеров, в Голливуде началась забастовка профсоюза актеров, продолжавшаяся несколько месяцев. Профсоюз SAG-AFTRA, представляющий более 150 000 телеактеров и киноактеров, выступил против предложения голливудских студий, призывающих исполнителей соглашаться на использование их цифровых копий при «первоначальном приеме на работу». По мнению профсоюза, это может привести к тому, что интонации голоса, сходство и телодвижения актеров будут сканироваться и использоваться в различных контекстах и неизвестных будущих проектах без дополнительной компенсации. [9]

Один из похожих случаев это случай подачи иска Кевином Фрэнсисом на создателей фильма 2016 года «Изгой-один: Звездные войны. Истории» за использование образа Питера Кушинга, который скончался в 1994 году в возрасте 81 года.

Фрэнсиса называют «одним из старейших друзей Кушинга», и он утверждал, что в 1993 году актер подписал документ, запрещающий воспроизведение его образа без разрешения продюсера.

Авторы «Изгоя-один» заявили, что не считали нужным получать разрешение на образ Кушинга из‑за прописанных условий контракта актера для оригинальных «Звездных войн», где он сыграл Уилхуффа Таркина. [10]

Среди персонажей фильма «Флэш» были персонажи, игравшие которых актёры уже умерли: Супермен Джорджа Ривза («Приключения Супермена»), Супермен Кристофера Рива («Супермен 1–4») и Бэтмен Адама Уэста («Бэтмен»).

Если образ актёра может быть воссоздан для завершения съемок фильма или с целью сократить затраты на производство, то цифровая копия музыкального исполнителя представляет собой практически неограниченный источник дохода. Владельцы прав на такую копию могут бесконечно её коммерчески использовать, создавая новые песни, проводя виртуальные концерты и продавая связанные с ней продукты.

Должны ли отличаться в правовом поле, воссозданные образы обычных людей и знаменитостей? Имеет ли это смысл? Очевидно, что для компаний более прибыльно создавать и использовать цифровых двойников актёров и других знаменитостей, но ведь и они имеют право на конфиденциальность личной жизни и оставление наследия только в кругу близких людей.

«Двойник» а значит похожий, не отличающийся от оригинала. Если виртуальное воплощение отличается от оригинала, то это не вводит людей в заблуждение и никак не искажает образ человека.

Поэтому если мультяшный персонаж имеет черты, отличные от своего прототипа, такой персонаж может стать предметом авторского и интеллектуального права.

Дела совсем иначе обстоят с голосом, потому что симуляцию голоса невозможно отличить от настоящей записи голоса.

Закон должен оценивать, насколько цифровой двойник можно спутать с реальным человеком. Это может включать анализ внешнего вида, манеры речи, движения, а также сопутствующего контекста (например, представление в фильме, рекламе или цифровых медиа). Если копия создаёт убедительную иллюзию реального человека, она имеет потенциал вводить в заблуждение общественность, что требует строгих юридических рамок.

Копия картины может быть выполнена с разной степенью точности — от фальшивок, которые трудно отличить от оригинала, до откровенных репродукций. В случае цифровых двойников копия может быть точной (фотореалистичная внешность и манеры) или интерпретативной (например, мультипликационная версия). Степень копирования влияет на правовой статус:

— Точная копия (например, фотореалистичный двойник актёра) может требовать согласия или лицензии. — Интерпретация (например, стилизованный персонаж, вдохновлённый реальной личностью) может попадать в серую зону правового регулирования.

Цитирование картины — это использование её элементов (например, мотивов, цветовой палитры) в другом контексте. Подобным образом, создание когнитивных двойников или отдельных черт человека (например, использование только голоса или типичной манеры речи) может быть сравнено с «цитированием личности».