В 2013 году в серии «Я скоро вернусь» сериала «Черное зеркало» героиня с помощью технологии искусственного интеллекта «воскрешает» своего умершего мужа, чтобы общаться с ним через чат-сервис. Через 10 лет такие «оживления» стали доступны и в реальном мире, но вызвали этические и юридические вопроcы
Искусственный интеллект уже кардинально изменил нашу жизнь и революция в области виртуального бессмертия была лишь вопросом времени. Возможность поддерживать связь с ушедшими близкими — такую услугу недавно начали предлагать несколько стартапов, использующих технологии искусственного интеллекта.
«Воскрешение» осуществляется путем создания чат-ботов или цифровых двойников на основе социальных данных конкретного человека: его изображений, голосовых данных, сообщений из соцсетей, SMS, имейлов...
DeepBrain AI, разработавшая программу Remеmory, — одна из компаний, предоставляющая подобные услуги.
«Допустим, мы хотим создать ваш цифровой аватар, —рассказывает финансовый директор DeepBrain AI Майкл Юнг. — Сначала мы записываем в студии, как вы читаете на камеру от 300 до 500 предложений. Так мы получаем исходный видеоматериал. Затем мы обучаем машину на протяжении месяца и создаем ваш аватар. И после того, как мы получим ваши текстовые данные, ваш цифровой двойник сможет начать говорить все, что угодно — даже то, чего вы сами никогда не говорили».
«Воскрешение» осуществляется путем создания чат-ботов или цифровых двойников на основе социальных данных конкретного человека: его изображений, голосовых данных, сообщений из соцсетей, SMS, имейлов...
DeepBrain AI, разработавшая программу Remеmory, — одна из компаний, предоставляющая подобные услуги.
«Допустим, мы хотим создать ваш цифровой аватар, —рассказывает финансовый директор DeepBrain AI Майкл Юнг. — Сначала мы записываем в студии, как вы читаете на камеру от 300 до 500 предложений. Так мы получаем исходный видеоматериал. Затем мы обучаем машину на протяжении месяца и создаем ваш аватар. И после того, как мы получим ваши текстовые данные, ваш цифровой двойник сможет начать говорить все, что угодно — даже то, чего вы сами никогда не говорили».
Стивен Смит, основатель компании StoryFile, делится подробностями своей биографии. На самом деле — это его цифровой двойник. Настоящий Стивен Смит в интервью говорит, что Storyfile предлагает возможность рассказать историю своей жизни:
«Это словно «живой фотоальбом», с помощью которого мы собираем воедино фрагменты нашей жизни, которые затем переходят к другим, когда мы покидаем этот мир, и становятся частью нашей памяти и нашего наследия. Мы не пытаемся создать из фрагментов нового бота. Наши клиенты используют искусственный интеллект, чтобы передать будущим поколениям свои воспоминания».
«Это словно «живой фотоальбом», с помощью которого мы собираем воедино фрагменты нашей жизни, которые затем переходят к другим, когда мы покидаем этот мир, и становятся частью нашей памяти и нашего наследия. Мы не пытаемся создать из фрагментов нового бота. Наши клиенты используют искусственный интеллект, чтобы передать будущим поколениям свои воспоминания».
Стивен Смит, генеральный директор компании StoryFile, задает вопросы цифровому двойнику своей покойной матери Марины Смит (Courtesy: StoryFile)
После гибели лучшего друга в 2015 году инженер из Калифорнии Евгения Кюда создала приложение «Роман» — по имени друга, погибшего в автокатастрофе.
Евгения загрузила сообщения Романа в нейросеть и создала на их основе чат-бота. Из этого чат-бота родилась программа Replika. Однако Replika не ставит своей целью воссоздание умерших близких людей.
«Мы хотели отойти от первоначального варианта, поскольку видели большую ценность в том, чтобы предоставить людям компаньона, а не пытаться воссоздать человека, что является очень сложной, если вообще невозможной задачей, — рассказывает производственный директор Replika Рита Попова. —Евгения хотела сделать это как своего рода дань уважения Роману, потому что Роман тоже был человеком, который очень интересовался технологиями цифровой памяти. К тому же его близкие были не против этого эксперимента. Сохранение наследия, воспоминаний и историй с помощью искусственного интеллекта — это невероятно сложная задача».
Неудивительно, что цифровое «воскрешение» вызывает довольно неоднозначную реакцию в обществе.
Религиовед Кэнди Канн, проводящая исследования в области смерти и умирания в контексте общественных механизмов памяти и забвения, считает, что технологии искусственного интеллекта — «хорошее терапевтическое решение, которое можно предложить людям, переживающим горе».
«Совершенно очевидно, что это не умерший человек, а его копия, — считает Канн. — На мой взгляд, это более продвинутая версия фотографии или видео, и мне кажется, что общественная реакция на нее очень похожа на реакцию, когда впервые появилась фотография. С одной стороны, люди были в восторге, а с другой — переживали, что она может убить их душу или украсть их сущность. Это именно то беспокойство, которое возникает при появлении любой новой технологии. С терапевтической точки зрения искусственный интеллект может быть очень полезен. Например, вы поссорились с мамой перед ее смертью. И ваш психотерапевт предлагает вам написать письмо маме о том, что вы хотели бы сказать ей и какой ответ хотели бы получить».
Евгения загрузила сообщения Романа в нейросеть и создала на их основе чат-бота. Из этого чат-бота родилась программа Replika. Однако Replika не ставит своей целью воссоздание умерших близких людей.
«Мы хотели отойти от первоначального варианта, поскольку видели большую ценность в том, чтобы предоставить людям компаньона, а не пытаться воссоздать человека, что является очень сложной, если вообще невозможной задачей, — рассказывает производственный директор Replika Рита Попова. —Евгения хотела сделать это как своего рода дань уважения Роману, потому что Роман тоже был человеком, который очень интересовался технологиями цифровой памяти. К тому же его близкие были не против этого эксперимента. Сохранение наследия, воспоминаний и историй с помощью искусственного интеллекта — это невероятно сложная задача».
Неудивительно, что цифровое «воскрешение» вызывает довольно неоднозначную реакцию в обществе.
Религиовед Кэнди Канн, проводящая исследования в области смерти и умирания в контексте общественных механизмов памяти и забвения, считает, что технологии искусственного интеллекта — «хорошее терапевтическое решение, которое можно предложить людям, переживающим горе».
«Совершенно очевидно, что это не умерший человек, а его копия, — считает Канн. — На мой взгляд, это более продвинутая версия фотографии или видео, и мне кажется, что общественная реакция на нее очень похожа на реакцию, когда впервые появилась фотография. С одной стороны, люди были в восторге, а с другой — переживали, что она может убить их душу или украсть их сущность. Это именно то беспокойство, которое возникает при появлении любой новой технологии. С терапевтической точки зрения искусственный интеллект может быть очень полезен. Например, вы поссорились с мамой перед ее смертью. И ваш психотерапевт предлагает вам написать письмо маме о том, что вы хотели бы сказать ей и какой ответ хотели бы получить».
Создание цифрового двойника актера Уильяма Шетнера (Courtesy: StoryFile)
Однако профессор Канн все же предупреждает, что такие чат-боты могут представлять опасность для людей, остро и долго переживающих потерю.
Ирина Райку, директор программы по интернет-этике в Университете Санта-Клары в США, рассказывает, что создание цифровых двойников связано со многими юридическими и этическими проблемами:
«Мне кажется, это выглядит неуважительно и проблематично, особенно в тех случаях, когда люди не давали своего согласия. Нам необходимо разработать нормы, запрещающие подобное использование. Другое дело, когда люди дают согласие. Однако в этом случае вопрос заключается не столько в уважении, сколько в понимании ограниченности того, что вы получите в итоге. Очевидно, что это будут всего лишь какие-то воспоминания о человеке. Понимают ли люди, что таким образом они не смогут продолжить поддерживать отношения с человеком, который ушел из жизни? Это похоже на бальзамирование. Только вместо тела мы пытаемся бальзамировать человеческое сознание».
А вот профессор Университета Сан-Франциско Кларенс Джонс, в прошлом — спичрайтер и юрисконсульт легендарного Мартина Лютера Кинга, не видит в таких технологиях этических проблем. Он и сам передал свои данные в упомянутый ранее StoryFile.
«У меня нет проблем с этикой, если они правдиво и точно изображают меня, — объясняет Джонс. — Например, у них есть почти 100 часов видеозаписей со мной. Конечно, я не хочу, чтобы они манипулировали моими словами. Нет, речь не об этом. Я говорю обо всем, что проясняет и объясняет мои слова. Если они отражаются в том виде, в котором я их произнес, то я только — за. Я считаю, что это технология будущего. И я хочу им всячески помочь, потому что сейчас живут люди гораздо более важные, чем я, чья информация должна быть сохранена для будущих поколений».
Как бы то ни было, цифровое «воскрешение» сегодня — это скорее эволюция формы передачи воспоминаний. В настоящее время ученые не располагают достаточной информацией о функционировании мозга для создания его копии. А уровень развития искусственного интеллекта, потенциально способного решить данную задачу, является недостаточно высоким.
Ирина Райку, директор программы по интернет-этике в Университете Санта-Клары в США, рассказывает, что создание цифровых двойников связано со многими юридическими и этическими проблемами:
«Мне кажется, это выглядит неуважительно и проблематично, особенно в тех случаях, когда люди не давали своего согласия. Нам необходимо разработать нормы, запрещающие подобное использование. Другое дело, когда люди дают согласие. Однако в этом случае вопрос заключается не столько в уважении, сколько в понимании ограниченности того, что вы получите в итоге. Очевидно, что это будут всего лишь какие-то воспоминания о человеке. Понимают ли люди, что таким образом они не смогут продолжить поддерживать отношения с человеком, который ушел из жизни? Это похоже на бальзамирование. Только вместо тела мы пытаемся бальзамировать человеческое сознание».
А вот профессор Университета Сан-Франциско Кларенс Джонс, в прошлом — спичрайтер и юрисконсульт легендарного Мартина Лютера Кинга, не видит в таких технологиях этических проблем. Он и сам передал свои данные в упомянутый ранее StoryFile.
«У меня нет проблем с этикой, если они правдиво и точно изображают меня, — объясняет Джонс. — Например, у них есть почти 100 часов видеозаписей со мной. Конечно, я не хочу, чтобы они манипулировали моими словами. Нет, речь не об этом. Я говорю обо всем, что проясняет и объясняет мои слова. Если они отражаются в том виде, в котором я их произнес, то я только — за. Я считаю, что это технология будущего. И я хочу им всячески помочь, потому что сейчас живут люди гораздо более важные, чем я, чья информация должна быть сохранена для будущих поколений».
Как бы то ни было, цифровое «воскрешение» сегодня — это скорее эволюция формы передачи воспоминаний. В настоящее время ученые не располагают достаточной информацией о функционировании мозга для создания его копии. А уровень развития искусственного интеллекта, потенциально способного решить данную задачу, является недостаточно высоким.
