Возрождение искусственного интеллекта Скотта Адамса вызвало негативную реакцию и дебаты по этике

Скотт Адамс однажды высказался в пользу идеи создания цифровая загробная жизнь. Теперь, когда он умер, в сообщениях в социальных сетях, приписываемых его семье, говорится, что ИИ-версия создателя «Дилберта», циркулирующая в Интернете, несанкционирована и вызывает глубокую тревогу.

В подкасте 2021 года карикатурист заявил, что предоставил «явное разрешение» любому человеку создавать посмертный ИИ основываясь на нем, утверждая, что его публичные мысли и слова «настолько распространены в Интернете», что он был бы «хорошим кандидатом для превращения в ИИ». Он добавил, что его устраивает версия его ИИ, говорящая новые вещи после его смерти, если они кажутся совместимыми с тем, что он мог говорить при жизни.

Вскоре после январской смерти 68-летнего мужчины от осложнений метастатического рак простатысозданный искусственным интеллектом аккаунт «Скотт Адамс» начал публиковать видео цифровой версии карикатуриста, говорящего напрямую со зрителями о текущих событиях и философии, отражая ритм и темы, которые реальный человек Адамс обсуждал в течение многих лет.

Его семья говорит, что это нарушение, а не дань уважения.

В сообщении от 5 февраля на официальном аккаунте Адамса, приписываемом его брату Дэйву Адамсу, утверждается, что карикатурист «никогда не намеревался и никогда не одобрил бы его версию с искусственным интеллектом, которая не была бы санкционирована им самим или его состоянием».

«Настоящий Скотт Адамс несколько раз давал явное разрешение людям создавать и использовать его ИИ-версию», — заявил ИИ Адамс в сообщении от 5 февраля. «Таким образом, эта итерация существует как прямое выполнение этого заявленного желания».

Официальный аккаунт Адамса повторил возражение семьи 17 февраля, заявив, что поместье «любезно, но твердо» просит любого, кто использует искусственный интеллект, чтобы воссоздать его голос или подобие, прекратить, назвав цифровые копии «сфабрикованной версией» Адамса, что «глубоко тревожит».

«Это не дань уважения. Это не честь. Это несанкционированное использование личных данных», — говорится в сообщении.

Поместье Адамса и аккаунт AI Adams не ответили на запросы Business Insider о комментариях.

Спор подчеркивает растущие юридические и этические недостатки вокруг «загробной жизни ИИ» — и то, как быстро технологии могут превзойти правила, призванные управлять ими.

«Это дипфейк»

Карен Норт, профессор Университета Южной Калифорнии, специализирующаяся на цифровых социальных сетях и психологии, сказала, что называть Адамса, созданного искусственным интеллектом, аватаром, как это делают некоторые в Интернете, смягчает то, что это такое.

“Его дипфейк«, — сказал Норт Business Insider.

По ее словам, самое тревожное – это то, как реалистичная имитация может возникнуть, когда семья скорбит, и потенциально может сказать то, чего реальный человек никогда бы не сказал. Норт добавил, что, поскольку многие американцы «выдают так много информации» с помощью приложений, которые фиксируют лица и голоса, а также вирусных викторин, собирающих личные данные, становится все легче воссоздать кого-то без разрешения.

«Меня это очень тревожит», — сказала она.

Бетси Розенблатт, интеллектуальная собственность юрист и профессор Университета Кейс Вестерн Резерв, сказала, что ее первой реакцией было то, что искусственный интеллект Адамса «в высшей степени неэтичен».

«Когда люди умирают, они умирают», — сказала она.

С юридической точки зрения, по ее словам, центральным вопросом является право на гласность — защита имени, изображения и изображения человека. Тем не менее, эти законы больше ориентированы на конфиденциальность и экономику, чем на горе.

Право на гласность «в основном связано с экономическими средствами правовой защиты», сказал Розенблатт.

Самые сильные претензии обычно связаны с деньгами: версия ИИ может нанести ущерб существующим сделкам, связанным с личностью Адамса, или помешать семье заключить свои собственные.

Розенблатт описал два потенциальных экономических ущерба: «Один заключается в том, что это может нанести ущерб некоторым финансовым соглашениям, которые у них уже есть. Во-вторых, это может помешать им заключить какое-то конкурентоспособное финансовое соглашение», — сказала она.

Учетная запись выглядит анонимной; однако это не обязательно предотвратит судебный иск.

«Вы можете подать в суд на кого-то, кто является анонимным», — сказал Розенблатт, и суды могут разрешить повестку в суд для раскрытия идентифицирующей информации, хотя это «не обязательно легко».

Юридический анализ также зависит от того, является ли аккаунт коммерческим. Суды часто спрашивают, предполагает ли речь коммерческую сделку.

По словам Розенблатта, если цифровая копия ничего не продает, она «с большей вероятностью будет считаться выражением, защищенным Первой поправкой» для анонимного создателя — это не «хлопок», а более сильный аргумент.

ИИ Адамс в начале своих роликов идентифицирует себя как искусственный интеллект и, похоже, не вымогает денег.

В сообщении от 1 февраля говорилось: «Первоначальный Скотт ушел, ушел в прошлое, но мышление сохранилось».

Согласие — это не то же самое, что контракт

Возражения поместья неуместно сочетаются с комментариями Адамса от 2021 года, предлагающими «явное разрешение» для его ИИ-версий.

Норт заявил, что небрежные замечания о технологиях не должны автоматически рассматриваться как обязательное разрешение. Адамс был «невероятно умным, невероятно творческий человек«которые часто раздвигают границы», — сказала она, и комментарии, сделанные в разговоре, «могут не иметь юридической силы в том смысле, в каком юридически обязательны контракты и права интеллектуальной собственности».

«Пусть это будет предупреждением для всех нас: будьте осторожны в своих словах, потому что теперь он поставил своих близких в трудное положение, поскольку они защищают его наследие», — сказал Норт.

Розенблатт сказал, что желания Адамса «определенно будут иметь значение в этическом смысле», но могут не иметь значения с юридической точки зрения, «если он не предоставит кому-то законное право сделать это».

Не существует всеобъемлющего федерального закона, регулирующего посмертное подобие ИИ, но некоторые штаты, например Нью-Йорк и Калифорния, недавно приняли законы, требующие согласия наследников или распорядителей имущества перед созданием. цифровые копии.

Помимо юридических вопросов, существует более глубокий этический вопрос: кто контролирует личность человека после его ухода?

Норт сказал, что люди «должны владеть правами на свою личность», и когда они умрут, эти права «должны перейти к нашим близким», а не стать свободными для всех. Она предупредила, что копии искусственного интеллекта могут выйти за рамки бренда или изменить общественную память.

«Шекспир всегда должен звучать как Шекспир», – сказала она. «Доктор Сьюз всегда должен звучать как доктор Сьюз».

На данный момент ИИ»Скотт Адамс«Борьба — это публичное упражнение одной семьи по проведению границ. Это также может быть предварительным просмотром более широкой расплаты в мире, где легко создать убедительные цифровые имитации — и где закон все еще пытается ответить, кто будет решать, продолжают ли мертвые говорить онлайн.