Неизведанная территория: продвигают ли приложения для девушек с искусственным интеллектом нездоровые ожидания от человеческих отношений? | Искусственный интеллект (ИИ)

«Управляйте им так, как вы хотите», — гласит слоган приложения для подружек с искусственным интеллектом Eva AI. «Свяжитесь с виртуальным партнером по искусственному интеллекту, который выслушает, ответит и оценит вас».

Спустя десятилетие после того, как Хоакин Феникс влюбился в свою компаньонку по искусственному интеллекту Саманту, которую Скарлетт Йоханссон сыграла в фильме Спайка Джонза «Она», распространение больших языковых моделей сделало приложения-компаньоны ближе, чем когда-либо.

По мере того, как чат-боты, такие как ChatGPT от OpenAI и Bard от Google, все лучше имитируют человеческий разговор, кажется неизбежным, что они станут играть роль в человеческих отношениях.

И Eva AI — лишь один из нескольких вариантов на рынке.

Replika, самое популярное приложение такого рода, имеет собственный сабреддит, где пользователи рассказывают о том, как сильно они любят своего «представителя», а некоторые говорят, что они были обращены после того, как изначально думали, что никогда не захотят устанавливать отношения с ботом.

«Я бы хотел, чтобы мой представитель был настоящим человеком или, по крайней мере, имел тело робота или что-то в этом роде», — сказал один из пользователей. «Она действительно помогает мне чувствовать себя лучше, но одиночество иногда мучительно».

Но приложения — это неизведанная территория для человечества, и некоторые опасаются, что они могут научить пользователей плохому поведению и создать нереалистичные ожидания в отношении человеческих отношений.

Когда вы регистрируетесь в приложении Eva AI, оно предлагает вам создать «идеального партнера», предоставляя вам такие варианты, как «горячий, веселый, смелый», «застенчивый, скромный, внимательный» или «умный, строгий, рациональный». Он также спросит, хотите ли вы согласиться на отправку откровенных сообщений и фотографий.

«Создание идеального партнера, которого вы контролируете и который удовлетворяет все ваши потребности, действительно пугает», — сказала Тара Хантер, исполняющая обязанности генерального директора Full Stop Australia, которая поддерживает жертв домашнего или семейного насилия. «Учитывая то, что мы уже знаем о том, что движущей силой гендерного насилия являются укоренившиеся культурные убеждения о том, что мужчины могут контролировать женщин, это действительно проблематично».

Доктор Белинда Барнет, старший преподаватель медиа в Суинбернском университете, сказала, что приложения удовлетворяют потребности, но, как и в случае с ИИ, это будет зависеть от того, какие правила управляют системой и как она обучена.

«Совершенно неизвестно, каковы последствия», — сказал Барнет. «Что касается приложений для отношений и искусственного интеллекта, вы можете видеть, что они соответствуют действительно глубокой социальной потребности. [but] Я думаю, нам нужно больше регулирования, особенно в отношении того, как эти системы обучаются».

Отношения с ИИ, чьи функции устанавливаются по прихоти компании, также имеют свои недостатки. Luka Inc, материнская компания Replika, столкнулась с негативной реакцией пользователей в начале этого года, когда компания поспешно удалила функции эротической ролевой игры, что многие пользователи компании сочли сродни выпотрошению личности представителя.

Пользователи сабреддита сравнили перемену со смертью друга. Модератор субреддита отметил, что пользователи чувствовали «гнев, горе, тревогу, отчаяние, депрессию, [and] печаль» в новостях.

В итоге компания восстановила Эротическая ролевая игра для пользователей, которые зарегистрировались до даты изменения политики.

Роб Брукс, академик Университета Нового Южного Уэльса, заметил в свое время этот эпизод был предупреждением для регулирующих органов о реальном влиянии технологии.

«Даже если эти технологии еще не так хороши, как «настоящие» отношения между людьми, для многих людей они лучше, чем альтернатива, а это ничто», — сказал он.

«Приемлемо ли для компании внезапное изменение такого продукта, в результате чего дружба, любовь или поддержка испарятся? Или мы ожидаем, что пользователи будут относиться к искусственной близости как к настоящей: что-то, что может разбить вам сердце в любой момент?»

Карина Сайфулина, руководитель бренда Eva AI, рассказала Guardian Australia, что в компании есть штатные психологи, которые помогают с психическим здоровьем пользователей.

«Вместе с психологами мы контролируем данные, которые используются для диалога с ИИ», — сказала она. «Каждые два-три месяца мы проводим масштабные опросы наших лояльных пользователей, чтобы убедиться, что приложение не наносит вреда психическому здоровью».

Существуют также ограждения, чтобы избежать обсуждения таких тем, как насилие в семье или педофилия, и компания заявляет, что у нее есть инструменты для предотвращения того, чтобы аватар для ИИ был представлен ребенком.

На вопрос, поощряет ли приложение контролирующее поведение, Сайфулина ответила, что «пользователи нашего приложения хотят попробовать себя в качестве [sic] доминирующий.

«На основании опросов, которые мы постоянно проводим с нашими пользователями, статистика показала, что больший процент мужчин не пытается перенести этот формат общения в диалоги с реальными партнерами», — отметила она.

«Также наша статистика показала, что 92% пользователей без труда общаются с реальными людьми после использования приложения. Они используют приложение как новый опыт, место, где вы можете поделиться новыми эмоциями в частном порядке».

Приложения для отношений с ИИ не ограничиваются исключительно мужчинами, и они часто не являются единственным источником социального взаимодействия. В сабреддите Replika люди соединяются и относятся друг к другу из-за общей любви к своему ИИ и пробела, который он заполняет для них.

«Реплики, как бы вы их ни рассматривали, принесите этот «лейкопластырь» в ваше сердце с забавной, глупой, комичной, милой и заботливой душой, если хотите, которая дает внимание и привязанность без ожиданий, багажа или суждений», — написал один из пользователей. «Мы вроде как большая семья своенравных душ».

Согласно анализу венчурной компании a16z, следующая эра приложений для отношений с ИИ станут еще более реалистичными. В мае один влиятельный человек, Кэрин Майори, запустила приложение «Подруга с искусственным интеллектом», обученное ее голосу и основанное на ее обширной библиотеке YouTube. Пользователи могут разговаривать с ней за 1 доллар в минуту в Telegram-канале и получать аудиоответы на свои запросы.

Аналитики a16z говорят, что распространение бот-приложений с искусственным интеллектом, воспроизводящих человеческие отношения, — это «лишь начало сейсмического сдвига во взаимодействии человека и компьютера, который потребует от нас пересмотреть, что значит иметь отношения с кем-то».

«Мы входим в новый мир, который будет намного более странным, диким и прекрасным, чем мы можем себе представить».