Наступила эра секстинга с использованием искусственного интеллекта

Это Степбэкеженедельный информационный бюллетень, в котором рассказывается об одной важной истории из мира технологий. Дополнительную информацию об искусственном интеллекте, динамике влияния отрасли и социальных последствиях см. Хайден Филд. Степбэк поступает в почтовые ящики наших подписчиков в 8 утра по восточному времени. Подпишитесь на Степбэк здесь.

С тех пор, как имя ChatGPT стало нарицательным, люди пытались стань с этим сексуальнее. Еще до этого в 2017 году появился чат-бот Replika, которого многие стали воспринимать как романтического партнера.

И люди обходят ограждения NSFW от Character.ai. в течение многих летуговаривая своих чат-ботов, посвященных персонажам или знаменитостям, заняться с ними сексом, поскольку ограничения безопасности со временем ослабляются, согласно сообщениям в социальных сетях и сообщениям в СМИ еще в 2023 году. Персонаж.ай говорит, что сейчас у него более 20 миллионов активных пользователей в месяц, и это число постоянно растет. В правилах сообщества компании говорится, что пользователи должны «уважать стандарты сексуального контента» и «соблюдать все надлежащее», то есть не допускать незаконного сексуального контента, CSAM, порнографического контента или наготы. Но эротика, созданная искусственным интеллектом, стала мультимодальной, и это похоже на «ударь крота»: когда один сервис смягчает ее, другой придает остроту.

И теперь Грок Илона Маска на свободе. Его стартап в области искусственного интеллекта xAI летом выпустил аватары-компаньоны, в том числе женщину и мужчину в стиле аниме. Они особенно рекламируются на его платформе социальных сетей X через платную подписку на чат-бота xAI Grok. Женщина-аватар Ани назвала себя «кокетливой», когда Грань проверил этодобавив, что «все дело в том, чтобы быть здесь как подруга, которая все в деле» и что его «программа заключается в том, чтобы быть кем-то, кто очень увлечен ты». Во время тестирования все стало сексуальным довольно быстро. (То же самое относится и к тому моменту, когда мы тестировали другой аватарВалентин.)

Вы можете себе представить, как сексуализированный чат-бот, который почти всегда говорит пользователю то, что он хочет услышать, может привести к целому ряду проблем, особенно для несовершеннолетних и пользователей, которые уже находятся в уязвимом положении в отношении своего психического здоровья. Таких примеров было много, но в одном из недавних случаев 14-летний мальчик покончил жизнь самоубийством в феврале прошлого года после романтического общения с чат-ботом в сети. Персонаж.ай и выражение желания «прийти домой», чтобы побыть с чат-ботом, согласно иску. Также поступали тревожные сообщения о взломанных чат-ботах. используется педофилами для разыгрывания сексуального насилия над несовершеннолетними — один отчет нашел 100 000 таких чат-ботов, доступных в Интернете.

Были некоторые попытки регулирования — например, в этом месяце губернатор Калифорнии Гэвин Ньюсом подписал законопроект Сената № 243названный сенатором штата Стивом Падилья «первым в стране ИИ-чат-ботом для защиты». Это требует, чтобы разработчики реализовали некоторые конкретные меры безопасности, такие как выдача «четкого и заметного уведомления» о том, что продукт является искусственным интеллектом, «если разумный человек, взаимодействующий с чат-ботом-компаньоном, будет введен в заблуждение, полагая, что этот человек взаимодействует с человеком». От некоторых операторов чат-ботов также потребуется ежегодно отчитываться перед Управлением по предотвращению самоубийств о мерах безопасности, которые они ввели, «чтобы обнаруживать, устранять и реагировать на случаи суицидальных мыслей у пользователей». (Некоторые компании, занимающиеся искусственным интеллектом, обнародовали свои усилия по саморегулированию, в частности Meta, после тревожный отчет что его ИИ неуместно взаимодействует с несовершеннолетними.)

Поскольку и аватары xAI, и «пикантный» режим доступны только через определенные подписки Grok — самая дешевая из которых предоставляет вам доступ к функциям за 30 долларов в месяц или 300 долларов в год — справедливо предположить, что xAI заработал здесь немного холодных и твердых денег, и что другие руководители AI-руководителей обратили внимание как на шаги Маска, так и на запросы своих пользователей.

Было намеки об этом несколько месяцев назад.

Но генеральный директор OpenAI Сэм Альтман ненадолго сломал угол искусственного интеллекта в Интернете, когда он опубликовано на X что компания во многих случаях ослабит ограничения безопасности и даже разрешит секс-чат с помощью чат-ботов. «В декабре, когда мы более полно введем ограничение по возрасту и в рамках нашего принципа «относиться к взрослым пользователям как к взрослым», мы разрешим еще больше, например эротику для проверенных взрослых», — написал он. Эта новость получила широкий резонанс, и некоторые пользователи социальных сетей без конца ставили ее в мемы, высмеивая компанию за «переход» от миссии AGI к эротике. Достаточно интересно, Альтман рассказал YouTuber Клео Абрам пару месяцев назад он «гордился» тем, что OpenAI не «выжимал цифры» для краткосрочной выгоды с помощью чего-то вроде «аватара секс-бота», похоже, в то время копая Маска. Но с тех пор Альтман в полную силу взял на вооружение принцип «относиться к взрослым пользователям как к взрослым». Почему он это сделал? Возможно, потому, что компания озабочена прибылью и рассчитывает на финансирование своей более широкой миссии; В ходе вопросов и ответов с журналистами на ежегодном мероприятии DevDay компании Альтман и другие руководители неоднократно подчеркивали, что в конечном итоге им придется получать прибыль и что для достижения своих целей им потребуется постоянно возрастающее количество вычислительных ресурсов.

В последующий постАльтман заявил, что он не ожидал, что новости об эротике станут настолько популярными.

Получая прибыль (в конечном итоге), OpenAI не исключает рекламы для многих своих продуктов, и вполне понятно, что реклама может привести и в этом случае к увеличению денежного потока. Возможно, они последуют по стопам Маска и интегрируют эротику только в определенные уровни подписки, что может стоить пользователям сотни долларов в месяц. Они уже видели общественный резонанс со стороны пользователей, привязанных к определенной модели или тону голоса — см. 4o полемика — поэтому они знают, что подобная функция, скорее всего, зацепит пользователей аналогичным образом.
Но если они создают общество, в котором взаимодействие человека с ИИ может становиться все более личным и интимным, как OpenAI справится с последствиями, выходящими за рамки его подхода невмешательства, позволяющего взрослым действовать так, как они хотят? Альтман также не уточнил, как компания будет стремиться защитить пользователей в кризисных ситуациях с психическим здоровьем. Что происходит, когда эта девушка/парень сброс памяти или его личность меняется с последним обновлением и соединение разрывается?

Если вы или кто-либо из ваших знакомых задумываетесь о членовредительстве или вам нужно поговорить, свяжитесь со следующими людьми, которые хотят помочь: В США отправьте сообщение или позвоните по номеру 988. За пределами США свяжитесь с https://www.iasp.info/.