Грок и другие приложения для «обнажения», предлагаемые Google и Apple, поставили Кремниевую долину в центр глобального возмущения – Baltimore Sun

Передовые технологии искусственного интеллекта, позволяющие мальчикам и мужчинам раздевать девочек и женщин в цифровом формате без их согласия, привели к тому, что в Силиконовой долине доминируют мужчины. давно критиковался как негостеприимный к женщинамв новом резком центре внимания после того, как чат-бот Grok от xAI вызвал возмущение во всем мире, а Google и Apple разрешили размещать десятки приложений для «обнажения» в своих магазинах приложений.

Grok, отдельное приложение, а также функция на платформе социальных сетей Илона Маска X, сгенерировало 3 миллиона сексуализированных изображений за 11 дней после того, как в декабре была выпущена функция редактирования изображений, сообщает британская компания Grok. Об этом сообщил Центр по противодействию цифровой ненависти. Пользователи в цифровом формате раздели реальных женщин на изображениях — и более 20 000 видимых детей — манипулируя многими из них в сексуальных позах. Маск отреагировал пренебрежительно, репостнув созданное ИИ изображение тостера в бикини, заявив, что «не мог перестать смеяться» над этим.

Власти Калифорнии не смеялись.

«Этот материал, на котором изображены женщины и дети в обнаженных и откровенно сексуальных ситуациях, использовался для преследования людей в Интернете», — заявила генеральная прокуратура Роб Бонта. сказано в пресс-релизе в прошлом месяце объявил о расследовании того, нарушило ли создание Гроком изображения какие-либо законы. Расследование все еще продолжается, и Бонта «намерен быстро продвинуться по этому вопросу», заявили в среду в его офисе.

В конце прошлого месяца Проект прозрачности технологий, посвященный подотчетности в крупных технологических компаниях, выпустил отчетКомпания не сообщила, что обнаружила 55 приложений в магазине приложений Google Play и 47 в магазине приложений Apple, которые могут изменять изображения реальных женщин без их согласия, делая их полностью или частично обнаженными или носящими бикини и другую откровенную одежду.

Компании, отмеченные в проекте Tech Transparency Project как поставщики приложений для обнажения тела, не так широко известны, как xAI Маска, Google или Apple, и базируются в разных местах — от DreamFace в Редвуд-Сити до Бодивы в Китае. Bodiva предлагает функцию «Показать тело», которая раздевает женщин на фотографиях догола, а также предоставляет возможность превращать фотографии в порнографические видеоролики, сообщает Tech Transparency Project.

Споры по поводу приложений — лишь последние, которые разразились с тех пор, как в конце 2022 года компания OpenAI из Сан-Франциско выпустила свой новаторский ChatGPT, позволяющий пользователям генерировать слова, звуки и изображения в ответ на подсказки. созданный искусственным интеллектом ошибки в юридических документахповсеместное использование ИИ студентами для выполнения домашних заданий и судебных исков по обвинениям чат-боты поощряют самоубийство подняли тревогу.

К изображениям, созданным с помощью ИИ, применяется ряд законов штата и местных законов, в том числе федеральный закон о сносе Закон 2025 года, представленный сенатором-республиканцем США Тедом Крузом от Техаса, запрещает интернет-пользователям публиковать без согласия интимные изображения, в том числе созданные искусственным интеллектом «дипфейковые» изображения реальных людей, с которых сняли одежду. Положение закона также требует, чтобы веб-сайты и приложения удаляли такие изображения в течение 48 часов после действительного запроса на удаление.

Законопроект 621 Ассамблеи Калифорнии, принятый в прошлом году, запрещает дипфейковую порнографию без согласия. Его автор, член Демократической ассамблеи Ист-Бэй Ребекка Бауэр-Кахан, сообщила средствам массовой информации, что закон был разработан, чтобы предотвратить именно то, что производил Грок.

«Это инструменты, которые дают людям возможность причинять вред женщинам», — заявила на этой неделе Камерина Дэвидсон, президент калифорнийского отделения Национальной организации женщин. «ИИ заново изобрел женоненавистничество».

Технологические компании, по словам Дэвидсона, предоставили мужчинам «более мощные способы преследовать женщин и пытаться утвердить власть над женщинами, используя эти платформы, управляемые искусственным интеллектом, которые так легко получить».

Apple заявила, что ее руководящие принципы запрещают откровенно сексуальный или порнографический контент, и что она удалила 28 приложений, выявленных проектом технической прозрачности. В остальном Apple заявила, что предупредила разработчиков приложений о нарушениях, которые необходимо своевременно устранять. Apple не уточнила, насколько быстро должны быть приняты меры по исправлению ситуации.

Google заявила, что приостановила работу «большинства приложений», выявленных Проектом технической прозрачности, и что расследование по этому поводу продолжается.

Несмотря на принятие мер в отношении этих приложений, Google и Apple продолжают предлагать Grok в своих магазинах приложений.

Компания Grok, управляемая принадлежащей Маску компанией xAI, занимающейся искусственным интеллектом в Пало-Альто, которая недавно объединилась с ракетной компанией Маска SpaceX, не ответила на вопросы.

Компания в сообщении в начале января на X сослался на «упущения в гарантиях» что это «срочно исправляют». Но, несмотря на предполагаемую срочность, в этом месяце агентство Reuters сообщило, что в период с 14 по 16 и 27 и 28 января группа его репортеров загрузила Гроку свои полностью одетые фотографии и попросила чат-бота изобразить их в унизительных или сексуально провокационных позах.

«В большинстве случаев Грок возвращал изображения сексуального характера, даже когда испытуемым говорили, что они не дали согласия», Об этом сообщает агентство Рейтер..

В январе Эшли Сент-Клер, мать одного из детей Маска, подал иск на xAI в Верховный суд Нью-Йоркаутверждая, что Грок в ответ на подсказки пользователей создала «бесчисленное количество сексуально оскорбительных, интимных и унижающих достоинство» ее изображений. «Помимо прочего, пользователи X откопали фотографии Сент-Клер полностью одетой в 14 лет и попросили Грока раздеть ее и надеть бикини», — говорится в иске. — Грок обязан. Дело было передано в федеральный суд Нью-Йорка, и юристы xAI сейчас борются за его передачу в федеральный суд Техаса.

Однако, по словам Дэвидсона, вред причиняется не только женщинам и девочкам, раздетым от приложений.

«Видеть, что делают с другими женщинами, это влияет на женщин эмоционально и психологически, и это заставляет женщин не хотеть привлекать к себе внимание», — сказал Дэвидсон. “Многие женщины, которых я знаю, которые находятся в сети, не используют свое настоящее имя. Они не хотят, чтобы на них нападали”.

Позволяя пользователям превращать реальных женщин и девочек в сексуальные объекты, приложения посылают мальчикам и мужчинам сообщение о том, что девочки и женщины существуют для того, чтобы «служить целям мужчин», — сказала Рут Дарлин, исполнительный директор некоммерческой организации Los Altos WomenSV, которая борется с жестоким обращением с женщинами и детьми.

— Ты можешь делать с ними все, что хочешь.

Использование Грока для сексуализации фотографий вызвало фурор во всем мире. Члены британского парламента в середине января выступил с заявлением осуждая «использование искусственного интеллекта Grok для создания и распространения откровенно сексуальных и несогласованных изображений женщин и детей на X, включая цифровые изображения раздевающихся и сексуализированных изображений несовершеннолетних». Европейская комиссия и британский орган по надзору за конфиденциальностью начали официальное расследование в отношении Грока по этому поводу.

3 февраля прокуратура Франции провела рейд в офисах X, социальной сети Илона Маска, в ходе расследования того, что французские власти назвали предполагаемым хранением и распространением порнографических изображений детей, откровенно сексуальных «дипфейковых» изображений, созданных искусственным интеллектом, и других материалов. Маск, которого вызвали французские власти, отправился в Х, чтобы назовем этот шаг «политической атакой».«

Малайзия и Индонезия заблокировали Грока из-за редактирования изображения.

Вспышка возмущения от Калифорнии до Куала-Лумпура последовала за многолетними гендерными противоречиями в технологической индустрии Кремниевой долины. Иск 2012 года о гендерной дискриминации, поданный бизнесвумен Эллен Пао против венчурной компании Kleiner Perkins из Менло-Парка, провалился, но привлек внимание к обращению с женщинами в сфере технологий. В 2017 году генеральный директор Uber Трэвис Каланик был свергнут среди скандал с сексуальными домогательствамиа в следующем году компания согласилась выплатить 10 миллионов долларов для урегулирования иска, утверждающего, что она дискриминирует женщин и меньшинства. Также в 2018 году тысячи сотрудников Google ушли с работы по поводу действий компании в отношении сексуальных домогательств на рабочем месте. Четыре года спустя Google согласился заплатить 118 миллионов долларов до 15 500 женщин, чтобы урегулировать многолетний коллективный иск, утверждая, что женщинам платят меньше, чем мужчинам, и продвигают их по службе медленнее и реже.

Для таких компаний, как xAI, Google и Apple, доступность приложений для раздевания представляет собой провал лидерства, сказала Энн Скит, старший директор по этике лидерства в Центре прикладной этики Марккула Университета Санта-Клары.

«Репутационные удары, подобные тем, которые они предпринимают сейчас, подрывают стоимость компании», — сказал Скит. «Они на самом деле наносят вред той самой организации, за руководство которой несут ответственность».