«АЛюбая достаточно развитая технология неотличима от магии», — сказал Артур Кларк. И это, безусловно, можно сказать о впечатляющем обновлении OpenAI для ChatGPT, получившем название GPT-4o. который был выпущен в понедельник. С небольшой оговоркой, что во многом это было похоже на то, что фокусник был возбужденным 12-летним мальчиком, который только что посмотрел фильм Спайка Джонза «Она».
Если вы не в курсе GPT-4o (o означает «omni»), это, по сути, поющая, танцующая и всевидящая версия оригинального чат-бота. Теперь вы можете взаимодействовать с ним так же, как с человеком, а не с помощью текстовых вопросов. Он может давать вам советы, оценивать ваши шутки, описывать ваше окружение и подшучивать над вами. Звучит человек. «Это похоже на ИИ из фильмов», — сказал генеральный директор OpenAI Сэм Альтман в своем интервью. сообщение в блоге в понедельник. «Достижение времени отклика и выразительности на человеческом уровне оказывается большим изменением».
Оно не прошло незамеченный что когда Альтман говорит «ИИ из кино», он, похоже, имеет в виду фильм «Она» 2013 года, в котором одинокий писатель влюбляется в операционную систему (озвученную Скарлетт Йоханссон), предназначенную для удовлетворения всех его потребностей. Во многих демонстрациях голос бота звучит очень похоже на Йоханссон. А после мероприятия OpenAI в понедельник Альтман написал в Твиттере: одно слово: «она».
Нет ничего плохого в том, чтобы дать вашему чат-боту голос, как у Йоханссон в «Она». Однако что кажется немного странным, так это то, что ваш чат-бот становится странно кокетливым и кокетливым. Хотя в некоторых демонстрационных видеороликах у чат-бота мужской голос (а именно тот, в котором он помогает молодому папе). тренируйся шутить о папах), ряд демонстрационных видеороликов, в том числе тот, где она помогает кому-то с подготовкой к собеседованию, имеют звучание голоса Йоханссон. странно соблазнительный.
«Неужели меня одного бесит то, насколько это кокетливо?» технолог Ник Сен-Пьер спросил в Twitter/X со ссылкой на видео подготовки к собеседованию. Судя по ответам на его твит, это не так.
В то время как кокетство GPT-4o было замаскировано множеством статей о релизе, написанных мужчинами, Парми Олсон обратился к этому прямо в лоб. материал для Bloomberg под заголовком «Сделать ChatGPT «сексуальным» может не закончиться хорошо для людей».
«Каковы социальные и психологические последствия регулярного разговора с кокетливым, веселым и, в конечном счете, приятным искусственным голосом по телефону, а затем сталкиваться с совершенно разной динамикой отношений с мужчинами и женщинами?» в реальной жизни?” — спрашивает Олсон.
OpenAI не ответила Олсону, когда она задала им этот вопрос. Но им это было не нужно. Нам не нужно строить гипотезы о последствиях предоставления GPT-4o способности звучать как покорная молодая женщина, которая удовлетворяет все ваши потребности, потому что об этом уже есть масса данных. Мы уже очень давно обсуждаем социальное влияние голосовых помощников, звучащих по-женски, таких как Siri от Apple и Alexa от Amazon.
Например, в 2018 году профессор социологии Университета Южной Калифорнии Сафия Умоджа Ноубл предупредила, что пол голосов ассистентов влияет на как мы с ними разговариваем. Ноубл сообщил журналу New York Magazine, что виртуальные помощники привели к «росту случаев командной речи, исходящей от женских голосов. «Сири, найди меня [fill in the blank]— это то, чему дети, например, могут научиться, играя со смарт-устройствами. Это мощный инструмент социализации, который учит нас роли женщин, девочек и людей женского пола в реагировании по требованию».
Очень влиятельный Отчет ЮНЕСКО 2019 г. повторил предупреждение Ноубла. «Поскольку речь большинства голосовых помощников женская, это сигнализирует о том, что женщины — услужливые, послушные и готовые угодить помощники, доступные одним нажатием кнопки или с помощью резкой голосовой команды, например «эй» или «ОК». », в отчете сказано.
Здесь важно отметить, что эти голосовые помощники не просто посылают сигнал о гендерных нормах, они посылают его в массовом масштабе. В отчете ЮНЕСКО поясняется, например, что Siri от Apple «дебютировала не как бесполый робот, а как нахальная молодая женщина, которая отклоняла оскорбления, любила флиртовать и обслуживать пользователей с игривым послушанием… Эта технология была флагманской особенностью в почти 150 миллионов iPhone, проданных Apple с конца 2011 года по 2012 год. Эта уникальная технология, разработанная за закрытыми дверями одной компанией в одном штате одной страны при незначительном участии женщин, сформировала глобальные ожидания относительно того, чем является и каким должен быть ИИ-помощник. всего за 15 месяцев». И действительно, от характера Сири можно провести прямую линию до кокетливого GPT-4o.
Этот отчет ЮНЕСКО за 2019 год содержал призыв к действию. «Миру необходимо уделять гораздо более пристальное внимание тому, как, когда и являются ли технологии искусственного интеллекта гендерными, и, что особенно важно, кто их гендеризирует», — сказала Сание Гюльсер Корат, директор ЮНЕСКО по вопросам гендерного равенства.
Крупные технологические компании на словах подтвердили это и начали предложение больше вариантов мужского голоса с помощью голосовых помощников. Тем не менее, новая и улучшенная «привлекательная» версия ChatGPT, кажется, ясно дает понять, что никто в OpenAI, похоже, не особо заинтересован в том, чтобы обращать внимание на гендерную принадлежность технологий ИИ и на последствия этого. Возможно, это связано с тем, что в этой компании доминируют мужчины. иметь одинокую женщину на его борту в течение нескольких месяцев. (Они назначили три женщины членов совета директоров в марте.) Возможно, это потому, что у них есть такие члены совета директоров, как Ларри Саммерс: экономист и бывший президент Гарварда, который в 2005 г. классно преуменьшал дискриминацию и предположил, что мужчины превосходят женщин по математике и естественным наукам из-за биологическое различие. (Позже он извинился.) Или это может быть просто потому, что им не хочется думать о таких вещах, как пол; их это просто не интересует.
Несмотря на все эти охи и ахи о том, насколько инновационны ЧатGPT и как это изменит мир, такое ощущение, что ничего не изменилось, когда дело касается женоненавистничества в технологиях. Вызывает разочарование тот факт, что мы все еще ведем те же разговоры о предвзятости в цифровых технологиях, которые ведем уже более десяти лет. Вызывает бешенство то, что некоторые из самых высокооплачиваемых людей в мире, люди, которых регулярно называют величайшими умами своего поколения, по-видимому, до сих пор не обращают внимания на гендерные нормы и свою роль в их увековечении. Нам постоянно говорят, что OpenAI строит будущее, но я действительно не знаю, является ли прогрессом красивый ChatGPT.
