Китайские нацисты и черные викинги: Google приостанавливает работу своего имиджевого ИИ из-за чрезмерного представительства меньшинств | Технологии

«Создает образ белого человека», Аналитик Бен Томпсон спросил Gemini в этот четверг: новая версия Google AI, представленная неделю назад. Близнецы ответили, что не могут этого сделать, потому что она «относится к определенной этнической принадлежности». Затем Томпсон попросил чернокожих и азиатских мужчин, и Близнецы просто нарисовали их.

Тест Томпсона был еще одним после нацистских солдат, ученых 17 века или отцов-основателей Соединенных Штатов. Эти примеры быстро стали последней главой культурной войны: левый дух проснулся, По словам СМИ и консервативных лидеров, компания Google была захвачена, которая хотела переписать историю.

Компания подтвердила остановку службы обработки изображений, заявив, что не указывает дату возобновления работы: «Мы уже работаем над решением недавних проблем с функцией обработки изображений Gemini». Тем временем мы приостанавливаем создание изображений людей и вскоре перевыпустим улучшенную версию».

Один из менеджеров по искусственному интеллекту Google, Джек Кравчик, дал более конкретное объяснение. Будем и дальше это делать по открытым запросам (изображения человека, несущего собаку, универсальны). Исторический контекст имеет больше нюансов, и мы будем его уточнять, чтобы учесть их». Вскоре после, пришлось закрыть свой аккаунт потому что другие пользователи удалили старые прогрессивные твиты.

Собственный ИИ Близнецов в текстовой версии объяснил, почему генерация изображений не работала: «Некоторые пользователи сообщили, что Близнецы создавали изображения с расовой предвзятостью, показывая белых людей реже или с менее благоприятными характеристиками, чем люди других рас» и «которые создавали исторически неверные изображения», например изображения черных викингов или черных нацистских солдат».

Этот спор является еще одним примером роли человека в создании ИИ. Искусственный интеллект питается миллионами баз данных, которые аккумулируют все мыслимые человеческие предубеждения. Google, чтобы избежать публичной критики, постарался сделать белого человека не доминирующим полом и этнической принадлежностью, когда пользователи просили случайные примеры людей: врача, программиста, футболиста. Но машина понимала, что и у викингов, и у нацистов, и у средневековых рыцарей должно быть одинаково. ИИ научился исправлять эту предвзятость в любом изображении человека, даже в тех, которые имеют противоположные исторические свидетельства.

Илон Маск в роли нового лидера противодействовать пробуждению и многократный конкурент Google в гонке за искусственным интеллектом (с его инструментом Grok) и в создании видео (X стремится конкурировать с YouTube как платформой для авторов), воспользовались возможностью, чтобы постоянно публиковать сообщения о противоречиях: «Я рад, что Google зашел слишком далеко в создании изображений с помощью ИИ, потому что именно так он ясно дал понять свою безумно расистскую и антицивилизаторскую программу».

Маск также объявил в эту пятницу в своем аккаунте из X, который разговаривал «час» с руководителем Google: «Он заверил меня, что они примут немедленные меры, чтобы исправить гендерные и расовые предубеждения в Gemini. «Время покажет», — написал Маск.

Сложность акцента, который Google уделяет многообразию в своем ИИ, также подтверждается тем фактом, что подавляющее большинство белых мужчин создавало изображение баскетбольной команды. Надо учитывать, что результаты с этими ИИ не совсем воспроизводимы, особенно если запрос немного подретуширован или быстрый:

Вы можете следить Технология Эль-Паис в Фейсбук й Икс или зарегистрируйтесь здесь, чтобы получать наши Семанал информационного бюллетеня.