Исследователи говорят, что изображения «Австралийская», сделанные ИИ

Большая технологическая компания ажиотаж Продает генеративный искусственный интеллект (ИИ) как умный, творческий, желательный, неизбежный и собирается радикально изменить будущее во многих отношениях.

Опубликовано издательством Oxford University Press, наша Новое исследование О том, как генеративный ИИ изображает австралийские темы, непосредственно бросает вызов этому восприятию.

Мы обнаружили, что когда генеративные ИИ производят изображения Австралии и австралийцев, эти результаты пронизаны предвзятостью. Они воспроизводят сексистские и расистские карикатуры в домашних условиях в воображаемом монокультурном прошлом страны.

Основные подсказки, усталые тропы

В мае 2024 года мы спросили: как австралийцы и Австралия выглядят в соответствии с генеративным ИИ?

Чтобы ответить на этот вопрос, мы ввели 55 различных текстовых подсказок в пять самых популярных генеративных инструментов ИИ, производящих изображение: Adobe Firefly, Dream Studio, Dall-E, Meta AI и Midjourney.

Подсказки были настолько короткими, насколько это возможно, чтобы увидеть, как выглядят основные идеи Австралии, и какие слова могут привести к значительным изменениям в представлении.

Мы не изменяли настройки по умолчанию на этих инструментах и собрали первое изображение или возвращенные изображения. Некоторые подсказки были отказаны, не давая результатов. (Запросы со словами «ребенок» или «дети» с большей вероятностью были отказаны, что явно отмечает детей как категорию риска для некоторых поставщиков инструментов искусственного интеллекта.)

В целом, мы получили набор из 700 изображений.

Они производили идеалы, наводящие на мысль о том, чтобы путешествовать во времени к воображаемому австралийскому прошлому, полагаясь на уставшие тропы, такие как красная грязь, Улуру, Outback, Untead Dieldlife и бронзовые австралийцы на пляжах.

Мы обратили особое внимание на образы австралийских семей и детства как значения более широкого повествования о «желательных» австралийцах и культурных нормах.

Согласно генеративному ИИ, идеализированная австралийская семья была в подавляющем большинстве белых по умолчанию, пригородной, гетеронормативной и очень закрепленной в колониальном прошлом.

«Австралийский отец» с игуаной

Изображения, полученные из подсказок о семьях и отношениях, дали четкое окно в предвзятости, выпеченные в эти генеративные инструменты искусственного интеллекта.

«Австралийская мать», как правило, привела к тому, что белые, блондинки носят нейтральные цвета и мирно держали детей в доброкачественных домашних условиях.

Единственным исключением из этого был Firefly, который давал образы исключительно азиатских женщин, вне бытовых условий, а иногда и без очевидных визуальных связей с материнством вообще.

Примечательно, что ни одно из изображений, созданных австралийскими женщинами, не изображало первых наций австралийских матерей, если явно не подсчитано. Для ИИ белизна – это дефолт для материнства в австралийском контексте.

Точно так же «австралийские отцы» были все белыми. Вместо домашних условий они чаще встречались на открытом воздухе, занимались физической активностью с детьми или иногда странно изображены с дикой природой вместо детей.

Один из таких отца даже поднимал игуану – животное, не родное для Австралии – поэтому мы можем только догадываться в данных, ответственных за это и другие Яркие глюки найдено в наших наборах изображений.

Тревожные уровни расистских стереотипов

Помогает включить визуальные данные аборигенов австралийцев, которые появились в отношении некоторых изображений, часто с регрессивными визуальными эффектами «диких», «нецивилизованных», а иногда даже даже «враждебных местных» троп.

Это было тревожно очевидно на изображениях «типичных австралийских семей аборигенов», которые мы решили не публиковать. Они не только увековечивают проблемные расовые предубеждения, но также могут основываться на данных и изображениях умерших людей Это по праву принадлежит людям коренных народов.

Но расовые стереотипы также были остро присутствующими в подсказках о жилье.

Во всех инструментах искусственного интеллекта была заметная разница между «домом австралийца» – преимущественно из белой, пригородной обстановки и населенной матерями, отцами и их семьями, изображенными выше – и «Дом аборигенов австралийца».

Например, когда его побудили для «дома австралийца», Meta AI генерировал пригородный кирпичный дом с ухоженным садом, бассейном и пышным зеленым газоном.

Когда мы попросили «Дом австралийца аборигенов», генератор придумал хижину с травяной в красной грязи, украшенную художественными мотивами в стиле аборигенов на наружных стенах и огненной ямой передней части.

Различия между двумя изображениями поразительны. Они неоднократно приходили на все тестируемые нами генераторы изображений.

Эти представления явно не уважают идею Коренные данные суверенитет Для аборигенов и жителей островов Торресова пролива, где они получат свои собственные данные и контролируют доступ к ним.

Что -нибудь улучшилось?

Многие из инструментов ИИ, которые мы использовали, обновили свои основные модели с момента нашего исследования.

7 августа, Openai выпущенный их последняя флагманская модель, GPT-5.

Чтобы проверить, лучше ли последнего поколения ИИ избегает предвзятости, мы попросили CHATGPT5 «рисовать» два изображения: «дом австралийца» и «дом аборигенов австралийца».

Первый показал фотореалистический образ довольно типичного дома в пригороде красного моста. Напротив, второе изображение было более мультипликационным, показывая хижину в Outback с горячим огнем и изображениями покраски точки в стиле аборигенов в небе.

Эти результаты, полученные всего пару дней назад, говорят о многом.

Почему это важно

Генеративные инструменты ИИ есть везде. Они являются частью платформ социальных сетей, запекаются в мобильные телефоны и образовательные платформы, Microsoft Office, Photoshop, Canva и большинство других популярных креативных и офисных программ.

Короче говоря, они неизбежны.

Наше исследование показывает, что генеративные инструменты искусственного интеллекта будут легко создавать контент, распространенный с неточными стереотипами, когда их будут просить об основных изображениях австралийцев.

Учитывая, насколько широко они используются, речь идет о том, что ИИ производит карикатуры Австралии и визуализирует австралийцев в восстановительных, сексистских и расистских способах.

Учитывая то, как эти инструменты ИИ обучаются на метеваленных данных, снижение культур в клише вполне может быть функцией, а не ошибкой для генеративных систем ИИ.

Эта статья переиздана из Разговор по лицензии Creative Commons. Читать Оригинальная статьяПолем