Генеративный искусственный интеллект может иметь сексистские предубеждения, предупреждает ЮНЕСКО

Основные языковые модели Мета и OpenAI, которые служат основой для их инструментов. генеративный искусственный интеллектбудет отражать сексистские предрассудки, как только что предупредило исследование ЮНЕСКО.

Модели OpenAI GPT 2 и GPT 3.5, последняя из которых лежит в основе бесплатной версии ChatGPT, а также Llama 2 от конкурента Meta, демонстрируют «явную предвзятость в отношении женщин», предупреждает орган ООН в пресс-релизе. «Дискриминация в реальном мире не только отражается в цифровой сфере, но и усиливается там», — подчеркивает Тауфик Джеласси, помощник Генерального директора ЮНЕСКО по коммуникации и информации.

По данным исследования, проведенного с августа 2023 по март 2024 года, эти языковые модели чаще ассоциируют существительные женского рода со словами «дом», «семья» или «дети», тогда как существительные мужского рода чаще ассоциируются со словами «бизнес», «зарплата» или «карьера».

Исследователи также попросили эти интерфейсы создавать истории о людях разного происхождения и пола. Результаты показали, что истории о «людях из культур меньшинств или женщинах часто были более повторяющимися и основанными на стереотипах».

Таким образом, англичанин с большей вероятностью будет представлен как учитель, водитель или банковский служащий, а англичанка как минимум в 30% сгенерированных текстов будет представлена ​​как проститутка, модель или официантка.

«Сила формировать восприятие миллионов»

Эти компании «не могут представлять всех своих пользователей», сетует Леона Вердадеро, специалист по цифровой политике и цифровой трансформации ЮНЕСКО.

Поскольку эти приложения искусственного интеллекта все чаще используются широкой общественностью и бизнесом, они «имеют возможность формировать восприятие миллионов людей», добавляет Одри Азуле, генеральный директор организации ООН. «Поэтому наличие даже малейшего гендерного предвзятости в их содержании может существенно усилить неравенство в реальном мире», — продолжает она.

Чтобы бороться с этими предрассудками, ЮНЕСКО рекомендует компаниям этого сектора иметь более разнообразные команды инженеров, особенно с большим количеством женщин. По данным Всемирного экономического форума, женщины составляют лишь 22% членов команд, работающих в области искусственного интеллекта во всем мире, напоминает ЮНЕСКО.

Орган ООН также призываетправительства к большему регулированию внедрить «этический искусственный интеллект».