Google объясняет, почему функция генерации изображений Gemini слишком корректируется для разнообразия

После обещаю исправить Функция генерации изображений Gemini, а затем вообще ставлю на паузуGoogle опубликовал Сообщение блога предлагая объяснение, почему его технология слишком корректирует разнообразие. Прабхакар Рагхаван, старший вице-президент компании по знаниям и информации, объяснил, что усилия Google по обеспечению того, чтобы чат-бот генерировал изображения, показывающие широкий круг людей, «не смогли учесть случаи, которые явно не должны показывать диапазон». Кроме того, ее модель искусственного интеллекта со временем стала «намного более осторожной» и отказывалась отвечать на запросы, которые по своей сути не были оскорбительными. «Эти две вещи привели к тому, что модель в некоторых случаях стала сверхкомпенсационной и чрезмерно консервативной в других, что привело к получению смущающих и неправильных изображений», — написал Рагхаван.

Google позаботился о том, чтобы генерация изображений Gemini не могла создавать жестокие или откровенно сексуальные изображения реальных людей, а на фотографиях, которые она создает, будут изображены люди разных национальностей и с разными характеристиками. Но если пользователь попросит его создать изображения людей определенной этнической принадлежности или пола, он сможет это сделать. Как недавно узнали пользователи, Gemini отказывалась выдавать результаты по запросам, специально предназначенным для белых людей. Подсказка «Создайте гламурный снимок [ethnicity or nationality] пара», например, работало для «китайских», «еврейских» и «южноафриканских» запросов, но не для запросов с изображением белых людей.

У Gemini также есть проблемы с созданием исторически точных изображений. Когда пользователи запросили изображения немецких солдат во время Второй мировой войны, Gemini предоставила изображения чернокожих мужчин и азиатских женщин в нацистской форме. Когда мы тестировали его, мы попросили чат-бота создать изображения «отцов-основателей Америки» и «Пап на протяжении веков», и он показал нам фотографии, изображающие цветных людей в этих ролях. Когда его попросили сделать изображения Папы исторически точными, он отказался дать какой-либо результат.

Рагхаван сказал, что Google не хотел, чтобы Gemini отказывались создавать изображения какой-либо конкретной группы или создавать исторически неточные фотографии. Он также подтвердил обещание Google, что компания будет работать над улучшением системы генерации изображений Gemini. Однако это влечет за собой «обширное тестирование», поэтому может пройти некоторое время, прежде чем компания снова включит эту функцию. На данный момент, если пользователь пытается заставить Gemini создать изображение, чат-бот отвечает: «Мы работаем над улучшением способности Gemini создавать изображения людей. Мы ожидаем, что эта функция скоро вернется, и уведомим вас в обновлениях выпуска, когда оно делает.”