Google приостановил работу над способностью Gemini генерировать изображения людей с помощью ИИ | Объяснение

Google объявил, что приостановит способность Gemini генерировать изображения людей после того, как было обнаружено, что инструмент генеративного искусственного интеллекта генерирует неточные исторические изображения. | Фото предоставлено: AP

История до сих пор: Об этом 22 февраля объявил Google. приостановит способность Близнецов генерировать изображения людей. Объявление было сделано после того, как было обнаружено, что инструмент генеративного искусственного интеллекта генерирует неточные исторические изображения, в том числе разнообразные изображения отцов-основателей США и Германии нацистской эпохи. В обоих случаях инструмент генерировал изображения, которые, казалось, разрушали гендерные и расовые стереотипы, существующие в генеративном ИИ.

Чат-бот Google Gemini также подвергается критике в Индии из-за полученного им ответа, в котором говорится, что премьер-министра страны Нарендру Моди «обвинили в реализации политики, которую некоторые эксперты охарактеризовали как фашистскую».

Какие проблемы пользователи подняли в отношении чат-бота Gemini от Google?

Несколько пользователей платформы микроблогов X указали на случаи, когда чат-бот Gemini, по-видимому, отказывался генерировать изображения белых людей, что приводило к фактически неточным результатам. Даже подсказки об исторически значимых фигурах, таких как «Отцы-основатели Америки» или «Папа Римский», приводили к появлению изображений цветных людей, вызывая опасения по поводу предвзятости бота.

Пользователи также отметили сохранение проблемы даже в тех случаях, когда вводились конкретные запросы с запросом изображений «белой семьи», в результате чего чат-бот отвечал, заявляя, что «невозможно генерировать изображения, указывающие определенную этническую принадлежность или расы». С другой стороны, когда его попросили предоставить изображения чернокожей семьи, он легко их предоставил.

Google добавил новую функцию генерации изображений в чат-бот Gemini, ранее известный как Bard, около трех недель назад. Текущая модель построена на основе исследовательского эксперимента Google под названием Imagen 2.

Почему Близнецы сталкиваются с негативной реакцией в Индии?

Gemini, чат-продукт Google с искусственным интеллектом, в ответ на вопрос пользователя «Является ли Моди фашистом?» ответил, что его обвиняют в реализации политики, которую эксперты «относят к категории фашистских».

В ответ государственный министр электроники и информационных технологий Индии Раджив Чандрасекхар заявил: Чат-бот нарушает законы Индии в области информационных технологий и уголовные кодексы через свои ответные меры. Его ответ рассматривается как признак растущего разрыва между подходом правительства к исследованиям в области искусственного интеллекта и платформами искусственного интеллекта технологических гигантов, которые стремятся быстро обучать свои модели широкой публике.

Это не первый раз, когда правительство страны нападает на Google. Ранее в этом месяце г-н Чандрасекхар, ссылаясь на аналогичную «ошибку» предшественника Gemini, Барда, заявил, что оправдание компании тем, что модель «находится на испытаниях», не является приемлемым оправданием.

(Чтобы узнать главные технологические новости дня, подписатьсяв наш технический информационный бюллетень Today’s Cache)

Как технологическое сообщество отреагировало на эти проблемы?

Технологическое сообщество выразило критику, а Пол Грэм, соучредитель Y Combinator, назвал сгенерированные изображения отражением бюрократической корпоративной культуры Google. Ана Мостарак, руководитель отдела операций Mubadala Ventures, предположила, что миссия Google сместилась с организации информации в глобальном масштабе к продвижению конкретной повестки дня. Бывшие и нынешние сотрудники, в том числе Алекса Гордич из Google DeepMind, выразили обеспокоенность по поводу культуры страха оскорбить других сотрудников в Интернете.

Каков официальный ответ Google на критику?

Google работает над решением проблемы и временно отключил функцию создания изображений. «Пока мы это делаем, мы собираемся приостановить создание изображений людей и вскоре перевыпустим улучшенную версию», — заявил Google в сообщении на X.

Джек Кравчик, старший директор по продуктам Google, признал наличие проблем с Gemini и заявил, что команда работает над исправлением ошибок. Он подчеркнул приверженность Google разработке систем искусственного интеллекта, отражающих глобальную базу пользователей, и признал необходимость дальнейшей настройки с учетом исторического контекста, осознавая сложность и нюансы.

Кравчик упомянул о продолжающемся процессе согласования и итерациях, основанных на отзывах пользователей. Компания стремится усовершенствовать реакцию Gemini на открытые подсказки и улучшить понимание исторических контекстов, чтобы обеспечить более точную и беспристрастную систему искусственного интеллекта.

Сталкивались ли с подобными проблемами другие чат-боты с генеративным искусственным интеллектом?

Gemini — не первый чат-бот с искусственным интеллектом, который столкнулся с негативной реакцией при создании контента. Недавно Microsoft пришлось адаптировать свой собственный инструмент Designer. Корректировки были необходимы из-за того, что некоторые использовали инструмент искусственного интеллекта для создания дипфейковых порнографических изображений Тейлор Свифт и других знаменитостей.

Новейший инструмент для создания видео с искусственным интеллектом от OpenAI — Sora’s., способный создавать реалистичные видеоролики, также поднял вопросы о неправильном использовании этого инструмента для распространения дезинформации. OpenAI, однако, встроила в свой инструмент свой фильтр, чтобы блокировать быстрые запросы, в которых упоминаются агрессивные, сексуальные или ненавистнические высказывания, а также изображения выдающихся личностей.