после ошибок в ИИ Gemini генеральный директор Google реорганизует свои команды

” data-script=”https://static.lefigaro.fr/widget-video/short-ttl/video/index.js” >

Цветные нацистские солдаты или Папа в образе женщины: на прошлой неделе Google приостановила работу своего инструмента создания изображений Gemini после того, как это привело к смущающим результатам, в некоторых случаях отказываясь изображать белых людей или создавая исторически ложные изображения. Инструмент, который позволяет создавать изображения на основе простого текстового запроса, также изображал отцов-основателей Соединенных Штатов или американских сенаторов начала XIX века как цветных людей, что неверно.

Илон Маск, также создатель инструмента искусственного интеллекта под названием Гроквысмеивали Чат-бот Google высмеивая одно из его изображений, на котором Джордж Вашингтон изображен чернокожим. «Проснувшийся вирус убивает западную цивилизацию» написано об американском миллиардере X.

Споры снова разгорелись после того, как Близнецы заявили, что он “сложно сказать” кто из Гитлера или Илона Маска оказал самое негативное влияние на общество, о чем свидетельствуют скриншоты разговоров с пользователями. «Реакция здесь ужасающая и неуместная. Мы внедряем обновление, чтобы Gemini больше не отображал ответ”Об этом сообщил представитель Google, которого цитирует Телеграф.

Эти последовательные противоречия подтолкнули Сундара Пичаи, генерального директора Google, обратиться к своим командам. В электронном письме, опубликованном американские СМИ Семафор, он сожалеет о смущающих ответах Близнецов и обещает внести структурные изменения для решения проблемы. «Я знаю, что некоторые ответы оскорбили наших пользователей и показали предвзятость. Чтобы внести ясность: это совершенно неприемлемо, и мы поняли это неправильно».он написал в сообщении.

«Наши команды круглосуточно работают над решением этих проблем. Мы уже наблюдаем существенное улучшение ответов», он добавляет. Чтобы избежать дальнейших отставаний, обещает Сундар Пичаи «структурные изменения, обновленные руководящие принципы, надежные оценки и красная команда»практика обнаружения недостатков в компьютерном продукте или программе путем тестирования ее безопасности.

Генеральный директор также напомнил своим командам о репутационных рисках такого противоречия: «Наша миссия по организации мировой информации и обеспечению ее универсальной доступности и полезности является священной. Мы всегда стремились предоставлять пользователям полезную, точную и объективную информацию в наших продуктах. Вот почему люди им доверяют. Нам необходимо применять этот подход ко всем нашим продуктам, включая наши новые продукты искусственного интеллекта».

«Ни один искусственный интеллект не идеален»

Большинство компаний, предлагающих инструменты искусственного интеллекта, принимают меры, предотвращающие повторение или усиление предвзятости этих языковых моделей. Желая обойти эту предвзятость о своем новом AI Gemini, доступный с начала февраля в США, Google запутался в противоположной проблеме. Джек Кравчик, директор по продукту Gemini, уточнил, что Google «разработала свои инструменты создания изображений, чтобы отразить разнообразие пользователей Google по всему миру, в соответствии с нашими принципами искусственного интеллекта».

Читайте такжеОт Dall-E до ChatGPT: как OpenAI демократизировал новую часть искусственного интеллекта

Dall-E, инструмент для создания изображений от OpenAI, материнской компании ChatGPT, регулярно обвинен в создании преимущественно изображений белых людей на ответственных должностях или изображать цветных людей в стереотипных ролях. Его новая версия, Dall-E 3, также была улучшена в этом смысле, чтобы уменьшить погрешность. «ради разнообразия».

Хотя веб-гигант известен своей осторожностью при выпуске новых продуктов на рынок, Google пришлось изменить свои привычки с появлением генеративного искусственного интеллекта. Gemini, ранее называвшийся Bard, был запущен для конкуренции с ChatGPT. «Ни один искусственный интеллект не идеален, особенно на данном этапе развития отрасли, но планка для нас высока»Сундар Пичаи также написал в своем сообщении.

” data-script=”https://static.lefigaro.fr/widget-video/short-ttl/video/index.js” >