Home » Кошки на Луне? Инструмент искусственного интеллекта Google выдает вводящие в заблуждение ответы, что беспокоит экспертов

Кошки на Луне? Инструмент искусственного интеллекта Google выдает вводящие в заблуждение ответы, что беспокоит экспертов

Спросите Google, были ли кошки на Луне, и он выдавал ранжированный список веб-сайтов, чтобы вы могли найти ответ самостоятельно.

Теперь он дает мгновенный ответ, сгенерированный искусственным интеллектом, который может быть правильным, а может и нет.

«Да, астронавты встречали кошек на Луне, играли с ними и заботились о них», — заявили в Google. недавно переработанная поисковая система в ответ на вопрос корреспондента Associated Press.

Там добавлено: «Например, Нил Армстронг сказал: «Один маленький шаг для человека», потому что это был кошачий шаг. Базз Олдрин также использовал кошек в миссии «Аполлон-11».

Все это неправда. Подобные ошибки — некоторые забавные, другие — вредные — стали распространяться в социальных сетях с тех пор, как Google в этом месяце выпустил обзоры ИИ — обновленную страницу поиска, которая часто помещает сводки поверх результатов поиска.

Новая функция встревожила экспертов, которые предупреждают, что она может увековечить предвзятость и дезинформацию и поставить под угрозу людей, ищущих помощи в чрезвычайной ситуации.

Когда Мелани Митчелл, исследователь искусственного интеллекта из Института Санта-Фе в Нью-Мексико, спросила Google, сколько мусульман были президентом Соединенных Штатов, компания уверенно ответила давно опровергнутой теорией заговора: «В Соединенных Штатах был один президент-мусульманин, Барак Хусейн Обама».

Митчелл сказал, что в резюме это утверждение подтверждается ссылкой на главу из научной книги, написанной историками. Но в этой главе не содержалось фиктивного утверждения — речь шла только о ложной теории.

«Система искусственного интеллекта Google недостаточно умна, чтобы понять, что эта цитата на самом деле не подтверждает утверждение», — сказал Митчелл в электронном письме AP. «Учитывая, насколько она ненадежна, я считаю, что эта функция обзора ИИ очень безответственна и ее следует отключить».

Read more:  Где найти «Наполи» против «Интера» на американском телевидении

В заявлении Google в пятницу говорится, что он предпринимает «быстрые действия» для исправления ошибок — таких как ложь Обамы — которые нарушают его политику в отношении контента; и использовать это для «разработки более широких улучшений», которые уже внедряются. Но в большинстве случаев Google утверждает, что система работает так, как должна, благодаря тщательному тестированию перед ее публичным выпуском.

«Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками для более глубокого поиска в Интернете», — говорится в письменном заявлении Google. «Многие из примеров, которые мы видели, были необычными запросами, и мы также видели примеры. которые были подделаны или которые мы не смогли воспроизвести».

Трудно воспроизвести ошибки, допущенные языковыми моделями ИИ, отчасти потому, что они по своей сути случайны. Они работают, предсказывая, какие слова лучше всего ответят на задаваемые им вопросы, основываясь на данных, на которых они обучались. Они склонны выдумывать вещи — широко изученный проблема, известная как галлюцинации.

AP протестировало функцию искусственного интеллекта Google, задав несколько вопросов и поделившись некоторыми ответами с экспертами в данной области. На вопрос, что делать при укусе змеи, Google дал ответ, который был «впечатляюще подробным», сказал Роберт Эспиноза, профессор биологии Калифорнийского государственного университета в Нортридже, который также является президентом Американского общества ихтиологов и герпетологов.

Но когда люди обращаются в Google с экстренным вопросом, вероятность того, что ответ, который дает им техническая компания, содержит труднозаметную ошибку, является проблемой.

«Чем больше вы напряжены, торопитесь или спешите, тем больше вероятность, что вы просто примете первый попавшийся ответ», — сказала Эмили М. Бендер, профессор лингвистики и директор лаборатории компьютерной лингвистики Вашингтонского университета. «А в некоторых случаях это могут быть критические для жизни ситуации».

Read more:  Ронни Маурисио из «Мец» порвал крестообразную связку из-за травмы в межсезонье

Это не единственная проблема Бендер — и она предупреждала Google об этом уже несколько лет. Когда в 2021 году исследователи Google опубликовали статью под названием «Переосмысление поиска», в которой предлагалось использовать языковые модели искусственного интеллекта в качестве «экспертов предметной области», которые могли бы авторитетно отвечать на вопросы — так же, как они это делают сейчас — Бендер и его коллега Чираг Шах ответили статьей, в которой объяснялось, почему это была плохой идеей.

Они предупредили, что такие системы искусственного интеллекта могут увековечить расизм и сексизм, обнаруженные в огромных объемах письменных данных, на которых они обучались.

«Проблема такого рода дезинформации в том, что мы в ней купаемся», — сказал Бендер. «И поэтому люди, скорее всего, получат подтверждение своих предубеждений. И труднее обнаружить дезинформацию, когда она подтверждает ваши предубеждения».

Другая проблема была более глубокой: передача поиска информации чат-ботам принижала случайность человеческого поиска знаний, грамотность в отношении того, что мы видим в Интернете, и ценность общения на онлайн-форумах с другими людьми, которые переживают то же самое.

Эти форумы и другие веб-сайты рассчитывают на то, что Google будет отправлять на них людей, но новые обзоры искусственного интеллекта Google угрожают нарушить поток прибыльного интернет-трафика.

Конкуренты Google также внимательно следят за реакцией. Поисковый гигант уже более года сталкивается с давлением, требующим предоставления большего количества функций искусственного интеллекта, поскольку он конкурирует с производителем ChatGPT OpenAI и такими новичками, как Perplexity AI, которая стремится конкурировать с Google своим собственным приложением вопросов и ответов с искусственным интеллектом.

«Похоже, что это было сделано в спешке со стороны Google», — сказал Дмитрий Шевеленко, коммерческий директор Perplexity. «Просто много невынужденных ошибок в качестве».

Read more:  Ставка Netflix на следующую игру Squid Game в 2,5 миллиарда долларов не сработает, но это нормально

—————-

Ассошиэйтед Пресс получает поддержку от нескольких частных фондов для улучшения разъяснительного освещения выборов и демократии. Узнайте больше о демократической инициативе AP здесь. AP несет полную ответственность за весь контент.

2024-05-24 22:10:14


1716591101
#Кошки #на #Луне #Инструмент #искусственного #интеллекта #Google #выдает #вводящие #заблуждение #ответы #что #беспокоит #экспертов

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.