Исследование недостатков доверия к некоторым результатам поиска ИИ : –

АЙЛСА ЧАНГ, ВЕДУЩАЯ:

Нет сомнений в том, что функции поиска ИИ фундаментально изменили то, как мы используем Интернет. Фактически, крупный игрок в этой игре, ChatGPT от OpenAI, только что на этой неделе представил свой собственный веб-браузер. И хотя многие пользователи клянутся, что поиск с помощью ИИ отвечает на их насущные вопросы, у других пользователей, по понятным причинам, возникают вопросы относительно их точности, и не только, как вы знаете, по принципу «два плюс два равно четыре». Также растет беспокойство по поводу предвзятости в результатах поиска ИИ. Подкаст – It’s Been A Minute недавно углубился в эту проблему, и ведущая Бриттани Лус здесь, чтобы помочь нам все обдумать. Привет, Бриттани.

БРИТАНИ ЛЮС, АВТОР: Привет, Эйлса.

ЧАНГ: И что ты нашел?

ЛЮСЕ: Хорошо, чтобы правильно изложить эту историю, мне нужно вернуться на несколько месяцев назад. Как вы, возможно, помните, в начале этого года у ИИ-чат-бота Илона Маска Grok произошла довольно досадная неисправность.

ЧАНГ: О да.

ЛЮСЕ: Да. По подсказкам пользователей X, Грок начал публиковать множество откровенно расистских и антисемитских сообщений и называть себя MechaHitler, что является отсылкой к видеоигре Wolfenstein. Так это произошло в результате обновленного протокола тренировок. Вот Келси Пайпер, которая сообщила об этом для журнала Vox.

(ЗВУКОВАЯ КАРТА ИЗ АРХИВНОГО СОДЕРЖИМОГО -)

КЕЛСИ ПАЙПЕР: Способ обучения современных ИИ, современных больших языковых моделей заключается в том, что им загружают огромные объемы текста — то есть все книги, которые мы записали, все тексты в Интернете, Reddit, вы знаете, и все такое. Из этого возникает своего рода особая политическая перспектива, немного политически либеральная. Илону Маску это не понравилось, поэтому он начал эту работу, чтобы научить Грока быть — вы знаете, он назвал это более поиском истины, но на самом деле — чтобы больше разделять мнения Илона Маска. Это пошло не очень хорошо. Когда они выпустили нового Грока, люди очень быстро поняли, что могут спровоцировать нового Грока на выражение не только правых мнений, но и ужасающих, типа, реакционных мнений сторонников превосходства белой расы.

ЧАНГ: Ну, это довольно грубо.

ЛЮСЕ: Да. xAI извинилась за неисправность, и, по словам X, эти проблемы были, цитирую, «расследованы и устранены». Это была экстремальная и чрезвычайно публичная ситуация, но этот инцидент привлек много внимания, поскольку подчеркнул, насколько восприимчивы эти новые модели ИИ к предубеждениям их создателей.

ЧАНГ: Да, полностью. Так что же могут сделать компании, занимающиеся искусственным интеллектом, чтобы результаты поиска были менее предвзятыми или, в случае, который вы цитируете выше, менее расистскими и менее антисемитскими?

ЛЮСЕ: Да. Что ж, когда я разговаривал с Келси Пайпер, она сказала, что прозрачность в том, как обучаются эти модели, была бы отличным началом. Но, по словам корреспондента – Бобби Аллина, прозрачности добиться не так-то просто.

(ЗВУКОВАЯ КАРТА ИЗ АРХИВНОГО СОДЕРЖИМОГО -)

БОББИ АЛЛИН: Это всегда очень, очень сложно, потому что существует так много примеров отдельных результатов, скажем, из ChatGPT, которые отражают то или иное мировоззрение. Но если вы возьмете этот пример, как это делаю я и другие репортеры, постучите в дверь OpenAI и спросите: «Эй, ребята, как это произошло?» – отдадут своим инженерам, и буквально, Бретань, их инженеры пойдут, мы не знаем.

ЛЮСЕ: Подожди, подожди, подожди. Подожди. Что значит, они не знают?

АЛЛИН: Они знают основную алгебру, например, математику, лежащую в ее основе, но как все это создает индивидуальный результат, они в большинстве случаев не могут вам сказать. Это своего рода черный ящик, который даже инженеры черного ящика не могут полностью объяснить.

ЧАНГ: Это так странно и так тревожно.

ЛЮСЕ: Это так. И не только нам с тобой. Даже президент Дональд Трамп задается вопросом, как решить эту проблему, хотя его больше всего беспокоит предотвращение того, что он называет, цитирую без кавычек, «пробуждением» ИИ. В июле он опубликовал указ, цитирую, «требующий от компаний, занимающихся искусственным интеллектом, которые ведут бизнес с федеральным правительством, лишить модели ИИ идеологической программы», конец цитаты. Вот снова Бобби.

(ЗВУКОВАЯ КАРТА ИЗ АРХИВНОГО СОДЕРЖИМОГО -)

ЭЛЛИН: Итак, любые проблемы трансгендеров, критическая расовая теория, разнообразие, равенство и инклюзивность – это своего рода набор любимых вопросов культурной войны правых. Но когда были такие исследования, не было супер, супер явных идеологических предубеждений, так или иначе, с точки зрения, например, системы, запрограммированной на продвижение сторонников (ph) или анти-Трампа.

ЧАНГ: Я имею в виду, такое ощущение, что весь этот разговор имеет очень большое значение, верно? – Мол, не только для нашей повседневной жизни, но и для федеральной политики. Но тогда у нас нет четкого понимания того, как компании, занимающиеся искусственным интеллектом, вообще смягчают предвзятость или потенциальную предвзятость в своих продуктах. Так что же тогда остается всем нам?

ЛЮСЕ: Что ж, Эйлса, это отличный вопрос, и мы все очень медленно находим ответ. Но одна вещь, которую сказал мне Бобби, придала мне немного покоя. Он упомянул, что многие отрасли обнаруживают, что попытки внедрить ИИ часто не приводят к повышению эффективности или улучшению работы. Так будет не всегда, но, возможно, это дает нам небольшую возможность позволить нашей политике догнать наши технологии. И, конечно же, при использовании любых инструментов поиска в Интернете эксперты рекомендуют тщательно проверять источники и использовать более традиционные поисковые ресурсы, особенно для получения важной информации.

ЧАНГ: Ищите правду, люди. Бриттани, большое спасибо, что поделилась всем этим со всеми нами.

ЛЮСЕ: О, спасибо, что пригласили меня, Эйлса.

ЧАНГ: Это была Бриттани Лус. Она ведущая передачи – «Это была минута» о том, что происходит в культуре.

© 2025 НПР. Все права защищены. Посетите наш сайт Условия эксплуатации и разрешения страницы в www.-.org для получения дополнительной информации.

Точность и доступность расшифровок – могут различаться. Текст стенограммы может быть изменен для исправления ошибок или соответствия обновлений аудио. Аудио на -.org можно редактировать после его первоначальной трансляции или публикации. Авторитетной записью программ – является аудиозапись.