КРиста Павлоски помнит единственный определяющий момент, который сформировал ее мнение об этике искусственного интеллекта. Как сотрудник ИИ на Amazon Mechanical Turk — торговой площадке, которая позволяет компаниям нанимать работников для выполнения таких задач, как ввод данных или сопоставление подсказок ИИ с их результатами, — Павлоски проводит свое время, модерируя и оценивая качество текста, изображений и видео, созданных ИИ, а также некоторую проверку фактов.
Примерно два года назад, работая дома за обеденным столом, она начала определять твиты как расистские или нет. Когда ей подарили твит с надписью «Послушайте, как поет лунный сверчок», она почти нажала кнопку «нет», прежде чем решила проверить значение слова «лунный сверчок», которое, к ее удивлению, было расовым оскорблением в адрес чернокожих американцев.
«Я сидел и размышлял, сколько раз я мог совершить одну и ту же ошибку и не поймать себя», — сказал Павлоски.
Потенциальный масштаб ее собственных ошибок и ошибок тысяч других работников, подобных ей, заставил Павлоски закрутиться по спирали. Сколько других людей неосознанно пропустили оскорбительные материалы? Или, что еще хуже, решили позволить это?
После многих лет наблюдения за внутренней работой моделей ИИ Павлоски решила больше не использовать продукты генеративного ИИ лично и посоветовала своей семье держаться от них подальше.
«В моем доме это категорически нет», — сказала Павлоски, имея в виду, что она не позволяет своей дочери-подростку использовать такие инструменты, как ChatGPT. А людей, которых она встречает в социальных сетях, она призывает их спрашивать ИИ о чем-то, в чем они очень хорошо осведомлены, чтобы они могли обнаружить его ошибки и сами понять, насколько ошибочна эта технология. Павлоски рассказала, что каждый раз, когда она видит меню новых заданий на выбор на сайте Mechanical Turk, она спрашивает себя, можно ли каким-либо образом использовать то, что она делает, во вред людям – часто, говорит она, ответ – да.
В заявлении Amazon говорится, что работники могут выбирать, какие задачи выполнять по своему усмотрению, и просматривать детали задачи, прежде чем принять ее. По данным Amazon, заказчики устанавливают особенности каждой конкретной задачи, например, отведенное время, оплату и уровень инструкций.
«Amazon Mechanical Turk — это торговая площадка, которая объединяет предприятия и исследователей, называемых запросчиками, с работниками для выполнения онлайн-задач, таких как маркировка изображений, ответы на опросы, расшифровка текста или проверка результатов искусственного интеллекта», — сказала Монтана Маклахлан, представитель Amazon.
Павлоски не одинок. Дюжина оценщиков ИИ, работников, которые проверяют ответы ИИ на точность и обоснованность, рассказали Guardian, что, узнав о том, как работают чат-боты и генераторы изображений и насколько ошибочными могут быть их результаты, они начали призывать своих друзей и семью вообще не использовать генеративный ИИ – или, по крайней мере, пытаться научить своих близких использовать его осторожно. Эти тренеры работают с рядом моделей искусственного интеллекта — Gemini от Google, Grok от Илона Маска, другими популярными моделями, а также с несколькими меньшими или менее известными ботами.
Одна сотрудница, оценщик ИИ в Google, которая оценивает ответы, генерируемые обзорами ИИ в Google Search, сказала, что она старается использовать ИИ как можно реже, если вообще старается. Подход компании к ответам на вопросы здравоохранения, генерируемые искусственным интеллектом, в частности, заставил ее задуматься, сказала она, попросив остаться анонимной, опасаясь профессиональных репрессий. Она сказала, что наблюдала, как ее коллеги некритично оценивали ответы, генерируемые ИИ, на медицинские вопросы, и ей было поручено самой оценивать такие вопросы, несмотря на отсутствие медицинской подготовки.
Дома она запретила своей 10-летней дочери пользоваться чат-ботами. «Сначала ей нужно освоить навыки критического мышления, иначе она не сможет сказать, хорош ли результат», — сказал оценщик.
«Рейтинги — это лишь один из многих агрегированных данных, которые помогают нам оценить, насколько хорошо работают наши системы, но не влияют напрямую на наши алгоритмы или модели», — говорится в заявлении Google. «У нас также есть ряд надежных средств защиты, позволяющих предоставлять высококачественную информацию в наших продуктах».
Наблюдатели за ботами бьют тревогу
Эти люди являются частью глобальной рабочей силы, насчитывающей десятки тысяч человек, которые помогают чат-ботам звучать более человечно. Проверяя ответы ИИ, они также делают все возможное, чтобы чат-бот не распространял неточную или вредную информацию.
Однако, когда люди, которые делают ИИ заслуживающим доверия, доверяют ему меньше всего, эксперты считают, что это сигнализирует о гораздо более серьезной проблеме.
«Это показывает, что, вероятно, существуют стимулы для выпуска и масштабирования, а не медленная и тщательная проверка, и что отзывы оценщиков игнорируются», — сказал Алекс Махадеван, директор MediaWise в Poynter, программе медиаграмотности. «И это означает, что когда мы увидим финал [version of the] чат-бота, мы можем ожидать тех же ошибок, что и они. Это не сулит ничего хорошего для общественности, которая все чаще обращается к магистратурам за новостями и информацией».
Специалисты по искусственному интеллекту заявили, что они не доверяют моделям, над которыми работают, из-за постоянного упора на быстроту выполнения работ в ущерб качеству. Брук Хансен, специалист по искусственному интеллекту в Amazon Mechanical Turk, объяснила, что, хотя она не доверяет генеративному искусственному интеллекту как концепции, она также не доверяет компаниям, которые разрабатывают и внедряют эти инструменты. Для нее самым большим поворотным моментом стало осознание того, как мало поддержки получают люди, обучающие эти системы.
«От нас ожидают, что мы поможем сделать модель лучше, однако нам часто дают расплывчатые или неполные инструкции, минимальное обучение и нереалистичные сроки выполнения задач», — сказал Хансен, который занимается работой с данными с 2010 года и принимал участие в обучении некоторых из самых популярных моделей ИИ в Кремниевой долине. “Если работники не оснащены необходимой нам информацией, ресурсами и временем, как результаты могут быть безопасными, точными и этичными? Для меня этот разрыв между тем, что от нас ожидают, и тем, что нам фактически дают для выполнения работы, является явным признаком того, что компании отдают приоритет скорости и прибыли над ответственностью и качеством”.
Эксперты говорят, что распространение ложной информации уверенным тоном вместо того, чтобы не предлагать ответа, когда его нет под рукой, является серьезным недостатком генеративного ИИ. Аудит 10 лучших моделей генеративного искусственного интеллекта, включая ChatGPT, Gemini и Meta’s AI, проведенный некоммерческой организацией NewsGuard, занимающейся вопросами медиаграмотности, показал, что процент неответов чат-ботов снизился с 31% в августе 2024 года до 0% в августе 2025 года. В то же время вероятность повторения чат-ботами ложной информации почти удвоилась с 18% до 35%, обнаружила NewsGuard. Ни одна из компаний тогда не ответила на запрос NewsGuard о комментариях.
«Я бы не стал доверять никаким фактам [the bot] предлагает, не проверив их самостоятельно – это просто ненадежно», — сказала другая оценщица Google AI, пожелавшая остаться анонимной в связи с соглашением о неразглашении, которое она подписала с компанией-подрядчиком. Она предупреждает людей об использовании этого робота и повторила точку зрения другого оценщика о том, что людям с лишь поверхностными знаниями задаются медицинские вопросы, а также деликатные этические вопросы. «Это не этический робот. Это просто робот».
после продвижения информационного бюллетеня
«Мы так шутим [chatbots] Было бы здорово, если бы мы могли заставить их перестать лгать», — сказал один преподаватель ИИ, который работал с Gemini, ChatGPT и Grok, попросив анонимности и подписав соглашение о неразглашении.
«Мусор на входе, мусор на выходе»
Другой оценщик искусственного интеллекта, который начал составлять рейтинги продуктов Google в начале 2024 года, примерно через шесть месяцев после начала работы начал чувствовать, что не может доверять искусственному интеллекту. Ему было поручено поставить модель в тупик – то есть ему пришлось задавать ИИ Google различные вопросы, которые выявили бы его ограничения или слабости. Имея высшее историческое образование, этот работник задал для задания модельные исторические вопросы.
“Я спросил его об истории палестинского народа, и он не дал мне ответа, как бы я ни перефразировал вопрос”, – вспоминает этот рабочий, пожелавший остаться неизвестным и подписавший соглашение о неразглашении. “Когда я спросил его об истории Израиля, он без проблем дал мне очень подробное изложение. Мы сообщили об этом, но в Google, похоже, никого это не волновало”. Когда его спросили конкретно о ситуации, которую описал оценщик, Google не сделал никакого заявления.
Для этого сотрудника Google наибольшую озабоченность в обучении ИИ вызывают отзывы о моделях ИИ от таких оценщиков, как он. «После того, как я увидел, насколько плохи данные, которые якобы используются для обучения модели, я понял, что абсолютно невозможно правильно обучить ее подобным образом», — сказал он. Он использовал термин «мусор на входе — мусор на выходе» — принцип компьютерного программирования, который объясняет, что если вы введете в техническую систему неверные или неполные данные, то выходные данные также будут иметь те же недостатки.
Оценщик избегает использования генеративного ИИ, а также «посоветовал каждому члену семьи и другу не покупать новые телефоны со встроенным ИИ, по возможности сопротивляться автоматическим обновлениям, которые добавляют интеграцию ИИ, и не сообщать ИИ ничего личного», — сказал он.
Хрупкий, не футуристический
Всякий раз, когда в социальном разговоре поднимается тема ИИ, Хансен напоминает людям, что ИИ — это не волшебство, объясняя, что за ним стоит армия невидимых работников, ненадежность информации и насколько она вредна для окружающей среды.
«Как только вы увидите, как эти системы собраны воедино – предвзятости, спешные сроки, постоянные компромиссы – вы перестанете воспринимать ИИ как футуристический и начнете воспринимать его как хрупкий», – сказал Адио Диника, изучающий труд, стоящий за ИИ в Научно-исследовательском институте распределенного ИИ, о людях, которые работают за кулисами. «По моему опыту, всегда люди, которые не понимают ИИ, очарованы им».
Сотрудники ИИ, которые говорили с Guardian, заявили, что берут на себя ответственность делать лучший выбор и повышать осведомленность вокруг себя, особенно подчеркивая идею о том, что ИИ, по словам Хансена, «плох настолько, насколько хорош то, что в него вложено, а то, что в него вложено, не всегда является лучшей информацией». В мае она и Павлоски выступили с презентацией на весенней конференции Мичиганской ассоциации школьных советов. В комнате, полной членов школьного совета и администраторов со всего штата, они говорили об этических и экологических последствиях искусственного интеллекта, надеясь завязать разговор.
«Многие участники были шокированы тем, что они узнали, поскольку большинство из них никогда не слышали о человеческом труде или воздействии ИИ на окружающую среду», — сказал Хансен. «Некоторые были благодарны за понимание, в то время как другие занимали оборонительную позицию или были разочарованы, обвиняя нас в «обреченности и унынии» в отношении технологий, которые они считали захватывающими и полными потенциала».
Павлоски сравнивает этику ИИ с этикой текстильной промышленности: когда люди не знали, как производится дешевая одежда, они были рады найти лучшее предложение и сэкономить несколько долларов. Но когда стали появляться истории о потогонных предприятиях, у потребителей появился выбор, и они поняли, что им следует задавать вопросы. Она считает, что то же самое происходит и с ИИ.
“Откуда ваши данные? Эта модель построена на нарушении авторских прав? Получали ли работники справедливую компенсацию за свой труд?” сказала она. «Мы только начинаем задавать эти вопросы, поэтому в большинстве случаев широкая общественность не имеет доступа к истине, но, как и в текстильной промышленности, если мы продолжим спрашивать и настаивать, перемены возможны».
2025-11-22 14:00:00
1763836022
#Познакомьтесь #работниками #ИИ #которые #советуют #своим #друзьям #родственникам #держаться #подальше #от #ИИ #Искусственный #интеллект #ИИ
Ещё по этой теме
