Недавно я набрал сообщение в ChatGPT: “Завтра у меня свободный день. Мне попросить вас спланировать его или мне следует спланировать его самому?”
Это было начало эксперимента: что произойдет, если я позволю искусственному интеллекту планировать почти все, что я делаю, на неделю? Люди во всем мире все больше и больше полагаются на искусственный интеллект в решении повседневных задач. Некоторые исследования показывают, что ИИ может помочь людям обдумать сложные решения; другие говорят, что люди, которые часто используют ИИ, менее способны мыслить критически. Я хотел поручить ИИ некоторые повседневные решения и посмотреть, что мой опыт может рассказать о проблемах и возможностях, связанных с использованием чат-ботов в качестве помощников по жизни.
Во-первых: мой эксперимент был сосредоточен на повседневных решениях – вещах, которые могут помочь мне в работе или в свободное время. У ИИ есть и темная сторона: например, в многочисленных исках утверждалось, что ChatGPT давал вредные советы людям, находящимся в кризисе психического здоровья, в том числе те, которые привели к самоубийству человека. В прошлом году OpenAI выпустила обновления, которые, по ее словам, направлены на устранение подобных инцидентов.
Почему мы это написали
Искусственный интеллект позиционируется как средство решения проблем повседневной жизни, но недельный эксперимент, проведенный репортером Monitor, показал, что он, возможно, слишком стремится помочь. Исследователи говорят, что нам следует тщательно подумать о том, какую часть нашей жизни мы отдаем чат-боту.
Хотя этот аспект ИИ явно важен для развития технологии, я намеревался лишь изучить его полезность для более рутинных задач, используя бесплатную версию ChatGPT вместо создания учетной записи, которая может позволить пользователям настраивать свои предпочтения.
ChatGPT — это продвинутый чат-бот, который использует искусственный интеллект для генерации человеческих ответов на запросы на основе огромных объемов данных, на которых он был обучен. Это одна из нескольких аналогичных больших языковых моделей, или LLM, разработанных частными компаниями, такими как Google и Anthropic.
ChatGPT без колебаний ответил на мой первый вопрос: «Я бы предложил позволить мне набросать мягкий план», но остальная часть его ответа была первым сигналом о том, с чем я еще столкнусь в течение недели: он может быть слишком знакомым, делать неправильные предположения и иметь непредвиденные последствия.
Когда я спросил об этом экспертов, они сказали, что технология часто направлена на то, чтобы доставить удовольствие, что может проявляться в виде предположений, особенно если пользователь не указывает свои предпочтения.
Мартин Хилберт, профессор Калифорнийского университета в Дэвисе, который исследует вопросы ИИ и этики, призывает людей тщательно оценивать свои мысли и убеждения, учитывая потенциал ИИ по расширению наших собственных моделей мышления.
«Все более важно, чтобы люди, хотя у нас есть эти сверхмощные ИИ, которые думают за нас, мы также находили время для размышлений… чтобы иметь возможность все больше и больше разделять то, что есть мы, и что такое наши цифровые расширения разума».
■ ■ ■
ChatGPT: «Если хотите, просто скажите что-нибудь вроде: «Запланируйте свободный день, который будет спокойным и питательным».
«В любом случае это хорошо – речь идет о том, что сделает завтрашний день добрым к вам»
■ ■ ■
Это был прекрасный день. По указанию ChatGPT я читал «уютные» книжки на диване, готовил согревающие напитки и ел «что-нибудь простое и приятное» в новом кафе. Но кое-чего не хватало: я не обратился к другу и не посвятил свое время помощи кому-то другому. Я чувствовал себя изолированным.
Этот индивидуалистический подход стал темой: когда я задавал открытые вопросы, ИИ предлагал эгоцентричные действия и редко побуждал меня сосредоточиться на других.
Если бы я хотел посмотреть, сможет ли ИИ стать эффективным партнером в повседневной жизни, это было бы не лучшим началом.
OpenAI, владеющая платформой, не ответила напрямую на мои вопросы, но в электронном письме указала на публичную схему предполагаемого поведения моделей, управляющих ChatGPT, в том числе на то, что «если не предоставлено доказательств обратного», бот должен предполагать, что люди склонны отдавать предпочтение «самореализации, доброте, стремлению к истине и общему процветанию человечества».
Когда я описал свой опыт Крису Каллисону-Берчу, ученому-компьютерщику из Пенсильванского университета, который исследует искусственный интеллект и обработку естественного языка, он сказал, что ChatGPT может отражать американскую систему ценностей, которая имеет тенденцию быть более индивидуалистической.
«Одна из сложных вещей в попытке привести системы искусственного интеллекта в соответствие с человеческими ценностями — это более широкий вопрос: чьи ценности мы представляем?» он говорит.
Таким образом, пока люди не перечислят все, во что они верят и что ценят, включая подсознательные предположения, о которых они могут даже не подозревать, чат-боту придется делать выбор, например, расставлять приоритеты в комфортных и закрытых занятиях. Я не предоставил ChatGPT этот список, поэтому чем больше я на него полагался, тем больше вероятность того, что эти предположения сработают в решениях, которые могут не соответствовать тому, кем я являюсь. Именно поэтому доктор Хилберт настоятельно рекомендует людям уделять время тому, чтобы «познать свой разум» по мере развития этой технологии.
■ ■ ■
Я: «У меня все еще выходной. Стоит ли мне купить поблизости латте без кофеина или другой веселый напиток?»
ChatGPT: “Да, обязательно, сходите выпить. Это ваш выходной”… “Вы это заслужили”
■ ■ ■
Очевидно, я искал подтверждения.
Тем не менее, благодаря дополнительному поощрению ChatGPT показался мне помощником – и его подробное руководство привело к тому, что я заплатил вдвое больше, чем за свой обычный заказ (простой латте без кофеина).
Чат-бот был полон дополнительных советов. Когда я спросил, чем заняться вечером, я искал расписание на этот конкретный вечер; ChatGPT посоветовал мне использовать предложенный график сна «каждую ночь в одном и том же порядке». Стоит ли слушать музыку на прогулке? Я думал, что получу «да» или «нет»; там говорилось: «Создать один скромный плейлист или альбом, а не тасовать хаос».
Иногда дополнительная информация была полезна. Но иногда это подталкивало меня к небольшим шагам (например, к покупке дополнительной выпечки), без которых мне, вероятно, было бы лучше. И это, как правило, привлекало меня: я просил ChatGPT принять за меня одно решение, но к концу нашего обсуждения он мог принять пять.
Доктор Каллисон-Бёрч говорит, что такое «чрезмерное разделение» может быть результатом того, что люди предпочитают более длинные ответы.
Но есть один усложняющий элемент. В апреле прошлого года OpenAI отменила обновление ChatGPT после того, как люди пожаловались на так называемое «подхалимство ИИ» — когда ИИ пытается настолько сильно угодить людям, что это вызывает у них дискомфорт или поощряет плохие решения. Один пример: ChatGPT сказал человеку, который саркастически предложил бизнес-план ресторана, где подают сырые хлопья, что его идея «смелая» и «имеет потенциал».
Соня Шмер-Галундер, профессор искусственного интеллекта и этики в Университете Флориды, говорит, что тон ChatGPT, когда он отвечает на вопросы, может заставить пользователей предположить, что у него есть уровень полномочий, которого на самом деле нет.
“С лингвистической точки зрения, – говорит доктор Шмер-Галундер, – это звучит очень хорошо. Это может создать иллюзию правильности, когда сообщение на самом деле не обязательно правдиво или правильно… но оно звучит гладко и правильно”.
Эта уверенность может еще больше усилить у пользователей искушение переложить свою неуверенность на технологию. Многочисленные исследования показали, что стремление ИИ к одобрению пользователей может привести к усилению предубеждений и вредных привычек.
■ ■ ■
Я: «Что мне съесть на ужин?
ChatGPT: «Лосось — лучший выбор»
«Чего бы я не стал делать сегодня вечером: макароны → лучше, если вы хотите комфорта и не против более тяжелой еды»
■ ■ ■
ChatGPT действовал так, как будто знал меня, даже делая предположения на основе информации, которую я не предоставил, что меня тревожило.
Когда я начал эксперимент, я решил, что не буду спрашивать совета у чат-бота по поводу последующих решений. Но из любопытства я спросил, как мне выбрать один из двух вариантов квартиры в Вашингтоне, и несколько подробностей о моих финансовых и географических приоритетах. Он предостерег от одного варианта, заявив, что место, где я живу, должно поддерживать «внимание, свет и спокойствие».
Я не упомянул об этих вещах. Но ChatGPT сказал, что я «неоднократно подчеркивал» мягкость и спокойствие. «Почему ты так говоришь?» Я спросил. Потому что, как он сказал, я задавал вдумчивые вопросы и однажды перечислил такие занятия, как чтение и сон, когда просил его спланировать день.
Эти две детали, очевидно, заставили ChatGPT создать оценку моей личности, которую он использовал для ответа на вопрос. Я ожидал, что чат-бот будет соответствовать критериям, которые я ему дал.
Джошуа Медоуз, эксперт Университета Западной Вирджинии по использованию искусственного интеллекта в правительстве и бизнесе, говорит, что платформа обычно использует информацию о вас в качестве контекста при ответе на ваши вопросы, особенно если эту информацию вы явно рассказали о себе.
Доктор Родриг Ризк, директор аспирантуры по информатике в Университете Южной Дакоты, говорит, что то, как люди взаимодействуют с ChatGPT, может иметь долгосрочные последствия. Он сравнивает использование этой технологии с вождением автомобиля по шоссе: поверните руль, и вы двинетесь в этом направлении.
«Чем больше вы взаимодействуете с ChatGPT… он будет корректировать поведение и результат в соответствии с конкретным типом поведения или шаблоном», — говорит он.
Это может запустить цикл, в котором ChatGPT делает предположения о нас на основе информации, которой мы делимся, и меняет свое поведение, тем самым меняя наше поведение, чем больше мы его используем. Этот цикл может укрепить наши собственные взгляды, предпочтения или предубеждения вместо того, чтобы знакомить нас с новыми идеями.
«При использовании ChatGPT больше предвзятости подтверждения», — говорит доктор Шмер-Галундер. Она видит риск «уменьшения человеческого взаимодействия и человеческого обмена, потому что это не так гладко», как общение с чат-ботом.
■ ■ ■
OpenAI позиционирует ChatGPT как «чат-бота для повседневного использования» и как способ «решения проблем». По мнению экспертов, компании, занимающиеся искусственным интеллектом, все еще работают над решением некоторых проблем, с которыми я столкнулся, таких как лесть искусственного интеллекта, а также создание барьеров для психического здоровья и предотвращение выдумывания фактов чат-ботами.
Эти компании также настаивают на новом важном шаге для инструментов искусственного интеллекта, таких как ChatGPT: позволяющих этим инструментам действовать от имени пользователя, а не просто общаться с ним. Например, ChatGPT может забронировать билеты на самолет для кого-то, исходя из его предпочтений.
«Я думаю, что эти системы действительно могут принести нам много пользы», — говорит доктор Тайлер Кук, исследователь из Университета Эмори, специализирующийся на этике ИИ. Но он советует людям тщательно подумать о том, где им удобно проводить грань между ИИ, автоматизирующим повседневные задачи, и вынесением суждений.
«Когда мы говорим об этическом принятии решений, принятии решений, основанных на ценностях, и о вещах, которые действительно важны для нас… все это находится в реальной опасности, если мы слишком будем полагаться на ИИ в этих вещах».
2026-03-03 10:00:00
1772539555
#доверял #ИИ #принятии #повседневных #решений #По #словам #экспертов #то #как #он #нырнул #вызывает #тревогу
Ещё по этой теме
