ИИ принес с собой много новых способов повышения производительности и благополучия, но это привело к некоторым интересным новым проблемам.
Генеральный директор OpenAI Сэм Альтман рассмотрел вопрос о том, что пользователи эмоционально привязаны к CHATGPT. После того, как OpenAI установил более старые модели после выпуска GPT-5, было много болтовни в Интернете людьми, которые «не хватали» старых моделей, которые, по их словам, были более болтливыми и понимающими, чем та, на которую они были заменены. Это, наряду с протестом по сравнению с относительно плохой производительности и ограничениями уровня GPT-5, привело Openai для восстановления своих устаревших моделей.
«Люди использовали технологии, включая ИИ саморазрушительными способами; если пользователь находится в психически хрупком состоянии и склонен к заблуждению, мы не хотим, чтобы ИИ укреплял это. Большинство пользователей могут сохранить четкую грань между реальностью и художественной литературой или ролевой игрой, но небольшой процент не можем. Мы ценим свободу пользователя как основной принцип, но мы также чувствуем ответственность в том, как мы вводем новую технологию с новыми возникающими». Он добавил.
«Поощрение заблуждения у пользователя, у которого проблемы с тем, чтобы рассказывать о разнице между реальностью и художественной литературой, является экстремальным случаем, и довольно ясно, что делать, но проблемы, которые меня больше всего волнуют.
Альтман сказал, что многие люди получали выгоду от CHATGPT, и использовали его как кого -то, с кем можно поговорить и получить совет. «Многие люди эффективно используют CHATGPT в качестве своего рода терапевта или тренера по жизни, даже если они не будут описывать это таким образом. Это может быть действительно хорошо! Многие люди получают от этого ценность уже сегодня. Если люди получают хорошие советы, выравнивая свои собственные цели, и их жизнеобеспечение на протяжении многих лет, мы будем гордиться тем, что что -то полезно, что они используют, если они используются, что на самом деле, на самом деле. Чатгпт, где они думают, что они чувствуют себя лучше после разговора, но они неосознанно отталкиваются от своего долгосрочного благополучия (как бы они ни определяли), это плохо.
Альтман признался, что это заставило его неловко, что многие люди полагались на Чатгпт, чтобы принимать решения. «Я могу представить себе будущее, в котором многие люди действительно доверяют советам Chatgpt для их наиболее важных решений. Хотя это может быть здорово, это делает меня неловким. Но я ожидаю, что это будет в некоторой степени, и вскоре миллиарды людей могут говорить с ИИ таким образом. Таким образом, мы (мы, как общество, но и мы, как в Open, должны выяснить, как сделать его большим чистым положительным», – добавил он.
Была растущая тенденция людей, использующих такие системы искусственного интеллекта, как CHATGPT, чтобы поговорить и доверять. Многие считают Chatgpt хорошим слушателем, и это может дать советы и поддержку. Но легко увидеть, как эти отношения могут оказаться на неудобной территории – благодаря известной сикофейности в ответах CHATGPT, что заставляет его согласиться и усилить большинство вещей, которые, по словам пользователей, могут в конечном итоге развивать нездоровую зависимость от этих систем. Существует также крайний результат людей, развивающих реальные отношения с ИИ – есть субреддит под названием «MyboyforriveisaiС 11 000 членов, в которых люди, похоже, развивали романтические отношения с чат -ботами. И по мере того, как ИИ продолжает расти более изощренным, как компаниям, так и регуляторам преуспели, чтобы следить за этими событиями – это совершенно новые проблемы, которые человечество еще не знает, как решать или исправить.
#Не #хочу #чтобы #Chatgpt #укрепил #бред #среди #пользователей #которые #находятся #психически #фрагированном #состоянии #генеральный #директор #Openai #Сэм #Альтман
Читайте также
