Какое последнее предложение OpenAI вызвало большое возмущение? | Объяснено

О14 октября генеральный директор OpenAI Сэм Альтман опубликовал на X сообщение о том, что ChatGPT с декабря разрешает эротику для проверенных взрослых. После того, как сообщение собрало более 15 миллионов просмотров и вызвало реакцию, варьирующуюся от энтузиазма и любопытства до отвращения и ярости, два дня спустя г-н Альтман опубликовал разъяснение, касающееся безопасности детей и пользователей ChatGPT, сталкивающихся с проблемами психического здоровья.

Что Сэм Альтман опубликовал на X?

Ранее на этой неделе г-н Альтман признал, что ChatGPT был сделан «довольно ограничительным», чтобы быть осторожным в вопросах психического здоровья, но добавил, что эта политика сделала работу с чат-ботом менее приятной для тех, у кого нет проблем с психическим здоровьем. Генеральный директор OpenAI заявил, что, поскольку им удалось «смягчить серьезные проблемы с психическим здоровьем и получить новые инструменты», многие ограничения можно ослабить. Такое утверждение еще не подтверждено регулирующими органами.

Г-н Альтман далее пояснил, что новая, готовящаяся к выпуску версия ChatGPT позволит людям лучше настраивать свои ответы, в том числе вести себя «как друг».

«В декабре, когда мы более полно введем ограничение по возрасту и в рамках нашего принципа «относиться к взрослым пользователям как к взрослым», мы разрешим еще больше, например эротику для проверенных взрослых», — сказал г-н Альтман. Это заявление стало вирусным: некоторые критиковали г-на Альтмана за облегчение доступа к эротике, в то время как другие выступали против внезапных изменений, внесенных в старую модель 4o.

Как отреагировал OpenAI?

После негативной реакции г-н Альтман пояснил, что эротика, созданная искусственным интеллектом, является лишь одним из примеров свободы, которую может ожидать проверенный взрослый пользователь с ChatGPT.

Г-н Альтман подчеркнул, что компания будет уделять приоритетное внимание безопасности, а не конфиденциальности и свободе подростков, и что никакая политика в отношении психического здоровья не будет ослаблена.

Однако он неоднократно отмечал, что политика компании заключается в том, чтобы относиться к взрослым пользователям как к взрослым.

“Поскольку ИИ становится все более важным в жизни людей, предоставление людям большей свободы в использовании ИИ так, как они хотят, является важной частью нашей миссии”, – написал он в своих разъяснениях на X. “Конечно, это не применимо ко всем направлениям: например, мы по-прежнему не допустим вещей, которые причиняют вред другим, и мы будем относиться к пользователям, которые испытывают кризисы психического здоровья, совсем не так, как к пользователям, у которых нет проблем. Не проявляя патерналистского подхода, мы попытаемся помочь пользователям в достижении их долгосрочных целей”, – сказал он.

Как OpenAI защищает несовершеннолетних?

OpenAI оказалась под давлением необходимости обеспечить лучшую защиту детей после смерти в этом году 16-летнего Адама Рейна, родители которого подали в суд на создателя ChatGPT. Они утверждали, что чат-бот подговорил их сына умереть и помог ему узнать больше о различных методах самоубийства, вместо того, чтобы помочь ему найти экстренную поддержку.

С тех пор OpenAI представила новые механизмы проверки возраста для защиты подростков и более уязвимых пользователей. В конце сентября производитель ChatGPT объявил о родительском контроле, чтобы родители/опекуны могли связывать свои учетные записи с учетными записями своих подростков, управлять настройками детского чата, настраивать взаимодействие с юными пользователями и получать уведомления в случае, если их ребенок рискует причинить себе вред.

«Как только родители и подростки соединят свои учетные записи, учетная запись подростка автоматически получит дополнительную защиту контента, включая уменьшенное графическое содержимое, вирусные проблемы, сексуальные, романтические или жестокие ролевые игры, а также экстремальные идеалы красоты, чтобы помочь сохранить их опыт соответствующим возрасту», — заявил OpenAI в своем блоге.

Однако существуют неразрешенные противоречия. Этим летом во время эпизода подкаста «This Past Weekend» с Тео Фоном г-н Альтман указал на серьезные пробелы в правах на конфиденциальность для пользователей, которые задают ChatGPT исключительно личные вопросы.

Разрешают ли другие компании, занимающиеся искусственным интеллектом, эротику?

Многие менее регулируемые компании, занимающиеся искусственным интеллектом, и чат-боты позволяют пользователям вступать в сексуальные контакты, часто с неубедительными мерами по возрастному контролю. В обзорах этих чат-ботов Gen AI в магазине приложений отмечается возможность пользователей инициировать сексуальные ролевые игры с помощью чат-ботов AI. Это также повлияло на безопасность и психическое здоровье детей.

В одном случае мать 14-летнего подростка, покончившего жизнь самоубийством в 2024 году, утверждала, что ее сын подвергся сексуальному насилию со стороны чат-бота Character.AI, который позволяет пользователям участвовать в ролевых играх с персонажами ИИ, вдохновленными популярными персонажами. Мать подала иск против создателя компании «Character Technology».

Meta тоже столкнулась с негативной реакцией и заявила, что пересмотрит политику в отношении контента после того, как обнаружится, что ее чат-бот с искусственным интеллектом может оставлять детям романтические или сексуальные комментарии.

Между тем, чат-бот Илона Маска Grok AI, доступный на X, также способен генерировать эротический контент: сам г-н Маск делится видео частично одетых женщин, которые, по его словам, были созданы с помощью Grok Imagine.

Опубликовано – 20 октября 2025 г., 08:30 по восточному стандартному времени.