OpenAI планирует разрешить более широкий спектр контента, включая эротику, в своем популярном чат-боте ChatGPT в рамках своего стремления «относиться к взрослым пользователям как к взрослым», говорит ее руководитель Сэм Альтман.
В сообщении на X во вторник г-н Альтман сказал, что будущие версии популярного чат-бота позволят ему вести себя более по-человечески – «но только если вы этого хотите, а не потому, что мы максимизируем использование».
Этот шаг, напоминающий недавнее представление Илоном Маском xAI двух откровенно сексуальных чат-ботов для Grok, может помочь OpenAI привлечь больше платящих подписчиков.
Вероятно, также усилится давление на законодателей с целью введения более жестких ограничений для компаньонов в чат-ботах.
OpenAI не ответила на запросы BBC о комментариях после публикации г-на Альтмана.
Изменения, объявленные компанией, произошли после того, как в начале этого года на нее подали в суд родители американского подростка, покончившего с собой.
Иск, поданный Мэттом и Марией Рейн, родителями 16-летнего Адама Рейна, стал первым судебным иском, обвиняющим OpenAI в смерти в результате противоправных действий.
Пара из Калифорнии раскритиковала систему родительского контроля компании, которая, по ее словам, была разработана для содействия более здоровому использованию ее чат-бота, заявив, что она не зашла достаточно далеко.
Семья включила журналы чата между Адамом, который умер в апреле, и ChatGPT, которые показывают, как он объясняет, что у него есть мысли о самоубийстве.
Альтман сказал, что OpenAI ранее сделал ChatGPT «довольно ограничительным, чтобы гарантировать, что мы будем осторожны с проблемами психического здоровья».
«Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, у которых не было проблем с психическим здоровьем, но, учитывая серьезность проблемы, мы хотели решить эту проблему правильно», — сказал г-н Альтман.
Он сказал, что теперь компания смогла смягчить серьезные риски для психического здоровья и располагает новыми инструментами, позволяющими «в большинстве случаев безопасно ослаблять ограничения».
«В декабре, когда мы более полно введем ограничение по возрасту и в рамках нашего принципа «относиться к взрослым пользователям как к взрослым», мы разрешим еще больше, например эротику для проверенных взрослых», — сказал он.
Критики говорят, что решение OpenAI разрешить эротику на платформе показывает необходимость усиления регулирования на федеральном уровне и уровне штата.
«Как они собираются гарантировать, что дети не смогут получить доступ к частям ChatGPT, предназначенным только для взрослых и содержащим эротику?» сказала Дженни Ким, партнер юридической фирмы Boies Schiller Flexner. «Открытый ИИ, как и большинство крупных технологий в этой сфере, просто использует людей как морских свинок».
Г-жа Ким участвует в иске против Meta, в котором утверждается, что алгоритм Instagram компании вредит психическому здоровью пользователей-подростков.
«Мы даже не знаем, сработает ли их возрастное ограничение», – сказала она.
В апреле Об этом сообщает >. что OpenAI позволяла учетным записям, в которых пользователь зарегистрировался как несовершеннолетний, создавать графическую эротику.
В OpenAI тогда заявили, что компания выпускает исправление, позволяющее ограничить такой контент.
А опрос опубликованная в этом месяце некоммерческой организацией «Центр демократии и технологий» (CDT), обнаружила, что каждый пятый студент сообщает, что у него или у кого-то из его знакомых были романтические отношения с ИИ.
В понедельник губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, принятый законодательным собранием штата, который запрещал разработчикам предлагать детям чат-ботов-компаньонов с искусственным интеллектом, если компании не могли гарантировать, что программное обеспечение не будет порождать вредное поведение.
Ньюсом сказал, что «крайне важно, чтобы подростки научились безопасно взаимодействовать с системами искусственного интеллекта». сообщение это сопровождало его вето.
На общенациональном уровне Федеральная торговая комиссия США (FTC) начала расследование того, как чат-боты с искусственным интеллектом взаимодействуют с детьми.
В прошлом месяце в Сенате США был представлен двухпартийный закон, который классифицирует чат-боты с искусственным интеллектом как продукты. Закон позволит пользователям подавать иски об ответственности против разработчиков чат-ботов.
Заявление г-на Альтмана во вторник прозвучало на фоне того, что скептики поставили под сомнение быстрый рост стоимости компаний, занимающихся технологиями искусственного интеллекта.
Доходы OpenAI растут, но они никогда не были прибыльными.
Профессор бизнеса Университета Тулейна Роб Лалка, автор недавней книги «Венчурные алхимики», сказал, что крупные компании, занимающиеся искусственным интеллектом, ведут борьбу за долю рынка.
«Ни одна компания никогда не получала такого распространения, как OpenAI с ChatGPT», — сказал Лалка BBC.
«Им необходимо продолжать продвигаться по этой экспоненциальной кривой роста, добиваясь доминирования на рынке настолько, насколько это возможно».
Продолжение темы
