Изменение направления. OpenAI отложена на неопределенный срок его план разрешить эротические разговоры в ChatGPTКомпания подтвердила в четверг, чья инициатива вызвала опасения по поводу ее потенциальных вредных последствий и репутационного риска для мирового лидера в области генеративного искусственного интеллекта. Это решение, о котором сообщила Financial Times, было принято в то время, когда ИИ-гигант из Сан-Франциско переориентируется на разработку профессиональных инструментов в поисках дохода.
В октябре руководитель OpenAI Сэм Альтман бросил вызов критикам, объявив в декабре об ослаблении ограничений ChatGPT, пообещав «относиться к взрослым пользователям как к взрослым».
Пять месяцев спустя OpenAI сообщила FT, что хочет провести долгосрочное исследование последствий сексуальных разговоров и эмоциональных привязанностей, прежде чем принимать какие-либо решения, признавая отсутствие на данный момент «эмпирических доказательств». В ответ на запрос OpenAI заявила, что ей «нечего добавить».
Проблемы с системой проверки возраста
Некоторые сотрудники усомнились в совместимости продукта, получившего прозвище «лимонный режим», с заявленной миссией компании — технология приносит пользу всему человечеству.
Инвесторы также повысили высокий репутационный риск, учитывая ожидаемые коммерческие выгоды, добавляет британская газета.
Технические препятствия также имеют значение: по данным источника, цитируемого FT, система проверки возраста, разработанная OpenAI, будет иметь уровень ошибок более 10%, что вновь разжигает опасения, что несовершеннолетние будут подвержены откровенно сексуальному контенту – деликатная тема, поскольку компания сталкивается с несколькими судебными разбирательствами в Соединенных Штатах.
Этот отказ является частью переориентации, объявленной во вторник Сэмом Альтманом для его команд, которая привела к закрытию Sora2, социальной сети для видео, созданных искусственным интеллектом. Эта реорганизация направлена на то, чтобы сосредоточить ограниченные ресурсы – вычислительную мощность и капитал – на разработке более прибыльных профессиональных инструментов и агентов искусственного интеллекта.
Несмотря на растущий оборот, оцениваемый в 20 миллиардов долларов в год, OpenAI сжигает гораздо больше денег, чем генерирует. Этот спад также происходит на фоне сильного юридического давления на Силиконовую долину по поводу влияния новых технологий на психическое здоровье.
OpenAI, среди прочего, стал объектом нескольких жалоб от родителей, обвиняющих чат-ботов с искусственным интеллектом в причастности к самоубийству или заболеванию подростков. Американская организация по надзору за потребителями FTC начала расследование по этому поводу, направленное против нескольких компаний, включая OpenAI. В среду индустрию потряс беспрецедентный приговор: Instagram (Meta) и YouTube (Google) были признаны ответственными за тяжелую депрессию девочки-подростка.
В январе компания Илона Маска xAI вызвала глобальную полемику из-за «пикантного режима» ее помощника Грока, который позволяет виртуально раздевать женщин и детей на основе реальных фотографий.
1774568649
#Эротические #разговоры #ChatGPT #отложены #до #дальнейшего #уведомления
Ещё по этой теме
