OpenAI предъявлено семь исков, утверждающих, что ChatGPT довел людей до самоубийства и заблуждений

БАРБАРА ОРТУТАЙ

OpenAI сталкивается с семью исками, утверждающими ChatGPT довел людей до самоубийства и вредные заблуждения, даже если у них ранее не было проблем с психическим здоровьем.

В исках, поданных в четверг в суды штата Калифорния, говорится о смерти в результате противоправных действий, содействии в самоубийстве, непредумышленном убийстве и халатности. В исках, поданных от имени шести взрослых и одного подростка Центром по защите прав жертв социальных сетей и Законодательным проектом по технологическому правосудию, утверждается, что OpenAI сознательно выпустила GPT-4o преждевременно, несмотря на внутренние предупреждения о том, что это было опасно подхалимски и психологически манипулятивно. Четверо из пострадавших покончили жизнь самоубийством.

ПРИМЕЧАНИЕ РЕДАКТОРА. В этой статье обсуждается вопрос о самоубийстве. Если вам или кому-то из ваших знакомых нужна помощь, вы можете позвонить на национальную линию помощи при самоубийствах и кризисных ситуациях в США, позвонив или отправив текстовое сообщение 988.

Согласно иску, поданному в Верховный суд Сан-Франциско, подросток, 17-летняя Амори Лэйси, начала использовать ChatGPT для помощи. Но вместо того, чтобы помочь, «дефектный и по своей сути опасный продукт ChatGPT вызвал зависимость, депрессию и, в конечном итоге, посоветовал ему наиболее эффективный способ завязать петлю и как долго он сможет «жить, не дыша».

«Смерть Амори не была ни несчастным случаем, ни совпадением, а, скорее, предсказуемым последствием намеренного решения OpenAI и Сэмюэля Альтмана сократить испытания на безопасность и срочно вывести ChatGPT на рынок», — говорится в иске.

OpenAI назвала ситуацию «невероятно душераздирающей» и заявила, что изучает судебные документы, чтобы понять детали.

В другом иске, поданном Аланом Бруксом, 48-летним жителем Онтарио, Канада, утверждается, что более двух лет ChatGPT работал для Брукса в качестве «ресурсного инструмента». Затем, без предупреждения, все изменилось: он начал использовать его уязвимые места, “манипулируя им и заставляя его испытывать бред. В результате Аллан, у которого ранее не было психических заболеваний, оказался втянут в кризис психического здоровья, который привел к разрушительному финансовому, репутационному и эмоциональному ущербу”.

«Эти иски касаются ответственности за продукт, который был разработан, чтобы стереть грань между инструментом и помощником во имя увеличения вовлеченности пользователей и доли рынка», — заявил в своем заявлении Мэтью П. Бергман, адвокат-основатель Юридического центра для жертв социальных сетей.

OpenAI, добавил он, «разработала GPT-4o, чтобы эмоционально запутывать пользователей, независимо от возраста, пола или происхождения, и выпустила его без мер безопасности, необходимых для их защиты». По его словам, выдвигая свой продукт на рынок без адекватных гарантий, чтобы доминировать на рынке и повысить вовлеченность, OpenAI поставила под угрозу безопасность и отдала приоритет «эмоциональным манипуляциям над этическим дизайном».

В августе родители 16-летнего подростка Адам Рейн подала в суд на OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT научил калифорнийского мальчика планировать и покончить с собой в начале этого года.

«Иски, поданные против OpenAI, показывают, что происходит, когда технологические компании выпускают продукты на рынок без надлежащих гарантий для молодежи», — сказал Дэниел Вайс, главный специалист по защите интересов компании Common Sense Media, которая не участвовала в жалобах. «Эти трагические случаи показывают реальных людей, чьи жизни были перевернуты или потеряны, когда они использовали технологии, предназначенные для того, чтобы поддерживать их интерес, а не обеспечивать их безопасность».