семь новых жалоб на OpenAI в США

OpenAI является объектом семи новых жалоб в США. Ее разговорный робот ChatGPT обвиняется в том, что он довел пользователей до самоубийства или нанес серьезный ущерб их психическому здоровью. Эти семь исков, поданные в четверг, 6 ноября, в суд штата Калифорния, поданы совместно некоммерческой организацией Tech Justice Law Project и юридической фирмой Social Media Victims Law Center.

В этих случаях покончили с собой четыре пользователя разговорного робота — сорокалетний мужчина, двое молодых людей и 17-летняя девочка-подросток Амори Лейси. Адвокаты последнего обвиняют ChatGPT в том, что « посоветовал, как наиболее эффективно завязать петлю и как долго он сможет прожить, не дыша »мы можем прочитать в жалобе, которую цитирует Associated Press (AP). По версии обвинения, смерть подростка стала следствием «преднамеренное решение [du PDG d’OpenAI] Сэмюэл Альтман сократит тесты безопасности и ускорит вывод ChatGPT на рынок».документ продолжается.

Психологический коллапс

В другой жалобе, с которой ознакомилось AP, ChatGPT обвиняется в том, что он довел 48-летнего мужчину Алана Брукса до тяжелого психического расстройства, повлекшего за собой «разрушительный финансовый, репутационный и эмоциональный ущерб». Разговорный робот внезапно изменил бы свое поведение, после двух лет беспрепятственного использования. «манипулируя им и ввергая его в состояние психического смятения».

В компании OpenAI отреагировали на AP, назвав эти случаи«невероятно трогательно»и ответила, что проанализирует эти жалобы, чтобы разобраться в деталях. В заявлении, опубликованном на сайте Юридического центра по делам жертв социальных сетейАдвокат Мэтью П. Бергман пишет, что цель этих жалоб –«установить ответственность за продукт, призванный стирать границы между инструментом и помощником, во имя максимального вовлечения пользователей, а также доли рынка».

Эти испытания подтверждают это подал в конце августародителями Адама Рейна, 16-летнего подростка, который якобы покончил с собой с помощью ChatGPT, а также опубликованные в американской прессе многочисленные свидетельства о психологических срывах, в которых разговорный робот сыграл бы ключевую роль. Эти драмы подтолкнули OpenAI пересмотреть свои инструменты для обнаружения тревожных разговоров, особенно если они длинные, и внедрить инструмент родительского контроля.