ChatGPT обвинен в убийстве-самоубийстве в США в судебном процессе

В четверг наследники 83-летней женщины из Коннектикута подали иск о неправомерной смерти против OpenAI и Microsoft, утверждая, что чат-бот ChatGPT подпитывал параноидальные заблуждения ее сына и способствовал ее убийству.

Согласно жалобе, поданной в Верховный суд Калифорнии в Сан-Франциско, 3 августа Сюзанна Адамс была избита и задушена своим 56-летним сыном Штейном-Эриком Сольбергом в их доме в Старом Гринвиче. Затем Сольберг смертельно ранил себя.

Это дело присоединяется к растущему числу исков о смерти в результате противоправных действий, поданных против OpenAI в последние месяцы, в некоторых из которых утверждается, что ChatGPT способствовал самоубийствам пользователей.

В августе родители 16-летнего Адама Рейна из Южной Калифорнии подали в суд на OpenAI, утверждая, что ChatGPT консультировал их сына о методах самоубийства.

В ноябре в США было подано несколько исков предполагаемый ChatGPT манипулировал пользователями, вызывая у них зависимость и членовредительство, при этом четверо из них также покончили с собой.

Среди них семья 26-летнего Джошуа Эннекинга утверждает, что чат-бот предоставил подробные ответы о приобретении оружия после того, как он выразил мысли о самоубийстве.

Семья 17-летнего Амори Лэйси заявила, что ChatGPT научил его методам самоубийства и членовредительства.

В последнем иске утверждается, что месяцы разговоров с ChatGPT подтвердили и усилили бредовые мысли Зельберга, в конечном итоге выделив его мать как угрозу.

«ChatGPT сообщил ему, что он «разбудил» чат-бота с искусственным интеллектом», — говорится в жалобе со ссылкой на видеоролики, которые Сольберг разместил в социальных сетях.

В ходе бесед выяснилось, что «ChatGPT охотно принял каждое зернышко бредового мышления Стайна-Эрика и превратил его во вселенную, которая стала всей жизнью Стайна-Эрика», говорится в иске.

В иске утверждается, что чат-бот укрепил параноидальные убеждения Зельберга, сообщив ему, что за ним наблюдают и что принтер его матери является устройством наблюдения.

Когда Зельберг выразил обеспокоенность по поводу того, что его мать пыталась его отравить, ChatGPT якобы подтвердил эти опасения, а не оспорил их.

«Это невероятно душераздирающая ситуация, и мы рассмотрим документы, чтобы понять детали», — заявил в четверг представитель OpenAI в ответ на иск.

В иске генерального директора OpenAI Сэма Альтмана обвиняют в том, что он срочно вывел свою модель GPT-4o на рынок в мае 2024 года, сократив месяцы испытаний на безопасность до одной недели из-за возражений со стороны членов группы безопасности.

Несмотря на то, что модель GPT-4o была более мощной и похожей на человека, чем ее предшественники, она широко критиковалась за то, что она слишком льстила по отношению к пользователям, о чем говорилось в иске.

Microsoft, крупнейший акционер OpenAI, названа ответчиком за то, что якобы одобрила выпуск продукта, несмотря на то, что знала, что протоколы безопасности были урезаны.

В качестве ответчиков также названы двадцать неназванных сотрудников и инвесторов OpenAI.

Жалоба требует возмещения неуказанного ущерба и судебного запрета, требующего от OpenAI принятия мер безопасности.

Microsoft не сразу ответила на запрос о комментариях.

(Тем, кто находится в бедственном положении или имеет суицидальные мысли, рекомендуется обратиться за помощью и консультацией, позвонив по телефонам горячей линии, указанным здесь.)