Родители подали иск против Openai, обвинив Chatgpt за смерть своего сына

Иск против Openai Родители 16 -летнего Адама Рейна, потерявшего жизнь, самоубийство через несколько месяцев после нескольких месяцев разговоров с Чатгпт.

16-летний футболист использовал платную версию CATGPT-4O в течение многих месяцев и запросил информацию и советы по пути самоубийств. Чатбот призвал его попросить о помощи у экспертов или общаться с линиями поддержки, но он смог обойти фильтры безопасности, сказав ему, что вопросы о написании фантастического сценария.

Согласно иску, Chatgpt предоставил ему информацию о методах самоубийства и направил его к тому, как скрыть доказательства от его родителей. На самом деле, он даже предложил составить заметку о самоубийстве.

Родители обычно говорят, что иск о том, что OpenAI знал об опасностях, связанных со слабыми сторонами механизмов безопасности GPT-4O и вероятностью развития психологической зависимости, но распространяется на продукт, стремясь к прибыли. Они утверждают, что это решение привело к стоимости OpenAI от 86 миллиардов долларов до 300 миллиардов долларов. Но он также принес смерть своего сына.

Со своей стороны, Openai через своего представителя сожалела о смерти молодого человека, подтвердив, что у нее есть механизмы, которые побуждают пользователей обращаться за помощью. Он также признал, что эти механизмы работают лучше в коротких разговорах и могут снизить их эффективность по мере роста взаимодействия.

Компания также объявила, что работает над разработкой новых мер, таких как родительский контроль, более строгие процедуры проверки возраста и возможность подключения пользователей с сертифицированными экспертами по психическому здоровью через платформу.