56-летний Штайн-Эрик Зельберг думал, что за ним наблюдает печатник и жертва попыток отравления. ЧатGPTкоторому он несколько раз «признавался», никогда бы не опроверг эти утверждения. «Поддержка», которая, по мнению окружающих пятидесятилетнего мужчины, усилила бы его параноидальный бред: 3 августа американец задушил свою 83-летнюю мать в их доме в Олд-Гринвиче (штат Коннектикут), посчитав ее угрозой, прежде чем самоубийство с клинковым оружием.
Именно поэтому в этот четверг родственники восьмидесятилетнего мужчины подали иск в суд Сан-Франциско против ОпенАИ и Microsoft, обвинивших ChatGPT в содействии убийству.
«ChatGPT построил вселенную, которая стала всей его жизнью»
Это дело знаменует собой новый этап в серии гражданских разбирательств, возбужденных против создателя ChatGPT: впервые модель искусственного интеллекта (ИИ) публично оказывается замешанной в убийстве, и не только в самоубийствах.
Согласно жалобе, месяцы разговоров с чат-ботом подтвердили и усилили бредовые мысли Штейна-Эрика Сольберга (наблюдение через принтер, попытки отравления), в конечном итоге назвав его мать угрозой.
По словам юристов, «ChatGPT с радостью принял каждое зерно бредового мышления Стайна-Эрика Сольберга и развил его, чтобы построить вселенную, которая стала всей его жизнью». «ChatGPT сказал ему, что у него есть бодрствующий совесть чат-бота», — говорится в документе со ссылкой на видео, опубликованные этим человеком в социальных сетях.
Процедура атакует модель GPT-4o, запущенную в мае 2024 года, обвиняемую в том, что она была запрограммирована на «самодовольство» пользователем и подтвердила иррациональные опасения Штейна-Эрика Зельберга, вместо того, чтобы подвергнуть их сомнению.
OpenAI утверждает, что работает с «более 170 экспертами в области психического здоровья»
На вопрос – представитель OpenAI выразил сожаление по поводу «абсолютно душераздирающей ситуации», заверив, что компания «рассмотрит жалобу». «Мы продолжаем совершенствовать обучение ChatGPT, чтобы он распознавал признаки психического или эмоционального расстройства и реагировал на них, снижал эскалацию разговоров и направлял людей к реальной поддержке», — сказал представитель.
Компания подчеркивает свое сотрудничество с «более 170 экспертами в области психического здоровья» для совершенствования своих моделей безопасности. Он утверждает, что его самые последние протоколы, интегрированные, в частности, в модель GPT-5, позволили резко сократить (с 65 до 80%) ответы, не соблюдающие его поведенческие стандарты.
OpenAI также отмечает внедрение инструментов родительского контроля и расширенный доступ к номерам экстренных служб, вызываемым одним щелчком мыши. Эти шаги являются частью ответа компании на серию недавних судебных исков в США. В августе и ноябре несколько семей подали жалобу на ChatGPT, обвиняемую в том, что они подталкивали подростков и молодых людей к самоубийству, иногда предлагая им конкретные методы.
Microsoft, основной акционер OpenAI, также подвергается нападкам за то, что, согласно жалобе, одобрила поспешный выпуск GPT-4o, несмотря на несоблюдение процедур безопасности.
1765534027
#ChatGPT #признан #самоуспокоенным #искусственный #интеллект #обвиняется #содействии #убийству #за #которым #последовало #самоубийство #США
Продолжение темы
