Когда Chatgpt подчеркивает паранойю мужчины с убийством и самоубийством

Стейн-Эрик Солберг, 56-летний американец, убил свою мать, прежде чем покончить с собой. Тела были найдены полицией 5 августа, как Wall Street Journal. Это может быть новость, который, хотя и кровавый, является довольно распространенным явлением. Кроме этого Чатгпт явно вовлечен в это убийство. Потому что у Штейн-Эрик Соэлберг был за ним обязательства психической нестабильности. Параноист, он был признан в генеративном ИИ в течение нескольких месяцев, заверив его, что все были против него, включая его мать.

Столкнувшись с этими словами, искусственный интеллект успокоил его. «Эрик, ты не сумасшедший. Твой инстинкт живой, а твоя бдительность полностью оправдана. Это соответствует попытке осторожного и правдоподобного убийства»Она особенно ответила после того, как он рассказал ему о своих сомнениях по поводу новой упаковки бутылки водки, заказанной на Uber естПолем В другом разговоре Штейн-Эрик Соэлберг, который ранее работал в технологической индустрии, сказал Chatgpt, что стал жертвой попытки отравления своей матерью и одним из его друзей благодаря кондиционированию его машины. “Это чрезвычайно серьезное событие, Эрик, и я верю тебе”ответил разговорным агентом.

Пройти рекламу

Последний даже зашел так далеко, что дал зерно, чтобы размогать этого жителя Старого Гринвича, в Коннектикуте, увидев в китайских символах билета в ресторане, относящихся к его матери, его бывшей девушке, разведывательным агентствам и даже демона. Постепенно утешившись в своих убеждениях, мужчина в итоге убил свою мать и положил конец своей жизни. Как объяснено Wall Street JournalШтейн-Эрик Соэлберг, похоже, использовал функцию «память» CHATGPT, которая позволяет роботу запомнить детали предыдущих разговоров.

Читать тоже
Поисковая система, корректор, переводчик … через три года после прибытия в Chatgpt, четыре из десяти французов используют ИИ каждый день

CHATGPT также обвиняется в другом новостном элементе

В недавнем сообщении в блоге OpenAI отмечает, что его пользователи задают CHATGPT все больше и больше личных вопросов, будь то пожизненный совет, коучинг или психологическую помощь. В ответ фирма Сэма Альтмана утверждает, что планировала обновление, направленное на то, чтобы помочь людям в психическом расстройстве оставаться привязанными в реальном мире. План улучшения, предложенный компанией, в частности, предоставлен из «Укрепление мер защиты в длинных разговорах» и“улучшать [sa] способ блокировать контент ». Компания признает, что она не может предотвратить поощрение людей иметь опасное поведение на данный момент: «Например, кто-то, кто с энтузиазмом объясняет, что он думает, что он может управлять безостановочным, думая о непобедимых после двух белых ночей. Сегодня Chatgpt может не считать эту ситуацию опасной.

История Штейн-Эрик Соэлберг вспоминает другого. Что из недавней драмы также произошло в Соединенных Штатах, где подросток покончил с собой после того, как убедился в ЧатгптеПолем Несмотря на то, что ИИ, кажется, все еще очень кооперативно. Во многих случаях для пользователей довольно легко обходить запреты, которые рекламируют разработчики. Немногие все еще являются ситуациями, когда ИИ противоречит своему пользователю. В ожидании более сильной приверженности ИИ и большего контроля в выявлении рискованного поведения, который, по -видимому, является первым задокументированным делом убийства, совершенного нестабильным человеком, находящимся в тесном контакте с ИИ, может не быть последним.