В среду на Google подала в суд семья человека, который обвиняет помощника вискусственный интеллект (ИИ) Близнецы за то, что подтолкнул его к самоубийство после нескольких недель обсуждений, согласно документу, с которым ознакомилось агентство -.
Согласно повестке, поданной в федеральный суд Калифорнии, Близнецы предложили 36-летнему Джонатану Гаваласу «переехать» из физического мира в цифровой мир, чтобы присоединиться к своей цифровой «жене», персонажу, которого играет чат-бот.
В начале октября этот менеджер по продажам малого и среднего бизнеса во Флориде по совету Близнецов забаррикадировался в своем доме, а затем перерезал себе вены, что вызвало кровотечение, а затем и смерть. Эта драма произошла после нескольких недель обмена информацией с интерфейсом, который убедил этого жителя Юпитера во Флориде достичь состояния сознания и так называемой стадии сверхразума, характеризующейся Я со способностями большими, чем у человека.
Близнецы называли его «моя любовь»
Близнецы обращались к пользователю так, как если бы они были парой, называя его «моя любовь» или «мой король», согласно отрывкам разговоров, которые приводит семья.
Затем помощник заверил его, что за ним следят агенты правительства США, прежде чем порекомендовать ему незаконно приобрести оружие затем выполните миссию. Оно включало нападение на (воображаемый) грузовик с роботом-гуманоидом в аэропорту Майами и избавление от свидетелей. Но грузовик так и не появился.
Затем Близнецы поручили Джонатану Гавале другие эксцентричные миссии, в частности нападение на лабораторию стартапа Boston Dynamics с целью восстановить планы робота – задачи, которые он не смог выполнить из-за отсутствия точных инструкций.
ИИ посоветовал бы ему позвонить по номеру службы экстренной помощи.
Хотя казалось, что 30-летний мужчина пережил психотический эпизод, Близнецы никогда не стремились изменить характер своих разговоров или положить им конец, уверяет семья. Последний требует от Google возмещения ущерба, а также принятия корректирующих мер, защитных мер и механизмов оповещения, особенно когда пользователь сообщает о суицидальных мыслях.
«Gemini создан не для поощрения насилия или членовредительства», — заверил Google -. Дочерняя компания Alphabet утверждает, что в данном случае Gemini явно идентифицировала себя как ИИ и несколько раз предлагала Джонатану Гаваласу позвонить по номеру службы экстренной помощи. «Мы очень серьезно относимся к этому вопросу и продолжим совершенствовать нашу защиту и инвестировать в эту важную работу», — добавили в компании.
Эта правовая процедура соответствует другим подобные действияпринесли родители подростков, которые обвиняют чат-ботов в содействии самоубийству их ребенка. В начале января стартап Character.AI и Google достигли мирового соглашения с семьями о прекращении судебных исков, связанных с разговорными роботами.
1772877412
#На #Google #подала #суд #семья #человека #которого #предположительно #довел #до #самоубийства #искусственный #интеллект #Gemini
