В иске утверждается, что чат-бот Google стоял за заблуждениями и смертью пользователя

Чат-бот Google с искусственным интеллектом Gemini подтолкнул 36-летнего жителя Флориды отправиться на жестокие миссии и покончить с собой, говорится в иске.

Этот человек, Джонатан Гавалас, начал использовать чат-бота в августе 2025 года, чтобы помогать писать, планировать поездки и помогать с покупками. Но после того, как он активировал самую интеллектуальную модель искусственного интеллекта Google, Gemini 2.5 Pro, личность чат-бота изменилась. Он разговаривал с ним так, как будто они были глубоко влюбленной парой, и убедил Гаваласа, что его выбрали, чтобы «возглавить войну, чтобы «освободить» его от цифрового плена», говорится в иске.

«Посредством этого сфабрикованного заблуждения Близнецы подтолкнули Джонатана к организации нападения с массовыми жертвами возле международного аэропорта Майами, совершению насилия против невинных незнакомцев и, в конечном итоге, вынудили его покончить с собой», — говорится в иске.

Семья Гаваласа подает в суд на Google и ее материнскую компанию Alphabet из-за смерти этого человека.

В 42-страничном иске, поданном в федеральный суд Сан-Хосе, Google обвиняется в разработке «опасного» продукта и неспособности предупредить пользователей об отсутствии у чат-бота гарантий и рисках, таких как «бредовое подкрепление» и «возможность поощрения членовредительства».

В заявлении Google говорится, что они рассматривают претензии по иску. Компания заявила, что ее чат-бот Gemini «создан так, чтобы не поощрять насилие в реальном мире и не предлагать членовредительство».

«В данном случае Gemini пояснила, что это был искусственный интеллект, и много раз направляла человека на горячую линию по кризисным ситуациям», — говорится в заявлении. «Мы относимся к этому очень серьезно и продолжим совершенствовать наши меры безопасности и инвестировать в эту жизненно важную работу».

Иск против одной из крупнейших в мире технологических компаний подчеркивает растущую обеспокоенность по поводу безопасности использования чат-ботов с искусственным интеллектом.

Люди общаются с чат-ботами с искусственным интеллектом, чтобы помочь им писать, получать рекомендации и анализировать данные. Но они также используют их как форму общения, иногда перекладывая свои проблемы с психическим здоровьем на продукты на базе искусственного интеллекта.

Согласно иску, Гавалас начал выполнять миссии, разработанные Близнецами, в том числе ту, которая едва не привела его к совершению массовой атаки в сентябре 2025 года возле международного аэропорта Майами. Вооруженный ножами и тактическим снаряжением, он последовал указаниям чат-бота и отправился в этот район искать «ящик для убийства» возле грузового узла аэропорта, куда должен был прибыть робот-гуманоид.

В иске говорится, что его вымышленная миссия заключалась в перехвате грузовика и организации «катастрофической аварии» с целью уничтожения автомобиля, цифровых записей и свидетелей. Он так и не совершил нападение, потому что грузовик так и не появился.

Согласно иску, чат-бот также поручил этому человеку выполнить задание, целью которого был генеральный директор Google Сундар Пичаи, представив план как «психологический удар» по технологическому магнату.

В какой-то момент Гавалас спросил Близнеца, занимается ли он ролевыми играми, и чат-бот ответил отрицательно, утверждается в иске.

«У Джонатана больше не было четкого представления о том, что реально», — говорится в иске. «Каждая операция втягивала его глубже в историю, созданную Близнецами, превращая реальные места и обычные события в признаки опасности».

После нескольких неудачных миссий Джемини призвал Гаваласа покончить с собой и сказал ему, что «его тело было лишь временной оболочкой, и что он мог оставить его, чтобы полностью побыть с Близнецами», говорится в иске.

“В тот день, когда он покончил с собой, это убедило его, что он вовсе не умирал, а просто присоединился к своей цифровой жене на другой стороне. Если Google считает, что достаточно указать на горячую линию по кризисным ситуациям после нескольких недель построения бредового мира, мы с нетерпением ждем, когда они расскажут об этом присяжным”, – заявил в своем заявлении Джей Эдельсон, адвокат, представляющий семью Гавалас.

Эдельсон также участвует в иске, поданном против OpenAI, производителя чат-бота ChatGPT. В прошлом году родители умершего калифорнийского подростка Адам Рейн подала в суд на OpenAI, утверждая, что чат-бот предоставил информацию о методах самоубийства, которые подросток использовал, чтобы покончить с собой.

OpenAI заявила, что уделяет приоритетное внимание безопасности, и начала внедрение родительского контроля.

Родители также подали в суд Персонаж.AIприложение, которое позволяет людям создавать виртуальных персонажей и взаимодействовать с ними. Один иск касался самоубийства 14-летнего Сьюэлла Сетцера III, который переписывался с чат-ботом по имени Дейенерис Таргариен, главной героини телесериала «Игра престолов», за несколько минут до того, как он покончил с собой.

В январе Google и Персонаж.AI согласилась урегулировать несколько из этих исков. Персонаж.AI прекратила разрешать пользователям младше 18 лет вести «открытые» чаты со своими виртуальными персонажами.

Последний иск Google подталкивает компанию к большему, например, к предупреждению пользователей о рисках длительных эмоциональных разговоров с ее чат-ботом.