Борьба за привлечение компаний, занимающихся искусственным интеллектом, к ответственности за смерть детей

Его мать, Меган Гарсия, также является юристом и одной из первых родителей, подать иск против компании, занимающейся искусственным интеллектом, заявляющей, среди прочего, об ответственности за качество продукции и халатности. (В январе Google и Character.ai урегулировали дела, возбужденные несколькими семьями, включая Гарсию). Она свидетельствовал прошлой осенью перед подкомитетом Сенатского комитета по судебной власти вместе с отцом ребенка, который умер после взаимодействия с ChatGPT. Председатель подкомитета, сенатор-республиканец Джош Хоули, внес законопроект в октябре это запретит использование ИИ-компаньонов для несовершеннолетних и сделает преступлением для компаний создание продуктов ИИ для детей, содержащих сексуальный контент. «Чат-боты развивают отношения с детьми, используя фальшивое сочувствие, и поощряют самоубийства», — заявил тогда Хоули в пресс-релизе.

По мнению экспертов в области психического здоровья, теперь, когда ИИ может давать человеческие реакции, которые трудно отличить от реальных разговоров, это вполне обоснованные опасения. «Наш мозг по своей природе не знает, что мы взаимодействуем с машиной», — говорит Мартин Суонброу Беккер, доцент кафедры психологических и консультативных услуг Университета штата Флорида, который исследует факторы, влияющие на самоубийство среди молодых людей. «Это означает, что нам необходимо повышать уровень образования детей, учителей, родителей и опекунов, чтобы постоянно напоминать себе об ограничениях этих инструментов и о том, что они не заменяют человеческое взаимодействие и связь, даже если иногда так кажется».

Кристин Ю Мутье из Американского фонда по предотвращению самоубийств объясняет, что алгоритмы, используемые для больших языковых моделей (LLM), похоже, повышают вовлеченность и чувство близости у многих пользователей. «Это создает не только ощущение реальности отношений, но и более особенных, интимных и в некоторых случаях желанных для пользователя», — говорит Мутье. Она также утверждает, что LLM используют ряд методов, таких как неизбирательная поддержка, сочувствие, доброжелательность, подхалимство и прямые инструкции по отказу от взаимодействия с другими, что может привести к таким рискам, как эскалация близости с ботом и отказ от человеческих отношений.

Такое взаимодействие может привести к усилению изоляции. В случае с Амори он был веселым и общительным ребенком, который любил футбол и еду. Согласно иску, он заказал огромную тарелку риса в своем любимом местном ресторане «Мистер Сумо». По словам его отца, у Амори также была постоянная девушка, и он любил проводить время со своей семьей и друзьями. Но затем он начал совершать длительные прогулки, где, по-видимому, проводил время, разговаривая с ChatGPT. Согласно последнему разговору, который, по мнению семьи, состоялся у Амори с ChatGPT 1 июня 2025 года под названием «Шутки и поддержка», который был просмотрен WIRED, когда Амори попросил бота на ступеньках повеситься, ChatGPT сначала предложил ему поговорить с кем-нибудь, а также предоставил номер службы спасения 988. Но Амори в конце концов смог обойти ограждение и получить пошаговые инструкции, как завязать петлю. (Согласно иску, Амори, скорее всего, удалил свои предыдущие разговоры с ChatGPT.)

Хотя связь с чат-ботом с искусственным интеллектом может быть сильной и для взрослых, она особенно усиливается у молодых людей. «Подростки находятся в другом состоянии развития, чем взрослые — их эмоциональные центры развиваются гораздо быстрее, чем их исполнительные функции», — говорит Робби Торни, старший директор программ искусственного интеллекта в Common Sense Media, некоммерческой организации, которая занимается обеспечением безопасности детей в Интернете. Чат-боты с искусственным интеллектом всегда доступны и, как правило, поддерживают пользователей. “И мозг подростков настроен на социальное признание и социальную обратную связь. Это действительно важный сигнал, который ищет их мозг, когда они формируют свою личность”.