Регуляторы изо всех сил пытаются не отставать от быстрожирающих и сложных ландшафтов приложений терапии ИИ

В отсутствие более сильного федерального регулирования некоторые штаты начали регулировать приложения, которые предлагают «терапию», когда все больше людей обращаются к Искусственный интеллект для советов по психическому здоровьюПолем

Но все законы, все принятые в этом году, не полностью обращаются к быстро меняющемуся ландшафту разработки программного обеспечения для ИИ. А разработчики приложений, политики и защитники психического здоровья говорят, что результирующая лоскутная одежда государственных законов недостаточно для защиты пользователей или увлечения создателей вредных технологий.

«Реальность заключается в том, что миллионы людей используют эти инструменты, и они не возвращаются»,-сказала Карин Андреа Стефан, генеральный директор и соучредитель приложения для психиатрического чат-бота Earkick.

___

Примечание редактора – эта история включает в себя обсуждение самоубийства. Если вам или кто -то из ваших знакомых нуждается в помощи, национальное самоубийство и кризис Lifeline в США доступны по телефону или текстовым сообщениям 988. Также есть онлайн -чат по адресу 988lifeline.org.

___

Государственные законы используют разные подходы. Иллинойс и Невада запретили использование ИИ для лечения психического здоровья. Юта Положили определенные ограничения на терапию чат -ботов, включая их требование защищать медицинскую информацию пользователей и четко раскрыть, что чат -бот не является человеком. ПенсильванияВ Нью -Джерси и Калифорния также рассматривают способы регулирования терапии ИИ.

Влияние на пользователей варьируется. Некоторые приложения заблокировали доступ в штатах с запретами. Другие говорят, что они не вносят никаких изменений, поскольку они ждут более юридической ясности.

И многие законы не покрывают общие чат -боты, такие как Chatgptкоторые явно не продаются для терапии, но используются неразимым числом людей для нее. Эти боты привлекли судебные процессы в ужасных случаях, когда пользователи потеряли свою власть в реальности или покончили с собой после взаимодействия с ними.

Вейл Райт, который курирует инновации в области здравоохранения в Американской психологической ассоциации, согласилась с тем, что приложения могут удовлетворить потребность, отмечая общенациональную нехватка поставщиков психического здоровьявысокие затраты на уход и неравномерный доступ для застрахованных пациентов.

По словам Райта, чат -боты психического здоровья, которые основаны на науке, созданные с помощью экспертных вкладов и контролируемых людьми, могут изменить ландшафт.

«Это может быть чем -то, что помогает людям, прежде чем они дойдут до кризиса», – сказала она. «Это не то, что находится на коммерческом рынке в настоящее время».

Вот почему необходимы федеральное регулирование и надзор, сказала она.

Ранее в этом месяце Федеральная торговая комиссия объявила, что это было Открытие запросов в семи компаниях с чатботом ИИ – Включая материнские компании Instagram и Facebook, Google, CHATGPT, GROK (The Chatbot on x), Характер.ai и Snapchat – о том, как они «измеряют, тестируют и контролируют потенциально негативное воздействие этой технологии на детей и подростков». И Управление по контролю за продуктами и лекарствами составляет консультативный комитет 6 ноября для рассмотрения Генеративные устройства психического здоровья с поддержкой AIПолем

Федеральные агентства могут рассмотреть ограничения на то, как продаются чат -боты, ограничивают практику привыкания, требуют раскрытия пользователям, что они не являются медицинскими поставщиками, требуют, чтобы компании отслеживали и сообщали о самоубийственных мыслях и предлагают правовую защиту людей, которые сообщают о плохих практиках компаний, сказал Райт.

От «компаньоновных приложений» до «ИИ -терапевтов» до приложений «психическое здоровье», использование ИИ в психиатрической медицинской помощи разнообразно и трудно определить, не говоря уже о написании законов.

Это привело к различным нормативным подходам. Некоторые штаты, например, нацелены на Сопутствующие приложения это спроектирован только для дружбыно не ходите в психиатрическую помощь. Законы в штате Иллинойс и Невада запрещают продукты, которые претендуют на то, чтобы получить психическое лечение прямо, угрожая штрафам до 10 000 долларов США в Иллинойсе и 15 000 долларов в Неваде.

Но даже одно приложение может быть трудно классифицировать.

Стефан из Earkick сказал, что, например, все еще много «очень грязно» в законе штата Иллинойс, и компания там не ограничивает доступ.

Стефан и ее команда изначально отдерживались от их чат -бота, который выглядит как мультфильм -панда, терапевт. Но когда пользователи начали использовать слово в обзорах, они приняли терминологию, чтобы приложение отображалось в поисках.

На прошлой неделе они снова отступили, используя терапию и медицинские термины. Веб -сайт Earkick назвал его чат -бот как «вашего сочувственного консультанта по искусственному интеллекту, который оснащен для поддержки вашего психического путешествия», но теперь это «чат -бот для самообслуживания».

Тем не менее, «мы не диагностируем», утверждал Стефан.

Пользователи могут настроить «кнопку паники», чтобы вызвать доверяющего любимого человека, если они находятся в кризисе, и чат -бот будет «подталкивать» пользователей, чтобы искать терапевта, если их психическое здоровье ухудшится. Но это никогда не было предназначено для того, чтобы быть приложением по предотвращению самоубийств, сказал Стефан, и полиция не будет вызвана, если кто-то расскажет боту о мыслях о самоповреждении.

Стефан сказала, что она счастлива, что люди смотрят на ИИ с критическим взглядом, но беспокоятся о способности государств идти в ногу с инновациями.

«Скорость, с которой все развивается, огромна», – сказала она.

Другие приложения заблокировали доступ немедленно. Когда пользователи Illinois загружают приложение AI Therapy Ash, сообщение призывает их по электронной почте своим законодателям, утверждая, что «ошибочное законодательство» запретило приложения, такие как пепел », оставляя нерегулируемые чат -боты, которые он намеревался, чтобы свободно нанести вред».

Представитель Эша не ответил на многочисленные запросы на собеседование.

Марио Трето -младший, секретарь Департамента финансового и профессионального регулирования штата Иллинойс, сказал, что в конечном итоге цель заключалась в том, чтобы убедиться, что лицензированные терапевты были единственными, кто проводит терапию.

«Терапия – это больше, чем просто обмен словами», – сказал Трето. «Это требует сочувствия, это требует клинического суждения, это требует этической ответственности, ни один из которых ИИ не может действительно повторить прямо сейчас».

В марте команда из Дартмутского университета опубликовала первую известную рандомизированное клиническое исследование Генеративного чат -бота ИИ для психического лечения.

Цель состояла в том, чтобы чат -бот, называемый Therabot, относиться к людям с диагнозом тревоги, депрессии или расстройств пищевого поведения. Он был обучен виньеткам и стенограммам, написанным командой, чтобы проиллюстрировать основанный на фактических данных ответ.

Исследование обнаружило, что пользователи оценили Therabot, похожие на терапевта и имели значительно более низкие симптомы через восемь недель по сравнению с людьми, которые не использовали его. Каждое взаимодействие контролировалось человеком, который вмешался, если ответ чат-бота был вредным или не основанным на фактических данных.

Николас Якобсон, клинический психолог, чья лаборатория руководит исследованием, сказал, что результаты показали раннее обещание, но необходимы более крупные исследования, чтобы продемонстрировать, работает ли Therabot для большого числа людей.

«Пространство настолько совершенно новое, что я думаю, что поле нужно продолжить с гораздо большей осторожностью, которая происходит прямо сейчас», – сказал он.

Многие приложения ИИ оптимизированы для участия и созданы для поддержки всего, что говорят пользователи, а не вызов мыслям людей, как это делают терапевты. Многие ходят по линии общения и терапии, размывая границы близости, терапевты, которые этически не будут.

Команда Теработа стремилась избежать этих проблем.

Приложение по -прежнему находится в тестировании и не широко доступно. Но Джейкобсон беспокоится о том, что строгие запреты будут означать для разработчиков, использующих тщательный подход. Он отметил, что у Иллинойса не было четкого пути, чтобы предоставить доказательства того, что приложение безопасно и эффективно.

«Они хотят защитить людей, но традиционная система прямо сейчас действительно подводит людей», – сказал он. «Итак, попытка придерживаться статус -кво – это не то, что нужно сделать».

Регуляторы и защитники законов говорят, что они открыты для изменений. Но сегодняшние чат -боты не являются решением нехватки поставщика психического здоровья, сказал Кайл Хиллман, который лоббировал законопроекты в Иллинойсе и Неваде благодаря своей принадлежности к Национальной ассоциации социальных работников.

«Не всем, кому грустно, нужен терапевт», – сказал он. Но для людей с реальными проблемами психического здоровья или суицидальными мыслями, – говоря, «я знаю, что есть нехватка рабочей силы, но вот бот» – это такая привилегированная позиция ».

___

Департамент здравоохранения и науки Associated Press получает поддержку от Департамента научного образования Говарда Хьюза и Фонда Роберта Вуда Джонсона. AP несет единоличную ответственность за весь контент.