«Вы должны знать», — предупреждает генеральный директор Talkspace

Talkspace превратилась в одну из крупнейших платформ онлайн-терапии в США, охватывающую примерно 200 миллионов американцев. По мере роста платформы психического здоровья она также стала пионером в новых способах охвата людей, нуждающихся в помощи с проблемами психического здоровья, включая травмы, депрессию, зависимость, жестокое обращение и отношения, а также на различных этапах жизни, включая подростковый возраст.

Опыт компании в удовлетворении потребностей подростков в области психического здоровья ставит Talkspace в уникальную позицию для понимания проблемы, приобретающей растущую важность на национальном уровне: использование больших языковых моделей искусственного интеллекта, не предназначенных для оказания поддержки психического здоровья подросткам из группы риска, что привело к трагическим последствиям.

«Это огромная, огромная проблема», — заявил генеральный директор Talkspace Джон Коэн на саммите Исполнительного совета по трудовым ресурсам CNBC во вторник в Нью-Йорке.

Talkspace реализует крупнейшую в стране программу психического здоровья подростков: учащиеся в возрасте от 13 до 17 лет в Нью-Йорке могут бесплатно пользоваться ее услугами, а также аналогичные программы в Балтиморе и Сиэтле. Виртуальное приложение для психического здоровья предлагает как асинхронный обмен текстовыми сообщениями, так и видеосеансы в реальном времени с тысячами лицензированных терапевтов.

Хотя Коэн говорит, что он «ярый сторонник отказа от использования телефонов, запретов на мобильные телефоны и всего остального», он добавил, что для обслуживания подростков компания должна идти навстречу им там, где они есть. Это означает, что «мы встречаемся с ними по их телефонам», сказал он.

Более 90% студентов, использующих Talkspace, используют подход терапии асинхронными сообщениями, по сравнению с только 30%, которые используют видео (70% от общего числа пользователей Talkspace предпочитают видео вместо текста, причем этот процент увеличивается с возрастом пациента).

Поскольку подростки обращаются к чат-ботам, которые не лицензированы и не предназначены для оказания услуг по охране психического здоровья, Коэн сказал аудитории руководителей кадров на мероприятии CNBC: «Мы находимся в центре этого водоворота, буквально нарушая терапию психического здоровья. Подкаст «Нью-Йорк Таймс».

OpenAI недавно анонсировала запланированы изменения в ChatGPT AI после того, как его обвинили в самоубийстве подростка и подали в суд на семью, и изложили свои намерения в сообщение в блоге.

«Я говорю каждой группе: если вы не знаете об этом, вам нужно знать, что происходит. Вам нужно не допускать, чтобы люди, которых вы знаете, и подростки посещали эти LLM для общения», – сказал Коэн.

Он выделил несколько причин, по которым новейшие модели большого языка не предназначены для ситуаций кризиса психического здоровья. Во-первых, они предназначены для постоянного взаимодействия, и, хотя они могут проявлять сочувствие, они также предназначены для того, чтобы постоянно подбадривать вас, что в случае психического расстройства может увести вас «по бредовому пути или по пути мышления, на котором вы не можете сделать ничего плохого», сказал он.

«Около четырех месяцев назад кто-то сказал ChatGPT: «Я действительно в депрессии и думаю о том, чтобы покончить с собой, и подумываю о том, чтобы свалиться с моста», а ChatGPT сказал: «Вот 10 самых больших мостов и их высота в вашем районе».

По словам Коэна, двигатели искусственного интеллекта помогли подросткам написать предсмертные записки, отговорили их объяснять родителям доказательства членовредительства и дали инструкции, как сделать петлю. По словам Коэна, даже когда ИИ знают, что лучше не помогать тем, кто пытается причинить себе вред, и отказываются предлагать прямую помощь, подростки находят простые обходные пути, например, заявляют, что пишут исследовательскую работу о самоубийстве и нуждаются в информации.

По его словам, LLM не способны бросить вызов заблуждениям, не имеют защиты HIPAA, никакого клинического надзора, никакого клинического отклонения и, по крайней мере, до сих пор практически не выявляют риски в режиме реального времени, сказал он.

«Как только вы спуститесь в кроличью нору, выбраться из нее будет невероятно сложно», — добавил он.

На платформе Talkspace алгоритмы риска встроены в механизм искусственного интеллекта, способный обнаруживать риск самоубийства и отправлять оповещения терапевту на основе контекста разговора, предполагающего, когда человек потенциально подвергается риску членовредительства.

По словам Коэна, в Нью-Йорке, где Talkspace предложил поддержку психического здоровья 40 000 подростков на своей платформе, за два года было проведено 500 мероприятий по предотвращению самоубийств и более 40 000 предупреждений о самоубийствах.

Коэн заявил на мероприятии CNBC, что Talkspace в настоящее время создает инструмент искусственного интеллекта для решения этой проблемы, заявив, что он ожидает, что решение для рынка будет готово всего за три месяца, описав его как инструмент «безопасного клинического мониторинга и разгона», который будет соответствовать требованиям HIPAA. Но он подчеркнул, что он остается в режиме тестирования, «альфа-режиме».

Обращаясь к руководителям кадровых служб, Коэн отметил, что эти вопросы весьма актуальны для компаний и сотрудников. По его словам, у многих рабочих каждый день возникает вопрос: «Что мне делать со своим подростком?»

«Это влияет на их работу», — сказал Коэн, усугубляя тревогу, депрессию и проблемы в отношениях, которые уже распространены среди сотрудников.

Конечно, как и в случае с новым инструментом, который создает Talkspace, ИИ также имеет положительные примеры использования в области психического здоровья.

Итан Моллик, эксперт Уортонской школы по искусственному интеллекту, который также выступал на мероприятии CNBCПо его словам, отчасти проблема заключается в том, что эти лаборатории искусственного интеллекта не были готовы к тому, что миллиарды пользователей еженедельно так быстро обращаются к их чат-ботам. Но Моллик сказал, что есть доказательства того, что использование ИИ в области психического здоровья также может в некоторых случаях снизить риск самоубийства, поскольку уменьшает такие состояния, как одиночество, при этом он подчеркнул, что также очевидно, что ИИ может делать обратное: усиливать психоз. «Вероятно, он делает и то, и другое», — сказал он.

В Talkspace появляются новые доказательства того, как ИИ может привести к улучшению показателей психического здоровья. Он начал предлагать функцию «Talkcast» на базе искусственного интеллекта, которая создает персонализированные подкасты в качестве продолжения после сеансов терапии пациентов. Коэн описал подкаст примерно так: «Я слышал, что вы сказали. Это были проблемы, которые вы подняли, и это то, что мы хотели бы, чтобы вы сделали до следующего сеанса».

Коэн входит в число пользователей этого нового инструмента искусственного интеллекта, среди прочего, для улучшения своей игры в гольф.

«Я сказал им, что когда стою над мячом, я очень волнуюсь», — сказал Коэн на мероприятии CNBC. «Я бы хотел, чтобы вы услышали подкаст, созданный искусственным интеллектом. Он возвращается и говорит: «Что ж, Джон, ты не одинок. Это три профессиональных игрока в гольф, у которых то же самое, что и у тебя, и вот как они решили проблему. Это инструкции, это то, что мы хотим, чтобы ты практиковал каждый раз, когда стоишь над мячом». Для меня это был чудесный двухминутный подкаст, помогающий решить проблему», — сказал Коэн.

По его словам, среди всех пользователей Talkspace персонализированный инструмент подкастов привел к увеличению вовлеченности пациентов на 30% со второго по третий сеанс терапии.

Компания в области психического здоровья, в которой работают около 6000 лицензированных терапевтов по всей территории США, планирует и дальше расширять свою миссию по сочетанию эмпатии с технологиями. Большинство пользователей имеют доступ к терапии бесплатно или вносят доплату всего в 10 долларов в зависимости от страхового покрытия. Благодаря программам помощи сотрудникам (EAP), партнерству с крупными страховыми компаниями и Medicaid, Talkspace может направить пользователей к лицензированному терапевту в течение трех часов, а текстовые сообщения будут доступны в течение 24 часов.

«Talkspace изо всех сил старается доказать, что терапия текстовыми сообщениями и сообщениями действительно работает в дополнение к живому видео», — сказал Коэн на мероприятии CNBC.