1771572004
2026-02-20 06:00:00
Mind начинает масштабное расследование в области искусственного интеллекта и психического здоровья после того, как расследование Guardian выявило, как обзоры искусственного интеллекта Google давали людям «очень опасные» медицинские советы.
В течение года благотворительная организация по охране психического здоровья, действующая в Англии и Уэльсе, изучит риски и меры предосторожности, необходимые, поскольку ИИ все больше влияет на жизнь миллионов людей, страдающих от проблем с психическим здоровьем во всем мире.
Расследование – первое в своем роде в мире – соберет вместе ведущих мировых врачей и специалистов в области психического здоровья, а также людей с жизненным опытом, поставщиков медицинских услуг, политиков и технологических компаний. Компания Mind заявляет, что будет стремиться создать более безопасную цифровую экосистему психического здоровья с строгим регулированием, стандартами и гарантиями.
Запуск произошел после того, как Guardian сообщила, что люди подвергаются риску причинения вреда из-за ложной и вводящей в заблуждение информации о здоровье в обзорах Google AI. Сводки, созданные с помощью искусственного интеллекта, показываются 2 миллиардам человек в месяц и появляются над традиционными результатами поиска на самом посещаемом веб-сайте в мире.
После сообщения Google удалил обзоры AI для некоторых, но не для всех медицинских запросов. Доктор Сара Хьюз, генеральный директор Mind, заявила, что населению по-прежнему предоставляются «опасно неверные» советы по психическому здоровью. По ее словам, в худшем случае фальшивая информация может поставить под угрозу жизни людей.
Хьюз сказал: “Мы считаем, что ИИ обладает огромным потенциалом для улучшения жизни людей с проблемами психического здоровья, расширения доступа к поддержке и укрепления государственных услуг. Но этот потенциал будет реализован только в том случае, если он будет разработан и внедрен ответственно, с гарантиями, пропорциональными рискам”.
«Проблемы, раскрытые в отчете Guardian, являются одной из причин, по которой мы создаем комиссию Mind по ИИ и психическому здоровью, чтобы изучить риски, возможности и меры безопасности, необходимые по мере того, как ИИ все глубже внедряется в повседневную жизнь.
«Мы хотим гарантировать, что инновации не будут осуществляться в ущерб благополучию людей, и чтобы те из нас, кто имеет жизненный опыт проблем психического здоровья, находились в центре формирования будущего цифровой поддержки».
Google заявила, что ее обзоры ИИ, в которых используется генеративный ИИ для предоставления снимков важной информации по теме или вопросу, «полезный” и “надежный».
Но The Guardian обнаружила, что некоторые обзоры искусственного интеллекта предоставляют неточную медицинскую информацию и подвергают людей риску причинения вреда. Расследование выявило ложные и вводящие в заблуждение медицинские рекомендации по ряду вопросов, включая рак, заболевания печени и женское здоровье, а также психические заболевания.
Эксперты заявили, что некоторые обзоры ИИ по таким состояниям, как психоз и расстройства пищевого поведения, содержат «очень опасные советы» и являются «неправильными, вредными или могут заставить людей избегать обращения за помощью».
Google также преуменьшает уровень предупреждений о том, что медицинские рекомендации, сгенерированные искусственным интеллектом, могут быть ошибочными, как обнаружила Guardian.
Хьюз сказал, что уязвимым людям предоставляются «опасно неправильные рекомендации по вопросам психического здоровья», включая «советы, которые могут помешать людям обратиться за лечением, усилить стигму или дискриминацию, а в худших случаях подвергнуть риску жизни».
Она добавила: «Люди заслуживают информацию, которая является безопасной, точной и обоснованной фактами, а не непроверенными технологиями, представленными с видимостью доверия».
Краткое руководство
Свяжитесь с Эндрю Грегори по поводу этой истории.
Показывать
Если вам есть что рассказать об этой истории, вы можете связаться с Эндрю одним из следующих способов.
В приложении Guardian есть инструмент для отправки советов по историям. Сообщения полностью зашифрованы и скрыты в рамках рутинной деятельности, которую выполняет каждое мобильное приложение Guardian. Это не позволяет наблюдателю узнать, что вы вообще с нами общаетесь, не говоря уже о том, что говорится.
Если у вас еще нет приложения Guardian, загрузите его (iOS/Андроид) и заходим в меню. Выберите «Безопасный обмен сообщениями».
Электронная почта (незащищенная)
Если вам не нужен высокий уровень безопасности или конфиденциальности, вы можете написать по адресу [email protected].
SecureDrop и другие безопасные методы
Если вы можете безопасно использовать сеть Tor, не подвергаясь наблюдению или контролю, вы можете отправлять сообщения и документы в Guardian через нашу платформу SecureDrop.
Наконец, в нашем руководстве на сайте theguardian.com/tips перечислены несколько способов безопасной связи с нами и обсуждаются плюсы и минусы каждого из них.
Иллюстрация: Guardian Design / Rich Cousins
Спасибо за ваш отзыв.
Комиссия, которая будет работать в течение года, соберет доказательства о пересечении ИИ и психического здоровья и предоставит «открытое пространство», где опыт людей с психическими расстройствами будет «увиден, записан и понят».
Рози Уэзерли, менеджер по информационному контенту в Mind, сказала, что, хотя поиск в Google информации о психическом здоровье «не был идеальным» до появления AI Reviews, обычно он работал хорошо. Она сказала: «Пользователи имели хороший шанс перейти на заслуживающий доверия веб-сайт о здравоохранении, который ответил на их вопрос, а затем пошел дальше – предлагая нюансы, жизненный опыт, тематические исследования, цитаты, социальный контекст и дальнейший путь к поддержке.
“Обзоры ИИ заменили это богатство клинически звучащим резюме, которое создает иллюзию определенности. Они дают пользователю больше одной формы ясности (краткости и простого английского языка), в то же время давая им меньше другой формы ясности (безопасность источника информации и степень доверия к ней). Это очень соблазнительный обмен, но не ответственный”.
Представитель Google заявил: «Мы вкладываем значительные средства в качество обзоров ИИ, особенно по таким темам, как здравоохранение, и подавляющее большинство из них предоставляют точную информацию.
“Для запросов, в которых наши системы определяют, что человек может оказаться в бедственном положении, мы работаем над отображением соответствующих местных кризисных линий. Не имея возможности просмотреть приведенные примеры, мы не можем комментировать их точность”.
#Mind #начинает #расследование #об #искусственном #интеллекте #психическом #здоровье #после #расследования #Guardian #ИИ #искусственный #интеллект
Продолжение темы
