«Очень опасно»: эксперт по психическому здоровью Mind об искусственном интеллекте Google | Психическое здоровье

А Mind учредил рассчитанную на год комиссию для изучения искусственного интеллекта и психического здоровья после расследование Guardian рассказал, как обзоры искусственного интеллекта Google, которые ежемесячно показывают 2 миллиардам человек, дают людям «очень опасные» советы по психическому здоровью.

На снимке Рози Уэзерли, менеджер по информационному контенту крупнейшей благотворительной организации по охране психического здоровья в США. Англия и Уэльсе, описывает риски, которые представляют для людей сводки, созданные с помощью ИИ, которые появляются над результатами поиска на самом посещаемом веб-сайте в мире.

«За три десятилетия Google разработала и создала поисковую систему, в которой заслуживающий доверия и доступный контент о здоровье мог подняться на вершину результатов.

“Поиск информации в Интернете не был идеальным, но обычно он работал хорошо. Пользователи имели хорошие шансы перейти на заслуживающий доверия веб-сайт здравоохранения, который ответил на их запрос.

«Обзоры ИИ заменили это богатство клинически звучащим резюме, которое создает иллюзию определенности.

“Это очень соблазнительный обмен, но не ответственный. И это часто преждевременно завершает путь поиска информации. У пользователя в лучшем случае есть половина ответа.

“Я поставил перед собой и своей командой экспертов по информации о психическом здоровье в Mind задачу: 20 минут поиска по запросам, которые, как мы знаем, обычно используют люди с проблемами психического здоровья. Никому из нас не понадобилось 20 минут.

“В течение двух минут Google предоставил обзоры ИИ, которые уверили меня, что голодание полезно для здоровья. Он сказал коллеге, что проблемы психического здоровья вызваны химическим дисбалансом в мозге. Другому сказали, что ее воображаемый сталкер был реальным, а четвертому – что 60% заявлений о льготах по психическим расстройствам являются симуляцией. Само собой разумеется, что ничего из вышеперечисленного не соответствует действительности.

“В каждом из этих примеров мы видим, как обзоры ИИ сводят информацию о весьма деликатных и тонких областях в четкие ответы. А когда вы выделяете важный контекст и нюансы и представляете их так, как это делают обзоры ИИ, почти все может показаться правдоподобным.

«Этот процесс особенно вреден для людей, которые, вероятно, находятся в некотором уровне дистресса.

“Компания с оборотом в несколько миллиардов долларов, такая как Google, которая получает прибыль от обзоров ИИ, должна иметь больше ресурсов, предназначенных для предоставления точной информации. Степень их заботы, похоже, ограничивается реактивным переобучением или удалением обзоров ИИ, когда отдельные лица, организации или даже журналисты отмечают новые идеи. Этот стиль решения проблем «ударь крота» кажется несерьезным и не масштабируется с размером и ресурсами компании, получающей от них прибыль.

“Поисковые системы эволюционировали, чтобы сделать доступ к наиболее вредным результатам поиска, таким как методы самоубийства, менее доступным. Но если вы ищете так, как это мог бы искать нездоровый человек, остается риск того, что вам будут предложены вредные неточности и полуправда, представленные в спокойном и уверенном тексте как бесспорные нейтральные факты с печатью одобрения крупнейшей поисковой системы в мире.

«В поисках информации о кризисе AI Review бессистемно объединил различные противоречивые указатели в длинные списки.

“Возможно, ИИ обладает огромным потенциалом для улучшения жизни, но сейчас риски действительно вызывают беспокойство. Google защитит вас от потенциальных ошибок обзоров ИИ только тогда, когда он посчитает, что вы находитесь в острой беде. Люди всегда нуждаются и заслуживают доступа к конструктивной, чуткой, осторожной и детализированной информации”.