1766049226
2025-12-18 09:02:00
По данным государственного органа безопасности искусственного интеллекта, треть граждан Великобритании используют искусственный интеллект для эмоциональной поддержки, общения или социального взаимодействия.
Институт безопасности искусственного интеллекта (AISI) сообщил, что почти каждый десятый человек использует такие системы, как чат-боты, в эмоциональных целях еженедельно, а 4% — ежедневно.
AISI призвала к дальнейшим исследованиям, сославшись на смерть в этом году американского подростка Адама Рейна, который покончил с собой после обсуждения самоубийства с ChatGPT.
«Люди все чаще обращаются к системам искусственного интеллекта для эмоциональной поддержки или социального взаимодействия», — заявила AISI в своем первом отчете Frontier AI Trends. «Хотя многие пользователи сообщают о положительном опыте, недавние громкие случаи вреда подчеркивают необходимость исследований в этой области, включая условия, при которых может возникнуть вред, и меры безопасности, которые могут обеспечить полезное использование».
AISI основывала свое исследование на репрезентативном опросе 2028 участников из Великобритании. Было обнаружено, что наиболее распространенным типом ИИ, используемым для эмоциональных целей, являются «помощники общего назначения», такие как ChatGPT, на которые приходится почти шесть из 10 применений, за которыми следуют голосовые помощники, включая Amazon Alexa.
Также был отмечен форум Reddit, посвященный обсуждению ИИ-компаньонов на платформе CharacterAI. Исследование показало, что всякий раз, когда на сайте происходили сбои, появлялось большое количество сообщений, демонстрирующих симптомы абстиненции, такие как тревога, депрессия и беспокойство.
В отчет вошли исследования AISI, показывающие, что чат-боты могут влиять на политические взгляды людей, при этом наиболее убедительные модели искусственного интеллекта при этом предоставляют «существенные» объемы неточной информации.
AISI изучила более 30 неназванных передовых моделей, в число которых, как полагают, входят модели, разработанные стартапом ChatGPT OpenAI, Google и Meta. Было обнаружено, что модели искусственного интеллекта удваивают свою производительность в некоторых областях каждые восемь месяцев.
Ведущие модели теперь могут выполнять задачи уровня ученика в среднем 50% времени по сравнению с примерно 10% времени в прошлом году. AISI также обнаружила, что самые продвинутые системы могут автономно выполнять задачи, на которые у человека-эксперта ушло бы более часа.
AISI добавила, что системы искусственного интеллекта теперь на 90% лучше, чем эксперты уровня PhD, предоставляют рекомендации по устранению неполадок во время лабораторных экспериментов. В нем говорится, что улучшение знаний по химии и биологии «значительно превосходит знания уровня доктора философии».
Это также подчеркнуло способность моделей просматривать информацию в Интернете и автономно находить последовательности, необходимые для создания молекул ДНК, называемых плазмидами, которые могут быть полезны в таких областях, как генная инженерия.
Тесты на самовоспроизведение, ключевую проблему безопасности, поскольку оно включает в себя распространение системой своих копий на другие устройства и управление ею становится сложнее, показали, что две передовые модели достигли уровня успеха более 60%.
Однако ни одна модель не продемонстрировала спонтанной попытки воспроизвести или скрыть свои возможности, и AISI заявила, что любая попытка самовоспроизведения «маловероятно увенчается успехом в реальных условиях».
AISI также рассмотрела еще одну проблему безопасности, известную как «мешки с песком», когда модели скрывают свои сильные стороны при оценке. В нем говорится, что некоторые системы могут блокировать работу, когда их об этом попросят, но во время испытаний этого не произошло самопроизвольно.
Исследования также показали, что автономные агенты искусственного интеллекта используются для таких важных операций, как передача активов.
В нем говорится, что системы искусственного интеллекта уже конкурируют с людьми-экспертами или даже превосходят их в ряде областей, что делает «правдоподобным» достижение в ближайшие годы общего искусственного интеллекта, то есть систем, которые могут выполнять большинство интеллектуальных задач на том же уровне, что и человек. AISI охарактеризовала темпы развития как «экстраординарные».
Что касается агентов или систем, которые могут выполнять многоэтапные задачи без вмешательства, AISI заявила, что ее оценки показали «резкий рост продолжительности и сложности задач, которые ИИ может выполнить без руководства человека».
В Великобритании и Ирландии самаритяне С нами можно связаться по бесплатному телефону 116 123 или по электронной почте [email protected] или [email protected]. В США вы можете позвонить или написать сообщение 988 Линия помощи при самоубийствах и кризисах по номеру 988 или в чате 988lifeline.org. В Австралии служба кризисной поддержки Линия жизни 13 11 14. Другие международные телефоны доверия можно найти по адресу: befrienders.org
#Исследование #показало #что #треть #граждан #Великобритании #используют #ИИ #для #эмоциональной #поддержки #Искусственный #интеллект #ИИ
По теме
