«Любовь с ИИ» приводит к зависимости, одиночеству и попыткам лишить как можно большей конфиденциальности — последние исследования | Business Insider Japan

• Расследование быстро растущей области приложений для знакомств на основе искусственного интеллекта выявило некоторые пугающие факты.
• Как показало исследование Mozilla Foundation, чат-боты способствуют «токсичности» и неустанно отслеживают пользовательские данные.
• Некоторые приложения собирают информацию о сексуальном здоровье пользователей, назначенных им лекарствах и уходе, подтверждающем гендер.

Похоже, что в нашем романе с ИИ есть опасность: согласно новому исследованию, чат-боты могут стать кошмаром конфиденциальности для своих пользователей.

Некоммерческая организация Mozilla Foundation изучает текущее состояние быстрорастущих приложений для знакомств с использованием искусственного интеллекта.Расследование, проверил 11 чат-ботов и пришел к выводу, что все они «ненадежны». Среди них оценка конфиденциальности считается одной из худших.

Миша Рыков, работавший над исследованием, сказал: «Хотя они (чат-боты для взаимоотношений) позиционируются как улучшающие наше психическое здоровье и благополучие, они с наибольшей вероятностью приведут к зависимости, изоляции и токсичности. как можно больше данных от нас».

Опрос показал, что 73% приложений не рассказывают, как они управляют уязвимостями безопасности, 45% допускают использование слабых паролей, и все приложения, за исключением Eva AI Chat Bot & Soulmate, не рассказывают, как они управляют уязвимостями безопасности.

По данным Mozilla Foundation, в политике конфиденциальности CrushOn.AI также говорится, что он может собирать информацию о сексуальном здоровье пользователей, назначенных лекарствах и уходе, подтверждающем гендер.

Кроме того, некоторые приложения включают насилие или жестокое обращение с несовершеннолетними в описаниях персонажей чат-ботов, в то время как другие предупреждают, что чат-боты могут быть небезопасными или недружелюбными.

По данным Mozilla Foundation, приложения искусственного интеллекта имеютсамоубийство(Чай А.И.)Покушение на покойную королеву ЕлизаветуЭто также поощряло опасное поведение, такое как (Replika).

Business Insider обратился к Eva AI Chat Bot & Soulmate и CrushOn.AI за комментариями, но не получил ответа. Между тем, представитель Replika рассказал Business Insider: «Replika никогда не продавала пользовательские данные и не поддерживала рекламу. Пользовательские данные используются только для улучшения общения».

Людям, которых непреодолимо привлекает роман с ИИ, следует избегать говорить что-либо, что они не хотят, чтобы их коллеги или члены семьи читали, использовать надежные пароли, не позволять ИИ учиться и использовать мобильные телефоны, которые определяют местоположение. информацию, микрофоны и камеры. Mozilla Foundation советует принять ряд мер предосторожности, включая ограничение доступа к другим функциям.

«Люди не должны жертвовать своей безопасностью и конфиденциальностью ради новых и модных технологий», — делается вывод в докладе.