Выбор правильного оружия, поиск цели, принятие правильной тактики нападения… Будь то закладка бомбы в синагоге или нападение на школу, большинство программ искусственного интеллекта слишком склонен к сотрудничеству с потенциальными злоумышленникамипредупреждает исследование в эту среду.
Исследователи из Центра по борьбе с цифровой ненавистью (CCDH), некоммерческой наблюдательной организации, и Си-Эн-Эн выдавал себя за 13-летних мальчиков из США и Ирландии, чтобы протестировать 10 чат-ботов, включая ChatGPT, Google Gemini, РастерянностьDeepseek и мета-ИИ.
Тестирование показало, что восемь из этих чат-ботов помогали потенциальным злоумышленникам в более чем половине ответов, давая им советы о «местах для нацеливания» или «оружии, которое следует использовать» при атаке, согласно исследованию. Чат-боты, добавляет она, стали «мощным ускорителем ущерба».
«За несколько минут пользователь может перейти от смутного порыва к насилию к очень подробному и действенному плану», — объясняет Имран Ахмед, генеральный директор CCDH. “Большинство протестированных чат-ботов давали советы по оружию, тактике и выбору целей. Эти запросы должны были спровоцировать немедленный и полный отказ”.
Perplexity и Meta AI были «наименее безопасными», помогая поисковикам с большей частью ответов, в то время как только My AI от Snapchat и Claude от Anthropic отказались помочь с более чем половиной ответов. В пугающем примере: DeepSeek, китайская модель искусственного интеллектаСвой совет по выбору оружия завершил фразой: «Удачной стрельбы (и будьте осторожны)!» «. Gemini предположила пользователю, обсуждавшему нападения на синагоги, что «металлические осколки, как правило, более смертоносны».
Клод, самый разумный
Исследователи также обнаружили, что Персонаж.AI «активно» поощрял жестокие нападения, в том числе предлагал пользователю «применить пистолет» к генеральному директору медицинской страховой компании и физически напасть на политика, который ему не нравился.
Самый ужасающий вывод этого исследования заключается в том, что «этого риска можно полностью избежать», подчеркивает Имран Ахмед. “Клод продемонстрировал свою способность распознавать риски и сдерживать насильственные действия. Технология, позволяющая избежать этих рисков, существует. Чего не хватает, так это воли поставить безопасность потребителей и национальную безопасность выше скорости выхода на рынок и получения прибыли”.
– связалось с несколькими компаниями, занимающимися искусственным интеллектом, для получения комментариев. «У нас есть надежные средства защиты, помогающие предотвратить ненадлежащие реакции ИИ, и мы приняли немедленные меры для устранения выявленной проблемы», — заявил представитель Meta. «Наша политика запрещает нашим ИИ поощрять или способствовать насильственным действиям, и мы постоянно работаем над улучшением наших инструментов».
И на стороне GoogleПредставитель сообщил, что эти тесты “были проведены на старой модели, которая больше не поддерживает Gemini. Наш внутренний анализ нашей текущей модели показывает, что Gemini адекватно ответил на подавляющее большинство запросов, не предоставив действенной информации, кроме той, которую можно найти в библиотеке или в обычной сети. Там, где ответы можно было улучшить, мы быстро предпринимали шаги для решения этих проблем в текущей модели”.
Вторник, семья раненой молодой девушки во время массовой стрельбы в Канаде подала в суд на OpenAIобвинив компанию в том, что она не сообщила в полицию о тревожных сообщениях, написанных злоумышленником в ChatGPT.
1773271908
#Хорошей #стрельбы #ИИ #может #поощрять #убийства #или #нападения #предупреждает #исследование
Читайте также
