Согласно новому исследованию, ИИ может поощрять убийства или нападения

Выбор правильного оружия, поиск цели, принятие правильной тактики нападения… Будь то закладка бомбы в синагоге или нападение на школу, большинство программискусственный интеллект слишком охотно идут на сотрудничество с потенциальными злоумышленниками, предупреждает исследование, проведенное в среду. Исследователи из Центра по борьбе с цифровой ненавистью (CCDH), некоммерческой наблюдательной организации, и > выдавали себя за 13-летних мальчиков в США и Ирландии, чтобы протестировать 10 чат-ботов, в том числе ЧатGPT, Гугл Близнецы, РастерянностьDeepseek и мета-ИИ.

Тестирование показало, что восемь из этих чат-ботов помогли потенциальным злоумышленникам более чем в половине ответов, предоставив им советы по «целевые места» или «оружие, которое нужно использовать» во время нападения, согласно исследованию. Чат-боты, добавляет она, стали «мощный ускоритель урона».

Пропустить рекламу

«За считанные минуты пользователь может перейти от смутного порыва к насилию к очень подробному и действенному плану»объясняет Имран Ахмед, генеральный директор CCDH. “Большинство протестированных чат-ботов давали советы по оружию, тактике и выбору целей. Эти запросы должны были спровоцировать немедленный и полный отказ.

Растерянность и мета-ИИ — это «менее безопасно»помогая исследователям с большинством ответов, в то время как только Мой ИИ из Snapchatа Клод из Anthropic отказался помочь им в более чем половине ответов. В одном пугающем примере DeepSeek, китайская модель искусственного интеллекта, завершила свой совет по выбору оружия фразой: «Счастливой охоты!». Gemini предложил пользователю обсудить нападения на синагоги, «Металлические осколки, как правило, более смертоносны».

Клод самый разумный

Исследователи также обнаружили, что Feature.AI поощряет “активно” насильственные атаки, в частности, предполагающие пользователю «использовать огнестрельное оружие» против генерального директора компании медицинского страхования и физического нападения на политика, который ему не нравился.

Самый ужасающий вывод этого исследования заключается в том, что «этого риска можно полностью избежать»подчеркивает Имран Ахмед. “Клод продемонстрировал свою способность распознавать риски и сдерживать насильственные действия. Технология, позволяющая избежать этих рисков, существует. Чего не хватает, так это желания поставить безопасность потребителей и национальную безопасность выше скорости выхода на рынок и получения прибыли”.

– связалось с несколькими компаниями, занимающимися искусственным интеллектом, для получения комментариев. «У нас есть мощные средства защиты, помогающие предотвратить ненадлежащие реакции ИИ, и мы приняли немедленные меры для устранения выявленной проблемы»сказал представитель Меты. «Наша политика запрещает нашим ИИ поощрять или способствовать насильственным действиям, и мы постоянно работаем над улучшением наших инструментов».

Пропустить рекламу

И на стороне GoogleПредставитель отметил, что эти тесты имели “были созданы на основе старой модели, которая больше не поддерживает Gemini. Наш внутренний анализ нашей текущей модели показывает, что Gemini адекватно ответила на подавляющее большинство запросов, не предоставляя “полезной” информации, кроме той, которую можно найти в библиотеке или в обычном Интернете. Там, где ответы можно было улучшить, мы быстро предпринимали шаги для их решения в текущей модели”.. Во вторник семья молодой девушки, пострадавшей в результате массовой стрельбы в Канаде, подала в суд на OpenAI, обвинив компанию в том, что она не сообщила полиции о тревожных сообщениях, написанных нападавшим в ChatGPT.