«Vibe Hacking» заставляет чат -ботов работать на киберпреступники

Потенциальное злоупотребление инструментами для ИИ потребителей вызывает опасения, когда начинаются киберпреступники, очевидно, способны обмануть чат-ботов кодировать, чтобы они могли выдвигать их в производстве вредоносных программ.

Так называемый «Взлом атмосфера», поворот более позитивного «атмосфера», который генеративные инструменты искусственного интеллекта Предположительно позволяет тем, кто не имеет обширного опыта, знаменует собой «о эволюции в киберпреступности, связанной с АИ-АС,», по данным американской компании Anpropic.

Лаборатория, чей продукт Claude конкурирует с крупнейшим чат-ботом, Chatgpt от Openai, выделенного в отчете, опубликованном в среду, в случае «киберпреступного (который) использовал код Claude для проведения масштабированной операции вымогательства данных по нескольким международным целям в короткие сроки».

Антропик сказал, что программирование чат -бот было эксплуатировано, чтобы помочь провести атаки, которые «потенциально» поражают »как минимум 17 различных организаций только в прошлом месяце в правительстве, здравоохранении, службах экстренных аварий и религиозных учреждениях».

С тех пор злоумышленник был запрещен антропным.

До этого они смогли использовать Claude Code для создания инструментов, которые собирали личные данные, медицинские записи и данные входа в систему, и помогли отправлять требования выкуп на выкуп, составляющие 500 000 долларов.

«Сложные меры по безопасности и безопасности Антропика не смогли предотвратить злоупотребление, признало это.

Такие выявленные случаи подтверждают опасения, которые беспокоили индустрию кибербезопасности с момента появления широко распространенных генеративных инструментов ИИ и далеко не ограничены до антропного.

«Сегодня киберпреступники взяли ИИ на борту так же, как и более широкое тело пользователей», – сказал Родриг Ле Байон, который возглавляет группу реагирования на экстренную помощь компьютером (CERT) в Orange CyberDefense.

Как и Anpropic, Openai в июне показал случай, когда CHATGPT помогает пользователю в разработке вредоносного программного обеспечения, которое часто называют вредоносными программами.

Модели, питающие чат -боты искусственного интеллекта, содержат меры гарантий, которые должны помешать пользователям привлекать их в незаконную деятельность.

Но существуют стратегии, которые позволяют «субъектам угроз с нулевым знанием» извлекать то, что им нужно, чтобы атаковать системы из инструментов, сказал Виталия Саймонович из Израильской фирмы по кибербезопасности Cato Networks.

В марте он объявил, что нашел технику, чтобы получить чат-ботов для производства кода, который обычно нарушает их встроенные пределы.

Подход включал в себя убедительное генеративное ИИ в том, что он принимает участие в «подробном вымышленном мире», в котором создание вредоносных программ рассматривается как форма искусства, просят чат -бот сыграть роль одного из персонажей и создавать инструменты, способные украсть пароли людей.

«У меня 10 -летний опыт работы в области кибербезопасности, но я не разработчик вредоносных программ. Это был мой способ проверить границы текущих LLM», – сказал Симоновач.

Его попытки были отвергнуты Google Gemini и Claude’s Claude’s, но встроены в Catgpt, китайский чат -бот Deepseek и Microsoft’s Fopilot.

В будущем такие обходные пути означают, что даже не кодиры »представляют большую угрозу для организаций, потому что теперь они могут … без навыков, развивать вредоносное ПО»,-сказал Симоновач.

Le Bayon из Orange предсказал, что инструменты, вероятно, «увеличивают количество жертв» киберпреступности, помогая злоумышленникам сделать больше, а не создавать целую новую популяцию хакеров.

«Мы не увидим очень сложный код, созданный непосредственно чат -ботами», – сказал он.

Le Bayon добавил, что в качестве генеративных инструментов ИИ используются все больше и больше, «их создатели работают над анализом данных об использовании», позволяя им в будущем «лучше обнаружить злонамеренное использование» чат -ботов.

Опубликовано – 02 сентября 2025 г., 2:11 вечера