Инструмент искусственного интеллекта в руках киберпреступников в даркнете

Обслуживание Цифровой анализ следов ее Касперский обнаружил около 3000 сообщений в даркнете, в основном обсуждающих его использование. ЧатGPT и другие LLM за незаконную деятельность. Преступники ищут способы обмана: от создания вредоносных альтернатив чат-ботам до взлом тюрьмы оригинала и не только. Украденные аккаунты ЧатGPT и сервисы, предлагающие их массовое автоматизированное создание, также наводняют каналы даркнета, достигнув дополнительных 3000 постов.

В 2023 году сервис Kaspersky Digital Footprint Intelligence обнаружил в даркнете почти 3000 постов, в которых обсуждалось использование ChatGPT в незаконных целях или рассказывалось об инструментах на основе технологий искусственного интеллекта. Хотя переговоры достигли пика в марте, дискуссии продолжаются.

«Злоумышленники постоянно ищут различные способы его реализации. ЧатGPT и его ИИ. Обсуждения часто касаются разработки вредоносного ПО и других видов незаконного использования языковых моделей, таких как обработка украденных пользовательских данных, парсинг файлов с зараженных устройств и многое другое. Популярность инструментов ИИ привело к внедрению автоматических ответов от ЧатGPT или подобное на некоторых форумах киберпреступников. Кроме того, преступники, как правило, делятся побег из тюрьмы по различным каналам в темная паутина – специальные наборы подсказок, которые могут разблокировать дополнительные функции – и разработать способы использования законных инструментов, например, для пентестингна основе моделей для вредоносных целей“, она объяснила Алиса Кулишенкоаналитик цифрового следа в «Лаборатории Касперского».

Помимо упомянутых чат-ботов и ИИ, значительное внимание уделяется таким проектам, как XXXGPT, FraudGPT и другим. Эти языковые модели продвигаются в даркнете как альтернатива ChatGPT, с дополнительными функциями и без первоначальных ограничений.

Украденные аккаунты ЧатGPT продается

Еще одна угроза для пользователей и компаний — покупка аккаунтов для платной версии ChatGPT. В 2023 году в даркнете и скрытых каналах Telegram было обнаружено еще 3000 постов (помимо перечисленных выше), рекламирующих продажу аккаунтов ChatGPT. Эти посты либо раздают украденные учетные записи, либо рекламируют услуги автоматической регистрации, которые массово создают учетные записи по запросу. Стоит отметить, что некоторые посты были переизданы на нескольких каналах даркнета.

«Хотя сами инструменты ИИ сами по себе не опасны, киберпреступники пытаются найти эффективные способы использования языковых моделей, что усиливает тенденцию к уменьшению ограничений доступа киберпреступников и, в некоторых случаях, возможному увеличению количества кибератак. Однако маловероятно, что генеративный ИИ и чат-боты они произведут революцию в пространстве атак – по крайней мере, в 2024 году. Автоматизированный характер кибератак часто означает автоматизированную защиту. Однако знание деятельности киберпреступников важно для подготовки к вопросам корпоративной кибербезопасности». заявляет Алиса Кулишенкоаналитик цифрового следа в «Лаборатории Касперского».

Подробное исследование представлено на официальном сайте Kaspersky Digital Footprint Intelligence. Чтобы избежать угроз, связанных с деятельностью киберпреступников в опасной части Интернета, вы можете реализовать следующие меры безопасности:

• Используйте Kaspersky Digital Footprint Intelligence, чтобы помочь аналитикам безопасности изучить характеристики злоумышленника с помощью ресурсов своей компании, мгновенно обнаруживая его потенциальные методы атаки. Это также помогает держать вас в курсе существующих угроз со стороны киберпреступников, чтобы соответствующим образом настроить вашу безопасность или принять своевременные меры противодействия и устранения.
• Выберите надежное решение для обеспечения безопасности конечных точек, например Kaspersky Endpoint Security для бизнеса, которое оснащено возможностями обнаружения на основе поведения и обнаружения аномалий для эффективной защиты от известных и неизвестных угроз.

• Специализированные службы могут помочь в борьбе с крупномасштабными атаками. С помощью сервиса Kaspersky Managed Detection and Response вы сможете обнаружить и заблокировать действия злоумышленников на ранних стадиях, еще до того, как злоумышленники достигнут своих целей. Если вы столкнулись с инцидентом, служба Kaspersky Incident Response поможет вам отреагировать и минимизировать последствия, в частности выявить скомпрометированные учетные записи и защитить установку от подобных атак в будущем.