Вы действительно готовы к ИИ? Разоблачение теневых инструментов в вашей организации

Когда дело доходит до рисков безопасности, эпоха ИИ представляет собой новое поле битвы за ущерб и утечки данных. Однако, хотя ИИ, несомненно, играет важную роль в кибератаках и защите, именно скрытые, нерегулируемые инструменты в вашей организации могут представлять столь же значительный риск потери данных. Необеспеченное использование внешних инструментов сотрудниками, получившим название «Shadow AI», как и Shadow It, до него, стало одним из пяти лучших рисков, стоящих перед организациями во всем мире, согласно Gartner’s Gartner Отчет о ежеквартальном появлении рискаПолем

Это не далекий сценарий, поскольку ваши команды в настоящее время используют необеспеченные инструменты для повышения производительности, независимо от существующих ИТ -политик.

Это в конечном итоге приводит вашу организацию прямо к критическому воздействию данных. Гулые кибер -актерам не нужно красть конфиденциальные данные, когда ваши сотрудники раздают их общедоступным инструментам. Предприятия должны срочно реализовать политику ИИ и сосредоточиться на обучении своей рабочей силы не только для эффективного использования новых технологий, но и для снижения рисков, которые в настоящее время вводятся в их сеть.

Скрытая угроза теневого ИИ

Когда организация не регулирует утвержденную структуру инструментов искусственного интеллекта, ее сотрудники обычно обращаются к использованию этих приложений в повседневных действиях. К настоящему времени все знают о существовании генеративных активов ИИ, независимо от того, активно ли они их используют или нет, но без надлежащего набора правил повседневные действия сотрудников могут быстро стать кошмарами безопасности.

Это может быть все, от того, что сотрудники, вставляющие конфиденциальную информацию о клиенте или собственное код в общественные инструменты искусственного интеллекта для разработчиков, до загрузки многообещающих моделей с открытым исходным кодом из незавершенных репозитории. Сторонние поставщики уже, тихо, интегрируют функции AI, усиленные в программное обеспечение, в программное обеспечение, которые могут уже использовать ваши команды, без формального уведомления. С точки зрения безопасности, отдельные лица и целые команды предпочитают интегрировать пользовательские решения AI для решения непосредственных проблем, полностью игнорируя обзоры кибербезопасности компании.

Числа согласны. Недавние инновации в области кибербезопасности Gartner в 2025 году в области управления рисками и использования искусственного интеллекта подчеркнули, что 79 процентов лидеров кибербезопасности подозревают, что сотрудники не используют утвержденные инструменты Genai, и все же 69 процентов сообщили, что запрещенные инструменты все еще используются в любом случае. Возможно, наиболее тревожно, что 52 процента считают, что пользовательский ИИ строится без каких -либо проверок риска, рецепта утечки интеллектуальной собственности и серьезных нарушений соответствия.

Большинству организаций не хватает осведомленности

Корская причина превращения в теневой ИИ – это не злонамеренное намерение. В отличие от кибер -актеров, стремящихся нарушить и использовать недостатки бизнес -инфраструктуры для огромной выплаты, сотрудники не протекают данные за пределами вашей организации намеренно. ИИ – это просто доступный, мощный инструмент, который многие находят захватывающим. В отсутствие четкой политики, обучения и надзора, а также повышенного давления более быстрой, большей доставки, люди, естественно, будут стремиться к наиболее эффективной поддержке для выполнения работы.

Команды постоянно подталкиваются, чтобы увеличить производство и эффективность. Но там, где есть доверие от компаний в своих сотрудниках, это не всегда приравнивается к очистке управления ИИ и видимости доступа из ИТ -команд. Тем не менее, даже при более непомерной политике сотрудники все равно найдут обходные пути, чтобы свести концы с концами. Shadow AI не просто проблема с технологиями, но и проблема процесса и культуры.

Создание упреждающей стратегии AI-первого

Сбалансированный, стратегический подход к решению этих проблем требует нечто большее, чем просто направление от вашей ИТ -команды; Он должен исходить непосредственно из C-Suite. Кодификация вашей политики управления ИИ должна быть приоритетом; Вы не можете управлять тем, что не определили. Установление четких, практических правил для того, какие инструменты приемлемы в вашей организации, а что нет, включая ИИ-специфические правила обработки данных и внедрение обзоров ИИ в сторонние закупки.

Несмотря на это, вы не можете защитить от того, что не видите. Инструменты, такие как предотвращение потери данных (DLP) и брокеры по обеспечению безопасности облачного доступа (CASB), которые обнаруживают несанкционированное использование ИИ, должны быть неотъемлемой частью вашего инструментария мониторинга безопасности. Обеспечение того, чтобы эти оповещения подключались непосредственно к вашему SIEM и определение четких процессов для эскалации и коррекции также являются ключевыми для максимальной безопасности.

Грамотность ИИ должна быть в тандеме, интегрированная непосредственно в культуру компании. Это означает обучение команд о реальных рисках и способах ответственности по инновациям оперативных линий, а не только эффективно. Наиболее эффективный способ борьбы с использованием AI Shadow в вашей организации – это обеспечить лучшую, более безопасную и безопасную альтернативу. Также важно обеспечить соблюдение совместной культуры, которая может открыто обмениваться лучшими практиками ИИ; Не просто говорите «нет» публичным инструментам, но предоставьте проспект «Да, и вот как вы это делаете надежно».

Первым шагом является оценка готовности

Оценка профессиональной готовности должна быть вашим первым шагом, так как она идентифицирует пробелы в вашей организации и позволяет построить правильный, устойчивый фундамент. Это включает в себя обзор вашей текущей технологии и среды искусственного интеллекта, в том числе любые скрытые риски, рассмотрение существующих политик и возможностей мониторинга. Приоритет вариантов использования искусственного интеллекта, которые могут обеспечить ощутимое значение без ущерба для контроля, является ключевым.

Создание вашей дорожной карты ИИ, которая уравновешивает инновации с управлением и безопасностью, имеет решающее значение, прежде чем открывать шлюзы и привести теневой ИИ на свет. Когда дело доходит до новых и новых технологий, ваше деловое мышление должно просто думать о том, что могут сделать эти инструменты, а о том, как вы можете лучше всего контролировать их в своей организации.

Джон Бэнс является главным операционным директором в Ведущие решенияПолем

Читать далее

Только 22% ИТ -персонала полностью понимают возможности инструментов ИИ – ИИ изучается в нескольких секторах, но ИТ -персонал, опрошенные SolarWinds

Почему знание является окончательным оружием в информационном эпохе -Узнайте, как построить подход к искусственному искусству человека, чтобы ваша организация могла работать с наилучшей возможной информацией