Безопасность должна занимать центральное место в разработке ИИ, призывает глава Национального центра кибербезопасности Великобритании

Глава Великобритании Национальный центр кибербезопасности (NCSC) Линди Кэмерон подчеркнула исключительную важность уделения внимания безопасности при разработке систем искусственного интеллекта (ИИ).

Безопасность должна занимать центральное место в разработке ИИ, призывает глава британского агентства кибербезопасности

Выступая на конференции Chatham House Cyber ​​2023, Кэмерон подчеркнул необходимость того, чтобы безопасность была интегрирована в системы ИИ с самого начала, а не задним числом. Она также подчеркнула ответственность разработчиков по защите отдельных лиц, предприятий и экономики в целом от потенциальных уязвимостей в системах ИИ.

Комментарии Кэмерона подчеркивают растущее признание неотъемлемых рисков, связанных с ИИ, и необходимость упреждающего подхода к безопасности. Она возражала против того, чтобы полагаться на добавление мер безопасности задним числом. ИИ технологий в будущем и перекладывая бремя риска на отдельных пользователей.

Вместо этого она выступала за подход «безопасность по замыслу», при котором поставщики берут на себя большую ответственность за включение кибербезопасности в свои технологии и цепочки поставок с самого начала. Такой подход не только позволяет обществу и организациям пользоваться преимуществами достижений ИИ, но и помогает укрепить доверие к безопасности систем ИИ.

Великобритания, будучи мировым лидером в области ИИ, понимает важность обеспечения достижений ИИ и предприняла шаги для решения этой проблемы. С сектором ИИ, который вносит в экономику 3,7 миллиарда фунтов стерлингов и дает работу 50 000 человек, в конце этого года Великобритания проводит первый в истории саммит по глобальной безопасности ИИ. Саммит направлен на содействие целевому международному сотрудничеству и действиям по созданию необходимых барьеров для безопасного и ответственного развития ИИ.

Кэмерон подчеркнул три ключевые темы, на которых сосредоточен Национальный центр кибербезопасности для обеспечения прогресса в области ИИ. Первая тема включает в себя поддержку организаций в понимании связанных с ними угроз и реализации эффективных стратегий смягчения их последствий. Она рассказала о новых рисках, связанных с технологиями искусственного интеллекта, таких как состязательные атаки в машинном обучении.

Злоумышленники могут манипулировать обучающими данными систем машинного обучения, что приводит к непреднамеренному поведению, которое можно использовать. Кроме того, большие языковые модели (LLM) создают уникальные проблемы, поскольку интеллектуальная собственность организаций и конфиденциальные данные могут быть скомпрометированы, если сотрудники по незнанию раскрывают конфиденциальную информацию через подсказки LLM.

Второй темой, которую обсуждал Кэмерон, было максимальное использование преимуществ ИИ для сообщества киберзащиты. Используя возможности искусственного интеллекта, специалисты по кибербезопасности могут улучшить свои стратегии защиты и опережать возникающие угрозы. Наконец, она подчеркнула важность понимания того, как противники, включая враждебные государства и киберпреступникииспользуют ИИ и находят способы нарушить их деятельность.

Злоумышленники все чаще используют ИИ для расширения своих существующих тактик, и, в частности, LLM предлагают более низкие барьеры для входа для определенных типов атак. Например, иностранцы с ограниченными языковыми навыками могут использовать LLM для создания убедительных фишинговых электронных писем.

В своем выступлении Кэмерон подчеркивает необходимость комплексного и упреждающего подхода к безопасности ИИ. Уделяя приоритетное внимание безопасности с момента создания систем ИИ, разработчики могут свести к минимуму уязвимости и защитить пользователей, предприятия и экономику в целом. Интеграция надежных мер безопасности в технологию ИИ не только снизит риски, но и повысит доверие общества к безопасности и надежности систем ИИ.

В быстро развивающемся ландшафте искусственного интеллекта правительствам, организациям и разработчикам по всему миру настоятельно рекомендуется принять подход «безопасность по дизайну», одобренный Кэмероном, для эффективного решения проблем, связанных с широкой интеграцией этой технологии. Содействуя сотрудничеству, обмену знаниями и внедрению строгих мер безопасности, заинтересованные стороны стремятся раскрыть преобразующую силу ИИ, одновременно снижая потенциальные риски.

Ожидается, что в конце этого года в Великобритании состоится саммит по глобальной безопасности ИИ готова сыграть ключевую роль в развитии международного сотрудничества и создании необходимых рамок для управления развивающимся ландшафтом ИИ с максимальной безопасностью и ответственностью.