Предупреждение! AI-машинное обучение атаковано с помощью скрытых данных в QR-кодах

Доктор Карин Сумангкайотин преподаватель кафедры вычислительной техники Инженерный факультет Университет Махидол Ссылаясь на происхождение исследования, ИИ Искусственный интеллект делает компьютеры или машины умными.Машинное обучение (МО) Это один из процессов обучения ИИ путем импорта данных в алгоритмы создать сеть принятия решений для прогнозирования тенденций или прогнозирования результатов подобно человеческим решениям Чтобы уменьшить большую нагрузку и ошибки от усталости. Принимайте решения быстрее по сравнению с работой человека. Однако понимание структуры решений сетевых моделей машинного обучения все еще нечеткое. И его еще нужно изучать дальше. Теперь злоумышленники могут атаковать машинное обучение из-за такой двусмысленности. воспользоваться искаженными результатами

По этой причине группа исследователей провела исследование атак машинного обучения с целью изучения моделей атак, сосредоточив внимание на атаках, которые могут ускользнуть от человеческого наблюдения. которые могут нанести огромный ущерб или негативные последствия Будь то в финансовой сфере лечение, связь, транспорт, система информационной безопасности, производственная система и система национальной обороны

Группа инженерных исследований Mahidol и JAIST провели более 3 лет вместе, изучая и исследуя, несмотря на препятствия во время кризиса COVID-19. Но он может работать онлайн на высокопроизводительной японской платформе. Мы изучили, проанализировали и разработали Атака на обучение машинному обучению с помощью состязательной модели Гипотетически цель состоит в том, чтобы атаковать модель машинного обучения и избежать человеческого наблюдения. Это влияет на неправильные решения машины. Атака может быть направлена ​​на любой исход. это было предопределено Мы установили скрытую атаку данных в формате QR-кода для функциональности. Состязательные примеры атак обманывают ИИ, вводя его в заблуждение, искажая целевые данные, такие как визуальные данные, аудиоданные, данные сигналов или другие типы данных. Результат атаки может либо предопределить результат атаки, либо вызвать отклонение результата от того, каким он должен быть.

Вывод Он может сжимать данные атаки с помощью информации, скрытой в сканируемом QR-коде. и сохраняет возможность целевых атак, а также Помимо тестирования атак машинного обучения, это исследование также может быть использовано для разработки Система также предотвращает и обнаруживает атаки на основе аналитики модели ML для многих целей, таких как защита конфиденциальности. Это также доказывает, что принятие решений с помощью машинного обучения следует использовать только как инструмент и инновацию для снижения рабочей нагрузки на человека. В конечном счете, он все еще должен быть проверен экспертом-человеком, чтобы подтвердить окончательные результаты.

От успеха этого исследования, планы на будущее тайско-японской исследовательской группы Найдет способы атаковать с большей эффективностью. идти в ногу с новыми технологиями быстро меняющийся и поддерживать функциональность исходного формата данных (например, атаки QR-кода должны быть сканируемыми и т. д.).

Есть два способа предотвратить будущие атаки со стороны Adversarial Example Attacks:

1. Используйте состязательные примеры атак для защиты данных от несанкционированного просмотра.

2. Используйте данные об атаках Adversarial Example для анализа атаки и разработки моделей машинного обучения, более устойчивых к атакам.

Рекомендации для ИТ-специалистов по безопасному использованию машинного обучения Всегда помните, что Входные данные могут быть заражены целевыми атаками, такими как Adversarial Example, или они могут быть объединены с вредоносным ПО. Поэтому использование машинного обучения для стабильной и безопасной работы. необходимо поставить Система проверки финальных результатов экспертами Опять же, для надежной точности не позволяйте машине работать на 100%.Искусственный интеллект и машинное обучение сегодня по-прежнему ограничены и будут очень полезны только тогда, когда люди и машины будут мыслить и работать сбалансированным образом. Не ссылайтесь слишком много на какую-либо одну партию.

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.