Эксперт Google: Благодаря этим 4 правилам вы сможете более безопасно использовать ИИ

Эта статья основана на разговоре с 31-летним Харшем Варшни, который работает в Google и живет в Нью-Йорке. Следующий текст был отредактирован для обеспечения длины и ясности.

ИИ быстро стал молчаливым партнером в нашей повседневной жизни, и я больше не могу представить свою жизнь без инструментов ИИ. Каждый день они помогают мне с обширными исследованиями, ведением заметок, программированием и поиском в Интернете.

Но моя работа означает, что я… Проблемы конфиденциальности Я очень хорошо осведомлен об использовании ИИ. Я работаю в Google с 2023 года и два года проработал инженером-программистом в команде защиты данных, где строил инфраструктуру для защиты пользовательских данных. Затем я присоединился к команде безопасности Chrome AI, где помогаю защищать Google Chrome от вредоносных угроз, таких как хакеры и те, кто использует агенты AI для фишинговых кампаний.

Модели ИИ используют данные для генерации полезных ответов, и мы, пользователи, должны защищать нашу личную информацию, чтобы предотвратить злоумышленников, таких как Киберпреступники и торговцы данными не имеют к ним доступа.

Вот четыре привычки, которые я выработал и которые, по моему мнению, необходимы для защиты моих данных при использовании ИИ.

Прочтите тоже

Бывший хакер, заработавший миллионы на краже личных данных, предупреждает о трех новых киберугрозах и объясняет, как защитить себя

Относитесь к ИИ как к открытой открытке

Иногда ложное ощущение знакомства с ИИ заставляет людей делиться в Интернете информацией, которую иначе они бы никогда не раскрыли. Хотя компании, занимающиеся искусственным интеллектом, могут нанимать людей для работы над улучшением аспектов конфиденциальности своих моделей, не рекомендуется делиться информацией о кредитной карте, номерами социального страхования, вашим домашним адресом, личной историей болезни или другой личной информацией с чат-ботами с искусственным интеллектом.

В зависимости от используемой версии информация, передаваемая общедоступным чат-ботам с искусственным интеллектом, может использоваться для обучения будущих моделей и генерации более релевантных ответов. Это может привести к «утечке обучения», когда модель запоминает личную информацию от одного пользователя, а затем выдает ее в ответ другому. К этому добавляется риск утечки данных, которая может раскрыть то, чем вы поделились с чат-ботом.

Я отношусь к чат-ботам с искусственным интеллектом как к открытой открытке. Если бы я не написал часть информации на открытке, которую все могли бы увидеть, я бы не стал делиться ею с общедоступным инструментом искусственного интеллекта. Я не уверен, что мои данные следует использовать для будущего обучения.

Прочтите тоже

Киберпреступность обходится каждому немцу в среднем в 82 евро в год: вы можете защитить себя с помощью этих 8 советов

Знайте, в каком «пространстве» вы находитесь

Важно понимать, используете ли вы более общедоступный инструмент искусственного интеллекта или инструмент корпоративного уровня.

Пока неясно, как можно использовать беседы для обучения общедоступных моделей ИИ. Преследовать Оплатите модели «Enterprise». Здесь модели обычно не предназначены для обучения на основе разговоров с пользователями, поэтому сотрудникам безопаснее рассказывать о своей работе и проектах компании.

Думайте об этом как о разговоре в переполненном кафе, где вас могут подслушать, а не о конфиденциальной встрече в вашем офисе, которая остается в комнате.

Сообщается, что были случаи, когда сотрудники случайно делились информацией о компании с ChatGPT. Если вы работаете над неопубликованными проектами компании или пытаетесь получить патент, вы, вероятно, не захотите обсуждать свои планы с чат-ботом некорпоративного уровня из-за риска утечки информации.

Я обсуждаю проекты, в которых участвую Google работайте, а не с публичными чат-ботами. Вместо этого я использую корпоративную модель даже для таких небольших задач, как обработка рабочей электронной почты. Мне гораздо удобнее делиться своей информацией, потому что мои разговоры не используются для обучения, но я все равно минимизирую личную информацию, которой делюсь.

Прочтите тоже

ИИ дает сотрудникам иллюзию опыта, что ухудшает их работу, говорят исследователи

Регулярно удаляйте свою историю

Чат-боты с искусственным интеллектом обычно сохраняют историю ваших разговоров, но я рекомендую регулярно удалять ее как на корпоративных, так и на общедоступных моделях, чтобы защитить конфиденциальность ваших пользователей в долгосрочной перспективе. Из-за риска того, что ваша учетная запись может быть скомпрометирована, даже если вы уверены в этом, рекомендуется не вводить какую-либо личную информацию в инструменты.

Однажды я был удивлен, что корпоративный чат-бот Gemini смог сообщить мне мой точный адрес, хотя я не помнил, чтобы делился им. Оказывается, ранее я просил его помочь мне уточнить электронное письмо, в котором был указан мой адрес. Поскольку инструмент имеет функции долговременной памяти, которые позволяют ему запоминать информацию из предыдущих разговоров, он смог распознать мой адрес и запомнить его.

Иногда, когда я ищу вещи, которые не хочу, чтобы чат-бот запоминал, я использую специальный режим, немного похожий на режим инкогнито, в котором боты не сохраняют мою историю и не используют информацию для обучения моделей. ChatGPT и Gemini называют это «Временным чатом».

Прочтите тоже

Когда никто больше не пишет сам: как нас одурачил ИИ

Лучше использовать хорошо известные инструменты искусственного интеллекта, которые с большей вероятностью будут иметь четкие механизмы защиты данных и другие средства защиты.

Помимо продуктов Google, мне нравится использовать ChatGPT от OpenAI и Claude от Anthropic.

Также полезно проверить политику конфиденциальности всех используемых вами инструментов. Иногда они более подробно объясняют, как ваши данные будут использоваться для обучения модели. В настройках приватности также можно поискать раздел с возможностью «улучшить модель для всех». Отключив этот параметр, вы предотвратите использование ваших разговоров для обучения.

Технология искусственного интеллекта невероятно мощная, но мы должны быть осторожны, чтобы обеспечить безопасность наших данных и личных данных при их использовании.

Прочитайте оригинальную статью Бизнес Инсайдер США.