Подслушивают ли Alexa, Google или Siri наши разговоры? | Технологии

«Алекса, поставь будильник на восемь», «Алекса, включи фильм». Оппенгеймерили «Алекса, расскажи мне, какая будет погода на Пасху». Все эти взаимодействия с умной колонкой записываются и доступны любому пользователю, который запросит их у Амазонка. Именно это сделала криминалист Мария Аперадор. Ее удивлением было обнаружить, что некоторым аудиозаписям не предшествовало слово активации «Alexa», и поэтому она сообщила об этом несколько дней назад в видео в TikTok и Instagram, которое стало вирусным. Как это возможно?

Политика Amazon на этот счет ясна: звук не сохраняется и не отправляется в облако, пока устройство не обнаружит слово пробуждения. Это подтверждают в компании. И добавляют, что пользователь узнает, когда Alexa отправит запрос в облако, по синему световому индикатору или звуку из динамика.

Имея это в виду, Дэвид Арройо, исследователь CSIC, специализирующийся на кибербезопасности и данных, предлагает альтернативу: «Имеющаяся у них система активируется только тогда, когда кто-то произносит слово активации. Но по разным причинам он может давать ложные срабатывания. Что нам нужно будет увидеть, так это то, насколько он устойчив к элементам, которые нарушают интерпретацию этого слова активации».

Для озвучивания систем машинного обучения, например тех, которые используются Alexa или Google о Яблоко, для улучшения его работы включены разрозненные элементы. Но даже в этом случае это непростая задача. «Эти системы предназначены для выявления всего, что является элементами изменчивости из-за произношения», — говорит Арройо, имея в виду различные акценты и способы речи, а также изменения в резонансе или реверберации комнаты, в которой она находится. Устройство. «Было бы необходимо подробно знать, какова точность и уровень ложных срабатываний алгоритма, который конкретно использует Amazon».

EL PAÍS поговорил с Марией Аперадор, чтобы узнать больше о записях, которые длятся около 6 секунд. Это фрагменты случайных разговоров ее самой или людей, бывавших в ее доме. Криминолог не проверяла более 500 аудиофайлов, которые ей прислал Amazon, но примерно из 50, которые она прослушала, она нашла два, в которых не было слова активации.

Исследование, проведенное исследователями из Рурского университета в Бохуме и Института безопасности и конфиденциальности Макса Планка. подчеркивает важность случайных активаций в умных колонках. Проанализировав 11 устройств восьми разных производителей, они опубликовали информацию о более чем 1000 непроизвольных активациях. «Мы говорим о системах распознавания голоса, которые в зависимости от того, как они реализованы, могут работать лучше или хуже», — говорит о возможности ложных срабатываний Хосеп Альборс, директор по исследованиям и осведомленности компании по кибербезопасности ESET Spain.

Как говорящие определяют слово пробуждения

Активировать, когда они слышат слово Alexa или фразы «ОК, Google» или «привет, Siri», в умных колонках есть система, которая постоянно отслеживает этот термин. «В конце концов, это устройства, которые постоянно подслушивают. Но это так и делай смартфоны или много домофонов. Это не эксклюзивно для Alexa», — говорит Олборс.

Арройо также дает такую ​​оценку. «Когда вы переводите динамик в активный режим ожидания, это означает, что он постоянно поглощает то, о чем вы говорите. Он этого не записывает. Но алгоритм обрабатывает это, потому что ему нужно видеть, какие слова произносятся».

Это алгоритм, который работает локально, на самом устройстве, ища акустические паттерны, соответствующие слову активации. Источники в Amazon отмечают, что их технология для обнаружения термина полагается только на информацию, полученную от звуковых волн. Кроме того, они подчеркивают, что динамик также позволяет активировать его с помощью кнопки, что позволяет избежать мониторинга звука. В случае записи, происходящей при активации устройства, пользователи могут выбирать не сохраняйте их в настройках конфиденциальности.

В чем проблема с этим постоянным отслеживанием слов для пробуждения? Два специалиста по кибербезопасности согласны с тем, что если бы звук обрабатывался для извлечения данных, выходящих за рамки поиска по ключевым словам, проблемы конфиденциальности были бы очень серьезными. Но они также согласны с тем, что нет никаких доказательств того, что это так. «Есть много интересов, чтобы этого не произошло, потому что это означало бы потерю доверия ко всем устройствам и очень значительный экономический ущерб для этих компаний», — говорит Альборс.

Вы можете следить Технология Эль-Паис в Фейсбук й Икс или зарегистрируйтесь здесь, чтобы получать наши Семанал информационного бюллетеня.