Технология, которую Facebook и Google не осмелились раскрыть

Однажды днем ​​в начале 2017 года в штаб-квартире Facebook в Менло-Парке, штат Калифорния, инженер по имени Томмер Лейванд сидел в конференц-зале со смартфоном, стоящим на полях бейсболки. Резиновые ленты помогли закрепить его на месте камерой наружу. Абсурдный шляпный телефон, особенно некрутая версия будущего, содержал в себе секретный инструмент, известный лишь небольшой группе сотрудников. То, что он мог сделать, было поразительно.

Горстка мужчин в комнате смеялась и возбужденно переговаривалась друг с другом, как это запечатлено на видео, снятом в тот день, пока один из них не попросил тишины. В комнате воцарилась тишина; демо было в стадии реализации.

Мистер Лейванд повернулся к мужчине, сидевшему напротив него за столом. Объектив камеры смартфона — круглый, черный, немигающий — завис над лбом мистера Лейванда, как глаз циклопа, когда он смотрел на лицо перед собой. Две секунды спустя автоматический женский голос объявил: «Зак Ховард».

«Это я», подтвердил г-н Ховард, инженер-механик.

Сотрудник, увидевший демонстрацию технологий, подумал, что это шутка. Но когда телефон начал правильно выкрикивать имена, ему показалось это жутковатым, как в фильме-антиутопии.

Шляпный телефон, идентифицирующий человека, был бы настоящей находкой для человека с проблемами зрения или слепотой, но это было рискованно. Предыдущее внедрение Facebook технологии распознавания лиц, позволяющей людям отмечать друзей на фотографиях, вызвало протест со стороны защитников конфиденциальности и привело к коллективному иску в Иллинойсе в 2015 году, который в конечном итоге стоил компании 650 миллионов долларов.

С такой технологией в голове г-на Лейванда Facebook мог бы помешать пользователям когда-либо забыть имя коллеги, напомнить на коктейльной вечеринке, что у знакомого есть дети, о которых нужно спросить, или помочь найти кого-то на многолюдной конференции. Однако шесть лет спустя компания, ныне известная как Meta, так и не выпустила версию этого продукта, и г-н Лейванд уехал в Apple, чтобы работать над очками дополненной реальности Vision Pro.

В последние годы стартапы Clearview AI и PimEyes раздвинули границы возможного, выпустив системы поиска лиц в сочетании с миллионами фотографий из общедоступной сети (PimEyes) или даже миллиардами (Clearview). С помощью этих инструментов, доступных полиции в случае с Clearview AI и широкой общественности в случае с PimEyes, снимок человека можно использовать для поиска других онлайн-фотографий, на которых изображено это лицо, потенциально раскрывающее имя, профили в социальных сетях. или информацию, которую человек никогда не хотел бы публиковать публично, например, рискованные фотографии.

То, что сделали эти стартапы, не было технологическим прорывом; это был этический вопрос. Технологические гиганты разработали способность распознавать лица неизвестных людей несколько лет назад, но решили придержать эту технологию, решив, что самая крайняя версия — нанесение имени на лицо незнакомца — слишком опасна, чтобы делать ее широко доступной.

Теперь, когда табу снято, технология распознавания лиц может стать повсеместной. В настоящее время он используется полицией для раскрытия преступлений, авторитарными правительствами для наблюдения за своими гражданами и предприятиями, чтобы не подпускать врагов. Вскоре он может стать инструментом во всех наших руках, приложением на нашем телефоне или в очках дополненной реальности, которое приведет к мир без посторонних.

«Мы решили остановиться»

Еще в 2011 году инженер Google сообщил, что он работал над инструментом, позволяющим загуглить чьи-то лица и найти другие их фотографии в Интернете. Несколько месяцев спустя председатель Google Эрик Шмидт заявил в интервью на сцене, что Google «разработала эту технологию, а мы скрыли ее».

«Насколько мне известно, это единственная технология, созданная Google, и, посмотрев на нее, мы решили остановиться», — сказал г-н Шмидт.

Осознанно или нет, но технологические гиганты также помогли сдержать технологию от общего распространения, скупая самые передовые стартапы, которые ее предлагали. В 2010 году Apple купила многообещающую шведскую компанию по распознаванию лиц Polar Rose. В 2011 году Google приобрела популярную среди федеральных агентств американскую компанию по распознаванию лиц под названием PittPatt. А в 2012 году Facebook приобрел израильскую компанию Face.com. В каждом случае новые владельцы закрывали услуги приобретенных компаний посторонним. Тяжеловесы Кремниевой долины де-факто контролировали, как и будет ли использоваться эта технология.

Facebook, Google и Apple использовали технологию распознавания лиц, по их мнению, относительно безобидным способом: в качестве инструмента безопасности для разблокировки смартфона, более эффективного способа отмечать известных друзей на фотографиях и организационного инструмента для классификации фотографий со смартфона по лицам люди в них.

Однако в последние несколько лет ворота были растоптаны более мелкими и более агрессивными компаниями, такими как Clearview AI и PimEyes. Что позволило осуществить этот сдвиг, так это природа технологии нейронных сетей с открытым исходным кодом, которая сейчас лежит в основе большинства программного обеспечения для искусственного интеллекта.

Понимание пути развития технологии распознавания лиц поможет нам сориентироваться в том, что будет с другими достижениями в области искусственного интеллекта, такими как инструменты генерации изображений и текста. Право решать, что они могут и чего не могут делать, будет все больше определяться любым человеком, обладающим хоть какой-то технической подкованностью, который может не обращать внимания на то, что широкая общественность считает приемлемым.

«Стоя на плечах гигантов»

Как мы дошли до того, что кто-то может заметить «горячего папу» на тротуаре Манхэттена, а затем с помощью PimEyes попытаться узнать, кто он и где работает? Короткий ответ — это сочетание бесплатного кода, размещенного в Интернете, огромного количества общедоступных фотографий, научных статей, объясняющих, как все это объединить, и бесцеремонного отношения к законам, регулирующим конфиденциальность.

Соучредитель Clearview AI Хоан Тон-Тат, руководивший технологическим развитием своей компании, не имел специального опыта в биометрии. До Clearview AI он создавал викторины для Facebook, игры для iPhone и дурацкие приложения, такие как «Trump Hair», чтобы человек на фотографии выглядел с прической, как у бывшего президента.

В своем стремлении создать новаторское и более прибыльное приложение г-н Тон-Тат обратился к бесплатным онлайн-ресурсам, таким как OpenFace — «библиотека распознавания лиц», созданная группой из Университета Карнеги-Меллон. Библиотека кода была доступна на GitHub с предупреждением: «Пожалуйста, используйте ответственно!»

«Мы не поддерживаем использование этого проекта в приложениях, нарушающих конфиденциальность и безопасность», — говорится в заявлении. «Мы используем это, чтобы помочь пользователям с когнитивными нарушениями чувствовать и понимать мир вокруг них».

Это была благородная просьба, но совершенно неисполнимая.

Г-н Тон-Тат запустил и запустил код OpenFace, но он не был идеальным, поэтому он продолжал поиски, бродя по академической литературе и репозиториям кода, пробуя то и это, чтобы увидеть, что работает. Он был подобен человеку, прогуливающемуся по фруктовому саду и вкушающему плоды десятилетий исследований, созревшие для сбора и великолепно свободные.

«Я бы не смог этого сделать, если бы мне пришлось создавать его с нуля», — сказал он, назвав имена некоторых исследователей, разработавших передовое компьютерное зрение и искусственный интеллект, в том числе Джеффри Хинтона, «крестного отца искусственного интеллекта». стоя на плечах гигантов».

Мистер Тон-Это все еще строится. Clearview разработала версию своего приложения, которая работает с очками дополненной реальности, — более полную реализацию шляпы для звонков по лицу, которую команда инженеров Facebook создала несколько лет назад.

Конец анонимности

Пара очков дополненной реальности стоимостью 999 долларов, произведенных компанией Vuzix, подключает владельца к базе данных Clearview, содержащей 30 миллиардов лиц. AR-приложение Clearview, которое может идентифицировать человека на расстоянии до 10 футов, пока не является общедоступным, но ВВС предоставили финансирование для его возможного использования на военных базах.

Осенним днем ​​г-н Тон-Тат продемонстрировал мне очки в квартире своей пресс-секретаря в Верхнем Вест-Сайде Манхэттена, надев их и глядя на меня.

«Оооо, 176 фотографий», — сказал он. «Осиновый фестиваль идей. Кашмир Хилл», — прочитал он в подписи к одной из появившихся фотографий.

Затем он протянул мне очки. Я надел их. Хотя они выглядели неуклюжими, они были легкими и естественно подходили по размеру. Г-н Тон-Тат сказал, что опробовал другие очки дополненной реальности, но эти показали себя лучше всего. «У них скоро появится новая версия», — сказал он. «И они будут выглядеть круче, более хипстерскими».

Когда я посмотрел на мистера Тон-Тата через очки, вокруг его лица появился зеленый круг. Я постучал по сенсорной панели у правого виска. На квадратном дисплее, который мог видеть только я, на правой линзе очков появилось сообщение: «Ищем…»

А потом площадь заполнилась его фотографиями, под каждой была подпись. Я пролистывал их с помощью сенсорной панели. Я коснулся, чтобы выбрать тот, на котором было написано «Генеральный директор Clearview Хоан Тон-Тат»; там была ссылка, которая показала мне, что она взята с веб-сайта Clearview.

Я посмотрел на его пресс-секретаря, всмотрелся в ее лицо, и всплыло 49 фотографий, в том числе одна с клиентом, о котором она просила меня не упоминать. Это случайно показало, насколько навязчивым может быть поиск чьего-то лица даже для человека, чья работа состоит в том, чтобы заставить мир принять эту технологию.

Я хотел вынести очки на улицу, чтобы посмотреть, как они действуют на людей, которых я на самом деле не знал, но мистер Тон-Тот сказал, что мы не можем, потому что очкам требуется подключение к Wi-Fi, а также потому, что кто-то может узнать его и сразу поймете, что это были за очки и на что они способны.

Меня это не напугало, хотя я знала, что так должно быть. Было ясно, что люди, владеющие таким инструментом, неизбежно будут иметь власть над теми, у кого его нет. Но было определенное волнение, когда я увидел, как это работает, словно успешно выполненный фокус.

Упущенная возможность?

Meta уже много лет работает над собственными очками дополненной реальности. На внутреннем совещании в начале 2021 года технический директор компании Эндрю Босворт заявил, что хотел бы оснастить их возможностями распознавания лиц.

В записи внутренней встречи г-н Босворт заявил, что отказ от распознавания лиц в очках дополненной реальности — это упущенная возможность улучшить человеческую память. Он рассказал об универсальном опыте посещения званого обеда и встречи с кем-то, кого вы знаете, но не можете вспомнить его имени.

«Мы могли бы повесить на них небольшую табличку с именем», — сказал он в записи с коротким смешком. “Мы могли бы. У нас есть такая способность».

Но он выразил обеспокоенность по поводу законности предложения такого инструмента. Buzzfeed сообщил о его высказываниях тогда. В ответ г-н Босворт заявил, что распознавание лиц является «чрезвычайно спорным» и что предоставление к нему широкого доступа — это «дебаты, которые нам необходимо провести с общественностью».

Хотя очки дополненной реальности Meta все еще находятся в разработке, компания отключила систему распознавания лиц, развернутую на Facebook, чтобы отмечать друзей на фотографиях, и удалила более одного миллиарда отпечатков лиц своих пользователей, которые она создала.

Было бы достаточно легко снова включить такую ​​систему. Когда я спросил представителя Meta о комментариях г-на Босворта и о том, сможет ли компания однажды внедрить распознавание лиц в свои очки дополненной реальности, он не исключил такую ​​возможность.