АНБ предупреждает, что злоумышленники США, свободно добывающие частные данные, могут иметь преимущество в области искусственного интеллекта

Инженер-электрик Гилберт Эррера был назначен директором по исследованиям Агентства национальной безопасности США в конце 2021 года. Революция искусственного интеллекта назревала внутри технологической индустрии США.

АНБ, которое иногда в шутку называют «Нет такого агентства», уже давно нанимает лучших специалистов в области математики и информатики. Ее технические лидеры были первыми и активными пользователями передовых вычислений и искусственного интеллекта. И все же, когда Эррера говорил со мной по телефону о последствиях последнего бума искусственного интеллекта в штаб-квартире АНБ в Форт-Мид, штат Мэриленд, казалось, что, как и многие другие, агентство было ошеломлено недавним успехом крупных языковых моделей, лежащих в основе ЧатGPT и другие популярные продукты искусственного интеллекта. Разговор был слегка отредактирован для ясности и длины.

Насколько большим сюрпризом стало появление ChatGPT для АНБ?

О, я думал, ваш первый вопрос будет: «Чему АНБ научилось из Ковчега Завета?» Это повторяется примерно с 1939 года. Я бы хотел вам сказать, но не могу.

Я думаю, что все усвоили момент ChatGPT: если вы передаете ИИ достаточно данных и вычислительных ресурсов, эти новые свойства проявляются.

АНБ действительно рассматривает искусственный интеллект как передовой рубеж долгой истории использования автоматизации для выполнения наших задач с помощью вычислений. Искусственный интеллект уже давно рассматривается как способ действовать умнее, быстрее и в большем масштабе. И поэтому мы участвуем в исследованиях, ведущих к этому моменту, уже более 20 лет.

Большие языковые модели появились задолго до моделей с генеративным предобучением (GPT). Но этот «момент ChatGPT» — когда вы можете попросить его написать шутку или когда вы можете вступить в разговор — действительно отличает его от другой работы, которую проделали мы и другие.

АНБ и его коллеги среди союзников США время от времени разрабатывали важные технологии раньше всех, но держали это в секрете, например криптография с открытым ключом в 1970-х годах. Возможно, то же самое произошло с большими языковыми моделями?

В АНБ мы не смогли бы создать такие большие модели трансформаторов, потому что не могли использовать данные. Мы не можем использовать данные граждан США. Другое дело – бюджет. Я слушал подкаст, где кто-то рассказал о доходах Microsoft и сказал, что тратит 10 миллиардов долларов в квартал на затраты на платформу. [The total US intelligence budget in 2023 was $100 billion.]

На самом деле это должны быть люди, у которых достаточно денег для капиталовложений, исчисляемых десятками миллиардов долларов. [who] иметь доступ к данным, которые могут создавать эти возникающие свойства. И это действительно гиперскейлеры [largest cloud companies] и, возможно, правительства, которые не заботятся о конфиденциальности личной информации, не обязаны соблюдать законы о конфиденциальности личной информации и не имеют проблем с кражей данных. И я оставлю это на ваше усмотрение, кто это может быть.

Не ставит ли это АНБ – и Соединенные Штаты – в невыгодное положение в плане сбора и обработки разведывательной информации?

Я сделаю небольшое отступление: это не ставит нас в невыгодное положение. Нам как бы нужно поработать над этим, и я к этому приду.

Это не является огромным недостатком для нашей ответственности, которая связана с целями национального государства. Если вы посмотрите на другие приложения, это может усложнить задачу некоторым нашим коллегам, которые занимаются внутренней разведкой. Но разведывательному сообществу придется найти способ использовать модели коммерческого языка и уважать конфиденциальность и личные свободы. [The NSA is prohibited from collecting domestic intelligence, although multiple whistleblowers have warned that it does scoop up US data.]