К 2030 году стоимость агентов ИИ может составить 50 миллиардов долларов – если мы обеспечим, чтобы они были хорошими

Агентская экономика больше не возникает, она уже здесь. Потребительские агенты искусственного интеллекта уже начинают самостоятельно бронировать поездки и совершать небольшие покупки для покупателей. Вскоре они будут выполнять большую часть сквозного процесса покупки при сложных покупках: договариваться о ценах и условиях, координировать доставку и возврат, а также проводить транзакции с другими агентами на машинной скорости. Эти системы быстро внедряются в то, как повседневные ценности перемещаются между потребителями и предприятиями.

Возможности огромны, но и риск огромен. Без мер безопасности агенты могут подорвать доверие так же быстро, как и повысить эффективность, подрывая те самые системы, которые они призваны улучшать.

Инфраструктура идентификации и подотчетности, которую мы создаем сегодня, определит, станет ли агентская торговля катализатором глобального процветания или новым рубежом для беспрецедентного мошенничества.

Ускорение не вызывает сомнений. Данные Adobe отмечают значительную тенденцию к внедрению браузеров и сервисов на базе искусственного интеллекта во время сезона праздничных покупок 2024 года. К Черной пятнице 2025 года трафик на розничные сайты США, управляемый искусственным интеллектом, вырос 805% по сравнению с прошлым годом, а глобальные онлайн-продажи через агентов составили более 22 миллиардов долларов.

Для бизнеса это означает, что растущая доля клиентов вообще не будет людьми. Они будут агентами, действующими от имени частных лиц и взаимодействующими с другими агентами, представляющими продавцов, поставщиков логистических услуг и платежных систем. Большая часть коммерческой цепочки поставок в конечном итоге станет межагентской.

Этот сдвиг поднимает фундаментальный вопрос, на который наша нынешняя инфраструктура доверия не способна ответить: если стороной транзакции не является человек, как нам установить достоверность личности?

Мы уже решали версию этой проблемы раньше. Во время глобализации финансовых услуг в 1970-х и 1980-х годах деньги перемещались через границы быстрее, чем могли выдержать доверие и подотчетность. В ответ была создана система «Знай своего клиента» (KYC), требующая от учреждений проверять личность клиентов и отслеживать транзакции.

Хотя KYC не устранил полностью мошенничество и финансовые преступления, он заложил основу для доверия и подотчетности, сделав проверку личности обязательным условием для участия в системе. Сегодня тот же самый разрыв доверия существует, хотя и экспоненциально усиливается, внутри развивающейся агентской экономики.

Чтобы поддержать этот быстрый сдвиг, нам нужна новая структура: «Знай своего агента» (KYA), работающая наряду с традиционными требованиями «Знай своего клиента» (KYC).

Функциональная структура KYA зависит от четырех возможностей: установления того, кто и что является агентом; подтверждение того, что разрешено делать и для кого; поддержание четкой ответственности за каждое предпринимаемое действие; и постоянный мониторинг его поведения, чтобы гарантировать, что оно остается в пределах утвержденных параметров.

Крайне важно, чтобы все это опиралось на надежную систему KYC. Идентификация агента заслуживает доверия ровно настолько, насколько идентичность человека или организации, которую он представляет, — без KYC с высокой степенью надежности даже самая надежная структура KYA рухнет.

В Socure мы работаем над развитием систем идентификации и рисков, необходимых для проверки, авторизации и постоянного мониторинга автономных агентов — в контексте людей, которых они представляют, — при их взаимодействии в системах с высоким уровнем доверия.

Без этих возможностей мы не можем отличить «хорошего бота» (например, торгового агента, законно совершающего покупки от имени занятого профессионала) и «плохого бота», выдающего себя за того же агента для совершения мошенничества.

Следующее десятилетие определит, в какой версии агентной экономики мы живем.

Мы могли бы открыть беспрепятственную трансграничную цифровую торговлю, в которой агенты совершают сделки с высокой подотчетностью и минимальными трениями. Агентический ИИ может доставить 3 триллиона долларов в корпоративной производительности вырастет во всем мире в течение следующего десятилетия, расширяя доступ для малого бизнеса и открывая совершенно новые уровни экономической деятельности.

Злоумышленники будут использовать вредоносные агенты, способные выдавать себя за другое лицо и осуществлять автоматическое мошенничество. Аналитики уже прогнозируют это один из четырех корпоративные нарушения к 2028 году могут быть связаны с эксплуатацией ИИ-агентов. Доверие не угаснет постепенно; он рухнет, вызвав чрезмерное регулирование, которое душит инновации или фрагментирует Интернет на изолированные, тщательно охраняемые огороженные сады.

Люди становятся меньшинством в Интернете. Боты теперь генерируют почти 50% всего интернет-трафика, а плохие боты составляют почти треть его. Чтобы предотвратить худший сценарий, необходимы решительные действия.

Правительства должны модернизировать инфраструктуру идентификации и устранить устаревшие правовые барьеры, ограничивающие обмен информацией о выявленном мошенничестве. Системы государственного сектора должны уделять приоритетное внимание проверке личности, а не просто проверке документов. Глобальная гармония регулирования нереалистична, но установление минимального базового уровня доверия и совместимости возможно и необходимо. Агенты не уважают границ, и наши системы управления тоже не могут. Прозрачность и скоординированный обмен знаниями должны стать основополагающими.

Организации должны относиться к идентификации агентов как к проблеме безопасности первого порядка, отдавая приоритет четким структурам авторизации и проверяемым записям активности при развертывании агентов. Тем, кто взаимодействует с внешними агентами, необходимы возможности проверки, выходящие далеко за рамки принятия утверждений за чистую монету.

Для продвижения гармонизации нормативных требований органы по стандартизации должны ускорить разработку совместимых протоколов KYA, работая в тандеме с регулирующими органами для обеспечения глобальной согласованности. Целью является создание универсального уровня доверия – во многом аналогичного SSL-сертификатам для веб-сайтов – который позволяет законной агентской торговле свободно течь, одновременно создавая целевые препятствия для злоумышленников.

Ничто из этого не будет легким. Но вход в агентскую экономику без поддерживающей трастовой инфраструктуры обойдется гораздо дороже.

Личность всегда была основой доверия, а доверие – основой коммерции. Что меняется, так это скорость, масштаб и автономность транзакций, которые теперь опираются на этот фундамент. Когда программные агенты совершают трансграничные транзакции от нашего имени, вопрос идентичности становится одновременно более важным и гораздо более сложным. Компании, правительства и институты, которые осознают эту проблему сейчас и инвестируют в ее решение, будут теми, кто процветает в агентской экономике.

Технология построения доверия в мире, управляемом агентами, уже существует. Вопрос в том, сможем ли мы развернуть его с той срочностью, которую требует данный момент, прежде чем отсутствие доверия полностью закроет эту возможность. В конечном счете, следующее десятилетие будет принадлежать компаниям, которые решают вопросы происхождения личных данных и ответственности агентов.