1766679574
2025-12-25 15:12:00
В QCon AI, Нью-Йорк, 2025 г., Трейси Бэннон представил доклад о том, как быстрое внедрение ИИ-агенты меняет программные системы, и почему организации рискуют повторить знакомые архитектурные ошибки, если будут относиться ко всем «ИИ» или «агентам» как к взаимозаменяемым.
Бэннон утверждал, что большая часть нынешней путаницы возникает из-за того, что под одними и теми же ярлыками сводятся очень разные модели поведения и профили рисков. Боты были описаны как ответчики по сценарию, которые реагируют на заранее определенные триггеры, в то время как помощники сотрудничают с людьми и остаются в значительной степени под контролем человека. Агенты, напротив, являются целеустремленными субъектами, способными принимать решения и совершать действия в разных системах.
Все говорят о «производительности» ИИ. Очень немногие говорят о связанной с этим архитектурной амнезии. – Трейси Бэннон
Чтобы подтвердить это, Бэннон обрисовал набор шаблонов автономии, которые обычно возникают на протяжении жизненного цикла разработки программного обеспечения. Они варьировались от инструментов с поддержкой искусственного интеллекта, встроенных в существующие рабочие процессы, через агентов уровня задач, которые работают в ограниченных объемах, до многоагентной оркестровки, которая координирует сквозные потоки, и, наконец, до автономии на уровне миссии, когда системы планируют, оптимизируют и адаптируются к целям более высокого уровня.
Бэннон связал этот риск с более широкими отраслевыми тенденциями, отметив, что исследования показывают, что подавляющее большинство лиц, принимающих решения в сфере технологий, ожидают, что технический долг серьезность возрастет в ближайшем будущем из-за сложности, обусловленной искусственным интеллектом. Она утверждала, что ИИ не создает принципиально новых видов сбоев, но усиливает существующие, ускоряя изменения и увеличивая радиус ошибок.
Она сосредоточилась на применении установленных архитектурных принципов к агентным системам. Она утверждала, что организации уже знают, как управлять рисками в распределенных системах, но часто забывают эти уроки, пытаясь действовать быстрее. УправлениеВ этом контексте он был представлен как минимальный набор средств контроля, необходимый для построения доверия, включая четкую подотчетность и отслеживаемость действий и потоков данных.
Идентичность была подчеркнута как основополагающий элемент контроля, от которого зависят другие гарантии. Бэннон заявил, что каждый агент должен иметь уникальную, отзывную личность и что организации должны иметь возможность быстро отвечать на основные вопросы, когда что-то идет не так: к чему агент может получить доступ, какие действия он предпринял и как это можно остановить. Она описала минимальную модель идентичности, состоящую из реестр агентов.
Мы гонимся за видимыми показателями активности… и незаметно морим голодом работу, поддерживающую работоспособность систем: проектирование, рефакторинг, валидацию, моделирование угроз. – Трейси Бэннон
Дисциплина принятия решений была еще одной повторяющейся темой. Бэннон призвал команды начинать с вопроса «почему», а не «как», и четко формулировать компромиссные решения, прежде чем повышать автономию. Она описала решения как оптимизации, которые всегда улучшают одно измерение за счет другого, например, соотношение ценности и усилий или скорости и качества.
Доклад завершился призывом к архитекторам и старшим инженерам принять активное участие в формировании способов внедрения агентов ИИ. Бэннон сформулировал эту ответственность как предотвращение архитектурной амнезии путем разработки управляемых агентов, а не специальной автоматизации, делая риски и долги видимыми и добиваясь более высоких уровней автономии только там, где они явно приносят пользу. Ее заключительное послание заключалось в том, что основные практики архитектуры программного обеспечения остаются в силе и что задача не заключается в изучении совершенно новых дисциплин.
Разработчики, желающие узнать больше, могут изучить дополнительные QС искусственным интеллектом сеансов и освещение InfoQ с записанными видео с конференции, как ожидается, будет доступен с 15 января 2026 г.
#QCon #Станьте #носителем #искусственного #интеллекта #не #теряя #рассудка #изза #архитектурной #амнезии
