Доверие к автомобильному искусственному интеллекту определит будущее мобильности

Технологии часто развивались быстрее, чем общество было готово их принять. Электричество стало масштабироваться только после того, как оно завоевало общественное доверие; авиация была технически осуществима еще до того, как пассажиры почувствовали себя в безопасности; а цифровые финансы расширились только после того, как были прочно установлены безопасность и прозрачность.

Сегодня автомобильный ИИ находится в той же переходной точке.

Вопрос больше не в том, сможем ли мы создать передовые и интеллектуальные автомобильные системы искусственного интеллекта — мы уже это делаем. Реальный вопрос заключается в том, сможем ли мы использовать их так, чтобы общество доверяло их принятию.

Сейчас время имеет значение, поскольку принятие будет определяться уверенностью, а не возможностями.

Тем не менее, разрыв в цифровом доверии к автомобильному искусственному интеллекту остается огромным. Один исследование в Великобритании показали, что только один из шести человек заявил, что будет чувствовать себя безопаснее всего в автономном транспортном средстве, по сравнению с почти двумя третями, которые заявили, что будут чувствовать себя безопаснее всего в автомобиле, управляемом человеком.

Если мы не ликвидируем этот разрыв доверия сейчас, мы рискуем замедлить развертывание в тот момент, когда города, регулирующие органы и отрасли зависят от более разумной мобильности для достижения целей безопасности, устойчивости и эффективности.

В отличие от прошлых эпох, когда единый сертификат типа сигнализировал о том, что транспортное средство «безопасно», мобильность с использованием искусственного интеллекта требует другого подхода. Траст не может быть сертифицирован один раз; его необходимо отслеживать и постоянно демонстрировать.

Эта задача сводится к трем важным вопросам.

На протяжении более столетия безопасность транспортных средств основывалась на детерминированных механических системах. Неудачи были предсказуемы. Поведение можно моделировать, проверять и сертифицировать.

ИИ меняет эту основу. Транспортные средства теперь полагаются на функции, управляемые данными, нейронные сети, сочетание датчиков и непрерывное обучение. Эти системы адаптируются и развиваются способами, которые даже эксперты не могут полностью предвидеть.

Объясняемость становится требованием безопасности. Чтобы обеспечить надежность, традиционная автомобильная безопасность должна сочетаться с:

Эта конвергенция становится известной как цифровое доверие – способность надежно демонстрировать, что интеллектуальные системы ведут себя правильно, безопасно и последовательно.

На практике это требует применения таких стандартов, как ИСО 21434, ИСО 26262, ИСО/САЭ 8800 и ЕЭК ООН R155 с самых ранних стадий развития. Для долгосрочной защиты также требуются безопасные аппаратные архитектуры, включая такие технологии, как аппаратные модули безопасности и ARM TrustZone.

Эти элементы представляют собой основу для общественного доверия.

В традиционной мобильности валидация была разовым мероприятием: краш-тест, утверждение типа, проверка соответствия. Но системы с поддержкой искусственного интеллекта развиваются после развертывания посредством беспроводных обновлений, дополнительных наборов данных, изменения среды или модификаций поставщиков.

Этот сдвиг требует постоянного контроля, а не статической сертификации.

Чтобы решить эту задачу, оценки безопасности и защищенности должны охватывать всю цепочку поставок, включая электрические блоки управления, компоненты, облачные сервисы и инфраструктуру, среди производителей оригинального оборудования (OEM), поставщиков уровня 1 и уровня 2.

Системы мониторинга жизненного цикла, такие как ISO/SAE 8800, представляют собой значительный шаг: они вводят жизненный цикл эксплуатационной безопасности, требующий мониторинга, управления рисками и адаптации по мере развития систем.

Доверие к автомобильному искусственному интеллекту будет зависеть от долгосрочной проверки и постоянного контроля.

Подотчетность смещается в сторону распределенной экосистемы разработчиков, интеграторов, операторов инфраструктуры и регуляторов.

Поскольку функции, управляемые искусственным интеллектом, предполагают больше принятия решений, ответственность смещается от отдельных лиц к сложной технической экосистеме.

Это поднимает трудные вопросы. Кто несет ответственность — OEM-производитель, поставщик программного обеспечения, производитель компонентов, оператор облачных вычислений или их общая ответственность?

Традиционное тестирование не может ответить на эти вопросы для систем, которые со временем развиваются.

Регуляторы начинают реагировать. У МЕНЯ ЕСТЬ Акт а японский Протокол по безопасности и этике дорожного движения (RSEP) вводит требования к прозрачности алгоритмов, человеческому надзору и регистрации решений в режиме реального времени.

Эти механизмы гарантируют, что поведение ИИ объяснимо, отслеживается и поддается проверке на протяжении всего жизненного цикла.

Без четкой подотчетности доверие не будет масштабироваться. А без доверия автономная мобильность также не будет масштабироваться.

Мы переживаем крупнейшую трансформацию мобильности со времен перехода от лошади к двигателю – на этот раз от механического управления к интеллектуальному принятию решений.

Вопрос, определяющий будущее десятилетие, заключается не в том, работает ли автомобильный искусственный интеллект. Это уже так.

Вопрос в том, поверит ли этому общество. Поэтому лица, принимающие решения в промышленности, правительстве и гражданском обществе, должны сейчас уделять приоритетное внимание цифровому доверию – как предпосылке для того, чтобы мобильность с использованием искусственного интеллекта стала мейнстримом.

Разговор вышел за рамки технологического оптимизма. Ему нужна надежность. Нужна прозрачность. Это требует ответственности.

Только тогда интеллектуальная мобильность реализует свой потенциал.

На протяжении всей цепочки создания стоимости независимые третьи стороны играют решающую роль в обеспечении этого доверия — от проверки ИИ и обеспечения кибербезопасности до оценки функциональной безопасности и мониторинга жизненного цикла.

DEKRA, одна из ведущих в мире независимых организаций по тестированию, проверке и сертификации, поддерживает этот переход, обеспечивая независимую гарантию и контроль жизненного цикла, обеспечивая ответственное, безопасное и надежное развертывание в большом масштабе.

Инновации создают возможности, но именно доверие способствует принятию.