Чему беспилотные автомобили могут научить нас доверию к физическому ИИ

Физический ИИ меняет мир вокруг нас. В ближайшие десятилетия автономные физические агенты, такие как беспилотные автомобили, боты-доставщики и домашние роботы, будут все чаще делить наши улицы, рабочие места и жилые помещения.

Их потенциал огромен: более безопасные дороги, более чистый воздух, больше времени для того, что важно, и более справедливый доступ к услугам. Но чтобы реализовать этот потенциал, помимо множества технических проблем, мы должны также решить проблему доверия: как нам построить доверие между людьми и интеллектуальными системами, работающими в физическом мире?

Ни одна область науки не занималась этим вопросом так интенсивно (или так публично), как автономные транспортные средства. Беспилотные автомобили — это не только одно из первых крупномасштабных применений физического ИИ, но и одно из наиболее тщательно изученный.

Уроки, извлеченные из этого диалога между сообществами, политиками, автопроизводителями и технологами, предлагают мощный план того, как общество может направить все формы физического ИИ к ответственному, ориентированному на человека прогрессу.

Более миллиона человек Ежегодно во всем мире погибают в автокатастрофах. Заторы стоков миллиарды часов производительности ежегодно. И миллиард человек отсутствие доступа к безопасному и надежному транспорту, что ограничивает их способность работать, учиться или получать помощь.

Автономные транспортные средства могут существенно изменить каждую из этих кривых. Они созданы для того, чтобы не отвлекаться, следовать правилам и всегда иметь обзор на 360 градусов. Они не устают, не ослабевают и не перегружаются эмоционально.

В ходе отраслевых испытаний, включая коммерческое внедрение, автономные системы продемонстрировал способность спасать жизниверните нам время и расширьте возможности мобильности для людей, которые не умеют водить машину.

Однако ни одно из этих преимуществ не может быть полностью реализовано без общественного доверия. А доверие, особенно к интеллектуальным физическим системам, работающим в общественных местах, зарабатывается посредством диалога.

Чтобы заложить основу для безопасного и ответственного развертывания, необходимы две формы открытого диалога.

Каждая новая технология, действующая в общественном пространстве, должна соответствовать социальным ожиданиям и нормам. Для беспилотных транспортных средств это означает раннее и постоянное взаимодействие между разработчиками технологий, автопроизводителями, регулирующими органами, службами экстренного реагирования, защитниками прав инвалидов и общественными группами. Целью является не просто соблюдение, а взаимопонимание.

Во многих городах уже созданы совместные рабочие группы, в которых разработчики технологий делятся данными о безопасности, результатами моделирования и опытом реального вождения. Политики, в свою очередь, выражают свои приоритеты – будь то защита уязвимых участников дорожного движения, сокращение выбросов, улучшение транзитного сообщения или обеспечение справедливого охвата услугами.

Этот диалог также требует прозрачности в вопросах безопасности. Сегодня самые надежные системы безопасности строго сочетают в себе тестирование на основе сценариев, ответственность в соответствии с отраслевыми стандартами и независимую проверку. Такой уровень ясности позволяет регулирующим органам и сообществам оценивать претензии и укреплять доверие.

Вторая форма диалога происходит не между институтами, а между людьми и самой технологией.

Благодаря недавним достижениям в области объяснимого/интерпретируемого/рассуждающего ИИ мы достигли нового уровня общения с системами ИИ. С использованием модели визуального языка и интерфейсы на естественном языкеАвтономные системы могут все чаще описывать, что они делают и почему они действуют определенным образом, на естественном языке.

Например, пассажир мог спросить: «Почему мы здесь затормозили?» и автомобиль может ответить: «Велосипедист впереди подал сигнал о смене полосы движения, и я даю ему дополнительное пространство».

Эта возможность не только повышает удобство работы пользователей, но и повышает доверие, делая рассуждения системы наблюдаемыми, интерпретируемыми и предсказуемыми. Другими словами, ИИ больше не является черным ящиком. Как и человек, система ИИ может рационализировать и обосновывать свои решения.

Такое сочетание диалога между людьми и между людьми и машинами — это именно тот вид сотрудничества, который необходим в нашем противоречивом мире.

Автономные транспортные средства — это первая волна. Вскоре интеллектуальные машины станут неотъемлемой и нормальной частью повседневной жизни: они будут поддерживать инфраструктуру, эксплуатировать заводское оборудование, складывать белье и заботиться о молодых и пожилых людях.

На основе автономных транспортных средств мы можем создать основу для содействия открытому диалогу, способствующему доверию, и которую можно распространить на другие формы физического ИИ.

Когда автономная система заметно улучшает показатели безопасности, эффективности или доступа к основным услугам, ее ценность становится интуитивно понятной. На ранних стадиях развертывания следует уделять первоочередное внимание четким, общим общественным выгодам, а не новизне.

Демонстрация надежности означает публикацию данных о производительности, обмен методологиями тестирования и соответствие независимым стандартам. Ответственные инновации требуют не только прорывов, но и интерпретируемых, предсказуемых и повторяемых результатов.

Прозрачные системы – те, которые могут сообщать о своих наблюдениях, объяснять свои решения и показывать, как они учатся – предполагают участие, а не подозрения. Эта прозрачность должна распространяться и на управление: как используются данные, как обеспечивается безопасность и как интересы общественности влияют на дизайн продукта.

Эта структура помогает гарантировать, что физический ИИ предназначен для реальных людей, живущих реальной жизнью, а не для идеализированных моделей или теоретических сред.

Важно отметить, что мы должны признать, что интеллектуальные машины — это всего лишь интеллектуальные машины. У них нет врожденной морали и этики. Что у них действительно есть, так это неограниченная способность учиться. Наша задача – привить им и научить их демонстрировать то поведение, которое мы хотим видеть.

Растущая способность технологий объяснять себя дает нам возможность глубоко изучить и уточнить наши предубеждения и предположения о том, как должен работать мир. Таким образом, системы ИИ смогут научиться вносить значимый и позитивный вклад в жизнь общества.

Доступная автономия изменит повседневную жизнь. Это сделает наши города более безопасными, нашу инфраструктуру более эффективной и наши сообщества более связанными.

Поскольку автономные системы становятся более функциональными, у нас теперь есть беспрецедентная возможность не только создавать более умные машины, но и строить с ними более разумные отношения.

Под руководством подлинного диалога физический ИИ может оказаться чем-то большим, чем просто технологической вехой – он может стать коллективным скачком в том, как люди живут, двигаются и процветают, продвигая нас к лучшему миру.