Исследования военных дронов для повышения безопасности беспилотных автомобилей

Беспилотные автомобили часто сталкиваются с трудностями с ситуациями, которые являются обычными для водителей-людей. Столкнувшись со строительными зонами, школа автобусы, перебои в подаче электроэнергииили плохо себя ведет пешеходыЭти транспортные средства часто ведут себя непредсказуемо, что приводит к авариям или зависаниям, вызывая значительные нарушения местного движения и, возможно, не позволяя службам экстренного реагирования выполнять свою работу. Потому что беспилотные автомобили не могут успешно решать такие рутинные проблемы, компании, занимающиеся беспилотным вождением, используют нянь-людей, чтобы удаленно контролировать их и вмешиваться при необходимости.

Эта идея — люди, контролирующие автономные транспортные средства издалека — не ново. Американские военные делают это с 1980-х годов с помощью беспилотных летательных аппаратов (БПЛА). В те первые годы военные пережили множество несчастных случаев из-за плохо спроектированных постов управления, отсутствия подготовки и задержек связи.

Будучи летчиком-истребителем ВМФ в 1990-х годах, я был одним из первых исследователей, изучавших способы улучшения БПЛА интерфейсы удаленного контроля. Тысячи часов, которые я и другие потратили на работу и наблюдение за этими системами, позволили накопить глубокие знания о том, как безопасно управлять удаленными операциями. После недавних открытий о том, что удаленные операции с коммерческими беспилотными автомобилями в США осуществляются операторы на ФилиппинахОчевидно, что компании, занимающиеся беспилотным управлением, не усвоили с трудом заработанные военные уроки, которые могли бы способствовать более безопасному использованию беспилотных автомобилей сегодня.

Находясь в западной части Тихого океана во время войны в Персидском заливе, я провел значительное количество времени в центрах воздушных операций, изучая, как военные удары планировались, осуществлялись, а затем перепланировались, когда первоначальный план неизбежно разваливался. Получив докторскую степень, я использовал этот опыт, чтобы начать исследование дистанционного управления БПЛА для всех трех родов войск США. Сидя плечом к плечу в крошечных трейлерах с операторами, управляющими БПЛА на местных учениях или на расстоянии 4000 миль, моя работа заключалась в том, чтобы узнать о болевых точках удаленных операторов, а также определить возможные улучшения, когда они осуществляли контроль над БПЛА, которые могли летать через полмира.

Надзорный контроль относится к ситуациям, когда люди контролируют и поддерживают автономные системывмешиваясь, когда это необходимо. В случае с беспилотными автомобилями этот надзор может принимать несколько форм. Первое – это телеоперациягде человек дистанционно управляет скоростью и рулевым управлением автомобиля. Операторы сидят за консолью с рулем и педалями, как в гоночном симуляторе. Поскольку этот метод основан на управлении в реальном времени, он чрезвычайно чувствителен к задержкам связи.

Вторая форма диспетчерского контроля – дистанционная помощь. Вместо того, чтобы управлять автомобилем в режиме реального времени, человек дает указания более высокого уровня. Например, оператор может щелкнуть путь на карте (так называемая прокладка «хлебных крошек»), чтобы показать машине, куда идти, или интерпретировать информацию, которую ИИ не может понять, например сигналы рукой строителя. Этот метод допускает большую задержку, чем телеоперация, но все же чувствителен ко времени.

Пять уроков из операций военных дронов

За 35 лет эксплуатации БПЛА военные постоянно сталкивались с пятью основными проблемами при эксплуатации дронов, которые дают ценные уроки для беспилотных автомобилей.

Задержка

Задержка — задержки в отправке и получении информации из-за расстояния или плохого качества сети — является самой важной проблемой для дистанционного управления транспортными средствами. У людей также есть своя собственная задержка: нервно-мышечная задержка. Даже в идеальных условиях люди не могут надежно отреагировать на новую информацию менее чем за 200–500 миллисекунд. В удаленных операциях, где уже существует задержка связи, это еще больше затрудняет управление в реальном времени.

В ходе первых операций с дронами пилоты ВВС США в Лас-Вегасе (основной центр управления БПЛА США) пытались взлететь и приземлиться. дроны в Средний Восток с помощью телеоперации. При задержке между командой и ответом не менее двух секунд частота несчастных случаев была В 16 раз больше, чем у истребителей, выполняющих те же задачи. . Военные перешли на местных операторов прямой видимости и, в конечном итоге, на полностью автоматизированные взлеты и посадки. Когда я брал интервью у пилотов этих БПЛА, все они подчеркивали, насколько сложно управлять самолетом со значительным запаздыванием.

Компании, производящие беспилотные автомобили, обычно полагаются на сети сотовой связи для передачи команд. Эти сети ненадежны в городах и склонны к задержкам. Это одна из причин, по которой многие компании предпочитают удаленную помощь вместо полной телеоперации. Но даже удаленная помощь может пойти не так. В один инцидента Веймо Оператор приказал машине повернуть налево, когда в удаленном видеопотоке загорелся желтый свет светофора, но задержка в сети означала, что в реальном мире свет уже стал красным. После перемещения центра удаленных операций из США в США Филиппинызадержка Waymo увеличилась еще больше. Крайне важно, чтобы контроль не был настолько удаленным, чтобы решить проблему задержек, а также усилить контроль за уязвимостями безопасности.

Дизайн рабочей станции

Плохой дизайн интерфейса стал причиной многих аварий с дронами. Военные на собственном горьком опыте усвоили, что запутанные элементы управления, трудночитаемые дисплеи и неясные режимы автономности могут иметь катастрофические последствия. В зависимости от конкретной платформы БПЛА, ФАУ приходится от 20% до 100% БПЛА армии и ВВС. сбои, вызванные человеческим фактором, до 2004 г. к плохому дизайну интерфейса.

Многие крушения БПЛА происходят по вине бедных людей. системы управления. В одном случае кнопки были размещены на контроллерах так, что ими было относительно легко управлять. случайно заглушил двигатель вместо запуска ракеты. Эта плохая конструкция привела к авариям, когда удаленные операторы случайно выключил двигатель вместо запуска ракеты.

Индустрия беспилотных автомобилей обнаруживает намеки на схожие проблемы. В некоторых автономных шаттлах используются готовые игровые контроллеры, которые, хотя и недорогие, никогда не предназначались для управления транспортными средствами. Использование таких контроллеров не по назначению может привести к путанице режимов, что стало фактором недавнее крушение шаттла. Чтобы избежать таких проблем, необходимо тщательное тестирование с участием человека не только до развертывания системы, но и после крупных обновлений программного обеспечения.

Рабочая нагрузка оператора

Миссии дронов обычно включают длительные периоды наблюдение и сбор информации, иногда заканчивающийся ракетным ударом. Эти миссии иногда могут длиться несколько дней; например, пока военные ждут, пока интересующее лицо выйдет из здания. В результате у удаленных операторов наблюдаются резкие перепады рабочей нагрузки: иногда невыносимая интенсивность, иногда невыносимая скука. Оба условия могут привести к ошибкам.

Когда операторы управляют дронами дистанционно, рабочая нагрузка высока, и быстро может наступить утомление. Но когда большую часть работы выполняет бортовая автономия, операторам может стать скучно, самодовольно и менее внимательно. Этот шаблон хорошо документировано в исследованиях БПЛА.

Операторы беспилотных автомобилей, вероятно, сталкиваются с аналогичными проблемами при выполнении самых разных задач: от интерпретации сбивающих с толку знаков до помощи автомобилям в выходе из тупика. В простых сценариях операторам может быть скучно; в чрезвычайных ситуациях — например, при въезде в зону затопления или реагировании во время общегородского отключения электроэнергии — они могут быстро оказаться перегруженными.

Военные в течение многих лет пытались поручить одному человеку контролировать множество дронов одновременно, потому что это гораздо более экономически эффективно. Однако затраты на когнитивное переключение (восстановление осознания ситуации после переключения управления между дронами) приводят к скачкам рабочей нагрузки и сильному стрессу. Это в сочетании со все более сложными интерфейсами и задержками связи сделало задачу чрезвычайно сложной.

Компании, производящие беспилотные автомобили, вероятно, сталкиваются с теми же препятствиями. Им потребуется моделировать рабочую нагрузку операторов и иметь возможность достоверно прогнозировать, каким должен быть персонал и сколько транспортных средств может эффективно контролировать один человек, особенно во время экстренных операций. Если окажется, что каждому беспилотному автомобилю нужен преданный своему делу человек, такие операции перестанут быть экономически эффективными.

Обучение

В ранних программах дронов не было формальных требований к обучению, а программы обучения разрабатывались пилотами для пилотов. К сожалению, наблюдение за дроном больше похоже на управление воздушным движением чем на самом деле управлять самолетом, поэтому военные часто поручали операторам дронов на критически важные должности без должной подготовки. Это стало причиной множества аварий. Лишь годы спустя военные провели надлежащий анализ знаний, навыков и умений, необходимых для проведения безопасных удаленных операцийи изменили программу обучения.

Компании, занимающиеся беспилотным вождением, публично не делятся своими стандартами обучения, и в настоящее время никакие правила не регулируют квалификацию удаленных операторов. Безопасность на дороге во многом зависит от этих операторов, однако о том, как их отбирают и обучают, известно очень мало. Если диспетчеры коммерческой авиации должны пройти формальное обучение под контролем ФАУ, которое очень похоже на удаленных операторов беспилотных автомобилей, мы должны требовать от коммерческих компаний, занимающихся беспилотным управлением, соблюдения аналогичных стандартов.

Планирование на случай непредвиденных обстоятельств

В авиации существуют строгие протоколы на случай чрезвычайных ситуаций, включая заранее определенные процедуры на случай потери связи, резервные наземные станции управления и высоконадежное поведение на борту в случае сбоя автономности. В армии дроны могут самостоятельно лететь в безопасные районы или приземляться автономно, если контакт потерян. Системы разработаны с кибербезопасность угрозы – например GPS подделка — в виду.

Беспилотные автомобили кажутся гораздо менее подготовленными. Отключение электроэнергии в Сан-Франциско в 2025 году. оставили автомобили Waymo застрявшими на полосах движения, блокируя службы экстренного реагирования и создавая опасность. Эти транспортные средства должны выполнять «маневры с минимальным риском», такие как смещение в сторону, но многие из них этого не сделали. Это указывает на наличие пробелов в планировании действий на случай непредвиденных обстоятельств и базовой конструкции обеспечения отказоустойчивости.

История использования военных дронов дает важные уроки для индустрии беспилотных автомобилей. Десятилетия опыта показывают, что удаленное управление требует чрезвычайно низкой задержки, тщательно спроектированных станций управления, управляемой рабочей нагрузки операторов, строгих, хорошо продуманных программ обучения и четкого планирования на случай непредвиденных обстоятельств.

Компании, занимающиеся беспилотными автомобилями, похоже, повторяют многие из первых ошибок, допущенных в программах беспилотных летательных аппаратов. Удаленные операции рассматриваются как функция поддержки, а не как критически важная система безопасности. Но пока ИИ борется с неопределенностью, что будет иметь место в обозримом будущем, удаленный человеческий контроль будет оставаться необходимым. Военные усвоили эти уроки путем болезненных проб и ошибок, однако сообщество беспилотных автомобилей, похоже, их игнорирует. У индустрии беспилотных автомобилей есть шанс – и ответственность – учиться на наших ошибках в боевых условиях, прежде чем они нанесут вред участникам дорожного движения повсюду.