Парируя давление, чтобы продолжить

Я люблю научно-популярные книги об бедствиях эпических пропорций.

Теперь, когда я говорю о бедствиях, я не только имею в виду классическое определение, такое как Чернобыльский ядерный аварий и взрыв шаттла Challenger, но также и медленные, такие как Theranos. Фактически, Плохая кровьОб этой саге – одна из самых увлекательных книг, которые я когда -либо читал.

Я думаю о бедствиях, потому что я только что купил свою вторую книгу об инциденте Challenger. Я прочитал один несколько лет назад, и – когда я недавно искал новый том – новый привлек мой взгляд. Я всего несколько глав, и это заставило меня задуматься о общности среди таких инцидентов, что привело меня к сегодняшнему здравоохранению и давлению на реализацию ИИ.

Но прежде чем мы пойдем в это, давайте обходимся по рогу и рассмотрим два вышеупомянутых инцидента.

Чернобыльская катастрофа разворачивалась в климате, где уважение к власти и внешнему давлению перекрыло любую ограниченную культуру безопасности. На тот день был запланирован очень опытный тест-чтобы выполнить более опытную дневную команду. Но контроллеры сетки настаивали на заводе, чтобы продолжать генерировать электроэнергию для удовлетворения регионального спроса, подтолкнув упражнение до поздней ночи и к менее подверженной смене. Затем, когда старшие менеджеры намеревались «сделать тест», операторам было рекомендовано продолжить, несмотря на условия, которые нарушали процедуры, однако тестовое окно не было заброшено. Под сильным направлением инженера -руководителя системы автоматической защиты были отключены или обходились, чтобы они не прервали тест, тревоги были нормализованы в виде неприятностей, и слишком много контрольных стержней были отозваны, чтобы заглушить мощность. Полученная конфигурация – низкая мощность, плохой поток охлаждающей жидкости, высокая положительная реакционная способность и искалеченные блокировки безопасности – заставляют реактор в исключительно хрупком состоянии.

Эти решения напрямую подгоняют почву для аварии. Короче говоря, иерархическое давление и внешнее производственное требования сузили выбор операторов до тех, которые выглядели в данный момент, но были систематически небезопасными. Оспаривая приоритеты графика и появления по консервативным операциям, организация лишала слоев обороны, которые должны были сделать серьезную ошибку, восстанавливаемую; Как только эти слои исчезли, одна тестовая последовательность оказалась катастрофической.

Бедствие Challenger разворачивалась на фоне институционального давления, которое вознаграждало приверженность графика и общественное зрелище по поводу консервативного инженерного суждения. НАСА столкнулось с растущим отставанием запуска, политическим контролем своей программы шаттла и широко разрекламированной миссией «Учитель в космосе», приуроченной для живых трансляций в классе. Накануне запуска инженеры Мортона Тиокола предупредили, что необычайно холодные температуры поставит под угрозу твердые уплотнительные уплотнительные уплотнительные уплотнительные уплотнения ракету и рекомендовали задержку. Во время ночной телеконференции менеджеры НАСА настаивали на том, чтобы продолжить обоснование, и управление тиоколом изменило «бездействие инженеров», отказавшись от бремени доказывания от демонстрации безопасности на опровержение риска. Обозвания льда на подушечке были также переосмыслили с препятствиями, которые должны быть управляемые, а не причины, чтобы стоять, отражая культуру нормализованного отклонения, рожденного из предыдущих рейсов, которые пережили предупреждающие знаки.

Эта динамика напрямую сформировала последовательность сбоев. При Liftoff холодные уплотнительные кольца не смогли запечатать полевой подставки правого бустера, позволяя газам горячего сгорания сбежать и разрушать уплотнение, когда соединение сгибается под нагрузкой. Пламя разработал шлейф, уступающий на внешнем резервуаре и на кормовой стойке; Семьдесят три секунды в полете он нарушил жидкий водород, вызвав структурный разрыв стека. То, что должно было быть поймано консервативными критериями запуска, и уважение к инженерным доказательствам стало предотвратимой катастрофой после того, как слои процедурных гарантий были ослаблены за счет давления графика и переопределения управленческого.

Теперь, если бы «решение» таких бедствий было просто для того, чтобы избежать риска, это не было бы устойчивым в реальном мире. Единственный способ двигаться вперед – это быть инновационным; и инновации предполагают риск. Вопрос, как всегда, заключается в том, сколько риска и когда.

В рамках нашего недавнего специального отчета об искусственном интеллекте доктор Джон Халамка подчеркивает, что риск с цепочкой поставок и, возможно, завышенными масками – сильно отличается от риска, который может оказать прямое и немедленное клиническое влияние на пациента. Вопрос в том, что такое риск и в чем выплата?

Давление на систему здравоохранения, которую она руководит, на то, чтобы продвигать мяч вперед сегодня – в частности, для содействия (или, по крайней мере, не препятствовать) использованию ИИ для улучшения операций во всех отношениях – огромно. И мне интересно, не чувствует ли я, что я стараюсь держать мою газон без сорняков-невозможная задача. Но это работа – это название игры.

Как вы функционируете как руководитель, который позволяет цветут тысячи цветов ИИ, сохраняя при этом уютный, проницательный взгляд, чтобы немедленно вырвать самые опасные сорняки – поскольку они не столь же тревожны? Слишком отреагировать здесь так же проблематично, как и слишком пассивное. И в этом и заключается искусство быть исполнительным директором в области здравоохранения.

Те, кто бросается на сцену катастрофы, по праву признаны героями. Но есть и другие, и не незамеченные, возможно, даже упрекали, как препятствия для прогресса, панихистов или, что еще хуже, трусы, которые требуют, чтобы тормоза были прижаты, поезд замедлился, сорняк тянулся. История учит нас, что они (и, когда они не могут действовать, могли бы быть) столько же героем, даже если мы никогда не знаем их имен.

Связанное чтение