Для антропиков прагматизм — более надежная позиция

Организации здравоохранения, инвестирующие в искусственный интеллект, наблюдают за недавними политическими решениями Anthropic с более чем мимолетным интересом. Компания ослабила внутренние стандарты безопасности на одном фронте, потеряв при этом оборонные контракты с холдинговой фирмой на другом. Эти шаги поднимают вопрос, который важен как для клинических, так и для административных лидеров: какой стабильной и заслуживающей доверия политической позиции можно ожидать от коммерческих фирм, занимающихся искусственным интеллектом, работающих в условиях реальных ограничений?

Anthropic оказалась в центре двух противоречий: решения смягчить внутренние стандарты безопасности и жесткости в отношении военного применения, что привело к исключению из списка оборонные контракты. То, что должна сделать Anthropic, — это перейти от позиции, основанной только на ценностях, к прагматическому балансу между ценностями и жизнеспособностью рынка.

Десятилетия исследований доверия заинтересованных сторон показывают, что такой прагматичный подход не только оправдан, но и более надежен. Американские клиенты, например, ожидают, что компании будут взимать справедливую премию, получать разумную прибыль и процветать. Большинство клиентов знакомятся с брендом через цену, надежность и сервис, а не через формулировку миссии, и они не ожидают, что компании будут руководствоваться исключительной миссией по удовлетворению потребностей клиентов любой ценой для себя.

Конституция Anthropic уже отражает этот баланс. Это не документ, основанный исключительно на ценностях. Он защищает интересы пользователя в рамках набора ограничений, призванных обеспечить справедливость и поддерживать доверие, а не преследовать социальные цели, ставящие под угрозу бизнес. Но это также работает и в другую сторону. Конституция прямо предписывает Клоду «уважать права оператора принимать разумные решения по продукту, не требуя обоснования». Деловые интересы операторов не просто терпятся; они структурно защищены. Это именно то, что нужно коммерческому предприятию.

Anthropic было бы полезно распространить этот прагматичный подход на решения, касающиеся военного использования своих технологий, а также на будущий путь роста. Учитывая инвестиции компании в решения искусственного интеллекта для рынок здравоохраненияи естественное соответствие между его конституцией и этика, ориентированная на пациента, стимулирует ИИ в здравоохраненииза долгосрочным положением компании будут внимательно следить организации здравоохранения и связанные с ними экосистемы.

Доводы в пользу прагматизма

Существует широко распространенное мнение, что компании, заслуживающие наибольшего доверия, являются наиболее самоотверженными, и что стремление изо всех сил ради клиентов, даже за собственный счет компании, создает глубочайшую лояльность. Доказательства говорят об обратном. Обширные исследования того, как потребители, сотрудники и инвесторы формируют доверие к коммерческим партнерам, приводят к последовательному выводу: заинтересованные стороны ожидают взаимовыгодных отношений. Они хотят компетентность и доброжелательностьа не альтруизм и самопожертвование.

Компания, которая устанавливает справедливые цены при снижении затрат, которая разделяет преимущества благоприятных условий, сохраняя при этом достаточно средств для процветания, является партнером, которому люди доверяют. И наоборот, компания, которая дает понять, что пожертвует своей жизнеспособностью ради абстрактных принципов, на самом деле подрывает доверие. Заинтересованные стороны начинают сомневаться в компетентности: сможет ли эта организация выжить? Сможет ли он выполнить свои обязательства? Для сотрудников компания, которая работает хорошо, демонстрирует не только то, что она знает, что делает, но и заботится о людях, которые от нее зависят. Для инвестиционного сообщества, оценивающего IPO, расчет еще более прямой.

Стандарты безопасности: взросление, а не отступление

Когда Anthropic была стартапом, разработка собственных внутренних стандартов безопасности, опережающих регулирование и опережающих конкурентов, была одновременно принципиальной и стратегической. Но стандарты, существующие изолированно от рынка, в конечном итоге становятся обязательствами. Мое исследование показывает, что цели компании редко известны или понимаются потребителями, не говоря уже о том, что они являются движущей силой их покупок. Если бы это было так, Walmart и Apple не стали бы такими гигантами, какими они являются.

Конкуренты не соблюдают сопоставимые стандарты; регулирующие органы дали понять, что они им не нужны, по крайней мере, не в той форме, в которой Anthropic была принята в одностороннем порядке. Проблема позиционирования связана с коммуникацией, а не с содержанием: Anthropic перешла от стандартов, разработанных внутри стартапа, к стандартам зрелой компании, ориентированным на рынок, и это следует рассматривать как признак роста, а не капитуляции.

Военное использование и кромка воды

Более сложный случай – военное использование, но здесь должны применяться те же принципы. Военные заявляют, что планируют законное применение. Вопрос, который должен задать Anthropic: где заканчивается ответственность? Это то, что я называю кромкой воды прагматизма, и это не уникально для ИИ.

Рассмотрим фармацевтические препараты. Компания разрабатывает законное лекарство, которым впоследствии злоупотребляют. Оно принимает разумные меры для предотвращения злоупотреблений, включая рекомендации по назначению, программы мониторинга и просвещение общественности, но не отказывается от производства препарата. Или возьмем смартфон: его камера была создана для фотографирования, но ее можно использовать для навязчивого наблюдения. Apple не отключает камеру. Эти компании делают все возможное, чтобы предотвратить злоупотребления, но они не выбирают заранее, кто может покупать их продукцию, основываясь на гипотетических сценариях злоупотреблений.

Урез воды должен быть проведен с разумной осторожностью. Упреждающее регулирование дальнейшего использования на самом деле нанесет ущерб репутации поставщиков ИИ, что рассматривается как злоупотребление даже по якобы ценностным причинам. Может ли основополагающая компания, занимающаяся искусственным интеллектом, проверить бизнес-стратегию каждого клиента? Должно ли это быть? Ответ, в большинстве случаев, нет.

Что это означает стратегически

Во-первых, чрезвычайно сложно отслеживать использование продукта до его факта, независимо от того, является ли продукт моделью искусственного интеллекта, фармацевтическим препаратом или камерой. Ни одна компания не должна брать на себя обязательство или право превентивно контролировать использование.

Во-вторых, занимая четкую позицию по ценностям на спорной территории, Anthropic рискует создать ненужные трещины на своем рынке. Большинство клиентов не знают заявленной цели компании, исследования постоянно показывают это, и большинство из них не хотят, чтобы их считали сторонниками политической позиции, просто используя продукт. По мере того, как популярность Anthropic растет, особенно приближаясь к потенциальное IPOэтот риск усиливается. Компания должна преодолевать естественные разногласия на рынке — политические, идеологические и культурные, а не углублять их.

В-третьих, одностороннее ограничение не приводит к результату, на который надеются его сторонники. Если Anthropic отказывается обслуживать определенный сегмент клиентов, этот сегмент не остается без обслуживания, как в случае с Пентагон. Лучший путь — это пропаганда скоординированных отраслевых стандартов, где ограничения являются коллективными и, следовательно, эффективными, при уважении суверенитета и свободы клиентов.

В-четвертых, что наиболее важно, коммерческая жизнеспособность сама по себе является активом управления. Процветающая компания Anthropic имеет большее влияние на отраслевые нормы, нормативные дискуссии и исследования в области безопасности, чем та, которая уступила позиции на рынке во имя принципов.

Заявленная конкурентная позиция Anthropic никогда не может быть чистотой. Это было и должно оставаться доверием: доверием к компании, которая серьезно относится к безопасности, строит доверительные отношения с каждой группой заинтересованных сторон и делает это, действуя как жизнеспособное, конкурентоспособное коммерческое предприятие. Это позиция прагматического доверия, и именно к ней стоит присоединиться.

Изображение: создано автором

Это сообщение появляется через Влиятельные лица MedCity программа. Любой может опубликовать свой взгляд на бизнес и инновации в здравоохранении в MedCity News через влиятельных лиц MedCity. Нажмите здесь, чтобы узнать, как.