Компания Battlefield AI говорит, что она одна из хороших парней | ПРОВОДНОЙ

Вместо этого этот слоган говорит меньше о том, что делает компания, и больше о том, почему она это делает. Хельсинга объявления о работе полны идеализма, призывая людей с убеждением, что «демократические ценности стоит защищать».

Трое основателей Helsing говорят о вторжении России в Крым в 2014 году как о тревожном сигнале о том, что вся Европа должна быть готова ответить на российскую агрессию. «Меня все больше беспокоило, что мы отстаем от ключевых технологий в наших открытых обществах, — говорит Рейл. Это чувство росло, когда он наблюдал, как в 2018 году сотрудники Google протестовали против сделки с Пентагоном, в которой Google помогла бы военным. использовать ИИ для анализа кадров с дрона. Более 4000 сотрудников подписали письмо утверждая, что со стороны Google было морально и этически безответственно помогать военной слежке и ее потенциально смертельным исходам. В ответ Гугл сказал он не будет продлевать контракт.

«Я просто не понимал логики этого, — говорит Рейл. «Если мы хотим жить в открытых и свободных обществах, быть теми, кем мы хотим быть, и говорить то, что хотим сказать, мы должны быть в состоянии защитить их. Мы не можем принимать их как должное». Он опасался, что если отговорить Big Tech со всеми его ресурсами от сотрудничества с оборонной промышленностью, то Запад неизбежно отстанет. «Мне казалось, что если они этим не занимаются, если лучшие инженеры Google не готовы работать над этим, то кто?»

Обычно трудно сказать, работают ли оборонные продукты так, как заявляют их создатели. Компании, продающие их, включая Helsing, утверждают, что прозрачность в деталях поставит под угрозу эффективность их инструментов. Но пока мы разговариваем, основатели пытаются создать образ того, что делает их ИИ совместимым с демократическими режимами, которым он хочет продаваться. «Мы очень, очень ценим конфиденциальность и свободу, и мы бы никогда не стали заниматься такими вещами, как распознавание лиц», — говорит Шерф, утверждая, что компания хочет помочь военным распознавать объекты, а не людей. «Есть определенные вещи, которые не нужны для оборонной миссии».

Но ползущая автоматизация в такой смертоносной отрасли, как оборона, по-прежнему вызывает острые вопросы. Если все, что предлагает система Helsing, — это повышенная осведомленность о поле боя, которая помогает военным понять, где находятся цели, это не создает никаких проблем, — говорит Герберт Лин, старший научный сотрудник Центра международной безопасности и сотрудничества Стэнфордского университета. Но как только эта система будет введена в действие, считает он, лица, принимающие решения, будут вынуждены связать ее с автономное оружие. «Политики должны сопротивляться идее делать это», — говорит Лин, добавляя, что люди, а не машины, должны нести ответственность за ошибки. Если ИИ «убивает трактор, а не грузовик или танк, это плохо. Кто будет нести за это ответственность?»

Риэль настаивает на том, что Helsing не производит автономное оружие. «Мы делаем наоборот», — говорит он. «Мы создаем системы искусственного интеллекта, которые помогают людям лучше понимать ситуацию».

Хотя операторы могут использовать платформу Helsing для уничтожения беспилотника, прямо сейчас это решение принимает человек, а не ИИ. Но есть вопросы о том, насколько на самом деле автономны люди, когда они работают в тесном контакте с машинами. «Чем меньше вы заставляете пользователей понимать инструменты, с которыми они работают, они относятся к ним как к волшебству», — говорит Дженсен из Центра стратегических и международных исследований, утверждая, что это означает, что военные пользователи могут либо слишком доверять ИИ, либо слишком мало.