Руководитель робототехники OpenAI подал в отставку из-за опасений по поводу сделки Пентагона по искусственному интеллекту: –

Старший член команды робототехники OpenAI подал в отставку, сославшись на обеспокоенность по поводу того, как компания продвигается вперед в недавно объявленном партнерстве с Министерством обороны США.

Кейтлин Калиновски, которая работала в техническом персонале, занимающемся робототехникой и аппаратным обеспечением, разместила в социальных сетях, что ушла в отставку «принципиально» после того, как компания объявила о планах сделать свои системы искусственного интеллекта доступными внутри защищенных компьютерных систем Министерства обороны.

Соглашение является частью более широкого стремления правительства США включить передовые инструменты искусственного интеллекта в работу по обеспечению национальной безопасности. Эта тенденция вызвала споры в технологической отрасли о надзоре и приемлемом использовании.

В публичные сообщения объясняя свое решение, Калиновски написала: «Я ушла из OpenAI. Меня глубоко волнует команда робототехники и работа, которую мы строили вместе. Это был нелегкий звонок».

Она сказала, что политические ограничения в отношении определенных видов использования ИИ не были достаточно определены до того, как OpenAI объявила о соглашении с Пентагоном. «ИИ играет важную роль в национальной безопасности», — написал Калиновский. «Но слежка за американцами без судебного надзора и смертельная автономия без разрешения человека — это направления, которые заслуживают большего обсуждения, чем они получили».

Калиновски также подчеркнула, что ее больше беспокоит процесс, а не конкретные руководители внутри компании, заявив, что она «глубоко уважает Сэма и команду, и я горжусь тем, что мы создали вместе», имея в виду исполнительного директора OpenAI Сэма Альтмана.

Представитель OpenAI сообщил -, что компания считает, что соглашение с Пентагоном «создает реальный путь для ответственного использования ИИ в национальной безопасности, одновременно проясняя наши красные линии: никакого внутреннего наблюдения и никакого автономного оружия».

Далее в сообщении говорится, что компания признала, что «у людей есть твердые взгляды на эти вопросы, и мы продолжим участвовать в обсуждениях с сотрудниками, правительством, гражданским обществом и сообществами по всему миру».

Отставка Калиновского произошла на фоне обострения конкуренции между ведущими разработчиками искусственного интеллекта за поставку технологий правительству США. В последние недели федеральные агентства обратились к OpenAI и Google для систем искусственного интеллекта, поскольку напряженность в отношениях с конкурирующей фирмой Anthropic возросла из-за военного использования ее моделей.

Антропический Генеральный директор выступил против разрешение использовать программное обеспечение компании для таких приложений, как массовое наблюдение внутри страны или автономное оружие. Эта позиция привела к столкновениям с чиновниками Министерства обороны, в том числе с министром обороны Питом Хегсетом, который заявил, что министерству необходима гибкость для использования коммерческих инструментов искусственного интеллекта во всех «законных» операциях.

В OpenAI роль Калиновского была сосредоточена на развитии робототехнической организации компании по мере ее масштабирования. В своем профиле в LinkedIn она написала, что сюда входит найм сотрудников для поддержки расширения компании в области искусственного интеллекта, связанного с физической инфраструктурой и оборудованием.

Калиновски сообщила, что планирует продолжать работать в той же области. «У меня есть немного времени, но я по-прежнему сосредоточена на создании ответственного физического ИИ», — написала она.