Когда в январе военные США захватили бывшего президента Венесуэлы Николаса Мадуро, это использовал инструмент искусственного интеллекта разработан частной американской компанией. Неясно, что именно сделал этот инструмент, но политика компании гласит, что ее продукты не могут использоваться для насилия или разработки оружия.
Теперь Пентагон рассматривает возможность разрыва связей с этой компанией Anthropic, поскольку она настаивает на ограничении использования технологий военными. Аксиос.
Напряженность между мерами защиты ИИ и национальной безопасностью не нова. Но многочисленные события, произошедшие за последний месяц, привлекли внимание к проблеме безопасности ИИ – в самых разных контекстах – от разработки оружия до этической рекламы.
Почему мы это написали
Искусственный интеллект развивается настолько быстро, что некоторые инсайдеры отрасли опасаются, что вопросам безопасности не уделяется достаточного внимания. Это вызывает разговор о том, как сбалансировать инновации, конкуренцию и меры безопасности.
«Многие люди, занимающиеся областью искусственного интеллекта, уже давно задумываются о безопасности в различных формах», — говорит Миранда Боген, директор-основатель Лаборатории управления искусственным интеллектом Центра демократии и технологий. «Но теперь эти разговоры происходят на гораздо более заметной сцене».
В этом месяце исследователи уволились из двух крупных американских компаний, занимающихся искусственным интеллектом, сославшись на неадекватность мер безопасности компаний в отношении таких вещей, как сбор данных о потребителях. В эссе от 9 февраля под названием «Происходит что-то большое» Инвестор Мэтт Шумер предупредил, что ИИ не только скоро будет массово угрожать рабочим местам американцев, но и может начать вести себя так, как его создатели «не смогут предсказать или контролировать». Эссе стало вирусным в социальных сетях.
Призывая к действиям в отношении вполне реальных рисков, многие эксперты по безопасности ИИ предостерегают от преувеличения страхов по поводу гипотетических сценариев.
«Эти моменты общественного внимания ценны, потому что они создают возможности для таких общественных дебатов об ИИ, которые необходимы», — написала Monitor в электронном письме д-р Алондра Нельсон, бывший член Консультативного органа высокого уровня Организации Объединенных Наций по искусственному интеллекту, во время участия в глобальном саммите по искусственному интеллекту в Индии. «Но они не заменяют демократического обсуждения, регулирования и реальной ответственности перед обществом».
Давление на конкуренцию
В декабре президент Дональд Трамп издал указ, блокирующий «обременительные» законы штата, регулирующие ИИ. Например, в его приказе особо выделяется закон Колорадо, запрещающий «алгоритмическую дискриминацию» в таких областях, как найм и образование. Приказ президента был поддержан республиканцами, которые заявили, что принуждение компаний, занимающихся искусственным интеллектом, к соблюдению чрезмерных правил может поставить США в невыгодное конкурентное положение по сравнению с Китаем.
Это чувство конкуренции, по-видимому, является центральным фактором ухода Anthropic из Пентагона. Anthropic хочет гарантировать, что ее технология не будет использоваться для ведения домашнего наблюдения или разработки оружия, которое стреляет без участия человека.
Но Министерство обороны, которое заявил ранее в этом году, что американские военные «должны укреплять свое превосходство над нашими противниками в интеграции [AI]хочет внедрить технологию искусственного интеллекта без учета индивидуальной политики компаний, согласно сообщению Аксиос и Рейтер.
«Мы постоянно сталкиваемся с давлением, заставляющим откладывать самое важное», — написал Мринанк Шарма, исследователь безопасности ИИ, в публично опубликованной публикации. заявление об отставке от Anthropic на прошлой неделе. Он не упомянул конкретное событие, которое привело его к отставке, но предупредил, что «наша мудрость должна возрастать в равной мере с нашей способностью влиять на мир, чтобы мы не столкнулись с последствиями».
Доктор Боген говорит, что политика, направленная на то, чтобы заставить поставщиков ИИ подвергать свои модели определенным тестам или инвестировать в безопасность, часто сводится к требованиям раскрытия информации или необязательным рекомендациям.
«Стимулы настолько сильны в пользу быстрого продвижения вперед, даже когда есть желание поставить ограждения», — говорит она.
Мир «в опасности»?
Те, кто предупреждает об опасностях ИИ, иногда используют экзистенциальный язык.
Зои Хитциг, бывший исследователь OpenAI, в своем интервью высказала «глубокие сомнения» по поводу стратегии компании. редакционная статья она написала для The New York Times на прошлой неделе, опасаясь, что ее решение начать тестирование рекламы в ChatGPT «создает потенциал для манипулирования пользователями способами, которые у нас нет инструментов для понимания, не говоря уже о предотвращении».
В заявлении об отставке г-на Шармы из Anthropic содержится предупреждение о том, что «мир находится в опасности».
Некоторые эксперты говорят, что такие формулировки контрпродуктивны.
«Я считаю, что формулировка этой «точки невозврата» очень обескураживает», — говорит доктор Боген.
Она обеспокоена тем, что, поскольку люди решают передать большую часть принятия решений ИИ и научиться использовать эту технологию в своей работе, они создают зависимости, распутать которые будет все труднее.
Но она говорит, что люди в конечном итоге несут ответственность за свой выбор и действия.
«Я не думаю, что мы когда-нибудь дойдем до того момента, когда станет действительно невозможно… принимать решения о том, как обращаться с этой новой технологией», — говорит она.
Кэтрин Элкинс, исследователь безопасности ИИ в Национальном институте стандартов и технологий, говорит, что она надеется, что ошибается в отношении некоторых рисков, которые она видит, например, чат-бот ИИ, который потенциально может использовать чьи-то данные для манипулирования ими. Но пока она не уверена, она хочет, чтобы безопасность оставалась неотложным приоритетом.
«Лично я считаю, что лучше проявить осторожность и посвятить время размышлениям о рисках ИИ», чем думать, что технология не улучшится.
2026-02-20 10:00:00
1772004991
#По #мере #стремительного #развития #ИИ #растет #обеспокоенность #тем #что #инновации #оставляют #без #внимания #безопасность
Продолжение темы
