ИИ облегчает построение биологического оружия

я N в начале 2023 года, Рокко Касагранде, ученый и бывший инспектор по оружию Организации Объединенных Наций, принес небольшой контейнер в Белый дом для брифинга с американскими правительственными чиновниками. Он был заполнен дюжиной, легко доступными химическими ингредиентами, которые флагманский чат -бот Антрика, Клод, рекомендовал в качестве предшественников для запуска другой пандемии. Столк Casagrande подтвердил, что любой, у кого есть подключение к Интернету, теперь может создать свое собственное оружие массового уничтожения.

«Понятно, что биологические технологии, в настоящее время повышенные от искусственного интеллекта, упростила, чем когда -либо, чтобы вызвать болезни», – писать Академик Роджер Брент, старший исследователь RAND Corporation Т. Грег Маккелви -младший и президент RAND Джейсон Матени. «Некоторые люди и группы сталкиваются с барьерами – скажем, неспособность получить доступ к правильным лабораториям или объектам. Но благодаря неустанным технологическим достижениям эти барьеры разваливаются».

Глобальное распространение крупных языковых моделей усугубляет многочисленные проблемы безопасности. Среди них то, как искусственный интеллект может позволить экстремистам совершать биотерроризм для продвижения своих идеологических причин. Чат -боты уже доказали способность консультирование пользователей о том, как планировать атаки Используя смертоносные новые формы бактерий, вирусов и токсинов. Между тем, соревнование с великой мощью отвлекает от угроз, создаваемых террористическими группами и злонамеренными негосударственными субъектами.

Это не новость для Силиконовой долины. Google Закрепите структуру ИИ Определяет био-атаки с поддержкой AI как беспокойство. Напротив, команда, собранная Openai, рассмотрела этот вопрос в прошлом году, обнаружив, что GPT-4 дал пользователям только предельное преимущество За регулярные поиски в Интернете в создании биоапонов.

Несмотря на этот вывод, риск биотерроризма не статичен. Международный отчет о безопасности искусственного интеллекта, созданный для Саммита AI AI 2025 года, показывает, что LLMS становится намного лучше В задачах, связанных с биологическим и химическим оружием, точно реагируя на запросы о приобретении и формулировании смертоносных агентов. Оценки авторов отчета предполагают, что инструкции определенных моделей высвобождения летальных веществ показали улучшение на 80 процентов только в 2024 году.

В Хина, Иран, Северная Корея и Россия все считается обладающим Некоторые возможности для создания биоапонов. Тем не менее, «громоздкость и неточность биологических апонов означали, что государства по-прежнему вряд ли будут воздействовать на крупномасштабные биологические атаки в ближайшем будущем». читает Отчет, опубликованный в августе 2024 года Центром новой американской безопасности – CNAS. В отличие от этого, «Нестатные субъекты, включая одиноких волков, террористов и апокалиптических групп, имеют нервный послужной список попыток биологических атак, но с ограниченным успехом из -за внутренней сложности построения и владения такими деликатными способностями».

Но это ложное чувство безопасности меняется, предупреждают исследователей CNAS. В основном благодаря достижениям в области генетической науки, синтетической биологии и появления облачные лаборатории—Discreet, автоматизированные объекты заключили контракт на проведение удаленных экспериментов от имени клиента.

В то же время Белый дом Дональда Трампа потрошил Америку Институт безопасности ИИ. Основанный во время сумерки администрации Джо Байдена, институту было поручено определить, измерять и смягчить риски передовых систем ИИ. Международная сеть институтов безопасности ИИ работает с аналогичной работой – хотя теперь она будет иметь гораздо меньше влияния на американские технологические фирмы.

Федеральное бюро расследований и Центральное разведывательное управление также понесли огромные убытки в опыте благодаря широкому запугиванию и увольнению государственных служащих так называемым Департаментом государственной эффективности. Оба агентства являются важными источниками глобального контртеррористического интеллекта.

Что еще более важно, есть охлаждающий эффект Распространение среди союзников Америки, когда дело доходит до обмена классифицированной информацией с Вашингтоном. Чиновники в этих странах – отчетливо, пять наций глаз (Австралия, Канада, Новая Зеландия и Великобритания), а также Израиль и Саудовская Аравия, – помимо того, что Белый дом может передать разведку в Москву, чтобы исправить отношения США – Руссия.

Тем не менее, в враждебной геополитической среде также применяется обратное. Исламское государство, в марте 2024 года, убило посетителей в пригородном московском концертном зале, убив 139 человек и ранив сотни. Отвлечен своей войной в Украине и пренебрежительно относится к иностранным разведывательным агентствам Предупреждение о террористическом заговоре, нацеленном на Россию, Кремль был пойман в плоской ноге.

Т Ранснациональный террор Группы и насильственные негосударственные субъекты реанимируют в вакуумах Power, созданные Вывод Америки от многосторонностиПолем Они ловко используют сложные технологии, такие как криптовалюты, кибератаки и вымогатели. Зашифрованные приложения для обмена сообщениями, такие как WhatsApp и Telegram, используются для набора новых участников, покупки и продажи оружия, сбора средств и организации в центре внимания.

Эта тенденция выходит за рамки исламистских повстанцев и сторонников, ориентированных на гонки, включать в себя наряды Судного дня, такие как теперь не существует Zizians-Коллектив района залива Сан-Франциско, описанный как «первый в мире культ смерти», который искал замену человечества компьютерной суперинтеллигенностью.

«Реальная экзистенциальная угроза впереди не из Китая», – два технолога написал в январе для MIT Technology ReviewПетующие разговоры о либеральных демократиях, запертых в борьбе за превосходство ИИ с Пекином. Скорее, они говорят, что это происходит «из -за вооружения передового ИИ плохими актерами и мошенническими группами, которые стремятся создать широкий вред, получить богатство или дестабилизировать общество».

Храдость самих систем ИИ представляет собой дополнительные проблемы. Каждый крупный чат -бот ИИ доказал уязвимый для джейлбрейков– создание средств от пользователей для взлома систем протоколов безопасности. Эта опасность усиливается в геометрической прогрессии в результате роста агентов ИИ, которые теперь могут автономно выполнять задачи через Интернет. И хотя модели с открытым исходным кодом могут вступить в более равномерное игровое поле, когда дело доходит до принятия ИИ для производительности и инноваций, у них есть свои явные недостатки, и они тоже должны быть регулируется соответственноПолем

Тем не менее, законодательство от организаций с юрисдикционной властью над Силиконовой долиной подлежит жестоким лоббистским усилиям. Калифорнийский новаторский Билл SB 1047Например, был наложил вето в прошлом году губернатором Гэвином Ньюсом после того, как технологическая индустрия Blitz по связям с общественностью. Тревожно, республиканские законодатели также вставили Спецификация в их налоговые законопроекты, заводимые через Конгресс, который запретил бы государствам и населенным пунктам регулировать ИИ в течение следующего десятилетия.

В темном повороте иронии, если произойдет биотеррористическая атака с поддержкой технологий, ИИ также будет иметь жизненно важное значение для ускорения лекарства. Будем надеяться, что он никогда не достигнет этой точки зрения-Covid-19 уже показал, как новый вирус может нанести ущерб гиперконцензированному миру. Скорее всего, следующая пандемия будет намного хуже.

Перепечатано с разрешения из Центр международного управления инновациямиПолем

Кайл Хиберт является независимым аналитиком и писателем, который является писателем Центра международных инноваций управления. Ранее он находился в Кейптауне и Йоханнесбурге, Южная Африка, в качестве заместителя редактора Африканский конфликт мониторПолем