Должны ли мы волноваться, ИИ создаст смертельные биоапоны? Пока нет, но однажды

Искусственный интеллект Обещания трансформировать биологию, позволяя нам разрабатывать лучшие лекарства, вакцины и даже синтетические организмы, скажем, для употребления отходов. Но некоторые опасаются, что это также можно использовать для более темных целей, чтобы создать биоуапоны, которые не будут обнаружены обычными методами, пока не стало слишком поздно. Итак, как мы должны быть волноваться?

«Достижения в области ИИ подпитывают прорывы в области биологии и медицины», – говорит Эрик Хорвицглавный научный сотрудник в Microsoft. «С новой властью приходит ответственность за бдительность».

Его команда опубликовала исследование, в котором рассматривается вопрос о том, может ли ИИ проектировать белки, которые делают то же самое, что и белки, которые, как известно, опасны, но достаточно разные, чтобы они не были признаны опасными. Команда не выявила, какие белки они пытались изменить дизайн – части исследования были удержаны – но, вероятно, включали токсины, такие как рицин, известный в убийстве 1978 года, и ботулинию, мощный нейротоксин, более известный как ботокс.

Чтобы сделать много белка, такого как ботулинии, вам нужен рецепт – ДНК это кодирует для этого. Когда биологи хотят определенный кусок ДНК, они обычно заказывают его у компаний, которые специализируются на создании любой желаемой части.

Из-за опасений, которые потенциальные биотеррористы могут заказать рецепты для создания биоупонам таким образом, некоторые компании-синтез ДНК добровольно проверяют заказы, чтобы проверить, пытается ли кто-то сделать что-то опасным. Белки представляют собой последовательности аминокислот, и скрининг проверяет, соответствует ли аминокислотная последовательность любых «последовательностей, вызывающих беспокойство», то есть потенциальные био -апоны.

Но с ИИ теоретически возможно разработать версию белка, который имеет другую аминокислотную последовательность, но все еще делает то же самое. Хорвиц и его коллеги пытались это сделать с 72 потенциально опасными белками и показали, что методы скрининга часто пропускают эти альтернативные версии.

Это не так тревожно, как кажется. Во -первых, команда на самом деле не делала переработанных белков по понятным причинам. Но в отдельном исследовании в начале этого года они проверили переработанные версии безвредных белков – и в основном обнаружили, что они не работаютПолем

Во -вторых, в то время как были предприняты попытки биотеррористических атак, хотя и очень немногие, нет причин думать, что это связано с провальной системой добровольного сканирования. Уже есть много способов обойти это, не прибегая к редизайнам ИИ – например, Рицин можно получить из растений касторового масланайдено во многих садах. Это исследование является эквивалентом предупреждения о том, что банк может быть ограблен некоторыми очень сложными Миссия невозможнаПлан стиля, когда на самом деле дверь хранилища была широко открыта.

И последнее, но не менее важное, когда государственные актеры исключаются, ни один биотеррористу никогда не удавалось убить кого-либо, используя био-апоны на основе белка. Культ AUM Shinrikyo в Японии пытался убить людей ботулинией, но сменил только химические агенты. Письма с Рицином, отправленные в Белый дом, никого не убивали. Основываясь на количестве тела, оружие и взрывчатые вещества намного более опасны, чем биотоксины.

Значит ли это, что мы перестаем беспокоиться о биоапоне, разработанных AI? Не совсем. В то время как исследования Хорвица смотрели только на белки, это вирусы, которые представляют большую угрозу – и ИИ уже используется для перепроектирования всего вирусыПолем

В прошлом месяце команда Стэнфордского университета в Калифорнии раскрыла результаты их усилия по перепроектированию вируса что заражает бактерию Э. КолиПолем Как и в случае переработанных белков, результаты были не впечатляющими-из 302, разработанных AI, которые были сделаны, только 16 могли заразить Э. КолиПолем Но это только начало.

Когда его спросили о вирусах, разработанных ИИ, Джеймс Дигганс В фирменной фирме DNA Firm Twist Bioscience и члене команды Хорвица заявили, что легче обнаружить вирусы, кодирующие ДНК, чем белки, вызывающие озабоченность. «Скрининг синтеза работает лучше на большей информации, а не меньше. Поэтому в масштабе генома это невероятно информативно».

Но не все компании по производству ДНК выполняют этот скрининг, и становятся доступными синтезаторов ДНК. Есть разговоры о разработке инструментов ИИ, которые откажется создавать опасные вирусы или попытаться обнаружить злобные намерения, но люди нашли много способов обойти гарантии, например, остановить Айс, предоставляющий инструкции по изготовлению бомбПолем

Чтобы быть ясным, история предполагает, что риск со стороны «диких» вирусов намного выше, чем риск биотерроризма. Несмотря на то, что утверждает текущая администрация США, данные свидетельствуют о том, что SARS-NO-2 появились Когда вирус летучей мыши прыгнул к другим диким животным, а затем на людей на рынке – ни лаборатория не участвует.

Более того, потенциальные биотеррористы могли нанести невероятный ущерб просто Выпуск известного вируса, такого как оспаПолем С множеством зияющих отверстий в усилиях по борьбе с биоапоном, нет необходимости прибегать к хитрости ИИ, чтобы обойти их.

По всем этим причинам риск развязанного AI-разработчика в любое время, вероятно, ближе к нулю. Но этот риск будет расти как Различные технологии продолжают продвигаться -и пандемия Covid-19 показала, сколько хаоса может создать новый вирус, даже если она не особенно смертельно. Все чаще будет причиной беспокоиться.