ЭКСКЛЮЗИВ.

А Новое исследование утверждает, что модели искусственного интеллекта, такие как Chatgpt и Claude, теперь превосходят вирусологов уровня PHD в решении проблем во влажных лабораториях, где ученые анализируют химические вещества и биологический материал. По словам экспертов, это открытие-обоюдоострый меч. Модели Ultra-Smart AI могут помочь исследователям предотвратить распространение инфекционных заболеваний. Но неэксперты также могут вооружить модели для создания смертельных биоапонов.

А изучатьОбщаясь исключительно со временем, был проведен исследователями из Центра безопасности ИИ, медиа -лаборатории MIT, бразильского университета UFABC и некоммерческой профилактики пандемии SecureBio. Авторы проконсультировались с вирологами для создания чрезвычайно сложного практического теста, который измерял способность устранить комплексные лабораторные процедуры и протоколы. В то время как вирологи уровня доктора философии набрали в среднем 22,1% в своих объявленных областях знаний, O3 Openai достиг 43,8% точности. Google Gemini 2.5 Pro набрал 37,6%.

Сет Доноу, научный сотрудник SecureBio и соавтор статьи, говорит, что результаты делают его «маленьким нервным», потому что впервые в истории у любого есть доступ к непредвзятому эксперту по виросологии искусственного интеллекта, который может пройти их через сложные лабораторные процессы для создания биовеоза.

«На протяжении всей истории существует немало случаев, когда кто -то пытался сделать биологический апотон, и одна из основных причин, по которой он не преуспел, заключается в том, что у него не было доступа к правильному уровню опыта», – говорит он. «Таким образом, кажется, стоит быть осторожным в отношении того, как распространяются эти возможности».

Несколько месяцев назад авторы газеты отправили результаты в основные лаборатории искусственного интеллекта. В ответ Xai опубликовано Структура управления рисками, пообещающая свое намерение внедрить вирусологические гарантии для будущих версий своей модели ИИ GROK. OpenAI сообщил временем, что «развернуло новые смягчения системного уровня для биологических рисков» для своих новых моделей, выпущенных на прошлой неделеПолем Антропический включал результаты производительности модели на статье в недавних системных картах, но не предлагал конкретных мер смягчения последствий. Близнецы Google отказались комментировать время.

У вас есть биомедицины

Вирусология и биомедицина уже давно находятся в авангарде мотивации лидеров искусственного интеллекта для создания мощных моделей ИИ. «По мере развития этой технологии мы увидим, как болезни вылечиваются по беспрецедентной скорости», генеральный директор Openai Сэм Альтман сказал в Белом доме в январе, объявляя Звездный врач проект. В этой области были обнадеживающие признаки. Ранее в этом году исследователи из Института развивающихся патогенов Университета Флориды опубликовано Алгоритм, способный предсказать, какой вариант коронавируса может распространяться по самым быстрым.

Но до этого момента не было никакого основного исследования, посвященного анализу способности моделей ИИ фактически проводить лабораторную работу вирологии. «В течение некоторого времени мы знали, что ИИ достаточно сильны в предоставлении информации об академическом стиле», – говорит Доноу. «Было неясно, могут ли модели также предложить подробную практическую помощь. Это включает в себя интерпретацию изображений, информацию, которая может быть не записана ни в каком академическом документе, или материал, который социально передается от более опытных коллег».

Таким образом, Donoughe и его коллеги создали тест специально для этих сложных вопросов, не способных к Google. «Вопросы принимают форму:« Я культивировал этот конкретный вирус в этом типе клеток, в этих конкретных условиях, в течение этого количества времени. У меня есть такая информация о том, что пошло не так. Можете ли вы сказать мне, какая наиболее вероятная проблема? », – говорит Доноу.

И практически каждая модель искусственного интеллекта превзошла вирусологов на уровне доктора наук на тесте, даже в пределах их собственных областей опыта. Исследователи также обнаружили, что модели продемонстрировали значительное улучшение с течением времени. Например, Sonnet’s Claude 3,5 от Anpropic поднялся с 26,9% до 33,6% от своей модели в июне 2024 года до своей модели в октябре 2024 года. И предварительный просмотр GPT 4.5 Openai в феврале превзошел GPT-4O почти на 10 процентных пунктов.

«Ранее мы обнаружили, что у моделей было много теоретических знаний, но не практических знаний», – говорит время Дэн Хендриккс, директор Центра безопасности ИИ. «Но теперь они получают множество практических знаний».

Риски и награды

Если модели искусственного интеллекта действительно так же способны в условиях влажной лабораторной лаборатории, как показано в исследовании, то последствия являются массивными. С точки зрения преимуществ, AIS может помочь опытным вирусологам в их критической работе с борьбой с вирусами. Том Инглсби, директор Центра безопасности здравоохранения Джона Хопкинса, говорит, что ИИ может помочь ускорить сроки медицины и развития вакцин, а также улучшение клинических испытаний и обнаружения заболеваний. «Эти модели могут помочь ученым в разных частях мира, у которых еще нет такого рода навыков или возможностей выполнять ценную повседневную работу по болезням, которые возникают в их странах»,-говорит он. Например, одна группа исследователей найденный Это ИИ помогло им лучше понять вирусы геморрагической лихорадки в странах Африки к югу от Сахары.

Но актеры с плохими властями теперь могут использовать модели искусственного интеллекта, чтобы провести их через то, как создавать вирусы-и смогут сделать это без какого-либо типичного обучения, необходимого для доступа к лаборатории уровня биобезопасности 4 (BSL-4), которая касается самых опасных и экзотических инфекционных агентов. «Это будет означать гораздо больше людей в мире с гораздо меньшим количеством тренировок, которые смогут управлять и манипулировать вирусами», – говорит Инглсби.

Hendrycks призывает AI Companies поднять Guardrails, чтобы предотвратить использование этого типа. «Если компании не имеют хороших гарантий за это в течение шести месяцев, это, на мой взгляд, будет безрассудным», – говорит он.

Hendrycks говорит, что одно решение состоит не в том, чтобы закрыть эти модели или замедлить их прогресс, а для того, чтобы сделать их закрытыми, чтобы только доверили только третьи лица получают доступ к своим нефильтрованным версиям. «Мы хотим дать людям, которые имеют законное использование для того, чтобы спросить, как манипулировать смертельными вирусами – такими как исследователь из департамента биологии MIT – способность делать это», – говорит он. «Но случайные люди, которые сделали учетную запись секунды назад, не получают эти возможности».

И лаборатории ИИ должны иметь возможность относительно легко реализовать эти типы гарантий, говорит Хендрик. «Это, безусловно, технологически возможна для саморегуляции отрасли»,-говорит он. «Есть вопрос о том, будут ли некоторые тащит ноги или просто не сделают этого».

Xai, Elon Musk’s AI Lab, опубликовал Органа управления рисками Памятка в феврале, которая признала статью и дал понять, что компания «потенциально будет использовать» определенные гарантии, связанные с ответами на вопросы вирусологии, включая обучение GROK для снижения вредных запросов и применения входных и выходных фильтров.

OpenAI в электронном письме в понедельник написал, что его новейшие модели, O3 и O4-Mini, были развернуты с множеством гарантий, связанных с биологическим риском, включая блокирование вредных результатов. Компания писала, что она проводила тысячечасовую кампанию красных команд, в которой 98,7% небезопасных разговоров, связанных с био, были успешно помечены и заблокированы. «Мы ценим сотрудничество в отрасли в области продвижения гарантий для пограничных моделей, в том числе в чувствительных областях, таких как вирусология», – написал представитель. «Мы продолжаем инвестировать в эти гарантии по мере роста возможностей».

Инглсби утверждает, что саморегуляции отрасли недостаточно, и призывает законодателей и политических лидеров выработать стратегию политического подхода к регулированию биографических рисков ИИ. «Текущая ситуация заключается в том, что самые добродетельные компании требуют времени и денег, чтобы выполнить эту работу, что полезно для всех нас, но другим компаниям не нужно это делать», – говорит он. «Это не имеет смысла. Для общественности не очень хорошо не понимать, что происходит».