Обучение ИИ понимать сложные исследовательские данные

Искусственный интеллект (ИИ) все чаще используется для анализа медицинских изображений, данных о материалах и научных измерений, но многие системы испытывают затруднения, когда реальные данные не соответствуют идеальным условиям. Измерения, полученные с помощью различных инструментов, экспериментов или моделирования, часто сильно различаются по разрешению, уровню шума и надежности. Традиционные модели машинного обучения обычно предполагают, что эти различия незначительны — предположение, которое может ограничить точность и надежность.

Чтобы решить эту проблему, исследователи из штата Пенсильвания разработали новую систему искусственного интеллекта, которая потенциально может применяться в самых разных областях — от исследований болезни Альцгеймера до дизайна передовых материалов. Подход, названный ZENN и подробно описанный в исследовании, избранный в качестве витрины в Труды Национальной академии наукучит модели ИИ распознавать и адаптироваться к скрытым различиям в качестве данных, а не игнорировать их.

ZENN, сокращение от Zentropy-Embedded Neural Networks, было разработано Шуном Ваном, постдокторантом в области материаловедения и инженерии; Вэньруй Хао, профессор математики, Цзы-Куй Лю, профессор материаловедения и инженерии, и Шуньли Шан, профессор-исследователь в области материаловедения и инженерии.

Наука, лежащая в основе подхода ZENN

Центропия — это продвинутая теория энтропии Лю, которая утверждает, что системы имеют тенденцию двигаться к беспорядку при отсутствии энергии для поддержания порядка. Эта более глубокая теория энтропии объединяет квантовую механику, термодинамику и статистическую механику в единую прогностическую модель. Исследователи использовали этот подход для разработки своей структуры, внедряя принципы термодинамики непосредственно в нейронные сети — тип искусственного интеллекта, который имитирует то, как человеческий мозг обрабатывает информацию на основе научных данных, — и позволяет моделям отличать значимые сигналы от неопределенности и шума.

«Большинство методов машинного обучения предполагают, что все данные однородны», — сказал Хао. «Но данные реального мира неоднородны по своей природе. Если мы хотим, чтобы ИИ был полезен для научных открытий, он должен это учитывать».

Обычные нейронные сети часто обучаются с использованием математического метода, называемого перекрестной энтропийной потерей, чтобы измерить, насколько далеки прогнозы модели от правильных ответов. По словам Хао, этот подход хорошо работает, когда данные обучения чисты, надежны и последовательны.

Проблемы возникают, когда модели просят интегрировать разнородные данные, например, объединить точные компьютерные симуляции с более шумными экспериментальными или сенсорными измерениями. ZENN использует другой подход, вдохновленный термодинамикой, разбивая свойства данных на две части.

Одна часть, называемая «энергией», фиксирует значимые закономерности или сигналы в данных. Другая часть, называемая «внутренней энтропией», отражает шум, неопределенность или беспорядок в измерениях. Модель также использует параметр «температура», который можно настраивать, что помогает ей распознавать скрытые различия между наборами данных, например, получены ли данные в результате точного моделирования или более шумных экспериментов. Это позволяет ZENN сосредоточиться на истинном сигнале, учитывая при этом различное качество данных.

Ван сравнил эту идею с чтением несовершенных документов.

«Если вы читаете рукописную заметку с пятнами и пятнами, вы знаете, какие пометки имеют смысл, а какие — просто шум», — сказал Ван. «Традиционный ИИ часто относится ко всему одинаково. ZENN создан, чтобы заметить разницу».

Реальные испытания и приложения

В ходе испытаний исследователи обнаружили, что ZENN соответствует производительности более крупных и сложных нейронных сетей, оставаясь при этом более надежным при изменении качества данных. Не менее важно, по словам команды, то, что эта структура дает представление о том, почему система ведет себя определенным образом, а не только о том, какой результат следует ожидать.

Они протестировали каркас на примере материаловедения с использованием сплава, известного как богатая железом платина, которая обладает редким свойством сжиматься при нагревании. Используя ZENN, команда реконструировала ландшафт свободной энергии материала, раскрыв термодинамические механизмы, лежащие в основе его необычного отрицательного теплового расширения.

«Многие модели ИИ действуют как черные ящики», — сказал Лю. «Они могут делать прогнозы, но не объясняют лежащую в их основе физику. ZENN помогает раскрыть механизмы, управляющие поведением».

Исследователи говорят, что эта структура может быть особенно ценной в биомедицинских исследованиях. Такие заболевания, как болезнь Альцгеймера, требуют сложных, разнородных данных, в том числе изображений головного мозга, генетической информации, молекулярных маркеров и других клинических данных. По их словам, ZENN может помочь интегрировать эти наборы данных для выявления подтипов заболеваний, отслеживания прогрессирования и потенциально точного определения ключевых точек перехода в процессах.

Аналогичные преимущества, как сообщила команда, могут быть применены к исследованиям амилоидов с помощью криоэлектронной микроскопии, анализу ископаемых пыльцевых зерен, используемых в исследованиях климата, и передовым системам визуализации, которые объединяют данные географических информационных систем с измерениями датчиков, такими как индексы PM2,5, цены на жилье и психическое здоровье. В Пенсильванском университете налаживается широкий спектр сотрудничества по различным дисциплинам.

Будущие направления и более широкое воздействие

По словам Лю, в области материаловедения и инженерии ZENN может помочь преодолеть разрыв между идеализированным компьютерным моделированием и реальными экспериментами. Извлекая уроки из обоих, структура могла бы служить основой для разработки материалов, которые являются не только теоретически многообещающими, но и технологичными, с потенциальными применениями, варьирующимися от медицинских имплантатов для восстановления костей до передовых платформ данных, таких как ULTERA, система, которая управляет и анализирует большие и сложные наборы данных.

Лю также отметил, что этот подход может также оказаться полезным в новых областях, таких как квантовые вычисления, где неопределенность является фундаментальной особенностью, а не недостатком. Внедрение рассуждений с учетом Zentropy в модели ИИ может предложить новые инструменты для интерпретации и управления квантовой информацией.

Хотя проблемы остаются, особенно в масштабировании метода на чрезвычайно большие и сложные системы, Лю сказал, что работа отражает более широкий сдвиг в том, как искусственный интеллект может поддерживать науку.

«Вместо того, чтобы использовать ИИ только для поиска закономерностей, мы хотим, чтобы он помог нам понять механизмы», — сказал Лю. «Именно это позволяет научному знанию двигаться вперед».