Новая система эффективно объясняет решения ИИ в режиме реального времени

Исследовательская группа под руководством профессора Джэсика Чоя из Высшей школы искусственного интеллекта Ким Джечуля при KAIST в сотрудничестве с KakaoBank Corp разработала технологию ускоренного объяснения, которая может объяснить основу суждений модели искусственного интеллекта (ИИ) в режиме реального времени.

Они представили их работа на 34-й Международной конференции ACM по управлению информацией и знаниями.

Это исследовательское достижение значительно повышает практическую применимость технологии объяснимого искусственного интеллекта (далее XAI) в областях, требующих принятия решений в реальном времени, таких как финансовые услуги, за счет достижения средней скорости обработки в 8,5 раз и до 11 раз быстрее, чем существующие алгоритмы объяснения для прогнозов модели ИИ.

Растущая потребность в XAI в режиме реального времени

В финансовом секторе крайне важно четкое объяснение решений, принимаемых системами ИИ. Особенно в услугах, непосредственно связанных с правами клиентов, таких как проверка кредита и обнаружение аномалий, нормативные требования по прозрачному представлению оснований для суждений модели ИИ становятся все более строгими.

Однако традиционные технологии объяснимого искусственного интеллекта (XAI) требовали повторных вычислений от сотен до тысяч базовых показателей для получения точных объяснений, что приводило к огромным вычислительным затратам. Это было основным фактором, ограничивающим применение технологии XAI в средах обслуживания в реальном времени.

Как работает система ABSQR

Чтобы решить эту проблему, исследовательская группа профессора Чоя разработала структуру ABSQR (выбор амортизированной базовой линии посредством QR-раскрытия ранга) для ускорения алгоритмов объяснения. ABSQR заметил, что матрица функции ценности, сгенерированная в процессе объяснения модели ИИ, имеет структуру низкого ранга. Он представил метод выбора только нескольких важных базовых показателей из сотен доступных.

Это резко снизило сложность вычислений, которая ранее была пропорциональна количеству базовых линий и теперь пропорциональна только количеству выбранных критических базовых линий, тем самым максимизируя эффективность вычислений при сохранении точности объяснения.

В частности, ABSQR работает в два этапа. На первом этапе систематически выбираются важные базовые показатели с использованием методов разложения по сингулярным значениям (SVD) и методов QR-разложения с выявлением ранга. В отличие от существующих методов случайной выборки, это метод детерминированного отбора, направленный на сохранение восстановления информации, что гарантирует точность объяснения при значительном сокращении вычислений.

На втором этапе вводится амортизированный механизм вывода, который повторно использует предварительно рассчитанные веса базовых показателей посредством поиска на основе кластеров, позволяя системе предоставлять объяснение результата прогнозирования модели в средах обслуживания в реальном времени без повторной оценки модели.

Результаты экспериментов и влияние на отрасль

Исследовательская группа подтвердила превосходство ABSQR посредством экспериментов на реальных наборах данных. Тесты на стандартных наборах данных в пяти секторах — финансах, маркетинге и демографии — показали, что ABSQR достиг средней скорости обработки в 8,5 раз быстрее, чем существующие алгоритмы объяснения, использующие все базовые показатели, с максимальным увеличением скорости более чем в 11 раз.

Кроме того, снижение точности объяснения из-за ускорения скорости было сведено к минимуму, сохраняя точность объяснения до 93,5% по сравнению с базовым алгоритмом. Этого уровня достаточно, чтобы обеспечить качество объяснения, необходимое в реальных приложениях.

Представитель KakaoBank заявил: «Мы продолжим неустанные исследования и разработки, чтобы повысить надежность и удобство финансовых услуг и внедрить инновационные финансовые технологии, которыми смогут воспользоваться клиенты».

Чанву Ли и Ёнджин Пак, соавторы из KAIST, объясняют: «Эта методология решает важную проблему ускорения приложений реального времени в финансовом секторе, доказывая, что можно предоставить пользователям причины принятия решения по модели обучения в режиме реального времени».

«Это исследование дает новое понимание того, что представляют собой ненужные вычисления, и выбор важных базовых показателей в алгоритмах объяснения, что практически способствует повышению эффективности технологий объяснения».