Эксклюзив: Jaxon AI объединяется с IBM Watson в борьбе с галлюцинациями ИИ

Когда система ИИ мечтает создать контент для фрагмента текста, это не идеальная ситуация, но и не обязательно катастрофическая. Если ИИ, питающий часть военной технологии, галлюцинирует, результат, вероятно, может иметь более серьезные последствия.

Джексон ИИ начала с создания систем искусственного интеллекта для ВВС США с требованиями высочайшего уровня надежности и точности. В настоящее время стартап выходит на более широкий корпоративный рынок с разработанной технологией под названием Domain-Specific AI Language (DSAIL), которая направлена ​​на решение основной проблемы искусственного интеллекта: галлюцинаций и неточностей в больших языковых моделях (LLM). Технология включает в себя IBM модели фундамента watsonx и представляет собой новый подход к разработке более надежных решений искусственного интеллекта.

«Наш слоган — ИИ для ИИ, потому что мы используем Jaxon, чтобы помочь пользователям создавать собственный ИИ», — рассказал VentureBeat Скотт Коэн, генеральный директор Jaxon AI.

Как DSAIL помогает минимизировать риск галлюцинаций ИИ

Галлюцинация возникает, когда система искусственного интеллекта генерирует неточный ответ на запрос. Неточность может быть вызвана несколькими различными факторами, такими как неполные данные обучения и отсутствие проверки.

Подход DSAIL направлен на снижение риска галлюцинаций. Коэн объяснил, что DSAIL принимает входные данные на естественном языке и преобразует их в формат двоичного языка, который затем может быть пропущен через множество сдержек и противовесов, как логическое выражение, чтобы убедиться, что ответ ИИ соответствует всем ограничениям перед возвратом. Это сделано для ограничения недетерминизма и повышения надежности системы ИИ для приложений.

Часто используемый подход нескольких поставщиков для уменьшения галлюцинаций — это поисковая дополненная генерация (RAG). В модели RAG LLM также будет иметь доступ к базе знаний, которая поможет получить точные ответы.

Коэн объяснил, что RAG — это один из методов, который DSAIL использует для решения проблемы галлюцинаций, но это лишь часть подхода. Он отметил, что при использовании DSAIL выходные данные метода RAG все равно придется проходить через ряд проверок, прежде чем в результате возвращать пользователю, чтобы еще больше ограничить галлюцинации.

IBM watsonx служит основой для Jaxon

Джексон использует модели из ИБМБиблиотека watsonx Foundation в качестве строительных блоков для ее систем искусственного интеллекта.

Коэн объяснил, что модель IBM StarCoder используется специально для этапа генерации кода в Jaxon AI. Jaxon использует возможности StarCoder для автоматического создания исходного кода для проектов ИИ на основе собранных данных и требований, что является одним из этапов общей методологии Jaxon для создания пользовательских систем ИИ.

Старкодер, LLM — это проект с открытым исходным кодом, который был первоначально запущен еще в мае при поддержке ServiceNow и Hugging Face. Савио Родригес, вице-президент IBM по экосистемному проектированию и защите интересов разработчиков, рассказал VentureBeat, что IBM на самом деле была одним из основателей проекта StarCoder. Он также отметил, что IBM тесно сотрудничает с Hugging Face, чтобы помочь корпоративным пользователям сделать открытые модели.

Чтобы внести ясность, IBM имеет в своей библиотеке watsonx несколько инструментов LLM для генерации кода. Хотя StarCoder обладает широкими возможностями, собственные модели IBM ориентированы на конкретные случаи использования. IBM использовала собственную LLM для генерации кода, чтобы помочь с Миграция кода COBOL и построить приложения квантовых вычислений.

Рынок генеративного искусственного интеллекта и технологий LLM является конкурентным, на нем присутствуют крупные игроки, включая OpenAI, Microsoft, Google и Amazon Web Services (AWS).

IBM ищет свою долю рынка, в частности, стремясь помочь разработчикам и независимым поставщикам программного обеспечения (ISV), таким как Jaxon AI, с помощью программы, которую она называет IBM Build.

Родригес пояснил, что IBM Build предоставляет партнерам доступ к watsonx, техническую помощь и поддержку при выходе на рынок. Общая цель — предоставить организациям надежные, заслуживающие доверия базовые модели искусственного интеллекта с единообразными ценами, производительностью и доступностью.

«Мы знаем, что наши клиенты доверяют подходу IBM к ИИ с точки зрения того, как мы обучаем наши модели и юридические проверки, которые мы проходим», — сказал Родрикес.