FDA теперь использует агентный искусственный интеллект для проверки безопасности

Ошибки ИИ и галлюцинации

Использование ИИ для некоторых бизнес-операций, например оптимизация продаж или быстрое взаимодействие со службой поддержки клиентов — это нормально. Но когда дело доходит до таких вопросов, как безопасность пищевых продуктов, люди, по понятным причинам, немного тревожатся.

Это потому, что технология не что иное, как склонность к ошибкам. С момента запуска в 2022 году такие модели искусственного интеллекта, как ChatGPT, определялись своими галлюцинациями, цитированием поддельных источников, предоставлением неверных ответов и, как правило, неправильным ответом, когда это наиболее важно.

Хуже того, компании, использующие эти модели ИИ, вовсе не обеспокоены негативными последствиями этой технологии. Фактически, недавнее исследование показало, что почти каждая компания, работающая над крупной платформой искусственного интеллекта, промахнулся с безопасностью.

Все это говорит о том, что ИИ не доказал, что он может выполнять работу, не создавая дополнительной работы для сотрудников, проверяющих каждый результат. Пока этого не произойдет, нам нужно очень скептически относиться к его использованию для таких целей, как проверки безопасности пищевых продуктов и лекарств.