Почему ИИ не понимает «нет»? – Как далеко заходит наука?

Это одна из самых больших проблем в области искусственного интеллекта и головная боль исследователей. Как научить ИИ понимать «нет»? Из всех тонкостей человеческого языка сложнее всего «научить» ИИ — это отрицание. Исследователи компьютерной лингвистики наблюдали это уже давно: ИИ не может отличить положительное предложение от отрицательного. Как будто она этого не видела.

Искусственный интеллект, генерирующий изображения, подвергается воздействию отрицания

Профессор Эллисон Эттингериз Чикагского университета, показали в 2020 году, что Берт, одна из самых популярных языковых моделей, не делала никакой разницы между этими двумя предложениями, которые нужно было завершить: « малиновка – это… » и « малиновка – это не… «. В обоих случаях ответом была птица. Другие исследования выявили плохую производительность программного обеспечения для автоматического перевода, когда дело доходит до отрицательных предложений.

В 2024 году исследование под названием Широкие языковые модели слепы к отрицанию, проведенные индийскими, сингапурскими и британскими исследователями, показали, что эта трудность, даже невозможность учета отрицания в запросе также влияет на ИИ, генерирующий изображения. Вы также можете провести тест с помощью ChatGPT или чего-то еще: если вы попросите ИИ сгенерировать изображение человека без очков, у вас на изображении будут очки. То же самое касается комнаты без слона: вы имеете право на слона в комнате.

Почему ИИ «слеп» к отрицанию?

Для этого несколько причин. Среди наиболее понятных: ИИ обучен распознавать изображения или представления, существующие в реальном мире, и воспроизводить их максимально точно, даже когда мы просим их удалить. ИИ не рассуждает и не имеет логики. Другая ошибка связана с обучением по большим базам данных, содержащим мало изображений с негативными описаниями. ИИ учатся» это кот ” скорее, чем ” это не кот ».

Другая большая проблема — это практически невозможность для ИИ ответить на негативные запросы, содержащие слова « нет ” или ” без “. Пример с запросом “ собака, но без травы “: ИИ, похоже, полностью игнорирует это слово” без » или фраза « нет “. И исследователи объясняют это на сайте Научная пресса кстати работает такое программное обеспечение, как ChatGPT, которое преобразует слова в числа и группирует их по сходству. Это называется векторизацией слов. Однако отрицание — это сложный процесс, при котором смысл предложения меняется на противоположный, что математически невозможно при векторизации.

У вас есть, как у человека, способность сказать: « нет » и быть понятым нашим человеческим интеллектом, который, по крайней мере на данный момент, все еще превосходит интеллект машин, у которых нам удалось многому научиться, но еще не понять « нет » ни сказать « Я не знаю ».

Также читайтеИИ более мощный, чем человеческий интеллект?