Исследователи обнаружили недостаток, который делает программы LLM менее надежными | Новости Массачусетского технологического института
Согласно исследованию MIT, большие языковые модели (LLM) иногда усваивают неправильные уроки. Вместо того, чтобы отвечать на запрос, основанный на знании предметной области, LLM может ответить, используя грамматические шаблоны, которые он узнал во время обучения. Это может привести к неожиданному сбою модели при развертывании для новых задач. Исследователи обнаружили, что модели могут ошибочно связывать определенные шаблоны … Read more