Исследование показывает, что изучение функций предшествует переоснащению
Три динамических режима обучения в двухслойной нейронной сети с m скрытыми нейронами (на рисунке обозначены MF, Feat. Learning, Feat. Learning и Overfit/Unlearn). Набор данных из n образцов в d измерениях в предположении, что n, m, d большие и n/(md) = 0,3. Синим цветом: ошибка теста (обобщение). Фиолетовый: ошибка обучения. Красным цветом: сложность модели, измеренная по … Read more