Эффективное обучение нейронных сетей на основе выбора начального решения

Abstract

Рассмотрена проблема, связанная с обучением нейронных сетей. Введено понятие неоднородности пространства оптимизации и доказан критерий его существования. Показано, что одним из факторов, влияющих на качество и скорость алгоритма обучения, является выбор начального приближения. Предло- жена процедура генерации начального решения, учитывающая свойство неоднородности пространства, специфику решаемой задачи и другие факторы, что позволило повысить качество обучения. Показано, что данную процедуру можно использовать для любых архитектур нейронных сетей и входных данных. Приведены результаты экспериментов по решению прикладной задачи, которые подтверждают эффек- тивность предложенного подхода к обучению.