Методы анализа и семантической интерпретации процессов принятия решения в классификационных нейросетевых моделях машинного обучения с учителем

Abstract

В работе рассматривается проблема интерпретации характера поведения обученной классификационной нейросетевой модели прямого распространения, а также предлагаются решения по анализу и объяснению получаемых результатов на основе локальных линейных аппроксимаций.= The paper focuses on the problem of interpreting the behavior of a feedforward neural network classifier model after learning, and proposes solutions to analyze and describe model output based on local linear approximations.