STRUCTURAL SYNTHESIS OF HYBRID NEURAL NETWORKS ENSEMBLES

Abstract

It is considered the structural synthesis of hybrid neural networks ensembles. It is chosen the ensemble topology as parallel structure with united layer. It is developed a hybrid algorithm for the problem solution which includes some algorithms preliminary choice of classifiers(modules of neural networks-hybrid neural networks, which consist of Kohonen, basic neural networks and bi-directional associative memory), creation the bootstrap training samples for every classifier, training these classifiers, optimal choice of necessity ones, determination of layer union weight coefficients, ensemble pruning. For the solution of optimal choice classifiers it is used two criteria: accuracy and variety.Розглянуто структурний синтез ансамблів гібридних нейронних мереж. У якості топології ансамблю вибрана паралельна структура з шаром об'єднання. Розроблений гібридний алгоритм розв’язання задачі включає алгоритми попереднього вибору класифікаторів (модулів нейронних мереж – гібридні нейронні мережі, які складаються з нейронних мереж Кохонена, базової і двонаправленої асоціативної пам’яті), створення бутстреп навчальних вибірок для кожного класифікатора, навчання цих класифікаторів, оптимальний вибір необхідних класифікаторів, визначення вагових коефіцієнтів шару об'єднання, спрощення ансамблю. Для вирішення завдання оптимального вибору класифікаторів використовуються два критерії: точність і різноманітність.Рассмотрен структурный синтез ансамблей гибридных нейронных сетей. В качестве топология ансамбля выбрана параллельная структура со слоем объединения. Разработан гибридный алгоритм решения задачи, который включает в себя некоторые алгоритмы предварительного выбора классификаторов (модулей нейронных сетей – гибридные нейронные сети, которые состоят из нейронных сетей Кохонена, базовой и двунаправленной ассоциативной памяти), создание бутстреп обучающих выборок для каждого классификатора, обучение этих классификаторов, оптимальный выбор необходимых классификаторов, определения весовых коэффициентов слоя объединения, упрощения ансамбля. Для решения задачи оптимального выбора классификаторов используются два критерия: точность и разнообразие.