ассистент кафедры электронно-вычислительных машин
Assistant of the Department of Electronic Computing Machines
кандидат технических наук, доцент, доцент кафедры электронных вычислительных машин
Cand. Sci. (Eng.), Assoc. Prof. of the Department of Electronic Computing Machines
Рассматривается способ обучения нейронных сетей, согласно которому знания, содержащиеся в одной сети, используются для обобщения входных сигналов, соответствующих неизвестным ей классам, с целью обучения на них другой нейронной сети с более простой архитектурой. Исследуется возможность применения реакции выходного сигнала обученной системы распознавания рукописных символов на предъявляемые ей изображения отсутствующих в исходной обучающей выборке символов с целью обобщения и последующей экстраполяции этой реакции в однозначно интерпретируемый выход другой системы в процессе ее обучения распознаванию новых классов. Подобно тому как человек в процессе познания способен осваивать все более сложные понятия и быстрее обучаться новым знаниям в зависимости от объема уже усвоенной информации, а также сохранять в памяти знания, которые были получены ранее, предлагаемый способ позволяет использовать результат обобщения входного сигнала уже обученной системы для освоения новых знаний за более короткое время, а также повышать ее точность без необходимости повторения всего цикла обучения, а следовательно, без изменения усвоенных прежде знаний. Представленный способ может применяться для оптимизации процесса обучения систем распознавания, увеличения точности уже обученных систем, а также для переобучения или дообучения их распознаванию новых классов без необходимости повторного обучения на исходном обучающем множестве.
An approach for training neural networks is presented. The point is the knowledge contained in one network are used to generalize the input signals that are corresponded to classes what are unknown to it, in order to train them by another neural network with a simpler architecture. The paper observes the possibility of using the output signal of a trained handwriting recognition system on the images what are presented to it and which are absent in the original training set of symbols. This training process is performing in order to generalize and then extrapolate the reaction to the uniquely interpreted output of another system during its training to those unknown classes. Like a person in the process of studying what is able to perceive more and more complex concepts and learn new knowledge faster depending on already acquired information, as well as when learning new data – to keep in memory those that were obtained earlier, the approach allows us to use the result of input signal generalization from already trained system in the aim to perceive of new knowledge in a shorter time. Also it allows increasing the accuracy of the recognition process without a necessity to repeat the entire training cycle, and therefore – without changing the previously acquired knowledge in the net. The presented approach can be used to optimize the training process of recognition systems, increase the accuracy of already trained systems, and also to retrain or additional training them to new classes without the need to retrain the original training set.
The authors declare that there are no conflicts of interest present.