При разработке и реализации любого нейросетевого алгоритма возникает задача тестирования его работоспособности. В таких случаях используются различные тестовые задачи. При этом, как и в других областях научной деятельности, исследователю приходится использовать методы визуализации данных с целью более эффективного их анализа. Однако большинство тестовых задач не позволяют наглядно и объективно судить о ходе поиска решения в пространстве функции ошибки. В статье дан краткий обзор методов, применяемых для визуализации процесса обучения нейронной сети, а также описан подход к тестированию алгоритмов обучения нейронных сетей, основанный на использовании тестовых задач, обладающих известной функцией ошибки. В качестве иллюстрации к данному подходу  предложена простая тестовая задача для нейронной сети минимального размера, которая позволяет наглядно визуализировать процесс обучения и объективно судить о его ходе.