Классификация займа с использованием нейронной сети прямого распространения

Цели. Целью исследования являются построение и изучение использования нейронной сети прямого распространения для решения задачи классификации займа, а также проведение сравнительного анализа подхода на основе нейронной сети с существующим подходом, основанным на логистической регрессии.

Метод. На базе нейронной сети прямого распространения с использованием исторических данных по выданным займам вычисляются следующие метрики: стоимостная функция, Accuracy, Precision, Recall и мера, рассчитанная на основе значений Precision и Recall. Полиномиальные параметры и метод главных компонент применяются для определения оптимального модифицированного набора входных данных для исследуемой нейронной сети.

Результаты. Проанализировано воздействие нормализации исходных данных на конечный результат, оценено влияние количества элементов скрытого уровня на конечный результат при помощи двухэтапного метода и метода Монте-Карло, определено воздействие использования сбалансированных данных, рассчитано оптимальное граничное значение для выходного уровня рассматриваемой нейронной сети, найдена оптимальная функция активации для элементов скрытого уровня, изучено влияние увеличения количества входных показателей путем заполнения отсутствующих значений и использования полиномов разной степени, а также проанализирован на избыточность имеющийся набор входных показателей.

Заключение. По итогам исследования можно сделать вывод, что применение сети прямого распространения для решения задач классификации займа является целесообразным. В сравнении с логистической регрессией реализация решения с использованием нейронной сети прямого распространения требует больше времени и вычислительных ресурсов. Однако полученные наиболее важные значения Accuracy и меры выше, чем те, которые были рассчитаны с применением логистической регрессии [1].

1. Бегунков, В. И. Классификация займов c использованием логистической регрессии / В. И. Бегунков, М. Я. Ковалев // Информатика. – 2023. − Т. 20, № 1. – С. 55–74. https://doi.org/10.37661/1816-0301-2023-20-1-55-74

2. Murati, A. Disruption in European consumer finance: Lessons from Sweden [Electronic resource] / A. Murati, O. Skau, Z. Taraporevala // McKinsey Quarterly. – 2018. – Mode of access: https://www.mckinsey.com/industries/financial-services/our-insights/disruption-in-european-consumer-finance-lessons-from-sweden. – Date of access: 01.06.2021.

3. Hand, D. J. Statistical classification methods in consumer credit scoring: a review / D. J. Hand, W. E. Henley // J. of the Royal Statistical Society: Series A (Statistics in Society). – 1997. – Vol. 160, no. 3. – P. 523–541.

4. Kombe, S. K. Effects of internet banking on the financial performance of commercial banks in Kenya a case of Kenya Commercial Bank / S. K. Kombe, M. K. Wafula // Intern. J. of Scientific and Research Publications. – 2015. – Vol. 5, no. 5. – P. 1–10.

5. Benchmarking state-of-the-art classification algorithms for credit scoring: An update of research / S. Lessmann [et al.] // European J. of Operational Research. – 2015. – Vol. 247, iss. 1. – Р. 124–136.

6. Geron, A. Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow / A. Geron. – 2nd ed. – O’Reilly Media, 2019. – P. 205–207, 370–371.

7. Oldham, K. An Atlas of Functions: with Equator, the Atlas Function Calculator / K. Oldham, J. Myland, J. Spanier. – 2nd ed. – Springer Science + Business Media, 2009. – P. 289–290.

8. Shalev-Shwartz, S. Understanding Machine Learning: From Theory to Algorithms / S. Shalev-Shwartz, S. Ben-David. – Cambridge University Press, 2014. – P. 125–127.

9. Raschka, S. Python Machine Learning / S. Raschka, V. Mirjalili. – 3d ed. – Packt Publishing Ltd., 2019. – P. 65, 415–421.

10. Rumelhart, D. Learning representations by back-propagating errors / D. Rumelhart, G. Hinton, R. Williams // Nature. – 1986. – Vol. 323. – P. 533–536.

11. Goodfellow, I. Deep Learning / I. Goodfellow, Y. Bengio, A. Courville. – MIT Press, 2016. – P. 82–86, 205.

12. Bishop, C. Neural Networks for Pattern Recognition / C. Bishop. – Clarendon Press Oxford, 1995. – P. 231.

13. Metropolis, N. The Monte Carlo method / N. Metropolis, S. Ulam // J. of the American Statistical Association. – 1949. – Vol. 44, no. 247. – P. 335–341.

14. Harrington, P. Machine Learning in Action / P. Harrington. – 1st ed. – Manning Publication Co., 2012. – Р. 148, 269–279.

15. Glorot, X. Deep sparse rectifier neural networks / X. Glorot, A. Bordes, Y. Bengio // Proc. of the 14th Intern. Conf. on Artificial Intelligence and Statistics, Fort Lauderdale, FL, USA, 11–13 Apr. 2011. – Fort Lauderdale, 2011. – Vol. 15. – P. 315–323.

16. Murphy, K. P. Machine Learning: A Probabilistic Perspective (Adaptive Computation and Machine Learning series) / K. P. Murphy. – The MIT Press, 2012. – P. 387–407.