Аппроксимация двоичных функций на основе двухслойной искусственной нейронной сети

Ц е л и. Рассматриваются особенности применения двухслойных искусственных нейронных сетей в задачах аппроксимации двоичных функций многих двоичных переменных. Изучаются вопросы выбора начальных значений весов модели и количества нейронов на скрытом слое.

М е т о д ы. Задача аппроксимации двоичной функции с помощью искусственной нейронной сети сводится к геометрической задаче разделения вершин многомерного куба гиперплоскостями. Комбинаторными методами доказываются леммы о способах разбиения гиперкуба гиперплоскостью и строится оценка снизу количества двоичных функций, для аппроксимации которых достаточен один нейрон на скрытом слое.

Р е з у л ь т а т ы. Рассмотрены особенности задания начальных значений весов искусственной нейронной сети. Построена оценка снизу числа двоичных функций, для аппроксимации которых достаточно искусственной нейронной сети с одним нейроном на скрытом слое. Найдена алгоритмическая сложность вычисления такой оценки. Представлены численные результаты применения двухслойных искусственных нейронных сетей для аппроксимации двоичных функций в задачах защиты информации.

З а к л ю ч е н и е. Результаты статьи позволяют выбирать параметры искусственной нейронной сети для повышения точности аппроксимации двоичных функций многих переменных.

1. Gohr, A. Improving attacks on round-reduced speck32/64 using deep learning / A. Gohr // Advances in Cryptology – CRYPTO 2019: 39th Annual Intern. Cryptology Conf., Santa Barbara, CA, USA, 18–22 Aug. 2019. – Santa Barbara, 2019. – Pt. II. – P. 150–179.

2. Deep learning-based physical side-channel analysis / S. Picek, G. Perin, L. Mariot [et al.] // ACM Computing Surveys. – 2023. – Vol. 55(11). – P. 1–35.

3. Boanca, S. Exploring patterns and assessing the security of pseudorandom number generators with machine learning / S. Boanca // 16th Intern. Conf. on Agents and Artificial Intelligence, Rome, Italy, 24–26 Febr. 2024. – Rome, 2024. – Vol. 3. – P. 186–193.

4. Бетелин, В. Б. Математические задачи, связанные с искусственным интеллектом и искусственными нейронными сетями / В. Б. Бетелин, В. А. Галкин // Успехи кибернетики. – 2021. – Т. 2, № 4. – С. 6–14. – DOI: 10.51790/2712-9942-2021-2-4-1.

5. Николенко, С. Глубокое обучение. Погружение в мир нейронных сетей / С. Николенко, А. Кадурин, Е. Архангельская. – СПб. : Питер, 2018. – 480 с.

6. Glorot, X. Understanding the difficulty of training deep feedforward neural networks / X. Glorot, Y. Bengio // Proc. of the Thirteenth Intern. Conf. on Artificial Intelligence and Statistics, Sardinia, Italy, 13–15 May 2010. – Sardinia, 2010. – Vol. 9. – P. 249–256.

7. Delving deep into rectifiers: surpassing human-level performance on ImageNet classification / K. He, X. Zhang, S. Ren, J. Sun // Proc. of the 2015 IEEE Intern. Conf. on Computer Vision, Santiago, Chile, 7–13 Dec. 2015. – Santiago, 2015. – P. 1026–1034.

8. Криптология / Ю. С. Харин, С. В. Агиевич, Д. В. Васильев, Г. В. Матвеев. – Минск : БГУ, 2023. – 511 с.

9. Dubrova, E. A list of maximum period NLFSRs / E. Dubrova // Cryptology ePrint Archive. – 2012. – URL: https://eprint.iacr.org/2012/166 (date of access: 18.04.2025).

10. Программирование алгоритмов защиты информации / А. В. Домашев, М. М. Грунтович, В. О. Попов [и др.]. – М. : Нолидж, 2002. – 416 с.