ИСПОЛЬЗОВАНИЕ СВЕРТОЧНЫХ НЕЙРОСЕТЕЙ ДЛЯ КЛАССИФИКАЦИИ ИЗОБРАЖЕНИЙ
https://doi.org/10.57070/2304-4497-2023-1(43)-39-49
Аннотация
В работе рассматриваются структура сверточной нейронной сети и математические методы, используемые для подсчета ее значений. Приведены основные составные части сети, влияющие на результат: сверточные слои с маской как основа сетки данных, ядро для чтения сетки данных, шага и дополнения для настройки точности чтения, субдискретизирующие слои для обобщения данных. Показана история развития сверточных нейронных сетей с примерами их архитектуры и используемыми параметрами на примере сетей LeNet, AlexNet, VGG и ResNet. Показано сравнение точности распознавания образов при разных архитектурах. Описана концепция передаточного обучения.
Об авторах
Александр Григорьевич БычковРоссия
аспирант кафедры прикладных информационных технологий и программирования
Тамара Васильевна Киселёва
д.т.н., профессор кафедры прикладных информационных технологий и программирования
Елена Владимировна Маслова
к.т.н., доцент кафедры прикладных информационных технологий и программирования
Список литературы
1. Комашинский В.И. Нейронные сети и их применение в системах управления и связи. Москва: Горячая линия-Телеком, 2002. 94 с.
2. Киселева Т.В., Маслова Е.В., Бычков А.Г. Машинное обучение для решения задач распознавания образов. В кн.: Сборник трудов 50-ой Международной конференции по информационным технологиям в науке, образовании и управлении. Гурзуф, 2021. C. 19–24.
3. Киселева Т.В., Маслова Е.В., Бычков А.Г. Машинное обучение в задачах распознавания изображений // Информатизация и связь. 2021. № 8. С. 15–19.
4. Бычков А.Г., Киселева Т.В., Маслова Е.В. Методика оптимизации элементов нейронной сети на примере перцептрона // Системы управления и информационные технологии. 2022. № 1 (87). С. 4–8. https: //doi.org/10.36622/VSTU.2022.88.1.001/
5. Червяков Н.И. Применение нейронных сетей для задач прогнозирования и проблемы идентификации моделей прогнозирования // Нейрокомпьютеры: разработка и применение. 2003. № 10. С. 11–14.
6. Круглов В.В. Искусственные нейронные сети. Теория и практика. Москва: Горячая линия-Телеком, 2001. 382 с.
7. Хайкин С. Нейронные сети. Полный курс / Пер. с англ. Москва: ИД «Вильямс», 2006. 1104 с.
8. Николенко С. Глубокое обучение. Санкт-Петербург: Питер, 2018. 480 с.
9. Бычков А.Г., Киселева Т.В., Маслова Е.В. Использование сегментации в сверточных нейронных сетях для повышения точности // Системы управления и информационные технологии. 2022. № 3 (89). С. 7–10. https: //doi.org/10.36622/VSTU.2022.88.3.003/
10. LeCun Y., Boser B., Denker J.S., Henderson D., Howard R.E., Hubbard W., Jackel L.D. Backpropagation applied to handwritten zip code recognition // Neural Computation. 1989. Vol. 1 (4). P. 541–551.
11. LeCun Y. Generalization and network design strategies. In: Technical Report CRG-TR-89-4 Department of Computer Science, University of Toronto, 1989. P. 1276–1289.
12. LeCun Y., Boser B., Denker J.S., Henderson D., Howard R.E., Hubbard W., Jackel L.D. Handwritten digit recognition with a back-propagation network. In: Advances in Neural Information Processing Systems 2 (NIPS 89). 1990. P. 1008–1019.
13. LeCun Y., Bottou L., Bengio Y., Haffner P. Gradient-based learning applied to document recognition // Proceedings of the IEEE. 1998. Vol. 86 (11). P. 2278–2324.
14. Chellapilla K., Puri S., Simard P. High Performance Convolutional Neural Networks for Document Processing. In: Tenth International Workshop on Frontiers in Handwriting Recognition. Guy L. ed. Suvisoft. 2006. P. 2877–2889.
15. Krizhevsky A., Sutskever I., Hinton G.E. Imagenet classification with deep convolutional neural networks. In: Advances in neural information processing systems. 2012. P. 1097–1105.
16. Shelhammer L.E., Darrell T. Fully convolutional networks for semantic segmentation. In: The IEEE Conf. On Computer Vision and Pattern Recognition (CVPR). 2015. P. 3431–3440.
17. Badrinarayanan V., Kendall A., Cipolla R. SegNet: A deep convolutional encoder-decoder architecture for image segmentation // ArXiv. 2015. Vol. 1511. Article 00561. https://doi.org/ 10.48550/arXiv.1511.00561/
18. Ronneberger O., Fischer P., Brox T. U-net: convolutional networks for biomedical image segmentation. In: Proc. Med. Image Comput. Comput.-Assisted Intevention. 2015. P. 234–241.
19. Iglovikov V., Shvets A. TernausNet: U-net with vgg11 encoder pre-trained on imagenet for image segmentation // ArXiv. 2018. Vol. 1801. Article 05746.
20. Santos J., Ferro E., Orozco J., Cayssials R. A heuristic approach to the multitask-multiprocessor assignment problem using the empty-slots method and rate monotonic scheduling // J. of Real-Time Systems. 1997. Vol. 13 (2). P. 167–199.
Рецензия
Для цитирования:
Бычков А.Г., Киселёва Т.В., Маслова Е.В. ИСПОЛЬЗОВАНИЕ СВЕРТОЧНЫХ НЕЙРОСЕТЕЙ ДЛЯ КЛАССИФИКАЦИИ ИЗОБРАЖЕНИЙ. Вестник Сибирского государственного индустриального университета. 2023;(1):39-49. https://doi.org/10.57070/2304-4497-2023-1(43)-39-49
For citation:
Bychkov A., Kiseleva T., Maslova E. USAGE OF CONVOLUTIONAL NEURAL NETWORKS FOR IMAGE CLASSIFICATION. Bulletin of the Siberian State Industrial University. 2023;(1):39-49. (In Russ.) https://doi.org/10.57070/2304-4497-2023-1(43)-39-49