Использование ройного интеллекта для оптимизации гиперпараметров нейронных сетей: сравнительный анализ на MNIST и CIFAR-10
DOI:
https://doi.org/10.47813/2782-2818-2024-4-2-0291-0297Ключевые слова:
ройный интеллект, оптимизация гиперпараметров, нейронные сети, алгоритм ройной оптимизации частиц, перебор по сетке, MNIST, CIFAR-10, эффективность алгоритмов, методы машинного обучения.Аннотация
Ройный интеллект предлагает мощные методы для решения задач оптимизации, применяемые в настройке гиперпараметров нейронных сетей. В данной статье исследуется производительность алгоритма ройной оптимизации частиц по сравнению с перебором по сетке на двух различных датасетах: MNIST и CIFAR-10. Экспериментальные результаты показывают, что эффективность методов оптимизации варьируется в зависимости от сложности задачи и данных.
Библиографические ссылки
Kennedy J., Eberhart R. Particle Swarm Optimization. Proceedings of IEEE International Conference on Neural Networks. 1995; 4: 1942-1948. DOI: 10.1109/ICNN.1995.488968 DOI: https://doi.org/10.1109/ICNN.1995.488968
Poli R., Kennedy J., Blackwell T. Particle swarm optimization: An overview. Swarm Intelligence. 2007; 1(1): 33-57. DOI: 10.1007/s11721-007-0002-0 DOI: https://doi.org/10.1007/s11721-007-0002-0
Shi Y., Eberhart R.C. A modified particle swarm optimizer. 1998 IEEE International Conference on Evolutionary Computation Proceedings. IEEE World Congress on Computational Intelligence. 1998; Cat.No.98TH8360: 69-73. DOI: 10.1109/ICEC.1998.699146 DOI: https://doi.org/10.1109/ICEC.1998.699146
Goodfellow I., Bengio Y., Courville A. Deep Learning. MIT Press; 2016.
LeCun Y., Bottou L., Bengio Y., Haffner P. Gradient-based learning applied to document recognition. Proceedings of the IEEE. 1998; 86(11): 2278-2324. DOI: 10.1109/5.726791 DOI: https://doi.org/10.1109/5.726791
Krizhevsky A., Hinton G. Learning multiple layers of features from tiny images. Technical Report. University of Toronto; 2009. Link. http://www.cs.toronto.edu/~kriz/learning-features-2009-TR.pdf
Загрузки
Опубликован
Как цитировать
Выпуск
Раздел
Лицензия
Copyright (c) 2024 А. А. Инкижеков, А. С. Дулесов
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.
Журнал MIST - «Modern Innovations, Systems and Technologies» / «Современные инновации, системы и технологии» публикует материалы на условиях лицензии CreativeCommons Attribution 4.0 International (CC BY 4.0), размещенной на официальном сайте некоммерческой корпорации Creative Commons: 
This work is licensed under a Creative Commons Attribution 4.0 International License.
Это означает, что пользователи могут копировать и распространять материалы на любом носителе и в любом формате, адаптировать и преобразовывать тексты, использовать контент для любых целей, в том числе коммерческих. При этом должны соблюдаться условия использования — указание автора оригинального произведения и источника: следует указывать выходные данные статей, предоставлять ссылку на источник, а также указывать, какие изменения были внесены.
