Применение сегментной спайковой модели нейрона со структурной адаптацией для решения задач классификации
Ключевые слова:
нейроморфные системы, спайковый нейрон, спайковые нейронные сети, задача классификации, телеупавляемый необитаемый подводный аппаратАннотация
Рассматриваются варианты применения сегментной спайковой модели нейрона с возможностью структурной адаптации для решения задач классификации. Проводится анализ современного состояния спайковых нейронных сетей. Делается вывод о крайне низком количестве работ по исследованию сегментных моделей нейрона. В качестве модели нейрона для данной работы обосновывается выбор сегментной спайковой модели. Приводится краткое описание такой модели, отмечены её основные особенности, позволяющие производить её структурное реконфигурирование. Описывается способ структурной адаптации модели ко входному паттерну импульсов. Приводится общая схема организации сегментных спайковых нейронов в сеть для решения задачи классификации. В качестве кодирования числовой информации в паттерны импульсов выбирается временное кодирование. Приводятся краткие результаты экспериментов по решению задачи классификации на общедоступных наборах данных (Iris, MNIST). Делается вывод о сопоставимости полученных результатов с результатами, полученными классическими методами. Кроме того, приводится подробное пошаговое описание экспериментов по определению состояния телеуправляемого необитаемого подводного аппарата: определение расстояния такого аппарата до дна и определение характера его движения. Показано соответствие полученных результатов реальному состоянию телеуправляемого необитаемого подводного аппарата. Сделан вывод о перспективности применения спайковых сегментных моделей нейрона с возможностью структурной адаптации при решении задач классификации. Рассмотрены дальнейшие перспективные продолжения исследований основанных на сегментных спайковых моделях нейрона.
Литература
2. Haykin S.S. Neural networks and learning machines // Harlow: Pearson Education. 2009. 934 p.
3. Walter F., Röhrbein F., Knoll A. Computation by time // Neural Processing Letters. 2016. vol. 44. no. 1. pp. 103–124.
4. Gerstner W., Kistler W.M. Spiking neuron models: Single neurons, populations, plasticity // Cambridge: Cambridge University Press. 2002. 496 p.
5. Izhikevich E.M. Which model to use for cortical spiking neurons // IEEE Transactions on Neural Networks. 2003. vol. 14. pp. 1569–1572.
6. Lin X., Zhang T. Dynamical properties of piecewise linear spiking neuron model // Tien Tzu Hsueh Pao/Acta Electronica Sinica. 2009. vol. 37. no. 6. pp. 1270–1276.
7. Ghosh-Dastidar S., Adeli H. Spiking neural networks // International Journal of Neural Systems. 2009. vol. 19. no. 4. pp. 295–308.
8. Maass W. Lower bounds for the computational power of networks of spiking neurons // Neural computation. 1996. vol. 8. no. 1. pp. 1–40.
9. Kulkarni S.R., Rajendran B. Spiking neural networks for handwritten digit recognition—Supervised learning and network optimization // Neural Networks. 2018. vol. 103. pp. 118–127.
10. Almási A.D. et al. Review of advances in neural networks: Neural design technology stack // Neurocomputing. 2016. vol. 174. pp. 31–41.
11. Denève S., Alemi A., Bourdoukan R. The brain as an efficient and robust adaptive learner // Neuron. 2017. vol. 94. no. 5. pp. 969–977.
12. Glaser J.I. et al. The roles of supervised machine learning in systems neuroscience // Progress in neurobiology. 2019. vol. 175. pp. 126–137.
13. Rummelhart, D.E. Learning representations by back-propagating errors // Nature. 1986. vol. 323. no. 9. pp. 533–536.
14. Lin X. et al. Supervised learning algorithms for spiking neural networks: a review // Acta electonica sinica. 2015. vol. 43. no. 3. pp. 577.
15. Wang X., Lin X., Dang X. Supervised learning in spiking neural networks: A review of algorithms and evaluations // Neural Networks. 2020. vol. 125. pp. 258–280.
16. Lobo J.L. et al. Spiking neural networks and online learning: An overview and perspectives // Neural Networks. 2020. vol. 121. pp. 88–100.
17. Kasabov N. et al. Dynamic evolving spiking neural networks for on-line spatio-and spectro-temporal pattern recognition // Neural Networks. 2013. vol. 41. pp. 188–201.
18. Kasabov N. Time-Space, Spiking Neural Networks and Brain-Inspired Artificial Intelligence // Berlin: Springer-Nature. 2018. 738 p.
19. Khan G.M., Miller J.F. In search of intelligence: evoling a develop-mental neuron capable of learning // Connection Science. 2014. vol. 26. no. 4. pp. 297–333.
20. Bakhshiev A.V., Gundelakh F.V. Mathematical Model of the Impulses Transformation Processes in Natural Neurons for Biologically Inspired Control Systems Development // CEUR Workshop Proceedings. 2015. vol. 1452. pp. 1–12.
21. Bakhshiev A., Demcheva A., Stankevich L. CSNM: The Compartmental Spiking Neuron Model for Developing Neuromorphic Information Processing Systems // International Conference on Neuroinformatics. 2021. pp. 327–333.
22. Бахшиев A.В., Корсаков А.М., Астапова Л.А, Станкевич Л.А. Структурная адаптация сегментной спайковой модели нейрона // Нелинейная динамика в когнитивных исследованиях - 2021 : Труды VII Всероссийской конференции, Нижний Новгород, 20–24 сентября 2021 года. 2021. С. 30–33.
23. Park S. et al. T2FSNN: deep spiking neural networks with time-to-first-spike coding // 2020 57th ACM/IEEE Design Automation Conference (DAC). 2020. pp. 1–6.
24. Lin P. et al. SpikeCD: a parameter-insensitive spiking neural network with clustering degeneracy strategy // Neural Computing and Applications. 2019. vol. 31. no. 8. pp. 3933–3945.
25. UCI Machine Learning Repository: Iris Data Set [Electronic resource]. URL: https://archive.ics.uci.edu/ml/datasets/iris (дата обращения: 22.04.2021).
26. Astapova L. A. et al. Compartmental spiking neuron model for pattern classification // Journal of Physics: Conference Series. 2021. vol. 2094. no. 3. pp. 032032.
27. MNIST handwritten digit database, Yann LeCun, Corinna Cortes and Chris Burges [Electronic resource]. URL: http://yann.lecun.com/exdb/mnist/ (дата обращения: 12.10.2021).
28. Щур Н.A., Половко С.А., Деулин А.A. Применение методов вычислительной гидродинамики для получения характеристик переходных процессов АНПА // Робототехника и техническая кибернетика. 2020. Т. 8. №4. С. 287–295.
29. Горюнов В.В., Половко С.А., Щур Н.A. Разработка схемотехнического решения и конструкции емкостной матрицы датчиков давления для применения в робототехнике // Робототехника и техническая кибернетика. 2020. Т. 8. №4. С. 308–318.
30. Bakhshiev A.V. et al. The architecture of a software platform for growing spiking neural networks simulator developing // Journal of Physics: Conference Series. 2020. vol. 1679. no. 4. pp. 042001.
Application of a Compartmental Spiking Neuron Model with Structural Adaptation for Solving Classification Problems
Abstract
The problem of classification using a compartmental spiking neuron model is considered. The state of the art of spiking neural networks analysis is carried out. It is concluded that there are very few works on the study of compartmental neuron models. The choice of a compartmental spiking model is justified as a neuron model for this work. A brief description of such a model is given, and its main features are noted in terms of the possibility of its structural reconfiguration. The method of structural adaptation of the model to the input spike pattern is described. The general scheme of the compartmental spiking neurons’ organization into a network for solving the classification problem is given. The time-to-first-spike method is chosen for encoding numerical information into spike patterns, and a formula is given for calculating the delays of individual signals in the spike pattern when encoding information. Brief results of experiments on solving the classification problem on publicly available data sets (Iris, MNIST) are presented. The conclusion is made about the comparability of the obtained results with the existing classical methods. In addition, a detailed step-by-step description of experiments to determine the state of an autonomous uninhabited underwater vehicle is provided. Estimates of computational costs for solving the classification problem using a compartmental spiking neuron model are given. The conclusion is made about the prospects of using spiking compartmental models of a neuron to increase the bio-plausibility of the implementation of behavioral functions in neuromorphic control systems. Further promising directions for the development of neuromorphic systems based on the compartmental spiking neuron model are considered.
Опубликован
Как цитировать
Раздел
Copyright (c) Антон Михайлович Корсаков, Любовь Алексеевна Астапова, Александр Валерьевич Бахшиев
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.
Авторы, которые публикуются в данном журнале, соглашаются со следующими условиями: Авторы сохраняют за собой авторские права на работу и передают журналу право первой публикации вместе с работой, одновременно лицензируя ее на условиях Creative Commons Attribution License, которая позволяет другим распространять данную работу с обязательным указанием авторства данной работы и ссылкой на оригинальную публикацию в этом журнале. Авторы сохраняют право заключать отдельные, дополнительные контрактные соглашения на неэксклюзивное распространение версии работы, опубликованной этим журналом (например, разместить ее в университетском хранилище или опубликовать ее в книге), со ссылкой на оригинальную публикацию в этом журнале. Авторам разрешается размещать их работу в сети Интернет (например, в университетском хранилище или на их персональном веб-сайте) до и во время процесса рассмотрения ее данным журналом, так как это может привести к продуктивному обсуждению, а также к большему количеству ссылок на данную опубликованную работу (Смотри The Effect of Open Access).