نوع مقاله : مقاله کامل پژوهشی
نویسندگان
1 گروه بیوالکتریک ، دانشکده مهندسی پزشکی، دانشگاه صنعتی امیرکبیر، تهران، ایران
2 دانشگاه صنعتی امیرکبیر، دانشکده مهندسی پزشکی
چکیده
همآوایی نورونی بعنوان یکی از مهمترین پدیدههای شناختی مغز انسان، در سالهای اخیر مورد توجه پژوهشگران قرار گرفته است. پدیده همآوایی اغلب در مدلهای نورونی گسسته و پیوسته یا سیگنالهای تجربی ثبتشده از مغز مورد بررسی قرار میگیرد اما در این پژوهش، بر خلاف پژوهشهای قبلی، پدیده همآوایی برای نخستین بار در وزنهای شبکههای عصبی مصنوعی در حال تعلیم مورد بررسی قرار گرفته است. یافتههای پژوهش نشان میدهد که همآوایی در وزنهای این شبکهها، هم در حین یادگیری و هم در حالت بدون یادگیری اتفاق میافتد و از نوع همآوایی عمومی است. همچنین با افزایش میزان یادگیری در شبکه، میزان همآوایی در وزنها نیز افزایش مییابد. در این پژوهش همچنین روشی جدید برای تشخیص الگوهای همآوایی با استفاده از مشتق سیگنال و روش خوشهبندی سلسلهمراتبی ارائه میشود و یک شاخص نیز برای سنجش میزان همآوایی وزنها در لایههای مختلف شبکه عصبی معرفی میگردد. بررسی این شاخص نشان میدهد که وزنهای لایههای نخستین شبکه در مقایسه با لایههای سطوح بالاتر بصورت معناداری همآوایی بیشتری دارند.
کلیدواژهها
موضوعات
عنوان مقاله [English]
Weight synchronization in feedforward neural networks and a novel method to detect synchrony patterns
نویسندگان [English]
- Hossein Banki-Koshki 1
- Seyyed Ali Seyyedsalehi 2
1 Bioelectrics Department, Faculty of Biomedical Engineering, Amirkabir University of Technology, Tehran, Iran
2 Amirkabir University of Technology Biomedical Engineering Faculty
چکیده [English]
Neuronal synchronization as a significant cognitive phenomenon of the human brain, has attracted the interest of neuroscience researchers in recent years. This phenomenon is generally investigated in discrete and continuous neuronal models or experimentally recorded signals of the brain. In this study, for the first time, we investigate the weight synchronization instead of neuronal synchrony, in the training step of the artificial feedforward neural networks. The findings of the study show that the generalized weight synchronization occurs both during the training mode and in the non-training mode. Furthermore, as the training is completed, the synchronization increases between the weights. In this study, a new method is introduced in order to detect synchrony patterns using signal derivative and hierarchical clustering. We have also presented a criterion to quantify weight synchronization in different layers of the neural network. Accordingly, the results demonstrate that the lower layers of the network have a significantly higher level of weight synchrony than the upper layers.
کلیدواژهها [English]
- Neuronal Synchronization
- Weight Synchronization
- Synaptic Plasticity
- Artificial Neural Network
- Neuronal Map
- Cognition
- Modeling
- Chaos