Convolutional neural networks during object identification
No Thumbnail Available
Date
2021-04-28
Journal Title
Journal ISSN
Volume Title
Publisher
National Aviation University
Abstract
Nowadays, convolutional neural networks perform very well in identifying objects, but unfortunately, they have very important problems that are very difficult to get rid of. Convolutional networks use multiple layers of feature detectors. Each feature detector is local, so feature detectors are repeated across the space. Pooling gives some translational invariance in much deeper layers, but only in a crude way. The psychology of shape perception suggests that the human brain achieves translational invariance in a much better way. We know that, roughly speaking, the brain has two separate pathways, a “from” and “where”. Neurons in the “from” pathway respond to a particular type of stimulus regardless of where it is in the visual field. Neurons “where” are responsible for encoding where things are. As a side note, it is hypothesized that the “from” has a lower resolution then “where”.
У наш час згорткові нейронні мережі дуже добре справляються з ідентифікацією об’єктів, але, на жаль, вони мають дуже важливі проблеми, від яких дуже важко позбутися. Світові мережі використовують кілька шарів детекторів функцій. Кожен детектор функцій є локальним, тому детектори функцій повторюються на просторі. Об’єднання дає певну поступальну незмінність у набагато глибших шарах, але лише грубо. Психологія сприйняття форми передбачає, що людський мозок набагато краще досягає поступальної незмінності. Ми знаємо що, грубо кажучи, мозок має два окремі шляхи, „з” і „де”. Нейрони на шляху “з” реагують на певний тип подразника незалежно від того, де він знаходиться в полі зору. Нейрони "де" відповідають за кодування, де є речі. Як побічне зауваження, висувається гіпотеза, що “з” має нижчу розподільна здатність, ніж “де”.
У наш час згорткові нейронні мережі дуже добре справляються з ідентифікацією об’єктів, але, на жаль, вони мають дуже важливі проблеми, від яких дуже важко позбутися. Світові мережі використовують кілька шарів детекторів функцій. Кожен детектор функцій є локальним, тому детектори функцій повторюються на просторі. Об’єднання дає певну поступальну незмінність у набагато глибших шарах, але лише грубо. Психологія сприйняття форми передбачає, що людський мозок набагато краще досягає поступальної незмінності. Ми знаємо що, грубо кажучи, мозок має два окремі шляхи, „з” і „де”. Нейрони на шляху “з” реагують на певний тип подразника незалежно від того, де він знаходиться в полі зору. Нейрони "де" відповідають за кодування, де є речі. Як побічне зауваження, висувається гіпотеза, що “з” має нижчу розподільна здатність, ніж “де”.
Description
1. Geoffrey E. Hinton, A. Krizhevsky & S. D. Wang. URL: http://www.cs.toronto.edu/~fritz/absps/transauto6.pdf (Last accessed: 17.02.2021).
2. Sara Sabour, Nicholas Frosst, Geoffrey E Hinton. URL: https://arxiv.org/abs/1710.09829 (Last accessed: 14.02.2021).
3. Geoffrey E. Hinton. URL: https://u.to/Ov4rGw (Last accessed: 14.02.2021).
4. Anish Athalye, Logan Engstrom, Andrew Ilyas & Kevin Kwok. URL: https://www.labsix.org/physical-objects-that-fool-neural-nets/ (Last accessed: 14.02.2021).
Keywords
neurons, coding, convolutional neural networks, identification, function detector, separating capacity, нейрони, кодування, згорткові нейронні мережі, ідентифікація, детектор функцій, розподільна здатність
Citation
Katrenko M.O. Convolutional neural networks during object identification // Polit. Callanges of science today. International relations: abstracts of XXI International conference of higher education students and young scientists. – National Aviation University. – Kyiv, 2021. – P. 174.