Gritsenko V. I. Neural distributed autoassociative memories: a survey = Нейромережна розподілена автоасоціативна пам'ять: огляд / V. I. Gritsenko, D. A. Rachkovskij, A. A. Frolov, R. Gayler, D. Kleyko, E. Osipov // Кибернетика и вычисл. техника. - 2017. - № 2. - С. 5-35. - Бібліогр.: 159 назв. - англ.Розглянуто моделі автоасоціативної розподіленої пам'яті, які можуть бути природним чином реалізовані нейронними мережами. Моделі використовують для запам'ятовування векторів в основному локальному правилі навчання шляхомнозв'язні мережі). У розподіленій пам'яті різні вектори запам'ятовуються в одних і тих самих елементах пам'яті, яким в цьому випадку нейронної мережі відповідають одні і ті ж зв'язки. Зазвичай досліджують запам'ятовування векторів, випадково вибраних з деякого розподілу. Якщо на вхід автоасоціативної пам'яті подаються спотворені варіанти запам'ятованих в ній векторів, здійснюється витяг (відновлення) найближчого раніше запам'ятованого вектора. Це реалізується за рахунок ітераційної динаміки нейронної мережі на основі локально доступної в нейронах інформації, отриманої від інших нейронів мережі. До певної кількості запам'ятованих в мережі векторів і ступеня їх спотворення на вході, в результаті динаміки мережа із симетричними зв'язками приходить в стійкий стан, відповідний запам'ятованому в мережі вектору, який має найбільшу схожість з вхідним вектором (схожість зазвичай вимірюють як скалярний добуток). Такі нейромережні варіанти автоасоціативної пам'яті дозволяють запам'ятати з можливістю відновлення таку кількість векторів, яка може перевищувати розмірність векторів (що збігається з кількістю нейронів в мережі). Для векторів великої розмірності це відкриває можливість пошуку наближеного найближчого сусіда з складністю, сублінейною від кількості запам'ятованих в нейронній мережі векторів. До недоліків такої пам'яті відноситься те, що відновлений динамікою мережі вектор може не бути найближчим до вхідного або навіть може взагалі не належати до множини запам'ятованих векторів і значно відрізнятися від будь-якого з них. Дослідження різних типів нейромережної автоасоціативної пам'яті спрямовано на виявлення діапазонів параметрів, при яких зазначені недоліки проявляються з малою імовірністю, а достоїнства виражені в максимальному ступені. Увагу приділено мережам з парними зв'язками типу Hopfield, Willshaw, Potts і роботі з бінарними розрідженими векторами (векторами з кількістю одиничних компонентів, яке є малим у порівнянні з кількістю їх нульових компонентів), так як тільки для таких векторів вдається запам'ятати з можливістю відновлення велику кількість векторів. Крім функції автоасоціативної пам'яті, для цих мереж також обговорюється функція узагальнення. Обговорено неповнозв'язкові мережі. Крім того, розглянуто автоасоціативну пам'ять в нейронних мережах зі зв'язками вищого порядку - тобто зі зв'язками не між парами, а між великою кількістю нейронів. Розглянуто також автоасоціативна пам'ять в нейронних мережах зі структурою двудольного графа, де одна множина нейронів надає вектори, які запам'ятовуються, а інша - лінійні обмеження, яким вони підкорюються. Ці мережі виконують функцію автоасоціативної пам'яті також для небінарних даних, які відповідають заданій моделі обмежень. Індекс рубрикатора НБУВ: З810.22 + З973.5-045
Рубрики:
Шифр НБУВ: Ж62212 Пошук видання у каталогах НБУВ Додаткова інформація про автора(ів) публікації: (cписок формується автоматично, до списку можуть бути включені персоналії з подібними іменами або однофамільці) Якщо, ви не знайшли інформацію про автора(ів) публікації, маєте бажання виправити або відобразити більш докладну інформацію про науковців України запрошуємо заповнити "Анкету науковця"
|