Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
Предоплата всего
Подписываем
ВІННИЦЬКИЙ ДЕРЖАВНИЙ ТЕХНІЧНИЙ УНІВЕРСИТЕТ
ВАСИЛЕЦЬКИЙ СЕРГІЙ АНАТОЛІЙОВИЧ
УДК 681.3:621.586
ОПТОЕЛЕКТРОННІ ЧАСТОТНО - ДИНАМІЧНІ
НЕЙРОННІ ЕЛЕМЕНТИ
Спеціальність: 05.13.05 - Елементи та пристрої обчислювальної техніки
та систем керування
АВТОРЕФЕРАТ
дисертації на здобуття наукового ступеня
кандидата технічних наук
Вінниця - 2002
Дисертацією є рукопис.
Робота виконана у Вінницькому державному технічному університеті Міністерства освіти і науки України
Науковий керівник:
кандидат технічних наук, доцент
Колесницький Олег Костянтинович,
Вінницький державний технічний університет,
доцент кафедри лазерної та оптоелектронної техніки
Офіційні опоненти:
доктор технічних наук, професор
Осадчук Володимир Степанович,
Вінницький державний технічний університет,
професор кафедри електроніки
доктор технічних наук, доцент
Ткаченко Роман Олексійович,
Національний університет „Львівська політехніка”,
професор кафедри автоматизованих систем управління
Провідна установа:
Державний науково-дослідний інститут інформаційної
інфраструктури Держкомзв'язку і НАН України, м. Львів.
Захист відбудеться 15.02.2003 р. о 12-30 годині на засіданні спеціалізованої вченої ради ? 05.052.01 у Вінницькому державному технічному університеті за адресою: 21021, м. Вінниця, Хмельницьке шосе, 95.
З дисертацією можна ознайомитися у бібліотеці Вінницького державного технічного університету за адресою: 21021, м. Вінниця, Хмельницьке шосе, 95.
Автореферат розісланий 14.01. 2003 р.
Вчений секретар
спеціалізованої вченої ради Захарченко С.М.
Актуальність теми. Відомо, що наш мозок набагато краще за комп'ютер виконує такі складні задачі, як аналіз та розпізнавання великих об'ємів інформації, яка надходить від органів сприйняття; пошук оптимальних рішень за умови багатопараметричних вхідних даних; планування та прогнозування за відсутності повної початкової інформації. Комп'ютер, навпаки, найбільш ефективно використовується для розв'язання задач, пов'язаних з точними обчисленнями за формулами, законами, арифметичними операціями і т. ін. Для того, щоб поєднати потужності мозку та комп'ютера, необхідно створити багатофункційні штучні нейронні мережі з високою інформаційною ємністю.
Вивчення нейронної мережі і створення її різних моделей викликано прагненням підвищити швидкодію, ефективність, гнучкість і надійність технічних систем. Особливе значення при дослідженні нейронних мереж набуває метод моделювання. Це пов'язано з тим, що неможливо одночасно реєструвати електричні процеси для сотень тисяч нейронів у біологічних нейронних мережах.
Розуміння хоча б деяких механізмів обробки інформації в мозку і практична реалізація цих принципів на сучасній елементній базі в ефективних системах обробки інформації – актуальна наукова задача. Для її розв'язання потрібно дослідити, які надструктури нейронів і як можуть моделювати елементарні акти розумової діяльності. А для цього потрібно мати максимально адекватні до біологічних нейронів фізичні та комп'ютерні моделі нейронних елементів.
Зв'язок роботи з науковими програмами, планами, темами. Робота виконувалася згідно з планом наукових досліджень Вінницького державного технічного університету та Міністерства освіти та науки України за держбюджетними темами: 50-Д-180 (№ держ. реєстрації 0197U012663) „Створення оптоелектронних технологій аналізу стану серцево-судинної системи”; 57-Д-226 (№ держ. реєстрації 0100U002933) “Розробка оптико-електронних перетворювачів для формування статичних та динамічних еталонів-образів патології мікроциркуляції в щелепно-лицьовій області”; 57-Д-248 (№ держ. реєстрації 0102U002272) “Лазерні та оптико - електронні технології в діагностиці, терапії та прогнозуванні стану серцево-судинної системи”; 57-Д-249 (№ держ. реєстрації 0102U002261) „Образний відео-комп'ютер”, а також в науково-дослідній роботі №9-4 „Ефективні методи і алгоритми високопродуктивної обробки і розпізнавання зображень в оптоелектронних паралельних процесорах”.
Мета і задачі дисертації. Метою дисертації є розширення функційних властивостей, підвищення ефективності та покращення конструктивно–технологічних характеристик оптоелектронних частотно-динамічних нейронних елементів шляхом реалізації їх на біспін-приладах.
Об'єкт дослідження – процес фізичного моделювання біологічного нейрона.
Предмет дослідження – функційні властивості, частотно-динамічні та конструктивно-технологічні характеристики, принципи застосування у нейронних мережах фізичних моделей біологічних нейронів на основі біспін-приладів.
Для досягнення поставленої мети необхідно розв'язати такі задачі:
· На основі аналізу нейрофізіологічних досліджень функціонування біологічного нейрона сформулювати перелік його функційних властивостей та характеристик.
· На основі аналізу особливостей реалізації і умов функціонування складних штучних нейронних мереж, сформулювати системні вимоги до нейронних елементів.
· Провести класифікацію та порівняльний аналіз відомих частотно-динамічних нейронних елементів, виявити недоліки і напрямки їх усунення.
· Розробити математичну модель частотно-динамічного нейронного елемента на основі біспін-приладу.
· Розробити структурні схеми реалізації функцій нейронної логіки на основі частотно-динамічних нейронних елементів та оцінити можливості реалізації елементарних нейронних мереж.
· Розробити критерій та провести оцінку ефективності відомих та запропонованих частотно-динамічних нейронних елементів.
· Розробити схемотехнічні принципи побудови частотно-динамічних нейронних елементів на основі біспін-приладів.
· Розробити та провести комп'ютерне моделювання схеми заміщення частотно-динамічного нейронного елемента на основі біспін-приладу з метою дослідження поведінки елементарних нейронних мереж.
· Оцінити можливості апаратної (конструктивно-технологічної) реалізації в інтегральному вигляді нейронних мереж з великою кількістю елементів.
· Розробити методику та провести експериментальні дослідження запропонованих нейронних елементів. Отримати числові значення основних параметрів і характеристик запропонованих нейронних елементів. Експериментально перевірити, які саме функції біологічного нейрона вони виконують, та оцінити ступінь їх адекватності біологічному нейрону.
Методи дослідження. При розв'язанні поставлених задач використовувались методи досліджень, основані на застосуванні: системного аналізу; математичного моделювання; основ дискретної математики та неперервної логіки; теорії оцінки ефективності та оптимізації; теорії кіл, сигналів та систем; методи аналізу і синтезу електронних схем; теорії планування експерименту.
Наукова новизна одержаних результатів. В дисертаційній роботі розроблено та досліджено принципово нові схеми оптоелектронних частотно-динамічних нейронних елементів, в основі яких вперше використовуються новітні напівпровідникові біспін-прилади. Ці схеми відносно відомих більш прості, мають ширші функційні властивості, більш ефективні. Ці схеми задовільняють системним вимогам до частотно-динамічних нейронних елементів, сформульованим в дисертації на основі аналізу умов реалізації і функціонування штучних нейронних мереж з великою кількістю елементів. Запропоновані нейронні елементи з високою ступінню адекватні біологічним нейронам за функційними властивостями, формою і параметрами вихідних імпульсів.
Нові наукові результати, отримані в дисертаційній роботі, такі:
• Вперше розроблено математичну модель частотно-динамічного нейронного елемента на основі біспін-приладу, яка дозволяє визначити частоту вихідних імпульсів при дії неперервних вхідних збудженнях та період між двома вихідними імпульсами при дії імпульсних вхідних збуджень. Вона необхідна для моделювання роботи елемента при відомих технологічних параметрах схеми та для вибору технологічних параметрів елементів схеми під конкретно задані технічні вимоги (діапазон вихідних частот, амплітуда імпульсів, коефіцієнт трансформації ритму і т.д.). На основі математичної моделі можливе моделювання роботи нейронних мереж різної структури.
• Доведено функційну повноту набору, що складається з двох базисних операцій: обмеженої різниці та додавання, які виконуються запропонованим нейронним елементом. Це дозволяє стверджувати, що будь-яку функцію нейронної логіки (еквівалентність, максимум, мінімум, модуль різниці та ін.) можна реалізувати на основі тільки запропонованого нейронного елемента. А тому він є достатнім (базисним) для створення нейронних мереж різного функційного призначення та будь-якої структурної організації.
• Вперше запропоновано схемотехнічні принципи побудови частотно-динамічних нейронних елементів на основі біспін-приладів. Використання цих принципів дозволяє значно спростити схему нейронного елемента, розширити її функційні властивості та підвищити ефективність.
• Розроблено метод визначення координат точки зображення з максимальною яскравістю за допомогою нейроподібної структури на основі матриці фоточутливих біспін-приладів. На відміну від існуючих цей метод характеризується підвищеною швидкістю визначення координат кореляційного піку за рахунок відсутності сканування.
• Вперше формалізовано оптоелектронний частотно-динамічний нейронний елемент на основі біспін-приладу шляхом створення комп'ютерної моделі його схеми заміщення. Це дозволило значно спростити процес моделювання нейронних мереж різної структури та функційного призначення, яке необхідне при вивченні законів роботи біологічних нейронних мереж та при синтезі штучних нейронних мереж заданого функційного призначення.
Практичне значення одержаних результатів. Практична цінність роботи полягає в тому, що запропоновані технічні рішення реалізації оптоелектронних частотно-динамічних нейронних елементів на основі біспін-приладів.
Окремі теоретичні результати дисертаційної роботи використовуються в учбовому процесі на кафедрі ЛОТ ВДТУ в рамках спеціальності „Лазерна і оптоелектронна техніка” при викладанні таких дисциплін, як: „Оптоелектронні прилади”, „Схемотехніка оптоелектронних та лазерних систем”, „Оптоелектронні вимірювальні перетворювачі”, „Архітектура та структурна організація нейрокомп'ютерів”.
Результати досліджень впроваджено на виробничій базі служби ремонтів високовольтного обладнання Південно-Західної електроенергетичної системи в системі визначення місця пошкодження малонаповненого електротехнічного обладнання (трансформаторів, реакторів, високовольтних вводів). Також результати дисертації впроваджено на базі ДНВП „Геосистема” в системі обробки та розпізнавання зображень.
Особистий внесок здобувача. Всі основні результати дисертаційної роботи отримані автором особисто. В основних публікаціях, написаних в співавторстві, претенденту належить:
1. Запропоновано ввести електронний ключ та з'єднати його керуючим входом до запирального контакту біспін-приладу [1].
2. Запропоновано ввести другий регістр, а кожний вивід рядка фотоматриці з'єднати з омічним контактом біспін-приладів цього рядка [2].
3. Запропоновано метод визначення координат точки зображення з максимальною яскравістю [3].
4. Запропоновано методи формування неявно виражених визначників [4].
5. Доcліджено функційну повноту базисного набору арифметично-логічних операцій [5].
6. Запропоновано як елемент затримки використовувати біспін-оптопару [6].
7. Cформульовано системні вимоги до нейронних елементів з частотним виходом, розроблено математичну модель оптоелектронного частотно-динамічного нейронного елемента на біспін-приладі. Розроблено схему заміщення нейронного елемента та її комп'ютерну модель [7].
8. Запропоновано класифікацію частотно-динамічних нейронних елементів, проведено аналітичний огляд відомих нейронних елементів, виявлено їх недоліки, проведено оцінку адекватності імпульсів нейронного елемента на основі біспін-приладу імпульсам біологічного нейрона [8].
9. Запропоновано структурну схему пристрою для визначення координат точки зображення з максимальною яскравістю [9].
10. Зроблена оцінка параметрів і характеристик пристрою для визначення координат точки зображення з максимальною яскравістю [10].
11. Проведено аналіз параметрів і характеристик відомих нейронних елементів, на основі їх недоліків сформульовано задачі досліджень [11].
Апробація результатів дисертації. Результати досліджень, що включені до дисертації, оприлюднені на таких конференціях:
1. Міжнародна науково-технічна конференція „Оптоелектронні інформаційні технології “Фотоніка-ОДС 2000”, м. Вінниця, 2 - 5 жовтня 2000 року;
2. International Scientific Conference of Students, Post-Graduate Students and Young Scientists „Optoelectronic Information-Energy Technologies”, Ukraine, Vinnytsia, VSTU, 24 - 26 April, 2001.
3. Conferinta Stiintifica “TEXNOMUS –2001”, Romania, Suceava, 11-12 Mai, 2001.
4. Second International Scientific Conference on Optoelectronic Information Technologies „PHOTONICS-ODS 2002”, Ukraine, Vinnytsia, VSTU, 23-25 April, 2002.
5. ІХ-науково-технічна конференція „Вимірювальна та обчислювальна техніка в технологічних процесах” (30 травня – 2 червня 2002 р., м. Хмельницький).
Публікації. За матеріалами дисертації опубліковано 11 наукових праць, у тому числі 6 статей у наукових фахових журналах, що входять до переліку ВАК України, 2 патенти України на винахід, 3 доповіді на конференціях.
Структура і обсяг дисертації. Дисертаційна робота складається із вступу, чотирьох розділів, основних висновків по роботі, списку використаних джерел (144 бібліографічних посилання, 13 сторінок) та 6 додатків (29 сторінок). Загальний обсяг дисертації, в якому викладено основний зміст, складається з 143 сторінок і містить 54 рисунки, 6 таблиць. Повний обсяг дисертації–185 сторінок.
ОСНОВНИЙ ЗМІСТ
У першому розділі проведено аналіз будови, принципів дії та функційних властивостей біологічних нейронів. Складено перелік основних функційних властивостей, якими володіє біологічний нейрон, та зведено у таблицю його основні параметри і характеристики: діаметр нервової клітини (3 - 800 мкм); об'єм нервової клітини (600 - 70000 мкм3); величина мембранного потенціалу (-60 ч -80 мВ); тривалість потенціалів дії в нервових клітинах (1—2 мс); тривалість високовольтної частини (0,4—0,5 мс); амплітуда високовольтної частини (100—120 мВ); тривалість слідового негативного потенціалу (12—20 мс); тривалість слідового позитивного потенціалу (40—60 мс); частота нервових імпульсів (від 10—30 імп/с до 100 - 2000 імп/с); споживана потужність (0,5 - 4 нВт/нейрон); діаметр волокна (1—22 мкм); кількість синапсів (від 20 до 10000); швидкість проведення імпульсу (5 —120 м/с).
Найбільш важливими принципами функціонування нейрона є: частотний вихід – вихідна інформація про рівень збудження кодується в серії нервових імпульсів з відповідною частотою; амплітуда і тривалість окремих нервових імпульсів, що проходять по одному і тому ж волокну, постійні, а частота і кількість нервових імпульсів в послідовності залежать від інтенсивності збудження (закон „все або нічого”). Такий спосіб передачі інформації є найбільш завадостійким, тобто в широких межах не залежить від стану волокон, що проводять нервові імпульси.
Нейрон володіє такими функційними властивостями: просторове підсумовування, часове підсумовування, частотний вихід, підпорогове підсумовування, залежність “сила-тривалість”, трансформація ритму, залпова активність, фонова активність, акомодація, рефрактерність; та має такі основні характеристики: лабільність, хронаксія, реобаза.
Критично проаналізовані всі види моделей нейронів (формальний нейрон, аналоговий нейрон з потенціальним виходом, аналоговий нейрон з частотним виходом), які використовуються при синтезі нейроподібних мереж. Зроблено висновок, що модель аналогового нейрона з частотним виходом є найперспективнішою завдяки своїй найбільшій адекватності біологічному нейрону.
На основі аналізу умов реалізації і функціонування складних штучних нейронних мереж, сформульовано системні вимоги до частотно-динамічних нейронних елементів:
• нейронний елемент повинен бути конструктивно простим і придатним для реалізації в інтегральному вигляді;
• входи нейронного елемента (аналоги дендритів) повинні бути зручними для організації сильно розгалужених дендритних дерев (до 20000 входів).
• виходи нейронного елемента (аналоги аксонів) повинні мати відповідну до кількості під'єднаних до них входів інших нейронних елементів навантажувальну спроможність;
• для нейронів, що знаходяться в одному шарі, міжз'єднання можуть бути електричними, а для нейронів різних шарів – оптичними;
• нейронний елемент треба будувати згідно аналогової частотно-динамічної моделі, оскільки така модель найбільш адекватна біологічному нейрону;
• діапазон частот вихідних імпульсів повинен бути широким: чим він ширший, тим точніше нейронна мережа буде аналізувати вхідну інформацію;
• швидкодія нейронного елемента, повинна бути достатньо високою (не менше, ніж у біологічного нейрона: частота вихідних імпульсів 10-2000 Гц);
• потужність, яку споживає нейронний елемент, повинна бути мінімально можливою (порядку одиниць мкВт) з огляду на дуже малі витрати енергії, характерні для біологічного нейрона (0.5-4 нВт).
В результаті огляду науково-технічної та патентної літератури запропоновано класифікацію частотно-динамічних нейронних елементів (рис. 1).
Рис. 1 Класифікація відомих нейронних елементів
Проведено порівняльний аналіз відомих частотно-динамічних нейронних елементів. В результаті виявлено їх недоліки (конструктивна складність та обмежені функційні властивості) і сформульовано задачі дослідження (спрощення, розширення функційних властивостей та підвищення ефективності).
У другому розділі вперше розроблено математичну модель частотно-динамічного нейронного елемента на основі біспін-приладу (рис. 2).
Рис. 2 Частотно-динамічний нейронний елемент на основі біспін–приладу (VB –біспін-прилад) Вона дозволяє визначити частоту вихідних імпульсів при дії неперервних вхідних збуджень та період між двома вихідними імпульсами - при дії імпульсних вхідних збуджень. Математична модель необхідна для моделювання роботи елемента при відомих технологічних параметрах схеми та для вибору технологічних параметрів елементів схеми під конкретно задані технічні вимоги (діапазон вихідних частот, амплітуда імпульсів, коефіцієнт трансформації ритму і т.д.). На основі цієї моделі можна проводити моделювання роботи нейронних мереж різної структури.
При неперервних вхідних збудженнях частота вихідних імпульсів нейронного елемента:
(1)
де - інтегральна чутливість фотодіодів VD1 і VD2 відповідно; - оптична потужність на збуджувальному та гальмівному входах відповідно; Ср – ємність підкладки біспін-приладу VB, Uж – напруга живлення.
При переході до імпульсних вхідних сигналів, вихідні імпульси не мають постійної частоти, тому замість частоти краще визначити залежність інтервалу часу t між сусідніми вихідними імпульсами, і формула (1) приймає вигляд:
, (2)
де - потужність k-го оптичного імпульсу на збуджувальному вході, а - потужність l-го оптичного імпульсу на гальмівному вході нейронного елемента. Момент імпульсації ti поточного імпульсу знаходиться як корінь рівняння (2), наступний за ti-1.
Розроблено структурні схеми реалізації функцій нейронної логіки на основі запропонованого частотно-динамічного нейронного елемента, який виконує функцію обмеженої різниці Це, наприклад, такі схеми:
обмежена різниця: максимум (або логічна сума):
мінімум (або логічне множння): обернення (доповнення):
інверсія модуля різниці (еквівалентність): модуль різниці:
Доведено функційну повноту набору, що складається з двох базисних операцій: обмеженої різниці та додавання, які виконуються запропонованим нейронним елементом. Це дозволяє стверджувати, що будь-яку функцію нейронної логіки (еквівалентність, максимум, мінімум, модуль різниці та ін.) можна реалізувати на основі тільки запропонованого нейронного елемента. А тому він є достатнім (базисним) для створення нейронних мереж різного функційного призначення та будь-якої структурної організації.
Наведено приклади елементарних нейронних мереж, які можуть бути реалізовані на основі запропонованих частотно-динамічних нейронних елементів (наприклад, схема латерального гальмування, комірка динамічної пам'яті, схема мережі виділення просторово-часового максимуму).
Розроблено критерій ефективності нейронних елементів:
, (3)
де fL, Гц – лабільність (максимально можлива частота вихідних імпульсів, відтворених нейроном без трансформації ритму в одиницю часу); Eio, Дж - енергія вихідного імпульсу (максимальна енергія вихідного імпульсу, яку здатен забезпечити нейронний елемент); Eii, Дж - енергія вхідного імпульсу (мінімальна енергія вхідного імпульсу, якої достатньо для формування вихідного імпульсу); - діапазон частот сигналів нейронного елемента, які він здатен відтворити; коефіцієнт трансформації ритму (kf) (відношення частоти вихідних імпульсів до частоти вхідних імпульсів нейронного елемента); Pc, Вт - споживана потужність; V, м3 - об'єм (фізичний об'єм, який займає нейронний елемент в кристалі напівпровідникового чіпу чи в іншому можливому фізичному середовищі); С, грн – вартість.
Розроблений критерій має визначений фізичний сенс (інформаційно-енергетична лабільність), є простим та зручним для обчислення; з його допомогою можна комплексно оцінити ефективність нейронних елементів різних типів і в різних умовах їх функціонування.
У третьому розділі вперше запропоновано схемотехнічні принципи побудови частотно-динамічних нейронних елементів на основі біспін-приладів:
1. В схемі нейронного елемента використовувати біспін-прилад, під'єднаний омічним контактом до позитивного полюсу джерела живлення, а запірним контактом – через резистор навантаження і світлодіод - до негативного полюсу.
2. Струм підкладки біспін-приладу формувати як різницю між збуджувальними та гальмівними сигналами.
3. Різницю цих сигналів отримувати за допомогою 2-х послідовно з'єднаних фотодіодів; катод першого під'єднати до позитивного полюсу джерела живлення, анод першого і катод другого – до підкладки біспін-приладу, а анод другого – до негативного полюсу джерела живлення.
4. Для розширення діапазону вхідних сигналів в схему нейронного елемента можна включати електронний ключ між підкладкою біспін-приладу та загальною шиною, керуючий сигнал ключа під'єднати до запірного контакту біспін-приладу.
5. У схему нейронного елемента слід включати підсилювач струму вихідного світлодіода для узгодження передавальних характеристик різних нейронних елементів та для регулювання ваги синаптичних зв'язків.
6. Зв'язки між нейронами різних шарів – оптичні, зв'язки між сусідніми нейронами одного шару – електричні.
7. Всі оптичні збуджувальні сигнали об'єднувати на оптичній апертурі першого фотодіода, а всі оптичні гальмівні сигнали об'єднувати на оптичній апертурі другого фотодіода.
8. Електричні сигнали від сусідніх нейронних елементів одного шару подавати на підкладку біспін-приладу через розв'язувальні діоди.
Використання цих принципів дозволяє значно спростити схему нейронного елемента, розширити її функційні властивості та підвищити ефективність.
На основі розроблених принципів вперше запропоновано дві схеми частотно-динамічного нейронного елемента на основі біспін-приладу: без зворотнього зв'язку (рис. 4) та із зворотнім зв'язком (рис. 5). Схема із зворотнім зв'язком має розширений (в 4,2 рази) діапазон вхідних сигналів, але меншу енергію вихідного імпульсу (в 4 рази) в порівнянні із схемою без зворотнього зв'язку.
Рис. 4 Частотно-динамічний нейронний елемент на основі біспін-приладу Рис. 5 Частотно-динамічний нейронний елемент із зворотнім зв'язком
Вперше розроблено схему заміщення частотно-динамічного нейронного елемента на основі біспін-приладу для подальшого комп'ютерного моделювання її з метою дослідження поведінки елементарних нейронних мереж на основі частотно-динамічних нейронних елементів (рис.6).
Рис. 6 Схема заміщення нейронного елемента на основі біспін-приладу: Uзб – сумарний сигнал збудження; Uг – сумарний сигнал гальмування; 1, 2 – перетворювачі напруга-струм; Т – тригер Шмідта;
Вперше розроблено метод визначення координат точки зображення з максимальною яскравістю за допомогою нейроподібної структури на основі матриці фоточутливих біспін-приладів. На відміну від існуючих, метод дозволяє значно підвищити швидкість визначення координат кореляційного піку (1-2 мкс) за рахунок відсутності сканування. На основі методу розроблено нейроподібну мережу для визначення координат точки зображення з максимальною яскравістю, яка може застосовуватись для визначення просторово-часового максимумута координат кореляційного піку в аналогових оптичних процесорах.
Якщо на матрицю біспін-приладів ( її фрагмент показано на рис. 7), спроекціювати зображення з максимальною яскравістю в точці з координатами (i, j), то імпульси додатньої полярності з'являться на виході Qxi, а імпульси від'ємної полярності - на виході Qyj. Проведено аналіз технологічних аспектів реалізації складних нейронних мереж. Зроблено висновок про можливість реалізації нейронних мереж на основі запропонованого нейронного елемента із щільністю більше 750 тис. нейронних елементів на мм2.
Рис. 7 Нейроподібна мережа на основі матриці біспін-приладів
На основі розробленого в розд. 2 критерію, проведено порівняння ефективності запропонованого частотно-динамічного нейронного елемента з найкращим аналогом та з біологічним нейроном. Запропонований нейронний елемент кращий за аналог в 3,5 рази та краще біологічного нейрона майже в 4 рази (без урахування споживаної потужності) (табл. 1).
Таблиця 1
Порівняльна таблиця параметрів функціонування запропонованих нейронних елементів, прототипу та біологічного нейрона
Назва параметра Позначення Прототип Схема на рис. 4. Схема на рис. 5. Біологічний нейрон
Реобаза, мкА Ir 4,3 1,80 1,78 2000*
Хронаксія, мкс tch 60 83,1 124,2 1000*
Діапазон вихідних частот, разів fmax/fmin 45 14,5 61,6 67*
Лабільність, кГц fl 250 106,4 93,4 1*
Енергія вхідного імпульсу, нДж Eіі 87,4 53,85 61,19 10*
Енергія вихідного імпульсу, нДж Eіo 13,8 18,28 4,6 90*
Мін. коеф. трансформації ритму 1/ 5 4 3 10*
Кількість умовних вузл. N 38 4 6 1*
Знач. критерію, Гц/ум.вузлів Q 9,35 32,73 24,03 6,03
* - наближені оціночні значення
В четвертому розділі розроблено методику експериментальних досліджень запропонованих частотно-динамічних нейронних елементів та представлено їх результати, які підтверджують виконання всіх функцій біологічного нейрона, що свідчить про високу ступінь адекватності запропонованої фізичної моделі біологічному нейрону.
Було знято експериментальну залежність частоти вихідних імпульсів нейронного елемента від рівня сигналу збудження (рис. 8). Ця залежність в запропонованому нейронному елементі має такий самий характер, що і в біологічному нейроні, тобто існує ділянка лінійного зростання та насичення.
Форму імпульсів на виході нейронного елемента наведено на рис. 9 (для схеми на рис. 4) та на рис. 10 (для схеми на рис. 5).
Рис. 8 Залежність частоти вихідних імпульсів від рівня збудження для схем на рис. 4, 5 Рис. 9 Форма імпульсів на виході нейронного елемента
Рис. 10 Форма імпульсів на виході нейронного елемента
(для різних біспін-приладів) в схемі зі зворотнім зв'язком згідно рис. 5
Експериментальні значення основних параметрів та характеристик запропонованих нейронних елементів зведено в табл. 2. Отримані числові значення основних параметрів і характеристик запропонованих нейронних елементів дозволили оцінити їх якість та ефективність.
Таблиця 2
Експериментальні значення основних параметрів та характеристик
нейронних елементів
Найменування параметра Позначення Схема на рис. 4 В схемі на рис. 5
Реобаза, мкА Ir 1,80 1,78
Хронаксія, мкс tch 83,1 124,2
Діапазон вихідних частот, раз fmax/fmin 14,5 61,6
Лабільність, кГц fl 106,4 93,4
Енергія вхідного імпульсу, нДж Eii 53,85 61,19
Енергія вихідного імпульсу, нДж Eio 18,28 4,6
Мінімальний коефіцієнт трансформації ритму 1/min () 4 3
Експериментально доведено, що запропонований нейронний елемент виконує функцію обмеженої різниці. Знято експериментальні залежності вихідної частоти імпульсів при одночасній дії як збуджувальних, так і гальмівних сигналів (рис. 11).
а) б)
Рис. 11 Графіки залежностей при зміні потужності на одному з входів нейронного елемента та фіксації іншого:
а) оптична потужність на гальмівному вході (Pi) набувала 3-х фіксованих значень, а оптична потужність на збуджувальному вході (Pe) змінювалась від 0 до 1,5 мВт;
б) оптична потужність на збуджувальному вході (Pe) набувала 3-х фіксованих значень, а оптична потужність на гальмівному вході (Pi) змінювалась від 0 до 1, 5 мВт.
Експериментально перевірено елементарну нейронну мережу на двох запропонованих нейронних елементах, яка виконує функцію мінімуму нейронної логіки. Логічна схема цієї функції представлена на рис. 12, а; принципова електрична схема - на рис. 12, б.
а) б)
Рис. 12: а) логічна схема функції min; б) принципова електрична схема
Розроблено комп'ютерну модель схеми заміщення нейронного елемента в програмі Workbench (рис. 13). Схема складається з джерела напруги 1 збуджувального сигналу та джерела напруги 2 гальмівного сигналу, керованих напругою джерел струму 3 і 4, джерела живлення 5, конденсатора 6, транзистора 7, тригера Шмідта 8 та резистора 9. Для контролю форми імпульсів використовується осцилограф 10.
Рис. 13 Комп'ютерна модель схеми заміщення нейронного елемента
Порівняння залежності вихідної частоти від збуджувальних сигналів для комп'ютерної моделі і для самого нейронного елемента на біспін-приладі підтвердило їх адекватність (рис. 14). З аналізу цього графіка можна зробити висновок, що схему заміщення нейронного елемента, промодельованого в Workbench, з великою ступінню достовірності можна використовувати для моделювання нейронних мереж.
Проведено комп'ютерне моделювання схеми, яка реалізує операцію заперечення різниці (еквівалентності) нейронної логіки (рис. 15), яке підтвердило ефективність застосування комп'ютерної моделі схеми заміщення нейронного елемента для дослідження поведінки елементарних нейронних мереж частотно-динамічного типу.
Рис. 14 Залежності вихідних частот від струму для реального експерименту
і комп'ютерного моделювання
Рис. 15 Інверсія модуля різниці (еквівалентність)
Перевірено, що комп'ютерна модель нейронної мережі на основі схем заміщення частотно-динамічного нейронного елемента дійсно виконує функцію еквівалентність нейронної логіки над вхідними сигналами f1 та f2.
ВИСНОВКИ
У дисертації наведено теоретичне узагальнення і нове вирішення наукової задачі розширення функційних властивостей, підвищення ефективності та покращення конструктивно–технологічних характеристик оптоелектронних частотно-динамічних нейронних елементів шляхом реалізації їх на біспін-приладах.
Зокрема, у дисертаційній роботі отримано такі основні наукові та практичні результати:
• Вперше розроблено математичну модель частотно-динамічного нейронного елемента на основі біспін-приладу, яка дозволяє визначити частоту вихідних імпульсів при дії неперервних вхідних збудженнях та період між двома вихідними імпульсами при дії імпульсних вхідних збуджень.
• Доведено функційну повноту набору, що складається з двох базисних операцій: обмеженої різниці та додавання, які виконуються запропонованим нейронним елементом. Це дозволяє стверджувати, що будь-яку функцію нейронної логіки (еквівалентність, максимум, мінімум, модуль різниці та ін.) можна реалізувати на основі тільки запропонованого нейронного елемента. Розроблено структурні схеми реалізації функцій нейронної логіки на основі частотно-динамічних нейронних елементів.
• Вперше запропоновано схемотехнічні принципи побудови частотно-динамічних нейронних елементів на основі біспін-приладів. Використання цих принципів дозволяє значно спростити схему нейронного елемента, розширити її функційні властивості та підвищити ефективність. Вихідні частоти такого нейронного елемента в 1000 раз більші в порівнянні з біологічним нейроном.
• Розроблено метод визначення координат точки зображення з максимальною яскравістю за допомогою нейроподібної структури на основі матриці фоточутливих біспін-приладів. На відміну від існуючих цей метод характеризується підвищеною швидкістю визначення координат кореляційного максимуму за рахунок відсутності сканування.
• Вперше формалізовано оптоелектронний частотно-динамічний нейронний елемент на основі біспін-приладу шляхом створення комп'ютерної моделі його схеми заміщення. Це дозволило значно спростити процес моделювання нейронних мереж різної структури та функційного призначення, яке необхідне як при вивченні законів роботи біологічних нейронних мереж, так і при синтезі штучних нейронних мереж заданого функційного призначення. • Розроблено критерій ефективності частотно-динамічних нейронних елементів, який має визначений фізичний сенс (інформаційно-енергетична лабільність); з його допомогою зроблено комплексну оцінку ефективності : запропонований нейронний елемент кращий за аналог в 3,5 рази та краще біологічного нейрона майже в 4 рази (без урахування споживаної потужності) (табл. 1).
• Розроблено схеми частотно-динамічного нейронного елемента на основі біспін-приладу, які характеризуються конструктивною простотою та високою ступінню адекватності біологічному нейрону (параметри наведено в табл. 2).
• Розроблено схему заміщення частотно-динамічного нейронного елемента на основі біспін-приладу для її подальшого комп'ютерного моделювання з метою дослідження поведінки елементарних нейронних мереж на основі частотно-динамічних нейронних елементів.
• Розроблено методику експериментальних досліджень частотно-динамічних нейронних елементів на біспін-приладах та експериментально визначено числові значення їхніх основних параметрів і характеристик.
Результати роботи можна використовувати в подальших дослідженнях для моделювання роботи нейронних мереж різної складності з метою з'ясування принципів їх побудови і функціонування, щоб в подальшому зрозуміти, як же все - таки працює мозок, як реалізуються окремі елементарні акти розумової діяльності, а також для створення штучних нейронних мереж з широкими функційними можливостями та високою інформаційною ємністю.
СПИСОК ОПУБЛІКОВАНИХ АВТОРОМ ПРАЦЬ
ЗА ТЕМОЮ ДИСЕРТАЦІЇ
1. Патент України, №22956А. Модель нейрона/ Кожем'яко В.П., Колесницький О.К. Нізельський М.Б., Василецький С.А. Опубл. 5.05.98.
2. Патент України, №22957А. Пристрій для визначення координат точки зображення з максимальною яскравістю/ Кожем'яко В.П., Колесницький О.К., Василецький С.А. Опубл. 5.05.98.
3. Кожем?яко В.П., Колесницький О.К., Василецький С.А., Рейда О.М., Нізельський М.Б. Оптоелектронні пристрої на основі біспін-фотодетекторів// Вимірювальна та обчислювальна техніка в технологічних процесах (Міжнародний науково–технічний журнал), №2. - 1998, C. 33-39.
4. Кожем?яко В.П., Понура О.М., Василецький С.А. Основи методу “ключа-відмички”// Вимірювальна та обчислювальна техніка в технологічних процесах. - 1999. - №1. – C. 168-172.
5. Мартинюк Т.Б., Аль-Хіярі М.М., Василецький С.А. Функційна повнота логіко-часового принципу представлення інформації// Вісник ВПІ. - 2000. - №2. - C. 48-52.
6. Кожем'яко В.П., Колесницький О.К., Василецький С.А., Цирульник С.М. Особливості функціонального операційного базису типу “затримка” для логіко-часових середовищ// Вісник ВПІ.-2000.- №4. – C. 72-76.
7. Василецький С.А., Колесницький О.К. Математичне та комп'ютерне моделювання оптоелектронного частотно-динамічного нейронного елемента// Оптоелектронні інформаційно-енергетичні технології.-2001.-№2.- C. 96-101.
8. Колесницький О.К., Василецький С.А. Частотно-динамічні нейронні елементи// Вісник ВПІ. - 2002. - №5. – C. 5-10.
9. Kolesnytskyj O., Vasyletskyy S. Light peak detector for optical correlator// Curprints Conferinta Stiintifica “TEXNOMUS–2001”, Romania, Suceava, 11-12 May, 2001, p. 25-28.
10. Оптоелектронні фазо-частотні пристрої на основі біспін-фотодетекторів/ О.К. Колесницький, С.А. Василецький// Вимірювальна та обчислювальна техніка в технологічних процесах. – 2002.- №9.- Том 2.- С. 56-60.
11. O. K. Kolesnytskyj, S. A. Vasyletskyy, „BISPIN - based optoelectronic neuron element” in Selected Papers from the International Conference on Optoelectronic Information Technologies, Sergey V. Svechnikov, Volodymyr P. Kojemiako, Sergey Al. Kostyukevych, Editors, Proceedings of SPIE Vol. 4425, 417 - 424 (2001).
АНОТАЦІЇ
Василецький С.А. Оптоелектронні частотно-динамічні нейронні елементи. - Рукопис.
Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 05.13.05 - Елементи та пристрої обчислювальної техніки та систем керування. Вінницький державний технічний університет, Вінниця, 2002.
Предметом дослідження в дисертаційній роботі обрані функційні властивості, частотно-динамічні та конструктивно-технологічні характеристики, принципи застосування у нейронних мережах фізичних моделей біологічних нейронів на основі біспін-приладів. В результаті виконання дисертаційної роботи розроблено та досліджено оптоелектронні частотно-динамічні нейронні елементи на основі біспін-приладів з розширеними функційними властивостями, підвищеною ефективністю та покращеними конструктивно-технологічними характеристиками. Практична цінність роботи полягає в тому, що запропоновані технічні рішення реалізації оптоелектронних частотно-динамічних нейронних елементів на основі біспін-приладів.
Результати роботи можна використовувати в подальших дослідженнях для моделювання роботи нейронних мереж різної складності з метою з'ясування принципів їх побудові і функціонування, а також для створення складних штучних нейронних мереж з широкими функційними можливостями та високою інформаційною ємністю.
Ключові слова: частотно-динамічний нейронний елемент, частотний вихід, біспін-прилад, нейронна мережа, моделювання.
Василецкий С.А. Оптоэлектронные частотно-динамические нейронные элементы.- Рукопись.
Диссертация на соискание ученой степени кандидата технических наук по специальности 05.13.05 - Элементы и устройства вычислительной техники и систем управления. Винницкий государственный технический университет, Винница, 2002.
Предметом исследования в диссертационной работе избранны функциональные свойства, частотно-динамические и конструктивно-технологические характеристики, принципы применения в нейронных сетях физических моделей биологических нейронов на основе биспин-приборов. В результате выполнения диссертационной работы разработаны и исследованы оптоэлектронные частотно-динамические нейронные элементы на основе биспин-приборов с расширенными функциональными свойствами, повышенной эффективностью и улучшенными конструктивно-технологическими характеристиками.
В первом разделе сделан анализ строения, принципов действия и функциональных свойств биологических нейронов. Наиболее важными принципами функционирования нейрона являются: частотный выход – исходная информация об уровне возбуждения кодируется в серии нервных импульсов с соответствующей частотой; амплитуда и длительность отдельных нервных импульсов, которые проходят по одному и поэтому же волокну, постоянная, а частота и количество нервных импульсов в последовательности зависят от интенсивности возбуждения (закон „все или ничего”). Нейрон обладает такими функциональными свойствами: пространственное суммирование, временное суммирование, частотный выход, подпороговое суммирование, зависимость “сила-длительность“, трансформация ритма, залповая активность, фоновая активность, аккомодация, рефрактерность; и имеет такие основные характеристики: лабильность, хронаксия, реобаза.
Сделан анализ всех видов моделей нейронов, которые используются при синтезе нейроподобных сетей. Сделан вывод, что модель аналогового нейрона с частотным выходом является самой перспективной благодаря наибольшей адекватности биологическому нейрону. На основе анализа условий реализации и функционирования сложных искусственных нейронных сетей, сформулированы системные требования к частотно-динамическим нейронным элементам. В результате обзора научно-технической и патентной литературы предложена классификация нейронных элементов. Проведен сравнительный анализ известных нейронных элементов. В результате чего выявлены их недостатки и направления совершенствования.
Во втором разделе разработана математическая модель предложенного в диссертации частотно-динамического нейронного элемента на основе биспин-прибора, которая описывает зависимость интервала между выходными импульсами при непрерывных и импульсных входных возбуждениях. Разработаны структурные схемы реализации функций нейронной логики на основе предложенного нейронного элемента, который выполняет функцию ограниченной разности. Доказана функциональная полнота набора, который состоит из двух базисных операций: ограниченной разности и сложения. Приведены примеры элементарных нейронных сетей на основе частотно-динамических нейронных элементов. Разработан критерий эффективности нейронных элементов, который имеет определенный физический смысл (информационно-энергетическая лабильность), является простым и удобным для вычисления.
В третьем разделе предложена схема частотно-динамического нейронного элемента на основе биспин-прибора. Предложена также схема нейронного элемента с обратной связью, которая имеет расширенный диапазон входных сигналов и выходных частот, но сниженную энергию выходного импульса. Разработана схема замещения нейронного элемента для последующего компьютерного моделирования ее с целью исследования поведения элементарных нейронных сетей. На основе матрицы биспин-приборов разработана нейроподобная сеть для определения координат точки изображения с максимальной яркостью, которая может применяться для определения координат корреляционного пика в аналоговых оптических процессорах. Проведен анализ технологических аспектов реализации сложных нейронных сетей и указано на возможность реализации сложных нейронных сетей на основе предложенного нейронного элемента с плотностью больше 750 тыс. нейронных елементов/мм2.
На основе разработанного в разделе 2 критерия, проведено сравнение эффективности предложенного оптоэлектронного частотно-динамического нейронного элемента с наилучшим аналогом (разработка NASA) и с биологическим нейроном. Предложенный нейронный элемент лучший аналога в 3,5 раз и лучше биологического нейрона в 4 раза.
В четвертом разделе разработана методика экспериментальных исследований предложенных нейронных элементов и представлены их результаты, которые подтверждают выполнение всех функций биологического нейрона, что свидетельствует о высокой степени адекватности предложенной физической модели биологическому нейрону. Снята экспериментальная зависимость частоты выходных импульсов нейронного элемента от уровня сигнала возбуждения, которая в предложенном нейронном элементе имеет такой же характер, что и в биологическом нейроне, то есть существует участок линейного роста и насыщения. Получены экспериментальные значения основных параметров и характеристик предложенных нейронных элементов, что позволило оценить их качество и эффективность. Экспериментально доказано, что предложенный нейронный элемент выполняет функцию ограниченной разницы. Экспериментально проверена элементарная нейронная сеть на двух таких нейронных элементах, которая выполняет функцию минимума нейронной логики.
Разработана компьютерная модель схемы замещения нейронного элемента в программе Workbench. Сравнение зависимости выходной частоты от возбуждающих сигналов для компьютерной модели и для самого нейронного элемента на биспин-приборе подтвердило их адекватность. Проведено компьютерное моделирование схемы, которая реализует операцию отрицания разницы (эквивалентности) нейронной логики, которое подтвердило эффективность применения компьютерной модели схемы замещения нейронного элемента для исследования поведения элементарных нейронных сетей частотно-динамического типа.
Результаты работы можно использовать в последующих исследованиях для моделирования работы нейронных сетей разной сложности с целью выяснения принципов их построения и функционирования, а также для создания сложных искусственных нейронных сетей с широкими функциональными возможностями и высокой информационной емкостью.
Ключевые слова: частотно-динамический нейронный элемент, частотный выход, биспин-прибор, нейронная сеть, моделирование.
Vasyletskyy S.A. Optoelectronic frequency-dynamic neural elements. – Manuscript.
Thesis for a candidate's degree on speciality 05.13.05 – Elements and Devices for Computer Engineering and Control Systems – Vinnytsia State Technical University, Vinnytsia, 2002.
The subjects of investigation in this thesis are functional capabilities, frequency-dynamic, structural and technological characteristics and the principles of implementation of the physical models of the biological neurons based on the bispin-devices in neural networks. The frequency-dynamic neural elements based on bispin-devices were elaborated as a result of this work. These elements are characterized by expanded functional capabilities, increased efficacy and enhanced structural and technological characteristics.
The results of this thesis may be used in future investigations for simulation of biological neural networks of diverse complexity to provide their better understanding, and for creation of complex artificial neural networks with wide functionality and high information capacity.
Keywords: frequency-dynamic neural element, frequency output, BISPIN-device, neural network, modeling.
Підписано до друку 10.01.2003 р. Формат 29.7х42ј
Наклад 100 прим. Зам. № 2003-003
Віддруковано в комп'ютерному інформаційно-видавничому центрі
Вінницького державного технічного університету
м. Вінниця, Хмельницьке шосе, 93. Тел. 44-01-59