Прошло уже много лет с того момента когда появилась первая ЭВМ
Работа добавлена на сайт samzan.net:
Нейрокомпьютеры.
Прошло уже много лет с того момента, когда появилась первая ЭВМ. За это время сменилось уже несколько поколений вычислительных машин. Менялись элементная база, конструктивные решения, языки программирования, программное обеспечение, но основы архитектуры, заложенные при создании машин первого поколения, практически без изменения перешли на машины последующих и успешно работают до настоящего времени. Нет сомнений, что идеи машин первого поколения ещё послужат человеку. Однако всё настоятельнее требуются системы, наделённые элементами интеллекта при обработке колоссального объёма информации и в то же время работающие в темпе управляемых процессов.
В таких прикладных областях деятельности человека, как космология, молекулярная биология, гидрология, охрана окружающей среды, медицина, экономика и многих других, сформулированы проблемы, решение которых потребует вычислительных машин, обладающих колоссальными ресурсами.
На сегодняшний день высокие технические характеристики реализуется только с помощью дорогостоящих уникальных архитектур от CRAY, SGI, Fujitsu, Hitachi с несколькими тысячами процессоров.
В настоящее время концептуально разработаны методы достижения высокого быстродействия, которые охватывают все уровни проектирования вычислительных систем. На самом нижнем уровне – это передовая технология конструирования и изготовления быстродействующей элементной базы и плат с высокой плотностью монтажа. Теоретически совершенствование элементной базы – самый простой метод повышения производительности вычислительных систем. Однако на практике он приводит к существенному удорожанию новых разработок. Следовательно, требуется разработка новых принципов вычислений, позволяющих ставить и решать задачи подобного типа, а также способных значительно повысить скорость обработки традиционных вычислительных алгоритмов. К числу новых направлений можно отнести и нейрокомпьютеры.
1. Нервные клетки и их модели.
Нервная система (НС) человека и животных является важнейшей консолидирующей системой организма. Ее основная функция заключается в поддержании внутренней гармонии организма и в организации его приспособительной деятельности в изменяющихся условиях внешней среды. НС имеет клеточную структуру и состоит из клеток – нейронов, сгруппированных в нейронные ансамбли и сети. Центральным отделом нервной системы является головной и спинной мозг.
С точки зрения кибернетики мозг представляет собой информационно-управляющую систему, которая при помощи рецепторов воспринимает информацию о внешней среде, обрабатывает эту информацию на основе генетической программы и индивидуального опыта, а также формирует управляющие воздействия на эффекторные (исполнительные) системы организма.
Данной структуре соответствует хорошо известная специализация нервных клеток на сенсорные (рецепторные), вставочные (интернейроны) и эффекторные (мотонейроны) нейроны. Рецепторные нейроны воспринимают энергетические воздействия внешней среды той или иной модальности (световые, акустические, тактильные и т. п.) и преобразуют их в импульсные потоки, передаваемые интернейронам. Взаимодействующие друг с другом интернейроны осуществляют обработку поступившей информации, а мотонейроны передают результаты этой обработки непосредственно на исполнительные системы организма (мышцы, сосуды, железы внутренней секреции и т. п.).
По форме нервные клетки существенно отличаются друг от друга, однако большинство нейронов имеет древовидную структуру, состоящую из компактного тела с рядом отростков (волокон). Короткие ветвящиеся веточки называются дендритами, а длинный, расщепляющийся на терминальные волокна отросток называется аксоном. Тело клетки (сома) имеет микроскопические размеры от 5 до 100 микрометров, а длина ее отростков может достигать десятков сантиметров. Например, у крупных млекопитающих и человека аксоны некоторых клеток при толщине от 10 до 20 мкм имеют длину до метра. Однако и сома и ее отростки представляют собой единое целое, покрытое общей оболочкой (мембраной). Как и любая другая клетка организма, нейрон и его отростки имеют единую внутриклеточную среду, общий генетический аппарат и общую систему поддержания жизнедеятельности.
Специфическая особенность нервных клеток заключается в способности воспринимать, преобразовывать и передавать на другие клетки нервное возбуждение в виде нервных импульсов. Входные импульсы поступают на дендриты или сому и оказывают на клетку либо возбуждающее, либо тормозное воздействие. В те моменты, когда суммарное возбуждение клетки превышает некоторую характерную для нее критическую величину, называемую порогом, в области аксона возникают нервные импульсы – спайки или, как их еще называют, потенциалы действия. Возникнув, спайк бездекрементно (без затухания) распространяется по аксону, поступает на дендриты других клеток и вызывает их возбуждение или торможение. Такая связь называется аксо-дендритной, причем возбуждающий или тормозящий характер воздействия нервного импульса определяется свойствами контакта двух клеток. Этот контакт называется синаптическим, а пространство между мембранами контактирующих клеток называется синаптической щелью.
Количество синаптических входов у отдельного интернейрона достигает 150 тысяч. Поэтому общее число межклеточных контактов очень велико. Например, в мозге человека при 1011 нейронах количество связей между ними оценивается астрономическим числом 1014. Если дополнительно учесть, что синаптические связи имеют электрический и химический характер, что наряду с аксо-дендритными связями возможны синаптические контакты между дендритами, сомами и аксонами различных клеток, что каждая связь может быть возбуждающей или тормозной, а также то, что эффективность синаптических связей в процессе жизнедеятельности меняется, то грандиозная сложность нейронных сетей у высокоразвитых животных и человека становится очевидной.
В настоящее время установлено, что мозг, судя по всему, основан на принципе относительно жестко запаянного блока, состоящего из сложно организованных нейронных сетей, работающих в миллисекундном диапазоне. Более детальное изучение этих сетей осложняется специфическими свойствами нервной ткани, содержащей помимо нервных клеток и другие клетки, которые поддерживают нейрон механически и участвуют в процессах их метаболизма и проведения спайков.
В целом, нервная ткань представляет собой бесцветную студенистую массу, в которой даже под микроскопом трудно различить отдельные нейроны и состоящие из них сети. Поэтому в современной нейроанатомии применяют специальные методы окрашивания нервной ткани. В частности, используются красители, которые избирательно воздействуют лишь на некоторые нейроны и окрашивают их целиком. Окрашенная таким образом ткань замораживается, разрезается на тонкие слои и изучается под микроскопом. В процессе изучения удается выделить отдельные нейроны в сетях плотно упакованных нервных клеток, волокна которых тесно переплетены в густую чащу с промежутками 0,01 мкм. Более того, удается не только различать отдельные клетки, но и находить их связи друг с другом, как в локальных областях нервной ткани, так и в различных, далеко отстоящих друг от друга частях мозга. Однако получаемые при этом сведения не являются полными и не позволяют делать однозначных выводов о конфигурациях и законах функционирования изучаемых нейронных сетей. Эти сведения приходится дополнять данными других исследований, а именно тех, которыми занимается нейрофизиология.
Основным нейрофизиологическим подходом к исследованию мозга в настоящее время служит микроэлектродная методика. Ее суть заключается в том, что в живую ткань мозга вживляются микроэлектроды, с помощью которых регистрируется электрическая активность отдельных клеток. Однако использование этой методики для изучения высокоразвитых животных связано с рядом трудностей. Размеры электродов по сравнению с микроскопически малыми телами клеток велики, а возможности их миниатюризации ограничены. Поэтому микроэлектродные исследования могут искажать нормальную работу изучаемых структур. Вживление электродов осуществляется вслепую и не всегда ясно, работу каких клеток характеризуют снятые с них сигналы. Кроме того, клеток много, а электродов мало. Поэтому получаемая с их помощью информация является фрагментарной.
С целью преодоления отмеченных трудностей в нейробиологии вообще и в нейрофизиологии в частности широко применяют метод биологического моделирования. В соответствии с этим методом для изучения сложных структур мозга высокоразвитых животных используют достаточно простые нервные системы таких беспозвоночных, как черви, моллюски, кальмары, раки и т. п. Нейронные структуры беспозвоночных содержат сравнительно мало нейронов, упакованных в нервные узлы - ганглии. Ганглии, в свою очередь, содержат от 100 до 1000 клеток. Сами клетки у беспозвоночных крупнее, чем у млекопитающих, а их положение в ганглиях и межнейронные связи более определены.
Рассмотренный подход к изучению нервной системы внешне напоминает хорошо известный в технике метод физического моделирования. В соответствии с этим методом сложный для изучения объект заменяется менее сложным, но эквивалентным исходному по сути изучаемых явлений.
Однако в случае нейробиологии о собственно физическом моделировании можно говорить лишь в том случае, когда исследуются такие свойства нервной ткани, как электропроводность внутриклеточной среды, электрическая емкость и сопротивление мембран, механизм генерации спайков и т. п. Эти свойства, судя по всему, являются фундаментальными и не зависят от вида животного. В то же время механический перенос данных о структуре и свойствах нейронных сетей простых животных, например беспозвоночных, на нервную систему высокоразвитых млекопитающих вряд ли является корректным. Поэтому для изучения информационных процессов в сложных нейронных сетях необходимы современные методы математического и кибернетического моделирования. Причем результаты экспериментов на простых организмах могут использоваться в данном случае в качестве исходных гипотез для построения адекватных кибернетических моделей мозга.
Такой подход позволяет уже сейчас создавать искусственные нейронные сети и строить кибернетические модели информационных процессов в мозге более сложных животных вплоть до человека. Учитывая то, что экспериме6нты на мозге людей нельзя проводить по морально-этическим соображениям, путь создания кибернетических моделей с целью получения экспериментальных сведений о структуре и функциях человеческого мозга представляется весьма перспективным. Конечной целью при этом могут служить не только новые сведения о мозге, о механизмах его самооптимизации, самоорганизации, самопрограммирования, но и новые идеи, необходимые для построения нетрадиционных мозгоподобных суперЭВМ – нейрокомпьютеров.
2.Математическая модель информационных процессов в нейроне.
Согласно мембранной теории возбуждения нервных клеток, закон изменения мембранного потенциала аксона может быть описан следующим дифференциальным уравнением первого порядка:
Где P(t) – мембранный потенциал участка аксона; H – локальный сдвиг мембранного потенциала за счет поступления внешнего воздействия; C – удельная емкость мембраны; q[P(t)] – проводимость мембраны участка аксона.
Экспериментально установлено, что если мембранный потенциал P(t) остается ниже некоторой пороговой величины П, то проводимость мембраны практически не меняется. Однако в те моменты времени, когда под влиянием внешних раздражителей H потенциал P(t) достигает величины порога П, электрически управляемые белки открывают свои шлюзы, что приводит к резкому изменению проводимости мембран. Аналитически данное обстоятельство можно выразить следующим образом:
где qK(t) – переменная проводимость мембраны по отношению к ионам калия; qNa(t) – переменная проводимость мембраны по отношению к ионам натрия.
Однако ввиду того, что аксон является составной частью клетки, а его мембрана является клеточной мембраной, вполне убедительно мнение о возможности распространении этой теории на нейрон в целом, и в частности, на аксонный холмик, где осуществляется запуск потенциала действия.
При таком подходе в качестве правой части уравнения (1) можно использовать не только локальный сдвиг мембранного потенциала H, но и внутриклеточный потенциал V(t), формируемый за счет синаптических процессов в дендритном дереве и соме нейрона. Наиболее распространенная математическая модель данного процесса представляет собой алгебраическую сумму произведений всех входных потенциалов действия на соответствующие синаптические веса:
где Vвхj(t) – выходной потенциал действия, поступающий на j-й синапс; N – количество синаптических контактов нейрона; j – вес j-го синапса.
Если синапс возбуждающий, то соответствующий ему весовой коэффициент имеет положительный знак, в противном случае - отрицательный. Абсолютная величина этого коэффициента учитывает эффективность синапса (размеры синаптического контакта, место его расположения на дендрите или соме, расстояние от аксонного холмика и т. п.).
Учитывая отмеченные обстоятельства, математическую модель электрической активности нервных клеток, отражающую их информационную деятельность, можно представить в следующем виде:
В принципе модель (4) может быть использована для построения искусственных нейронов и нейронных сетей. Однако ее техническая реализация существенно затруднена нелинейным характером уравнения (1).
С целью преодоления этой трудности воспользуемся соотношением (2) и представим уравнение (1) в виде совокупности двух выражений, а именно линейного уравнения подпороговых изменений мембранного потенциала P(t)-п 0 и надпорогового процесса формирования потенциала действия в виде функции f(t), аппроксимирующей форму спайка:
где ti – моменты возникновения спайков, т. е. те моменты времени t, при которых выполняется нестрогое равенство P(t)- п 0.
В качестве кривой, форма которой близка к форме нервного импульса, может служить график хорошо известной в теории связи функции вида:
где T – период синусоидальной зависимости, стоящей в числителе.
Учитывая свойства функции f(t), нервный импульс можно описать следующим образом:
где ti – моменты времени, определяющие начало генерации очередных нервных импульсов (i=0, 1, 2,...); Vи - амплитуда нервного импульса; tи –длительность нервного импульса.
При вычислении моментов ti необходимо воспроизводить в модели абсолютную и относительную рефрактерность нервных клеток. Суть абсолютной рефрактерности заключается в том, что во время tи генерации спайка нейрон абсолютно невозбудим для приходящих в это же время входных воздействий, а в последующий период относительной рефрактерности возбудимость нейрона хотя и затруднена, но принципиально возможна.
С целью моделирования рефрактерности введем такой переменный во времени порог t максимальное значение и которого в моменты ti нарушает условие возбуждения и удерживает нейрон некоторое время в абсолютно невозбудимом состоянии, после чего tпостепенно возвращается к величине п в соответствии с уравнением
где постоянная времени мембраны нервной клетки; п – порог покоя; м – максимально возможное значение порога.
Условие возбуждения нейрона примет следующий вид:
P(t) - (t) 0 (7)
С учетом отмеченных обстоятельств получаем следующую математическую модель информационных процессов в нервной клетке:
Первое уравнение системы (8) воспроизводит процесс пространственной суммации возбуждающих и тормозных входных воздействий Vвх(t), поступающих в момент времени t на все синаптические контакты нейрона. Второе уравнение моделирует процесс входной суммации входных воздействий в области аксонного холмика и отражает кумулятивные свойства нейрона. Третье, четвертое и пятое соотношения описывают процесс генерации спайков с учетом условия возбуждения нейрона (7), его рефрактерности и формы генерируемых импульсов.
Рассмотренная модель (8) довольно точно отражает современные нейрофизиологические представления об информационной деятельности нервных клеток. Кроме того, она проще исходной модели (4), поскольку не содержит нелинейного уравнения (1). Все это позволяет использовать ее в качестве основы для построения искусственных нейронов и нейронных сетей, воспроизводящих подпороговые и надпороговые процессы спайковой активности с учетом формы нервных импульсов. Воспроизведение рефрактерности и формы спайков, в свою очередь, весьма актуально при организации биоуправляемых экспериментов, поскольку организация таких экспериментов предполагает согласование входных и выходных параметров сопрягаемых естественных и искусственных нейронов. Однако в случае моделирования информационных процессов в сетях взаимосвязанных интернейронов, которые не должны взаимодействовать с естественными нейронами, алгоритм (8), а также реализующий его искусственный нейрон могут быть существенно упрощены.
Так, с целью упрощения модели (8) прежде всего, учтем тот экспериментально установленный факт, что ни амплитуда нервных импульсов, ни их форма не участвуют в кодировании информации, передаваемой от клетки к клетке. Следовательно, без ущерба для информационной адекватности модели (8) ее биологическому прототипу спайк Vвых(t) можно аппроксимировать не функцией (5), а более простым прямоугольным импульсом e(t) единичной амплитуды и длительности, равной tи. Очевидно, что при этом как сама модель, так и ее технический аналог заметно упрощается.
Далее учтем и то, что единственным достоверно установленным на сегодняшний день информативным параметром выходных спайков является величина их межимпульсных интервалов, т. е. частота следования нервных импульсов в функции от величины возбуждения нервной клетки.
Таким образом, в качестве выходных величин нервных клеток следует рассматривать не сами спайки и, естественно, не аппроксимирующие их сигналы прямоугольной формы e(t), а частоты их следования, которые в свою очередь отражают степень возбуждения нейрона в каждый момент непрерывного времени t. Более того, выходная функция Z(t) нейрона может быть представлена при этом либо в виде частоты следования сигналов e(t), либо непосредственно в виде аналоговых величин или цифровых кодов, отражающих степень возбуждения нервной клетки. При таком подходе три последних уравнения математической модели (8) можно заменить одним уравнением следующего типа:
Z(t) = max{0, k[P(t) - п]}, (9)
где Z(t) – частота, пропорциональная возбуждению P(t) - п нейрона либо кодирующая ее аналоговая или цифровая величина; k – коэффициент пропорциональности; max{0, k[P(t) - п]} – функция, выделяющая те интервалы изменения P(t), на которых справедливо нестрогое равенство P(t)п.
Очевидно, что если функция (9) является выходной, то для взаимосвязанных и взаимодействующих нейронов значения Z(t) должны служить и в качестве входных. Обозначая входные величины как xj(t), представим алгоритм информационных процессов в нервной клетке в виде более простой, чем (8), но эквивалентной ей математической модели:
где xj(t) – аналог интенсивности входных воздействий, поступающих на j-й вход нейрона с синаптическим весом j; V(t) – аналог потенциала, характеризующего суммарное входное воздействие, получаемое в результате пространственной суммации; P(t) – аналог мембранного потенциала нейрона; п – аналог постоянного порогового потенциала нервной клетки; =1/; =ki ; ki – коэффициент пропорциональности при V(t); Zmax - максимально возможное значение Z(t), определяемое абсолютной рефрактерностью моделируемой клетки.
Вводя в систему (10) обозначение возбудимости нейрона в виде функции
y(t) = P(t) – п, (11)
получим идеализированную математическую модель информационных процессов в нервной клетке, которая имеет следующий вид:
где п; j(t) – синаптический вес, величина которого может изменяться во времени под воздействием внешних факторов, например из-за аксо-аксонных взаимодействий.
Как и в модели (8), первое уравнение системы (12) описывает процесс пространственной суммации входных воздействий, но не в форме единичных спайков, а в более общей форме величин, имеющих смысл мгновенных частот их следования. Второе уравнение описывает закон изменения возбудимости нейрона y(t), а третье – определяет процесс формирования выходных величин, характеризующих текущее возбуждение нервной клетки.
Математическую модель (12) можно использовать для построения нейроподобных элементов и цифровых нейропроцессоров.
3.Что такое нейрокомпьютер.
Нейрокомпьютеры - это системы, в которых алгоритм решения задачи представлен логической сетью элементов частного вида - нейронов с полным отказом от булевских элементов типа. И, ИЛИ, НЕ. Как следствие этого введены специфические связи между элементами, которые являются предметом отдельного рассмотрения. В отличие от классических методов решения задач нейрокомпьютеры реализуют алгоритмы решения задач, представленные в виде нейронных сетей. Это ограничение позволяет разрабатывать алгоритмы, потенциально более параллельные, чем любая другая их физическая реализация.
Нейросетевая тематика является междисциплинарной, что обусловило значительные разночтения в общих терминологических подходах. Нейросетевой тематикой занимаются как разработчики вычислительных систем и программисты, так и специалисты в области медицины, финансово-экономические работники, химики, физики и т.п. (т.е. все кому не лень). То, что понятно физику, совершенно не принимается медиком и наоборот - все это породило многочисленные споры и целые терминологические войны по различным направлениям применения всего где есть приставка нейро-.
Приведем некоторые наиболее устоявшиеся определения нейрокомпьютера
|
№ |
Научное направление |
Определение нейровычислительной системы |
|
1 |
Математическая статистика |
Нейрокомпьютер - это вычислительная система автоматически формирующая описание характеристик случайных процессов или их совокупности, имеющих сложные, зачастую многомодальные или вообще априори неизвестные функции распределения. |
|
2 |
Математическая логика |
Нейрокомпьютер - это вычислительная система алгоритм работы которой представлен логической сетью элементов частного вида - нейронов, с полным отказом от булевых элементов типа И, ИЛИ, НЕ. |
|
3 |
Пороговая логика |
Нейрокомпьютер - это вычислительная система, алгоритм решения задач в которой представлен в виде сети пороговых элементов с динамически перестраиваемыми коэффициентами и алгоритмами настройки, независимыми от размерности сети пороговых элементов и их входного пространства |
|
4. |
Вычислительная техника |
Нейрокомпьютер - это вычислительная система с MSIMD архитектурой, в которой процессорный элемент однородной структуры упрощен до уровня нейрона, резко усложнены связи между элементами и программирование перенесено на изменение весовых коэффициентов связей между процессорными элементами. |
|
5. |
Медицина (нейробиологический подход) |
Нейрокомпьютер - это вычислительная система представляющая собой модель взаимодействия клеточного ядра, аксонов и дендридов, связанных синаптическими связями (синапсами) (т.е. модель биохимических процессов протекающих в нервных тканях). |
|
6. |
Экономика и финансы |
Устоявшегося определения нет, но чаще всего под нейровычислителем понимают систему обеспечивающую параллельное выполнение “бизнес”-транзакций. |
В дальнейшем под нейрокомпьютером будем понимать вычислительную систему с архитектурой MSIMD, в которой реализованы два принципиальных технических решения: упрощен до уровня нейрона процессорный элемент однородной структуры и резко усложнены связи между элементами; программирование вычислительной структуры перенесено на изменение весовых связей между процессорными элементами.
Общее определение нейрокомпьютера может быть представлено в следующем виде:
Нейрокомпьютер - это вычислительная система с архитектурой аппаратного и программного обеспечения, адекватной выполнению алгоритмов, представленных в нейросетевом логическом базисе.
История нейрокомпьютеров
Нейрокомпьютеры – это ЭВМ нового поколения, качественно отличающиеся от других классов вычислительных систем параллельного типа тем, что для решения задач они используют не заранее разработанные алгоритмы, а специальным образом подобранные примеры, на которых учатся. Их появление обусловлено объективными причинами: развитие элементной базы, позволяющее на одной плате реализовать персональный компьютер – полнофункциональный компьютер (модель нейрона), и необходимость решения важных практических задач, поставленных действительностью. Попытки создания ЭВМ, моделирующих работу мозга, предпринимались ещё в 40-х гг. специалистами по нейронной кибернетике. Они стремились разработать самоорганизующиеся системы, способные обучаться интеллектуальному поведению в процессе взаимодействия с окружающим миром, причём компонентами их систем обычно являлись модели нервных клеток. Однако зарождавшаяся в это же время вычислительная техника и связанные с нею науки, особенно математическая логика и теория автоматов, оказали сильное влияние на области исследования, связанные с мозгом.
К концу 50-х гг. сформировался логико-символьный подход к моделированию интеллекта. Его развитие создало такие направления, как эвристическое программирование и машинный интеллект, и способствовало угасанию интереса к нейронным сетям. К началу 80-х гг. были созданы условия для возрождения интереса к нейросетевым моделям. Это было связано с накоплением новых данных при экспериментальных исследованиях мозга.
К настоящему времени сформировался обширный рынок нейросетевых продуктов. Подавляющее большинство продуктов представлено в виде моделирующего программного обеспечения. Ведущие фирмы разрабатывают также и специализированные нейрочипы или нейроплаты в виде приставок персональным ЭВМ. Наиболее ярким прототипом супернейрокомпьютера является система обработки аэрокосмических изображений, разработанная в США по программе «Силиконовый мозг». Объявленная производительность супернейрокомпьютера составляет 80 PFLOPS (80∙1015 операций с плавающей точкой в 1 с) при физическом объёме, равном объёму человеческого мозга, и потребляемой мощности 20 Вт.
В июле 1992 г. в Японии была принята Пятая Программа (действующая и поныне), связанная с созданием координационного исследовательского центра по реализации международного проекта Real World Computing Partnership (RWCP), основной целью которого являлась разработка практических методов решения реальных задач на основе гибких и перспективных информационных технологий.
В настоящее время в рамках развития этого проекта создана трансконтинентальная сеть на базе гетерогенной вычислительной среды, объединяющей Суперкомпьютерный центр в Штутгарте (Германия), Компьютерный центр в Питсбурге (шт. Пенсильвания), Электротехническую лабораторию в Тшукубе (Япония), Компьютерный центр в Манчестере (Великобритания), в которой часть пользовательских компьютеров выполнена по нейросетевой технологии. Пиковая производительность образованного сверхсуперкомпьютера составила 2.2 TFLOPS.
Считается, что теория нейронных сетей, как научное направление, впервые была обозначена в классической работе МакКаллока и Питтса[1] 1943 г., в которой утверждалось, что, в принципе, любую арифметическую или логическую функцию можно реализовать с помощью простой нейронной сети. В 1958 г. Фрэнк Розенблатт [2] придумал нейронную сеть, названную перцептроном, и построил первый нейрокомпьютер Марк-1. Перцептрон был предназначен для классификации объектов. На этапе обучения “учитель” сообщает перцептрону к какому классу принадлежит предъявленный объект. Обученный перцептрон способен классифицировать объекты, в том числе не использовавшиеся при обучении, делая при этом очень мало ошибок. Примерно в это же время вышла работа Минского и Пейперта[3], указавшая ограниченные возможности простейшего перцептрона. Результаты Минского и Пейперта погасили энтузиазм большинства исследователей, особенно тех, кто работал в области вычислительных наук.
С начала 80-х годов ИНС вновь привлекли интерес исследователей, что связано с энергетическим подходом Хопфилда[4] и алгоритмом обратного распространения для обучения многослойного перцептрона (многослойные сети прямого распространения), впервые предложенного Вербосом[5]. При этом важную роль сыграли работы группы PDP (Parallel Distributed Processing) . В них рассматривались нейронные сети, названные многослойными перцептронами, которые оказались весьма эффективными для решения задач распознавания, управления и предсказания. (Многослойные перцептроны занимают ведущее положение, как по разнообразию возможностей использования, так и по количеству успешно решенных прикладных задач .)
4. Преимущества нейрокомпьютеров.
По сравнению с обычными компьютерами нейрокомпьютеры обладают рядом преимуществ.
Во первых — высокое быстродействие, связанное с тем, что алгоритмы нейроинформатики обладают высокой степенью параллельности.
Во вторых — нейросистемы делаются очень устойчивыми к помехам и разрушениям.
В третьих — устойчивые и надежные нейросистемы могут создаваться из ненадежных элементов, имеющих значительный разброс параметров.
5. Недостатки нейрокомпьютеров.
Несмотря на перечисленные выше преимущества эти устройства имеют ряд недостатков:
1. Они создаются специально для решения конкретных задач, связанных с нелинейной логикой и теорией самоорганизации. Решение таких задач на обычных компьютерах возможно только численными методами.
2. В силу своей уникальности эти устройства достаточно дорогостоящи.
7. Практическое применение нейрокомпьютеров.
Несмотря на недостатки, нейрокомпьютеры могут быть успешно использованы в различных областях народного хозяйства.
— Управление в режиме реального времени: самолетами, ракетами и технологическими процессами непрерывного производства (металлургического, химического и др.);
— Распознавание образов: человеческих лиц, букв и иероглифов, сигналов радара и сонара, отпечатков пальцев в криминалистике, заболеваний по симптомам (в медицине) и местностей, где следует искать полезные ископаемые (в геологии, по косвенным признакам);
— Прогнозы: погоды, курса акций (и других финансовых показателей), исхода лечения, политических событий (в частности результатов выборов), поведения противников в военном конфликте и в экономической конкуренции;
— Оптимизация и поиск наилучших вариантов: при конструировании технических устройств, выборе экономической стратегии и при лечении больного.
Этот список можно продолжать, но и сказанного достаточно для того, чтобы понять, что нейрокомпьютеры могут занять достойное место в современном обществе.
Заключение.
Нейронные сети возникли из исследований в области искусственного интеллекта, а именно, из попыток воспроизвести способность биологических нервных систем обучаться и исправлять ошибки. Такие системы основывались на высокоуровневом моделировании процесса мышления на обычных компьютерах. Скоро стало ясно, чтобы создать искусственный интеллект, необходимо построить систему с похожей на естественную архитектурой, т. е. перейти от программной реализации процесса мышления к аппаратной. Естественным продолжением аппаратного и программного подхода к реализации нейрокомпьютера является программно-аппаратный подход. Аппаратный подход связан с созданием нейрокомпьютеров в виде нейроподобных структур (нейросетей) электронно-аналогового, оптоэлектронного и оптического типов. Для таких компьютеров разрабатываются специальные СБИС (нейрочипы). Основу нейросетей составляют относительно простые, в большинстве случаев - однотипные, элементы (ячейки), имитирующие работу нейронов мозга - искусственные нейроны. Нейрон обладает группой синапсов - однонаправленных входных связей, соединенных с выходами других нейронов, а также имеет аксон - выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов. Каждый синапс характеризуется величиной синаптической связи или ее весом, который по физическому смыслу эквивалентен электрической проводимости в электрических связях. Для решения отдельных типов задач существуют оптимальные конфигурации нейронных сетей. Если же задача не может быть сведена ни к одному из известных типов, разработчику приходится решать сложную проблему синтеза новой конфигурации. При этом он руководствуется несколькими основополагающими принципами: возможности сети возрастают с увеличением числа ячеек сети, плотности связей между ними и числом слоев нейронов. Одной из важных особенностью нейронной сети является возможность к обучению. Обучение нейросети может вестись с учителем или без него. В первом случае сети предъявляются значения как входных, так и желательных выходных сигналов, и она по некоторому внутреннему алгоритму подстраивает веса своих синаптических связей. Во втором случае выходы нейросети формируются самостоятельно, а веса изменяются по алгоритму, учитывающему только входные и производные от них сигналы. После обучения на достаточно большом количестве примеров можно использовать обученную сеть для прогнозирования, предъявляя ей новые входные значения. Это важнейшее достоинство нейрокомпьютера, позволяющие ему решать интеллектуальные задачи, накапливая опыт.
Список используемой литературы:
1. А.Горбань, Д. Россиев. Нейронные сети на персональном компьютере. //Новосибирск: Наука, 1996.
2. Ф.Уоссермен, Нейрокомпьютерная техника, М., Мир, 1992.
3. Итоги науки и техники: физические и математические модели нейронных сетей, том 1, М., изд. ВИНИТИ, 1990.
4. http://therocker.narod.ru/doc/neuro.htm#comp1
5. http://www.bmstu.ru
6. http://neurnews.iu4.bmstu.ru
7. http://www.module.ru.
2. Реферат на тему- Життя і творчість Катрі Гриневичевої 1895 1947 Катря Гриневичева належить до того
3. Джерела екологічного права
4. на тему- Экологоэкономическое обоснование внедрения системы очистки воздуха в цехе литья пластмасс
5. на тему - Вивчення обрядівсвят та звичаїв рідного краю Відомості про інформатора
6. Неоднородная Вселенная Николай Левашов Неоднородная Вселенная Иллюстрации и редакция 20
7. Полит социализация личности
8. Миопия высокой степени, прогрессирующее течение
9. Реформы Столыпина и анализ причин их краха
10. реферат дисертації на здобуття наукового ступеня кандидата економічних наук17
11. 33 ВСТАНОВЛЕННЯ УМОВ ПОВЕРХНЕВОГО ТРІЩИНОУТВОРЕННЯ ПРИ ЦИКЛІЧНОМУ ДЕФОРМУВАННІ СТАЛЕЙ ЕНЕРГЕТИ
12. Тарас Григорьевич Шевченко
13. тепловой обработке на уработку на монтаж Ниже в таблицах приведены рекомендуемые прибавки к детской
14. Едесса а люди її знали як місто багате на воду
15. Исковая давность
16. Маркетинговая среда фирмы Маркетинговая среда фирмы это совокупность активных субъектов и сил действую
17. Реферат- Розничный товарооборот.html
18. 00 в Новосибирской государственной филармонии Красный проспект 32 состоится итоговый Слет организаторов па
19. Макроэкономика Задача 1
20. Особенности развития познавательной, личностной и эмоционально-волевой сферы детей с нарушенным зрением