Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
Предоплата всего
Подписываем
16. Эволюция правил обучения нейронных сетей: блок-схема, содержание этапов и шагов алгоритма.
Эволюция правил обучения
Известно, что для различных архитектур и задач обучения требуются различные алгоритмы обучения. Поиск оптимального (или почти оптимального) правила обучения, как правило, происходит с учетом экспертных знаний и часто - методом проб и ошибок. Поэтому весьма перспективным считается развитие автоматических методов оптимизации правил обучения нейронных сетей. Развитие человеческих способностей к обучению от относительно слабых до весьма сильных свидетельствует о потенциальной возможности применения эволюционного подхода в процессе обучения искусственных нейронных сетей.
Схема хромосомного представления в случае эволюции правил обучения должна отражать динамические характеристики. Статические параметры (такие как архитектура или значения весов сети) кодировать значительно проще. Попытка создания универсальной схемы представления, которая позволила бы описывать произвольные виды динамических характеристик нейронной сети, заведомо обречена на неудачу, поскольку предполагает неоправданно большой объем вычислений, требуемых для просмотра всего пространства правил обучения. По этой причине на тип динамических характеристик обычно налагаются определенные ограничения, что позволяет выбрать общую структуру правила обучения. Чаще всего устанавливается, что для всех связей нейронной сети должно применяться одно и то же правило обучения, которое может быть задано функцией вида
где t - время, Δw - приращение веса, Xij - так называемые локальные переменные, θi1i2...ik - вещественные коэффициенты.
Главная цель эволюции правил обучения заключается в подборе соответствующих значений коэффициентов θi1i2...ik.
Рис. 17. Блок-схема генетического алгоритма для поиска наилучшего правила обучения (случай эволюции правил обучения).
Большое количество компонентов уравнения может сделать эволюцию слишком медленной и практически неэффективной, поэтому в условия часто вводятся дополнительные ограничения, основанные на эвристических посылках. Блок-схема, иллюстрирующая эволюцию архитектур, представлена на рис. 17.
Представим типовой цикл эволюции правил обучения.