| Предисловие | 9 |
| Введение | 14 |
| |
| Раздел I. Многослойные нейронные сети | 23 |
| |
| Глава 1. Архитектура искусственных нейронных сетей | 23 |
| |
| 1.1. Биологический нейрон | 23 |
| 1.2. Базовый процессорный элемент (искусственный нейрон) | 29 |
| 1.3. Статические линейные однослойные сети | 30 |
| 1.4. Статические многослойные нейронные сети | 31 |
| 1.5. Нейронные сети с радиально-базисными функциями активации | 34 |
| 1.6. Динамические многослойные нейронные сети | 39 |
 1.6.1. Рекуррентные сети Хопфилда | 40 |
| 1.6.2. Многослойные нейронные сети с элементами задержки |
| во времени | 45 |
| 1.7. Свойства многослойных нейронных сетей | 48 |
| 1.7.1. Способность к обучению и накоплению информации | 48 |
| 1.7.2. Аппроксимационные свойства нейронных сетей | 50 |
| 1.7.3. Анализ аппроксимационных свойств нейронных сетей прямого |
| распространения | 51 |
| 1.7.4. Аппроксимация и память в многослойных нейронных сетях | 57 |
| |
| Глава 2. Алгоритмы обучения статических |
| многослойных нейронных сетей | 64 |
| |
| 2.1. Общая характеристика алгоритмов обучения искусственных |
| нейронных сетей | 64 |
| 2.2. Метод и алгоритм обратного распространения ошибки | 66 |
| 2.2.1. Настройка коэффициентов выходного слоя | 67 |
| 2.2.2. Настройка весовых коэффициентов скрытых слоёв |
| нейронной сети | 69 |
| 2.2.3. Алгоритм обучения многослойной нейронной сети по методу BP | 73 |
| 2.3. Дифференциальные уравнения процессов преобразования и обучения |
| многослойной нейронной сети по алгоритму BP | 76 |
| 2.4. Эквивалентное преобразование уравнений настройки многослойной |
| нейронной сети по алгоритму BP | 77 |
| 2.5. Анализ устойчивости процессов в многослойной нейронной сети | 83 |
| 2.5.1. Достаточное условие устойчивости процессов обучения |
| нейронной сети | 83 |
| 2.5.2. Устойчивость и качество непрерывных процессов обучения | 88 |
| 2.5.3. Устойчивость процессов в дискретные моменты времени | 91 |
| 2.6. Алгоритмы обучения многослойной нейронной сети в стохастической |
| среде | 98 |
| 2.7. Компьютерное исследование процессов в многослойной нейронной |
| сети | 104 |
| 2.7.1. Моделирование эквивалентной структурной схемы обучаемой |
| многослойной нейронной сети | 104 |
| 2.7.2. Выбор параметра γ, обеспечивающего устойчивость процессов |
| обучения нейронной сети при периодических воздействиях |
| с интегрируемыми производными по времени | 107 |
| 2.7.3. Выбор параметра γ, обеспечивающего сходимость обучения |
| нейронной сети при изменении эталонной функии u* | 111 |
| 2.7.4. Выбор параметра γ, обеспечивающего сходимость процессов |
| обучения при изменении структуры нейронной сети | 113 |
| |
| Глава 3. Динамические алгоритмы обучения |
| многослойных нейронных сетей | 116 |
| |
| 3.1. Синтез динамических алгоритмов обучения | 116 |
| 3.1.1. Возможные подходы к синтезу алгоритма обучения | 117 |
| 3.1.2. Постановка задачи синтеза динамического алгоритма | 118 |
| 3.1.3. Уравнение обобщённого настраиваемого объекта | 120 |
| 3.2. Скоростной алгоритм обратного распространения ошибки | 121 |
| 3.3. Условия применения метода скоростного градиента в нейросстевых |
| адаптивных системах управления | 125 |
| 3.4. Динамический алгоритм с прогнозом ошибки обучения | 130 |
| 3.5. Алгоритмы обучения динамических нейронных сетей | 136 |
| 3.5.1. Алгоритм обратного распространения ошибки во времени | 137 |
| 3.5.2. Алгоритм обратного распространения ошибки в структуре |
| обобщённого настраиваемого объекта | 141 |
| 3.5.3.Условия устойчивости процессов обучения многослойной |
| нейронной сети в составе обобщённого настраиваемого объекта | 143 |
| 3.5.4. Условие диссипативности нейросетевой системы управления | 145 |
| 3.5.5. Условия достижения наименьшего значения критерия обучения |
| многослойной нейронной сети | 147 |
| 3.5.6. Обучение рекуррентных сетей Хопфилда | 149 |
| 3.6. Примеры компьютерного моделирования | 149 |
| 3.6.1. Линейная система с многослойной нейронной сетью | 149 |
| 3.6.2. Нелинейная система с многослойной нейронной сетью | 154 |
| 3.6.3. Управление нелинейным объектом на основе алгоритма BPTT | 155 |
| |
| Раздел II. Структурный и алгоритмический синтез |
| нейросетевых систем управления | 158 |
| |
| Глава 4. Функциональные структуры нейросстевых |
| систем управления | 159 |
| |
| 4.1. Типовые модели динамических систем с многослойными нейронными |
| сетями | 159 |
| 4.1.1. Прямая модель обучения | 160 |
| 4.1.2. Схема обобщённого инверсного обучения | 161 |
| 4.1.3. Схема специализированного инверсного обучения | 162 |
| 4.2. Функциональные структуры систем управления с многослойными |
| нейронными сетями | 163 |
| 4.2.1. Система управления с прямой и инверсной моделями объекта |
| управления | 163 |
| 4.2.2. Адаптивная система управления с прямой и инверсной |
| моделями объекта управления | 164 |
| 4.2.3. Адаптивная система с прямой моделью обучения и эталонной |
| моделью системы | 165 |
| 4.2.4. Функциональные структуры систем управления с многослойными |
| нейронными сетями, настраиваемыми по алгоритмам SBP и BPP | 167 |
| 4.3. Методы синтеза нелинейных систем управления | 169 |
| 4.3.1. Метод аналитического синтеза агрегированных регуляторов | 169 |
| 4.3.2. Синтез регуляторов на основе нелинейного преобразования |
| координат | 171 |
| 4.3.3. Задача управления динамическим объектом в условиях |
| неопределённости | 173 |
| |
| Глава 5. Синергетический синтез нелинейных систем управления |
| с использованием многослойных нейронных сетей | 178 |
| |
| 5.1. Особенности нейросетевого управления | 178 |
| 5.2. Основные положения теории синергетического управления | 181 |
| 5.2.1. Формальная постановка задачи | 183 |
| 5.2.2. Задача асимптотической стабилизации | 184 |
| 5.2.3. Задача стабилизации от входа к вектору состояния | 193 |
| 5.3. Этапы синтеза систем управления с многослойными нейронными |
| сетями | 196 |
| 5.4. Синтез функций обобщённой ошибки обучения многослойной |
| нейронной сети | 199 |
| 5.5. Обобщённая структура нейросетевых систем управления, |
| построенная на основе метода AKAP | 201 |
| |
| Глава 6. Синтез агрегированных макронеременных | 203 |
| |
| 6.1. Процедура Tf,φ,α-преобразования | 203 |
| 6.2. Процедуры Tf,φ,α-преобразования специального вида | 207 |
| 6.3. Конструирование макропеременных из условия минимальных |
| энергозатрат на управление | 216 |
| 6.3.1. Синтез макропеременных для синергетических законов |
| управления | 217 |
| 6.3.2. Сравнительный анализ алгоритмов оптимального управления | 230 |
| 6.3.3. Адаптивное управление | 233 |
| |
| Глава 7. Аналитический синтез оптимальных законов управления |
| в нелинейных динамических системах | 237 |
| |
| 7.1. Постановка задачи аналитического синтеза нелинейных |
| агрегированных регуляторов на многообразиях и основные |
| определения | 237 |
| 7.2. Достаточное условие возможности синтеза единственного |
| агрегированного регулятора | 241 |
| 7.3. Необходимые и достаточные условия возможности синтеза |
| агрегированного регулятора для класса нелинейных объектов | 247 |
| 7.4. Огрубление агрегированных регуляторов | 249 |
| 7.5. Синтез агрегированных регуляторов в условиях неопределённости |
| математической модели объекта управления | 255 |
| 7.6. Примеры синтеза агрегированных регуляторов | 258 |
| |
| Глава 8. Адаптивное управление на многообразиях | 266 |
| |
| 8.1. Постановка задачи и стратегии адаптивного управления |
| на многообразиях | 266 |
| 8.2. Синтез алгоритмов адаптации | 273 |
| 8.3. Условия применимости алгоритмов адаптации | 274 |
| 8.4. Алгоритмы адаптации в случае квадратичного сопровождающего |
| функционала (алгоритмы КСФ) | 279 |
| 8.4.1. Синтез алгоритмов адаптации КСФ | 279 |
| 8.4.2. Условия применимости алгоритмов КСФ | 282 |
| 8.4.3. Идентифицирующие свойства алгоритмов КСФ | 287 |
| 8.4.4. Огрубление алгоритмов КСФ | 288 |
| 8.5. Синтез алгоритмов КСФ в случае нарушения условия выпуклости | 293 |
| 8.5.1. Подход к решению задачи синтеза алгоритмов адаптивного |
| управления в невыпуклых задачах | 297 |
| 8.5.2. Ослабление условий физической реализуемости алгоритмов |
| КСФ в невыпуклых задачах | 307 |
| 8.6. Примеры синтеза систем с алгоритмами адаптивного управления |
| на многообразиях | 314 |
| 8.6.1. Адаптивное управление скоростью вращения коленчатого вала |
| двигателя внутреннего сгорания | 314 |
| 8.6.2. Адаптивное управление космическим летательным аппаратом | 317 |
| |
| Раздел III. Синтез нейросетевых систем управления | 320 |
| |
| Глава 9. Синтез нейросетевых систем управления нелинейными |
| динамическими объектами с непрерывной математической |
| моделью | 320 |
| |
| 9.1. Методика синтеза нейросетевых систем управления | 320 |
| 9.1.1. Случай выполнения условий достижимости | 320 |
| 9.1.2. Анализ условий применимости процедуры обучения |
| многослойной нейронной сети в случае нарушения условий |
| достижимости | 327 |
| 9.2. Синтез адаптивной нейросетевой системы стабилизации | 330 |
| 9.2.1. Регулярная задача | 332 |
| 9.2.2. Критическая задача | 336 |
| 9.3. Сравнительный анализ методов синтеза нейросетевых систем |
| управления | 343 |
| 9.3.1. Метод AKAP | 343 |
| 9.3.2. Нейросетевая система управления | 345 |
| 9.4. Адаптивная система управления с многослойной нейронной сетью | 348 |
| 9.5. Синтез автоколебательной системы управления | 352 |
| |
| Глава 10. Примеры синтеза нейросетевых систем управления | 355 |
| |
| 10.1. Система управления скоростью вращения вала двигателя |
| внутреннего сгорания на холостом ходу | 355 |
| 10.1.1. Постановка задачи | 356 |
| 10.1.2. Синтез регулятора основного контура с астатизмом |
| нулевого порядка | 358 |
| 10.1.3. Синтез регулятора основного контура с астатизмом |
| 1-го порядка | 363 |
| 10.2. Синтез адаптивной системы управления скоростью вращения вала |
| двигателя в режиме холостого хода | 367 |
| 10.2.1 Синтез адаптивной системы управления идентификационного |
| типа | 367 |
| 10.2.2 Синтез системы прямого адаптивного управления скоростью |
| вращения вала двигателя внутреннего сгорания | 371 |
| 10.2.3. Синтез нейросетевой адаптивной системы управления |
| скоростью вращения вала двигателя на холостом ходу | 373 |
| 10.2.4. Компьютерное моделирование адаптивной системы управления |
| скоростью вращения вала двигателя | 375 |
| 10.3. Задача управления движением корабля на воздушной подушке |
| в аварийных ситуациях | 382 |
| 10.3.1. Аналитическое решение задачи | 384 |
| 10.3.2. Нейросетевое управление движением КВП | 394 |
| |
| Заключение | 399 |
| |
| Приложение 1. К анализу аппроксимационных свойств нейросетей | 401 |
| Приложение 2. К анализу устойчивости процессов обучения многослойных |
| нейронных сетей | 403 |
| Приложение 3. Скоростной алгоритм обратного распространения ошибки | 415 |
| Приложение 4. К условиям применения метода скоростного градиента |
| (теоремы 3.1, 3.2) и устойчивости процессов обучения многослойной |
| нейросети в составе обобщенного настраиваемого объекта |
| (теоремы 3.3, 3.5 и 3.6) | 418 |
| Приложение 5 | 425 |
| П5.1. К геометрическим свойствам динамических систем | 425 |
| П5.2. Устойчивость от входа к вектору состояния | 427 |
| П5.3. Доказательства лемм, теорем и их следствий в главе 5 | 433 |
| Приложение 6. К выбору макропеременных в задаче аналитического |
| синтеза нейросетевых систем управления | 436 |
| Приложение 7. К аналитическому синтезу нелинейных агрегированных |
| регуляторов | 444 |
| Приложение 8. Доказательства утверждений, лемм и теорем в главе 8 | 452 |
| Приложение 9. Доказательства теорем и следствий в главе 9 | 470 |
| |
| Литература | 472 |
