Учебное пособие. — М.: Энергия, 1973. — 597 с.
В пособие включены три раздела математических основ кибернетики
(они же составляют три структурные части книги): "Математическая
статистика", "Теория информации и кодирования" и "Методы
оптимизации".
Данное пособие сформировалось в результате чтения курсов лекций в Московском инженерно-физическом институте в течение 1963- 1972 гг. студентам старших курсов, а также работникам промышленных предприятий.
Учебное пособие предназначено для студентов специальности "Прикладная математика", оно также может быть использовано при подготовке инженеров по специальности "Автоматизированные системы управления". Предисловие
Введение в кибернетику (общие сведения)
Истоки кибернетики
Основные черты кибернетики
Методы кибернетики
Кибернетика и вычислительные машины
Специальные и прикладные вопросы кибернетики
Структура кибернетики
Математическая статистика
Предельные теоремы теории вероятностей
Закон больших чисел
Теорема Чебышева
Теорема Маркова
Теорема Бернулли
Центральная предельная теорема
Центральная предельная теорема для одинаково распределенных случайных величин
Теорема Муавра - Лапласа
Теория оценок
Оценка математического ожидания и дисперсии
Приближенные методы определения доверительных интервалов для оценок математического ожидания и дисперсии
Точные методы построения доверительных интервалов
Определение доверительных интервалов для вероятности
Оценки для характеристик стационарных случайных процессов
Оценки первого и второго моментов
Оценка спектральной плотности случайного стационарного процесса
Элементы статистического анализа совокупности случайных величин
Метод наименьших квадратов
Элементы корреляционного и регрессионного анализа
Проверка статистических гипотез
Понятие статистического ряда и гистограммы
Критерии согласия
Проверка статистических гипотез
Свойства критерия Неймана-Пирсона
Последовательный критерий Вальда
Сравнение последовательной и классической процедур
Применение вычислительных машин для исследования случайных величин и процессов
Общая характеристика метода Монте-Карло
Получение последовательности случайных чисел
Точность метода Монте-Карло
Примеры расчетов по методу Монте-Карло
Теория информации и кодирования
Сигнал
Примеры сигналов. Модели сигнала
Частотные свойства сигнала (теорема Котельникова)
Элементы квантовой теории информации
Передача сообщения квантами информации
Количество информации и энтропия сообщений
Комбинаторное определение количества информации по Хартли
Вероятностное определение количества информации по Шеннону
Понятие энтропии
Понятие энтропии при наличии связей между элементами
Термодинамическая и информационная энтропии
Энтропия непрерывных сообщений
Экстремальные свойства энтропии непрерывных сообщений
Энтропийная мощность непрерывных сообщений
Изменение дифференциальной энтропии при линейной фильтрации
Передача сообщений по каналу связи
Понятие относительной информации
Пропускная способность каналов связи
Понятие избыточности сообщения
Некоторые вопросы помехоустойчивости
Метод накопления
Метод фильтрации периодического сигнала в шумах
Корреляционный метод приема
Общая теория помехоустойчивости
Теория кодирования
Примеры кодов
Оптимальный код Шеннона - Фено
Корректирующие коды
Корректирующие коды Хэмминга
Геометрическая интерпретация корректирующих кодов
Групповые коды
Некоторые вопросы обработки информации с помощью ЦВМ
Понятие тезауруса информационной системы
Модель передачи информации, использующая тезаурусы
Информационно-поисковые системы
Представления данных на машинных носителях
Организация массивов информации
Структура записи информационных массивов
Представление информации о структуре массива
Роль запоминающей среды при организации массивов
Математическое обеспечение в системах автоматизированной обработки данных (САОД)
Структурные методы преобразования информации
Основные операторы
Схемы документооборота
Часть третья. Методы оптимизации
Общие сведения о методах оптимизации
О системном подходе при оптимизации
О критериях оптимизации
Критерий среднего квадрата ошибки
Интегральный критерий
Критерий максимального быстродействия
Критерий минимума стоимости функционирования системы в единицу времени
Критерий минимума критического времени выполнения работы
Минимаксный критерий
Классификация методов оптимизации
Методы классического вариационного исчисления
Уравнение Эйлера
Условие Лежандра
Задача с подвижными концами
Условие трансверсальности
Задача на условный экстремума
Обобщенная задача Лагранжа. Задачи Майера и Больца
Задача с ограничениями в классическом вариационном исчислении
Вырожденные функционалы
Каноническая форма уравнений Эйлера
Прямые методы вариационного исчисления
Метод Ритца
Метод Эйлера (метод конечных разностей)
Непрерывный принцип максимума Понтрягина
получение уравнений принципа максимума из уравнений Гамильтона-Эйлера
Порядок решения частных задач с помощью принципа максимума
Решение задач оптимального быстродействия методом фазовой плоскости
Непрерывное динамическое программирование
Принцип оптимальности
Функциональное уравнение Беллмана
Дифференциальное уравнение Беллмана
Динамическое программирование и принцип максимума
Геометрическая интерпретация динамического программирования
Оптимизация дискретных процессов управления
Дискретное динамическое программирование как численный метод решения непрерывных задач оптимизации
Задача о кратчайшем пути
Задача о критическом пути
Задача распределения ресурсов
Транспортная задача
Блок-схема вычислительного процесса для динамического программирования
Формальный математический аппарат
Эффективность динамического программирования
Задачи планирования
Стохастические задачи динамического программирования
Модель много шагового процесса управления
Дискретный принцип максимума Понтрягина
Решение транспортной задачи с помощью дискретного принципа максимума
Прямые методы отыскания экстремума функции
Особенности одномерного поиска
Пассивный поиск
Последовательный поиск
Метод дихотомии
Метод Фибоначчи
Метод золотого сечения
Поиск по дискретным точкам
Метод рандомизации
Особенности многомерного поиска
Случайный поиск
Метод исключения касательными
Градиентный метод
Метод Ньютона
Метод секущих
Овражный метод
Методы отыскания экстремума в условиях помех
Линейное программирование
Математическая формулировка задачи
Рассмотрение прикладных задач
Транспортная задача
Задача о рациональном питании
Задача об использовании ресурсов
Задача о загрузке транспорта
Геометрическая интерпретация задач линейного программирования
Решение задач линейного программирования симплекс-методом
Формализованная симплекс-таблица
Прямая и двойственная задачи линейного программирования
Предварительные сведения
Некоторые свойства взаимно двойственных задач
Теорема двойственности
Двойственный симплекс-метод
Общая теория симплекс-метода с позиции линейной алгебры
Выбор исходного допустимого решения
Нелинейное программирование
Классификация методов нелинейного программирования
Особенности задач нелинейного программирования
Классические методы определения экстремума функции
Задача на абсолютный экстремум
Задача на условный экстремум
Минимаксная трактовка задачи на условный экстремум функции
Выпуклое программирование
Теорема Куна-Таккера
Квадратичное программирование
Метод Баранкина и Дорфмана
Алгоритм
Вычислительная схема
Градиентные методы
Метод допустимых направлений Зойтендейка
Целочисленное программирование
Особенности задач целочисленного программирования
Нелинейное и целочисленное программирование
Примеры задач целочисленного программирования
Задача планирования перевозок
Задача о назначении
Задача о коммивояжере (бродячем торговце)
Задача о покрытии
Задача планирования
Методы отсечения
Общая идея методов отсечения
Первый алгоритм Гомори
Комбинаторные методы
Решение задач целочисленного программирования с помощью динамического программирования.
Метод ветвей и границ
Другие методы оптимизации
Приложения
Список литературы
Данное пособие сформировалось в результате чтения курсов лекций в Московском инженерно-физическом институте в течение 1963- 1972 гг. студентам старших курсов, а также работникам промышленных предприятий.
Учебное пособие предназначено для студентов специальности "Прикладная математика", оно также может быть использовано при подготовке инженеров по специальности "Автоматизированные системы управления". Предисловие
Введение в кибернетику (общие сведения)
Истоки кибернетики
Основные черты кибернетики
Методы кибернетики
Кибернетика и вычислительные машины
Специальные и прикладные вопросы кибернетики
Структура кибернетики
Математическая статистика
Предельные теоремы теории вероятностей
Закон больших чисел
Теорема Чебышева
Теорема Маркова
Теорема Бернулли
Центральная предельная теорема
Центральная предельная теорема для одинаково распределенных случайных величин
Теорема Муавра - Лапласа
Теория оценок
Оценка математического ожидания и дисперсии
Приближенные методы определения доверительных интервалов для оценок математического ожидания и дисперсии
Точные методы построения доверительных интервалов
Определение доверительных интервалов для вероятности
Оценки для характеристик стационарных случайных процессов
Оценки первого и второго моментов
Оценка спектральной плотности случайного стационарного процесса
Элементы статистического анализа совокупности случайных величин
Метод наименьших квадратов
Элементы корреляционного и регрессионного анализа
Проверка статистических гипотез
Понятие статистического ряда и гистограммы
Критерии согласия
Проверка статистических гипотез
Свойства критерия Неймана-Пирсона
Последовательный критерий Вальда
Сравнение последовательной и классической процедур
Применение вычислительных машин для исследования случайных величин и процессов
Общая характеристика метода Монте-Карло
Получение последовательности случайных чисел
Точность метода Монте-Карло
Примеры расчетов по методу Монте-Карло
Теория информации и кодирования
Сигнал
Примеры сигналов. Модели сигнала
Частотные свойства сигнала (теорема Котельникова)
Элементы квантовой теории информации
Передача сообщения квантами информации
Количество информации и энтропия сообщений
Комбинаторное определение количества информации по Хартли
Вероятностное определение количества информации по Шеннону
Понятие энтропии
Понятие энтропии при наличии связей между элементами
Термодинамическая и информационная энтропии
Энтропия непрерывных сообщений
Экстремальные свойства энтропии непрерывных сообщений
Энтропийная мощность непрерывных сообщений
Изменение дифференциальной энтропии при линейной фильтрации
Передача сообщений по каналу связи
Понятие относительной информации
Пропускная способность каналов связи
Понятие избыточности сообщения
Некоторые вопросы помехоустойчивости
Метод накопления
Метод фильтрации периодического сигнала в шумах
Корреляционный метод приема
Общая теория помехоустойчивости
Теория кодирования
Примеры кодов
Оптимальный код Шеннона - Фено
Корректирующие коды
Корректирующие коды Хэмминга
Геометрическая интерпретация корректирующих кодов
Групповые коды
Некоторые вопросы обработки информации с помощью ЦВМ
Понятие тезауруса информационной системы
Модель передачи информации, использующая тезаурусы
Информационно-поисковые системы
Представления данных на машинных носителях
Организация массивов информации
Структура записи информационных массивов
Представление информации о структуре массива
Роль запоминающей среды при организации массивов
Математическое обеспечение в системах автоматизированной обработки данных (САОД)
Структурные методы преобразования информации
Основные операторы
Схемы документооборота
Часть третья. Методы оптимизации
Общие сведения о методах оптимизации
О системном подходе при оптимизации
О критериях оптимизации
Критерий среднего квадрата ошибки
Интегральный критерий
Критерий максимального быстродействия
Критерий минимума стоимости функционирования системы в единицу времени
Критерий минимума критического времени выполнения работы
Минимаксный критерий
Классификация методов оптимизации
Методы классического вариационного исчисления
Уравнение Эйлера
Условие Лежандра
Задача с подвижными концами
Условие трансверсальности
Задача на условный экстремума
Обобщенная задача Лагранжа. Задачи Майера и Больца
Задача с ограничениями в классическом вариационном исчислении
Вырожденные функционалы
Каноническая форма уравнений Эйлера
Прямые методы вариационного исчисления
Метод Ритца
Метод Эйлера (метод конечных разностей)
Непрерывный принцип максимума Понтрягина
получение уравнений принципа максимума из уравнений Гамильтона-Эйлера
Порядок решения частных задач с помощью принципа максимума
Решение задач оптимального быстродействия методом фазовой плоскости
Непрерывное динамическое программирование
Принцип оптимальности
Функциональное уравнение Беллмана
Дифференциальное уравнение Беллмана
Динамическое программирование и принцип максимума
Геометрическая интерпретация динамического программирования
Оптимизация дискретных процессов управления
Дискретное динамическое программирование как численный метод решения непрерывных задач оптимизации
Задача о кратчайшем пути
Задача о критическом пути
Задача распределения ресурсов
Транспортная задача
Блок-схема вычислительного процесса для динамического программирования
Формальный математический аппарат
Эффективность динамического программирования
Задачи планирования
Стохастические задачи динамического программирования
Модель много шагового процесса управления
Дискретный принцип максимума Понтрягина
Решение транспортной задачи с помощью дискретного принципа максимума
Прямые методы отыскания экстремума функции
Особенности одномерного поиска
Пассивный поиск
Последовательный поиск
Метод дихотомии
Метод Фибоначчи
Метод золотого сечения
Поиск по дискретным точкам
Метод рандомизации
Особенности многомерного поиска
Случайный поиск
Метод исключения касательными
Градиентный метод
Метод Ньютона
Метод секущих
Овражный метод
Методы отыскания экстремума в условиях помех
Линейное программирование
Математическая формулировка задачи
Рассмотрение прикладных задач
Транспортная задача
Задача о рациональном питании
Задача об использовании ресурсов
Задача о загрузке транспорта
Геометрическая интерпретация задач линейного программирования
Решение задач линейного программирования симплекс-методом
Формализованная симплекс-таблица
Прямая и двойственная задачи линейного программирования
Предварительные сведения
Некоторые свойства взаимно двойственных задач
Теорема двойственности
Двойственный симплекс-метод
Общая теория симплекс-метода с позиции линейной алгебры
Выбор исходного допустимого решения
Нелинейное программирование
Классификация методов нелинейного программирования
Особенности задач нелинейного программирования
Классические методы определения экстремума функции
Задача на абсолютный экстремум
Задача на условный экстремум
Минимаксная трактовка задачи на условный экстремум функции
Выпуклое программирование
Теорема Куна-Таккера
Квадратичное программирование
Метод Баранкина и Дорфмана
Алгоритм
Вычислительная схема
Градиентные методы
Метод допустимых направлений Зойтендейка
Целочисленное программирование
Особенности задач целочисленного программирования
Нелинейное и целочисленное программирование
Примеры задач целочисленного программирования
Задача планирования перевозок
Задача о назначении
Задача о коммивояжере (бродячем торговце)
Задача о покрытии
Задача планирования
Методы отсечения
Общая идея методов отсечения
Первый алгоритм Гомори
Комбинаторные методы
Решение задач целочисленного программирования с помощью динамического программирования.
Метод ветвей и границ
Другие методы оптимизации
Приложения
Список литературы