Пантелеев Е.Р. Методические указания для лабораторного практикума

Подождите немного. Документ загружается.

Рис. 3.7. Окно эксперимента

Задания

Имеется обучающая выборка, реализующая ту или иную

функциональную зависимость (в соответствии с заданием). Дан-

ные, составляющие обучающую выборку для каждого задания,

приведены в приложении. На предложенных данных создать и

обучить сеть, используя Neural Analyzer и описанные ниже на-

стройки обучения.

При обучении необходимо использовать следующие по-

стоянные настройки:

• Линейный тип

нормализации для исходных данных;

• Активационная функция нейрона – сигмоид;

• Разделение предложенной выборки на обучающее и тесто-

вое множество в пропорции 90% / 10%;

• Условие остановки обучения – достижение 5000 эпох;

Исследовать качество обучения в зависимости от следующих

настроек:

• Алгоритм обучения. Рассмотреть алгоритм обратного рас-

пространения ошибки (Back Propagation) и усовершенствован-

ный алгоритм (Resilient Propagation).

• Крутизна

сигмоиды. Рассмотреть два значения: по умолча-

нию (1) и существенно большее значение.

• Топология сети. Рассмотреть одну однослойную и одну мно-

гослойную сети, самостоятельно задав количество нейронов в

каждом слое.

По результатам исследования выбрать лучший вариант. На

нем провести эксперимент по предложенным в задании аргу-

ментам.

Задание 1

Обучающая выборка имитирует функциональную зави-

симость QUAD=ARG

и CUBE=ARG

. Эксперимент провести по

значениям ARG = -9; 2; 27; -30.

Задание 2

Обучающая выборка имитирует функциональную зави-

симость MULTI=M1*M2

и SUM=M1+M2. Эксперимент провести по

значениям M1,M2 = (0,2); (7,1); (10,12).

Задание 3

Обучающая выборка имитирует функциональную зави-

симость dev=M1/M2

и sub=M1-M2. Эксперимент провести по зна-

чениям M1,M2 = (0,2); (7,1); (10,12).

Задание 4

Обучающая выборка имитирует функциональную зави-

симость deg4=ARG

и sqrt=sqrt(ARG). Эксперимент провести по

значениям ARG = 9; 19; 28.

Отчет должен содержать:

• Параметры, характеризующие качество обученной нейронной

сети для каждого варианта.

• Выводы о характере влияния изменения каждой характери-

стики, сделанные на основании исследованных вариантов.

• Параметры и результаты работы на экспериментальных дан-

ных наилучшим образом обученной сети.

Вопросы для самоконтроля

• Области применения

нейронных сетей.

• Структура и функционирование искусственного нейрона.

• Каковы преимущества применения в качестве активационной

функции сигмоида?

• Каковы основные рекомендации для синтеза новой конфигу-

рации сети?

• От чего зависит сущность действий, которые способна вы-

полнять нейронная сеть?

• Что называется обучением нейронной сети? Какие парамет-

ры важны в

обучении?

• Опишите в самом общем виде процесс обучения НС с учите-

лем.

• Укажите особенности алгоритма обратного распространения

ошибки.

• Восстановите графически поученную нейронную сеть с ука-

занием весов синаптических связей.

РАБОТА 4. МЕТОДЫ ОБНАРУЖЕНИЯ ЛОГИЧЕСКИХ

ЗАКОНОМЕРНОСТЕЙ В ДАННЫХ

Краткая характеристика

Данные методы аппелируют к информации, заключенной

не только в отдельных признаках, но и в сочетаниях значений

признаков. Они вычисляют частоты комбинаций

простых логиче-

ских событий в подгруппах данных. На основании анализа вы-

численных частот делается заключение о полезности той или

иной комбинации для установления ассоциаций в данных, для

классификации, прогнозирования. Результаты работы данных

методов оформляются в виде так называемых Деревьев реше-

ний или правил типа «ЕСЛИ… ТО…». Популярность данного

подхода связана с

наглядностью и понятностью, проблемой же

логических методов обнаруженрия закономерностей является

проблема перебора вариантов за приемлемое время и поиск

оптимальной композиции предложенных правил.

Пример анализа

Лабораторная работа по нейронным сетям выполняется

на Tree Analyzer - программе, входящей в состав демонстраци-

онной версии аналитического пакета «Deductor». В качестве

примера попытаемся объяснить результаты голосования за рес-

публиканцев

и демократов от некоторых характеристик голо-

сующих.

Для начала работы необходимо сформировать элек-

тронную таблицу Excel, содержащую указанную обучающую вы-

борку. После этого можно подключиться к сформированному

источнику данных, выбрав пункт меню «Файл/Создать…». При-

мер подключения приведен на рис. 4.1.

Рис. 4.1. Настройка подключения к источнику данных

После подключения автоматически запускается мастер

построения дерева решений, который поможет выполнить все

необходимые шаги от настройки до построения дерева. Процесс

обучения состоит из 4 шагов, которые будут рассмотрены ниже.

Шаг 1: настойка полей. На данном этапе выбираются по-

ля, которые будут использованы для построения дерева. Для

нашего примера поле «CLASS» является целевым. Необходимо

заметить, что целевое поле может быть только одно, а его тип

может быть только дискретным. Остальные поля в нашем при-

мере являются входными (рис. 4.2).

Шаг 2: параметры дерева. Здесь необходимо определить

параметры, определяющие работу алгоритма построения дере-

ва решений. Для данного примера не будем использовать раз-

деление обучающего множества на обучающее

и тестовое, обу-

чение окнами и настраивать работу с пропущенными данными.

Настраивать будем следующие параметры:

• отсекать ветви – если отмечено, разрешает запуск специ-

ального алгоритма оптимизации, который, отсекая ветви, сдела-

ет дерево более компактным и простым для понимания;

• упрощать правила - если отмечено, разрешает запуск спе-

циального алгоритма оптимизации, который

, отсекая правила,

сделает логические конструкции более компактным и простым

для понимания;

• примеров в узле – задает минимальное количество приме-

ров, которое возможно в узле;

• уровень доверия – отражает желаемую точность алгоритма

(чем выше, тем «легче» алгоритм будет отсекать ветви и прави-

ла).

Варьируя данными параметрами, необходимо попытать-

ся найти

оптимальное сочетание простоты дерева с точностью

классификации. Убрав отсечение ветвей, упрощение правил и

установив параметр «примеров в узле» равным 1, можно полу-

чить максимально точное дерево, которое при этом будет до-

вольно сложным для интерпретации. Для нашего случая устано-

вим параметры в соответствии с рис. 4.3.

После ознакомления со всеми настроенными парамет-

рами дерева на шаге 3 можно приступить собственно к построе-

нию дерева решений. Соответствующее окно (рис. 4.4) содержит

автоматически масштабируемый график, где отображается ин-

формация о распознанных и нераспознанных примерах. Здесь

представлена также информация о количестве узлов и обрабо-

танных примерах. Нажав на кнопку «Готово» можно перейти к

анализу построенного дерева (рис. 4.5).

Рис. 4.2. Настройка полей

Рис. 4.3. Настройка параметров дерева

Рис. 4.4. Непосредственно построение дерева

Рис. 4.5. Сформированное дерево решений

Нажав на кнопку «Показать детали», можно получить

подробную информацию о полноте и точности сформированных

правил, соответствующих листам дерева решений. Так, прави-

ло, соответствующее выделенному листу является наименее

точным с ошибкой 5% (6 неправильно классифицированных

примеров из 123), а его полнота (плотность) составляет 41%

(объясняет 123 примера из 300 примеров обучающей выборки).

Список всех правил в виде

текстовых логических конст-

рукций можно получить по команде главного меню «Дере-

во/Извлечение правил» (рис. 4.6). Свойства всего дерева, харак-

теризующие его точность и сложность, доступны по команде

главного меню «Дерево/Свойства дерева» (рис. 4.7). Как видно,

исходные данные (300 наблюдений по 16 атрибутам) удалось

объяснить очень простым деревом решений, состоящим всего

из 6 узлов с

глубиной, равной двум, при крайне низкой ошибке

классификации. Здесь можно получить таблицу сопряженности,

которая показывает, каким образом классы были распределены

изначально и как те же классы распределились после обучения.

Рис. 4.6. Извлечение правил

Рис. 4.7. Свойства дерева

И наконец, по полученной модели можно провести клас-

сификацию новых примеров, воспользовавшись окном экспери-

мента (рис. 4.8). Оно позволяет, переходя по ветвям дерева, в

пошаговом режиме получать результат по новым данным.

Рис. 4.8. Окно эксперимента

Задания

Имеется обучающая выборка (в соответствии с задани-

ем), в которой представлены результаты исследования зависи-

мости целевого атрибута от ряда входных атрибутов. Данные,

составляющие обучающую выборку для каждого задания, при-

ведены в приложении. Воспользовавшись методом обнаружения

логических закономерностей в данных, необходимо построить

классификационную модель, объясняющую природу исследуе-

мого явления.

На первом

этапе построить дерево решений и сформи-

ровать набор правил, безошибочно объясняющих все примеры

из обучающей выборки. Варьируя параметрами пред- и посту-

прощения дерева и правил, добиться существенно более про-

стого дерева и набора правил, выявляющих самые существен-

ные закономерности в данных и при этом имеющих общую фак-

тическую ошибку классификации меньше предела, установлен-

ного заданием. Исследовать полученный окончательный вари-

ант дерева решений на предмет точности и полноты получаю-

щихся правил, выявив наилучший и наихудший вариант по обо-

им параметрам. По полученной модели классифицировать но-

вые представленные в задании примеры.

Задание 1

В обучающей выборке представлены результаты тести-

рования

учеников школ с гуманитарным и физико-

математическим уклоном. Воспользовавшись методом обнару-

жения логических закономерностей в данных, необходимо опре-

делить различия в структуре интеллекта «физиков» и «лири-

ков». Максимально допустимая ошибка классификации - 20%.

Новые примеры, подлежащие классификации:

Тест 1 Тест 3 Тест 4 Тест 5 Тест 7 Пол

17 14 18 11 8 Мужской

10 13 14 14 15 Женский

14 11 14 9 7 Женский

Задание 2

В обучающей выборке представлены результаты иссле-

дования агротехники различных опытных участков по возделы-

ванию риса. Воспользовавшись методом обнаружения логиче-

ских закономерностей в данных, необходимо выявить причины

низкой и высокой урожайности. Максимально допустимая ошиб-

ка классификации - 10%. Новые примеры, подлежащие класси-

фикации:

Предшест-

венник, бал-

лы

Кол-во

удобрений,

ц на 1 га

Прополка,

раз

Число дней

от залива

до сброса

воды

Число дней

от косовицы

до обмолота

2,9 1,5 1,1 110 10

3,2 1,4 1,3 115 12

3,4 1,3 1,3 105 11

Задание 3

В обучающей выборке представлены результаты диф-

ференциальной диагностики заболеваний почек. Воспользовав-

шись методом обнаружения логических закономерностей в дан-

ных, необходимо сконструировать дерево решений для предска-

зания диагностического класса объекта. Максимально допусти-

мая ошибка классификации - 15%. Новые примеры, подлежащие

классификации:

Пантелеев Е.Р. Методические указания для лабораторного практикума - Интеллектуальный анализ данных

Подождите немного. Документ загружается.