Воронцов К.В. Лекции по алгоритмам восстановления регрессии

2007. — 37 с. Содержание
Восстановление регрессии
Метод наименьших квадратов
Непараметрическая регрессия: ядерное сглаживание
Метод наименьших квадратов и формула Надарая–Ватсона
Выбор ядра и ширины окна
Проблема выбросов: робастная непараметрическая регрессия
Проблема краевых эффектов
Многомерная линейная регрессия
Нормальная система уравнений
Сингулярное разложение
Стандартизация данных
Проблема мультиколлинеарности
Гребневая регрессия
Лассо Тибширани
Линейная монотонная регрессия
Метод главных компонент
Метод ортогонализации Грама-Шмидта
Робастная регрессия
Нелинейные обобщения линейной регрессии
Нелинейная модель регрессии
Нелинейные одномерные преобразования признаков
Обобщённые линейные модели
Неквадратичные функции потерь
Логистическая регрессия
Обоснование логистической регрессии
Итерационный взвешенный МНК
Оценивание рисков
Кривая ошибок и выбор порогового параметра α₀
Скоринг