Регрессия: примечания к тематическому исследованию

By 李宏毅老师

2.1.1 Пример регрессии

Прогноз фондового рынка: f{исторические данные о ценах на акции} –> завтрашний промышленный индекс Доу-Джонса для этой акции.
Самоуправляемый автомобиль:f{какие препятствия обнаруживают цензоры} -› Угол наклона автомобиля регулируется (рулевое колесо)
Рекомендация: f{ пользователь, купивший товар a} -› возможность покупки товара b

2.1.2. Три этапа машинного обучения

Найдите модель (=набор функций)
Оцените функции
Выберите лучшую функцию

👇👇👇 Подробнее

Шаг 1. Модель

w и b — это параметры

x: атрибут input x -›feature

ж: вес

б: предвзятость

Шаг 2. Качество функционирования 拟合度

y hat: реальное точное значение

Функции потерь (L): оценка y на основе функции

ввод: функция, вывод: насколько это плохо

Шаги градиентного спуска

выбрать начальное значение, рассчитать вес
вычислить соответствующий наклон тангенса（切线斜率）

Оценка градиентного спуска

если наклон = отрицательный, увеличьте вес
если наклон = положительный, уменьшить вес
Резюме: Двигайтесь вперед в том направлении, где меньше потерь

2 параметра градиентного спуска

dw: чем острее dw (微分值:梯度越陡), тем больше размер шага

(red n) скорость обучения: чем больше скорость обучения, тем эффективнее/быстрее машина обучается

*локальный оптимум не лучший вариант (不是最优解)

*глобальный оптимальный – это лучший

*локальный оптимум не существует в линейной регрессии

Как результат? — Обобщение

Обобщение относится к способности вашей модели адаптироваться должным образом к новым, ранее неизвестным данным, взятым из того же распределения, котороеиспользовалось для создать модель.

Что нас действительно волнует, так это ошибка в новых данных (данные тестирования).

if avg(ошибка данных тестирования) › avg(ошибка данных обучения)

Как мы можем улучшить работу?

выбрать другую модель