Является ли линейная регрессия тем же самым, что и обычный метод наименьших квадратов в SPSS?

Я хочу использовать модель линейной регрессии, но я хочу использовать обычный метод наименьших квадратов, который, как мне кажется, является разновидностью линейной регрессии. Я использую программное обеспечение SPSS. Он имеет только линейную регрессию, частичный метод наименьших квадратов и двухэтапный метод наименьших квадратов. Я понятия не имею, какой из них является обычным методом наименьших квадратов (МНК).


person user41000    schedule 22.11.2009    source источник


Ответы (2)


Да, хотя «линейная регрессия» относится к любому подходу к моделированию взаимосвязи между одной или несколькими переменными, МНК — это метод, используемый для нахождения простой линейной регрессии набора данных.

person Robert Jones    schedule 22.11.2009
comment
Линейная регрессия относится к любому подходу к моделированию ЛИНЕЙНОЙ связи между одной или несколькими переменными. Линейная регрессия МОЖЕТ быть выполнена с использованием OLS, как и другие НЕЛИНЕЙНЫЕ (и, следовательно, нелинейные регрессионные) модели. OLS — это метод оптимизации, часто применяемый при выполнении линейной регрессии. Однако это не единственный метод, и другие методы могут использоваться для линейной регрессии, так же как OLS также используется для НЕлинейных моделей. - person PBD10017; 27.08.2014
comment
@ PBD10017, что это за другие методы? - person Gaurav Sharma; 25.03.2020

Линейная регрессия — это обширный термин, который просто говорит, что мы находим взаимосвязь между зависимой и независимой переменной (переменными), независимо от того, какую технику мы используем.

OLS — это всего лишь один из методов линейной регистрации.

Скажем,

ошибка (e) = (наблюдаемое значение - прогнозируемое значение)

Наблюдаемые значения - синие точки на картинке

прогнозируемые значения - точки на линии (вертикально ниже наблюдаемых значений)

Вертикальные линии ниже представляют «е». Возводим их в квадрат -> складываем и получаем общую ошибку. И мы пытаемся уменьшить эту общую ошибку.

введите здесь описание изображения

Для OLS, как следует из названия (обычный метод наименьших квадратов), здесь мы уменьшаем сумму всех e^2, т.е. пытаемся сделать ошибку наименьшей.

person Brijesh    schedule 22.01.2021