Линейная алгебра для машинного обучения, как мука для выпечки: каждая модель машинного обучения основана на линейной алгебре, так как каждый торт основан на муке (но модель ML - это не только Линейная алгебра, им тоже нужны исчисления, вероятности и оптимизация).

ПОЧЕМУ ЛИНЕЙНАЯ АЛГЕБРА ??

Линейная алгебра за счет использования матриц и векторов позволяет нам выполнять большое количество вычислений более эффективным способом, используя более простой код с помощью библиотеки линейной алгебры (такой как NumPy). Линейная алгебра связывает переменные (зависимые переменные, независимые переменные и целевые переменные) математическим соотношением.

Векторы

Векторы - это упорядоченные конечные списки чисел. Это тип математического объекта, в котором мы можем выполнять математические операции для получения другого объекта того же типа (вектора). Вектор - это особый случай матрицы, которая имеет только 1 столбец, то есть матрицу (m x 1), также известную как вектор-столбец. Мы можем представить себе матрицу как группу векторов-столбцов или векторов-строк (матрица 1 x n).

Мы можем использовать векторы для представления атрибутов сущностей: возраста, баланса, пола, результатов тестов и т. Д. По соглашению мы обозначаем векторы строчными буквами.

Здесь x - это трехмерный вектор, имеющий по 1 элементу на каждом, или мы можем сказать его как матрицу 3 x 1. Таким образом, это элемент множества R ^ (3 x 1) или R³, так как это вектор. В python векторы индексируются 0, то есть первая запись в векторе - это 0-й элемент.

Этот фрагмент показывает, как мы можем развлекаться (выполнять разные операции) с векторами. такие как a + b результаты суммирования векторов a и b. И здесь «*» (оператор умножения) дает произведение скаляра на вектор.

Мы можем вспомнить линейную комбинацию как результирующую комбинацию математической операции «сложение» и «умножение» с вектором. т.е. ax + by = a [x1, x2] + b [y1, y2] = [[ax1 + ax2] [by1 + by2]], где x и y - векторы с соответствующими элементами.

Линейная зависимость и линейная независимость

Набор векторов является линейно зависимым, если хотя бы один вектор может быть получен как линейная комбинация других векторов в наборе. Другими словами, набор векторов {v1, v2, ..., vk} является линейно зависимым, если существуют числа x1, x2, x3,… xk, не все равны 0 в уравнении x1.v1 + x2.v2 + ··· + xk.vk = 0.

Набор векторов называется линейно независимым, если ни один вектор не может быть получен как линейная комбинация других векторов. Другими словами, набор векторов {v1, v2,…, vk} является линейно независимым, если векторное уравнение x1. v1 + x2.v2 + ··· + xk.vk = 0 имеет одно тривиальное решение, то есть x1 = x2 = x3 =…. = xk

Линейно зависимые векторы содержат избыточную информацию, а линейно независимые векторы - нет.

Матрицы

В машинном обучении матрицы так же фундаментальны, как и векторы. Матрица - это прямоугольный массив чисел. Эти числа заключены в квадратные скобки. Это двухмерный массив, состоящий из строк и столбцов.

С помощью векторов мы можем представлять отдельные переменные как наборы чисел или объектов. С помощью матрицы мы можем представлять наборы переменных или векторов.

Чтобы умножение матрицы на матрицу работало, количество столбцов в первой матрице «A» должно быть равно количеству строк во второй матрице «x». Результирующая матрица будет иметь форму (строки матрицы «A» и столбец матрицы «x»).

Транспонирование матрицы

Транспонирование матрицы означает, что строки этой матрицы становятся столбцами. Таким образом, первая строка матрицы A становится первым столбцом A ^ T (транспонированная матрица A), а вторая строка матрицы A становится вторым столбцом A ^ T. Таким образом, если матрица A является матрицей mxn, то ее транспонирование, или A ^ T, является матрицей nxm.

Рассмотрим матрицу A∈R³ * ². Транспонирование A обозначается как (A ^ T) ∈R² * ³.

Другими словами, мы получаем (A ^ T), переключая столбцы строками A.

Спасибо за прочтение!! 🙂

использованная литература

Пройдите Суть линейной алгебры для 3blue 1 коричневый https://www.youtube.com/playlist?list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab

Введение в прикладную линейную алгебру - векторы, матрицы и наименьшие квадраты http://vmls-book.stanford.edu/