Мы разделяем философию линейной алгебры: мы думаем без базиса, мы пишем без базиса, но когда чипы заканчиваются, мы закрываем дверь офиса и вычисляем с матрицами, как ярость.

Ирвинг Каплански

Эта статья представляет собой путеводитель по обширной математической литературе, которая составляет основу современного машинного обучения. Я предполагаю, что у вас должны быть математические знания, охватывающие школьную математику и физику.

Линейная алгебра

Когда мы собираемся формализовать интуитивные понятия, первый шаг, который мы делаем, — это создание набора объектов (символов) и набора правил для манипулирования этими объектами. Это известно как «Алгебра». Линейная алгебра — это изучение векторов и определенных правил управления векторами. В общем, векторы — это специальные объекты, которые можно сложить и умножить на скаляры, чтобы получить другой объект того же типа. С математической точки зрения любой объект, удовлетворяющий этим двум свойствам, можно считать вектором. Примеры векторных объектов включают:

Геометрические векторы. Все мы хорошо знакомы с этими типами векторов из средней школы математики и физики.

Два геометрических вектора A и B можно сложить как A + B. Векторы также можно умножить на скаляр λA, где λ ϵ R (n-мерное пространство вещественных чисел). Интерпретация векторов как геометрических векторов позволяет нам использовать наши интуитивные представления о направлении и величине для рассуждений о математических операциях.

2. Полиномиальные векторы: два полинома можно сложить вместе, в результате чего получится еще один полином; их также можно умножить на скаляр λ ϵ R, и результат также будет многочленом. В то время как геометрические векторы — это конкретные рисунки, многочлены — это абстрактные понятия.

3. Звуковые сигналы. Эти векторы можно представить в виде ряда чисел. Мы можем добавить звуковые сигналы вместе, и в результате мы получим звуковой сигнал. Если мы масштабируем аудиосигнал, мы все равно получаем аудиосигнал. Следовательно, звуковые сигналы представляют собой особый тип векторов.

В этой и последующих статьях я сосредоточусь на конечномерном векторном пространстве, в котором существует соответствие 1:1 между любым типом вектора и n-мерным векторным пространством R.

Линейная алгебра играет важную роль в машинном обучении и прикладной математике. В последующих статьях более подробно будут объяснены следующие понятия, а именно:

  1. Системы линейных уравнений
  2. Матрицы
  3. Решение систем линейных уравнений
  4. Векторные пространства
  5. Линейная независимость
  6. Основа и ранг
  7. Линейные отображения
  8. Аффинное пространство.

Понимание интуиции, лежащей в основе математики большинства алгоритмов машинного обучения, необходимо для того, чтобы стать универсальным специалистом по науке о данных.