Основной список математических тем для машинного обучения и глубокого обучения.

Взаимосвязь между ИИ и математикой можно описать следующим образом:

Человек, работающий в области искусственного интеллекта, не знающий математики, похож на политика, не умеющего убеждать. У обоих есть неизбежная область для работы!

Я не буду больше тратить время на важность изучения математики для ИИ и сразу перейду к основной цели этой статьи.

Популярная рекомендация по изучению математики для ИИ звучит примерно так:

  • Изучите линейную алгебру, вероятность, многомерное исчисление, оптимизацию и несколько других тем
  • А еще есть список курсов и лекций, которым можно следовать, чтобы добиться того же.

Хотя описанный выше подход совершенно хорош, я лично считаю, что есть другой подход, который лучше подходит, особенно для людей, 1) не имеющих солидного количественного опыта и 2) не имеющих времени на прохождение всех обязательных курсов математики. То есть:

Вместо того, чтобы переходить по темам, выбирайте темы.

Например, изучая многомерное исчисление, вы встретите знаменитую теорему Стокса, но окажется, что велика вероятность того, что она не принесет вам немедленной пользы на практике и даже при чтении научных статей. Таким образом, изучение предметов (курсов) может занять много времени, и вы можете потеряться в бескрайнем море математики.

Я рекомендую вам:

  • переходите по темам, сначала изучите основные концепции, объедините их
  • И только потом переходите к другим концепциям, когда вы сталкиваетесь с ними при практическом применении и чтении литературы.

Вот список основных тем по каждому предмету:

Линейная алгебра

  • Определение векторов
    , скаляры, сложение, скалярное умножение, внутреннее произведение (скалярное произведение), проекция вектора, косинусное сходство, ортогональные векторы, нормальные и ортонормированные векторы, векторная норма, векторное пространство, линейная комбинация, линейный диапазон, линейная независимость, базисные векторы
  • Матрицы
    определение, сложение, транспонирование, скалярное умножение, умножение матриц, свойства умножения матриц, произведение Хадамара, функции, линейное преобразование, определитель, единичная матрица, обратимая матрица и обратная, ранг, след, популярный тип матриц - симметричный, диагональная, ортогональная, ортонормированная, положительно определенная матрица
  • Собственные значения и собственные векторы
    понятие, интуиция, значимость, как найти
  • Принципиальный компонентный анализ
    понятие, свойства, применение
  • Разложение по сингулярным значениям
    понятие, свойства, применение

Исчисление

  • Функции
  • Скалярная производная
    определение, интуиция, общие правила дифференцирования, цепное правило, частные производные
  • Градиент
    понятие, интуиция, свойства, производная по направлению
  • Векторное и матричное исчисление
    как найти производную {скалярной, векторной} функции по {скаляру, вектору} - ›четыре комбинации - якобиан
  • Алгоритмы градиента
    локальные / глобальные максимумы и минимумы, седловая точка, выпуклые функции, алгоритмы градиентного спуска - пакетный, мини-пакетный, стохастический, сравнение их производительности

Вероятность

  • Основные правила и аксиомы
    события, пространство выборки, частотный подход, зависимые и независимые события, условная вероятность
  • Случайные переменные - непрерывные и дискретные, математическое ожидание, дисперсия, распределения - совместные и условные
  • Теорема Байеса, MAP, MLE
  • Популярные распределения - биномиальное, бернуллиевское, пуассоновское, экспоненциальное, гауссовское.
  • Сопряженные приоры

Разное

  • Теория информации - энтропия, кросс-энтропия, KL-дивергенция, взаимная информация.
  • Цепь Маркова - определение, матрица переходов, стационарность

На какие источники подписаться?
Любой источник, который вам подходит, будь то видео на YouTube или классический учебник.
Если вы не уверены, выполните простой поиск в Google по каждой теме [‹название темы› + «машинное обучение»] и прочтите верхние ссылки, чтобы лучше понять.

Список может показаться длинным, но он может сэкономить вам много времени. Чтение приведенных выше тем придаст вам уверенности, чтобы погрузиться в глубокий мир ИИ и исследовать больше самостоятельно.

Если вам понравилась статья, подписывайтесь на меня Абхишек Парбхакар, чтобы увидеть больше статей, связанных с ИИ, философией и экономикой.