Почему глубокое обучение повсюду

И почему так много науки о данных и искусственного интеллекта вращается вокруг нейронных сетей?

Глубокое обучение повсюду.

Но мало кто может объяснить, что это такое. Чем глубокое обучение отличается от машинного обучения? Или почему нейронные сети стали олицетворением искусственного интеллекта, хотя у нас было так много разных архитектур. Какова математическая причина, по которой исследователи ИИ масштабируют нейронные сети, а не логистическую регрессию?

Сегодня мы расскажем об этом. Даже если вы не занимаетесь машинным обучением, это поможет вам понять предысторию одной из самых важных областей в нашем обществе.

Важные детали

1. Что такое машинное обучение. Для тех из вас, кто абсолютно ничего не знает об этой области, вот объяснение ELI5. В машинном обучении мы передаем в модель много данных, и она пытается выявить закономерности. . Подача данных называется «обучением». В более математическом смысле, во время обучения нашей модели наша модель пытается найти функцию, соответствующую предоставленным ей данным.
2. Что такое глубокое обучение.Глубокое обучение — это часть машинного обучения. В нем мы используем нейронные сети (которые в основном представляют собой взвешенные графы) с большим количеством слоев. Однако есть одна загвоздка. Простые нейронные сети (даже очень большие) по-прежнему производят линейные функции. Это верно для большинства методов машинного обучения. Однако оказывается, что введение нелинейности меняет правила игры.
3. Подождите... Что такое линейность? Как график может быть линейным? Здесь я использую математическое определение линейной функции. Проще говоря, функция является линейной, если она удовлетворяет двум условиям:

Линейность достаточно важна как концепция, поэтому в понедельник я сделаю ей отдельный пост. Вы увидите, что эта концепция будет часто встречаться во всех областях статистики и инженерии.

4. Какое отношение это имеет к Deep Networks?Оказывается, мы можем аппроксимировать любую непрерывную функцию, взяв комбинацию нелинейных функций . Я подчеркиваю непрерывность, потому что многие люди неправильно понимают эту теорему, предполагая, что вы можете аппроксимировать любую функцию. На это ошибочное предположение было потрачено много времени, энергии и денег венчурного капитала. Очень большие глубокие сети работают, потому что они могут попробовать множество нелинейных функций и всевозможных их комбинаций.

5. Почему все используют глубокое обучение. Причина, по которой мы видим их повсюду, заключается в том, что людей привлекают новые блестящие объекты. А мы ленивы. Если у меня есть задача анализа данных, я могу использовать Deep Learning, чтобы получить какой-то результат, поэтому люди часто прибегают к ним, не задумываясь. И поскольку в наши дни это модно, нет вопросов о том, имеет ли смысл глубокое обучение. Весь смысл моего контента по машинному обучению заключается в том, чтобы подчеркнуть, что вы можете сделать множество вещей для улучшения анализа данных, которые не требуют дополнительных обучающих данных, больших глубинных сетей и дополнительного обучения.