На данный момент у нас есть основное представление о том, что такое глубокое обучение, это искусственные нейроны, соединенные вместе в виде сети, которая обеспечивает глубокое понимание между данными и их выходными данными.

В этой главе мы рассмотрим основы нейронной сети.

Что такое (искусственная) нейронная сеть?

Согласно Википедии,

Нейронная сеть — это сеть или цепь нейронов, или, в современном понимании, искусственная нейронная сеть, состоящая из искусственных нейронов или узлов.

Нейронная сеть обладает следующими свойствами.

1. Входной слой
2. Некоторые скрытые слои (могут различаться соответственно)
3. Выходной слой
4. Функция активации
5. Веса, смещения и параметры

1. Входной слой

Этот слой отвечает и предназначен для получения информации из нашего набора данных. Здесь не выполняются никакие вычисления, и его основная функция заключается в передаче информации следующему скрытому слою. Обычно существует ровно один входной слой, и он может содержать столько узлов, сколько данных мы хотим найти для корреляции.

2. Скрытый слой

Эти слои отвечают за вычисления, и почти все вычисления выполняются на этих скрытых слоях. Обычно их больше одного, и термин «глубокий» соответствует большему количеству скрытых слоев. Чем больше количество скрытых слоев, тем выше сложность, которую он обнаруживает среди входных и выходных данных. Но это не означает, что это всегда увеличивает общую производительность, поэтому рекомендуется попробовать другое количество скрытых слоев, прежде чем завершать архитектуру.

3. Выходной слой

Это слой, который обеспечивает вывод для наших входных данных. Мы можем или не можем применить функцию активации на этом уровне, в зависимости от требований к выходу. Как и входной слой, у нас есть только один выходной слой для каждой нейронной сети.

4. Функция активации

Основная роль этой функции заключается в преобразовании входных данных узла в выходные данные. Существует несколько функций активации, таких как Linear, Sigmoid, Relu, TanH, и какую из них выбрать, зависит от применения нашей нейронной сети.

5. Веса и смещения

а. Масса

Это мера того, насколько конкретный вклад способствует получению результата. Когда мы говорим, что обучаем нейронную сеть, мы имеем в виду настройку наших весов таким образом, чтобы минимизировать количество плохих (читай НЕПРАВИЛЬНЫХ) результатов и максимизировать хорошие (читай ПРАВИЛЬНЫЕ) результаты. Он представлен в виде числа (десятичная с плавающей запятой). Чем больше значение веса, тем больше вероятность того, что конкретный вход имеет большую ценность. Каждому соединению назначается вес, если мы обратимся к рисунку, изображающему нейронную сеть выше, мы увидим, что у него 18 соединений, и, следовательно, у него будет 18 весов для настройки.

б. Предубеждения

Предвзятость также похожа на вес, она помогает быть гибкой в ​​сети. Как и вес, его также можно регулировать в соответствии с соотношением вход-выход. Интуиция, стоящая за предвзятостью, заключается в том, что некоторые функции по умолчанию имеют большую ценность, чем другие. Предвзятость помогает повысить их ценность, чтобы наша нейронная сеть обучалась быстрее. Мы можем или не можем использовать предвзятость при создании нейронной сети. Поскольку смещение добавляется в самый последний момент расчета, это помогает сместить функцию активации влево или вправо, что может помочь нам при обучении нейронной сети. Смещение назначается для каждого нейрона, кроме входных нейронов, если мы обратимся к рисунку, изображающему нейронную сеть выше, мы увидим, что она имеет 3 скрытых нейрона и 1 выходной нейрон, поэтому у нас будет всего 4 смещения здесь.

в. Параметры

Параметры — это общее количество «вещей» (читай как сумма весов и смещений), которые нейронная сеть должна обновлять после каждого цикла обучения, чтобы максимизировать общее количество правильных выходов. В приведенном выше сценарии у нас всего 22 параметра, сводка которых показана на рисунке ниже.

Хотите узнать больше?

Я предлагаю эту статью от Mate Labs. Он содержит всю терминологию, необходимую для глубокого обучения. Мы также рассмотрим большинство тем, когда столкнемся с ними.

https://hackernoon.com/everything-you-need-to-know-about-neural-networks-8988c3ee4491