ГЛУБОКОЕ ОБУЧЕНИЕ

Модель нейрона МП

Биологические нейроны

  • Дендриты должны принимать сигналы от других нейронов или органов чувств.
  • Синапсы - это сила взаимодействия двух нейронов.
  • Сома - это своего рода блок обработки, который берет на себя весь нейрон и выполняет какую-то обработку поверх него.

Искусственный нейрон

  • x1, x2 и x3 - входные данные, соответствующие дендритам в биологическом нейроне.
  • w1, w2 и w3 обозначают веса, соответствующие синапсу.
  • Круглая часть соответствует соме, а стрелка выхода соответствует аксону.

McCulloch-Pitts Neuron (MP Neuron)

  • Ранняя модель искусственного нейрона была представлена ​​Уорреном МакКаллохом (нейробиолог) и Уолтером Питтом (логиком) в 1943 году.
  • Нейрон Маккалока-Питтса также известен как линейный пороговый вентиль.

Модель

  • Входы могут быть только логическими.
  • Вывод может быть только логическим.
  • g объединяет входные данные, а f принимает решение на основе объединения.

Состояние

  • Как показано на рисунке выше, g принимает сумму всех входов, а f принимает g в качестве входных данных. И все это логические входы.
  • Здесь b - некоторый порог.

Данные и задача

  • В этом примере мы хотим, чтобы наша модель предсказывала, будет ли решение LBW или нет, на основе определенных факторов, таких как подача мяча в линию, его удар и это миссия по пням или попадание по пням.

Функции потерь

  • Потеря, как правило, является ошибкой, допущенной моделью во время прогнозирования, или это может быть разница между истинным и прогнозируемым значением.
  • Мы берем квадрат разницы между истинным и прогнозируемым значением, чтобы удалить отрицательный знак, который может возникнуть, если истинное значение равно 0, а прогнозируемое значение равно 1, поскольку у нас есть двоичный вывод в случае модели нейрона MP.

Примечание: у вас может возникнуть вопрос, почему мы не берем модуль значения, а причина в том, что значение модуля не может быть дифференцируемым, и мы узнаем позже, почему дифференцируемость важна.

Алгоритм обучения

  • Мы хотим, чтобы наша функция потерь была минимальной, поэтому мы хотим подставить значение b, а затем начать подавать входы один за другим, чтобы результат, который мы получаем, был таким же или близким к истинному значению.
  • В случае модели MP Neuron у нас может быть только один параметр, поэтому мы можем использовать технику поиска грубой силы, чтобы вычислить значение b.
  • Итак, представьте, что у нас есть n функций, поэтому значение b должно быть в диапазоне от 0 до n, b может иметь только дискретные значения, поскольку входные данные также являются дискретными значениями.

Оценка

  • Как наша модель будет работать с данными, которые она не видела раньше, или с данными тестирования.
  • Мы будем оценивать нашу модель нейрона MP на основе точности, которая равна количеству правильных прогнозов, деленному на общее количество. предсказания.

  • В приведенном выше примере точность тестового набора будет 3/4, что эквивалентно 75%.

Геометрия, лежащая в основе MP Neuron

  • Уравнение. строки: y = mx + c
  • Замените x на x1 и y на x2

=> x2 = mx1 + c

=> mx1 -x2 +c

  • Общая формула. строки можно записать как:

ax1 + bx2 +c = 0

  • На рисунке точки взяты как: a = 2, b = 1 и c = -2.

  • На этом рисунке (рисунок 2) мы видим две точки (1,2) и (-1,1)
  • Рассмотрим точку (1,2), подставив ее в уравнение, мы получим значение 2.
  • Если ax1 + bx2 + c ›0, то он находится над линией.
  • Если ax1 + bx2 + c ‹0, то он ниже линии.
  • Если ax1 + bx2 + c = 0, то он на линии.

Модель нейрона МП

Здесь мы загружаем набор данных о раке груди из scikit-learn и обучаем его с помощью модели MPNeuron.

Примечание: MPNeuron - это всего лишь базовая модель с одним параметром b, поэтому мы не сможем принять большую точность, чем то, что получили, если мы продвинемся вперед с некоторыми более продвинутыми моделями, такими как перцептрон, сигмовидный нейрон мы получаем лучшую точность.

Ссылки: