Часть 2: Mc Culloch-Pitts Neuron (MP Neuron)
Добро пожаловать обратно в серию статей о глубоком обучении. В этой статье мы подробно обсудим нейроны MP. Я также написал о приложениях для глубокого обучения, которые познакомят вас с некоторыми реальными приложениями. Так что, если вы не читали эту статью, вы можете перейти по ссылке ниже.
Человеческий мозг.В среднем человеческий мозг содержит около ¹⁰¹¹ нейронов (100 миллиардов)!
Нейроны соединяются друг с другом в соединениях, называемых синапсами. Каждый нейрон имеет около 7000 синаптических соединений с другими нейронами. В синапсе один нейрон посылает сообщение нейрону-мишени. Большинство синапсов являются химическими. Эти синапсы общаются с помощью химических мессенджеров. Другие синапсы электрические. В этих синапсах ионы текут непосредственно между клетками. В химическом синапсе пресинаптический нейрон запускает потенциал действия для высвобождения нейротрансмиттеров. Эти молекулы связываются с рецепторами на постсинаптической клетке и делают ее более вероятной для запуска потенциала действия.
Биологический нейрон. Нейрон — это такая же клетка, как и любая другая клетка тела, которая имеет код ДНК и производится так же, как и другие клетки. Большинство нейронов кодируют свои выходы или активации в виде серии коротких электрических импульсов (потенциалов действия). Дендриты – это рецептивные зоны, принимающие сигналы от других нейронов. Тело клетки нейрона обрабатывает входящие активации от дендритов и преобразует их в выходные активации. Аксоны передают выходную активацию другим нейронам. Синапсы обеспечивают взвешенную передачу сигналов (с использованием нейротрансмиттеров) между аксонами и дендритами для создания больших нейронных сетей. Рассмотрим приведенную ниже схему для лучшего понимания.
Если вам интересно, где мы используем концепцию нейронных сетей в реальной жизни, вы можете прочитать другую мою статью о приложениях нейронных сетей.
МП Нейрон: Теория
В 1943 году два инженера-электрика, Уоррен МакКаллох и Уолтер Питтс, описали то, что называется нейронной сетью. Нейрон Мак-Куллоха-Питтса также известен как нейрон МП. Оба нейрона Маккаллоха и Питтса представляют собой бинарное пороговое устройство.
Он суммирует входные данные (умноженные на синаптические силы или веса) и либо срабатывает (выдает результат 1), либо не срабатывает (выдает результат 0) в зависимости от того, превышает ли вход некоторый порог). Давайте обобщим это по пунктам для лучшего понимания. Используйте изображение ниже для лучшего понимания.
- Вывод → Логический (0,1)
- Входные данные → логическое значение (0,1)
- Веса равны единице
- У нас есть только один порог, который нужно изменить.
Попробуем понять это на примере.
Выход → «Если нам нужно узнать, насколько человек успешен?»
Входные данные → Факторами могут быть: IQ человека, характер человека, например, трудолюбивый человек или нет?
Веса → Мы присвоим веса каждому фактору в приведенном выше примере.
Другой пример может быть.
Выход → «Пойдешь ты в институт или нет?»
Входные данные → Факторы могут быть: COVID-19 может быть одной из причин. Но скажем, пандемии нет.
Вес → У каждого персонажа свой вес. Веса — это не что иное, как параметры. Если у вас экзамен в этот конкретный день в колледже, то вы придадите больше веса. Тогда как, если вы просто ленивы, вы будете придавать меньше значения своему вялому состоянию.
Внедрение AND Gate с помощью MP Neuron
Давайте теперь попробуем реализовать вентиль И, используя нейрон MP. Если вы видите приведенную ниже диаграмму, вы увидите таблицу истинности вентиля И. Здесь X1 и X2 — это входные данные или то, что вы называете функциями.
Все факторы и признаки не зависят друг от друга. Например, если у вас сегодня экзамен, а вы еще и ленивы. Это две независимые функции. Вышеупомянутая модель также может быть представлена пространством признаков (показано на диаграмме ниже).
Если вы посмотрите на эту диаграмму, в середине у нас есть таблица истинности для вентиля И. У нас есть x1 и x2 как функции. У нас есть один столбец для суммы (h) и один столбец для активации (значение = 1,5) вместе с выходным классом в качестве последнего столбца. Попробуйте сравнить ее со схемой слева.
Теперь попробуем провести линию в пространстве признаков. Обратитесь к диаграмме выше для лучшего понимания. Мы видим, что мы можем разделить два класса только тогда, когда функция активации равна 1,5.
Проблемы с MP-нейронами
Давайте теперь обсудим некоторые проблемы с MP-нейроном, с которыми мы сталкиваемся.
- Одинаковый (единичный) вес
- Фиксированные пороги →Мы увидели, что при активации = 1,5, тогда только когда мы можем разделить два класса. Кроме того, что будет на выходе, когда у нас будет жесткий порог, например 0 или 1?
- Как насчет недискретных и/или небинарных задач?
- Никаких реальных преимуществ перед любой обычной цифровой логической схемой.
- Не могу научиться (эти сети отображали какое-либо обучение?)
После всех этих дискуссий о реализации вентиля И с MP-нейроном мы можем сделать вывод, что MP-нейрон предназначен только для бинарной классификации.
Внедрение OR Gate с помощью MP Neuron
Вам также должно быть любопытно узнать, можем ли мы вообще реализовать вентиль ИЛИ с нейронами MP. Если да, то каким должен быть порог? Можете ли вы также провести линию принятия решения? На что похоже пространство признаков, если у нас есть 3 входа? Как вы представляете себе поверхность принятия решений?
Нужно ответить на множество вопросов. Давайте теперь посмотрим на реализацию вентиля ИЛИ ниже в этой статье.
Посмотрите таблицу истинности вентиля ИЛИ, упомянутую ниже, и попытайтесь подумать, каким должно быть значение функции активации, чтобы оба класса были разделены.
Приведенная выше таблица рассеет все ваши сомнения. Таким образом, отвечая на вопросы, например, каким будет пространство признаков с 3 входными данными, ответ будет трехмерным пространством признаков, а поверхностью принятия решений будет двумерная плоскость.
На приведенном выше рисунке посмотрите на 3D-плоскость с правой стороны. У нас есть 3 координаты X1, X2 и X3. Эти 3 координаты являются значениями признаков. Поскольку у нас есть 3 координаты, мы можем сказать, что наши логические входные данные — это X1, X2 и X3. Таким образом, у нас будет всего ²³=8 комбинаций.
Вопрос: входные данные → Если у нас есть n-мерные входные данные, какова будет размерность пространства признаков?
Ответ: «N-мерный». Размер гиперплоскости будет «N-1». Всего точек данных будет 2^N.
Заключение
Нейрон MP — это тип искусственного нейрона, который был предложен в 1943 году Уорреном МакКаллохом и Уолтером Питтсом. Он работает как двоичное пороговое устройство, в котором входные сигналы суммируются, а затем сравниваются с пороговым значением. Если сумма выше порога, нейрон MP выдает 1, в противном случае он выдает 0. Нейроны MP использовались при разработке нейронных сетей, но они имеют некоторые ограничения, включая использование фиксированных весов и пороги, и их неспособность выполнять определенные логические операции. Эти ограничения привели к разработке более совершенных моделей искусственных нейронов.
Если вы еще не подписаны на меня, пожалуйста, сделайте это. Перейдите по ссылке ниже для части 3 этой серии глубокого обучения. Я надеюсь увидеть вас снова в другом блоге о глубоком обучении. Следите за обновлениями!
