Функции активации играют ключевую роль в построении модели машинного обучения, особенно при построении с использованием нейронной сети. Будь то многослойные персептроны, сверточные нейронные сети, рекуррентные нейронные сети и т. д. Функции активации используются повсеместно. Однако использование функции функции активации не является обязательным для построения модели. Вы можете построить сеть без него, но ваша модель будет не такой хорошей, а обучение правильной сходимости также..