LSTM означает Long Short-Term Memory в сообществе машинного обучения. Но я попытаюсь объяснить с точки зрения непрофессионала, имея в виду длительный краткосрочный брак.
Чтобы избежать взрыва или исчезновения чувствительности вашей супружеской жизни, можно успешно использовать LSTM или любой вариант LSTM, который может предсказать реакцию вашего супруга на ответный диалог, который вы бросили, при условии, что у вас много таких разговоров с супругом в вашей жизни. разум.
Ответ (h) Прогноз:
Реакция вашего супруга зависит от двух вещей:
- Вывод логической единицы мозга вашего супруга (o)
- Психическое состояние вашего супруга ©
Математически это можно выразить так:
- ч = о . танх(C)
Помните, что диапазон функции танх составляет от -1 до +1, что означает, что психическое состояние вашего супруга даже может полностью изменить логический вывод.
Вывод (о):
Логический вывод вашего супруга зависит от трех вещей:
- Ваш диалог (x)
- Последний ответ вашего супруга (h_)
- Предвзятый термин (bo)
Первый и самый важный вклад будет сделан вашим диалогом (x). Итак, тщательно выбирайте свой диалог на протяжении всей супружеской жизни. Это единственный вклад, который вы можете внести в жизнь LSTM.
Разговоры не изолированы. Это связано с последним разговором, который вы сделали, который также зависит от предыдущего, и так далее. Как-то приходится рассматривать историю разговора в упрощенном виде и рассматривать последнюю. Итак, вторым по важности фактором является последний ответ вашего супруга (h_).
Но, наконец, всегда есть некоторая предвзятость (bo), которую вы должны учитывать.
Математически это можно выразить так:
- o = Sigma(Wox . x + Woh . h_ + bo)
Помните, что диапазон сигма-функции от 0 до 1. Таким образом, логический вывод всегда положительный. Wox, Woh, и bo — это некий параметр в мозгу вашего супруга, который следует определить.
Психическое состояние вашего супруга ©:
Из первого уравнения, вероятно, вы поняли, насколько важно понимать психическое состояние вашего супруга, которое может даже иметь возможность обратить логический вывод вспять.
Текущее психическое состояние состоит из двух компонентов:
- Последнее психическое состояние (C_) с некоторым фактором забывания (f).
- Дополнительное психическое состояние (C~) из-за вашего диалога с каким-то входным фактором (i).
Математически это можно выразить так:
- C = f . C_ + i . C~
Дополнительное психическое состояние вашего супруга (C~):
Опять же, наиболее важным вкладом будет ваш диалог (x).
И, второй по важности фактор, это последний ответ вашего супруга (h_).
Всегда есть некоторое смещение (bc).
Математически это можно выразить так:
- C~ = tanh(Wcx . x + Wch . h_ + bc)
Помните, что диапазон функции танх составляет от -1 до 1. Таким образом, дополнительное психическое состояние из-за вашего диалога может быть как положительным, так и отрицательным. Wcx, Wch, и bc — это некий параметр в мозгу вашего супруга, который следует определить.
Исходные данные (i):
Опять же, наиболее важным вкладом будет ваш диалог (x).
И, второй по важности фактор, это последний ответ вашего супруга (h_).
Всегда есть некоторая предвзятость (bi).
Математически это можно выразить так:
- i = сигма (Wix . x + Wih . h_ + bi)
Помните, что диапазон сигма-функции составляет от 0 до 1. Таким образом, входной коэффициент будет действовать как шкала. Как и раньше, Wix, Wih, и bi — это некий параметр в мозгу вашего супруга, который необходимо определить.
забыть (f):
Опять же, наиболее важным вкладом будет ваш диалог (x).
И, второй по важности фактор, это последний ответ вашего супруга (h_).
Всегда есть какая-то предвзятость (bf).
Математически это можно выразить так:
- f = sigma(Wfx . x + Wfh . h_ + bf)
Опять же, диапазон сигма-функции составляет от 0 до 1. Таким образом, фактор забывания также будет действовать как шкала. Опять же, Wfx, Wfh, и bf — это некоторые параметры в мозгу вашего супруга, которые следует определить.
Параметры:
В приведенной выше формулировке показано, что если вы знаете следующие параметры мозга вашего супруга, вы можете предсказать реакцию вашего супруга:
- вывод: Wox, Woh, bo
- Дополнительно: Wcx, Wch, bc
- ввод: Wix, Wih, bi
- забудьте: Wfx, Wfh, bf
Обучение:
Более двенадцати наборов параметров можно узнать из набора данных диалогов-ответов из вашей прошлой супружеской жизни с использованием некоторого алгоритма обучения, где для каждого такого разговора или партии разговоров вы будете принимать свое неправильное суждение и корректировать параметры. Здесь неверная оценка — это разница между ожидаемой реакцией и реальной реакцией. Лучший алгоритм обучения - это алгоритм, основанный на градиенте, при условии, что вы можете рассчитать градиент ошибочной оценки в отношении таких параметров, которые нужно настроить, и в чем заключается красота LSTM.
Другие варианты LSTM
- Если вы хотите добавить доступное психическое состояние при расчете ввода (i), забыть (f) или вывести (o).
- Дополнительное условие, такое что ввод (i) + забывание (f) = 1,0
- Вы можете воспользоваться помощью гуру (ГРУ)
Кредиты: Ответ Дебипрасада Гоша на Quora
