Я взял абзац ниже из https://www.reddit.com/r/statistics/comments/51fw5f/variational_vs_mcmc_strengths_and_weaknesses/
Вот основное различие между MCMC и VB. Обычно VB является более быстрым методом вывода, когда размер данных, безусловно, велик, тогда вы можете использовать более масштабируемый метод для вывода чего-либо.
Однако мне интересно, что «теперь MCMC является второстепенным методом, который не следует использовать..?». Поэтому я попытался найти какую-нибудь статью, объясняющую это.
Первый ответ, который я нашел, ниже.
«MCMC работает, потому что, если у вас есть правильная вероятность, вы в конечном итоге получите точное апостериорное распределение, вплоть до ошибки Монте-Карло и любого смещения начального значения, которое стремится к нулю при достаточном количестве розыгрышей.
VB, с другой стороны, вы не совсем уверены, что получите. В вариационном байесовском алгоритме среднего поля алгоритм будет сходиться очень быстро и обычно имеет довольно хорошую оценку центральной области массы для каждого маргинального распределения. К сожалению, он предполагает независимость параметров и не очень хорошо улавливает хвосты каждого маргинала».
