- Сопряженные априорные модели метаобучения для малозаметной байесовской оптимизации (arXiv)
Автор:Рудуан Плуг
Аннотация:Байесовская оптимизация — это методология, используемая в статистическом моделировании, в которой используется априорное распределение Гаусса для итеративного обновления апостериорного распределения до истинного распределения данных. Поиск объективных информативных априорных значений для выборки является сложной задачей и может сильно повлиять на результат апостериорного распределения, если доступно лишь небольшое количество данных. В этой статье мы предлагаем новый подход к использованию метаобучения для автоматизации оценки информативных сопряженных априорных распределений с учетом класса распределения. В результате этого процесса мы генерируем априорные значения, которым требуется всего несколько данных для оценки параметров формы исходного распределения данных.
2. Класс сопряженных априорных моделей для полиномиальных пробит-моделей, включающий многомерную нормальную модель (arXiv)
Автор:Аугусто Фазано, Даниэле Дюранте
Аннотация: полиномиальные пробит-модели представляют собой регулярно реализуемые представления для изучения того, как вероятности класса категориальных данных ответа изменяются с p наблюдаемыми предикторами. Хотя было разработано несколько частотных методов для оценки, вывода и классификации в рамках такого класса моделей, байесовский вывод все еще отстает. Это связано с очевидным отсутствием поддающегося обработке класса сопряженных априорных значений, которые могут облегчить апостериорный вывод о полиномиальных пробит-коэффициентах. Такая проблема побудила активизировать усилия по разработке эффективных методов Монте-Карло с цепями Маркова, но современные решения по-прежнему сталкиваются с серьезными вычислительными узкими местами, особенно в больших размерностях. В этой статье мы показываем, что весь класс унифицированных косонормальных (SUN) распределений сопряжен с несколькими полиномиальными пробит-моделями. Используя этот результат и свойства SUN, мы улучшаем современные решения для апостериорного вывода и классификации как с точки зрения результатов в закрытой форме для нескольких интересующих функционалов, так и путем разработки новых вычислительных методов, основанных на независимых и одинаково распределенные выборки из точных апостериорных или масштабируемых и точных вариационных аппроксимаций, основанных на заблокированных частично факторизованных представлениях. Как показано в моделировании и в приложении к поражениям желудочно-кишечного тракта, величина улучшений по сравнению с существующими методами особенно очевидна на практике, когда основное внимание уделяется многомерным исследованиям.
3.Сопряженный априор для распределения Дирихле (arXiv)
Автор:Жан-Марк Андреоли
Аннотация: в этой заметке исследуется сопряженный класс для класса распределения Дирихле в экспоненциальном семействе
