1. Эффективная выборка для оценки реализованной дисперсии в моделях диффузии с изменением во времени(arXiv)

Автор: Тимо Димитриадис, Роксана Хальблейб, Жаннин Поливка, Сина Штрейхер

Аннотация: в этой статье показаны преимущества выборки внутридневной доходности в собственном времени для оценки интегрированной дисперсии с помощью оценщика реализованной дисперсии (RV). Собственное время преобразует часы в соответствии с активностью рынка, которую мы измеряем интенсивностью торговли (время сделки) или спотовой дисперсией (время работы). Теоретически мы показываем, что оценка RV является несмещенной для всех схем выборки, но наиболее эффективна в условиях бизнес-времени, а также в условиях независимого микроструктурного шума рынка. Наш анализ основан на гибком предположении, что цены на активы следуют процессу диффузии, который изменяется во времени с помощью дважды стохастического процесса Пуассона. Это обеспечивает гибкую стохастическую модель для цен вместе с временем их транзакций, которая позволяет использовать отдельные и стохастически изменяющиеся процессы интенсивности торговли и тиковой дисперсии, которые вместе управляют спотовой дисперсией. Эти отдельные компоненты модели особенно выгодны по сравнению, например, со стандартными диффузионными моделями, поскольку они позволяют использовать и различать влияние двух разных источников внутридневной информации на теоретические свойства RV. Обширные симуляции подтверждают наши теоретические результаты и показывают, что время работы остается лучше при различных спецификациях шума и для оценок RV с поправкой на шум. Эмпирическое применение к данным о запасах предоставляет дополнительные доказательства преимуществ использования внутренней выборки для получения эффективных оценок RV.

2.GENIE: крупномасштабное предварительное обучение для генерации текста с помощью модели распространения(arXiv)

Автор: Чжэнхао Линь, Еюн Гун, Елун Шэнь, Тун Ву, Чжихао Фан, Чэнь Линь, Вэйчжу Чен, Нан Дуань.

Аннотация: в этой статье мы предлагаем крупномасштабную предварительную подготовку языка для ГЕНЕРАЦИИ текста с использованием модели dIffusion, которая называется GENIE. GENIE — это модель генерации текста от последовательности к последовательности перед обучением, которая сочетает в себе Transformer и распространение. Модель диффузии принимает скрытую информацию от кодера, которая используется для управления шумоподавлением текущего временного шага. После нескольких таких итераций шумоподавления модель диффузии может восстановить гауссовский шум в разнообразном выходном тексте, который контролируется входным текстом. Кроме того, такой дизайн архитектуры также позволяет нам применять крупномасштабную предварительную подготовку на GENIE. Мы предлагаем новый метод предварительной подготовки, называемый непрерывным шумоподавлением абзаца, основанный на характеристиках модели распространения. Обширные эксперименты с тестами XSum, CNN/DailyMail и Gigaword показывают, что GENIE может достигать сопоставимой производительности с различными сильными базовыми показателями, особенно после предварительной подготовки, качество генерации GENIE значительно улучшается. Мы также провели много экспериментов по разнообразию поколений и влиянию параметров GENIE. Код GENIE будет общедоступен.