1. Перенос обучения в модели глубокого обучения для прогнозирования нагрузки зданий: случай ограниченных данных(arXiv)
Автор: Менна Навар, Мустафа Шомер, Сами Фаддель, Хуанцзе Гун
Выдержка: Точное прогнозирование нагрузки в зданиях может повысить потенциальную экономию на счетах и облегчить оптимизацию стратегий планирования выработки электроэнергии. С быстрым развитием информатики методы, управляемые данными, в частности модели глубокого обучения, стали многообещающим решением проблемы прогнозирования нагрузки. Эти модели показали точные результаты прогнозирования; однако им требуется большое количество исторических данных для поддержания производительности. Принимая во внимание новые здания и здания с измерительным оборудованием с низким разрешением, трудно получить от них достаточно исторических данных, что приводит к плохой эффективности прогнозирования. Чтобы адаптировать модели глубокого обучения для зданий с ограниченными и скудными данными, в этом документе предлагается структура передачи обучения от здания к зданию, чтобы решить эту проблему и повысить производительность моделей глубокого обучения. Подход к трансфертному обучению был применен к новой технике, известной как модель трансформатора, из-за ее эффективности в фиксации тенденций данных. Производительность алгоритма была проверена на большом коммерческом здании с ограниченными данными. Результат показал, что предложенный подход повысил точность прогнозирования на 56,8% по сравнению со случаем обычного глубокого обучения, где используется обучение с нуля. В документе также сравнивалась предлагаемая модель Transformer с другими последовательными моделями глубокого обучения, такими как долговременная память (LSTM) и рекуррентная нейронная сеть (RNN). Точность модели трансформатора превзошла другие модели за счет уменьшения среднеквадратичной ошибки до 0,009 по сравнению с LSTM с 0,011 и RNN с 0,051.
2.Перенос обучения для обнаружения обонятельных объектов(arXiv)
Автор: Матиас Зиннен, Пратмеш Мадху, Питер Белл, Андреас Майер, Винсент Кристлейн
Аннотация: мы исследуем эффект схожести стилей и категорий в нескольких наборах данных, используемых для предварительного обучения обнаружению объектов. Мы обнаружили, что включение дополнительного этапа предварительной подготовки к обнаружению объектов может значительно повысить эффективность обнаружения. Хотя наши эксперименты показывают, что сходство стилей между предварительным обучением и целевыми наборами данных менее важно, чем сопоставление категорий, для проверки этой гипотезы необходимы дальнейшие эксперименты.
