- Порт-гамильтоновы нейронные сети с портами, зависящими от состояния (arXiv)
Автор:Сельве Эйднес, Александр Дж. Стасик, Камилла Стеруд, Эйвинд Бён, Сигне Ример-Соренсен
Аннотация:Гибридное машинное обучение, основанное на формулах Гамильтона, недавно было успешно продемонстрировано для простых механических систем. В этой работе мы проводим стресс-тестирование метода как на простых системах масса-пружина, так и на более сложных и реалистичных системах с несколькими внутренними и внешними силами, включая систему с несколькими соединенными резервуарами. Мы количественно оцениваем производительность в различных условиях и показываем, что наложение различных предположений сильно влияет на производительность во время обучения, демонстрируя преимущества и ограничения метода. Мы демонстрируем, что порт-гамильтоновские нейронные сети могут быть расширены до больших размеров с помощью портов, зависящих от состояния. Мы рассматриваем обучение в системах с известными и неизвестными внешними силами и показываем, как его можно использовать для обнаружения отклонений в системе и по-прежнему обеспечивать действительную модель после устранения отклонений. Наконец, мы предлагаем симметричный интегратор высокого порядка для улучшения обучения на разреженных и зашумленных данных.
2. Деконструкция индуктивных смещений гамильтоновых нейронных сетей (arXiv)
Автор: Нейт Грувер, Марк Финзи, Сэмюэл Стэнтон, Эндрю Гордон Уилсон.
Аннотация:Нейронные сети, вдохновленные физикой, такие как гамильтоновы или лагранжевы НС, значительно превосходят другие изученные динамические модели, используя сильные индуктивные смещения. Эти модели, однако, сложно применить ко многим системам реального мира, например, к тем, которые не сохраняют энергию или содержат контакты, что является обычным параметром для робототехники и обучения с подкреплением. В этой статье мы исследуем индуктивные предубеждения, которые делают основанные на физике модели успешными на практике. Мы показываем, что, вопреки общепринятому мнению, улучшенное обобщение HNN является результатом непосредственного моделирования ускорения и исключения искусственной сложности из системы координат, а не симплектической структуры или сохранения энергии. Мы показываем, что, ослабляя индуктивные смещения этих моделей, мы можем соответствовать или превосходить производительность энергосберегающих систем, в то же время значительно улучшая производительность практичных, неконсервативных систем. Мы расширяем этот подход для построения моделей перехода для обычных сред Mujoco, показывая, что наша модель может надлежащим образом сбалансировать индуктивные смещения с гибкостью, необходимой для управления на основе модели.
3.Диссипативные гамильтоновы нейронные сети: отдельное изучение диссипативной и консервативной динамики (arXiv)
Автор : Эндрю Сосаня, Сэм Грейданус
Аннотация . Понимание естественных симметрий является ключом к пониманию нашего сложного и постоянно меняющегося мира. Недавняя работа показала, что нейронные сети могут изучать такие симметрии непосредственно из данных с использованием гамильтоновых нейронных сетей (HNN). Но HNN испытывают трудности при обучении на наборах данных, где энергия не сохраняется. В этой статье мы задаемся вопросом, возможно ли одновременно идентифицировать и разложить консервативную и диссипативную динамику. Мы предлагаем диссипативные гамильтоновы нейронные сети (D-HNN), которые параметризуют как гамильтониан, так и функцию диссипации Рэлея. Взятые вместе, они представляют собой неявное разложение Гельмгольца, которое может отделить диссипативные эффекты, такие как трение, от симметрий, таких как сохранение энергии. Мы обучаем нашу модель разложению системы демпфированной массы-пружины на трение и инерцию, а затем показываем, что это разложение можно использовать для прогнозирования динамики невидимых коэффициентов трения. Затем мы применяем нашу модель к реальным данным, в том числе к большому набору данных с зашумленными океанскими течениями, где разложение поля скоростей дает полезную научную информацию.
4. Порт-гамильтоновские нейронные сети для обучения явным динамическим системам, зависящим от времени (arXiv)
Автор: Шаан Десаи, Мариос Маттеакис, Дэвид Сондак, Павлос Протопапас, Стивен Робертс.
Вывод: точное изучение поведения динамических систем во времени требует моделей с хорошо подобранными ошибками обучения. Недавние инновации включают формализмы Гамильтона и Лагранжа в нейронные сети и демонстрируют значительное улучшение по сравнению с другими подходами в прогнозировании траекторий физических систем. Эти методы обычно имеют дело с автономными системами, которые неявно зависят от времени, или системами, для которых управляющий сигнал известен априори. Несмотря на этот успех, многие динамические системы реального мира не автономны, управляются силами, зависящими от времени, и испытывают рассеяние энергии. В этом исследовании мы решаем задачу изучения таких неавтономных систем, встраивая формализм порта-Гамильтона в нейронные сети, универсальную структуру, которая может улавливать рассеяние энергии и зависящие от времени управляющие силы. Мы показываем, что предложенная \emph{порт-гамильтоновская нейронная сеть} может эффективно изучать динамику нелинейных физических систем, представляющих практический интерес, и точно восстанавливать базовый стационарный гамильтониан, зависящую от времени силу и коэффициент диссипации. Многообещающим результатом нашей сети является ее способность изучать и предсказывать хаотические системы, такие как уравнение Дуффинга, для которых траектории обычно трудно изучить.
