Британская лаборатория и исследовательская компания Google DeepMind добавила Jraph к растущему числу библиотек с открытым исходным кодом для JAX, одновременно исследуя развитие и экосистему фреймворка машинного обучения.

JAX - это библиотека Python, которую исследователи Google разработали и представили в 2018 году для высокопроизводительных численных вычислений. JAX сочетает в себе NumPy, автоматическое дифференцирование и поддержку GPU / TPU. В новом сообщении в блоге исследователи DeepMind смотрят, как JAX и его возникающая экосистема библиотек с открытым исходным кодом обслуживают и ускоряют растущее число проектов машинного обучения.

Экосистема JAX-библиотек DeepMind с открытым исходным кодом на данный момент включает Haiku для модулей нейронных сетей, Optax для обработки и оптимизации градиентов, RLax для алгоритмов RL, chex для надежного кода и тестирования и недавно выпущенный Jraph »Для графовых нейронных сетей.

  • Haiku, разработанная некоторыми из авторов Sonnet, библиотеки нейронных сетей для TensorFlow, представляет собой библиотеку нейронных сетей, предназначенную для упрощения управления параметрами модели и другими состояниями модели. Пользователи могут использовать знакомые модели объектно-ориентированного программирования, «используя мощь и простоту чисто функциональной парадигмы JAX».

Примеры использования: Coax, DeepChem, NumPyro

  • Optax - это библиотека обработки и оптимизации градиента для JAX, которая предоставляет стандартные блоки, такие как преобразования градиента и операторы композиции, поэтому пользователи могут реализовать множество стандартных оптимизаторов всего в одной строке кода.

Варианты использования: Элегия, Лен и Стакс.

  • RLax - это библиотека, построенная на основе JAX, которая предоставляет полезные строительные блоки для реализации агентов обучения с подкреплением (RL).

Примеры использования: Acme

  • Chex - это библиотека утилит, призванная помочь пользователям писать надежный код JAX. Он включает набор утилит тестирования, используемых авторами библиотек для проверки правильности и надежности общих строительных блоков, а также конечными пользователями для проверки экспериментального кода.

Варианты использования: Coax и MineRL

  • Jraph - это облегченная библиотека, которая предоставляет структуру данных для графиков, набор утилит для пользователей, работающих с графиками, и «зоопарк» нейронных сетей с возможностью разветвления графов.

Поддержка быстро развивающихся исследований в области искусственного интеллекта требует уравновешивания быстрого прототипирования и быстрой итерации, а также обеспечения экспериментов в масштабе, соответствующем реальным производственным системам. Исследователи DeepMind выделяют несколько подходов, которые позволили базовым библиотекам JAX идти в ногу с новыми направлениями исследований:

  • Извлеките наиболее важные и важные строительные блоки, разработанные в каждом исследовательском проекте, в хорошо протестированные и эффективные компоненты
  • Каждая библиотека имеет четко определенную область действия, и они совместимы, но независимы
  • Экосистемы JAX остаются совместимыми с дизайном существующих библиотек Tensor Flow

DeepMind постоянно обновляет экосистему JAX, чтобы ускорить исследования машинного обучения. Библиотеки с открытым кодом можно найти в проекте GitHub.

На NeurIPS 2020 будет размещаться JAX MD: A Framework for Differentiable Physics, использующий JAX в контексте моделирования молекулярной динамики. Устное выступление в центре внимания запланировано на среду, 9 декабря, с 23: 00–23: 10 EST, а стендовая сессия - в четверг, 10 декабря, с 00: 00–02: 00 EST.

Репортер: Фаню Цай | Редактор: Майкл Саразен

Синхронизированный отчет | Обзор решений искусственного интеллекта в Китае в ответ на пандемию COVID-19 - 87 тематических исследований от 700+ поставщиков ИИ

В этом отчете предлагается взглянуть на то, как Китай использовал технологии искусственного интеллекта в борьбе с COVID-19. Он также доступен на Amazon Kindle. Наряду с этим отчетом мы также представили базу данных, охватывающую 1428 дополнительных решений искусственного интеллекта из 12 сценариев пандемии.

Нажмите здесь, чтобы найти больше отчетов от нас.

Мы знаем, что вы не хотите пропустить какие-либо новости или научные открытия. Подпишитесь на нашу популярную рассылку Synced Global AI Weekly, чтобы получать еженедельные обновления AI.