TVM - это открытый стек компилятора глубокого обучения для процессоров, графических процессоров и специализированных ускорителей. Он направлен на сокращение разрыва между ориентированными на продуктивность структурами глубокого обучения и аппаратными бэкэндами, ориентированными на производительность или эффективность. TVM предоставляет следующие основные функции:
- Компиляция моделей глубокого обучения в Keras, MXNet, PyTorch, Tensorflow, CoreML, DarkNet в минимально развертываемые модули на различных аппаратных серверах.
- Инфраструктура для автоматического создания и оптимизации тензорных операторов на большем количестве серверных модулей с более высокой производительностью.
TVM обеспечивает двухуровневую оптимизацию, показанную на следующем рисунке. Оптимизация вычислительного графа для выполнения таких задач, как объединение операторов высокого уровня, преобразование макета и управление памятью. Затем слой оптимизации тензорных операторов и генерации кода, который оптимизирует тензорные операторы.
TVM был принят в Apache Incubator, и я буду наставником проекта Apache TVM. Я буду наблюдать за сообществом TVM, чтобы они смогли достичь открытой меритократической среды.
[1] https://tvm.ai
[2] https://medium.com/@furkankamaci/open-source-software-development-and-apache-incubator-372cc90081ae
