Встроенное машинное обучение, доступ к TinyML

Если вы еще не слышали, портативное машинное обучение находится на подъеме. Встроенные системы с возможностями машинного обучения делают устройства умными и мощными. У NVIDIA есть плата размером с номерной знак, которая может обеспечить автономное вождение. Некоторые из USB-накопителей для машинного обучения вполне доступны по цене ‹ 150 долларов. (В ближайшем будущем мы поговорим о появлении TinyML, даже более мелких устройств с поддержкой ML — микроконтроллеров). Встроенные системы меньше по размеру и портативны.

Amazon DeepLens: это камера с поддержкой глубокого обучения. Он может делать выводы. Он не предназначен для обучения, но интегрируется с экосистемой машинного обучения AWS, такой как AWS SageMaker. Он доступен для покупки не для всех. Источник 1

Комплект разработчика NVIDIA Jetson Nano — это небольшой мощный компьютер, который позволяет параллельно запускать несколько нейронных сетей для таких приложений, как классификация изображений, обнаружение объектов, сегментация и обработка речи. И все это на простой в использовании платформе, потребляющей всего 5 Вт». — официальная целевая страница. Источник 2

ИИ создан для «создателей, учащихся и разработчиков встраиваемых систем во всем мире». согласно сайту NVIDIA. «NVIDIA® Jetson Nano™ Developer Kit — это небольшой мощный компьютер, который позволяет вам запускать несколько нейронных сетей параллельно для таких приложений, как классификация изображений, обнаружение объектов, сегментация и обработка речи. И все это на простой в использовании платформе, потребляющей всего 5 Вт».

Небольшой и работает с Tensorflow, Pytorch, Caffe, mxnet. Очень впечатляюще.

NVIDIA DRIVE AGX: возможно, самым интересным является этот процессор размером с номерной знак для всех потребностей автономных транспортных средств. «Вычислительные платформы для автономного вождения NVIDIA DRIVE AGX построены на базе NVIDIA Xavier™, первого в мире процессора, предназначенного для автономного вождения. Система-на-чипе (SoC) Xavier с автоматической оценкой находится в производстве сегодня и разработана с учетом требований безопасности, включая шесть различных типов процессоров для запуска избыточных и разнообразных алгоритмов для искусственного интеллекта, обработки датчиков, картографирования и вождения. Платформы DRIVE AGX, использующие Xavier, обрабатывают данные с камер, лидаров, радаров и ультразвуковых датчиков, чтобы в режиме реального времени понимать все 360-градусное окружение, локализовать себя на карте и планировать безопасный путь вперед». Его следует использовать с другими устройствами и программным обеспечением DRIVE AGX в рамках одной платформы — единой платформы, предназначенной для беспилотных автомобилей. Источник 4

Intel Neural Compute Sticks: «Комплект для разработки Plug and Play для логического вывода ИИ. Создавайте и масштабируйте с исключительной производительностью на ватт на доллар на процессоре Intel® Movidius™ Myriad™ X Vision (VPU). Быстро начинайте разработку в Windows® 10, Ubuntu* или macOS*» готовые примеры приложений» Официальный источник целевой страницы 3

Raspberry Pi для глубокого обучения

Обновлено за февраль 2020 г. В первой итерации этой статьи в течение некоторого сезона мы забыли упомянуть удивительный Raspberry Pi и его потенциал в машинном и глубоком обучении. Несколько лет назад Google выпустила портативного помощника искусственного интеллекта для IoT, и он назывался Google Voice Kit с включенным Raspberry Pi!

Ознакомьтесь с библией оборудования IoT Adafruit для этого продукта. Источник 5. Но это было дорого и было в картонной коробке. Теперь вы можете получить Google Assistant за 1/3 цены.

Он включал в себя Raspberry Pi Zero WH, динамики, слот для SD-карты и другие обычные подозреваемые. См. Документацию Google для встроенных систем. Источник 8

Вы также можете создать своего собственного помощника Google с помощью Raspberry Pi Source 13.

Прошли годы, что мы имеем сейчас?

Тензорфлор с Raspberry Pi

Tensorflow Lite и сложные модели глубокого обучения теперь можно использовать на Raspberry Pi (Raspberry Pi 3 или новее)! Проверьте этот алгоритм обнаружения объектов от NanoNet на Raspberry Pi Source 6. Вы также можете создать свой собственный Pokedex Source 7. Забавные вещи в стороне. Возможности Tensorflow Lite безграничны. Источник 9

Tensorflow Lite — это то, что инженеры будут использовать в основномдля логических выводовдаже потенциально для обучения на таких смартфонах, как Apple и Android, особенно на Android, поскольку у Apple есть собственный CoreML. .

Установите Tensorflow на Raspberry Pi Source10 Source 11

Google Коралл

Обновлено в ноябре 2020 г.: «Coral — это полный набор инструментов для создания продуктов с локальным ИИ. Наши возможности логического вывода на устройстве позволяют создавать продукты, которые являются эффективными, конфиденциальными, быстрыми и автономными». Источник 14

Малина Пи и OpenCV

OpenCV по-прежнему является рабочей лошадкой в ​​области компьютерного зрения для многих: любителей, ученых, исследователей.

Прочитайте эту замечательную статью о том, как настроить визуализацию на Raspberry Pi. А также отличное объяснение того, почему Raspberry Pi больше подходит для логических выводов, чем для обучения, и лучше работает с более легкими компактными моделями из-за ограниченной оперативной памяти и вычислительной мощности. Источник 12

Вывод 1: портативные устройства не являются специалистами по глубокому обучению, всегда думайте о том, насколько велика модель, сколько места она занимает, и спрашивайте, может ли это портативное устройство работать с большой моделью.

Источники:

  1. https://docs.aws.amazon.com/deeplens/latest/dg/what-is-deeplens.html
  2. https://www.nvidia.com/en-us/autonomous-machines/jetson-store/
  3. https://software.intel.com/en-us/neural-compute-stick
  4. https://www.nvidia.com/en-us/self-driving-cars/drive-platform/hardware/
  5. https://www.adafruit.com/product/4080
  6. https://nanonets.com/blog/how-to-easily-detect-objects-with-deep-learning-on-raspberry-pi/
  7. https://www.raspberrypi.org/blog/deep-learning-pokedex/
  8. https://developers.google.com/assistant/sdk/guides/service/python/embed/setup
  9. https://www.tensorflow.org/lite/guide/build_rpi
  10. https://www.deciphertechnic.com/install-tensorflow-on-raspberry-pi/
  11. https://www.tensorflow.org/lite/guide/build_rpi
  12. https://www.pyimagesearch.com/2017/10/02/deep-learning-on-the-raspberry-pi-with-opencv/
  13. https://pimylifeup.com/raspberry-pi-google-assistant/
  14. https://www.coral.ai/