Встроенное машинное обучение, доступ к TinyML
Если вы еще не слышали, портативное машинное обучение находится на подъеме. Встроенные системы с возможностями машинного обучения делают устройства умными и мощными. У NVIDIA есть плата размером с номерной знак, которая может обеспечить автономное вождение. Некоторые из USB-накопителей для машинного обучения вполне доступны по цене ‹ 150 долларов. (В ближайшем будущем мы поговорим о появлении TinyML, даже более мелких устройств с поддержкой ML — микроконтроллеров). Встроенные системы меньше по размеру и портативны.
Amazon DeepLens: это камера с поддержкой глубокого обучения. Он может делать выводы. Он не предназначен для обучения, но интегрируется с экосистемой машинного обучения AWS, такой как AWS SageMaker. Он доступен для покупки не для всех. Источник 1
Комплект разработчика NVIDIA Jetson Nano — это небольшой мощный компьютер, который позволяет параллельно запускать несколько нейронных сетей для таких приложений, как классификация изображений, обнаружение объектов, сегментация и обработка речи. И все это на простой в использовании платформе, потребляющей всего 5 Вт». — официальная целевая страница. Источник 2
ИИ создан для «создателей, учащихся и разработчиков встраиваемых систем во всем мире». согласно сайту NVIDIA. «NVIDIA® Jetson Nano™ Developer Kit — это небольшой мощный компьютер, который позволяет вам запускать несколько нейронных сетей параллельно для таких приложений, как классификация изображений, обнаружение объектов, сегментация и обработка речи. И все это на простой в использовании платформе, потребляющей всего 5 Вт».
Небольшой и работает с Tensorflow, Pytorch, Caffe, mxnet. Очень впечатляюще.
NVIDIA DRIVE AGX: возможно, самым интересным является этот процессор размером с номерной знак для всех потребностей автономных транспортных средств. «Вычислительные платформы для автономного вождения NVIDIA DRIVE AGX построены на базе NVIDIA Xavier™, первого в мире процессора, предназначенного для автономного вождения. Система-на-чипе (SoC) Xavier с автоматической оценкой находится в производстве сегодня и разработана с учетом требований безопасности, включая шесть различных типов процессоров для запуска избыточных и разнообразных алгоритмов для искусственного интеллекта, обработки датчиков, картографирования и вождения. Платформы DRIVE AGX, использующие Xavier, обрабатывают данные с камер, лидаров, радаров и ультразвуковых датчиков, чтобы в режиме реального времени понимать все 360-градусное окружение, локализовать себя на карте и планировать безопасный путь вперед». Его следует использовать с другими устройствами и программным обеспечением DRIVE AGX в рамках одной платформы — единой платформы, предназначенной для беспилотных автомобилей. Источник 4
Intel Neural Compute Sticks: «Комплект для разработки Plug and Play для логического вывода ИИ. Создавайте и масштабируйте с исключительной производительностью на ватт на доллар на процессоре Intel® Movidius™ Myriad™ X Vision (VPU). Быстро начинайте разработку в Windows® 10, Ubuntu* или macOS*» готовые примеры приложений» Официальный источник целевой страницы 3
Raspberry Pi для глубокого обучения
Обновлено за февраль 2020 г. В первой итерации этой статьи в течение некоторого сезона мы забыли упомянуть удивительный Raspberry Pi и его потенциал в машинном и глубоком обучении. Несколько лет назад Google выпустила портативного помощника искусственного интеллекта для IoT, и он назывался Google Voice Kit с включенным Raspberry Pi!
Ознакомьтесь с библией оборудования IoT Adafruit для этого продукта. Источник 5. Но это было дорого и было в картонной коробке. Теперь вы можете получить Google Assistant за 1/3 цены.
Он включал в себя Raspberry Pi Zero WH, динамики, слот для SD-карты и другие обычные подозреваемые. См. Документацию Google для встроенных систем. Источник 8
Вы также можете создать своего собственного помощника Google с помощью Raspberry Pi Source 13.
Прошли годы, что мы имеем сейчас?
Тензорфлор с Raspberry Pi
Tensorflow Lite и сложные модели глубокого обучения теперь можно использовать на Raspberry Pi (Raspberry Pi 3 или новее)! Проверьте этот алгоритм обнаружения объектов от NanoNet на Raspberry Pi Source 6. Вы также можете создать свой собственный Pokedex Source 7. Забавные вещи в стороне. Возможности Tensorflow Lite безграничны. Источник 9
Tensorflow Lite — это то, что инженеры будут использовать в основномдля логических выводовдаже потенциально для обучения на таких смартфонах, как Apple и Android, особенно на Android, поскольку у Apple есть собственный CoreML. .
Установите Tensorflow на Raspberry Pi Source10 Source 11
Google Коралл
Обновлено в ноябре 2020 г.: «Coral — это полный набор инструментов для создания продуктов с локальным ИИ. Наши возможности логического вывода на устройстве позволяют создавать продукты, которые являются эффективными, конфиденциальными, быстрыми и автономными». Источник 14
Малина Пи и OpenCV
OpenCV по-прежнему является рабочей лошадкой в области компьютерного зрения для многих: любителей, ученых, исследователей.
Прочитайте эту замечательную статью о том, как настроить визуализацию на Raspberry Pi. А также отличное объяснение того, почему Raspberry Pi больше подходит для логических выводов, чем для обучения, и лучше работает с более легкими компактными моделями из-за ограниченной оперативной памяти и вычислительной мощности. Источник 12
Вывод 1: портативные устройства не являются специалистами по глубокому обучению, всегда думайте о том, насколько велика модель, сколько места она занимает, и спрашивайте, может ли это портативное устройство работать с большой моделью.
Источники:
- https://docs.aws.amazon.com/deeplens/latest/dg/what-is-deeplens.html
- https://www.nvidia.com/en-us/autonomous-machines/jetson-store/
- https://software.intel.com/en-us/neural-compute-stick
- https://www.nvidia.com/en-us/self-driving-cars/drive-platform/hardware/
- https://www.adafruit.com/product/4080
- https://nanonets.com/blog/how-to-easily-detect-objects-with-deep-learning-on-raspberry-pi/
- https://www.raspberrypi.org/blog/deep-learning-pokedex/
- https://developers.google.com/assistant/sdk/guides/service/python/embed/setup
- https://www.tensorflow.org/lite/guide/build_rpi
- https://www.deciphertechnic.com/install-tensorflow-on-raspberry-pi/
- https://www.tensorflow.org/lite/guide/build_rpi
- https://www.pyimagesearch.com/2017/10/02/deep-learning-on-the-raspberry-pi-with-opencv/
- https://pimylifeup.com/raspberry-pi-google-assistant/
- https://www.coral.ai/