Будучи разработчиком встраиваемых систем, я всегда предполагал, что технологии «машинного обучения» (ML) и «искусственного интеллекта» (AI) требуют огромных вычислительных мощностей для выполнения ожидаемого поведения. Таким образом, попытка любого вида искусственного интеллекта или машинного обучения на любом встроенном устройстве, таком как raspberry pi, или микроконтроллерах, таких как arduino, всегда была сложной задачей. Интересно, что «Tiny ML / Tensorflow Lite» фокусируется на использовании ML для ограничения устройств IoT, работающих с низким или сверхнизким энергопотреблением.

Что такое TinyML/Tensorflow lite?

В соответствии с TinyML Summit он определяется как Крошечные машинное обучение в широком смысле определяется как быстрорастущая область технологий и приложений машинного обучения, включая аппаратные средства (специализированные интегральные схемы), алгоритмы и программное обеспечение, способное работать с датчиками на устройстве (зрение, аудио, IMU, биомедицинские и т. д.) аналитика данных при чрезвычайно низком энергопотреблении, обычно в диапазоне мВт и ниже, что позволяет использовать множество постоянно включенных вариантов использования и ориентироваться на устройства с батарейным питанием.

Согласно tensorflow, TensorFlow Lite для микроконтроллеров — это экспериментальный порт TensorFlow Lite, предназначенный для запуска моделей машинного обучения на микроконтроллерах и других устройствах с объемом памяти всего в килобайтах. Он не требует поддержки операционной системы, каких-либо стандартных библиотек C или C++ или динамического выделения памяти.

Почему TinyML/Tensorflow Lite?

Сегодня в мире насчитывается около 200+ миллиардов микроконтроллеров. Исследование рынка показывает, что только в 2018 году было продано 28,1 миллиарда единиц, а IC Insights прогнозирует, что годовой объем поставок вырастет до 38,2 миллиарда к 2023 году. Глобальный рынок искусственного интеллекта на встраиваемых IoT-устройствах к 2023 году приблизится к 26,2 млрд долларов США, цитирует prnewswire. Они начнут обеспечивать будущее встроенных устройств IoT на так называемом истинном краю, которые могут делать действительно великие вещи, которые мы считали невозможными.

Несмотря на то, что периферийные вычисления набирают обороты, они не могут решить все проблемы, особенно конфиденциальность данных. Проблемы конфиденциальности данных правят миром сегодня, особенно в таких сценариях, как «умный дом», где потребители действительно в восторге от домашней автоматизации и в то же время в равной степени обеспокоены тем, что данные покидают помещение. TinyML/Tensorflow Lite, если он реализован, может ограничить обработку данных на самом IoT-устройстве, обеспечив конфиденциальность.

Еще одна интересная проблема, которую можно решить в областях с ограниченным подключением или вообще без подключения, таких как сельские районы, море и т. д., — это надежность, где ни облако, ни периферия не могут помочь в подключении. TinyML/Tensorflow Lite позволяет выполнять определенные операции машинного обучения и искусственного интеллекта локально, предоставляя ряд преимуществ.

В критически важных приложениях, где миллисекундная задержка также может стоить дорого, важным параметром является Задержка. Хотя граничные вычисления значительно сокращают задержку в сети, выполнение определенных операций машинного обучения на самом устройстве может сэкономить еще больше.

В дополнение к вышеперечисленному такие факторы, как энергопотребление, пропускная способность сети и т. д., также могут оказаться полезными с точки зрения использования операций машинного обучения и искусственного интеллекта на самом устройстве.

Выше перечислены многие потенциальные преимущества использования TinyML/Tensorflow Lite по сравнению с граничными вычислениями.

Книги и ресурсы

https://www.tinyml.org/ содержит множество информации о концепции и их саммитах и ​​т. д.,

TensorFlow Lite — https://www.tensorflow.org/lite/microcontrollers

Интересно было прочитать блог о tinyML и технологических аспектах в деталях https://www.ericsson.com/en/blog/2019/12/tinyml-as-a-service

https://venturebeat.com/2020/01/11/why-tinyml-is-a-giant-opportunity/ — еще одна полезная статья о том, почему машинное обучение на встроенных устройствах IoT может изменить правила игры и открыть огромные возможности.

https://www.enterpriseai.news/2020/06/08/qeexo-takes-tinyml-to-aws-cloud/ переносит tinyML в облако AWS — еще одно интересное предложение

Книга от создателей кажется интересной для понимания TinyML

Заключение

Благодаря большей зрелости и внедрению, запуску алгоритмов машинного обучения и искусственного интеллекта в памяти, встроенные устройства IoT с ограничением мощности кажутся явным прорывом в области IoT и открывают множество возможностей. Будет интересно посмотреть на это поле и попробовать несколько алгоритмов либо на устройстве Raspberry Pi, либо на микроконтроллере.