Все мы знаем, что искусственный интеллект, иногда называемый машинным интеллектом, — это интеллект, демонстрируемый машинами, в отличие от естественного интеллекта, которым обладают люди и животные.

Машины не начинают умными, они становятся умными.

Для всей обработки данных, принятия решений… мы зависим от Облака. Данные будут отправлены в облако и после обработки решения будут отправлены обратно на устройство IoT.

Все это требует времени. Что, если машины (устройства IoT) смогут принимать решения на самом устройстве, это будет быстро, не так ли?

А вот и ИИ на грани.

Edge означает локальную (или полностью локальную обработку) означает, что нет необходимости отправлять данные в облако, данные будут обрабатываться на самом устройстве и принимать решения.

Нужен Эдж?

Ну, допустим, вы сидите в беспилотном автомобиле и вдруг видите перед собой машину, будете ли вы ждать, что машина отправит данные в облако и будет ждать решения о наличии препятствия перед машиной?

Существует множество примеров, когда нам нужен ИИ на периферии, например, хирургические роботы, детектор нерегулярного сердцебиения и т. д.

Почему ИИ на периферии важен?

  • Сетевая связь может быть дорогой (пропускная способность, энергопотребление и т. д.), а иногда и невозможной (например, в удаленных местах или во время стихийных бедствий).
  • Обработка в режиме реального времени необходима для таких приложений, как беспилотные автомобили, которые не могут справиться с задержкой при принятии важных решений.
  • Пограничные приложения могут использовать личные данные (например, данные о состоянии здоровья), которые могут быть конфиденциальными при отправке в облако.
  • Программное обеспечение для оптимизации, специально разработанное для конкретного оборудования, может помочь добиться высокой эффективности с помощью периферийных моделей ИИ.

OPENVINO — решение всех вышеперечисленных проблем

Название OpenVINO™ Toolkit происходит от «Open Visual Inferencing and Neural Nnetwork Oоптимизация». Он в значительной степени ориентирован на оптимизацию вывода нейронной сети и имеет открытый исходный код.

Он разработан Intel® и помогает поддерживать быстрый логический вывод на процессорах Intel®, графических процессорах, FPGA и Neural Compute Stick с помощью общего API. OpenVINO™ может брать модели, созданные с помощью нескольких различных фреймворков, таких как TensorFlow или Caffe, и использовать оптимизатор моделей для оптимизации логического вывода.

Этапы проекта

если вы хотите создать свою собственную модель Edge, выполните следующие действия:

  • Преобразование модели в промежуточное представление (IR).
  • Используйте IR с Inference Engine.
  • Обработайте выходные данные модели, чтобы собрать соответствующую статистику.
  • Отправьте эту статистику на сервер и
  • Выполните анализ как производительности, так и вариантов дальнейшего использования вашей модели.

Промежуточное представление — это стандартная структура и наименование OpenVINO Toolkit для нейронных сетей. Он состоит из двух выходных файлов:

  1. Файл XML (содержит архитектуру модели и другие важные метаданные (.xml))
  2. Двоичный файл (содержит веса и смещения в двоичном формате (.bin))

Механизм вывода. Выполняет фактический вывод модели (IR) на периферии и предоставляет простой API, чтобы сосредоточиться на периферийном приложении.

В OpenVINO™ предварительно обученные модели относятся конкретно к зоопарку моделей, в котором набор бесплатных моделей содержит предварительно обученные модели, уже преобразованные с помощью оптимизатора моделей. Эти модели можно использовать непосредственно с механизмом вывода.

Нет необходимости обучать эти модели еще раз, поскольку они уже обладают высокой точностью переднего края.

Примеры — Обнаружение движения, Распознавание лиц, Обнаружение номерного знака, Обнаружение типа/цвета автомобиля и т. д.….

Итак, будьте готовы замарать руки в области искусственного интеллекта на периферии.