Все мы знаем, что искусственный интеллект, иногда называемый машинным интеллектом, — это интеллект, демонстрируемый машинами, в отличие от естественного интеллекта, которым обладают люди и животные.
Машины не начинают умными, они становятся умными.
Для всей обработки данных, принятия решений… мы зависим от Облака. Данные будут отправлены в облако и после обработки решения будут отправлены обратно на устройство IoT.
Все это требует времени. Что, если машины (устройства IoT) смогут принимать решения на самом устройстве, это будет быстро, не так ли?
А вот и ИИ на грани.
Edge означает локальную (или полностью локальную обработку) означает, что нет необходимости отправлять данные в облако, данные будут обрабатываться на самом устройстве и принимать решения.
Нужен Эдж?
Ну, допустим, вы сидите в беспилотном автомобиле и вдруг видите перед собой машину, будете ли вы ждать, что машина отправит данные в облако и будет ждать решения о наличии препятствия перед машиной?
Существует множество примеров, когда нам нужен ИИ на периферии, например, хирургические роботы, детектор нерегулярного сердцебиения и т. д.
Почему ИИ на периферии важен?
- Сетевая связь может быть дорогой (пропускная способность, энергопотребление и т. д.), а иногда и невозможной (например, в удаленных местах или во время стихийных бедствий).
- Обработка в режиме реального времени необходима для таких приложений, как беспилотные автомобили, которые не могут справиться с задержкой при принятии важных решений.
- Пограничные приложения могут использовать личные данные (например, данные о состоянии здоровья), которые могут быть конфиденциальными при отправке в облако.
- Программное обеспечение для оптимизации, специально разработанное для конкретного оборудования, может помочь добиться высокой эффективности с помощью периферийных моделей ИИ.
OPENVINO — решение всех вышеперечисленных проблем
Название OpenVINO™ Toolkit происходит от «Open Visual Inferencing and Neural Nnetwork Oоптимизация». Он в значительной степени ориентирован на оптимизацию вывода нейронной сети и имеет открытый исходный код.
Он разработан Intel® и помогает поддерживать быстрый логический вывод на процессорах Intel®, графических процессорах, FPGA и Neural Compute Stick с помощью общего API. OpenVINO™ может брать модели, созданные с помощью нескольких различных фреймворков, таких как TensorFlow или Caffe, и использовать оптимизатор моделей для оптимизации логического вывода.
Этапы проекта
если вы хотите создать свою собственную модель Edge, выполните следующие действия:
- Преобразование модели в промежуточное представление (IR).
- Используйте IR с Inference Engine.
- Обработайте выходные данные модели, чтобы собрать соответствующую статистику.
- Отправьте эту статистику на сервер и
- Выполните анализ как производительности, так и вариантов дальнейшего использования вашей модели.
Промежуточное представление — это стандартная структура и наименование OpenVINO Toolkit для нейронных сетей. Он состоит из двух выходных файлов:
- Файл XML (содержит архитектуру модели и другие важные метаданные (.xml))
- Двоичный файл (содержит веса и смещения в двоичном формате (.bin))
Механизм вывода. Выполняет фактический вывод модели (IR) на периферии и предоставляет простой API, чтобы сосредоточиться на периферийном приложении.
В OpenVINO™ предварительно обученные модели относятся конкретно к зоопарку моделей, в котором набор бесплатных моделей содержит предварительно обученные модели, уже преобразованные с помощью оптимизатора моделей. Эти модели можно использовать непосредственно с механизмом вывода.
Нет необходимости обучать эти модели еще раз, поскольку они уже обладают высокой точностью переднего края.
Примеры — Обнаружение движения, Распознавание лиц, Обнаружение номерного знака, Обнаружение типа/цвета автомобиля и т. д.….
Итак, будьте готовы замарать руки в области искусственного интеллекта на периферии.