Еще в середине прошлого года Intel выпустила Movidius Neural Compute Stick, первый в мире процессор глубокого обучения на USB-накопителе.

В основе этого устройства лежит Movidius MA2150, маломощный графический процессор, позволяющий добавлять возможности визуального интеллекта и машинного обучения в продукты с батарейным питанием на периферии, без подключения к сети или необходимости в облачном сервере.

Теперь к нему присоединяется второй USB-накопитель, который, по крайней мере, на первый взгляд, кажется, занимает аналогичную нишу - вычислительный стик Gyrfalcon Technology Laceli AI.

Появление таких платформ вполне может стать началом перемен в нашем понимании машинного обучения и того, как можно построить Интернет вещей.

Возможность запускать обученные сети «на периферии» ближе к данным без облака - или в некоторых случаях даже без сетевого подключения - может снизить барьеры для разработки и развертывания приложений машинного обучения. Это потенциально может помочь сделать «умные объекты» действительно умными, а не просто подключенных к сети клиентов для алгоритмов машинного обучения, работающих в удаленных центрах обработки данных. Потому что теперь есть - по крайней мере, потенциал - чтобы позволить нам размещать умные устройства на интеллектуальных устройствах, а не в облаке.

Подробностей о новой платформе пока нет, однако компания утверждает, что их вычислительная флешка работает с «… 2,8 TOPS при мощности 0,3 Вт, что в 90 раз эффективнее, чем у USB-накопителя Movidius», который работает со скоростью 100 гигафлопс при мощности 1 Вт.

Предполагается, что экономия энергии будет обеспечиваться за счет архитектуры APiM компании (сокращение от «AI Processing in Memory»), которая использует память в качестве блока обработки AI, устраняя перемещение больших объемов данных в память и из нее, что обычно приводит к высокому энергопотреблению. .

Новая флешка поддерживает фреймворки Caffe, TensorFlow и MXNet, хотя пока не ясно, как фреймворки с открытым исходным кодом взаимодействуют с собственным SDK компании.

Также пока нет информации о ценах, но новая палка для глубокого обучения будет впервые показана публике на выставке CES 2018 в Лас-Вегасе на следующей неделе. Так что, если вы присутствуете на шоу и хотите узнать больше, вам стоит его проверить.