Обнаружение лиц, отслеживание взгляда, распознавание жестов, распознавание голоса и текста - в настоящее время ресурсоемкие функции на базе искусственного интеллекта можно использовать практически на любом мобильном устройстве, во многом благодаря достижениям в области многоядерных процессоров и все более мощным графическим процессорам, DSP и NPU. .
Хотя многие модели глубокого обучения SOTA изначально не были оптимизированы для мобильных выводов, за последние несколько лет ситуация радикально изменилась. В 2015 году TensorFlow Mobile стала первой официальной библиотекой для запуска стандартных моделей искусственного интеллекта на мобильных устройствах без специальной модификации или преобразования. В 2017 году TensorFlow Lite (TFLite) предложил значительно уменьшенный размер двоичного файла и ядра, оптимизированные для вывода на устройстве.
Между тем быстрое развитие глубокого обучения привело к появлению ряда новых подходов и моделей, которые заложили основу для повышения производительности таких задач, как классификация изображений, обработка фотографий и понимание нейронного языка.
В целях тестирования глубокого обучения на смартфонах в экосистеме Android исследователи из лаборатории компьютерного зрения ETH Zurich (Швейцарский федеральный технологический институт в Цюрихе) в прошлом году разработали приложение AI Benchmark для измерения готовности более 200 устройств Android и 100 мобильных SoC, собранных в дикой природе.
Исследователи ETH Zurich недавно опубликовали результаты своих тестов за 2019 год. Они в партнерстве с исследователями из Google Research, Samsung, Huawei, Qualcomm, MediaTek и Unisoc оценили производительность всех наборов микросхем, которые в настоящее время обеспечивают аппаратное ускорение для вывода ИИ.
Исследовательское приложение AI Benchmark включает 21 тест глубокого обучения, измеряющий более 50 аспектов производительности ИИ (скорость, точность, время инициализации, стабильность и т. Д.) С использованием наиболее распространенных архитектур глубокого обучения на смартфонах.
Оценки обычно отражают скорость вычислений ИИ, точность результатов и максимальный обрабатываемый размер изображения или данных, объяснил разработчик приложения ETH и первый автор статьи Андрей Игнатов в электронном письме в Synced.
Huawei заняла 6 из 10 лучших мест для смартфонов с поддержкой искусственного интеллекта, а Mate 30 Pro 5G и Mate 30 Pro почти вдвое превзошли другие топ-10. «Прямо сейчас устройства Huawei с Kirin 990 5G SoC могут запускать нейронные сети с плавающей запятой до четырех раз быстрее, чем телефоны с другими наборами микросхем, поэтому они получают значительно более высокий общий балл AI», - сказал Игнатов.
Что на самом деле означают оценки при повседневном использовании для пользователей?
Игнатов говорит, что более высокие баллы указывают на два основных преимущества. «Телефон может быстрее запускать стандартные модели глубокого обучения, а это означает, что пользователь будет меньше ждать, чтобы увидеть результаты соответствующих программ ИИ». Это относится к более быстрому переводу текста, распознаванию лиц, обработке изображений HDR, рендерингу дополненной реальности и т. Д.
Во-вторых, что более важно, по словам Игнатова, высокие баллы также позволяют развертывать «более сложные и мощные нейронные сети на смартфоне, что улучшает взаимодействие с пользователем». Это означает более точное распознавание голоса, лучшее качество фото и видео, более умных виртуальных помощников, более безопасные системы распознавания лиц и т. Д.
Исследователи планируют и дальше публиковать регулярные отчеты о реальном состоянии ускорения ИИ на мобильных устройствах, отражающие изменения в области машинного обучения и соответствующие корректировки, внесенные в этот тест. Последние результаты, полученные с помощью AI Benchmark, и описание реальных тестов ежемесячно обновляются на сайте проекта.
Статья AI Benchmark: All about Deep Learning on Smartphones in 2019 находится на arXiv.
Журналист: Юань Юань | Редактор: Майкл Саразен
Мы знаем, что вы не хотите пропустить ни одной истории. Подпишитесь на наш популярный Synced Global AI Weekly , чтобы получать еженедельные обновления AI.
Нужен всесторонний обзор прошлого, настоящего и будущего современных исследований в области искусственного интеллекта? Отчет Тенденции развития технологий искусственного интеллекта вышел!
Вышел Отчет об адаптивности AI для публичной компании Fortune Global 500 за 2018 год!
Приобретите отчет в формате Kindle на Amazon.
Подайте заявку на участие в Партнерской программе Insight, чтобы получить бесплатный полный отчет в формате PDF.
