Инвестиции Intel в когнитивные технологии

Влияние и новые возможности

Intel — компания, которая вносит огромный вклад в развитие когнитивных технологий. Являясь лидером суперкомпьютерных площадок Top500, компания формирует будущее высокопроизводительных вычислений (HPC) и более широкой экосистемы (таблица 1). Анализ инвестиционной активности Intel может помочь выявить новые тенденции в области когнитивных технологий.

На сегодняшний день Intel завершила не менее 20 сделок, направленных на приобретение или инвестирование в активы, прямо или косвенно связанные с различными областями когнитивных технологий, включая обработку естественного языка, распознавание речи, робототехнику и другие. Самые большие ставки делались на активы, которые на первый взгляд не имеют явной связи с когнитивными технологиями (например, интерконнекты). Однако именно эти активы могут определить будущее когнитивных технологий (табл. 2).

Генеральный директор Intel Брайан Кржанич недавно обрисовал будущее компании. Машинное обучение, похоже, является неотъемлемой частью его заявления, хотя оно было упомянуто всего дважды. Машинное обучение связывает некоторые другие столпы, упомянутые генеральным директором, а именно облако / центр обработки данных, подключенные вещи и возможность подключения [1]. Центры обработки данных — это места, где происходит машинное обучение. Облако — это среда для обмена результатами машинного обучения с подключенными вещами, которые сами могут стать активными учениками. Это история, которую Intel может воплотить в жизнь.

Инвестиции и приобретения Intel соответствуют недавнему заявлению генерального директора. Например, компания инвестирует в инфраструктуру, которая делает центры обработки данных более удобными для когнитивных технологий. программируемые вентильные матрицы (FPGA) и межсоединения. Intel также поддерживает технологии, которые могут принести новые вычислительные возможности подключенным вещам, включая компьютерное зрение, распознавание речи и расширенную аналитику.

Стремление чипового гиганта к машинному обучению открывает новые возможности для сообщества когнитивных технологий. Лучшее и, предположительно, более дешевое оборудование для центров обработки данных приводит к более быстрому внедрению когнитивных технологий корпорациями. Технологические изменения в аппаратном обеспечении, например диверсификация FPGA в новых вертикалях, создают новые проблемы, которые стартапы могут найти актуальными для поиска решения.

Новые рабочие нагрузки в центрах обработки данных и в облаке

В 2015 году Intel совершила крупнейшее приобретение, заключив сделку с Altera, производителем ПЛИС, на сумму около 17 миллиардов долларов. Обоснование сделки и ее сроки должны быть изучены и поняты с учетом того, что еще в 2010 году Кристофер Дэнли, аналитик JP Morgan Securities, подчеркнул соображения Intel по приобретению поставщика FPGA [2]. Вопрос в том, что побудило Intel сделать такой смелый шаг в 2015 году.

Возможным стимулом для перехода в сегмент FPGA является то, что это новый развивающийся рынок, когда центры обработки данных технологических компаний испытывают новый тип рабочей нагрузки. Нагрузки, связанные с когнитивными технологиями, например. машинное обучение, распознавание речи и изображений становятся все более заметными, но пока не большими.

Новые типы рабочих нагрузок в настоящее время составляют незначительную долю работы центров обработки данных, однако ожидается, что она будет расти. Например, количество серверов, используемых для выполнения глубокого обучения в Microsoft, … составляет не более однозначных процентов от всей рабочей нагрузки[3]». В 2014 году около 10 % поисковых запросов в Baidu выполнялись голосом. Ожидается, что к 2020 году голосовые запросы достигнут 50-процентного порога [4].

Некоторые из рабочих нагрузок когнитивных технологий достаточно проработаны, чтобы их можно было распределять по разным типам серверов. Например, мощные графические процессоры (GPU) помогают в обучении нейронных сетей, а традиционные центральные процессоры выполняют рабочие нагрузки.

В то же время большая часть дизайна сети глубокого обучения по-прежнему является «эмпирической», требует большого количества экспериментов, наборов данных, превышающих оптимальные, и, следовательно, большей мощности. Вопрос ускорения процесса по-прежнему актуален.

Важно подчеркнуть, что облако имеет решающее значение для компаний, которые имеют дело с новыми рабочими нагрузками в области когнитивных технологий. Поскольку текущие конечные точки вряд ли могут обеспечить необходимую вычислительную мощность для таких рабочих нагрузок, как машинное обучение, доставка ее через облако считается важной.

В отличие от ситуации с традиционными рабочими нагрузками, когда облако иногда является хорошим вариантом, облако является обязательным вариантом для когнитивных технологий. Например, потенциально можно запустить CRM на рабочем столе, не обращаясь к Salesforce за облачными продуктами. При этом обучение нейросети вряд ли возможно без опоры на мощные серверы провайдера. По оценкам Intel, к 2020 году треть поставщиков облачных услуг будут использовать серверные узлы с ускорением FPGA[5].

По мере распространения новых типов рабочих нагрузок также следует настройка инфраструктуры.

Как говорит Хамант Дхулла, вице-президент подразделения центров обработки данных компании Xilinx, производителя FPGA, [мы] видим, что эти центры обработки данных разделены на «модули или несколько стоек серверов для конкретных рабочих нагрузок. Например, у некоторых есть модули, предназначенные для таких вещей, как изменение размера изображения, например…» [6]

Продвижение Intel в области ПЛИС и проблемы, связанные с этим

Требуемый уровень специализации аппаратного обеспечения центра обработки данных может быть достигнут с помощью ПЛИС. Эрик Чанг из Microsoft Research объяснил Thenextplatform обоснование использования FPGA, в частности его профиль мощности и гибкость.

По словам г-на Чанга, FPGA представляют собой баланс между чем-то универсальным и специализированным аппаратным обеспечением, даже если его пиковая производительность ниже, чем у графических процессоров, и есть трудности с его программированием» [7].

Например, Microsoft использует FPGA для ускорения Bing[8]. Baidu также экспериментировала с FPGA в традиционных задачах поиска, распознавания изображений и речи[9].

Можно ожидать, что с помощью Intel ПЛИС Altera диверсифицируются в новые вертикали и функции. Например, ПЛИС приближаются к обработке естественного языка, медицинской визуализации или обработке сетевых пакетов. В некоторых случаях FPGA используются на стороне хранения, в то время как в других на них возлагаются некоторые вычислительные нагрузки[10].

Толчок Intel в сторону FPGA кажется не реактивным ответом на рыночный спрос, а вполне логичным шагом. За последние пять лет Intel прочно закрепилась в списке Top500 не только как поставщик процессоров, но и как поставщик сопроцессоров, ускоряющих их. Сопроцессоры Intel Xeon Phi ускорили 27 из 500 самых мощных компьютеров в ноябре 2015 г. (табл. 3). Понимая важность гибридных вычислений, Intel сделала шаг в сторону FPGA.

Однако есть опасения по поводу использования FGPA для рабочих нагрузок когнитивных технологий. По состоянию на ноябрь 2015 года среди Top500 самых мощных компьютеров не было систем, использующих ускорение FPGA.

Урс Хёльцле, старший вице-президент группы технической инфраструктуры в Google, упомянул, что ПЛИС — это скорее нишевая вещь, поскольку их … намного сложнее программировать, чем ЦП… вы используете их там, где у вас нет выбор'«[11]. Языки программирования FPGA, Verilog и VHD, не самые простые для изучения, а альтернативные решения, такие как OpenCL для FPGA Altera и C для FPGA Xilinx, не выглядят оптимальными[12].

Более того, в дополнение к проблемам с программированием, перемещение данных и память являются другими проблемами, когда центральные процессоры ускоряются с помощью графических процессоров или FPGU [13]. Например, узкое место появляется на шине PCI-express. NVidia поясняет: …графические процессоры подключаются к процессорам на базе x86 через интерфейс PCI Express (PCIe), что ограничивает возможность доступа графического процессора к системе памяти ЦП и в четыре-пять раз медленнее, чем типичные системы памяти ЦП«[14]. ]. Соединение ПЛИС с ЦП также является сложной задачей[15].

Обе проблемы, программирование FPGA и перемещение данных/память, находятся в поле зрения и повестки дня Intel.

Для решения задач программирования Intel разрабатывает набор библиотек FPGA, включая стандартное ускорение для облачных, сетевых и традиционных предприятий. Приложения машинного обучения также считаются интересными для компании. Intel рассчитывает улучшить программируемость и облачное использование ПЛИС с помощью пакета [16].

Технологии, приобретенные в Interconnect Technology Business от Cray и InfiniBand Business от QLogic, могут быть полезны для интеграции ЦП с FGPA и решение проблем с потоками данных/памятью[17]. В будущем Intel рассчитывает разместить FPGA и ЦП на одном кристалле. Кроме того, похоже, у Intel есть возможности, необходимые для разработки кластеров с FPGA на основе удаленного прямого доступа к памяти (RDMA) через InfiniBand.

Расширение возможностей центров обработки данных — не единственная цель инвестиционной деятельности Intel. Intel приобрела Xtremeinsights, консалтинговую компанию, для продвижения дистрибутива Intel Apache Hadoop, используемого в расширенной аналитике и машинном обучении[18].

Кроме того, компания приобрела активы в области навигации, компьютерного зрения и обработки естественного языка/распознавания речи. Эти приобретения важны для реализации стратегии Intel в области взаимосвязанных вещей.

Подключенные вещи

Разгрузка некоторых вычислений на конечной точке, по-видимому, является целью инвестиций Intel в области связанных вещей (таблица 4).

Ян ЛеКун, директор по исследованиям искусственного интеллекта в Facebook, подчеркивает сложность вычислений на устройстве, которую Intel, похоже, тоже заметила[19]. Выполнение рабочих нагрузок когнитивных технологий на конечных точках — это новая тенденция, поскольку она облегчает вычисление компромиссов между локальным и энергетическим обменом[20], обеспечивает низкую задержку и может решить проблемы с конфиденциальностью за счет сведения к минимуму раскрытия конфиденциальных данных внешнему миру. Поэтому можно предположить, что ускорители систем на кристалле (SoC) для когнитивных функций могут стать обычным явлением в ближайшем будущем.

Занимаясь локальными вычислениями, Intel приобрела Saffron, поставщика платформы когнитивных вычислений, и Silicon Hive, разработчика инструмент для программирования компонентов SoC и Olaworks, компанию по распознаванию лиц на мобильных устройствах. Indisys, компания по обработке естественного языка, предположительно, также была приобретена с целью интеграции ее технологий в чипы Intel[21].

Intel считает, что технологии Saffron … развернутые на небольших устройствах, могут сделать возможной интеллектуальную локальную аналитику в Интернете вещей[22]». Кроме того, ходили слухи, что сочетание технологий Olaworks и Silicon Hive может помочь Intel в распознавании лиц в движении. нагрузка на мобильный [23].

Также компания совершила не менее 12 приобретений в области компьютерного зрения, распознавания речи, навигации и робототехники (таблица 5). Некоторые активы интегрированы в структуры Intel, например, Telmap, который был приобретен за 300 миллионов долларов. Кроме того, приобретенные технологии внедряются в продукты Intel (например, Omek Interactive стала частью платформы RealSense) или работают независимо (например, Nixie Labs, Open Bionics, Babybe).