Как Mac на ARM будет способствовать развитию AI / ML в будущем

Когда Apple представила новый iPad Pro, они даже зашли так далеко, что заявили, что последний планшет Apple был таким же быстрым - или быстрее - чем 92% используемых в то время ноутбуков и планшетных компьютеров.

Это 92% для планшета толщиной 1/4 и без вентилятора. Думаю об этом.

Критики будут оспаривать эти цифры и справедливо указывать на то, что A12x не выдерживает таких скоростей. Это ограничено бюджетом мощности и тепловыми характеристиками iPad, что тоже верно.

Но что, если это не так? Apple никогда не показывала нам микросхемы серии A с бюджетом мощности ноутбука и с радиаторами и системами охлаждения ноутбука ... и стоит задаться вопросом, как нынешнее поколение A12x будет в этом отношении ...

И что бы не случилось, если бы инженеры Apple сосредоточились на создании пользовательского чипа ARM для ноутбуков, хотя возможные тесты показывают ошеломляющие результаты для еще не анонсированного 12-ядерного процессора.

Тем не менее, инженеры Apple также не славятся тем, что почивают на лаврах, и почти наверняка новый, лучший и быстрый чип A13 для iOS готовится выйти на сцену всего через несколько месяцев.

2. Запуск macOS на ARM

Это в некоторой степени связано с производительностью, поскольку основная идея заключается в том, что ARM не может запускать «настоящую» многозадачную операционную систему. Критики снова указывают на то, что iOS была затруднена и не могла выполнять «настоящие» многопоточные фоновые задачи.

И опять же, это правда, что iOS в этом отношении затрудняла… Apple.

Однако главным виновником в этом случае была не производительность или возможности набора микросхем ARM, а время автономной работы.

Современные мобильные устройства - это чудо современной инженерии и аккумуляторных технологий, но в более ранних устройствах использовались более грубые процессоры и менее эффективные дисплеи, а также использовались более энергоемкие радиоприемники, и все они питались от менее эффективных батарей, которые просто приходилось на длиться день среднего пользователя.

Пусть фоновый процесс одного приложения постоянно опрашивает сервер на предмет обновлений в социальных сетях, и этот процесс может разрядить батарею до нуля и оставить пользователя без телефона именно тогда, когда он, возможно, больше всего в нем нуждался.

Поэтому Apple намеренно ограничила доступ третьих лиц к фоновым задачам и обработке.

iOS эффективно использует то же ядро ​​Mach и подсистемы BSD-Unix, что и macOS, поэтому дело не в том, что ОС и чип не были способны обрабатывать задействованные процессы, им просто не хватало для этого емкости аккумулятора.

3. Совместимость с Intel

Когда Apple осуществила переход на второй процессор, то есть с PowerPC на Intel, одним из многих заявленных преимуществ было то, что Apple теперь работала на том же чипсете Intel, что и Windows, и поэтому пользователи теперь могли запускать программное обеспечение Windows на своих Маках.

В 2005 году Apple все еще находилась в затруднительном положении, и мир даже не видел iPhone. Apple знала, что ей нужно отказаться от чрезмерно жесткой дорожной карты IBM, и что Intel была ее единственным реальным выбором.

Также он не мог гарантировать, что сможет убедить остальную часть отрасли перенести их программное обеспечение на Mac.

В 2006 году Apple выпустила первую версию Bootcamp, чтобы пользователи могли выполнять двойную загрузку в OS X и Windows и запускать программное обеспечение Windows. Купите одну машину и используйте операционную систему, которая лучше всего подходит для выполняемой работы.

Apple также работала с VMWare и Parallels, чтобы предоставить программное обеспечение для виртуализации, которое позволило программному обеспечению на базе Windows работать в специализированных разделах и даже напрямую интегрироваться с рабочим столом Mac.

Таким образом, хороший процент пользователей Mac мог использовать инженерное программное обеспечение, работающее в Windows, запускать AutoCAD, а также запускать Visio, Microsoft Project, Word и Excel.

То были времена. На самом деле те были днями.

Неудачи Intel

Однако сегодня не вчера, и мир изменился. Сегодня Word и Excel можно скачать в App Store. AutoCAD работает непосредственно в macOS. И большая часть мирового программного обеспечения работает не на компьютерах, а в Интернете.

Но сегодня у Apple почти те же проблемы с Intel, что и у IBM и PowerPC. А именно, полная и полная уверенность в том, что сторонняя компания предоставит микросхемы для их всей линейки ноутбуков и настольных компьютеров.

Это нормально - зависеть от кого-то, если этот человек надежен… не замечательно, понимаете, но хорошо.

Но что происходит, когда их нет?

В течение последних восьми лет Intel пропустила цель за целью в своей дорожной карте процессоров, и Apple получила много критики со стороны пользователей и технической отрасли по поводу отсутствия у Apple инноваций и неспособности выпускать обновленные компьютеры и ноутбуки на рынок. Черт возьми, Я их много обидел.

Apple поймала критику, но, честно говоря, довольно сложно вывести на рынок новые компьютеры, когда поставщик основного процессора постоянно не выполняет свои обещания.

Intel только сейчас пытается перейти с 14-нм техпроцесса на 10-нм для своих чипов, тогда как чипы Apple серии A12 производятся TSMC сегодня по 7-нм техпроцессу.

Apple на целое поколение опережает ту точку, к которой Intel только что подходит.

И это не только процесс изготовления чипсов.

Бионический чип Apple и нейронный движок

Во время анонса нового чипа A12 «Bionic» многих удивило включение Neural Engine, отдельной части чипа, предназначенной для выполнения задач машинного обучения и обучения в реальном времени.

Благодаря специальной 8-ядерной конструкции (помимо ядер ЦП и ГП) нейронный движок Apple мог выполнять поразительные 5 триллионов операций в секунду ... на телефоне.

Apple сильно ориентируется на искусственный интеллект и машинное обучение. Да, на iPhone чип Bionic помогает использовать такие глупые вещи, как Animoji, но он также поддерживает FaceID, интеллектуальный текст, обработку естественного языка и функции отклонения ладони. Он обеспечивает распознавание лиц и классификацию объектов в приложениях для камеры и фото. Он используется для обнаружения объектов и других их инструментов для дополненной реальности - и так далее.

Bionic Neural Engine также поддерживает Core ML, набор инструментов Apple, который позволяет разработчикам импортировать и использовать обученные модели машинного обучения в своих собственных приложениях.

Apple знала, что для внедрения всех этих функций искусственного интеллекта и машинного обучения в iOS им потребуются специальные микросхемы. И поэтому они реализовали эти возможности прямо в своем наборе микросхем.

Они также добавили специальный кристалл для кодирования / декодирования видео, больше микросхемы для обработки сигнала изображения (фотографии) и многое другое для Secure Enclave (также SEP или процессор защищенного анклава), который обрабатывает и хранит конфиденциальные данные.

Apple не стесняется добавлять в свои процессоры дополнительные возможности, которые помогают выполнять работу. Было бы неправильно сказать, что это одна из их основных отличительных черт на рынке.

Что отлично подходит для iOS ... но как насчет Mac?

Дорожная карта номер два: высокий путь

Поэтому, если мы предполагаем, что Apple перейдет на ARM, нужно также спросить:

Что, если Apple решит создать специально разработанный чип ARM не только для линейки Air и MacBook, но и для линейки Pro? Я не говорю, что ARM уже достаточно готова противостоять Xeon ... но сможет ли она питать MacBook Pro?

В конце концов, платформа iOS - не единственная, которая нуждается в поддержке ИИ и машинного обучения мирового класса. Цитата Ars Technica:

«Чтобы перенести всю работу Apple в области машинного обучения и других областей на Mac, необходимы специальные микросхемы. [И] Планы развития процессоров Intel и AMD кажутся несовместимыми с некоторыми очевидными долгосрочными целями Apple ».

Имея это в виду, у главной дороги есть два основных пути:

1. Система на чипе
2. Дискретные компоненты

Пройдемся по каждому.

1. Система на микросхеме

Самый простой способ - это система на чипе или SOC. В этом дизайне Apple в основном помещает все (CPU, GPU, NE) на одном чипе.

Проблема здесь в том, сможет ли Apple втиснуть достаточно ядер ЦП и NE на один чип. Необходимо учитывать физические реалии, не говоря уже о том факте, что каждое добавленное ядро ​​увеличивает процент брака и снижает выход, увеличивая затраты.

Тем не менее, почти наверняка проекты SOC заполнят нижний и средний уровни линейки Mac, и вполне возможно, что мы увидим упомянутый выше 12-ядерный дизайн.

2. Дискретные компоненты

У этого больше возможностей для профессиональных систем.

Предположим, Apple должна была вытащить ядра GPU и NE из специального чипа ARM и использовать это пространство для добавления еще четырех высокопроизводительных ядер, что дало бы нам вышеупомянутый высокопроизводительный 12-ядерный процессор ARM?

И предположим, что они используют дискретный графический процессор, а затем также добавляют еще один заказной чип, скажем, с 48 ядрами NE для выделенной обработки AI / ML. Чип, способный выполнять 30 триллионов операций в секунду ... на ноутбуке?

Apple уже добавляла свои собственные чипы в Mac и MacBook Pro, а именно чипы T1 и T2, используемые для обеспечения поддержки Secure Enclave для распознавания отпечатков пальцев, а также множество других функций.

Включение дополнительной поддержки NE в такой чип не так уж надумано.

Имея это в виду, возможно, что Apple могла бы соединить такой чип с процессором Intel, как они это делают сегодня. Это действительно обеспечивает поддержку NE для Mac, но опять же оставляет Apple в соответствии с графиками поставок Intel.

Система AI / ML для профессионалов?

Такой MacBook Pro действительно был бы системой «Pro» с 8 высокопроизводительными ядрами и 4 низкопроизводительными ядрами для повышения эффективности. Если утекшие оценки 12-ядерных процессоров верны, мы смотрим на 6912 одноядерных и 24 240 многоядерных процессоров с тактовой частотой 3,1 ГГц.

Для справки, Geekbench 4 использует оценки, которые рассчитываются относительно базового показателя 4000, что представляет собой производительность Intel Core i7–6600U @ 2,60 ГГц.

Одноядерный результат для Intel Core i9–9900K составляет всего 6216 при 3,6 ГГц.

И это не включает мощность, добавленную выделенным графическим процессором и микросхемой, предназначенной как для обработки машинного обучения, так и для обучения.

Процессор Neural Engine

Создание дискретного процессора сетевого элемента также открывает еще одну важную возможность.

Что, если Apple поместит дюжину или около того микросхем NE на плату, а затем подключит две, три или четыре из этих плат к определенному новому высокопроизводительному настраиваемому компьютеру Mac?

Это действительно входит в сферу чистой спекуляции, но как только вы встанете на темный путь ...

Для тех, кто интересуется, производительность сетевого элемента указанного компьютера будет порядка 1,4 тысячи триллионов операций в секунду, не считая производительности ЦП / ГП. .

Core ML / Создать ML

Apple приложила немало усилий, чтобы создать Core ML и Create ML, фреймворки для разработки, которые позволяют создавать персонализированный опыт в реальном времени на iOS с помощью машинного обучения на устройстве.

Core ML использует преимущества CPU, GPU и Neural Engine для обеспечения максимальной производительности и эффективности, а Create ML позволяет разработчикам Mac создавать, обучать и развертывать модели машинного обучения прямо со своих Mac.

Начиная с iOS 13 и iPadOS 13, Create ML позволит разработчикам персонализировать свои модели почти так же, как FaceID узнает, как вы выглядите в очках или шляпе и без них. Эта информация использует Neural Engine для выполнения задач машинного обучения в режиме реального времени с данными, которые остаются на устройстве и, как таковые, обеспечивают конфиденциальность пользователей.

Apple хочет, чтобы разработчики интегрировали AI / ML в свои приложения, и они делают все возможное, чтобы поддержать их усилия.

Swift для TensorFlow

Еще одно преимущество ML на Mac - Swift для TensorFlow (S4TF).

Как вы, наверное, знаете, S4TF - это попытка Google найти и использовать новый высокопроизводительный язык для глубокого обучения и дифференцируемого программирования. После тщательного и тщательного поиска Google выбрал Swift.

Также обратите внимание, что S4TF курирует Крис Латтнер, бывший сотрудник Apple, наиболее известный как главный автор LLVM и языка программирования Swift.

И что может быть лучше среды для разработки Swift и S4TF, чем дом, в котором он был создан и воспитан, и с набором инструментов, предназначенным для его использования?

Особенно, если эта платформа была специально оборудована аппаратным ускорением для ее поддержки.

Соломинки на ветру

Очевидно, что многое из этого, особенно дорожная карта High Roadmap, является спекуляцией и в первую очередь упражнением в чтении соломинок на ветру. И все еще…

Bloomberg сообщает, что Apple только что переманила одного из ведущих архитекторов процессоров ARM, Майка Филиппо. Цитировать:

В ARM Филиппо был ведущим инженером по разработке микросхем, которые используются в подавляющем большинстве смартфонов и планшетов в мире , и был лидером в разработке компонентов для компьютеров.

Филиппо также ранее был главным архитектором в Intel и AMD.

Это подтверждается новостью о том, что некоторые официальные лица Intel в частном порядке заявили Axios, что ожидают, что Apple начнет переход с Intel на ARM уже в следующем году.

В другом более раннем отчете Bloomberg указано, что план по выпуску компьютеров Mac на базе ARM уже одобрен руководством Apple и может появиться в 2020 году.

Кроме того, есть сообщения о том, что Microsoft, которая долгое время работала рука об руку с Intel, в настоящее время тестирует прототипы Surface Pro с пользовательским чипом ARM Snapdragon внутри.

Если Microsoft не слишком беспокоится об обратной совместимости с Intel, не следует ли Apple последовать их примеру?

И, наконец, во второй бета-версии macOS Catalina были обнаружены неизданные сигнатуры графических процессоров AMD Radeon.

Такие сигнатуры графического процессора являются известными предшественниками неминуемого выпуска оборудования. Apple только что отказалась от замены Mac Pro с известными платами графического процессора и обновила линейку MacBook Pro новыми процессорами. Итак, какие другие компьютеры с дискретными графическими процессорами появятся в ближайшем будущем?

Болевые точки

Да, переход Mac с Intel на ARM повлечет за собой несколько проблемных моментов, но только несколько, и для большинства из нас они, вероятно, тоже не будут такими болезненными.

В конце концов, Apple уже делала переходы: с 68000 на PowerPC, с PowerPC на Intel ... и с Intel на ARM, если сразу перейти к делу, поскольку Apple портировала ядро ​​всей своей ОС на ARM, когда создавала iPhone.

Apple уже перестраивалась, и у них это хорошо получается.

И как уже говорилось выше, мир изменился. Современное программное обеспечение часто загружается прямо с серверов App Store на устройство пользователя. Чаще всего это программное обеспечение сокращается в ресурсах и перекомпилируется из битового кода в формат, специально предназначенный для эффективной работы на данном процессоре.

По большому счету, дни «толстой бинарной системы» прошли.

Более важным фактором отказа от поддержки Intel будет потеря виртуализации Bootcamp, Parallels и VWWare Window. С другой стороны, это тоже возможно. Технологии также развиваются, и мы стали намного лучше в JIT- и AOT-компиляции и эмуляции процессора.

Эмуляция не позволяет запускать приложения на полной скорости, это правда. Но исследования показали, что при эмуляции 80% узких мест вызывает лишь несколько команд процессора. Так что, если Apple бросит нам кость и добавит несколько дополнительных инструкций для ARM, чтобы помочь?

К тому же, как уже неоднократно упоминалось, сегодня не вчера. Сегодня при необходимости я могу удаленно подключиться к экземпляру AWS без промедления. Через несколько месяцев мы будем транслировать высококачественные игры с удаленных серверов. Если кто-то должен иметь доступ к выделенному серверу Windows, то эти службы доступны.

А если нет, то все равно совершенно ясно, что надпись на стене.

Если потеря нескольких клиентов, посвятивших себя запуску Windows непосредственно на Mac, - это цена, которую Apple должна заплатить, чтобы получить контроль над дорожной картой своего процессора и восстановить контроль над своей судьбой ...

Apple заплатит.

Без раздумий.

Mac для будущего

Apple полностью осознает необходимость быть в авангарде волны искусственного интеллекта и машинного обучения, и что может быть лучше, чем с помощью машины, которая поддерживает как разработчиков, так и конечных пользователей с помощью самых мощных доступных инструментов и возможностей AI и ML?

Оригинальный Macintosh с его мышью и интерфейсом WYSIWYG стал основой, на которой зародилась вся зарождающаяся индустрия настольных издательских систем.

Так что для перехода на ARM было бы действительно уместно перезагрузить Mac в новую эру с новой технологией, специально разработанной для поддержки потребностей будущего.

Вопрос уже не в том, собираются ли они на это.

Но когда. И как.

Примечание редактора. Heartbeat - это онлайн-публикация и сообщество, созданное авторами и посвященное предоставлению первоклассных образовательных ресурсов для специалистов по науке о данных, машинному обучению и глубокому обучению. Мы стремимся поддерживать и вдохновлять разработчиков и инженеров из всех слоев общества.

Являясь независимой редакцией, Heartbeat спонсируется и публикуется Comet, платформой MLOps, которая позволяет специалистам по данным и группам машинного обучения отслеживать, сравнивать, объяснять и оптимизировать свои эксперименты. Мы платим участникам и не продаем рекламу.

Если вы хотите внести свой вклад, отправляйтесь на наш призыв к участникам. Вы также можете подписаться на наши еженедельные информационные бюллетени (Deep Learning Weekly и Comet Newsletter), присоединиться к нам в » «Slack и подписаться на Comet в Twitter и LinkedIn для получения ресурсов, событий и гораздо больше, что поможет вам быстрее создавать лучшие модели машинного обучения.