Что, если вы вдруг узнаете о наличии вашего любимого товара на рынке?
Те мелочи, на которые вы полагаетесь, так много значат для вас, и вы понимаете это в их отсутствие. То же самое и с крупными брендами, которым для лучшего прогресса требуется все, от маленьких чипов до громоздких аппаратных компонентов.
Вы когда-нибудь задумывались о том, как технари развивают искусственный интеллект и машинное обучение? Итак, вот кое-что для всех тех, кто хочет получить практический опыт глубокого обучения прямо сейчас или когда-нибудь в будущем. Ранее Google выпускал лучшие процессоры, которые использовались им только для ограниченного числа стран.
Что нового в обработке Google
Индийские компании теперь также могут получить доступ к TPU, представленным Google, чтобы изучить более сложную фазу обучения глубокому обучению.
Согласно последним отчетам, в прошлом месяце компания объявила, что будет предоставлять ограниченные наборы моделей TPU группам, которые планируют установку машинного обучения на платформе Google Cloud.
Эти блоки обработки предназначены в основном для искусственного интеллекта. Сама компания извлекла выгоду из TPU по-разному.
- ›Google теперь также владеет своим оборудованием. Его зависимость от производителей оборудования снижается, и он становится более гибким, чтобы опробовать новые изобретения, когда и когда захотят разработчики.
- ›Коллекции, созданные бизнес-приложениями, связанными с Google, сейчас значительно увеличены.
Реальная потребность в разработке процессора, предназначенного для работы с тензорами, ощущалась в связи с некоторым снижением эффективности процессоров и графических процессоров. Хотя графические процессоры могли выполнять базовые операции с тензорным потоком, у них все же были свои недостатки.
GPU против CPU
Вероятно, это может быть немного сложно для простого новичка. Надеюсь, что некоторые графические сравнения познакомят вас с основами этих процессоров.
Вот статистическое представление изменения соотношения любых двух ЦП, ГП и TPU к относительной шкале производительности, измеренной для 1 ватта.
Давайте посмотрим, как работают процессоры и графические процессоры и что сделало TPU достаточно способными, чтобы оправдать все ожидания типичного пользователя облака, вовлеченного в ИИ.
Время учиться…
ЦП, управляющий процессор, предназначен только для базовой арифметики и, следовательно, имеет низкую задержку. Арифметические операции, которые мы хотим выполнять через ЦП, будут молниеносными в ЦП. Но CPU всегда имеет определенное количество ограничений, которые, в свою очередь, открыли путь к изобретению GPU. Для выполнения ряда арифметических операций принцип последовательности внутренней работы ЦП требует больше времени. Это то, что порой доказывало, что ЦП неэффективен, поскольку это приводило к низкой пропускной способности при выполнении непрерывных вычислений. Таким образом, можно четко сказать, что ЦП - лучший выбор для выполнения простого сложения 2 + 3. С другой стороны, работа с тензором чисел вроде [1,2,3] + [7,8,9] может быть утомительной работой для процессора. То, что он на самом деле делает, называется последовательным шаблоном вычислений, то есть добавлением соответствующих элементов один за другим.
Так как же графический процессор справляется с этим?
Что касается свойств графического процессора, графического процессора, он предлагает некоторые характеристики, которые имеют преимущество перед традиционным процессором. У него более высокая задержка по сравнению с задержкой ЦП, поэтому он может быть не таким быстрым, как ЦП, когда дело доходит до арифметики, но дает более высокую пропускную способность.
Сказав это, теперь можно понять, что графический процессор может выполнять вышеупомянутые дополнения одновременно. Таким образом, пока добавляются 1 и 7, он может одновременно выполнять (2 + 8) и (3 + 9). Следовательно, если на основе предположений ЦП требуется 4 нс для завершения вычислений, общее время, прошедшее до его выполнения с указанным выше заданием, будет (3 * 4) нс = 12 нс. Теперь предположим, что графический процессор потребляет 6 нс на вычисление, а затем выдает весь вывод через 6 нс. Это потому, что, хотя у графического процессора более высокая задержка, он демонстрирует параллельную обработку. Следовательно, было бы правильно рассматривать графические процессоры как наиболее подходящие для глубокого обучения.
TPU, новейший процессор…
Недавно команда Google разработала TensorFlow Processing Unit (TPU), который представляет собой специальное оборудование, предназначенное для выполнения операций тензорного потока. Их эффективность больше, чем у ЦП и ГП вместе взятых, из-за того, что TPU используют квантованные значения. По словам команды разработчиков Google,
В производственных рабочих нагрузках ИИ, использующих логический вывод нейронной сети, TPU в 15-30 раз быстрее, чем современные графические процессоры и процессоры.
Графическое сравнение между TPU, CPU и GPU показано ниже.
Однако еще предстоит выяснить, сможет ли компания поставить необходимое количество и как работают TPU при одновременном использовании в огромных количествах. Возможно, даже они отсутствуют из-за некоторых незначительных ограничений. На этот вопрос можно будет ответить только тогда, когда TPU получат широкое распространение во всех компаниях мира.
Мы будем внимательно смотреть, это точно.
Чтобы узнать больше, вы можете посетить домашнюю страницу бета-версии Cloud TPU здесь.
