Часть 1 из 2 получения нашей первой сборки для глубокого обучения

Отказ от ответственности: я выбрал компоненты от разных производителей, но ни один из них не спонсируется.

Также обратите внимание, что цены указаны для Индии. Компоненты здесь могут быть сравнительно намного дороже в зависимости от вашей страны.

Но что ж, если MSI - вы это читаете. У меня есть еще несколько слотов, которые нужно заполнить большим количеством карт RTX;)

С момента запуска моей маленькой компании Neuroascent, которую я основал вместе с Риши Бхалодиа около нескольких месяцев назад, мы достигли стадии, когда теперь мы готовы инвестировать в Установка для глубокого обучения.

Мы товарищи и поклонники fast.ai, и Джереми Ховард советует создать «ящик для глубокого обучения» во время выполнения второй части своего МООК.

Мы решили посвятить свое время фастаю основательно, а затем перешли на другие пути.

После завершения части 1 на этот раз (версия v3, 2019), после того, как мы узнали и поделились, как не делать fast.ai, это наша попытка подготовиться к fast.ai Part2 и в то же время больше практиковаться на Kaggle.

Этот пост в блоге представляет собой обзор того, что мы сделали в отношении компонентов ПК, почему мы решили собрать его у стороннего продавца: Ant-PC вместо того, чтобы делать это самостоятельно, и несколько предложений о том, где вы могли бы иметь возможность сэкономить деньги или получить лучшую отдачу от вложенных средств.

Почему ящик для глубокого обучения?

Я некоторое время пользовался AWS, прежде чем вложиться в «DL Box». На самом деле это моя вторая инвестиция, первая из которых - «Игровой ноутбук» -1070.

Почему наличие DL-бокса - хорошая идея?

  • AWS рассчитывается в долгосрочной перспективе ›› Стоимость DL Box.
  • Наряду с этим вы получаете душевное спокойствие и избавляетесь от необходимости гарантировать, что ваш экземпляр «выключен».
  • По сравнению со стандартными экземплярами AWS, вы можете стремиться к более быстрой сборке (на базе 2080Ti)

Кроме того, мои доводы очень резонируют с Франсиско Ингхэмом, упомянутым им здесь.

Копия вставлена ​​для чтения:

Причины:

Скин в игре
Вложение значительной суммы денег в новую сборку доказывает для себя, что вы серьезно относитесь к этому материалу DL.

Мотивация
Завершение сборки, связанное с хлопотами по выбору компонентов, их источникам и обеспечению бесперебойной работы всего (как аппаратного, так и программного обеспечения), ОЧЕНЬ удовлетворительное.

Гибкость
Тот факт, что вы разработали это для себя с нуля, означает, что вы знаете каждый сделанный шаг и можете легко изменить при необходимости (например, заменить часть компьютера на новую или изменить ваша настройка разработчика).

Простота работы
Если вы можете позволить себе хорошее оборудование, все проще, чем полагаться на внешние вычисления. Ноутбук работает плавно и быстро, без лагов. Это значительно облегчает экспериментирование.

Хорошо, но зачем его собирать?

Учитывая отсутствие опыта работы с оборудованием и боязнь что-либо сломать, мы решили потратить немного больше денег на сборку.

Оказывается, Ant-PC: интернет-магазин в Индии не выставлял нам за это непомерные суммы.

Несколько плюсов:

  • Ребята из Ant-PC пообещали мне провести стресс-тесты за 2 дня перед отправкой мне ПК, а это значит, что я буду спокойна и не получу никаких неисправных компонентов.
  • Они предоставляют 1 год гарантии на месте: вместо отдельной гарантии на компоненты я получу год гарантии на «Neutron», что является плюсом.
  • Кроме того, ребята из Ant-PC - одни из немногих розничных продавцов в Индии, которые работали с DL Builds, поэтому они очень помогли при выборе наших компонентов.
  • Наконец, они дали мне бесплатную подсветку RGB (важная деталь)

Компоненты

Разобравшись с предысторией, давайте перейдем к ней.

Отказ от ответственности: я не гуру оборудования и не очень рекомендую свой выбор. Обязательно проведите свое исследование. Мои идеи в значительной степени почерпнуты из сообщества Kaggle Noobs и форумов fast.ai, где мне очень помогли люди с гораздо большим опытом.

Источники, сформировавшие мое мнение:

Несколько вещей, о которых я постарался позаботиться:

  • Комната для улучшений
  • Стремитесь к лучшему графическому процессору (согласно бюджету)
  • Купите сочный накопитель NVMe M.2 (предложение Джереми на форумах fastai)

Процессор

Intel i7–8700K

Цитата из блога Тима Деттмера Полное руководство по аппаратному обеспечению для глубокого« обучения »

Процессор

Основная ошибка, которую совершают люди, заключается в том, что люди уделяют слишком много внимания линиям PCIe процессора. Вы не должны особо заботиться о линиях PCIe. Вместо этого просто посмотрите, поддерживает ли комбинация вашего процессора и материнской платы то количество графических процессоров, которое вы хотите запустить. Вторая наиболее частая ошибка - это слишком мощный процессор.

6-ядерный процессор оказался наилучшим решением для наших требований.

Пара икоты:

  • Он поддерживает до 64 ГБ ОЗУ: Исправить - выделить больше подкачки.
    Честно говоря, сейчас я не вижу возможности использовать ›64 ГБ ОЗУ, но для будущих нужд - это может быть то, что вы захотите изучить.
  • Не 9-го поколения:
    Во время сборки мир видел рост процессоров 9-го поколения.

Выпуск процессора 9-го поколения стал хорошим фактором, сделавшим процессор 8-го поколения более доступным, разница в производительности и цене для 9-го поколения, похоже, не особо выделялась.

баран

RAM Источник: блог Тима Деттмера

Основная ошибка с ОЗУ - покупка ОЗУ со слишком высокой тактовой частотой. Вторая ошибка - покупка недостаточного количества оперативной памяти для беспроблемного создания прототипов.

Снимали на 64гб

16 * 4: G.Skill Ripjaws V DDR4 3200 МГц

Несколько предложений:

  • Вы можете выбрать ОЗУ с меньшей тактовой частотой, как указал Тим Деттмер, однако разница в цене была незначительной, и мы выбрали эти.
  • Если по той же логике вы захотите использовать RGB RAM: вы можете получить светодиодные ленты намного дешевле, и это сделает ваш корпус намного лучше;)

Также обратите внимание, что материнская плата для нашего корпуса поддерживает до 64 ГБ ОЗУ.

GPU

Что касается графического процессора, то мы выбрали RTX 2080 Ti.

Разница в цене между 2070 и 2080Ti составляет около 900 долларов, по цене 2080Ti - вы можете снимать для 2x2070, что даст вам увеличение объема памяти.

Но из-за отсутствия у нас опыта в обучении моделей на нескольких графических процессорах мы остановились на 2080Ti.

Я также хочу отметить, что я решил выбрать MSI Gaming X Trio - личное предпочтение MSI.

Привет, MSI, я знаю, что вы не спонсировали это. Я не злюсь, у меня на материнской плате больше слотов, с которыми вы могли бы мне помочь: D

Примечание: Gaming X Trio - громоздкая карта. Наши друзья из Ant-PC предупредили нас, что для подключения большего количества графических процессоров нам потребуется вертикальный монтаж или удаление опорной планки для графического процессора.

Опорная планка: GPU весит ~ 3 кг, поэтому ему нужна опорная планка, чтобы он не провисал.

Материнская плата

Краткий контрольный список:

  • Подходит к вашему кейсу.
  • Совместимость с процессором.
  • Поддерживает желаемый размер ОЗУ.
  • Поддержка нескольких графических процессоров.
  • Поддержка нескольких накопителей NVMe M.2.
  • Поддержка нескольких жестких дисков (большинство современных материнских плат имеют это)

По указанным выше причинам и с уклоном в сторону MSI мы решили приобрести MSI Z370 PC PRO.

  • Поддерживает процессоры 8-го поколения.
  • Поддерживает до 64 ГБ ОЗУ.
  • Допускает до 3 графических процессоров.
  • Поддерживает 2 диска M.2.

Случай

Наш продавец рекомендовал приобрести версию CoolerMaster H500 по следующим причинам:

  • Корпус имеет приличный размер, чтобы его можно было удобно модернизировать.
  • Прозрачная панель, чтобы показать немного любви RGB.

БП

Другой контрольный список:

  • Поддерживает текущие компоненты.
  • Будет поддерживать будущие требования к компонентам.

По этим причинам мы выбрали блок питания CoolerMaster Vanguard 1000W.

Процессорный кулер

Это еще одна вещь, которую я хочу быстро повторить,

Основываясь на своих предыдущих (неверных) знаниях, я предположил, что лучше всего будет использовать жидкостный кулер для ЦП, так как я добавляю несколько графических процессоров, и в то же время я хотел бы, чтобы все было в порядке.

Но, к счастью, как отметил Франсиско Ингам на форумах Fastai, жидкостный кулер очень помогает только тогда, когда вам нужно разогнать процессор, а не в наших требованиях.

Кроме того, существует лишь небольшая вероятность того, что утечка может произойти - не может быть, - но это возможно.

По этим причинам мы решили заменить жидкостный охладитель ML240L на Hyper 212 LED Turbo.

Наш розничный продавец Ant PC также подтвердил, что это хороший выбор, к тому же при необходимости всегда легко поменять кулер.

Хранилище

Решил качать на этом 2 разных диска

  • Твердотельный накопитель Samsung M.2 970 Pro 512 ГБ

Использование: Ubuntu + Swap + активные наборы данных

  • 2 ТБ HDD

Использование: 1,5 ТБ для архивов

512 ГБ для установки Windows. Ну, конечно, для целей трассировки лучей.

Наконец, вот несколько первых взглядов на Neutron.

Во второй части этого блога я расскажу о шагах по настройке среды DL, а в ближайшее время приведу несколько тестов.

Если вам это показалось интересным и вы хотели бы стать частью Моего пути обучения, вы можете найти меня в Twitter здесь.

Если вам интересно читать новости о глубоком обучении и компьютерном зрении, вы можете ознакомиться с моим информационным бюллетенем здесь.