Воображение — это преувеличение данных, хранящихся в вашем мозгу. Я хочу обучить диффузионную модель сочинению музыкального произведения прекрасным вечером в Амстердаме. Однако для этого мне нужен экземпляр графического процессора AWS. Мы, инженеры по машинному обучению, всегда озадачены выбором оптимального экземпляра графического процессора. Я провел небольшое исследование по этому вопросу, и результат таков:
Размышления об искусственном интеллекте | Раахул Дутта | Substack
Я публикую еженедельные информационные бюллетени о развитии LLM, самые горячие размышления об искусственном интеллекте. Нажмите, чтобы прочитать «Размышления на…musingsonai.substack.com»
Если вы выполняете HPC (высокопроизводительную работу), например обнаружение лекарств или высокоточную работу, мы предлагаем использовать семейство экземпляров P (исторически называемое высокопроизводительным). В противном случае мы рекомендуем использовать семейство экземпляров G (исторически называемое Graphics-Heavy). Я предоставляю диаграмму стоимости для указанных экземпляров графического процессора.
🐥 Стоимость инстансов P3 и P4
🐰 Стоимость инстансов G4 и G5
Размышления об искусственном интеллекте | Раахул Дутта | Substack
Я публикую еженедельные информационные бюллетени о развитии LLM, самые горячие размышления об искусственном интеллекте. Нажмите, чтобы прочитать «Размышления на…musingsonai.substack.com»
🐹 Всегда не выбирайте графический процессор по цене
Пожалуйста, не всегда выбирайте графический процессор в соответствии с ценой. Мы провели небольшой эксперимент: обучили модель ScibertTransformer со 100 тысячами точек данных.
Результат на машине g4dn.2xlarge:
Мы также выполняли операцию на машине g5.xlarge. Результат в той же конфигурации:
