Техническое руководство по эффективному аппаратному масштабированию, стратегиям оптимизации памяти и инструментам повышения производительности. Автор: Dr. Марио Майкл Крелл , Чжэньинг Лю, Эммануэль Менаж и Бартош Богдански Инженеры Graphcore продемонстрировали выдающуюся производительность в соответствии с последними результатами обучения MLPerf v1.1, опубликованными в декабре 2021 года [9], при этом наш IPU-POD16 превзошел флагман Nvidia DGX A100 на ResNet-50. Здесь мы объясним,..

Почему ? Широкое распространение DNN в различных областях делает оптимизацию производительности очень важной областью. В этом посте мы узнаем об ограничениях операций и их измерении: арифметической интенсивности. Как мы определяем производительность? Производительность определяется пропускной способностью памяти, вычислительной пропускной способностью и задержкой. Рассмотрим упрощенную модель (M), в которой функция считывает свои входные данные из памяти, выполняет математические..

MLCube - это набор передовых методов создания программного обеспечения машинного обучения, которое может работать по принципу plug-and-play во многих различных системах. О MLCube Сообщество машинного обучения (ML) за последнее десятилетие стало свидетелем бурного роста и инноваций. Новые модели появляются ежедневно, но совместное использование этих моделей остается разовым процессом. Часто, когда исследователь хочет использовать модель, созданную в другом месте, ему приходится..

«Быстрее, выше, сильнее» - олимпийский девиз, который более века подталкивал спортсменов к совершенству. Не так уж и много отличается в сфере обучения модели искусственного интеллекта, где ведущие технологические компании мира вовлечены в постоянную гонку за повышение эффективности своих исследований. Сегодня предшественники Google и NVIDIA объявили, что они установили новые рекорды времени обучения искусственного интеллекта в конкурсе тестов MLPerf - отраслевом стандарте оценки..

Команда MLPerf объявила о первых результатах теста машинного обучения. MLPerf - это общий тест машинного обучения, предназначенный для измерения максимальной эффективности каждого участника с его собственными ресурсами по конкретной задаче. Он был запущен в мае этого года при поддержке группы исследователей и ученых из более чем 30 компаний, включая Intel, Nvidia, Baidu и Google; а также исследователи семи университетов. Facebook и Microsoft теперь присоединились к списку, объявив..