Джон Пек — разработчик полного спектра и защитник Алгоритмии, открытого рынка алгоритмов. На ODSC West 2018 он выступил с докладом ОС для ИИ, в котором рассказал, как бессерверные вычисления обеспечивают машинное обучение следующего поколения. Слайды к презентации Пека можно найти ЗДЕСЬ.
Название доклада немного вводит в заблуждение. То, о чем здесь говорит Пек, — это не буквальная операционная система, то есть не конкурент Linux или Windows. Вместо этого он смотрит на то, как со временем эволюционировали операционные системы с точки зрения функциональности и дизайна, чтобы сделать вычисления более доступными, а затем расширяет это понятие, проводя аналогию с развитием ИИ. По сути, он описывает то, что в отрасли известно как DevOps, MLOps или AIOps.
[Статья по теме: Тенденции в области ИИ: к системам обучения, требующим меньшего количества аннотаций]
Авторские права на слайд: Джон Пек, ODSC West 2018
Хотя общий характер доклада касается всех сложных проблем, решаемых Algorithmia путем подготовки алгоритмов машинного обучения к производству как услуги, спикер отлично справляется с абстрагированием всех необходимых деталей, поэтому вы получаете очень сильное представление о как можно масштабировать алгоритмы машинного обучения и искусственного интеллекта.
Мне понравилось слушать обо всех уроках, извлеченных из создания крупномасштабных систем ИИ, которые, по сути, являются планом того, как может выглядеть ОС для ИИ. В частности, это включает в себя правильный набор необходимых абстракций высокого уровня, чтобы доступ к ИИ можно было получить стандартизированным способом, независимо от используемых языков, фреймворков или оборудования.
Затем спикер Пек делает то, что меня восхитило. Он использовал вымышленный пример классификатора хот-догов «SeeFood», разработанный персонажем Цзянь-Ян в веселом (и довольно точном в описании «Долины») шоу HBO «Силиконовая долина». Это приложение для смартфона с искусственным интеллектом, которое позволяет пользователю фотографировать еду, а затем классифицировать ее как «хот-дог» или «не хот-дог». Цзянь-Ян использует свою любимую среду глубокого обучения для построения модели классификации, возможно, локально на своем ноутбуке или на арендованном экземпляре графического процессора у своего любимого облачного провайдера.
Затем Пек проходит через все аспекты развертывания приложения See-Food в масштабе: обучение, развертывание модели обучения на сервере GPU, предоставление логического вывода в качестве службы, использование Kubernetes для эластичного масштабирования и запуска, предоставления и масштабирования служб, использование балансировка нагрузки для максимального параллелизма и улучшенная задержка для сокращения времени отклика для глобальной базы пользователей.
[Статья по теме: ИИ и визуальная революция]
В докладе особое внимание уделяется двум важным парадигмам, «микросервисам» и «бессерверным технологиям», которые являются чрезвычайно важными частями ОС для ИИ. Бессерверный подход позволяет минимизировать затраты ресурсов. По мере поступления запросов вы можете быстро раскрутить модели для их обслуживания, убедившись, что вы платите только за сделанные звонки. Автоматическое увеличение и уменьшение спроса очень эффективно, и для этого идеально подходит бессерверная архитектура.
Авторские права на слайд: Джон Пек, ODSC West 2018
Этот доклад очень понятен в своем изложении и делает практически простым развертывание алгоритмов машинного обучения в производственной среде. Если вы специалист по обработке и анализу данных, перед которым стоит задача производства ваших моделей, эта презентация станет отличной отправной точкой для понимания того, о чем идет речь.
Чтобы глубже погрузиться в разработку ОС для ИИ, ознакомьтесь с убедительным выступлением Пека на ODSC West 2018.
Ключевые выводы:
Что делает ОС для ИИ?
- Независимый от стека
- Компонуемость
- Самооптимизирующийся
- Автомасштабирование
- Мониторинг
- Возможность обнаружения
Читайте другие статьи по науке о данных на OpenDataScience.com, включая учебные пособия и руководства от начального до продвинутого уровня! Подпишитесь на нашу еженедельную рассылку здесь и получайте последние новости каждый четверг.
