Вдыхаем жизнь в операционную систему ИИ
Взять в руки смартфон в 2022 году — значит использовать сложный набор приложений от тысяч разработчиков со всего мира. То, что смартфоны работают так хорошо, это настоящее чудо.
Приложения, работающие в фоновом режиме, собирают и используют огромные объемы данных для выполнения нашей повседневной работы. На самом деле опыт настолько хорош, что трудно понять, сколько всего происходит за кулисами и насколько работа операционной системы (ОС) делает все это возможным.
Операционные системы не являются новой концепцией. И даже в случае мобильных вычислений мобильные операционные системы разрабатываются как минимум с 1990-х годов. Без плавной координации операционной системы трудно представить, что смартфоны получили бы такое широкое распространение, которым они пользуются сегодня.
Персональные цифровые помощники или КПК потерпели неудачу, помимо прочего, из-за того, что их приложений было мало и они работали отвратительно. Смартфоны с их повышенной вычислительной мощностью, улучшенным подключением к интернету и мощной ОС заставили все работать без проблем, а остальное, как говорится, уже история.
Так почему же тогда этот подход не используется в сообществе разработчиков ИИ?
Подобно мобильным ОС, операционные системы ИИ (ОС ИИ) разрабатываются для эффективной и действенной разработки бесшовных систем ИИ. Два сторонника этого подхода — преподаватели MBZUAI и соучредители AI-стартапа Petuum — президент Эрик Син и доцент Киронг Хо.
Син, Хо и целая экосистема исследователей и разработчиков ИИ составляют так называемое сообщество CASL, которое занимается решением таких вопросов с открытым исходным кодом.
Программное обеспечение для искусственного интеллекта с открытым исходным кодом
Согласно веб-сайту сообщества, CASL, что означает компонуемое, автоматическое и масштабируемое обучение, предоставляет «унифицированный набор инструментов… …включая распределенное обучение, адаптивное к ресурсам планирование, настройку гиперпараметров и построение композиционной модели».
Исследования и разработки Сина и Хо осуществляются в более широком контексте их коллег и сотрудников из кампусов MBZUAI, CMU, Berkeley, Petuum и Stanford.
«С нашей ОС ИИ мы поставили перед собой задачу ответить на вопрос: что необходимо сейчас и в будущем для оптимальной работы приложений ИИ, — сказал Хо. «Наша ИИ-ОС эффективно соединяет программное и аппаратное обеспечение и обеспечивает максимально естественную работу программных пакетов ИИ».
Результатом этой сети сотрудничества стало производство первой в мире компонуемой платформы для MLOps (сочетание «машинного обучения и DevOps»), а также сквозной ОС с искусственным интеллектом и многого другого.
В случае MLOps результаты были очень многообещающими. Согласно недавнему пресс-релизу о решении, пользователи заметили улучшения на 50% и более во времени окупаемости, а также в эффективности команды и ресурсов машинного обучения. Кроме того, предполагается, что эффективность должна повышаться по мере увеличения проектов ИИ.
Разработано в классе
Хо и его соавторы постоянно создают и внедряют инновации на основе стека программных платформ с открытым исходным кодом. Пакеты программного обеспечения CASL с открытым исходным кодом, включающие AdaptDL, Tuun, Texar и другие, производятся различными членами сообщества CASL. Кроме того, коммерческое программное обеспечение, такое как Rampart, производится Ho, Xing и более широкой командой Petuum, но по-прежнему основано на программном обеспечении CASL с открытым исходным кодом.
Одним из интересных примеров является работа Хо над Rampart. Этот программный пакет искусственного интеллекта возник в результате исследований, проведенных в MBZUAI, и частично был разработан в учебной среде университета. Rampart был разработан для предоставления интерфейса MLOps и технологии интеграции, которая позволяет разработчикам включать программное обеспечение CASL в свои приложения ИИ.
Rampart также был разработан для работы в качестве моста между программным и аппаратным обеспечением ИИ. По оценке Хо, это самая идеальная среда, разработанная для создания и использования приложений ИИ в полной мере.
Еще одним примером инструментов с открытым исходным кодом для создания лучших продуктов машинного обучения является Forte, который объединяет передовой опыт проектирования машинного обучения с точки зрения, ориентированной на данные, такой как модульность и стандартизация. Системы машинного обучения требуют операций с данными, таких как очистка, преобразование и анонимизация, которые, как правило, сильно различаются в разных приложениях.
Команда Forte, объединяющая сообщество CASL, MBZUAI и Petuum, разработала схему стандартизации под названием Data Pack, которая обеспечивает базовые абстракции машинного обучения и расширяемость для создания стандартизированных решений. Таким образом, в то время как Forte предоставляет подпрограммы, такие как поиск данных и расширение, расширяемость позволяет создавать многократно используемые инструменты, такие как анонимизация, устранение предвзятости и многое другое.
«Потребители ИИ ожидают от приложений ИИ скорости, качества, надежности и надежности. Разработанное нами решение AI OS предоставляет разработчикам инструменты для создания приложений, которые делают потребителей счастливыми, и это действительно самая важная часть», — сказал Хо. «В конце концов, мы разрабатываем способы, с помощью которых потребители ИИ могут внедрять решения, внедрять инновации и добиваться успеха во всем, что требует их отрасль».
