- Джереми Карновски и Росс Фадели, Insight Artificial Intelligence

Пропустили самые яркие моменты первого дня NIPS 2016? Прочтите здесь. Хотите узнать о прикладном искусственном интеллекте от ведущих практиков Кремниевой долины или Нью-Йорка? Узнайте больше о программе стипендиатов Insight по искусственному интеллекту.

Битвы исследовательских платформ накаляются

Наряду с быстро растущим интересом к ИИ, быстро растет напряженность. С одной стороны, ведущие исследовательские лаборатории в области ИИ становятся более открытыми - результаты публикуются в ArXiv, а код - на github. С другой стороны, становится все более ожесточенной конкуренция за то, чтобы стать доминирующим игроком. От фреймворков глубокого обучения до платформ облачных вычислений и специализированного оборудования - идет битва за то, кто станет стандартом для ближайшего (и, возможно, долгосрочного) будущего технологий искусственного интеллекта.

День 2 на NIPS не стал исключением из этих тенденций. В конце первого приглашения дня DeepMind анонсировала свою новую платформу обучения с подкреплением с открытым исходным кодом DeepMind Lab. Цель их новой платформы - предоставить средства для создания богатой моделируемой среды, которая может служить лабораториями для исследований ИИ. Оказалось, что DeepMind использует свою лабораторию довольно долго, а теперь открывает ее для сообщества. Интересно, правда?

Хотя DeepMind’s Lab может быть одной из новейших, она не единственный игрок в области исследовательских платформ искусственного интеллекта. Самой популярной платформой общего назначения, пожалуй, является OpenAI’s Gym, которая вызвала значительный интерес сообщества наряду с многочисленными исследовательскими работами. Всего несколько недель назад OpenAI анонсировала свою платформу Universe с целью предложить большую гибкость и расширяемость, чем их тренажерный зал.

Если вернуться назад, то можно сказать, что исследовательские гиганты Microsoft и Facebook уже заняли свое место в этой сфере. В июне 2015 года Microsoft запустила Project Malmo как платформу искусственного интеллекта, построенную на основе Minecraft. Точно так же позже в 2015 году Facebook открыл CommAI-env, платформу нижнего уровня для создания исследовательской среды ИИ.

Пока неясно, кто (если кто-нибудь) победит и станет доминирующей платформой для исследований ИИ, мы воодушевлены. Возможно, даже больше, чем текущая битва между фреймворками глубокого обучения, усилия по созданию новых платформ искусственного интеллекта способствуют созданию среды возможностей и открытости, которые, как мы думаем, принесут плоды, если будут продолжены. Мы надеемся, что это так.

Другие краткие сведения

Менее противоречивыми, но столь же захватывающими были невероятно впечатляющие результаты исследования, представленные во время второго дня. Темы продолжили совершенствование обучения с подкреплением и глубокого обучения, а также более широко используемых методов машинного обучения и их приложений. Вот краткий список, который привлек наше внимание:

  • Работа над Value Iteration Networks, отмеченная наградами NIPS, произвела невероятное впечатление. Ключевым нововведением здесь является то, что такие модели включают дифференцируемый модуль планирования, который позволяет сетям составлять планы и лучше обобщать их на невидимые области.
  • Два фантастических результата, продвигающих вперед рекуррентные нейронные сети (RNN): Последовательные нейронные модели со стохастическими уровнями и Поэтапные LSTM. Первый сочетает в себе идеи из моделей пространства состояний (формально лучших в своем классе для стохастических последовательностей, таких как аудио) и RNN, используя лучшее из обоих миров. Последний добавляет временные ворота к LSTM, что значительно улучшает оптимизацию и производительность для данных длинной последовательности.
  • Команда из Amazon рассказала о Байесовском прогнозировании периодического спроса для больших запасов (бумага). Во время выступления они продемонстрировали впечатляющее прогнозирование (в масштабе) проблем с прерывистыми или нестабильными условиями (например, большие распределенные складские запасы).
  • K-means - это базовый алгоритм для многих приложений для обработки данных. Однако поиск хороших кластерных центров часто зависит от хорошей инициализации. Говоря о своей работе Быстрые и доказуемо хорошие посевы для k-средних (бумага), Olivier Bachem показал, что они могут получить хорошие семена центроидов на несколько порядков быстрее, чем в предыдущем состоянии. искусство (k-Means ++). Еще лучше то, что у них есть код pip install kmc2 = g2g.