Введение
Глубокое обучение стало популярным в последнее десятилетие. С этим наступает эра более крупных и комбинаторных моделей, и ChatGPT и другие крупные языковые модели являются лишь одним из аспектов, способствующих этому.

Модели, на создание которых раньше уходили дни, даже при наличии узкоспециализированных знаний, теперь можно создать с помощью нескольких строк кода с помощью пакетов Python. Программный и интеллектуальный барьер для входа резко снижен.

С ростом простоты использования и популярности этих пакетов глубокого обучения, а именно TensorFlow и PyTorch, возникает потребность в более глубоком понимании того, как механизмы работают абстрактно. Нам нужны хорошие графики!

Визуализатор графиков TensorFlow
За последние восемь лет с момента выпуска TensorFlow разработчики снова и снова отталкивались от этих потребностей. Благодаря этому нам посчастливилось иметь годы высокоуровневой разработки визуализации и интеграции с разработкой с открытым исходным кодом.

Теперь эти инструменты не только доступны для нас, но многие из них уже встроены в пакеты, с которыми мы хотим их использовать. Например, визуализатор графов TensorFlow в наборе инструментов TensorBoard является одним из наиболее известных инструментов для наблюдения пересечения между высокоуровневым графическим представлением и программной разработкой и настройкой.

Итак, как мы узнаем об этом больше? Вонгсуфасават и др. ответил на этот вопрос и получил за него академическую награду на конференции IEEE Visualization Conference (VIS) 2017 года.

Этот документ, Визуализация графов потоков данных моделей глубокого обучения в TensorFlow, был исследованием дизайна визуализации графов TensorFlow и его уровней абстракции. Качество жизни, которое он повысил, сделало его важной частью литературы по визуализации графов моделей для современного программиста по машинному обучению.

Обзор

  • Главный пункт
  • Решаемые проблемы
  • Важность основного программного обеспечения
  • Последствия для области
  • Заключение

Главное

Кодировки визуализации и преобразования графов помогают абстрагировать графы в инструментах TensorBoard и повысить значимость интерактивности. Они сжимают узлы на основе именования и ребер кластера, чтобы граф оставался точным и легко проходимым. И теперь они встроены в пакет!

Решаемые проблемы

Модели масштабируются, и их становится все труднее понять из-за автоматизации, абстракции и масштабирования размера с помощью хранилища и вычислительной мощности. Как только модели достигают определенного размера или сложности ввода/вывода, их становится трудно визуализировать, и инженеры по машинному обучению тратят часы на художественные программы только для того, чтобы создавать абстракции своей работы, чтобы передать концепции своих моделей.

Самое главное, что для процесса разработки моделей интерактивность графов TensorFlow должна сделать любые изменения легко видимыми, понятными и непосредственно связанными с объектами в коде, которому они соответствуют, что выполняется путем группировки ребер графа и объединения узлов. алгоритмы и процедуры.

Как показано на рисунке выше, старое программное обеспечение для визуализации TensorFlow по умолчанию дает слишком много деталей для понимания на высоком уровне, а поток моделей значительно затрудняет их отслеживание. Авторы представили способы упростить граф потока данных TensorFlow и выделить важные части.

Основное значение программного обеспечения

Автоматизированное проектирование моделей с помощью пакетов глубокого обучения Python устраняет необходимость указывать множество слоев и их структуру. Вонгсуфасават и др. использует сгруппированные потоковые графы для абстрагирования модулей глубокого обучения до уровня, который можно понять. Они также помогают разработчикам точно настраивать свои модели, не просматривая модели, и создают мысленную структурную карту непосредственно из кода.

Заключение

Простота графа жизненно важна для машинного обучения, где простая модель теперь может разбиваться на десятки слоев. Понимание значимых концепций с первого взгляда имеет решающее значение в том, будут ли использоваться модели, будут ли статьи выбраны для журналов, а новостные агентства будут писать статьи о новых технологиях.

Интегрированное упрощение визуализации графов в TensorFlow — яркий пример того, на что способно бесплатное программирование с открытым исходным кодом. И когда мы думаем о том, что могут делать будущие пакеты, мы должны помнить о силе упрощения.

Цитата

К. Вонгсупхасават и др., «Визуализация графов потоков данных моделей глубокого обучения в TensorFlow», в IEEE Transactions on Visualization and Computer Graphics, vol. 24, нет. 1, стр. 1–12, январь 2018 г., doi: 10.1109/TVCG.2017.2744878.