В мире машинного обучения глубокое обучение стало катализатором смены парадигмы, способствуя прогрессу в таких разнообразных областях, как классификация изображений, обработка видео, распознавание речи и понимание естественного языка. Традиционно данные, используемые в этих задачах, представлены в евклидовом пространстве, знакомой и понятной среде. Тем не менее, появляется растущая область приложений, где данные происходят из неевклидовых областей, представленных в виде сложных графов, которые фиксируют сложные отношения и зависимости между объектами.

Присущая этим графическим данным сложность создает серьезные проблемы для существующих алгоритмов машинного обучения, что требует новых подходов. В последние годы наблюдается всплеск исследований, направленных на расширение методов глубокого обучения для работы с графическими данными, в частности, за счет использования графовых нейронных сетей (GNN). Этот пост призван предоставить всесторонний обзор GNN в области интеллектуального анализа данных и машинного обучения, предложить новую таксономию и выделить потенциальные будущие направления исследований в этой быстро развивающейся области.

Понимание графовых нейронных сетей (GNN)

Графовые нейронные сети (GNN) стали мощным инструментом для обработки неевклидовых данных, представленных в виде графиков. Эти передовые архитектуры предназначены для захвата сложных взаимосвязей в графических данных, что позволяет выполнять сложную обработку и логические выводы, недоступные для традиционных моделей машинного обучения.

Предлагаемая таксономия для GNN

Путем обширного обзора и анализа мы предлагаем новую таксономию, которая разделяет современные GNN на четыре основных типа: рекуррентные GNN, сверточные GNN, графические автоэнкодеры и пространственно-временные GNN.

Повторяющиеся GNN

Рекуррентные GNN используют концепцию рекуррентных нейронных сетей (RNN), интегрируя зависящую от времени или последовательную информацию в графические данные, что позволяет моделировать динамические системы.

Сверточные GNN

Сверточные GNN используют принципы сверточных нейронных сетей (CNN), адаптируя их к графическим данным. Эти сети эффективно захватывают локальные и глобальные структуры в графических данных, подобно тому, как CNN обнаруживают закономерности в изображениях.

Автокодировщики графиков

Автоэнкодеры графов фокусируются на неконтролируемом обучении графов, кодировании топологической информации и содержимого узлов графа в малоразмерный вектор, а затем восстановлении исходных данных графа.

Пространственно-временные GNN

Пространственно-временные GNN имеют дело с данными, имеющими как пространственные, так и временные измерения. Они имеют решающее значение для задач, где необходимо понять, как отношения и закономерности развиваются во времени в структуре графа.

Приложения и ресурсы GNN

GNN нашли применение в различных областях, таких как анализ социальных сетей, биоинформатика и системы рекомендаций. Эти сети продемонстрировали замечательную производительность, часто превосходя традиционные методы с точки зрения точности и эффективности.

С точки зрения практической реализации, для GNN доступны многочисленные коды с открытым исходным кодом и наборы эталонных данных. Эти ресурсы служат отличной отправной точкой для разработчиков и исследователей, стремящихся изучить эту захватывающую область.

Будущее GNN

Хотя GNN уже добились значительных успехов в обработке сложных графических данных, в этой быстро развивающейся области остается огромный массив неиспользованного потенциала. Потенциальные направления исследований включают разработку новых типов GNN, которые могут обрабатывать более разнообразные и сложные структуры графов, улучшение интерпретируемости GNN и поиск эффективных методов обучения GNN для работы с крупномасштабными графами.

В заключение, графовые нейронные сети представляют собой значительный шаг вперед в мире машинного обучения и интеллектуального анализа данных. Выводя нас за пределы знакомого евклидова пространства и позволяя нам исследовать сложный мир данных неевклидовых графов, GNN обещают расширить горизонты того, что возможно в машинном обучении. По мере того, как мы продолжаем исследовать этот дивный новый мир, нет никаких сомнений в том, что GNN будут играть все более важную роль в формировании будущего этой области.

Читать полностью статью здесь.

Полная ссылка: З. Ву, С. Пан, Ф. Чен, Г. Лонг, К. Чжан и П. С. Ю, «Всеобъемлющий обзор графовых нейронных сетей», в IEEE Transactions on Neural Networks and Learning Systems, vol. 32, нет. 1, стр. 4–24, январь 2021 г., doi: 10.1109/TNNLS.2020.2978386.