НейриПС 101

Руководство для новичков, чтобы получить максимальную отдачу от конференции.

Введение

Обзор Нейрипс

NeurIPS (или Конференция и семинар по нейронным системам обработки информации) — одна из самых престижных и влиятельных конференций в области искусственного интеллекта. Он фокусируется на машинном обучении и вычислительной нейронауке и охватывает широкий круг тем, связанных с нейронными сетями и их приложениями. В 2022 году конференцию посетило более 10 000 участников.

Сравнение с ICLR и ICML

Есть еще две важные конференции по искусственному интеллекту:

  • ICLR (Международная конференция по обучению репрезентациям) фокусируется на репрезентативном обучении. Как правило, он более прикладной по своей природе, чем NeurIPS, с более сильным акцентом на практическое применение машинного обучения и был запущен только в 2013 году.
  • ICML (Международная конференция по машинному обучению) имеет широкую направленность, охватывающую многие темы машинного обучения. Он носит более теоретический характер, чем NeurIPS или ICLR, с более сильным акцентом на фундаментальные исследования в области машинного обучения. Первая конференция ICML состоялась в 1980 году.

С точки зрения содержания, NeurIPS имеет более широкий охват, чем ICLR или ICML, охватывая ряд тем, связанных с нейронными сетями и их приложениями в таких областях, как компьютерное зрение, обработка естественного языка и робототехника. В результате конференция обычно привлекает самых разных участников, включая исследователей, инженеров, студентов из академических кругов, промышленности и государственных организаций.

Планирование наперед

Постановка целей на конференцию

У разных людей разные цели в отношении NeurIPS, например:

  1. Представление исследования: исследователи могут посетить NeurIPS, чтобы представить свою работу на постерной сессии или семинаре и получить отзывы от своих коллег. Это может быть ценной возможностью для исследователей получить признание за свою работу и получить отзывы о своих исследованиях. Общение с другими посетителями, которые могут пройти мимо вашего плаката или могут быть на том же семинаре, на котором вы выступаете, может быть хорошим способом установить связи и найти потенциальных сотрудников для исследований.
  2. Узнавать о новых исследованиях и разработках. NeurIPS – это ведущая конференция в этой области, и ее участники могут узнать о последних достижениях. Постерные сессии могут быть особенно полезны для этого: заранее ознакомьтесь с расписанием постеров, приходите пораньше и не стесняйтесь задавать вопросы и участвовать в обсуждении. Во время Expo Day компании часто проводят демонстрации, которые могут стать отличной возможностью опробовать модели, закрытые для широкой публики, и поговорить с исследователями, которые их построили. Например. DeepMind позволил участникам конференции опробовать Flamingo, мультимодальную модель, которая может интерпретировать как изображение, так и текст.
  3. Изучение возможностей трудоустройства. Многие компании и организации посещают NeurIPS для найма ученых-исследователей и инженеров. Посещение конференции может быть хорошим способом узнать о вакансиях и пообщаться с потенциальными работодателями. Подумайте о том, чтобы посетить выставочный зал и поговорить с представителями на каждом стенде, которые готовы ответить на вопросы и предоставить информацию о вакансиях. Компании, которые участвуют в Expo Day, включают:
    – ИИ-компании, такие как DeepMind и OpenAI
    – ИИ-стартапы, такие как Co:here и Waymo
    – ИИ инструментальные стартапы, такие как PyTorch Lightning и Weights & Biases
    – Технологические компании, такие как Google AI и Meta AI
    – Хедж-фонды, такие как Hudson River Trading и Jane Street Capital
    – Традиционные компании, такие как Disney Research и Sony
    – Компании, производящие оборудование, такие как GraphCore и LambdaLabs
    – Консалтинговые фирмы, такие как Accenture и QuantumBlack

Максимальное использование расписания конференции

Когда расписание NeurIPS будет опубликовано, вы можете предпринять несколько шагов, чтобы облегчить себе задачу при последующем посещении конференции:

  1. Просмотрите программу и используйте веб-сайт конференции, чтобы добавить в избранное сессии и мероприятия, соответствующие вашим целям на конференции.
  2. Заранее спланируйте свой график, включая любые перерывы или простои, которые могут вам понадобиться. Подумайте о том, чтобы оставить в своем расписании некоторую гибкость для незапланированных мероприятий, возможностей для налаживания связей в последнюю минуту или просто для знакомства с принимающим городом.
  3. Посетите стенды компаний, которые соответствуют вашим исследовательским интересам. У них часто есть копии расписаний для конкретных компаний, в которых перечислены постерные сессии, демонстрации и семинары, в которых участвуют исследователи компании.
  4. Если вы представляете исследование на конференции, ознакомьтесь с расписанием и отметьте время подготовки или подготовки, которое вам может понадобиться перед презентацией.

Решите, оставаться ли на семинарах или нет

Решить, остаться ли на дополнительные два дня семинаров в NeurIPS, может быть сложно, так как это зависит от различных факторов, таких как ваши личные цели на конференции, ваш бюджет и ваше расписание. Тем не менее, вот некоторые вещи, которые следует учитывать при принятии решения о том, оставаться ли на семинарах:

  1. Подумайте о своих целях на конференцию: если вы посещаете NeurIPS, чтобы узнать о конкретных темах или получить более глубокие знания в определенной области, пребывание на семинарах может быть хорошим вариантом.
  2. Подумайте о стоимости: помимо стоимости регистрации семинара, пребывание в течение дополнительных двух дней семинаров, вероятно, повлечет за собой другие расходы, такие как проживание, транспорт и питание. Если у вас ограниченный бюджет, взвесьте затраты и преимущества посещения семинаров.
  3. Подумайте о своем графике: если у вас есть другие обязательства или обязанности, которые вам необходимо посетить после основной конференции, подумайте, возможно ли остаться на семинары. Сателлитные конференции, такие как PyTorch Conference в 2022 году, часто совпадают с днями семинаров.

Финансовая помощь

Участникам NeurIPS доступно несколько источников финансовой помощи, в том числе:

  1. Награда стипендии. Студенты или младшие постдоки, получившие работу на основной конференции, могут иметь право на финансовую помощь на основании разнообразия и доступности, членства в группе по интересам, финансовых трудностей и стоимости посещения, а также первого -временная посещаемость. Награда стипендиата включает в себя бесплатную личную регистрацию на конференцию и семинар, а также бесплатное проживание в течение 7 ночей в одном из отелей-партнеров NeurIPS.
  2. Заявка на участие в волонтерских программах: студентам-волонтерам, имеющим право на участие, предоставляется бесплатная регистрация на основную конференцию, а взамен ожидается, что они выполнят волонтерскую смену в качестве наставника, лидера группы, руководителя семинара или руководителя демонстрации.
  3. Поддержка работодателей. Некоторые работодатели готовы покрыть расходы на посещение NeurIPS для своих сотрудников, особенно если конференция имеет отношение к их работе или интересам компании.

Стоит отметить, что варианты финансовой помощи могут меняться из года в год и могут быть ограничены, поэтому важно начать искать варианты как можно раньше. Участникам также предлагается изучить различные варианты и активно искать финансовую помощь.

Участие в конференции

Расписание конференции

Конференция NeurIPS состоит из множества разных частей, и может быть полезно подойти к каждой из них с учетом конкретной стратегии. Вот несколько советов по подходу к различным частям конференции:

  1. День выставки. День выставки в NeurIPS, который проводится в первый день конференции, дает участникам возможность узнать о последних исследованиях компаний и организаций в области искусственного интеллекта. Помимо стендов в выставочном зале, компании также представят доклады и продемонстрируют свою работу.
  2. Приглашенные доклады. В течение четырех основных дней конференции запланировано семь приглашенных докладов. Приглашенные доклады обычно проводят ведущие исследователи, которые внесли значительный вклад в эту область и пользуются уважением в сообществе. Из-за большого количества участников общение с докладчиком может быть затруднено. Вместо этого эти приглашенные беседы служат цели собрать всех на одной волне, поговорить об одной мотивирующей теме или проблеме.
  3. Сессии с постерами. Сессии с постерами — это более неформальный способ для исследователей представить свою работу и пообщаться с участниками конференции. В ходе основной конференции проводится шесть постерных сессий, на каждой из которых демонстрируется около 500 постеров. Подумайте о том, чтобы посетить постеры, чтобы узнать о новых исследованиях и задать вопросы исследователям.
  4. Семинары. NeurIPS предлагает различные семинары в течение двух дней после основной конференции. Из-за небольшого размера семинары могут стать хорошей возможностью более подробно изучить конкретные темы и пообщаться со спикерами и участниками, имеющими схожие интересы. На NeurIPS 2022 было проведено около 50 очных семинаров с такими названиями, как «Федеративное обучение: последние достижения и новые вызовы» и «Семинар по обучению временным графам».
  5. Общение. В третий и четвертый вечера конференции участники конференции организуют ряд мероприятий. Прошлые социальные мероприятия включали в себя Open Mic Night, междисциплинарный микшер, K-Pop в NeurIPS и Space & ML. Эти социальные сети обычно обслуживаются и являются хорошим способом для участников наладить связи за пределами своих университетских групп и областей исследований.
  6. Вечеринки: компании, участвующие в NeurIPS, часто устраивают вечеринки, давая возможность потенциальным кандидатам на работу пообщаться с представителями компании в непринужденной обстановке. Стоит отметить, что не все вечеринки или светские мероприятия рекламируются, поэтому иногда приходится поспрашивать, или приглашение может исходить из неформальной беседы с кем-то.

Установление контактов на конференции

Воспользовавшись возможностью пообщаться с другими на конференции, вы сможете установить ценные связи и построить отношения, которые принесут вам пользу в вашей карьере или учебе. Вот несколько советов по установлению контактов с другими участниками NeurIPS:

  1. Практикуйте исследовательскую презентацию: самые интересные взаимодействия на конференции часто будут происходить один на один. Практикуя свою исследовательскую презентацию, вы сможете представить себя в лучшем свете и, надеюсь, вступить в значимое взаимодействие.
  2. Посещайте общественные мероприятия: многие конференции, в том числе NeurIPS, предлагают общественные мероприятия, такие как приемы, вечеринки и сетевые ужины. Эти мероприятия могут стать отличной возможностью познакомиться с новыми людьми и наладить связи в более непринужденной обстановке.
  3. Присоединяйтесь к дискуссионным группам: некоторые конференции, в том числе NeurIPS, предлагают дискуссионные группы по определенным темам или областям интересов. Эти группы могут быть хорошим способом для общения с другими участниками, которые разделяют ваши интересы, и для углубленного обсуждения тем, связанных с конференцией.
  4. Волонтер: Волонтерство на конференции может быть хорошим способом познакомиться с другими участниками и принять более активное участие в конференции. Это также может быть хорошим способом оказать положительное влияние и внести свой вклад в сообщество конференции.
  5. Посещение постерных сессий. Постерные сессии — это прекрасная возможность встретиться с исследователями и узнать об их работе в более неформальной обстановке. Подумайте о том, чтобы принести свой собственный постер и быть готовым рассказать о своей работе и интересах.
  6. Свяжитесь с людьми заранее: если вы знаете, с кем хотели бы встретиться на конференции, подумайте о том, чтобы связаться с ними заранее через социальные сети или по электронной почте, чтобы представиться и сообщить им, что вы будете присутствовать. Это поможет растопить лед и упростить общение на конференции.
  7. Социальные сети: сообщество машинного обучения очень активно в Твиттере, и на платформе происходит много взаимодействий. Участники конференций, зарегистрированные в Твиттере, обычно добавляют к своему имени суффикс «@NeurIPS», чтобы другие знали, что они посещают конференцию лично и готовы встретиться.

Основные моменты NeurIPS 2022

Приглашенные доклады

Размер аудитории, посещающей приглашенные доклады, затрудняет, если вообще делает невозможным, взаимодействие со спикером. Тем не менее, полезно присутствовать, когда обсуждается что-то новаторское, что кратко объединяет всех участников конференции в одну тему, что может быть полезно для продуктивного обсуждения.

Приглашенными докладами в 2022 году были:

Сателлитные конференции и семинары

Сбор такой большой группы исследователей машинного обучения в одном месте происходит всего один-два раза в год. По этой причине в конце конференции проводится множество спутниковых мероприятий, посвященных ИИ. В 2022 году в Зале поколений прошла Конференция PyTorch, на которой был анонсирован PyTorch 2.0. В New Orleans Marriott Warehouse Arts District прошел 4-й семинар по законам нейронного масштабирования, на котором обсуждались темы искусственного общего интеллекта (AGI) и безопасности и выравнивания ИИ.

Стороны

Темы конференции

Dongkwan Kim составил список частых биграмм из принятых названий статей:

  1. Нейронная сеть
  2. Укрепить* Узнать*
  3. Язык* Модель
  4. Граф Нейронный
  5. Федер* Узнать*
  6. Представлять* Узнать*
  7. Сгенерировать* модель*
  8. Глубокое обучение*
  9. Трансформация зрения*
  10. Офлайн* Усиление*

Конференция в цифрах

  • Представления: 9634
  • Принято заявок: 2672
  • Стулья для пожилых людей: 82
  • Площадь стульев: 742
  • Рецензенты: 10 406

Заключение

Размышление о своем опыте на таких конференциях, как NeurIPS, может помочь вам применить полученные знания в своей исследовательской работе или аспирантуре, а также максимально эффективно использовать время и ресурсы, которые вы вложили в участие в конференции. Вот несколько советов, как осмыслить свой опыт:

  • Просмотрите свои заметки и материалы. Просмотрите заметки, которые вы сделали во время конференции, а также любые материалы, которые вы собрали, например документы, плакаты или раздаточные материалы. Это поможет вам вспомнить, чему вы научились, и определить ключевые выводы.
  • Определите ключевые темы. Ищите шаблоны и темы в выступлениях и семинарах, которые вы посетили. Определение ключевых тем поможет вам понять, как конференция связана с вашей работой или учебой, а также определить конкретные области интересов для дальнейшего изучения.
  • Подумайте о своем обучении. Подумайте, как конференция повлияла на ваше понимание предметной области и как вы можете применить полученные знания в своей работе или учебе. Подумайте о том, что вы нашли наиболее ценным и как вы можете применить это в своей будущей работе.
  • Расставьте приоритеты и спланируйте. Основываясь на том, что вы узнали, определите наиболее важные следующие шаги, которые вам необходимо предпринять. Расставьте приоритеты и составьте план того, как вы будете применять полученные знания в своей работе или учебе.
  • Следите за тем, с кем вы познакомились. Следите за тем, с кем вы познакомились во время конференции, и поддерживайте с ними связь по электронной почте, LinkedIn или Twitter. Это может помочь вам наладить сотрудничество, извлечь уроки из их опыта и создать свою профессиональную сеть.
  • Поделитесь своим опытом. Поделитесь своим опытом с другими. Напишите об этом, представьте или расскажите об этом своим сверстникам. Обмен знаниями, полученными на конференции, может помочь другим извлечь уроки из вашего опыта и по-новому взглянуть на свою работу.

Посещение NeurIPS может стать захватывающим и ценным опытом. При правильной подготовке, планировании и настрое вы сможете максимально использовать конференцию и уехать с новыми знаниями, связями и вдохновением для своей работы. Кроме того, не забудьте изучить принимающий город и воспользоваться любыми культурными возможностями, которые он может предложить. Следуя советам, изложенным в этом руководстве, вы сможете извлечь максимальную пользу из своей первой конференции NeurIPS.

Первоначально опубликовано на https://neuralswarm.com 1 января 2023 г.