Обучение на протяжении всей жизни

1. Определение

Концепция обучения на протяжении всей жизни была предложена примерно в 1995 г. Труном [1]. С тех пор его воспринимали по-разному. Пока обучение на протяжении всей жизни остается развивающейся областью, и, честно говоря, его понимание все еще ограничено. Детальная интерпретация и дизайн обучения на протяжении всей жизни различаются в зависимости от областей и задач. Тем не менее, в исследовательском сообществе существует консенсус относительно того, каким должно быть обучение на протяжении всей жизни. Имея видение, мы можем определить обучение на протяжении всей жизни в неформальной и общей форме.

Определение: Обучение на протяжении всей жизни (LL) — это непрерывный процесс обучения. Используя прошлые знания, полученные в предыдущих задачах T1, T2, …, Tn (задачи могут быть из разных областей), учащийся может эффективно изучить текущую задачу (или называемую новой задачей) T(n+1) и эффективно. Обучаемый не только должен оптимизировать выполнение текущей задачи, но также может оптимизировать любую задачу, рассматривая остальные задачи как предыдущие задачи. После того, как текущая задача изучена, знания должны постоянно обновляться.

2. Пять характеристик обучения на протяжении всей жизни

В определении указаны пять ключевых характеристик LL:

  1. непрерывный процесс обучения;
  2. накопление и сохранение знаний в базе знаний;
  3. способность использовать накопленные прошлые знания, чтобы помочь обучению в будущем;
  4. возможность открывать новые задачи;
  5. способность учиться во время работы или учиться на рабочем месте.

Не существует другого типа обучения (такого как трансферное обучение и многозадачное обучение), который мог бы соответствовать всем пяти вышеперечисленным характеристикам, которые отличают их от LL. Далее я объясню, чем они отличаются.

Связь LL с другими парадигмами обучения

Здесь я объясню несколько парадигм обучения, наиболее связанных с LL, включая трансферное обучение, многозадачное обучение, онлайн-обучение и метаобучение.

1. Перенос обучения

Трансферное обучение в настоящее время является популярной темой. Это также называется адаптацией предметной области в процессе естественного языка. Вкратце, трансферное обучение включает в себя два домена: исходный домен и целевой домен. Исходный домен обычно содержит большое количество помеченных обучающих данных, в то время как целевой домен имеет только скудные помеченные обучающие данные или вообще не содержит их. Цель трансферного обучения — использовать помеченные данные в исходной области, чтобы помочь учиться в целевой области.

Трансферное обучение имеет сходство с LL в аспекте использования ранее полученных знаний для изучения новой задачи. Однако он имеет массу отличий от LL:

  • Трансферное обучение не является непрерывным процессом, как LL. Он передает знания из исходного домена в целевой домен только один раз. Он не сохраняет переданные знания для использования в будущем. Но для LL сохранение и накопление знаний имеют важное значение.
  • Трансферное обучение является однонаправленным. Знания могут быть переданы только из исходного домена в целевой домен. Но в LL результат обучения новой задачи можно использовать для улучшения обучения в предыдущих задачах.
  • Трансферное обучение требует, чтобы исходный домен и целевой домен были очень похожи. В противном случае несовпадение доменов может отрицательно сказаться на производительности. Но в LL все задачи могут быть из разных доменов. При решении новой задачи учащийся должен определить, какая предыдущая задача подходит для новой учебной задачи.
  • Трансферное обучение не определяет новые задачи, которые необходимо изучить во время применения модели или научиться на рабочем месте.

2. Многозадачное обучение

Многозадачное обучение изучает несколько связанных задач одновременно с целью повышения производительности за счет использования соответствующей информации, совместно используемой несколькими задачами. Кроме того, многозадачное обучение помогает предотвратить проблему переобучения отдельной задачи.

Многозадачное обучение позволяет изучать разные задачи, как это делает LL. Но у него много ограничений по сравнению с LL:

  • Многозадачное обучение все еще работает в традиционной парадигме. Вместо оптимизации одной задачи оптимизируется несколько задач одновременно. Но если мы рассматриваем несколько задач как одну большую задачу, это сводится к традиционной оптимизации при изолированном обучении, когда знания, полученные в предыдущих задачах, не сохраняются. Он не имеет концепции непрерывного обучения и не может выполнять задачи последовательно.
  • В отличие от LL, многозадачное обучение обычно предполагает, что задачи тесно связаны между собой. При рассмотрении некоторых несвязанных задач производительность может ухудшиться.

3. Онлайн-обучение

Онлайн-обучение — это парадигма обучения, в которой точки обучающих данных поступают в последовательном порядке. Когда поступает новая точка данных, существующая модель быстро обновляется, чтобы создать наилучшую модель на данный момент. Его цель та же, что и у классического обучения, т. е. оптимизация выполнения данной учебной задачи.

Хотя онлайн-обучение имеет дело с будущими данными в парообразном или последовательном порядке, его цель сильно отличается от LL. Онлайн-обучение по-прежнему выполняет ту же учебную задачу с течением времени, только с потоковыми данными. Его цель состоит в том, чтобы учиться более эффективно с данными, поступающими постепенно. LL, с другой стороны, стремится учиться на последовательности различных задач, сохранять знания, полученные до сих пор, и использовать эти знания, чтобы помочь в обучении в будущем.

4. Метаобучение

Мета-обучение в первую очередь направлено на изучение новой задачи с использованием небольшого количества обучающих примеров (несколько образцов) с использованием модели, которая была обучена на многих других очень похожих задачах. Он обучает метамодель на основе большого набора задач, чтобы быстро адаптироваться к новой аналогичной задаче.

Одно из предположений метаобучения состоит в том, что обучающие задачи и тестовые/новые задачи относятся к одному и тому же распределению (обычно они выбираются в разных соотношениях из одного и того же набора данных). Собственно, в этом допущении и заключается главная слабость и ограничение. В общем, LL не делает предположений. Предполагается, что учащийся на протяжении всей жизни должен выбирать фрагменты предыдущих знаний, которые применимы к новой задаче.

Более подробные сведения об обучении на протяжении всей жизни можно найти в [2].

использованная литература

  1. Обучение роботов на протяжении всей жизни, Трун, 1995 г.
  2. Машинное обучение на протяжении всей жизни, Чжиюань Чен и Бинг Лю.