Точная настройка
Обучение моделей для применения знаний к конкретным реальным задачам называется точной настройкой, т. е. обучение предварительно обученной модели на размеченном наборе данных для ее адаптации к последующей задаче. Однако этот процесс может быть ресурсоемким, что может потребовать большого количества обучающих примеров и памяти для хранения весов модели.
Точная настройка инструкций/Настройка инструкций
Точная настройка инструкций включает в себя точную настройку предварительно обученной модели, чтобы она лучше справлялась с широким спектром задач обработки естественного языка (NLP), вместо конкретной задачи. Для этого мы разрабатываем набор «подсказок» или «инструкций», которые направляют модель к желаемому результату для конкретной задачи НЛП. Эти подсказки могут быть в форме вопросов, шаблонов или даже полных предложений, которые дают модельный контекст о задаче и о том, как к ней подойти.
Самостоятельная тонкая настройка
Большие языковые модели, настроенные под инструкции, продемонстрировали замечательную способность обобщать нулевой выстрел на новые задачи. Тем не менее, они в значительной степени зависят от данных инструкций, написанных человеком, которые ограничены по количеству, разнообразию и творчеству, что препятствует универсальности настроенной модели. Самообучение — это метод создания наборов данных инструкций, при котором другие LLM генерируют синтетические наборы данных в соответствии с нашими потребностями в точной настройке или инструктируют о тонкой настройке нашего LLM для конкретных задач.
Ссылка
https://ai.googleblog.com/2021/10/introduction-flan-more-generalizable.html?m=1
https:// arxiv.org/pdf/2212.10560.pdf
https://crfm.stanford.edu/2023/03/13/alpaca.html
https://www.youtube.com/ смотреть?v=m18C1cvoYvM
