Поскольку я какое-то время занимался оптимизацией CMA-ES ( ссылка на GitHub ) и BFGS ( ссылка на GitHub ), я хотел поделиться некоторыми мыслями о том, как эти методы связаны с машинным обучением. По сути, машинное обучение включает в себя поиск наилучших значений для набора параметров (например, коэффициентов функции) , которые минимизируют функцию затрат или максимизируют функцию вознаграждения при использовании для сопоставления входы к выходам. Это означает, что каждый раз, когда..