Спасибо Мэн за разъяснение вопроса.
Позвольте мне попытаться дать интуитивно понятный и простой для понимания ответ, почему регуляризация L1 имеет несколько решений, а регуляризация L2 имеет одно решение.
Давайте сначала рассмотрим регуляризацию L1.
L1 регуляризация = λ | θ | где λ | θ | ≤ C. C - постоянное значение
мы можем переписать это как λ θ-C = 0. Это уравнение может иметь несколько решений, поскольку у нас есть разные значения для θ, которые удовлетворяли бы уравнению.
Это также помогает при выборе функции. Определенные входные функции, которые не влияют на целевую переменную, будут иметь вес, равный нулю или близкий к нулю.
Регуляризация L2
L2-регуляризация = λ | θ | ², где λ | θ | ² ≤ C². C - постоянное значение
мы можем переписать это как λ θ ²-C² = 0. Это уравнение является квадратным уравнением и может иметь только одно решение. Поскольку дискриминант квадратного уравнения равен нулю, мы можем иметь только одно решение для θ.
Регуляризация L2 используется, когда у нас есть входные характеристики, которые коррелируют, например, цены на жилье зависят от площади дома и нет. комнат. В таком сценарии θ никогда не может быть равным нулю. Следовательно, L2 не имеет выбора функций и имеет не разреженное решение.
Пожалуйста, дайте мне знать, поможет ли объяснение
