Публикации по теме 'convex-optimization'
Цель SVM Четко объяснена
Формулировка простых и двойственных уравнений для SVM
Основная интуиция
Прежде чем мы сможем понять алгоритм, мы должны понять некоторые интересные свойства скалярного произведения двух векторов. Для заданных x, y ∈ Rn скалярное произведение определяется формулой
<x,y> = x_{1}y_{1} + x_{2}y_{2}….. + x_{n}y_{n}
Если мы находимся в евклидовом пространстве и у нас есть линия L, проходящая через начало координат, то ω — единичный вектор, перпендикулярный L (нормаль к линии)...
Регуляризация: что? Почему? и как? (Часть -1)
Каким был бы ваш подход к регуляризации, если бы вы были человеком, который ее придумал? Вы не можете связать разные концепции, которые мы обычно видим, изучая регуляризацию? Возможно, из-за того, что мы узнаем об этом изолированно, или из-за отсутствия общих инструментов, необходимых для взлома. Если вы первооткрыватель наизусть и любите читать, пролистайте эту статью/рассказ и убедитесь, что ваши точки соприкосновения.
Статья разбита на две части, в первой части мы сосредоточимся на..
Спускайтесь осторожно по уклону!
В машинном обучении градиентный спуск — это алгоритм оптимизации, используемый для нахождения значений параметров (θ) функции (f), которая минимизирует функцию стоимости (J(θ)).
Прежде чем перейти к алгоритму градиентного спуска, давайте рассмотрим некоторые основные термины, упомянутые в приведенном выше определении. Во-первых, давайте попробуем разобраться в таких терминах, как производная первого порядка, дифференцируемая функция, градиент, выпуклость и глобальный минимум ...
Почему выпуклая функция?
Градиентный спуск 101: Основы градиентного спуска
Предполагая, что у вас есть предварительные знания о функции потерь и функции затрат и о разнице между ними. Вы должны знать, что когда вы обучаете свою модель машинного обучения, мы пытаемся минимизировать стоимость, и вы делаете это с помощью градиентного спуска.
«Машинное обучение по своей сути — это проблема оптимизации»
Кажется, я где-то на Quora читал эту строчку. Любая функция (с любым количеством параметров/переменных), если..
Вопросы по теме 'convex-optimization'
Использование функции fminunc
Я пытаюсь использовать функцию fminunc для выпуклой оптимизации. Однако в моем случае я беру градиент относительно logx. Пусть моя целевая функция будет F. Тогда градиент будет
dF/dx = (dF/dlogx) * (1/x)
= > dF/dlogx = (dF/dx) * x
So...
12284 просмотров
schedule
21.01.2023
Минимизация L1-регуляризованной системы, сходящейся к неминимальной локации?
Это мой первый пост в stackoverflow, поэтому, если это не та область, я прошу прощения. Я работаю над минимизацией L1-Regularized System.
В эти выходные мое первое погружение в оптимизацию, у меня есть базовая линейная система Y = X * B, X -...
1007 просмотров
schedule
29.12.2023
Получение более подробной информации от функции оптимизации из R
Я не очень хорошо знаком с функцией optim, и я хотел получить эту информацию из ее результатов: а) сколько итераций потребовалось для достижения результата? и б) построить последовательность частных решений, то есть решение, полученное в конце каждой...
1973 просмотров
schedule
18.10.2023
Пара наилучшего приближения для двух многоугольников/многогранников
В R^3 есть два многогранника A и B с пустым пересечением. Многогранники определяются своими гранями, т. е. имеются только неравенства для его гиперпространств, а вершины неизвестны. Задача состоит в том, чтобы найти точки a в A и b в B такие, что...
72 просмотров
schedule
25.06.2023
Минимизация квадратичной функции с учетом ограничения неравенства нормы
Я пытаюсь решить следующее ограничение неравенства:
Учитывая данные временного ряда для N акций, я пытаюсь построить вектор веса портфеля, чтобы минимизировать дисперсию доходности.
целевая функция:
min w^{T}\sum w
s.t. e_{n}^{T}w=1
\left \|...
1573 просмотров
schedule
16.04.2022
Умножение матрицы CVXPY в Python 2.7
Я использую код CVXPY здесь . Я хочу запустить его на Python 2.7 вместо Python 3. Похоже, что оператор @ работает на Python 3. Чтобы он работал на Python 2.7, я изменил код на
import cvxpy as cp
import numpy as np
n = 3
p = 3
np.random.seed(1)...
618 просмотров
schedule
12.06.2023
Нахождение решения квазивыпуклой задачи с помощью CVXPY
Я пытаюсь решить проблему оптимизации в Python с помощью пакета CVXPY (с решателем ECOS). Проблема заключается в минимизации линейной переменной с учетом нескольких ограничений. Сама проблема квазивыпуклая, поэтому я реализую алгоритм деления...
627 просмотров
schedule
03.03.2024
Есть ли способ получить окончательную систему уравнений, отправленную cvxpy решателю?
Если я правильно понимаю, cvxpy преобразует наше высокоуровневое описание проблемы в стандартную каноническую форму, прежде чем оно будет отправлено решателю.
Под стандартной формой я подразумеваю форму, которую можно использовать для алгоритмов...
53 просмотров
schedule
28.10.2022
Квадратичная форма (quad_form) над выражениями в CVXPY
Я строю термин риска в задаче квадратичной оптимизации (QP), используя CVXPY, и я изо всех сил пытаюсь объединить выражения с ковариационной матрицей, используя quad_form .
from cvxpy import Variable, quad_form
from numpy import identity
from...
301 просмотров
schedule
27.12.2022