В логистической регрессии мы используем потерю BCE (бинарная перекрестная энтропия).
У нас есть
где
Мы знаем, что глобальный минимум находится там, где
Мы предполагаем, что X имеет псевдообратное
Итак, мы видим, что существует математическое решение, но Y должен отличаться от 1 и 0.
Итак, мы должны поставить
1 = 0.99999
0 = 0.00001
Хорошая шутка напоследок: если я не ошибаюсь, мы можем решить DL ;)