Википедия
Регуляриза́ция — технический приём в квантовой теории поля , позволяющий избегать математически некорректных выражений в промежуточных вычислениях . Подразумевается, что после получения окончательного ответа, регулирующий параметр устремляется к нулю и при этом окончательный ответ для наблюдаемой величины стремится к конечному значению.
Регуляризация в статистике , машинном обучении , теории обратных задач — метод добавления некоторой дополнительной информации к условию с целью решить некорректно поставленную задачу или предотвратить переобучение . Эта информация часто имеет вид штрафа за сложность модели. Например, это могут быть ограничения гладкости результирующей функции или ограничения по норме векторного пространства .
С байесовской точки зрения многие методы регуляризации соответствуют добавлению некоторых априорных распределений на параметры модели.
Некоторые виды регуляризации:
- L = ∑(y − y(t)) + λ∑∣a∣.
-
Регуляризация Тихонова (в английской литературе — или Tikhonov regularization) для интегральных уравнений позволяет балансировать между соответствием данным и маленькой нормой решения:
L = ∑(y − y(t)) + λ∑a. Простыми словами: Переобучение в большинстве случаев проявляется в том, что в получающихся многочленах слишком большие коэффициенты. Соответственно, и бороться с этим можно довольно естественным способом: нужно просто добавить в целевую функцию штраф, который бы наказывал модель за слишком большие коэффициенты.
Регуляризация:
- Регуляризация
- Регуляризация
- Регуляризация - ритуальный акт возвращения в лоно Регулярного масонства