Régression Logistique
- niko
- 3 juil. 2018
- 1 min de lecture
Soient deux classes : 0 et 1
On souhaite modéliser les probabilités conditionnelles des classes, ou plutôt leur log-ratio, par des quantités linéaires (affines) :
log [ P(Y=0|X=x) / P(Y=1|X=x) ] = alpha + (bêta)T*x (bêta)T = Transposé de bêta de dimension p
On a donc un séparateur linéaire.
Avantages :
connu pour avoir des probabilités estimées bonnes
séparations linéaires
Inconvénients
Problème d’optimisation plus complexe (temps de calcul)
En pratique le cadre multi-classe est parfois géré par la technique du “un contre tous” et non par le cas logistique multinomiale (surtout si K est petit)
CODE PYTHON:
from sklearn.linear_model import LogisticRegression clf_LR = LogisticRegression() clf_LR.fit(X, y)
Commentaires