M-estimator

În statistici , M-estimatorii constituie o clasă mare de statistici obținute prin minimizarea unei funcții în funcție de datele și parametrii modelului. Procesul de calculare a unui M-estimator se numește M-estimare . Multe metode de estimare statistică pot fi considerate ca M-estimatori. În funcție de funcția care trebuie minimizată în timpul estimării M, estimatorii M pot oferi estimatori mai robusti decât metodele mai tradiționale, cum ar fi metoda celor mai mici pătrate .

Definiție

M-estimatorii au fost introduși în 1964 de Peter Huber ca o generalizare a estimării probabilității maxime la minimizarea unei funcții $ρ$ peste setul de date. Astfel, M-estimatorul (sumele) asociat cu datele și cu funcția $ρ$ este estimat de

{\ displaystyle {\ hat {\ theta}} = \ operatorname {argmin} _ {\ theta} \ left (\ sum _ {i = 1} ^ {n} \ rho (x_ {i}, \ theta) \ right )}}

M , prin urmare , de M-estimatorul vine de la probabilitate maximă ( probabilitate maximă de tip în limba engleză) și estimativi probabilității maxime sunt un caz special de M-estimatori.

Tipuri

Rezolvarea problemei de minimizare implică de obicei diferențierea funcției țintă. Într-adevăr, pentru a căuta , o metodă simplă constă în căutarea unor valori precum ${\ hat {\ theta}}$

{\ displaystyle {\ frac {\ partial} {\ partial \ theta}} \ left (\ sum _ {i = 1} ^ {n} \ rho (x_ {i}, \ theta) \ right) = 0.}

Dacă această diferențiere este posibilă, se spune că estimatorul M este de tip $ψ$ ; în caz contrar, se spune că este de tip $ρ$ .

Exemple de M-estimatori

Printre exemplele cunoscute de M-estimatori, putem cita:

${\ displaystyle \ rho (x) = x ^ {2}}$ , ceea ce echivalează cu aplicarea metodei celor mai mici pătrate
${\ displaystyle \ rho (x) = | x |}$
${\ displaystyle \ rho _ {k} (x) = {\ begin {cases} {\ frac {x ^ {2}} {2}} & {\ text {si}} | x | <k \\ k ( | x | - {\ frac {k} {2}}) și {\ text {si}} | x | \ geqslant k \ end {cases}}}$ ( Funcția Huber (în) )
${\ displaystyle \ rho _ {c} (x) = {\ frac {c ^ {2}} {2}} \ ln \ left (1+ \ left ({\ frac {x} {c}} \ right) ^ {2} \ dreapta)}$ (Funcția Lorentz)
${\ displaystyle \ rho _ {c} (x) = {\ frac {x ^ {2}} {2}} \ left (1 - {\ frac {x ^ {2}} {2c ^ {2}}} + {\ frac {x ^ {4}} {6c ^ {4}}} \ right)}$ ( Bipoizii lui Tukey )

Articole similare

Metoda celor mai mici pătrate

Referințe

Peter J. Huber , Statistici robuste , Wiley, 1981, 2004