Estimadores robustos para el modelo de regresión lineal con datos de alta dimensión - Smucler, Ezequiel (2016)
Los estimadores de regresión penalizados son una herramienta popular para analizar conjuntosde datos ralos y de alta dimensión. Sin embargo, los estimadores de regresión penalizadosdefinidos utilizando funciones de pérdida no acotadas, como la pérdida cuadrática, puedenverse muy afectados por la presencia de observaciones atípicas en la muestra, especialmenteaquellas de alto leverage, y por lo tanto no son robustos. Esta tesis consiste de dos partes. En la primera, proponemos una familia de estimadorespenalizados para la estimación robusta en modelos lineales ralos y de alta dimensión basadosen los MM-estimadores de Yohai (1987). Estudiamos las propiedades asintóticas de estosestimadores en modelos lineales con una cantidad fija de variables predictoras aleatorias. Proponemos un algoritmo para computar una subfamilia de los estimadores propuestos. Lasventajas relativas que ofrecen los estimadores propuestos son demostradas mediante un extensoestudio de simulación y el análisis de un conjunto de datos reales. Esta primer parte estábasada en Smucler and Yohai (2015 b). En la segunda parte, estudiamos las propiedades asintóticas de los estimadores propuestosen modelos lineales con un número de variables predictoras fijas que diverge, dentro delrégimen p << n. Probamos la consistencia de los estimadores asumiendo solo p/n → 0, yque si la función de penalización es elegida convenientemente entonces los estimadores resultantestienen la propiedad oráculo definida en Fan and Li (2001). La misma técnica dedemostración nos permite probar la consistencia y derivar la distribución asintótica de M-estimadoresde regresión definidos utilizando una función de perdida acotada y un estimadorde escala, en modelos lineales con un número de variables predictoras fijas que diverge. Enparticular, probamos la consistencia y derivamos la distribución asintótica de los S-estimadores (Rousseeuw and Yohai (1984)) y MM-estimadores de regresión.