Regresion lineal multiple_junio16
Descargar como DOC, PDF•0 recomendaciones•877 vistas
1) La regresión lineal múltiple estima los coeficientes de una ecuación lineal con una o más variables independientes para predecir mejor el valor de una variable dependiente. 2) Existen diferentes métodos para seleccionar variables en el análisis de regresión como introducirlas o eliminarlas de forma individual o por pasos. 3) La regresión lineal requiere que las variables sean cuantitativas y que se verifiquen supuestos como la normalidad y linealidad de los datos.
Regresion lineal multiple_junio16
- 1. Métodos Cuantitativos. FNSP – U de A REGRESIÓN LINEAL MÚLTIPLE La regresión lineal múltiple estima los coeficientes de la ecuación lineal, con una o más variables independientes, que mejor prediga el valor de la variable dependiente. Por ejemplo, se puede intentar predecir el total de facturación lograda por servicios prestados en una IPS cada mes (la variable dependiente) a partir de variables independientes tales como: Tipo de servicio, edad, frecuencia del servicio, tipo de usuario y los años de antigüedad en el sistema del usuario. Métodos de selección de variables en el análisis de regresión lineal La selección del método permite especificar cómo se introducen las variables independientes en el análisis. Utilizando distintos métodos se pueden construir diversos modelos de regresión a partir del mismo conjunto de variables. Para introducir las variables del bloque en un sólo paso seleccione Introducir. Para eliminar las variables del bloque en un solo paso, seleccione Eliminar. La selección de variables Hacia adelante introduce las variables del bloque una a una basándose en los criterios de entrada . La eliminación de variables Hacia atrás introduce todas las variables del bloque en un único paso y después las elimina una a una basándose en los criterios de salida . La entrada y salida de variables mediante Pasos sucesivos examina las variables del bloque en cada paso para introducirlas o excluirlas . Se trata de un procedimiento hacia adelante por pasos. Los valores de significación de los resultados se basan en el ajuste de un único modelo. Por ello, estos valores no suele ser válidos cuando se emplea un método por pasos (Pasos sucesivos, Hacia adelante o Hacia atrás). Todas las variables deben superar el criterio de tolerancia para que puedan ser introducidas en la ecuación, independientemente del método de entrada especificado. El nivel de tolerancia por defecto es 0,0001. Tampoco se introduce una variable si esto provoca que la tolerancia de otra ya presente en el modelo se sitúe por debajo del criterio de tolerancia. Todas las variables independientes seleccionadas se añaden a un mismo modelo de regresión. Sin embargo, puede especificar distintos métodos de introducción para diferentes subconjuntos de variables. Por ejemplo, puede introducir en el modelo de regresión un bloque de variables que utilice la selección por pasos sucesivos, y un segundo bloque que emplee la selección hacia adelante. Para añadir al modelo de regresión un segundo bloque de variables, pulse en Siguiente. Regresión lineal: Consideraciones sobre los datos Datos. Las variables dependiente e independientes deben ser cuantitativas. Las variables categóricas, como la religión, estudios principales o el lugar de residencia, han de recodificarse como variables binarias (dummy) o como otros tipos de variables de contraste. Supuestos. Para cada valor de la variable independiente, la distribución de la variable dependiente debe ser normal. La varianza de distribución de la variable León Darío Bello P. 28/10/13 ldbello@guajiros.udea.edu.co
- 2. Métodos Cuantitativos. FNSP – U de A dependiente debe ser constante para todos los valores de la variable independiente. La relación entre la variable dependiente y cada variable independiente debe ser lineal y todas las observaciones deben ser independientes. Estadísticos. Para cada variable: número de casos válidos, media y desviación típica. Para cada modelo: coeficientes de regresión, matriz de correlaciones, correlaciones parciales y semiparciales, R múltiple, R cuadrado, R cuadrado corregida, cambio en R cuadrado, error típico de la estimación, tabla de análisis de la varianza, valores pronosticados y residuos. Además, intervalos de confianza al 95% para cada coeficiente de regresión, matriz de varianza-covarianza, factor de inflación de la varianza, tolerancia, prueba de Durbin-Watson, medidas de distancia (Mahalanobis, Cook y valores de influencia), DfBeta, DfAjuste, intervalos de predicción y diagnósticos por caso. Diagramas: diagramas de dispersión, gráficos parciales, histogramas y gráficos de probabilidad normal. Gráficos. Los gráficos pueden ayudar a validar los supuestos de normalidad, linealidad e igualdad de las varianzas. También son útiles para detectar valores atípicos, observaciones poco usuales y casos de influencia. Tras guardarlos como nuevas variables, dispondrá en el Editor de datos de los valores pronosticados, los residuos y otros valores diagnósticos, con los cuales podrá poder crear gráficos respecto a las variables independientes. Se encuentran disponibles los siguientes gráficos: Diagramas de dispersión. Puede representar cualquier combinación por parejas de la lista siguiente: la variable dependiente, los valores pronosticados tipificados, los residuos tipificados, los residuos eliminados, los valores pronosticados corregidos, los residuos estudentizados o los residuos eliminados estudentizados. Represente los residuos tipificados frente a los valores pronosticados tipificados para contrastar la linealidad y la igualdad de las varianzas. Generar todos los gráficos parciales. Muestra los diagramas de dispersión de los residuos de cada variable independiente y los residuos de la variable dependiente cuando se regresan ambas variables por separado sobre las restantes variables independientes. En la ecuación debe haber al menos dos variables independientes para que se generen los gráficos parciales. Gráficos de residuos tipificados. Puede obtener histogramas de los residuos tipificados y gráficos de probabilidad normal que comparen la distribución de los residuos tipificados con una distribución normal. METODOS DEPENDIENTES ANALISIS DE REGRESION LINEAL MÚLTIPLE Conceptualmente, el FIVi (Factor de incremento de la varianza) es la proporción de variabilidad de la iésima variable, que explican el resto de las variables independientes. León Darío Bello P. 28/10/13 ldbello@guajiros.udea.edu.co
- 3. Métodos Cuantitativos. FNSP – U de A La tolerancia de una variable es la proporción de variabilidad de la variable, que no se explica por el resto de las variables independientes. La tolerancia y el FIV son muy útiles en la construcción de modelos de regresión. Si construimos un modelo paso a paso entrando las variables de una en una, es útil conocer la tolerancia o el FIV de las variables independientes ya entradas en la ecuación. De esta manera, las variables con mayor tolerancia son las que mayor información aportarán al modelo. Además de la tolerancia y el FIV, debemos estudiar la matriz de correlaciones. Altas correlaciones entre las variables implicadas en el modelo deben considerarse como indicios de colinealidad. Puede ocurrir que, aun siendo pequeñas las correlaciones entre las variables exista colinealidad. Supongamos que tenemos K variables independientes y construimos otra que sea la media de los valores de las otras K variables, en este caso la colinealidad será completa, pero si K es grande, los coeficientes de correlación serán pequeños. Por lo tanto, el estudio de la matriz de correlaciones no es suficiente. Una técnica que cada vez se utiliza más, aunque resulta algo sofisticada, es el análisis de los autovalores de la matriz de correlaciones o de la matriz del producto cruzado. A partir de los autovalores, se puede calcular él INDICE DE CONDICIONAMIENTO IC tanto global del modelo como de cada variable. El índice de condicionamiento, es la raíz cuadrada del cociente entre el máximo y el mínimo autovalores. Si el IC es mayor que 30, existe colinealidad elevada, si el IC es mayor que 10 y menor que 30, la colinealidad es moderada, si el IC es menor que 10, no existe colinealidad. También es interesante el índice de condicionamiento para cada variable Ici, que es la raíz cuadrada del cociente del máximo autovalor y el iésimo autovalor. La varianza de cada coeficiente de regresión, incluida la constante, puede ser descompuesta como la suma de componentes asociadas a cada uno de los autovalores si el porcentaje de la varianza de algunos coeficientes de correlación se asocia con el mismo autovalor, hay evidencia de colinealidad. PASOS: 1. 2. 3. 4. 5. 6. 7. 8. Identificar Xi, Y Construír diagrama de dispersión Estímar los parámetros del modelo. Probar la signifícancia Determinar la fuerza de la asociación Verificar la exactitud de la predicción Análisis de residuales Validación cruzada del modelo León Darío Bello P. 28/10/13 ldbello@guajiros.udea.edu.co
- 4. Métodos Cuantitativos. FNSP – U de A REGRESION MULTIPLE DE VARIABLE FICTICIA 1 La utilización de la regresión en la investigación de mercados podría verse seriamente limitada por el hecho de que las variables independientes deben presentarse en escalas de intervalos. Afortunadamente, existe una forma de emplear variables independientes nominales dentro de un contexto de regresión. El procedimiento recibe el nombre de Regresión Múltiple de Variable Ficticia RMVF. Básicamente RMVF convierte las variables nominales en una serie de variables binarias que se codifican 01 por ejemplo, suponemos que deseamos utilizar la variable nominal Sexo en una regresión. Podríamos codificarla de la siguiente manera: CATEGORIA CODIGO Masculino 0 Femenino 1 El intervalo entre 0 y 1 es igual y, por tanto, aceptable en la regresión. Nótese que hemos convertido una variable nominal de dos categorías en una variable 0-1 podemos extender este enfoque a una variable nominal de múltiples categorías. La variable nominal de cuatro categorías, área de estudio 2, puede convertirse en tres variables ficticias, x1, x2, y x3 de la siguiente manera: AREA x1 X2 X3 Humanidades 1 0 0 Salud 0 1 0 Matemáticas 0 0 1 C. Naturales 0 0 0 Esta variable nominal de cuatro categorías se convierte en K-1 categorías son 0 ó 1, la K-ésima categoría se determina automáticamente como 0 ó 1. Crear una k-ésima variable ficticia sería redundante y, de hecho, invalidaría toda la regresión. Es arbitraria la elección de la categoría en la cual todo equivale a cero. Nótese que sólo una de las variables x1, x2, ó x3 tomará el valor de 1 para cualquier individuo y las otras dos X serán cero R. Humano = a + b Humanidades + c Salud + d Matemáticas + e C.Naturales En una regresión podemos tener la cantidad de variables ficticias que sean necesarias, sujetas a la restricción de que cada variable ficticia utiliza un grado de libertad. Por lo mismo, debemos contar con un tamaño de muestra adecuado. 1 Tomado del texto Investigación de Mercados. Kinnear y Taylor 2 Ejemplo adaptado León Darío Bello P. 28/10/13 ldbello@guajiros.udea.edu.co
- 5. Métodos Cuantitativos. FNSP – U de A REGRESIÓN LOGÍSTICA La regresión logística resulta útil para los casos en los que se desea predecir la presencia o ausencia de una característica o resultado según los valores de un conjunto de variables predictoras. Es similar a un modelo de regresión lineal pero está adaptado para modelos en los que la variable dependiente es dicotómica. Los coeficientes de regresión logística pueden utilizarse para estimar la razón de las ventajas (odds ratio) de cada variable independiente del modelo. La regresión logística se puede aplicar a un rango más amplio de situaciones de investigación que el análisis discriminante. Ejemplo. ¿Qué características del estilo de vida son factores de riesgo de enfermedad cardiovascular ? Dada una muestra de pacientes a los que se mide la situación de fumador, dieta, ejercicio, consumo de alcohol, y estado de enfermedad cardiovascular , se puede construir un modelo utilizando las cuatro variables de estilo de vida para predecir la presencia o ausencia de enfermedad cardiovascular en una muestra de pacientes. El modelo puede utilizarse posteriormente para derivar estimaciones de la razón de las ventajas para cada uno de los factores y así indicarle, por ejemplo, cuánto más probable es que los fumadores desarrollen una enfermedad cardiovascular frente a los no fumadores. Datos. La variable dependiente debe ser dicotómica. Las variables independientes pueden estar a nivel de intervalo o ser categóricas; si son categóricas, deben ser variables dummy o estar codificadas como indicadores (existe una opción en el procedimiento para recodificar automáticamente las variables categóricas). Supuestos. La regresión logística no se basa en supuestos distribucionales en el mismo sentido en que lo hace el análisis discriminante. Sin embargo, la solución puede ser más estable si los predictores tienen una distribución normal multivariante. Adicionalmente, al igual que con otras formas de regresión, la multicolinealidad entre los predictores puede llevar a estimaciones sesgadas y a errores típicos inflados . El procedimiento es más eficaz cuando la pertenencia a grupos es una variable categórica auténtica; si la pertenencia al grupo se basa en valores de una variable continua (por ejemplo "CI alto " en contraposición a "CI bajo"), deberá considerar el utilizar la regresión lineal para aprovechar la información mucho más rica ofrecida por la propia variable continua. Estadísticos. Para cada análisis: Casos totales, Casos seleccionados, Casos válidos. Para cada variable categórica: codificación de los parámetros. Para cada paso: variables introducidas o eliminadas, historial de iteraciones, -2 log de la verosimilitud, bondad de ajuste, estadístico de bondad de ajuste de HosmerLemeshow, chi-cuadrado del modelo ¡, chi-cuadrado de la mejora, tabla de clasificación, correlaciones entre las variables, gráfico de las probabilidades pronosticadas y los grupos observados, chi-cuadrado residual. Para cada variable de la ecuación: Coeficiente (B), Error típico de B, Estadístico de Wald, R, Razón de las ventajas estimada (exp(B)), Intervalo de confianza para exp(B), Log de la verosimilitud si el término se ha eliminado del modelo. Para cada variable que no esté en la ecuación: Estadístico de puntuación, R. Para cada caso: grupo León Darío Bello P. 28/10/13 ldbello@guajiros.udea.edu.co
- 6. Métodos Cuantitativos. FNSP – U de A observado, probabilidad pronosticada, grupo pronosticado, residuo, residuo tipificado. Métodos. Puede estimar modelos utilizando la entrada en bloque de las variables o cualquiera de los siguientes métodos por pasos: Condicional hacia adelante, LR hacia adelante, Wald hacia adelante, Condicional hacia atrás, LR hacia atrás o Wald hacia atrás. REGRESIÓN LOGÍSTICA MULTINOMIAL La opción Regresión logística multinomial resulta útil en aquellas situaciones en las que desee poder clasificar a los sujetos según los valores de un conjunto de variables predictoras. Este tipo de regresión es similar a la regresión logística, pero más general, ya que la variable dependiente no está restringida a dos categorías. Datos. La variable dependiente debe ser categórica. Las variables independientes pueden ser factores o covariables. En general, los factores deben ser variables categóricas y las covariables deben ser variables continuas. León Darío Bello P. 28/10/13 ldbello@guajiros.udea.edu.co
- 7. Métodos Cuantitativos. FNSP – U de A observado, probabilidad pronosticada, grupo pronosticado, residuo, residuo tipificado. Métodos. Puede estimar modelos utilizando la entrada en bloque de las variables o cualquiera de los siguientes métodos por pasos: Condicional hacia adelante, LR hacia adelante, Wald hacia adelante, Condicional hacia atrás, LR hacia atrás o Wald hacia atrás. REGRESIÓN LOGÍSTICA MULTINOMIAL La opción Regresión logística multinomial resulta útil en aquellas situaciones en las que desee poder clasificar a los sujetos según los valores de un conjunto de variables predictoras. Este tipo de regresión es similar a la regresión logística, pero más general, ya que la variable dependiente no está restringida a dos categorías. Datos. La variable dependiente debe ser categórica. Las variables independientes pueden ser factores o covariables. En general, los factores deben ser variables categóricas y las covariables deben ser variables continuas. León Darío Bello P. 28/10/13 ldbello@guajiros.udea.edu.co