ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf ·...

34
ICI3140 Métodos Numéricos Profesor : Dr. Héctor Allende-Cid e-mail : [email protected]

Transcript of ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf ·...

Page 1: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

ICI3140 Métodos NuméricosProfesor : Dr. Héctor Allende-Cid

e-mail : [email protected]

Page 2: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Ajuste de Curvas (Regresión Lineal)

� Aprendizaje Esperado

� Familiarizarse con conceptos básicos de estadística descriptiva y la distribución normal.

� Como computar la pendiente y el intercepto de la ecuación de regresión lineal.

� Entender como computar el coeficiente de determinación y el error estándar de una estimación.

� Entender como usar transformaciones para linealizar ecuacionesno lineales para ocupar regresión lineal.

� Implementar la regresión lineal en JULIA.

ICI3140 – Dr. Héctor Allende 2

Page 3: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Problema

Page 4: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Problema

Page 5: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Repaso de Estadística

� Estadística descriptiva

� Medidas de Localización:

� Media aritmética:

� Mediana

� Moda

� Media aritmética truncada

Page 6: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Repaso de Estadística

� Medidas de Dispersión

� Desviación estándar

� Varianza

Page 7: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Repaso de Estadística

� Medidas de Dispersión

� Coeficiente de Variación

Page 8: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Repaso de Estadística

� Distribución Normal

Page 9: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Supongamos que tenemos los siguientes datos

La expresión matemática de una línea recta es

Page 10: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Criterio para el “Mejor” ajuste

Se quiere minimizar la suma de los errores residuales:

� En el ejemplo se cancelan

los errores

Page 11: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Criterio para el “Mejor” ajuste

Para eliminar el efecto de los signos se quiere minimizar la

suma de las discrepancias en valor absoluto:

Page 12: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Criterio para el “Mejor” ajuste

� Criterio Minimax

Page 13: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Criterio para el “Mejor” ajuste

� ¿Cómo evitar los problemas anteriores?

� Minimizar la suma de los residuos al cuadrado

Page 14: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Ajuste de Mínimos Cuadrados

Page 15: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Ajuste de Mínimos Cuadrados

Denominadas ecuaciones normales.

¿Cómo podriamos obtener los coeficientes?

Page 16: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Ajuste de Mínimos Cuadrados

Page 17: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Cuantificación del error

Suma de cuadrados

Diferencia entre la data y

la media

Page 18: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Cuantificación del error

Error estandar del estimador

Page 19: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Cuantificación del error

Ajuste perfecto

Peor caso

Page 20: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Ejercicio

¿Coef. de

determinación?

Page 21: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Ejercicio

¿Coef. de

determinación?

Page 22: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Linearización

Page 23: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Linearización

Page 24: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Linearización (ejemplo)

Page 25: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Linearización (ejemplo)

Page 26: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal de Mínimos Cuadrados

Linearización (ejemplo)

Page 27: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Polinomial

Page 28: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Polinomial

Page 29: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Polinomial

¿Cómo se extiende a polinomios orden n?

¿Mediante que métodos se puede resolver?

m: grado polinomio

Page 30: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Polinomial

Ejemplo

Page 31: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal Múltiple

Page 32: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Regresión Lineal Múltiple

¿Cómo se puede extender a más dimensiones?

Page 33: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Mínimos Cuadrados Lineal General

Ejemplo con z sinusoides

Page 34: ICI3140 Métodos Numéricos - zeus.inf.ucv.clzeus.inf.ucv.cl/~hallende/material/ajustecurvas.pdf · Ajuste de Curvas (Regresión Lineal) ... Ajuste de Mínimos Cuadrados Denominadas

Métodos NuméricosProfesor : Dr. Héctor Allende-Cid

e-mail : [email protected]