Kapitel 2.4: Regressionsanalys | Matematik 2

Bakgrund

Linjär regression hittar den bästa linjära approximationen av sambandet mellan en oberoende variabel $\displaystyle x$ och en beroende variabel $\displaystyle y$ .

Teori

Den linjära modellen

y=\nobreak kx+\nobreak m+\nobreak e

$\displaystyle y$ : beroende variabel
$\displaystyle x$ : oberoende variabel
$\displaystyle k$ : lutning (riktningskoefficient)
$\displaystyle m$ : y-skärning
$\displaystyle e$ : felterm

Minsta kvadratmetoden

Metoden minimerar summan av kvadrerade residualer mellan observerade och predikterade y-värden.

k=\frac{n\sum xy-\nobreak \sum x\sum y}{n\sum x^2-\nobreak (\sum x)^2}

m=\frac{\sum y-\nobreak k\sum x}{n}

Korrelationskoefficient

Man kan beräkna korrelationen från avvikelserna från medelvärdena $\displaystyle \bar{x}$ och $\displaystyle \bar{y}$ . I praktiken använder du ofta ett digitalt verktyg. Summorna nedan skrivs kort som $\displaystyle S_{xx}$ , $\displaystyle S_{yy}$ och $\displaystyle S_{xy}$ .

S_{xx}=\sum(x_i-\nobreak \bar{x})^2

S_{yy}=\sum(y_i-\nobreak \bar{y})^2

\begin{gathered}S_{xy}=\sum d_{x,i}d_{y,i}\\d_{x,i}=x_i-\nobreak \bar{x}\\d_{y,i}=y_i-\nobreak \bar{y}\end{gathered}

r=\frac{S_{xy}}{\sqrt{S_{xx}S_{yy}}}

Om alla x-värden eller alla y-värden är lika blir nämnaren noll. Då är korrelationen odefinierad.

$\displaystyle r=1$ : perfekt positivt linjärt samband
$\displaystyle r=-1$ : perfekt negativt linjärt samband
$\displaystyle r=0$ : inget linjärt samband

Förklaringsgrad

Vid enkel linjär minsta kvadratregression med konstantterm är förklaringsgraden $\displaystyle R^2=r^2$ . Den anger hur stor del av variationen i observationernas $\displaystyle y$ -värden som modellen beskriver. Det innebär inte att $\displaystyle x$ orsakar förändringen.

Residualer

Residualen är skillnaden mellan observerat värde och modellvärde: $\displaystyle e_i=y_i-\hat y_i$ . Residualanalys används för att bedöma modellens kvalitet.

Visualisering av residualer

Heldragen linje: regressionslinje. Punkter: observationer. Lodräta streckade segment: residualer.

Residualer mellan observation och regressionslinje

Lodrät axel: y

012345601234567

Vågrät axel: x

Varje ruta motsvarar 1 på den vågräta axeln. På den lodräta axeln motsvarar en ruta 1.

Heldragen: Regressionslinje
Streckad: Residual 1
Streckad: Residual 2
Streckad: Residual 3
Streckad: Residual 4
Streckad: Residual 5

Residualerna ska vara små och utan tydligt mönster om en linjär modell passar bra.

Antaganden för linjär regression

Linjäritet: sambandet mellan x och y är linjärt.
Oberoende: observationerna är oberoende.
Homoskedasticitet: residualvariansen är ungefär konstant.
Vid vissa statistiska slutsatser antar man också normalfördelade fel. Det krävs inte för att beräkna själva regressionslinjen.

Exempel och tillämpningar

Exempel 1: Beräkning av regressionslinje

Uppgift: Bestäm den räta linje som passar datapunkterna i tabellen bäst med minsta kvadratmetoden.

x	1	2	3	4	5
y	2	4	5	4	6

Exempel 2: Tolkning av korrelationskoefficient

Uppgift: En enkel linjär regression med konstantterm ger $\displaystyle r=0{,}85$ för studietimmar och resultat. Tolka sambandet och beräkna förklaringsgraden.

Exempel 3: Residualanalys

Uppgift: Beräkna residualerna för modellen $\displaystyle y=2x+1$ och observationerna i tabellen. Använd observation minus modellvärde.

Observationer (x; y):

(1; 4)
(2; 5)
(3; 8)
(4; 9)

x	y observerat	ŷ predikterat	Residual (y - ŷ)
1	4	3	1
2	5	5	0
3	8	7	1
4	9	9	0

Residualerna är 1, 0, 1 och 0. Två observationer ligger på linjen och två ovanför den. Modellen underskattar alltså två värden. Fyra observationer räcker inte för att säkert bedöma ett mönster, och den givna linjen är inte minsta kvadrat-linjen för dessa data.

Interaktiv regressionsstudio

Justera linjen och analysera fel

Jämför din modell med minsta kvadrat-linjen för datapunkterna i Exempel 1.

Lutning k = 0,6

Intercept m = 2,4

Spridningsdiagram med två linjer

Grön: din linje. Blå: minsta kvadrat.

Jämför din linje med regressionslinjen

Lodrät axel: y

0123456−1012345678

Vågrät axel: x

Varje ruta motsvarar 1 på den vågräta axeln. På den lodräta axeln motsvarar en ruta 1.

Heldragen: Regressionslinje
Streckad: Din linje

Felmått och residualer

Din modell: $\displaystyle y=0{,}6x+2{,}4$

Minsta kvadrat: $\displaystyle y=0{,}8x+1{,}8$

Summa kvadrerade residualer (SSE): 2,8

$\displaystyle r\approx0{,}852803$ och $\displaystyle R^2\approx0{,}727273$ för minsta kvadrat-linjen.

Interaktiv tolkning av korrelation

Flytta reglaget och se hur R² och tolkning ändras.

Korrelationskoefficient r = 0,85

R^2=r^2\approx\nobreak 0{,}7225

Tolkning: starkt positivt linjärt samband.

Residualplot för Exempel 3

Residualer för modellen y lika med 2x plus 1

Lodrät axel: Residual

01234500,250,50,751

Vågrät axel: x

Varje ruta motsvarar 1 på den vågräta axeln. På den lodräta axeln motsvarar en ruta 0,25.

Heldragen: Residual vid punkt 1
Streckad: Residual vid punkt 2
Prickad: Residual vid punkt 3
Streckprickad: Residual vid punkt 4

Testa dig själv

Testa dig själv1/3

Vilka observationer använder minsta kvadratmetoden för att anpassa en linje?

Vanliga misstag

Anta att korrelation automatiskt innebär kausalitet.
Extrapolera långt utanför observerat dataområde.
Ignorera outliers utan motivering.
Bedöma modell enbart med R² utan residualanalys.

Vanliga frågor

Tips för att bemästra regressionsanalys

Viktigt att tänka på

Visualisera alltid data i spridningsdiagram först.
Kontrollera modellantaganden med residualplot.
Var försiktig med extrapolering.
Tolka statistik i kontext, inte isolerat.
Var kritisk till alternativa förklaringar och confounding variabler.

Fördjupning för högre betyg

Multipel linjär regression

y=\beta_0+\nobreak \sum_{j=\nobreak 1}^{n}\beta_jx_j+\nobreak \epsilon

Polynomregression

y=\beta_0+\nobreak \beta_1x+\nobreak \beta_2x^2+\nobreak \epsilon

Logistisk regression

\begin{gathered}P(y=\nobreak 1)\\=\frac{1}{1+\nobreak e^{-\nobreak (\beta_0+\nobreak \beta_1x)}}\end{gathered}

Regularisering

Regularisering (t.ex. Ridge och Lasso) används för att minska överanpassning när antal prediktorer är stort.

Observera

Dessa delar går utöver normal nivå i Ma2b/2c men är bra för elever som vill fördjupa sig inför högre studier.

Kvalitetskontroll

Formler för k, m, r och R² är med och konsekventa.
Residualer redovisas både i tabell och diagram med tolkning.
Tabeller är semantiska ( $\displaystyle table/thead/tbody$ ) och responsiva i kortlayout.

Testa att du förstått

Träna uppgifter i algebra för Matematik 2. Du får facit och förklaring direkt.

Träna på det här

Bakgrund

Teori

Den linjära modellen

Minsta kvadratmetoden

Korrelationskoefficient

Förklaringsgrad

Residualer

Visualisering av residualer

Antaganden för linjär regression

Exempel och tillämpningar

Exempel 1: Beräkning av regressionslinje

Exempel 2: Tolkning av korrelationskoefficient

Exempel 3: Residualanalys

Interaktiv regressionsstudio

Justera linjen och analysera fel

Spridningsdiagram med två linjer

Felmått och residualer

Interaktiv tolkning av korrelation

Residualplot för Exempel 3

Testa dig själv

Testa dig själv1/3

Vanliga misstag

Vanliga frågor

Vad är skillnaden mellan korrelation och regression?

Hur påverkar outliers regressionsanalysen?

Kan man använda linjär regression för icke-linjära samband?

Hur väljer man x respektive y?

Vad betyder lågt R² men signifikant p-värde?

Tips för att bemästra regressionsanalys

Viktigt att tänka på

Fördjupning för högre betyg

Multipel linjär regression

Polynomregression

Logistisk regression

Regularisering

Observera

Kvalitetskontroll

Testa att du förstått