Lineaire regressie

Auteur	prof dr R.J. de Haan
Co-Auteur
auteurschap op deze site

Wanneer gebruik ik een lineair regressie model?

Als je een correlatietechniek toepast, ben je geïnteresseerd in de mate van samenhang tussen twee variabelen $X$ en $Y$, bijvoorbeeld een onderzoek naar de samenhang tussen leeftijd en scores op een cognitieve test. Met lineaire regressie ga je een stap verder. Met deze techniek probeer je de waarden van de uitkomst $Y$ via een lineair verband te voorspellen uit die van $X$. De uitkomstvariabele $Y$ wordt de afhankelijke variabele genoemd, en de voorspeller $X$ de onafhankelijke variabele. We spreken van enkelvoudige (ook wel simple of univariable) regressie als we de uitkomst willen voorspellen met één predictor. In de praktijk zal dat in vele gevallen niet voldoende zijn en is het wenselijk om de effecten van twee of meer voorspellers te analyseren. We spreken dan van meervoudige (ook wel multiple of multivariable) lineaire regressie.

Om een lineaire regressie te kunnen gebruiken, moeten de onderzoeksgegevens aan een aantal statistische voorwaarden voldoen:

1. Over de gehele range van geobserveerde waarden moet sprake zijn van een lineaire samenhang tussen de onafhankelijke variabele $X$ en de afhankelijke variabele $Y$ (tip: maak eerst een scatterplot om de aard van de samenhang tussen $X$ en $Y$ te exploreren);
2. Wat betreft het type data mogen de $X$ variabelen zowel discreet als continu zijn. De afhankelijke variabele $Y$ mag alleen continu zijn;
3. Voor elke waarde van $X$ moeten de observaties van $Y$ onafhankelijk van elkaar zijn; dat wil zeggen dat de $Y$ variabelen slechts 1 keer bij een persoon zijn gemeten. Lineaire regressie is dus niet geschikt om voor onderzoeksgegevens te analyseren waarbij de patiënten herhaaldelijk in de tijd zijn gemeten (voor herhaalde metingen bestaan andere technieken).
4. De variabele $Y$ heeft een normaal verdeling voor elke waarde van $X$.
5. De verdelingen van de $Y$ variabele hebben een gelijke variantie (of standaard deviatie) voor elke waarde van $X$.

De assumpties 1, 4 en 5 kunnen met behulp van de residuen van het lineaire model worden gecontroleerd.

Hoe werkt (enkelvoudige) lineaire regressie?

In lineaire regressie bepalen we de regressielijn, die het beste de lineaire relatie tussen de $X$ en $Y$ variabelen beschrijft. De lineaire regressielijn wordt geschat met behulp van de vergelijking:

Failed to parse (SVG (MathML can be enabled via browser plugin): Invalid response ("Math extension cannot connect to Restbase.") from server "https://wikimedia.org/api/rest_v1/":): {\displaystyle \begin{equation*} \begin{array}{rcl} Y&=&a+b\times X + \epsilon \right. \end{array} \end{equation*} }

$Y$ is de afhankelijke, uitkomstvariabele; $X$ de onafhankelijke voorspeller; en 'a' en 'b' zijn de regressiecoëfficiënten; $\epsilon$ representeert de afstand tussen de regressielijn en de datapunten (de residuen). Regressiecoëfficiënt ‘a’ wordt ook wel de intercept genoemd, en geeft de waarde van $Y$ aan als $X=0$ (de intercept bepaalt dus de hoogte van de regressielijn). De regressiecoëfficiënt ‘b’ weerspiegelt de helling (slope) van de regressielijn, en geeft de gemiddelde toename van $Y$ aan als de $X$ variabele met 1 eenheid toeneemt.

Hoe interpreteer ik mijn SPSS output bij gebruik van een enkelvoudig lineair model?

Stel dat we in een steekproef van n=25 de Pearson’s correlatie tussen de leeftijd van proefpersonen en hun lichaamsvetpercentage 0.81 is. We willen deze samenhang echter niet alleen beschrijven, maar op basis van de leeftijd van de persoon nu ook een voorspelling doen over zijn of haar lichaamsvetpercentage. Als we in SPSS in de schermen van de module Linear Regression de variabelen ‘vetpercentage’ als afhankelijke (dependent) variabele opgeven, en de variabele leeftijd als onafhankelijke (independent), dan zullen de volgende tabellen worden gegenereerd: Model Summary, ANOVA en Coeficients. NB: in de hierna volgende voorbeelden worden sommige SPSS tabellen in verkorte vorm weergegeven.

Model Summary
Model	R	R square	Adjusted R square	SE of the estimate
1	.821	.659	.645	6.3898

De tabel Model Summary geeft de Pearson’s correlatie weer tussen de betreffende $X$ en $Y$ variabelen. De kolom 'R square' is een zogenaamde goodness-of-fit maat. Deze maat geeft uitdrukking aan hoe goed de geobserveerde data clusteren rond de geschatte regressielijn. In een enkelvoudige lineaire regressie is dat het kwadraat van de correlatie. De proportie wordt meestal in een percentage ‘verklaarde variantie’ uitgedrukt. In dit voorbeeld betekent R square dus dat de totale variatie in vetpercentages voor 66% verklaard kan worden door de lineaire regressie c.q. de verschillen in leeftijd.

ANOVA
Model	Sum of squares	df	Mean Square	F	Sig.
1
Regression	1818,362	1	1818,362	44,535	,000
Residuals	939,078	23	40,829
Total	2757,440	24

De F-test in de ANOVA tabel toets de nulhypothese: regressiecoëfficiënt b = 0 (‘er is geen samenhang tussen $X$ en $Y$, dus de regressielijn loopt horizontaal - zonder helling - door de puntenwolk’). Uit de tabel kunnen we opmaken dat leeftijd een significante voorspeller is van het gemeten vetpercentage (regressiecoëfficiënt b ≠ 0). Of, anders geformuleerd, we kunnen concluderen dat het vetpercentages van de proefpersonen significant verklaard kunnen worden door hun verschillen in leeftijd.

Coefficients
		Unstandardized coefficients		t	Sig.
model		B	SE
1	(Constant)	2,507	3,932	,638	,530
	Leeftijd	,549	,082	6,673	,000

a. dependent variable: vetpercentage

De t-test in de derde tabel – Coefficients- geeft niet meer informatie dan hetgeen we al wisten uit de F-test in de ANOVA tabel, namelijk dat leeftijd een significante voorspeller is van het gemeten vetpercentage. In deze tabel wordt de lineaire vergelijking $Y=a+b\times X$ weergegeven. De regressiecoëfficiënt a zien we (enigszins verwarrend in SPSS) staan onder de kolom B, rechts van de cel ‘Constant’, en heeft de waarde 2,51. Regressiecoëfficiënt b wordt ook onder de kolom B vermeld, rechts van de variabele ‘leeftijd’, en heeft de waarde 0,55. We kunnen nu de lineaire vergelijking als volgt invullen: vetpercentage = 2,51 + (0,55 $\times$ leeftijd). Het verwachte vetpercentage van een proefpersoon van 60 jaar oud is dus: 2,507+ (0,549 $\times$ 60) = 35,45%.

Hoe werkt meervoudige lineaire regressie?

Bij meervoudige ('multiple' of 'multivariable') lineaire regressie zijn we geïnteresseerd in het gelijkertijd modelleren van twee of meer onafhankelijke variabelen. Je kunt je voorstellen dat niet alleen de leeftijd, maar ook het geslacht van de proefpersoon een bijdrage levert aan de voorspelling van zijn of haar vetpercentage. Ander voorbeeld: omdat er een associatie is tussen de lengte en het gewicht van een kind, willen we in een onderzoek naar de relatie tussen gewicht en systolische bloeddruk ook de lengte van het kind in de statische analyse betrekken. Kortom, we passen meervoudige lineaire regressie toe om:

1. de waarde van een afhankelijke variabele te voorpellen met (te verklaren uit) een set van onafhankelijke variabelen, en/of
2. na te gaan in welke mate een onafhankelijke $X$ variabele lineair gerelateerd is aan de afhankelijke $Y$ variabele, rekening houdend met (geadjusteerd voor) de invloed van andere $X$ variabelen.

In de meervoudige lineaire regressievergelijking

$Y=a+b_{1}\times X_{1}+b_{2}\times X_{2}+\ldots +b_{k}\times X_{k}+\epsilon$

zijn $X_{i},(i=1,2,\ldots ,k),$ de verklarende variabelen of covariaten, is $Y$ de afhankelijk variabele, en vormen $b_{1},b_{2},\ldots ,b_{k}$ de (partiële) regressiecoëfficiënten; $\epsilon$ is representeerd weer de residuele fout (de afstand van de datapunten tot de regressielijn). De coëfficiënt $b_{1}$ geeft aan hoeveel $Y$ toeneemt als $X_{1}$ met één eenheid toeneemt, rekening houdend met (geadjusteerd voor) de invloed van de andere $X$ variabelen door die constant te houden. Op deze wijze kunnen we dus de impact van $X_{1}$ op $Y$ analyseren onafhankelijk van de invloed van de andere $X$ variabelen.

Hoe interpreteer ik mijn SPSS output bij gebruik van een meervoudig lineair model?

Laten we ervan uitgaan dat we bij 100 kinderen een onderzoek doen naar de relatie tussen gewicht en systolische bloeddruk. We weten dat er een relatie is tussen het gewicht en de lengte van een kind, en mogelijk speelt het geslacht ook een rol. In een meervoudig lineaire regressie analyseren we nu het effect van gewicht (kg), lengte (cm) en geslacht (0 = jongen; 1 = meisje).

Model Summary
Model	R	R square	Adjusted R square
1	.564	.318	.297

a. Adjusted R square betekent dat bij berekening van de verklaarde variantie rekening is gehouden met het aantal verklarende variabelen in het model.

Uit de Model Summary komt naar voren dat de adjusted R square = 0,297. Met andere woorden; ongeveer 30% van de variatie in systolische bloeddruk kan verklaard worden door verschillen in gewicht, lengte en geslacht van de kinderen.

ANOVA
Model	Sum of squares	df	Mean Square	F	Sig.
1
Regression	2804,045	3	934,682	14,952	,0001
Residuals	6001,261	96	62,513
Total	8805,306	99

De F-test in de ANOVA tabel toets de nulhypothese: regressiecoëfficiënten $b_{i}$ zijn 0. Uit de analyse komt naar voren dat er een significante lineaire relatie is tussen de systolische bloeddruk en minstens één van de onafhankelijke $X$ variabelen.

Coefficients
		Unstandardized coefficients		t	Sig.
model		B	SE
1	(Constant)	75,211	17,118	4,641	,0001
	Gewicht	1,180	,261	4,512	,0001
	Lengte	-,031	,172	-,181	,857
	Geslacht	4,230	1,611	2,626	,010

De t-test laat zien dat de relatie tussen gewicht en systolische bloeddruk significant is (p < 0,001). Geadjusteerd voor de effecten van lengte en geslacht, leidt 1 kilogram gewichtstoename tot een gemiddelde systolische bloeddrukstijging van 1,18 mmHg. Geadjusteerd voor de invloeden van gewicht en geslacht is de relatie tussen lengte en systolische bloeddruk echter niet significant (p = 0,86). Er is ook een significante relatie (p = 0,01) tussen geslacht en bloeddruk: meisjes hebben - gemiddeld genomen – een 4,23 mmHg hogere systolische bloeddrukwaarde dan jongens, rekening houdend met verschillen in gewicht en lengte tussen kinderen. Kortom, gewicht en geslacht blijken onafhankelijke voorspellers te zijn van de systolische bloeddruk. Met behulp van de gegeven regressiecoëfficiënten uit de tabel kunnen we de lineaire vergelijking verder invullen. Zo is de verwachte systolische bloeddruk van een meisje van 37 kg met een lengte van 115 cm: 75,21 + (1,18 $\times$ 37) – (0,03 $\times$ 115) + (4,23 $\times$ 1) = 119,65 mmHg.

Hoe interpreteer ik de resultaten van mijn lineaire model bij een log transformatie van de uitkomstmaat?

Ik heb een vraag over de interpretatie van de B-waarden in mijn lineaire regressie analyse. De afhankelijke variable is namelijk een log-getransformeerde cortisolwaarde waardoor de B waarde (en wellicht ook de gestandaardiseerde Beta) moeilijker te interpreteren zijn. Ik heb daarom de B-waarden terug getransformeerd (Transformed B (EXP(B-waarde)) en krijg dan waarden rond de 1. Mijn vraag is nu: hoe leg ik de B-waardes uit tijdens de presentatie op een congres komende week? Normaal gesproken spreek je van bij 1 unit toename in de afhankelijke variabele van ...(B-waarde) afname in cortisol waarde. Zelf dacht ik dat bijvoorbeeld nu Transformed [EXP(beta)] = 0.97, CI (0.95-0.99), p = .027 nu uiteglegd kan worden als:bij iedere unit toename van de afhankelijke variabele geeft een afname van 3% in cortisol. Klopt dit?

Als je een linear model fit om het effect van X op de log-getransformeerde cortisolwaarde te beoordelen, ziet dat er als volgt uit:

log(cortisol) = intercept + B * X

Inderdaad, een unit toename in X geeft B toename van de log(cortisol). Als we dit terug willen vertalen naar "gewone" cortisolwaardes, gebruiken we de inverse van de log:

Exp(log(coritsol)) = exp (intercept + B*SRIP)

Dit is gelijk aan:

cortisol = exp ( intercept + B*SRIP)

Bekijken we nu het verschil in cortisolwaarden bij toename van 1 unit SRIP:

cortisol = exp ( intercept + B*X + B)

Dan is dit gebruik makend van de rekenregels gelijk aan

exp (intercept + B*X) * exp (B)

Nu is het eerste gedeelte van bovenstaande vergelijking precies gelijk aan de cortisolwaarde op het "beginpunt", dus inderdaad: een unit extra SRIP geeft vermenigvuldiging van de cortisolwaarde met de factor exp(B). En ook inderdaad: indien de exp(B) = 0.97, dan geeft vermenigvuldiging hiermee een afname van 3%.

Je interpretatie was dus juist. (In het bovenstaande ben ik wel vanuit gegaan dat de cortisol waardes met de natuurlijke logaritme getransformeerd zijn en niet bijvoorbeeld met een 10log).

Zie voor uitgebreidere uitleg over het interpreteren van regressiecoefficienten bij gebruik van een log transformatie deze pagina van UCLA: Academic Technology Services, Statistical Consulting Group.

Waar vind ik lineaire regressie in SPSS?

Je vindt lineaire regressie in SPSS 16 onder Analyze -> Regression -> Linear.

Hoe geef ik categorische variabelen mee bij lineaire regressie in SPSS?

Voor het gebruiken van categorische variabelen als voorspeller in een lineair model moeten er in SPSS eerst dummy variabelen aangemaakt worden. Om bijvoorbeeld het effect van roken (met categorien 'no', 'previous' of 'current') op systolische bloeddruk te onderzoeken, moeten er twee dummy variabelen aangemaakt worden. Als we de groep die nooit gerookt heeft als referentie beschouwen, dan maken we een 0/1 variabele voor 'previous smoker' en een 0/1 variabele voor 'current smoker'. In het algemeen geldt: bij n categorien moeten n-1 dummy variabelen aangemaakt worden. In de output vinden we nu het voor het verschil previous vs no smoking en current vs no smoking de regressiecoefficient met bijhorende significantietest. Eventueel kan de "overall test" die weergeeft of de variabele roken uberhaupt bijdraagt aan het model verkregen worden door de voorspellers in twee blokken mee te geven aan het regressie model. Een blok met alle variabelen behalve roken en in een tweede blok de twee roken dummies toegevoegd. Als er bij 'Statistics' 'R squared change' staat aangevinkt, dan geeft SPSS ook een p-waarde behorend bij het toevoegen van alle drie de rook-categorien.

Referenties

Course material on interaction and effect modification from the web based distance learning course - Regression Models as a Tool in Medical Research - International School of Quantitative Research, University of Freiburg.

Terug naar OVERZICHT voor een overzicht van alle statistische onderwerpen op deze wiki.

Terug naar KEUZE TOETS voor hulp bij het uitzoeken van een geschikte toets of analyse.