Samenvatting van Statistical Methods for Psychology van Howell - 8e druk

In dit hoofdstuk worden statistische begrippen uitgelegd aan de hand van een praktisch voorbeeld: een groep onderwijzers heeft een cursus samengesteld, die als doel heeft om middelbare scholieren om te leren gaan met stress. Dit zou vervolgens een uitwerking moeten hebben op hun gevoel van eigenwaarde.

Welke belangrijke termen zijn er?

Het gaat te ver om de gehele populatie van middelbare scholieren in het land te onderzoeken, dat zijn er teveel en het is niet logisch is om alle scholieren te testen als nog niet duidelijk is of de cursus werkt. Daarom wordt een steekproef getrokken uit de populatie. Het liefst een willekeurige (random) steekproef. Om een willekeurige steekproef te trekken moet een set procedures gevolgd worden, die ervoor zorgen dat elke student in de populatie evenveel kans heeft om geselecteerd te worden. Een puur willekeurige steekproef bestaat eigenlijk niet. Na het trekken van de steekproef moet via willekeurige toewijzing de helft van de proefpersonen aan de cursus worden toegewezen, en de andere helft krijgt geen cursus.

Een populatie is het geheel aan gebeurtenissen waarin men geïnteresseerd is. Hier zijn dat dus de eigenwaarde scores van alle middelbare scholieren in een bepaald gebied. Populaties kunnen enorm in grootte variëren. Omdat het onmogelijk is om de hele populatie te meten, maken we gebruik van een steekproef, waarna we uitspraken proberen te doen over de gehele populatie. De representativiteit van de uitkomsten van de steekproef voor de populatie zijn afhankelijk van hoe willekeurig de steekproef getrokken was. Als deze weinig willekeurig is, zal het minder betekenisvol zijn, omdat het geen goede reflectie is van de populatie.

Hoe goed een steekproef de populatie representeert, wordt uitgedrukt in externe validiteit. Dit heeft te maken met hoe goed je conclusies kan trekken over de populatie vanuit de steekproef. Hoe representatief een steekproef is, ligt aan het type onderzoek. Een steekproef kan tegelijkertijd ook een populatie zijn: de scores van een klas kunnen als steekproef gebruikt worden voor de scores van alle leerlingen op een school, maar wanneer men alleen geïnteresseerd is in de scores van die klas, is dit de gehele populatie. Het willekeurig selecteren van participanten is belangrijk voor het generaliseren van de resultaten van de steekproef naar de populatie. Dit generaliseren is minder geloofwaardig wanneer een steekproef niet representatief is voor de populatie. Wanneer dit wel het geval is, hebben de schattingen validiteit.

Naast externe validiteit is er ook interne validiteit. Dit heeft te maken met het willekeurig toewijzen van participanten aan een conditie. We willen zeker weten dat de resultaten uit het onderzoek voortkomen uit de verschillen tussen de groepen door de verschillende behandeling (het volgen van de cursus of niet) en niet door bestaande verschillen tussen de groepen, zoals dat één groep vooral uit verlegen scholieren bestaat en de andere uit assertieve scholieren. Dit zou bijvoorbeeld kunnen gebeuren als studenten zichzelf kunnen opgeven voor de cursus.

Wat zijn variabelen en welke soorten zijn er?

Na het selecteren van participanten en het toewijzen aan een van de groepen, moet bekeken worden hoe elke groep behandeld wordt en welke variabelen worden gemeten. Een variabele is een eigenschap van een object of gebeurtenis die verschillende waarden kan hebben, zoals haarkleur. In het voorbeeldonderzoek zijn variabelen bijvoorbeeld eigenwaarde, geslacht, sociale steun en de behandelconditie.

Variabelen kunnen afhankelijk of onafhankelijk zijn. De onafhankelijke variabele is de variabele die gecontroleerd wordt. In dit geval is het groepslidmaatschap (wel of geen cursus). Wij bepalen wie welke behandeling krijgt, maar ook wat die behandelingen inhouden. Geslacht kunnen we niet controleren, maar we kunnen wel kiezen welk geslacht we onderzoeken en dat we mannen en vrouwen willen vergelijken. Het resultaat van het onderzoek zijn de afhankelijke variabelen, zoals de eigenwaarde scores of gevoelens van persoonlijke controle. Afhankelijke variabelen zijn meestal kwantitatief en continu. Onafhankelijke variabelen kunnen zowel kwantitatief als kwalitatief en discreet als continu zijn.

Discrete variabelen zijn variabelen met een beperkt aantal mogelijke waarden, zoals geslacht of de klas waarin een middelbare scholier zit. Continue variabelen kunnen, in theorie, elke waarde tussen het laagste en hoogste punt op de schaal aannemen. Dit zijn variabelen zoals leeftijd en de score op eigenwaarde.

Kwantitatief versus kwalitatief

Kwantitatieve data (ook wel meet-data) is het resultaat van een bepaalde meting, zoals een cijfer voor een toets, het gewicht, of scores op een eigenwaarde schaal. Er is gebruik gemaakt van een meetinstrument om te kijken hoeveel van een bepaalde eigenschap een object bezit.

Kwalitatieve data wordt ook wel frequentie data of categorische data genoemd. Hierbij worden dingen gecategoriseerd (ingedeeld), zoals ‘15 mensen werden geclassificeerd als ‘zeer angstig’, 33 als ‘neutraal’, en 12 als ‘weinig angstig’. De data bestaat uit frequenties voor elke categorie.

Welke velden in de statistiek zijn belangrijk?

Als de variabelen gekozen zijn en het onderzoek is afgenomen, houden we ruwe data over: de scores. Twee velden in de statistiek houden zich bezig met deze data.

1. Beschrijvende statistieken worden gebruikt om de data te beschrijven. We kunnen gemiddelden berekenen, de scores in een grafiek uitbeelden en op zoek gaan naar extreme scores. Dit veld werd lang als een oninteressant deel in de statistiek gezien. John Tukey liet echter met explorerende data-analyse zien dat het bestuderen van ruwe data nodig is voordat verdere analyses gedaan kunnen worden.
2. Inferentiële (‘gevolgtrekkende’) statistieken gaat over het maken van inferenties over de populatie op basis van een bepaalde steekproef. Door middel van inferentiële statistieken proberen we hier antwoord op te geven. Wanneer een meting betrekking heeft op de gehele populatie, heet het een parameter. Wanneer het alleen betrekking heeft op de steekproef, is het een statistiek. Statistieken zijn dus schattingen van wat de parameter zal zijn.

Welke soorten meetschalen zijn er?

Halverwege de jaren ’50 zijn schalen gemaakt waarin variabelen konden worden ingedeeld. Tegenwoordig hecht men hier niet veel waarde meer aan, maar de termen blijven vaak voorkomen. Bij de volgende schalen geldt, dat elke schaal de eigenschappen overneemt van de schalen die daar vóór kwamen.

Nominale schalen zijn eigenlijk geen schalen: ze delen items niet in op een bepaalde dimensie, maar labelen ze alleen. Sekse is bijvoorbeeld een nominale variabele: een participant is een man of een vrouw, maar geen van beide opties is beter/hoger/meer waard dan de ander. Categorische data wordt meestal gemeten op een nominale schaal.

Ordinale schalen zijn de simpelste schalen: ze ordenen mensen, objecten of gebeurtenissen langs een continuüm. We kunnen niets zeggen over de intervallen tussen de schaalpunten. Zo is een commandant lager in rang dan een kapitein, maar hoger dan een soldaat. Maar het verschil tussen commandant en kapitein hoeft niet gelijk te zijn aan het verschil tussen soldaat en commandant.

Interval schalen bevatten gelijke intervallen tussen de schaalpunten, zoals graden Celsius. Een verschil van tien graden op de thermometer betekent altijd hetzelfde. Wat de interval schaal niet kan zeggen, is iets over verhoudingen. We kunnen niet zeggen dat 20°C de helft zo heet is als 40°C, of twee keer zo heet als 10°C.

Ratio schalen hebben een waar nulpunt (0°C is bijvoorbeeld geen waar nulpunt, want temperatuur houdt bij deze waarde niet op). Voorbeelden zijn lengte, volume of tijd. We kunnen nu ook zeggen dat tien seconden twee keer zo lang is als vijf seconden.

Om de schaal van een variabele te definiëren moet je kijken naar de onderliggende variabele die gemeten wordt. Bijvoorbeeld: als we temperatuur gebruiken om iemands comfort te meten, dan is de schaal niet meer interval, want comfortintervallen zijn niet van gelijke grootte.

Het concept van de normale verdeling wordt uitgelegd, en we bespreken hoe we de normaliteit van een steekproef kunnen beoordelen. Als er iets bekend is over de verdeling van gebeurtenissen, weet je ook wat over de kansen van deze gebeurtenissen.

Welke andere verdelingen bestaan er?

Alle verdelingen van scores proberen op een bepaalde manier de scores weer te geven. Zo geeft het taartdiagram de percentages van elke populatie weer door verschillen in grootte van de taartpunten per populatie. Deze percentages kunnen omgezet worden in kansen, oftewel de kans dat een gebeurtenis voorkomt. Daarnaast kunnen percentages opgeteld worden, zodat verschillende populaties samengenomen worden in de kans op een gebeurtenis. Daarnaast kennen we het staafdiagram, met aparte staven of blokken per frequentie. Deze stelt ons beter in staat om categorieën te vergelijken dan de taartdiagram; kijk simpelweg naar de hoogte van de staaf per categorie, en lijkt visueel meer op de distributies die in de statistiek worden gebruikt. Het verschil met een histogram, is dat de X-as in een staafdiagram ook een nominale schaal kan hebben, en dit is niet mogelijk bij een histogram.

Waarom is de normaalverdeling belangrijk?

De normaalverdeling is een van de belangrijkste verdelingen in de statistiek, omdat:

1. We verwachten dat veel van de afhankelijke variabelen waar we mee werken normaal verdeeld zijn in de populatie.
2. Als een variabele (ongeveer) normaal verdeeld is, kunnen we vervolgens uitspraken gaan doen over waarden van die variabele (het is vaak een voorwaarde om analyses te doen).
3. Wanneer een oneindig aantal steekproeven wordt getrokken van een populatie, zal de verdeling van die steekproefgemiddelden neigen naar een normaalverdeling.
4. De meeste statistische programma’s gaan er vanuit dat de observaties normaal verdeeld zijn.

In een histogram dat een normaalverdeling toont, is altijd een soort bel-vormige vorm te zien met de meeste scores in het midden (en dus een hoge piek), en richting de zijkanten een heuvel naar beneden. Het is een symmetrische, unimodale verdeling, met oneindige limieten. De horizontale as (abscis) representeert verschillende waarden van variabele X, en de verticale as (ordinaat) is ook wel de dichtheid en heeft te maken met de frequentie van of kans op een bepaalde waarde van X.

Carl Friedrich Gauss was een onderzoeker die de normaalverdeling tot zijn huidige vorm heeft gebracht, waardoor de verdeling ook vaak de Gaussiaanse verdeling wordt genoemd. De volgende formule geeft de normaalverdeling weer:

\[f(X)=\frac{1}{\sigma\sqrt{2\pi}}(e)^{-\frac{(X-\mu)^2}{2\sigma^2}}\]

Deze formule wordt bijna niet gebruikt, omdat de informatie van de verdeling ook in een tabel te vinden is. Door het gebruik van de juiste tabel kunnen er uitspraken over kansen gedaan worden.

De standaard normaalverdeling

Een tabel van de normaal distributie is afhankelijk van de waarden van het gemiddelde en de standaarddeviatie. Aangezien je niet voor elke combinatie hiervan een tabel kan opstellen wordt de standaard normaalverdeling gebruikt. De standaard normaalverdeling heeft een gemiddelde van 0 en een standaarddeviatie van 1. De distributie wordt daardoor N(0,1), waarbij N aangeeft dat het een normaalverdeling is, met 0 als waarde voor μ en 1 als waarde voor σ². Door dit gemiddelde en deze standaarddeviatie, kunnen we deze standaard normaalverdeling in een tabel weergeven en dit toepassen op andere verdelingen.

Neem bijvoorbeeld een normaalverdeling met een gemiddelde van 50 en een SD van 10. De scores hebben betrekking op een gehele populatie van gedragsprobleemscores uit de YSR (Youth Selfreport Form). We willen weten welke scores horen bij de top 5% of 10% van de populatie. We hebben een tabel die de kansen weergeeft dat een individu een bepaalde score krijgt (die van de standaard normaalverdeling). We moeten dus de voorbeeldverdeling omzetten in een standaard normaalverdeling (en de ruwe scores worden omgezet in standaardscores).

Om dit te doen, moeten we het gemiddelde (en alle X-waarden) -50 doen, en de standaarddeviatie naar 1 krijgen door te delen door 10. De formule van de getransformeerde distributie genaamd z is:

\[z=\frac{x-\mu}{sigma} en voor dit specifieke geval dus: \[z=\frac{X-50}{10}

Alles wat je over standaardscore zi kan zeggen, kan je ook over X_i zeggen. Z is een cruciale kwantiteit, omdat de verdeling niet afhangt van µ en σ². Deze omzetting in z-scores heeft geen effect op de vorm van de verdeling of de plaats van de observaties. We veranderen puur de eenheid. Door het omzetten in z-scores worden bepaalde dingen veel duidelijker: een score van 60 is nu een score 1. 60 was één standaarddeviatie (10 punten) boven het gemiddelde, en dat is het nog steeds, maar nu heeft het daadwerkelijk een waarde 1. Een score van 45 was 0.5 standaarddeviatie onder het gemiddelde, en is nu een z-score van -0.5. Een z-score geeft dus aan hoeveel standaarddeviaties een X-waarde boven of onder het gemiddelde ligt.

Let op: Het omzetten in z-scores past niet de vorm van de verdeling aan. Was een distributie niet normaal voordat het getransformeerd werd, dan is hij na transformeren nog steeds niet normaal.

Tabellen van de standaard normaalverdeling gebruiken.

Voorbeeld 1

Stel dat we willen weten hoe groot de kans is om meer dan 1 standaarddeviatie boven het gemiddelde te scoren in gedragsproblemen. Het gebied onder de curve van de standaard normaalverdeling, kan direct vertaald worden naar een kans. Oftewel: als je het gebied onder de curve uitrekent, weet je de kans op die score.

In dit geval willen we weten hoe groot het gebied onder de curve is vanaf z = 1 (want dat is gelijk aan 1 standaarddeviatie). In Appendix z (Howell, 2013) is te vinden dat het gebied van het gemiddelde tot z = 1 gelijk staat aan 0.3413. Ook geeft de appendix de ‘grotere portie’, dat wil zeggen het gehele gebied onder de curve tot z = 1, en de ‘kleinere portie’ ofwel het gehele gebied onder de curve vanaf z = 1. Deze laatste score willen we in dit geval hebben, en is 0.1587. De kans dat een kind dus meer dan één standaarddeviatie boven het gemiddelde van de populatie scoort, is .1587.

De Appendix heeft geen waarden staan van negatieve z waarden. Dit komt omdat de verdeling symmetrisch is, en alle z waarden en bijbehorende scores dus ook. Het gebied boven z = 1 is hetzelfde als bij z = -1. De kans is dus ook .1587 dat een kind meer dan één standaarddeviatie onder het gemiddelde scoort.

Voorbeeld 2

Stel dat we de kans willen weten dat een score tussen de 30 en de 40 valt. Eerst zet je de scores om in z scores (met de z formule). We willen de kans weten dat een score tussen -1.0 standaarddeviatie en -2.0 standaarddeviatie valt. Uit de Appendix z blijkt dat het gebied van het gemiddelde tot z = -2, 0.4772 is, en van gemiddelde tot z = -1.0 is het 0.3413. Het verschil tussen die gebieden is het gebied dat we zoeken en is dus 0.1359 groot. De kans dat een score tussen de 30 en 40 valt is .1359. Dit lijkt niet belangrijk om te weten, maar als je kind bijvoorbeeld 75 scoort op gedragsproblemen is er reden tot zorgen, aangezien deze score maar in .62% van de kinderen voorkomt.

Op welke manier worden kanslimieten bepaald?

In de statistiek zijn we vaak geïnteresseerd in waarschijnlijkheden. Tussen welke waarden zal een score waarschijnlijk vallen? Hiervoor kunnen we limieten stellen: "Als ik een willekeurig kind neem uit deze populatie, dan zal in 95% van de gevallen de score liggen tussen …. en …. " Als we dit in een normale verdeling bekijken, dan zoeken we het gebied waarin 95% van de scores vallen, en dus het gebied daarbuiten: de resterende 5%. Omdat de verdeling symmetrisch is, valt aan beide staarten de buitenste 2.5% af. Hierbij hoort een z- waarde van ± 1.96. 95% van de tijd zal een score tussen de 1.96 standaarddeviatie boven het gemiddelde, en 1.96 standaarddeviatie onder het gemiddelde vallen.

Deze z score is vervolgens om te zetten in een ruwe score X, door middel van de z formule.

\[\frac{1}{\sigma\sqrt{2\pi}}(e)^{-\frac{(X-\mu)^2}{2\sigma^2}}\]

Voor ons voorbeeld worden de limieten: 50 ± (1.96)(10) = 50 ± 19.6 = 30.4 en 69.9. De kans dat de score van het kind tussen 30.4 en 69.6 ligt is dus 95%. Scores boven 69.6 zouden dus weleens een probleem kunnen betekenen. Dit lijkt op het voorspellingsinterval.

Zijn de data normaal verdeeld?

De simpelste manier om de verdeling van data te checken, is door een normaalverdeling bovenop een histogram te plakken. Toch kan dit vaak misleidend zijn. Een veel betere aanpak is om Q-Q plots te gebruiken (kwantiel-kwantiel plots).

Van een perfecte normaalverdeling met gemiddelde = 0 en standaarddeviatie = 1 kunnen we makkelijk cut-off scores berekenen, zoals welke waarde de laagste 1% (of ook wel het eerste percentiel) van de verdeling markeert. Dit kunnen we doen voor elke waarde van 0.00 < p < 1.00 (waarbij p staat voor kans). De resultaten zijn de verwachte kwantielen van een normaalverdeling.

Ga nu kijken naar de data die je werkelijk hebt verzameld. Wanneer de eigenlijke data ook precies normaalverdeeld is, zullen de verkregen kwantielen precies gelijk zijn aan de verwachte kwantielen. Maar wat als het niet een perfecte normaalverdeling is? Dan moeten we bekijken in hoeverre de waarden afwijken van een normale verdeling. De manier om dit te doen is om verwachte en verkregen kwantielen tegen elkaar te plotten in een figuur (relatief de Y as en de X as). Als de verdeling normaal is, vormt de plot een rechte lijn met een hoek van 45 graden. Als de verdeling niet normaal is, zal er een afwijking in de lijn zijn (een kromming bijvoorbeeld).

De Kolmogorov-Smirnov test

Dit is de meest bekende test voor normaliteit, en is beschikbaar bij SPSS onder de non-parametrische testen. De meeste mensen raden het gebruik van deze test echter af, omdat hij soms normaliteit afwijst of juist goedkeurt terwijl het tegenovergestelde het geval is. Bij kleine steekproeven wordt de verdeling al snel als normaal gezien, terwijl ze soms niet-normaal verdeeld zijn. bij erg grote steekproeven wordt juist bij kleine afwijkingen de normaliteitshypothese afgewezen, terwijl deze kleine afwijkingen vaak geen probleem zijn.

Standaard diagnostische testen kunnen worden omgezet zodat ze een vast gemiddelde en een vaste standaarddeviatie hebben met de volgende formule:

\[\text{Nieuwe score} = \text{nieuwe standaarddeviatie}\cdot z + \text{nieuw gemiddelde}\]

Scoringssystemen met een gemiddelde van 50 en een standaarddeviatie van 10 heten T-scores.

In hoofdstuk 3 is al een begin gemaakt met kansberekening, bijvoorbeeld wanneer je ziet dat 19% van de kinderen tussen de 52 en 56 scoort: je kunt concluderen dat de kans dat een random kind tussen deze scores valt .19 is.

Welke visies op kansberekening zijn er?

Bij voorbeelden over kansberekening wordt vaak gebruikt gemaakt van smarties (zoals M&M’s). Stel dat we weten welk percentage van elke kleur in een zak zit (bruin = 13%, rood = 23%, geel = 30%, groen = 34%). De kans om een gele smartie te pakken is .30. Dit voorbeeld toont één definitie van kansberekening:

Als iets op A manieren kan gebeuren en op B manieren niet kan gebeuren, en als de kans op elke mogelijke manier even groot is (elke smartie in de zak heeft evenveel kans om gepakt te worden) dan is de kans op een gebeurtenis A/(A+B) en de kans dat het niet gebeurt B/(A+B). De kans op een gele smartie is .30, en er zitten 100 smarties in de zak. Het kan dus 30 keer voorkomen dat een gele smartie wordt gepakt, en 70 keer dat een andere wordt gepakt. De kans op A is: p(A) = 30/(30+70) = .30.

Deze visie op kansberekening is de analytische visie.

Een andere visie is de frequentische visie: wanneer we telkens een smartie uit de zak graaien en telkens het totaal weer aanvullen tot 100, dan zullen we ontdekken dat ongeveer 30% van de keren er een gele smartie gepakt wordt. Hoe groter het aantal ‘steekproeven’, hoe dichter deze frequentie bij de werkelijke waarde (namelijk 30%) zal komen.

Een derde visie is de subjectieve kansberekening: kansberekening op basis van onze subjectieve overtuiging van kans. Bayes stelling is hier essentieel voor. Elke aanpak leidt tot hetzelfde resultaat.

Terminologie

In de kansberekening spreekt men vaak over een gebeurtenis: een stukje data in feite. Een gebeurtenis kan verwijzen naar van alles: het trekken van een koning uit een stapel kaarten, een bepaalde score op een vragenlijst, of als we smarties uit een zak pakken, zijn de gebeurtenissen de 6 verschillende mogelijke kleuren.

Twee gebeurtenissen zijn onafhankelijk van elkaar, wanneer het voorkomen (of niet voorkomen) van de één geen effect heeft op het wel of niet voorkomen van de ander.

Wanneer een gebeurtenis de ander uitsluit, zijn deze twee gebeurtenissen wederzijds exclusief. Je kunt bijvoorbeeld niet in het eerste jaar én het tweede jaar zitten. Een set gebeurtenissen is allesomvattend of grondig wanneer het alle mogelijke uitkomsten bevat. De gebeurtenissen ‘eerstejaars, tweedejaars of derdejaars’ zijn allesomvattend voor bachelor studenten waarbij de bachelor drie jaar heeft.

Kansen vallen tussen de 0.00 en 1.00. De kans 1.00 geeft aan dat de gebeurtenis hoe dank ook plaatsvindt en bij 0.00 vindt de gebeurtenis sowieso niet plaats.

Welke regels zijn van toepassing bij kansberekening?

Twee sets regels zijn het belangrijkst in de kansberekening: de additieve en vermenigvuldigingsregels.

1. De additieve regel.

We weten hoe we de kans kunnen berekenen om een gele smartie uit de zak te halen, of juist een groene. Maar wat als ik wil weten wat de kans is op een gele of groene, in plaats van een andere kleur in de mix?

Gegeven een set wederzijds exclusieve gebeurtenissen, is de kans op het voorkomen van een of andere gebeurtenis gelijk aan de som van afzonderlijke kansen.

Dus: p(groen of geel) = p(groen) + p(geel). Met de exclusiviteit wordt bedoeld dat als een getrokken smartie groen is, hij niet geel kan zijn.

2. De vermenigvuldigingsregel.

Stel dat ik twee smarties pak, en de eerste vervang voordat ik de tweede pak. Wat is de kans dat ik bij de eerste keer pakken een gele pak, en bij de tweede keer weer?

De kans op het gezamenlijk voorkomen van twee of meer onafhankelijke gebeurtenissen is gelijk aan het product van hun individuele kansen.

Dus in dit geval: p(geel, geel) = p(geel) x p(geel). Daarbij is het weer belangrijk dat de twee gebeurtenissen onafhankelijk zijn. Zo kan je ook zeggen: p(vrouw, geboren in januari) = .50 x 1/12 = .042 (geslacht en geboortemaand zijn niet afhankelijk van elkaar).

Deze regels zijn te combineren. Wat is bijvoorbeeld de kans dat ik een groende en gele smartie pak, ongeacht de volgorde waarin ik ze pak? P(groen, geel) = .34 x .30 en de kans op p(geel, groen) = .30 x .34. De totale kans is deze twee opgeteld.

Steekproef met vervanging

In het smarties voorbeeld werden steekproeven getrokken, waarbij telkens de gepakte smartie werd vervangen. Door dit vervangen blijft de kans op een bepaald kleur smartie gelijk. Als we smarties niet vervangen, dan hangt de kans op een gele smartie in Steekproef 2 af, van welke smartie in Steekproef 1 werd gepakt.

Wat zijn gezamenlijke en conditionele kansen?

Een gezamenlijke kans is simpelweg de kans op het samengaan van twee of meer gebeurtenissen. Bijvoorbeeld de kans dat een verdachte zowel blank is, en de doodstraf krijgt (in een studie, die blanken en niet-blanken hierin vergelijkt). Gezamenlijke kans is genoteerd als p(A, B). Als de twee gebeurtenissen onafhankelijk zijn, kunnen we de kans makkelijk berekenen met een vermenigvuldiging. Zo niet, dan is er een andere berekening nodig (die komt later).

Een conditionele kans is de kans dat een gebeurtenis voorkomt, gegeven dat een andere gebeurtenis is voorgekomen. Dit is bijvoorbeeld de kans dat een persoon aids oploopt, gegeven het feit dat hij of zij via injecties drugs heeft gespoten. Deze kansen zijn vaak genoteerd als ‘als … zo is, dan …’ De conditionele kans wordt genoteerd als p(A | B), zoals p(aids ∣ drugsgebruik).

Voorbeeld

Stel dat een radiostation 100 mensen interviewt over het gebruik van gordels en daarbij ook vraagt of ze kinderen hebben. In Tabel 4 staan de uitkomsten weergegeven.

De simpele kans dat iemand uit de steekproef een gordel draagt is 30/100 = .30. De gezamenlijke kans dat iemand kinderen heeft en een gordel draagt is 15/100 = .15 (let op: hier is de kans niet te berekenen door vermenigvuldigen van kansen, want uit het onderzoek blijkt dat ouderschap en gordel dragen niet onafhankelijk zijn van elkaar). De conditionele kans dat iemand een gordel draagt, gegeven dat hij kinderen heeft, is 15/20 =.75.

Wat is het verschil tussen discrete en continue variabelen?

Een discrete variabele kan een beperkt aantal waarden aannemen, terwijl een continue variabele in principe een oneindig aantal verschillende waarden heeft. Een discrete variabele neemt een waarde aan van het kleine aantal mogelijke waarde. Als een variabele vele mogelijke waarden heeft die tenminste van ordinale schaal zijn, wordt deze variabele als continue variabele behandeld. De distributies van de twee soorten variabelen verschillen ietwat als het op kansberekening aankomt. Met discrete variabelen kan je spreken van de kans op een specifieke uitkomst, bij continue variabelen spreek je van de kans op een uitkomst binnen een interval.

Discreet

Wanneer we een discrete variabele uitzetten in een grafiek, krijg je een histogram met voor elke waarde van de variabele (X-as) een bepaalde frequentie (Y-as). Een voorbeeld is een onderzoek naar levensgeluk, waarbij mensen op een 5-punt schaal aan kunnen geven hoe gelukkig ze zijn (1=helemaal niet, tot 5=helemaal wel). De relatieve frequentie per antwoordcategorie (ook wel de proportie) kan direct omgezet worden in een kans. Dus, wanneer 38 mensen van een steekproef van 100 aangeven dat ze ‘erg gelukkig zijn, is de kans dat iemand ‘erg’ antwoordt .38.

Continue

Bij een continue variabele ziet de grafiek er heel anders uit. Er zijn geen aparte frequenties aan te geven in staven, maar de grafiek is een grillige, aaneengesloten lijn. Hoe normaler de verdeling, hoe meer deze lijn op een belvorm zal lijken. De Y-as wordt hierbij als dichtheid gelabeld. Je kan dit het beste zien als de hoogte van de curve bij verschillende X-waarden. Dichtheid kan niet direct omgezet worden in een kans. Een voorbeeld is de verdeling van ‘leeftijd moeder bij eerste geboorte’. Het heeft hierbij geen zin om uitspraken te doen over specifieke uitkomsten, want er zullen bijvoorbeeld maar weinig mensen zijn die precies op hun 20e jaar de bevalling van hun eerste kind hebben. het is logischer om van intervallen te spreken, namelijk ongeveer 20 jaar. In dat geval kunnen we een staaf maken in de grafiek van de ondergrens naar de bovengrens van het interval, en dan geldt dat: de oppervlakte van de staaf, gedeeld door de oppervlakte onder de gehele distributielijn, gelijk is aan de kans op een score in dat interval.

Wat zijn permutaties en combinaties?

Permutaties en combinaties zijn concepten die vallen binnen de combinatoriek: de afdeling binnen de wiskunde die zich bezighoudt met het bepalen op hoeveel manieren objecten samengevoegd kunnen worden (op hoeveel manieren kan ik twee winnaars uit vijf kandidaten kiezen).

Permutaties

Stel dat we een loterij hebben met vier mogelijke prijzen (300, 200, 100 en 0 euro), en vier mensen doen mee (A, B, C en D). Hun namen gaan in een hoed en de eerste naam die eruit komt, wint de eerste prijs, et cetera. Van elke mogelijke volgorde waarin de namen uit de hoed komen, is een rijtje te maken: ABCD, ABDC, ACBD etc. Elke volgorde is een unieke code of permutatie van de vier namen. De formule is:

\[P^r_n=\frac{N!}{(N-r)!}

• Waarbij er N objecten zijn die in r keer gepakt worden.
• Het symbool N! wordt gelezen als N factoriaal en is het product van alle mogelijkheden van N tot 1. 0! is altijd 1.

Voor ons voorbeeld geldt:

\[P^4_4=\frac{4!}{(4-4)!}=\frac{4!}{0!}=\frac{(4\times3\times2\times1)}{1}=24\]

Dit geeft aan dat er 24 permutaties gemaakt kunnen worden.

In het geval dat we alleen de eerste twee lootjes een prijs geven, is de formule simpelweg:

\[P^4_2=\frac{4!}{(4-2)!}=\frac{(4\times3\times2\times1)}{2}=12\]

• Twaalf permutaties zijn mogelijk.

Combinaties

Combinaties verschillen van permutaties, in dat we nu niet meer kijken naar de volgorde waarin we objecten selecteren. Dus in het geval van de loterij trekken we twee namen uit de hoed, maar beiden krijgen dezelfde prijs. Het resultaat AB is dan hetzelfde als BA; we zijn alleen geïnteresseerd in combinaties. De formule hiervoor is:

\[C^n_t=\frac{N!}{r!(N-r)!}

In het voorbeeld: 

\[C^4_2=\frac{4!}{2!(4-2)!}=\frac{(4\times3\times2\times1)}{(2\times1\times2\times1)}=6\]

In andere woorden: met vier deelnemers kunnen we zes verschillende sets winnaars kiezen.

Wat is de stelling van Bayes?

De stelling van Bayes heeft betrekking op kansberekening. Het vertelt ons hoe we kansberekeningen kunnen aanpassen als we telkens meer informatie hierover krijgen. Stel dat je moet aangeven hoe groot je de kans schat dat Frank is vermoord door Piet (je weet alleen dat jij Piet niet aardig vindt). Je schat de kans op p = .10. Dan krijg je te horen dat Piet rond het tijdstip van de moord in de buurt van Franks huis is gezien. Je vergroot de kans tot p = .30 (et cetera). Bij Bayes’ stelling zijn kansen meestal subjectieve kansen.

Een voorbeeld

Een fietser heeft een steroïde test ondergaan en is positief bevonden. Hij beweert onschuldig te zijn. Wat is de kans dat hij schuldig of juist onschuldig is? We beginnen met de voorafgaande kans: namelijk de kans dat de fietser een drugsgebruiker is, voordat we verdere informatie verzamelen (uit statistieken blijkt, dat 15% van de fietsers steroïden gebruikt). Wat we willen weten, is de latere (posterior) kans, namelijk de kans nadat we aanvullende data hebben gekregen. We hebben aanvullende data (Tabel 5): 96% van de steroïde gebruikers test positief op de steroïde test. 8% van de niet-gebruikers test ook positief.

Met Bayes’ stelling kunnen we de kans berekenen dat de geteste fietser steroïden heeft gebruikt. G staat voor gebruiker, NG voor niet-gebruiker en P voor positieve test.

\[p(G|P)=\frac{p(P|G)\cdotp(G)}{p(P|G)\cdotp(G)+p(P|NG)\cdotp(NG)}=\frac{(.96)\cdot(.15)}{(.96)\cdot(.15)+(.08)\cdot(.85)}=\frac{.144}{.144+.068}\approx{.68}\]

Vóór de drugstest bekend was, zouden we de subjectieve kans op zijn schuld schatten op .15 (op basis van eerdere statistieken). Nu is de kans veel groter.

De algemene formule is:

\[\frac{p(D|H)\cdotp(H)}{p(D|H)\cdotp(H)+p(D|\bar{H})\cdotp(\bar{H})}\]

• Hierbij staat H voor hypothese, D voor data en H voor ‘niet H’.

Binomiale distributie

Een van de bekendste kansverdelingen is de binomiale verdeling. Deze verdeling wordt gebruikt wanneer elke kanstrekking resulteert in een of twee wederzijds exclusieve uitkomsten. Deze kanstrekkingen worden ook wel Bernoulli trials genoemd (zoals het opgooien van een muntje). De binomiale verdeling is een voorbeeld van een discrete verdeling, omdat we bij het opgooien van muntjes 3 of 5 keer kop kunnen gooien, maar niet 3.45 keer kop. De formule hiervoor is:

\[\frac{N!}{X!(N-X)!}\]

met:

• p(X) = de kans op X successen
• N = het aantal trials
• p = de kans op een succes op één trial
• q = (1- p) de kans op falen
• CNX = het aantal combinaties van N dingen die X per keer gepakt worden

Het eerste deel van de formule - N!/(X!(N-X)!) - geeft het aantal verschillende volgordes voor bijvoorbeeld drie successen en vier keer falen.

Een binomiale verdeling is ook uit te zetten in een figuur. Hiervoor berekenen we eerst voor elke mogelijke uitkomst een kans. Bijvoorbeeld: wanneer we tien keer een munt opgooien, hoe vaak komt er kop boven. Dit kan tussen de 0 en 10 keer zijn, waarbij de kans naarmate kop vaker boven komt, kleiner wordt. Wanneer we elke kans weten, zetten we het aantal keer kop uit op de X-as, en de kans daarop op de Y-as. De Y-as toont dus geen frequentie, maar een kans. Dat komt doordat het discrete uitkomsten zijn en geen continue. Deze verdeling is wiskundig bereikt, met statistieken op de x-as (aantal successen) in plaats van individuele observaties of gebeurtenissen.

Gemiddelde en variantie

Wanneer p = q = .50, zoals bij het opgooien van een munt, zal de binomiale verdeling symmetrisch zijn. De formules voor gemiddelde, variantie en standaarddeviatie zijn altijd:

• Gemiddelde = Np
• Variantie = Npq
• Standaarddeviatie = √N_pq

Voor de binomiale verdeling geldt dat de verdeling normaler wordt bij getallen van p en q, die dichtbij .50 liggen. Daarnaast wordt de distributie symmetrischer en meer normaal, bij een hoger aantal trials. We gebruiken de vuistregel dat wanneer Np en Nq niet groter zijn dan 5, de distributie bijna normaal is, waardoor de schattingen redelijk goed zijn als we de verdeling als normaal behandelen.

Hoe gebruik je de binomiale verdeling bij hypothese testen?

In veel gevallen waarin we de binomiale verdeling zouden kunnen gebruiken, is de chi-kwadraat test even bruikbaar (uitgelegd in het volgende hoofdstuk). Hier worden alleen situaties genoemd waarin de binomiale verdeling beter is.

Stel dat we een experiment opzetten, waarbij iemand heel kort (2ms) een letter of een cijfer te zien krijgt op een scherm, en dan moet raden wat zij zag. Hiervoor hebben we gezien hoe we uitrekenen wat de verdeling van mogelijke uitkomsten is. Stel dat we daar vonden dat een proefpersoon van de acht keer tonen, zeven keer juist raadde. Betekent deze data dat zij beter kan raden dan op puur kansniveau?

De onderzoekshypothese H₁ is dat ze het beter doet dan op kansniveau (p > .50). De nulhypothese is dat haar gedrag niet beter is dan kansniveau (H₀ : p = .50). De binomiale verdeling maken we op basis van de nulhypothese, dus met p = .50, en dan rekenen we uit wat de kans is dat de proefpersoon op basis van deze verdeling zeven of acht keer goed zou raden (want onze H1 was dat p > .50).

Voor de kans op zeven correcte trials uit acht trials totaal geldt:

\[p(7)=C^8_7p^7q^1=(\frac{8!}{7!1!})(.5)^7(.5)^1=8(0078)(.5)=8(.0039)=.0312\]

Tel deze op bij de kans op acht correcte trials (gelijk aan .0039) en we vinden dat de kans op ten minste 7 correcte trials slechts .035 is. We verwerpen H₀ wanneer α kleiner of gelijk is aan .05. We kunnen H₀ verwerpen: onze proefpersoon doet het beter dan we zouden verwachten puur op kansniveau.

Wat is een multinomiale verdeling?

De multinomiale verdeling is een speciale vorm van binomiale verdeling, waarbij er meer dan twee mogelijke uitkomsten zijn (bijvoorbeeld bij het rollen van een dobbelsteen). Als we de kans van een aantal uitkomsten X willen berekenen bij k gebeurtenissen, dan is die kans gelijk aan:

\[p(X_1,X_2,...,X_k)=\frac{N!}{X_1!X_2!...X_k!}p_1^{X1}p_2^{X2}...p_k^{Xk}\]

Stel dat we een dobbelsteen hebben met twee rode kanten, drie zwarte en één witte kant. We weten de kans om een bepaalde kleur boven te krijgen: rood 2/6 = .333, zwart 3/6 = .500 en wit 1/6 = .167. Als we tien keer gooien, wat is dan de kans op vier zwarte, drie rode en drie witte?

\[p(4,3,3)=\frac{10!}{4!3!3!}(.500)^4(.333)^3(.167)^3=4200\times.0625\times.0369\times.0047=.0455\]

In dit hoofdstuk introduceren we de t test als een procedure voor hypothese testen, in het geval van kwantitatieve data (in plaats van categorische data). Bij kwantitatieve data onderzoeken we verschillen tussen groepen of personen, of de relatie tussen variabelen. We willen bijvoorbeeld onderzoeken of een behandeling effect heeft gehad, door de gemiddelde score van de behandelde groep en de controlegroep te vergelijken.

Hoe ziet de steekproefverdeling van het gemiddelde eruit?

Wanneer we rekenen met steekproefgemiddelden, moeten we vaak gebruikmaken van de verdeling van het gemiddelde. De verdeling van gemiddelden wordt samengevat in de centrale limietstelling: gegeven een populatie met gemiddelde μ en variantie σ², heeft de steekproefverdeling van het gemiddelde een gemiddelde gelijk aan μ, een variantie gelijk aan σ²/n, en een standaarddeviatie gelijk aan σ/√n. De verdeling wordt steeds normaler naarmate de n (steekproefgrootte) toeneemt. Hoe snel de verdeling normaler wordt bij hogere n is afhankelijk van de vorm van de originele populatie. De steekproefverdeling van het gemiddelde van een populatie die normaal is, zal een normale verdeling hebben onafhankelijk van n. Als de populatie symmetrisch, maar niet-normaal verdeeld is, zal de steekproefverdeling van het gemiddelde bijna normaal zijn. Bij een scheve verdeling van de populatie moet de steekproefgrootte tenminste 30 zijn, om de steekproefverdeling van het gemiddelde normaal te krijgen.

Een uniforme verdeling is een verdeling waarbij elke waarde even waarschijnlijk is. Het heeft een gemiddelde van de helft van de range en een standaarddeviatie van de range gedeeld door de wortel van 12.

Hoe werkt hypothese testen als σ bekend is?

Door de centrale limietstelling weten we alle belangrijke karakteristieken van de steekproefverdeling van het gemiddelde. Wanneer we een populatiegemiddelde onderzoeken, weten we meestal niet de variantie van die populatie. Hier worden de gevallen besproken waarin we σ wel weten.

De Youth Self Report Inventory (YSR) wordt gebruikt om gedragsproblemen bij kinderen te meten. De test is uitgebreid afgenomen over de hele wereld, waardoor populatiegemiddelde en standaarddeviatie bekend zijn (50 en 10). Stel dat we gedragsproblemen onderzoeken bij een steekproef van kinderen (n = 150) van depressieve ouders. We willen weten of die meer of minder gedragsproblemen hebben dan ‘het gemiddelde kind’. De hypotheses zijn:

• H₀ : μ = 50
• H₁ : μ ≠ 50. (deze alternatieve hypothese is tweezijdig, we verwerpen H₀ bij zowel een hoger of lager gemiddelde).

Uit ons onderzoek komt een steekproefgemiddelde van 54.64. Voor de hypothesetest beginnen we met de standaardformule voor z, die we aanpassen naar gemiddelde en standaardfout (in plaats van score en standaarddeviatie).

\[z=\frac{X-\mu}{\sigma}\] wordt

\[z=\frac{\bar{X}-\mu}{\sigma\bar{X}}=\frac{\bar{X}-\mu}{\frac{\sigma}{\sqrt{n}}}\]

In dit geval is de z = (56,65-50)/ (10/√150) = 6,64/0,816 ≈ 8,14

De gevonden z kan vervolgens opgezocht worden in de Appendix z. In dit geval is het een significante z-score.

Bij het hypothesetesten van een steekproefgemiddelde tegen een populatiegemiddelde, moeten we aannemen dat de steekproefverdeling van het gemiddelde (vrijwel) normaal is. Dit kunnen we aannemen wanneer ofwel de populatie normaal verdeeld is, ofwel wanneer de steekproefgrootte groot genoeg is.

Hoe werkt hypothese testen als σ onbekend is?

Over het algemeen weten we de waarde van σ niet, en moeten we die schatten met de steekproef standaarddeviatie (s). Wanneer we σ vervangen door s, kunnen we echter niet meer gebruikmaken van de z formule, maar gebruiken we de t test.

De t test gebruikt s² als schatting van σ². Het probleem hierbij is, dat de verdeling van s² positief scheef is, vooral bij kleine steekproeven. Door die scheefheid zal een waarde van s² al snel de grootte van σ² onderschatten, zeker bij kleinere steekproeven. Doordat s² waarschijnlijk kleiner is dan σ² en in de noemer staat, zal de t waarde waarschijnlijk groter zijn dan de z waarde zou zijn. Hierdoor kunnen we niet in de z-tabel kijken, omdat er dan in meer dan 5% type I fouten gemaakt worden. De oplossing voor dit probleem is de t verdeling. Deze is in de Appendix te vinden.

\[t=\frac{\bar{X}-\mu}{s\bar{X}}=\frac{\bar{X}-\mu}{\frac{s}{\sqrt{n}}}=\frac{\bar{X}-\mu}{\sqrt{\frac{s^2}{n}}}\]

Wanneer de verdeling van s² verdwijnt door meer vrijheidsgraden, zal s de populatie standaarddeviatie ook minder onderschatten. Hierdoor zal t normaler verdeeld zijn en meer op z lijken.  De verdeling van t maakt gebruik van n - 1 vrijheidsgraden.

Voorbeeld

Als voorbeeld gebruiken we een studie naar laag geboortegewicht (LGG) bij kinderen. Deze kinderen ontwikkelen vaak problemen, waaronder niet-responsief of onvoorspelbaar zijn. Een interventie trainde moeders om beter op hun kinderen te reageren, met de verwachting dat de moeilijkheden door LGG zouden verminderen. Er waren drie groepen: een LGG experimentele groep, een LGG controlegroep en een normaal geboortegewicht groep. Een psychomotorische test werd afgenomen bij de kinderen toen ze 6 maanden oud waren.

Een eerste stap is het onderzoeken van de data op scheefheid, door bijvoorbeeld een steel-en-blad display te maken. Een gebrek aan scheefheid geeft aan, dat de steekproefverdeling van het gemiddelde eerder normaal zal zijn. Ook moet gecheckt worden of er geen of weinig uitschieters zijn, die de uitkomsten kunnen beïnvloeden (bijvoorbeeld door middel van een boxplot). Uit het onderzoek komt een gemiddelde van 103.24 uit de LGG groep, met een standaarddeviatie van 13.51. De normen voor de psychomotorische test stellen een gemiddelde van 100. De steekproefgrootte van dit onderzoek is 56. Met een t test onderzoeken we of dit verschil significant is.

• t = (103,24 - 100) / (13,51/√56≈ 1,79, met 51-1 = 50 vrijheidsgraden

In dit geval willen we tweezijdig testen, dus bij een overschrijdingskans van 2,5% aan elke kant. In Appendix t hoort bij t_0.025 een kritieke waarde van 2.009. De notatie hiervan is t_0.025(50) = 2.009. In het geval van t_verkregen > t_0.025 kunnen we concluderen dat de nulhypothese verworpen kan worden: LGG kinderen testen significant hoger op de psychomotorische test dan kinderen met een normaal geboortegewicht.

Bootstrapping

Bij bootstrapping trek je uit de verkregen data een groot aantal steekproeven (vergelijkbaar met het trekken van steekproeven uit een populatie). Door herhaalde steekproeven trekken, krijg je een verdeling van steekproefgemiddelden waarmee je hypotheses kunt testen of waarmee je de variabiliteit van een statistiek kan schatten.

Waar worden betrouwbaarheidsintervallen voor gebruikt?

Betrouwbaarheidsintervallen kunnen helpen in het beschrijven van resultaten uit het hypothesetesten. Wanneer we een specifieke schatting hebben van een parameter, noemen we dat een puntschatting. Er zijn daarnaast ook intervalschattingen, die de grenzen aangeven waarbinnen waarschijnlijk het ware populatiegemiddelde (μ) ligt. Dit zijn de betrouwbaarheidsgrenzen, die het betrouwbaarheidsinterval maken. We willen weten hoe hoog en hoe laag de μ-waarde kan zijn, waarbij we H₀ nog niet verwerpen. Dit geeft dan de grenzen aan waarbinnen we de nulhypothese behouden. Een makkelijkere manier is om de formule voor t in te vullen met de kritieke waarde van t die je eerder hebt gevonden. De kritieke waarde is een absolute waarde en kan dus negatief of positief zijn (een kritieke waarde van 2.50 is dus ook -2.50).

Stel dat we weten dat x̄ = 1.5, s = 0.5, n = 10. Wanneer we tweezijdig testen is de kritieke waarde van t bij α = .05 bij t.025(9): 2.262. De formule wordt dan:

\[\frac{1.5-\mu}{\frac{0.5}{\sqrt{10}}}\pm 2.262\]

• Dit kan je herschrijven als μ = ± 2,262(0,158) + 1,5 = ± 0,357 + 1,5
• μ_boven = + 0,357 + 1,5 = 1,86
• μ_onder = - 0,357 + 1,5 = 1,14

Het 95% betrouwbaarheidsinterval wordt: CI.₉₅ = 1,14 < μ < 1,86. De kans is 95% dat μ tussen 1,14 en 1,86 valt. Het wordt ook wel het geloofwaardigheidsinterval genoemd. Als μ buiten dit interval valt leidt dit tot het afwijzen van de nulhypothese. Goed om te weten is dat μ constant blijft, maar dat het interval van experiment naar experiment veranderd.

Extreme waarden vinden

Door middel van de z formule is het mogelijk om waarden te ontdekken die ‘extreem’ zijn. Dit wordt bijvoorbeeld gebruikt om mensen te selecteren voor een behandeling, waarbij mensen die meer dan 1,5 standaarddeviatie van het gemiddelde afwijken, uitgekozen worden. Bij een gemiddelde van 50 en standaarddeviatie van 10 ziet het er als volgt uit:

• z = 1,5. 1,5 = (X-50)/10. X is dan 1,5(10) + 50 = 65. Iedereen die boven de 65 scoort, wordt geselecteerd.

Bij single case studies kan de t-verdeling gebruikt worden en wordt de individuele score behandeld als een steekproef van n = 1. We gebruiken de formule:

\[\frac{(X_1-\bar{X})}{s\sqrt{\frac{n+1}{n}}}\]

Stel ons gemiddelde is 40 en de standaarddeviatie is 8 van een steekproef met 10 mensen. De individuele score is 31. t is dan (31-40)/9√11/10 ≈ 1,05. Er zijn 9 vrijheidsgraden en de kritische waarde voor α=.05 hierbij is 1,83. Deze persoon scoort dus niet extreem.

Om een t-test uit te voeren met SPSS dienen de volgende stappen genomen te worden: Analyze > Compare Means > One Sample t Test. De grenzen van het betrouwbaarheidsinterval in SPSS zijn altijd 1,00 minder dan als ze met de hand uitgerekend worden.

Waarvoor wordt de paired samples t-test gebruikt?

Soms hebben we herhaalde metingen, waarbij participanten meerdere keren een test krijgen en we het verschil tussen hun gemiddelden willen onderzoeken. Hiervoor gebruiken we de paired samples t-test, of herhaalde metingen t-test.

Stel dat we meisjes met anorexia laten meedoen aan een interventie, en hen wegen voor en na de interventie. Het verschil in gewicht toont aan, hoeveel ze zijn aangekomen tijdens de interventie. De vraag is of dit door de therapie komt of bijvoorbeeld door het verstrijken van tijd. We testen de nulhypothese dat het gemiddelde in de populatie voor de interventie gelijk is aan het gemiddelde na de interventie, oftewel H₀ : μ_voor = μ_na

De scores van voor en na de behandeling kunnen verwerkt worden in één set scores: verschilscores, waarbij je μ_voor - μ_na berekend. Als H₀ waar is en de behandeling geen effect had, dan zal het gemiddelde van de verschilscores nul zijn. De nulhypothese wordt nu dat het gemiddelde van de verschilscores (μD) gelijk is aan nul:

• μD = μ_voor - μ_na = 0.

Nu kunnen we de t statistiek weer uitrekenen (met D als gemiddelde van verschilscores en s_D als de standaarddeviatie en n is het aantal verschilscores):

\[t=\frac{\bar{D}-\mu}{s_{\bar{D}}}=\frac{\bar{D}-\mu}{s_D\sqrt{n}}\]

• In dit geval is μ = 0, want dat is de nulhypothese.

Het aantal vrijheidsgraden is wederom n-1. Er gaat één vrijheidsgraad verloren, omdat de variantie van de verschilscores een schatting is van de populatievariantie en deze verkregen wordt door middel van het steekproefgemiddelde. Het betrouwbaarheidsinterval is op dezelfde manier te berekenen als de one sample t-toets.

Effectgrootte

Ook bij het werken met verschilscores zijn effectgroottes van groot belang. Bij verschilscores wordt het effect uitgedrukt met Cohen’s d. Cohen rapporteerde effect met de volgende formule:

\[d=\frac{\mu_1-\mu_2}{\sigma}\]

​​​​​​​Een verschilscore kan worden weergegeven als getal, als percentage, of zoals bij Cohen’s d als standaarddeviatie eenheid. De teller bevat het verschil tussen de populatiegemiddelden, terwijl de noemer de standaarddeviatie weergeeft van één van de populaties (en niet van de verschilscores). Deze formule kan ook gebruikt worden met steekproefresultaten, waarbij μ₁ - μ₂ vervangen wordt door X₁-X₂ en σ vervangen wordt door s_x1. De d wordt dan weergegeven met een dakje erboven, omdat het een schatting is. Uit het voorbeeld van de anorexia interventie kwam een d van 1.45. Dit houdt in, dat de meisjes gemiddeld 1.5 standaarddeviatie van hun gewicht vóór de interventie aan waren gekomen. In andere situaties wordt soms de gemiddelde standaarddeviatie van de twee populaties genomen.

De paired sample t-toets kan gebruikt worden als de steekproeven gerelateerd (of gecorreleerd) zijn. Dat kan wanneer elke persoon twee scores heeft, zoals voor en na de behandeling. Maar ook wanneer bijvoorbeeld man en vrouw getest worden op huwelijkse tevredenheid. Wat alle experimenten met elkaar gelijk hebben is dat de ene score wat zegt over de andere score in het paar, oftewel de scores zijn gerelateerd.

Wanneer er bepaalde data mist, bijvoorbeeld als de vrouw wel, maar de man niet de vragenlijst over hun kind heeft ingevuld. Normaal worden de incomplete paren eruit gegooid en de gepaarde t-toets uitgevoerd op e overige data. Het kan echter ook op een andere manier waarbij wel alle data gebruikt wordt, maar men er vanuit gaat dat de gemiste data random is en niet systematisch. Er is een test die de t-waarde neemt voor de paren waar beide scores aanwezig zijn en de t-waarde voor de incomplete paren. Vervolgens worden deze t-statistieken gecombineerd. Dit wordt vooral gebruikt als er veel data mist.

Notatie

Stel dat we de resultaten willen opschrijven van de anorexia-interventie. Dit zou er als volgt uit kunnen zien: ‘Van 16 patiënten werd het gewicht voor en na de interventie gemeten. De gemiddelde gewichtstoename voor de N = 16 meisjes was 6.52 pond, met een standaarddeviatie van 7.21. Een tweezijdige t-test op gewichtstoename was statistisch significant (t(15) = 3.98, p < .05). Gemiddeld genomen nam het gewicht van de patiënten toe tijdens de interventie. Het 95% betrouwbaarheidsinterval was 3.12 – 10.80. Cohen’s d = 1.6 toont aan dat de gewichtstoename meer dan 1.5 standaarddeviaties van het oorspronkelijke gewicht was.’

Hoe werkt het hypothese testen bij twee onafhankelijke steekproeven?

De t test wordt het meest gebruikt bij testen van verschillen tussen twee onafhankelijke groepen. Bijvoorbeeld wanneer we prestaties vergelijken tussen een controlegroep en een experimentele groep (die een bepaalde behandeling heeft ondergaan). We willen weten of het verschil groot genoeg is om er vanuit te gaan dat de twee steekproeven uit verschillende populaties komen.

Verdeling van verschillen tussen gemiddelden

Wanneer we gemiddelden van twee verschillende populaties vergelijken, testen we een nulhypothese in de vorm van H₀ : μ₁ – μ₂ = 0. Hierbij hoort een steekproefverdeling van alle mogelijke verschilscores tussen de populatiegemiddelden. In het geval van twee normaal verdeelde populaties, is de verdeling van verschilscores ook een normaal verdeling. De variantie van deze verdeling kun je vinden door de variantie som wet: de variantie van een som of verschil van twee onafhankelijke variabelen is gelijk aan de som van hun varianties.

\[\sigma^2_{X_1-X_2}=\sigma^2_{X_1}+\sigma^2_{X_2}=\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}\]

De t statistiek

Voor de t formule hebben we de standaardfout van verschillen tussen gemiddelden, s², nodig. Onze ‘score’ bij testen van onafhankelijke steekproeven is de verschilscore van gemiddelden Het gemiddelde van de steekproefverdeling is μ1 – μ2 = 0, dus deze kunnen we weglaten uit de formule.

\[t=\frac{(X_1-X_2)-(\mu_1-\mu_2)}{\sqrt{\frac{s^2_1}{n_1}+\frac{s^2_2}{n_2}}}=\frac{X_1-X_2}{\sqrt{\frac{s^2_1}{n_1}+\frac{s^2_2}{n_2}}}\]

Gepoolde varianties

De eerder gegeven formule voor t kan alleen gebruikt worden bij gelijke steekproefgroottes. Wanneer de steekproeven niet even groot zijn, moeten de varianties worden aangepast. Dit heet de gepoolde variantie. Vaak nemen we aan dat σ²₁ = σ²₂ (de steekproeven komen uit populaties met gelijke varianties). Wat we ook kunnen doen, is de steekproefvarianties nemen die we hebben gevonden (s²₁ en s²₂) en een gewogen gemiddelde maken van die twee (op basis van hun vrijheidsgraden). Deze nieuwe schatting s²_p (p van ‘pooled’), wordt de gepoolde variantie schatting genoemd:

\[s^2_p=\frac{(n_1-1)s^2_1+(n_2-1)s^2_2}{n_1+n_2-2}\]

• De teller bevat de gewogen som van varianties en de noemer de som van de gewichten.

De t formule wordt met de gepoolde variantie:

\[t=\frac{X_1-X_2}{\sqrt{s^2_p(\frac{1}{n_1}+\frac{1}{n_2})}}\]

Er wordt gewerkt met n1 + n2 - 2 vrijheidsgraden.

Betrouwbaarheidsinterval

Ook bij een t test van verschillen tussen gemiddelden is een betrouwbaarheidsinterval nuttig. Deze is exact hetzelfde als bij een enkele steekproef, alleen is het gemiddelde vervangen door het verschil tussen gemiddelden, en de standaardfout een standaardfout van gemiddelden. De formule voor een 95% betrouwbaarheidsinterval wordt:

\[\text{CI}_{.95}=(X_1-X_2)\pm t_{.025}^{s\bar{X}_1-\bar{X}_2}\]

De notatie van het betrouwbaarheidsinterval is bijvoorbeeld 3.02 ≤ (μ1 – μ2) ≤ 9.54. De kans .95 dat het ware verschil tussen populatiegemiddelden in dit interval valt.

Effectgroottes

Voor effectgrootte kunnen we weer gebruikmaken van Cohen´s d, maar nu is de standaarddeviatie de gepoolde variantie van de twee populaties.

\[d=\frac{X_1-X_2}{s_p}\]

Ook voor effectgroottes kan een betrouwbaarheidsinterval worden opgesteld

Als interpretatie van effectgroottes heeft Cohen wat algemene richtlijnen opgesteld:

• d = .20 is een klein effect
• d = .50 een medium effect
• d = .80 een groot effect

Het noteren van de resultaten van een onafhankelijke t-toets is gelijk aan het noteren bij een gepaarde t-test.

Hoe ga je om met heterogeniteit van variantie?

Een van de voorwaarden voor de t test is homogeniteit van variantie (σ²₁ = σ²₂). Pas bij homogeniteit van variantie kunnen we t bepalen, eventueel na poolen van de steekproefvarianties.

Bij heterogene varianties laten we het poolen achterwege:

\[t'=\frac{X_1-X_2}{\sqrt{\frac{s^2_1}{n_1}+\frac{s^2_2}{n_2}}}\]

• waarbij we uitgaan van heterogene varianties.

Helaas is de steekproefverdeling van t’ niet bekend, maar wel een benadering hiervan. Een voorbeeld is de Welch-Satterthwaite oplossing. Zij stellen het aantal vrijheidsgraden op:

\[df'=\frac{(\frac{s^2_1}{n_1}+\frac{s^2_2}{n_2})}{\frac{(\frac{s^2_1}{n_1})^2}{n_1-1}+\frac{\frac({s^2_2}{n_2})^2}{n_2-1}}\]

Hoe bepalen we of de varianties heterogeen zijn, aangezien we de populatie varianties niet weten? Levene stelde voor elke X-waarde te verplaatsen met de absolute afwijking van het groepsgemiddelde:

\[d_{ij}=|X_{ij}-\bar{X}_j|\]

Vervolgens kan een two-sample t-toets op de dijs uitgevoerd worden. Wanneer t significant is verschillende varianties van de twee groepen.

De t toets is robuust, oftewel niet (of amper) beïnvloedt door kleine afwijkingen van de onderliggende assumpties. Er zijn twee assumpties voor de onafhankelijke t-toets: (1) normaliteit van de steekproefverdeling van verschillen tussen gemiddelden en (2) homogeniteit van de variantie. Daarnaast is het relevant of de steekproefgroottes gelijk of ongelijk zijn. Als de steekproefgroottes gelijk zijn is het overschrijden van de homogeniteitsassumptie van weinig belang. Als de ware populatie ongeveer de gelijke vorm heeft als die van de steekproef of als ze beide symmetrisch zijn, zijn schendingen van normaliteit niet zo erg. Bij scheve verdelingen ontstaan serieuze problemen, tenzij de varianties gelijk zijn.

De voorgaande hoofdstukken gingen over de verschillen tussen steekproefgemiddelden. Dit hoofdstuk begint met onderzoek naar relaties tussen variabelen. Het verschil is dat er bij verschillen tussen gemiddelden vaak maar weinig kwantitatieve of kwalitatieve niveaus van de onafhankelijke variabele gebruikt worden, terwijl bij relaties tussen variabelen er meestal veel kwantitatieve niveaus zijn. Vaak gaat het hierbij om het aantonen dat de afhankelijke variabele een bepaalde functie is van de onafhankelijke variabele.

Correlatie en regressie zijn twee onderwerpen die sterk verweven zijn, maar toch anders zijn. Bij simpele correlatie en regressie kijken we naar N participanten die voor twee variabelen geobserveerd of getest zijn. Stel dat we kijken naar rensnelheid van een muis in een doolhof (Y). Dit is een willekeurige variabele waarover we geen controle hebben. Wanneer we de relatie van Y bekijken met het aantal keer dat de rat op een knopje drukt voordat het uiteindelijk lukt (X), hebben we twee willekeurige, niet te beïnvloeden variabelen. In dat geval gebruiken we de term correlatie. Beide variabelen zullen variëren per experiment (het zijn random variabelen) en hebben een steekproef error.

In het geval waar X een van tevoren bepaalde variabele is, gespecificeerd door de onderzoeker (bijvoorbeeld: het aantal voedselkorrels dat de rat krijgt per goed gelukte poging), spreken we van regressie.

Dit onderscheid gaat niet altijd op. Soms is regressie het doel als beide variabelen random zijn. Een ander verschil tussen correlatie en regressie is, dat wanneer we Y willen voorspellen op basis van X, we spreken van regressie. Maar, als we alleen de relatie tussen twee variabelen willen weergeven (zonder enige invloed te hebben), spreken we van correlatie.

Waarvoor wordt een scatterplot gebruikt?

Een handige manier om de relatie tussen twee variabelen te onderzoeken is met een scatterplot. Elke proefpersoon wordt daarbij weergegeven door een stip met coördinaten, die de waarden op variabelen X en Y aangeven.

Normaliter staat de voorspellende variabele op de X-as en de criterium variabele op de Y-as. De criterium variabele wordt voorspeld vanuit de voorspellende variabele. Als het echter om een correlatiecoëfficiënt gaat, is het niet altijd duidelijk welke variabele X en welke variabele Y is. In dit geval maakt het niet uit hoe de variabelen gelabeld worden. In een scatterplot wordt zo goed mogelijk een lijn door de puntenwolk getrokken. Die lijn heet de regressielijn van Y voorspeld door X (oftewel Y op X) en geeft de beste voorspelling van Y_i voor een X_i-waarde. Wanneer de regressielijn recht is, heet de relatie tussen de variabelen een lineaire relatie. Is de lijn krom, dan is er sprake van een curvilineaire relatie.

De mate waarin de punten in de puntenwolk om deze regressielijn liggen is gerelateerd aan de correlatie (r) tussen X en Y. Hoe dichter de punten (de behaalde resultaten) bij de regressielijn liggen (de voorspelde waarde), hoe hoger de correlatie. Het correlatiecoëfficiënt kan vorm aannemen tussen de -1 en 1, waarbij een perfecte correlatie 1.00 is (en alle punten op de lijn liggen). + of - geeft de richting van de relatie aan en beïnvloedt niet de mate van de relatie.

Een voorbeeld

Stel dat we de relatie tussen stress en mentale gezondheid onderzoeken. Dit laatste meten we met een checklist. Ten eerste is het belangrijk te onderzoeken of beide variabelen normaal verdeeld zijn en weinig extreme waarden hebben. Voor een onderzoek naar correlatie moeten beiden wat variantie hebben (anders is het niet mogelijk om verschillen in stress te vergelijken met verschillen in mentale gezondheid).

Hoe wordt de covariantie berekend?

De eerste stap voor het berekenen van de correlatie is het berekenen van de covariantie (cov_xyof s_xy), die de mate weergeeft waarin twee variabelen samen variëren.

\[cov_{xy}=\frac{\sum(X-X)(Y-Y)}{N-1}\]

Het lijkt erg op de variantie, want als de Y’s vervangen worden door X’en (of de X’en vervangen door Y’s) krijgen we s²_x (of s²_y). De formule wordt ook wel gegeven door:

\[\frac{\sum{XY}-\frac{\sum{X}\sum{Y}}{N}}{N-1}\]

We verwachten een sterk positieve relatie: grotere waarden van X (stress) geven grotere waarden van Y (mentale gezondheid). Dit zal een grote covariantie-waarde geven. Als er sprake geweest was van een sterke negatieve relatie, zou de som van de producten van de afwijkingen van gemiddelden groot en negatief zijn. Als er geen relatie is tussen de variabelen zal de som uitkomen rond de nul. De covariantie van het voorbeeld is 1,336.

De Pearson product-moment correlatiecoëfficiënt (r)

Om de correlatiecoëfficiënt te berekenen, moeten we nog rekening houden met de standaarddeviaties van X en Y.

\[r=\frac{cov_{XY}}{s_Xs_Y}\]

De correlatie loopt van -1,00 tot 1,00.

Uit het voorbeeld komt een correlatie van r = .529. Dit betekent niet dat er 53% relatie is tussen stress en symptomen. Het geeft alleen de sterkte van de relatie aan tussen de twee variabelen; hoe dichterbij de ± 1,00, hoe sterker de relatie. De + en - geven de richting van de relatie aan, waarbij een positieve correlatie aangeeft dat als X hoger is, Y ook hoger is.

Aangepaste r

De r die net is berekend, is geen goede schatting van de correlatiecoëfficiënt van de populatie (ρ – rho). Zeker bij een klein aantal observaties zal de coëfficiënt r afwijken van ρ. Om hiervoor te corrigeren, berekenen we de aangepaste correlatiecoëfficiënt r_aang:

\[r_{aang}:\sqrt{1-\frac{(1-r^2)(N-1)}{N-2}}\]

Voor het voorbeeld geldt een aangepaste r van .522. Dit ligt niet ver af van de Pearson correlatie r (.529). Wanneer de steekproef vrij groot is, zal r weinig afwijken van r_aang.

Wat laat een regressielijn zien?

De positieve relatie die werd aangetoond met r = .529, is ook af te leiden met de regressielijn. Een positieve relatie zal een stijgende lijn laten zien. De formule voor de regressielijn is die voor een rechte lijn:

\[\hat{Y}=bX+a\]

• Ŷ = de voorspelde waarde van Y
• b = de helling van de regressielijn (hoeveel Ŷ verandert bij een één-eenheid-verschil in X)
• a = het snijpunt (de waarde van Ŷ waar X=0)
• X = de waarde van de voorspellende variabele

De regressielijn moet die lijn worden, die het best over de puntenwolk past: de lijn waar alle puntscores zo dicht mogelijk bij liggen. Om die lijn te vinden, moeten we a en b weten. We moeten hierbij gebruik maken van de errors van voorspelling, namelijk de (Y-Ŷ) afwijkingen. Dit wordt ook het residu genoemd. De lijn die deze errors minimaliseert, is de lijn die we zoeken. Deze som van errors kunnen we echter niet minimaliseren, dus doen we dat met de som van gekwadrateerde errors, ∑(Y -Ŷ). De normale vergelijkingen voor a en b zijn.

\[a=\hat{Y}-\bar{X}\]

\[b=\frac{cov_{xy}}{s^2_x}\]

Om de regressielijn te trekken kunnen twee X-waarden getekend worden, met bijbehorende berekende Ŷ-waarden en deze punten kunnen met een rechte lijn verbonden worden.

Interpretatie van de regressielijn

Soms is alleen de regressievergelijking al informatief, zoals in het voorspellen van een score op het examen gebaseerd op eerdere resultaten. Meestal willen we echter geen individuele voorspellingen weten, maar algemenere principes achterhalen. Daar is de regressielijn ook nuttig bij.

Snijpunt

Het snijpunt is het punt van Ŷ waar X = 0. Dit kan een nuttige betekenis hebben, maar alleen als de variabele X daadwerkelijk betekenisvol is. Stel dat we kijken naar de relatie tussen eigenwaarde (Y) en gewichtsverlies (X), dan kunnen we uit het snijpunt afleiden hoeveel eigenwaarde een persoon heeft die geen gewicht heeft verloren. Maar, als X het gewicht zelf weergeeft, is het onzin te kijken naar eigenwaarde van iemand die 0 kilo weegt. In dat geval is het zinnig om de data te centreren: van elke waarde van X trek je het gemiddelde van X af. Hierdoor representeert X = 0 het gemiddelde X, en het snijpunt geeft dan de waarde van Y bij X is het gemiddelde. Dit centreren heeft geen effect op de helling of correlatiecoëfficiënt.

Gestandaardiseerde regressie coëfficiënten

Wanneer de data gestandaardiseerd wordt geeft een verschil van één eenheid in X een verschil van één standaarddeviatie weer. Als de helling bijv. 0,75 is (voor gestandaardiseerde data) zal voor elke standaarddeviatie toename in X, Ŷ drie kwart standaarddeviaties toenemen. De helling bij gestandaardiseerde data wordt gestandaardiseerde regressie coëfficiënt of β genoemd.

Bij gestandaardiseerde data geldt s_x = s_y = s²_x = 1, waarbij de helling en correlatiecoëfficiënt gelijk zijn. Een correlatie van r = .80 geeft dus aan dat één standaarddeviatie verhoging van X is geassocieerd met achttienden standaarddeviatie verhoging van Y. Er wordt echter nooit gesproken van oorzaak en gevolg. Het is een correlationeel verband.

Welke andere lijnen zijn belangrijk?

Een rechte lijn is niet altijd de beste manier om data te beschrijven. In sommige situaties is een kromme lijn beter. Hier zijn verschillende manieren voor die vallen onder scatterplot smoothers. Voorbeelden zijn splines en loess. Om tot de lijn te komen worden de Y waarden dichtbij de doelwaarde van de voorspeller gemiddeld. Soms geven deze lijnen een beter overzicht van de relatie tussen de variabelen.

Hoe accuraat is de voorspelling?

Standaarddeviatie als errormeting

De beste voorspelling voor een individueel geval is het gemiddelde en voor de error de standaarddeviatie van Y.

\[s_Y=\sqrt{\frac{\sum{(Y-\bar{Y})^2}}{N-1}}\]

De teller van de breuk is de sum of squares van Y (SS_Y). De noemer is het aantal vrijheidsgraden.

\[s^2_Y=\frac{SS_Y}{df}\]

Schatting van standaardfout

Wanneer we de relevante X-waarde en de regressievergelijking hebben, is de beste voorspelling voor een individu met Ŷ. De standaardfout is gegeven door de volgende formule:

\[S_{Y\times{X}}=\sqrt{\frac{\sum{(Y-\hat{Y})^2}}{N-2}}\]

De teller van deze breuk geeft de SS_residu, namelijk de variabiliteit na het voorspellen van Y uit X. S_Y∙X is de schatting van de standaardfout. Het kwadraat is de residuele variantie of errorvariantie.

De set Y’s die overeenkomen met een bepaalde X-waarde heet de conditionele verdeling van Y. Bij bovenstaande formule zou je voor elke observatie van Y de berekening moeten uitvoeren en dit bij elkaar optellen. Dit is onnodig veel werk, een veel snellere procedure maakt gebruik van de correlatie r².

\[S_{Y\times{X}}=s_Y\sqrt{(1-r^2)\frac{N-1}{N-2}}\]

Bij grote steekproeven is (N-1)/(N-2) ongeveer 1, waardoor s_Y∙X geschreven kan worden als:

\[\sqrt{1-r^2}\]

Uit deze formules is af te leiden dat als r toeneemt, de standaardschattingsfout afneemt. Daarom moet er altijd voorzichtigheid zijn bij het interpreteren van voorspellingen. Daarnaast geldt SS_residu = SS_Y(1-r²).

r² als maat voor variabiliteit

SS_residu kan ook op een andere manier worden weergegeven:

\[SS_Y-SS_Y(r^2)\]

Een andere formule voor r² is:

\[\frac{(SS_Y-SS_{residu})}{SS_Y}=\frac{SS_{\hat{Y}}}{SS_Y}\]

Stel dat we geïnteresseerd zijn in de relatie tussen rookgedrag (X) en leeftijd van overlijden (Y). Mensen sterven niet allemaal op hetzelfde moment, dus er is variatie in variabele Y, ongeacht het rookgedrag. Dit is de SS_y. Sommige mensen roken meer dan anderen, ongeacht leeftijd van overlijden. Dit is de SS_x. Het onderzoek toont aan dat rokers eerder overlijden dan niet-rokers, waar we een regressielijn van kunnen maken. Door die lijn kunnen we ook voorspellen hoe lang iemand te leven heeft (of voorspelde levensverwachting). Dit wordt vastgelegd in:

\[SS_{\hat{Y}}=\sum(\hat{Y}-Y)^2\]

De variabiliteit in Y verklaard door de variabiliteit in X. De laatste bron van variabiliteit in scores is die variantie in Y die we niet kunnen verklaren door X, en heet SS_residu.

Stel dat alle niet-rokers bij een leeftijd van 70 jaar overlijden, en alle rokers, terwijl ze allemaal evenveel roken, op 65 jaar. Alle variatie in levensverwachting is te voorspellen vanuit de variatie in rookgedrag, dus geldt:

\[SS_{\hat{Y}}=SS_Y\]

en SS_residu = 0. In alledaagse situaties is er altijd wat variatie die niet te voorspellen is door X. Wat we willen is specificeren welk percentage van de variatie in levensverwachting wel door X te voorspellen is, en daarvoor kunnen we r² gebruiken.

Stel dat we vinden dat de correlatie tussen roken en levensverwachting .80 is, dan is dus .802 = 64% van de variatie in levensverwachting te voorspellen door rookgedrag. Het geeft geen oorzaak-gevolg relatie aan. r² is makkelijker te interpreteren dan r, omdat het aangeeft hoeveel variabiliteit verklaard wordt door de variabiliteit in een andere meting. r² is de proportionele reductie in error. Als X niet gebruikt wordt op Y te voorspellen is de error SS_Y.

Soms wordt de proportionele verbetering in voorspelling (PIP) gebruikt:

\[1-\sqrt{(1-r^2)}\]

Het is de vermindering in geschatte standaardfout bij grote steekproeven en de reductie in breedte van het betrouwbaarheidsinterval. Het meet error in standaarddeviatie eenheden, terwijl r² error meet in sums of squares.

Welke assumpties moeten gedaan worden voor regressie en correlatie?

Ten eerste moet er sprake zijn van homogeniteit van varianties. Dit houdt in, dat de variantie van Y bij elke waarde van X even groot is (in de populatie). Dit is belangrijk wanneer we voor significantie testen met s²_Y∙X. Daarnaast moeten de waarden van Y overeenkomend met de bijbehorende X-waarden normaal verdeeld zijn rondom Ŷ. Wanneer we op zoek zijn naar de steekproefcorrelatie, vervangen we de regressie model assumpties met de assumptie dat we een steekproef trekken van een bivariate normaalverdeling. De conditionele verdelingen in deze verdeling zijn de verdelingen van Y en X gegeven een specifieke waarde van X of Y. Wanneer we kijken naar alle Y-waarden, onafhankelijk van X, spreken we van de marginale verdeling van Y. Als laatste gaan we er vanuit dat de relatie tussen X en Y lineair is.

Betrouwbaarheidsintervallen

Stel dat we een toekomstige participant onderzoeken op stressniveau, en dan zijn of haar symptomen willen voorspellen. Dan hebben we een voorspellingsinterval nodig, die zowel de variantie van Y, voorspeld door X, moet omvatten en de variantie van observaties. De standaardfout wordt gegeven door:

\[s'_{Y\times X}=s_{Y\times X}\sqrt{1+\frac{1}{N}+\frac{(X_i-\bar{X})^2}{(N-1)s^2_X}}\]

De teller van de breuk geeft de afwijking van de individuele score van het gemiddelde van X weer. De formule voor het voorspellingsinterval wordt dan:

\[CI(Y)=\hat{Y}\pm(t_{\frac{a}{2}})(s' _{Y\times X})\]

Dit interval is het smalst voor waarden van X dichtbij X̄, maar wordt breder als I X - X̄ I vergroot.

De standaardfout voor een betrouwbaarheidsinterval van gemiddelde Y voor een specifieke waarde van X is:

\[s"_{Y\times X}=s_{Y\times X}\sqrt{\frac{1}{N}+\frac{(X_i-\bar{X})^2}{(N-1)s^2_X}}\]

en dit geeft een betrouwbaarheidsinterval van:

\[CI(Y)=\hat{Y}\pm(t_{\frac{a}{2}})(s" _{Y\times X})\]

In SPSS kan je zowel het voorspellingsinterval als betrouwbaarheidsinterval krijgen door Save/Prediction Intervals - Mean and Individual.

Welke hypothesetesten worden gebruikt?

De significantie van r

Bij het hypothesetesten bij correlaties, wordt meestal de nulhypothese getest dat de correlatie tussen X en Y in de populatie, oftewel ρ, nul is. Het verwerpen van de nulhypothese betekent, dat er een correlatie is en dus een bepaalde lineaire relatie. Dit wordt bepaald met een t-toets:

\[t=\frac{r\sqrt{N-2}}{\sqrt{1-r^2}}\]

• met vrijheidsgraden N-2.

Veel onderzoekers rekenen in plaats van een t statistiek de F statistiek uit. Dit is simpelweg de t waarde in het kwadraat.

De significantie van b

Wanneer X en Y correleren, en er een lineaire relatie is, dan zal de helling van de regressielijn niet gelijk zijn aan nul en b een bepaalde waarde anders dan nul hebben. Dit is het geval bij één voorspellende variabele, maar wanneer er meerdere voorspellende variabelen zijn, hoeft de helling niet voor elk van deze variabelen significant te zijn.

b* is het parametrische equivalent van b, namelijk de helling als we X en Y metingen op de hele populatie hadden.

De standaardfout is:

\[s_b=\frac{s_{Y\times X}}{s_x\sqrt{N-1}}\]

Om te testen dat de populatiehelling nul is, gebruiken we de volgende formule voor t:

\[t=\frac{b-b*}{s_b}=\frac{b}{\frac{s_{Y\times X}}{s_X\sqrt{N-1}}}=bs_x\sqrt{N-1}\]

• met N-2 vrijheidsgraden.

Het betrouwbaarheidsinterval van b* is:

\[CI(b*)=b\pm(t_{\frac{a}{2}})(\frac{s_{Y\times X}}{s_X\sqrt{N-1}})\]

Verschil tussen twee onafhankelijke b’s

Het kan zijn dat je bij een onderzoek twee onderzoeksgroepen hebt met beide een andere helling. Met de volgende manier kan je testen of dit verschil in helling significant is.

H₀ = b*₁ = b*₂ en de steekproefverdeling van b₁ - b₂ is normaal met een gemiddelde van nul en standaardfout van:

\[s_{b_1-b_2}=\sqrt{s^2_{b_1}+s^2_{b_2}}\]

met:

\[t=\frac{(b_1-b_2)}{s^2_{b_1}+s^2_{b_2}}\]

met N1 + N2 - 4 vrijheidsgraden.

De standaardfout van b is in de vorige alinea behandeld en maakt de formule dus tot:

\[s_{b_1-b_2}=\sqrt{\frac{s^2_{Y\times{X_1}}}{s^2_{X_1}(N_1-1)}+\frac{s^2_{Y\times{X_2}}}{s^2_{X_2}(N_2-1)}}\]

Wanneer we uitgaan van homogeniteit van error varianties kunnen we de twee schattingen samennemen, gewogen naar vrijheidsgraden:

\[s^2_{Y\times X}=\frac{((N_1-2)s^2\times{Y\times{X_1}}+(N_2-2)s^2_{Y\times{X_2}})}{(N_1+N_2-4)}\]

Het verschil tussen twee onafhankelijke rs testen

Stel dat we twee onafhankelijke steekproeven hebben en de correlaties van beide steekproeven willen vergelijken. Als de correlaties van de bijbehorende populaties niet gelijk zijn aan nul (ρ ≠ 0), dan zullen de rs niet normaal verdeeld zijn en kunnen we geen t test uitvoeren. We moeten de correlaties eerst omvormen tot r’ (r accent):

• r’ = (0,5)loge |(1+r)/(1-r)|

r’ is wel normaal verdeeld rond ρ’ met standaardfout:

\[s_{r'}=\frac{1}{\sqrt{N-3}}\]

Hierna rekenen we de bijbehorende z-waarde uit:

\[z=\frac{(r'_1-r'_2)}{\sqrt{\frac{1}{N_1-3}+\frac{1}{N_2-3}}}\]

Wanneer de gevonden z waarde de kritieke waarde overschrijdt, verwerpen we de nulhypothese. De conclusie is daarbij, dat de correlaties van beide steekproefgroepen niet gelijk zijn.

Testen dat ρ gelijk is aan een bepaalde waarde

Om uit te rekenen of ρ gelijk is aan een bepaalde waarde, wordt de standaardfout:

\[\frac{1}{\sqrt{N-3}}\]

gebruikt met:

\[z=\frac{(r'-\rho')}{\sqrt{\frac{1}{N-3}}}\]

Hiernaast kan ook het betrouwbaarheidsinterval bepaald worden:

\[CI(\rho')=r'\pm z_{\frac{a}{2}}\sqrt{\frac{1}{N-3}}\]

Welke factoren beïnvloeden correlatie?

Range beperkingen

Sommige studies beperken de correlatie tussen X en Y. De scatterplot die van deze ‘beperkte’ waarden wordt gemaakt, zal nooit een perfecte weergave zijn van de eigenlijk behaalde scores. De daarover berekende correlatie zal dan ook afwijken. Meestal wordt r door het beperken van de range verkleind. Het kan echter vergroot worden als door de range beperkingen een curvilineaire relatie verdwijnt.

Heterogene subsamples

Soms worden in een steekproef verschillende variabelen samengenomen, zoals mannen en vrouwen, terwijl die ongelijk scoren op de afhankelijke variabele. Bijvoorbeeld bij het onderzoeken van lengte x gewicht. Mannen zijn over het algemeen langer en zwaarder dan vrouwen. De relatie tussen lengte en gewicht kan dus beïnvloed worden door het samennemen van beide geslachten, waardoor de gehele correlatie af kan wijken van de correlaties voor de geslachten apart.

Hoe bereken je de power voor r?

Om power te berekenen, moeten we eerst d (de effectgrootte) weten:

• d = ρ₁ – ρ₀ = ρ₁ – 0 = ρ₁. ρ₁ is de correlatie in de populatie gedefinieerd door H₁.

Daarna kunnen we δ berekenen met:

\[\delta=d\sqrt{N-1}=\rho_1\sqrt{N-1}\]

en de δ waarde zoeken we op in de Appendix Power.

In dit hoofdstuk wordt ingegaan op de variantieanalyse, als procedure voor het testen van verschillen tussen twee of meer gemiddelden.

De analyse van variantie (ANOVA) is al lange tijd de meest gebruikte statistische test in psychologisch onderzoek. Het stelt ons namelijk in staat om, zoals de t test, verschillen tussen steekproefgemiddelden te onderzoeken, maar dan voor een k aantal gemiddelden. Ook kan de ANOVA het effect van twee of meer onafhankelijke variabelen, inclusief het interactie-effect, op een afhankelijke variabele onderzoeken.

Een voorbeeld

Stel dat we onderzoeken in hoeverre agressie toeneemt bij mensen die gedronken hebben, bij minder of meer afleiding van die agressie. Hiervoor laten we vijf groepen mensen, die evenveel gedronken hebben, een taak uitvoeren die steeds moeilijker is per groep.

Wat is de ANOVA?

In dit hoofdstuk wordt de one-way ANOVA nader uitgelegd. Dit is de variantieanalyse voor één onafhankelijke (one way) variabele.

Stel dat we een gok willen doen over de individuele score van iemand in een experiment. In dat experiment zijn meerdere groepen proefpersonen. De beste gok is het populatiegemiddelde. Een andere manier om achter die score te komen, is het gemiddelde van de groep waar de persoon in hoort, uit te rekenen.

• X_ij = µ + τ_j, waarbij τ_j voor het verschil tussen het groepsgemiddelde en het grote gemiddelde staat.

Zijn score zal echter enigszins afwijken van dat groepsgemiddelde, wat we uitdrukken in ε (van ‘error’). Dit leidt tot de volgende formule:

• X = μ + τ_j + ε_ij, waarbij ε_ij het verschil tussen de individuele score en het groepsgemiddelde weergeeft. Dit is het structurele model van variantie analyse.

Welke assumpties moeten gedaan worden voor de ANOVA?

Voor het uitvoeren van een ANOVA geldt een aantal voorwaarden of aannames.

Homogeniteit van variantie

Ten eerste stelt de ANOVA dat van elke populatie (in ons geval van elke groep in het onderzoek) de variantie gelijk is. σ²₁ = σ²₂ = σ²₃, etc. Deze voorwaarde wordt homogeniteit van variantie genoemd, of homoscedasticiteit. σ^2e staat voor error variantie, de variantie die niet gerelateerd is aan behandelingsverschillen.

In veel gevallen is deze voorwaarde niet heel belangrijk. De ANOVA kan dan nog steeds uitgevoerd worden, hoewel de resultaten voorzichtiger moeten worden bekeken. Soms kan heterogeniteit van variantie wel voor problemen zorgen.

Normaalverdeling

De tweede aanname is, dat bij elke conditie of steekproefgroep de scores normaal verdeeld zijn. Omdat afwijking van het gemiddelde ook wel error wordt genoemd, heet deze voorwaarde ook weleens ‘de normale verdeling van error’. Kleine afwijkingen van normaliteit zorgen vaak niet voor problemen.

Onafhankelijkheid

De derde aanname is dat de observaties of scores onafhankelijk zijn van elkaar. Dit wil zeggen dat als we één observatie weten, dat dit niets zegt over een andere observatie. Dit kan misgaan wanneer de proefpersonen niet random worden toegewezen aan een groep.

De nulhypothese

De nulhypothese bij het voorbeeld onderzoek, is dat de verschillen in groepsgemiddelden tussen de verschillende niveaus van afleiding zeer klein zijn. De notatie hiervoor is:

• H₀ : μ₁ = μ₂ = μ₃… etc.

Wat is er belangrijk bij mean squares?

Door de assumpties normaliteit en homogeniteit van varianties, kunnen de verdelingen alleen verschillen in hun gemiddelden. Voor het onderzoeken van de nulhypothese moeten we een bepaalde schatting maken van de populatievariantie (σ²_e), zonder aan te nemen dat de nulhypothese juist of onjuist is. In het voorbeeldonderzoek zijn vijf groepen te onderscheiden, elk met hun eigen populatievariantie. Hieruit volgt dat de verwachte variantie in de totale populatie gelijk is aan het gemiddelde van die vijf.

\[\sigma^2_e=s^2_e=s^2_j=\frac{\sum{s^2_j}}{k}\]

• met als k het aantal ‘behandelingen’ of groepen

Deze schatting van de populatievariantie heet de MS_error, ook wel MS_within.

Naast deze populatievariantie is er de steekproefvariantie, ofwel de variantie die we verkrijgen uit de vijf groepen in de steekproef. Wanneer de nulhypothese waar is, en de steekproeven dus uit dezelfde populatie getrokken zijn, gaan we ervan uit dat de steekproefvariantie gelijk is aan de populatievariantie gedeeld door de steekproefgrootte: de steekproeven zijn dan een goede weerspiegeling van de populatie. Voor deze populatievariantie is de formule:

\[\frac{\sigma^2_e}{n}=s^{\frac{2}{X}}\]

of

\[\sigma^2_e=n^{2^{\frac{2}{X}}}\]

• waarbij n de grootte van elke steekproef is.

Deze schatting van de populatievariantie heet de MSbehandeling.

We hebben nu twee schattingen van de populatievariantie. Voor MS_behandeling geldt dat deze alleen juist is bij een juiste nulhypothese. Wanneer de twee schattingen dus gelijk zijn, hebben we bewijs voor de juistheid van H_0. Zijn ze ongelijk, dan hebben bewijs om H₀ te verwerpen. Dit is precies wat de ANOVA doet.

Variantie schatting

Het behandelingseffect is het verschil tussen het gemiddelde van de behandeling en het grote gemiddelde. De variantie van de ware populatie gemiddelden geven we weer als θ2τ:

\[\theta^2_{\tau}=\frac{\sum(\mu_j-\mu)^2}{k-1}=\sum{\tau^2_j}\]

De verwachte waarde (E) kan geformuleerd worden als:

• E(MS_error) = σ²_e
• E(MS_behandeling) = σ²_e + nθ²_τ

Als H₀ juist is, zijn E(MS_error) en E(MS_behandeling) gelijk, omdat θ²_τ nul is. Als H₀ onjuist is zal E(MS_error) kleiner zijn dan E(MS_behandeling).

Welke berekeningen zijn van toepassing bij de ANOVA?

Hoewel bij de ANOVA meestal een computer te pas zal komen, is het toch handig iets te weten van de onderliggende berekeningen.

Veel van de berekeningen over variantie hebben te maken met sums of squares (SS). Dit is de som van de gekwadrateerde afwijkingen van het gemiddelde:

\[\frac{\sum(X-\bar{X})^2}{(n-1)}=\frac{\frac{\sum{X^2}-(\sum{X})^2}{n}}{(n-1)}\]

Hierbij is n-1 het aantal vrijheidsgraden.

Controleren van voorwaarden

Een eerste stap bij het berekenen van de ANOVA is het controleren van de voorwaarden. Men moet kijken of de verdelingen normaal verdeeld zijn of bijvoorbeeld scheef of bimodaal. Een belangrijke voorwaarde is die van homogeniteit van variantie. Van elke groep/conditie in het onderzoek moet de variantie bekeken worden. Is er een groot verschil tussen de varianties, dan is de ANOVA nog steeds uit te voeren. Hiervoor geldt dat de totale analyse (dus met alle groepen tegelijk) robuust is tegen schending van de voorwaarde, vooral als elke groep evenveel participanten bevat.

De analyse

Wanneer een one-way ANOVA uitgevoerd wordt, zal de uitdraai van computersoftware eruit zien als in Tabel 13.

• SS_totaal is de sum of squares voor alle observaties: SS_total = ∑(X_ij-X)²

De SS_behandeling in de tabel is de som van de afwijkingen van de groepsgemiddelden van het totale gemiddelde:

• SS_behandeling = n∑(X_j - Y_j)². SS_error = SS_totaal - SS_behandeling.

Daarbij is SS_error gelijk aan de som van variantie binnen elke groep (variantie die niet is te verklaren door behandeleffecten).

• Oftewel, SS_error = SS_within1 + SS_within2 + etc.

Voor de vrijheidsgraden (df) kolom gelden de volgende berekeningen:

• df_totaal = N -1 met N als het aantal proefpersonen
• df_behandeling = k – 1 met k als het aantal groepen
• df_error = df_totaal - df_tbehandeling

De MS kolom geeft de twee schattingen van de populatievariantie σ²e, en daarvoor geldt

MS = SS/df. MSerror staat voor de populatievariantie, los van het feit of H0waar is of niet. Het is het gemiddelden van de binnengroepsvariantie als de steekproefgroottes gelijk zijn. MSbehandeling is de variantie van gemiddelden vermenigvuldigd met n.

De laatste kolom geeft de F statistiek. Deze wordt berekend door MS_behandeling/MS_error. Wanneer H₀ waar is, zouden MS_error en MS_behandeling min of meer gelijk aan elkaar moeten zijn, en is de ratio ongeveer 1. Wanneer de ratio afwijkt van 1, is dat een bewijs dat H₀ onjuist is. Een andere manier om naar de F statistiek te kijken is in een formule met verwachtte waarden: E(MS_behandeling)/E(MS_error) = (σ²_e + nθ²_τ) / σ²_e. De ratio zal 1 zijn als θ²_τ is nul, wanneer θ²_τ groter is dan nul, zal de ratio groter zijn dan 1.

Maar hoe groot moet de ratio zijn om de nulhypothese te verwerpen? Hiervoor gebruiken we de F distributie, welke in de F appendix is uitgeschreven (Howell, 2013: p.692). De vrijheidsgraden van teller (MS_behandeling) en noemer (MS_error) zijn respectievelijk k – 1 en k(n-1) – met n het aantal proefpersonen per groep.

Stel dat F = 6.80 bij 4 en 55 df. De uiteindelijke notatie van de ANOVA is dan: F_.05(4,55) = 2.54, dus bij een α = .05 zouden we de nulhypothese verwerpen. De verschillen tussen de behandelgroepen zijn significant. F(4,55) = 6.80, p < .05.

Conclusies

Op basis van de gevonden F hebben we de nulhypothese verworpen: de verschillen tussen groepen waren significant. Maar, dit betekent alleen dat tenminste één populatiegemiddelde verschilt van een ander populatiegemiddelde. Welke verschillen is niet duidelijk. Dit komt in het volgende hoofdstuk.

Hoe voer je de ANOVA uit in SPSS?

Om de éénweg ANOVA in SPSS uit te voeren, moet men de volgende menu’s volgen: Analyze > Compare Means > One-Way ANOVA. In ‘Options’ kunnen beschrijvende statistieken en gemiddelden plots opgevraagd worden. Een andere optie i.p.v. Compare Means > One-Way ANOVA is ‘General Linear Model > Univariate’.

In de output geeft de eerste lijn ‘Corrected Model’. Dit geeft het gecombineerde effect van twee of meer onafhankelijke variabelen. Als er dus maar één variabele is, geeft deze lijn dezelfde sum of squares als de behandelingsgroep. ‘Intercept’ is een test van de nulhypothese dat het grote gemiddelde nul is in de populatie. Dit is meestal niet interessant.

Wat is de procedure bij ongelijke steekproefgroottes?

Meestal proberen onderzoekers behandelgroepen te creëren met evenveel proefpersonen (een gebalanceerd design). Dit lukt niet altijd. Wanneer de groepen niet even groot zijn, moet de ANOVA aangepast worden. De aanpassing zit in de SSbehandeling. De formule hiervoor is normaal het aantal proefpersonen per groep, maal de som van de gekwadrateerde afwijkingen van het gemiddelde:

\[SS_{behandeling}=n\sum(\bar{X_j}-\bar{X})^2\]

Wanneer de n per groep verschilt, moeten we hiervoor corrigeren. We vermenigvuldigen de groepsgrootte met de afwijkingen van het gemiddelde per groep. Hierdoor zal een grotere steekproef meer bijdragen aan de SS_behandeling.

\[SS_{behandeling}=n\sum(n_j(\bar{X_j}-\bar{X})^2)\]

Er moet wel rekening gehouden worden met gemiste data. Als deze data random gemist wordt is er geen probleem, maar als er een systematische reden voor is levert dit serieuze problemen op.

Wat gebeurt er als de voorwaarden geschonden worden?

De ANOVA is over het algemeen een zeer robuuste test. Dit betekent dat de voorwaarden tot op zekere hoogte geschonden kunnen worden, zonder dat dit grote gevolgen heeft voor de test. Als de populaties redelijk symmetrisch verdeeld zijn, en als de grootste variantie niet meer dan vier keer zo groot is als de kleinste, is de ANOVA nog valide. Als de steekproefgroottes erg veel verschillen is de test minder robuust tegen heterogeniteit van varianties.

Met ongelijke varianties ligt de ware F-waarde tussen de F met 1 en (n-1) vrijheidsgraden en de F met (k-1) en k(n-1) vrijheidsgraden. Box stelde voor F_obt te vergelijken met F_α(1,n-1). Wanneer dit significant is, zijn de gemiddelden significant anders onafhankelijk van de (on)gelijkheid van varianties. De test is echter extreem conservatief. Een andere methode is de Welch procedure. Deze wordt gebruikt wanneer men heterogene varianties verwacht. Hier zijn verschillende formules voor:

\[W_k=\frac{n_k}{s^2_k}\]

\[\bar{X}=\frac{\sum{W^{\bar{X}}_k}}{\sum{W_k}}\]

\[F"=\frac{\frac{\sum{W_k(\bar{X_k}}-\bar{X})^2}{k-1}}{1+\frac{2(k-2)}{k^2-1}\sum(\frac{1}{n_k-1})(1-\frac{W_k}{\sum{W_k}})^2}\]

Welke soorten transformaties zijn er?

De Welch methode kan alleen wanneer de steekproeven getrokken zijn uit normaal verdeelde populatie. Wanneer dit niet het geval is kan de data ook getransformeerd worden. Een kanttekening hierbij is wel, dat de conclusies die dan uit het onderzoek komen wellicht niet altijd overeenkomen met wat je wilde aantonen. Transformaties moeten altijd vermeld worden. Standaarddeviaties kunnen niet omgezet worden.

1. Logaritmische transformaties

Een transformatie naar logaritmen is praktisch wanneer de standaarddeviatie correleert met het gemiddelde, of wanneer de data sterk positief scheef is. Een logaritme is een macht: afhankelijk van de basis is het een uitdrukking tot welke macht het getal wordt behaald. Dus, log₁₀(25) = 1.398 want 10^1.398 = 25. In de statistiek wordt vaak de ‘natuurlijke logaritme’ gebruikt, met de basis e = 2.718. log_e is ook wel ln. Deze transformaties zullen standaarddeviaties bij grote steekproeven meer reduceren dan standaarddeviaties bij kleine steekproeven.

Een nadeel van het logaritme is dat deze niet gebruikt kan worden op negatieve of naar 0 neigende ruwe data. In dat geval is het mogelijk om een constante aan alle scores toe te voegen, zodat die allemaal positief worden.

2. Vierkantswortel transformatie

Als het gemiddelde correleert met de variantie, gebruiken we een vierkantswortel transformatie, zoals van de vorm Y =√X, Als de X-waarden klein zijn kunnen bijvoorbeeld de volgende formules gebruikt worden:

• Y = √X +0.5 of Y = √X + √X+1

Het is echter moeilijk om te weten of de correlatie met de variantie veel groter (of kleiner) is dan de correlatie met de standaarddeviatie. Daarom kunnen ook beide transformaties uitgevoerd worden.

3. Wederzijdse transformatie

Deze transformatie is handig bij het verminderen van de invloed van extreme waarden. Hierbij berekenen we een nieuwe X van de vorm 1/X of -1/X. Hierdoor hebben de uitbijters minder effect op de grootte van de standaarddeviatie.

4. Arcsine transformatie

Bij een binomiale verdeling, waarbij de variantie afhankelijk is van het gemiddelde hebben de groepen met verschillende gemiddelden verschillende varianties. Dit brengt problemen mee. Een handige transformatie is de arcsine transformatie (sin-¹ op rekenmachine):

• Y = 2 arcsin √p. P is hier de proportie correct.

Bij een correlatie tussen de variantie en het gemiddelde kan zowel de vierkantswortel als de arcsine transformatie gebruikt worden. Het verschil is dat de vierkantswortel transformatie de scheve staart samendrukt, terwijl de arcsine transformatie beide staarten uitrekt. De arcsine transformatie is nuttiger bij proporties.

5. Getrimde steekproef

Naast het transformeren van de ruwe data, is het ook mogelijk om een selectie te maken uit de data om de heterogeniteit van variantie te verminderen. Dit is het trimmen (inkorten) van de data, en is vooral handig wanneer een verdeling ‘zware staarten’ heeft, ofwel veel scores in de staarten. Bij meerdere groepen, trim je elke groep op dezelfde wijze. Het trimmen gebeurt door een bepaald percentage aan beide uiteinden te verwijderen.

Bij een Winsorized steekproef worden de scores ook getrimd, maar worden de weggehaalde scores vervangen door de dan overblijvende extreemste score. Dus wanneer uitschieters 3 en 7 weg worden gehaald, en de volgende score is een 10, dan worden de 3 en 7 vervangen door twee keer een 10. Als er vier scores verwijderd en vervangen zijn, wordt er gewerkt met N-1-4 vrijheidsgraden.

Wanneer transformaties gebruiken?

Transformaties zijn nuttig bij sterk van normaal afwijkende verdelingen en bij heterogene varianties. Daarnaast zijn ze toegestaan om de variantie of vorm aan te passen. Transformaties moeten wel gekozen worden voordat de statistische test uitgevoerd wordt, in plaats van daarna. Transformaties kunnen ook gebruikt worden bij negatief scheve verdelingen, maar dan moet de data eerste vermenigvuldigd worden met -1 en moet er een constante worden toegevoegd of afgetrokken.

Wat is het verschil tussen fixed en random modellen?

Bij het onderzoeken van behandelingseffecten, is het soms van belang om te kijken naar het soort model waar mee gewerkt wordt. Bij een fixed-model ANOVA worden de behandelniveaus, of behandelgroepen, zorgvuldig geselecteerd en blijven deze gelijk wanneer het experiment wordt herhaald. Bij een random model worden de behandelniveaus door een willekeurig proces verkregen, en variëren deze dus per herhaling.

Effectgrootte

Net als bij de andere statistische testen hebben we aan alleen een significant resultaat niet genoeg. We moeten ook weten of de resultaten in praktische zin van belang zijn. In het geval van de F statistiek is de r- familie van effectgroottes geschikt. In het geval van de ANOVA representeert de effectgrootte hoeveel van de variatie in de afhankelijke variabele kan worden toegeschreven aan een behandeleffect (de grootte van het experimentele effect). Twee van de meest voorkomende statistieken zijn η² en ω².

Eta-kwadraat η²

Dit is de simpelste meting van het effect. SSbehandeling is een maat voor hoeveel van de observatieverschillen door de verschillende behandelingen tot stand komen. SS_totaal is de maat voor de verschillen in de complete dataset. Deze twee SS’s gedeeld door elkaar geven een percentage van de variatie door de behandeling:

• η² = SS_behandeling / SS_totaal

Deze statistiek heet eta-kwadraat, maar wordt ook wel correlatie ratio genoemd. Wanneer de sum of squares niet bekend zijn, kan eta-kwadraat ook anders uitgerekend worden:

• η² = 1 / (1+ (df_error / (F x df_behandeling)))

Er kan ook gekeken worden naar percentage reductie in error (PRE). SS_totaal geeft de variabiliteit van alle observaties, zonder te kijken naar groepslidmaatschap. SS_error geeft de variatie binnen groepen. Het verschil hier tussen is SS_behandeling. Dus SS_behandeling/SS_totaal geeft aan hoeveel de voorspellingserror verminderd is door groepslidmaatschap mee te nemen.

η² gaat er vanuit dat de regressielijn door de gemiddelden van elke groep gaat. Dit is echter niet zo, waardoor de metingen biased zullen zijn. η² is de effectgrootte met de meeste bias. Het is echter goed te gebruiken bij het maken van statements over een bepaalde data set of om een idee te krijgen van de effectgrootte. Het resultaat η² begint steeds meer op andere metingen te lijken als de steekproeven groter worden.

Omega-kwadraat ω²

Omega-kwadraat ω²

Wortel-gemiddelde-gekwadrateerde gestandaardiseerde effect (RMSSE)

Hierbij wordt gebruik gemaakt van de d-familie van effectgrootte.

\[d=\sqrt{\frac{1}{k-1}\sum(\frac{\mu_j-\mu}{\sigma})^2}\]

Voor elke groep wordt het verschil genomen tussen het gemiddelde en het grote gemiddelde, waarna dit wordt gedeeld door de standaarddeviatie. Dit heet het gestandaardiseerde effect. Vervolgens wordt dit gekwadrateerd en gemiddeld over alle groepen. Dit geeft het gemiddelde gekwadrateerde gestandaardiseerde effect. Doordat hier de wortel van genomen wordt heet het dus het ‘wortel-gemiddelde-gekwadrateerde gestandaardiseerde effect’.

Hoe wordt de power van een ANOVA berekend?

De berekening van de power van een ANOVA lijkt sterk op die bij een t test, alleen is de notatie anders. Net als bij t wordt de statistiek phi prime (φ’) berekent, waaruit vervolgens phi (φ) voortkomt. Hierna wordt power opgezocht in de noncentrale F verdeling.

Stel dat we data verzamelen op de activiteit van ratten, na het injecteren van een bepaalde hoeveelheid medicijn. We hebben vijf groepen ratten, die elk een verschillende hoeveelheid van het medicijn ingespoten krijgen. Door middel van resampling verkrijgen we een steekproefverdeling: we trekken uit de vijf groepen ratten herhaaldelijk een steekproef en berekenen telkens de F statistiek. Wanneer we dit 10.000 keer hebben gedaan, kijken we hoe vaak de F de kritieke waarde overschrijdt. Dit is de definitie van power.

Tegenwoordig hebben statistische programma’s een optie voor het berekenen van power. Meerdere websites hebben (gratis) power calculators.

\[\frac{E(MS_{behandeling})}{E(MS_{error})}=\frac{\frac{\sigma^2_e+n\sum{\tau^2_j}}{k-1}}{\sigma^2_e}\]

Als H0 onjuist is, wordt de ratio:

\[\frac{E(MS_{behandeling})}{E(MS_{error})}=1+\frac{\frac{n\sum{\tau^2_j}}{(k-1)}}{\sigma^2_e}=1+\frac{\lambda}{k-1}\]

• waarbij

\[\lambda=\frac{n\sum{\tau^2_j}}{\sigma^2_e}\]

• Deze statistiek heet lambda of noncentraliteitsparameter.

De effectgrootte wordt gegeven met:

\[\varphi'=f=\sqrt{\frac{\frac{\sum{a^2_j}}{k}}{MS_{error}}}\]

In dit hoofdstuk wordt de ANOVA besproken bij twee of meer onafhankelijke variabelen, ook wel factoren. Stel dat we een onderzoek doen naar het terughalen van informatie uit het geheugen. We laten mensen een lijst woorden leren op verschillende manieren van het tellen van het aantal letters in het woord tot het verbeelden van het woord. De eerste onafhankelijke variabele is dus de Onthoud Conditie. Daarnaast willen we weten of leeftijd invloed heeft op het terughalen van informatie, dit maakt de tweede variabele. Het experiment heeft nu een two-way factoriaal design (‘two’ voor het aantal onafhankelijke variabelen).

Elke combinatie van niveaus van de twee variabelen heet een cel. Xijk geeft aan dat het gaat om een X-waarde uit de i-de rij en de j-de kolom, als k-de observatie in de ij-de cel.

Een factoriaal design heeft twee of meer onafhankelijke variabelen, waarbij elk niveau van elke variabele aan elkaar gekoppeld is. Als we dus vijf Onthoud Condities hebben en twee Leeftijden (jong/oud), dan hebben we tien verschillende groepen participanten. Daarom wordt het design ook wel, in dit geval, 2 x 5 factoriaal genoemd. Designs worden ook wel genoemd naar het aantal onafhankelijke variabelen, dus bij twee variabelen: two-way factorial. Wanneer dezelfde participanten in meerdere groepen deelnemen is er sprake van een repeated-measures design.

Het voordeel van een factoriaal design is dat de resultaten breder en nauwkeuriger te interpreteren zijn: we kunnen in het voorbeeld ook het effect van leeftijd onderzoeken op het terughalen van informatie. Terwijl we ook over de variabelen apart nuttige dingen kunnen zeggen. Daarnaast geven factoriele designs de kans om de interactie van variabelen te onderzoeken. We kunnen kijken of jongere participanten meer verschillen in resultaten tussen de Onthoud Condities dan de oudere participanten bijvoorbeeld. Ook zijn er minder participanten nodig.

Voorbeeld

We gaan verder met het voorbeeldonderzoek naar het terughalen van woorden uit het geheugen. We voeren het onderzoek uit en plotten de gemiddelde scores per participant in een tabel. Eén manier om naar de data te kijken, is puur te kijken naar de gemiddelde score van de jonge groep (ongeacht conditie) versus de oude groep. Dit is het algemene effect van leeftijd. Daartegenover kunnen we alleen kijken naar de gemiddelden van de vijf condities, en leeftijd negeren. Dit is het algemene effect van Conditie.

Wat ook kan, is het onderzoeken van de verschillende niveaus van één factor, op slechts één niveau van de andere factor. Bijvoorbeeld door het vergelijken van jongeren en ouderen op de Tel Onthoud Conditie. Dit heet een simpel effect of soms een conditioneel effect.

Welke berekeningen zijn belangrijk?

Voor veel van de calculaties worden de formules gebruikt zoals bij de one-way ANOVA in de vorige hoofdstukken. SS_totaal is weer gelijk aan de gekwadrateerde som van alle verschillen tussen de individuele scores en het totaalgemiddelde:

\[SS_{totaal}=\sum(\bar{X}-X)^2\]

Daarnaast berekenen we een SS voor beide factoren (leeftijd L en Conditie C). Elke factor apart is eigenlijk gelijk aan de SS_behandeling die we bij een one-way ANOVA berekenen. In de formule vermenigvuldigen we met n participanten per groep (dus 10 in dit geval) over c niveaus van de andere variabele (dus voor SS_A geldt: 10 x 5).

\[SS_L=nc\sum(\bar{X_i}-X)^2\]

De laatste term is een maat voor de variatie van individuele cellen in de overzichtstabel: SS_cellen. Voor elke cel is er een gemiddelde, waarvan we het verschil met het totaalgemiddelde berekenen. Dit wordt gekwadrateerd en opgeteld. Vervolgens vermenigvuldigd met n observaties per groep.

\[SS_{cellen}=n\sum(\bar{X_{ij}}-X)^2\]

SS_cellen vertelt ons hoeveel de celgemiddelden verschillen. Dit kan op drie manieren: (1) ze komen van verschillende niveaus van leeftijd, (2) ze komen van verschillende niveaus van conditie, of (3) er is een interactie tussen leeftijd en conditie. SS_L vertelt ons hoeveel van dit verschil door verschillen in leeftijd komt, en SS_C vertelt ons hoeveel van dit verschil door verschillen in conditie komt. Het overige komt door het interactie-effect.

• SS_LC = SS_cellen - S_L - S_C

Nu moeten we SS_error berekenen. Hierbij geldt:

• SS_error = SS_totaal – (SS_L + SS_C + SS_LC). Dit is hetzelfde als SS_error = SS_totaal - SS­_cellen

Voor de vrijheidsgraden geldt:

• df_totaal = N – 1 (met N het totaal aantal participanten)
• df_L en df_C = aantal niveaus – 1
• df_LC = df_L x df_C
• df_error = df_totaal- df_LC - df_L – df_C of ac(n - 1), omdat elke cel n-1 df heeft en er ac cellen zijn

Daarna berekenen we de MS door elke SS te delen door de bijbehorende df.

Om F te berekenen, delen we elke MS door MS_error. Zowel de factoren Leeftijd en Conditie apart, als hun interactie, krijgen dus een F score.

Interpretatie

Uit het onderzoek komen alle drie de F scores significant. Het hoofdeffect van leeftijd is dat jongere participanten meer woorden onthouden dan oudere participanten. Het hoofdeffect van conditie is dat de taken met meer verwerkingsdiepte leiden tot het onthouden van meer woorden dan de taken met minder verwerkingsdiepte.

Een significant interactie-effect houdt in, dat het effect van de ene variabele afhangt van het niveau van de andere variabele. Dus, jongere participanten deden het een stuk beter bij de moeilijkere verwerktaken, maar ongeveer even goed bij de makkelijke taken, zoals het rijmen, als de oudere participanten. Wanneer we Conditie plotten in een grafiek, en een aparte lijn maken per leeftijd, dan zien we de interactie in het feit dat de lijnen niet parallel lopen. Let op: wanneer de lijnen grillig lopen, maar wel parallel aan elkaar, dus in hetzelfde patroon, is er dus géén interactie.

Het model

De formule voor het two-way design is een uitbreiding op die van de one-way:

\[X_{ijk}=\mu+\alpha_i+\beta_j+\alpha\beta_{ij}+e_{ijk}\]

• X_ijk = een enkele score
• μ = het totaalgemiddelde
• α_i = het effect van Factor A_i = μ_Ai – μ
• β_j = het effect van Factor B_j = μ_Bj – μ
• αβ_ij = het interactie-effect van Factor A_i en Factor B_j
• e_ijk = eenheid van error van observatie X_ijk
• N(0, σ²_e)

Wanneer wordt het simpele effect berekend?

Wanneer significante interacties zijn gevonden, kan het belangrijk zijn om de data verder te analyseren: welke niveaus van de variabelen zorgen voor verschillende scores? Hiervoor is het simpele effect te berekenen. Reken altijd alleen de simpele effecten uit waarin je geïnteresseerd bent. Bij teveel simpele effecten, wort de familie error rate te hoog of verlies je power.

Voor de SS gebruiken we de eerdere formule voor de factor, maar met een kleine aanpassing in het weglaten van het aantal niveaus van de andere factor, bijvoorbeeld:

SSC bij Oude groep = Σ(X_1j - X₁)², waarbij we de data gebruiken van de oude participanten

De vrijheidsgraden vinden we door het aantal niveaus per factor -1 (dus bij Leeftijd 2-1 = 1).

De MS vinden we weer door SS/df.

Met deze informatie is de F te berekenen voor elke mogelijke combinatie in de interactie apart. Conditie is te koppelen aan Jonge, en Oude mensen, en Leeftijd is te koppelen aan vijf verschillende condities (zie Tabel 16 als voorbeeld).

Tabel 16

Als we kijken naar het effect van leeftijd, dan zien we dat leeftijdsverschillen niet voorkomen bij de lagere niveau taken zoals tellen en rijmen, maar wel bij de hogere niveaus.

Voorbeeld

Het volgende voorbeeld behandelt de variantieanalyse met computerberekeningen. Onderzoekers waren geïnteresseerd in de invloed van roken op prestatie. Ze lieten participanten één van drie taken doen (een doelwit zoeken, een stuk tekst onthouden en een rijvaardigheidsspelletje). De afhankelijke variabele is het aantal fouten dat de participant maakt. Er waren drie groepen gebaseerd op rookgedrag: Actief roken (tijdens of net voor de taak), Rokers die tot 3 uur voor de taak niet hadden gerookt, en Niet rokers. Uit de SPSS output zijn de volgende termen belangrijk om te noemen.

De regel ‘corrected model’ in de output is de som van de algemene effecten en de interactie, en is significant in dit geval (p = .000). ‘Intercept’ is een test op het grote gemiddelde en sinds deze significant is, zegt dit dat het grote gemiddelde verschilt van 0,00. ‘Corrected total’ noemen wij normaal totaal en ‘Total’ is ∑X²/N. Zowel de algemene effecten voor Taak en Rookgroep zijn significant, alsook de interactie tussen Taak x Rookgroep.

Simpel effect

Om te achterhalen welke gemiddelden significant van elkaar verschillen kunnen de testen uitgevoerd worden die in hoofdstuk 12 genoemd zijn, zoals lineaire contrasten en Bonferroni t-toets.

Stel dat we specifiek willen weten wat het effect is van roken op de cognitieve (onthoud) taak. We willen de actieve rokers en de niet rokers vergelijken. In SPSS kiezen we om alleen naar de data van de cognitieve taak te kijken door Data/Select Cases. Met Compare Means/One-way ANOVA krijgen we de uitslag. De F is significant: actieve rokers doen het minder goed op de test dan niet rokers.

Hoe wordt de power van een factoriaal design berekent?

De berekening van de power van een factoriaal design is in feite hetzelfde als bij de one-way designs. Nu hebben we echter meer dan één onafhankelijke variabele, waarbij we het effect berekenen van elke variabele apart:

\[\varphi'\alpha=\sqrt{\frac{\sum{\alpha^2_j}}{a\sigma^2_e}}\]

\[\varphi\alpha=\varphi'\alpha\sqrt{nb}\]

Voor behandeling Bj, worden de α’s vervangen door β’s.

Voor het interactie-effect van beide variabelen geldt:

\[\varphi'\alpha\beta=\sqrt{\frac{\sum{\alpha\beta^2_{ij}}}{ab\sigma^2_e}}\]

\[\varphi\alpha\beta=\varphi'\alpha\beta\sqrt{n}\]

waar αβ_ij = μ – μ_i. – μ_j. + μ_ij. μ_i. is het parametrisch gemiddelde van Variabele A (over alle niveaus van B) en μ.j van Variabele B over alle niveaus van A.

Zie Tabel 17 voor fictieve resultaten van de rookstudie. De gemiddelden van alle groepen staan genoemd, alsook de parametrische gemiddelden.

Tabel 17

De power is in dit geval .295.

Als extra factoren of variabelen variantie verklaren, die normaal onder de error variantie valt, heeft een factorieel design meer power. Als er random factoren aan een model met fixed factoren worden toegevoegd, kan dit ten koste gaan van power.

Welke andere experimentele designs zijn er?

Tot nu toe hebben we de traditionele benadering van het vergelijken van gemiddelden gevolgd. Een onderzoeker kiest een paar niveaus van elke onafhankelijke variabele, en kruist die met elkaar.

Soms wijken onderzoekers af van deze traditionele aanpak. Zo worden onafhankelijke variabelen soms willekeurig genomen (zoals Klas als factor gebruiken), waardoor we een willekeurige factor krijgen. Willekeurige factoren gaan vaak samen met een nested design, waarbij één onafhankelijke variabele genesteld ligt in de ander. Als we Klas als factor gebruiken, maar bij het trekken van de steekproef tien klassen uit district A en tien uit district B gebruiken, dan zit eigenlijk binnen de Klas variabele nog een variabele genesteld. Dit heet een nested design.

In het volgende stuk worden enkele afwijkende designs behandeld, telkens met dezelfde data maar met andere namen waar nodig.

Elke statistische test interpreteert de F-toets op de volgende manier: ‘stel de nulhypothese is juist en het experiment is 10.000 keer herhaald, hoe vaak zal de F-waarde zo extreem zijn als in dit experiment?’ Een fixed effect design is een design waarin de niveaus van de onafhankelijek variabele vast zijn en hetzelfde zijn van de ene replicatie naar de ander. De enige term in de formule voor dit model die verandert, is de error eijk.

\[X_{ijk}=\mu+\alpha_i+\beta_j+\alpha\beta_{ij}+e_{ijk}\]

Gekruist design met fixed variabelen

Het originele voorbeeld dat we hier gebruiken, van het effect van onthoud-methode op het terughalen van informatie, is een gekruist experimenteel design met fixed factoren. Elk niveau van de ene onafhankelijke variabele wordt gekoppeld met elk niveau van de andere (in dit geval leeftijd en onthoud-conditie). Deze niveaus zijn fixed omdat we deze expres gekozen hebben.

Gekruist design met random variabele

Soms zullen we een ontwerp hebben met een fixed factor en een willekeurige of random factor. Stel dat we willen testen of mensen sneller hoofdletters dan kleine letters herkennen. De lettergrootte is een fixed factor. Door een steekproef uit het alfabet selecteren we vijf letters die we gebruiken in het experiment (A, G, D, K, W). Deze variabele ‘letters’ is een random factor.

Omdat één van de factoren willekeurig is, zullen we bij een herhaling van het experiment andere letters selecteren en zullen de F waardes dus ook verschillen op basis van de letters die we selecteren. Een belangrijk feit hierbij is, dat het hebben van een random effect de test voor het fixed effect (in dit geval: Lettergrootte) verandert.

Om te laten zien welk effect random factoren hebben, moeten we kijken naar de verwachte mean squares. Deze worden weergegeven in tabel 18:

Bij een fixed en een random variabele wordt de F test voor de fixed variabele:

• Voor random variabele: E(F) = E(MS_b/MS_error) = (σ²_e + nbσ²_β)/ σ²_e
• Voor interactie effect: E(F) = E(MS_AB/MS_error) = (σ²_e + nσ²_αβ)/ σ²_e
• Voor fixed variabele: E(F) = MS_A/MS_AB = E(σ²_e + nσ²_αβ + nbσ²_α)/( σ²_e + nσ²_αβ)

Nested designs

Stel dat we willen onderzoeken of vrouwelijke studenten van een universiteit betere therapeuten zijn dan mannelijke studenten. De faculteit trekt een steekproef uit alle afgestudeerden van dat jaar (n = 10) en splitst ze op basis van geslacht. Dan laten we elk met tien cliënten werken en we kijken naar behandeleffectiviteit. Het Geslacht is in dit geval een fixed variabele, omdat we hier expres naar kijken. We noemen Therapeut een random factor omdat we willekeurig een steekproef hebben getrokken. Daarnaast is Therapeut een nested factor omdat dit niet af te splitsen is van Geslacht: Marie wordt nooit een mannelijk therapeut en Bob nooit een vrouwelijke, ze zijn dus niet te kruisen.

De variabiliteit in F is afhankelijk van random error en afhankelijk van welke therapeuten uit de steekproef komen. Omdat het om een nested design gaat, kunnen  we geen interactie-effect berekenen. Het effect voor Geslacht wordt op de normale manier te berekenen, maar voor de variabele Therapeut kunnen we alleen verschillen tussen therapeuten binnen vrouwen en binnen mannen berekenen. De notatie hiervoor is ‘Therapeut binnen Geslacht’ of Therapeut(Geslacht). De formule is:

\[X_{ijk}=\mu+\alpha_i+\beta_{j(i)}+e_{ijk}\]

• waarbij we met β_j(i)aangeven dat Therapeut in Geslacht ligt

Voor het berekenen van de effecten in een nested design, zijn de meeste berekeningen voor de hand liggend. De SS_geslacht is weer de gekwadrateerde afwijkingen voor elk geslacht, keer het aantal observaties per geslacht. Voor het Geneste effect nemen we het simpele effect van therapeuten voor mannen en vrouwen apart, en tellen die effecten op:

• SS_{therapeut(geslacht)} = SS­_{therapeut(man)} + SS_{therapeut(vrouw)}

Voor de error berekenen we de SS_error voor elke Therapeut/Geslacht cel en tellen deze op.

Voor de berekening van F geldt, bij een nested design met een random variabele binnen een fixed variabele, dat er twee error termen gebruikt worden. Error₁ voor Geslacht en Error₂ voor Therapeut(Geslacht). Error1 is gelijk aan Therapeut(Geslacht).

Door het gebruik van een random factor is de power enorm afgenomen. De power is afhankelijk van het aantal participanten en het aantal niveaus van een random variabele.

Hoe wordt de effectgrootte van de gehele ANOVA berekent?

Voor het berekenen van een effect van de gehele ANOVA (de totale F), gebruiken we een r-familie meting. Voor een contrast tussen gemiddelden is een d meting handiger.

r-familie

Voor de η² van variabele A geldt: SS_A/SS_totaal. Voor het interactie-effect tussen A en B geldt: SS_AB/SS_totaal. Deze maat van het effect is vrij slecht, omdat hij niet goed het ware effect in de populatie weergeeft. Een betere statistiek is ω². De formule hiervan is hetzelfde voor de fixed en random variabelen, alleen de componenten in de formule worden anders berekend.

σ²_totaal is de som van alle variantiebronnen (A, B, AB en error) en σ²_effect s de variantie voor het effect van de onafhankelijke variabele waarin we geïnteresseerd zijn, bijvoorbeeld A: σ²_a

\[\omega^2_{\alpha}=\frac{\sigma^2_a}{\sigma^2_{totaal}}=\frac{\sigma^2_a}{(\sigma^2_a+\sigma^2_{\beta}+\sigma^2_{a\beta}+\sigma^2_e)}\]

\[\sigma^2_a=\frac{(a-1)(MS_A-MS_{AB})}{nab}\]

Partieel effect

Een betere maat van het effect is het partieel effect (partieel ω²), waarbij we het effect van de factor berekenen op basis van een deel van de variatie (zoals roken plus error) in plaats van de totale variatie SS_totaal.

• partieel ω² = σ²_effect / (σ²_effect + σ²_e)

d-familie

Bij het bekijken van individuele groepen of sets van groepen is de d-familie beter te gebruiken. De d berekening wordt vrij gecompliceerd wanneer steekproefgroottes ongelijk zijn (ongebalanceerd design). Hier wordt alleen een gebalanceerd design besproken met gelijke aantallen in de steekproef.

\[d=\frac{\hat{\Psi}}{s}\]

• waarbij d het verschil tussen de groepen geeft in standaarddeviaties. De ‘hoedjes’ geven aan dat het schattingen zijn met gebruik van de steekproefdata.

We gaan terug naar het voorbeeld van het Terughalen van informatie (een aantal woorden), bij Jongere en Oudere mensen en middels verschillende Onthoud Condities. Stel dat we geïnteresseerd zijn in het verschil tussen de ‘makkelijkere’ onthoud-methodes Tellen en Rijmen, versus de moeilijkere Adjectief (bijvoeglijk naamwoord) en Verbeelden.

Voor het contrast maken we de coëfficiënten:

\[\Psi=(\frac{1}{2})(Gem_{tellen})+(-\frac{1}{2})(Gem_{rijmen})+(\frac{1}{2})(Gem_{adjectief})+(\frac{1}{2})(Gem_{verbeelden})+(0)(Gem_{intentie})\]

Hierover kan vervolgens ook de t-waarde berekend worden. In de formule voor de effectgrootte komt de error term voor. Bij een normale one-way ANOVA op de Conditie variabele zou de term alleen de SSerror bevatten, maar de variabele leeftijd zal de scores beïnvloeden en hiervoor moeten we in de formule een aanpassing maken. Daarom brengen we SS_leeftijd en SS_{leeftijd∙conditie} ook in de formule (en wanneer we het effect van leeftijd onderzoeken, zullen we daartegenover rekening moeten houden met conditie).

\[s_{error}=\sqrt{\frac{SS_{error}+SS_{Leeftijd}+SS_{L\times C}}{df_{error}+df_{Leeftijd}+df_{L\times C}}}\]

Vervolgens kan de effectgrootte (d-waarde) berekend worden.

Bij simpele effecten gebruiken we dezelfde berekeningen als hierboven. De error term s is die van het bijbehorende algemene effect.

Hoe is de rapportage van de bevindingen opgebouwd?

De rapportage van bevindingen van het onderzoek zou de volgende uitspraken kunnen bevatten:

• Er was een significant Leeftijd effect (F(1,88)= 30.01, p < .05, ω² = .065), waarbij jongere participanten meer items onthielden dan oudere.
• Er was ook een significant Conditie effect (F(4,90)= 45.13, p < .05, ω² = .544), en inspectie van de gemiddelden toonde dat er meer items onthouden werden wanneer de verwerking dieper was.
• Ook de Leeftijd bij Conditie was significant (F(4,90)= 5.66, p < .05, ω² = .06), met een sterker effect voor conditie bij jongere participanten.
• Een contrast van de lagere niveaus van verwerking versus de hogere niveaus toonde een statistisch significant effect met betere resultaten voor hogere niveaus (t (90) = 7.98, p < .05). Dit correspondeert met een effectgrootte van d = 2.05, wat aanduidt dat participanten met hogere niveaus van verwerking gemiddeld twee standaarddeviaties hoger scoren. Dit effect wordt nog groter wanneer we alleen kijken naar de jongere participanten d = 2.55.

Wat is de procedure bij ongelijke steekproefgroottes?

Eerder is al uitgelegd hoe we bij een one-way ANOVA kunnen corrigeren voor ongelijke steekproefgroottes. Bij meer complexe designs is de oplossing niet zo simpel. De rijen, kolommen en interactie effecten zijn niet meer onafhankelijk, waardoor de interpretatie bemoeilijkt wordt. De meest redelijke en algemene aanpak voor het corrigeren van ongelijke steekproefgroottes maakt gebruik van een computer berekening (zoals in SPSS).

Welke hogere orde factoriale designs zijn er?

In dit hoofdstuk is het factoriale design uitgelegd voor een design met twee factoren. Het design is echter ook vaak te gebruiken bij drie of meer factoren. De berekeningen zijn grofweg hetzelfde, het grote verschil zit in de aanwezigheid van meer dan één interactie-term. Neem de formule voor een design met drie factoren:

\[X_{ijkl}=\mu+\alpha_i+\beta_j+\gamma_k+\alpha\beta_{ij}+\alpha\gamma_{ik}+\beta\gamma_{jk}+\alpha\beta\gamma_{ijk}+e_{ijkl}\]

We zien hierbij twee soorten interactie-termen. De αβ_ij, αγ_ik en βγ_jk termen zijn eerste-orde interacties. Een tweede-orde interactie is de term αβγ_ijk, die de drie variabelen samen neemt. Dit is in feite de interactie tussen AB op verschillende niveaus van C of AC en B of BC en A.

Om de sum of squares van de interacties te verkrijgen wordt eigenlijk hetzelfde gedaan als bij een two-way design.  Voor SS_BC nemen we de BxC cel gemiddelden, verkrijgen SS_cellenBC, en trekken hier de hoofdeffecten van B en C af. Ditzelfde geldt voor SS_AB en SS_AC. Voor SS_ABC kijken we naar de AxBxC cel gemiddelden, verkrijgen we SS_cellenABC en tekken de hoofdeffecten en lagere-orde interacties eraf voor SS_ABC.

Voorbeeld

We onderzoeken de rijvaardigheid van onervaren (A1) en ervaren (A2) mensen. Deze mensen rijden op drie typen wegen: eerste klas (B1), tweede klas (B­2) en derde klas (B3), en overdag (C1) of ’s nachts (C2). We hebben een 2 x 3 x 2 factoriaal design.

Elke conditie krijgt vier participanten (in totaal 48 participanten), en we meten rijvaardigheid met het aantal stuurcorrecties over één kilometer.

De berekeningen voor de algemene effecten zijn hetzelfde als bij een one-way ANOVA. Voor de eerste-orde interacties gelden de berekeningen als uitgelegd in de two-way ANOVA. Een nieuwe berekening is die van de tweede-orde interactie. Hiervoor moet eerst SS_celABC berekend worden, wat de totale variatie is in cel gemiddelden in het hele design. Daarvan moet vervolgens de variatie worden afgetrokken die door de algemene effecten en de eerste-orde interacties wordt veroorzaakt. Dan blijft vanzelf de variatie over die alleen door het gedeelde effect van alle drie de variabelen is veroorzaakt: SS_ABC.

• SS_error is vervolgens makkelijk te berekenen door SS_totaal – SS_ABC.

Uit de berekeningen komt een significant resultaat naar voren van alle hoofdeffecten en de interactie AC. Hiervoor kunnen we vervolgens dieper naar de verschillen gaan kijken (Howell, 2013: 450). Een plot van variabele C op de X-as, aantal stuurcorrecties op de Y-as en voor A₁ en A₂ in de grafiek laat zien, dat de onervaren bestuurder veel meer stuurcorrecties maakt wanneer er ’s nachts gereden wordt in vergelijking met overdag. Er is weinig verschil bij de ervaren bestuurder (een vrijwel horizontale lijn). Wellicht is er alleen een significant simpel effect van C bij onervaren bestuurders. Hiervoor berekenen we SSc voor A₁ en A₂ apart, en vervolgens voor beide A’s een aparte F. Uiteindelijk blijken de simpele effecten voor zowel onervaren als ervaren bestuurders significant: beide groepen bestuurders rijden significant slechter in het donker.

Het simpele interactie effect is het effect van de interactie tussen twee variabelen bij individuele niveaus van de derde variabele.

In dit hoofdstuk hebben we de situatie waarbij we één criterium variabele Y hebben, en meerdere predictors (voorspellers) X1, X2, etc., en we willen Y voorspellen op basis van alle predictors. Vanwege de uitgebreide berekeningen wordt in het hoofdstuk vooral ingegaan op de computer-analyses.

Wat is multipele lineaire regressie?

Bij multipele regressie willen we bijvoorbeeld de prestatie van leerlingen op een masteropleiding voorspellen aan de hand van hun gemiddelde in de bachelor (X1), het aantal vakken dat ze hebben gevolgd in de bachelor (X2) en de kwaliteit van hun cv (X3). Vaak kijken we naar de relatie tussen variabelen en niet naar de voorspelling via de regressievergelijking.

De multipele regressieformule is:

\[\hat{Y}=b_0+b_1X_1+b_2X_2+...+b_pX_p\]

waarbij b₀ de intercept is en b1 en b2 regressie coëfficiënten voor de voorspellers X1 en X2. We proberen nog steeds

\[\sum(Y-\bar{Y})^2\]

zo klein mogelijk te houden, zodat de voorspelde waarde zo dicht mogelijk bij de ware waarden van Y liggen.

Voorbeeld

Als voorbeeld kijken we naar een studie over de kwaliteit van primair en secundair onderwijs, en hoe we die kunnen verbeteren. Een onderzoeker verzamelde data van 50 staten in de VS, waaronder de hoeveelheid geld die aan onderwijs werd besteed, de student/leraar ratio, het salaris van de leraar, het percentage studenten dat meedeed aan de SAT examens, en de gecombineerde SAT score. Het percentage studenten die de ACT heeft gedaan en de gemiddelde ACT score kunnen hier nog aan worden toegevoegd. We zijn geïnteresseerd in de kwaliteit van het onderwijs, dus we kijken naar de prestatie op de SAT (een schooltest).

Een eerste stap is het plotten van de data, om te controleren voor een normale verdeling. Dit doen we met histogrammen, qqplots en scatterplots. Hierin is zichtbaar dat de variabelen niet normaal verdeeld zijn. De criterium variabele en drie voorspellers zijn redelijk normaal verdeeld, terwijl de verdeling van het percentage studenten die de SAT’s gemaakt heeft bimodaal verdeeld is. De relatie tussen PctSAT en SAT is curvilineair, maar kan met een loge transformatie meer lineair gemaakt worden.

Daarna kunnen relaties tussen de verschillende predictors en SAT prestatie berekend worden, door middel van een Pearson correlatie. We gaan ervanuit dat als er meer geld aan onderwijs besteed wordt, de uitkomst van de SAT beter is. Hieruit blijkt dat uitgaven aan onderwijs in een staat en de prestatie op de SAT negatief samenhangen

(r = -.381, p = .006) en deze correlatie is significant. Dit zou betekenen dat hoe meer we uitgeven aan onderwijs, hoe slechter de kinderen presteren. Niet wat je zou verwachten dus. Een verklaring hiervoor is dat niet alle universiteiten geïnteresseerd zijn in de SAT score, en in sommige staten slechts een klein percentage de SAT test krijgt. De topuniversiteiten die de SAT wel afnemen nemen alleen de beste studenten aan. Daardoor varieert het percentage studenten die de SAT’s maakt enorm tussen de staten. In de staten waar weinig studenten de SAT’s doen, zal dit waarschijnlijk zijn omdat zij naar de beste scholen toe willen en dus beter presteren. Wat hier gebeurt, is dat het percentage studenten dat in een staat meedoet aan de SAT, de gemiddelde score beïnvloedt.

Een volgende stap is daarom te kijken wat de relatie is tussen uitgaven aan onderwijs en prestatie op de SAT, wanneer we controleren voor het percentage deelnemers aan de SAT (PercSAT). In feite brengen we nu twee predictors tegelijkertijd bij de SAT score. Wat we daarbij doen, is de relatie tussen uitgaven en SAT scores bekijken bij een constante PercSAT. Dit gebeurt door middel van SPSS: we laten SPSS berekenen wat de gemiddelde correlatie is van uitgave en SAT score per waarde van PercSAT (dus bij 40%, 50%, etc.). Met de werkelijke data is dit niet te doen, want we hebben maar 50 staten. SPSS maakt de berekeningen op basis van een hypothetische populatie aan staten van vele duizenden staten.

De analyse

Wanneer we de analyse uitvoeren, zien we het verschil tussen één predictor en beide predictors tegelijkertijd (Tabel 21). Bij alleen uitgaven als predictor is de correlatie met SAT score -.381. Wanneer PercSAT erbij komt, wordt de correlatie .941 (zie tabel Model samenvatting).

Tabel 21: Model samenvatting

Zoals in de tabel te zien, worden de correlaties positief weergegeven. Dat is altijd het geval bij multipele regressie, terwijl de simpele Pearson correlatie positief en negatief kan zijn. De R kwadraat kolom geeft aan hoeveel variatie van de SAT scores verklaard is door de voorspeller(s). Bij Model 1 verklaren we 14,5% van de variatie in SAT scores met alleen uitgave als predictor. De aangepaste R2 is een schatting van de gekwadrateerde correlatie in de populatie.

Waar komt ANOVA kijken?

In de tabel ANOVA wordt de significantie van de regressie getest. We toetsen of de multipele correlatiecoëfficiënt significant verschilt van nul. Bij Model 1, met een correlatie van -.381, hoort een F van 8.13. De kans dat we een correlatie krijgen die zo hoog is, terwijl de nulhypothese eigenlijk waar is, is slechts .006. We mogen de nulhypothese dus verwerpen.

Bij Model 2 zijn twee predictors in het spel. De tabel ANOVA geeft aan of de multipele correlatie van beide voorspellers significant verschilt van nul. De overschrijdingskans is .000, dus de correlatie is significant. Als laatste kunnen we ook nog vragen of de predictors apart significant bijdragen aan de relatie (zie Tabel 21).

Tabel 22: Coëfficiënten

Uit Tabel 22 kunnen we de coëfficiënten afleiden van de multipele regressieformule. Voor Model 2 vinden we dat de coëfficiënt voor uitgaven 11.13 is, en voor PercSAT -78.20. Het intercept b0 is de constante 1147.10. Dit geeft de volgende regressievergelijking:

\[\hat{Y}=1147.10+11.13(Uitgave)-78.20(PercSAT)\]

Deze vergelijking kan ingevuld om de gemiddelde SAT score in een staat te voorspellen. Deze voorspelde score kan afwijken van het werkelijke gemiddelde. Deze afwijking heet de residuele error.

Vergelijk Model 1 met Model 2: nu we gecontroleerd hebben voor PercSAT is de relatie tussen uitgaven en prestatie ineens positief geworden (een positieve coëfficiënt): hoe meer er uit gegeven wordt aan onderwijs, hoe hoger de SAT score. Uit de kolom ‘Sig.’ kunnen we afleiden dat beide predictors significant bijdragen aan de relatie.

Een andere interpretatie

De verschillen in SAT komen deels door verschillen in Uitgave en deels door verschillen in PercSAT. We willen de verschillen in SAT en Uitgave, die door PercSAT komen, elimineren, en vervolgens deze nieuwe variabelen correleren. Wat je kan doen is de voorspelde waarden krijgen bij het voorspellen van Uitgave uit PercSAT. Deze scores trek je af van de ware scores. Het overige zijn residuen (ResidUitgave), die onafhankelijk zijn van PercSAT. Hetzelfde kan je doen voor de SAT scores, wat ResidSAT geeft, onafhankelijk van PercSAT. Deze aangepaste variabelen kunnen in een regressieanalyse geanalyseerd worden. De correlatie tussen deze aangepaste variabelen is .445.

Een andere optie is de voorspelde SAT scores berekenen. Deze noemen we VoorspSAT. Vervolgens bekijken we de correlatie tussen de voorspelde SAT scores en de eigenlijke SAT scores, die .941 is. Dit is onze multipele correlatie.

Hoe worden meer predictors toegevoegd?

Als uitbreiding op de voorgaande analyse kunnen we nog meer predictors toevoegen. Middels de tabel ‘coëfficiënten’ (zoals Tabel 7) is dan te controleren of de toevoeging van die predictors significant bijdraagt.

Bij meerdere predictors kan SPSS ook informatie geven over tolerantie en de variantie inflatie factor (VIF). VIF is de mate waarin de predictor variabelen onderling gecorreleerd zijn (dit heet multicollineariteit). Hoe meer de predictors onderling correleren, hoe groter de standaardfout van het regressiecoëfficiënt wordt, hoe groter het betrouwbaarheidsinterval wordt en hoe kleiner de t waarde van de coëfficiënt. We willen dus zo min mogelijk collineariteit en daarom een lage VIF.

Tolerantie wordt berekend door 1 - R2j, waarbij Rj de multipele correlatie is tussen variabele j en alle andere predictor variabelen. We willen dus een zo hoog mogelijke tolerantie: hoe hoger de tolerantie, hoe minder overlap tussen de predictors. Bij zeer lage toleranties kan de stabiliteit van het model in gevaar zijn. Als een predictor perfect gecorreleerd is met andere predictors heet dit een singular covariantie matrix. Het model wordt dan niet genereerd door computer software.

Let op dat de grootte van de coëfficiënten geen indicatie is voor de belangrijkheid van de bijbehorende predictor. Ook al is de coëfficiënt voor uitgaven veel kleiner dan die van PercSAT, dit heeft alleen te maken met de standaarddeviaties van de predictors.

Wanneer worden gestandaardiseerde regressie-coëfficiënten gebruikt?

Het belang van een predictor is niet direct af te leiden uit zijn regressie-coëfficiënt. Toch kunnen we wel iets zeggen over de bijdrage van een predictor aan de regressie-formule. Hiervoor standaardiseren we onze variabelen (dit zet het gemiddelde op 0 en de standaarddeviatie op 1). De regressie-coëfficiënten heten dan gestandaardiseerde regressie-coëfficiënten en worden in SPSS ‘Beta’ genoemd (β). In het voorbeeld wordt de regressie-formule:

\[\hat{Y}=0.023Z_{Uitgaven}-1.040Z_{PercSAT}\]

(bij gestandaardiseerde variabelen is het intercept gelijk aan 0).

We zien dat wanneer Z_uitgaven toeneemt met 1, en wanneer we PercSAT constant houden, dat Y dan 0.203 standaarddeviaties toeneemt. Wanneer ZPercSAT toeneemt met 1, is dat een verschil in Y van -1.040. Hieruit kunnen we afleiden dat PercSAT waarschijnlijk een belangrijke predictor is dan Uitgaven (een grove schatting).

Een regressiecoëfficiënt toetsen we altijd voor significantie. Het maakt niet uit of dit gedaan wordt met de ruwe score coëfficiënten of gestandaardiseerde coëfficiënten. Voor de toets hebben we de standaardfout van de statistiek nodig. Dit is de variabiliteit van de statistiek over de herhaalde steekproeven. De toets is als volgt:

\[t=\frac{b_j-b_j*}{s_{b_j}}\]

• met N - p - 1 vrijheidsgraden.

Om de nulhypothese: b_j* = 0 te testen gebruiken we t = b_j/s_bj.

Waartoe dient de resampling methode?

De resampling methode is een alternatief voor de traditionele berekening van hierboven. Hierbij nemen we onze steekproef van 50 staten in de VS als populatie, en door middel van herhaaldelijk steekproeftrekken met vervanging uit deze populatie maken we een verdeling van mogelijke coëfficiënten. We pakken telkens een steekproef, berekenen de regressie coëfficiënten en noteren deze. Wanneer we dit 10.000 keer gedaan hebben, plotten we de coëfficiënten en berekenen het 95% interval door aan beide kanten van de verdeling 2,5% af te halen. Als de waarde 0 niet in het betrouwbaarheidsinterval voorkomt, dan kunnen we concluderen dat de coëfficiënt significant anders is dan 0.

Residuele variantie

Met de regressieformule probeerden we in het voorbeeld de SAT score te verklaren door middel van verschillende predictors. Toch gaan we er ook van uit dat de SAT score niet volledig te verklaren is door de predictor variabelen. Een deel van de score zal resultaat zijn van error. Deze error wordt residuele variantie/error genoemd (MS_error):

\[MS_{error}=\frac{\sum{(Y-\hat{Y})^2}}{N-p-1}\]

Natuurlijk hopen we de MS_error zo klein mogelijk te houden – hoe meer we kunnen verklaren van Y hoe beter. De wortel uit de MS_error is de schatting van de standaardfout.

Welke assumpties moeten gedaan worden?

Wanneer de X-variabelen random zijn, maken we de assumptie dat de verdeling van Y, X₁, X₂, …, Xpmultivariaat normaal is. Afwijkingen hiervan zijn meestal geen groot probleem, omdat de toetsen redelijk robuust zijn. We zijn vooral geïnteresseerd in of R groot of klein is en niet zo zeer of het significant is. Een significante R van .10 verklaard namelijk maar 1% van de variantie. Bij X-variabelen die fixed zijn, maken we de assumptie dat de conditionele verdelingen van Y normaal en onafhankelijk verdeeld zijn. Kleine afwijkingen zijn ook hier niet noodzakelijkerwijs een probleem.

Wat is de multipele correlatiecoëfficiënt?

Uit Tabel 6 bleek dat de multipele correlatie tussen SAT score en de twee predictors (Model 2) gelijk was aan .941. Dit is de multipele correlatiecoëfficiënt en wordt vaak genoteerd als R0,123…p waarbij we aangeven dat het voorspeld is van 1,2,3…p predictors tegelijkertijd. Het is eigenlijk de correlatie tussen Y en Ŷ.

Ondanks R zijn we vaak meer geïnteresseerd in R², omdat dit het percentage verklaarde variantie geeft. R² is echter geen unbiased schatting van de populatieparameter. De hoeveelheid bias is afhankelijk van N en p. bij N = p + 1 is de voorspelling perfect en R dus 1. Een schatting van R² die minder biased is:

\[\text{estimated}R^2=1-\frac{(1-R^2)(N-1)}{N-p-1}\]

Dit is de ‘Adjusted R Square’ in SPSS output.

R ligt altijd tussen de 0 en 1 in.

De significantie van R²

De significante bijdrage van elke predictor apart kunnen we al onderzoeken door middel van de regressie-coëfficiënt. Maar wat we eerst zouden moeten vragen is: voorspellen de variabelen samen de Y beter dan kans niveau? (de overkoepelende relatie).

Dit doe je door middel van de multipele correlatiecoëfficiënt. De nulhypothese wordt:

• H0: R = 0*.

R* is dan de correlatiecoëfficiënt in de populatie. We toetsen met:

\[F=\frac{(N-p-1)R^2}{p(1-R^2)}\]

• met N onderwerpen/proefpersonen/(in dit geval staten) en p predictoren. Er zijn p en N-p-1 vrijheidsgraden bij betrokken.

Voor het voorbeeld geldt een F van 182.64. Hierbij hoort een p-waarde van .000 en dus is de F-waarde significant.

Over het algemeen willen we tenminste tien observaties per voorspeller. Een andere regel is dat N tenminste 50 hoger moet zijn dan p. Er wordt ook voorgesteld dat N > p + 40. Er kan ook gekeken worden naar de hoogte van de power die men wil hebben. Hierop kan dan het aantal participanten worden afgesteld.

Partiële en semi-partiële correlatie

De (semi-)partiële correlatiecoëfficiënten controleren voor het effect van één of meer andere variabelen (een proces genaamd ‘partialling out’).

Partiële correlatie

De partiële correlatie r_01.2 is de correlatie tussen twee variabelen met één of meer variabelen weggenomen uit zowel X als Y. Stel dat we de relatie tussen inkomen en schoolprestaties onderzoeken. We vinden een significante correlatie tussen de twee. Dit betekent nog niet dat succes op school leidt tot een hoger inkomen. Het zou verklaard kunnen worden door IQ: dit leidt zowel tot hogere schoolprestaties als een hoger inkomen. De manier om dit te onderzoeken is de partiële correlatie te berekenen tussen schoolprestatie en inkomen, met IQ weggehaald uit beide variabelen.

Voor de partiële correlatie doen we een aparte regressieanalyse op beide variabelen met de te controleren variabelen (in het voorbeeld: inkomen op IQ en schoolprestatie op IQ). Van beide analyses nemen we het residu. Dit is de portie variatie, die niet wordt verklaard door IQ. De correlatie hiertussen is de partiële correlatie.

De notatie voor de partiële correlatiecoëfficiënt is r_01.23..p, waarbij links van de punt de gecorreleerde variabelen staan en rechts van de punt de variabelen waarvoor is gecontroleerd.

De partiële correlatie in het kwadraat geeft de verklaarde variatie. In het voorbeeld is de gekwadrateerde partiële correlatie .198, wat betekent dat 20% van de variatie in SAT scores (die niet verklaard wordt door PercSAT) kan verklaard worden door Uitgaven (die niet verklaard wordt door PercSAT). Of: 20% van de variatie in SAT scores, onafhankelijk van PercSAT, wordt verklaard door die portie van Uitgaven, onafhankelijk van PercSAT.

Semi-partiële correlatie

De semi-partiële correlatie wordt ook wel de deelcorrelatie genoemd. Het is de correlatie tussen de criterium Y en een gecontroleerde (partialled) predictor variabele. Waar de partiële correlatie dus een variabele wegneemt uit zowel criterion als de predictor, doen we dat hier alleen uit de predictor. De semi-partiële correlatie is de correlatie van Y met dat deel van X1 dat onafhankelijk is van X2 (het residu).

De notatie voor de semi-partiële correlatie is: r0(1.2) waarbij we variabele 2 weghalen uit predictor 1. Voor de correlatie geldt:

• r²_0(1.2) = R²_0.12 - r²₀₂.

Significantie

De significantie van de (semi-)partiële correlaties hoeft niet apart getest te worden. Als de test op de regressie-coëfficiënten significant was, dan zijn de Beta, partiële en semi-partiële coëfficiënten ook significant.

De partiële en semi-partiële correlaties kunnen in Venn diagrammen worden weergegeven.

Wat zijn onderdrukkingsvariabelen?

Wanneer alle correlaties van variabelen met het criterium positief zijn, verwachten we ook positieve regressiecoëfficiënten. Soms is een regressiecoëfficiënt significant negatief. Deze variabele wordt dan een onderdrukkingsvariabele genoemd. Een voorbeeld om dit te verduidelijken: stel we nemen een geschiedenistentamen af die in een korte tijd voltooid moet worden, om achter de kennis van geschiedenis te komen. De kennis van geschiedenis heeft niets te maken met leessnelheid. Echter is de prestatie op de toets hier wel van afhankelijk. Variantie in scores komt dus door leessnelheid en kennis. We willen ontdekken welke studenten het tentamen halen doordat ze snel lezen, en welke studneten het niet halen doordat ze langzaam lezen. Dit wordt bereikt door ‘leessnelheid’ als onderdrukkende variabele te gebruiken. Het onderdrukt een deel van de error in de scores.

Wat is Cook’s D?

Voordat de bovenstaande analyses worden uitgevoerd, is het altijd belangrijk eerst goed naar de data te kijken. Eerder checkten we al de grafische weergaven van de variabelen, daarnaast moet gekeken worden naar uitschieters. Als er geen normale uitschieters zijn, kunnen er wel multivariate uitschieters zijn. Dit zijn ongewone combinaties van scores. Als we weten dat er geen uitschieters zijn en dat de verdelingen redelijk normaal zijn, voeren we een preliminaire regressie analyse uit met alle variabelen. Belangrijk hierbij is:

1. Afstand is belangrijk voor het identificeren van potentiële uitschieters in de afhankelijke variabele (Y). Een gebruikelijke afstand is die tussen Y_i en Ŷ_i. Dit is de afstand tussen elk punt en de regressielijn.
2. Hefboom (hi) is belangrijk voor het identificeren van potentiële uitschieters in de onafhankelijke variabelen. Het meet de mate waarin een score afwijkt van de predictor variabelen.
3. Invloed: een combinatie van afstand en hefboomwerking. Het identificeert invloedrijke observaties. Een score is invloedrijk wanneer de regressie sterk verandert bij verwijdering van die score.

De invloed van een punt kan alleen hoog zijn, als het hoge waarden heeft op afstand en hefboom. De algemene maat voor invloed is de Cook’s D. Het is een maat voor de verandering in SS in de regressie-coëfficiënt wanneer de observatie/score uit de data wordt verwijderd en de analyse wordt uitgevoerd. De regel hierbij is, dat een Cook’s D groter dan 1.00 afwijkend is.

Als er geen variabelen zijn met onevenredige invloed op de regressievergelijking, betekent dit niet dat we ons geen zorgen hoeven te maken. We moeten kijken nar de plot van de residuen tegen de voorspelde waarden om te zien of er een normale verdeling is. Daarnaast checken we de Q-Q plot van de residuen voor normaliteit.

Modellen vergelijken

Stel dat we, zoals in het voorbeeld, twee modellen hebben die nested ofwel hiërarchisch zijn: een aantal variabelen in het ene model komt voor in het andere model. (Model 1: predictor A, B, C, D en Model 2: A en B). We willen onderzoeken of het ene model significant beter is dan het andere: hiervoor kijken we naar de SS uit de multipele regressieanalyse. Eerst voeren we die voor beide modellen uit (Tabel 23).

Tabel 23

Model 1 heeft een R2 van .888 en model 2 heeft een R2 van .886. Het eerste model verklaard dus iets meer variantie. Allereerst berekenen we het verschil in SSregressie = 243.689,5 - 243.069,5 = 620,2 = SSverschil. Het aantal vrijheidsgraden is het verschil in aantal voorspellers. In dit geval is dit 2. MSverschil is vervolgens SSverschil/df = 620,2/2 = 310,1. Deze MS testen we vervolgens met de volgende formule:

\[F=\frac{\frac{SS_{\text{reg(full)}}-SS_{\text{reg(reduced)}}}{df_{\text{reg(full)}}-df_{\text{reg(reduced)}}}}{MS_\text{residual(full)}}= \frac{\frac{243.689,5 - 243.069,3}{2}}{664,646} = 0.47\]

met als noemer de MS voor model 2, omdat die het ‘grote’ model is met alle variabelen (model 1 heeft een selectie uit die variabelen). De F is bij 2 en 45 df (let op! 2 df want dit is het aantal vrijheidsgraden van de verschilscore in SS) niet significant. Met extra twee predictors verklaren we niet significant meer variatie.

Stel dat de modellen niet hiërarchisch zijn, maar elk model andere variabelen bevat? Wanneer we dan de modellen willen vergelijken, kunnen we niet simpelweg de SS verschillen testen. In dit geval gebruiken we Akaikes Informatie Criterion (AIC), een computergestuurde test. Hoe kleiner de AIC, hoe beter het model. Er kan helaas niet getest worden of het verschil in de AIC’s ook significant is.

Op welke manier worden de predictor variabelen gekozen?

Het kiezen van de juiste predictors om in je analyse mee te nemen, kan moeilijk zijn. Zeker wanneer er veel variabelen in de data zijn opgenomen. Een aantal manieren om variabelen te kiezen:

1. Tolerantie: eerder werd uitgelegd dat tolerantie de mate van overlap tussen predictors aangeeft. Kies variabelen met een zo hoog mogelijke tolerantie en zo min mogelijk overlap.
2. ‘Alle subsets regressie’: kijk naar (alle) mogelijke subsets van predictors en kies de set die optimaal is (bijvoorbeeld die de grootste R2 heeft). Dit kan je zelf doen, of bij veel variabelen door middel van een speciaal computerprogramma (dan kun je vragen: geef me de beste zes modellen met de hoogste R2 bij vier predictoren). De beste modellen kan je selecteren op basis van: (1) de grootte van R2, (2) de grootte van MSresidu, (3) de statistiek Mallow’s Cp of (4) de statistiek PRESS. Mallow’s Cp vergelijkt groottes van errortermen in het ene model met de error term in het complete model met alle voorspellers. PRESS maakt voorspellingen van de data met alle gevallen behalve degene die voorspeld wordt. Een nadeel van ‘alle subsets regressie’ is dat er een groot potentieel is voor kans.
3. Omgekeerde eliminatie: dit is een stapsgewijze procedure. We beginnen met een model met alle predictors, en bekijken de regressie-coëfficiënten. De variabele die het minst bijdraagt aan het model verwijderen we. Vervolgens voeren we de analyse opnieuw uit zonder deze voorspeller. We halen weer de predictor eruit die het minst bijdraagt. Dit proces herhalen we, totdat alle predictors statistisch significant zijn. Computerprogramma’s hebben hier ook een optie voor, onder de naam ‘F to remove/enter’ of ‘p to remove/enter’. Kiezen we voor p, dan kun je p to remove op .05 zetten en komen alleen significante variabelen in het model. Een nadeel is dat ook deze methode leidt tot kansmodellen.
4. Stapsgewijze regressie: in feite de vorige methode maar dan omgekeerd. Van alle methoden is dit waarschijnlijk de beste. We beginnen met een model met alleen variabele 1, omdat deze de hoogste validiteit (correlatie met criterium) heeft. Dan berekenen we alle semi-partiëlen (correlaties met alle andere variabelen). De variabele met de hoogste semi-partiële correlatie zal de hoogste toename in R² geven, dus die nemen we op in de analyse (stel dat dat variabele 2 was). We voeren een regressie uit van Y op X₁ en X₂ en berekenen of de variabele significant bijdraagt aan de analyse. Dit kan door de regressiecoëfficiënt of de semipartiële correlatie te testen. Er kan ook gekeken worden of R² significant vergroot is. Dit doen we met de volgende F-waarde:

\[F_{(f-r, N-f-1)}=\frac{(N-f-1)(R^2_f-R^2_r)}{(f-r)(1-R^2_f)}\]

• met R² gebaseerd op f en r predictoren. R²_f is de R²voor het volledige model en R²_r is de R² voor het beperkte model.

Dit proces herhalen we totdat een nieuwe variabele niet meer significant bijdraagt. Variabelen die onder ‘F to remove’ vallen worden eerste verwijderd voordat de volgende variabele wordt toegevoegd. Methoden zonder deze stap heten forward selectie methoden.

Cross-validatie

Een probleem is het cross-valideren van een regressievergelijking bij een onafhankelijke data set. Stel we breken onze data in twee of meer sets. Voor de eerste set berekenen we de regressievergelijking. Deze coëfficiënten zetten we vervolgens af tegen de andere dataset om voorspelde waarden van Y te krijgen. We kijken dan naar de relatie tussen Y en Ŷ_cv. Bij een goede validiteit van de regressievergelijkingen moet deze correlatie hoog zijn. R²_cv is meestal wel lager dan R². We proberen dus een regressievergelijking te maken die voor meerdere datasets te gebruiken is. Echter is elke set anders, en zal het niet altijd valide zijn.

Missende scores

Een manier om met missende scores om te gaan, is om de participant in zijn geheel uit de studie te verwijderen wanneer hij scores mist (casewise/listwise verwijdering). Dit kan leiden tot kleine steekproefgroottes of een steekproef die niet meer betrouwbaar is (als een bepaald type participant uit de studie valt).

Een andere methode is pairwise verwijdering. Hierbij houden we de participant en gebruiken de data waar mogelijk: als hij data heeft op X en Y, houden we hem in de berekening van rXY, etc. Het nadeel hiervan is, dat de intercorrelatie tussen variabelen verstoord kan worden (omdat hij er soms wel bij zit en soms niet).

Een derde methode is het vervangen van de missende scores door een optimale schatting. Er zijn verschillende manieren om dit te doen, maar een veel gebruikte manier is om de gemiste score te voorspellen met een regressievergelijking.

Wat is het belang van individuele variabelen?

We willen soms weten welke variabele het belangrijkst is in het voorspellen van Y. βj2 wordt weleens als maat hiervoor genomen. β2 is namelijk de unieke bijdrage van een variabele aan de voorspelling van Y. Het zegt dus niets over de bijdrage die gedeeld is met andere variabelen. Daarnaast kan het onstabiel zijn tussen steekproeven als de variabelen onderling hoog gecorreleerd zijn.

Een andere mate van belangrijkheid is de semi-partiële correlatie tussen de voorspeller j en het criterium. Dit is een goede maat als het hoofddoel voorspelling is en niet verklaring.

Hoe worden afgeronde coëfficiënten gebruikt?

Bij het berekenen van regressie-coëfficiënten is gebleken dat deze sterk kunnen fluctueren tussen steekproeven uit dezelfde populatie, zonder dat dit R drastisch beïnvloedt. Hierdoor zullen onderzoekers soms de coëfficiënten benaderen, door de regressie-coëfficiënten af te ronden naar een heel getal. Dit heeft weinig invloed op R!

Wat zijn mediërende en modererende relaties?

In de psychologie zijn vaak mediatoren en moderatoren van belang: variabelen die een rol spelen in de relatie tussen twee andere variabelen.

Mediatie

Een mediator medieert de relatie tussen twee andere variabelen. Bijvoorbeeld: de mate van zelfvertrouwen die ik heb medieert tussen de hoeveelheid zorg die ik van mijn ouders heb gehad en hoe ik zelf denk over het opvoeden van mijn kinderen. (Verzorgende ouders leidt tot hoog zelfvertrouwen, leidt tot vertrouwen in zelf opvoeden). Dit is als volgt weer te geven in een figuur:

                            A                 Mediator                     B

Onafhankelijke variabele            C             Afhankelijke variabele

Baron en Kenny hebben veel geschreven over mediatie. Er zijn volgens hen drie stappen die moeten voldoen, wil er sprake zijn van mediatie. Zij stellen dat we eerst moeten aantonen dat de onafhankelijke variabele een significante relatie heeft met de mediator. Daarna moet een significante relatie worden aangetoond tussen mediator en afhankelijke variabele, en tussen de onafhankelijke en de afhankelijke variabele.

De volgende stap is demonstreren dat wanneer de mediator en onafhankelijke variabele samen gebruikt worden om de afhankelijke te voorspellen, het pad tussen onafhankelijke en afhankelijke variabele (c) minder sterk (liefst niet-significant) wordt.

Voorbeeld

Terug naar het voorbeeld over ouderlijke zorg en het zelf opvoeden van kinderen. De eerste stap is het berekenen van de correlaties tussen deze twee variabelen en de mediator (zelfvertrouwen). Alle correlaties zijn significant. De volgende stap is om zelfvertrouwen en ouderlijke zorg als predictors in een multipele regressie in te voeren voor voorspelling van de afhankelijke variabele. In Model 1 is alleen ouderlijke zorg als predictor ingevoerd, in model 2 zowel deze als de mediator. Bij het toevoegen van de mediator zelfvertrouwen blijkt, dat ouderlijke zorg niet meer significant is. Zelfvertrouwen heeft dus een mediërende rol tussen ouderlijke zorg en zekerheid over latere eigen opvoeding van onze kinderen. In dit voorbeeld is het resultaat vrij makkelijk: verzorgende ouders hebben, leidt tot hoger zelfvertrouwen en daardoor voelen we ons zekerder over zelf ouder worden.

In de output van SPSS staat ook een ‘part correlation’. Dit is wat wij kennen als de semi-partiële correlatie.

Sobel’s test

Maar wanneer pad ‘c’ niet helemaal verdwijnt en nog significant is, wat dan? Een manier is de Sobel test, waarbij we vragen of het volledige mediërende pad van onafhankelijke naar mediator naar afhankelijke variabele significant is. Hiervoor hebben we de regressie-coëfficiënten en standaardfouten van de twee paden nodig.

De standaardfout van de Beta (sβ) wordt niet gegeven en moeten we dus berekenen:

• t = β/sβ dus sβ = β/t

Stel dat geldt voor pad (a): sβ = 0.09 en voor pad (b) sβ = 0.11.
We kunnen nu de regressie-coëfficiënt berekenen van het totale pad (a)-(b) door βa x βb = 0.41 x 0.32 = 0.13. Voor de standaardfout van het totale pad geldt:

\[s_{\beta_a\beta_b}=\sqrt{\beta_a^2s_b^2+\beta_b^2s_a^2-s_a^2s_b^2}\]

In het voorbeeld is dit gelijk aan 0,052. De t ratio wordt dan:

• t = β_aβ_b/s­β_aβ_b = 2,48.

Het aantal vrijheidsgraden is N-3. Deze t is significant. We hebben bewijs voor een mediërend pad van ouderlijke zorg, via zelfvertrouwen naar vertrouwen in opvoeding.

Bootstrapping

Een andere methode om de significantie van het indirecte pad te testen is door middel van bootstrapping. Hierbij creëren we 10.000 ‘bootstrap steekproeven’ uit de observaties en berekenen telkens de regressie-coëfficiënten en βaβb. Hiervan maken we een distributie, waaruit we het 95% betrouwbaarheidsinterval halen. Als dit interval de 0,00 waarde niet bevat, is het indirecte pad significant.

Moderatie

Bij modererende relaties verandert de relatie tussen onafhankelijke en afhankelijke variabele, door de derde (moderator)variabele. Bijvoorbeeld: we onderzoeken de invloed van dagelijkse stress-events op het aantal symptomen van stress dat een student aangeeft. Daarbij stellen we dat wanneer de student veel sociale steun heeft (in zijn omgeving), hij minder symptomen laat zien dan iemand met weinig sociale steun.

De eerste stap in de verzamelde data is het berekenen van de correlaties. We vinden dat stress-events significant gecorreleerd is met symptomen, steun correleert niet significant.

De volgende stap is het centreren van de data om de twee variabelen stressvolle gebeurtenissen en sociale steun samen te voegen. We maken verschilscores door het gemiddelde van de variabele van elke score van die variabele af te trekken. Iemand met een score 0 op stress-events heeft dan het gemiddeld aantal stress-events. Het doel van het centreren is het verlagen van de correlatie tussen de algemene effecten en de interacties.

Van de gecentreerde variabelen maken we een product, dat onze interactieterm wordt (stress-eventscentrxsteuncentr). Deze interactieterm stoppen we samen met de stress-events en steun variabelen in een regressie-analyse. De afhankelijke variabele is het aantal symptomen. In de output vinden we dat R2 significant is, evenals de predictor stress-eventscenter en de interactieterm. De variabele sociale steun is niet significant. Een plot van de interactieterm kan duidelijk maken, hoe de interactie werkt. Hieruit blijkt, dat met hoge sociale steun, verhogingen in stressvolle gebeurtenissen geassocieerd zijn met kleine verhoging van het aantal symptomen. Bij lagere niveaus van sociale steun en verhoging in stressvolle gebeurtenissen ontstaan veel meer symptomen.

Wanneer wordt logistische regressie gebruikt?

Logistische regressie is een techniek waarbij een regressie-analyse wordt uitgevoerd bij een dichotome afhankelijke variabele. Bijvoorbeeld in het geval waar we de reactie op een behandeling willen voorspellen, en de participanten ofwel ‘overleven’ of ‘niet overleven’ (zoals bij kanker). De kansen van logistische regressie liggen tussen 0 en 1. Daarnaast kunnen de onafhankelijke variabelen zowel categorisch of continu zijn.

Stel dat we dit onderzoeken, en onze Uitkomst coderen we 1 voor mensen die beter worden of geheel genezen zijn, en 0 voor mensen die niet genazen of dood zijn gegaan. Als predictor nemen we allereerst de overlevingskans die de arts ten tijde van de diagnose gaf (OverlKans), in procenten.

Als we de relatie tussen OverlKans en Uitkomst in een grafiek weergeven, zien we dat de kans op overleven groter is voor mensen die meer verbeteren. Wanneer we veel proefpersonen hebben, kunnen we de gemiddelde Uitkomst voor elke waarde van OverlKans berekenen (een conditioneel gemiddelde, omdat het afhangt van de waarde van OverlKans).

Wat betreft de analyse, zal lineaire regressie in dit geval een slechte keus zijn. Omdat we te maken hebben met voorspellende waarden, zullen kansen voorbij de waarden 0 en 1 gaan, wat onmogelijk is. Daarnaast is er zeer weinig variantie in dit model: bij iedereen met een lage OverlKans zal een 0 hebben en bijna iedereen met hoge waarden op OverlKans heeft een 1.

De relatie tussen Uitkomst en OverlKans is geen lineaire relatie, maar een sigmoidale (s-vormige).

Logistische regressie is eigenlijk een lineaire regressie op gecensureerde data. Dit houdt in, dat er een kritieke waarde is in de data, en alle waarden daarboven krijgen het label ‘verbeterd’ en alle waarden daaronder krijgen het label ‘niet verbeterd’. Hier zijn dus geen gradaties in; mensen die dood zijn gegaan vallen onder hetzelfde label als mensen die een klein beetje achteruitgegaan zijn. Er is wel een methode om de data te veranderen, zodat we een lineaire functie krijgen: door de scores om te zetten naar kansen, en vervolgens naar log odds[log(p/1-p)], met p de kans op verbetering en 1-p de kans op geen verbetering. We krijgen dan een formule van de vorm:

Log odds = b0 + b1OverlKans. Dit heet een logit transformatie. Hierbij is de b1 de toename in log odds als OverlKans één eenheid toeneemt. De log odds zullen positief zijn voor odds groter dan 1 en negatief voor odds kleiner dan 1.

In de output van SPSS vergelijken we het model zonder predictoren met het model met één predictor. Hiervoor kijken we naar de -2log likelihood. Deze is 77,3457 voor het model zonder predictoren en 37,323 voor het model met één predictor. Het verschil hier tussen (40,022) geeft de vermindering in X2 weer die komt door het toevoegen van een voorspeller. Dit verschil kan bekeken worden met 1 df. Het significantieniveau is .000 en dus is OverlKans een significante bijdrager aan de voorspelling.

De computer zoekt de best passende waarden van b0 en b1. Uit de SPSS test komen de optimale constante en coëfficiënt:

• Log odds = -0.0812 OverlKans + 2.6836

De negatieve coëfficiënt houdt in, dat we de kans op zieker worden afneemt, als de OverlKans toeneemt. De log odds nemen af als de kans op overleven verhoogt. Uit de formule leiden we af, dat wanneer OverlKans met één eenheid toeneemt, de log odds op zieker worden afneemt met 0.0812. Dit zegt ons niet zoveel, daarom zetten we de coëfficiënt om in een odds (door te exponentiëren: e-0.0812 = 0.9220). Als OverlKans met één toeneemt, vermenigvuldigt de kans op zieker worden met 0.9220. Anders gezegd: als twee mensen hun OverlKans te horen krijgen, en de tweede persoon heeft één punt meer op OverlKans, dan heeft zij een 7.8% lagere kans op verslechtering. De odds worden ook in de SPSS output gegeven onder ‘Exp(B)’.

Meerdere predictoren

Bij meer dan één predictor verandert er in feite niets aan de uitvoer van de analyse. SPSS geeft van elke predictor apart aan of het een significante bijdrage levert aan het model, en wederom geeft de coëfficiënt aan in welke richting het verband is (negatief/positief). We kijken hiervoor weer naar het verschil in -2log likelihood tussen de modellen. Het aantal vrijheidsgraden staat altijd gelijk aan het aantal extra predictoren. Ook dichotome predictors zijn mogelijk (zoals man/vrouw). Stel dat sekse een predictor was in het model, en het coëfficiënt 0.40 bleek te zijn (man =1, vrouw=2). De exponent zou 1.49 zijn. Dit houdt in, dat bij alle andere variabelen constant gehouden, de kans dat een vrouw beter wordt 1.5 keer groter is dan de kans dat een man beter wordt.

Wat zijn log-lineaire modellen?

Log-lineaire modellen zijn modellen die kunnen worden gebruikt om afzonderlijke gegevens van experimenten met meerdere onafhankelijke variabelen te onderzoeken. Met meerdere bedoelen we meer dan twee onafhankelijke variabelen. In het geval van twee onafhankelijke variabelen heeft het log-lineaire model niet veel meer te bieden dan de standaardbenadering (bijvoorbeeld een Chi-kwadraat-test). Voor gevallen met een hogere dimensie, bijvoorbeeld drie-, vier- of vijf-dimensionale situaties, hebben log-lineaire modellen de voorkeur. Om log-lineaire modellen echter beter te begrijpen, zullen we beginnen met eenvoudige contingentietabellen met twee dimensies (variabelen) omdat deze veel gemakkelijker te begrijpen zijn.

Een belangrijk kenmerk van log-lineaire modellen is dat ze zowel afhankelijke als onafhankelijke variabelen behandelen, waardoor het onderscheid tussen deze wordt genegeerd. Meestal worden in dit geval relaties onderzocht die symmetrisch zijn. Symmetrische relaties zijn relaties waarin alle variabelen gelijk worden behandeld als afhankelijke variabelen. Asymmetrische relaties daarentegen maken wel onderscheid tussen afhankelijke en onafhankelijke variabelen. Log-lineaire modellen kunnen beide behandelen, maar het verschil komt meer in interpretatie dan in wiskunde. Voor symmetrische modellen wordt de interesse gelijkmatig verdeeld. Voor asymmetrische modellen, zal de interesse zich meer richten op de afhankelijke variabele en de relatie met onafhankelijke variabelen.

Hoe wordt een log-lineaire analyse opgesteld voor twee onafhankelijke variabelen?

Zoals hierboven vermeld, zullen we beginnen met het geval van twee onafhankelijke variabelen. Niet omdat een log-lineair model meer te bieden heeft dan de standaardbenadering, maar omdat het veel gemakkelijker is om dit scenario uit te leggen en te begrijpen. Voor complexere scenario's laten we steeds meer berekeningen over aan computersoftware.

Voorbeeld

Stel dat we een onderzoek doen naar de aanleg van jurrors. We verwachten dat jurrors hun oordeel over verdachten baseren op het vermeende gedrag van het slachtoffer. Daarom proberen advocaten vaak een strategie te volgen om de jurrors te laten geloven dat het slachtoffer op een of andere manier verantwoordelijk is voor de misdaad, bijvoorbeeld door het verleden van het slachtoffer aan te vallen. Voor dit voorbeeld verkrijgen we een contingentietabel (zie tabel 25) met twee variabelen: de mate waarin het slachtoffer als 'fout' werd beschouwd en het feitelijke vonnis. Merk op dat de verwachte frequenties volgens de standaardtest van onafhankelijkheid van deze twee variabelen tussen haakjes worden toegevoegd.

Tabel 25.

Wanneer we de formule voor de Chi-kwadraat statistiek gebruiken, dat is:

\[X^2=\frac{\sum{(O-E)^2}}{E}\]

(dit is de Chi-kwadraat formule)

resulteert dat in 35.93, wat significant is met α = .05. Als we dit nu veranderen in de likelihood -ratio statistic, dan krijgen we: 

\[\frac{\sum{(f_{ij}-F_{ij})^2}}{F_{ij}}\]

De verandering in notatie komt dus, kortgezegd, erop neer dat de geobserveerde cel frequenties in cel c_ij worden omgezet in f_ij en de verwachtre frequenties in diezelfde cel worden omgezet in F_ij. 

Model 1 ("Equiprobability model")

Met behulp van het simpelste model; het equiprobability-model, dat is het model waarin we veronderstellen dat respondenten zichzelf willekeurig over de vier cellen verdelen, verkrijgen we:

• Waargenomen: 153; 24; 105; 76
• Verwacht: 89,5; 89,5; 89,5; 89.5

Vervolgens is de waarschijnlijkheidsratio-test:

• X2 = 2 Σ f_ij ln (f_ij / F_ij)
• = 2 (153 ln (153 / 89.5) + 24 ln (24 / 89.5) + 105 ln (105 / 89.5) + 76 ln (76 / 89.5)
• = 109,6

Deze test-statistiek kan worden onderzocht met behulp van de Chi-kwadraatverdeling met 4 - 1 = 3 vrijheidsgraden. Met behulp van de appendixtabel voor de Chi-kwadraatverdeling vinden we dat X2.05 (3) = 7.82. Daarom kunnen we de nulhypothese verwerpen en concluderen dat dit model niet goed past bij de gegevens.

Model 2 en 3 (Conditionele equiprobability modellen)

Het eerste model, het equiprobability-model, paste niet goed in de gegevens. In dit eerste model was er geen variabele die bijdroeg aan de waargenomen frequenties. We gaan nu verder met een tweede model, het voorwaardelijke of conditionele equiprobability-model, waarbij de waargenomen frequenties afhankelijk zijn van één variabele. In dit geval gebruiken we Oordeel als de voorwaardelijke variabele. We verkrijgen nu:

• Waargenomen: 153; 24; 105; 76
• Verwacht: 129; 50; 129; 50

Dit resulteert in een waarschijnlijkheidsratio-test van 37,4 met 4 - 2 = 2 vrijheidsgraden. Merk op dat we nu slechts twee vrijheidsgraden hebben, omdat we een andere beperking hebben opgelegd: de celfrequenties in elke kolom moeten de verwachte frequentie voor dat model optellen. Hier levert het resultaat X2.05 (2) = 5,99 op waarvoor we opnieuw de nulhypothese zullen verwerpen. Dit tweede model past dus ook niet in de waargenomen gegevens.

Het voorwaardelijke equiprobability-model zou ook kunnen worden ontwikkeld voor de variabele "Aandeel". Wederom is het resultaat echter een significante teststatistiek, wat betekent dat het model niet goed past bij de gegevens.

Model 4 (wederzijds afhankelijkheidsmodel)

We gaan nu verder met het vierde model, het wederzijdse afhankelijkheidsmodel, waarin we aannemen dat de twee factoren gezamenlijk werken, maar onafhankelijk om de verwachte celfrequenties te behandelen.

Als we uitgaan van de onafhankelijkheid van de twee variabelen, verkrijgen we:

\[F_{ij}=\frac{RT*CT}{GT}=\frac{f_i*F_j}{f...}\]

waarbij RT (f_i.) verwijst naar het rijstotaal, CT (f_.j) naar het kolomtotaal en GT naar het eindtotaal. Voor deze berekening gebruiken we de verwachte frequenties zoals vermeld in Tabel 25 en verkrijgen we een waarschijnlijkheidsverhouding X² = 37,4 die significant is bij 1 vrijheidsgraden. We concluderen dus dat een model dat een onafhankelijkheid tussen de twee variabelen (schuldig en oordeel) voorstelt, ook niet goed past bij de gegevens.

Verzadigd model

Het laatste model is een uitbreiding van het model van wederzijdse afhankelijkheid. We voegen nu het interactie-effect toe tussen Verdict en Fault. Dit model heeft evenveel parameters als cellen (dat wil zeggen 4: een intercept, een rij-effect, een kolom-effect en een interactie-effect). Dit model past perfect bij de data met X² = 0.00. Daarom concluderen we dat we de gegevens niet adequaat kunnen aanpassen, tenzij we een interactie tussen de variabelen toestaan.

Hoe een log-lineair model te specificeren?

De notatie die wordt gebruikt voor log-lineaire modellen lijkt in het begin misschien wat lastig, maar is nauw verwant aan het model dat we in de variantieanalyse hebben gespecificeerd. Vergeet niet dat we in vorige hoofdstukken modellen hadden zoals:

\[X_{ijk}=\mu+\alpha_i+\beta_j+\alpha\beta_{ij}+e_{ijk}\]

Het log-lineaire model heeft termen die hier parallel aan zijn. De parameter τ (tau) lijkt sterk op het (grand) gemiddelde μ en de behandelingseffecten worden omgezet in de natuurlijke logaritme van tau, weergegeven als λ (lambda). Dit resulteert in een specificatie van de vijf modellen zoals gerapporteerd in tabel 26.

Table 26.

Conditionele odds en odds ratio

We introduceren nog twee concepten die van belang zijn bij log-lineaire modellering: conditionele odds en odds ratio. In ons voorbeeld is de conditionele odds om schuldig te worden bevonden, wanneer het slachtoffer wordt beschouwd als een laag aandeel hierin te hebben, 153/24 = 6.4. Dus in de groep met weinig aandeel zijn de kansen om schuldig te te worden bevonden 6.4: 1. Met andere woorden, voor elke persoon in de groep met laag slachtoffersaandeel die niet schuldig wordt bevonden, worden 6.4 schuldig bevonden. Evenzo is de conditionele odds om schuldig te worden bevonden, waneer het slachtoffer als hoog op Aandeel werd beschouwd, 1.4. Ten tweede, als er geen interactie is tussen Oordeel en Aandeel, wordt verwacht dat de odds ratio ongeveer 1,00 is. In plaats daarvan vinden we in het voorbeeld een odds ratio (Ω) van 6.4 / 1.1.4 = 4.6. Dit betekent dat de kans dat een verdachte schuldig wordt bevonden in de lage aandeel conditie 4,6 keer groter is dan de kans dat een verdachte schuldig wordt bevonden in de hoge aandeel conditie. Zo kunnen we dus concluderen dat de strategie "het slachtoffer de schuld geven" lijkt te werken.

Assumpties

De assumpties van log-lineaire modellen zijn vergelijkbaar met die van de traditionele Chi-kwadraat-test. Er zijn geen assumpties over populatieverdelingen. Er wordt echter wel aangenomen dat de waarnemingen onafhankelijk zijn. Bovendien moeten de verwachte frequenties, net als bij de Chi-square test, groot genoeg zijn om aan te nemen dat de frequenties in elke cel normaal verdeeld zijn over herhaalde steekproeven. We hebben opnieuw alle verwachte frequenties nodig o die groter zijn dan één en streven naar (als vuistregel) het geval waarin niet meer dan 20% van de cellen verwachte frequenties minder dan vijf hebben. Het grootste probleem met log-lineaire modellen doet zich voor in het geval van schaarse matrices (sparse matrices), dat wil zeggen wanneer de contingentietabel veel lege cellen bevat. In deze situaties wordt geadviseerd om categorieën te combineren op basis van een theoretische reden, of variabelen samen te voegen, of de steekproefgrootte te verhogen.

Hoe kun je log-lineair modellen testen?

Het centrale probleem bij log-lineaire modellering is het kiezen van welk model het beste bij de gegevens past. Gewoonlijk worden deze modellen stapsgewijs getest. Merk op dat we nooit een verzadigd model passen omdat we hopen dat het past - dat weten we van tevoren (het is het meest complexe model en past daarom het beste bij de data). We passen dit model meestal toe in de hoop dat het zal helpen om eenvoudiger modellen te identificeren door niet-significante effecten te identificeren. Kortom, een gebruikelijke benadering voor log-lineaire modelaanpassing is de stapsgewijze procedure, waarbij men begint met het verzadigde model en vervolgens onderzoekt wat er in verschillende delen van het model gebeurt (om die uit te kunnen sluiten in het uiteindelijke model).

Hoe kun je een log-lineair model voor drie variabelen gebruiken?

We gaan nu verder met het drie-dimensionale scenario, dat wil zeggen de situatie met drie variabelen. In deze situaties kan de standaard Chi-kwadraatanalyse geen volledig inzicht in de gegevens opleveren.

Er zijn verschillende opties beschikbaar in SPSS om log-lineaire modellen te berekenen voor meer dan twee variabelen: SPSS GENLOG, SPSS LOGLINEAR en SPSS HILOGLINEAR.

Om het drie-weg log-lineaire model te illustreren, breiden we ons vorige voorbeeld uit met een derde variabele: moraal.

Table 27.

In dit voorbeeld, zijn er 18 (!) hypotheses te onderzoeken. Een aantal daarvan staan hieronder benoemd (M = Moraal; V = Verdict (oordeel) en A = Aandeel)

• ln(F_ij) = λ + λ^M
• ln(F_ij) = λ + λ^V
• ln(F_ij) = λ + λ^M + λ^V
• ln(F_ij) = λ + λ^M + λ^V + λ^MV
• ln(F_ij) = λ + λ^A + λ^M + λ^V + λ^MV 
• ln(F_ij) = λ + λ^A + λ^M + λ^V + λ^MV + λ^AM 
• ln(F_ij) = λ + λ^A + λ^M + λ^V + λ^MV + λ^AM + λ^AV + λ^AMV 

Het laatste model (model 7) is het verzadigde model. 

Hoe de resultaten van een log-lineaire analyse te interpreteren?

Voor deze cursus is het niet zo belangrijk om de wiskunde en berekeningen achter log-lineaire modellen volledig te begrijpen. Het gaat er echter om dat je de resultaten van deze modellen kunt interpreteren. Daarbij zijn de belangrijkste effecten vrij gemakkelijk te begrijpen en vergelijkbaar met wat in vorige hoofdstukken is besproken. Maar hoe kunnen we de interactie-effecten interpreteren? Stel dat we in het hierboven besproken voorbeeld een interactie-effect vinden tussen Aandeel (slachtoffer) en Oordeel (verdachte). Wanneer wordt vastgesteld dat het slachtoffer weinig aandeel heeft gemaakt, is de kans voor de verdachte voor een schuldig oordeel 6.38. In plaats daarvan, wanneer het slachtoffer wordt gezien als zijnde hoog in aandeel, is de kans op een schuldig vonnis te zijn slechts 1.38. De odds-ratio is dus 6,38 / 1,38 = 4,62. En de odds ratio is ln (4.62) = 1.53. Kort samengevat houdt dit in dat het schuldoordeel duidelijk afhangt van de mate waarin het slachtoffer wordt beschouwd een aandeel te hebben in het geheel. 

Tentamen ticket

• Log-lineaire modellen lijken erg op de traditionele Chi-kwadraat test. Ze hebben de voorkeur in het scenario van meer dan twee variabelen. Voor deze cursus is het niet belangrijk om de wiskunde achter deze modellen volledig te begrijpen. Om de essentie van dit hoofdstuk te vatten, volstaat het om te oefenen met de notatie en interpretatie van een log-lineair model met drie variabelen.