Wat zijn statistische gevolgtrekkingen voor distributies? - Chapter 7

In het vorige deel is bij de significantietoets uitgegaan van een bekende σ. In de praktijk kennen we de standaarddeviatie van de populatie vaak niet. De standaarddeviatie van de steekproef (s) wordt dan gebruikt om σ te schatten.

Wat zijn statistische gevolgtrekkingen voor het gemiddelde van een populatie?

Wat gebruik je om de standaarddeviatie van de populatie te schatten?

In het vorige deel is bij de significantietoets uitgegaan van een bekende σ. In de praktijk kennen we de standaarddeviatie van de populatie vaak niet. De standaarddeviatie van de steekproef (s) wordt dan gebruikt om σ te schatten.

Wat is de t-distributie?

We gebruiken de t-distributie (in plaats van de z-distributie) wanneer we de standaarddeviatie van de populatie niet kennen.

• Wanneer de standaarddeviatie van een statistiek uit de data wordt geschat, dan wordt het resultaat de (geschatte) standaardfout van de statistiek genoemd. De standaardfout van het steekproefgemiddelde is: SE_{M = s/}√n.
• Het gestandaardiseerde steekproefgemiddelde wordt ook wel weergegeven met de één-steekproef-z-toets: z = (x̄-μ)/(σ/√n). Deze toets is de normaalverdeeld: N(0,1). Wanneer we (σ/√n) vervangen door (s/√n), dan is er echter geen sprake meer van een normaalverdeling. Er is nu een t-distributie ontstaan.
• Als er een SRS van grootte n uit een normaalverdeelde populatie N(μ,σ) wordt getrokken, dan is de één-steekproef-t-toets: t = (x̄-μ)/(s/√n). Dit is een t-distributie met n-1 vrijheidsgraden (k).
• Bij elke vrijheidsgraad hoort een andere t-distributie. De dichtheidscurves van de t-distributies lijken qua vorm op die van de bekende normaal verdeelde curve. De piek is echter lager en de staarten staan wat hoger. Er is dus meer spreiding aanwezig. Dit komt omdat de standaarddeviatie van de populatie niet gebruikt wordt in de formule. De standaarddeviatie van de steekproef zorgt voor meer spreiding. Tabel D geeft kritische t*-waarden voor de t-distributies. Bij het gebruiken van de tabel moet gekeken worden naar de bijbehorende vrijheidsgraden.

Hoe bereken je detrouwbaarheidsintervallen voor t-distributies?

Als je een SRS van grootte n uit een populatie met een onbekend gemiddelde (μ) trekt, dan is het betrouwbaarheidsinterval (C) voor μ: x̄ ± t*(s/√n). In dit verband is t* de waarde voor de t(n-1) dichtheidscurve met gebied C tussen –t* en t*. In deze formule staat t*(s/√n) voor de foutenmarge.

Hoe voer je de t-toets uit?

Het toetsen van significantie met een t-toets lijkt erg op het toetsen van significantie met de z-toets. De t-waarde wordt verkregen door:

• t = (x̄- μ₀)/ (s/√n). De bijbehorende p-waarde kan opgezocht worden in tabel D achterin het boek.
• We kunnen er, net zoals bij de z-toets, voor kiezen om eenzijdig of tweezijdig te toetsen. Als er geen vermoeden over de richting van het effect bestaat, dan is het altijd beter om een tweezijdige toets uit te voeren.

Hoe gebruik je de t-distributie bij gematchte paren?

Bij een gematchte paren onderzoek vormen deelnemers paren. Vervolgens wordt er naar de onderzoekresultaten binnen elk paar gekeken. De onderzoeker kan bijvoorbeeld twee vormen van therapie uitproberen op de verschillende leden van een paar, om te kijken of er verschillen in uitkomsten optreden. We willen elk lid van een paar dus met het andere lid vergelijken. Er wordt voor elk paar (of elk individu) een verschilscore berekend. Deze scores worden gebruikt als data. Tot slot kunnen met deze informatie t-betrouwbaarheidsintervallen en t-significantietoetsen uitgevoerd worden. Een dergelijk onderzoek wordt vaak ook gedaan als randomisatie niet mogelijk is.

Wanneer gebruik je een equivalentietest?

Als er uit een onderzoek geen statistische significantie naar voren komt, betekent dit niet per se dat de nulhypothese waar is. In dat geval kun je gebruik maken van een equivalentietest. Een equivalentietest gebruikt een betrouwbaarheidsinterval (van bijvoorbeeld 90%) om te bewijzen dat het gemiddelde verschil rond 0 is en dat de resultaten acceptabel zijn.

Ga ervan uit dat n de populatie is en μ het gemiddelde. Als het significatieniveau α is en μ binnen een marge van μ₀ equivalent moet zijn, en het interval μ₀ ± δ is, dan gaat een equivalentietest als volgt:

• Bereken het betrouwbaarheidsinterval waarbij C = 1 – 2 α.
• Vergelijk dit interval met de marge van equivalentie.
• Alleen als het betrouwbaarheidsinterval geheel binnen het vooraf bepaalde interval ligt, dan is de conclusie dat μ equivalent is aan μ₀.

Ook met behulp van statistische software kun je equivalentietests uitvoeren.

Wat is robuustheid?

De uitkomsten van de één-steekproef-t-toets zijn helemaal juist wanneer de populatie normaal verdeeld is. In werkelijkheid is geen enkele populatie precies normaal verdeeld. De bruikbaarheid van de t-distributie hangt in de praktijk daarom vooral af van hoe niet-normaal verdeeld een populatie is. Een distributie die niet erg door een niet-normaal verdeelde populatie wordt beïnvloed, wordt robuust genoemd.

Een statistische procedure is robuust wanneer de benodigde kansberekeningen niet worden beïnvloed als niet aan de voorwaarden voor die kansberekeningen wordt voldaan. De voorwaarde voor de t-distributie is dus dat de populatie normaal verdeeld is, wat vaak niet het geval blijkt te zijn. Toch is de t-distributie robuust.

Wat is de robuustheid van de t-distributie?

De t-distributie is behoorlijk robuust tegen niet-normaliteit van de populatie, behalve als er uitbijters zijn of als er een sterke afwijking naar links of rechts aanwezig is. Grote steekproeven verbeteren de accuraatheid van de p-waarden wanneer de populatie niet normaal verdeeld is. Dit is waar om de volgende twee redenen:

• Allereerst is de steekproevendistributie van een steekproefgemiddelde x̄ van een grote steekproef bijna normaal verdeeld. Normaliteit van individuele observaties is niet erg belangrijk wanneer de steekproef groot genoeg is.
• Als de steekproefgrootte n groter wordt, dan zal de steekproefstandaarddeviatie s een betere schatter zijn van σ, of de populatie nou wel of niet normaal verdeeld is. Het is slim om de t-distributie pas te gebruiken als de steekproef 15 of meer deelnemers heeft. Als er sprake is van een hele kleine steekproef, dan is de aanname dat de data van een SRS afkomstig belangrijker dan de aanname dat de populatiedistributie normaalverdeeld is.

Bij welke steekproefgrootte kun je de t-distributie gebruiken?

• Als de steekproef minder dan 15 deelnemers bevat, dan kan de t-distributie alleen gebruikt worden wanneer de data bijna normaal verdeeld is. Als de data niet normaal verdeeld is en er uitbijters aanwezig zijn, dan dient de t-distributie niet gebruikt te worden.
• Als de steekproef minstens 15 deelnemers heeft, kan dan de t-distributie gebruikt worden, behalve als er sprake is van uitbijters of een sterke afwijking naar links of rechts.
• De t-distributie kan zelfs gebruikt worden voor distributies met een sterke afwijking naar links of rechts als de steekproef 40 of meer deelnemers bevat.

Wat zijn resampling en bootstrapping?

Wat kun je doen als de populatie niet normaal verdeeld is en er enkel een kleine steekproef genomen kan worden? Om toch de steekproefdistributie van  te benaderen, kan gebruik worden gemaakt van een bootstrap. Hierbij doe je alsof de beschikbare populatie de gehele populatie is, en worden er veel kleine steekproeven uit genomen. Elke steekproef heet hierbij een resample. Vervolgens bereken je voor elke steekproef de gemiddelde . De hieruit resulterende distributie behandel je alsof het de steekproefdistributie is, door statistische gevolgtrekking erop toe te passen, kun je ondanks het gebrek aan beschikbare gegevens toch een idee krijgen van hoe een steekproefdistributie eruit zou komen zien.

Wanneer kun je twee gemiddelden vergelijken?

Het doel van statistische gevolgtrekkingen is vaak het vergelijken van responsen in twee groepen. Elke groep wordt als een aparte steekproef uit een populatie gezien. De responsen van de groepen zijn onafhankelijk van elkaar. Bij twee aparte steekproeven is er geen sprake van gematchte paren en statistische procedures om twee steekproeven te vergelijken verschillen dan ook van statistische procedures om gematchte paren te vergelijken. We bestuderen twee onafhankelijke steekproeven en dus ook twee afzonderlijke populaties. Dezelfde (afhankelijke) variabele wordt gemeten voor beide steekproeven.

• We kunnen de variabele x₁ noemen voor de eerste populatie en x₂ voor de tweede populatie. Dit omdat de variabele verschillende distributies in de twee populaties kan hebben.
• Het gemiddelde van de eerste populatie noemen we µ₁ en het gemiddelde van de tweede populatie noemen we µ₂.
• De standaarddeviatie van de eerste populatie is σ₁ en voor de tweede populatie is dat σ₂.

Wat is de z-toets voor twee steekproeven?

De nulhypothese die we willen onderzoeken is of het gemiddelde van beide populaties hetzelfde is, dus: H₀: µ₁ = µ₂. Dit kunnen we uitzoeken door middel van twee steekproeven met gemiddelden x̄₁  en x̄₂. Deze steekproeven zijn van grootte n₁ en n₂. De bijbehorende steekproefstandaarddeviaties zijn s₁ en s₂. We schatten het verschil tussen de populatiegemiddelden dus door middel van het verschil tussen de steekproefgemiddelden. Grote steekproeven zijn nodig om kleine verschillen vast te stellen. De z-toets voor twee steekproeven wordt als volgt gevonden:

• Vind eerst: (x̄₁ en x̄₂)- (µ₁ - µ₂).
• Trek daarna de wortel uit (σ²₁/ n₁+σ²₂/ n₂).
• Deel de eerste uitkomst door de tweede uitkomst.

De z-toets voor twee steekproeven heeft de N(0,1)-steekproevendistributie. De z-toets voor twee steekproeven wordt echter zelden gebruikt, aangezien de standaarddeviaties van de populaties zelden geweten worden. In de praktijk wordt daarom veel vaker de t-toets voor twee steekproeven gebruikt.

Hoe voer je de t-toets uit voor twee steekproeven?

De t-toets voor twee steekproeven wordt als volgt gevonden:

• Bereken eerst (x̄₁ en x̄₂)
• Trek daarna de wortel uit (s²₁/ n₁+s²₂/ n₂).
• Deel de eerste uitkomst door de tweede uitkomst.

Deze toets heeft echter geen t-distributie. Een t-distributie vervangt de N(0,1)-distributie alleen wanneer een enkele standaarddeviatie (σ) in een z-toets wordt vervangen door een steekproefstandaarddeviatie (s). Bij de t-toets worden echter beide standaarddeviaties (σ₁ en σ₂) vervangen door s₁ en s₂. Toch kunnen we de t-distributie voor twee steekproeven benaderen door een benadering met de vrijheidsgraden (k) te maken. We gebruiken deze benadering om waarden voor t* te vinden voor betrouwbaarheidsintervallen en om p-waarden te vinden voor significantietoetsen. Hoe maken we deze benadering? Dit kan op twee manieren. Hieronder zullen die manieren beschreven worden.

• Gebruik een waarde van k die met de data berekend is. Vaak is dit geen heel getal. Vaak maken computerprogramma’s gebruik van deze manier. De berekende vrijheidsgraden zijn in dit geval minstens even groot als de kleinste van n₁-1 en n₂ -1. Het is echter ook zo dat de berekende vrijheidsgraden nooit groter zijn dan n₁+n₂ -2.
• Bereken n₁-1 en n₂-1 en kies de kleinste uitkomst. Deze manier is het gemakkelijkst wanneer handmatig te werk wordt gegaan.

Eerst moet de t-toets voor twee steekproeven dus berekend worden. Vervolgens moeten de vrijheidsgraden per steekproef gevonden worden. De kleinste moet gekozen worden om gebruik te maken van tabel D achterin het boek.

Hoe bereken je het t-betrouwbaarheidsinterval voor twee steekproeven?

Stel: we trekken een SRS van grootte n1 uit een normaalverdeelde populatie met een onbekende µ₁ en we trekken ook een onafhankelijke SRS van grootte n₂ uit een andere normaalverdeelde populatie met een onbekende µ₂. In dat geval wordt het betrouwbaarheidsinterval als volgt berekend:

• Bereken eerst het verschil x̄₁- x̄₂.
• Bereken daarna t* als de wortel uit (s²₁/ n₁+s²₂/ n₂).
• De gehele formule is: x̄₁- x̄₂ ± t* , waarbij t* de wortel is van (s²₁/ n₁+s²₂/ n₂).

Wat de standaarddeviaties van de populaties zijn is dus niet van belang voor deze formule.

Wat is robuustheid van berekeningen op basis van twee steekproeven?

De t-toets op basis van twee steekproeven is robuuster dan de t-toets die op een enkele steekproef is gebaseerd. Wanneer beide steekproeven van dezelfde grootte zijn en de bijbehorende populaties dezelfde vorm hebben, dan zijn de waarden uit de t-tabel behoorlijk accuraat, als de steekproeven maar minimaal uit 5 deelnemers bestaan. Het is daarom aan te raden om steekproeven van gelijke grootte te kiezen als dat mogelijk is. De t-toets voor twee steekproeven zijn het meest robuust tegen niet-normaliteit in dit geval. Wanneer de twee populatiedistributies verschillende vormen hebben, zijn er grotere steekproeven nodig.

Wat is van belang bij kleine steekproeven?

De power van significantietoetsen is vaak klein wanneer gebruik gemaakt wordt van kleine steekproeven. De foutenmarge dat bij de betrouwbaarheidsintervallen hoort is juist erg groot. Ondanks deze moeilijkheden kunnen we toch belangrijke conclusies trekken op basis van kleine steekproeven. De steekproefgrootte heeft invloed op de p-waarde van een toets. Een effect dat niet significant is op een specifiek significantieniveau, kan dat wel worden als een grotere steekproef uit de populatie getrokken wordt.

Hoe bereken je de vrijheidsgraad?

De vrijheidsgraad (degree of freedom) geeft informatie over hoeveel verschil achter de komma toelaatbaar is. Er bestaan formules om de vrijheidsgraad (df) zelf te berekenen, maar dit kan makkelijker (en betrouwbaarder) worden gedaan met behulp van statistische software. De meeste software heeft een functie of knop waarmee je de degrees of freedom kunt laten berekenen.

We zeggen dan dat we de t-toets poolen. Het resultaat is:

• s²_p = (n₁-1)s²₁+(n₂-1)s²₂/ n₁+n₂-2. De uitkomst wordt ook wel de gepoolde schatter van σ² genoemd. Als we hier de wortel uittrekken, dan hebben we de gepoolde standaarddeviatie gevonden. Deze kunnen we weer gebruiken om een betrouwbaarheidsinterval te berekenen:

x¯1−x¯2±t∗sps21n1+s22n2−−−−−−−−√

• Om de nulhypothese te toetsen (die beweert dat de gemiddelden van beide populaties hetzelfde is), kan de gepoolde standaarddeviatie ook gebruikt worden:

x¯1−x¯2/sp1n1+1n2−−−−−−−−√

Het nadeel van t-toetsen die op twee steekproeven gebaseerd zijn, is dat ze uitgaan van de aanname dat de twee onbekende populatiestandaarddeviaties gelijk aan elkaar zijn. Deze aanname is moeilijk te verifiëren. Het poolen van t-toetsen is daarom risicovol.

Waar moet je verder nog op letten bij gevolgtrekkingen?

Hoe moet je de steekproefgrootte kiezen?

Bij het ontwerpen van een onderzoek kun je gebruik maken van software bij ondersteuning in het kiezen van de steekproefgrootte.

Het kiezen van een geschikte steekproefgrootte voor betrouwbaarheidsintervallen vergroot de betrouwbaarheid en minimaliseert de kans op fouten. Om de steekproefgrootte te bepalen, is het volgende noodzakelijk:

• Het betrouwbaarheidsniveau C
• De maximale marge voor toelaatbare fouten m
• De kritieke waarde t* waarbij C slechts n – 1 vrijheidsgraden heeft
• De geschatte waarde van de standaarddeviatie van de populatie s*

De formule wordt dan: m ≤ t* s* /√n

Soortgelijke onderzoeken of pilot studies kunnen dienen om de standaarddeviatie te schatten (s*). Om de foutenmarge zo klein mogelijk te maken, is het beter om een standaarddeviatie een klein beetje groter in te schatten dan wat je verwacht.

De hoeveelheid data die beschikbaar komt, wordt vaak met het voortschrijden van het onderzoek minder dan vooraf ingepland, bijvoorbeeld omdat participanten afhaken. Bij het bepalen van de steekproefgrootte is het handig om hier alvast rekening mee te houden.

Hoe bereken je de power van de t-toets?

De power van een toets meet het vermogen van de toets om afwijkingen van de nulhypothese vast te stellen. De precieze berekening van de power van de t-toets is wat complexer, omdat er rekening gehouden moet worden met het feit dat de standaarddeviatie van de steekproef gebruikt moet worden om de standaarddeviatie van de populatie te schatten. Vaak wordt de precieze power niet berekend, maar wordt er genoegen genomen met een benadering van de power. Deze berekening lijkt erg op die van de z-toets:

• Bepaal een standaarddeviatie, significantieniveau, de een- of tweezijdigheid van de toets en een alternatieve hypothese. Het is altijd beter om een waarde van de standaarddeviatie te gebruiken die iets groter is dan wat we zouden verwachten.
• Noteer bij welke gebeurtenis de nulhypothese afgewezen zal worden (in termen van x̄).
• Vind de kans op deze gebeurtenis als de alternatieve hypothese waar zou zijn.

De power van de t-toets berekenen voor twee steekproeven volgt dezelfde principes als bij een enkele steekproef. De niet-centrale t distributie (noncentral t-distribution) sluit hierbij aan. Hiervoor is het nodig om de niet-centrale parameter (noncentrality parameter) te bepalen. Software berekent de exacte power van de t-toets, in plaats van een benadering.

Welke statistische methoden gebruik je bij populaties die niet normaal verdeeld zijn?

Wat te doen als een populatie niet normaal verdeeld is en als de steekproef klein is? Er zijn in dat geval drie alternatieven:

• Soms geeft een niet-normaal verdeelde distributie een goede beschrijving van de data. Er zijn veel niet-normaal verdeelde modellen voor data en er zijn ook statistische procedures beschikbaar voor deze modellen.
• Het is ook mogelijk om te proberen de afwijkende data te transformeren in normaal verdeelde data. Er zal dan geen sprake zijn van een perfect normaal verdeelde distributie, maar de distributie zal wel zo normaal verdeeld mogelijk zijn. Deze transformatie kan gemaakt worden met het logaritme. Daarmee wordt de rechterstaart van een distributie aangepakt.
• Tot slot kan een distributievrije methode gebruikt worden. Zo een methode heeft niet als aanname dat de populatie normaal verdeeld moet zijn. Distributievrije procedures worden ook wel non-parametrische procedures genoemd.

Wat is de tekentest?

Een voorbeeld van de makkelijkste en meest gebruikte non-parametrische procedure is de tekentest (the sign test). Negeer bij een tekentest de paren met een verschil van nul: het aantal gebeurtenissen n is de telling van de overige paren. De teststatistiek is de telling X van paren met een positief verschil. P-waarden voor X zijn gebaseerd op de binomiale B(n,1/2) distributie. De tekentest toetst in feite de hypothese dat de mediaan van de verschillen nul is. Als p de kans is dat een verschil positief is, dan is p 0.5 als de mediaan 0 is. De nulhypothese is dat de populatiemediaan 0 is en de alternatieve hypothese is dat de populatiemediaan groter dan 0 is. De tekentest maakt geen gebruik van echte verschillen, er wordt alleen gekeken of scores gestegen zijn. Omdat er niet naar inhoudelijke verschillen wordt gekeken, is de tekentest veel minder sterk dan de t-toets.