Wanneer en hoe wordt log-lineaire analyse gebruikt? - Chapter 17

Wat zijn log-lineaire modellen?

Log-lineaire modellen zijn modellen die kunnen worden gebruikt om afzonderlijke gegevens van experimenten met meerdere onafhankelijke variabelen te onderzoeken. Met meerdere bedoelen we meer dan twee onafhankelijke variabelen. In het geval van twee onafhankelijke variabelen heeft het log-lineaire model niet veel meer te bieden dan de standaardbenadering (bijvoorbeeld een Chi-kwadraat-test). Voor gevallen met een hogere dimensie, bijvoorbeeld drie-, vier- of vijf-dimensionale situaties, hebben log-lineaire modellen de voorkeur. Om log-lineaire modellen echter beter te begrijpen, zullen we beginnen met eenvoudige contingentietabellen met twee dimensies (variabelen) omdat deze veel gemakkelijker te begrijpen zijn.

Een belangrijk kenmerk van log-lineaire modellen is dat ze zowel afhankelijke als onafhankelijke variabelen behandelen, waardoor het onderscheid tussen deze wordt genegeerd. Meestal worden in dit geval relaties onderzocht die symmetrisch zijn. Symmetrische relaties zijn relaties waarin alle variabelen gelijk worden behandeld als afhankelijke variabelen. Asymmetrische relaties daarentegen maken wel onderscheid tussen afhankelijke en onafhankelijke variabelen. Log-lineaire modellen kunnen beide behandelen, maar het verschil komt meer in interpretatie dan in wiskunde. Voor symmetrische modellen wordt de interesse gelijkmatig verdeeld. Voor asymmetrische modellen, zal de interesse zich meer richten op de afhankelijke variabele en de relatie met onafhankelijke variabelen.

Hoe wordt een log-lineaire analyse opgesteld voor twee onafhankelijke variabelen?

Zoals hierboven vermeld, zullen we beginnen met het geval van twee onafhankelijke variabelen. Niet omdat een log-lineair model meer te bieden heeft dan de standaardbenadering, maar omdat het veel gemakkelijker is om dit scenario uit te leggen en te begrijpen. Voor complexere scenario's laten we steeds meer berekeningen over aan computersoftware.

Voorbeeld

Stel dat we een onderzoek doen naar de aanleg van jurrors. We verwachten dat jurrors hun oordeel over verdachten baseren op het vermeende gedrag van het slachtoffer. Daarom proberen advocaten vaak een strategie te volgen om de jurrors te laten geloven dat het slachtoffer op een of andere manier verantwoordelijk is voor de misdaad, bijvoorbeeld door het verleden van het slachtoffer aan te vallen. Voor dit voorbeeld verkrijgen we een contingentietabel (zie tabel 25) met twee variabelen: de mate waarin het slachtoffer als 'fout' werd beschouwd en het feitelijke vonnis. Merk op dat de verwachte frequenties volgens de standaardtest van onafhankelijkheid van deze twee variabelen tussen haakjes worden toegevoegd.

Tabel 25.

Wanneer we de formule voor de Chi-kwadraat statistiek gebruiken, dat is:

\[X^2=\frac{\sum{(O-E)^2}}{E}\]

(dit is de Chi-kwadraat formule)

resulteert dat in 35.93, wat significant is met α = .05. Als we dit nu veranderen in de likelihood -ratio statistic, dan krijgen we: 

\[\frac{\sum{(f_{ij}-F_{ij})^2}}{F_{ij}}\]

De verandering in notatie komt dus, kortgezegd, erop neer dat de geobserveerde cel frequenties in cel c_ij worden omgezet in f_ij en de verwachtre frequenties in diezelfde cel worden omgezet in F_ij. 

Model 1 ("Equiprobability model")

Met behulp van het simpelste model; het equiprobability-model, dat is het model waarin we veronderstellen dat respondenten zichzelf willekeurig over de vier cellen verdelen, verkrijgen we:

• Waargenomen: 153; 24; 105; 76
• Verwacht: 89,5; 89,5; 89,5; 89.5

Vervolgens is de waarschijnlijkheidsratio-test:

• X2 = 2 Σ f_ij ln (f_ij / F_ij)
• = 2 (153 ln (153 / 89.5) + 24 ln (24 / 89.5) + 105 ln (105 / 89.5) + 76 ln (76 / 89.5)
• = 109,6

Deze test-statistiek kan worden onderzocht met behulp van de Chi-kwadraatverdeling met 4 - 1 = 3 vrijheidsgraden. Met behulp van de appendixtabel voor de Chi-kwadraatverdeling vinden we dat X2.05 (3) = 7.82. Daarom kunnen we de nulhypothese verwerpen en concluderen dat dit model niet goed past bij de gegevens.

Model 2 en 3 (Conditionele equiprobability modellen)

Het eerste model, het equiprobability-model, paste niet goed in de gegevens. In dit eerste model was er geen variabele die bijdroeg aan de waargenomen frequenties. We gaan nu verder met een tweede model, het voorwaardelijke of conditionele equiprobability-model, waarbij de waargenomen frequenties afhankelijk zijn van één variabele. In dit geval gebruiken we Oordeel als de voorwaardelijke variabele. We verkrijgen nu:

• Waargenomen: 153; 24; 105; 76
• Verwacht: 129; 50; 129; 50

Dit resulteert in een waarschijnlijkheidsratio-test van 37,4 met 4 - 2 = 2 vrijheidsgraden. Merk op dat we nu slechts twee vrijheidsgraden hebben, omdat we een andere beperking hebben opgelegd: de celfrequenties in elke kolom moeten de verwachte frequentie voor dat model optellen. Hier levert het resultaat X2.05 (2) = 5,99 op waarvoor we opnieuw de nulhypothese zullen verwerpen. Dit tweede model past dus ook niet in de waargenomen gegevens.

Het voorwaardelijke equiprobability-model zou ook kunnen worden ontwikkeld voor de variabele "Aandeel". Wederom is het resultaat echter een significante teststatistiek, wat betekent dat het model niet goed past bij de gegevens.

Model 4 (wederzijds afhankelijkheidsmodel)

We gaan nu verder met het vierde model, het wederzijdse afhankelijkheidsmodel, waarin we aannemen dat de twee factoren gezamenlijk werken, maar onafhankelijk om de verwachte celfrequenties te behandelen.

Als we uitgaan van de onafhankelijkheid van de twee variabelen, verkrijgen we:

\[F_{ij}=\frac{RT*CT}{GT}=\frac{f_i*F_j}{f...}\]

waarbij RT (f_i.) verwijst naar het rijstotaal, CT (f_.j) naar het kolomtotaal en GT naar het eindtotaal. Voor deze berekening gebruiken we de verwachte frequenties zoals vermeld in Tabel 25 en verkrijgen we een waarschijnlijkheidsverhouding X² = 37,4 die significant is bij 1 vrijheidsgraden. We concluderen dus dat een model dat een onafhankelijkheid tussen de twee variabelen (schuldig en oordeel) voorstelt, ook niet goed past bij de gegevens.

Verzadigd model

Het laatste model is een uitbreiding van het model van wederzijdse afhankelijkheid. We voegen nu het interactie-effect toe tussen Verdict en Fault. Dit model heeft evenveel parameters als cellen (dat wil zeggen 4: een intercept, een rij-effect, een kolom-effect en een interactie-effect). Dit model past perfect bij de data met X² = 0.00. Daarom concluderen we dat we de gegevens niet adequaat kunnen aanpassen, tenzij we een interactie tussen de variabelen toestaan.

Hoe een log-lineair model te specificeren?

De notatie die wordt gebruikt voor log-lineaire modellen lijkt in het begin misschien wat lastig, maar is nauw verwant aan het model dat we in de variantieanalyse hebben gespecificeerd. Vergeet niet dat we in vorige hoofdstukken modellen hadden zoals:

\[X_{ijk}=\mu+\alpha_i+\beta_j+\alpha\beta_{ij}+e_{ijk}\]

Het log-lineaire model heeft termen die hier parallel aan zijn. De parameter τ (tau) lijkt sterk op het (grand) gemiddelde μ en de behandelingseffecten worden omgezet in de natuurlijke logaritme van tau, weergegeven als λ (lambda). Dit resulteert in een specificatie van de vijf modellen zoals gerapporteerd in tabel 26.

Table 26.

Conditionele odds en odds ratio

We introduceren nog twee concepten die van belang zijn bij log-lineaire modellering: conditionele odds en odds ratio. In ons voorbeeld is de conditionele odds om schuldig te worden bevonden, wanneer het slachtoffer wordt beschouwd als een laag aandeel hierin te hebben, 153/24 = 6.4. Dus in de groep met weinig aandeel zijn de kansen om schuldig te te worden bevonden 6.4: 1. Met andere woorden, voor elke persoon in de groep met laag slachtoffersaandeel die niet schuldig wordt bevonden, worden 6.4 schuldig bevonden. Evenzo is de conditionele odds om schuldig te worden bevonden, waneer het slachtoffer als hoog op Aandeel werd beschouwd, 1.4. Ten tweede, als er geen interactie is tussen Oordeel en Aandeel, wordt verwacht dat de odds ratio ongeveer 1,00 is. In plaats daarvan vinden we in het voorbeeld een odds ratio (Ω) van 6.4 / 1.1.4 = 4.6. Dit betekent dat de kans dat een verdachte schuldig wordt bevonden in de lage aandeel conditie 4,6 keer groter is dan de kans dat een verdachte schuldig wordt bevonden in de hoge aandeel conditie. Zo kunnen we dus concluderen dat de strategie "het slachtoffer de schuld geven" lijkt te werken.

Assumpties

De assumpties van log-lineaire modellen zijn vergelijkbaar met die van de traditionele Chi-kwadraat-test. Er zijn geen assumpties over populatieverdelingen. Er wordt echter wel aangenomen dat de waarnemingen onafhankelijk zijn. Bovendien moeten de verwachte frequenties, net als bij de Chi-square test, groot genoeg zijn om aan te nemen dat de frequenties in elke cel normaal verdeeld zijn over herhaalde steekproeven. We hebben opnieuw alle verwachte frequenties nodig o die groter zijn dan één en streven naar (als vuistregel) het geval waarin niet meer dan 20% van de cellen verwachte frequenties minder dan vijf hebben. Het grootste probleem met log-lineaire modellen doet zich voor in het geval van schaarse matrices (sparse matrices), dat wil zeggen wanneer de contingentietabel veel lege cellen bevat. In deze situaties wordt geadviseerd om categorieën te combineren op basis van een theoretische reden, of variabelen samen te voegen, of de steekproefgrootte te verhogen.

Hoe kun je log-lineair modellen testen?

Het centrale probleem bij log-lineaire modellering is het kiezen van welk model het beste bij de gegevens past. Gewoonlijk worden deze modellen stapsgewijs getest. Merk op dat we nooit een verzadigd model passen omdat we hopen dat het past - dat weten we van tevoren (het is het meest complexe model en past daarom het beste bij de data). We passen dit model meestal toe in de hoop dat het zal helpen om eenvoudiger modellen te identificeren door niet-significante effecten te identificeren. Kortom, een gebruikelijke benadering voor log-lineaire modelaanpassing is de stapsgewijze procedure, waarbij men begint met het verzadigde model en vervolgens onderzoekt wat er in verschillende delen van het model gebeurt (om die uit te kunnen sluiten in het uiteindelijke model).

Hoe kun je een log-lineair model voor drie variabelen gebruiken?

We gaan nu verder met het drie-dimensionale scenario, dat wil zeggen de situatie met drie variabelen. In deze situaties kan de standaard Chi-kwadraatanalyse geen volledig inzicht in de gegevens opleveren.

Er zijn verschillende opties beschikbaar in SPSS om log-lineaire modellen te berekenen voor meer dan twee variabelen: SPSS GENLOG, SPSS LOGLINEAR en SPSS HILOGLINEAR.

Om het drie-weg log-lineaire model te illustreren, breiden we ons vorige voorbeeld uit met een derde variabele: moraal.

Table 27.

In dit voorbeeld, zijn er 18 (!) hypotheses te onderzoeken. Een aantal daarvan staan hieronder benoemd (M = Moraal; V = Verdict (oordeel) en A = Aandeel)

• ln(F_ij) = λ + λ^M
• ln(F_ij) = λ + λ^V
• ln(F_ij) = λ + λ^M + λ^V
• ln(F_ij) = λ + λ^M + λ^V + λ^MV
• ln(F_ij) = λ + λ^A + λ^M + λ^V + λ^MV 
• ln(F_ij) = λ + λ^A + λ^M + λ^V + λ^MV + λ^AM 
• ln(F_ij) = λ + λ^A + λ^M + λ^V + λ^MV + λ^AM + λ^AV + λ^AMV 

Het laatste model (model 7) is het verzadigde model. 

Hoe de resultaten van een log-lineaire analyse te interpreteren?

Voor deze cursus is het niet zo belangrijk om de wiskunde en berekeningen achter log-lineaire modellen volledig te begrijpen. Het gaat er echter om dat je de resultaten van deze modellen kunt interpreteren. Daarbij zijn de belangrijkste effecten vrij gemakkelijk te begrijpen en vergelijkbaar met wat in vorige hoofdstukken is besproken. Maar hoe kunnen we de interactie-effecten interpreteren? Stel dat we in het hierboven besproken voorbeeld een interactie-effect vinden tussen Aandeel (slachtoffer) en Oordeel (verdachte). Wanneer wordt vastgesteld dat het slachtoffer weinig aandeel heeft gemaakt, is de kans voor de verdachte voor een schuldig oordeel 6.38. In plaats daarvan, wanneer het slachtoffer wordt gezien als zijnde hoog in aandeel, is de kans op een schuldig vonnis te zijn slechts 1.38. De odds-ratio is dus 6,38 / 1,38 = 4,62. En de odds ratio is ln (4.62) = 1.53. Kort samengevat houdt dit in dat het schuldoordeel duidelijk afhangt van de mate waarin het slachtoffer wordt beschouwd een aandeel te hebben in het geheel. 

Tentamen ticket

• Log-lineaire modellen lijken erg op de traditionele Chi-kwadraat test. Ze hebben de voorkeur in het scenario van meer dan twee variabelen. Voor deze cursus is het niet belangrijk om de wiskunde achter deze modellen volledig te begrijpen. Om de essentie van dit hoofdstuk te vatten, volstaat het om te oefenen met de notatie en interpretatie van een log-lineair model met drie variabelen.