Multivarijatna statistika Ak.god. 2013./2014.
Tradicionalan pristup poučavanju statistike 1. Univarijatna statistika: karakteristike distribucije rezultata, mjere centralne tendencije, raspršenja ili
varijabiliteta… oje često označavamo označavamo 2. Bivarijatna statistika: odabir testa ovisi o karakteristikama varijabli (V) u analizi k oje kao zavisne varijable (ZV) ili nezavisne varijable (NZV). Npr: - Kontinuirana V i kontinuirana V-> Pearson ili bivarijatna regresija - Dihotomna NZV i kontinuirana ZV -> point-biser -> point-biserijalna, ijalna, t-test - Dihotomna V i dihotomna V –> “ fi” - Politomna NZV i kontinuirana ZV – ANOVA - Više kontinuiranih ili dihotomnih NZV i kontinuirana ZV -> Multipla regresija 3. Multivarijatna statistika - Politomna NZV i više kontinuiranih ZV -> MANOVA - Više kontinuiranih V i više kontinuiranih V -> Kanonička korelacija (CC)…
Tradicionalan pristup poučavanju statistike 1. Univarijatna statistika: karakteristike distribucije rezultata, mjere centralne tendencije, raspršenja ili
varijabiliteta… oje često označavamo označavamo 2. Bivarijatna statistika: odabir testa ovisi o karakteristikama varijabli (V) u analizi k oje kao zavisne varijable (ZV) ili nezavisne varijable (NZV). Npr: - Kontinuirana V i kontinuirana V-> Pearson ili bivarijatna regresija - Dihotomna NZV i kontinuirana ZV -> point-biser -> point-biserijalna, ijalna, t-test - Dihotomna V i dihotomna V –> “ fi” - Politomna NZV i kontinuirana ZV – ANOVA - Više kontinuiranih ili dihotomnih NZV i kontinuirana ZV -> Multipla regresija 3. Multivarijatna statistika - Politomna NZV i više kontinuiranih ZV -> MANOVA - Više kontinuiranih V i više kontinuiranih V -> Kanonička korelacija (CC)…
Istraživačka pitanja i njima povezane statističke metode Ako nas zanima... zanima... 1. Stupanj povezanosti među varijablama , onda koristimo... a) Bivarijatni r – procjena stupnja povezanosti između dvije kontinuirane varijable - mjeri povezanost između dvije varijable bez da pravi razliku između nezavisne i zavisne varijable, dok bivarijatna regresija predicira regresija predicira rezultat u jednoj varijabli (ZV) na temelju rezultata druge varijable (NV) b) Multipli R – procjena stupnja u kojem je jedna kontinuirana varijabla (ZV) povezana sa setom drugih
(najčešće kontinuiranih) varijabli (NV), koje zajedno čine novu, kompozitnu varijablu - prema tome, multipla korelacija je bivarijatna korelacije između originalne ZV i kompozitne varijable koju čini set NV - multipla regresija predicira rezultat u ZV na temelju rezultata u više NV c) Hijerarhijski R - u hijerarhijskoj regresijskoj analizi, nekim NV je dana prednost nad drugima , tj. u analizi, efekti onih -
NV koje su prve unešene procjenjuje se i uklanja prije procjene NV koje su kasnije unešene za svaku NV u hijerarhijskoj regresijskoj analizi, NV većeg prioriteta (one koje su prve unešene) djeluju kao kovarijati onim NV nižeg prioriteta (koje su kasnije unešene)
-
stupanj povezanosti ZV i seta NV procjenjuje se ponovno nakon svakog koraka hijerarhijske analize
d) K anonički anonički R išestruka analiza frekvencija e) V išestruka f) Multilevel modeling
2. Značajnost grupnih razlika
Kada se ispitanici po slučaju raspoređuju raspoređuju u skupine, osnovno je istraživačko pitanje u kojoj su mjeri statistički značajne razlike u ZV povezane sa pripadnošću grupom (tj. sa nivoima NV) a) Jednosmjerna ANOVA i t-test - uspoređuje dvije ili više srednjih vrijednosti kako bi utvrdila razlikuju li se statistički značajno b) Jednosmjerna ANCOVA - procjenjuje razlike u grupama na jednoj ZV nakon statističkog „otklanjanja“ efekta jednog ili više kovarijata, koji se bira na temelju njegove povezanosti sa ZV c) Faktorska ANOVA - više NV, jedna ZV d) Faktorska ANCOVA ANCOVE samo po tome što u faktorskoj ima više NV - faktorska ANCOVA razlikuje se od jednosmjerne ANCOVE e) Hotelling`s T² - koristi se kada NV ima 2 skupine (kada je NV na 2 nivoa), a kada imamo više ZV, tj. Hotellingov T² koristi se kako bi vidjeli razlikuju se dvije dv ije skupine na dvije kombinirane ZV - to je poseban slučaj multivarijatne analiza varijance (MANOVA-e), kao što je t -test poseban slučaj univarijatne analize varijance (ANOVA-e), kada NV ima samo dva nivoa f) Jednosmjerna MANOVA h) Faktorska MANOVA - više ZV, jedna NV - više ZV, više NV g) Jednosmjerna MANCOVA i) Faktorska MANCOVA - više ZV, jedna NV, kovarijat(i) - više ZV, više NV, kovarijat(i)
3. Predikcija pripadnosti grupi 1. Jednosmjerna diskriminantna analiza – procjena pripadnosti grupi (ZV) na temelju seta varijabli (NV)
PREGLED UNIVARIJATNE I BIVARIJATNE STATISTIKE
1. USPOREDBA DVIJU ILI VIŠE SKUPINA NEZAVISNIH REZULTATA
Problem višestrukih usporedbi nezavisnih grupa - ukoliko želimo usporediti grupe A, B i C na rezultatima neke intervalne ili omjerne varijable, primjena višestrukih t testova dovesti će do povećanja vjerojatnosti α - pogreške - rješenje ovog problema su omnibus testovi, koji istovremeno testiraju razlik u između svih skupina (npr. F -test, analiza varijance) - ako dobijemo statistički značajan F omjer znamo da se skupine međusobno razlikuju, ALI kako onda znati koje se skupine međusobno razlikuju jedna od druge?
3 načina 1. Apriori planirane usporedbe (npr. placebo skupina vs. sve eksperimentalne) 2. Kontrasti (linearni, kvadratni, kubični..) 3. Post-hoc testovi višestrukih usporedbi po parovima (sve moguće usporedbe)
Jedna od metoda kontrole α- pogreške je i Bonferroni metoda 1. 2.
Odluči koja razina rizika je prihvatlj iva (npr. p<0,05) Utvrdi koliko usporedbi želiš napraviti (N). Maksimalan broj usporedbi za k broj grupa je:
( ) 3.
Izračunaj koliki mora biti p korigirani za svaku usporedbu u paru da bi ostali na prihvatljivoj razini rizika određenog u prv om koraku:
4.
Standardnim testovima napravi višestruke usporedbe, odbaci Ho samo ako dobiješ da je p manji od izračunatog pkor .
ANALIZA VARIJANCE
Analiza varijance je set analitičkih procedura temeljenih na usporedbi dvije procjene varijance. Jedna procjena odnosi se na ralike u rezultatima unutar svake skupine, te se ona smatra slučajnom ili varijancom pogreške . Druga proizlazi iz razlika u rezultatima između skupina, te predstavlja odraz grupnih razlika zbog tretmana plus pogreške. Ako se ove dvije procjene ne razlikuju značajno, zaključujemo da svi rezultati dolaze iz iste skupine rezultata, tj. da nema razlike među analiziranim skupinama. Ako i postoje razlike među njima, one su posljedicom pogreške ili slučaja. S druge strane, ako se skupine razlikuju statistički značajno, zaključujemo da su rezultati iz pojedinih skupina „izvučeni“ iz različitih skupina. Omjer ove dvije varijance naziva se F-omjerom.
Kako se "analizira varijanca"? Odgovor u par slika! Podsjetnik : t-test stavlja u omjer razliku između aritmetičkih sredina grupa i standardnu pogrešku te razlike. F omjer stavlja u omjer varijance ili prosječne sume kvadratnih odstupanja rezultata.
Kako se izračunava varijanca u analizi varijance?
( )
Suma kvadratnih odstupanja u ANOVA-i je zapravo nazivnik ovog razlomka, tj.
( ) A korijen iz varijance je standardna devijacija.
ANOVA i drugi testovi Analiza varijance i t-test : nema znatnije razlike! Dokaz: 1. Na dvije nezavisne skupine provedite t-test i analizu varijance.
2. Izračunajte korijen iz F omjera dobivenog analizom varijance i usporedite s rezultatom t -testa (vrijednosti su iste!) U novije vrijeme analiza varijance se opisuje preko regresijskog modela. Nema suštinske razlike između analize
varijance i regresijske analize. Razlike su isključivo u istraživačkim tradicijama. Tradicionalno analiza varijance učestalija je u eksperimentalnim istraživanjima i prirodnim znanostima, a regresijska analiza u opservacijskim (korelacijskim) istraživanjima i društvenim znanostima.
Terminologija analize varijance, eksperiment i korelacija
Zbog eksperimentalističke tradicije varijable se u analizi varijance uglavnom dijele na nezavisne varijable (ponegdje nazvane "faktori") i zavisne varijable.
U eksperimentalnom nacrtu pretpostavlja se da nezavisnu varijablu možemo slobodno manipulirati (npr. doza lijeka: 0 ili placebo, 5mg, 10mg, 15mg) te da razina nezavisne varijable utječe (izravno ili posredno) na zavisnu varijablu (npr. diastolički i sistolički tlak). U navedenom slučaju ispravno je koristiti termine nezavisna, zavisna varijabla i efekt ili utjecaj nezavisne varijable na zavisnu. Mnogi nacrti su kvazieksperimentalni jer se nezavisna varijabla ne može slobodno manipulirati. U društvenim
znanostima (i mnogim istraživanjima vezanim uz ljude) moguća su samo opservacijska ili korelacijska istraživanja. Ako želimo ispitati odnos između rase (postojeće grupe, pripadnost grupi ne može se manipulirati) i inteligencije, u ok viru terminologije analize varijance govorit ćemo o EFEKTU rase na inteligenciju, ali moramo uvijek imati na umu da ne možemo zaključivati o uzročno-posljedičnim vezama već samo o proporciji varijance zavisne varijable (inteligencija) koja je povezana ili se može objasniti s varijabilitetom rezultata u nezavisnoj varijabli (rasa). Ako postoje rasne razlike u inteligenciji, one ne moraju biti posljedica rasne pripadnosti (socio-ekonomski status, kulturalni utjecaji...). Iz navedenog vidljiva je povezanost u mjetno razdvojenih statističkih metoda. Kakvu interpretaciju rezultata ćemo
koristiti ovisi o metodologiji i nacrtu istraživanja.
Primjena jednosmjerne analize varijance - Eksperimentalna, kvazieksperimentalna i terenska ("field studies") istraživanja. - Testira se jesu li aritmetičke sredine u zavisnoj varijabli podjednake za nezavisne skupine određene nezavisnom varijablom (faktorom). Varijable u bazi: 1. Zavisna, kvantitativna, kontinuirana (intervalna ili omjerna) varijabla. 2. Nezavisna kvantitativna (broj tableta) ili kvalitativna (rasa) varijabla koja dijeli uzorak na više nezavisnih skupina (tzv. faktor). Uzorak se dijeli na onoliko grupa koliko ima razina nezavisne varijable. - Svaka jedinica analize (ispitanik) u retku baze ima navedena dva podatka: rezultat na zavisnoj varijabli i pripadnost grupi na nezavisnoj varijabli.
Preduvjeti za analizu 1. Neovisnost rezultata: Slučajan uzorak iz populacije i rezultati u mjerenoj varijabli su nezavisni jedan od drugoga. U suprotnom dobivaju se nepouzdane p vrijednosti. 2. Normalnost distribucije rezultata u zavisnoj varijabli za svaku populaciju jedinica analize definiranu pojedinom razinom nezavisne varijable (faktora).
Ako preduvjet nije zadovoljen (posebice kod velikih asimetrija i platikurtičnosti) smanjena je snaga testa i p koeficijent je nepouzdan. Veći uzorci smanjuju nepouzdanost p koeficijenta. 3. Homogenost varijance: varijance rezultata u zavisnoj varijabli trebale bi biti podjednake na sv akoj razini nezavisne varijable. Ako preduvjet nije zadovoljen i ako skupine jedinica analize na svakoj od razina nezavisne varijable nisu podjednako brojne p koeficijent je nepouzdan. Mogu se koristiti alternativni testovi (Browne-Forsythe, Welch, a za post-hoc: Dunnett C ili T3, Games-Howel, Tamhane T2).
Veličina efekta Ukoliko se analiza varijance provodi u okviru općeg linearnog modela, dostupna je mjera veličine efekta zvana etakvadrat (η2). Predstavlja proporciju varijance rezultata u zavisnoj varijabli koja je povezana s nezavisnom varijablom. Varira od 0 do 1. Interpretacija veličine efekta ovisi o području istraživanja, ali je uobičajeno vrijednosti 0.01, 0,06 i 0,14 smatrati malim, srednjim i velikim efektom (neslužbeno pojašnjenje: vjerojatno se misli na ove intervale: do 0,05, 0,06-0,13 te 0,14 i više).
Interpretacija ANOVA-e (Uvjeti za analizu se ne navode ukoliko su zadovoljeni – samo se napomene da su provjereni i zadovoljeni) S obzirom da su zadovoljeni svi preduvjeti z a parametrijsku analizu, provedena je jednosmjerna analiza varijance kako bi se utvrdilo postoje li razlike u simptomima prehlade između kontrolne i eksperimentalnih skupina. Uzimanje vitamina C predstavljalo je nezavisnu varijablu (faktor) prema kojoj su se razlikovale tri nezavisne s kupine ispitanika: placebo-kontrolna skupina i dvije eksperimentalne skupine (uzimanje srednje i velike doze).
Zavisnu varijablu predstavljalo je povećanje ili smanjene simptoma prehlade mjereno u danima skraćenja ili produljenja prehlade. Utvrđeno je da se grupe statistički značajno razlikuju u mjerenim simptomima prehlade (F(2, 27)=4,84; p<0,05) i da je stupanj povezanosti (η2) između uzimanja C vitamina i simptoma prehlade znatan pri čemu uzimanje C vitamina može objasniti 26% varijance promjena u simptomima prehlade. Post-hoc testom višestruke usporedbe u parovima (Bonferroni) utvrđeno je da se statistički značajno
razlikuju placebo grupa (M=3,50; SD=4,14) od obje eksperimentalne grupe koje su imale statistički značajno manje simptome prehlade (M1=-2,10, SD=4,07; M2= -2,00, SD=5,48). Eksperimentalne grupe nisu imale statistički značajno različite simptome.
Neparametrijska zamjena za ONEWAY ANOVA s nezavisnim skupinama: Kruskal-Wallis test - Testira jesu li medijani ZV podjednaki na svim nivoima NZV (faktora). - Svi rezultati (bez obzira na grupu) rangiraju se. Za svaku grupu računa se prosječan rang. Kruskal-Wallis test
rezultira statistikom označenom slovom H. - Kada je broj jedinica analize po grupama veći od 5, H statistik ima distribuciju sličnu χ2 distribuciji, što omogućuje
utvrđivanje statističke značajnosti razlika među grupama (p). U tom slučaju koristi se χ2 statistika kako bi provjerili nul-hipotezu o jednakosti medijana u svim grupama.
Preduvjeti za analizu 1. Neovisnost rezultata: Slučajan uzorak iz populacije i r ezultati u mjerenoj varijabli su nezavisni jedan od drugoga. U suprotnom dobivaju se nepouzdane p vrijednosti. 2. Distribucije rezultata moraju biti podjednake u svim grupama. U suprotnom test ne odražava samo razliku u medijanima, već i u oblicima distribucija. 3. Vezani rangovi predstavljaju problem (programi koriste korekciju za vezane rangove) 4. Veličina uzorka: χ2 statistika za ovaj test tek je aproksimativna i povećava joj se točnost na većim uzorcima (N>29; broj ispitanika u svakoj grupi mora biti veći od 5)
Veličina efekta Rezultati se mogu pretvoriti u rangove i potom se može izračunati η2 iz ANOVA -e. η2 može se izračunati i izravno iz χ2 koeficijenta prema ovoj formuli:
Post-hoc usporedbe Kako bi utvrdili koje grupe se statist ički značajno razlikuju mogu se provesti Mann-Whitney U testovi za svaki par, uz
Bonferroni metodu kontrole alpha pogreške.
Interpretacija Proveden je Kruskal-Wallis test kako bi se utvrdile razlike u medijanima simptoma prehlade između grupa koje su uzimale različite količine vitamina C (placebo, srednja i velika doza). Uzimanje vitamina C predstavljalo je nezavisnu
varijablu. Zavisnu varijablu predstavljalo je povećanje ili smanjene simptoma prehlade mjereno u danima skraćenja ili produljenja prehlade.
Utvrđeno je da se grupe statistički značajno razlikuju u mjerenim simptomima prehlade (χ2(2, N =30)=6,92; p<0,05). Uzimanje vitamina C objasnilo je znatnu proporciju varijance rangirane zavisne varijable kojom su mjereni simptomi
prehlade (η2=0.24), što ukazuje na značajnu povezanost između uzimanja vitamina C i smanjenja simptoma prehlade.
Testovi višestrukih usporedbi provedeni su Mann -Whitney U testom uz Bonferroni korekciju za kontrolu alpha pogreške. Rezultati su pokazali da se statistički značajno razlikuje placebo grupa (C0 = 3; Q3-1=3) od prve eksperimentalne grupe koja je imale statistički značajno manje simptome prehlade (C1 = -2,5; Q3-1=4), ali ne i od druge eksperimentalne grupe (C2 = -5; Q3- 1=11). Eksperimentalne grupe nisu imale statistički značajno različite simptome.
Iz priloženog vidimo: - neparametrijske zamjene ne moraju rezultirati istim zaključcima kao parametrijski testovi - na značajnost razlike ne utječu samo parametri poput mjera centralne tendencije već i standardne pogreške parametara koje su usko vezane uz raspršenje rezultata oko mjere centralne tendencije (npr. Q3-1=11)
2. USPOREDBA DVIJE ILI VIŠE SKUPINA ZAVISNIH REZULTATA
Zavisne i nezavisne skupine rezultata. U čemu je razlika? Želite znati kako različite količine konzumiranog alkohola utječu na fluentnost govora? NACRT A: Po zakonu slučaja podijelite ispitanike u nekoliko skupina i svakoj date različitu količinu alkohola. Potom mjerite fluentnost govora.
Na rezultat će tek u određenoj mjeri utjecati alkohol. Dio varijance rezultata koji se neće moći objasniti razlikama u konzumiranom alkoholu (npr. puno alkohola i fluentan ili bez alkohola i ne baš fluentan) može se povezati sa spolom, tolerancijom na alkohol i drugim RELEVANTNIM INDIVIDUALNIM RAZLIKAMA. Sve to donek le kompenzira razvrstavanje ispitanika u grupe po zakonu slučaja. NACRT B: Svakom ispitaniku mjerite fluentnost govora nakon konzumacije različite količine alkohola, npr. 0, 1, 2, 3, 4 čaše vina. Dobivate pet zavisnih skupina rezultata. Kontroliraju se individualne razlike (nema ih jer u različitim
mjerenjima sudjeluju isti ispitanici). Reducira se nesistematski varijabilitet. Povećava se snaga testa. Zašto se ne može koristiti formula analize varijance za nezavisne skupine? Zato jer je narušen jedan od preduvjeta: Neovisnost rezultata. Rezultati u mjerenoj varijabli nisu nezavisni jedan od drugoga. Rezultati dobiveni u različitim eksperimentalnim uvjetima najvjerojatnije su međuovisni i povezani jer dolaze od iste jedinice analize (istog ispitanika).
Preduvjet: sferičnost rezultata S obzirom da je očekivano da će ponovljena mjerenja imati određen stupanj povezanosti, mora se pretpostaviti podjednak stupanj povezanosti među ponovljenim mjerenjima (1.-2.; 2.-3. i 1.-3.). Nešto stroži uvjet ("compound s ymmetry") zahtjeva da varijance skupina rezultata budu podjednake (isto kao homogenost varijance kod ANOVA-e za nezavisne skupine) i da kovarijance parova zavisnih skupina rezultata budu podjednake. Iako ANOVA za zavisne rezultate nema preduvjet neovisnosti rezultata, javlja se novi preduvjet: SFERIČNOST REZULTATA (ε - epsilon).
Taj preduvjet se testira samo ako imamo više od dva ponovljena mjerenja (više od dvije zavisne skupine rezultata) Preduvjet sferičnosti sličan je preduvjetu homogenosti varijance u ANOVA-i za nezavisne skupine. Odnosi se na homogenost varijance razlika među ponovljenim mjerenjima. Ako se izračunaju razlike između svakog para ponovljenih mjerenja (1.-2.; 2.-3. i 1.-3.), varijance dobivenih razlika trebale bi biti podjednake.
Testiranje preduvjeta sferičnosti: Testira se Mauchley testom sferičnosti (značajan p ukazuje da je narušen preduvjet sferičnosti). Test provjerava nul-hipotezu po kojoj su varijance razlika u rezultatima različitih ponovljenih mjerenja homogene. Ako preduvjet nije zadovoljen mogu se koristiti kore kcije (ε-epsilon, Greenhouse-Geisser; Huynh-Feldt) ili
multivarijatni test (MANOVA, λ lamda). Multivarijatni test zahtjeva multivarijatnu normalnost distribucije rezultata.
Takođe, ispitanici odabrani iz populacije po zakonu slučaja; rezultati različitih ispitanika (usporedba po redovima) su nezavisni (rezultat ispitanika A na prvom mjerenju je nezavisan od rezultata ispitanika B na prvom mjerenju).
Analiza varijance za zavisne uzorke
F omjer stavlja u omjer varijance ili prosječne sume kvadratnih odstupanja rezultata.
Veličina efekta Za ANOVA-u s ponovljenim mjerenjima navodi se parcijalni eta-kvadrat (η2). Izračun:
Kod primjene multivarijatnog Wilks' lambda (Λ) koristi se multivarijatni eta-kvadrat. Izračun:
Variraju od 0 do 1.
Primjena jednosmjerne analize varijance za zavisne rezultate
Eksperimentalna, kvazieksperimentalna, terenska ("field studies") istraživanja i longitudinalna istraživanja. Testira se jesu li aritmetičke sredine u zavisnoj varijabli podjednake na svim skupinama zavisnih rezultata (ponovljenih mjerenja). Svaka skupina rezultata predstavlja jednu razinu faktora po kojem se razlikuju eksperimentalni nivoi ili ponovljena mjerenja ("within subject factor").
LONGITUDINALNI NACRTI: isti ispitanici, isti instrumenti i metoda, različito vrijeme pribavljanja podataka (efekt vremena, maturacije…) EKSPERIMENTALNI NACRTI: isti ispitanici, isti instrumenti i metoda, sukcesivno uzimanje podataka pod
različitim eksperimentalnim uvjetima (uz rotaciju redoslijeda eksperimentalnih uvjeta). Efekt eksperimentalne manipulacije.
Rjeđe: ekvivalentni parovi ili različiti instr. s istom metrikom mjerenog fenomena.
Varijable u bazi: Za razliku od ANOVA- e za nezavisne skupine, u bazi ne postoji posebna nezavisna varijabla (faktor) koja određuje
razine ponovljenih mjerenja već samo veći broj zavisnih varijabli koje, svaka u svome stupcu, sadrže rezultate zavisne mjere. Broj varijabli (stupaca) jednak je broju razina faktora po kojemu su mjerenja ponovljena: U bazi postoje samo zavisne, kvantitativne, kontinuirane (intervalne ili omjerne) varijable od kojih svaka predstavlja po jednu skupinu zavisnih rezultata ili razinu f aktora po kojemu su mjerenja ponovljena. Svaka jedinica analize (ispitanik) u retku baze ima navedeno onoliko podataka koliko ima ponovljenih mjerenja tj. "zavisnih varijabli".
Interpretacija S obzirom da su zadovoljeni svi preduvjeti za parametrijsku analizu (Mauchly W=0,79; Hi2(2, N=15)=3,09; p>0,05)*,
provedena je jednosmjerna analiza varijance za zavisne skupine rezultata kako bi se utvrdilo osjećaju li profesori podjednak stupanj stresa kada su suočeni s različitim stresorima koji se odnose na interakciju sa studentima, roditeljima i administracijom. Faktor po kojemu se razlikuju zavisne skupine rezultata bio je izvor stresa, a zavisna varijabla bila je razina stresa povezana sa svakim od navedenih izvora. Rezultati ANOVA-e ukazuju da postoji statistički značajan efekt izvora stresa na stupanj doživljenog stresa (F(2,
28)=6,03; p<0.01). Izvor stresa objašnjava znatan dio varijance stupnja stresa kojeg doživljavaju profesori (η2=0,30). Ovi rezultati podržavaju hipotezu da profesori doživljavaju različiti stupanj stresa kada se suoče s različitim izvorima stresa.
Usporedbom rezultata dobivenih za različite izvore stresa (uz Bonferroni metodu kontrole alpha pogreške) utvrđeno je da profesori navode statistički značajno viši stupanj stresa uzrokovan administracijom (M=62,53; SD 18.04) u odnosu na stupanj stresa uzrokovan studentima (M=49.60; SD=15.69) ili roditeljima (M=52.27; SD=14.84). Stupanj
stresa uzrokovan studentima i roditeljima ne razlikuje se statistički značajno. *Preduvjeti su navedeni samo kao primjer navođenja Mauchly testa; ti se podaci ne moraju navesti ukoliko su preduvjeti zadovoljeni.
Neparametrijska zamjena za ONEWAY ANOVA-u sa zavisnim skupinama: Friedman test Ekstenzija Wilcoxson-ovog testa: ima istu logiku i preduvjete (Modul 1) Zavisna varijabla mora biti barem na ordinalnom mjernom nivou. Testira se nul-hipoteza po kojoj su medijani u populaciji jednaki za svaku razinu faktora koji dijeli rezultate na više zavisnih skupina.
Preduvjeti za analizu 1. Neovisnost rezultata: Slučajan uzorak iz populacije 2. Distribucije rezultata razlika među parovima nivoa faktora moraju biti kontinuirane i simetrične. U
suprotnom test ne odražava samo razliku u medijanima, već i u oblicima distribucija. 3. Veličina uzorka: χ2 statistika za ovaj test tek je aproksimativna i povećava joj se točnost na većim uzorcima (N>29)
Veličina efekta Veličina efekta izražava se Kendall-ovim koeficijentom konkordance (Kendall W). To je indeks snage povezanosti i varira od 0 do 1, pri čemu više vrijednosti ukazuju na veću povezanost.
Post-hoc usporedbe
Kako bi utvrdili koje grupe se statistički značajno razlikuju mogu se provesti Wilcoxon testovi za svaki par, uz Bonferroni metodu kontrole alpha pogreške.
Interpretacija Proveden je Friedman test kako bi se utvrdile razlike u medijanima doživljenog stresa profesora izloženih različitim stresorima. Test je ukazao da postoje statistički značajne razlike u stupnju doživljenog stresa ( χ2(2, N =15)=13,66, p<0,01), a Kendallov koeficijent konkordance (0,46) ukazuje na postojanje znatne povezano sti između izvora stresa i
stupnja doživljenog stresa.
Wilcoxonovim testom uz Bonferroni kontrolu alpha pogreške provedene su post -hoc analize usporedbe po parovima za svaki par izvora stresa. Utvrđeno je da profesori navode statistički značajno viši stupanj stresa uzrokovan administracijom (C=62; Q3-1=34) u odnosu na stupanj stresa uzrokovan studentima (C=45; Q3-1=18) ili roditeljima (C=55; Q3-1=19). Stupanj stresa izazvan studentima i roditeljima ne razlikuje se statistički značajno. o C=medijan; Q3-1=kvartilni raspon
Prosjeci, post-hoc usporedbe (označene slovima) i F omjeri u tablici
Prosjeci i post-hoc usporedbe (označene slovima) u tablici
Stupnjevi slobode Jednosmjerna analiza varijance sa zavisnim uzorcima df total = df wg + df bg df total = N – 1 (broj rezultata) df wg = N – k (k-broj grupa) df bg = k - 1
3. NACRT S JEDNOM ZAVISNOM VARIJABLOM I VIŠE DISKONTINUIRANIH FAKTORA (FAKTORSKA ANOVA)
Mogući nacrti s faktorskom analizom varijance Faktorske ANOVAe dijelimo na dvosmjerne , trosmjerne… ovisno o broju faktora čije efekte na zavisnu varijablu sagledavamo. Nezavisni faktorski nacrti: zavisna varijabla i dva ili više faktora koji dijele jedinice analize na nezavisne
skupine. Primjer dvosmjerne 2x3 ANOVAe: ukupna godišnja primanja zaposlenika različitog spola (2) i rase (3). Zavisni faktorski nacrti: ponovljena mjerenja na dva ili više faktora. Primjer dvosmjerne 2x4 ANOVAe: mjera anksioznosti kao stanja i kao osobine (2) u četiri naleta (“waves” npr: “A four-wave longitudinal
study”). Zavisna varijabla je anksioznost. Mješoviti nacrti: po nekim (jednom ili više) faktorima jedinice analize se dijele u nezavisne skupine, a po drugim (jednom ili više) faktorima se razlikuju ponovljena mjerenja zavisne varijable. Primjer trosmjerne 3x3x2 ANOVAe: Porast plaće kroz tri godine (3) kod zaposlenika različite rase (3) i spola (2)
Efekti faktora i interakcija
Svaka faktorska ANOVA daje za interpretaciju rezultata važne informacije o: 1. 2.
GLAVNIM EFEKTIMA faktora kojih ima onoliko koliko ima faktora u modelu i INTERAKCIJSKE EFEKTE – u dvosmjernoj axb ANOVAi postoji jedna dvosmjerna interakcija (AxB); u trosmjernoj axbxc ANOVAi postoje tri dvosmjerne (AxB; AxC; i BxC) i jedna trosmjerna interakcija (AxBxC) –
malim slovima označen je broj nivoa faktora, a velikim slovima označeni su faktori. Podsjetimo se: u eksperimentalnim nacrtima primjereno je govoriti o efektima faktora; u opservacijskim nacrtima
ispravno je govoriti o povezanostima faktora i ZV ili o prosječnim razlikama u ZV među grupama koje su određene faktorom.
Složenost nacrta Složeni nacrti mogu biti problematični zbog najmanje dva razloga: INTERPRETACIJA: dvosmjerne interakcije su zahtjevne za interpretaciju, trosmjerne interakcije je teško interpretirati, a složenije interakcije je još teže interpretirati 2. BROJ jedinica analize (ispitanika) po kombinacijama faktora (ćelijama) poželjno je da bude 30 ili veći. Kod 2x3 nacrta imamo 6 ćelija; kod 3x3x2 nacrta imamo 18 ćelija 1.
Interpretacije
U punom modelu ANOVAe uključeni su is tovremeno glavni efekti i interakcije. GLAVNI EFEKTI:
Glavni efekti pojedinog faktora ukazuju na značajnost razlika u zavisnoj varijabli između grupa koje određuje upravo taj faktor, uz kontrolu efekata svih ostalih faktora i interakcija (Sume kvadrata Tip III i više -> Tip IV do VI odnosi se na nacrte s nedostajućim podacima i praznim ćelijama; kada ih nema rezultati su identični SS Tipu III). Glavnim efektima pojedinog faktora testira se nul hipoteza da se grupe određene tim faktorom ne razlikuju statistički značajno u prosječnim grupnim rezultatima na zavisnoj varijabli (uz istovremenu kontrolu efekata ostalih faktora i interakcija.
Za interpretaciju glavnih efekata potrebno je izračunati aritmetičke sredine i standardne devijacije rezultata u ZV po grupama i napraviti planirane usporedbe ili post-hoc testove.
INTERAKCIJSKI EFEKTI Dvosmjernom interakcijom testira se nul-hipoteza da su efekti jednog faktora na zavisnu varijablu podjednaki na svim razinama drugog faktora. Ukoliko vam je osnovni zadatak utvrditi je li: - povezanost između zavisne varijable A i faktora B ili - efekt faktora B na zavisnu varijablu A ... podjednak na svim razinama faktora C onda provjeravate je li faktor C moderator tj. moderira li ef ekte (ili povezanost) faktora A na ZV.
Ponekad (često?) istraživači nemaju tako fokusirano istraživačko pitanje i ne mogu odrediti koji je faktor moderator (npr. u analizi efekata spola i rase na inteligenciju) . Tada je proizvoljno hoće li interpretacija ići u smislu efekata faktora B na ZV na različitim razinama faktora C ili efekata faktora C na ZV na različitim razinama faktora B. Nakon značajne interakcije najčešće se provjeravaju jednostavni glavni efekti ("simple main effects") tj. efekti faktora A zasebno na svakoj razini faktora B (koji teorijski može biti određen kao moderator).
Crtanje interakcija u faktorskoj ANOVAi
Statistički značajne interakcije prikazuju se grafički i najlakše ih je interpretirati pregledom grafa (puno teže ih je interpretirati iz aritmetičkih sredina grupa dobivenih kombinacijom faktora u interakciji). Najlakše je provjeriti jesu li linije koje predstavljaju rezultate ispitanika na ZV paralelne (nema statistički značajne interakcije) ili su pod kutom (ima statistički značajne interakcije). Trosmjerne interakcije se mogu grafički prikazati samo pomoću više grafova (po jedan za svaku razinu trećeg
faktora; potrebno ujednačiti skalu na "y" osi) ili s više linija na istom grafu, pri čemu se svaka linija koja predstavlja razinu drugog faktora crta posebno za svaku razinu trećeg faktora (drugi i treći faktor su uneseni u legendu). Vrlo lako se može dogoditi da glavni efekti faktora ne budu statistički značajni, a da bude statistički značajna samo interakcija. Tada bi interpretacija glavnih efekata, bez podatka o interakciji dove la do krivog zaključka. Primjer neznačajnih glavnih efekata i značajne interakcije Istraživači su na skali od 1 do 5 mjerili zadovoljstvo muškaraca i žena (faktor sa nezavisnim skupinama rezultata) sudjelovanjem u kompetitivnom i kooperativnom grupnom z adatku (zavisni rezultati; primjer mješovitog nacrta). Željeli su utvrditi postoje li spolne razlike u zadovoljstvu sudjelovanjem u grupnom zadatku i postoje li razlike u zadovoljstvu sudjelovanjem u raznim tipovima zadatka Zasebni testovi za nezavisne skupine utvrdili su da nema spolnih razlika u zadovoljstvu sudjelovanjem u zadacima
kada se ne uzima informacija o tipu zadatka (Mž=Mm=3). Zasebni testovi za zavisne skupine rezultata utvrdili su da nema razlike u zadovoljstvu sudjelovanjem u različitim tipovima zadatka, kada se ne uzima u obzir informacija o spolu ispitanika Mkomp = Mkoop = 3) Kada se provjeri interakcija faktora spol i tip z adatka, tj. kada se zadovoljstvo ispitanika kompetitivnim i kooperativnim zadatkom sagleda zasebno na poduzorcima i spitanika različitog spola, dobivaju se nove važne informacije.
Ispitanici različitog spola ne preferiraju podjednako kompetitivni i kooperativni zadatak. Muškarci više vole kompetitivni zadatak (5) u usporedbi s kooperativnim zadatkom (1), dok žene manje vole kompetitivni (1) u usporedbi s kooperativnim zadatkom (5).
Primjer grafičkog prikaza interakcija i glavnih efekata
Neparametrijske zamjene
Faktorska analiza varijance nema standardnu neparametrijsku zamjenu, ali u slučaju da nisu zadovoljeni svi uvjeti za faktorsku ANOVAu, glavni efekti (i jednostavni glavni efekti) mogu se provjeriti zasebnim neparametrijskim testovima.
Odabir neparametrijskog testa ovisi o broju skupina i ponovljenih mjerenja koji se uspoređuju -> Moduli 1 i 2). Dvije nezavisne skupine: Mann-Whitney
Više od dvije nezavisne skupine: Kruskal-Wallis Dva ponovljena mjerenja: Wilcoxon
Više od dva ponovljena mjerenja: Friedman Veličina efekta Ukoliko se analiza varijance provodi u okviru općeg linearnog modela, dostupna je mjera veličine efekta zvana parcijalni eta-kvadrat (η2). Predstavlja proporciju varijance rezultata u zavisnoj varijabli koja je povezana s nezavisnom varijablom. Varira od 0
do 1. Interpretacija veličine efekta ovisi o području istraživanja.
Preduvjeti za analizu 1. Neovisnost rezultata: Slučajan uzorak iz populacije i rezultati u mjerenoj varijabli su nezavisni jedan od drugoga. U suprotnom dobivaju se nepouzdane p vrijednosti. 2. Normalnost distribucije rezultata u zavisnoj varijabli za svaku populaciju jedinica analize definiranu pojedinom razinom nezavisne varijable (faktora).
Ako preduvjet nije zadovoljen (posebice kod velikih asimetrija i platikurtičnosti) smanjena je snaga testa i p koeficijent je nepouzdan. Veći uzorci smanjuju nepouzdanost p koeficijenta. 3. Homogenost varijance: varijance rezultata u zavisnoj varijabli trebale bi biti podjednake na sv akoj razini nezavisne varijable. Ako preduvjet nije zadovoljen i ako skupine jedinica analize na svakoj od razina nezavisne varijable nisu podjednako brojne p koeficijent je nepouzdan. Mogu se koristiti alternativni testovi (Browne-Forsythe, Welch, a za post-hoc: Dunnett C ili T3, Games-Howel, Tamhane T2).
Nejednaki broj ispitanika po ćelijama (grupama) Ako nemate nedostajuće podatke i broj ispitanika po grupama je podjednak, primjereno je koristiti SS Tip III. U slučaju da nedostaju podaci za neke ispitanike ili da su neke ćelije potpuno prazne primjereno je koristiti SS tip IV do VI (program Statistica preferira još uvijek nestandardan Tip IV) U slučaju različitog broja ispitanika u grupama koje se dobivaju kombinacijom razina faktora (često u opservacijskim-korelacijskim istraživanjima ili kombinacijama takvih istraživanja i eksperimenta: vidi Primjer 1) također je primjereno koristiti SS Tip IV do VI.
U takvim situacijama (SS Tip IV do VI) treba pri interpretaciji koristiti ponderirane aritmetičke sredine ("weighted means" ili "estimated marginal means")
Aritmetičke sredine se ponderiraju tako da se se aritmetička sredina ćelije pomnoži s frekvencijom rezultata u toj ćeliji, a umnožak se podijeli s ukupnom frekvencijom rezultata u svim ćelijama (brojem jedinica analize tj. ispitanika).
Interpretacija S obzirom da su zadovoljeni svi preduvjeti za parametrijsku analizu provedena je faktorska (3x2) ANOVA kako bi
provjerili efekte različitih metoda poučavanja (kontrolna grupa; individualni rad; grupni rad) na promjenu u općem školskom postignuću učenica i učenika. Rezultati su ukazali na statistički značajan efekt metoda poučavanja (F(2,54)=17.81, p<0,01, parcijalni η2=0.40) na promjenu u općem školskom postignuću. Učenici i učenice u skupini s intenzivnijim grupnim radom (M=0,473; SD=0,249) imali su statistički značajno veći napredak od skupine s int enzivnijim individualnim radom M=0,253; SD=0,178) i kontrolne skupine (M=0,135; SD=0,147). Skupina s intenzivnijim individualnim radom ne razlikuje se
značajno u napretku u usporedbi s kontrolnom skupinom. Razlike među grupama utvrđene su uz Bonferroni metodu kontrole alpha pogreške. Rezultati su pokazali da ne postoji statistički značajan efekt spola na promjenu u općem školskom postignuću
(F(1,54)=0.61, p>0,05, parcijalni η2=0.01), ali je utvrđena značajna interakcija metode i spola u njihovim efektima na promjene postignuća (F(2,54)=10.54, p<0,01, parcijalni η2=0.28) . S obzirom na značajnu interakciju odlučili smo provjeriti jednostavne efekte ("simple main efects") metode na uspjeh, zasebno za svaku podskupinu učenika i učenica. S obzirom na testiranje dva jednostavna efekta postavili smo graničnu alpha razinu na 0.025. Utvrđeno je da različite metode nemaju statistički značajan efekt na uspjeh za podskupinu učenika (F(2,54)=2.50, p>0,05), ali imaju za podskupinu učenica (F(2,54)=25.86, p<0,01). Post-hoc testovi razlika u uspjehu učenica koje su bile razvrstane u tri različite grupe prema metodi poučavanja uz
kontrolu alpha pogreške postavljanjem granične alpha razine na 0,008 (0,025/3) pokazali su da statistički značajno veći napredak postižu učenice u grupi intenzivnijeg grupnog rada (M=0.64, SD=0,15), u usporedbi s učenicama u grupi intenzivnijeg individualnog rada (M=0,17, SD=0,18) i u kontrolnoj grupi (M=0,11, SD=0,15), među kojima nije utvrđena statistički značajna razlika. Rezultati podržavaju hipotezu o spolu učenika kao moderatoru odnosa između metoda poučavanja i napretka u prosječnom školskom uspjehu. Metoda intenzivnijeg grupnog rada dovodi do boljeg uspjeha samo kod učenica, ali ne i kod učenika.
GENERAL LINEAR MODEL
Jednostavna multivarijatna forma GLMa 1. Multipla regresija: svi X-evi kontinuirani ili dihotomni, Y kontinuiran 2. ANOVA: svi Xevi diskontinuirani, Y kontinuiran 3. ANCOVA: neki X-evi kontinuirani, a neki diskontinuirani, Y kontinuiran 4. Diskriminantna analiza s dvije grupe: svi X-evi kontinuirani, Y dihotoman 5. Višesmjerna analiza frekvencija (Multiway frequency analysis): svi X-evi diskontinuirani, Y dihotoman (u
“logit” analizi) 6. Logistička regresijska analiza s 2 grupe: X-evi kontinuirani i/ili diskontinuirani, Y dihotoman 24
Puna multivarijatna forma GLMa
Karakteristika pune multivarijatne forme jeste veći broj varijabli i s lijeve i s desne strane jednadžbe. Cilj je utvrditi maksimalnu moguću povezanost između dva skupa vatijabli.
Tada ne postoji jedan linearni kompozit, već više linearnih kompozita (najmanje po jedan sa svake strane jednadžbe: jedan par linearnih kompozita). Također, ti linearni kompoziti nisu jedinstveni jer se varijable mogu na različiti način ponderirati i kombinirati kako bi se dobila maksimalna korelacija među skupovima varijabli, pa se može napraviti više parova linearnih kompozita koji se tjekom analize izdvajaju tako da svaki par objašnjava preostali dio povezanosti među skupovima varijabli. Dakle parovi linearnih kompozita su međusobno ortogonalni Tako punim multivarijatnim GLM- om možemo opisati ove analize:
I. Kanonička korelacija (u užem smislu): svi X-evi kontinuirani, svi Y-i kontinuirani 2. MANOVA: svi X-evi diskontinuirani, svi Y-i kontinuirani 3. MANCOVA. neki X-evi kontinuirani, a neki diskontinuirani. svi Y-i kontinuirani 4. Diskriminantna analiza: svi X-evi kontinuirani, svi Y-i diskontinuirani 5. Višesmjerna analiza frekvencija: svi X-evi diskontinuirani, Y diskontinuiran 6. Politomna logistička regresija: svi Xevi kontinuirani i/ili diskontinuirani, y diskontinuiran
REGRESIJSKA ANALIZA
- set statističkih postupaka kojima se procjenjuje odnos ZV i NV Jednostavna regresijska analiza- prognoziranje rezultata u kriteriju na temelju poznatog rezultata u jednom kontinuiranom prediktoru Y= a+ bX + e Multipla regresijska analiza ekstenzija je bivarijatne regresije u kojoj se kombinira više NV kako bi se predvidjela vrijednost ZV, tj. prognoziranje rezultata u kriteriju na temel ju poznatih rezultata u više prediktora
Y´= A + B1X1 + B2X2 + ... + BkXk + e gdje je Y' predviđeni rezultat ZV, A je intercept ili konstanta (vrijednost Y kada su sve X vrijednosti 0), X različite NV (kojih ima k broj), B je koeficijent pridodan svakoj NV tijekom regresije , tj. promjena rezultata u ZV za jediničnu promjenu rezultata u prediktoru (nagib pravca) e – standardna pogreška
β – standardizirani regresijski koeficijent – promjena u terminima standardnih devijacija
Malo o koeficijentima... Nestandardizirani regresijski koeficijent b - promjena rezultata u ZV za jediničnu promjenu rezultata u prediktoru ( u metrici ZV) - jedinična promjena u prediktorskoj indikator varijabli odražava razliku među grupama pa b predstavlja
razliku između aritmetičke sredine ZV za grupu označenu brojem 1 i grupu označenu brojem 0 - predznak pokazuje je l i aritmetička sredina grupe označene brojem 1 veća (+) ili manja (-) od aritmetičke
sredine grupe označene nulom - apsolutna vrijednost pokazuje kolika je razlika između aritmetičkih sredina
Standardizirani koeficijent β - standardizirana promjena rezultata u ZV za standardiziranu promjenu rezultata u prediktoru (nije u metrici ZV) - kod bivarijatne regresije β je po apsolutnom broju i po predznaku jednaka Pearsonovoj r korelaciji
Cilj regresijske analize je izvesti set vrijednosti B za NV kojim će vrijednost Y biti što je moguće sličnija Y vrijednostima dobivenim mjerenjem
Regresijski koeficijenti (npr. B) tako:
1. minimiziraju sumu kvadriranih derivacija između predviđenih i opaženih Y vrijednosti 2. optimiziraju korelaciju između predviđenih i opaženih Y vrijednosti
Za što sve nam služi regresijska analiza? 1. ispitivanje odnosa između ZV i nekoliko NV 2. ispitivanje odnosa između ZV i nekoliko NV, uz statističku kontrolu kovarijata 3. procjeniti koji set NV bolje predicira rezultat na ZV - regresijska analiza može se provodit na kontinuiranim, ali i dihotomnim varijablama - ANOVA je poseban slučaj regresijske analize u kojoj su glavni efekti i interakcije serije dihotomnih NV –možemo provesti ANOVA-u u regresijskoj analizi, ali često ne i obrnuto – ANOVA zahtijeva diskretne kategorije (npr. niska,
srednja i visoka razina NV, ili dummy kodiranje 0,1), ako se kontinuirana varijabla „sreže“ u te kategorije često se gube informacije, uz nejednak broj rezultata po ćelijama, dok se u regresijskoj analizi zadržava pun raspon kontinuirane NV
Tako, regresijska odgovara na brojna statistička pitanja, kao što su stupanj povezanosti, važnost NV, dodavanje NV, promjena NV, kontingencije između NV, usporedba seta NV, predikcija rezultata na ZV za članove novog skupa te procjene parametara.
Ograničenja regresijske analize - Berry (1993), Fox (1991) a) Teoretska pitanja 1. Regresijska analiza često otkriva odnos među varijablama , ali ne implicira da su ti odnosi kauzalni 2. Pitanje odabira varijabli u analizi, mjerenje istih – preporuka: koristiti NV koje su međusobno u niskim korelacijama, ali su u visokoj korelaciji s kriterijem. Time je cilj regresijske analize utvrditi najmanji broj NV potrebnih za predviđanje rezultata u ZV, pri čemu svaka NV predviđa odvojen i nezavisan dio varijabiliteta ZV 3. Regresijska analiza iznimno osjetljiva na kombinaciju varijabli koje su u nju uključenje, tj. je li određena NV važna
za rješenje regresijske analize, ovisi o setu NV 4. Regresijska analiza pretpostavlja da su NV mjerene bez pogreške , što je gotovo nemoguće u društvenim i bihevioralnim znanostima
b) Praktična pitanja 1.Broj ispitanika s obzirom na broj NV (omjer ispitanika i NV)
Veličina uzorka ovisi o željenoj snazi, razini α- pogreške, broju prediktora i očekivanoj veličini efekta Greenova (1991) jednostavna pravila: 1. 2.
za testiranje multiple korelacije: N ≥ 50 + 8m (pri čemu je m broj NV) za testiranje individualnih prediktora : N ≥ 104 + m pod uvjetom da je umjerena povezanost između NV i DV, da je α=0,05, a β=0,20
3.
za testiranje i multiple korelacije i individualnih prediktora- izračunati oba N-a i odabrati veći
Ipak, veći broj ispitanika potreban je kada je ZV skewed, kada se očekuje mala veličina efekta ili kada se očekuje
znatna pogreška mjerenja u manje pouzdanim varijablama ALI, ak o imamo prevelik broj ispitanika, gotovo svaka multipla korelacija biti će značajna 4.
kod stepwise regresijske analize, omjer ispitanika i NV mora biti 40 :1
2. Izostanak multikolineranosti i singularnosti - izračun regresijskih koeficijenata zahtijeva inverziju matrice korelacija između NV, koja je nemoguća ako su NV singularne, te nestabilna ako su multikolinearne – to se može javiti ako su NV međusobno u visokim korelacijama
Koja je razlika između multikolinearnosti i singularnosti? Multikolinearnost i singularnost su problemi u korealcijskoj matrici koji se događaju kada su varijable previsoko koreliranje. Kod multikolinearnosti, varijable su previsoko korelirane (npr. iznad 0,9), kod singularnosti su varijable redundantne – jedna od varijabli je komb inacija dvije ili više drugih varijabli
Znaci multikolinearnosti i singularnosti - vrlo nizak Tolerance (koji se izračunava kao 1-SMC, a SMC su squared multiple correlations, ili kvadrirane multiple
korelacije među NV) - u regresijskoj analizi, veoma viso ke standardne pogreške regresijskih koeficijenata Berry (1993): kada je r 0.9, standardne pogreške regresijskih koeficijenata poduplaju se, ali ako je prisutna
multikolinearnost, niti jedan od regresijskih koeficijenata neće biti značajan zbog visokih standardnih pogrešaka Tolerance je vrijednost koja mjeri korelaciju između prediktora i varira od 0 do 1. Što je broj bliže 0, to je jača veža između nje i ostalih varijabli. VIF je alternativna mjera kolinearnosti, samo u suprotnom smjeru od Tolerancea- što je veći broj, to je jača veza.
3.Normalnost, linearnost, homoscedascitet reziduala
Pregled Scatter dijagrama reziduala daje nam informacije o normalnosti, linearnosti i komoscedascitetu između predviđenih rezultata na ZV i pogreške u predviđanju. Tj. dijagramom raspršenja rezultata možemo provjeriti sljedeće preduvjete regresijske analize: normalnost, homoscedascitet, linearnost, ekstremne vrijednosti i nezavisnost pogreške. Pretpostavka analize je da su reziduali (razlika između opažnih i predviđenih vrijednosti ZV) normalno
distribuirani oko predviđenih vrijednosti ZV, da su u linearnom odnosu sa predviđenim vrijednostima na ZV, te da je varijanca reziduala oko predviđenih vrijednosti na ZV ista za sve predviđene vrijednosti. Što se događa sa Scatter dija gramima kada ti preduvjeti nisu zadovoljeni?
Heteroscedascitet –kada je raspršenje standardnih devijacija
reziduala oko predviđenih vrijednosti puno veće za najduži raspon u odnosu na najuži raspon - Fox, (1991) kaže da je to oko 3 puta 4.Nezavisnost pogrešaka Pretpostavka regresijske analize, koja se može testirati na temelju analize reziduala je da su pogreške predviđanja nezavisne jedna od druge. Testira se Durbin Watson testom.
Koeficijent determinacije R- maksimalna moguća povezanost između kriterija i prediktora, jednaka je Pearsonovom koeficijentu korelacije
R²- koeficijent determinacije, proporcija objašnjene varijance F,df, i p- testiraju značajnost R koeficijenta, tj. nul-hipotezu - testira značajnost razlike između grupnih aritmetičkih sredina u ZV, tj. značajnost razlike između
aritmetičke sredine grupe 0 i grupe 1 u ZV - u bivarijatnoj regresiji, F je identičan onome iz ANOVA-e
K ako možemo izračunati koeficijent determinacije (R²)?
Razlike između opažnih vrijednosti Zv (Y), srednja vrijednost Y i predviđena vrijednosti Y zbrajaju se i kvadiraju,
čime dobivamo procjenu varijacije koja se može pripisati različitim izvorima. Tako, ukupna suma kvadrata za Y može se podijeliti u sumu kvadrata zbog regresije i sumu kvadrata reziduala, tj. SSy= SSreg + SSres
Ukupna suma kvadrata za Y je:
SSy=Σ (Y -M)²
zapravo suma kvadiranih razlika između, za svakog ispitanika, opaženog rezultata Y i srednje vrijednosti Y dobivene na temelju svih N ispitanika (M)
Suma kvadrata za regresiju je:
SSreg = Σ (Y' – M)²
zapravo dio varijacije u Y koja može biti objašnjena NV kao prediktorom, tj. suma kvadrata razlika između predviđene vrijednosti Y' i srednje vrijednosti Y, jer je srednja vrijednost Y najbolji prediktor prave vrijednosti Y kada nemamo korisnih nezavisnih varijabli.
Suma kvadrata reziduala:
Ssres= Σ (Y – Y')²
je zapravo suma kvadriranih razlika između opaženih (Y) i predviđenih vrijednosti (Y'), te predstavlja pogrešku u predikciji.
Tako, kvadrirana multipla korelacija, iliti R² je
Tj. kvadrirana multipla korelacija je proporcija kvadrirane sume za regresiju u ukupnoj sumi kvadrata za Y. Ona je proporcija varijacije u ZV koja se može objasniti najboljom linarnom kombinacijom nezavisnih varijabli, ili
prediktora, tj. ona je korelacija između opaženih i predviđenih Y vrijednosti R= r yy'
Ali, koeficijent determinacije možemo izvesti i na temelju korelacija između svake od NV sa ZV. Kvadrirana multipla korelacije je suma kroz sve NV koje su produkt korelacije između ZV i NV te standardiziranih regresijskih koeficijenata za NV, tj.
∑
gdje je svaki ryi korelacija između ZV i NV, a βi je standardizirani regresijski koeficijent, ili beta ponder. Standardizirani regresijski koeficijent je onaj koeficijen koji se primjeni na standardiziranu Xi vrijednost- tj. zrezultat od Xi vrijednosti- kako bi se predvidila standardizirana vrijednost u Y'.
Adjusted R²- uzima u obzir broj varijabli modela i broj ispitanika, stupnjeve s lobode - pošto je R često prenaglašen, koristi se korekcija koja odražava realniju sliku stanja u populaciji. R ne uzima
u obzir broj ispitanika, pa tako što je broj ispitanika manji, R je umjetno veći Kako izračunati Adj. R²?
( )( ) N – veličina uzorka k - broj nezavisnih varijabli ili prediktora
R²- koeficijent determinacije
Pravac regresije - određuje se na temelju najmanje sume kvadrata odstupanja pojedinačnih rezultata u varijabli Y od pravca - prognozirana vrijednost nalazi se na pravcu - rezidual: razlika između prognozirane vrijednosti i stvarne vrijednosti u varijabli
Kako izračunavamo pogrešku? Tako da kvadriramo reziduale (a to smo napravili tako da od predviđene vrijednosti oduzmemo opaženu vrijednost), podijelimo ih sa brojem ispitanika, i to sve korjenujemo.
PRIMJERI REGRESIJSKIH ANALIZA
1. LINEARNI MODELI S JEDNIM KONTINUIRANIM PREDIKTOROM
Problem: ispitati može li se predvidjeti cijena automobila na temelju njegove starosti. a) Pearsonov koeficijent korelacije
b) Regresijska analiza
Koeficijent determinacije iznosi 0.937, što znači da je 93,7% varijance cijene objašnjeno godinama - u ovom slučaju, R je jednak r
Cijena = 2916,942 – (27902,913)(Godine)
Rezulatati ukazuju da postoji statistički značajna povezanost između godina starosti auta i njegove cijene (R=0,97; F(1,8)=118,53; p<0,01).
Problem: Ispitati može li se predvidjeti srčani ritm s obzirom na visinu tjelesne temperature a) Pearsonov koeficijent korelacije : r = 0,25, p<0,01 b) Regresijska analiza
Rezultati ukazuju da postoji statistički značajna povezanost između tjelesne temperature i srčanog ritma (R=0,25; F(1,128)=8,80 p<0,01) Broj otkucaja u minuti = -88,10 + 4,40x tjelesna temperatura
Ukoliko bi varijable standardizirali – intercept bi nam bio nula
2. LINEARNI MODELI S VIŠE KONTINUIRANIH PREDIKTORA
Problem: ispitati može li se predvidjeti cijena automobila na temelju godina i broja kilometara?
Koristeći ENTER metodu, dobili smo statistički značajan model ( F 2,16=26.14, p<0.01. Adj R square= 0.74, značajan prediktor su kilometri: beta=-0.59 , p<0.05).
TIPOVI REGRESIJSKIH ANALIZA 1. 2. 3.
Standardna multipla regresija Hijerarhijska regresija
Statistička regresija
Standardna regresijska analiza - svi prediktori uneseni u analizu istodobno - svaki prediktor se ispituje kao da je unesen u RA nakon svih prediktora- svaki je procjenjen u terminima koliko doprinosi predikciji kriterija - svi se prediktori odjednom uključuju u model, suma
sr² nije jednaka R² ako su prediktori u korelaciji - može se dogoditi da NV nije značajna u rješenju regresijske analize, iako je visoko povezana s
kriterijem (ZV). Točnije, ako se te korelacija pokrivena drugim NV, jedinstveni doprinost te NV je
često vrlo malen, usprkos značajnoj korelaciji s kriterijem.
Hijerarhijska regresijska analiza - istraživač bira red unosa, na temelju teorijskih pretpostavki najčešće, uglavnom se prvo uključuju oni prediktori čiji
je efekt poznat, nakon čega se dodaju novi - služi testiraju eksplicitnih hipoteza
sr1² + r2² = R²
Statistička regresijska analiza – redoslijed unošenja prediktora temelji se na statističkim kriterijima - uspoređuju se dva prediktora i prediktori se unose redom po visini korelacije s kriterijem 1.
Forward selection- inicijalni model sadrži samo b. Računalo odabire među ponuđenim prediktorima onaj koji objašnjava najveći postotak varijance, odnosno onaj koji je u najvećoj korelaciji s kriterijem, te ga u analizu
zadržava ako je značajan. U daljnjim koracima uključuju se varijable koje imaju najvišu semiparcijalnu korelaciju s ostatkom i zadržavaju se one značajnog doprinosa
2.
Stepwise regression- uključuje nove prediktore po istom kriteriju, ali nakon unosa novog provjerava
korisnost prethodno uključenih prediktora, te ih izbacuje ukoliko su redundantni s naknadno uključenima
3.
Backward deletion - uključuju se svi prediktori u prvom koraku, izračunava se značajnost njihova doprinosa,
značajnost se uspoređuje sa kriterijem odbacivanja i isključuju se prediktori koji ga ne zadovoljavaju te se model ponovno procjenjuje
3. HIJERARHIJSKA REGRESIJSKA ANALIZA
Problem: Ispitati može li se predvidjeti osjećaj nekompetentnosti studenata pomoću varijabli neuroticizma,
samopoštovanja, straha od negativne evaluacije, osamljenosti, samopoštovanja i socijalne osjetljivosti.
Iako je modelom objašnjeno 48,6% varijance kriterija (R=0,486; F(7,345)=46,60; p<0,01), ovom metodom nije jasan doprinos svakog poj edinog prediktora u objašnjenju varijance kriterija! Problem: Ukoliko kontroliramo efekte neuroticizma i samopoštovanja mogu li ostale varijable prediktori značajno
doprinijeti objašnjenju kriterija?
KODIRANJE VARIJABLI U REGRESIJSKOJ ANALIZI VRSTE KODIRANJA 1. 2. 3.
Indikator (dummy) kodiranje Efekt kodiranje Ortogonalno kodiranje
- odabir vrste kodiranja NE mijenja R i F, ali mijenja b i interpretaciju rezultata!
EFEKT KODIRANJE Referentna grupa je uvijek -1, druga grupa je 1, a ostale 0 Interpretacija b- kod pojedine efekt varijable ukazuje na razliku između aritmetičke sredine ZV za grupu koja je u toj varijabli označena brojem 1 i aritmetičke sredine ZV za sve ostale grupe (predznak- jeli ta aritmetička sredina veća ili manja od one svih grupa) t-test – testira je li razlika aritmetičke sredine koja na efekt varijabli ima vrijednost 1 i aritmetičke sredine svih
grupa statistički značajna – nakon što se izdvoji efekt ostalih prediktora na ZV (multivarijatna regresija) Referentna grupa je u potpunosti izostavljena iz interpretacije!
INDIKATOR KODIRANJE Nominalna varijabla, 2 nivoa 0- referentna skupina, s njom se uspoređuju rezultati grupe koja u toj indikator varijabli ima oznaku 1 - zbog interpretacije neophodno naglasiti koja je grupa 0, a koja 1 Kako odabrati referentnu skupinu? a) kada imamo nominalnu varijablu na dva nivoa – svejedno nam je b) kada imamo nominalnu varijablu sa više nivoa: 1. kontrolna grupa (eksperiment) 2. grupa s najvećim brojem ispitanika 3. grupa sa srednje velikom aritmetičkom sredinom
Koraci dummy kodiranja 1. 2. 3. 4.
5.
Prebroji broj kategorija (k) Od broja kategorija oduzmi 1 – dobio si broj dummy varijabli Odaberi jednu grupu kao baseline – referentna grupa Rekodiraj varijable - dodijeli 0 referentnoj skupini u svim du mmy varijablama - u prvoj dummy varij abli dodijeli 1 prvoj grupi koju želiš uspoređivati sa referetnom (sve druge su 0) - ponovi dok ne kodiraš sve dummy varijable Provedi regresijsku analizu sa svim dummy varijablama!
4.PRIMJER REGRESIJSKE ANALIZE SA KODIRANIM VARIJABLAMA
Problem: Može li odabir glazbe (music affiliation) predvidjeti higijenu (change in hygiene) tijekom glazbenog festivala? ZV: Mjera higijene kroz tri dana festivala NV : Glazbena afilijacija, na 4 nivoa (indie, metalci, crusty i bez afilijacije)
Modelom s tri dummy (indikator) varijable objasnili smo 7.6% ukupne varijance promjene u higijeni (R² = .076, F
(3,119) = 3.27, p < .05), odnosno 7.6% varijance promjene higijene može se objasniti glazbenim opredjeljenjem.
Kako interpretirati svaku dummy varijablu posebno?
Ako u RA uključimo sve tri dummy varijable u isto vrijeme, naša baseline kategorija je uvijek 0, što znači da dobivamo 3 nove informacije: 1.
Promjena u higijeni Crusty vs No affiliation
2.
Promjena u higijeni Metaller vs No affiliation
3.
Promjena u higijeni Indie Kid vs No affiliation
RAZLIKA U ARITMETIČKIM SREDINAMA IZMEĐU NAVEDENIH GRUPA!
Crusty – No affiliation = (-0.966) – (-0.554) = - 0.412 Metaller – No affiliation = (-0.526) – (-0.554) = 0.028 Indie Kid – No affiliatin = (-0.964) – (-0.554) = - 0.410
Promjena u higijeni Crusty vs No affiliation U usporedbi sa osobama bez afilijacije, Crusty postaju sve smrdljiviji kroz tri dana festivala (B= -0.410, t=-2.46, p<0.05). Promjena u higijeni Metaller vs No affiliation U odnosu na osobe bez glazbe ne afiliijacije, kod Metallera nije došlo do promjene u higijeni (B=0.028, t=0.18, p>0.05). Promjena u higijeni Indie Kid vs No affiliation U usporedbi sa osobama bez afilijacije, Indie Kid postaju sve smrdljiviji kroz tri dana festivala (B=-0.410, t=-2.00, p<0.05).
Problem: dovodi li uzimanje stimulanta do promjene u libidu? ZV/KRITERIJ: Objektivna mjera libida
NV/PREDIKTOR: Doza stimulanta (količina) 1.
Placebo grupa (sugar pill)
2.
Niska doza Viagre
3.
Visoka doza Viagre
Modelom sa dvije dummy (indikat or) varijable objasnili smo 46% ukupne varijance libida (R² = .460, F (2,12) = 5.12,
p < .05), odnosno 46% varijance promjene libida može se objasniti količinom stimulansa.
Promjena u libidu Low dose vs Placebo U usporedbi sa osobama u kontrolnoj skupin i, osobe iz Low dose grupe imaju veći libido (B=1.00, t=1.13, p>0.05). Promjena u libidu High dose vs Placebo
U odnosu na osobe iz kontrolne skupine, osobe iz High dose grupe imaju veći libido (B=2.80, t=3.16, p<0.01).
SUPRESOR VARIJABLE Neke NV d obro prediciraju rezultat na ZV i povećavaju koeficijent determinacije na temelju njihove povezanosti sa drugim NV. To se naziva supresorskim efektom, jer takva varijabla su presira (potiskuje) varijancu koja je irelevantna u predikciji rezultata na ZV. Tim e je supresorska varijabla definirana ne vlastitom regresijskom težinom, već njenim
povećavanjem efekta drugih varijabli u setu NV. Cohen i sur. (2003) Tipovi supresije 1.
Klasična supresija
1 NV slabo predviđa rezultat na ZV, druga uopće ne predviđa rezultat na ZV, ALI druga služi kao supresor varijabla jer otklanja varijancu, pa je p redviđanje rezultata na ZV od strane prve NV povećano 2.
K ooperativna ili recipročna supresija
Nezavisne varijable su pozitivno povezane sa ZV, a međusobno negativno povezane (ili obrnuto), ALI obje imaju veće
korelacije sa ZV kada je svaka NV prilagođena drugoj 3.
Negativna supresija
Kada je znak regresijskog pondera suprotan od onog kojeg bi očekivali na temelju njegove korelacije sa ZV
Odnos beta koeficijenata i personove korelacije između ZV i prediktora mora biti sljedeći da bi mogli reći da
je došlo do supresije: 1. 2.
Pearsonova korelacija između NV i ZV je značajno manja od bete NV Personova korelacija NV i ZV imaju različite predznake
ANCOVA MODELI KONTROLA "TREĆE VARIJABLE" PRI RAČUNANJU EFEKTA DISKONTINUIRANE VARIJABLE (FAKTORA) NA KONTINUIRANU VARIJABLU (ZV) Svrha ANCOVAe
ANCOVA se koristi kada želimo utvrditi razlikuju li se aritmetičke sredine rezultata u zavisnoj varijabli dobivene od različitih grupa jedinica analize (ispitanika), nakon kontrole kovarijata (ili: kada bi sve jedinice analize imale jednak rezultat na kovarijatu; ili: nakon izdvajanja efekta kovarijata na zavisnu varijablu).
ANCOVA F testom testiraju se grupne razlike (faktor) aritmetičkih sredina zavisne varijable koje su prilagođene s obzirom na grupne razlike u kovarijatu. Prilagođene aritmetičke sredine nazivaju se i: "adjusted means" ili "Least squares means"
Koja je razlika u F-omjeru u ANOVA-i i ANCOVA-i? ANCOVA F-testom testiraju se grupne razlike (faktor) aritmetičkih sredina ZV koje su prilagođene s obzirom na grupne razlike u kovarijatu. Tj. F omjer u ANCOVI, za razliku od ANOVA-e koja u omjer stavlja varijance ili prosječne
sume kvadratnih odstupanja rezultata, stavlja prilagođene sume kvadratnih odstupanja, prilagođena prosječna kvadratna odstupanja i prilagođene aritmetičke sredine grupa Kako se "prilagođavaju" grupne aritmetičke sredine? Konceptualne osnove izračuna U osnovi analize kovarijance je regresijska analiza kojom pr edviđamo rezultate zavisne varijable temeljem rezultata
kovarijata. Nakon toga se prilagođavaju rezultati u zavisnoj varijabli za (hipotetsku) situaciju u kojoj bi kovarijat bio kontroliran (u kojoj se ispitanici ne bi razlikovali prema rezultatima u kovarijatu).
"Prilagodba" svakog pojedinačnog rezultata u zavisnoj varijabli: (Y-Y')=(Y-MY)- βy,x(X -MX)
Prilagodba svakog pojedinačnog rezultata (Y-Y') utvrđuje se na sljedeći način: razlika rezultata konkretnog ispitanika na kovarijatu i aritmetičke sredine svih rezultata na kovarijatu ponderira se s regresijskim koeficijentom predviđanja zavisne varijable temeljem kovarijata βy,x(X-MX), a navedeni izraz se oduzme od razlike između originalnog rezultata konkretnog ispitanika u zavisnoj varijabli i aritmetičke sredine svih rezultata u zavisnoj varijabli (Y-MY).
Računaju se prilagođene sume kvadratnih odstupanja, prilagođena prosječna kvadratna odstupanja i prilagođene aritmetičke sredine grupa (koje služe za interpretaciju glavnih efekata ANCOVAe). Kovari jatom prilagođeni glavni efekt se računa ovako:
Stupnjevi slobode vezani uz SSbg su k-1; stupnjevi slobode vezani uz SSwg su N-k-c (k=broj nivoa faktora, c=broj kovarijata, N=broj ispitanika)
Veličina efekta Od primarnog inter esa je parcijalni η2 za faktor, a ne kovarijat. Računa se:
bg=model; wg=greška
Zašto su izmislili ANCOVAu? Svrha kovarijata! Reducirati varijabilitet rezultata unutar grupe (varijancu pogreške), što uglavnom u eksperimentima omogućava točniju procje nu efekata NV (faktora). Tada se povećavaju F omjeri faktora (kovarijat je u većoj mjeri povezan sa zavisnom varijablom nego s faktorima koji su najčešće razine eksperimentalne manipulacije i definiraju grupe u koje su ispitanici razvrstani po zakonu slučaja). 2. Smanjiti mogućnost pogrešnih zaključaka u neeksperimentalnim nacrtima uslijed problema "treće varijable" koja sistematski kovarira s razinama faktora i zavisnom varijablom . Tada možemo reći da se analizom kovarijance pokušava utvrditi samostalan doprinos faktora objašnjenju zavisne varijable, uz kontroliran utjecaj kovarijata. F omjeri faktora (glavni efekti) nakon uvođenja kovarijata mogu biti manji, 1.
posebno u neeksperimentalnim nacrtima u kojima kovarijat kovarira i s faktorom i s kriterijem. Primjer: ZV
Inteligencija, NV Rasa i SES kao kovarijat (SES=socioekonomski status; SES se ne može modelirati kao zajednički uzrok, ali može biti jedan od mogućih medijatora u odnosu između rase i inteligencije) Korištenje analize kovarijance u neeksperimentalnim, opservacijskim nacrtima je teorijski i statistički diskutabilno. Iako predstavlja pokušaj poboljšanja zaključaka, nije zamjena eksperimentu i ne omogućuje uzročno-posljedične zaključke. Ne mogu se sa dovoljnom sigurnošću procijeniti prilagođene aritmetičke sredine. U opservacijskim nacrtima preferiraju se regresijski modeli (nacrt s inteligencijom, rasom i SESom mnogi lakše prihvaćaju u kontekstu regresijske analize s nominalnim i kontinuiranim prediktorima, iako su te analize u okviru GLMa matematički i konceptualno identične ANCOVAi; pitanje eksperimentalnih i korelacijskih istraživačkih tradicija). Neka (relativno) primjerena istraživačka pitanja Eksperimentalna istraživanja s predtestom i slučajnim rasporedom ispitanika u različite nivoe faktora (eksperimentalne i kontrolne skupine): Svi ispitanici sudjeluju u pred-testu i potom se po zakonu slučaja (ili temeljem njihovih rezultata na pred-
testu) razvrstavaju u grupe (nivoi faktora). Primjenjuje se eksperimentalna manipulacija (po zakonu slučaja može se odrediti koja grupa dobiva koju vrstu manipulacije) nakon koje svi ispitanici sudjeluju u post -testu (koji može biti ista mjera kao pred-test, ali i bilo koja druga mjera). Ukoliko su zadovoljeni preduvjeti ANCOVA test može uspješno prilagoditi rezultate zavisne varijable (posttesta) temeljem rezultata kovarijata (pred-testa).
U neeksperimentalnim nacrtima ispitanici pripadaju različitim grupama (u koje nisu raspoređeni po zakonu slučaja ili prema rezultatima na pred- testu), što otvara mogućnost da se grupe razlikuju i prema drugim varijablama koje su povezane sa zavisnom varijablom, a ne samo po odlici po kojoj su razvrstani u grupe.
Čak i ako u nacrt uključimo kovarijat, nismo sigurni u doprinos drugih varijabli. S obzirom da u takve nacrte mogu biti umiješani nekontrolirani čimbenici ("confounded designs") nije moguće doći do pouzdanih zaključaka o grupnim razlikama i nakon korigiranja aritmetičkih sredina prema vrijednostima kovarijata. Rezultati ANCOVAe u takvim nacrtima mogu navesti na pogre šne zaključke. Preduvjeti, ograničenja i specifičnosti 1.
Normalnost distribucije rezultata u zavisnoj varijabli za svaku razinu faktora i svaku specifičnu vrijednost
2.
kovarijata. Homogenost varijanci rezultata u zavisnoj varijabli za svaku razinu f aktora i svaku specifičnu vrijednost kovarijata.
3.
Slučajan uzorak i nezavisnost rezultata dobivenih od različitih jedinica analize.
Kovarijat je linearno i u podjednakoj mjeri (nagib regresijske linije) povezan sa zavisnom varijablom na svim razinama faktora: uvjet linearnosti i homogenosti nagiba regresijske linije (“homogeneity of. reg. slopes”).
Nakon unošenja kovarijata ne interpretiraju se klasične grupne aritmetičke sredine već aritmetičke sredine prilagođene rezultatima kovarijata. Grupne aritmetičke sredine mijenjaju se nakon unošenja kovarijata koji može smanjiti varijancu pogreške ili umanjiti problem sistematskog kovariranja "treće varijable" s zavisnom varijablom i eksperimentalnim manipulacijama.
Zbog toga nakon unošenja kovarijata u nekim programima nisu dostupni klasični post hoc testovi razlika između običnih aritmetičkih sredina (npr. SPSS-u je primjereno koristiti post-hoc dostupan u dodatnim opcijama: Bonferroni ili liberalniji, ali snažniji Sidak). S obzirom da se kovarijati uvode s ciljem utvrđivanja glavnih efekata faktora uz kontrolu kovarijata, efekti kovarijata
se često ne navode u interpretacijama, već samo prilagođeni glavni efekti, prilagođene aritmetičke sredine i standardne devijacije.
Varijable u uobičajenoj ANCOVA analizi 1. 2.
Jedna zavisna (kriterijska) varijabla (kontinuirana, intervalna ili omjerna)
Jedna ili više nezavisnih (prediktorskih) varijabli koje možemo zvati i faktori i koje dijele jedinice analize na dvije ili više podskupina (kvalitativna, nominalna) 3. Jedan ili više kovarijata čije efekte na zavisnu varijablu želimo kontrolirati prije testiranja efekata koje nezavisne varijable (faktori) imaju na zavisnu varijablu (kontinuirana intervalna ili omjerna varijabla).
Kada se u eksperimentalnim istraživanjima unosi kovarijat u analizu, prije ili nakon NV? Zašto? Kada i u kojim uvjetima se taj uvijet ne mora poštovati? Kovarijat se unosu u analizu prije NV, kako bi kontrolirao njegov efekt na ZV, tj. da utvrdimo da su se promjene u ZV dogovdile zbog variranja NV. Taj uvjet s e ne mora poštivati kada su prirodne grupe ili kada se može napraviti
raspodjela ispitanika u skupine po slučaju.
Homogenost regresijskih nagiba - uvod u logiku moderatora - Analizom moderatora provjerava se je li: a) povezanost između varijable A i B ili b) regresijski nagib prognoze rezultata varijable A prediktorom B ili c) efekt faktora B na zavisnu varijablu A ... podjednak na svim razinama moderatorske varijable C
Moderatorski efekt najčešće se statistički testira interakcijom varijable B i C (B*C). Ukoliko interakcija nije značajna, odgovor na prethodna pitanja je DA i prihvaćamo navedene nul-hipoteze. Ukoliko je interakcija značajna, odbacujemo navedene nul-hipoteze. Za konkretno pitanje homogenosti regresijskih nagiba zaključili bi da regresijski nagibi modela s A kriterijem i C kovarijatom nisu podjednaki na svim razinama faktora B te da navedeni preduvjet ANCOVAe nije zadovoljen.
Interpretacija ANCOVA-e Provedena je jednosmjerna analiza kovarijance (ANCOVA) kako bi utvrdili postoje li razlike u simptomima prehlade
između grupa ispitanika koje su uzimale različite količine C vitamina, nakon kontrole simptoma prehlade u prethodnoj godini. Uzimanje C vitamina predstavljalo je nezavisnu varijablu s tri nivoa (placebo, mala i velika doza), dok je zavisnu varijablu predstavljao broj dana sa simptomima prehlade u godini tretmana. Broj dana sa simptomima prehlade u godini prije tretmana uzet je kao kovarijat.
Preliminarnom analizom provjerena je pretpostavka o homogenosti regresijskih nagiba i utvrđeno je da je povezanost između kovarijata i zavisne varijable podjednaka na svim razinama nezavisne varijable (F(2,24)=1.47; p>0.05; parcijalni η2=0.11)*. Utvrđen je statistički značajan efekt doze C vitamina na broj dana prehlade nakon kontrole broja dana prehlade u prošloj godini (F(2,26)=6.45; p<0.01). Postoji znatna povezanosti između uzimanja vitamina C i zavisne varijable, na što ukazuje parcijalni η2 prema kojem uzimanje vitamina objašnjava 33% varijance zavisne varijable, držeći konstantnim broj dana sa simptomima prehlade prije tretmana koji objašnjavaju znatan dio varijance zavisne varijable (F(1,26)=14,53; p<0,01)*.
* Ovi podaci se poneka d ne navode (ekstremna ekonomičnost prikaza samo neophodnih rezultata u znanstvenim radovima) već se samo
konstatira da su preduvjeti zadovoljeni i da je kovarijat statistički značajno povezan sa ZV.
Post hoc usporedba (Bonferroni korekcija) aritmetičkih sredina broja dana sa simptomima prehlade, prilagođenih za inicijalne razlike među ispitanicima u simptomima, ukazuje da je placebo grupa imala statistički značajno višu aritmetičku sredinu (M=12.01; SE=1.12) od grupa s niskom (M=7.71; SE=1.12), i visokom dozom (M=6.67; SE=1.11) koje su imale podjednake rezultate.
Neparametrijske zamjene
Kao i za većinu složenih statističkiha analiza, neparametrijske zamjene za ANCOVAu nisu lako dostupne u mnogim statističkim programima. Neke mogućnosti iznosi Huitema, B . E. (1980).The analysis of covariance and alternatives. New York: John Wiley. Kada je kovarijat pred-test, analiza (i neparametrijska) može se provesti na razlici rezultata "post -test minus pred-test", ali ANCOVA ima veću snagu od navedene procedure.
TEHNIKA BLOKIRANJA kao zamjena za ANCOVA-u
Kada su kovarijati (CV) mjereni na drugoj skali, dopuštene su i druge alternative : randomiziranje po blokovima i blokiranje. Kod tehnike blokiranja predmeti su mjereni na CV i onda grupirani s obzirom na njihove rezultate (pr.
skupine visokog, srednjeg i niskog samopoštovanja na osnovu prijašnjih rezultata). Grupe subjekata (predmeta) postaju nivoi, razine druge skale NV koja je prešla s razine prve NV u faktorski dizajn.
PRIMJER ANCOVA-e I REGRESIJSKE AN ALIZE SA VIŠE KATEGORIJALNIH I KONTINUIRANIH PREDIKTORA
Problem: ispitati postoji li utjecaj konzumacije viagre na libido, uz kontrolu varijable parnterovog libida
Tests of Between-Subjects Effects Dependent Variable: Libido Source Corrected Model
Type III Sum of Squares 31,920a
df 3
Mean Square 10,640
F 3,500
Sig. ,030
Intercept
76,069
1
76,069
25,020
,000
partner
15,076
1
15,076
4,959
,035
dose
25,185
2
12,593
4,142
,027
Error
79,047
26
3,040
Total
683,000
30
Corrected Total
110,967
29
a. R Squared = ,288 (Adjusted R Squared = ,205)
Parameter Estimates Dependent Variable: Libido 95% Confidence Interval Parameter Intercept
B 4,014
Std. Error ,611
t 6,568
Sig. ,000
Lower Bound 2,758
Upper Bound 5,270
,416
,187
2,227
,035
,032
,800
[dose=1]
-2,225
,803
-2,771
,010
-3,875
-,575
[dose=2]
-,439
,811
-,541
,593
-2,107
1,228
.
.
.
.
.
partner
[dose=3]
0a
a. This parameter is set to zero because it is redundant.
Pairwise Comparisons Dependent Variable: Libido
(I) Dose of Viagra Placebo
(J) Dose of Viagra Low Dose High Dose
Low Dose High Dose
Placebo
Mean Difference (I-J) -1,786
95% Confidence Interval for a Difference a
Std. Error ,849
Sig. ,136
Lower Bound -3,959
Upper Bound ,388
-2,225*
,803
,031
-4,279
-,171
1,786
,849
,136
-,388
3,959 1,637
High Dose
-,439
,811
1,000
-2,515
Placebo
2,225*
,803
,031
,171
4,279
,439
,811
1,000
-1,637
2,515
Low Dose
Based on estimated marginal means *. The mean difference is significant at the ,05 level. a. Adjustment for multiple comparisons: Bonferroni.
ANCOVA je pokazala da postoji statistički značajan utjecaj partnerovog libida (kovarijata) na libido ispitanika (F1,26=4,96, p<0,05).
Uz kontrolu efekata partnerovog libida, statistički je značajan utjecaj količine Viagre na libido ispitanika (F2,26=4,14, p<0,05). Oni ispitanici koji su uzeli veliku dozu Viagre imaju statistički značajno veći libido od onih pod utjecajem placeba (p<0,05), pritom kontrolirajući efekt partnerovog libida.
Isti problem ispitan regresijskom analizom: Model Summary Change Statistics Model 1
R ,246a
R Square ,061
Adjusted R Square ,027
,536b
,288
,205
2
Std. Error of the Estimate 1,929
R Square Change ,061
F Change 1,809
1,744
,227
4,142
df1 1
df2 28
Sig. F Change ,189
2
26
,027
a. Predictors: (Constant), Partner's Libido b. Predictors: (Constant), Partner's Libido, Dummy V ariable 1 (Placebo vs. Low), Dummy Variable 2 (Pl acebo vs. High)
ANOVAc
Model 1
Regression
2
Sum of Squares 6,734
df 1
Mean Square 6,734 3,723
Residual
104,232
28
Total
110,967
29
Regression
31,920
3
10,640
Residual
79,047
26
3,040
110,967
29
Total
F 1,809
Sig. ,189 a
3,500
,030 b
a. Predictors: (Constant), Partner's Libido b. Predictors: (Constant), Partner's Libido, Dummy Variable 1 (Placebo vs. Low), Dummy Variable 2 (Placebo vs. High) c. Dependent Variable: Libido
Coefficientsa Unstandardized Coefficients Model 1
B 3,657
(Constant) Partner's Libido
2
Std. Error ,634
,260
,193
1,789
,867
,416
,187
Dummy Variable 1 (Placebo vs. Low)
1,786
Dummy Variable 2 (Placebo vs. High)
2,225
(Constant) Partner's Libido
Standardized Coefficients Beta ,246
t 5,764
Sig. ,000
1,345
,189
2,063
,049
,395
2,227
,035
,849
,411
2,102
,045
,803
,573
2,771
,010
a. Dependent Variable: Libido
Tests of Between-Subjects Effects Dependent Variable: Libido Source Corrected Model
Ty pe III Sum of Squares 52,346a
df 5
Mean Square 10,469
F 4,286
Sig. ,006
Intercept
53,542
1
53,542
21,921
,000
dose
36,558
2
18,279
7,484
,003
partner
17,182
1
17,182
7,035
,014
dose * partner
20,427
2
10,213
4,181
,028
2,443
Error
58,621
24
Total
683,000
30
Corrected Total
110,967
29
a. R Squared = , 472 (Adjust ed R Squared = ,362)
Problem: Ispitati kako se osobe osjećaju dan nakon pijanstva kada im se daju različiti napitci (coca-cola, voda i
energetsko piće), uz kontrolu koliko se osoba napila.
Tests of Between-Subjects Effects Dependent Variable: How Well Does The Person Feel? Type III Sum of Squares 13,320a
Source Corrected Model
3
Mean Square 4,440
F 11,068
Sig. ,001
145,006
1
145,006
361,456
,000
drunk
11,187
1
11,187
27,886
,000
drink
3,464
2
1,732
4,318
,041
Error
4,413
11
,401
Total
477,000
15
17,733
14
Intercept
Corrected Total
df
a. R Squared = , 751 (Adjusted R Squared = ,683)
Parameter Estimates Dependent Variable: How Well Does The Person Feel? 95% Confidence Interv al Parameter Intercept
B 7,116
St d. Error ,377
t 18,861
Sig. ,000
drunk
-,548
,104
-5,281
[drink=1,00]
-,142
,420
-,338
[drink=2,00]
,987
,442 .
0a
[drink=3,00]
Lower Bound 6,286
Upper Bound 7,947
,000
-,777
-,320
,741
-1,065
,781
2,233
,047
,014
1,960
.
.
.
.
a. This parameter is set to zero because it is redundant.
Isti problem kroz regresijsku analizu: Model Summary
Change Statistics Model 1 2
R ,746a
R Square ,556
Adjusted R Square ,522
,867b
,751
,683
Std. Error of the Estimate ,77842
R Square Change ,556
F Change 16,266
,63338
,195
4,318
df 1
df 2 1
13
Sig. F Change ,001
2
11
,041
a. Predictors: (Constant), How Drunk was the Person the Night Befor e b. Predictors: (Constant), How Drunk was the Person the Night Before, water v s. luc ozade, water v s. c ola
Coefficientsa Unstandardized Coeff icients Model 1
2
(Constant)
B 7,114
Std. Error ,440
How Drunk was the Person t he Night Bef ore
-,465
,115
(Constant)
6,974
,469
How Drunk was the Person t he Night Bef ore
-,548
,104
water vs. cola water vs. lucozade
Standardized Coeff icients Beta
-,746
-,879
t 16,151
Sig. ,000
-4,033
,001
14,869
,000
-5,281
,000
,142
,420
,062
,338
,741
1,129
,405
,489
2,785
,018
a. Dependent Variable: How Well Does The Person Feel?
MODERACIJSKI EFEKTI
Općenito, moderator je kvalitativna ili kvantitativna varijabla koja utječe na smjer i/ili snagu odnosa između nezavisne varijable ili prediktora te zavisne varijable ili kriterija. Unutar korelacijskih analiza, to je ona varijabla koja
mijenja inače nultu korelaciju između druge dvije varijable. Moderator = interakcijski efekt - efekt jednog faktora na ZV može biti različit na različitim nivoima drugog faktora - efekt interakcije u ANOVA-i je moderator efekt sa kategorijalnim varijablama - treća vraijabla moderira vezu između varijabli X i Y ukoliko je stupanj povezanosti X i Y pod utjecajem nivoa varijable Z - moderatorski efekti se uobičajeno koriste kada je barem jedna varijabla kontinuirana - moderacija implicira da se kauzalni odnos među dvjema varijablama mijenja u funkciji moderatorske varijable Razlike u mjerenju i testiranju moderatoskog efekta ovise o razinama mjerenja nezavisne varijable i
moderatorske varijable, te tako imamo ukupno 4 slučaja:
1. Moderator i NV su kategorijalne varijable - najjednostavniji slučaj, efekt dihotomne NV varira u funkciji druge dihotomne varijable (moderatora) - analiza: 2x2 ANOVA, ukoliko je interakcija značajna, govorimo o moderatorskom efektu
2. Moderator je kategorijalna varijabla, NV je kontinuirana - npr. spol moderira odnos namjere na ponašanje, kako ispitujemo? koreliramo namjere sa ponašanjem za svaki spol posebno i testiramo razliku Ova korelacijska metoda ima nekoliko nedostataka: a) Pretpostavlja da NV ima jednake varijance na svakom od nivoa moderatorske varijable
ALI ako se varijance razlikuju na nivoima moderatorske varijable, tada će za one nivoe moderatorske varijable koji imaju manje varijance, korelacija NV sa ZV biti manja u odnosu na onu koju ćemo dobiti za one nivoe moderatorske varijable koji imaju više varijance b) Ako količina pogreške mjerenja u ZV varira u funkciji moderatora, tada će se korelacija između NV i ZV razlikovati spuriozno.
Što nam govore ovi problemi? Da na korelacije utječu promjene u varijanci. ALI pošto regresijski koeficijenti nisu pod utjecajem razlika u varijancama NV niti pogreške mjerenja u ZV, moderatorski efekt mjerimo pomoću b koeficijenta (nestandardizirani regresijski koeficijent)
3. Moderator je kontinuirana, NV je kategorijalna varijabla - kako bi mjerili ovaj moderatorski efekt, moramo a priori znati kako NV varira u funkciji moderatora
Slika prikazuje tri idealizirana načina kako moderator mijenja efekt NV na ZV
1. Efekt NV na ZV mijenja se linearno s obzirom na moderator - stalna, postepena promjena u efektu NV na ZV kako se moderator mijenja 2. Kvadratna funkcija 3. Step funkcija – na nekom kritičnom nivou moderatora, efekt NV na ZV
značajno se mijenja
4. Moderator i NV su kontinuirane varijable
Poanta je da jednog od ovo dvoje dihotomiziramo, i onda dobijemo jedan od prethodno opisanih slučajeva.
Nastavljamo... Kako smo rekli da je moderator interakcijski termin, kako bi u okviru regresijske analize ispitali moderacijski efekt,
jednostavno pomnožimo dvije NV! Ali, onda su te dvije NV visoko povezane sa interakcijskim terminom – problem kolinearnosti. Kako bi ga izbjegli, centiramo prediktore.
CENTRIRANJE PREDIKTORA Centriranje se provodi tako da oduzmemo aritmetičku sredinu od svakog rezultata u varijabli.
Što se mijenja? Aritmetička sredina centirane varijable tako postaje 0, centirana varijabla više nije visoko povezana s interak cijskim terminom kojeg čini, interpretacija konstante: a postaje predviđeni rezultat u zavisnoj varijabli kada su rezultati u prediktoru prosječni Što se ne mijenja? Metrijske karakteristike varijable, njena povezanost sa drugim varijablama, većina regresijskih koeficijenata.
Koja je razlika između centriranja i standardizacije? Centriranje nije isto što i standardizacija (u z-vrijednosti, npr), jer se prilikom standardizacije osim aritmetičke
sredine, mijenja i standardna devijacija, čime se gubi izvorna metrika skale. Kod standardizacije, aritmetička sredina varijable postaje 0, a standardna d evijacija 1. Također, kod standardizacije nisu moguće kasnije interpretacije kao „za jednu prikazanu reklamu, prodaja albuma povećala se toliko i toliko“ Kako centiranje smanjuje kolinearnost?
Prije centiranja, množitelj i umnožak su u linearnom odnosu. Nakon centriranja ostaju isti intervali, ali odnos između množitelja i umnoška je izrazito nelinearan. Nakon centriranja koeficijent korelacije između množitelja i umnoška postaje 0, ili se značajno smanji u odnosu na onaj prije centiranja, čime se izbjegava problem kolinearnosti.
PRIMJER MODERACIJE U REGRESIJSKOJ ANALIZI Problem: Može li se želja sudionika za ponovnim susretom objasniti pomoću rječitosti sugovornika tijekom speed datinga s obzirom na spol? Correlations
Spol ispitanika
Spol ispitanika 1
Pearson Correlation
Rjecitost partnera -,108
Sig. (2-tailed)
,454
N Rjecitost partnera Pearson Correlation Sig. (2-tailed) rjecitost_spol
50
50
-,108
1
,033 ,818
50
50
50 1
Pearson Correlation
,957**
,033
Sig. (2-tailed)
,000
,818
50
50
N
,000
50 ,454
N
rje citost_spol ,957**
50
**. Correlation is significant at the 0.01 level (2-tailed).
Model Summary
Change Statistics Model 1
R R Square ,482a ,232 ,639b
2
,408
Adjusted R Square ,199
Std. Error of the Estimate ,38439
R Square Change ,232
F Change 7,102
,369
,34121
,176
13,647
df 1 2
df 2 47
Sig. F Change ,002
1
46
,001
a. Predictors: (Constant), Rjecitost partnera (centrirano), Spol ispitanika b. Predictors: (Constant), Rjecitost partnera (centrirano), Spol ispitanika, Interakcija Spol x Rjecitost(C)
a
Coefficients
Unstandardized Coeff icients Model 1
2
B ,423
St d. Err or ,063
Spol ispitanika
,469
,125
Rjecitost partnera (centrirano)
,000
,002
(Constant)
,417
,056
Spol ispitanika
,415
Rjecitost partnera (centrirano) Interakcija Spol x Rjecitost(C)
(Constant)
Standardized Coeff icients Beta
t 6,691
Sig. ,000
,484
3,762
,000
,023
,180
,858
7,423
,000
,112
,428
3,716
,001
,004
,002
,252
1,940
,059
-,017
,005
-,484
-3,694
,001
a. Dependent Variable: Zelja za ponovnim s usretom
Y= 0.417 + 0.415*Xspol + 0.004*Xrječitost + ( -0.017)*Xspol*Xrječitost Provedena je hijerarhijska regresijska analiza s analizom glavnih efekata i interakcijom kako bi se utvrdilo može li se želja za ponovnim susretom sa sugovornikom objasniti spolom (m=1,ž=0) i rječitošću sugovornika, te moderira li spol sudionika vezu između rječitosti sugovornika i želje za ponovnim susretom. Prvi model objašnjava 23,2 % varijance želje za ponovnim susretom (R²=.23, F (2,47) = 7.10, p<0.01) , a drugi model koji uključuje interakciju 40,8% (R²=0.41, F (1,46) = 13.65, p<0.01). Rezultati su pokazali da interakcijski termin statistički značajno doprinosi objašnjenu varijance zavisne varijable povrh spola i broja riječi kao prediktora prisutnih u modelu glavnih efekata (∆ R²=0,176, F (1,46) = 13,65, p<0,01). Prvi model pokazuje da je značajan glavni efekt spola (B=0,47, t=7,62, p<0,01) i nema glavnog efekta rječitosti (B=,00, t=0,18, p>0,05). Drugi model pokazuje da nakon unošenja interakcijskog termina i dalje postoji statistički značajan glavni efekt spola (B=0,42, t=3,72, p<0,01), pri čemu je iz predznaka nestandardiziranog regresijskog koeficijanta vidljivo da muškarci (grupa s višim indikator kodom 1) u usporedbi sa ženama (referentna grupa) iskazuju prosječno veću želju za ponovnim susretom. Nema glavnog efekta rječitosti (B=0,00, t=1,94, p>0,05), ali postoji stat.značajna interakcija spola i rječitosti (B=-0,17, t=-3,69, p<0,01). To potvrđuje pretpostavku o spolu kao moderatoru povezanosti između rječitosti sugovornika i želje za ponovnim susretom. Negativan predznak interakcijskog efetka pokazuje da je regresijski koeficijent rječitosti kod muškaraca niži ili negativniji nego kod žena. Kod muškaraca rječitost sugovornice statističi je značajno negativno povezana sa željom za ponovnim susretom, dok je kod žena rječitost sugovornika statistički značajno pozitivno povezana sa željom za ponovnim susretom što je vidljivo iz grafičkog prikaza u kojem nagib regresijske linije na poduzorku muškarca ukazuje na negativnu a na poduzorku žena na pozitivnu povezanost. Rezult ati su pokazali da interakcijski termin statistički značajno doprinosi objašnjenu varijance zavisne varijable povrh spola i broja riječi kao prediktora prisutnih u modelu glavnih efekata (∆ R²=0,176, , F (1,46) = 13,65, p<0,01).
Problem: Utječe li broj pročitanih knjiga na ocjenu i ovisi li taj odnos o prisustvu na nastavi?
Y(ocjena)=61,60 + 4,16*X1(knjige) +1,33*X2 (prisustvo)+ 0,74*X2*X2
MEDIJACIJSKI EFEKTI
Glavna ideja medijacije je da jedna varijabla posreduje odnosu između drug e dvije varijable. Tj. postoje ukupno 3 puta djelovanja: put a – između NV i medijatora put b- između medijatora i ZV put c- između NV i ZV – izravan efekt
i sljedeći efekti: a*b = neizravni ili medijacijski efekt a*b + c = ukupni efekt
Varijabla je medijator kada: 1. 2. 3.
varijacije u nivoima NV značajno odgovaraju varijacijama u pretpostavljenom medijatoru (put a) varijacije u medijatoru značajno odgovaraju varijacijama u ZV (put b) kada su put a i put b kontrolirani, prethodno značajan odnos NV i ZV prestaje biti značajan
Ako je put c 0 nakon kontrole puta a i puta b, tada imamo jedan, dominantan medijator. Ali, ako put c nije 0,
govorimo o više faktora koji posreduju u tom odnosu. Točnije... 1. 2. 3. 4.
imamo značajan efekt NV na ZV (c) značajan efekt NV na medijatora (a) značajan efekt medijatora na ZV (b) kada kontroliramo medijatora, ako prethodno značajan odnos u potpunosti prestane biti značajan – potpuna medijacija (c')
ali ako je i dalje značajan, ali smanjen – djelomična medijacija (c') Kako testirati medijaciju?
Sobelovim testom značajnosti (Ne) izravni efekt = β iz trećeg koraka
√ ( ) ( )
UVOD U MULTIVARIJATNE ANALIZE U UŽEM SMISLU Rezultat = model + pogreška
Puna multivarijatna forma:
Kada s obje strane imamo više varijabli:
- Latentne varijable se zove varijate (kanoničke varijate) – izlučuje se jedna ili više varijati (para) - svaki par varijati ima maksimalnu moguću korelaciju
- svaka je sljedeća varijata ortogonalna s prethodnom (kao u faktorskoj analizi)
Kada imamo diskontinuirane prediktore (NV) = MANOVA (multivarijatna anova) Kada imamo diskontinuirani kriterij (ZV) = DISKRIMINANTNA ANALIZA
Tako punim multivarijatnim GLM-om možemo opisati ove analize:
1. Kanonička korelacija (u užem smislu): svi X -evi kontinuirani, svi Y-i kontinuirani 2. MANOVA: svi X-evi diskontinuirani, svi Y-i kontinuirani 3. MANCOVA. neki X-evi kontinuirani, a neki diskontinuirani. svi Y-i kontinuirani 4. Diskriminantna analiza: svi X-evi kontinuirani, svi Y-i diskontinuirani 5. Višesmjerna analiza frekvencija: svi X-evi diskontinuirani, Y diskontinuiran 6. Politomna logistička regresija: svi Xevi kontinuirani i/ili diskontinuirani, y diskontinuiran
KANONIČKA KORELACIJSKA ANALIZA Osnovni cilj CCA jeste utvrditi maksimalnu moguću korelaciju (ili korelacije) između dva seta od dvije ili više varijabli. Varijable u setovima su kontinuirane, kvantitativne, najmanje intervalnog mjernog nivoa (postoje robusne
verzije CCA koje mogu uključivati i varijable s nižim mjernim nivoima) Setovi se mogu i ne moraju odrediti kao prediktorski i kriterijski set Usporedba CCA i MRA
Za razliku od CCA u multiploj regresijskoj analizi utvrđuje se maksimalna moguća korelacija između jednog kriterija i dva ili više prediktora. Posebnost CCA: u multiploj regresijskoj analizi postoji samo jedna diferencijalno ponderirana linearna
kombinacija prediktora (jedan faktor, jedna “latentna” varijabla) koja rezultira maksimalnom mogućom korelacijom s kriterijem. U CCA postoji "k" mogućih načina za kombiniranje varijabli u oba skupa varijabli (k=broj varijabli u manjem skupu) prije utvrđivanja povezanosti među skupovima varijabli. Svaki način kombinacije varijabli u skupovima varijabli povezan je s određenim svojstvima koja su zajednička varijablama u prvom i drugom skupu. Usporedba CCA i FA
Iako CCA rezultira faktorima treba naglasiti da je tu analizu primjereno koristiti samo ako istraživač može sve varijable podijeliti u dva logički razdvojena skupa varijabli i ukoliko ga interesira maksimalna moguća povezanost među tim skupovima varijabli (ili latentni izvori povezanosti među skupovima varijabli). Ti faktori su konstruirani s ciljem utvrđivanja latentnih izvora povezanosti između dva skupa varijabli i svali faktor rezultira s dvije varijable koje predstavljaju faktorske bodove (sintetske varijable) za skup A i skup B
(koja dva rezultata proizašla iz dva skupa varijabli bi ispitanik imao na prvom faktoru kada bi se on mogao izravno mjeriti). Za razliku od CCA, faktori iz FA rezultiraju s jednom sintetskom varijablom u kojoj su faktorski bodovi (koji rezultat bi ispitanik imao na faktoru kada bi se on mogao izravno mjeriti). Ukoliko se varijable ne mogu podijeliti u dva distinktivna skupa ili povezanost i latentni izvori povezanosti
među dva skupa varijabli nisu predmet istraživačkog interesa, može se napraviti faktorska analiza (FA) svih varijabli radi utvrđivanja latentne strukture i izvora varijabiliteta svih varijabli Zasebne faktorske analize napravljene na 1. i 2. skupu varijabli ne bi bile smislene jer se faktori ne bi formirali s
ciljem maksimizacije povezanosti među skupovima, pa se na taj način ne bi postigao cilj CCA.
Što su to ponderi, što faktori, a što latentne varijable Cilj svake multivarijatne statističke analize jeste formirati određenu diferencijalno ponderiranu linearnu kombinaciju manifestnih (mjerenih, opažanih) varijabli (različite analize -> različite DPLK s različitom svrhom).
Mnoge statističke analize koriste pondere, ali ih nazivaju različitim imenima: beta ponderi, koeficijenti u matrici obrasca, funkcijski koeficijenti
Također, sinonimi su i faktor ili funkcija ili jednadžba ili skup pondera Latentne (sintetičke) varijable ili faktorski bodovi dobivaju se ponderiranjem manifestnih varijabli (množenjem rezultata pojedinaca na manifestnim varijablama s odgovarajućim ponderima)
Primjer skupova varijabli i kombinacija povezanosti među varijablama Skup A: Školske ocjene (1. HJK, 2. POV, 3. LIK, 4. GLAZB, 5. MAT, 6. FIZ, 7. KEM, 8. TJEL) Skup B: Sklonost raz ličitim slobodnim aktivnostima (1. Kino, 2. Kazalište, 3. Modeliranje, 4. Astronomija, 5. Sport)
S ciljem maksimizacije povezanosti povezanosti među skupovima formiraju se parovi linearnih kompozita koji predstavljaju latentni konstrukt (faktor) koji je izvor povezanosti među varijablama u različitim skupovima: Prvi par može odražavati humanističko-umjetničku orijentaciju i povezivati A1-4 i B1-2 varijable. Prvi faktor ima visoka zasićenja na varijablama A1-4 i B1-2 i niska zasićenja na ostalim varijablama. Za razliku od PC
ili FA, taj faktor ne rezultira jednom sintetičkom varijablom: faktorskim bodovima na Faktoru1, već dvjema sintetičkim varijablama koje možemo nazvati PRED1 i KRIT1 (ukoliko dva skupa označimo kao prediktorski i kruiterijski; ili F1A i F1B). Pearsonova korelacija između te dvije varijable je prva kanonička korelacija . Drugi par može odražavati prirodoslovnu orijentaciju i povezivati A5-7 i B3-4 varijable
Treći par može odražavati sportsku orijentaciju i povezivati A8 i B5 varijablu Iako različitih parova linearnih kompozita varijabli (u svakom paru varijable A i B skupa su različito ponderirane) može biti koliko i varijabli u manjem skupu, gotovo uvijek ima manje statistički značajnih parova parova linearnih kompozita varijabli koji odražavaju latentna svojstva po kojima su varijable iz dva skupa povezane (faktore). Osnovni elementi CCA Varijable: opažane mjere grupirane u dvije skupine varijabli među kojima utvrđujemo povezanost
Kanoničke varijate: diferencijalno ponderirane linearne kombinacije varijabli u skupinama (npr. zbroj svih A varijabli s tim da su najviše ponderirane A1-4). Par kanoničkih varijata: u svakoj skupini ima najmanje jedna kanonička varijata, a par bi bio npr: kanonička varijata koja ima najviše pondere na varijablama A1-4 (niske na A5-8) i kanonička varijata koja ima najviše pondere na varijablama B1-2 (niske na B3-5).
Može biti više statistički značajnih parova kanoničkih varijata (u našem primjeru bila bi tri značajna para)
CCA je najopćenitija forma svih multivarijatnih analiza Većina multivarijatnih analiza je samo specifična vrsta CCA: 1. Multipla regresija je CCA u kojoj se skup varijabli (prediktora) (prediktora) povezuje s jednom varijablom (kriterijem). 2. MANOVA i Diskriminantna Diskriminantna analiza su CCA u kojima se jedna ili više nominalnih varijabli povezuje s više kontinuiranih varijabli 3. Eksploratorne Eksploratorne komponentne i faktorske analize pri identifikaciji faktora temelje se na postupcima CCA
Istraživačka pitanja, elementi analize i interpretacija 1. Broj značajnih parova kanoničkih varijata. Pitanje: koliko je latentnih dimenzija koje povezuju varijable iz dva različita skupa varijabli.
Parovi kanoničkih varijata izdvajaju se sukcesivno tako da se svaki slijedeći par odnosi na povezanost koja nije obuhvaćena prethodnim prethodnim parom. Zbog toga su najčešće samo prvi ili prva dva para statistički značajni. Svaki par kanoničkih varijata neovisan je od svih ostalih ekstrahiranih parova kanoničkih varijata (ortogonalna (ortogonalna ekstrakcija parova kanoničkih varijata) 2. Interpretacija kanoničkih varijata Osnovno je pitanje kako možemo interpretirati dimenzije koje povezuju dva skupa varijabli s obzirom na kombinaciju varijabli u jednoj i drugoj varijati para.
Interpretacija se vrši temeljem matrica korelacija između varijabli i kanoničkih varijata. 3. Značajnost kanoničkih varijata: Može se utvrditi visinom korelacije među kanoničkim varijatama u paru ili - visinom korelacija varijate i varijabli iz korespodentnog skupa varijabli (koliko varijance tog skupa varijabli ekstrahira varijata) ili - visinom korelacija varijate i varijabli iz suprotnog skupa varijabli (koliko varijance suprotnog skupa varijabli ekstrahira varijata)
4. Statistička značajnost pojedinih kanoničkih korelacija među parovima kanoničkih varijata Određuje se χ2 testom orelacija 5. Značajnost većeg broja kanoničkih k orelacija
Kako bi odgovorili na pitanje razlikuje li se statistički značajno od nule set kanoničkih korelacija računa se velika lambda (Λ) kao umnožak proporcija varijanci kanoničkih varijata koje se ne preklapaju (1-r2c). Što je Λ veća, veća je i proporcija varijance koja nije objašnjena kanoničkim korelacijama i manja je vjerojatnost da su kanoničke korelacije statistički značajno različite od nule. Značajnost Λ se računa χ2 testom i distribucijom (ili F testom i F distribucijom) kojim se testira nul hipoteza da dvije ili više kanoničke korelacije nisu statistički značajno različite od nule. Najčešće se značajan χ2 interpretira u smislu da je barem prva kanonička korelacija statistički značajna. 6. Izračun bodova na kanoničkim varijatama Pri izračunu bodova na kanoničkim varijatama osnovno osnovno je pitanje koje rezultate bi ispitanici imali na kanoničkim varijatama iz oba skupa, kada bi se te varijate mogle izravno mjeriti Ako su kanoničke varijate interpretabilne, ti bodovi se mogu koristiti kao zavisne ili nezavisne varijable u drugim analizama.
Zašto CCA nije popularna? 1. Izrazito eksploratorna; nije metoda za testiranje hipoteza 2. Procedura maksimalizacije korelacije između skupova varijabli ne maksimalizira i mogućnost
interpretacije parova kanoničkih varijata. Rezultati Rezultati su često neinterpretabilni. neinterpretabilni. Za razliku od komponentne i faktorske analize, rotacija kanoničkih varijata s ciljem ci ljem povećanja interpretabilnosti interpretabilnosti nije uobičajena u CCA, niti dostupna u mnogim statističkim programima. 3. Nije moguća kosokutna ekstrakcija parova kanoničkih varijata. Trenutno ju je najbolje koristiti kao deskriptivnu metodu ili metodu za inicijalni pregled (screening) podataka.
Najveća korist od razumijevanja CCA jeste uvod u koncepte poput faktora i dimenzija i pružanje teorijskog okvira ostalim multivarijatnim analizama.
Osnove izračuna CCA Formiraju se četiri matrice korelacija (Rxx, Ryy, Rxy i Ryx) iz kojih se formira kanonička korelacijska matrica R. Potom se izračunavaju eigen-vrijednosti i eigen-vektori kanoničke korelacijske matrice R za svaki par kanoničkih varijata. Izračun svih eigen-vrijednosti matrice uključuje proces redistribucije varijance u matrici u manji broj kompozitnih varijata iz većeg broja manifestnih varijabli. Uz svaku eigen-vrijednost vezan je eigen-vektor koji sa drži koeficijente (regresijske ili kanoničke koeficijente) kojima se manifestne varijable kombiniraju u kompozitnu varijatu. varijatu. i). Eigen-vrijednost para kanoničkih varijata jednaka je kvadratu kanoničke korelacije tog para ( λ i=r2c )
Kanonička korelacija para kanoničkih varijata interpretira se kao pearsonov koeficijent. Kada je kvadrirana predstavlja zajedničku varijancu kanoničkih varijata, varijata, što se odnosi i na eigen-vrijednost. Drugi par kanoničkih varijata računa se na rezidualima prvog para pa se kvadrat kanoničke korelacije drugog para odnosi na proporciju varijance ekstrahirane ekstrahirane od reziduala. Stoga proporcije zajedničke varijance prvog i drugog para kanoničkih varijata nisu sumativne do 100%. Konceptualni primjer CCA
MANOVA
- multivarijatni pristup, koji istovremeno uspoređuje više zavisnih varijabli - temelji se na usporedbi dviju ili više zavisnih varijabli kroz više grupa (NV) - ANOVA je poseban slučaj MANOVA -e, kada imamo samo jednu zavisnu varijablu
ANOVA testira jesu li razlike među grupama na jednoj ZV posljedicom slučaja, dok MANOVA testira jesu li razlike među grupama na kombinaciji ZV posljedicom slučaja. U MANOVA-i, nova ZV koja maksimizira razlike među grupama je kombinacija više ZV. Nova ZV je linearna kombinacija mjerenih ZV, tako kombinirana da razlikuje grupe što je više moguće. ANOVA se zatim provodi na linearnoj kombinaciji (novoj ZV). Zašto MANOVA umjesto ANOVA-e? 1. Što više testova provodimo na istom skupu podataka povećava se vjerojatnost α- pogreške 2. Pomoću MANOVA-e dobivamo više informacija, budući da uključuje sve ZV u istu analizu i u obzir
uzima i odnos među tim varijablama 3. MANOVA ima vodeću snagu otkrivanja nekog efekta – pomoću nje možemo odrediti razlikuju li se grupe u kombinacijama različitih varijabli MANOVA može, u nekim situaci jama kada se razlike ne pojavljuju u ANOVA-i, otkriti iste. Na primjer, kada se distribucije ZV preklapaju, moguće da u ANOVA-i nećemo dobiti značajnu razliku, koja će međutim, biti vidljiva u MANOVA-i
Zašto ipak ne MANOVA? 1. značajno kompiliciranija analiza 2. nemogućnost interpretacije efekta pojedine NV na pojedinu ZV 3. čak i manja preklapanja ili korelacije među ZV mogu umanjiti snagu testa Princip MANOVA-e
1. Provjerava koliko se krivulje u svakoj od grupa međusobno slažu- preklapaju (curve fit), zato je važno da su vrijednosti u svakoj od NV i ZV raspoređene po normalnoj krivulji 2. Uspoređuje se omjer sistematskog i nesistamatskog varijabliteta za veći broj ZV 3. Za razliku od ANOVA-e, u MANOVA- i je svaka vrijednost koja se uspoređuje zapravo matrica sastavljena od varijanci i kovarijanci
OPIS I OPĆA PRIMJENA ANALIZE Varijable u analizi
1. Dvije ili više zavisnih (kriterijskih) varijabli (kontinuirane, intervalne ili omjerne) 2. Jedna ili više nezavisnih (prediktorskih) varijabli koje možemo zvati i faktori i koje dijele jedinice
analize na dvije ili više podskupina (kvalitativne, nominalne) Opća primjena MANOVA se koristi kada želimo utvrditi razlikuju li se aritmetičke sredine linearne kombinacije zavisnih varijabli između različitih grupa jedinica analize (ispitanika).
Primjerena istraživačka pitanja MANOVA testira multivarijatnu multivarijatnu hipotezu da su aritmetičke sredine populacija dobivene na višestrukim zavisnim varijablama jednake u svakoj grupi određenoj razinom faktora (nezavisne varijable). Hipoteza se odnosi na linearne kombinacije zavisnih varijabli (aritmetičke sredine populacija dobivene na svim
mogućim linearnim kombinacijama zavisnih varijabli).
Preduvjeti, ograničenja i specifičnosti Teorijska ograničenja 1. Kauzalnost 2. Odabir varijabli 3. Generalizacija
Praktična ograničenja - za svaku razinu NV moramo imati više ispitanika – što je broj ispitanika manji ili nejednak u pojedinim
ćelijama, smanjuje se snaga testa - što je veća apsolutna vrijednost korelacija korelacija među dvjema ZV – veća je snaga testa
1. Multivarijatno normalna distribucija zavisnih varijabli (ZV) za svaku populaciju definiranu razinama nezavisne varijable (NZV).
- Zavisne varijable su multivarijatno multivarijatno normalno distribuirane ukoliko je svaka ZV normalno distribuirana, neovisno o rezultatima drugih drugih varijabli i ukoliko je svaka ZV normalno distribuirana za svaku kombinaciju rezultata ostalih ZV. Taj uvjet se ne može testirati u mnogim statističkim programima. Vrlo je rijetko rij etko zadovoljen.
Praktično: Ukoliko taj uvjet nije zadovoljen i ukoliko je uzorak malen “p” po staje nepouzdan. Snaga testa znatno opada kod platikurtičnih i znatno asimetričnih distribucija 2.Homogenost matrica varijance-kovarijance (matrica raspršenja).
Varijance pojedinih zavisnih varijabli i kovarijance svih zavisnih varijabli moraju biti jednake na svim nivoima nezavisne varijable (faktora). - Testira se Box-ovim M testom koji testira značajnost razlika među matricama varijance-kovarijance i preduvjet je zadovoljen ukoliko rezultat nije statistički značajan. Statistički značajan rezultat može biti
povezan i s nezadovoljenim nezadovoljenim uvjetom multivarijatne normalnosti distribucije. S druge strane, statistički neznačajan rezultat može biti posljedica malog uzorka i male snage testa. - Ukoliko je uvjet narušen, a grupe su podjednako velike Hotelling i Pi llai koeficijenti su stabilni
("robust"). "P" postaje izrazito nepouzdan nepouzdan sa sve većim razlikama u veličini grupa i sa sve više zavisnih varijabli. Ako veći uzorci imaju veće varijance i kovarijance p postaje konzervativan (pa se značajne razlike mogu prihvatiti). U obratnoj situaciji p postaje liberalan (neznačajne razlike se mogu prihvatiti).
3.Linearnost
- MANOVA i MANCOVA pretpostavljaju pretpostavljaju linearan odnos među svim parovima ZV, svim parovima kovarijata i svim ZV-kovarijat parovima u svakoj ćeliji - ako ovaj uvjet nije zadovoljen, smanjuje se snaga testa, jer:
1. linearna kombinacija ZV ne maksimizira razliku među grupama za NV 2. kovarijati ne maksimiziraju prilagobu za pogrešku 4. Pouzdanost kovarijata - u MANCOVI i ANCOVI, F test razlika među grupama snažniji je što su kovarijati pouzdaniji, a ako nisu,
povećava se vjerojatnost α i β pogreške 5. Izostanak multikolinearnosti i singularnosti
- kada su korelacije među ZV visoke, jedna ZV je nelinearna kombinacija drugih ZV – redundantna u
objašnjenju Ostali uvjeti: Slučajan uzorak i nezavisnost rezultata dobivenih od različitih jedinica analize.
Konceptualne osnove izračuna Osnova izračuna MANOVE je matrični račun. F-omjer u ANOVAi je omjer sistematskog varijabiliteta koji proizlazi iz pripadnosti ispitanika određenoj grupi i nesistematskog varijabiliteta koji se odnosi na interindividualne interindividualne razlike. MANOVA stavlja u omjer matricu koja predstavlja sistematski varijabilitet svih zavisnih varijabli (H) i nesistematski varijabilitet svih zavisnih varijabli (E). H=Hipothesis H=Hipothesis ili model sum of squares and cross-products matrix (H-SSCP) E=Error SSCP matrix
Računa se i matrica koja predstavlja ukupan varijabilitet za svaku zavisnu varijablu: T – total SSCP matrix skog varijabiliteta, opet dobivamo matricu. Nakon što podijelimo matrice sistematskog i nesistemat skog matricu na jedinstveni broj? broj? Osnovno je pitanje: kako svesti matricu
Rješenje: Svođenjem zavisnih varijabli na zajednički faktor. Linearne kombinacije zavisnih varijabli zovu se varijate, latentne varijable ili faktori koje su formirane tako da najbolje diskriminiraju grupe određene nivoima nezavisne varijable. Zovu se i varijate diskriminantnih diskriminantnih funkcija (ili DF) jer se temeljem njih predviđa grupna pripadnost ispitanika.
Veći broj varijata uvijek predstavlja ortogonalne dimenzije (nezavisne su). Može ih biti koliko i zavisnih varijabli ili broj grupa minus jedan (manja od navedenih vrijednosti) vrijednosti)
Svaka varijata povezana je s jednim karakterističnim korijenom koji je konceptualno sličan F omjeru u ANOVAi. Vrijednosti karakt erističnih erističnih korijena uspoređuju se s vrijednostima koje bi dobili po zakonu slučaja.
Postoje četiri načina procjene te vrijednosti: 1. Pillai-Bartlett Trace (V); 2. Hotelling-Lawley trace (T2);
- kada postoji više od 1 stupnja slobode za svaki efekt , , ima više od jednog načina za kombinaranje zavisnih varijabli i odvojenih grupa, kada ima više od 1 stupanj stupanj slobode za svaki efekt Wilkosv' lambda, Hotelling T2 i Pillai kriteriji izvače podatke iz različitih dimenzija kako bi ustanovili postoji postoji li statistički značajan efekt
Hotelling T'2 je omjer dobiven/ujedinjen od omjera efekta varijance i pogreške varijance 3. Wilksov Lambda ( Λ) – najpopularniji - umnožak neobjašnjenih varijanci svake varijate – zato je NIŽA
vrijednost statistički značajna; 4. Royev najveći korijen – predstavlja karakteristični karakteristični korijen prve varijate - omjer objašnjene i
neobjašnjene varijance za prvu diskriminantnu funkciju – ima najveću snagu testa.
Veličina efekta Veličina efekta vezana uz Wilks lambdu je: 1 S
MV 1
S = broj zavisnih varijabli ili broj razina faktora umanjen za jedan (manja od navedenih vrijednosti) . Raspon od 0 do 1. Pokazuje kolika je proporcija multivarijatne varijance zavisnih varijabli povezana s nezavisnom varijablom (faktorom)
Što ćemo dobiti kada provedemo MANOVA -u? 1. Box-M test- testira nul-hipotezu da su matrice varijanci i kovarijanci jednake u svim grupama na multivarijatnoj multivarijatnoj razini – test homogenosti 2. Wilks` Lambda- daje informaciju postoje li značajne razlike među grupama u linearnoj kombinaciji ZV na multivarijatnoj razini - umnožak neobjašnjene varijance svih varijata (kombinacija ZV) - predstavlja omjer varijance pogreške u ukupnoj varijanci za svaki varijat
3. partial η² - proporcija varijance objašnjene varijatima (veličina efekta)
Primjer jednosmjerne MANOVA-e
Jednosmjerna multivarijatna analiza varijance provedena je kako bi utvrdili efekt tri tipa strategija učenja
(razmišljanje, pisanje i poučavanje drugih) na dvije zavisne varijable koje su predstavljale predstavljale ispitne rezultate na testu dosjećanja i testu primjene naučeno g. Među grupama koje su koristile različite strategije učenja pronađene su statistički značajne razlike u zavisnim varijablama (Wilks-ov Λ = 0.42, F(4,52)=7.03, p<0.01). Multivarijatni η2 zasnovan na Wilks Λ statistici ukazuje na znatnu (0.35) povezanost s trategija učenja i ispitnih rezultata. Radi interpretacije rezultata multivarijatne MANOVAe provedene su jednosmjerne ANOVAe zasebno za svaku
zavisnu varijablu. Korištena je Bonferroni metoda korekcije za višestruka testiranja testiranja (značajne su razlike čiji je
p<0.025). Utvrđene su statistički značajne grupne razlike na testu dosjećanja (F(2,27)=17.11, p<0.01, η 2=0,56), ali ne i na testu primjene naučenog (F(2,27)=4.20, p=0.026, η 2=0,24). Post hoc testovima uspoređeni su rezultati skupina na testu dosjećanja, a značajnim su se smatrale razlike čiji p je bio manji od 0.025/3=0.008. Grupa koja je učila pisanjem pokazala je statistički značajno bolje rezultate na testu dosjećanja, u usporedbi s ostalim grupama koje nisu imale statistički značajno različite rezultate.
Analize nakon značajne MANOVA-e Značajna MANOVA mora se za potrebe interpretacije nastaviti: 1. Jednosmjernim ANOVAma uz post hoc korekciju za veći broj testova (treba imati na umu da su značajne razlike identificirane MANOVAom možda dobivene samo na linearnim kombinacijama – zbog toga se
MANOVA smatra testom veće snage od univarijatnih ANOVA). 2. Teorijski formuliranim linearnim kombinacijama zavisnih varijabli. 3. Diskriminantnom analizom i empirijski determiniranim, nekoreliranim linearnim kombinacijama zavisnih varijabli (faktori ili diskriminantne varijate) koje su formirane tako da se maksimiziraju razlike
među grupama (ili: koje su konstruirane s ciljem maksimalnog razlikovanja grupa). S obzirom da su empirijski determinirane, te linearne kombinacije mogu biti teorijski neinterpretabilne.
MANCOVA
= multivarijatna ekstenzija ANCOVA-e - ispituje postoji li statistički značajna razlika među grupama kada se prilagodi nova ZV za razlike na jednom ili
više kovarijata MANCOVA se koristi kada i ANCOVA:
1. U eksperimentalnim istraživanjima – kao kontrola – kada je varijanca povezana sa kovarijatom/ima
uklonjena iz varijance pogreške 2. U neeksperimentalnim istraživanjima – MANCOVA omogućava statističko uparivanje grupa, kada slučajan odabir nije moguć
PRIMJER MANOVA-e
Istraživačko pitanje: Koji su efekti kognitivno-bihevioralne terapije na OKP? Varijable u bazi NV
1. CBT – kognitivno-bihevioralna terapija 2. BT- bihevioralna terapija 3. NT – bez tretmana ZV: radnje i misli POSTUPAK 1. Računanje korelacija
2. Provođenje analize
a) Ubacimo ZV i NV – odredimo post-hoc (SNK) za grupe b) pod Options: odredimo novu razinu značajnosti, pošto imamo dvije ZV, nova razina značajnosti je 0,025
3. Rezultati a) preduvjeti
Testira nul – hipotezu da su matrice varijanci i kovarijanci jednake u sve tri grupe – TEST HOMOGENOSTI!
Ukoliko test nije značajan, matrice varijanci i kovarijanci su homogene, stoga možem nastaviti s testom.
Osjetljiv na veličinu uzorka i normalnost distribucije!
b) Multivarijatna razina
Postoji značajan efekt tipa terapije na simptome OKP-a ( =0,70,
,
= 0,16).
c) Univarijatna razina
Ako postoji pretpostavka o homogenosti varijance zavisnih varijabli, Levenov test ne bi trebao biti značajan. Testira nul hipotezu da je varijanca pogreške jednaka među svim grupama!
d) Post-hoc
e) Interpretacija
Provedena je jednosmjerna MANOVA kako bi se s aznalo postoje li efekti kognitivno – bihevioralne terapije na simptome OKP – a (ponašanja i misli). Na multivarijatnoj razini postoji značajan efekt terapije na broj opsesivnih misli i ponašanja (=0,70, =2,56, p=0,05, = 0,16). Međutim, na univarijatnoj razini ne postoji
značajan efekt vrste terapije na broj opsesivnih misli ( p>0,05, = 0,17).
=2,15, p>0,05, = 0,14) i ponašanja (=2,77,
PRIMJER MANOVA-e
Istraživačko pitanje: Postoji li razlika među 8 faktora multiple inteligencije kod učenika srednje škole obzirom na spol? Varijable u analizi: NV: spol (M/Ž) ZV: Matematičko – logička inteligencija, Spacijalna , Tjelesno – kinetička, Muzička. Intrapersonalna, Interpersonalna, Verbalna, Naturalna a) Testiranje korelacija
b) Provjera deskriptivne statistike
c) Provedba analize
d) Provjera homogenosti
e) Multivarijatna razina
Na multivarijatnoj razini postoji značajan efekt spola na različite faktore multiple inteligencije ( = 0,82,
= 0,18). f)
Homogenost varijanci na univarijatnoj razini
g) Univarijatna razina
) , 0.06).
Na univarijatnoj razini postoji značajan efekt spola na interpersoalnu ( verbalnu ( = 9,46, p< 0,01, 0,05) i naturalističku inteligenciju (
h) Smjer razlike
Interpretacija
Provedena je jednosmjerna MANOVA kako bi se utvrdilo postoji li razlika u 8 faktora multiple inteligencije kod
učenika srednje škole obzirom na spol. Na multivarijatnoj razini, rezultati su pokazali da postoji značajan efekt spola na neke različite faktore multiple inteligencije (= 0,82,
= 0,18).
) , 0.06).
Na univarijatnoj razini postoji značajan efekt spola na interpersoalnu ( verbalnu ( = 9,46, p< 0,01, 0,05) i naturalističku inteligenciju (
Žene (Mž =
DISKRIMINANTNA ANALIZA Opis i opća primjena analize
Disktiminantna analiza (DA) može se opisati kao "obrnuta MANOVA". U MANOVAi pitali smo se razlikuju li se grupe na nizu zavisnih varijabli (ZV) tj. postoje li linearne kombinacije
ZV koje maksimiziraju razlike među grupama i na kojima bi se grupe mogle statistički značajno razlikovati. Ukoliko postoje, onda zavisne varijable iz MANOVAe možemo iskoristiti za uspješno predviđanje grupne pripadnosti ispitanika.
To su matematički isti postupci s različitom svrhom analize: DA utvrđuje k ako se grupe razlikuju, a ne samo postoje li linearne kombinacije ZV na kojima se grupe razlikuju.
Osnovni cilj analize je otkriti i interpretirati linearne kombinacije kvantitativnih prediktora (diskriminantne
funkcije) koje na različite načine objašnjavaju razlike među grupama. Zbog toga se DA često koristi za interpretaciju rezultata MANOVAe
Može se koristiti i kao samostalna tehnika u nacrtima čiji cilj nije utvrditi razlikuju li se grupe statistički značajno na zavisnim varijablama, već mogu li se ispitanici ispravno klasificirati u grupe temeljem rezultata na većem broju kontinuiranih varijabli i može li se predvidjeti grupna pripadnost ispitanika (i s kojom točnošću) temeljem dvije i više kontinuiranih varijabli. Zbog navedenog, oznake varijabli u DA su upravo suprotne onima u MANOVAi: Kontinuirane varijable koje smo u MANOVAi zvali zavisnim sada zovemo nezavisnim ili prediktorima. Varijablu po kojoj se ispitanici dijele u grupe i koju smo u MANOVAi zvali nezavisna varijabla ili faktor, u DA zovemo zavisna ili kriterijska varijabla koja opisuje stvarnu pripadnost ispitanika grupi. 1. Varijabla koja određuje grupnu pripadnost ispitanika (zavisna varijabla ili kriterijska varijabla; diskontinuirana, nominalna). 2. Dvije ili više kontinuiranih varijabli (nezavisnih varijabli ili prediktora; kontinuiranih, intervalnih ili
omjernih) temeljem kojih se grupe pokušavaju razlikovati ili temeljem kojih se vrši statistička klasifikacija ispitanika u grupe (koja se potom može usporediti sa stvarnom pripadnošću ispitanika grupama).
Primjena
1. Predikcija grupne pripadnosti ispitanika temeljem većeg broja kvantitativnih prediktora ili 2. Interpretacija značajne MANOVAe
Točnost klasifikacije ispitanika u grupe DA se može upotrijebiti kao odgovor na pitanje s kolikom točnošću se ispitanici mogu klasificirati u grupe temeljem niza kvantitativnih prediktora. Kvantitativni prediktori se svode na linearne kombinacije (nazvane Fisherovim linearnin diskriminantnim funkcijama ili klasifikacijskim funkcijama) s ciljem predviđanja grupne pripadnosti ispitanika, definirane
grupirajućom varijablom (kriterijem). Preciznost klasifikacije određuje se izračunom postotka ispravno klasificiranih ispitanika u grupe temeljem klasifikacijskih funkcija. Može se napraviti korekcija za ispravne klasifikacije po zakonu slučaja korištenjem
"kappa" koeficjenta koji također procjenjuje postotak ispravnih klasifikacija korigiran za podudaranja po zakonu slučaja ("chance agreements"). Ovaj postupak razlikuje se od postupaka klasifikacije poput klaster analize kojoj je cilj formirati grupe. Treba
imati na umu da u DA svaki ispitanik već prije analize nosi informaciju o njegovoj stvarnoj pripadnosti određenoj grupi. Ovaj postupak je po cilju vrlo sličan logističkoj ili multinominalnoj logističkoj regresijskoj analizi koje se češće se koriste za ovakva pitanja jer ima manje ograničenja i preduvjeta.
OSNOVNI TIPOVI DISKRIMINANTNE ANALIZE
1. Standardna (direktna, izravna) diskriminantna analiza: svi prediktori su uneseni u jednadžbu istovremeno i svaki prediktor je na jedinstven način povezan sa zavisnom varijablom. Test je identičan MANOVAi u kojoj se kombiniraju sve zavisne varijable. 2. Hijerarhijska (sekvencijalna) diskriminantna analiza: procjenjuje doprinos prediktora predikciji grupne pripadnosti redoslijedom kojeg odredi istraživač. Dodavanjem u model novih prediktora procjenjuje se napredak u klasifikaciji ispitanika, relativan napretku ostvarenom temeljem prije dodanih prediktora. Ako se ranije uneseni prediktori smatraju kovarijatima, a kasnije uneseni prediktori faktorima analiza korespondira MANCOVAi. 3. Stepwise (eksploratorna; u koracima) diskriminantna analiza: koristi se kada istraživač nema
teorijske osnove za redoslijed kojim će se prediktori unositi u model. Koriste se statistički kriteriji (različiti, odabire ih korisnik) odabira značajnih prediktora. Istraživač želi empirijski reducirati broj prediktorskih varijabli. Slična "Stepwise" metodama u regresijskoj analizi.
PREDUVJETI, OGRANIČENJA, SPECIFIČNOSTI Preduvjeti su isti kao za MANOVAu (oprez: drugačiji nazivi varijabli). 1.Multivarijatno normalna distribucija kvantitativnih varijabli (nezavisne, prediktori) za svaku
populaciju definiranu razinama grupirajuće varijable (zavisne, kriterij). Kvantitativne varijable su multivarijatno normalno distribuirane ukoliko je svaka normalno distribuirana, neovisno o rezultatima drugih varijabli i ukoliko je svaka normalno distribuirana za svaku kombinaciju rezultata drugih varijabli. Taj uvjet se ne može testirati u mnogim statističkim programima. Vrlo je rijetko zadovoljen.
Praktično: Ukoliko taj uvjet nije zadovoljen i ukoliko je uzorak malen “p” postaje nepouzdan. Snaga testa znatno opada kod platikurtičnih i znatno asimetričnih distribucija 2. Homogenost matrica varijance-kovarijance (matrica raspršenja). Varijance pojedinih zavisnih varijabli i kovarijance svih zavisnih varijabli moraju biti jednake na svim nivoima nezavisne varijable (faktora).
Testira se Box-ovim M testom koji testira značajnost razlika među matricama varijance-kovarijance i preduvjet je zadovoljen ukoliko rezultat nije statistički značajan. Statistički značajan rezultat može biti povezan i s
nezadovoljenim uvjetom multivarijatne normalnosti distribucije. S druge strane, statistički neznačajan rezultat može biti posljedica malog uzorka i male s nage testa. Ostali uvjeti: Slučajan uzorak i nezavisnost rezultata dobivenih od različitih jedinica analize.
KONCEPTUALNE OSNOVE IZRAČUNA Diskriminantnom analizom kreiramo jednu ili više linearnih kombinacija kvantitativnih prediktora koje nazivamo diskriminantnim funkcijama (DiF).
Prva diskriminantna funkcija ekstrahira se na način da maksimizira grupne razlike na toj funkciji. Druga DiF ekstrahira se na isti način, ali uz dodatno ograničenje: ne smije korelirati s prvom DiF. Sve naredne DiF ekstrahiraju se na isti način uz uvjet da ne koreliraju s prethodno ekstrahiranim DiF. Tako dobivene DiF nazivaju se još i sukcesivne kanoničke varijate (vidi kasnije izračun koeficijenata DiF). Broj mogućih DiF je broj grupa umanjen za 1 ili broj kvantitativnih prediktora (manji od dva navedena broja).
DiF I REGRESIJSKA JEDNADŽBA Diskriminantne funkcije mogu se opisati regresijskim jednadžbama Možemo predvidjeti rezultat ispitanika na DiF temeljem sume prediktora ponderiranih koeficijentima DiF koji se utvrđuju kao koeficijenti kanoničkih varijata. Za svaku DiF postoji različiti set koeficijenata diskriminantnih funkcija (koeficijenata kanoničkih varijata). Formula za standardizirani rezultat ispitanika na DiF: Di=di1z1+di2z2+...+dinzn
Koeficijenti "d" mogu biti standa rdizirani, ali i nestandardizirani, pri čemu se množe s nestandardiziranim rezultatima. KOEFICIJENTI DiF
U osnovi DA je utvrđivanje kanoničkih korelacija između skupa kontinuiranih, prediktorskih varijabli i varijable kojom su ispitanici klasificirani u grupe. Koeficijenti di utvrđuju se s ciljem maksimizacije razlika između grupa (SSbg) u odnosu na razlike unutar grupa (SSwg)
ELEMENTI INTERPRETACIJE
Karakteristični korijen svake DiF ukazuje koliko dobro ta funkcija razlikuje grupe ispitanika. Što je veći, grupe se bolje mogu razlikovati. Najveći je za prvu DiF i opada sa svakom slijedećom ekstrahiranom DiF. Predstavlja omjer SSbg i SSwg računat kao u ANOVAi u kojoj je grupirajuća varijabla faktor, a DiF zavisna varijabla.
Može biti bilo koji broj veći ili jednak nuli, stoga je teško interpretabilan. Interpretabilnija mjera veličine efekta je omjer SS bg i ukupne sume kvadrata (SStotal) koja se iz karakterističnog korijena računa ovako: λ /(1+λ ) Navedena mjera može se interpretirati kao Rc2 i lako se interpretira kao veličina efekta. Kvadratni korijen navedene mjere je koeficijent kanoničke korelacije Rc.
Također, može se za svaku DiF navesti postotak varijance koji ukazuje snagu predikcije te DiF u odnosu na sve preostale DiF (koliko varijabiliteta rezultata između grupa objašnjava konkretna DiF). Računa se dijeljenjem λ konkretne DiF sa sumom svih λ (od te proporcije postotak se dobiva množenjem sa 100) Na svim ispitanicima, bez obzira na grupnu pripadnost, aritmetička sredina svake DiF sa standardiziranim rezultatima je 0, a standardna devijacija 1.
Aritmetičke sredine grupa različite su od nule i predstavljaju udaljenost grupe od nulte aritmetičke sredine DiF izražene u jedinicama standardne devijacije i tipično se zovu centroidi u reduciranom prostoru (reduciranom sa n prediktora na jednu dimenziju, tj. DiF) CENTROIDI
Zbog načina izračuna najveću diskriminacijsku snagu imaju prve diskriminantne funkcije (najčešće jedna do dvije).
Ne interpretiraju se sve diskriminantne funkcije već samo one koje zadovolje različite kriterije (temeljem karakterističnog korijena, kanoničke korelacije, postotka objašnjene varijance - koliko varijabiliteta rezultata između grupa objašnjava DiF) ZNAČAJNOST SUKCESIVNIH DISKRIMINANTNIH FUNKCIJA Razina značajnosti DiF provjerava se χ2 testom
INTERPRETACIJA DISKRIMINANTNE ANALIZE
S obzirom da je cilj DA otkriti i interpretirati linearne kombinacije kvantitativnih prediktora (diskriminantne funkcije) koje na različite načine objašnjavaju razlike među grupama, interpretacija uključuje t ri analize: 1. Koliko je DiF statistički značajno 2. Dif dobiva oznaku (“ime”) analizom korelacija prediktora i DiF i analizom standardiziranih koeficijenata DiF (interpretabilnost DiF ili substancijalne osnove empirijski deriviranih DiF). 3. Uz to se gledaju i prosječni grupni rezultati na značajnim DiF (analiza centroida). Centroidi pokazuju
kako se grupe prostorno razlikuju na različitim značajnim DiF (uobičajen je grafički prikaz za 2 značajne DiF).
INTERPRETACIJA
Provedena je diskriminantna analiza kako bi ut vrdili može li se temeljem četiri kontinuirana prediktora
(ugodnost, prosječan uspjeh na studiju, prijašnji uspjeh na poslu i uspjeh na konkretnom zadatku) predvidjeti pripadnost ispitanika jednoj od tri grupe s različitom izvedbom na poslu: 1. Neuspješan radnik, 2. Uspješan individualist, 3. Uspješan timski igrač. Prva diskriminantna funkcija pokazala je da prediktori statistički značajno diferenciraju ispitanike različite uspješnosti (Wilksov Λ = 0,61, χ2(8, N=124)=59.53, p<0.01, Rc 2= 0.26). Druga diskri minantna funkcija također je bila značajna pokazujući da prediktori statistički značajno diferenciraju ispitanike različite uspješnosti nakon parcijalizacije efekata prve diskriminantne funkcije (Wilksov Λ = 0,82, χ2(3, N=124)=24.24, p<0.01, Rc 2=018). (Rc2=kvadrirana kanonička korelacija kao veličina efekta jednaka je η2 kojeg bi dobili ANOVAom primijenjenom
na grupne razlike na prvoj DiF; 26% varijance prve DiF može se objasniti grupnom pripadnošću ispitanika).
S ciljem interpretacije značajnih diskriminantnih funkcija u Tablici 1 prikazane su korelacije između prediktora i diskriminantnih funkcija (matrica strukture) i standardizirani koeficijenti (ponderi) diskriminantnih funkcija.
Iz navedenih rezultata vidljivo je da uspješnost na testu pokazuje najveću pozitivnu povezanost sa prvom diskriminantnom funkcijom, (manju ali također pozitivnu povezanost pokazuju uspjeh na studiju i prethodni uspjeh na poslu) koju ćemo označiti kao inžinjersko znanje, dok skala ugodnosti kao osobine ličnosti pokazuje najveću, pozitivnu povezanost sa drugom diskriminativnom funkcijom, s kojom prosječan uspjeh na studiju pokazuje nešto nižu negativnu povezanost. Drugu diskriminativnu funkciju označiti ćemo kao ugodnost u interpersonalnim odnosima.
Centroidi diskriminantnih funkcija u skladu su s navedenom interpretacijom diskriminantnih funkcija. Najviši
prosječan rezultat na inženjerskom znanju (1. diskriminantna funkcija) imaju uspješni individualci (M=0.79), dok neuspješni radnici (M=-0.40) i timski igrači ( -0.43) imaju podjednako niske aritmetičke sredine. S druge strane najviši prosječan rezultat na ugodnosti u interpersonalnim odnosima (drugoj diskriminantnoj funkciji) imaju timski igrači (M=0.40), uspješni individualci imaju osrednji rezultat (M=0.01), dok najniži prosječan rezultat imaju neuspješni radnici (M = -0.83). Temeljem svih prediktora može se uspješno klasificirati 66% ispitanika u uzorku. Kako bi kontrolirali slučajno podudaranje predviđene i stvarne grupne pripadnost ispitanika izračunat je "kappa" koeficijent ko ji je iznosio 0.46, što ukazuje na umjereno podudaranje klasifikacije ispitanika temeljem prediktora s informacijama u kriterijskoj varijabli.
Tablica 1 Standardizirani koeficijenti i korelacije prediktorskih varijabli i diskriminantnih funkcija Prediktori Korelacijski koeficijenti prediktora i Standardizirani koeficijenti diskriminantnih funkcija diskriminantnih funkcija Funkcija 1 Funkcija 2 Funkcija 1 Funkcija 2 Ugodnost .01 .86 -.09 .96 Ocjena na studiju .47 -.27 .09 -.56 Prijašnji uspjesi .43 .02 .28 .04 Rezultat na testu .95 .10 .88 .24
PRIMJER DISKRIMINANTNE ANALIZE
Istraživačko pitanje: Može li terapija smanjiti simptome OKP-a? Ako može, koja od tih terapija je najefikasnija u tome (CBT, BT ili bez tretmana (NT) )?
Varijable u analizi: ZV: vrsta terapije (CBT, BT i NT) NV: 1. Broj opsesija – povezan sa ponašanjem 2. Broj opsesija – povezan s mislima
1.
Analyze- classify – discriminant, pod grouping variable – unosimo ZV i određujemo raspon (od 1 do 3)
•
separate-groups covariance prikaz matrice
kovarijanci različitih grupa •
unstandardized rad sa nestandardiziranim
koeficijentima (lakše razumljivo)
•
all groups equal program računa kao da su sve grupe
podjednake veličine (ne uzima u obzir razliku u broju ispitanika) •
summary table tablica sa svim rezultatima
•
within-groups prikaz matrice kovarijanci unutar
pojedinih grupa
VAŽNO! •
označiti PREDICTED GROUP MEMBERSHIP program sprema rezultate s obzirom na pripadnost pojedinoj grupi
(predviđenu pripadnost)
REZULTATI
Interpretacija
Provedenom analizom dobili smo dvije diskriminatne funkcije. Prva funkcija je značajna i objašnjava 82, 2 % ukupno objašnjene varijance, dok druga funkcija objašnjava samo 17,2 % ukupno objašnjene varijance i ako ju gledamo odvojeno, nije značajna, (Wilksov Λ = 0.93, χ²(1) = 1.86, p > .05, Rc2 =0.07). U kombinaciji ove dvije funkcije pokazuju značajnu razliku među grupama (Wilksov Λ= .70, χ²(4)= 9.51, p=.05, Rc2 =0.25).
Ove dvije funkcije zajedno objašnjavaju 32% varijance (Rc12+ Rc22 = 0.32, 32*100= 32%). Iz navedenih rezultata može se vidjeti da smanjenje simptoma OKP-a pokazuje najveću pozitivnu povezanost sa prvom diskriminantnom funkcijom koju ćemo nazvati opsesivna ponašanja, dok ćemo drugu diskriminantnu funkciju nazvati opsesivne misli.
Utvrđeno je da terapija ne mijenja nužno ponašanja i misli zasebno, ali utječe na temeljne dimenzije OKP-a. Najviši prosječan rezultat na 1. DiF ima KBT (M=0,60), zatim ide grupa bez tretmana (NT) (M=0,13), dok BT ima visok negativan rezultat (M=-0,73).
S druge strane, najviši prosječan rezultat na 2 DiF ima grupa bez tretmana (NT) (M=0,36), dok KBT (M=-0,23) i BT (M=-0,13) imaju niske aritmetičke sredine. Na temelju svih prediktora može se uspješno klasificirati 46,7% ispitanika u uzorku.
PRIMJER DISKRIMINANTNE ANALIZE
Istraživačko pitanje: Diskriminiraju li anksioznost, self-koncept i odsutnost uspješno ljude različitih kval ifikacija? Varijable u analizi: ZV: kvalifikacija (bachelor, master, doctorate) NV: anksioznost, self-koncept i odsutnost
1.
Matrica kovarijanci
- vrijednosti daju naznake o promjeni veze između ZV po grupama
Interpretacija Da bi se utvrdilo može li se i s kojom točnošću, na temelju prediktora self koncepta, anksioznosti i odsutnosti predvidjeti stupanj kvalifikacije ispitanika, provedena je diskriminantna analiza. Provedenom analizom dobili smo dvije diskriminatne funkcije. Prva funkcija je značajna i objašnjava 96.1% ukupno objašnjene varijance (Wilksov Λ= .0.95, χ²(6)= 20.14, p<.05, Rc2 =0,04).
41.6% originalnih ispitanika je točno klasificirano.
PATH ANALIZA - proširenje regresijske analize - glavna svrha regresijske analize: predi kcija rezultata u jednom kriteriju na temelju jednog ili više prediktora - multipla regresijska analiza, kao statistički postupak, ne pretpostavlja kakav je odnos među prediktorima, dokle
god nisu previše povezani (problem kolinearnosti) U regresijskoj analizi... 1.
Možemo imati samo jednu varijablu kao kriterij
2.
Jedna varijabla može biti ILI prediktor ILI kriterij
Path analiza Na temelju teorije pretpostavlja uzročni slijed izravnih i neizravnih efekata prediktora na jedan ili više kriterija.
= statistička metoda analize kvantitativnih podataka, koja pruža empirijske procjene utjecaja varijabli u pretpostavljenom kauzalnom sistemu
Standardna regresijska analiza
Path analiza
= regresija za razumijevanje kauzalnih odnosa među
= regresija za predikciju
varijablama
CILJ:
Objasniti što veću varijancu jednog kriterija -
Kolinearnost predikora nepoželjna
-
Odnosi među prediktorima nisu nam pretjerano zanimljivi, osim kako bi utvrdili kolinearnost
CILJ:
Modelirati odnose među prediktorskim varijablama i odnose prediktorskih varijabli s medijacijskim i/ili kriterijskim varijablama - Povezanost među prediktorima nije problem – nju
proučavamo! Path analiza i strukturalno modeliranje Path analiza je posebna vrsta SEM-a, koja sadrži samo varijable mjerene jednim indikatorom. Pretpostavlja da su varijable mjerene bez pogreške . SEM koristi latentne varijable kako bi „nadoknadio” za pogrešku mjerenja.
Što NE možemo pomoću path analize? Kada istraživanje nije eksperimentalno... 1.
Dokazati jesu li dvije varijable kauzalno povezane
2.
Dokazati kauzalni poredak među varijablama
3.
Razlikovati modele koji rezultiraju identičnim uzorcima korelacija
Što možemo pomoću path analize? 1.
Grafički prikazati pretpostavljenu teoriju
2.
Procijeniti povezanosti među varijablama u pretpostavljenoj teoriji i utvrditi jesu li one pozitivne, negativne ili nulte
3.
Procijeniti pretpostavljeni kauzalni efekt jedne varijable na drugu
4.
U eksperimentalnim istraživanjima, dokazati uzrokuje li promjena u nezavisnoj varijabli promjenu u zavisnoj
Pretpostavke path analize 1.
Više zavisnih varijabli
2.
Jedan indikator za svaku mjeru (jedna latentna i jedna manifestna varijabla)
3.
Svaka varijabla mjerena je bez pogreške
4.
Veliki uzorak ispitanika 20:1 idealno 10:1
zadovoljavajuće
5:1
minimum
Terminologija path analize 1.
Model kauzalnih odnosa među varijablama
2.
Egzogene varijable : one varijable na koje mogu utjecati varijable koje su izvan modela, prediktori
Hint: ona varijabla koja u path dijagramu ima strelice OD sebe, ali niti jednu PREMA sebi 3.
Endogene varijable: one varijable kojima pokušavamo objasniti varijancu varijancom jedne ili više
egzogenih varijabli, za koje pretpostavljamo da utječu na njih, zavisna varijabla, medijator Hint : ona varijabla koja u path dijagramu ima najmanje jednu strelicu PREMA sebi 4.
Direktan utjecaj – put u kauzalnom modelu koji povezuje dvije varijable
5.
Indirektan utjecaj- zbirni put, koji povezuje dvije varijable preko treće varijable
6.
Path- koeficijent – numerička procjena kauzalnog odnosa među dvjema varijablama u path analizi
Hint : β u multiploj regresijskoj analizi
MODEL
Osnovno polazište path analize je teorijski model kauzalnih odnosa među varijablama . Takav model uključuje set hipoteza. Eksplicitan i kompaktan opis seta hipoteza može se formulirati: 1. 2.
Većim brojem regresijskih jednadžbi Path dijagramom
Path dijagram
= Slikovna reprezentacija povezanosti i kauzalnih odnosa među ispitivanim varijablama Simboli koje koristimo: 1.
Pravokutnici označavaju mjerene (manifestne, opažene) varijable
2.
Dvoglavim, zakrivljenim strelicama označavaju se korelacije (neanalizirana povezananost)
3.
Jednoglavim strelicama označavaju se izravni efekti
4.
Krugovi označavaju neobjašnjenu varijancu endogene varijable – nepoznati utjecaji koji nisu uključeni u model
Kako crtamo path dijagram? 1.
Varijable sa lijeve strane kauzalno prethode varijablama sa desne strane path d ijagrama
2.
One varijable za koje se pretpostavlja da su povezane, ali ne u kauzalnom odnosu, trebale bi biti u istoj ravnini
3.
Kauzalni odnos koji je pretpostavljen između dvije varijable označava se predznacima + i – pored strelica, kako bi pokazali kako smanjenje ili povećanje u jednoj varijabli utječe na drugu
Primjeri path dijagrama
A - Jednostavna multipla regresija sa dvije egzogene (X1 i X2) i jednom endogenom (Y) varijablom
B - Medijacijski model, u kojem varijabla Y posreduje odnosu varijabli X i Z
C - Kombinacija elemenata iz dva prethodna modela. Varijabla X ima direktan utjecaj na varijablu Z, ali i na varijablu Y, koji ima utjecaj na varijablu Z.
D- Varijabla X1 utječe na varijablu X2, ali
i na varijablu Y2. Varijabla X2 utječe na varijablu Y2, a varijabla Y1 utječe na varijablu Y2.
Path analiza preko regresijske analize: 1.
Potrebna po jedna regresijska analiza za svaku endogenu varijablu u modelu
2.
Korelacije egzogenih varijabli (ili kovarijance) dobivamo iz običnih bivarijatnih korelacija (kovarijanci)
3.
Path koeficijenti (β) su regresijski koeficijenti iz korespondentnih regresijskih analiza
4.
Standardizirani rezidual je proporcija neo bjašnjene varijance i računa se kao 1 - R²
Rezultati path analize 1.
Možemo utvrditi veličine efekata, korelacija i reziduala – ako je pretpostavljeni model točan
2.
Možemo utvrditi podudaranje modela s empirijski dobivenim podacima – testiranje modela, na nač in da..
.. Korelacije između svake varijable možemo rastaviti na najviše 4 elementa: 1.
Izravni efekt
2.
Sumu posrednih (medijacijskih) efekata
3.
Sumu spurioznih efekata (zajednički uzrok)
4.
Sumu neanaliziranih efekata
Testiranje modela - Korelacija između dvije varijable koju implicira model računa se zbrajanjem ovih elemenata, i zatim se uspoređuje s empirijskom korelacijom. Ako su odstapanja velika, odbacujemo model.
Procjene podudarnosti modela (model fit statistics) Goodness-of-fit testovi, koji se temelje na previđenoj
vs. opaženoj varijanci
Goodness-of-fit testovi, koji se temelje na usporedbi modela s alternativnim modelom
a) χ²
a) CFI (Comparative Fit Index)
b) RMSEA (Root Mean Square Error of Approximation)
b) TLI (The Tucker-Lewis Index) ili NNFI (NonNormed Fit Index)
c) SRMR (Standardized Root Mean Residual)
Što manji to bolji!
Što veći to bolji!
PRIMJER PATH ANALIZE
Problem: Istraživače zanima povezanost crta ličnosti, materijalizma i prekomjernog kupovanja. Iz literature doznajemo da su crte ličnos ti povezane s materijalizmom i prekomjernim kupovanjem, kao i da postoji povezanost materijalizma i prekomjernog kupovanja. 1. 2.
Testiranje medijacije Path dijagram – mapiranje onih povezanosti koje su bile statistički značajne u regresijskim analizama
Indeksi prilagodbe: 1. χ²(df)=10,14(4), p=.038; 2. χ²/df = 2,53; 3. CFI=.99; 4. GFI=.99, 5. AGFI=.97, 6. NFI=.99, 7. RMSEA=.048
Rezultati općenito pokazuju dobru prilagodbu modela podacima dobivenim na ispitivanom uzorku (χ²(df)=10,14(4), p=.038; χ²/df= 2,53; CFI=.99; GFI=.99, AGFI=.97, NFI=.99, RMSEA=.048). Opć enito, model pokazuje medijacijsku ulogu materijalizma u povezanosti dimenzija petofaktorskog modela ličnosti i prekomjernog kupovanja , uz iznimku direktnog utjecaja savjesnosti na prekomjerno kupovanje. Točnije, materijalizam obuhvaća sve utjecaje koje ugodnost, otvorenost i ekstravezija imaju na prekomjerno kupovanje. Uz to, neuroticizam ima direktan utjecaj na prekomjerno kupovanje.
KONFIRMATORNA FAKTORSKA ANALIZA
Svi statistički modeli koje smo do sad opisivali imaju preduvjet koji je u nekim znanstvenim područjima nemoguće zadovoljiti: pretpostvaljaju da su proučavane pojave mjerene izravno i bez pogreške mjerenja. Ukoliko taj preduvjet nije zadovoljen, parametri koji se procjenjuju nisu pouzdani i mogu sustavno odstupati od parametara populacije (npr. u medijacijskim modelima, medijacijski efekti su podcijenjeni, a iz rvni precjenjeni) Faktorska analiza
Statistički postupak kojim nastojimo ispitati međuzavisnost unutar velikog broja varijabli te ih objasniti pomoću malog broja zajedničkih faktora. 1.
Proučavanje odnosa među hipotetskim konstruktima koje ne možemo izravno mjeriti (ličnost, inteligencija, stres,…) – LATENTNE VARIJABLE
2.
O njima zaključujemo posredno preko pojava koje možemo mjeriti (procjene i samoprocjene) – MANIFESTNE VARIJABLE CFA i regresijski modeli
Osnove faktorske analize mogu se opisati kroz part icioniranje varijanci (komunalitet, unikvitet, specifičnost,
pogreška), ali i kao specifičan oblik regresijske analize i općeg linearnog modela. Faktorska analiza je varijanta regresijske analize. Koja je razlika? 1. U faktorskoj analizi neke varijable nisu izravno mjerene (latentne) 2. U faktorskoj analizi se najčešće prikazuju standardizirani (beta) regresijski koeficijenti, iako možemo dobiti i nestadardizirane.
U CFA se najčešće dozvoljava faktorima da koreliraju, iako se mogu modelirati i nekorelirani (ortogonalni) faktori ili kombinacija koreliranih i nekoreliranih faktora.
Nedostaci regresijskih i prednosti faktorskih modela U regresijskim (path) analizama svaka teorijska varijabla mjerena je samo jednom mjerom – ne može se razlučiti
varijanca greške (u mjerenju i specifikaciji modela) od varijance teorijske varijable koju želimo izmjeriti i o kojoj želimo zaključivati. Kada su dostupne višestruke mjere istog faktora, različiti izvori varijance mogu se razdijeliti i pouzdanost svake
mjere može se procijeniti i uključiti u model.
Vennov i path prikaz FA
Vennov
- Praktičan prikaz - Ne implicira statistički način modeliranja faktora Path
- Kvadrat – mjerene v. (indikatori) - Elipsa – latentne v.
Eksploratorna FA - Omogućuje identifikaciju onoga što objektivno postoji - Utvrđujemo izvore varijacija i kovarijacija među manifestnim varijablama
- Nema restrikcija za korelacije faktora - Svaka čestica je u nekoj mjeri zasićena svim faktorima 1. X1 = *F1 + *F2 + u1
2. x2 = *F1 + *F2 + u2 3. X3 = *F1 + *F2 + u3 4. X4 = *FI + *F2 + u4 5. x5 = *F1 + *F2 + u5 6. x6 = *F1 + *F2 + u6
Konfirmatorna FA Pretpostavlja postojanje unaprijed određenog modela, hipoteze, teorije o strukturi izvora kovarijacija među promatranim varijablama
Suprotno od EFA, CFA zahtjeva restrikcije korelacija među faktorima, faktorskih zasićenja što omogućuje bolje inferencijalno zaključivanje 1. xl = *F1 + 0F2 + u1 2. X2 =*F1 + 0F2 + u2 3. X3 = *F1 + 0F2 + u3 4. X4 = 0F1 + *F2 + u4 5. x5 = 0F1 + *F2 + u5 6. x6 = 0F1 + *F2 + u6
Eksploratorna FA govori nam kakva je faktorska struktura te izračunava maksimalan iznos varijance, dok konfirmatorna FA a priori postavlja model i broj faktora, te koja čestica opterećuje koji faktor. Taj je model podržan t eorijom i prethodnim istraživanjima.
Razlike između CFA i EFA U EFA je moguće dobiti bilo koji broj faktora i uzoraka faktorskih zasićenja, te ih vidimo nakon analize. U CFA, broj faktora i uzorci zasićenja se pretpostavljaju prije analize tako što se postave brojne restrikcije faktorske solucije (npr dvofaktorska struktura sa manifestnim varijablama 1, 2 i 3 na jednom faktoru a 4, 5 i 6 na drugom.
CFA se često prikazuje veoma drugačijom ili čak superiornom EFA, no u praksi su te razlike dosta zamagljenje - Stvarni podaci se često razlikuju od naših teorija, te je stoga ponekad prikladno koristiti i EFA i CFA, te koristeći takav pristup dobiti najbolju reprezentaciju stvarnih podataka - Oba pristupa imaju svoje jake i slabe strane, te ih treba gledati kao komplementarne
Opći prikaz CFA
Je li model dobar ? 1. Hi – kvadrat - Količina razlike između očekivane i promatrane matrice kovarijance. - 0 označava da postoji mala razlika između očekivane i promatrane matrice kovarijance. - Razina značajnosti :veća od 0.05 2. GFI (Goodnes of fit) - mjera relativne veličine varijanca i kovarijanca zajednički objašnjenih modelom - R2 3. CFI (Comparative Fit Index) - Mjeri razliku - Od 0 do 1 (veća vrijednost – bolje pristajanje modelu) - Mora biti : 0.90 ili veća 4. RMSEA (Root Mean Square Error of Approximation) - Povezan s rezidualima - Od 0 do 1 (manja vrijednost – bolje pristajanje modelu) - Mora biti : 0.06 ili manja
Primjene CFA 1.
Modeli višeg reda
Ukoliko model uključuje četiri ili više faktora koji kovariraju, tada se može koristiti C FA za testiranje hipoteze o postojanju faktora višeg reda 2.
Stabilnost mjere
Radi se o stupnju u kojem su aspekti CFA modela (na primjer, broj fakto ra, uzorci faktorskih zasićenja) stabilni među grupama ili kroz vrijeme 3.
Konstruktna valjanost
Nakon što se odgovori na bazična pitanja poput broja faktora i uzoraka faktorskih zasićenja, CFA se može koristiti za procjenu kontruktne valjanosti – to jest stope u kojoj je hipotetski konstrukt povezan sa drugim konstruktima u teorijski značajnom uzorku. Jedan od načina za procjenu konstruktne valjanosti koristeći CFA je ubacivanje više konstrukata u jedan model i provjeravati uzorke kovarijanci među faktorima koji predstavljaju konstrukt u usporedbi sa uzorkom predviđenim teorijom ili bazičnim znanjem o odnosu među konstruktima Na primjer, trenutno dominantna teorija ličnosti govori o pet glavnih dimenzija. Takvu hipotezu se može testirati koristeći CFA, te dobiti statističku mjeru prikladnosti svojeg modela u usporedbi sa izmjerenim. Naravno ponekad se može koristiti CFA i EFA u tandemu kako bi dobili faktorski model najviše konzistentan sa izmjerenim.
CFA na praktičnom primjeru Tepper i Hoyle (1996) provode CFA na skali potrebe za un ikatnošću, te dobivaju da nije moguće modificirati
pretpostavljeni trofaktorski model kako bi adekvatno opisali komunalitet unutar 32 čestice upitnika . Na osnovu toga pretpostavlju da je po trebno više faktora i provode EFA, koja predlaže korištenje 4 faktora.
Dobivena saznanja koriste za naknadnu CFA bez resktrikcija, koja omogućava testiranje broja faktora bez simultane procjene uzorka zasićenja. Nakon što su dobili potvrdu za takav model koriste empirijsku strategiju za resktrikciju neznačajnih zasićenja i time razvijaju četiri faktorski model sa nekoliko dvostrukih zasićenja koji je veoma drugačiji od pretpostavljenog jednostavnog trofaktorskog modela Uvjeti za provođenje CFA 1.
Veliki uzorak
Preporučuje se N>200 za bilo koji iole kompleksniji CFA model, N>400 se preferira, no ako se koristi nedavno modificirani lošiji model potrebno je barem N>800 kako bi se zaštitili od mogućeg utjecaja slučajnih varijacija u podacima 2.
Distribucija
Pošto je test dosta robusan, ukoliko je donekle velik uzorak metoda uglavnom daje dobre rezultate. U ekstremnim slučajevima nenormalne distribucije postoje neke solucije, no zahtjevaju ili N=5000 ili posebne statističke pristupe kako bi CFA funkcionirala 3.
Skala mjerenja
Čestice bi trebale biti mjerene na omjernoj ili intervalnoj skali, zbog toga se preporučuje da na upitnicima kakve koristimo u psihologiji bude 5 ili više mogućih odgovora za svaku česti cu.
MODELIRANJE STRUKTURALNIM JEDNADŽBAMA
Razlika CFA- SEM U CFA sve latentne varijable su egzogene – mogu i ne moraju biti korelirane, zato je CFA modeli ne pokušavaju razlučiti uzročno-posljedične veze među faktorima (izravne, posredne efekte, zajedničke uzroke i neanalizirana povezanost), tj. sve povezanosti među faktorima su neanalizirane povezanosti, tj. obične korelacije. Strukturalno modeliranje je kombinacija CFA pristupa i path analize. Modeliraju se uzročne veze među LATENTNIM VARIJABLAMA (faktorima). Tada latentne varijable opet dijelimo na one koje utječu na druge: egzogene (prediktore) i one koje su pod utjecajem drugih – endogene varijable (medijatore ili ishode i kriterije).
CFA može biti samostalna analiza, npr. za utvrđivanje faktorske strukture neke skale ili prvi korak u izradi strukturalnog modela.
Modeliranje strukturalnim jednadžbama (SEM) – sveobuhvatan statistički pristup testiranju odnosa između latentnih i manifestnih varijabli = Skup stat. metoda uz pomoć kojih reprezentiramo, procjenjujemo i testiramo teorijsku mrežu linearnih kombinacija među varijablama Osnovna ideja SEM-a: testiranje podudaranja modela s empirijskim podacima – uspoređujemo očekivane (teoretske) i dobivene (opažene) matrice kovarijance konfirmatorna tehnika
Alternativni modeli 1.
Kada se na teoretskoj osnovi postavlja više modela
2.
Kada se model nedovoljno podudara s dobivenim podacima – modifikacija i ponovno testiranje
Cilj: pronaći model koji je 1. teoretski smislen, 2. razumno parsimoničan i 3. prihvatljivo se podudara s podacima
1. Specifikacija modela = deriviranje hipoteza iz poznate teorije- grafički prikaz odnosa među varijablama npr.
2.
Identifikacija modela
= prevođenje modela u seriju jednadžbi i matrica – izrada matrica kovarijanci na temelju teorije (očekivanih (hipotetskih) odnosa i rezultata)
3.
Procjena parametara populacije
= također izrada matrice kovarijance, ali na temelju stvarnih rezultata na uzorku
Upotreba kovarijanci u SEM-u: covxy = rxy SDx SDy 1. razumijevanje obrazaca kovarijanci među promatranim varijablama
2. objašnjavanje proporcije varijance tih varijabli što je više moguće unutar postavljenog modela * Moguće je izračunati aritmetičke sredine faktora, no najčešće nema potrebe za tim
4. Adekvatnost modela Usporedba očekivanih i izmjerenih matrica uz pomoć indeksa podudarnosti (slaganja) ( fit index ) Indeksi podudarnosti – indeksi koji govore o tome koliko se testirani model (očekivana matrica) poklapa s podacima (dobivena, izmjerena matrica) Dvije vrste: 1.
hi kvadrat – ukazuje na razliku između matrica
2.
indeksi koji govore o kvaliteti modela (točnost : CFI, GFI, RNFI (trebaju biti što bliže 1); pogreška: RMSEA,
SRMR (trebaju biti što bliže 0)) Comparative Fit Index (CFI) – vrijednosti između 0 i 1: veća vrijedn ost ukazuje na bolji model GFI – mjera relativne veličine varijanca i kovarijanca zajednički objašnjene modelom Normativan indeks slaganja (NFI, Bentler i Bonett) – u kojoj se mjeri predloženi model podudara s podacima Tucker – Lewis (TL): koliko bolje predloženi model opisuje podatke u odnosu na nul -model, uzimajući u obzir df
* možemo prihvatiti model kao adekvatan onda kada su njihove vrijednosti 0.90 ili više! Root Mean Square Error of Approximation (RMSEA) – povezana s rezidualom modela –
–
vrijednosti između 0 i 1: manja vrijednost ukazuje na adekvatnost modela možemo prihvatiti model kao dobar onda kada je vrijednost RMSEA-e 0.06 ili niža
Standardized Root Mean Residual (SRMR) –također između 0 i 1: dobar model ima vrijednosti SRMR-a manje od 0.05 * obratiti pozornost na reziduale
Reziduali Manifestne varijable: E – pogreške mjerenja Faktori: D – proporcija varijance neobjašnjena faktorom - Nakon procjene modela reziduali bi trebali biti što manji (blizu 0), a frekvencija kovarijanci reziduala bi trebala biti
simetrična Nesimetrična distribucija – slab model – npr. odstupanje reziduala neke varijable može ukazati da ta varijabla nije dobar predstavnik modela, ili model ne objašnjava dobro varijablu
VRSTE PARAMETARA I MATRICA U SEM-u 1. 2. 3. 4. 5. 6. 7. 8.
Lambda y – povezanost latentne zavisne varijable s njenim manifestnim (indikatorima) Lambda x – povezanost latentne nezavisne varijable s njenim manifestnim (indiaktorima) Beta – neanalizirana povezanost (korelacije) među latentnim zavisnim varijablama Gama – efekti nezavisnih latentnih varijabli na zavisne latentne varijable Phi matrica – varijance (u dijagonali) i kovarijance latentnih nezavisnih varijabli Psi matrica – varijance i kovarijance zeta varijabli Theta epsilon matrica – varijance i kovarijance reziduala manifestnih indikatora ZV Theta delta matrice – varijance i kovarijance reziduala manifestnih indikatora NV
Prednosti SEM-a 1.
Testiranje kompleksnih veza i medijacijskih utjecaja:
ANOVA: postoji li razlika i u kojem smjeru? SEM : zbog čega postoje te razlike? – testiranje svih mogućih odnosa među varijablama, odnosno potencijalne medijacijske efekte 2. Mogućnost usporedbe različitih modela – najbolji je model onaj koji je najekonomičniji (princip parsimonije – ako imamo dva modela koji podjednako dobro opisuju dobivene podatke: bolji onaj koji je jednostavniji – analogija s faktorskom analizom)
Ograničenja SEM-a 1. Moguće dvosmislenosti zbor velike složenosti 2. Oprez: ukoliko se ne radi o eksperimentalnom nacrtu, strukturalno modeliranje (kao ni ostale statističke tehnike) ne pruža dokaz o uzročnosti ! 3. Kada istraživači testiraju jedan model, dobiju pozitivne procjene te ne uzimaju u obzir alternativna
objašnjenja OPĆI PRIMJER SEM- modela
PRIMJER SEM-analiza - Primjer istraživanja
Strukturalni model za predikciju promjena preventivnih ponašanja u vezi s AIDS-om kod mladih ljudi (Prišlin, Ajduković i Ajduković, 1998) Pretpostavke (na temelju dotadašnjih spoznaja) 1.
promjene u ponašanju izravna posljedica percepcije ugroženosti
2.
Percepcija ugroženosti rezultat je znanja i stavova o AIDS-u
3.
Znanje i stavovi su međusobno uvjetovani i
4.
Razvijaju se putem socijalizacije, stoga ih predviđa
5.
Socioekonomski status, demografski status i dob
BINARNA LOGISTIČKA REGRESIJSKA ANALIZA Logistička regresija je vrsta multiple regresijske analize gdje je zavisna varijabla kategorijalna, a nezavisne su kontinuirane ili kategorijalne Cilj: predvidjeti članstvo grupi, tj vjerojatnost nekog događaja
Možemo predvidjeti kojoj će skupini osoba pripasti na temelju ostalih informacija koje o njoj imamo(NV) Kada želimo odrediti članstvo ispitanika samo za dvije grupe 0 ili 1 - Y binarna logistička regresija Principi logističke regresije U logističkoj regresiji umjesto predviđanja vrijednosti varijable Y na temelju poznavanja prediktorskih varijabli X ili nekolicine njih, mi predviđamo vjerojatnost Y na temelju poznavanja prediktorskih varijabli X ili nekolicine njih Unatoč sličnostima s linearnom regresijskom analizom, postoje razlozi zašto koristimo logističku Naime linearnu regresiju ne možemo koristiti ukoliko je ZV kategorijalna- narušen preduvjet o lineranom odnosu varijabli
Rješenje problema: transformacija podataka pomoću logaritma - prikaz ne linearnog odnosa na linearan način Drugim riječima, logistička regresija izražava multiplu linearnu regresiju u terminima logaritma
Vjerojatnost
Vrijednost vjerojatnosti kreće se između 0 i 1 Vrijednost bliža 0 znači da se Y vjerojatno nije ostvario, dok vrijednost bliže 1 znači da se vjerojatno ostvario Kao i u linearnoj regresiji svaki prediktor ima svoj pripadajući koeficijent Analiza se temelji na modelima odabiremo model koji ima najveću procjenu vjerojatnosti - prema kojoj će rezultati u nezavisnim varijablama najbolje kategorizirati pripadnost određenoj grupi Cilj: kao i u multiploj regresijskoj analizi pokušavamo naše podatke uvrstiti u određeni model koji nam
pomaže procijeniti zavisnu varijablu na temelju nezavisnih Procjena vjerojatnosti događaja za određenu osobu Npr. Prolazak na ispitu 0- pad 1- prolazak
p vrijednost biti će između 0 i 1, gdje 0 znači - nema nikakve šanse da će se događaj dogoditi, do 1 koji znači događaj će se zasigurno dogoditi
Log- vjerojatnost jest zamjena za koeficijent mulltiple regresijske analize
Temelji se na sumiranju vjerojatnosti povezanih s predviđenim i pravim vrijednostima Ova je vrijednost analogna rezidualu sume kvadrata u multiploj regresijskoj analizi
pokazatelj koliko je ostalo neobjašnjene varijance nakon primjene određenog modela Što je ova vrijednost veća to je model koji objašnjava naše podatke lošiji odnosno veći je postotak neobjašnjene varijance
Intercept u multiploj odgovara vrijednosti kada su prediktori konstatni, a u logističkoj ta vrijednost predviđa ishod koji je najčešći Potpuni logistički regresijski model, kada su u njega uključeni i prediktori hi kvadrat = 2 ( LL(model)- LL( baseline)
Hi kvadrat distribucija, što olakšava izračun značajnosti vrijednosti Df- broj parametra u novom modelu – broj parametra u temeljnom modelu U temeljnom modelu je broj parametar uvijek 1 Broj parametra u novom modelu- broj prediktora + 1( konstanta)
R i R²- ili je li izračunati logistički model is pravan? R-statistic
Parcijalna korelacija između zavisne varijable i svakog od prediktora ( varira između -1 do 1) Pozitivna vrijednost označuje da što je prediktor veći to je vjerojatnost događaja veća Negativna vrijednost- porast prediktora- manja vjerojatnost događaja
“veličina” R- što je R manji to je vrijednost cijelog modela manja
Varira između 0 i 1 0- prediktori su beskorisni u predviđanju zavisnu varijablu 1-prediktori odlično predviđaju zavisnu varijablu SPSS: Cox i Snells R ²- oni se razlikuju od R ² jer u analizu uključuju i veličinu uzorka Nagelkerke R ²
Zajedničko svim ovim mjerama jest da odgovaraju koeficijentu multiple determinacije u linearnom modelu
Wald test
Kao i kod linearne regresije ne želimo znati samo koliko je općenito model dobar, već i doprinosi svakog individulanog faktora Linearna regresija b koeficijent i njihova standarna pogreška t distribucija
Analogno u logističkoj: Wald statistika hi kvadrat distribucija
Ukazuje na značajnost koeficijenata Ako je on značajan, on doprinosi u predviđanju zavisne varijable
()
