Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna,...
Transcript of Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna,...
![Page 1: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/1.jpg)
Multipla regresija
Iztok Grabnar
Univerza v Ljubljani, Fakulteta za farmacijo
![Page 2: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/2.jpg)
2
Učenje/potrjevanje
![Page 3: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/3.jpg)
3
![Page 4: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/4.jpg)
4
Analiza povezanosti
Opazovani pojav= odvisna spremenljivka
Napovedni dejavnik= neodvisna spremenljivka
Statistični modeli:
Univariabilni:
en napovedni dejavnik
Povezava kot pomembna pokaže:
zaradi dejanske povezanosti napovednega dejavnika s pojavom
lahko tudi zaradi povezanosti z nekim drugim napovednim dejavnikom.
Multivariabilni:
več
napovednih dejavnikov
![Page 5: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/5.jpg)
5
Regresijska analiza
Univariatna, bivariatna, multivariatna analiza
Statistična spremenljivka
Numerična zvezna
Atributivna
Dihotomna
Linearna regresija
Logistična regresija
![Page 6: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/6.jpg)
6
Posplošeni linearni model Generalized Linear Model
)()( 1 XgYE
))(()()( 1 XgVVYVar
Linearni prediktor0
+ 1
x1
+ 2
x2
+...+ n
xn
Povezovalna funkcija
![Page 7: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/7.jpg)
7
GLMStatistična
spremenljivkaPorazdelitev Povezovalna
funkcija
Zvezna Normalna =X
Števna Poissonova =exp(X
Dihotomna Binomska =exp(Xexp(X
![Page 8: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/8.jpg)
8
Grafični
prikazi
v analizi
povezanosti
Razsevni
diagrami
Odgovorne
površine
0
0.1
0.2
0.3
0.4
0.5
0.6
0 0.2 0.4 0.6 0.8 1 1.2
x
y
1 3 5 7 9
11 13 15 17
1
7
13
-30
-20
-10
0
10
20
30
40
50
z
x
y
![Page 9: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/9.jpg)
9
Je enačba, ki opisuje odnos med odvisno (y) in neodvisno (x) spremenljivko in napako ().
Enačba
enostavnega linearnega regresijskega modela
je:
y = 0
+ 1
x +
0
in
1
sta
parametera
modela.
je
napaka N(0, e
2)
Enostavni
linearni
regresijski
model
![Page 10: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/10.jpg)
10
xy 10 iyiy
ix
iii yy ˆ
),( yx
X
y
![Page 11: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/11.jpg)
11
Metoda najmanjših kvadratov
yi = opažena
i-ta vrednost odvisne spremenljivkeyi = ocena
i-te vrednosti odvisne spremenljivke^
2ˆmin ii yy
Johann Carl Friedrich Gauss (1777-1855)
![Page 12: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/12.jpg)
12
Koeficient determinacije
SST = SSR + SSE
222 ˆˆ iiii yyyyyy
SST = celokupna vsota kvadratovSSR = vsota kvadratov
regresije
SSE = vsota kvadratov napake
xy 10 iyiy
ix
iii yy ˆ
),( yx
X
y
SSTSSRr 2
r –
koeficient korelacije
![Page 13: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/13.jpg)
13
Ocena e2
222 ˆˆ iiii yyyyyy
Varianca napake
MSE ali
s2
s2
= MSE = SSE/(n-2)kjer:
MSEs Standardna napaka ocene
![Page 14: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/14.jpg)
14
Statistično sklepanje
Ničelna statistična hipoteza:
1
= 0
Dva pristopa
t test
F test
Pri obeh je potrebna ocena
e
2.
![Page 15: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/15.jpg)
15
t testHipotezi
H0
: 1
= 0Ha
: 1
≠
0
Testna
spremenljivka
2
i x-xMSE
1bs1
12,2/
bn s
bt
![Page 16: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/16.jpg)
16
Določanje
intervala zaupanja 1
kjer je
točkovna ocena naklonakritična meja za stopnjo tveganja vrednost iz t-porazdelitve z (n – 2) stopinjami prostosti
12,2/ bn st
2,2/ nt
12,2/1 bn stb
1b
![Page 17: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/17.jpg)
17
Hipotezi
H0
: 1
= 0Ha
: 1
≠
0
Testna spremenljivka
F,1,n-2
= MSR/MSE
F test
![Page 18: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/18.jpg)
18
Previdnost pri interpretaciji statistične značilnosti
Zavrnitev
H0
: 1
= 0 in sklep, da je povezava med spremenljivkama
x in
y
značilna ne dopušča opredelitve povezave v smislu vzrok in posledica.
Z zavrnitvijo
H0
: 1
= 0 nismo dokazali, da je odnos med spremenljivkama
linearen.
![Page 19: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/19.jpg)
19
Formule
n
yxyxyyxxL ii
iiiixy
nx
xxxL iiixx
222
ny
yyyL iiiyy
222
xx
xy
LL
b 1
nxby
xbyb ii 1
10
MSEMSRF
knSSEMSE
kSSRMSR
LL
LSSE
LL
SSR
SSRSSTSSE
knk
xx
xyyy
xx
xy
,1,
2
2
1
xx
1 LMSE
bse
xxLxbse
2
0 n1MSE
yyxx
xy
LLL
r
![Page 20: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/20.jpg)
20
![Page 21: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/21.jpg)
21
![Page 22: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/22.jpg)
22
Interval zaupanja in interval napovedovanja
Gestacijska starost
50403020
Por
odna
mas
a5000
4000
3000
2000
1000
0
![Page 23: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/23.jpg)
23
Uporaba regresijske enačbe
Interval zaupanja
Interval napovedovanja
2
2
n1MSE
xxxxs
i
sy α/22,ntˆ
2
2
n11MSE
xxxxs
isy α/22,ntˆ
![Page 24: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/24.jpg)
24
y = 0
+ 1
x1
+ 2
x2 + . . . + p xp +
0
, 1
, 2
, . . . , p so
parametri.
Standardizirani parametri (xi
zi
)
je napaka, ki je slučajna
spremenljivka.
Multipli
regresijski
model
![Page 25: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/25.jpg)
25
Multipli
koeficient determinacije
R 2
= SSR/SST
Popravljeni multipli
koeficient determinacije
1
111 22
pn
nRRa
Koeficient determinacije
n = 20 –
30 na posamezen prediktor (če so prediktorji med sabo korelirani je potreben večji n)
![Page 26: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/26.jpg)
26
Pri enostavni linearni regresiji nas
F in
t test vodita k istim sklepom.
V multipli regresiji uporabimo
F in
t test za različna namena.
Statistično sklepanje
![Page 27: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/27.jpg)
27
F test
Pomembnost modela kot celote.
Test
for overall significance.
![Page 28: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/28.jpg)
28
t test
Če je izid
F testa
za model kot celota
značilen, uporabimo
t teste
za ugotavljanje značilnosti vplivov posameznih neodvisnih spremenljivk.
Za vsako neodvisno spremenljivko izvedemo en
t test.
Vsak t test imenujemo tudi test posamične značilnosti (test for individual significance).
![Page 29: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/29.jpg)
29
F test
HipoteziH0
: 1
= 2 = . . . = p = 0Ha
: Najmanj eden izmed parametrov ni enak 0
Testna
spremenljivkaF = MSR/MSE
Zavrnitev ničelne hipotezeZavrni
H0
če
F > F
kjer je
F
odklon v F porazdelitvi s
p stopinjami prostosti
v števcu in
(n -
p – 1) stopinjami
prostosti
v imenovalcu ulomka.
![Page 30: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/30.jpg)
30
t test
HipoteziH0
: i = 0Ha
: i ≠
0
Testna
spremenljivka
Zavrnitev ničelne hipotezeZavrni
H0
, če |t| > t kjer je
t
odklon v
t porazdelitvi zn -
p -
1 stopinjami prostosti.
bi
i
sbt
![Page 31: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/31.jpg)
31
Atributivne spremenljivke
Rekodiranje s slepimi spremenljivkami
k
nivojev osnovne atributivne spremenljivke nadomestimo s (k-1) slepimi spremenljivkami
![Page 32: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/32.jpg)
32
Primer: Vpliv kajenja na pljučno funkcijo
Z raziskavo želimo opredeliti vpliv kajenja na pljučno funkcijo. Naključno smo izbrali 1000 ljudi obeh spolov in spremljali pljučno funkcijo (parameter FEV), poleg tega smo beležili še njihovo starost in telesno višino. Za analizo rezultatov raziskave smo uporabili metodo multiple regresije. Neodvisne spremenljivke v analizi so bile:
starost [leta] telesna višina [cm]
spol (0 = ženski, 1 = moški) kajenje (0 = nekadilec, 1 = kadilec)
Odvisna spremenljivka pa je bila FEV [liter].
![Page 33: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/33.jpg)
33
Model Summary
.497a .247 .243 .25269Model1
R R SquareAdjustedR Square
Std. Error ofthe Estimate
Predictors: (Constant), kajenje, t. višina (cm), starost(leta), spol
a.
ANOVAb
20.786 4 5.196 81.383 .000a
63.533 995 .06484.319 999
RegressionResidualTotal
Model1
Sum ofSquares df Mean Square F Sig.
Predictors: (Constant), kajenje, t. višina (cm), starost (leta), spola.
Dependent Variable: FEV (l)b.
Coefficientsa
2.666 .118 22.568 .000-1.9E-03 .001 -.063 -2.296 .022-5.6E-04 .001 -.024 -.844 .399
.219 .017 .376 13.208 .000-.275 .023 -.327 -11.857 .000
(Constant)starost (leta)t. višina (cm)spolkajenje
Model1
B Std. Error
UnstandardizedCoefficients
Beta
StandardizedCoefficients
t Sig.
Dependent Variable: FEV (l)a.
y = b0
+ b1
starost + b2
višina + b3
spol + b4
kajenje
![Page 34: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/34.jpg)
34
Primer: Pravastatin
Randomizirana klinična raziskava
Paralelni načrt (placebo, n=434 in pravastatin, n=438)
Meritev LDL pred zdravljenjem in 2 leti po začetku zdravljenja
Primarni izid je znižanje vrednosti LDL
Jukema
JW, Bruschke
AV, van Boven
AJ, Reiber
JH, Bal ET, Zwinderman
AH, et al. Effects of lipid lowering by pravastatin
on progression and regression of coronary artery disease in symptomatic men with normal to moderately elevated serum cholesterol levels. The Regression Growth Evaluation Statin
Study (REGRESS). Circulation 1995;91:2528-40.
![Page 35: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/35.jpg)
35
RezultatiPlacebo: LDL=-0.04±0.59 mmol/LPravastatin: LDL=1.23±0.68 mmol/L
=1.23-(-0.04)=1.27 mmol/L
Lmmolse /043.0434/59.0438/68.0 22
![Page 36: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/36.jpg)
36
Baseline LDL-cholesterol (mmol/l)
LDL-
chol
este
rol d
ecre
ase
(mm
ol/l
)
![Page 37: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/37.jpg)
37
![Page 38: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/38.jpg)
38
1.27
y=b0
+b1
x1
+b2
x2
x1
=1 (pravastatin), x1
=0 (placebo)x2
=baseline
Placeboy=b0
+b2
x2
Pravastatiny=b0
+b1
+b2
x2
b1
=1.27±0.037Izboljšana natančnostse: 0.043
0.037
![Page 39: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/39.jpg)
39
b=0.36 (se=0.06; p<0.0001)
![Page 40: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/40.jpg)
40
Tveganje, obeti
ter razmerja
2
1
ppRR
2
2
1
1
1
1
pp
pp
1
2
1
2
2
1
2
2
1
1
11
11
1
1ppRR
pp
pp
pp
pp
Relativno tveganjeRelativno tveganje
ang. Relative Riskang. Relative RiskRazmerje obetovRazmerje obetov
ang.ang.
Odds RatioOdds Ratio
Povezava med razmerjem obetov ter relativnim tveganjem:Povezava med razmerjem obetov ter relativnim tveganjem:
![Page 41: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/41.jpg)
41
Preprosta logistična regresija
Opazovani pojav= binarna spremenljivka 0/1
Kako uporabiti linearni model za opisovanje odnosa?
![Page 42: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/42.jpg)
42
Preprosta logistična regresija
Vrednost binarne spremenljivke zapisati kot:
Verjetnost, da zavzame vrednost 1 pri danem X:
π
(x)-
populacija
p(x)-
vzorec
Zavzame le vrednosti med 0 in 1-
preozek razpon
Razmerje verjetnosti, da dogodek zgodi in da se ne zgodi:
Zavzame vrednosti med 0 in + neskončnostjo
)(1)(xp
xp
![Page 43: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/43.jpg)
43
Preprosta logistična regresija
Logaritmiranje=> med –
in + neskončnostjo
itxp
xp log)(1
)(ln
xxpx
x
)]([logit)(1
)(ln bxaxp
xp
)(1
)(ln
Ocena parametrov iz vzorca:Ocena parametrov iz vzorca:Populacija:Populacija:
bxa
bxa
eexp
1)( Verjetnost, da dogodek Verjetnost, da dogodek
zgodil pri danem Xzgodil pri danem X
![Page 44: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/44.jpg)
44
Pomen regresijskega koef. b
Lin. regresija:
Log. regresija:
Binarni X (0/1) => x=0, x+1=1.
Obet da bo y=1:
Logaritmiranje:
)()1( xx yyb
)()1( loglog xx ititb
)0(1)0(
0 ppOx
)1(1)1(
1 ppOx
)0(1)0(lnlog 0 p
pitx
)1(1)1(lnlog 1 p
pitx
itbxaxp
xp log)(1
)(ln
![Page 45: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/45.jpg)
45
Pomen regresijskega koef. b
Log. razmerja obetov:
)0()1( loglogln ititbRO
)0(1)0(
0 ppOx
)1(1)1(
1 ppOx
)0(1)0(
)1(1)1(
0
1
pp
pp
OORO
x
x
)0(log)1(log
)0(1)0(
)1(1)1(
lnln itit
pp
pp
RO
beRO
![Page 46: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/46.jpg)
46
Ocenjevanje b v vzorcu
p(x)? =>b in a ?
Lin. regresija: metoda najmanjših kvadratov ostankov.
Log. regresija: metoda največjega verjetja (maximum likelihood method).
Funkcija največjega verjetja
Oz. logaritem funkcije verjetja (“log likelihood”):
Nelinearna funkcija parametrov modela a in b.
Iteracijska metoda, več
ocen parametrov. Nove ocene, dokler še zveča funkcijo največjega verjetja. Lokalna/globalna točka največjega verjetja. Start?
itbxaxp
xp log)(1
)(ln
![Page 47: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/47.jpg)
47
Ocenjevanje b v populaciji
Vzorčna porazdelitev b-
ja: normalna porazdelitev = > interval zaupanja:
Vzorčna ocena razmerja obetov: nenormalna, nesimetrična porazdelitev
Interval zaupanja za RO iz b (spodnjo/zgornjo mejo):
)(* bSEzb
bSEzbe *
![Page 48: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/48.jpg)
48
Multipla logistična regresija
Matematični model:
b(k): sprememba v logitu, ki spremlja spremembo X(k) za 1 enoto, medtem ko se ostale sprem. ne spreminjajo.
Regresijski koef. b = logaritem razmerja obetov
Razmerje obetov= antilogaritem b:
Metoda največjega verjetja
kk
kk
xbxbxba
xbxbxba
eexp
...
...
2211
2211
1)(
be
![Page 49: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/49.jpg)
49
Testiranje pomembnosti modela kot celote
Ali se log verjetja modela s spremenljivkami X statistično značilno poveča v primerjavi z log verjetja modela brez njih.
G-
statistika-
test razmerja dveh verjetij:
Porazdeljuje po hi-
kvadrat, df: k
k: št. vseh spremenljivk v modelu
V SPSS-u: “Omnibus test”
0
.ln2verjetje
verjetjeG XSPREM
![Page 50: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/50.jpg)
50
Vrednotenje prileganja modela
Nagelkerkejev R^2
Test hi-
kvadrat
Hosmer-
Lemeshov test:
Oba primerjata opazovano število enot, pri katerem se je opazovani dogodek zgodil, s pričakovanim številom, ki temelji na enačbi logistične regresije.
![Page 51: Iztok Grabnar - Fakulteta za farmacijo · · 2012-02-295 Regresijska analiza Univariatna, bivariatna, multivariatna analiza Statistična spremenljivka Numerična zvezna Atributivna](https://reader030.fdocument.pub/reader030/viewer/2022020412/5b0e52667f8b9a952f8ec31c/html5/thumbnails/51.jpg)
51
Testiranje pomembnosti b
Ho: b=0, Ha: b≠
0
Testi:
Z:
Waldova statistika:
G-
statistika:
bSEbz 0
2
2
bSEb
GG--
statistika:statistika:Model, ki Model, ki vkljuvključčuje X, pove uje X, pove vevečč
o Y.o Y.
0
ln2verjetjeverjetjeG x