Stochastiek 2. Inleiding in de Mathematische Statistiek 1 / 17

Transcriptie

1 Stochastiek 2 Inleiding in de Mathematische Statistiek 1 / 17

2 Betrouwbaarheidsgebieden 2 / 17

3 Idee Een schatter T voor een parameter θ geeft één punt in de parameterruimte Θ. I.h.a. zal T θ onder P θ, we maken altijd een fout. Willen graag de afwijking/onzekerheid kwantificeren. 3 / 17

4 Definitie Setting: waarneming X P θ, θ Θ. Definitie. Een stochastische verzameling G X Θ die van X afhangt heet een betrouwbaarheidsgebied voor θ met onbetrouwbaarheid α (0, 1) als θ Θ : P θ (θ G X ) 1 α. Als Θ R en G X is een interval, dan heet G X een betrouwbaarheidsinterval. Interpretatie: herhaling van experimenten! (p. 178 (172)) vb / 17

5 Pivots 5 / 17

6 Definitie Definitie. Een pivot is een functie T (X, θ) van de waarneming X en de parameter θ, z.d.d. de verdeling van T (X, θ) onder P θ niet van θ afhangt. M.a.w. B : P θ (T (X, θ) B) is onafh. van θ. 6 / 17

7 Betrouwbaarheidsgebied op basis van pivot Fixeer een onbetrouwbaarheidsniveau α (0, 1). Bepaal B z.d.d. P θ (T (X, θ) B) 1 α. N.B.: B hangt dan dus niet van θ af! Dan is {θ Θ : T (X, θ) B} een betrouwbaarheidsgebied met onbetrouwbaarheid α. vb. 5.4, 5.5, / 17

8 Maximum likelihood-schatters als bijna-pivots 8 / 17

9 MLS en Fisher informatie Setting: waarnemingen X 1,..., X n o.o., X i heeft dichtheid p θ, θ Θ R. Aanname: θ p θ is positief en glad. Definieer: l θ (x) = log p θ (x), l θ (x) = θ l θ(x). Zij ˆθ n de MLS: punt waar θ n i=1 l θ(x i ) maximaal is. Fisher-informatie in één waarneming X 1 : i θ = V ar θ lθ (X 1 ). 9 / 17

10 Asymptotiek van de MLS geeft benaderd b.i. Stelling. Onder regulariteitsaannamen geldt dat onder P θ : niθ (ˆθ n θ) d N(0, 1). In het bijzonder: T (X 1,..., X n ; θ) = ni θ (ˆθ n θ) is een bijna pivot voor grote n. Volgt dat {θ : ξ 1 α/2 ni θ (ˆθ n θ) ξ 1 α/2 } een benaderd betrouwbaarheidsgebied is voor θ met onbetrouwbaarheid α. 10 / 17

11 Wald-interval, schatters voor i θ Handig om i θ te vervangen door een geschikte schatter î θ. We krijgen dan het Wald-interval θ = ˆθ n ± 1 nî θ ξ 1 α/2. Geschikte/veelgebruikte schatters voor i θ : plug-in schatter: î θ = iˆθ n, met ˆθ n de MLS. waargenomen informatie: î θ = 1 n n lˆθ n (X i ), i=1 met l θ = θ l θ. (Herinner: i θ = E θ l θ (X 1 )). vb. 5.11, 5.12, / 17

12 betrouwbaarheidsgebieden en toetsen 12 / 17

13 Stelling Setting: waarneming X P θ, θ Θ. Willen: een betrouwbaarheidsgebied voor g(θ), voor een gegeven functie g : Θ g(θ) (meestal g : Θ R). Toetsen: gegeven α (0, 1) en voor iedere τ g(θ) een toets van niveau α voor H 0 : g(θ) = τ tegen H 1 : g(θ) τ, met kritiek gebied K τ. Stelling. In deze setting is G X = {τ g(θ) : X K τ } = {τ : H 0 : g(θ) = τ wordt niet verworpen bij waarneming X } een betrouwbaarheidsgebied voor g(θ) met onbetrouwbaarheid α. vb. 5.20, / 17

14 likelihood-ratiogebieden 14 / 17

15 Likelihood-ratiostatistiek - asymptotische verdeling Setting: o.o. waarnemingen X 1,..., X n p θ, θ Θ R k. Hypothesen: H 0 : θ Θ 0, H 1 : θ Θ 1. Aanname: stel dat voor θ 0 Θ 0 : n(θ θ0 ) k-dim. lineaire ruimte, als n. n(θ0 θ 0 ) k 0 -dim. lineaire ruimte Stelling In deze setting geldt onder regulariteitsvoorwaarden dat onder P θ0, n i=1 2 log pˆθn (X i ) sup n θ0 Θ 0 i=1 p θ 0 (X i ) d χ 2 k k 0 als n, met ˆθ n de MLS. 15 / 17

16 Likelihood-ratiogebied - hele parameter Stel nu, we willen een b.g. voor θ zelf (g(θ) = θ). Onder regulariteitsvoorwaarden: LR-toets van benaderd niveau α voor H 0 : θ = τ verwerpt H 0 als n i=1 2 log pˆθ n (X i ) n i=1 p τ (X i ) χ2 k,1 α. Benaderd b.g. voor θ met onbetrouwbaarheid α dus: { θ Θ : log n p θ (X i ) log i=1 n i=1 pˆθn (X i ) 1 2 χ2 k,1 α }. 16 / 17

17 Likelihood-ratiogebied - opmerkingen LR-gebied: gebied waar de log-likelihood groot is (relatief). De MLS zit altijd in het LR-gebied Als de log-likelihood meerdere lokale maxima heeft, kan het LR-gebied onsamenhangend zijn (uit meerdere gescheiden delen bestaan). vb / 17