8장 검정의 기본요소

수업시간 과제

\(X_1, X_2, \dots X_n\) 이 다음 분포로부터의 랜덤샘플일 때 \(\theta\)의 추정량 \(\hat{\theta}=\bar{X}\)이 비편향추정량 중에서 분산이 가장 작은 추정량임을 보여라.

\(Poisson(\theta)\)

answer

\(X \sim Poisson(\lambda) \to f(x| \lambda) = \frac{\lambda^x e^{-\lambda}}{\lambda!}\)

\(E(X) = \lambda\), \(Var(X) = \lambda\)

\(Var(\bar{X}) = \frac{1}{nI(\theta)}\)일까?

\(I(\theta) = E(\frac{\partial}{\partial \lambda} log f(x|\lambda)^2)\)

\(= E(-1 + \frac{X}{\lambda})^2 = E(\frac{X-\lambda}{\lambda})^2 = \frac{E(X^2) - 2\lambda E(X) + \lambda^2}{\lambda^2} = \frac{\lambda + \lambda^2-2\lambda^2 + \lambda^2}{\lambda^2} = \frac{1}{\lambda}\)

\(\frac{1}{nI(\theta)} = \frac{\lambda}{n}\)

\(Var(\bar{X}) = \frac{\lambda}{n}\)

\(\therefore \bar{X}\)는 MVUE다.

수업시간 과제

\(X_1,X_2, \dots, X_n\)가 \(Bernoulli(p)\)로부터의 랜덤샘플이라고 할 때, \(Bernoulli(p)\)의 분산의 최대가능도추정량의 점근분포를 구하시오.

answer

델타 방법 이용

\(\sqrt{n}(g(\hat{\theta})-g(\theta_0) \xrightarrow[]{d} N(0,\frac{g'(\theta_0)^2}{I(\theta_0)})\)

\(g(\theta_0) = p(1-p)\)

\(g'(\theta_0) = 1-2p\)

\(I(p) = \frac{1}{p(1-p)}\)

\(\therefore \frac{(1-2p)^2}{I(p)} = p(1-p)(1-2p)^2\)

\(\sqrt{n}(\frac{p(1-p)}{n} - p(1-p) \xrightarrow[]{d} N(0,p(1-p)(1-2p)^2)\)

4장 23.

\(X_1,X_2,X_3\)이 \(f_X(x:\theta)=\frac{1}{\theta}exp(-\frac{x}{\theta}),x>0\)으로부터 얻은 랜덤표본이라고 하자. 모수 \(\theta\)를 추정함에 있어 \(\frac{X_1 + 2X_2 + X_3}{4}\)의 \(\bar{X}_3\)에 대한 효율을 구하라.

answer

\(\sim \frac{(X_1 + 2X_2 + X_3)/4}{\bar{X}_3}\)

\(\text{eff}((X_1 + 2X_2 + X_3)/4,\bar{X}_3) = \frac{1/Var((X_1+2X_2+X_3)/4)}{1/Var(\bar{X}_3)}\)

\(E(\frac{X_1 + 2X_2 + X_3}{4}) = \frac{\theta + 2\theta + \theta}{4} = \theta \to\)비편향추정량

\(E(\bar{X}_3) = \theta \to\) 비편향추정량

\(Var(\frac{X_1 + 2X_2 + X_3}{4}) = \frac{\theta^2 + 4\theta^2 + \theta^2}{16} = \frac{6\theta^2}{16} = \frac{3\theta^2}{8}\)

\(Var(\bar{X}_3) = \frac{\theta^2}{3}\)

\(\therefore \frac{8}{3\theta^2} \times \frac{\theta^2}{3} = \frac{8}{9}\)

\((X_1 + 2X_2 + X_3)/4\) 가 \(\bar{X}_3\)에 비해 \(\frac{8}{9}\)만큼 효율을 가진다.

4장 25.

\(X_1,X_2,\dots,X_n\)을 베르누이 \((p)\)로부터 얻은 랜덤 표본이라고 하자.

분산 \(p(1-p)\)에 대한 비편향추정량의 크래머-라오 하한값을 구하라.

answer

\(f_X(x|p) = p^x(1-p)^{1-x}\)

\(I(p) = E(\frac{\partial}{\partial p} log f_X(x|p))^2\)

\(= E(\frac{\partial}{\partial p} X log p + (1-x) log(1-p))^2\)

\(= E(\frac{x}{p} - \frac{1-x}{1-p})^2\)

\(\frac{E((x-p)^2}{o(1-p)^2}\)

\(\star E((x-p)^2 = Var \sim p(1-p)\)

\(= \frac{E(x-p)^2}{p^2(1-p)^2} = \frac{1}{p(1-p)}\)

CRLB: \(\frac{(g'(p))^2}{nI(p)} = \frac{p(1-p)(1-2p)^2}{n}\)