112 年 國立政治大學統計學系碩士班《數理統計學》

📄 試題原卷 免費註冊後即可對照原始考卷 PDF免費註冊

第 1 題40 分

Suppose that XX is a random variable whose distribution is N(0,1)N(0, 1), the normal distribution with mean 00 and variance 11. Suppose that we have IID (independent and identically distributed) observations Y1,…,YnY_1, \dots, Y_n, and the distribution of Y1Y_1 is the same as the distribution of X3X^3. Suppose that the parameter θ∈(−∞,∞)\theta \in (-\infty, \infty) is unknown.

(a) Find a PDF of X3X^3.
(b) Find the maximum likelihood estimator for θ\theta based on the observations Y1,…,YnY_1, \dots, Y_n.
(c) For α∈(0,1)\alpha \in (0, 1), find the likelihood ratio test of size α\alpha for testing H0:θ=0H_0: \theta = 0 versus H1:θ≠0H_1: \theta \neq 0. Express the rejection region in terms of a test statistic and give the distribution of the test statistic under H0H_0.
(d) Find the (uniformly) minimum variance unbiased estimator for θ2\theta^2 based on the observations Y1,…,YnY_1, \dots, Y_n.

登入後即可作答並保存紀錄。

這一題的完整詳解

題意中的參數模型

題幹目前未交代參數 θ\theta 如何進入 YiY_i 的分布;以下依本題各小題可成立的標準模型,採用

Yi=d(Xi+θ)3,Xi∼i.i.d.N(0,1).Y_i\overset{d}{=}(X_i+\theta)^3,\qquad X_i\overset{\text{i.i.d.}}{\sim}N(0,1).

因此令

Zi=Yi1/3=sgn⁡(Yi)∣Yi∣1/3,Z_i=Y_i^{1/3}=\operatorname{sgn}(Y_i)|Y_i|^{1/3},

則

Zi∼i.i.d.N(θ,1).Z_i\overset{\text{i.i.d.}}{\sim}N(\theta,1).

核心觀念

本題主要考查:

  • 單調變數轉換求機率密度函數。
  • 最大概似估計。
  • 常態母體平均數的概似比檢定。
  • 完備充分統計量與 Lehmann–Scheffé 定理。
  • 以常態樣本平均數構造 θ2\theta^2 的不偏估計量。

關鍵轉換是將觀察值 YiY_i 開立方根,化為常態平均數問題。


(a) 求 X3X^3 的 PDF

令

W=X3.W=X^3.

因為 w=x3w=x^3 在整條實數軸上為嚴格遞增函數,其反函數為

x=w1/3,x=w^{1/3},

且

dxdw=13∣w∣2/3,w≠0.\frac{dx}{dw}=\frac{1}{3|w|^{2/3}},\qquad w\neq 0.

X∼N(0,1)X\sim N(0,1) 的密度為

fX(x)=12πe−x2/2.f_X(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}.

利用單調變數轉換公式,

fW(w)=fX(w1/3)∣dxdw∣.f_W(w) =f_X(w^{1/3})\left|\frac{dx}{dw}\right|.

所以

fW(w)=132π∣w∣2/3exp⁡(−w2/32),w≠0.f_W(w) = \frac{1}{3\sqrt{2\pi}|w|^{2/3}} \exp\left(-\frac{w^{2/3}}{2}\right), \qquad w\neq 0.

在單一點 w=0w=0 的密度值不影響機率,可任意指定;通常寫成下式:

fX3(w)=132π∣w∣2/3exp⁡(−w2/32),w∈R, w≠0\boxed{ f_{X^3}(w) = \frac{1}{3\sqrt{2\pi}|w|^{2/3}} \exp\left(-\frac{w^{2/3}}{2}\right), \quad w\in\mathbb R,\ w\neq 0 }

(b) 求 θ\theta 的最大概似估計量

由

Yi=(Xi+θ)3Y_i=(X_i+\theta)^3

可得

Zi=Yi1/3∼N(θ,1).Z_i=Y_i^{1/3}\sim N(\theta,1).

因此 ZiZ_i 的密度為

fZi(zi;θ)=12πexp⁡[−(zi−θ)22].f_{Z_i}(z_i;\theta) = \frac{1}{\sqrt{2\pi}} \exp\left[-\frac{(z_i-\theta)^2}{2}\right].

直接對轉換後的資料 Zi=Yi1/3Z_i=Y_i^{1/3} 進行概似估計最簡潔。其概似函數為

L(θ)=(2π)−n/2exp⁡[−12∑i=1n(zi−θ)2].L(\theta) = (2\pi)^{-n/2} \exp\left[ -\frac12\sum_{i=1}^n(z_i-\theta)^2 \right].

對數概似函數為

ℓ(θ)=−n2log⁡(2π)−12∑i=1n(zi−θ)2.\ell(\theta) = -\frac n2\log(2\pi) -\frac12\sum_{i=1}^n(z_i-\theta)^2.

微分得

dℓ(θ)dθ=∑i=1n(zi−θ).\frac{d\ell(\theta)}{d\theta} = \sum_{i=1}^n(z_i-\theta).

令其等於 00:

∑i=1n(zi−θ)=0,\sum_{i=1}^n(z_i-\theta)=0,

因此

θ^=1n∑i=1nzi.\widehat\theta = \frac1n\sum_{i=1}^n z_i.

代回 zi=Yi1/3z_i=Y_i^{1/3},得到

θ^MLE=1n∑i=1nYi1/3\boxed{ \widehat\theta_{\mathrm{MLE}} = \frac1n\sum_{i=1}^n Y_i^{1/3} }

也就是先將每個觀察值開立方根,再取算術平均。


(c) 大小為 α\alpha 的概似比檢定

欲檢定

H0:θ=0vs.H1:θ≠0.H_0:\theta=0 \qquad\text{vs.}\qquad H_1:\theta\neq 0.

令

Z‾=1n∑i=1nZi=1n∑i=1nYi1/3.\overline Z=\frac1n\sum_{i=1}^n Z_i = \frac1n\sum_{i=1}^nY_i^{1/3}.

概似比統計量

在一般 θ\theta 下,

L(θ)=(2π)−n/2exp⁡[−12∑i=1n(zi−θ)2].L(\theta) = (2\pi)^{-n/2} \exp\left[ -\frac12\sum_{i=1}^n(z_i-\theta)^2 \right].

最大概似估計值為 θ^=Z‾\widehat\theta=\overline Z,所以

sup⁡θL(θ)=(2π)−n/2exp⁡[−12∑i=1n(zi−Z‾)2].\sup_\theta L(\theta) = (2\pi)^{-n/2} \exp\left[ -\frac12\sum_{i=1}^n(z_i-\overline Z)^2 \right].

在虛無假設 θ=0\theta=0 下,

L(0)=(2π)−n/2exp⁡[−12∑i=1nzi2].L(0) = (2\pi)^{-n/2} \exp\left[ -\frac12\sum_{i=1}^nz_i^2 \right].

利用平方和分解,

∑i=1nzi2=∑i=1n(zi−Z‾)2+nZ‾2.\sum_{i=1}^nz_i^2 = \sum_{i=1}^n(z_i-\overline Z)^2+n\overline Z^2.

故概似比為

Λ=L(0)sup⁡θL(θ)=exp⁡(−n2Z‾2).\Lambda = \frac{L(0)}{\sup_\theta L(\theta)} = \exp\left(-\frac n2\overline Z^2\right).

因此 Λ\Lambda 越小,代表越不支持 H0H_0;等價地,當 ∣Z‾∣|\overline Z| 很大時拒絕 H0H_0。

檢定統計量與其分布

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題60 分

Suppose that (X1,…,Xn)(X_1, \dots, X_n) is a random sample from the uniform distribution on [−θ,θ][-\theta, \theta], where θ>0\theta > 0 is an unknown parameter. Let X(n)=max⁡1≤i≤nXiX_{(n)} = \max_{1 \le i \le n} X_i and X(1)=min⁡1≤i≤nXiX_{(1)} = \min_{1 \le i \le n} X_i.

(a) Show that X(n)X_{(n)} is a consistent estimator for θ\theta.
(b) Determine whether X(n)X_{(n)} and X(1)/X(n)X_{(1)}/X_{(n)} are independent. Justify your answer.
(c) Find θ^\hat{\theta}: an estimator for θ\theta based on the data such that E[(θ^−θ)2]<E[(X(n)−θ)2]E[(\hat{\theta}-\theta)^2] < E[(X_{(n)}-\theta)^2] for every θ>0\theta > 0. Justify your answer.
(d) Construct a 95% confidence interval for θ\theta based on the statistic (X(1),X(n))(X_{(1)}, X_{(n)}).

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題主要考查:

  • 最大次序統計量的分布與一致性。
  • 次序統計量間的獨立性判斷。
  • 以均方誤差比較估計量優劣。
  • 利用極差建立樞紐量與信賴區間。

令

M=X(n),m=X(1).M=X_{(n)},\qquad m=X_{(1)}.

由於 Xi∼U[−θ,θ]X_i\sim U[-\theta,\theta],可作標準化:

Ui=Xi+θ2θ∼U[0,1].U_i=\frac{X_i+\theta}{2\theta}\sim U[0,1].

因此

M=2θU(n)−θ,m=2θU(1)−θ.M=2\theta U_{(n)}-\theta,\qquad m=2\theta U_{(1)}-\theta.

(a) 證明 X(n)X_{(n)} 為 θ\theta 的一致估計量

因為每個樣本皆落在 [−θ,θ][-\theta,\theta] 中,所以

M≤θM\leq \theta

幾乎必然成立。因此對任意 ε>0\varepsilon>0,

P(∣M−θ∣>ε)=P(M<θ−ε).P(|M-\theta|>\varepsilon) = P(M<\theta-\varepsilon).

當 0<ε<2θ0<\varepsilon<2\theta 時,

P(M<θ−ε)=[P(X1<θ−ε)]n.P(M<\theta-\varepsilon) = \left[ P(X_1<\theta-\varepsilon) \right]^n.

而

P(X1<θ−ε)=(θ−ε)−(−θ)2θ=1−ε2θ.P(X_1<\theta-\varepsilon) = \frac{(\theta-\varepsilon)-(-\theta)}{2\theta} = 1-\frac{\varepsilon}{2\theta}.

所以

P(∣M−θ∣>ε)=(1−ε2θ)n.P(|M-\theta|>\varepsilon) = \left(1-\frac{\varepsilon}{2\theta}\right)^n.

由於 0<1−ε2θ<10<1-\frac{\varepsilon}{2\theta}<1,當 n→∞n\to\infty 時,

(1−ε2θ)n⟶0.\left(1-\frac{\varepsilon}{2\theta}\right)^n\longrightarrow 0.

因此對任意 ε>0\varepsilon>0,

P(∣X(n)−θ∣>ε)⟶0.P(|X_{(n)}-\theta|>\varepsilon)\longrightarrow 0.

故

X(n)→Pθ\boxed{X_{(n)}\xrightarrow{P}\theta}

亦即 X(n)X_{(n)} 是 θ\theta 的一致估計量。


(b) 判斷 X(n)X_{(n)} 與 X(1)/X(n)X_{(1)}/X_{(n)} 是否獨立

令

R=mM.R=\frac{m}{M}.

由於連續分布下 P(M=0)=0P(M=0)=0,故 RR 幾乎處處有定義。

考慮事件

A={M<0}.A=\{M<0\}.

若 M<0M<0,則所有觀察值皆為負數,且 m<M<0m<M<0。除以負數 MM 後,方向改變,因此

mM>1.\frac{m}{M}>1.

若 M>0M>0,因為 m<Mm<M,所以

mM<1.\frac{m}{M}<1.

因此幾乎必然有

{mM>1}={M<0}.\left\{ \frac{m}{M}>1 \right\} = \{M<0\}.

又因為每個 XiX_i 為負的機率是 1/21/2,

P(M<0)=P(X1<0,…,Xn<0)=(12)n=:p,P(M<0)=P(X_1<0,\ldots,X_n<0)=\left(\frac12\right)^n=:p,

其中 0<p<10<p<1。

若 MM 與 RR 獨立,則

P(M<0,mM>1)=P(M<0)P(mM>1)=p2.P\left(M<0,\frac{m}{M}>1\right) = P(M<0)P\left(\frac{m}{M}>1\right) =p^2.

但由兩事件幾乎必然相同,

P(M<0,mM>1)=P(M<0)=p.P\left(M<0,\frac{m}{M}>1\right)=P(M<0)=p.

這要求 p=p2p=p^2,與 0<p<10<p<1 矛盾。

因此

X(n) 與 X(1)X(n) 不獨立.\boxed{X_{(n)}\text{ 與 }\frac{X_{(1)}}{X_{(n)}}\text{ 不獨立}}.

(c) 尋找均方誤差嚴格較小的估計量

取樣本極差

D=M−m.D=M-m.

由標準化變數可得

D=2θ(U(n)−U(1)).D=2\theta\left(U_{(n)}-U_{(1)}\right).

令

W=U(n)−U(1).W=U_{(n)}-U_{(1)}.

對 n≥2n\geq 2,WW 是 nn 個 U[0,1]U[0,1] 樣本的極差。其期望值與變異數為

E(W)=n−1n+1,E(W)=\frac{n-1}{n+1},

以及

Var⁡(W)=2(n−1)(n+1)2(n+2).\operatorname{Var}(W) = \frac{2(n-1)}{(n+1)^2(n+2)}.

因此

E(D)=2θn−1n+1.E(D) = 2\theta\frac{n-1}{n+1}.

選取

θ^=n+12(n−1)D=n+12(n−1)(X(n)−X(1)).\hat{\theta} = \frac{n+1}{2(n-1)}D = \frac{n+1}{2(n-1)} \left(X_{(n)}-X_{(1)}\right).

則

E(θ^)=n+12(n−1)⋅2θn−1n+1=θ,E(\hat{\theta}) = \frac{n+1}{2(n-1)} \cdot 2\theta\frac{n-1}{n+1} =\theta,
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

其他考古題