114 年 國立臺北大學統計學系碩士班《數理統計(含機率概論)》

📄 試題原卷 免費註冊後即可對照原始考卷 PDF免費註冊

第 1 題10 分

Let X and Y be two random variables with the joint probability density function
f(x,y)=2(x+y),0≤x≤y≤1f(x,y) = 2(x + y), \quad 0 \le x \le y \le 1
(a) Let Z=X+YZ = X + Y. Find the probability density function of Z.
(b) Let W=ln⁡(XY)W = \ln\left(\frac{X}{Y}\right). Find the probability density function of W.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題主要考驗聯合機率密度函數的轉換與邊緣機率密度函數的計算。

(a) 求 Z = X + Y 的機率密度函數

核心觀念:聯合機率密度函數的變數轉換。
給定聯合機率密度函數 f(x,y)=2(x+y)f(x,y) = 2(x+y),定義域為 0≤x≤y≤10 \le x \le y \le 1。
我們令 Z=X+YZ = X+Y,W=XW = X(或其他輔助變數,例如 W=YW=Y)。
由 Z=X+YZ = X+Y 和 W=XW=X,我們可以得到反向轉換:X=WX = W,Y=Z−WY = Z-W。
計算 Jacobian:
J=det⁡(∂x∂z∂x∂w∂y∂z∂y∂w)=det⁡(011−1)=0−1=−1J = \det \begin{pmatrix} \frac{\partial x}{\partial z} & \frac{\partial x}{\partial w} \\ \frac{\partial y}{\partial z} & \frac{\partial y}{\partial w} \end{pmatrix} = \det \begin{pmatrix} 0 & 1 \\ 1 & -1 \end{pmatrix} = 0 - 1 = -1
因此,∣J−1∣=∣det⁡(∂z∂x∂z∂y∂w∂x∂w∂y)∣=∣det⁡(1110)∣=∣0−1∣=1|J^{-1}| = \left|\det \begin{pmatrix} \frac{\partial z}{\partial x} & \frac{\partial z}{\partial y} \\ \frac{\partial w}{\partial x} & \frac{\partial w}{\partial y} \end{pmatrix}\right| = \left|\det \begin{pmatrix} 1 & 1 \\ 1 & 0 \end{pmatrix}\right| = |0 - 1| = 1
所以,新的聯合機率密度函數為 fZ,W(z,w)=f(x(z,w),y(z,w))∣J−1∣=2(w+(z−w))×1=2zf_{Z,W}(z,w) = f(x(z,w), y(z,w)) |J^{-1}| = 2(w + (z-w)) \times 1 = 2z。

接下來需要確定新變數 (Z,W)(Z, W) 的定義域。
原始定義域:0≤x≤y≤10 \le x \le y \le 1。
代入 x=wx=w, y=z−wy=z-w:

  1. 0≤w0 \le w
  2. w≤z−w  ⟹  2w≤zw \le z-w \implies 2w \le z
  3. z−w≤1  ⟹  z−1≤wz-w \le 1 \implies z-1 \le w

綜合以上不等式:
z−1≤w≤z2z-1 \le w \le \frac{z}{2}。
同時,我們知道 Z=X+YZ = X+Y。由於 0≤X≤Y≤10 \le X \le Y \le 1,所以 0≤Z≤20 \le Z \le 2。
但更精確的範圍可以由 0≤x≤y≤10 \le x \le y \le 1 推導:
最小 Z=0+0=0Z = 0+0=0 (當 x=0,y=0x=0, y=0)。
最大 Z=1+1=2Z = 1+1=2 (當 x=1,y=1x=1, y=1)。
然而,由於 x≤yx \le y,所以 Z=x+y≤y+y=2y≤2Z=x+y \le y+y = 2y \le 2。
且 Z=x+y≥x+x=2x≥0Z=x+y \ge x+x = 2x \ge 0。
更進一步,考慮 Z=x+yZ=x+y 的範圍。
若 Z=zZ=z,則 x+y=zx+y=z。
且 0≤x≤y≤10 \le x \le y \le 1。
從 0≤x≤y0 \le x \le y 和 x+y=zx+y=z,我們可以得到 x≤z−x  ⟹  2x≤z  ⟹  x≤z/2x \le z-x \implies 2x \le z \implies x \le z/2。
同時 x≥0x \ge 0。
所以 0≤x≤z/20 \le x \le z/2。
又因為 y=z−xy=z-x,所以 y≤1  ⟹  z−x≤1  ⟹  x≥z−1y \le 1 \implies z-x \le 1 \implies x \ge z-1。
所以 max⁡(0,z−1)≤x≤z/2\max(0, z-1) \le x \le z/2。
為了使此區間有意義,必須 max⁡(0,z−1)≤z/2\max(0, z-1) \le z/2。
若 z−1≥0z-1 \ge 0 (即 z≥1z \ge 1),則 z−1≤z/2  ⟹  z/2≤1  ⟹  z≤2z-1 \le z/2 \implies z/2 \le 1 \implies z \le 2。
若 z−1<0z-1 < 0 (即 z<1z < 1),則 0≤z/2  ⟹  z≥00 \le z/2 \implies z \ge 0。
所以 zz 的範圍是 0≤z≤20 \le z \le 2。

現在我們需要計算 ZZ 的邊緣機率密度函數 fZ(z)f_Z(z),方法是積分 WW 的範圍。
fZ(z)=∫−∞∞fZ,W(z,w)dwf_Z(z) = \int_{-\infty}^{\infty} f_{Z,W}(z,w) dw。
對於給定的 zz,積分範圍為 max⁡(0,z−1)≤w≤z/2\max(0, z-1) \le w \le z/2。
fZ(z)=∫max⁡(0,z−1)z/22zdwf_Z(z) = \int_{\max(0, z-1)}^{z/2} 2z dw
我們需要分情況討論 zz 的範圍:

Case 1: 0≤z<10 \le z < 1
此時 max⁡(0,z−1)=0\max(0, z-1) = 0。積分範圍為 0≤w≤z/20 \le w \le z/2。
fZ(z)=∫0z/22zdw=2z[w]0z/2=2z(z/2−0)=z2f_Z(z) = \int_{0}^{z/2} 2z dw = 2z [w]_0^{z/2} = 2z (z/2 - 0) = z^2
此時,z/2z/2 的最大值為 1/21/2。

Case 2: 1≤z≤21 \le z \le 2
此時 max⁡(0,z−1)=z−1\max(0, z-1) = z-1。積分範圍為 z−1≤w≤z/2z-1 \le w \le z/2。
fZ(z)=∫z−1z/22zdw=2z[w]z−1z/2=2z(z/2−(z−1))=2z(z/2−z+1)=2z(1−z/2)=2z−z2f_Z(z) = \int_{z-1}^{z/2} 2z dw = 2z [w]_{z-1}^{z/2} = 2z (z/2 - (z-1)) = 2z (z/2 - z + 1) = 2z (1 - z/2) = 2z - z^2
此時,z−1z-1 的最小值為 00,z/2z/2 的最大值為 11。

綜合以上,Z 的機率密度函數為:
fZ(z)={z2,0≤z<12z−z2,1≤z≤20,otherwisef_Z(z) = \begin{cases} z^2, & 0 \le z < 1 \\ 2z - z^2, & 1 \le z \le 2 \\ 0, & \text{otherwise} \end{cases}

驗證積分是否為 1:
∫02fZ(z)dz=∫01z2dz+∫12(2z−z2)dz\int_{0}^{2} f_Z(z) dz = \int_{0}^{1} z^2 dz + \int_{1}^{2} (2z - z^2) dz
=[z33]01+[z2−z33]12= \left[\frac{z^3}{3}\right]_0^1 + \left[z^2 - \frac{z^3}{3}\right]_1^2

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題5 分

Let Y be uniformly distributed on the interval (0, 1). Conditionally on Y=y, let X be uniformly distributed on the interval (0, y).
(a) Find the probability density function of X.
(b) Find E(X) and Var(X).
(c) Find P(X < 0.3).

登入後即可作答並保存紀錄。

這一題的完整詳解

本題主要考驗條件機率、聯合機率密度函數、邊緣機率密度函數以及期望值與變異數的計算。

給定 Y~U(0, 1),其機率密度函數為 fY(y)=1f_Y(y) = 1 for 0<y<10 < y < 1,否則為 0。
條件機率密度函數為 X|Y=y ~ U(0, y),其機率密度函數為 fX∣Y(x∣y)=1yf_{X|Y}(x|y) = \frac{1}{y} for 0<x<y0 < x < y,否則為 0。

(a) 求 X 的機率密度函數

核心觀念:利用聯合機率密度函數的定義來求邊緣機率密度函數。
首先,計算 X 和 Y 的聯合機率密度函數:
fX,Y(x,y)=fX∣Y(x∣y)fY(y)f_{X,Y}(x,y) = f_{X|Y}(x|y) f_Y(y)
fX,Y(x,y)=1y×1=1yf_{X,Y}(x,y) = \frac{1}{y} \times 1 = \frac{1}{y}
此時的定義域為 0<x<y0 < x < y 且 0<y<10 < y < 1。
這可以寫成 0<x<y<10 < x < y < 1。

接著,計算 X 的邊緣機率密度函數 fX(x)f_X(x),透過對 Y 進行積分:
fX(x)=∫−∞∞fX,Y(x,y)dyf_X(x) = \int_{-\infty}^{\infty} f_{X,Y}(x,y) dy
對於一個給定的 xx,y 的範圍必須滿足 x<y<1x < y < 1。
因此,積分範圍為 x<y<1x < y < 1。
fX(x)=∫x11ydyf_X(x) = \int_{x}^{1} \frac{1}{y} dy
這個積分需要考慮 xx 的範圍。由於 0<x<y<10 < x < y < 1,所以 xx 的範圍是 0<x<10 < x < 1。
fX(x)=[ln⁡∣y∣]x1=ln⁡(1)−ln⁡(x)=0−ln⁡(x)=−ln⁡(x)f_X(x) = [\ln|y|]_{x}^{1} = \ln(1) - \ln(x) = 0 - \ln(x) = -\ln(x)
所以,X 的機率密度函數為:
fX(x)=−ln⁡(x),0<x<1f_X(x) = -\ln(x), \quad 0 < x < 1
否則 fX(x)=0f_X(x) = 0。

驗證積分是否為 1:
∫01(−ln⁡(x))dx\int_{0}^{1} (-\ln(x)) dx
使用分部積分法:令 u=−ln⁡(x)u = -\ln(x),dv=dxdv = dx。則 du=−1xdxdu = -\frac{1}{x} dx,v=xv = x。
∫01(−ln⁡(x))dx=[−xln⁡(x)]01−∫01x(−1x)dx\int_{0}^{1} (-\ln(x)) dx = [-x \ln(x)]_{0}^{1} - \int_{0}^{1} x \left(-\frac{1}{x}\right) dx
=[−xln⁡(x)]01+∫011dx= [-x \ln(x)]_{0}^{1} + \int_{0}^{1} 1 dx
計算邊界項:
lim⁡x→1(−xln⁡(x))=−1ln⁡(1)=0\lim_{x\to 1} (-x \ln(x)) = -1 \ln(1) = 0。
lim⁡x→0+(−xln⁡(x))\lim_{x\to 0^+} (-x \ln(x))。令 x=1/tx = 1/t,當 x→0+x \to 0^+,t→∞t \to \infty。
lim⁡t→∞(−1tln⁡(1t))=lim⁡t→∞(−−ln⁡(t)t)=lim⁡t→∞ln⁡(t)t\lim_{t\to\infty} (-\frac{1}{t} \ln(\frac{1}{t})) = \lim_{t\to\infty} (-\frac{-\ln(t)}{t}) = \lim_{t\to\infty} \frac{\ln(t)}{t}。
使用 L'Hopital's Rule: lim⁡t→∞1/t1=0\lim_{t\to\infty} \frac{1/t}{1} = 0。
所以 [−xln⁡(x)]01=0−0=0[-x \ln(x)]_{0}^{1} = 0 - 0 = 0。
∫011dx=[x]01=1−0=1\int_{0}^{1} 1 dx = [x]_{0}^{1} = 1 - 0 = 1
總積分為 0+1=10 + 1 = 1。驗證通過。

(b) 求 E(X) 和 Var(X)

核心觀念:利用機率密度函數計算期望值和變異數。
期望值 E(X)E(X):
E(X)=∫−∞∞xfX(x)dx=∫01x(−ln⁡(x))dxE(X) = \int_{-\infty}^{\infty} x f_X(x) dx = \int_{0}^{1} x (-\ln(x)) dx
使用分部積分法:令 u=−ln⁡(x)u = -\ln(x),dv=xdxdv = x dx。則 du=−1xdxdu = -\frac{1}{x} dx,v=x22v = \frac{x^2}{2}。
E(X)=[−x22ln⁡(x)]01−∫01x22(−1x)dxE(X) = \left[-\frac{x^2}{2} \ln(x)\right]_{0}^{1} - \int_{0}^{1} \frac{x^2}{2} \left(-\frac{1}{x}\right) dx
=[−x22ln⁡(x)]01+∫01x2dx= \left[-\frac{x^2}{2} \ln(x)\right]_{0}^{1} + \int_{0}^{1} \frac{x}{2} dx
邊界項 [−x22ln⁡(x)]01\left[-\frac{x^2}{2} \ln(x)\right]_{0}^{1}:
lim⁡x→1(−x22ln⁡(x))=−122ln⁡(1)=0\lim_{x\to 1} (-\frac{x^2}{2} \ln(x)) = -\frac{1^2}{2} \ln(1) = 0。
lim⁡x→0+(−x22ln⁡(x))\lim_{x\to 0^+} (-\frac{x^2}{2} \ln(x))。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3 題5 分

Let fX,Y(x,y)f_{X,Y}(x,y) be the joint probability function of two random variables X and Y. Suppose that the joint moment generating function is
MX,Y(t1,t2)=E(et1X+t2Y)=16(et1+t2+e2t1+t2+et1+2t2)2M_{X,Y}(t_1, t_2) = E(e^{t_1X + t_2Y}) = \frac{1}{6} \left( e^{t_1+t_2} + e^{2t_1+t_2} + e^{t_1+2t_2} \right)^2
(a) Find the joint probability function of X and Y.
(b) Find the marginal distribution of X and the marginal distribution of Y.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

聯合動差生成函數(joint moment generating function, MGF)定義為

MX,Y(t1,t2)=E(et1X+t2Y).M_{X,Y}(t_1,t_2)=E\left(e^{t_1X+t_2Y}\right).

若 (X,Y)(X,Y) 為離散型隨機變數,且

P(X=x,Y=y)=px,y,P(X=x,Y=y)=p_{x,y},

則

MX,Y(t1,t2)=∑x∑ypx,yet1x+t2y.M_{X,Y}(t_1,t_2) =\sum_x\sum_y p_{x,y}e^{t_1x+t_2y}.

因此,只要將 MGF 展開成各項 et1x+t2ye^{t_1x+t_2y} 的線性組合,即可直接讀出聯合機率。

此外,任何合法的 MGF 必須滿足

MX,Y(0,0)=1.M_{X,Y}(0,0)=1.

題目給定的式子在 (0,0)(0,0) 為

MX,Y(0,0)=16(1+1+1)2=96=32≠1.M_{X,Y}(0,0) =\frac{1}{6}(1+1+1)^2 =\frac{9}{6} =\frac{3}{2}\neq 1.

所以題目中的係數 16\frac{1}{6} 應為排版誤植。以下依合理修正,將其視為

MX,Y(t1,t2)=19(et1+t2+e2t1+t2+et1+2t2)2M_{X,Y}(t_1,t_2) =\frac{1}{9} \left(e^{t_1+t_2}+e^{2t_1+t_2}+e^{t_1+2t_2}\right)^2

進行作答。


解題方法

令

a=et1+t2,b=e2t1+t2,c=et1+2t2.a=e^{t_1+t_2},\qquad b=e^{2t_1+t_2},\qquad c=e^{t_1+2t_2}.

則

MX,Y(t1,t2)=19(a+b+c)2.M_{X,Y}(t_1,t_2)=\frac{1}{9}(a+b+c)^2.

將平方展開:

(a+b+c)2=a2+b2+c2+2ab+2ac+2bc.(a+b+c)^2=a^2+b^2+c^2+2ab+2ac+2bc.

分別計算各項:

a2=e2t1+2t2,a^2=e^{2t_1+2t_2}, b2=e4t1+2t2,b^2=e^{4t_1+2t_2}, c2=e2t1+4t2,c^2=e^{2t_1+4t_2}, 2ab=2e3t1+2t2,2ab=2e^{3t_1+2t_2}, 2ac=2e2t1+3t2,2ac=2e^{2t_1+3t_2}, 2bc=2e3t1+3t2.2bc=2e^{3t_1+3t_2}.

因此

MX,Y(t1,t2)=19(e2t1+2t2+e4t1+2t2+e2t1+4t2+2e3t1+2t2+2e2t1+3t2+2e3t1+3t2).\begin{aligned} M_{X,Y}(t_1,t_2) =\frac{1}{9}\big(&e^{2t_1+2t_2} +e^{4t_1+2t_2} +e^{2t_1+4t_2}\\ &+2e^{3t_1+2t_2} +2e^{2t_1+3t_2} +2e^{3t_1+3t_2}\big). \end{aligned}

與

MX,Y(t1,t2)=∑x∑yP(X=x,Y=y)et1x+t2yM_{X,Y}(t_1,t_2) =\sum_x\sum_y P(X=x,Y=y)e^{t_1x+t_2y}

逐項比較,即可得到聯合機率。


(a) 聯合機率函數

非零的聯合機率如下:

P(X=2,Y=2)=19,P(X=2,Y=2)=\frac{1}{9}, P(X=4,Y=2)=19,P(X=4,Y=2)=\frac{1}{9}, P(X=2,Y=4)=19,P(X=2,Y=4)=\frac{1}{9}, P(X=3,Y=2)=29,P(X=3,Y=2)=\frac{2}{9}, P(X=2,Y=3)=29,P(X=2,Y=3)=\frac{2}{9}, P(X=3,Y=3)=29.P(X=3,Y=3)=\frac{2}{9}.

故聯合機率函數可表示為

fX,Y(x,y)={19,(x,y)=(2,2),(4,2),(2,4),29,(x,y)=(3,2),(2,3),(3,3),0,其他情況.f_{X,Y}(x,y)= \begin{cases} \dfrac{1}{9}, &(x,y)=(2,2),(4,2),(2,4),\\[6pt] \dfrac{2}{9}, &(x,y)=(3,2),(2,3),(3,3),\\[6pt] 0, &\text{其他情況}. \end{cases}

快速驗算所有機率總和:

3(19)+3(29)=39+69=1.3\left(\frac{1}{9}\right)+3\left(\frac{2}{9}\right) =\frac{3}{9}+\frac{6}{9}=1.

(b) XX 與 YY 的邊際分配

XX 的邊際分配

對每個固定的 xx,將所有可能的 yy 加總:

當 X=2X=2 時,

P(X=2)=P(2,2)+P(2,3)+P(2,4)=19+29+19=49.\begin{aligned} P(X=2) &=P(2,2)+P(2,3)+P(2,4)\\ &=\frac{1}{9}+\frac{2}{9}+\frac{1}{9}\\ &=\frac{4}{9}. \end{aligned}
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 1 題5 分

Let X1,X2,...,XnX_1, X_2, ..., X_n be a random sample from Binomial(k, θ), where k is known and θ is unknown.
(a) Find a complete sufficient statistic of θ.
(b) Find the uniformly minimum-variance unbiased estimator (UMVUE) of τ(θ)=Pθ[X1=1]τ(θ) = P_θ[X_1 = 1].

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題使用三個重要定理:

  1. Neyman–Fisher 因子分解定理:判斷充分統計量。
  2. 完全性:若統計量的期望對所有參數值皆為零,則該函數必須幾乎處處為零。
  3. Rao–Blackwell 定理與 Lehmann–Scheffé 定理:對某個不偏估計量取充分統計量的條件期望,可得到 UMVUE;若充分統計量同時完全,則此不偏估計量即為唯一的 UMVUE。

令

T=∑i=1nXi.T=\sum_{i=1}^n X_i.

由於每個 Xi∼Binomial⁡(k,θ)X_i\sim\operatorname{Binomial}(k,\theta),所以

T∼Binomial⁡(nk,θ).T\sim\operatorname{Binomial}(nk,\theta).

(a) 求 θ\theta 的完全充分統計量

第一步:寫出聯合機率質量函數

對 xi=0,1,…,kx_i=0,1,\ldots,k,

Pθ(Xi=xi)=(kxi)θxi(1−θ)k−xi.P_\theta(X_i=x_i) = \binom{k}{x_i}\theta^{x_i}(1-\theta)^{k-x_i}.

因此聯合機率質量函數為

fθ(x1,…,xn)=∏i=1n(kxi)θxi(1−θ)k−xi=(∏i=1n(kxi))θ∑i=1nxi(1−θ)nk−∑i=1nxi.\begin{aligned} f_\theta(x_1,\ldots,x_n) &= \prod_{i=1}^n \binom{k}{x_i}\theta^{x_i}(1-\theta)^{k-x_i} \\ &= \left(\prod_{i=1}^n\binom{k}{x_i}\right) \theta^{\sum_{i=1}^n x_i} (1-\theta)^{nk-\sum_{i=1}^n x_i}. \end{aligned}

寫成 T=∑i=1nXiT=\sum_{i=1}^nX_i 後,

fθ(x1,…,xn)=(∏i=1n(kxi))θT(1−θ)nk−T.f_\theta(x_1,\ldots,x_n) = \left(\prod_{i=1}^n\binom{k}{x_i}\right) \theta^T(1-\theta)^{nk-T}.

其中與 θ\theta 有關的部分只透過 TT 出現,故由因子分解定理,

T=∑i=1nXiT=\sum_{i=1}^nX_i

是 θ\theta 的充分統計量。

第二步:證明完全性

因為

T∼Binomial⁡(nk,θ),T\sim\operatorname{Binomial}(nk,\theta),

設 N=nkN=nk。若某函數 gg 滿足對所有 θ∈(0,1)\theta\in(0,1),

Eθ[g(T)]=0,E_\theta[g(T)]=0,

則

∑t=0Ng(t)(Nt)θt(1−θ)N−t=0.\sum_{t=0}^{N} g(t)\binom{N}{t}\theta^t(1-\theta)^{N-t}=0.

除以 (1−θ)N(1-\theta)^N,並令

z=θ1−θ>0,z=\frac{\theta}{1-\theta}>0,

得到

∑t=0Ng(t)(Nt)zt=0對所有 z>0.\sum_{t=0}^{N} g(t)\binom{N}{t}z^t=0 \qquad\text{對所有 }z>0.

左側是關於 zz 的多項式,若在所有 z>0z>0 皆為零,則其每一個係數皆為零。因此

g(t)(Nt)=0對所有 t=0,1,…,N,g(t)\binom{N}{t}=0 \quad\text{對所有 }t=0,1,\ldots,N,

進而 g(t)=0g(t)=0。所以 TT 是完全統計量。


(b) 求 τ(θ)=Pθ(X1=1)\tau(\theta)=P_\theta(X_1=1) 的 UMVUE

第一步:寫出目標函數

由 X1∼Binomial⁡(k,θ)X_1\sim\operatorname{Binomial}(k,\theta),

τ(θ)=Pθ(X1=1)=(k1)θ(1−θ)k−1=kθ(1−θ)k−1.\begin{aligned} \tau(\theta) &=P_\theta(X_1=1) \\ &=\binom{k}{1}\theta(1-\theta)^{k-1} \\ &=k\theta(1-\theta)^{k-1}. \end{aligned}
🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 2 題5 分

Let X1,X2,...,XnX_1, X_2, ..., X_n be a random sample from a population with pdf
f(x∣θ)=θxx!e−θ,x=0,1,2,...f(x|\theta) = \frac{\theta^{x}}{x!} e^{-\theta}, \quad x = 0, 1, 2, ...
where θ>0θ > 0.
(a) Find the method of moments estimator (MME), θ^\hat{\theta}.
(b) Find the asymptotic variance of θ^\hat{\theta}.
(c) Find a consistent estimator of θ. Prove your claim.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題主要考驗機率分佈的識別、動差法估計量 (MME) 的計算、漸近變異數的求解以及一致性估計量的證明。

給定的機率密度函數 (PMF) 是 f(x∣θ)=θxx!e−θf(x|\theta) = \frac{\theta^{x}}{x!} e^{-\theta} for x=0,1,2,...x = 0, 1, 2, ...。
這是一個 Poisson 分佈,其中 X∼Poisson(θ)X \sim \text{Poisson}(θ)。
Poisson(θ) 的期望值為 E(X)=θE(X) = θ,變異數為 Var(X)=θVar(X) = θ。

(a) 求動差法估計量 (MME), θ^\hat{\theta}

核心觀念:動差法估計量是將樣本動差與對應的理論動差相等,然後解出參數。
對於 Poisson 分佈,我們使用一階動差。
樣本一階動差為 Xˉ=1n∑i=1nXi\bar{X} = \frac{1}{n}\sum_{i=1}^{n} X_i。
理論一階動差為 E(X)=θE(X) = θ。
令樣本動差等於理論動差:
Xˉ=θ\bar{X} = θ
因此,動差法估計量為:
θ^MME=Xˉ\hat{\theta}_{MME} = \bar{X}

(b) 求 θ^\hat{\theta} 的漸近變異數 (Asymptotic Variance)

核心觀念:利用大數法則和中央極限定理來求估計量的漸近變異數。
我們知道 θ^MME=Xˉ\hat{\theta}_{MME} = \bar{X}。
根據中央極限定理,當 n 很大時,n(Xˉ−E(Xˉ))\sqrt{n}(\bar{X} - E(\bar{X})) 近似服從均值為 0、變異數為 Var(Xˉ)Var(\bar{X}) 的常態分佈。
E(Xˉ)=E(X)=θE(\bar{X}) = E(X) = θ。
Var(Xˉ)=Var(X)n=θnVar(\bar{X}) = \frac{Var(X)}{n} = \frac{θ}{n}。
所以,n(Xˉ−θ)→dN(0,θ)\sqrt{n}(\bar{X} - θ) \xrightarrow{d} N(0, θ)。
我們可以將其寫成 n(θ^MME−θ)→dN(0,θ)\sqrt{n}(\hat{\theta}_{MME} - θ) \xrightarrow{d} N(0, θ)。
兩邊同時除以 n\sqrt{n}:
θ^MME−θ→dN(0,θn)\hat{\theta}_{MME} - θ \xrightarrow{d} N(0, \frac{θ}{n})。
這表示 θ^MME\hat{\theta}_{MME} 的分佈近似為 N(θ,θn)N(θ, \frac{θ}{n})。
估計量的變異數是 Var(θ^MME)=θnVar(\hat{\theta}_{MME}) = \frac{θ}{n}。

漸近變異數 (Asymptotic Variance, AV) 是指當 n 趨近於無限大時,n 乘以估計量的變異數。
AV(θ^MME)=lim⁡n→∞nVar(θ^MME)=lim⁡n→∞n(θn)=θAV(\hat{\theta}_{MME}) = \lim_{n\to\infty} n Var(\hat{\theta}_{MME}) = \lim_{n\to\infty} n \left(\frac{θ}{n}\right) = θ。

另一種方法是使用 Cramer-Rao Lower Bound (CRLB) 來求得 UMVUE 的漸近變異數。
首先,計算 Fisher Information I(θ)I(θ)。
l(θ)=ln⁡f(x∣θ)=xln⁡θ−θ−ln⁡(x!)l(θ) = \ln f(x|\theta) = x \ln θ - θ - \ln(x!)。
∂l∂θ=xθ−1\frac{\partial l}{\partial θ} = \frac{x}{θ} - 1。
∂2l∂θ2=−xθ2\frac{\partial^2 l}{\partial θ^2} = -\frac{x}{θ^2}。
I(θ)=−E[∂2l∂θ2]=−E[−Xθ2]=E[Xθ2]=E(X)θ2=θθ2=1θI(θ) = -E\left[\frac{\partial^2 l}{\partial θ^2}\right] = -E\left[-\frac{X}{θ^2}\right] = E\left[\frac{X}{θ^2}\right] = \frac{E(X)}{θ^2} = \frac{θ}{θ^2} = \frac{1}{θ}。
對於樣本總和 SnS_n,Fisher Information 是 nI(θ)=n/θn I(θ) = n/θ。

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 3 題5 分

Let Xi=(Xi1,Xi2)′X_i = (X_{i1}, X_{i2})', i=1,...,ni = 1,..., n, be i. i. d. bivariate normal with unknown (μ1,μ2)′=E[X1](\mu_1, \mu_2)' = E[X_1] and Σ=Var(X1)\Sigma = Var(X_1). Let θ=μ2μ1\theta = \frac{\mu_2}{\mu_1} be the parameter of interest (μ1≠0μ_1 \neq 0). Define Yi(θ)=Xi2−θXi1Y_i(\theta) = X_{i2} - \theta X_{i1}.
(a) It is known that Y1(θ),...,Yn(θ)Y_1(\theta), ..., Y_n(\theta) are i. i. d. with N(K1,K2)N(K_1, K_2). Find K1K_1 and K2K_2.
(b) Find a pivotal quantity of θ\theta.
(c) Use the pivotal quantity of (b) to find a 100(1−α)%100(1 - \alpha)\% confidence set, C(X)C(X), for θ\theta.
(d) Find a condition such that C(X)C(X) is a finite interval.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題考查:

  1. 線性組合的常態分配。
  2. 二元常態樣本的線性轉換。
  3. Student’s tt 統計量與樞紐量。
  4. Fieller 定理:分子、分母皆含未知參數之比值的信賴集合。

令

θ0=μ2μ1\theta_0=\frac{\mu_2}{\mu_1}

表示真實參數值,並令樣本平均與樣本共變異數為

Xˉj=1n∑i=1nXij,j=1,2,\bar X_j=\frac{1}{n}\sum_{i=1}^nX_{ij},\qquad j=1,2, S=(S11S12S12S22),S= \begin{pmatrix} S_{11}&S_{12}\\ S_{12}&S_{22} \end{pmatrix},

其中

Sjk=1n−1∑i=1n(Xij−Xˉj)(Xik−Xˉk).S_{jk}=\frac{1}{n-1}\sum_{i=1}^n(X_{ij}-\bar X_j)(X_{ik}-\bar X_k).

(a) 求 K1K_1 與 K2K_2

定義

Yi(θ)=Xi2−θXi1.Y_i(\theta)=X_{i2}-\theta X_{i1}.

由期望值的線性運算,

K1=E[Yi(θ)]=E[Xi2−θXi1]=μ2−θμ1.K_1=E[Y_i(\theta)] =E[X_{i2}-\theta X_{i1}] =\mu_2-\theta\mu_1.

又因為

Var⁡(Xi1)=σ11,Var⁡(Xi2)=σ22,Cov⁡(Xi1,Xi2)=σ12,\operatorname{Var}(X_{i1})=\sigma_{11},\qquad \operatorname{Var}(X_{i2})=\sigma_{22},\qquad \operatorname{Cov}(X_{i1},X_{i2})=\sigma_{12},

所以

K2=Var⁡(Xi2−θXi1)=Var⁡(Xi2)+θ2Var⁡(Xi1)−2θCov⁡(Xi1,Xi2)=σ22−2θσ12+θ2σ11.\begin{aligned} K_2 &=\operatorname{Var}(X_{i2}-\theta X_{i1})\\ &=\operatorname{Var}(X_{i2}) +\theta^2\operatorname{Var}(X_{i1}) -2\theta\operatorname{Cov}(X_{i1},X_{i2})\\ &=\sigma_{22}-2\theta\sigma_{12}+\theta^2\sigma_{11}. \end{aligned}

因此

Yi(θ)∼N(μ2−θμ1, σ22−2θσ12+θ2σ11).Y_i(\theta)\sim N\left( \mu_2-\theta\mu_1,\, \sigma_{22}-2\theta\sigma_{12}+\theta^2\sigma_{11} \right).

由於 XiX_i 為獨立同分布,Yi(θ)Y_i(\theta) 也是獨立同分布。


(b) 求 θ\theta 的樞紐量

當 θ=θ0=μ2/μ1\theta=\theta_0=\mu_2/\mu_1 時,

μ2−θ0μ1=0.\mu_2-\theta_0\mu_1=0.

因此

Yi(θ0)=Xi2−θ0Xi1Y_i(\theta_0)=X_{i2}-\theta_0X_{i1}

的平均數為 00,變異數為

σY2(θ0)=σ22−2θ0σ12+θ02σ11.\sigma_Y^2(\theta_0) =\sigma_{22}-2\theta_0\sigma_{12} +\theta_0^2\sigma_{11}.

樣本平均滿足

n Y‾(θ0)σY(θ0)∼N(0,1),\frac{\sqrt n\,\overline Y(\theta_0)} {\sigma_Y(\theta_0)} \sim N(0,1),

其中

Y‾(θ)=Xˉ2−θXˉ1.\overline Y(\theta) =\bar X_2-\theta\bar X_1.

由於 Σ\Sigma 未知,使用 Yi(θ)Y_i(\theta) 的樣本變異數:

SY2(θ)=S22−2θS12+θ2S11.S_Y^2(\theta) =S_{22}-2\theta S_{12}+\theta^2S_{11}.

二元常態分配下,樣本平均與樣本變異數獨立,且

(n−1)SY2(θ0)σY2(θ0)∼χn−12.\frac{(n-1)S_Y^2(\theta_0)} {\sigma_Y^2(\theta_0)} \sim\chi^2_{n-1}.

故樞紐量為

T(θ)=n(Xˉ2−θXˉ1)S22−2θS12+θ2S11,T(\theta) = \frac{\sqrt n\left(\bar X_2-\theta\bar X_1\right)} {\sqrt{S_{22}-2\theta S_{12}+\theta^2S_{11}}},

並且在真實參數 θ=θ0\theta=\theta_0 下,

T(θ0)∼tn−1.T(\theta_0)\sim t_{n-1}.

(c) 求 100(1−α)%100(1-\alpha)\% 信賴集合

令

t=tn−1, 1−α/2t=t_{n-1,\,1-\alpha/2}

表示自由度為 n−1n-1 的 tt 分配上 α/2\alpha/2 右尾臨界值。由

P(−t≤T(θ0)≤t)=1−α,P\left(-t\leq T(\theta_0)\leq t\right)=1-\alpha,

得到信賴集合

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

第 4 題5 分

Let f(x∣θ)f(x|\theta) be the logistic location pdf
f(x∣θ)=e−(x−θ)(1+e−(x−θ))2,−∞<x<∞f(x|\theta) = \frac{e^{-(x-\theta)}}{(1 + e^{-(x-\theta)})^2}, \quad -\infty < x < \infty
Based on one observation, X, find the most powerful size α\alpha test of H0:θ=0H_0: \theta = 0 versus H1:θ=1H_1: \theta = 1.

登入後即可作答並保存紀錄。

這一題的完整詳解

本題主要考驗最優似然比檢定 (Most Powerful Likelihood Ratio Test, MPLRT) 的應用,特別是對於包含位置參數的單參數指數族分佈。

給定的機率密度函數 (pdf) 是 f(x∣θ)=e−(x−θ)(1+e−(x−θ))2f(x|\theta) = \frac{e^{-(x-\theta)}}{(1 + e^{-(x-\theta)})^2},這是一個 Logistic 分佈的位置尺度族 (location family)。
我們需要對 θ\theta 進行假設檢定:H0:θ=0H_0: \theta = 0 vs H1:θ=1H_1: \theta = 1。
基於一個觀察值 X。

核心觀念:最優似然比檢定 (MPLRT)。
對於簡單對簡單假設檢定(Simple vs Simple Hypothesis Testing),最優檢定(最優似然比檢定)是基於似然比統計量。
似然比統計量為:
LR=L(θ=1∣x)L(θ=0∣x)=f(x∣1)f(x∣0)LR = \frac{L(\theta=1 | x)}{L(\theta=0 | x)} = \frac{f(x|1)}{f(x|0)}
LR=e−(x−1)(1+e−(x−1))2e−x(1+e−x)2LR = \frac{\frac{e^{-(x-1)}}{(1 + e^{-(x-1)})^2}}{\frac{e^{-x}}{(1 + e^{-x})^2}}
LR=e−(x−1)ex(1+e−x)2(1+e−(x−1))2LR = e^{-(x-1)} e^{x} \frac{(1 + e^{-x})^2}{(1 + e^{-(x-1)})^2}
LR=e1(1+e−x)2(1+e−x+1)2LR = e^{1} \frac{(1 + e^{-x})^2}{(1 + e^{-x+1})^2}
LR=e(1+e−x1+e−x+1)2LR = e \left( \frac{1 + e^{-x}}{1 + e^{-x+1}} \right)^2

MPLRT 的原則是,如果似然比大於某個臨界值 kk,則拒絕 H0H_0 而接受 H1H_1。
LR>k  ⟺  f(x∣1)f(x∣0)>kLR > k \iff \frac{f(x|1)}{f(x|0)} > k。
這等價於 ln⁡(LR)>ln⁡(k)\ln(LR) > \ln(k)。
ln⁡(LR)=1+2ln⁡(1+e−x1+e−x+1)\ln(LR) = 1 + 2 \ln \left( \frac{1 + e^{-x}}{1 + e^{-x+1}} \right)
ln⁡(LR)=1+2(ln⁡(1+e−x)−ln⁡(1+e−x+1))\ln(LR) = 1 + 2 (\ln(1 + e^{-x}) - \ln(1 + e^{-x+1}))
令 c=ln⁡(k)−1c = \ln(k) - 1。
2(ln⁡(1+e−x)−ln⁡(1+e−x+1))>c2 (\ln(1 + e^{-x}) - \ln(1 + e^{-x+1})) > c
ln⁡(1+e−x)−ln⁡(1+e−x+1)>c/2\ln(1 + e^{-x}) - \ln(1 + e^{-x+1}) > c/2
ln⁡(1+e−x1+e−x+1)>c/2\ln\left(\frac{1 + e^{-x}}{1 + e^{-x+1}}\right) > c/2
1+e−x1+e−x+1>ec/2\frac{1 + e^{-x}}{1 + e^{-x+1}} > e^{c/2}
1+e−x>ec/2(1+e−x+1)1 + e^{-x} > e^{c/2} (1 + e^{-x+1})
1+e−x>ec/2+ec/2e−x+11 + e^{-x} > e^{c/2} + e^{c/2} e^{-x+1}
1+e−x>ec/2+ec/2e−xe1 + e^{-x} > e^{c/2} + e^{c/2} e^{-x} e
e−x(1−e⋅ec/2)>ec/2−1e^{-x} (1 - e \cdot e^{c/2}) > e^{c/2} - 1
e−x(1−e(c+2)/2)>ec/2−1e^{-x} (1 - e^{(c+2)/2}) > e^{c/2} - 1

讓我們嘗試對 pdf 進行變換。
令 u=e−(x−θ)u = e^{-(x-\theta)}。則 du=−e−(x−θ)dx=−udxdu = -e^{-(x-\theta)} dx = -u dx。
dx=−du/udx = -du/u.
f(x∣θ)dx=u(1+u)2(−du/u)=−1(1+u)2duf(x|\theta) dx = \frac{u}{(1+u)^2} (-du/u) = -\frac{1}{(1+u)^2} du.
當 x→∞x \to \infty, u→0u \to 0. 當 x→−∞x \to -\infty, u→∞u \to \infty.
∫−∞∞f(x∣θ)dx=∫∞0−1(1+u)2du=∫0∞1(1+u)2du=[−11+u]0∞=0−(−1)=1\int_{-\infty}^{\infty} f(x|\theta) dx = \int_{\infty}^{0} -\frac{1}{(1+u)^2} du = \int_{0}^{\infty} \frac{1}{(1+u)^2} du = [-\frac{1}{1+u}]_0^\infty = 0 - (-1) = 1.

令 z=x−θz = x-\theta。那麼 f(z)=e−z(1+e−z)2f(z) = \frac{e^{-z}}{(1+e^{-z})^2}。
H0:θ=0  ⟹  z=xH_0: \theta = 0 \implies z = x. f(x∣0)=e−x(1+e−x)2f(x|0) = \frac{e^{-x}}{(1+e^{-x})^2}。
H1:θ=1  ⟹  z=x−1H_1: \theta = 1 \implies z = x-1. f(x∣1)=e−(x−1)(1+e−(x−1))2f(x|1) = \frac{e^{-(x-1)}}{(1+e^{-(x-1)})^2}。

似然比:
LR=f(x∣1)f(x∣0)=e−(x−1)(1+e−(x−1))2/e−x(1+e−x)2LR = \frac{f(x|1)}{f(x|0)} = \frac{e^{-(x-1)}}{(1+e^{-(x-1)})^2} / \frac{e^{-x}}{(1+e^{-x})^2}
=e(1+e−x)2(1+e−x+1)2= e \frac{(1+e^{-x})^2}{(1+e^{-x+1})^2}。

我們需要找到拒絕域 R={x∣LR>k}R = \{x \mid LR > k\}。
e(1+e−x)2(1+e−x+1)2>ke \frac{(1+e^{-x})^2}{(1+e^{-x+1})^2} > k
1+e−x1+e−x+1>k/e\frac{1+e^{-x}}{1+e^{-x+1}} > \sqrt{k/e} (假設 k>0k>0)
令 c=k/ec = \sqrt{k/e}。
1+e−x>c(1+e−x+1)1+e^{-x} > c(1+e^{-x+1})

🔒

後續完整解題步驟與【答案】

免費註冊,享三天全站完整詳解閱覽。

免費註冊

其他考古題