111 年 國立臺北大學統計學系碩士班《數理統計（含機率概論）》

📄 試題原卷　免費註冊後即可對照原始考卷 PDF免費註冊

第 1 題15 分

Let XiX_i be an exponential random variable with the probability density function f(x;λi)=λie−λixf(x; \lambda_i) = \lambda_i e^{-\lambda_i x}, x≥0x \geq 0; λi>0\lambda_i > 0 for i=1,...,ni = 1, ..., n. Assume XiX_i, i=1,...,ni = 1, ..., n, are independent. The detailed derivation has to be provided for all the following problems. No point is given when only answers are given.

(a) Find P[X1<X2<X3]P[X_1 < X_2 < X_3] and P[X1<X2∣max⁡(X1,X2,X3)=X3]P[X_1 < X_2 | \max(X_1, X_2, X_3) = X_3].

(b) Assume n=3n = 3, let X(i)X_{(i)}, i=1,2,3i = 1, 2, 3, denote the order statistics of XiX_i, i=1,2,3i = 1, 2, 3, where X(1)≤X(2)≤X(3)X_{(1)} \leq X_{(2)} \leq X_{(3)}. Find the marginal distribution of X(3)X_{(3)}.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題主要考查：

  1. 指數分配的機率密度函數與分配函數
    fi(x)=λie−λix,x≥0f_i(x)=\lambda_i e^{-\lambda_i x},\qquad x\geq 0
    Fi(x)=P(Xi≤x)=1−e−λix.F_i(x)=P(X_i\leq x)=1-e^{-\lambda_i x}.

  2. 獨立性：聯合密度為各邊際密度的乘積。

  3. 指數分配的競賽（exponential race）觀念：若多個獨立指數隨機變數同時等待，最先發生者為 XiX_i 的機率為
    λi∑jλj.\frac{\lambda_i}{\sum_j\lambda_j}.

  4. 最大順序統計量：
    X(3)=max⁡(X1,X2,X3).X_{(3)}=\max(X_1,X_2,X_3).
    因此
    P(X(3)≤x)=P(X1≤x,X2≤x,X3≤x).P(X_{(3)}\leq x)=P(X_1\leq x,X_2\leq x,X_3\leq x).

(a) 求 P(X1<X2<X3)P(X_1<X_2<X_3)

事件 X1<X2<X3X_1<X_2<X_3 表示：

  • X1X_1 最先發生；
  • 在 X1X_1 發生後，X2X_2 比 X3X_3 先發生。

利用指數分配的競賽性質，X1X_1 最先發生的機率為

P(X1=min⁡(X1,X2,X3))=λ1λ1+λ2+λ3.P(X_1=\min(X_1,X_2,X_3)) = \frac{\lambda_1}{\lambda_1+\lambda_2+\lambda_3}.

由於指數分配具有無記憶性，在 X1X_1 發生後，X2X_2 與 X3X_3 的剩餘等待時間仍分別服從參數 λ2\lambda_2 與 λ3\lambda_3 的指數分配。因此，X2X_2 比 X3X_3 先發生的機率為

λ2λ2+λ3.\frac{\lambda_2}{\lambda_2+\lambda_3}.

故

P(X1<X2<X3)=λ1λ1+λ2+λ3⋅λ2λ2+λ3.P(X_1<X_2<X_3) = \frac{\lambda_1}{\lambda_1+\lambda_2+\lambda_3} \cdot \frac{\lambda_2}{\lambda_2+\lambda_3}.

因此

P(X1<X2<X3)=λ1λ2(λ1+λ2+λ3)(λ2+λ3)\boxed{ P(X_1<X_2<X_3) = \frac{\lambda_1\lambda_2} {(\lambda_1+\lambda_2+\lambda_3)(\lambda_2+\lambda_3)} }

直接積分推導

由獨立性，聯合密度為

fX1,X2,X3(x1,x2,x3)=λ1λ2λ3e−λ1x1−λ2x2−λ3x3.f_{X_1,X_2,X_3}(x_1,x_2,x_3) = \lambda_1\lambda_2\lambda_3 e^{-\lambda_1x_1-\lambda_2x_2-\lambda_3x_3}.

因此

P(X1<X2<X3)=∫0∞∫x1∞∫x2∞λ1λ2λ3e−λ1x1−λ2x2−λ3x3 dx3 dx2 dx1.\begin{aligned} P(X_1<X_2<X_3) &= \int_0^\infty \int_{x_1}^\infty \int_{x_2}^\infty \lambda_1\lambda_2\lambda_3 e^{-\lambda_1x_1-\lambda_2x_2-\lambda_3x_3} \,dx_3\,dx_2\,dx_1. \end{aligned}

先計算最內層積分：

∫x2∞λ3e−λ3x3 dx3=e−λ3x2.\int_{x_2}^\infty \lambda_3e^{-\lambda_3x_3}\,dx_3 = e^{-\lambda_3x_2}.

所以

P(X1<X2<X3)=∫0∞λ1e−λ1x1∫x1∞λ2e−(λ2+λ3)x2 dx2 dx1=∫0∞λ1e−λ1x1λ2λ2+λ3e−(λ2+λ3)x1 dx1=λ2λ2+λ3∫0∞λ1e−(λ1+λ2+λ3)x1 dx1=λ1λ2(λ1+λ2+λ3)(λ2+λ3).\begin{aligned} P(X_1<X_2<X_3) &= \int_0^\infty \lambda_1e^{-\lambda_1x_1} \int_{x_1}^\infty \lambda_2e^{-(\lambda_2+\lambda_3)x_2} \,dx_2\,dx_1\\ &= \int_0^\infty \lambda_1e^{-\lambda_1x_1} \frac{\lambda_2}{\lambda_2+\lambda_3} e^{-(\lambda_2+\lambda_3)x_1} \,dx_1\\ &= \frac{\lambda_2}{\lambda_2+\lambda_3} \int_0^\infty \lambda_1e^{-(\lambda_1+\lambda_2+\lambda_3)x_1} \,dx_1\\ &= \frac{\lambda_1\lambda_2} {(\lambda_1+\lambda_2+\lambda_3)(\lambda_2+\lambda_3)}. \end{aligned}

(a) 求 P(X1<X2∣max⁡(X1,X2,X3)=X3)P(X_1<X_2\mid \max(X_1,X_2,X_3)=X_3)

因為連續型隨機變數發生平手的機率為 00，所以

{max⁡(X1,X2,X3)=X3}={X1<X3, X2<X3}.\{\max(X_1,X_2,X_3)=X_3\} = \{X_1<X_3,\ X_2<X_3\}.

在此條件下，若再要求 X1<X2X_1<X_2，便得到完整排序

X1<X2<X3.X_1<X_2<X_3.

因此由條件機率公式，

P(X1<X2∣X3=max⁡(X1,X2,X3))=P(X1<X2<X3)P(X3=max⁡(X1,X2,X3)).P(X_1<X_2\mid X_3=\max(X_1,X_2,X_3)) = \frac{P(X_1<X_2<X_3)} {P(X_3=\max(X_1,X_2,X_3))}.

分子

由前面結果，

P(X1<X2<X3)=λ1λ2(λ1+λ2+λ3)(λ2+λ3).P(X_1<X_2<X_3) = \frac{\lambda_1\lambda_2} {(\lambda_1+\lambda_2+\lambda_3)(\lambda_2+\lambda_3)}.

分母

計算 X3X_3 為最大值的機率：

P(X3=max⁡(X1,X2,X3))=∫0∞P(X1<x,X2<x)f3(x) dx=∫0∞F1(x)F2(x)λ3e−λ3x dx.\begin{aligned} P(X_3=\max(X_1,X_2,X_3)) &= \int_0^\infty P(X_1<x,X_2<x)f_3(x)\,dx\\ &= \int_0^\infty F_1(x)F_2(x)\lambda_3e^{-\lambda_3x}\,dx. \end{aligned}

其中

F1(x)=1−e−λ1x,F2(x)=1−e−λ2x.F_1(x)=1-e^{-\lambda_1x}, \qquad F_2(x)=1-e^{-\lambda_2x}.

因此

🔒

後續完整解題步驟與【答案】

免費註冊，享三天全站完整詳解閱覽。

免費註冊

第 2 題35 分

Let XiX_i, i=1,…,ni = 1, \dots, n, be an exponential random sample with the probability density function f(x;λ)=λe−λxf(x; \lambda) = \lambda e^{-\lambda x}, x≥0x \geq 0; λ>0\lambda > 0. Let the distribution function of f(x;λ)f(x; \lambda) be denoted as F(x;λ)F(x; \lambda). Also, let X(i)X_{(i)}, i=1,…,ni = 1, \dots, n, denote the order statistics of XiX_i, i=1,…,ni = 1, \dots, n, where X(1)≤X(2)≤⋯≤X(n)X_{(1)} \leq X_{(2)} \leq \dots \leq X_{(n)}. The detailed derivation has to be provided for all the following problems. No point is given when only answers are given.

(a) Suppose the sample size NN follows a Poisson distribution with parameter μ\mu, where μ>0\mu > 0. Given N=n>0N = n > 0, let Sn=X1+⋯+XnS_n = X_1 + \dots + X_n and S0=0S_0 = 0. Find the marginal distribution of SnS_n. [Hint: P[Sn=0∣N=0]=P[N=0]P[S_n = 0|N = 0] = P[N = 0].]

(b) Continued (a), find E[Sn]E[S_n].

(c) Show that X(1)X_{(1)} converges in probability to 0.

(d) Determine the limiting distribution of Yn=X(n)−λ−1log⁡nY_n = X_{(n)} - \lambda^{-1} \log n.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題綜合考查：

  • 指數分布的分布函數與期望值；
  • Poisson 隨機和（compound Poisson sum）；
  • 指數分布次序統計量；
  • 以機率收斂證明最小次序統計量的極限；
  • 最大次序統計量的極限分布與 Gumbel 分布。

指數分布的分布函數為

F(x;λ)={1−e−λx,x≥0,0,x<0.F(x;\lambda)= \begin{cases} 1-e^{-\lambda x}, & x\ge 0,\\ 0, & x<0. \end{cases}

並且

E[Xi]=1λ.E[X_i]=\frac{1}{\lambda}.

(a) 求隨機總和 SNS_N 的邊際分布

題目中 N∼Poisson⁡(μ)N\sim\operatorname{Poisson}(\mu)，且給定 N=nN=n 時，

Sn=X1+⋯+Xn,S0=0.S_n=X_1+\cdots+X_n,\qquad S_0=0.

因此實際要求的是隨機和

SN=X1+⋯+XN.S_N=X_1+\cdots+X_N.

第一步：條件於 N=nN=n

當 n≥1n\ge 1 時，SnS_n 為 nn 個獨立指數分布變數的總和，因此服從 Gamma 分布：

Sn∣N=n∼Gamma⁡(n,λ),S_n\mid N=n\sim \operatorname{Gamma}(n,\lambda),

其中採用 rate 參數化，其條件密度為

fSn∣N=n(s)=λn(n−1)!sn−1e−λs,s>0.f_{S_n\mid N=n}(s) = \frac{\lambda^n}{(n-1)!}s^{n-1}e^{-\lambda s}, \qquad s>0.

當 N=0N=0 時，

SN=S0=0.S_N=S_0=0.

所以 SNS_N 在 00 點具有離散機率：

P(SN=0)=P(N=0)=e−μ.P(S_N=0)=P(N=0)=e^{-\mu}.

第二步：求 s>0s>0 時的密度

利用全機率公式，

fSN(s)=∑n=1∞P(N=n)fSn∣N=n(s),s>0.f_{S_N}(s) = \sum_{n=1}^{\infty} P(N=n)f_{S_n\mid N=n}(s), \qquad s>0.

由

P(N=n)=e−μμnn!,P(N=n)=e^{-\mu}\frac{\mu^n}{n!},

可得

fSN(s)=∑n=1∞e−μμnn!λn(n−1)!sn−1e−λs.f_{S_N}(s) = \sum_{n=1}^{\infty} e^{-\mu}\frac{\mu^n}{n!} \frac{\lambda^n}{(n-1)!}s^{n-1}e^{-\lambda s}.

整理為

fSN(s)=e−(μ+λs)∑n=1∞μnλnsn−1n!(n−1)!,s>0.f_{S_N}(s) = e^{-(\mu+\lambda s)} \sum_{n=1}^{\infty} \frac{\mu^n\lambda^n s^{n-1}}{n!(n-1)!}, \qquad s>0.

因此，SNS_N 是一個混合分布：

  • 在 00 點有機率 e−μe^{-\mu}；
  • 在 s>0s>0 上具有上述連續密度。

其分布函數可寫成

P(SN≤s)=e−μ+∑n=1∞e−μμnn!P(Gamma⁡(n,λ)≤s),s≥0.P(S_N\le s) = e^{-\mu} + \sum_{n=1}^{\infty} e^{-\mu}\frac{\mu^n}{n!} P\bigl(\operatorname{Gamma}(n,\lambda)\le s\bigr), \qquad s\ge 0.

對整數形狀參數的 Gamma 分布，

P(Sn≤s∣N=n)=1−e−λs∑k=0n−1(λs)kk!.P(S_n\le s\mid N=n) = 1-e^{-\lambda s} \sum_{k=0}^{n-1}\frac{(\lambda s)^k}{k!}.

所以

FSN(s)=e−μ+∑n=1∞e−μμnn![1−e−λs∑k=0n−1(λs)kk!],s≥0.F_{S_N}(s) = e^{-\mu} + \sum_{n=1}^{\infty} e^{-\mu}\frac{\mu^n}{n!} \left[ 1-e^{-\lambda s} \sum_{k=0}^{n-1}\frac{(\lambda s)^k}{k!} \right], \qquad s\ge 0.

解題技巧

遇到 Poisson 隨機和時，應先分離 N=0N=0 的情況。因為 S0=0S_0=0，所以分布不純粹是連續分布，而是「00 點的原子機率加上正半軸上的連續部分」。

(b) 求 E[SN]E[S_N]

利用條件期望公式，

E[SN]=E[E(SN∣N)].E[S_N]=E\bigl[E(S_N\mid N)\bigr].

給定 N=nN=n 時，

SN=Sn=X1+⋯+Xn.S_N=S_n=X_1+\cdots+X_n.

因此

E[SN∣N=n]=nE[X1]=nλ.E[S_N\mid N=n] = nE[X_1] = \frac{n}{\lambda}.

所以

E[SN]=E[Nλ]=1λE[N].E[S_N] = E\left[\frac{N}{\lambda}\right] = \frac{1}{\lambda}E[N].

由於 N∼Poisson⁡(μ)N\sim\operatorname{Poisson}(\mu)，

E[N]=μ.E[N]=\mu.

故

E[SN]=μλ.\boxed{E[S_N]=\frac{\mu}{\lambda}}.

也可直接計算：

E[SN]=∑n=0∞E[Sn∣N=n]P(N=n)=∑n=0∞nλe−μμnn!=μλ.E[S_N] = \sum_{n=0}^{\infty} E[S_n\mid N=n]P(N=n) = \sum_{n=0}^{\infty} \frac{n}{\lambda} e^{-\mu}\frac{\mu^n}{n!} = \frac{\mu}{\lambda}.

解題技巧

隨機和的期望值可直接使用 Wald 型公式：

E[∑i=1NXi]=E[N]E[X1],E\left[\sum_{i=1}^{N}X_i\right] = E[N]E[X_1],

在獨立性與期望值存在的條件下，本題即為

μ⋅1λ=μλ.\mu\cdot\frac{1}{\lambda} = \frac{\mu}{\lambda}.

(c) 證明 X(1)→P0X_{(1)}\xrightarrow{P}0

要證明 X(1)X_{(1)} 依機率收斂至 00，依定義，只需證明對任意 ε>0\varepsilon>0，

P(∣X(1)−0∣>ε)→0.P\left(\left|X_{(1)}-0\right|>\varepsilon\right)\to 0.

由於 X(1)≥0X_{(1)}\ge 0，因此

🔒

後續完整解題步驟與【答案】

免費註冊，享三天全站完整詳解閱覽。

免費註冊

第 3 題50 分

Let X1,X2,…,XnX_1, X_2, \dots, X_n be a random sample of size nn from a distribution that has pdf
f(x)=θ(1−x)θ−1f(x) = \theta(1-x)^{\theta-1}, 0<x<10 < x < 1, θ>0\theta > 0.

(a) Find the maximum likelihood estimator of 1/θ1/\theta.
(b) Is the MLE from (a) a complete sufficient statistic?
(c) Is the MLE from (a) the UMVUE of 1/θ1/\theta? If yes, show it. If not, find the UMVUE of 1/θ1/\theta.
Hint: Consider Y1=ln⁡(1−X1)Y_1 = \ln(1 - X_1).
(d) Consider testing H0:θ=1H_0: \theta = 1 against H1:θ≠1H_1: \theta \neq 1.
(i) Use Wald test to find the rejection region.
(ii) Find the likelihood ratio test statistic and write down the rejection criterion.
(e) True or false. If false, correct the statement.
(i) The p-value of a test is the type I error.
(ii) The p-value of a test has a Uniform (0,1) distribution.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

令

Yi=−ln⁡(1−Xi).Y_i=-\ln(1-X_i).

因為 0<Xi<10<X_i<1，所以 Yi>0Y_i>0。由變數變換可得

fYi(y)=θe−θy,y>0,f_{Y_i}(y)=\theta e^{-\theta y},\qquad y>0,

因此 Y1,…,YnY_1,\ldots,Y_n 為來自指數分配、率參數為 θ\theta 的隨機樣本。令

T=∑i=1nYi=−∑i=1nln⁡(1−Xi).T=\sum_{i=1}^nY_i=-\sum_{i=1}^n\ln(1-X_i).

則 T∼Gamma⁡(n,rate θ)T\sim\operatorname{Gamma}(n,\text{rate }\theta)。本題主要運用概似估計、指數族的充分完備統計量、Lehmann–Scheffé 定理，以及 Wald 檢定與概似比檢定。

(a) 1/θ1/\theta 的最大概似估計量

樣本概似函數為

L(θ)=∏i=1nθ(1−Xi)θ−1=θnexp⁡{(θ−1)∑i=1nln⁡(1−Xi)}.L(\theta) =\prod_{i=1}^n\theta(1-X_i)^{\theta-1} =\theta^n\exp\left\{(\theta-1)\sum_{i=1}^n\ln(1-X_i)\right\}.

對數概似函數為

ℓ(θ)=nln⁡θ−(θ−1)T.\ell(\theta)=n\ln\theta-(\theta-1)T.

微分並令其等於零：

∂ℓ∂θ=nθ−T=0⟹θ^=nT.\frac{\partial\ell}{\partial\theta} =\frac{n}{\theta}-T=0 \quad\Longrightarrow\quad \widehat\theta=\frac{n}{T}.

因此由最大概似不變性，

1θ^MLE=1θ^=Tn=−1n∑i=1nln⁡(1−Xi).\widehat{\frac1\theta}_{\mathrm{MLE}} =\frac1{\widehat\theta} =\frac{T}{n} =-\frac1n\sum_{i=1}^n\ln(1-X_i).

(b) 此估計量是否為完全充分統計量？

是。樣本的聯合密度可寫為

f(x;θ)=θne−(θ−1)T∏i=1n1(0,1)(xi),f(\mathbf{x};\theta) =\theta^n e^{-(\theta-1)T} \prod_{i=1}^n\mathbf{1}_{(0,1)}(x_i),

其中資料對 θ\theta 的依賴只透過 TT，故由因子分解定理，TT 是 θ\theta 的充分統計量。

此外，TT 服從形狀參數為 nn、率參數為 θ\theta 的 Gamma 分配：

fT(t;θ)=θnΓ(n)tn−1e−θt,t>0.f_T(t;\theta)=\frac{\theta^n}{\Gamma(n)}t^{n-1}e^{-\theta t},\qquad t>0.

這是自然參數空間為開集合的滿秩一參數指數族，因此 TT 為完全統計量。由於 T/nT/n 與 TT 一一對應，(a)(a) 的估計量也是完全充分統計量。

(c) 此估計量是否為 UMVUE？

是。首先，

Eθ(Yi)=1θ,E_\theta(Y_i)=\frac1\theta,

所以

Eθ(Tn)=1n∑i=1nEθ(Yi)=1θ.E_\theta\left(\frac{T}{n}\right) =\frac1n\sum_{i=1}^nE_\theta(Y_i) =\frac1\theta.

因此 T/nT/n 是 1/θ1/\theta 的不偏估計量。又 TT 是完全充分統計量，由 Lehmann–Scheffé 定理，T/nT/n 即為 1/θ1/\theta 的唯一 UMVUE。

(d) 檢定 H0:θ=1H_0:\theta=1 對 H1:θ≠1H_1:\theta\ne1

以下以顯著水準 α\alpha 進行檢定。

(i) Wald 檢定

每筆觀察值的對數密度為

ln⁡f(Xi;θ)=ln⁡θ+(θ−1)ln⁡(1−Xi).\ln f(X_i;\theta)=\ln\theta+(\theta-1)\ln(1-X_i).

Fisher 資訊量為 I1(θ)=1/θ2I_1(\theta)=1/\theta^2，故 θ^\widehat\theta 的漸近變異數估計為

Var⁡^(θ^)=θ^2n.\widehat{\operatorname{Var}}(\widehat\theta) =\frac{\widehat\theta^2}{n}.
🔒

後續完整解題步驟與【答案】

免費註冊，享三天全站完整詳解閱覽。

免費註冊

第 1 題15 分

Let XiX_i be an exponential random variable with the probability density function f(x;λi)=λie−λixf(x; \lambda_i) = \lambda_i e^{-\lambda_i x}, x≥0x \geq 0; λi>0\lambda_i > 0 for i=1,...,ni = 1, ..., n. Assume XiX_i, i=1,...,ni = 1, ..., n, are independent. The detailed derivation has to be provided for all the following problems. No point is given when only answers are given.

(a) Find P[X1<X2<X3]P[X_1 < X_2 < X_3] and P[X1<X2∣max⁡(X1,X2,X3)=X3]P[X_1 < X_2 | \max(X_1, X_2, X_3) = X_3].

(b) Assume n=3n = 3, let X(i)X_{(i)}, i=1,2,3i = 1, 2, 3, denote the order statistics of XiX_i, i=1,2,3i = 1, 2, 3, where X(1)≤X(2)≤X(3)X_{(1)} \leq X_{(2)} \leq X_{(3)}. Find the marginal distribution of X(3)X_{(3)}.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題主要考查：

  1. 指數分配的機率密度函數與分配函數
    fi(x)=λie−λix,x≥0f_i(x)=\lambda_i e^{-\lambda_i x},\qquad x\geq 0
    Fi(x)=P(Xi≤x)=1−e−λix.F_i(x)=P(X_i\leq x)=1-e^{-\lambda_i x}.

  2. 獨立性：聯合密度為各邊際密度的乘積。

  3. 指數分配的競賽（exponential race）觀念：若多個獨立指數隨機變數同時等待，最先發生者為 XiX_i 的機率為
    λi∑jλj.\frac{\lambda_i}{\sum_j\lambda_j}.

  4. 最大順序統計量：
    X(3)=max⁡(X1,X2,X3).X_{(3)}=\max(X_1,X_2,X_3).
    因此
    P(X(3)≤x)=P(X1≤x,X2≤x,X3≤x).P(X_{(3)}\leq x)=P(X_1\leq x,X_2\leq x,X_3\leq x).

(a) 求 P(X1<X2<X3)P(X_1<X_2<X_3)

事件 X1<X2<X3X_1<X_2<X_3 表示：

  • X1X_1 最先發生；
  • 在 X1X_1 發生後，X2X_2 比 X3X_3 先發生。

利用指數分配的競賽性質，X1X_1 最先發生的機率為

P(X1=min⁡(X1,X2,X3))=λ1λ1+λ2+λ3.P(X_1=\min(X_1,X_2,X_3)) = \frac{\lambda_1}{\lambda_1+\lambda_2+\lambda_3}.

由於指數分配具有無記憶性，在 X1X_1 發生後，X2X_2 與 X3X_3 的剩餘等待時間仍分別服從參數 λ2\lambda_2 與 λ3\lambda_3 的指數分配。因此，X2X_2 比 X3X_3 先發生的機率為

λ2λ2+λ3.\frac{\lambda_2}{\lambda_2+\lambda_3}.

故

P(X1<X2<X3)=λ1λ1+λ2+λ3⋅λ2λ2+λ3.P(X_1<X_2<X_3) = \frac{\lambda_1}{\lambda_1+\lambda_2+\lambda_3} \cdot \frac{\lambda_2}{\lambda_2+\lambda_3}.

因此

P(X1<X2<X3)=λ1λ2(λ1+λ2+λ3)(λ2+λ3)\boxed{ P(X_1<X_2<X_3) = \frac{\lambda_1\lambda_2} {(\lambda_1+\lambda_2+\lambda_3)(\lambda_2+\lambda_3)} }

直接積分推導

由獨立性，聯合密度為

fX1,X2,X3(x1,x2,x3)=λ1λ2λ3e−λ1x1−λ2x2−λ3x3.f_{X_1,X_2,X_3}(x_1,x_2,x_3) = \lambda_1\lambda_2\lambda_3 e^{-\lambda_1x_1-\lambda_2x_2-\lambda_3x_3}.

因此

P(X1<X2<X3)=∫0∞∫x1∞∫x2∞λ1λ2λ3e−λ1x1−λ2x2−λ3x3 dx3 dx2 dx1.\begin{aligned} P(X_1<X_2<X_3) &= \int_0^\infty \int_{x_1}^\infty \int_{x_2}^\infty \lambda_1\lambda_2\lambda_3 e^{-\lambda_1x_1-\lambda_2x_2-\lambda_3x_3} \,dx_3\,dx_2\,dx_1. \end{aligned}

先計算最內層積分：

∫x2∞λ3e−λ3x3 dx3=e−λ3x2.\int_{x_2}^\infty \lambda_3e^{-\lambda_3x_3}\,dx_3 = e^{-\lambda_3x_2}.

所以

P(X1<X2<X3)=∫0∞λ1e−λ1x1∫x1∞λ2e−(λ2+λ3)x2 dx2 dx1=∫0∞λ1e−λ1x1λ2λ2+λ3e−(λ2+λ3)x1 dx1=λ2λ2+λ3∫0∞λ1e−(λ1+λ2+λ3)x1 dx1=λ1λ2(λ1+λ2+λ3)(λ2+λ3).\begin{aligned} P(X_1<X_2<X_3) &= \int_0^\infty \lambda_1e^{-\lambda_1x_1} \int_{x_1}^\infty \lambda_2e^{-(\lambda_2+\lambda_3)x_2} \,dx_2\,dx_1\\ &= \int_0^\infty \lambda_1e^{-\lambda_1x_1} \frac{\lambda_2}{\lambda_2+\lambda_3} e^{-(\lambda_2+\lambda_3)x_1} \,dx_1\\ &= \frac{\lambda_2}{\lambda_2+\lambda_3} \int_0^\infty \lambda_1e^{-(\lambda_1+\lambda_2+\lambda_3)x_1} \,dx_1\\ &= \frac{\lambda_1\lambda_2} {(\lambda_1+\lambda_2+\lambda_3)(\lambda_2+\lambda_3)}. \end{aligned}

(a) 求 P(X1<X2∣max⁡(X1,X2,X3)=X3)P(X_1<X_2\mid \max(X_1,X_2,X_3)=X_3)

因為連續型隨機變數發生平手的機率為 00，所以

{max⁡(X1,X2,X3)=X3}={X1<X3, X2<X3}.\{\max(X_1,X_2,X_3)=X_3\} = \{X_1<X_3,\ X_2<X_3\}.

在此條件下，若再要求 X1<X2X_1<X_2，便得到完整排序

X1<X2<X3.X_1<X_2<X_3.

因此由條件機率公式，

P(X1<X2∣X3=max⁡(X1,X2,X3))=P(X1<X2<X3)P(X3=max⁡(X1,X2,X3)).P(X_1<X_2\mid X_3=\max(X_1,X_2,X_3)) = \frac{P(X_1<X_2<X_3)} {P(X_3=\max(X_1,X_2,X_3))}.

分子

由前面結果，

P(X1<X2<X3)=λ1λ2(λ1+λ2+λ3)(λ2+λ3).P(X_1<X_2<X_3) = \frac{\lambda_1\lambda_2} {(\lambda_1+\lambda_2+\lambda_3)(\lambda_2+\lambda_3)}.

分母

計算 X3X_3 為最大值的機率：

P(X3=max⁡(X1,X2,X3))=∫0∞P(X1<x,X2<x)f3(x) dx=∫0∞F1(x)F2(x)λ3e−λ3x dx.\begin{aligned} P(X_3=\max(X_1,X_2,X_3)) &= \int_0^\infty P(X_1<x,X_2<x)f_3(x)\,dx\\ &= \int_0^\infty F_1(x)F_2(x)\lambda_3e^{-\lambda_3x}\,dx. \end{aligned}

其中

F1(x)=1−e−λ1x,F2(x)=1−e−λ2x.F_1(x)=1-e^{-\lambda_1x}, \qquad F_2(x)=1-e^{-\lambda_2x}.

因此

🔒

後續完整解題步驟與【答案】

免費註冊，享三天全站完整詳解閱覽。

免費註冊

第 2 題35 分

Let XiX_i, i=1,…,ni = 1, \dots, n, be an exponential random sample with the probability density function f(x;λ)=λe−λxf(x; \lambda) = \lambda e^{-\lambda x}, x≥0x \geq 0; λ>0\lambda > 0. Let the distribution function of f(x;λ)f(x; \lambda) be denoted as F(x;λ)F(x; \lambda). Also, let X(i)X_{(i)}, i=1,…,ni = 1, \dots, n, denote the order statistics of XiX_i, i=1,…,ni = 1, \dots, n, where X(1)≤X(2)≤⋯≤X(n)X_{(1)} \leq X_{(2)} \leq \dots \leq X_{(n)}. The detailed derivation has to be provided for all the following problems. No point is given when only answers are given.

(a) Suppose the sample size NN follows a Poisson distribution with parameter μ\mu, where μ>0\mu > 0. Given N=n>0N = n > 0, let Sn=X1+⋯+XnS_n = X_1 + \dots + X_n and S0=0S_0 = 0. Find the marginal distribution of SnS_n. [Hint: P[Sn=0∣N=0]=P[N=0]P[S_n = 0|N = 0] = P[N = 0].]

(b) Continued (a), find E[Sn]E[S_n].

(c) Show that X(1)X_{(1)} converges in probability to 0.

(d) Determine the limiting distribution of Yn=X(n)−λ−1log⁡nY_n = X_{(n)} - \lambda^{-1} \log n.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

本題綜合考查：

  • 指數分布的分布函數與期望值；
  • Poisson 隨機和（compound Poisson sum）；
  • 指數分布次序統計量；
  • 以機率收斂證明最小次序統計量的極限；
  • 最大次序統計量的極限分布與 Gumbel 分布。

指數分布的分布函數為

F(x;λ)={1−e−λx,x≥0,0,x<0.F(x;\lambda)= \begin{cases} 1-e^{-\lambda x}, & x\ge 0,\\ 0, & x<0. \end{cases}

並且

E[Xi]=1λ.E[X_i]=\frac{1}{\lambda}.

(a) 求隨機總和 SNS_N 的邊際分布

題目中 N∼Poisson⁡(μ)N\sim\operatorname{Poisson}(\mu)，且給定 N=nN=n 時，

Sn=X1+⋯+Xn,S0=0.S_n=X_1+\cdots+X_n,\qquad S_0=0.

因此實際要求的是隨機和

SN=X1+⋯+XN.S_N=X_1+\cdots+X_N.

第一步：條件於 N=nN=n

當 n≥1n\ge 1 時，SnS_n 為 nn 個獨立指數分布變數的總和，因此服從 Gamma 分布：

Sn∣N=n∼Gamma⁡(n,λ),S_n\mid N=n\sim \operatorname{Gamma}(n,\lambda),

其中採用 rate 參數化，其條件密度為

fSn∣N=n(s)=λn(n−1)!sn−1e−λs,s>0.f_{S_n\mid N=n}(s) = \frac{\lambda^n}{(n-1)!}s^{n-1}e^{-\lambda s}, \qquad s>0.

當 N=0N=0 時，

SN=S0=0.S_N=S_0=0.

所以 SNS_N 在 00 點具有離散機率：

P(SN=0)=P(N=0)=e−μ.P(S_N=0)=P(N=0)=e^{-\mu}.

第二步：求 s>0s>0 時的密度

利用全機率公式，

fSN(s)=∑n=1∞P(N=n)fSn∣N=n(s),s>0.f_{S_N}(s) = \sum_{n=1}^{\infty} P(N=n)f_{S_n\mid N=n}(s), \qquad s>0.

由

P(N=n)=e−μμnn!,P(N=n)=e^{-\mu}\frac{\mu^n}{n!},

可得

fSN(s)=∑n=1∞e−μμnn!λn(n−1)!sn−1e−λs.f_{S_N}(s) = \sum_{n=1}^{\infty} e^{-\mu}\frac{\mu^n}{n!} \frac{\lambda^n}{(n-1)!}s^{n-1}e^{-\lambda s}.

整理為

fSN(s)=e−(μ+λs)∑n=1∞μnλnsn−1n!(n−1)!,s>0.f_{S_N}(s) = e^{-(\mu+\lambda s)} \sum_{n=1}^{\infty} \frac{\mu^n\lambda^n s^{n-1}}{n!(n-1)!}, \qquad s>0.

因此，SNS_N 是一個混合分布：

  • 在 00 點有機率 e−μe^{-\mu}；
  • 在 s>0s>0 上具有上述連續密度。

其分布函數可寫成

P(SN≤s)=e−μ+∑n=1∞e−μμnn!P(Gamma⁡(n,λ)≤s),s≥0.P(S_N\le s) = e^{-\mu} + \sum_{n=1}^{\infty} e^{-\mu}\frac{\mu^n}{n!} P\bigl(\operatorname{Gamma}(n,\lambda)\le s\bigr), \qquad s\ge 0.

對整數形狀參數的 Gamma 分布，

P(Sn≤s∣N=n)=1−e−λs∑k=0n−1(λs)kk!.P(S_n\le s\mid N=n) = 1-e^{-\lambda s} \sum_{k=0}^{n-1}\frac{(\lambda s)^k}{k!}.

所以

FSN(s)=e−μ+∑n=1∞e−μμnn![1−e−λs∑k=0n−1(λs)kk!],s≥0.F_{S_N}(s) = e^{-\mu} + \sum_{n=1}^{\infty} e^{-\mu}\frac{\mu^n}{n!} \left[ 1-e^{-\lambda s} \sum_{k=0}^{n-1}\frac{(\lambda s)^k}{k!} \right], \qquad s\ge 0.

解題技巧

遇到 Poisson 隨機和時，應先分離 N=0N=0 的情況。因為 S0=0S_0=0，所以分布不純粹是連續分布，而是「00 點的原子機率加上正半軸上的連續部分」。

(b) 求 E[SN]E[S_N]

利用條件期望公式，

E[SN]=E[E(SN∣N)].E[S_N]=E\bigl[E(S_N\mid N)\bigr].

給定 N=nN=n 時，

SN=Sn=X1+⋯+Xn.S_N=S_n=X_1+\cdots+X_n.

因此

E[SN∣N=n]=nE[X1]=nλ.E[S_N\mid N=n] = nE[X_1] = \frac{n}{\lambda}.

所以

E[SN]=E[Nλ]=1λE[N].E[S_N] = E\left[\frac{N}{\lambda}\right] = \frac{1}{\lambda}E[N].

由於 N∼Poisson⁡(μ)N\sim\operatorname{Poisson}(\mu)，

E[N]=μ.E[N]=\mu.

故

E[SN]=μλ.\boxed{E[S_N]=\frac{\mu}{\lambda}}.

也可直接計算：

E[SN]=∑n=0∞E[Sn∣N=n]P(N=n)=∑n=0∞nλe−μμnn!=μλ.E[S_N] = \sum_{n=0}^{\infty} E[S_n\mid N=n]P(N=n) = \sum_{n=0}^{\infty} \frac{n}{\lambda} e^{-\mu}\frac{\mu^n}{n!} = \frac{\mu}{\lambda}.

解題技巧

隨機和的期望值可直接使用 Wald 型公式：

E[∑i=1NXi]=E[N]E[X1],E\left[\sum_{i=1}^{N}X_i\right] = E[N]E[X_1],

在獨立性與期望值存在的條件下，本題即為

μ⋅1λ=μλ.\mu\cdot\frac{1}{\lambda} = \frac{\mu}{\lambda}.

(c) 證明 X(1)→P0X_{(1)}\xrightarrow{P}0

要證明 X(1)X_{(1)} 依機率收斂至 00，依定義，只需證明對任意 ε>0\varepsilon>0，

P(∣X(1)−0∣>ε)→0.P\left(\left|X_{(1)}-0\right|>\varepsilon\right)\to 0.

由於 X(1)≥0X_{(1)}\ge 0，因此

🔒

後續完整解題步驟與【答案】

免費註冊，享三天全站完整詳解閱覽。

免費註冊

第 3 題50 分

Let X1,X2,…,XnX_1, X_2, \dots, X_n be a random sample of size nn from a distribution that has pdf
f(x)=θ(1−x)θ−1f(x) = \theta(1-x)^{\theta-1}, 0<x<10 < x < 1, θ>0\theta > 0.

(a) Find the maximum likelihood estimator of 1/θ1/\theta.
(b) Is the MLE from (a) a complete sufficient statistic?
(c) Is the MLE from (a) the UMVUE of 1/θ1/\theta? If yes, show it. If not, find the UMVUE of 1/θ1/\theta.
Hint: Consider Y1=ln⁡(1−X1)Y_1 = \ln(1 - X_1).
(d) Consider testing H0:θ=1H_0: \theta = 1 against H1:θ≠1H_1: \theta \neq 1.
(i) Use Wald test to find the rejection region.
(ii) Find the likelihood ratio test statistic and write down the rejection criterion.
(e) True or false. If false, correct the statement.
(i) The p-value of a test is the type I error.
(ii) The p-value of a test has a Uniform (0,1) distribution.

登入後即可作答並保存紀錄。

這一題的完整詳解

核心觀念

令

Yi=−ln⁡(1−Xi).Y_i=-\ln(1-X_i).

因為 0<Xi<10<X_i<1，所以 Yi>0Y_i>0。由變數變換可得

fYi(y)=θe−θy,y>0,f_{Y_i}(y)=\theta e^{-\theta y},\qquad y>0,

因此 Y1,…,YnY_1,\ldots,Y_n 為來自指數分配、率參數為 θ\theta 的隨機樣本。令

T=∑i=1nYi=−∑i=1nln⁡(1−Xi).T=\sum_{i=1}^nY_i=-\sum_{i=1}^n\ln(1-X_i).

則 T∼Gamma⁡(n,rate θ)T\sim\operatorname{Gamma}(n,\text{rate }\theta)。本題主要運用概似估計、指數族的充分完備統計量、Lehmann–Scheffé 定理，以及 Wald 檢定與概似比檢定。

(a) 1/θ1/\theta 的最大概似估計量

樣本概似函數為

L(θ)=∏i=1nθ(1−Xi)θ−1=θnexp⁡{(θ−1)∑i=1nln⁡(1−Xi)}.L(\theta) =\prod_{i=1}^n\theta(1-X_i)^{\theta-1} =\theta^n\exp\left\{(\theta-1)\sum_{i=1}^n\ln(1-X_i)\right\}.

對數概似函數為

ℓ(θ)=nln⁡θ−(θ−1)T.\ell(\theta)=n\ln\theta-(\theta-1)T.

微分並令其等於零：

∂ℓ∂θ=nθ−T=0⟹θ^=nT.\frac{\partial\ell}{\partial\theta} =\frac{n}{\theta}-T=0 \quad\Longrightarrow\quad \widehat\theta=\frac{n}{T}.

因此由最大概似不變性，

1θ^MLE=1θ^=Tn=−1n∑i=1nln⁡(1−Xi).\widehat{\frac1\theta}_{\mathrm{MLE}} =\frac1{\widehat\theta} =\frac{T}{n} =-\frac1n\sum_{i=1}^n\ln(1-X_i).

(b) 此估計量是否為完全充分統計量？

是。樣本的聯合密度可寫為

f(x;θ)=θne−(θ−1)T∏i=1n1(0,1)(xi),f(\mathbf{x};\theta) =\theta^n e^{-(\theta-1)T} \prod_{i=1}^n\mathbf{1}_{(0,1)}(x_i),

其中資料對 θ\theta 的依賴只透過 TT，故由因子分解定理，TT 是 θ\theta 的充分統計量。

此外，TT 服從形狀參數為 nn、率參數為 θ\theta 的 Gamma 分配：

fT(t;θ)=θnΓ(n)tn−1e−θt,t>0.f_T(t;\theta)=\frac{\theta^n}{\Gamma(n)}t^{n-1}e^{-\theta t},\qquad t>0.

這是自然參數空間為開集合的滿秩一參數指數族，因此 TT 為完全統計量。由於 T/nT/n 與 TT 一一對應，(a)(a) 的估計量也是完全充分統計量。

(c) 此估計量是否為 UMVUE？

是。首先，

Eθ(Yi)=1θ,E_\theta(Y_i)=\frac1\theta,

所以

Eθ(Tn)=1n∑i=1nEθ(Yi)=1θ.E_\theta\left(\frac{T}{n}\right) =\frac1n\sum_{i=1}^nE_\theta(Y_i) =\frac1\theta.

因此 T/nT/n 是 1/θ1/\theta 的不偏估計量。又 TT 是完全充分統計量，由 Lehmann–Scheffé 定理，T/nT/n 即為 1/θ1/\theta 的唯一 UMVUE。

(d) 檢定 H0:θ=1H_0:\theta=1 對 H1:θ≠1H_1:\theta\ne1

以下以顯著水準 α\alpha 進行檢定。

(i) Wald 檢定

每筆觀察值的對數密度為

ln⁡f(Xi;θ)=ln⁡θ+(θ−1)ln⁡(1−Xi).\ln f(X_i;\theta)=\ln\theta+(\theta-1)\ln(1-X_i).

Fisher 資訊量為 I1(θ)=1/θ2I_1(\theta)=1/\theta^2，故 θ^\widehat\theta 的漸近變異數估計為

Var⁡^(θ^)=θ^2n.\widehat{\operatorname{Var}}(\widehat\theta) =\frac{\widehat\theta^2}{n}.
🔒

後續完整解題步驟與【答案】

免費註冊，享三天全站完整詳解閱覽。

免費註冊

其他考古題

111 年臺北大學的其他科目

基礎數學統計學

臺北大學《數理統計》其他年度

115 年114 年113 年112 年109 年108 年

其他學校的統計系考古題

臺灣大學44清華大學3成功大學20政治大學25中央大學18中正大學4高雄大學10嘉義大學2