112 年 國立清華大學經濟學系碩士班《微積分與統計》

本題考驗極限的概念，包括絕對值函數的極限以及含對數與平方根函數的極限。

(a) 求解 $\lim_{x \to 0} \frac{|x|}{x}$。
此極限需要檢查左右極限。
當 $x \to 0^+$ 時，$|x| = x$，故 $\lim_{x \to 0^+} \frac{|x|}{x} = \lim_{x \to 0^+} \frac{x}{x} = 1$。
當 $x \to 0^-$ 時，$|x| = -x$，故 $\lim_{x \to 0^-} \frac{|x|}{x} = \lim_{x \to 0^-} \frac{-x}{x} = -1$。
由於左極限 $(-1)$ 不等於右極限 $(1)$，因此極限不存在。

(b) 求解 $\lim_{x \to \infty} \frac{\ln(x)}{\sqrt{x}}$。

本題考驗微分的基本規則，包括連鎖律、對數函數、指數函數以及隱函數微分。

(a) 求解 $y = \ln(\sqrt{4+x^2})$ 的 $\frac{dy}{dx}$。
首先，我們可以簡化函數：$y = \ln((4+x^2)^{1/2}) = \frac{1}{2}\ln(4+x^2)$。
接著，使用連鎖律進行微分：
$\frac{dy}{dx} = \frac{1}{2} \cdot \frac{d}{dx} \ln(4+x^2)$
$\frac{dy}{dx} = \frac{1}{2} \cdot \frac{1}{4+x^2} \cdot \frac{d}{dx}(4+x^2)$
$\frac{dy}{dx} = \frac{1}{2(4+x^2)} \cdot (2x)$
$\frac{dy}{dx} = \frac{x}{4+x^2}$

(b) 求解 $e^{xy} + x^2 - y^2 = 10$ 的 $\frac{dy}{dx}$。
此為隱函數微分。對等式兩邊同時對 $x$ 微分。
$\frac{d}{dx}(e^{xy} + x^2 - y^2) = \frac{d}{dx}(10)$
使用連鎖律和乘法定律對 $e^{xy}$ 微分：

本題考驗不定積分的基本技巧，包括換元積分法。

(a) 求解 $\int \frac{e^{2x}}{e^{2x}+1} dx$。
此積分可使用換元積分法。令 $u = e^{2x}+1$。
則 $du = \frac{d}{dx}(e^{2x}+1) dx = 2e^{2x} dx$。
所以，$e^{2x} dx = \frac{1}{2} du$。
將原積分代換後得到：
$\int \frac{1}{u} \cdot \frac{1}{2} du = \frac{1}{2} \int \frac{1}{u} du$
$\frac{1}{2} \ln|u| + C$
將 $u$ 換回 $e^{2x}+1$：
$\frac{1}{2} \ln|e^{2x}+1| + C$
由於 $e^{2x}+1$ 恆為正，故可以去掉絕對值：
$\frac{1}{2} \ln(e^{2x}+1) + C$

核心觀念

本題考查「效用極大化」與拉格朗日乘數法。消費者在預算限制下選擇 $x,y$，使效用

$$U(x,y)=(x+2)^{0.5}y^{0.5}$$

達到最大。

由於效用函數對兩種商品皆為單調遞增，且通常假設

$$p_x>0,\qquad p_y>0,\qquad I>0,\qquad x\geq 0,\ y\geq 0,$$

最適解會用盡全部所得，即預算限制成立。

---

解題方法：拉格朗日法

建立拉格朗日函數：

$$\mathcal{L} =(x+2)^{0.5}y^{0.5} +\lambda(I-p_xx-p_yy).$$

對 $x$、$y$ 與 $\lambda$ 分別求偏導，並令其等於零。

對 $x$ 微分：

$$\frac{\partial\mathcal{L}}{\partial x} = \frac{1}{2}(x+2)^{-0.5}y^{0.5} -\lambda p_x=0.$$

因此：

$$\frac{y^{0.5}}{2(x+2)^{0.5}} =\lambda p_x.$$

對 $y$ 微分：

$$\frac{\partial\mathcal{L}}{\partial y} = \frac{1}{2}(x+2)^{0.5}y^{-0.5} -\lambda p_y=0.$$

因此：

$$\frac{(x+2)^{0.5}}{2y^{0.5}} =\lambda p_y.$$

對 $\lambda$ 微分：

$$\frac{\partial\mathcal{L}}{\partial\lambda} =I-p_xx-p_yy=0,$$

所以預算限制為：

$$p_xx+p_yy=I.$$

---

利用一階條件求相對消費量

將前兩個一階條件相除，以消去 $\lambda$：

$$\frac{ \dfrac{y^{0.5}}{2(x+2)^{0.5}} }{ \dfrac{(x+2)^{0.5}}{2y^{0.5}} } = \frac{p_x}{p_y}.$$

左側化簡為：

$$\frac{y}{x+2}.$$

因此：

$$\frac{y}{x+2}=\frac{p_x}{p_y},$$

也就是：

$$y=\frac{p_x}{p_y}(x+2).$$

將此式代入預算限制：

$$p_xx+p_y\left[\frac{p_x}{p_y}(x+2)\right]=I.$$

化簡：

$$p_xx+p_x(x+2)=I,$$ $$2p_xx+2p_x=I.$$

因此：

$$x^*=\frac{I}{2p_x}-1.$$

再代回

$$y=\frac{p_x}{p_y}(x+2),$$

得到：

$$y^* = \frac{p_x}{p_y} \left(\frac{I}{2p_x}+1\right).$$

整理後：

本題考驗歐拉齊次函數定理 (Euler's homogeneous function theorem)。定理指出，若函數 $f(x_1, \dots, x_n)$ 是 $k$ 次齊次函數，則 $x_1 \frac{\partial f}{\partial x_1} + \dots + x_n \frac{\partial f}{\partial x_n} = kf(x_1, \dots, x_n)$。在此題中，函數是二元的，且為一次齊次函數 ($k=1$)。

已知函數 $f(x_1,x_2)$ 是 1 次齊次函數，即對於任意 $t \neq 0$，有：
$f(tx_1, tx_2) = tf(x_1, x_2)$

我們的目標是證明：
$f(x_1,x_2) = x_1 \frac{\partial f(x_1,x_2)}{\partial x_1} + x_2 \frac{\partial f(x_1,x_2)}{\partial x_2}$

證明方法是將齊次函數的定義式對 $t$ 微分。
令 $g(t) = f(tx_1, tx_2)$。
根據題目給的齊次條件，我們有 $g(t) = tf(x_1, x_2)$。

現在，我們對 $g(t)$ 對 $t$ 求導。
使用連鎖律對 $f(tx_1, tx_2)$ 求導：
$\frac{dg}{dt} = \frac{\partial f}{\partial (tx_1)} \cdot \frac{d(tx_1)}{dt} + \frac{\partial f}{\partial (tx_2)} \cdot \frac{d(tx_2)}{dt}$
$\frac{dg}{dt} = \frac{\partial f}{\partial (tx_1)} \cdot x_1 + \frac{\partial f}{\partial (tx_2)} \cdot x_2$

另一方面，對 $tf(x_1, x_2)$ 對 $t$ 求導：
$\frac{d}{dt}(tf(x_1, x_2)) = f(x_1, x_2)$ (因為 $f(x_1, x_2)$ 視為常數，對 $t$ 微分)

因此，我們得到：
$x_1 \frac{\partial f}{\partial (tx_1)} + x_2 \frac{\partial f}{\partial (tx_2)} = f(x_1, x_2)$

這個等式在 $t=1$ 時，就變成了我們要證明的形式。
當 $t=1$ 時，$\frac{\partial f}{\partial (tx_1)}$ 實際上就是 $\frac{\partial f}{\partial x_1}$，因為對 $tx_1$ 的微分，當 $t=1$ 時，就是對 $x_1$ 的微分。
令 $u = tx_1$，$v = tx_2$。那麼 $\frac{\partial f}{\partial u} = \frac{\partial f(u,v)}{\partial u}$。
若我們將 $f(tx_1, tx_2)$ 對 $t$ 微分，並假設 $\frac{\partial f}{\partial x_1}$ 是連續的，那麼：

本題考驗機率論與統計學的基本概念定義。

(a) 隨機變數 (Random variable)：
隨機變數是一種函數，它將隨機實驗的樣本空間中的每個結果映射到一個實數。簡而言之，隨機變數是描述隨機現象數值結果的變數。它的值是隨機的，其機率分佈由其定義的隨機實驗決定。

(b) 充分統計量 (Sufficient statistic)：
對於某母體參數 $\theta$，一個統計量 $T(X_1, \dots, X_n)$ 被稱為參數 $\theta$ 的充分統計量，如果它包含了來自樣本 $X_1, \dots, X_n$ 的所有關於 $\theta$ 的資訊。

本題考驗二項分佈 (Binomial distribution) 在參數 $n$ 趨近於無限大時，趨近於卜瓦松分佈 (Poisson distribution) 的極限定理。

我們已知 $X_n \sim \text{Binomial}(n, p_n)$，其中 $n$ 是試驗次數， $p_n = \lambda/n$ 是單次試驗成功的機率。
根據二項分佈的機率質量函數 (PMF)：
$P(X_n = k) = \binom{n}{k} p_n^k (1-p_n)^{n-k}$
將 $p_n = \lambda/n$ 代入：
$P(X_n = k) = \binom{n}{k} \left(\frac{\lambda}{n}\right)^k \left(1-\frac{\lambda}{n}\right)^{n-k}$

我們要證明當 $n \to \infty$ 時，$P(X_n = k) \to \frac{\lambda^k e^{-\lambda}}{k!}$，這是卜瓦松分佈的 PMF。

分步計算極限：

1. $\binom{n}{k} = \frac{n!}{k!(n-k)!} = \frac{n(n-1)\dots(n-k+1)}{k!}$
2. $\left(\frac{\lambda}{n}\right)^k = \frac{\lambda^k}{n^k}$
3. $\left(1-\frac{\lambda}{n}\right)^{n-k} = \left(1-\frac{\lambda}{n}\right)^n \left(1-\frac{\lambda}{n}\right)^{-k}$

將這些部分組合起來：
$P(X_n = k) = \frac{n(n-1)\dots(n-k+1)}{k!} \cdot \frac{\lambda^k}{n^k} \cdot \left(1-\frac{\lambda}{n}\right)^n \left(1-\frac{\lambda}{n}\right)^{-k}$

現在我們分別考慮當 $n \to \infty$ 時各項的極限：
(i) $\frac{n(n-1)\dots(n-k+1)}{n^k} = \frac{n}{n} \cdot \frac{n-1}{n} \cdot \dots \cdot \frac{n-k+1}{n} = 1 \cdot \left(1-\frac{1}{n}\right) \cdot \dots \cdot \left(1-\frac{k-1}{n}\right)$
當 $n \to \infty$ 時，此項的極限是 $1 \cdot 1 \cdot \dots \cdot 1 = 1$。

(ii) $\left(1-\frac{\lambda}{n}\right)^n$
這是常見的極限定義 $\lim_{n \to \infty} \left(1 + \frac{x}{n}\right)^n = e^x$。

本題考驗線性迴歸中，當因變數 $y$ 和自變數 $X$ 被中心化 (centered) 後，對迴歸係數的影響。

考慮一個簡單線性迴歸模型：
$y_i = \beta_0 + \beta_1 x_i + \epsilon_i$
其中 $y_i$ 是因變數，$x_i$ 是自變數，$\beta_0$ 是截距項，$\beta_1$ 是斜率項，$\epsilon_i$ 是誤差項。
原始的最小平方法 (OLS) 估計量是 $\hat{\beta}_0$ 和 $\hat{\beta}_1$。

中心化是指將變數減去其樣本均值。
令 $\bar{y} = \frac{1}{n}\sum y_i$ 和 $\bar{x} = \frac{1}{n}\sum x_i$。
中心化後的變數為 $y_i^* = y_i - \bar{y}$ 和 $x_i^* = x_i - \bar{x}$。

我們需要證明中心化前後的迴歸係數的關係。
原始模型可以寫成矩陣形式：$y = X \beta + \epsilon$，其中 $y$ 是 $n \times 1$ 的向量，$X$ 是 $n \times 2$ 的矩陣（包含一欄 1 和一欄 $x_i$），$\beta = \begin{pmatrix} \beta_0 \\ \beta_1 \end{pmatrix}$。
原始 OLS 估計量為 $\hat{\beta} = (X^T X)^{-1} X^T y$。

現在考慮中心化後的變數。
如果我們在模型中加入截距項，並對 $y$ 和 $x$ 進行中心化，那麼模型可以寫成：
$y_i^* = \beta_1^* x_i^* + \epsilon_i^*$
請注意，在這個中心化後的模型中，截距項 $\beta_0^*$ 變為 0。
這是因為：
$y_i = \beta_0 + \beta_1 x_i + \epsilon_i$
$y_i - \bar{y} = (\beta_0 + \beta_1 x_i + \epsilon_i) - (\beta_0 + \beta_1 \bar{x} + \bar{\epsilon})$ (假設 $\bar{\epsilon}=0$)
$y_i^* = \beta_1 (x_i - \bar{x}) + (\epsilon_i - \bar{\epsilon})$
$y_i^* = \beta_1 x_i^* + \epsilon_i^*$
所以，中心化後的模型，其截距項實際上是 0。

中心化後的模型，其 OLS 估計量為 $\hat{\beta}^* = (\mathbf{x}^{*T} \mathbf{x}^*)^{-1} \mathbf{x}^{*T} \mathbf{y}^*$。
其中 $\mathbf{x}^*$ 是只包含中心化自變數的向量，$\mathbf{y}^*$ 是中心化因變數的向量。

我們知道 $\mathbf{x}^{*T} \mathbf{y}^* = \sum x_i^* y_i^* = \sum (x_i - \bar{x})(y_i - \bar{y})$。
$\mathbf{x}^{*T} \mathbf{x}^* = \sum (x_i^*)^2 = \sum (x_i - \bar{x})^2$。
所以，中心化後的斜率估計量 $\hat{\beta}_1^*$ 是：
$\hat{\beta}_1^* = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2}$
這個公式與原始模型中的斜率估計量 $\hat{\beta}_1$ 是相同的。
$\hat{\beta}_1 = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2}$
（證明：原始 OLS 估計量 $\hat{\beta}_1 = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2}$ 是一個眾所周知的結果，即使模型包含截距項。）

因此，中心化 $y$ 和 $x$ 後，斜率估計量 $\hat{\beta}_1$ 不會改變。

那截距項 $\hat{\beta}_0$ 呢？
原始模型中，$\hat{\beta}_0 = \bar{y} - \hat{\beta}_1 \bar{x}$。
在中心化後的模型中，我們實際上是在迴歸 $y_i^*$ 對 $x_i^*$，這個模型預設截距項為 0。
如果我們強行要從中心化後的結果中解釋一個截距項，那它應該是 0。
所以，中心化後的截距估計量 $\hat{\beta}_0^*$ 是 0。
$\hat{\beta}_0^* = 0$。

這與原始的 $\hat{\beta}_0 = \bar{y} - \hat{\beta}_1 \bar{x}$ 是不同的，除非

本題考驗決定係數 $R^2$ 的性質，特別是它對自變數 (regressors) 進行線性變換 (rescaling) 的不變性。

首先，我們需要定義「未中心化 (uncentered) 的決定係數 $R^2$」。
通常，決定係數 $R^2$ 是定義在中心化後的模型上的。
$R^2 = 1 - \frac{SSR_{res}}{SSR_{tot}} = 1 - \frac{\sum (y_i - \hat{y}_i)^2}{\sum (y_i - \bar{y})^2}$
其中 $\hat{y}_i = \hat{\beta}_0 + \hat{\beta}_1 x_i$ 是迴歸線的預測值。

然而，題目提到「uncentered coefficient of determination $R^2$」。這通常是指在模型 $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ 中，使用非中心化的預測值 $\hat{y}_i$ 來計算。
一種可能的定義是：
$R^2_{\text{uncentered}} = 1 - \frac{\sum (y_i - \hat{y}_i)^2}{\sum (y_i - y_0)^2}$
其中 $y_0$ 是一個常數。

另一種更常見的解釋是，在迴歸模型 $y = X\beta + \epsilon$ 中，計算 $R^2$ 時，分子是模型解釋的變異量，分母是總變異量。
總變異量 (Total Sum of Squares, TSS) 通常定義為 $\sum (y_i - \bar{y})^2$。
模型解釋的變異量 (Explained Sum of Squares, ESS) 是 $\sum (\hat{y}_i - \bar{y})^2$。
殘差平方和 (Residual Sum of Squares, RSS) 是 $\sum (y_i - \hat{y}_i)^2$。
關係式為 $TSS = ESS + RSS$。
標準的 $R^2 = \frac{ESS}{TSS} = 1 - \frac{RSS}{TSS}$。

如果題目中的 "uncentered coefficient of determination $R^2$" 指的是原始模型 $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ 中的 $R^2 = \frac{ESS}{TSS}$，那麼我們需要證明它對自變數的重縮放 (rescaling) 是不變的。
這裡的 $ESS = \sum (\hat{y}_i - \bar{y})^2$ 和 $TSS = \sum (y_i - \bar{y})^2$。

假設我們對自變數 $x$ 進行重縮放，例如 $x' = c x$，其中 $c$ 是常數 ($c \neq 0$)。
原始模型：$y_i = \beta_0 + \beta_1 x_i + \epsilon_i$。
OLS 估計量：$\hat{\beta}_0, \hat{\beta}_1$。
$\hat{y}_i = \hat{\beta}_0 + \hat{\beta}_1 x_i$。
$TSS = \sum (y_i - \bar{y})^2$。
$ESS = \sum (\hat{y}_i - \bar{y})^2 = \sum (\hat{\beta}_0 + \hat{\beta}_1 x_i - \bar{y})^2$。
$R^2 = \frac{ESS}{TSS}$。

重縮放後的模型：$y_i = \beta_0' + \beta_1' x_i' + \epsilon_i'$
$y_i = \beta_0' + \beta_1' (c x_i) + \epsilon_i'$
$y_i = \beta_0' + (\beta_1' c) x_i + \epsilon_i'$
令 $\beta_1 = \beta_1' c$ 且 $\beta_0 = \beta_0'$。
那麼，原始模型中的 $\beta_1$ 和 $\beta_0$ 變成了新模型的 $\beta_1'/c$ 和 $\beta_0'$。
反過來，新模型的係數 $\hat{\beta}_1'$ 和 $\hat{\beta}_0'$ 與舊模型的關係是：
$\hat{\beta}_1' = \hat{\beta}_1 / c$
$\hat{\beta}_0' = \hat{\beta}_0$ (假設截距項 $\beta_0$ 不變，或者中心化後 $\hat{\beta}_0'=0$ 且 $\hat{\beta}_0=0$)

如果我們考慮迴歸 $y$ on $x$ 和 $y$ on $cx$。
對於 $y$ on $x$：
$\hat{\beta}_1 = \frac{\sum (x_i - \bar{x})(y_i - \bar{y})}{\sum (x_i - \bar{x})^2}$
$\hat{\beta}_0 = \bar{y} - \hat{\beta}_1 \bar{x}$
$\hat{y}_i = \hat{\beta}_0 + \hat{\beta}_1 x_i$
$ESS = \sum (\hat{y}_i - \bar{y})^2 = \sum (\hat{\beta}_1 x_i - \hat{\beta}_1 \bar{x})^2 = \hat{\beta}_1^2 \sum (x_i - \bar{x})^2$
$TSS = \sum (y_i - \bar{y})^2$
$R^2 = \frac{\hat{\beta}_1^2 \sum (x_i - \bar{x})^2}{\sum (y_i - \bar{y})^2}$

對於 $y$ on $x' = cx$：
$\hat{\beta}_1' = \frac{\sum (x_i' - \bar{x}')(y_i - \bar{y})}{\sum (x_i' - \bar{x}')^2}$
$\bar{x}' = c \bar{x}$
$x_i' - \bar{x}' = cx_i - c\bar{x} = c(x_i - \bar{x})$
$\hat{\beta}_1' = \frac{\sum c(x_i - \bar{x})(y_i - \bar{y})}{\sum [c(x_i - \bar{x})]^2} = \frac{c \sum (x_i - \bar{x})(y_i - \bar{y})}{c^2 \sum (x_i - \bar{x})^2} = \frac{1}{c} \hat{\beta}_1$

本題考驗正規化 (regularization) 在線性迴歸中的應用，以及 Ridge 和 Lasso 方法的比較。

(a) Ridge regression instead of standard linear regression.
標準線性迴歸 (Standard Linear Regression) 在存在以下情況時，可能表現不佳：

1. 多重共線性 (Multicollinearity)：當自變數之間高度相關時，OLS 估計量的變異數會變得非常大，導致對參數估計的精確度下降，迴歸係數變得不穩定且難以解釋。
2. 高維度數據 (High-dimensional data)：當自變數的數量 (p) 相對於樣本數 (n) 很大時 (p > n)，OLS 模型可能會過度擬合 (overfitting) 訓練數據，導致在新的、未見過的數據上預測效能差。

Ridge regression 的目標是透過在損失函數中加入 L2 正則化項 (penalty term) 來解決這些問題。
損失函數為：$\sum_{i=1}^n (y_i - \beta_0 - \sum_{j=1}^p \beta_j x_{ij})^2 + \alpha \sum_{j=1}^p \beta_j^2$
其中 $\alpha \ge 0$ 是正則化參數，$\sum_{j=1}^p \beta_j^2$ 是 L2 範數懲罰項。

原因與目標：

1. 減小係數的變異數：L2 正則化會收縮迴歸係數 $\beta_j$ 的值，使其趨近於零。這種收縮 (shrinkage) 能夠顯著減小係數的變異數，從而提高模型的穩定性，尤其是在存在多重共線性時。
2. 防止過度擬合：透過懲罰較大的係數，Ridge regression 限制了模型的複雜度，從而降低了在訓練數據上的擬合程度，但提高了在測試數據上的泛化能力，有效防止了過度擬合。
3. 處理多重共線性：在多重共線性情況下，Ridge regression 能夠為相關變數分配相似大小的係數，而不是像 OLS 那樣給其中一個很大的正係數，另一個很大的負係數。

總之，Ridge regression 的目標是在標準線性迴歸的預測能力和模型複雜度之間取得平衡，特別是在數據存在多重共線性或高維度問題時，提升模型的穩定性和泛化能力。

(b) Lasso regularization instead of ridge regression.
Lasso (Least Absolute Shrinkage and Selection Operator) regression 同樣是一種正則化技術，它在損失函數中加入 L1 正則化項。